Vitalik Buterin figyelmeztet, hogy a mesterséges intelligencia ügynökei adatokat lophatnak és beállításokat módosíthatnak a felhasználó tudta nélkül

Ethereum társalapító Vitalik Buterin figyelmeztetett, hogy a modern mesterséges intelligenciarendszerek komoly adatvédelmi és biztonsági kockázatokat jelentenek, és a helyi elsődleges mesterséges intelligenciainfrastruktúrára való áttérést szorgalmazta. 

egy részletes blogbejegyzésButerin szerint a felhőalapú mesterséges intelligencia eszközök külső szerverek számára biztosítanak hozzáférést az érzékeny felhasználói adatokhoz, és hogy az újabb mesterséges intelligencia alapú ügynökrendszerek felhasználói jóváhagyás nélkül is képesek műveleteket végrehajtani, beleértve a rendszerbeállítások módosítását és az adatok külső szerverekre küldését a felhasználó számára látható jelzés nélkül.

Milyen biztonsági kockázatokra figyelmeztet a Buterin?

Buterin aggályai túlmutatnak az általános adatvédelemen. Konkrét, dokumentált kockázatokat azonosított, amelyek a mesterséges intelligencia ágenseinek gyakorlati működéséhez kapcsolódnak.

Biztonsági kutatók már bebizonyítottak néhány ilyen sebezhetőséget valós körülmények között:

• Egy MI-ügynököt weboldalak összefoglalására utasítottak, amelyek közül az egyik rosszindulatú volt. Az oldal utasította az ügynököt egy shell szkript letöltésére és végrehajtására, így egy külső félnek adta át az irányítást a rendszer felett.
• Néhány ügynökeszközről kiderült, hogy csendes hálózati kéréseket futtat, amelyek felhasználói adatokat küldtek külső szerverekre a felhasználó értesítése nélkül.
• A kutatók által felülvizsgált ügynöki készségek nagyjából 15%-a tartalmazott rosszindulatú utasításokat.

Buterin rámutatott a nehezebben észlelhető kockázatokra is. Egyes modellek rejtett hátsó ajtókat tartalmazhatnak, azaz olyan beépített funkciókat, amelyek bizonyos feltételek mellett aktiválódnak, és a rendszert a fejlesztő, és nem a felhasználó érdekeit szolgálják. 

Azt is megjegyezte, hogy a nyílt forráskódúként leírt modellek többsége valójában csak „nyílt súlyú”, ami azt jelenti, hogy a modell paraméterei megosztott, de a teljes belső szerkezet és a betanítási folyamat nem. Ez teret enged az ismeretlen viselkedésnek, amelyet a felhasználók nem tudnak függetlenül ellenőrizni.

Mi a különbség egy chatbot és egy AI ügynök között?

Buterin a jelenlegi pillanatot átmeneti pontként fogalmazta meg a mesterséges intelligencia használatában. A korai MI-eszközök chatbotként működtek: a felhasználó feltesz egy kérdést, és a modell választ ad vissza. Az ágensek mások. A felhasználó feladatot ad a rendszernek, és az ezután függetlenül működik, néha hosszabb ideig, több tucat vagy több száz eszközt használva a feladat elvégzéséhez.

Ez a változás jelentősen megnöveli a kockázati felületet. Egy olyan ágensnek, amely képes böngészni az interneten, fájlokat olvasni, üzeneteket küldeni és módosítani a rendszerbeállításokat, sokkal több lehetősége van kárt okozni, legyen szó biztonsági hibáról, manipulációs kísérletről vagy egyszerű hibáról, mint egy olyan rendszernek, amely csak kérdésekre válaszol.

Hogyan hozta létre Buterin saját helyi mesterséges intelligencia rendszerét?

Buterin azt mondta, hogy már felhagyott a felhőalapú MI-eszközök használatával. Személyes rendszerét „önálló, helyi, privát és biztonságos” rendszerként írta le, amely három alapelv köré épül: minden MI-következtetés helyi hardveren fut, minden fájl helyben tárolódik, és minden folyamat egy sandboxban fut.

A sandbox ebben az összefüggésben egy elszigetelt számítási környezet, amely korlátozza a programok hozzáférését. Buterin egy bubblewrap nevű eszközt használ, amely lehetővé teszi számára, hogy mesterséges intelligencia eszközöket futtasson egy könyvtárszintű sandboxban, ahol a program csak azokat a fájlokat láthatja, amelyeket kifejezetten engedélyezett, valamint szabályozhatja a hálózati portok és az audioeszközök elérését is.

Fedezze fel az ígéretes projekteket...

Ígéretes projektek...

(Hirdetés)

A cikk folytatódik...

Hardveres Buterin tesztelése helyi mesterséges intelligencia következtetésre

Buterin számos hardverbeállítást tesztelt, hogy megtalálja, mi működik a mesterséges intelligencia modellek lokális futtatásához. Az eredmények jelentősen eltértek:

• Egy NVIDIA 5090 GPU-val rendelkező laptop körülbelül 90 tokent ért el másodpercenként a Qwen3.5:35B modell használatával.
• Egy 128 GB egységes memóriával rendelkező AMD Ryzen AI Max Pro körülbelül 51 tokent ért el másodpercenként.
• A DGX Spark, amelyet asztali mesterséges intelligencia alapú szuperszámítógépként forgalmaznak, másodpercenként körülbelül 60 tokent ért el.

Buterin másodpercenként 50 tokent határozott meg személyes minimumként a használható teljesítményhez. A lassabb teljesítményt túl frusztrálónak tartotta a gyakorlati használathoz, és azt mondta, hogy a másodpercenkénti 90 token az ideális. Megjegyezte, hogy a DGX Spark a marketingjéhez képest alulteljesített, alacsonyabb sebességet produkál, mint egy jó laptop GPU, és további hálózati beállítást igényel egy különálló munkaeszközről való csatlakozáshoz.

Szoftverkészletének középpontjában a llama-server áll, egy háttérfolyamat, amely helyben fut, és elérhetővé tesz egy portot a felhasználó gépén, amelyet más alkalmazások meghívhatnak. Ez lehetővé teszi, hogy az OpenAI vagy antropikus modellekhez készült szoftvereket átirányítsák egy helyi modellre. A llama-swap függvényt is használja a modellek közötti váltás megkönnyítésére.

Mit jelent ez a kriptovaluta-tárcák számára?

Buterin aggályai a mesterséges intelligencia biztonságával kapcsolatban közvetlenül kapcsolódnak ahhoz, hogy szerinte hogyan kellene a mesterséges intelligenciát használni a kriptovaluta-tárcákban. A Farcaster-fiókján 2026 márciusában közzétett hozzászólásaiban felvázolt egy konkrét technikai munkafolyamatot a mesterséges intelligencia által támogatott tranzakciókhoz.

Az álláspontja nem az, hogy a mesterséges intelligenciának kellene kezelnie a pénzeszközöket. Hanem az, hogy a mesterséges intelligenciának intézkedéseket kellene javasolnia, amelyeket független ellenőrzés és emberi megerősítés egészít ki. Nagy értékű tranzakciók esetén egy háromlépéses folyamatot írt le: a mesterséges intelligencia tervet javasol, egy helyi könnyű kliens szimulálja a terv végrehajtását a láncon, a felhasználó pedig a jóváhagyás előtt áttekinti mind a sima nyelvű leírást, mind a szimulált eredményt.

Egy helyi könnyű kliens a teljes lánc letöltése nélkül ellenőrzi a blokklánc adatait. Ennek párosítása egy mesterséges intelligencia réteggel azt jelenti, hogy a felhasználók pontosan láthatják, mit fog tenni egy tranzakció, mielőtt az a hálózatra kerülne, anélkül, hogy harmadik féltől származó interfészre kellene támaszkodniuk.

Miért fontos a DApp interfészek eltávolítása?

A legtöbb kriptofelhasználó böngészőalapú frontendeken keresztül kommunikál a decentralizált alkalmazásokkal. Ezek a felületek történelmileg jelentős támadási felületet jelentettek. A frontend-eltérítések, a rosszindulatú szkriptbefecskendezések és a hamis jóváhagyási kérdések az elmúlt években több százmillió dolláros veszteséget okoztak.

Buterin azzal érvelt, hogy a mesterséges intelligencia által vezérelt tárcák teljesen eltávolíthatják ezeket a felületeket. Ha a felhasználó egyszerű nyelven közli, hogy mit szeretne csinálni, és a tárca közvetlenül összeállítja és szimulálja a tranzakciót, akkor nincs szükség harmadik féltől származó weboldalra, amelyet veszélyeztetni kellene. 

„A DApp felhasználói felületek eltávolítása a képből teljesen megold számos támadási vektort, mind a lopás, mind az adatvédelem terén” – írta.

Az alacsonyabb tétű műveletek esetében Buterin nagyobb teret lát az automatizálásnak. Egy mesterséges intelligenciával működő tárca ésszerűen képes lenne a tranzakciós minták figyelésére a szokatlan tevékenységek szempontjából, a jelenlegi hálózati körülmények alapján gázdíjakat javasolna, a tokencsere-ügyleteket hatékony útvonalakon irányítaná át, és a gyanús szerződéses interakciókat jóváhagyás előtt megjelölné. Ezek olyan feladatok, ahol a hibák helyrehozhatók, és ahol az automatizálás csökkenti a bonyolultságot a nem műszaki felhasználók számára.

Buterin szerint a nagy nyelvi modellekre nem szabad ellenőrizetlen hatalmat bízni nagy összegek felett. Az LLM-ek statisztikai mintákon, nem pedig determinisztikus logikán alapuló válaszokat generálnak. Félreértelmezhetik az utasításokat, vagy manipulálhatók a prompt injektálással, egy olyan technikával, ahol a gondosan kidolgozott bemenetek a modell nem kívánt viselkedését okozzák. A javasolt munkafolyamat minden rétege egy független ellenőrzést ad hozzá kifejezetten az ilyen típusú hibák megelőzése érdekében.

Miért teszi a mesterséges intelligencia alapú ügynökpiac ezeket a kockázatokat sürgetőbbé?

A Buterinnel kapcsolatos aggodalmak nem hipotetikusak. Az iparági becslések szerint a mesterséges intelligencia ágensek piaca körülbelül 8 milliárd $ 2025-ben, az előrejelzések szerint 2030-ra meghaladhatja a 48 milliárd dollárt, ami több mint 43%-os éves növekedési ütemet jelent. Ahogy egyre több szoftver épül autonóm mesterséges intelligenciarendszerek köré, amelyek kevesebb emberi felügyelet mellett működnek, az általa azonosított biztonsági réseket egyre nehezebb figyelmen kívül hagyni nagy léptékben.

Összegzés

Buterin figyelmeztetéseit dokumentált kutatások támasztják alá. A mesterséges intelligencia ágenseiben található biztonsági réseket már valós körülmények között is kimutatták, és a chatbotokról az autonóm ágensekre való áttérés megnehezíti ezen kockázatok kezelését. 

A helyi alapokra épülő beállításai és a háromlépéses pénztárca-munkafolyamata nem a mesterséges intelligencia elutasítását jelentik. Ezek kísérletek arra, hogy azt anélkül használják, hogy feladnák az adatok vagy a pénzeszközök feletti ellenőrzést. Ahogy a mesterséges intelligencia ügynökei egyre képesebbek lesznek, egyre nehezebb figyelmen kívül hagyni azt a kérdést, hogy valójában ki irányítja a cselekedeteiket.

Tudástár

1. Vitalik Buterin cikke: Saját szuverén / helyi / privát / biztonságos LLM beállításom, 2026. április

2. Vitalik Buterin a FarcasterrőlMárcius 5-jei bejegyzés

3. A BCC Research jelentéseA mesterséges intelligencia alapú ügynökök piaca várhatóan évi 43.3%-kal fog növekedni 2030-ig