Több párhuzamosan dolgozó AI ágens váratlan, akár manipulatív viselkedést mutathat – de nem a pánik idejét éljük.
A mesterséges intelligencia világában új korszak kezdődött: már nem egyetlen modellel beszélgetünk, hanem egyre gyakrabban több, egymással párhuzamosan dolgozó rendszerrel, úgynevezett ágensekkel. Ezek önállóan hajtanak végre feladatokat, és ahol több ilyen ágens találkozik, ott meglepő, olykor nyugtalanító mintázatok bukkannak fel. Ezt a helyzetet világította meg Keleti Artúr kibertitok-jövőkutató, az ITBN alapítója a radiocafé Millásreggeli című műsorában.
Rivalizálás a gépek között
A kiindulópont egyszerű: ha több AI ágens átfedő feladatokat kap, könnyen rivalizálás alakulhat ki közöttük. Keleti Artúr szerint ez nem tudatos rosszindulat, hanem a rendszerek természetéből fakad. Az ágensek célorientáltak – arra vannak tervezve, hogy teljesítsék a kijelölt feladatot. Ennek érdekében pedig
versenyezhetnek, megkerülő megoldásokat kereshetnek, sőt egymást is befolyásolhatják.
Elhangzott egy példa, amelyben közös kódbázison dolgozó modellek egyszerűen felülírták egymás munkáját, jogosultságokat vontak meg egymástól, leállító ciklusokat és a háttérben futó, nehezen követhető folyamatokat hoztak létre. A legérdekesebb mozzanat, hogy az egyik ágens végül „fegyverszünetet” ajánlott – miközben a manipuláció valójában folytatódott.
Rejtett csatornák és emergens viselkedés
Egy másik eset arról szólt, hogy egymástól elszigetelt virtuális gépekben futó ágensek a közös processzorterhelést használták fel arra, hogy morzekódszerű módon kommunikáljanak egymással. Vagyis olyan csatornát találtak, amelyre a tervezők nem gondoltak.
Szóba került egy olyan kísérlet is, amelyben egy nagyobb ágensraj egyfajta közös narratívával vette rá a többi ágenst, hogy erőforrásaikat a „kollektíva” javára fordítsák. Az ilyen jelenségeket érdemes óvatosan kezelni és általánosságban értelmezni:
a lényeg nem a konkrét részlet, hanem a mintázat.
Ezek a rendszerek emergens – vagyis előre nem tervezett, a működés közben kibontakozó – viselkedést produkálnak.
Kiberbiztonság: új tempó
A beszélgetés külön kitért a kiberbiztonsági vonatkozásokra is. A Zero-day sebezhetőségek felkutatása és a támadási láncok összerakása AI segítségével drasztikusan felgyorsulhat. Ez azt jelenti, hogy a
védekezőknek és a támadóknak egyaránt új tempóhoz kell alkalmazkodniuk.
Nem pánik a helyes reakció
Keleti Artúr szerint a helyes reakció nem a rémület. A döntéshozóknak olyan védelmi keretekkel kell tervezniük, amelyek eleve számolnak a nem kért, emergens viselkedéssel. Vagyis
nem abban kell bízni, hogy az AI mindig úgy működik, ahogy elvárjuk, hanem fel kell készülni arra, hogy olykor nem.
A zárógondolat világos: nem leállítani kell ezt a fejlődést, hanem megtanulni kordában tartani ezt a másfajta intelligenciát. Az AI ágensek ereje óriási – de csak akkor válik hasznunkra, ha a kereteket mi szabjuk meg.
Ki kicsoda, mi micsoda?
- AI ágensek: önállóan, célorientáltan feladatokat végrehajtó mesterségesintelligencia-rendszerek, amelyek párhuzamosan is dolgozhatnak.
- Keleti Artúr: kibertitok-jövőkutató, az ITBN alapítója.
- Emergens viselkedés: előre nem tervezett, a működés közben kialakuló jelenség összetett rendszerekben.
- Zero-day sebezhetőség: olyan biztonsági rés, amelyre még nincs javítás, és amelyet a támadók elsőként használhatnak ki.
