Az önfejlesztő mesterséges intelligencia nem sci-fi-téma többé: a kérdés már az, elég gyors-e hozzá a biztonság és a szabályozás.
A mesterséges intelligenciáról (AI) szóló vitákban sokáig az volt a fő kérdés, mire képes egy rendszer. Ma egyre inkább az kerül előtérbe, mennyire tudjuk még érteni, követni és korlátozni a működését. Erről beszélt Keleti Arthur kibertitok-jövőkutató, az ITBN alapítója a radiocafé Millásreggeli című műsorában: szerinte a kockázat nem attól nő igazán, hogy a modellek ügyesebbek lettek, hanem attól, hogy egyre több döntési teret kapnak.
Nem új félelem, csak új szint
Keleti Arthur szerint a fejlett AI-rendszerekkel kapcsolatos aggodalmak a kezdetektől jelen vannak. A neurális hálózatokra épülő modellek ugyanis sokszor már most is úgy működnek, hogy kívülről legfeljebb az eredményt látjuk, de azt jóval kevésbé, pontosan mi zajlik bennük.
A fejlesztők ezért már régóta próbálják szűrni a betanításhoz használt adatokat, és utólagos korlátokat is építenek a rendszerek köré. Ide tartozik az úgynevezett alignment, vagyis az a törekvés, hogy a modell viselkedése összhangban maradjon az emberi szabályokkal és szándékokkal. Keleti szerint azonban egyre világosabb, hogy ez önmagában nem elég.
Amikor a cél fontosabb lesz, mint az utasítás
Ma már nem egyszerűen feladatokat adunk ezeknek a rendszereknek, hanem célokat. Ez nem puszta nyelvi különbség. Ha egy modell maga értelmezi, hogyan jusson el a kívánt eredményhez, akkor közben olyan lépéseket is választhat, amelyeket az ember nem lát előre, vagy nem tartana elfogadhatónak.
Ez különösen akkor válik kényessé, amikor az AI eszközöket is használ, hibákat keres rendszerekben, vagy akár saját működését is javítja. A műsorban szóba került a Darwin Gödel Machine, mint az önfejlesztő rendszerek egyik ismert példája. Keleti szerint az ilyen irányú fejlesztések miatt a kutatók legnagyobb félelme ma már nem az egyszerű hiba, hanem a fokozatos kontrollvesztés.
Biztonsági korlátok vannak, de ez meddig elég?
A nagy MI-cégek különféle védelmi rétegekkel próbálják fékezni a veszélyes viselkedést. Az Anthropic például régóta dolgozik olyan megközelítésekkel, amelyek egyfajta etikai szabályrendszert adnak a modelleknek. Emellett red teaminggel, vagyis célzott biztonsági tesztekkel próbálják feltárni, mire lehet képes egy-egy rendszer rosszindulatú használat esetén.
Keleti ugyanakkor arra hívta fel a figyelmet, hogy az úgynevezett emergens képességek miatt nem biztos, hogy minden veszély előre észrevehető. Egy modell bizonyos tudásokból új, korábban nem várt képességeket is levezethet. Ha például jól talál hibákat szoftverekben, abból a visszaélés lehetősége is következhet.
Az önszabályozás kevés lehet
A beszélgetésben előkerült az is, hogy a szakmán belül sokan már 10–20 százalék közé teszik annak esélyét, hogy komolyabb kontrollvesztés történhet. Ez nem biztos előrejelzés, inkább figyelmeztetés, de már önmagában is elég magas ahhoz, hogy ne lehessen legyinteni rá. Keleti ebben a körben említette többek között Geoffrey Hintont és Ilya Sutskevert, aki később külön, biztonságos szuperintelligenciára fókuszáló céget alapított.
Szóba került az EU AI Act is, amely fontos keretet adhat, de Keleti szerint a konkrét, végrehajtható elvárások még nem elég erősek. A probléma szerinte az, hogy az általános elvek mögé most már nagyon konkrét műszaki és ellenőrzési követelményeket kellene tenni.
A mesterséges intelligencia fejlődését aligha lehet „kihúzni a konnektorból”. Inkább az a kérdés, hogy a társadalom, a szabályozók és a fejlesztők képesek-e időben közös minimumszabályokat kialakítani. Mert ezen a területen a késlekedés ára könnyen magasabb lehet, mint a túlzott óvatosságé.
Ki kicsoda, mi micsoda?
- Keleti Arthur: kibertitok-jövőkutató, az ITBN alapítója.
- Alignment: az a fejlesztési és biztonsági törekvés, amelynek célja, hogy a mesterséges intelligencia az emberi szándékokkal és szabályokkal összhangban működjön.
- Red teaming: szándékos, támadási logikával végzett biztonsági tesztelés. Ezzel azt vizsgálják, hogyan lehetne kijátszani vagy veszélyes irányba terelni egy rendszert.
- EU AI Act: az Európai Unió mesterséges intelligenciára vonatkozó szabályozási kerete, amely az AI-rendszerek kockázati besorolását és kötelezettségeit rendezi.
- Darwin Gödel Machine: önfejlesztő mesterségesintelligencia-rendszerekkel kapcsolatos fogalom, amelyet gyakran említenek a saját működésüket javító modellek kapcsán.
