Kezdünk belelátni az AI gondolkodásába, ez pedig új utakat nyithat meg a kiberbiztonság szakemberei előtt.
Az Anthropic mesterségesintelligencia-kutató cég 2026 júliusában közzétett egy áttörőnek tartott kutatási eredményt. Sikerült azonosítani, hogy egy nagy nyelvi modell – a Claude – mire „gondol” valójában, miközben válaszol a felhasználónak. Keleti Arthur kibertitok-jövőkutató, az ITBN alapítója a radiocafén, a Millásreggeliben magyarázta el, mit jelent mindez, és miért fontos a kiberbiztonság szempontjából is.
A fekete doboz eddig volt fekete
A nagy nyelvi modellek egyik legtöbbet vitatott problémája az úgynevezett fekete doboz jelenség: bár a mesterséges intelligencia (AI) látványos válaszokat ad, belső működése nehezen volt átlátható. Keleti Arthur szerint ez olyan, mintha egy gyanúsítottat hallgat ki a rendőrség:
tudni akarják, mi jár a fejében, nem csak azt, amit mond.
Az AI-nál ugyan elméletileg láthatnánk a matematikai folyamatokat, de a gyakorlatban szinte lehetetlen volt kiolvasni a háttérben zajló gondolkodást.
Ezt változtatja meg az Anthropic új eszköze, a J-lens, amellyel azonosítottak egy belső munkateret – a kutatók ezt J-space-nek nevezik –, ahol az AI-ban egyszerre jelen vannak azok a gondolatok, amelyeket végül kimondhat, és azok is, amelyeket nem mond ki, csak a háttérben dolgozik velük.
Mit jelent a belső munkatér?
A jelenséget Keleti Arthur egy egyszerű példán keresztül szemléltette: ha megkérik a modellt, hogy számoljon el egytől ötig, eközben a J-space-ben olyan fogalmak jelennek meg, mint „ember”, „befejeztem”, „Mississippi”, „öt” – egyszerre, egymás mellett. A Mississippi az amerikai modelleknél a másodpercszámlálás köznyelvi módja, és jelzi, hogy a rendszer nem csupán a feladatot hajtja végre, hanem párhuzamos asszociációkat is feldolgoz.
A kutatók nem csupán olvasni tudják ezt a teret, hanem írni is: kísérletekben beillesztettek gondolatokat a modell munkaterébe, és ez ténylegesen befolyásolta az eredményt. Ha például a modell kiválasztott egy sportot, majd a J-space-ben a választott sport fogalmát kicserélték egy másikra, a modell az újonnan beírt sportot mondta ki.
Emergens képesség: nem belerakták, hanem kialakult
Ami különösen izgalmas, az az, hogy ezt a belső munkateret nem programozták bele, hanem magától alakult ki a betanítás során. Keleti Arthur elmondta, hogy ez az úgynevezett emergens képesség: olyan tulajdonság, amely
a rendszer komplexitásából fakadóan jelenik meg, anélkül hogy szándékosan tervezték volna.
A jelenség párhuzamba állítható az emberi agy globális munkaterének elméletével, amelyet Bernard Baars agykutató dolgozott ki az 1980-as évek végén. Eszerint az ember agya is rengeteg párhuzamos, tudattalan folyamatot futtat. Ezekből csak egy kis töredék kerül be abba a közös térbe, amelyről be tudunk számolni.
Tudat vagy csak hozzáférés?
Keleti Arthur a tudatosság kérdésére is kitért. Az Anthropic tanulmánya különbséget tesz fenomenális tudat – a szubjektív élmény, az „én átéltem” típusú tapasztalat – és a hozzáférési tudat között. Utóbbi azt jelenti, hogy egy rendszer rendelkezik azzal a tudással, amely a feladatok végrehajtásához szükséges. Keleti Arthur szerint ez utóbbi megtalálható az AI-ban, az előbbi viszont nem – legalábbis egyelőre.
A kiberbiztonság szempontjából a felfedezés azért fontos, mert ha a modell észlel valamit, például egy e-mailben zsarolásra utaló tartalmat, azt az üzenet gyors feldolgozása közben elnyomja. Most már lehetséges ezt a belső jelzést kiolvasni, és utasítani a modellt, hogy mondja ki azt is, amit magában tartana.
Ki kicsoda, mi micsoda?
- Keleti Arthur: Kibertitok-jövőkutató, IT biztonsági stratéga, előadó, író és filmproducer. Az Informatikai Biztonság Napja (ITBN) konferencia alapítója és főszervezője, az Önkéntes Kibervédelmi Összefogás (KIBEV) elnöke, a The Imperfect Secret (A tökéletlen titok) című könyv szerzője.
- Anthropic: Amerikai mesterségesintelligencia-kutató és -fejlesztő cég, a Claude AI alkotója. Különös hangsúlyt helyez az AI biztonságára és értelmezhetőségére.
- J-lens / J-space: Az Anthropic 2026 júliusában közzétett kutatásának kulcsfogalmai. A J-lens (Jacobian lens) egy matematikai eszköz, amellyel azonosítható a Claude belső munkatere (J-space) – az a kis privilegizált tér, ahol a modell egyszerre tartja azokat a fogalmakat, amelyekre gondol, mielőtt kimondja őket.
- Globális munkaterület elmélet (Global Workspace Theory): Bernard Baars agykutató által az 1980-as évek végén kidolgozott elmélet. Eszerint az emberi agyban az összes párhuzamos tudattalan folyamatból csak egy kis töredék kerül be egy közös „tudatos” munkaterületbe, amelyről be tudunk számolni. Az Anthropic kutatása szerint hasonló struktúra alakult ki a Claude-ban is.
- Emergens képesség: Olyan tulajdonság, amely egy komplex rendszerben a betanítás során magától alakul ki, anélkül hogy szándékosan beprogramozták volna. A nagy nyelvi modelleknél több ilyen képességet azonosítottak már, köztük most a belső munkatér létrejöttét.
- ITBN (Informatikai Biztonság Napja): 2005 óta évente megrendezett magyar kiberbiztonsági konferencia, amely a hazai IT-biztonsági szakma egyik legnagyobb éves seregszemléje.
