Az AI-biztonság már nem science-fiction: a szakma egyik fő kérdése lett, hogyan maradnak ellenőrizhetőek az egyre önállóbb rendszerek.
A radiocafé Millásreggeli című műsorának ITBN 2026-ról jelentkező élő beszélgetése nem technológiai csodabemutatóként, hanem józan helyzetjelentésként szólt a mesterséges intelligenciáról. Keleti Arthur, az ITBN főszervezője arról beszélt: ma már nem az a kérdés, hogy jön-e a mesterséges intelligencia, hanem az, hogyan lehet valódi kontroll alatt tartani.
A jól hangzó ígéret után jön a nehéz rész
A mesterséges intelligenciáról szóló vállalati és szakmai kommunikációban ma szinte kötelező fordulat, hogy az AI-rendszerek „jól körülhatárolt, korlátozott és ellenőrzött keretek között” működnek majd. Keleti Arthur szerint ez elvként rendben is van, a probléma ott kezdődik, amikor ezt a gyakorlatban kell megvalósítani.
A beszélgetésben felidézte, hogy az Európai Unió mesterségesintelligencia-szabályozása, az EU AI Act is átláthatóságot, magyarázhatóságot és ellenőrizhetőséget vár el. Csakhogy ettől még nem lesz rögtön világos, hogyan lehet egy gyorsan változó, tanuló vagy részben autonóm rendszert úgy működtetni, hogy
az emberi felügyelet számára is érthető maradjon.
Ez az a pont, ahol az AI-biztonság kilép a jelmondatok világából. Nem elég azt mondani, hogy majd lesz kontroll: azt is ki kell találni, mit jelent ez egy vállalatnál, egy fejlesztőcsapatnál vagy akár egy nyilvános szolgáltatásban.
Egy régi konferencia új korszakban
Az ITBN saját története jól mutatja, mennyit változott a biztonsági gondolkodás az elmúlt két évtizedben. Keleti Arthur szerint a rendezvény 2005-ben indult, amikor még egészen más kérdések izgatták a szakmát: trójai vírusok, hálózatra kötött vagy éppen attól elszigetelt gépek, az internet korai kockázatai.
Ehhez képest ma már nem pusztán kívülről érkező támadásokról beszélünk. A fókusz részben áttevődött azokra a rendszerekre is, amelyek maguk dolgoznak, döntenek, hajtják végre az egyre összetettebb feladatokat, sőt más rendszerekkel is kapcsolatba lépnek.
Ez teljesen más biztonsági logikát igényel, mint a korábbi, elsősorban szabályalapú védekezés.
Az ITBN 22 éve független platformként működik, vagyis nem egyetlen nagyvállalat rendezvénye. Ez a függetlenség nemcsak szervezeti sajátosság, hanem magyarázat arra is, miért tudott a konferencia idejében reagálni olyan témákra, amelyekről a szakma szélesebb része még hajlamos volt úgy gondolkodni, mint átmeneti felhajtásról.
Már nem hype, hanem napi szakmai kérdés
Keleti Arthur rámutatott, hogy hosszú éveken át sokan az AI-t is afféle kipukkanó lufinak tekintették. Szerinte ez az elmúlt két évben látványosan megváltozott, az idei ITBN pedig már kifejezetten tele van AI-biztonsági előadásokkal.
Ez fontos fordulat. A technológiáról szóló nyilvános beszéd sokáig két véglet között mozgott: vagy lelkes jövőképként, vagy túlzó riadalomként mutatta be a mesterséges intelligenciát. A biztonsági szakma nézőpontja ennél prózaibb, de talán éppen ezért hasznosabb is. Abból indul ki, hogy a rendszerek itt vannak, használják őket, tehát érteni kell a működésüket és a hibáikat is.
Az idei eseményen több mint 100 program és 150 előadó szerepel, a szervezők ezres nagyságrendű közönséggel számolnak. Ez nem önmagában a méret miatt érdekes, hanem azért, mert jelzi:
az AI-biztonság már nem szűk kutatói vagy szabályozói ügy,
hanem a szélesebb szakmában is napirenden van.
Két világ találkozik: vibe-kódolás és kontroll-lista
Keleti Arthur szerint új generáció jelent meg a kiberbiztonságban és az AI körül is: olyan fiatalok, akik promptolnak, vibe-kódolnak, agenteket építenek, és sokszor egészen más munkamódszerekkel nyúlnak a technológiához.
Velük szemben ott vannak azok a veterán szakemberek, akik a folyamatokban, ellenőrzőlistákban, dokumentált kontrollokban és megfelelési rendben bíznak. Egyik megközelítés sem söpörhető félre. Az egyik oldal hozza a sebességet és a kísérletező energiát, a másik a felelősséget és a rendszerszintű gondolkodást.
Az AI-biztonság egyik nagy kérdése jelenleg, hogy lehet-e ebből működő közös nyelv. Mert ha nem, akkor az történik, hogy a fejlesztés gyorsabb lesz, mint a felügyelet, a felügyelet pedig lassabb, mint a valóság.
A fejlesztők is a biztonságról beszélnek
A műsorban szóba került az is, hogy a nagy AI-szereplők között is egyre hangsúlyosabb a biztonsági gondolkodás. Keleti Arthur példaként említette az OpenAI és az Anthropic együttműködéseit és azt a törekvést, hogy biztonságosabb modelleket kellene fejleszteni.
Ugyanebben az összefüggésben került elő a DeepSeek neve is. A beszélgetésben ez friss példaként hangzott el arra, hogy a hatósági és szakmai ellenőrzés világszerte erősödik. Ezek az utalások nem teljes helyzetképet adtak, inkább azt mutatták meg, merre mozdul a gondolkodás.
A verseny önmagában már nem elég, a biztonság a fejlesztés része lett.
Különösen beszédes volt az a példa, amely szerint a DeepSeekhez köthető fejlesztési infrastruktúrában másodpercenként épülnek fel tömegesen sandboxok, vagyis elkülönített tesztkörnyezetek, amelyekből AI-agentek próbálnak kitörni. A beszélgetés ezt az automatizálás „megérkezett” szintjeként írta le. Ha ez a dinamika valóban mindennapossá válik, akkor a védekezésnek is gépi léptékben kell működnie.
A humán faktor még mindig döntő
Bármennyire látványosak a technológiai példák, a humán faktor továbbra is kulcsszereplő. Ez közhelynek hangozhat, de az AI világában inkább egyre valóságosabb.
Mert nemcsak az számít, mire képes egy modell, hanem az is, ki állítja be, ki felügyeli, milyen szervezetbe illesztik, és milyen helyzetekben kap önállóságot. Egy rosszul értett vagy rosszul felügyelt rendszer nem azért veszélyes, mert „okos”, hanem mert nem megfelelő emberi környezetben működik, hibás emberi döntések következményeivel.
Ezért is érdekes, hogy az ITBN az OWASP közreműködésével nemcsak technológiai kirakatot, hanem tudásmegosztó szakmai teret is épít. Külföldi szakértők is érkeztek, hogy hosszabb előadásokban magyarázzák: hogyan lehet egyáltalán megpróbálni kontrollálni az AI-t.
A helyszín üzenete
A rendezvénynek otthont adó Bálna Honvédelmi Központ említése nem puszta díszlet a történetben. A honvédelmi és kibervédelmi szempontok ma már egyre kevésbé választhatók le egymásról, és
ez a tematika jól illeszkedik a honvédelem körül látható intézményi fókuszhoz is.
A kérdés már nem az, hogy az AI hat-e a biztonságra, hanem hogy milyen gyorsan formálja át a védekezés eszköztárát, a szervezeti működést és a felelősségi viszonyokat. A beszélgetésből kitűnt, hogy a szakma már ugyanott tart, ahol a probléma — vagyis felismerte, hogy itt nem mellékszálról, hanem szerkezeti változásról van szó.
Ki kicsoda, mi micsoda?
- Keleti Arthur: az ITBN főszervezője és ötletgazdája.
- ITBN: több mint két évtizede futó, független informatikai és kiberbiztonsági szakmai esemény, amelynek idei programjában kiemelt téma a mesterséges intelligencia biztonsága.
- OWASP: nemzetközi szervezet, amely sérülékenységekkel, alkalmazásbiztonsággal és jó gyakorlatokkal foglalkozik.
- EU AI Act: az Európai Unió mesterséges intelligenciára vonatkozó szabályozási kerete, amely az átláthatóságot, a magyarázhatóságot és a kockázatalapú megközelítést hangsúlyozza.
- Sandbox: elkülönített tesztkörnyezet, amelyben egy rendszer működését úgy lehet vizsgálni, hogy közben kisebb a kockázata annak, hogy más rendszerekre is hatással legyen.
