Az AI-biztonság ma már nem csak a fejlesztők ügye: a pár perc alatt összerakott alkalmazásoknál a kockázat is ugyanilyen gyorsan nő.
A mesterséges intelligencia (AI) a szoftverfejlesztésben látványosan lerövidítette az utat az ötlettől a működő termékig. A radiocafé Millásreggeli című műsorában Szekeres Balázs és Kiss Zoltán, a Kermann IT Solutions Nyrt. szakértői arról beszéltek, hogy ez a tempó egyszerre lenyűgöző és kockázatos.
Amikor a séta végére kész a program
A beszélgetés egyik legerősebb állítása az volt, hogy ma már akár negyedóra alatt is elkészülhet egy használható alkalmazás. A szakértők példája szerint egy autószimulátor lényegében egy rövid séta ideje alatt összeállt, majd néhány további perc kellett ahhoz, hogy már vezetni is lehessen benne az autót.
Ez a jelenség az úgynevezett vibe coding: a fejlesztő vagy akár egy laikus természetes nyelven utasítja az AI-modellt, az pedig működő kódot gyárt.
A lehetőség óriási, mert prototípusok, belső eszközök vagy első verziók elképesztő sebességgel születhetnek meg.
A gond ott kezdődik, amikor a gyorsaság fontosabb lesz, mint annak átgondolása, hol fut majd a rendszer, milyen adatokhoz fér hozzá, és megfelel-e a környezetének.
A gyorsaság nem egyenlő a biztonsággal
Kiss Zoltán szerint ma már olyanok is képesek alkalmazást összerakni, akik nincsenek tisztában a bevezetés technikai és biztonsági feltételeivel. Ez nemcsak kisebb cégeknél gond, hanem nagyvállalati környezetben is. A műsorban elhangzott példa szerint sajtóhírek alapján a McDonald’s toborzási chatbotjánál, a Paradox.ai rendszerében
egy gyenge jelszó és hibás hozzáférés-kezelés miatt nagy mennyiségű chatrekord válhatott elérhetővé.
Az ilyen ügyek arra figyelmeztetnek, hogy a látványosan működő felület mögött súlyos sebezhetőségek maradhatnak. Ráadásul az AI nemcsak a védők, hanem a támadók kezében is gyorsítóeszköz.
Miért kevés önmagában a megfelelés
Szekeres Balázs arról beszélt, hogy a klasszikus megfelelési logika önmagában már kevés. A NIS2, a DORA vagy az ISO/IEC 27001 fontos keretek, de egy olyan világban, ahol percek alatt születnek új rendszerek, a pipálgatós compliance nem ad teljes védelmet.
A hangsúly a működési kockázaton van: abból kell kiindulni, hogy sérülékenységek lesznek, hibák maradnak a rendszerben, és ezeket nem utólag, hanem előre feltételezve kell kezelni. Tehát
nem elég azt kérdezni, megfelel-e valami a szabálynak, azt is meg kell nézni, mi történik, ha mégis baj lesz.
Shadow AI, alignment és a felelős bevezetés
A műsorban szóba került a Shadow AI is, vagyis amikor dolgozók vagy vezetők hivatalos kontroll nélkül kezdenek AI-eszközöket használni.
Ez gyors megoldásnak tűnhet, de könnyen céges adatok kiszivárgásához vezethet.
Ugyanilyen fontos az alignment problémája: az AI hajlamos nagyon hatékonyan végrehajtani a célt, miközben nem feltétlenül érti az emberi, jogi vagy etikai korlátokat. Ettől lesz igazán veszélyes a „csináljuk meg gyorsan” szemlélet. A szakértők szerint a vibe coding eszköz sok mindent előállít, de a biztonságos vállalati bevezetést, az infrastruktúra rendbetételét és a felelősségi keretek kialakítását nem váltja ki.
Ki kicsoda, mi micsoda?
- Vibe coding: olyan fejlesztési gyakorlat, amikor valaki természetes nyelvű utasításokkal készíttet kódot AI-modellel.
- Shadow AI: nem hivatalosan, szervezeti kontroll nélkül használt AI-eszközök összefoglaló neve.
- Alignment: azt jelenti, mennyire igazodik az AI működése az emberi célokhoz, szabályokhoz és értékekhez.
- NIS2: az Európai Unió kiberbiztonsági irányelve, amely több ágazatban ír elő szigorúbb biztonsági és incidenskezelési kötelezettségeket.
- DORA: uniós szabályozás a pénzügyi szektor digitális működési ellenálló képességéről. Különösen az informatikai kockázatok és szolgáltatói függések kezelésére fókuszál.