Mesterséges intelligencia: a gyorsasággal nő a kockázat is

Nem csak a vírusokra kell figyelni
Fotó: Zulfugar Karimov via Unsplash

Az AI-biztonság ma már nem csak a fejlesztők ügye: a pár perc alatt összerakott alkalmazásoknál a kockázat is ugyanilyen gyorsan nő.

A mesterséges intelligencia (AI) a szoftverfejlesztésben látványosan lerövidítette az utat az ötlettől a működő termékig. A radiocafé Millásreggeli című műsorában Szekeres Balázs és Kiss Zoltán, a Kermann IT Solutions Nyrt. szakértői arról beszéltek, hogy ez a tempó egyszerre lenyűgöző és kockázatos.

Amikor a séta végére kész a program

A beszélgetés egyik legerősebb állítása az volt, hogy ma már akár negyedóra alatt is elkészülhet egy használható alkalmazás. A szakértők példája szerint egy autószimulátor lényegében egy rövid séta ideje alatt összeállt, majd néhány további perc kellett ahhoz, hogy már vezetni is lehessen benne az autót.

Ez a jelenség az úgynevezett vibe coding: a fejlesztő vagy akár egy laikus természetes nyelven utasítja az AI-modellt, az pedig működő kódot gyárt.

A lehetőség óriási, mert prototípusok, belső eszközök vagy első verziók elképesztő sebességgel születhetnek meg.

A gond ott kezdődik, amikor a gyorsaság fontosabb lesz, mint annak átgondolása, hol fut majd a rendszer, milyen adatokhoz fér hozzá, és megfelel-e a környezetének.

A gyorsaság nem egyenlő a biztonsággal

Kiss Zoltán szerint ma már olyanok is képesek alkalmazást összerakni, akik nincsenek tisztában a bevezetés technikai és biztonsági feltételeivel. Ez nemcsak kisebb cégeknél gond, hanem nagyvállalati környezetben is. A műsorban elhangzott példa szerint sajtóhírek alapján a McDonald’s toborzási chatbotjánál, a Paradox.ai rendszerében

egy gyenge jelszó és hibás hozzáférés-kezelés miatt nagy mennyiségű chatrekord válhatott elérhetővé.

Az ilyen ügyek arra figyelmeztetnek, hogy a látványosan működő felület mögött súlyos sebezhetőségek maradhatnak. Ráadásul az AI nemcsak a védők, hanem a támadók kezében is gyorsítóeszköz.

Miért kevés önmagában a megfelelés

Szekeres Balázs arról beszélt, hogy a klasszikus megfelelési logika önmagában már kevés. A NIS2, a DORA vagy az ISO/IEC 27001 fontos keretek, de egy olyan világban, ahol percek alatt születnek új rendszerek, a pipálgatós compliance nem ad teljes védelmet.

A hangsúly a működési kockázaton van: abból kell kiindulni, hogy sérülékenységek lesznek, hibák maradnak a rendszerben, és ezeket nem utólag, hanem előre feltételezve kell kezelni. Tehát

nem elég azt kérdezni, megfelel-e valami a szabálynak, azt is meg kell nézni, mi történik, ha mégis baj lesz.

Shadow AI, alignment és a felelős bevezetés

A műsorban szóba került a Shadow AI is, vagyis amikor dolgozók vagy vezetők hivatalos kontroll nélkül kezdenek AI-eszközöket használni.

Ez gyors megoldásnak tűnhet, de könnyen céges adatok kiszivárgásához vezethet.

Ugyanilyen fontos az alignment problémája: az AI hajlamos nagyon hatékonyan végrehajtani a célt, miközben nem feltétlenül érti az emberi, jogi vagy etikai korlátokat. Ettől lesz igazán veszélyes a „csináljuk meg gyorsan” szemlélet. A szakértők szerint a vibe coding eszköz sok mindent előállít, de a biztonságos vállalati bevezetést, az infrastruktúra rendbetételét és a felelősségi keretek kialakítását nem váltja ki.

 

Ki kicsoda, mi micsoda?

  • Vibe coding: olyan fejlesztési gyakorlat, amikor valaki természetes nyelvű utasításokkal készíttet kódot AI-modellel.
  • Shadow AI: nem hivatalosan, szervezeti kontroll nélkül használt AI-eszközök összefoglaló neve.
  • Alignment: azt jelenti, mennyire igazodik az AI működése az emberi célokhoz, szabályokhoz és értékekhez.
  • NIS2: az Európai Unió kiberbiztonsági irányelve, amely több ágazatban ír elő szigorúbb biztonsági és incidenskezelési kötelezettségeket.
  • DORA: uniós szabályozás a pénzügyi szektor digitális működési ellenálló képességéről. Különösen az informatikai kockázatok és szolgáltatói függések kezelésére fókuszál.
Visited 1 times, 1 visit(s) today

HIRDETÉS

Ez is érdekelhet:

A Homo Digitalis nem jósol, hanem kapaszkodót kínál

Új podcast indult a digitális transzformáció emberi oldaláról: hogyan döntünk akkor, amikor egyszerre látunk többet és értünk kevesebbet?

Rekordot döntött az emberiség vagyona

A globális pénzügyi vagyon új csúcsra ért, de a gyarapodás nagy része nem friss megtakarításból, hanem eszközár-emelkedésből jött.

A kiberbiztonság a kisvállalkozások gyenge pontja

Tízből kilenc mikrovállalkozás nem használ fejlett kiberbiztonsági megoldásokat, pedig a legtöbb cég már szinte teljesen online működik.

HIRDETÉS

HIRDETÉS

Legfrissebb cikkek:

Új pályára áll a digitalizáció, Európa gazdasága pedig éledezik

Az ipari digitalizáció már nem csak gyárakról szól: az adatközpontok, az energiahálózatok és a munkaerőhiány is új pályára állítja.

Mit rejt a Black Friday?

Akkor járhat jól a Black Friday-re rápörgő magyar vásárló, ha az egynapos felhajtás helyett az árak mozgását figyeli.

Év végi kedvezmények az autópiacon

A jelenség hátterében nem egyfajta autós Black Friday áll, hanem árfolyamváltozás, finanszírozási sajátosság és modellváltás.

HIRDETÉS

HIRDETÉS

HIRDETÉS