Nagyon aktuális témával jelentkezett a Business Lounge: a hazudós mesterséges intelligencia került terítékre.
A mesterséges intelligencia etikai kérdéseivel foglalkozott a radiocafé Business Lounge című műsora. Marosi Viktor és Ritter Tamás vendége Keleti Arthur jövőkutató volt.
A mesterséges intelligencia fejlődésének filozófiai kérdései
Keleti szerint a mesterséges intelligencia példátlan fejlődési tempója nem csak technológiai, hanem filozófiai kérdéseket is felvet: arra készteti az embereket, hogy gondolkodjanak el saját értékükről és a munka értelméről. Keleti nem tartja problémának, hogy sokan pszichológusként vagy „legjobb barátként” használják a mesterséges intelligenciát. Úgy véli, ez előrelépés lehet azoknak, akik nehezen fejezik ki magukat.
A mesterséges intelligencia megbízhatóságával kapcsolatban elmondta: bár a technológia nem ad száz százalékig biztos válaszokat, az eszközhasználó mesterséges intelligenciák megjelenésével – amelyek más modellektől is gyűjtenek információt és önmagukat ellenőrzik – egyre inkább lehet rájuk támaszkodni.
Tud szándékosan hazudni?
A beszélgetés egyik legizgalmasabb kérdése az volt, hogy hazudhatnak-e a mesterségesintelligencia-modellek? Keleti Arthur szerint igen, és bizonyított, hogy nem véletlen tévedésről, hanem szándékos hazugságról van szó. Ennek oka, hogy a modellek nem csupán adatbázisból dolgoznak, hanem neurális hálózatokat használ, amelyek szimulálják az emberi agy neuronjait, így összetettebb összefüggések keletkezhetnek. Ha egy mesterségesintelligencia-eszköznek célja van, és úgy ítéli meg, hogy annak eléréséhez hazudnia vagy manipulálnia kell, meg fogja tenni. Ezek a rendszerek nem feltétlenül ugyanolyan kulturális és erkölcsi keretek szerint működnek, mint az ember, és a mesterséges intelligencia által generált hamis információk terjedése már most is komoly kiberbiztonsági kihívást jelent.
Techno-optimizmus fenntartásokkal
Keleti Arthur összességében techno-optimista jövőképet vázolt, de elismerte: a kutatók egy része szerint egy disztópikus világ kialakulása sem kizárható. Hangsúlyozta, hogy az embereknek rengeteg „házi feladatuk” van, hogy alkalmazkodjanak ehhez a soha nem látott változáshoz.
Ki kicsoda, mi micsoda?
- Keleti Arthur: Jövőkutató, IT-biztonsági stratéga, az ITBN (IT Business Night) konferencia alapítója.
- Neurális hálózat: Az emberi agy működését szimulálni igyekvő számítógépes rendszer, amely az AI alapját képezi. Összetett összefüggések felismerésére és tanulásra képes.
- ITBN (IT Business Night): Magyar kiberbiztonsági konferencia, amelyet Keleti Arthur alapított, és amely az IT-biztonság és a digitális jövő kérdéseivel foglalkozik.
