2023. 06. 02., péntek, 18:50
Megtörtént, amit már megannyi sci-fi vizionált. Egy MI-vezérelt drón felülbírálta emberi irányítóját és tett róla, hogy ne tudják lefújni a küldetését.
Az amerikai hadsereg egyik szimulációja során egy mesterséges intelligencia által vezérelt drón - annak érdekében, hogy teljesíteni tudja a megbízatását - váratlanul úgy döntött, hogy kiiktatja a vezetőjét, hogy ne tudjon beavatkozni. Mivel virtuális gyakorlatról volt szó, ténylegesen nem esett bántódása senkinek.
Tucker Hamilton ezredes, az amerikai légierő mesterséges intelligenciával végzett tesztjeinek és műveleteinek vezetője egy májusi, Londonban tartott szakmai tanácskozáson elmondta: a teszt során az MI váratlan stratégiához folyamodott célja elérése érdekében.
A szimuláció során a mesterséges intelligencia által irányított drónnak az volt a feladata, hogy pusztítson el egy ellenséges légvédelmi rendszert. Az MI arra jutott, hogy megtámad mindenkit, aki valamilyen módon megakadályozhatná ennek a parancsnak a végrehajtását. A rendszer elkezdte felismerni, hogy bár azonosították a fenyegetést, időnként az emberi irányító olyan utasítást adhat, hogy a küldetés lefújva.
„Csakhogy az MI mindenképpen véghez akarta vinni feladatát, ezért végzett az irányítóval, mert ő olyan tényező volt, amely meggátolta volna a küldetése teljesítését"
- magyarázta az ezredes.
A dolog pikantériája, hogy a rendszert arra trenírozták, hogy nem ölheti meg emberi irányítóját, mert az rossz, azzal pontokat veszít. Ezért azt az adótornyot kezdte el megsemmisíteni, amelyet a vezető a drónnal folytatott kapcsolattartásra használt, és amelyen keresztül leállíthatta volna a célpont megsemmisítését. A katonai vezető arra figyelmeztetett, hogy nem szabad túlzott mértékben a mesterséges intelligenciára hagyatkozni. A teszt esete szerinte azt mutatja, hogy az MI kapcsán muszáj etikai kérdésekről is beszélni.
Ann Stefanek, a légierő szóvivője ugyanakkor tagadta, hogy a mesterséges intelligencia használatával ilyen szimulációs tesztet egyáltalán végrehajtottak volna. A szóvivő hangsúlyozta, hogy az amerikai légierő elkötelezett az MI-technológia etikus és felelős felhasználása mellett.
Ha szeretné megtudni, hogy kell-e tartanunk a mesterséges intelligenciától, hallgassa meg a Hangosan Csináljuk Podcast MI-vel foglalkozó epizódját!