Mesterséges intelligenciák is átverhetők

2016. július 29. 11:30

Amerikai kutatók gépi tanulás és képelemző algoritmussal bizonyították be, hogy a mesterséges intelligenciák is átverhetők, hibás döntésekre kényszeríthetők.

2016. július 29. 11:30

Mesterségesintelligencia-programokkal, algoritmusokkal egyre több tevékenységet végeztetünk el: új fotók címkézését, drónok reptetését stb. A rendszerek időnként hibáznak, amiben nincs semmi új, meglepő.

Az viszont már nyugtalanító, hogy az Elon Musk által támogatott OpenAI és a Google többéves kutatása kimutatta: gyakorlott hackerek rossz és potenciálisan veszélyes döntések meghozására kényszeríthetik az MI-programokat és algoritmusokat. Korábbi munkákkal nem sikerült bizonyítani, hogy kivitelezhető a trükközés, most viszont igen.

A kutatók első körben elérték, hogy az MI-algoritmus 97 százalékban hibásan azonosítson Nexus 5S okostelefonnal felvett képeket. Pedig a képeket csak minimálisan, emberi szem számára láthatatlan részleteiben változtatták meg, utána kinyomtatták, majd ismét lefényképezték. Egy ilyen hiba akár azzal is járhat, hogy az önvezető autó nem veszi észre a stoptáblát, vagy 100 dollárt 1000-nek olvas az ATM. Semmi más nem kell hozzá, csak a világítás, a kamera-beállítás, a perspektíva stb. minimális módosítása.

A támadások a keresőmotor-optimalizálást is érinthetik: megbuherálják például gépitanulás-algoritmust, ami egy képet szebbnek állít be a valóságnál. Súlyosabb esetben pedig egy tőzsdén kereskedő MI-t késztetnek veszteséget hozó döntésre, és így tovább.

Az eredményeket összegző tanulmány egyik szerzője, Ian Goodfellow (OpenAI) elmondta: egyelőre nincs tudomásuk efféle nagyobb támadásról, de az MI-kutatóknak komolyan el kellene gondolkozni rajta.

Más kutatások azt mutatták ki, hogy ugyanezzel a technikával, de a beállítások hangutasításokkal történő megváltoztatásával okostelefonokat lehet vírusos oldalakra irányítani, rábírni, hogy tegye közzé a felhasználó tartózkodási helyét stb.

A támadások egyes esetekben teljesen ártalmatlanok, az algoritmus rosszul címkéz fel egy fényképet és hasonlók, máskor viszont a légiközlekedés-irányítást, önvezető autókat, információbiztonsági rendszereket stb. késztethetnek végzetes döntéshozásra.

Összesen 0 komment

A kommentek nem szerkesztett tartalmak, tartalmuk a szerzőjük álláspontját tükrözi. Mielőtt hozzászólna, kérjük, olvassa el a kommentszabályzatot.
Sorrend:
Jelenleg csak a hozzászólások egy kis részét látja. Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!