Mesterséges intelligencia: isteni vagy ördögi erő?

2016. január 11. 13:18

Murray Shanahan
Imperial College London
A tavaly alapított brit Leverhulme Központ az Intelligencia Jövőjéért az MI lehetőségeit és kihívásait, a hozzávezető technológiákat és hatásukat vizsgálja. Murray Shanahan a londoni Imperial College-et képviseli a projektben.

„Minden szemszögből tanulmányozni kell az MI rövid- és hosszútávú következményeit. A Központban számítástudományi szakemberek, filozófusok, társadalomtudósok és mások vizsgálják az MI kapcsán az emberiség számára ebben a században felmerülő technikai, gyakorlati és filozófiai kérdéseket.

Az MI nagyon fontos szerepet fog játszani a gyerekeim generációja életében, és remélhetőleg pozitív irányban változtatja meg a világot. Izgalmas a lehetőség, hogy a maiaknál sokkal kifinomultabb MI-t fejleszthetünk. Pont olyan izgatott vagyok, mint amikor gyerekként olvastam Asimovot vagy a 2001 – Űrodüsszeiát, de közben azt is kell figyelnem, hogy mit jelenthet társadalmi és filozófiai szemszögből.

Az utóbbi 10 évben főként az emberi agyműködés megértésén dolgoztam. Az agy hálózatait utánzó kódot fejlesztek, és így képes leszek közvetítő szerepet játszani a Központ technikai és társadalmi/filozófiai kutatásai között.

Őszintén szólva, nem tartom helyesnek, ha sci-fikből indulunk ki az MI hosszútávú hatásaival kapcsolatban. A sci-fik hajlamosak emberként megjeleníteni, emberként kezelni a közben ördögi szerepet játszó MI-t. Sztorinak jó, de nem segít elgondolkoztatni az általunk fejlesztett technológiáról. Még egy nagyon értelmes MI-nek sem kell feltétlenül emberszerűnek lennie. Inkább utasítást követ, amivel kivitelezhet egy speciális célt. Mivel intelligens, a kivitelezés összes aspektusát figyelembe veszi, és ennek lehetnek előre nem látható következményei.

A rövidtávú következményeknél már létező technológiákról, például önvezérlő autókról beszélünk. Nagyon fontos tudni, hogyan jut el egy gép a döntéshozásig, mert nem elég, ha csak a döntés hatásaival foglalkozunk. Intelligens gépek is hibáznak. Például az egyik képelemző program felismeri a nagymacskákat, megkülönbözteti egymástól a jaguárt, a leopárdot és a gepárdot. Egy jaguártakarós szófát viszont jaguárként azonosított. Az emberi felülvizsgálathoz és beavatkozáshoz vagy a döntéshozást megszakító alaptechnológiákat kell fejleszteni, vagy a létező programot fejtjük vissza.

Tegyük fel, hogy létrehozunk több szabadidőt és nagy jólétet biztosító megoldásokat. De milyennek akarjuk ezt a világot? Mitől tartalmas az emberi élet a munka utáni társadalomban?

Az emberi elme csak egy a Földön létező elmetípusok közül. Tételezzük fel, hogy velünk azonos szintű MI-t fejlesztünk. Bővül ezzel az elmék köre? Milyen következményei lehetnek az MI személyiségének és jogainak?

Most még könnyű ezen gúnyolódni, mert a legbonyolultabb MI elméje sem több a tósztsütőénél. Semmiféle értelemben nem rendelkezik tudatossággal, nincs tisztában a körülötte lévő világgal. A robotporszívó ugyan érzékeli és elkerüli az akadályokat, de nem gondolkodik rajta, nem cselekszik tudatosan. Egyelőre nem tudjuk, hogy emberi szintű értelem beágyazható-e egy MI-be, és ha igen, akkor hogyan. Viszont hibáznánk, ha úgy állnánk hozzá, hogy a jelenlegi kutatások végeredménye nem lehet értelmes MI.”

Az eredeti, teljes írást itt olvashatja el.

Összesen 2 komment

Jelenleg csak a hozzászólások egy kis részét látja.
Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!

A kommentek nem szerkesztett tartalmak, tartalmuk a szerzőjük álláspontját tükrözi.

Nagy kérdés számomra, hogy mire megyünk egy géppel, amelynek saját céljai vannak, meg méltósága, meg jogai, meg ilyesmik. Mire való az nekünk?

Pont azért gépesítünk, mert egy célokkal, méltósággal, jogokkal stb. rendelkező munkavállalót le lehet cserélni egy tárgyként kezelhető gépre. De ha nem kezelhető már tárgyként?

Nade honnan veszed, hogy kedve lesz hozzá? Vagy hogy számunkra fontos lesz, amit csinál? Ha pl. két MI társalog egy olyan matematikai problémáról, aminek ember az alapjait sem érti, akkor mire jutottunk?

Én Lem-et javaslom, csak valahol már leírtam a poénját:

A 26. generációs számítógép, amelybe az emberiség összes tudását meg mindent beletápláltak, egy szép napon megkérdezte alkotóit: "Uraim, meg tudnák mondani, hogy ki vagyok?" (A Kudarc, emlékezetből)

Persze, értem: példázat. A gép nyilván azt is tudta, mit vártak tőle az alkotói. A lényeg, hogy ő sem tudja a választ.

Mi emberek magunk bizonyítjuk, hogy a világ anyaga képes elhordozni a szellemet, és még csak nem is a "tudat"-ra gondolok elsődlegesen, hanem olyan egyszerű szellemi valóságokra, mint a számok. Ha ez így van, akkor nyilván általunk alkotott anyagi struktúrák is képesek lehetnek ugyanerre, viszont nyilván pont ugyanazokba a végső kérdésekbe fognak ütközni, mint mi magunk.

Én éppen ezért jobbnak látnám, ha olyan értelmes anyagi struktúrák létrehozásán gondolkodnánk, amelyekhez a legkonzervatívabb módon egy férfi és egy nő együttműködése szükséges, és már régóta üzembiztosan működik.

Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!

Bejelentkezés