Emberiség vs. robotok – már elkezdődött! I. rész

70 évvel ezelőtt Asimov megteremtette a robotika első törvényét, egy elképzelést, miszerint a jövő robotjai egy mélyen a programozásukba rejtett szabálynak engedelmeskednek: “Egy robot nem árthat emberi lénynek, vagy engedheti, hogy tétlensége folytán emberi lény kárt szenvedjen.” Ahogy novelláiban megjövendölte, 2015-re már a divatjamúlt modellek is engedelmeskednek ennek a beépített utasításnak.

Mostanra már nagyon közel járunk ehhez a dátumhoz. És a futurista, ingyenszoftver-úttörő, aktivista Eben Moglen szerint ennek az etikai parancsnak még be kell kerülnie a leginkább jelen levő robotjainkba: az okostelefonokba.

A Hackers on Planet Earth konferencián tervez érvelni amellett, hogy most már muszáj visszamenőleg is elhelyeznünk az iPhoneokba és az Androidos készülékekbe a robotika aranyszabályát. Ha nem tesszük, állítja, olyan módokon szolgáljuk robot urainkat, amikre nem is számítanánk.

Andy Greenberg, a Forbes számítástechnikai újságírója telefonon kérdezte erről Moglent, aki a Szoftveres Szabadság Törvényközpontjának is az elnöke. Moglen elmondta:

“Az én generációm, akik a XX. század közepén születtünk, mi úgy nőttünk fel, hogy a szabadságról és a technológiáról a hatvanas évek science fictionje alapján gondolkodtunk. Abban a science fictionben az írók úgy vélték, hogy a XXI. század első negyedében robotok mellett élünk majd.

És igazuk volt. Együtt élünk. Nincs nekik lábuk, kezük. Nem hoznak nekünk italokat. Nem tologatnak porszívót (bár néha ők a porszívó).

Az idő java részében mi vagyunk a test. Mi vagyunk a kezek és a lábak. Mindenhova visszük őket magunkkal. Mindent látnak, tisztában vannak a pozíciónkkal, a más emberekhez és más robotokhoz fűződő viszonyainkkal, információfolyamokat közvetítenek rólunk, ami más embereknek segít felmérni és ismerni viselkedésünket, szándékainkat és képességeinket – jobban, mint ahogy mi magunktól erre képesek lennénk.

De úgy nőttünk fel, hogy azt képzeltük, hogy ezeknek a robotoknak lesz a tervezésükbe építve egy alapelv-szabálykészlet.

 

Azt képzeltük, hogy a robotok úgy készülnek majd, hogy soha ne tudjanak bántani egy emberi lényt. A mi robotjainknak azonban nincsenek ilyen elköteleződéseik. Ezek a robotok mindennap bántanak minket.

Más embereknek dolgoznak. Úgy tervezték, készítették és üzemeltetik őket, hogy előnyöket és kontrollt adjanak embereknek – akik nem a tulajdonosaik! Ha nem építjük be visszamenőleg a robotika első szabályát ezekbe a gépekbe, végünk van.

Elveszik a pénzünket. Elveszik autonómiánkat. Kémkednek utánunk. És bárhol legyünk a világon, elvezethetnek a lefogásunkhoz, megveretésünkhöz, megkínzásunkhoz.

Ebben a pillanatban is vannak emberek, akiket azért kínoznak meg, mert egy tüntetésre magukkal vitték az iPhonejukat vagy mert a Facebookot használták, hogy valami politikai dolgot megszervezzenek. Vagy túl sokat fizettek valamiért – mert az eladó tudta, hogy fognak. A biztosításuk azért egyre drágább, mert ismerik a viselkedésüket. A bántalom ezekhez az emberekhez szoviális, gazdasági, orvosi szempontból jut el.

Amikor az agyad együttműködik egy robottal, ami nem (csak) neked dolgozik, nem vagy szabad. Egy entitás vagy, akit kontrollálnak.

Ha ötven évvel visszamész az irodalomban, mindezt már előre látták. Sokan ezeknek az elképzeléseknek a befolyása alatt nőttünk fel, és úgy hisszük, hogy a szabadság technológiáit előbb kell kifejlesztenünk, mint a kontroll technológiáit. Most vagyunk a kulcsfontosságú pillanatban. Az emberi lények elkezdtek olyan technológiákat használni, amik kívülről irányítják az életünk részleteit.”

Facebook hozzászólások