„Rodney Brooks, a Massachusetts Institute of Technology (MIT) robotika professzora saját blogján megjelent esszéjében a mesterséges intelligenciával (AI) kapcsolatos előrejelzések jellegzetes érvelési és logikai hibáit elemzi, mindenek előtt az AI-tól és a robotoktól való félelmek kapcsán. Ezek jellemzően arra irányulnak, hogy a gépek átveszik az uralmat felettünk, de szelídebb formában is azt vetítik előre, hogy ma szinte elképzelhetetlen mértékben teszik majd feleslegessé az emberi munkát, soha nem látott tömeges munkanélküliséget okozva.
Brooks ezeket az állításokat nevetségesnek tartja, mivel olyan félelmeken alapulnak, amelyek megítélése szerint sosem fognak bekövetkezni. Mielőtt rátérne a téves előrejelzésekhez vezető hét fő érvelési hibára (amiket konkrét gyakorlati példák sokaságán keresztül világít meg), áttekinti azt a négy részterületet, amelyekre a legtöbb előrjelzés vonatkozik.
(A) Általános mesterséges intelligencia (AGI). A jelenleg még csak kutatási fázisban lévő AGI sokkal nagyobb ambíciókat jelent, mint amire a jelenlegi és a belátható jövőn belüli AI képes. Az AGI „emberszerű” működést feltételez az ezzel felruházott gépről, a maga komplexitásában és összetettségében. Ez hatalmas szintugrást feltételez a ma használt AI technológiákhoz és gépi tanuláshoz képest. A közgondolkodásban az AI gyakran úgy jelenik meg, mint ami egy példája, egy szelete az AGI-nak, felruházva olyan tulajdonságokkal, amelyektől ma még nagyon messze áll a technológia. (Egyébként is félrevezetőnek tartja azt a szöveghasználatot, amely az AI-t mintegy autonóm cselekvőként, önálló entitásként feltételezi.)
(B) Szingularitás. Gyakori feltételezés futurológusok részéről, hogy – a fekete lyukak gravitációs szingularitásához hasonlóan – technológiai szingularitást feltételeznek a mesterséges intelligencia fejlődésében, vagyis olyan pályát, ahol egy ponton túl a fejlődés szinte elképzelhetetlen mértékben, követhetetlen ugrással gyorsul fel, úgy, hogy az emberiség elveszíti felette a hatalmat. A szerző ezt a fajta várakozást a vallásos hiedelmekhez hasonlítja, amit a tapasztalatok nem igazolnak. A félelmek elsősorban arra irányulnak, hogy a gépek megtanulják saját maguk és más gépek programozását, kicsúszva ilyen módon az emberi kontroll alól. Brooks szerint jelenleg még egy egyoldalas programot megérteni képes program sem áll rendelkezésre, még olyan szinten se, amit egy tanuló programozó egy hónapnyi képzés során képes lenne. Az emberhez hasonló működéstől elválasztó távolságot jelzi, hogy még egy egyszerű féreg neuronjainak a működését is vagy harminc éve kutatják, pedig ez 302 neuron 7000 kapcsolatát jelenti csupán. Az emberi agyban 100 milliárdnyi neuron van, felbecsülhetetlen mennyiségű összeköttetéssel. A szerző szerint akár évszázadokba is beletelhet, mire az emberi agy működését szimulálni tudják.
(C) Értéknélküliség. A mesterséges intelligencia egyre összetettebb feladatok elvégzésére képes, ami előrevetíti azt a félelmet, hogy egyfajta „szuperemberekként” lesznek majd képesek viselkedni, anélkül, hogy ebben az általánosan elfogadott emberi értékek bármilyen korlátot jelentenének. A szerző ugyanakkor rámutat, hogy a célok kitűzésére továbbra is csak az ember lesz alkalmas. Példaként említve, hogy ha repülőjegyet rendel egy adott városba, akkor a böngészőjét rövidesen elárasztják olyan hirdetések, amelyek szintén repülőjegyet ajánlanak ugyanoda, ami teljesen értelmetlen, egyben az AI korlátait is jelzi, mivel az csak a múltbeli tapasztalatokra képes építeni. Célkijelölésre belátható időn belül még nem lesznek képesek, és kérdéses, hogy ez egyáltalán realitássá válhat-e.
(D) Borzalmas emberpusztító gépek mesterséges intelligenciával. Létező félelem, hogy a mesterséges intelligencia szembefordul alkotójával, és olyan gépeket hoz létre, amelyek képesek lesznek az ember, az emberiség elpusztítására. (Ez a kategória nem keverendő össze a katonai célból létrehozott gyilkoló robotokkal.) Ezt a félelmet nem utolsó sorban a sci-fi irodalom és az ezekből készített filmek táplálják, de a szerző szerint erre is vonatkozik az a hét érvelési hiba, amelyeket a következőképpen foglalja össze (zárójelben jelölve, hogy a fenti területek melyikére jellemző elsősorban).
I. Alulbecslés és túlbecslés (A, B, C, D). A szerző idézi a Szilicium-völgy egyik fő innovátora, Roy Amara egyik mondását, miszerint a technológia hatását hajlamosak vagyunk rövidtávon túlbecsülni, hosszú távon alábecsülni. Példának hozva fel a GPS-technológiát, amit eredetileg az amerikai légierő bombázó műveleteinek támogatására állítottak hadrendbe 1978-ban, és első gyakorlati alkalmazására az első iraki háborúban (1991) került sor. Általánosan elfogadottá azonban csak a 2000-es évek elején vált a hadseregben, addig pedig – a várt eredmények késlekedése miatt – többször is majdnem leállították a programot a túlzott rövidtávú várakozások miatt. Arra azonban senki nem számított, hogy ugyanez a technológia mára milyen mértékben rajzolja át a polgári élet mindennapjait. Hasonló innovációként említi a blokkláncokat, a szekventált emberi genomot, a nap- és szélenergiát, de még a bolti házhoz szállítást is. A legjobb példa mégis a számítógépek elterjedése, aminek kapcsán már az 50-es években – az első kereskedelmi verziók megjelenésekor – félelmek merültek fel, hogy munkahelyek tömegét teszi feleslegessé. Azonban még vagy harminc évig, a mikroprocesszorok általános elterjedéséig nem jelentett komolyan érzékelhető hatást az emberek életében. Ugyanakkor az 1966-ban forgatott Star Trek sorozatban a háromszáz évvel későbbre vetített történetben szereplő fedélzeti komputerek már harminc év múlva is nevetségesen kezdetlegesnek hatottak.
II. Mágikus képzeletek (B, C, D). Arthur C. Clarke, a tudományos-fantasztikus irodalom egyik nagy alakja az előrejelzésekkel kapcsolatban három törvényt fogalmazott meg, amelyekből a harmadik azt mondja ki: egy megfelelően fejlett technológia szinte megkülönböztethetetlen a mágiától. A szerző ennek illusztrálására azt a gondolatkísérletet végzi, hogy Newtont, korának talán legokosabb emberét időgéppel előrerepíti a mai korba, megmutatva neki, hogy mire képes egy iPhone készülék. Vajon Newton – az időközben természetesség vált tudományos és technológiai ismeretek híján – képes lett-e volna másképp leírni, amit lát, mint egyfajta ezoterikus jelenségként? Miért tudnánk mi pontosabban leírni a jövő technológiáit? A mágikusnak tűnő tulajdonságok miatt hajlamosak vagyunk korlátlannak látni, láttatni a várható technológiai megoldásokat, de a tapasztalat azt mutatja, hogy a világegyetemben semmi nem korlátlan. A mesterséges intelligencia sem lehet az.
III. Teljesítmény vs. kompetencia (A, B, C). A mesterséges intelligencia teljesítménye nem jelenti azt, hogy egyben ezzel arányos kompetenciát is meg tud jeleníteni. Ha egy raktáráruházban megkérdezünk egy eladót, hogy hol keressük a csaptelepet, és rossz sorra irányít minket, másodszorra már aligha őt kérdezzük meg, kompetenciahiány miatt. A keresőmotorok ezzel szemben, bár rendkívül hasznosak, nem képesek önmaguktól rangsorolni a feldobott válaszokat – az ebben segítő címkézések ugyanúgy emberektől származnak, mint más algoritmusok inputjai. A mesterséges intelligencia nem képes olyan jellegű általánosításra, mint amire az emberi agy képes, csupán a gyakori emberi értékeléseket tudja sorba állítani, nem pedig meghaladni azokat.
„IV. Bőrönd-szavak” (A,B). A „bőrönd-szavak” (egyik területről egy másikra „átcipelt kifejezések) az egyik leggyakoribb forrásai a mesterséges intelligenciával kapcsolatos félreértéseknek. Sokszor maguk a tudósok is okai ennek, amikor a közérthetőség kedvéért az ember kognitív folyamatait leíró kifejezésekkel írják le az AI működését, de fontos szem előtt tartani, hogy a tanulás, a tapasztalat, a tudatosság, a gondolkodás, a becslés, a várakozás, a képzelet, a játék, az olvasás, a látás, az értelmezés etc. egészen más mechanizmusokat, folyamatokat jelent az AI, mint az emberi értelem esetében. Az ilyen szavaknak a használata az AI esetében sokkal többet sejtet, mint amit leírunk vele.
V. Exponencialitás (A,B). Gordon Moore sokat hivatkozott, 1965-ös előrejelzése szerint a mikrochipeken lévő áramkörök komponenseinek száma évente (későbbi módosítás szerint kétévente) megduplázódik. Bár az előrejelzés eredetileg 10 évre szólt, ha csökkenő mértékben is, de még 50 év múlva is működött – ennek ellenére alighanem elértünk a tendencia végére. A Moore-törvény ihlette exponenciális növekedési várakozások a szerző szerint nem számolnak azokkal a korlátokkal, amelyeket a fizikai tulajdonságok egy idő után mindenképpen kijelölnek, ahogy a piaci kereslet növekedésének mérséklődésével sem. Az exponenciálisnak feltételezett folyamatok egy idő után S-vonalat vehetnek fel, vagyis egy gyors növekedési szakasz után átfordulhatnak lassuló növekedésbe, majd akár visszaesésbe is.
VI. Hollywoodi forgatókönyvek (C, D). A fantasztikus filmek egyik jellemző sajátja, hogy egy-egy előrevetített technológiát a környezetétől elszigetelve mutatnak be – mint az az emberformájú robot, amely papíralapú újságot (és nem tabletet) ad gazdája kezébe a filmen. A mesterséges intelligenciával rendelkező robotokat úgy mutatja be, mint amelyek egyszerre csak becsöppennek egy olyan világba, amit egyébként nagy vonalakban a ma ismert technológiák jellemeznek. Kihagyják ilyen módon azt a technológiai környezetet, amellyel együtt lenne értelmezhető, csakúgy, mint az odáig vezető úton született, kevésbé fejlett technikai alkalmazásokat, amelyek során rengeteg tapasztalat gyűlik fel arra, hogy az egyre fejlettebb alkalmazások az eredeti céloknak megfelelően működjenek. A kihívások, amelyekkel szembe kell majd néznünk, korántsem lesznek váratlanok, azokat az ember részéről is hosszú tanulási folyamat előzi meg.
VII. Az alkalmazás elterjedésének sebessége (B, C, D). A szoftverek újabb és újabb verzióinak gyors cserélődése azt a téves képzetet eredményezheti, hogy ez általánosítható a technológia minden formájára. Holott míg a szoftverfrissítés telepítési költségei a nullához közelítenek, a hardverekben és más fizikai javakban az új verziók elterjedése komoly költségekkel jár, így időben is lassabban valósul meg a váltás. Bármennyire is nagymértékben törnek előre például az önvezető járművek, a jelenlegi ember vezette autók azért még évtizedekig az utakon maradhatnak (ha nem még tovább). Az Egyesült Államok légierejében használt B-52-esek H-verzióját 1961-ben vezették be, az utolsót 1963-ban gyártották, és várhatóan még 2040-ben is repülni fognak. Az interkontinentális rakéták Minuteman-III típusait 1970-ben telepítették, és a mai napig üzemben vannak – a működtetésükhöz szükséges indítókódokat pedig floppy lemezeken (!) tárolják. Vagyis egy új technológia megjelenése korántsem jelenti feltétlenül annak gyors elterjedését, pláne nem a régebbiek kiszorítását.
Összegzésképpen a szerző óvatosságot javasol minden olyan előrejelzés olvasása kapcsán, ami a mesterséges intelligencia és a robotika jövőjére vonatkozik. Tapasztalata szerint az említett hét érvelési csapdából kettő-három-négy szinte minden előrejelzésben megtalálható.”
Forrás:
The Seven Deadly Sins of Predicting the Future of AI; Rodney Brooks; 2017. szeptember 7.
Lásd még: Rodney Brooks; Wikipédia
Rodney Brooks: Miért van szükségünk robotokra?; TED; 2013. február (videó, magyar feliratozással)
Commentary; Rob May; Inside AI; 2017. szeptember 17. [Rövid eszmefuttatás arról, hogy elképzelhető, hogy fizikai-természeti korlátai vannak annak, hogy az embernél értelmesebb rendszereket hozzunk létre. Különösen az általános mesterséges intelligencia értelmében. Lásd az ismertetett cikk A. pontját is.]
