A szakadék a mai rendszerek és a tudományos-fantasztikus rendszerek között, amelyek a népszerű képzeletet uralják, még mindig óriási, bár sokan, laikusok és szakértők egyaránt, sikerül alábecsülniük. Nézzük csak az IBM Watsonját, amely egyelőre méltó mérföldkő lehet képzeletünk számára.
Ez egy nagyon nagyszabású, sok emberszázados intelligens tervezésű R&D folyamat eredménye, és több ezerrel több energiát használ, mint egy emberi agy. A Jeopardy! győzelme valódi diadal volt, amelyet a Jeopardy! szabályainak formulaszerű korlátozása tett lehetővé, de ahhoz, hogy versenyben maradhasson, még ezeket a szabályokat is át kellett dolgozni (ez is egy olyan kompromisszum: feladsz egy kis sokoldalúságot, egy kis emberséget, és kapsz egy közönségkedvenc műsort).
A Watson nem jó társaság, az IBM félrevezető, általános társalgási képességet sugalló reklámjai ellenére sem, és Watsont hihetően többdimenziós ügynökké alakítani olyan lenne, mintha egy kézi számológépet tennénk Watsonná. Watson hasznos központi képessége lehetne egy ilyen ügynöknek, de inkább kisagy vagy amygdala, mint elme – legjobb esetben is egy speciális célú alrendszer, amely nagy támogató szerepet játszhat, de távolról sem alkalmas arra, hogy célokat és terveket fogalmazzon meg, és éleslátóan építsen a társalgási tapasztalataira.
Miért akarunk Watsonból gondolkodó, kreatív ügynököt létrehozni? Talán Turing zseniális ötlete – a híres Turing-teszt – csapdába csalt minket: a törekvés arra, hogy legalább a képernyő mögött egy valódi ember illúzióját teremtsük meg, áthidalva az “uncanny valley”-t.”
A veszély az, hogy amióta Turing felvetette a kihívást – amely végül is a bírák becsapására irányuló kihívás volt -, az AI-alkotók megpróbálják a völgyet aranyos humanoid érintésekkel, a beavatatlanokat elvarázsoló és lefegyverző Disneyfication-effektusokkal leplezni. Joseph Weizenbaum ELIZA nevű, nagyon korai chatrobotja volt az ilyen felszínes illúziókeltés úttörő példája, és az a megdöbbenés, hogy nevetségesen egyszerű és sekélyes programja milyen könnyedén képes meggyőzni az embereket arról, hogy komoly, szívhez szóló beszélgetést folytatnak, küldte először küldetésére.
Megalapozottan aggódott. Ha van valami, amit megtanultunk az éves Loebner-díjért folyó korlátozott Turing-teszt versenyekből, akkor az az, hogy még a számítógépes programozás lehetőségeire és rövidítéseire nem hangolt, nagyon intelligens emberek is könnyen bedőlnek az egyszerű trükköknek.
A mesterséges intelligenciával foglalkozó emberek hozzáállása a “felhasználói felületen” történő félrevezetés ezen módszereihez a megvetéstől az ünneplésig terjedt, azzal az általános elismeréssel, hogy a trükkök nem mélyek, de hatásosak lehetnek. A hozzáállásban bekövetkező egyik változás, amely nagyon üdvözlendő lenne, annak őszinte elismerése, hogy a humanoid megszépítések hamis reklámot jelentenek – amit el kell ítélni, nem pedig megtapsolni.
Hogyan lehetne ezt elérni? Amint felismerjük, hogy az emberek nagyrészt olyan mesterséges intelligencia-rendszerek “tanácsai” alapján kezdenek élet-halál döntéseket hozni, amelyek belső működése a gyakorlatban kifürkészhetetlen, jó okot látunk arra, hogy azok, akik bármilyen módon arra ösztönzik az embereket, hogy jobban bízzanak ezekben a rendszerekben, mint amennyire azok indokolják, erkölcsi és jogi felelősségre vonhatók legyenek.
A mesterséges intelligencia alapú rendszerek nagyon erős eszközök – olyan erősek, hogy még a szakértőknek is jó okuk van arra, hogy ne bízzanak saját ítélőképességükben az eszközeik által szolgáltatott “ítéletekkel” szemben. De akkor, ha ezek az eszközhasználók anyagilag vagy más módon hasznot akarnak húzni abból, hogy ezeket az eszközöket terra incognitán keresztül vezetik, akkor meg kell győződniük arról, hogy tudják, hogyan kell ezt felelősségteljesen, maximális ellenőrzéssel és indoklással tenni.
Az ilyen rendszerek üzemeltetőinek engedélyeztetése és biztosítékkal való ellátása, ahogyan a gyógyszerészek, darukezelők és más szakemberek engedélyeztetése, akiknek hibái és téves döntései súlyos következményekkel járhatnak, a biztosítótársaságok és más biztosítók nyomására arra kötelezheti az AI-rendszerek alkotóit, hogy rendkívüli erőfeszítéseket tegyenek a termékeik gyengeségeinek és hiányosságainak felkutatása és feltárása érdekében, és hogy az üzemeltetésre jogosultakat felkészítsék arra, hogy vigyázzanak ezekre.
Egyfajta fordított Turing-tesztet képzelhetünk el, amelyben a bíró áll a bíróság előtt; amíg nem veszi észre a rendszer gyengeségeit, a túllépett határokat, a hiányosságokat, addig nem adnak ki működési engedélyt. A bírói minősítés megszerzéséhez szükséges mentális tréning igényes lesz. A késztetés, hogy emberi gondolkodási képességeket tulajdonítsunk egy tárgynak, ami a szokásos taktikánk, amikor egy intelligensnek tűnő ágenssel találkozunk, szinte lehengerlően erős.
Az a képesség, hogy ellenálljunk annak a csábításnak, hogy egy látszólagos személyt személyként kezeljünk, csúnya, rasszizmustól vagy fajgyűlölettől bűzlő tehetség. Sokan erkölcsileg visszataszítónak találnák az ilyen kíméletlenül szkeptikus megközelítés művelését, és előre láthatjuk, hogy még a legügyesebb rendszerhasználók is időnként engednének a kísértésnek, hogy “összebarátkozzanak” az eszközeikkel, már csak azért is, hogy enyhítsék a feladataik ellátásával kapcsolatos kellemetlenségüket.
Nem számít, hogy a mesterséges intelligencia tervezői milyen lelkiismeretesen mossák ki a hamis “emberi” érintéseket a termékeikből, számíthatunk a rövidítések, kerülőutak és a rendszerek és kezelőik tényleges “megértésének” eltűrt torzulásainak virágzására. A televízióban reklámozott új gyógyszerek ismert mellékhatásainak komikusan hosszú listája eltörpül majd a kötelezően feltárt olyan kérdések mellett, amelyekre az egyes rendszerek nem tudnak felelősségteljesen válaszolni, és súlyos büntetések várnak azokra a gyártókra, akik “elnézik” termékeik hibáit. (Széles körben megjegyzik, hogy a mai világban növekvő gazdasági egyenlőtlenségek jelentős része a digitális vállalkozók által felhalmozott vagyonnak köszönhető; olyan jogszabályokat kellene alkotnunk, amelyek mély zsebeiket letétbe helyezik a közjó érdekében)
.