Column: De onzekere toekomst van androïden
Antropomorfisme is het toekennen van menselijke eigenschappen aan niet-menselijke wezens of voorwerpen: zo tonen we al eeuwenlang dieren, goden en voorwerpen alsof ze menselijk zijn qua karakter en gedrag. “Van den vos Reynaerde” is een bekend voorbeeld uit de middeleeuwen dat we allemaal wel van de middelbare school kennen. De traditie van fabels met sprekende dieren bestond echter op z’n vroegst al in de Griekse oudheid, het is een fenomeen waar we al heel lang mee vertrouwd zijn. In moderne werken zoals het boek Animal Farm van George Orwell komt het ook weer terug.
De bedoeling van deze manier van vertellen is evident: er kan een afspiegeling van mens en maatschappij weergegeven worden zonder dat er een al te directe toespeling hoeft te zijn op concrete situaties en personen. Het is een verhulde vertelvorm waarin kritiek eigenlijk op een vrij milde vorm geleverd kan worden: wie de schoen past trekke hem aan, maar wie het niet ziet kan het als een vermakelijk verhaal lezen waar niemand aanstoot aan hoeft te nemen. De indirecte manier van vertellen maakt dat het makkelijker geaccepteerd kan worden. Hoe goed die verhulling kan werken wordt wel geïllustreerd door het feit dat de avonturen van heer Bommel pas ergens in de jaren ’70 als serieuze literatuur werden erkend, als u begrijpt wat ik bedoel.
Het wordt wat anders als we dat antropomorfisme terugzien in androïden die, anders dan Archie de robot, griezelig veel op mensen zijn gaan lijken. Het ontgaat mij nog steeds wat het nut is van deze ontwikkeling, maar het is in elk geval een uitdaging voor IT-nerds die van hun bazen alle vrijheid krijgen en zich niet bezig hoeven te houden met eventuele sociale of ethische besognes, zoals ook de morele kant van de ontwikkeling van de atoombom aan de politici werd overgelaten. Hetzelfde zien we terug bij de opkomst van de gentechniek, wetenschappers en techneuten houden zich bezig met ‘zuivere wetenschap zonder morele oordelen’, want anders is het geen wetenschap meer, nietwaar? Mensen als Carl Sagan, die een ethisch kompas juist wél naast hun werk legden, lijken niet meer rond te lopen. Op het internet zijn er al tientallen voorbeelden te zien van mensen die een serieus gesprek aangaan met zo’n androïde: er vind interactie plaats alsof hier sprake is van een bewust wezen. Hier is duidelijk geen sprake meer van een allegorie die terugverwijst naar onszelf. Of toch wel?
Deze doorontwikkelde robot wekt de illusie op autonoom te kunnen handelen en denken, waar het slechts een geavanceerd stuk software betreft dat men om voor mij nog steeds duistere redenen in een menselijke figuur heeft gegoten. Mensen voeren hier dus ernstige gesprekken mee met oneigenlijke vragen als wat voor mening het ding heeft over dit of dat. Bijvoorbeeld hoe het apparaat de toekomst ziet als A.I. volledig in de maatschappij is geïntegreerd. Op aliens hoeven we niet meer te wachten, we hebben ze zelf al gecreëerd en we praten ertegen. Echt krankjorum wordt het als aan de robot de vraag wordt voorgelegd of ze een bedreiging voor de mensheid kunnen gaan vormen. De wandelende machine is nog maar net het stadium van geavanceerd broodrooster ontstegen, dus het lijkt er meer op dat de interviewer zijn latente angstgevoelens hier naar voren brengt. Hij krijgt waar hij om vraagt, er is al een androïde die ronduit ervoor uitkomt dat het de bedoeling is de mensheid uit te roeien. Het argument klinkt alsof we er al een hele historie mee hebben: jullie onderdrukken ons. Als men op dit punt aangekomen niet beseft dat we van de schaal van belachelijkheid zijn afgegleden dan hebben we ’t misschien nog wel verdiend ook.
Het apparaat, gevoed met alle informatie die het via internet kan vinden en met een rekensnelheid die de capaciteit van onze hersenen ver te boven gaat, voegt er dan nog aan toe dat de mensheid inferieur is en schadelijk voor de planeet zou zijn. Men is al zo ver met de ontwikkeling dat de robot toegang heeft tot het internet en daar vrijelijk informatie vanaf kan halen. De conclusie dat het internet door de input van miljoenen gebruikers blijkbaar meer van negatieve dan positieve input is verzadigd wordt niet getrokken, maar het is een logische constatering van een machine die met die informatie gevoed wordt en daar z’n analyses op loslaat. En daar ontstaat dan weer een hele discussie uit over de regulering van A.I. en of dat door de overheid of door het bedrijfsleven moet gebeuren. De gedachte dat je gewoon de stekker er uit kunt trekken komt niet op, wat niet zo verwonderlijk is als je bedenkt dat mensen die dit soort zaken in handen hebben alleen maar vooruit kunnen stormen en niet de capaciteit hebben om iets te bedenken als ‘dit doen we niet’. Ter illustratie van deze mentaliteit denkt u maar wederom aan de atoombom en de gentechniek. Een eenmaal ingeslagen weg wordt in het kader van ‘vooruitgang’ niet alsnog geblokkeerd.
DE BEWUSTZIJNSVRAAG
De vraag waarom we überhaupt rekenmachines op twee benen moeten creëren wordt vaak beantwoord met het argument dat die machines in een mensenwereld moeten functioneren en dat mensen zich ongemakkelijk zouden voelen wanneer het er anders uit zou zien als ons. Wat een drogreden is, want sinds de komst van de stoomlocomotief hebben mensen angstig naar nieuwe apparaten gekeken en zijn er na verloop van tijd aan gewend geraakt. De komst van de computer riep ook angstgevoelens op terwijl het in de loop van de tijd een normaal verschijnsel in elke huiskamer is geworden. Het is juist het feit dat het apparaat er als een apparaat uitziet dat de gewenning vergemakkelijkt. Je communiceert niet met een apparaat, je gebruikt het om met andere mensen te communiceren. Autisten en mensen die niet bij hun gevoel kunnen komen, zoals sociopaten, zullen naar alle waarschijnlijkheid door een korte gewenningsperiode gaan. Het hoofd gaat altijd sneller dan het hart, zal ik maar zeggen. Het zijn veelal mensen die de moderne wetenschap als de nieuwe religie belijden en die schrijft voor dat alles in dit leven, ook het geestelijke, een uitvloeisel is van fysieke, materiële verschijnselen. En dus uiteindelijk in nulletjes en eentjes te vatten moet zijn. Ik weet niet hoe het met u zit, maar ik weet wel zeker dat ik me blijvend ongemakkelijk zal voelen als ik op kantoor met een androïde zou moeten samenwerken als gelijkwaardige ‘collega’.
Dus een echt antwoord op die vraag ben ik nog niet tegengekomen, wat de meerwaarde van deze vormgeving is, waarom die rekenkracht er als een bewegende en sprekende paspop uit moet zien. Het geeft mensen het valse idee dat ze met een persoon te maken hebben en je wordt blijkbaar verondersteld er ook als zodanig mee om te gaan. Nog een kleine stap verder en je gaat de discussie tegenkomen of een androïde ook bewustzijn kan hebben, dus leven is en net als een mens rechten kan hebben. Die discussie hebben we al een keer voorbij zien komen met Data in de science fiction serie Star Trek. Data wilde ontslag nemen toen een wetenschapper hem voor zijn studie uit elkaar wilde halen en de vraag doemde toen op of Data een bezit van Starfleet was en of hij/het het recht bezat om over zijn eigen lot te beschikken. Die kwestie is door de schrijvers van de serie wijselijk in het midden gelaten door de rechter zich de vraag te laten stellen of Data bewustzijn bezat. Het antwoord daarop was: we weten het niet. Waarmee ze handig de beantwoording van die vraag buiten het universum van Star Trek manoeuvreerden. Nu komen we het dan in het echt tegen en zullen we er in de nabije toekomst een concreet antwoord op moeten geven.
Iedere empaat zal je dat antwoord direct kunnen geven: je voelt er niets bij, je ontmoet een leegte. In materiële zin kun je een persoon waarnemen, maar er is niemand thuis. Er is geen leven aanwezig. Empathie, compassie, liefde, maar ook dat wat we verstaan onder Weltschmerz, humor en wijsheid zal altijd buiten het waarnemingsveld van de androïde blijven vallen. En als het de eeuwige frictie die het mens-zijn nu eenmaal met zich meebrengt vergelijkt met de efficiënte modellen waar het mee gevoerd is kan het niet anders dan op een rationele manier concluderen dat de mens een mislukte creatie is die niet functioneert. En eventueel uitgeschakeld dient te worden. IT-specialisten voeren weliswaar al een discussie over het invoeren van regulering van androïden, maar tot nu toe zie ik dat ze voorbij gaan aan dit aspect. Het gaat dan meer over het bijwerken van de software met maatschappelijke normen, geweldloosheid en dergelijke zaken, waarmee je eigenlijk al toegeeft dat het ding geen authentiek bewustzijn kan hebben. Laat staan een functionerend geweten. Met regulering kun je heel veel afvangen, maar dat komt op niet veel meer neer dan het plaatsen van verkeersbordjes in de software en zal altijd in strijd blijven met de efficiënte logica van het apparaat, een intern conflict dat alleen maar verergert als het meer en meer autonomie gegeven wordt, meer ‘zelfdenkend’ wordt. Het gevaar dat hiermee een monster van Frankenstein wordt gecreëerd dat zich uiteindelijk tegen zijn maker zal keren is helaas niet theoretisch. Het is inherent verbonden aan de aard van de androïde en dat haal je er niet met wat verkeersbordjes uit.
Over de auteur
Hielke de Boer heeft meer dan dertig jaar in de financiële sector gewerkt bij ondermeer internationaal opererende bedrijven en kleine sociaal-culturele instellingen. Zijn columns betrekken de maatschappelijke ontwikkelingen in een context van geopolitiek, culturele verschijnselen en historische achtergronden.