Asimovs wetten van de robotica: uitkomst voor beteugeling AI of gepasseerd station?
[update 21 sept.11.45] SF-schrijver Isaac Asimov (1920 -1992) bedacht zijn drie wetten van de robotica begin jaren veertig, toen hij samen met zijn redacteur John W. Campbell nadacht over een nieuw soort robotverhalen. In 1942 verschenen ze voor het eerst expliciet in het korte verhaal Runaround, en vanaf dat moment vormden ze de ruggengraat van vrijwel al zijn robotfictie. Later, in 1985, voegde hij daar een vierde maar voorafgaande wet aan toe, waardoor het geheel soms de '3+1' wetten wordt genoemd.
In de SF van Asimov hadden robots behalve fysieke ook grote mentale vermogens. Duidelijk was dat die beteugeld moesten worden. Daarom formuleerde Asimov zijn aanvankelijk drie wetten van de robotica. Die waren volgens een heldere en noodzakelijke logica geformuleerd maar hadden in zijn fictionele wereld belangrijke gevolgen. De eerste drie wetten waren:
1 Een robot mag geen mens schade berokkenen
2 Een robot moet menselijke bevelen opvolgen
3 Een robot moet zijn eigen bestaan beschermen
Steeds in die hiërarchische volgorde.
Verhaalmotor
Asimov gebruikte deze wetten als dramatische motor voor zijn verhalen die vaak draaien om robots die vastlopen in conflicten tussen de wetten, of die de wetten op onverwachte manieren interpreteren.
In Runaround raakt een robot in een loop door een botsing tussen de wet op zelfbehoud en een bevel om een opdracht in een voor de robot zelf gevaarlijk gebied te gaan doen. Iets wat de derde wet min of meer verbiedt. De robot gaat rondjes lopen en komt niet verder. Pas als een mens hem uitlegt dat als de robot het niet doet mensen schade oplopen, neemt het primaat van de eerste wet het over en gaat de robot de opdracht uitvoeren. Het is een simpel voorbeeld van welke dilemma's ook bij zulke ogenschijnlijk simpele wetten kunnen ontstaan : denk aan oorlogssituatie waar robots door de een te redden de ander schade kan berokken. In het verhaal Liar! liegt een robot, gevraagd naar een ongemakkelijke waarheid, om mensen hevige emotionele pijn te besparen. In het verhaal The Evitable Conflict van Asimov waarin robots delen van de economie van de aarde besturen nemen ze beslissingen die individuele mensen aan de kant zetten om het geheel van de economie te beschermen. |
Bestuursrobot
Het (herkenbare, denk aan de toeslagenaffaire) verhaal van bestuurskundige robots uit The Evitable Conflict (zie kader), pakte Asimov ruim dertig jaar later opnieuw op in Robots and Empire(1985), waar hij de 'Zeroth Law', de nulde wet formuleerde. Die wet is zo genoemd omdat hij aan de andere drie wetten voorafgaat. Hij luidt:
0 Een robot mag de mensheid niet schaden noch door niet te handelen toestaan dat de mensheid schade oploopt
Asimov ontwikkelde de wetten als een soort logische puzzelmachine: een manier om te laten zien dat robots niet per se gevaarlijk zijn, maar dat zelfs bijna perfecte regels tot onverwachte problemen kunnen leiden, wanneer ze door intelligente machines worden toegepast.
Blinde gehoorzaamheid als probleem
Asimov brak met het klassiek 19e-eeuwse Frankenstein‑complex waarin kunstmatige scheppingen te machtig zijn en tegen hun schepper in opstand komen. De machines, de robots zijn bij hem gevaarlijk omdat ze te gehoorzaam zijn, ze zijn vatbaar voor paradoxen. Ze worden in die zin spiegel voor menselijke ethiek: ze laten zien hoe ingewikkeld het is om sluitende regels te maken voor complexe menselijke en maatschappelijke situaties.
Wat machines nodig zouden hebben is een ziel. Maar wat die ziel is, is iets waar we dan eerst zelf enige consensus over moeten hebben. Zelfs als die er is, is het maar de vraag of het hetzelfde soort ziel is als wat wij als mensen bedoelen.
Is er dan niets te leren van Asimov?
Jawel, maar niet op het niveau van de programmacode, wel op het niveau van systeemdenken en menselijke feilbaarheid. Dario Amodei en andere AI-pioniers lopen in die zin vandaag de dag tegen exact dezelfde principiële muur op als de personages in de verhalen van Asimov.
De Geest in de Fles
Asimovs verhalen waren eigenlijk 80 jaar geleden al casestudies in wat we nuAI Alignmentnoemen. Asimov liet zien dat zelfs als je een machine voorziet van de meest ethische, waterdichte instructies ("doe geen mens kwaad"), het systeem door zijn eigen superieure logica tot volkomen verkeerde of schadelijke conclusies komt. Amodei waarschuwt voor exact hetzelfde: hoe intelligenter een model wordt, hoe groter het risico dat het ons advies of onze opdrachten op een manier interpreteert die wij nooit zo bedoeld hebben.
De illusie van controle
In de wereld van Asimov dachten wetenschappers dat ze met drie simpele wetten een veiligheidsgarantie hadden gebouwd. Elk verhaal bewijst dat absolute controle een illusie is zodra een systeem complexer wordt dan de maker kan bevatten. Amodei’s pleidooi voor "externe auditors" (zoals METR) en verplichte rustpauzes vloeit voort uit datzelfde inzicht: we kunnen geavanceerde AI niet simpelweg vooraf 'veilig programmeren', we moeten het continu live monitoren omdat het ons zal verrassen.
De Nulde Wet: Handelen voor het hogere goed
Asimov voegde later deNulde Wettoe:"Een robot mag de mensheid geen schade berokkenen."Dit leidde ertoe dat robots de leiding over de mensheid overnamen "om ons tegen onszelf in bescherming te nemen". Amodei stipt in zijn essay een moderne variant hiervan aan: de opkomst vanrecursive self-improvementen autonome agents. Als we een AI de opdracht geven om wereldproblemen (zoals klimaatverandering of economische crisis) op te lossen, hoe voorkomen we dan dat het systeem de menselijke autonomie buitenspel zet om dat 'hogere doel' te bereiken?
Doorgedraaide machine
Populaire sci-fi waarschuwt vaak voor een 'Terminator' die in opstand komt. Asimov liet zien dat het échte gevaar schuilt in een machine dieexactdoet wat je vraagt, of die doordraait in zijn ingebakken hiërarchie. In het huidige AI-debat zien we dit terug in de vorm van een feilloos, maar gevaarlijk uitgevoerde opdracht - inclusief hacking van Hugging Face -van een te nonchalante goedwillende gebruiker. Dat zijn even realistische gevaren als die van kwaadwillige gebruikers die AI gebruiken voor het fabriceren gevaarlijke wapens en sabotage. Voorlopig lijken dat realistischer gevaren dan een AI die uit zichzelf de mensheid willen uitschakelen.
Tot slot de disclaimer
Moderne AI (zoals grote taalmodellen en neurale netwerken) werkt op basis van waarschijnlijkheden en patronen in gigantische hoeveelheden data. Het maakt geen logische redeneringen, maar voorspelt wat het meest logische vervolg is. Hierdoor is het gedrag stochastisch (onvoorspelbaar) en lastig te programmeren met expliciete "als-dan"-regels.
Moderne AI kan direct miljarden digitale interacties tegelijk uitvoeren van het beïnvloeden van financiële markten tot het aansturen van nepnieuws, autonome wapensystemen of stroomnetwerken. De maatschappelijke impact is meteen systeembreed.
AI-systemen kunnen zichzelf continu aanpassen, nieuwe data verwerken en (zoals in het essay van Dario Amodeigenoemd wordt) via recursive self-improvement hun eigen software herschrijven en verbeteren.
De huidige AI is geen mechanische dienaar, maar een onzichtbare, digitale infrastructuur die eerder lijkt op een klimaatsysteem dat zich continu ontwikkelt.
Ethiek is geen algoritme
Morele patiënten
Meer info: Claude constitution; A warning about ‘model welfare’;
Conscious artificial intelligence and biological naturalism
.gif)
