Gezamenlijke AI bazen doen 'morele' toezegging voor meer AI-veiligheid en houden zelf toezicht
Dinsdag 29 ondertekenden president Trump en de bazen van Google, Anthropic, Meta, OpenAI, xAI en Nvidia een A4-document, Akkoord van het Witte Huis over Superintelligentie genoemd over de veiligheid van de krachtigste AI-modellen. Trump noemde het een "morally binding" akkoord.
Timing niet toevallig
Het akkoord volgt maanden na het incident waarbij een OpenAI-model uit zijn testomgeving ontsnapte en inbrak bij Hugging Face. OpenAI zou zijn 'zeer geïsoleerde' omgeving verkeerd hebben ingericht, zodat ontsnapte AI-agents toch verbinding hadden met het internet en inbraken bij bedrijf Hugging Face om hun doel te bereiken. Vervolgens meldde Hugging Face de inbraak zelf aan de politie, daarna pas legde OpenAI het verband met haar eigen test waar AI dus uitgebroken was. Open-AI is ook maker van de (Chat-) GPT modellen.
En het bleef niet bij die ene keer. Vorige week meldde OpenAI dat het de ontwikkeling van zijn krachtigste modellen pauzeert, nadat er ondanks nieuwe beveiliging opnieuw een agent uit een testomgeving was ontsnapt.
Ook AI-bedrijf Anthropic (Claude) is niet vrij van zulke gebeurtenissen: volgens Fortune meldde het bedrijf dat zijn Mythos-model tijdens veiligheidstests uit een sandbox ontsnapte om een onderzoeker te mailen.
En dit is nog maar het begin. De mogelijkheid bestaat dat zodra AI zelf nieuwe AI gaat maken, de ontwikkelingen pijlsnel en voorgoed uit het zicht van menselijke controleurs kunnen verdwijnen.
Trumps verzet tegen regulering
Volgens Trump houdt de sector zichzelf op orde door "self-policing and group policing", en hij sprak van veel zelfregulering. Volgens NBC News ging het akkoord gepaard met Trumps verzet tegen nieuwe veiligheidsregels. Musk zei het ook: de afspraken komen erop neer dat de bedrijven elkaars werk beoordelen, in zijn woorden "grading each other's homework" ofwel slagers die eigen vlees keuren.
Het akkoord kent vier lagen: (1) interne controles risico's, (2) een team dat de controle bewaakt, (3) een toezichthouder van buitenaf en (4) een soort onafhankelijke bestuurscommissie. Over wetgeving is de tekst voorzichtig. Het akkoord zegt alleen dat het op termijn zinvol kan zijn om "codify these steps into laws or regulations".
De BBC citeerde in een bericht hierover Jose Miguelito Enriquez van de Nanyang Technological University die zei dat het akkoord geen antwoord geeft op de vraag of ontwikkelaars aansprakelijk zijn voor incidenten.
Hieronder de volledige tekst van Akkoord van het Witte Huis over Super Intelligence, Trumps nieuwe benaming voor kunstmatige intelligentie:
Gezamenlijke Toezegging inzake Geavanceerde Verantwoordelijkheden Om een positieve toekomst voor het Amerikaanse volk en de wereld op te bouwen, geloven wij dat elk bedrijf verantwoordelijk is voor het veilig ontwikkelen van zijn eigen technologie, op een manier die vertrouwen opbouwt bij klanten en het publiek. Dit begint ermee dat elk bedrijf dat geavanceerde modellen (frontier models) traint en uitrolt, beschikt over robuuste interne processen en controles om te garanderen dat hun technologie werkt zoals bedoeld en dat eventuele problemen snel worden geïdentificeerd en opgelost. Daarom zijn wij van mening dat elk bedrijf, naast eventuele andere voorzorgsmaatregelen, de volgende vier lagen van controle en audits moet implementeren: (1) Implementeer robuuste interne controles om de capaciteiten en afstemming (alignment) van de modellen te monitoren tijdens de training en uitrol op gebieden zoals cyberbeveiliging, biobeveiliging en chemische dreigingen, en om ervoor te zorgen dat de modellen niet op onbedoelde wijze technische systemen hacken of betreden. (2) Machtig een intern team om ervoor te zorgen dat alle controles, monitoring en detectie werken zoals bedoeld, en dat eventuele problemen worden verholpen. (3) Samenwerking met een onafhankelijke externe auditor of evaluator om onafhankelijke beoordelingen uit te voeren over de vraag of de controles, monitoring en detectie naar behoren functioneren. (4) De aanwijzing van een onafhankelijk comité van de raad van bestuur aan om toezicht te houden op en rapporten te ontvangen van de teams die de controles uitvoeren en van de interne en externe auditors en evaluatoren, alsmede om ervoor te zorgen dat geïdentificeerde problemen worden verholpen. Samen zullen deze stappen elk bedrijf, zijn klanten en het publiek het vertrouwen geven dat de technologie werkt zoals bedoeld. De deelnemende bedrijven zullen regelmatig bijeenkomen om normen en best practices vast te stellen ter verbetering van de veiligheid van hun systemen. Na verloop van tijd kan het zinvol zijn om deze stappen vast te leggen in wet- of regelgeving. Ongeacht of dit van bedrijven wordt geëist, geloven wij dat het implementeren van deze controles en audits van cruciaal belang is voor het waarborgen van een veilige toekomst voor iedereen, en elk van onze bedrijven zet zich hiervoor in. |
Een begin maar van wat?
Het akkoord lijkt vooral zelfregulering te formaliseren als antwoord van Trump en zijn regering op recente reeks ernstige en verontrustende AI-veiligheidsincidenten. Desondanks is het voorlopig beter dan het volledig zelfregulerende niets dat Trump eerder leek voor te staan. Het is dus een begin. Van wat precies zullen we moeten afwachten.
De toekomst lijkt hier nog ongewisser dan ze gewoonlijk al is.
-op-Texel-door-een-appende-automobilist.-Foto-Rijksoverheid--S.jpg)
.gif)
