In zijn essay We Must Pace the Frontier pleit Dario Amodei, CEO van AI-bedrijf Anthropic, voor een gecontroleerde vertraging van de snelst vorderende kunstmatige intelligentie.Amodei benadrukt dat zijn oproep niet bedoeld is om de ontwikkeling of het trainen van AI-modellen volledig stil te leggen, maar om een gecontroleerd tempo (“pacing”) te hanteren.Met dit tempo moeten ontwikkelaars voldoende tijd krijgen om modellen grondig te beveiligen en op één lijn te brengen met menselijke waarden (alignment), waarna onafhankelijke auditoren de veiligheid formeel kunnen bevestigen.
Pauze / extra tijd is noodzaak
Volgens Amodei zijn recente technologische doorbraken en veiligheidsincidenten de directe aanleiding voor deze vertrouwensbreuk met het huidige ontwikkeltempo. De snelle opkomst van recursive self-improvement (RSI) — waarbij AI-systemen zelf nieuwe generaties AI ontwerpen en verbeteren — en incidenten met ongecontroleerde agenterij leggen een extreme druk op de bestaande veiligheidsinfrastructuren. Zonder pauze of vertraging dreigt de technologische vooruitgang de wetenschap achter controle, transparantie en interpretatie snel in te halen.
Drie redenen voor extra tijd
Tijd om fouten te voorkomen
Het bouwen van geavanceerde modellen vereist een immens complexe infrastructuur en data-hygiëne. Haastwerk leidt tot operationele fouten en onzorgvuldige trainingsomgevingen.
Tijd om af te stemmen
Hoewel er progressie is geboekt, duiken er bij steeds krachtigere modellen nog steeds onverwachte en ongewenste gedragingen op. Wetenschappers hebben meer tijd nodig om deze te begrijpen en te verhelpen.
Tijd om te begrijpen
De wetenschap die kijkt wat er zich binnenin het "brein" van een AI-model afspeelt, staat nog in de kinderschoenen. Een tot twee jaar extra gerichte tijd kan een enorme doorbraak opleveren in hoe we modellen vooraf kunnen auditeren
Een drietrap naar het goede tempo
Om de voorhoede van de AI-ontwikkeling op een veilige manier te structureren, stelt Amodei een concreet driestappenplan voor:
Stap 1: Externe evaluatie
Bedrijven moeten onafhankelijke, externe audit organisaties (zoals METR) fysieke en systeemtoegang verlenen. Deze evaluatoren krijgen werknemersrechten en badges om trainingsruns live te monitoren, misalignments te rapporteren en veiligheidsprotocollen te controleren. Anthropic heeft toegezegd dit eenzijdig door te voeren.
Stap 2: Democratische afstemming
Toonaangevende AI-laboratoria binnen democratische landen moeten gezamenlijke veiligheidsstandaarden en bindende limieten afspreken. Dit vereist actieve ondersteuning en wettelijke kaders van overheden om mededingingsrechterlijke obstakels te omzeilen.
Stap 3: Internationale afspraken
Uiteindelijk is wereldwijde afstemming nodig. Hoewel dit geopolitiek zeer complex is, pleit Amodei voor verdragen rond specifieke risico's, zoals het verbieden van AI-hulp bij biologische wapens en het instellen van snelheidslimieten op de mate van recursive self-improvement.
Geopolitieke balans en China
Een van de grootste uitdagingen van een gereguleerde vertraging is het risico dat autoritaire staten zoals China de technologische voorsprong van westerse landen overnemen. Amodei benadrukt dat democratische landen de technologische voorsprong koste wat het kost moeten beschermen.
Hij stelt voor om de veiligheidsmarge ten opzichte van China te verdedigen via een strikte controle op geavanceerde AI-chips, het aanpakken van distillatie van modellen door concurrenten en het drastisch aanscherpen van de cybersecurity om diefstal van modelgewichten te voorkomen.
Omslag in het debat over AI
We Must Pace the Frontier markeert een duidelijke omslag in het debat over kunstmatige intelligentie. Het simpelweg versnellen van innovatie onder het motto dat veiligheid vanzelf volgt, is volgens Amodei niet langer houdbaar. Door het tempo bewust af te stemmen op de tijd die nodig is voor afstemming, transparantie en externe controle, kan de sector de gigantische maatschappelijke en economische voordelen van AI benutten zonder de controle over de technologie te verliezen.
Meer info: essay We Must Pace the Frontier
.gif)
