EU-regels AI en waartegen ze beschermen
De nieuwe EU AI-wet is een eerste verordening inzake kunstmatige intelligentie bedoeld om de burgers van de EU te beschermen. Het gebruik van kunstmatige intelligentie in de EU wordt gereguleerd door de AI-wet, 's werelds eerste alomvattende AI-wet.
Wat AI is
Definitie van AI, kunstmatige intelligentie AI is het vermogen van een machine om mensachtige vermogens weer te geven, zoals redeneren, leren, plannen en creativiteit. AI stelt technische systemen in staat om hun omgeving waar te nemen, om te gaan met wat ze waarnemen, problemen op te lossen en te handelen om een specifiek doel te bereiken. De computer ontvangt gegevens - al voorbereid of verzameld via eigen sensoren zoals een camera - verwerkt deze en reageert. AI-systemen zijn in staat hun gedrag tot op zekere hoogte aan te passen door de effecten van eerdere acties te analyseren en autonoom te werken.  Infografiek EU
|
Verschillende regels voor verschillende risico niveaus van AI
1 Onaanvaardbaar risico
Onaanvaardbaar risico AI-systemen zijn systemen die als een bedreiging voor mensen worden beschouwd en zullen worden verboden. Ze bevatten:
- Cognitieve gedragsmanipulatie van mensen of specifieke kwetsbare groepen: bijvoorbeeld spraakgestuurd speelgoed dat gevaarlijk gedrag bij kinderen aanmoedigt
- Social scoring: mensen classificeren op basis van gedrag, sociaal-economische status of persoonlijke kenmerken
- Biometrische identificatiesystemen in realtime en op afstand, zoals gezichtsherkenning
Er kunnen enkele uitzonderingen worden toegestaan: Zo zullen biometrische identificatiesystemen op afstand "post" waarbij de identificatie na een aanzienlijke vertraging plaatsvindt, worden toegestaan om ernstige misdrijven te vervolgen, maar alleen na goedkeuring door de rechtbank.
2 Hoog risico
AI-systemen die een negatieve invloed hebben op de veiligheid of fundamentele rechten, worden als een hoog risico beschouwd en worden in twee categorieën verdeeld:
1) AI-systemen die worden gebruikt in producten die onder de EU-wetgeving inzake productveiligheid vallen. Denk hierbij aan speelgoed, vliegtuigen, auto's, medische hulpmiddelen en liften.
2) AI-systemen vallen onder acht specifieke gebieden die in een EU-databank moeten worden geregistreerd zijnde : 1, Biometrische identificatie en categorisering van natuurlijke personen. 2, Beheer en exploitatie van kritieke infrastructuur, 3, Onderwijs en beroepsopleiding. 4, Werkgelegenheid, werknemersbeheer en toegang tot zelfstandig ondernemerschap. 5, Toegang tot en genot van essentiële particuliere diensten en openbare diensten en voordelen. 6, Politie. 7, Beheer van migratie, asiel en grenscontrole. 8, Hulp bij juridische interpretatie en toepassing van de wet.
Alle AI-systemen met een hoog risico worden beoordeeld voordat ze op de markt worden gebracht en ook gedurende hun levenscyclus.
3 Beperkt risico
AI-systemen met een beperkt risico moeten voldoen aan minimale transparantievereisten die gebruikers in staat stellen weloverwogen beslissingen te nemen. Na interactie met de applicaties kan de gebruiker beslissen of hij deze wil blijven gebruiken.
Gebruikers moeten bewust worden gemaakt wanneer ze interactie hebben met AI. Denk hierbij aan AI-systemen die beeld-, audio- of videocontent genereren of manipuleren, bijvoorbeeld deepfakes.
Generatieve AI
Generatieve AI, zoals ChatGPT, zou moeten voldoen aan transparantievereisten:
Openbaar maken dat de inhoud is gegenereerd door AI
Het model zo ontwerpen dat voorkomen wordt dat het illegale inhoud genereert
Samenvattingen publiceren van auteursrechtelijk beschermde gegevens die worden gebruikt voor training
Volgende stappen
Het EU parlement zal in juni 2023 zijn onderhandelingsstandpunt bepalen, waarna de besprekingen met de EU-landen in de Raad over de definitieve vorm van de wet zullen beginnen. Het streven is om eind 2023 tot een akkoord te komen.
-(1)-S.jpg)
-S.jpg)
