Ethische ontwikkeling en gebruik van AI wordt verplicht

Welke impact dit heeft op jouw organisatie, welke maatregelen moet, en kun je, nemen en … kun je dit zelf?

Het EU-parlement heeft positief gestemd over de Artificial Intelligence Act, een wet voor kunstmatige intelligentie. En daarmee is het de eerste AI-wet ter wereld! Er wordt volop over de wet gepubliceerd. Wat moet je nu echt weten en waar kun je terecht voor de juiste informatie?  

Misbruik door AI voorkomen 

Deze wet gaat ervoor zorgen dat er transparantie in het gebruik van AI komt en misbruik of schade aan de maatschappij door AI voorkomen wordt. De wet verbiedt bepaalde AI-toepassingen die de rechten van burgers bedreigen, zoals bepaalde vormen van gezichtsherkenning en emotieherkenning. Er zijn specifieke uitzonderingen voor rechtshandhaving onder strikte voorwaarden.   

Voldoen aan transparantievereisten  

Hoog risico AI-systemen krijgen duidelijke verplichtingen, zoals transparantie en menselijk toezicht, om mogelijke schade te beperken. Algemene AI-systemen moeten aan transparantievereisten voldoen, zoals inzicht in de trainingsdata en labeling van de output als AI (Artikel 50), en er zijn maatregelen om innovatie en kleine en middelgrote ondernemingen te ondersteunen. Ook wordt er een instantie (European Office for Artificial Intelligence) opgezet die toezicht op de naleving van de AI wet houdt (en waar je kunt klagen over AI). Organisaties hebben nog 3 jaar om te voldoen aan de regels en bij overtreding volgen er grote boetes (overheden 1 jaar). 

Wat gaan wij merken van de AI Act? 

De regelgeving is risico gebaseerd. Dus iedere organisatie die AI ontwikkeld of gebruikt moet een risico-inschatting maken en op basis daarvan maatregelen nemen. Bijvoorbeeld bij Limited Risk zijn er transparantie verplichtingen en bij High Risk is er strenge regulatie. Hieronder vallen use cases zoals:   

• Systemen voor biometrische identificatie op afstand;  
• Kritieke infrastructuur;  
• Onderwijs en beroepsopleiding;  
• Werkgelegenheid, werknemersbeheer en toegang tot zelfstandig ondernemerschap;  
• Toegang tot, en gebruik van, essentiële particuliere diensten en essentiële openbare diensten en uitkeringen; 
• Wetshandhaving; 
• Beheer van migratie, asiel en grenscontrole; en, 
• Rechtspraak en democratische processen.  

Dit raakt zeker een aantal van onze klanten! Behoor je bijvoorbeeld tot de Healthcare of Kritieke Infrastructuur sector en wil je AI inzetten? Dan wordt jouw inzet (Artikel 16) of ontwikkeling van AI waarschijnlijk geclassificeerd als High-Risk (Artikel 6). Dan kan je de komende periode gebruiken om een assessment uit te voeren en een risicomanagement systeem voor AI te implementeren (Artikel 9) en de risico’s te reduceren. Uiteraard kunnen wij je daar ook bij ondersteunen. 

Bronnen:  

https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai 

https://digital-strategy.ec.europa.eu/en/policies/ai-office 

https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law 

https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_EN.html 

https://www.europarl.europa.eu/doceo/document/A-9-2023-0188_EN.html