Welke AI-systemen zijn verboden? Hoe ziet de nieuwe plicht tot AI-geletterdheid eruit? En aan welke verplichtingen moeten aanbieders van AI-modellen voor algemene doeleinden voldoen?
Auteurs: Seliha Buelens, Wout Platteau, Wouter Torfs
Dit artikel is een samenvatting van de bijdrage ‘AI-Verordening. Inzoomen op de eerste verplichtingen’ uit het Nieuw Juridisch Weekblad.
Verboden AI-systemen: rode lijnen
De AI-verordening hanteert een risicogebaseerde aanpak. Sommige AI-systemen zijn intussen verboden vanwege hun onaanvaardbare impact op fundamentele rechten en vrijheden, zoals:
- systemen die op algoritmische wijze punten toekennen aan personen op basis van hun sociale gedrag (social scoring);
- AI-systemen voor emotieherkenning op de werkvloer of in het onderwijs;
- AI-systemen die aan gedragsmanipulatie trachten te doen, of die kwetsbaarheden trachten uit te buiten.
Organisaties moeten nagaan of zij rechtstreeks of onrechtstreeks dergelijke systemen ontwikkelen, inzetten of commercialiseren. Bij een inbreuk dreigen zware administratieve geldboetes.
