Chat bot
Legal04 maart, 2024

De juridische aspecten van GPT-chatbots

Sinds de lancering van ChatGPT is het gebruik van chatbots op basis van generative pre-trained transformers, GPT-chatbots, op exponentiële wijze toegenomen. Hoewel GPT-chatbots verschillende voordelen met zich kunnen meebrengen, is hun juridische impact niet te onderschatten. Aan welke juridische aspecten raken GPT-chatbots?

Victoria Hendrickx en Lorenzo Gugliotta bestuderen de juridische aspecten van GPT-chatbots vanuit vier rechtsdomeinen. Deze bijdrage geeft uitsluitend het standpunt van de auteurs weer. Lees de volledige bijdrage in het Nieuw Juridisch weekblad op Jura.

Voorstel voor AI-Verordening: de juridische status van GPT-chatbots

Het gebruik van AI-systemen voor algemene doeleinden, waaronder GPT-chatbots, legt de laatste maanden verschillende risico’s bloot met betrekking tot fundamentele grondrechten, veiligheid en gezondheid. GPT-chatbots kunnen bijvoorbeeld discriminatoire of racistische output genereren, aanzetten tot haat of geweld, misinformatie verspreiden of vooroordelen (‘bias’) vergroten. Om tegemoet te komen aan de potentiële risico’s trachten de wetgevers op Europees niveau AI-systemen voor algemene doeleinden en GPT-chatbots te reguleren op basis van het Voorstel voor een verordening tot vaststelling van geharmoniseerde regels betreffende AI.

Het initiële Voorstel AI-Verordening bevat geen verwijzing naar of verplichtingen ten aanzien van AI-systemen voor algemene doeleinden en GPT-chatbots. De Europese Raad en het Parlement stelden daarom een aantal wijzigingen voor. De introductie van een sui-generis-categorie voor AI-systemen voor algemene doeleinden en basismodellen met een afzonderlijke reeks van verplichtingen is een positieve evolutie. Toch blijft een grondige verfijning van de verplichtingen vereist.

Gegevensbescherming

Aangezien GPT-chatbots in de ontwikkelingsfase afhankelijk zijn van een grote hoeveelheid (persoons)gegevens om het algoritme te trainen en nauwkeuriger te maken, rijzen verschillende vragen in verband met naleving. Specifiek staan web-scrapingpraktijken op gespannen voet met de beginselen van doelbinding, minimale gegevensverwerking, rechtmatigheid en juistheid van gegevens. Tijdens het gebruik van GPT-chatbots is de naleving van de beginselen ietwat eenvoudiger, maar een solide rechtsgrond en waarborgen voor de rechten van de betrokkenen blijven essentieel.
De opkomst van GPT-chatbots brengt nieuwe uitdagingen met zich mee die mogelijk niet kunnen worden opgevangen door de huidige traditionele informatieverplichtingen. Daarom gaan er stemmen op om de informatieverplichtingen aan te scherpen en uit te breiden.

Consumentenrecht

GPT-chatbots zijn in de eerste plaats consumentenapplicaties. Zijn de huidige informatieverplichtingen onder het consumentenrecht voldoende robuust en adequaat (fit for purpose), in de digitale omgeving?

Recentelijk opende de Amerikaanse Federal Trade Commission een onderzoek naar OpenAI naar aanleiding van de valse informatie die ChatGPT publiceert, wat mogelijk in strijd is met de consumentenwetgeving. Ook in België werd enkele maanden geleden een klacht ingediend bij de FOD Economie tegen companion chatbots, d.i. een specifiek type van GPT-chatbot dat zich voordoet als een zogenaamde ‘virtuele vriend’ en menselijke interacties nabootst en op deze wijze het gedrag van consumenten wezenlijk kan beïnvloeden.

De opkomst van GPT-chatbots brengt nieuwe uitdagingen met zich mee die mogelijk niet kunnen worden opgevangen door de huidige traditionele informatieverplichtingen. Daarom gaan er stemmen op om de informatieverplichtingen aan te scherpen en uit te breiden.

Chatbots vs. Auteursrecht

Tot slot stuiten we op twee vraagstukken wat betreft auteursrecht. Ten eerste: waar het duidelijk is dat artificiële intelligentie (AI) niet in aanmerking komt voor auteursrechtelijke bescherming, is het momenteel onzeker of eindgebruikers auteur kunnen zijn van de output. Het tweede vraagstuk betreft het trainen van GPT-chatbots en de vraag of dit een reproductiehandeling uitmaakt en aldus een inbreuk op het exclusieve reproductierecht van de auteur.

Verheldering in rechtsleer en rechtspraak

Uit de verkenning volgt dat de bestaande en toekomstige wetgeving niet volledig tegemoet kan komen aan de risico’s die de nieuwe technologie met zich meebrengt. Verhelderingen door middel van rechtsleer of rechtspraak is daarom niet enkel gewenst, maar zelfs noodzakelijk.

Volg rechtsleer en rechtspraak rond dit topic op de voet, met Jura.
Auteurs: Victoria Hendrickx en Lorenzo Gugliotta
 Lees de volledige bijdrage in het Nieuw Juridisch weekblad op Jura.
Back To Top