Sinds de lancering van ChatGPT is het gebruik van chatbots op basis van generative pre-trained transformers, GPT-chatbots, op exponentiële wijze toegenomen. Hoewel GPT-chatbots verschillende voordelen met zich kunnen meebrengen, is hun juridische impact niet te onderschatten. Aan welke juridische aspecten raken GPT-chatbots?
Victoria Hendrickx en Lorenzo Gugliotta bestuderen de juridische aspecten van GPT-chatbots vanuit vier rechtsdomeinen. Deze bijdrage geeft uitsluitend het standpunt van de auteurs weer. Lees de volledige bijdrage in het Nieuw Juridisch weekblad op Jura.
Voorstel voor AI-Verordening: de juridische status van GPT-chatbots
Het gebruik van AI-systemen voor algemene doeleinden, waaronder GPT-chatbots, legt de laatste maanden verschillende risico’s bloot met betrekking tot fundamentele grondrechten, veiligheid en gezondheid. GPT-chatbots kunnen bijvoorbeeld discriminatoire of racistische output genereren, aanzetten tot haat of geweld, misinformatie verspreiden of vooroordelen (‘bias’) vergroten. Om tegemoet te komen aan de potentiële risico’s trachten de wetgevers op Europees niveau AI-systemen voor algemene doeleinden en GPT-chatbots te reguleren op basis van het Voorstel voor een verordening tot vaststelling van geharmoniseerde regels betreffende AI.Het initiële Voorstel AI-Verordening bevat geen verwijzing naar of verplichtingen ten aanzien van AI-systemen voor algemene doeleinden en GPT-chatbots. De Europese Raad en het Parlement stelden daarom een aantal wijzigingen voor. De introductie van een sui-generis-categorie voor AI-systemen voor algemene doeleinden en basismodellen met een afzonderlijke reeks van verplichtingen is een positieve evolutie. Toch blijft een grondige verfijning van de verplichtingen vereist.
