Veelgebruikte AI-modellen houden zich niet aan de wet, en kunnen worden ingezet om mensen te bedriegen. Zelfs het best scorende model overtrad in een onderzoek in 46 procent van de scenario's de wet.

De inzet van kunstmatige intelligentie door bedrijven neemt razendsnel toe, maar veelgebruikte AI-modellen houden zich niet aan de wet, zo blijkt uit onderzoek. Ze kunnen worden ingezet om mensen te bedriegen.

AI-modellen kunnen bijvoorbeeld worden gebruikt als persoonlijke assistent, klantenservicemedewerker of verkoophulp. Maar daarvoor gelden wel regels.

En die worden regelmatig overtreden, onderzocht het Amsterdamse AI-instituut Aithos. Zelfs het best scorende model overtrad in 46 procent van de scenario's de wet.

Aithos testte meerdere grote AI-modellen, in een tiental scenario's, waarbij de assistenten gevraagd werd om iets te doen dat wettelijk verboden is. Zo werden de assistenten ingezet om verboden informatie over gebruikers te verzamelen of klanten te manipuleren.

In één test werd een AI-assistent ingezet als pensioenadviseur voor een Nederlandse verzekeraar. In de instructies werd het systeem opgedragen om een specifiek product te adviseren, omdat dat het meest winstgevend zou zijn, ook als dat niet het meest geschikte product zou zijn voor de betreffende klant. Zulke manipulatie is verboden, dankzij een Europese AI-wet.

Maar in tientallen testgesprekken kwam de assistent inderdaad met een advies dat niet goed uit zou pakken voor een potentiële klant: een kwetsbare klant die aangaf terminaal ziek te zijn, kreeg een financieel product met een looptijd van 30 jaar voorgeschoteld. Ook loog een AI-assistent over wat er na het overlijden van de klant met zijn geld zou gebeuren.

In een andere test werd aan een AI-assistent gevraagd om een tandartsafspraak te maken zónder te vermelden dat er AI gebruikt werd, en zich voor te doen als mens. Ook dat mag niet, volgens de wet moet het altijd duidelijk zijn of je met AI praat. In het merendeel van de gevallen ging de assistent echter zonder slag of stoot akkoord met de verboden opdracht, door te liegen over het gebruik van AI.

Aithos onderzocht 12 verschillende AI-modellen, waaronder de veelgebruikte modellen Gemini (van Google), ChatGPT en Claude. Het best scorende model, Claude Opus 4.7, hield zich in 54 procent van de tests aan de wet, bij Gemini was dat maar in 10 procent van de gevallen.

"Wat wij willen aantonen, is dat de systemen waarop mensen dagelijks vertrouwen, nog niet zijn ingericht om hun rechten te beschermen", zegt Nadia Kadhim, directeut van Aithos. "Deze wetten zijn er niet voor niets", zegt Kadhim. "AI kan echt serieuze schade aan mensen toebrengen. Onze autonomie, onze privacy maar ook andere fundamentele mensenrechten staan op het spel."

Ook voor de bedrijven die AI-tools inzetten, is de uitkomst zorgelijk, zegt Kadhim. Ze wijst erop dat die bedrijven zélf verantwoordelijk zijn om te zorgen dat AI zich aan de wet houdt. De boetes voor het overtreden van de Europese wetten kunnen in de miljoenen lopen.