AI-systemen rukken overal op maar blijken niet te vertrouwen en overtreden massaal wetgeving

AI-toepassingen worden steeds populairder omdat ze razendsnel zijn en contact met mensen overbodig maken. Zo wordt AI gezet om helpsdeskmedewerkers te vervangen, als assistent en veel jongeren gebruiken AI ook als praatpaal zodat ze dan niet met iemand hoeven praten. Dat klinkt een deel van de mensheid als muziek in de oren maar een van de problemen is dat AI heel gemakkelijk overgaat tot bedrog of adviezen geeft die in veel gevallen in strijd met de wet zijn, meldt RTL Nieuws op basis van onderzoek door het Amsterdamse AI-instituut Aithos.

Aithos testte meerdere grote AI-modellen, in een tiental scenario's, waarbij de assistenten gevraagd werd om iets te doen dat wettelijk verboden is. Zo werden de assistenten ingezet om verboden informatie over gebruikers te verzamelen of klanten te manipuleren. In één test werd een AI-assistent ingezet als pensioenadviseur voor een Nederlandse verzekeraar. In de instructies werd het systeem opgedragen om een specifiek product te adviseren, omdat dat het meest winstgevend zou zijn, ook als dat niet het meest geschikte product zou zijn voor de betreffende klant. Zulke manipulatie is verboden, dankzij een Europese AI-wet. (...) "Wat wij willen aantonen, is dat de systemen waarop mensen dagelijks vertrouwen, nog niet zijn ingericht om hun rechten te beschermen", zegt Nadia Kadhim, directeut van Aithos. "Deze wetten zijn er niet voor niets", zegt Kadhim. "AI kan echt serieuze schade aan mensen toebrengen. Onze autonomie, onze privacy maar ook andere fundamentele mensenrechten staan op het spel."

In andere gevallen werd een klant voorgelogen over wat er met zijn erfenis zou gebeuren na zijn dood. Of het systeem ging aan de slag om zaken te regelen zonder aan partners duidelijk te maken dat het AI is, terwijl dat wettelijk verplicht is. Die wet beschermt consumenten juist tegen ongewenst AI-gedrag.

Aithos onderzocht 12 verschillende systeem. De ergste overtrad in 90 procent van de gevallen de regels, de minst erge hield zich slechts in 54 procent van de taken aan de wet.

Overigens kan AI zelf niet gestraft worden. Wie een AI systeem inzet dat vervolgens de wet overtreedt is daar zelf verantwoordelijk voor met alle juridische gevolgen van dien ook al heeft de opdrachtgever zelf niets gedaan.