IND gebruikt in het geniep AI-systemen bij behandeling asielaanvragen

Immigratiedienst IND blijkt in het geniep gebruik te maken van twee AI-systemen om asielaanvragen te behandelen. Dat meldt NRC. Experts waarschuwen voor de risico’s die dat met zich meebrengt: “We weten dat AI geregeld de verkeerde conclusies trekt.”

Wat de situatie nog bizarder maakt, is dat de IND al driekwart jaar met de systemen werkt zonder dat het bestaan van de chatbots is aangemeld bij het landelijk register voor AI-systemen. Iets wat volledig indruist tegen de eigen AI-reglementen.

Besluiten over asielaanvragen moeten altijd door een mens worden genomen om discriminerende of hardvochtige algoritmes tegen te gaan, waar asielzoekers de dupe van worden. Volgens de IND zelf was het niet nodig om de AI-systemen, genaamd Robin en ChatIND, aan te melden omdat deze “geen hoog risico” met zich mee zouden brengen. Tegelijkertijd staat in de eigen richtlijnen dat het gebruik van AI-toepassingen altijd wordt geregistreerd, “ook wanneer dat niet verplicht is”.

Volstrekt onduidelijk is wie de AI-agenten traint, de IND zegt alleen dit niet zelf te doen.

NRC schrijft:

„Op het eerste gezicht lijkt weinig mis met vragen stellen aan AI”, zegt Ola al Khatib, die aan de Universiteit Utrecht onderzoek doet naar het gebruik van algoritmes door overheidsorganisaties. „Ware het niet dat we uit onderzoek weten dat mensen te veel vertrouwen op wat een AI-agent tegen ze zegt. Daardoor kunnen de fouten van AI in het asielbesluit terechtkomen, ook als het besluit zelf niet door AI is geschreven.”