AI in operatiekamers leidt tot stortvloed aan medische missers

Medische apparatenbouwers voegen massaal kunstmatige intelligentie toe aan hun producten, maar dat gaat niet zonder risico's. Dat blijkt uit een uitgebreide analyse van Reuters. De Amerikaanse toezichthouder FDA ontvangt een stijgend aantal meldingen van patiënten die gewond raakten tijdens operaties waarbij AI-apparatuur werd gebruikt.

Een opvallend voorbeeld is het TruDi Navigation System van fabrikant Acclarent, dat artsen helpt bij neusbijholteoperaties. Sinds er in 2021 AI aan werd toegevoegd, steeg het aantal meldingen van incidenten explosief: van zeven in drie jaar naar minstens honderd meldingen nadien. Minstens tien patiënten raakten gewond, sommigen liepen een beroerte op nadat een slagader per ongeluk werd geraakt. Volgens rechtszaken gaf het AI-systeem artsen verkeerde informatie over de positie van hun instrumenten in het hoofd van patiënten.

De FDA heeft inmiddels 1.357 medische apparaten met AI goedgekeurd, een verdubbeling sinds 2022. Onderzoek toonde aan dat zestig van deze apparaten werden teruggeroepen, bijna de helft binnen een jaar na goedkeuring. Ook werden problemen gemeld met AI-software die foetale lichaamsdelen verkeerd identificeerde tijdens zwangerschapsecho's en met hartmonitoren die onregelmatige hartslagen misten. Critici waarschuwen daarbij dat de meeste AI-apparaten niet op patiënten hoeven te worden getest voordat ze op de markt komen.

De FDA kampt volgens vijf huidige en voormalige medewerkers met personeelstekorten om de stroom aan AI-apparaten bij te houden. Vorig jaar werd een belangrijk team van AI-specialisten gehalveerd als gevolg van bezuinigingen door het Trump-regime. Veel van die specialisten hielden zich ook bezig met het beoordelen van Elon Musks bedrijf Neuralink. Dit bedrijf wil met chip-implantaten in het hoofd menselijke hersenen voorzien van kunstmatige intelligentie. Nadat Musk het DOGE-departement onder zijn hoede kreeg, haalde hij direct de bezem door het personeelsbestand.