Dat je niet blind op AI kunt vertrouwen, bewijst een zaak in de VS. Daar heeft een vrouw uit de staat Tennessee maanden vastgezeten omdat ze door AI-gezichtsherkenning ten onrechte was aangewezen als verdachte van een reeks bankroven. Ze eist nu een schadevergoeding.

Volgens het Amerikaanse ABC News werd Angela Lipps, een 50-jarige grootmoeder van vijf kleinkinderen, juli vorig jaar gearresteerd terwijl ze op de kinderen van haar buren paste.

Een arrestatieteam hield de vrouw onder schot en nam haar mee. "Tot dat moment had nog nooit iemand een wapen op me gericht", schrijft de vrouw op een website voor crowdfunding. "Deze arme kinderen zagen alles gebeuren. Ze waren zo bang."

Uiteindelijk werd ze enkele maanden vastgehouden op verdenking van meerdere bankroven in en rond de stad Fargo, in de staat North Dakota.

De aanklachten werden ingetrokken nadat Lipps bankafschriften had aangeleverd waaruit bleek dat ze zich ten tijde van de vermeende misdrijven in de staat Tennessee bevond. Ze werd op kerstavond vrijgelaten.

Nu, ruim een half jaar later, eist de vrouw een schadevergoeding van 10 miljoen dollar, omgerekend zo'n 8,7 miljoen euro, van Fargo en de rechercheur die verantwoordelijk was voor het arrestatiebevel. Ze zegt dat ze tijdens haar detentie haar woning, auto en andere bezittingen kwijtraakte. De aanklacht is bedoeld om 'te herstellen wat kapot is gegaan'.

Ook hoopt Lipps dat haar zaak agenten ertoe zal aanzetten zorgvuldig te werk te gaan en rekening te houden met de schade die hun handelen kan veroorzaken bij mensen die ten onrechte worden beschuldigd.

Volgens Lipps en haar advocaten heeft de politie niet genoeg onderzoek gedaan. Zo leek zij helemaal niet op de verdachte die op de bewakingsbeelden te zien was. Ze wijzen op verschillen in lichaamsbouw, gezichtskenmerken en tatoeages. Bovendien was Lipps nog nooit in North Dakota geweest.

De gezichtsherkenningssoftware bleek een foto van Lipps te hebben gebruikt die zij op sociale media had geplaatst. Die werd als mogelijke match gezien met een foto op een vals identiteitsbewijs van de verdachte.

Tijdens haar maandenlange detentie maakte Lipps 'traumatische omstandigheden in de gevangenis mee', staat in de aanklacht. "Ze worstelde met de angst niet te weten wanneer ze zou worden vrijgelaten en of ze uiteindelijk ten onrechte zou worden veroordeeld en jarenlang gevangen zou worden gezet."

De vrouw miste verjaardagen van familieleden. Ze bracht haar eigen verjaardag en andere feestdagen in de gevangenis door. Na haar vrijlating ontdekte Lipps dat ze haar woning, auto en andere persoonlijke bezittingen was kwijtgeraakt.

"Sinds het incident leeft ze in angst dat ze opnieuw zal worden ontvoerd en heeft ze het besef overgehouden dat ze, ook al was ze onschuldig, niet veilig is", staat in de aanklacht.

Eerder dit jaar gaf de toenmalige politiechef van Fargo toe dat de politie 'een paar fouten had vastgesteld' in het onderzoek naar de bankroven.