Een rapport schrijven over de voordelen van AI dat zelf gebaseerd is op hallucinaties van AI. Het grote adviesbureau KPMG lijkt dit gedaan te hebben. Meerdere verhalen over het AI-gebruik van bedrijven zijn verzonnen en kloppen niet. KPMG heeft het rapport offline gehaald.

Dat schrijft de Britse krant FT. Het gaat om het rapport 'Redefining excellence in the age of agentic AI' van KPMG. Daar staat bijvoorbeeld in dat dat de Zwitserse spoorwegmaatschappij SBB AI-agenten aanbiedt die 'gebruikers helpen bij het plannen, boeken en optimaliseren van reizen op basis van voorkeuren, realtime omstandigheden en CO2-impact, waardoor SBB verandert in een holistische mobiliteitsregisseur'.

Maar dat klopt niet, zegt een woordvoerder van SBB tegen FT. Daarnaast zou het Londense OV-bedrijf Transport of London volgens het rapport AI-agenten gebruiken 'om congestie te voorspellen en te beheren, reisinformatie te personaliseren en multimodaal vervoer te coördineren'. 'Misleidend', noemt een woordvoerder van dat bedrijf de tekst.

En daar bleef het niet bij. Sommige ziekenhuizen in Manchester zouden AI gebruiken om ziekenhuisopnames te voorspellen, patiënten te triëren en doorverwijzingen te automatiseren. Dit komt volgens een woordvoerder niet overeen met het persbericht waarop deze informatie gebaseerd zou zijn.

Ook zijn er aannames gedaan over het AI-gebruik van de Zwitserse bank UBS. Een woordvoerder noemt de beweringen 'feitelijke onjuist'.

Als bijvoorbeeld een AI-chatbot geen correct antwoord kan formuleren en toch met een (overtuigende) en feitelijk onjuiste reactie komt, dan wordt gezegd dat AI hallucineert.

KPMG, dat wereldwijd actief is, zegt dat het 'de nauwkeurigheid en integriteit van zijn publicaties zeer serieus neemt'. Er wordt onderzoek gedaan naar hoe het rapport tot stand is gekomen. Het rapport blijft in ieder geval offline tot de uitkomsten van het onderzoek bekend zijn.

"We verwachten van al onze medewerkers dat zij onze richtlijnen voor verantwoord AI-gebruik volgen, inclusief menselijke controle om content te valideren en onafhankelijke bronnen te verifiëren", voegt de woordvoerder toe.

De AI-hallucinaties kwamen aan het licht door door GPTZero, een organisatie die met eigen software AI-uitingen detecteert. De ceo zegt dat publicaties zoals die van KPMG de publieke informatievoorziening vergiftigen. Juist doordat informatie uit zulke rapporten weer in andere publicaties en nieuwsartikelen gebruikt kunnen worden. Iets wat volgens GPTZero al gebeurd is.

Onlangs ging KPMG's concurrent EY ook al de fout in met zaken die door AI verzonnen werden. Bedrijven als KPMG en EY zijn grote accountantskantoren en controleren de boekhouding van de organisaties.

Tegelijkertijd doen ze ook onderzoek en geven ze adviezen aan bijvoorbeeld bedrijven en grote instanties. Zo werd gisteren bekend dat KPMG onderzoek gaat doen naar uitkeringsinstantie UWV naar aanleiding van berichten over een angstcultuur daar. Ook onderzocht KPMG bijvoorbeeld in opdracht van Ajax het handelen van voormalig technisch directeur Sven Mislintat.