Potentieel gevaarlijke gezondheidsadviezen bovenaan de zoekpagina
Google ligt onder vuur nadat onderzoek aantoonde dat de AI Overviews van het bedrijf foutieve en potentieel gevaarlijke gezondheidsadviezen verspreiden. Dat meldt de Britse krant The Guardian. Deskundigen waarschuwen dat de automatisch gegenereerde antwoorden soms onjuist, onvolledig of zelfs potentieel schadelijk zijn.
Google toont sinds enige tijd bovenaan de zoekresultaten zogeheten AI Overviews: korte samenvattingen die met kunstmatige intelligentie zijn samengesteld op basis van informatie van het internet. Vooral bij gezondheidsvragen kan dat problematisch zijn, stellen onderzoekers. In meerdere gevallen bleken de AI-antwoorden medische adviezen te bevatten die niet kloppen of belangrijke nuances missen. Dat is zorgelijk, want bijna één op de drie Nederlanders heeft het afgelopen jaar een AI-chatbot om advies gevraagd over gezondheidsklachten.
Misleidende waardes en fout voedingsadvies
Er gaat flink wat mis in de zoektocht naar medische informatie, meldt The Guardian. Zo werden bij vragen over ernstige aandoeningen zoals alvleesklierkanker verkeerde voedingsadviezen gegeven. Ook werden misleidende waarden voor leverfunctietests weergegeven, wat ertoe kan leiden dat mensen met ernstige leverziekten ten onrechte denken dat hun resultaten normaal zijn. Daarnaast kregen gebruikers verkeerde informatie over tests voor vaginale kanker, wat volgens specialisten kan leiden tot het negeren van symptomen. Ook bij mentale gezondheidsproblemen bleken de adviezen soms schadelijk of misleidend, met risico op het vermijden van professionele hulp. Omdat de AI-samenvatting prominent bovenaan de pagina staat, lopen gebruikers het risico deze als betrouwbaar te beschouwen en verder niet meer door te klikken naar medische websites of officiële bronnen.
Lees ook: wat is AI eigenlijk en hoe werkt het?
Google laat weten dat het overgrote deel van zijn AI-overzichten correct en behulpzaam is, en dat het bedrijf voortdurend werkt aan kwaliteitsverbeteringen. Volgens hen is de nauwkeurigheid van AI-overzichten vergelijkbaar met die van andere zoekfuncties, zoals uitgelichte fragmenten (featured snippets), die al meer dan tien jaar bestaan. Het bedrijf zegt verder dat het ingrijpt wanneer AI-overzichten webinhoud verkeerd interpreteren of belangrijke context missen, en daarbij handelt volgens de geldende richtlijnen en beleidsregels.
Eerder bleek al dat door AI gegenereerde informatie consumenten kan verwarren, omdat zij deze als betrouwbaar beschouwen. In november vorig jaar bleek uit een onderzoek dat AI-chatbots op verschillende platforms onjuist financieel advies gaven. Over door AI gemaakte samenvattingen van nieuwsberichten bestaan vergelijkbare zorgen. Artsen en patiëntenorganisaties adviseren om bij medische klachten of vragen altijd een arts te raadplegen en online informatie - zeker als die automatisch is gegenereerd - kritisch te blijven beoordelen.
- The Guardian
- Gazet van Antwerpen
