Jak podaje „The Guardian”, sprawa budzi poważne obawy ekspertów dotyczące wiarygodności informacji, na których opiera się AI w kwestiach zdrowia publicznego.

Kluczowe wnioski z raportu

Dominacja YouTube: Badacze przeanalizowali ponad 50 000 zapytań dotyczących zdrowia (przeprowadzonych w języku niemieckim). Okazało się, że YouTube stanowił aż 4,43% wszystkich cytowań w AI Overviews, co czyni go pojedynczą najczęściej przywoływaną domeną.

Marginalizacja ekspertów: Żadna sieć szpitali, oficjalny portal zdrowia publicznego ani stowarzyszenie medyczne nie zbliżyło się do wyników YouTube pod względem liczby cytowań.

Ryzyko braku weryfikacji: Eksperci cytowani przez „The Guardian” podkreślają, że YouTube nie jest wydawcą medycznym, lecz platformą ogólnotematyczną. Obok treści tworzonych przez licencjonowanych lekarzy znajdują się tam materiały influencerów czy „trenerów życia”, którzy nie posiadają wykształcenia medycznego.

Błędy systemowe: Hannah van Kolfschooten z Uniwersytetu w Bazylei zauważa w tekście, że problem ma charakter strukturalny. Sugeruje to, że algorytmy Google AI mogą priorytetyzować popularność i widoczność treści ponad ich rzetelność naukową.

Reakcja rzecznika Google

Rzecznik Google, w odpowiedzi na ustalenia publikacji, broni narzędzia, argumentując, że AI Overviews projektowano tak, by docierało do wysokiej jakości treści niezależnie od ich formatu. Firma zaznacza, że według ich własnych danych aż 96% z 25 najczęściej cytowanych filmów na YouTube pochodziło z kanałów prowadzonych przez profesjonalistów medycznych.

Artykuł przypomina również o wcześniejszym śledztwie „The Guardian”, które wykazało, że AI Overviews potrafiło generować niebezpieczne i błędne porady, np. dotyczące interpretacji wyników badań czynności wątroby czy diety przy nowotworach, co doprowadziło do usunięcia podsumowań AI dla niektórych fraz medycznych.