O problemă gravă de siguranță este legată de modul în care Google afișează informațiile medicale generate de inteligența artificială (AI) prin funcția sa „AI Overviews” (rezumate AI).
Care este problema principală? Deși compania susține că își avertizează utilizatorii să nu se bazeze exclusiv pe aceste rezumate și să consulte specialiști, o investigație realizată de The Guardian și preluată de Adevărul arată că avertismentele sunt greu de observat și apar mult prea târziu.
Concret:
Când un utilizator caută un subiect medical, rezumatul generat de AI apare primul în pagină, fără niciun avertisment vizibil. Pentru a vedea un avertisment, utilizatorul trebuie să facă un pas suplimentar: să apeleze butonul „Afișează mai mult”. Chiar și atunci, avertismentul („Aceste informații au doar scop informativ… Răspunsurile AI pot conține erori”) apare abia la finalul textului suplimentar, scris cu un font mai mic și mai deschis la culoare, fiind ușor de ignorat.
Pat Pataranutaporn (MIT) atrage atenția asupra riscurilor majore create de absența avertizărilor de la primul contact cu informația.
Gina Neff (Queen Mary University of London) subliniază că problema este una de design: funcția AI Overviews este concepută pentru viteză, nu pentru acuratețe, ceea ce poate fi periculos în domeniul sănătății.
Sonali Sharma (Universitatea Stanford) explică un pericol psihologic: faptul că un răspuns complet și bine structurat apare imediat în vârful paginii creează un fals sentiment de siguranță, descurajând utilizatorii să caute mai departe sau să verifice sursele. Pericolul real apare când informațiile sunt parțial corecte și parțial greșite, făcând aproape imposibilă diferențierea pentru un nespecialist.
Tom Bishop (Anthony Nolan) cere ca avertismentul să fie mutat chiar în partea de sus, cu aceeași vizibilitate ca restul textului, pentru ca oamenii să se oprească și să verifice informația critic înainte de a acționa.
Poziția Google: Compania nu a negat constatările, dar a apărat caracteristicile funcției, susținând că AI Overviews „încurajează oamenii să solicite sfatul unui profesionist” și că menționează frecvent acest lucru direct în rezumat, acolo unde este cazul.