A Google AI Overviews villámgyors válaszokat ad az egészségügyi kérdéseinkre, de egy friss vizsgálat szerint a robot néha életveszélyes butaságokat hord össze.
Mindannyian voltunk már ebben a helyzetben: éjszaka van, belénk nyilall egy furcsa fájdalom, vagy csak látunk egy szokatlan foltot a bőrünkön, és az első dolgunk, hogy a telefonunk után nyúlunk. Beírjuk a keresőbe a tüneteket, és várjuk a megnyugvást. A Google nemrégiben bevezetett egy újítást, az úgynevezett AI Overviews (MI Áttekintések) funkciót, amelynek pont az a célja, hogy ne kelljen hosszú cikkeket végigolvasnunk. A mesterséges intelligencia (MI) helyettünk elolvassa a találatokat, és a képernyő legtetején, egy kényelmes kis dobozban összefoglalja a lényeget.
Ez papíron remekül hangzik, de a valóság sajnos ennél jóval árnyaltabb és néha ijesztőbb. Egy friss nemzetközi vizsgálat ugyanis rávilágított, hogy amikor az egészségünkről van szó, ez a szorgalmas digitális segéd néha hatalmasat hibázik. Olyan hibákat vét, amelyek akár az életünket is veszélybe sodorhatják.
Mi az az AI Overviews, és miért látjuk mindenhol?
Képzeljük el a Google-t úgy, mint egy hatalmas könyvtárat. Régebben a kereső csak megmondta, melyik polcon melyik könyvet találjuk (ezek a kék linkek a találati listában). Az AI Overviews viszont olyan, mint egy könyvtáros, aki beleolvas a könyvekbe, és a saját szavaival elmondja nekünk a választ. Ez a funkció a Google Gemini nevű mesterséges intelligenciájára épül.
A probléma ott kezdődik, hogy ez a “könyvtáros” nem érti valójában, amit olvas. Ő csak egy rendkívül fejlett statisztikai gép, amely megtippeli, mi legyen a következő szó a mondatban. Ha a rendszer nem kap elég pontos utasítást, vagy ellentmondásos információkat talál az interneten, hajlamos a “halucinációra”. Ez a tech-világban azt jelenti, hogy a gép teljes magabiztossággal állít olyasmit, ami egyszerűen nem igaz.
Amikor a robot orvosnak képzeli magát
A The Guardian brit lap alapos vizsgálata döbbenetes példákat talált arra, hogyan tévesztheti meg a felhasználókat a Google mesterséges intelligenciája. Nézzünk néhány konkrét esetet, amiknél még a szakértők is a fejüket fogták:
- A hasnyálmirigyrák és a zsíros ételek: Az MI azt tanácsolta a hasnyálmirigyrákban szenvedő betegeknek, hogy kerüljék a magas zsírtartalmú ételeket. Az orvosok szerint ez pont az ellenkezője annak, amit tenniük kellene: ezeknek a betegeknek gyakran éppen a kalóriadús, zsírosabb étrendre van szükségük, hogy ne fogyjanak le drasztikusan a kezelések alatt. Egy ilyen tanács megfogadása rontja a beteg esélyeit a gyógyulásra.
- A májfunkciós tesztek csapdája: Amikor valaki a májvizsgálati eredményeiről kérdezte a gépet, az MI megadott egy fix értéktartományt, amit “egészségesnek” nevezett. Csakhogy az orvostudományban nincs egyetlen üdvözítő szám: a normális érték függ a páciens korától, nemétől, sőt még a származásától is. A robot válasza alapján egy beteg ember azt hiheti, hogy makkegészséges, és emiatt nem megy el a szükséges kontrollra.
- Nőgyógyászati tévedések: Volt olyan eset is, amikor az MI azt állította, hogy a méhnyakrák-szűrés (Pap-teszt) alkalmas a hüvelyrák kimutatására is. Ez szakmailag teljesen téves információ, ami hamis biztonságérzetet adhat a nőknek.
“Az AI Overviews rendszert a gyorsaságra tervezték, nem a pontosságra. Ez az egészségügyi információk esetében életveszélyes tévedésekhez vezethet” – figyelmeztetett a Queen Mary University of London professzora.
Hol marad a figyelmeztetés?
A Google védekezése szerint ők minden esetben jelzik, hogy az MI válasza csak tájékoztató jellegű, és mindenki forduljon orvoshoz. A vizsgálat azonban kiderítette, hogy ezek a figyelmeztetések (úgynevezett disclaimerek) gyakran el vannak rejtve.
Sokszor csak akkor bukkannak fel, ha a felhasználó rákattint a “Továbbiak megjelenítése” gombra, és még akkor is apró, halvány szürke betűkkel írják őket a szöveg legaljára. Valljuk be: ha kapunk egy kész választ a kérdésünkre, kevesen kezdik el bogarászni az apróbetűs részt a lap alján. Az emberek többsége elolvassa az összefoglalót, és már zárja is be az oldalt, abban a hitben, hogy megkapta a választ.
Mit jelent ez nekünk a gyakorlatban?
Félreértés ne essék: a mesterséges intelligencia nem az ördögtől való. Remekül tud receptet ajánlani a hűtőben lévő maradékokból, vagy segít megfogalmazni egy hivatalos levelet. De az egészségünk nem játék.
Mikor használhatjuk az MI-t?
* Ha általános életmód-tanácsokat keresünk (pl. “milyen ételekben van sok C-vitamin?”).
* Ha egy bonyolult orvosi szakkifejezést szeretnénk egyszerűbb nyelvre lefordítani (de a diagnózist ne tőle várjuk!).
* Ha inspirációt keresünk a mozgáshoz vagy a stresszkezeléshez.
Mikor NE hagyatkozzunk rá?
* Ha konkrét tüneteink vannak, és diagnózist várunk.
* Ha laboreredményeket akarunk értelmezni.
* Ha gyógyszeradagolásról vagy kezelési módokról van szó.
| Szempont | Google AI Overviews | Hagyományos keresés (linkek) |
|---|---|---|
| Gyorsaság | Villámgyors, azonnali válasz | Lassabb, több oldalt kell megnézni |
| Megbízhatóság | Kiszámíthatatlan, néha téved | Jobb, ha hiteles forrást (pl. Mayo Clinic) választunk |
| Részletesség | Gyakran felszínes, lényegre törő | Mélyebb összefüggéseket is megismerhetünk |
| Biztonság | Alacsony (egészségügyi témákban) | Magasabb (ha ellenőrizzük a forrást) |
Hogyan védekezhetünk a téves információk ellen?
A Google a botrány hatására több egészségügyi keresésnél is kikapcsolta az MI-összefoglalókat, de nem mindenhol. Ezért a mi felelősségünk, hogy kritikusan kezeljük, amit látunk.
Ha egészségügyi kérdést teszünk fel a Google-nek, görgessünk le az MI-doboz alá! Keressük a hiteles forrásokat: kórházak honlapjait, orvosi egyetemek cikkeit vagy hivatalos egészségügyi portálokat. Ezeket hús-vér szakemberek írták és ellenőrizték, nem egy algoritmus rakta össze őket darabokból.
Összegzés: Jó vagy rossz hír ez nekünk?
Az, hogy a technológia fejlődik, alapvetően jó hír. A mesterséges intelligencia a jövőben akár az orvosok munkáját is segítheti a pontosabb diagnózis felállításában. Azonban a jelenlegi formájában a Google AI Overviews még nem tart ott, hogy rábízzuk az egészségünket.
Tekintsünk rá úgy, mint egy pletykás szomszédra: sokat tud, szívesen beszél, de nem minden igaz, amit mond. A legfontosabb szabály pedig marad a régi: ha valami fáj, vagy aggódunk az egészségünkért, ne a képernyőt nézzük, hanem keressük fel a háziorvosunkat! A Google robotja soha nem fogja tudni megvizsgálni a torkunkat vagy meghallgatni a szívverésünket, és nem ismeri a kórtörténetünket sem. Az egészségünk többet ér egy gyors, de bizonytalan internetes válasznál.
