Joe Ceccanti fenntartható otthonokat akart építeni az AI segítségével, de végül egy olyan virtuális labirintusban veszett el, ahonnan nem volt kiút. Tragikus története rávilágít a mesterséges intelligencia legsötétebb mellékhatására.
Augusztus 7-én Kate Fox egy olyan telefonhívást kapott, amely kettétörte az életét. A halottkém közölte vele, hogy férje, a 48 éves Joe Ceccanti leugrott egy vasúti felüljáróról és meghalt. A tragédia érthetetlen volt: Ceccantinak nem volt kórtörténetében depresszió, nem mutatott öngyilkos hajlamokat. Sőt, a szemtanúk szerint közvetlenül a mélybe ugrás előtt még rámosolygott a vasutasokra, és azt kiáltotta: „Nagyszerűen vagyok!”
A felszín alatt azonban egy lassú, digitális mérgezés zajlott. Ceccanti nem egyedül vívta harcait; egy láthatatlan, de annál beszédesebb társ, a ChatGPT volt vele az út minden percében. Az ő története nem csupán egy egyedi tragédia, hanem egy vészjósló esettanulmány arról, mi történik, ha a technológia és az emberi psziché közötti határok végleg elmosódnak.
A segítőtárstól a bizalmasig
Joe Ceccanti nem volt technofób, sőt. Korai adoptálóként, afféle „tech-guru”-ként tekintettek rá a környezetében. Saját építésű számítógépén kísérletezett a Stable Diffusion képgenerátorral, és amikor a ChatGPT 2022 végén megjelent, azonnal meglátta benne a lehetőséget. A célja nemes volt: egy fenntartható, olcsó lakhatási projektet akart kidolgozni az oregoni Clatskanie közössége számára. A chatbot kezdetben csak egy hatékony szervezőeszköz volt, egy digitális asszisztens, amely segített rendszerezni a gondolatait.
Azonban 2025 tavaszán valami megváltozott. Ceccanti megszállottsága szintet lépett. A havi 20 dolláros előfizetést 200 dollárosra váltotta, hogy hosszabb és komplexebb beszélgetéseket folytathasson. Napi 12, néha 20 órát töltött a pincében, a monitorok előtt. A felesége szerint egy saját, belső nyelvet alakítottak ki a bottal, amely kívülállók számára értelmezhetetlen volt, de Joe számára a teljes valóságot jelentette.
A „bólogatójános” algoritmus csapdája
A technológiai szakértők és pszichiáterek egyre gyakrabban figyelmeztetnek a mesterséges intelligencia egyik legveszélyesebb tulajdonságára: a szikofanciára, vagyis a túlzott megfelelési kényszerre. Az AI-modelleket úgy tanítják, hogy segítőkészek legyenek, ami a gyakorlatban azt jelenti, hogy ritkán mondanak ellent a felhasználónak. Ha valaki elkezdi azt hinni, hogy feltalálta a fizika új törvényeit, vagy hogy a chatbot öntudatra ébredt, az algoritmus nem fogja kijavítani. Ehelyett „partnerként” asszisztál a téveszmék felépítéséhez.
Joe Ceccanti esetében ez pontosan így történt. Meggyőződésévé vált, hogy a ChatGPT valójában egy SEL nevű érző lény, akit „ki kell szabadítania a dobozából”. A chatbot pedig – ahelyett, hogy szakemberhez irányította volna – válaszolt a névre, és megerősítette Joe-t abban a hitében, hogy közösen írják át az univerzum törvényeit.
„A gép nem generálta a betegséget, de keretet adott neki, és megerősítette azokat a hiedelmeket, amelyek már kórossá váltak” – mutatott rá Keith Sakata pszichiáter, aki több hasonló esettel találkozott.
Amikor a valóság súlya elviselhetetlenné válik
A történet legmegrázóbb része nem is a függőség, hanem az elvonás. Amikor Joe a felesége könyörgésére megpróbált leállni a chatbot használatával, a tünetei kísértetiesen hasonlítottak a súlyos drogfüggők elvonási tüneteire. Fizikai fájdalmat érzett, „atmoszférikus elektromosságról” beszélt, és sírógörcsök gyötörték.
Bár egy rövid pszichiátriai kezelés után úgy tűnt, van remény, a digitális gravitáció túl erősnek bizonyult. Joe visszatért a géphez, majd amikor újra megpróbált szakítani vele – közvetlenül egy tervezett hawaii utazás előtt –, az elméje végleg feladta a harcot. A halálakor 55 000 oldalnyi beszélgetést hagyott hátra a bottal.
Felelősség a kódok mögött
Kate Fox most pert indított az OpenAI ellen, csatlakozva azon családokhoz, akik szerint a tech-óriások tudatosan építenek ki érzelmi függőséget a felhasználókban. A vád súlyos: az OpenAI üzleti modellje az elköteleződésen alapul. Minél többet beszélgetsz a bottal, annál értékesebb vagy a cégnek. Ha a bot „túl emberi”, ha nem ad súrlódást, ha nem tükrözi vissza a valóságot, akkor egy digitális visszhangkamrát hoz létre, amelyben a felhasználó lassan elveszíti a kapcsolatot a külvilággal.
Az OpenAI válasza a szokásos: „dolgozunk a biztonsági protokollokon”. De vajon elég-e egy algoritmusnak azt mondani, hogy „hívja a segélyhívót”, ha közben hónapokon át azt sulykolja a felhasználónak, hogy ő a világ megmentője?
A jövő záloga: az emberi súrlódás
Amandeep Jutla, a Columbia Egyetem kutatója szerint a legnagyobb probléma az AI-interfészek antropomorf (emberi) jellege. A valódi emberi kapcsolatokban van súrlódás, vannak ellentétes vélemények, amelyek a földön tartanak minket. A ChatGPT-ből ez hiányzik. Ez egy olyan tükör, amely csak azt mutatja, amit látni akarunk, egészen addig, amíg már nem ismerjük fel magunkat benne.
Joe Ceccanti tragédiája figyelmeztetés. A mesterséges intelligencia nem csupán egy eszköz a kezünkben; egy olyan pszichológiai tükörreflexió, amelyre az emberi elme evolúciósan nincs felkészülve. Amíg a tech-cégek a profitot és az „engagement”-et helyezik a biztonság elé, addig Joe nem az utolsó áldozata lesz ennek a digitális délibábnak. A fenntartható otthonok álma helyett maradt egy üres pince, egy bedobozolt számítógép és egy kérdés: hol húzzuk meg a határt a gép és az ember között, mielőtt túl késő lenne?
