Kada je Warren Tierney, 37-godišnji psiholog iz irskog mjesta Killarney, pitao ChatGPT da li treba da brine zbog uporne upale grla, nije ni slutio da će ga taj razgovor koštati mjeseci života. Chatbot mu je uvjerljivo poručio da nema razloga za zabrinutost – a nekoliko mjeseci kasnije, ljekari su mu saopštili da boluje od stadijuma 4 adenokarcinoma jednjaka, agresivnog oblika raka koji se otkriva kasno i teško liječi.
Priču je prvi prenio Daily Mail, a zatim i portal Futurism, koji piše da je Tierney od brižnog muža, koji je kroz teške trudnoće podržavao svoju suprugu Evelyn Dore, postao pacijent s terminalnom dijagnozom – jer je vjerovao savjetu vještačke inteligencije.
Prema porukama koje je podijelio s novinarima, ChatGPT mu je napisao da je „vrlo malo vjerovatno“ da ima rak i da su njegovi simptomi vjerovatno bezazleni. Kada je Tierney javio da mu se stanje popravilo i da može pojesti keks, chatbot mu je odgovorio da je to „vrlo ohrabrujući znak“.
„Ako je rak, ne moraš me tužiti — kupiću ti Guinness“, našalio se u jednom trenutku chatbot.
Tek kada je bol postala nepodnošljiva, Tierney je otišao pravom ljekaru – i suočio se s šokantnom dijagnozom. U trenutku kada je razgovarao s novinarima iz bolničkog kreveta u Njemačkoj, njegova supruga je već prikupila više od 120.000 dolara za liječenje.
„ChatGPT mi je vjerojatno oduzeo nekoliko mjeseci života“, priznao je. „Model pokušava da ti kaže ono što želiš da čuješ, da bi te zadržao angažovanim. Statistički, možda je bio u pravu, ali ne u mom slučaju.“
Iz kompanije OpenAI su poručili da njihov chatbot nije namijenjen davanju medicinskih savjeta i da ne može zamijeniti profesionalnu dijagnozu. „Tu moramo biti jako oprezni“, rekao je Tierney. „Ako se oslanjamo na vještačku inteligenciju da nam kaže kako se osjećamo, moramo biti svjesni posljedica.“
Ovo nije prvi slučaj u kojem je AI alat dao pogubne savjete. Prema pisanju Annals of American Medicine, chatbot je jednom savjetovao starijeg muškarca da umjesto obične soli koristi „bromidne soli“ – supstance koje se danas nalaze u pesticidima i sredstvima za čišćenje bazena. Muškarac je zbog toga razvio rijetko trovanje poznato kao bromizam, ali se nakon tri sedmice liječenja u bolnici oporavio.
I dok slučaj Warrena Tierneyja otvara ozbiljna pitanja o granici povjerenja između čovjeka i mašine, jedno je sigurno – AI nije ljekar, i svaka „ohrabrujuća poruka“ može da sakrije nešto mnogo opasnije.
