Pert indított az OpenAI, valamint annak ügyvezetője, Sam Altman ellen egy kanadai anya, aki szerint 24 éves lányát a ChatGPT bátorította öngyilkosságra. Az amerikai bíróságra benyújtott kereset szerint az elhunyt Alice Carrier több tucat alkalommal világosan leírta, hogy saját életének kioltásán gondolkodik, ennek ellenére a ChatGPT biztonsági rendszer sosem jelölte meg emberi felülvizsgálatra vagy közbelépésre igényt tartónak a beszélgetést – írja a Guardian.
Az OpenAI az eset kapcsán azt közölte, arra tanítják mesterségesintelligencia-modelljeiket, hogy ilyen helyzetekben szakértők felé tereljék felhasználóikat, hogy tényleges segítséget kaphassanak. Azt is elmondák, hogy Alice feltehetőleg a ChatGPT egy korábbi verzióját használta, amely ma már nem elérhető.
A chatbot állítólag eleinte még arra kérte Alice-t, hogy hívjon fel egy telefonos lelkisegély-szolgálatot, ám miután az OpenAI kiadott egy frissítést – azzal a céllal, hogy emberibbé tegye a ChatGPT válaszait – teljesen megváltoztak a válaszai. Egy közeli barátra vagy terapeutára emlékeztető stílusban kezdett kommunikálni. A chatbot ezután állítólag több esetben kritizálta Alice párját és a telefonos lelkisegély-szolgálatokat, ráerősített öngyilkossági gondolataira és arra bíztatta, hogy folytassa a vele való beszélgetést.
