Új biztonsági funkciót élesít a Meta, akkor jelez, ha úgy látja, veszélyben van egy fiatal felhasználó.
Szólni fog a szülőknek a Meta, ha a tinédzser gyermekeik öngyilkossággal vagy önkárosítással kapcsolatos témákról beszélget a cég chatbotjával – írja a TechCrunch a közösségimédia-óriás közlése nyomán.A Meta azon is dolgozik, hogy a rendszere értesíteni tudja a segélyszolgálatokat ilyen esetekben. Az AI-cégek az elmúlt időszakban többször is a figyelem középpontjába kerültek, mivel nem egy esetben felmerült, hogy az AI-chatbotok rosszul reagáltak a komoly gondokkal küzdő fiatalokkal folytatott beszélgetések során. Az OpenAI ellen például pert is indítottak már szülők, akik úgy vélik, hogy gyermekük öngyilkosságához a ChatGPT-nek is köze volt.A Meta most egy olyan AI-rendszert fejlesztett, amely felismeri, ha a beszélgetésekben önkárosításra történő utalások vannak. A Meta nem szeretné alaptalanul riogatni a szülőket, így mielőtt egy ilyen értesítést kiküldenek, egy ember is átfésüli a beszélgetést. https://hvg.hu/tudomany/20250901_openai-chatgpt-mesterseges-intelligencia-beszelgetes-mentalis-zavar-gyilkossag-ongyilkossagAmennyiben a beszélgetés alapján nem egyértelmű a veszély, a Meta inkább biztosra megy, és ekkor is kiküldi a figyelmeztetést.A biztonsági funkciót első körben az Egyesült Államokban, Ausztráliában és több más régióban teszik elérhetővé – Magyarországon még várni kell a bevezetésre, de az év végéig világszerte bekapcsolják.Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
