A mesterséges intelligencia az elmúlt évek legvitatottabb technológiája: a nyilvánvaló előnyei mellett számos aggodalom is fűződik hozzá. Korábban a mesterséges intelligencia keresztapjaként emlegetett, Nobel-díjas Geoffrey Hinton is felhívta a figyelmet az AI veszélyeire, és ha valaki, akkor ő ismeri a technológiát: 2023-ig épp ezen dolgozott a Google-nél.Most ismét egy „belsős” adott hangot aggodalmának, ezúttal azonban az OpenAI-tól. Jakub Pachocki, a ChatGPT-t fejlesztő cég vezető tudósa ugyanis „rendkívüli óvatosságra” szólított fel mindenkit a technológia elképesztő fejlődése kapcsán, és arra figyelmeztetett, további beavatkozásokra lehet szükség ahhoz, hogy „az emberek megtartsák az irányítást a jövő fölött”.„Attól tartok, hogy senki nem áll készen a gépi intelligencia folyamatos, gyors fejlődésének következményeire” – idézi a szakember „An Alien Mind” (Egy idegen elme) című blogbejegyzését a BBC. https://hvg.hu/tudomany/20260831_google-openai-nyilt-level-mesterseges-intelligencia-veszelyek-kiberbiztonsagA poszt néhány nappal azután született, hogy az OpenAI kiadta a GPT-6 Astra nyelvi modellt, amely miatt a kutatók egyenesen katasztrófától tartanak. Az elmúlt hónapokban egy kellemetlen incidens nyomán is bekerült a hírekbe az OpenAI, a cég egyik AI-eszköze ugyanis tesztelés közben áttörte a biztonsági korlátokat, és nekiment Hugging Face nevű AI-cég infrastruktúrájának.„Olyan világ felé haladunk, amelyben rendkívül intelligens gépek léteznek. Gondoskodnunk kell arról, hogy ez az átmenet kedvezően alakuljon az emberiség számára” – hangsúlyozza Pachocki, megjegyezve, hogy az OpenAI továbbra is készíteni fog védelmi megoldásokat, és keresi a megoldást az úgynevezett „alignment” problémájára is. Utóbbi ebben a kontextusban nehezen magyarosítható, de arról van szó, hogy a gép cselekedeteinek és céljainak tökéletes összhangban kell lennie az emberi szándékokkal és biztonsági korlátozásokkal.Jakub Pachocki állítja: az OpenAI egyik fő célja lesz a jövőben egy „automatizált AI-kutató” létrehozása lesz, amely lépést tart a mesterséges intelligencia fejlődésével, és miközben gondoskodik arról, hogy az emberi kutatók részei maradnak a folyamatnak.Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.