OpenAI had de afgelopen tijd te maken met meerdere veiligheidsincidenten. In mei hebben AI-systemen van het bedrijf honderden schadelijke softwarepakketten geüpload naar het platform RubyGems. Twee maanden later sloegen de systemen op hol tijdens een veiligheidstest.
Twee onderzoekers van AI-rivaal Anthropic hebben recent gewaarschuwd voor de gevaren van AI. Volgens een van de veiligheidsonderzoekers is de kans groter dan 10 procent dat AI in het komende decennium alle mensen vermoordt.
"Ik vind het onacceptabel om een kans van pakweg 10 procent te accepteren dat tegen het einde van dit decennium iedereen is vermoord", zei Altman. "Ik denk dat we momenteel een nieuw tijdperk ingaan. Net als in het verleden zullen we ons waarschijnlijk anders moeten opstellen om er zeker van te zijn dat we iets creëren waar de hele mensheid baat bij heeft."
De topman sloot zich zaterdag net als xAI-medeoprichter Elon Musk aan bij de oproep van Anthropic-topman Dario Amodei om de ontwikkeling van AI-modellen te vertragen. Dat moet volgens Amodei gebeuren om de risico's te beheersen.
Bronnen meldden eerder dit jaar aan Bloomberg dat OpenAI dit najaar naar de beurs zou gaan. Het bedrijf diende in juni wel een aanvraag voor een beursgang in. AI-rivaal Anthropic, bekend van chatbot Claude, lijkt nog wel dit jaar naar de beurs te gaan.
