OpenAI har byggt sin nya modell Astra på ett sätt som gör delar av dess resonemang omöjligt för människor att läsa. Nu varnar säkerhetsexperter för att hela branschen kan följa efter – och att insynen i AI-agenters beslut då försvinner.
OpenAIs nysläppta AI-modell Astra bygger delvis på en metod som kallas "looped
Transformers", eller "recurrent depth", där delar av modellens interna
resonemang aldrig uttrycks i naturligt språk.
Det skriver Fortune, som i sin tur
hänvisar till The Information.
Why are AI safety experts alarmed by reports OpenAI’s Astra model uses “recurrent depth”? | Fortune
OpenAI’s new reasoning technique alarms AI safety experts | TechCrunch
OpenAI Astra model: OpenAI launches new Astra model amid growing scrutiny over agents' safety - The Economic Times
Katasztrófától tartanak a kutatók az OpenAI terve miatt
OpenAI, Astra user� la ricorrenza opaca: gli esperti di sicurezza sono allarmati
OpenAI Launches New Astra Model Amid Growing Scrutiny Over Agents' Safety
Astra appears to think without showing its work, and the people arguing about it co-wrote the warning
OpenAI launches new Astra model amid growing scrutiny over agents' safety
OpenAI calls Astra its most dangerous model yet - watching what it does is only getting harder
OpenAI Astra: OpenAI says upcoming model is so capable it requires stronger guardrails - The Economic Times
