Anthropic, compania de inteligență artificială condusă de Dario Amodei, cere marilor laboratoare din domeniu să ia în considerare o pauză coordonată și verificabilă în dezvoltare, avertizând că progresele rapide ale tehnologiei ar putea permite în curând sistemelor AI să se îmbunătățească singure mai repede decât poate fi gestionat, transmite Reuters.
Compania creatoare a modelului Claude a declarat că abilitatea AI de a îndeplini sarcini în mod autonom s-a dublat la aproximativ fiecare patru luni și că se îndreaptă către „autoîmbunătățirea recursivă” (recursive self-improvement), punctul în care tehnologia se poate perfecționa fără intervenție umană.
„Dacă sistemele sunt capabile să își construiască integral propriii succesori, modalitățile prin care le securizăm, le monitorizăm și le modelăm comportamentul devin cu atât mai importante”, a afirmat startup-ul într-un amplu mesaj publicat joi pe blogul său, adăugând că o pauză ar permite societății să „gestioneze implicațiile sale uriașe”.
„Nu am ajuns încă acolo, iar autoîmbunătățirea recursivă nu este inevitabilă. Dar ar putea apărea mai devreme decât sunt pregătite majoritatea instituțiilor”, au scris în articol Jack Clark, cofondator al Anthropic, și Marina Favaro, directoarea Anthropic Institute.
