Jack Clark, Co-Founder Anthropic. Credit line: SAUL LOEB / AFP / Profimedia
Anthropic, care a dezvoltat Claude, a lansat un avertisment industriei AI: trebuie să apese „pedala de frână”, altfel companiile riscă să piardă controlul asupra propriilor creații, relatează CNN.
Modelele de AI se perfecționează rapid, atât de repid încât ar putea ajunge în curând să se dezvolte singure, fără intervenția omului, au avertizat, într-o postare pe blogul Anthropic, Marina Favaro, directoarea Institutului Anthropic, și Jack Clark, cofondator al companiei Anthropic.
Sistemele de AI capabile să se perfecționeze singure, cunoscute sub denumirea de „autoperfecționare recursivă completă”, ar putea aduce beneficii enorme pentru știință și domeniul sănătății, dar prezintă totodată riscuri majore pentru umanitate, spun ei.
„Autoperfecționarea recursivă completă ar putea, de asemenea, să sporească riscul ca oamenii să piardă controlul asupra sistemelor de AI”, au scris ei.
