AI-bolaget Anthropic har gått igenom de värsta försöken att missbruka bolagets egna modeller – och resultatet fyller 154 sidor. Rapporten kommer bara två dagar efter att en tidigare anställd slog larm om bolagets teknikutveckling.
Anthropic rapporterade att Claude användes för missil-, bomb- och patogenkonstruktion av statliga aktörer i fem dokumenterade fall. Sårbarheter i AI-governance tvingar enterprises omvärdera compliance-strategi vid adoption av foundation models.
Brottslingar, statligt finansierade grupper, spionprogramleverantörer och
propagandister har försökt använda AI-bolaget Anthropics modeller för att
konstruera missiler och bomber, skapa dödliga patogener och övervaka
dissidenter.
Det skriver The Guardian, som i sin tur hänvisar till Anthropics
The 154-page report comes two days after former employee Jacob Coxon resigned due to Anthropic racing to improve its models that…
Anthropic afirmó que ha frustrado varios posibles complots en los que utilizaron su IA para realizar investigaciones sobre el…
Report comes two days after former employee quit claiming company’s models could cause human extinction by 2030
The company’s report on misuses of its models comes as its employees speak out about AI’s safety and existential risks.
Más visszaélésekről is beszámoltak két nappal azután, hogy a cég egyik volt alkalmazottja felmondott, azt állítva, hogy a…
La compañía no reveló la identidad de los responsables por operar desde países donde la empresa no presta servicios
