Bűnözők, államilag támogatott csoportok, kémszoftver-forgalmazók, tudósok és propagandisták is megpróbálták felhasználni az Anthropic nagy teljesítményű mesterségesintelligencia-modelljeit rakéták és bombák tervezésére, halálos kórokozók létrehozására, valamint ellenzékiek megfigyelésére – derül ki magának a vállalatnak a fenyegetéselemzési jelentésből, amelyet csütörtökön tettek közzé.
„Az itt megosztott esetek nem tipikus visszaélések, hanem az általunk eddig azonosított legjelentősebb és legújabb fenyegetési tevékenységek példái” – írta az Anthropic a 154 oldalas jelentésében. „Azért tesszük közzé ezt a munkát, mert úgy gondoljuk, hogy felelősségünk nyilvánosságra hozni a szolgáltatásainkkal való rosszindulatú visszaéléseket.”
A vállalat öt olyan esettanulmányról részletesen is írt, amelyekben tudósok az AI-modelleket biológiai kutatásokhoz használták. Ezekben a példákban az Anthropic szerint a kutatók megkerülték a „nem támogatott régiókból” érkező felhasználók kizárására szolgáló biztonsági intézkedéseket, és azon is dolgoztak, hogy elrejtsék munkájuk valódi célját.
„A biológiai célú visszaélés a legfejlettebb AI-modellek egyik legsúlyosabb kockázata” – írta az Anthropic. „Megfelelő biztosítékok nélkül az ilyen képességeknek katasztrofális következményei lehetnek.”
