Американское правительство обнаружило способ обойти защиту в моделях Anthropic.Версия Fable 5 уже недоступна / коллаж УНИАН, фото ua.depositphotos.comAnthropic приостановила работу своих самых передовых моделей искусственного интеллекта после того, как американское правительство обязало компанию ограничить доступ для всех иностранных граждан, сославшись на соображения национальной безопасности.Директиву Anthropic получила от министра торговли США Говарда Лютника после того как правительство обнаружило "джейлбрейк", то есть способ обойти встроенные в модель защитные ограничения. Anthropic добавила, что "суммарный эффект" приказа, подтверждённого американским чиновником, свёлся к тому, что компания была вынуждена отключить доступ повсеместно – в том числе и в США, пишет Financial Times.Администрация Трампа имела доступ к передовой модели Anthropic Mythos на протяжении нескольких недель, и ряд чиновников выражал обеспокоенность её потенциальным использованием для эксплуатации уязвимостей в области кибербезопасности критической инфраструктуры – в частности, мировой финансовой системы, заявляют журналисты. Федеральные ведомства экспериментировали с моделью до ее официального выпуска.Видео дняТем не менее администрация не препятствовала Anthropic развернуть Mythos для своих клиентов на этой неделе.Почему правительство не заблокировало Mythos раньшеПрезидент США Дональд Трамп недавно подписал указ, который не предоставил правительству полномочий блокировать выпуск модели, однако установил добровольную систему, позволяющую различным ведомствам проверять передовые модели до их широкого распространения.В пятницу Anthropic сообщила, что отозвала свои наиболее мощные модели – Mythos 5 и Fable 5 – у всех пользователей. Однако компания, которая ведёт судебную тяжбу с американским правительством, осудила приказ и заявила, что он основан на "недопонимании".Разногласия грозят ещё больше обострить отношения, которые на протяжении всего года становились всё более напряжёнными по мере того, как Anthropic и представители правительства спорили о том, как и когда развёртывать мощные технологии."Мы убеждены, что правительство должно иметь возможность блокировать небезопасные развёртывания – в рамках законодательного процесса, который является прозрачным, справедливым, чётким и основанным на технических фактах. Данное действие не соответствует этим принципам", – говорится в заявлении Anthropic.Также они отметили, что "не согласны с тем, что обнаружение узкого потенциального джейлбрейка должно служить основанием для отзыва коммерческой модели, развёрнутой для сотен миллионов людей".Если бы этот стандарт применялся по всей отрасли, в Anthropic убеждены, что это фактически остановило бы все новые развёртывания моделей для всех ведущих разработчиков. В итоге компания подала в суд на американское правительство в связи с присвоением ей Пентагоном статуса "риска для цепочки поставок" после разногласий относительно использования её моделей в военных целях.Не только джейлбрейк - как давно началось противостояниеКомпания подвергается критике за свою политику безопасности со стороны различных представителей коалиции Трампа, включая бывшего куратора по вопросам ИИ Дэвида Сакса. Сам Трамп заявлял, что компанией руководят "леваки и психи".Американский лидер также недавно предложил, чтобы компании в сфере ИИ передавали правительству доли в своём капитале, однако этот план пока так и не был реализован.Ранее УНИАН сообщал, что OpenAI готовит крупнейшее обновление ChatGPT с момента запуска.Вас также могут заинтересовать новости:ИИ помог мужчине найти потерянные биткоины на 400 тысяч долларовРазработчик Claude призвал техгигантов заключить сделку и замедлить развитие ИИОфисные работники превращаются в "нянь" для искусственного интеллекта, - исследование