Новейшие ИИ-модели приблизились к этапу рекурсивного саморазвития, которое может нести риски для всего человечества.Разработчик чат-бота Claude призывает всех замедлить развитие ИИ / фото ua.depositphotos.comКомпания-разработчик Anthropic, создавшая популярное семейство языковых моделей Claude, опубликовала у себя на сайте статью с призывом замедлить или приостановить развитие ИИ. Один из ее авторов – сооснователь Anthropic Джек Кларк, ранее работавший в OpenAI.Руководство компании подчеркивает, что самые новые ИИ-модели находятся на пороге рекурсивного самосовершенствования – способности развиваться без прямого контроля человека. Как будет выглядеть мир, где ИИ сможет улучшать себя сам, в Anthropic не знают, однако подчеркивают, что это может нести риски для всего человечества:"Если системы станут способны сами производить потомков, то способы их защиты, мониторинга и формирования их поведения станут намного важнее, чем сейчас", – говорится в материале.Видео дняСтатья призывает лидеров в области искусственного интеллекта заключить сделку и замедлить развитие технологии, чтобы дать обществу больше времени на адаптацию. При этом разработчики Claude понимают, что такое реализовать достаточно сложно, потому что скрыть развитие новой модели проще, чем строительство новой ракетной шахты.Однако Anthropic в любом случае считает, что индустрии ИИ надо "убрать ногу с педали газа и нажать на тормоз".фото AnthropicРанее Сэм Альтман, руководитель OpenAI, говорил, что человечество стоит на пороге создания цифрового "сверхразума", и этот процесс неизбежен. Через пару лет ИИ будет совершать научные открытия, "которые люди не могли бы сделать сами".Ранее похожий прогноз давал основатель xAI Илон Маск. По его словам, ИИ уже умнее большинства людей, а к концу текущего десятилетия станет умнее всех людей вместе взятых.УНИАН писал, что создатели ChatGPT могут обанкротиться уже к середине 2027 года. Ключевая проблема OpenAI заключается в том, что значительная часть пользователей использует бесплатные версии чат-ботов, так что они скорее уйдут к конкурентам, чем начнут платить.Вас также могут заинтересовать новости:"Плохие новости": люди, которым за 30, никогда не станут носителями ИИ, - BIЭта функция Google Photos обучает ИИ на ваших фото – вот как ее отключитьВ Instagram резко участились "угоны" аккаунтов: виноват опять искусственный интеллект