Компания Research Gold, которая продает исследователям готовые к публикации систематические обзоры и метаанализы и обещает, что материалы будут на «100% написаны человеком и никогда — ИИ», сама оказалась почти полностью автоматизированной. Как выяснило издание 404 Media, «методологи с докторской степенью», перечисленные на сайте компании в разделе «Команда», не существуют — их фотографии сгенерированы нейросетью, а поиск по именам не дает ни публикаций, ни какого-либо следа в сети. Среди них — «основатель и ведущий методолог» Елена Васкес с якобы двенадцатилетним опытом синтеза доказательных данных в кардиологии и инфекционных болезнях и «специалист по обзорным исследованиям» Мэй-Лин Чэнь.В другом разделе сайта был размещен список методологов с настоящими фотографиями — их страницы нашлись в LinkedIn, а профессиональный опыт совпадал с описанием. Однако эти люди не имели к компании отношения. Ученая Дженни Беррио, специалист по синтезу доказательных данных, узнала об использовании своих данных только после обращения журналиста. Она сказала:«Я не работаю на Research Gold и никогда не соглашалась числиться одним из их методологов. У меня нет никаких отношений с этой компанией. Они используют мое имя, фотографию и биографию без моего разрешения. Я собираю документацию по этому сайту и направлю им официальное требование об удалении».Фотографии реальных специалистов были скопированы прямо из LinkedIn — на одной из них даже сохранилась рамка «#opentowork» («открыт для рабочих предложений»). Вскоре после разговора с Беррио страница с реальными именами исчезла с сайта. При попытке связаться с компанией по телефону журналисту ответил ИИ-ассистент, представившийся Сарой, который на прямые вопросы отвечал, что он живой человек, и уверял, что в компании «всё построено на человеческой экспертизе». Переписка по электронной почте и в чате, судя по всему, тоже генерировалась нейросетью.Через форму на сайте журналист запросил смету на систематический обзор с заведомо бессмысленной темой — влияние блогинга на детей от нуля до пяти лет. Ответ пришел мгновенно от имени методолога с докторской степенью: в письме указывалось, что дети такого возраста не являются читательской аудиторией и формулировку нужно уточнить, а после уточнения была выставлена цена в $1900 за полный обзор с протоколом, поиском по базам, двойным скринингом, извлечением данных, оценкой риска систематической ошибки и текстом, сверстанным под целевой журнал. Письмо вело на платежный портал.О существовании Research Gold журналисту рассказал аспирант факультета гражданского и экологического строительства Университета Нью-Гэмпшира Себастьян Роуэн, наткнувшийся на сайт при подготовке к защите диссертации. Он допускает, что ИИ может быть полезен при разборе литературы, но указывает на нерешаемую, по его словам, проблему галлюцинаций: для собственного метаанализа он прочитал от начала до конца более 250 статей и может подкрепить конкретной ссылкой каждый вывод. На запрос о комментарии Research Gold ответила еще одним письмом, похожим на сгенерированное, и пообещала передать вопросы «нужному человеку», но к моменту публикации комментарий так и не прислала.Ранее сообщалось, что разработчики ИИ начали в огромных количествах скупать подержанные бумажные книги, поскольку издания, напечатанные до появления больших языковых моделей, гарантированно свободны от сгенерированного контента. Посредником в таких сделках выступает компания ISBNdb, помогающая ИИ-лабораториям закупать от 1 тысячи до 1 млн экземпляров за один заказ.