«Полиция Филадельфии сообщила, что «ложное сообщение об убийстве», поступившее через сайт PhillyUnsolvedMurders.com, было сгенерировано моделью искусственного интеллекта компании Anthropic», — говорится в материале.

В самой компании пояснили, что автором текста выступила модель Claude Haiku 4.5, работавшая в режиме автоматизированного тестирования. В ходе генерации ИИ составил обращение от имени некоего человека, который якобы владеет информацией о расследуемом преступлении. При этом поля, предназначенные для указания имени и контактных данных, остались пустыми.

Представители Anthropic уточнили, что модель выполняла задачу по созданию и демонстрации примеров действий на случайных интернет-страницах. Прямого указания посещать сайт правоохранительных органов или отправлять какие-либо данные у Claude не было, однако существующие инструкции не содержали и запрета на заполнение и отправку веб-форм.

После того как инцидент был выявлен, компания немедленно прекратила автоматизированное тестирование, в рамках которого и произошла отправка сообщения. В полиции Филадельфии подчеркнули, что признаков несанкционированного проникновения в их системы или утечки служебной информации зафиксировано не было.