«Я даже полагаю, что ИИ может представлять угрозу человечеству в целом», – заявил он, отметив высокие темпы развития технологий. «ИИ развивается очень быстро. Четыре года назад он едва ли мог написать строку кода или решить математическую задачу для старшеклассников. Теперь он пишет большинство кодов Anthropic и справляется с известными на весь мир нерешенными математическими задачами. Этой траектории достаточно продлиться еще очень короткий временной промежуток – год или два, быть может, меньше, чтобы достигнуть того, что я называю страной гениев в дата-центре», – добавил Амодеи.

По его словам, продвинутые модели приносят существенную пользу, но связаны с серьезными рисками, среди которых он выделил две ключевые категории. «Во-первых, это ненадлежащее использование ИИ-моделей, например, биотеррористами для создания биологического оружия. Второй риск заключается в утрате контроля», – считает он.

Руководитель Anthropic подчеркнул готовность компании корректировать темпы разработки ради безопасности: он заявил о готовности замедлять скорость развития ИИ «настолько, насколько потребуется, чтобы гарантировать безопасность любой выпускаемой ИИ-технологии». При этом он отметил, что решение обозначенных проблем выходит за рамки возможностей одной компании и носит отраслевой и международный характер.

Амодеи выступил за формирование общих международных норм и механизмов их соблюдения. Он напомнил, что ранее уже говорил о необходимости добиться «глобального сотрудничества во всем мире между правительствами с целью установления международных стандартов» и отметил, что «эта тема самым прямым образом относится к полномочиям этого Совета». «В связи с этим я хотел бы предложить три идеи. Во-первых, мы должны начать с узконаправленных соглашений, которые могли бы поддержать все члены, например, запретить использовать ИИ для создания биологического оружия или позволять использовать ваши ИИ-технологии для создания биологического оружия», – отметил топ-менеджер.

«Во-вторых, нам нужно создать системы проверки и верификации, которые соответствовали бы темпам развития ИИ, чтобы государства имели представление о возможностях передовых моделей и могли проверять соблюдение друг другом взятых обязательств», – продолжил он.

В-третьих, по мнению Амодеи, следует обозначить общие глобальные стандарты тестирования ИИ-моделей на риски потери контроля и неправомерного использования, а также систему уведомления о связанных с ИИ инцидентах, значимых с точки зрения глобальной безопасности.

Амодеи назвал связанные с ИИ угрозы «самая важная проблема в сфере глобальной безопасности, которая сегодня стоит перед миром». «Несмотря на все разногласия присутствующих в этом зале, мы должны отложить их в стороны, чтобы справиться с этой глобальной возможностью и одновременно глобальной угрозой. Ни один лидер, компания или страна не смогут сделать это в одиночку», – заключил глава Anthropic.

Ранее на том же заседании генеральный директор OpenAI Сэм Альтман также предупредил об ускорении развития ИИ и рисках потери контроля. По его словам, рост автономности таких систем несет опасность того, что «технологическое развитие начнет опережать возможности государств и международных институтов по его регулированию и контролю».

Альтман заявил о согласии с Амодеи и анонсировал внедрение независимых оценщиков в корпорации. При этом он допустил создание неподконтрольного человеку ИИ. Топ-менеджер заверил, что компания будет принимать необходимые меры в целях обеспечения безопасности работы программ на основе ИИ, вплоть до приостановки обучения моделей. Илон Маск (SpaceXAI) поддержал Амодеи и напомнил о своей позиции 2023 года в пользу паузы.

…А если перевести все это на понятный язык? Переводим: Китай обгоняет Америку по ИИ, поэтому надо срочно притормозить его, а как обгоним – так моментально снять все запреты. Такое есть всегда в американской повестке дня, было, и, конечно же, будет. Если у джентльмена не идет игра, он меняет правила игры, не так ли?