В своем ежегодном отчете Хол предупредил об «ужасающей» угрозе со стороны «передовых технологий» после года, посвященного изучению этого вопроса. Он отметил, что генеративный искусственный интеллект, который может создавать новый контент, такой как текст, изображения, аудио и видео, на основе того, что он научился из доступных ему данных, «будет использоваться террористами», и отметил, что Британия исторически слишком медленно реагировала на угрозы, которые породил интернет.

В отчете указывается, что большинство технологических компаний «не имеют достаточных оснований объяснять внутреннюю работу своих моделей и усилия, которые они прилагают для благополучия людей, поскольку они соревнуются за долю рынка».

Также в отчете содержится предупреждение о том, что уже существует отрасль, которая занимается «взломом» этических ограничений, установленных технологическими компаниями для предотвращения создания чат-ботами террористического контента.

Чат-боты, по предупреждению Хола, могут создать «замкнутый круг террористической радикализации» для «одиноких и несчастных лиц», подверженных соблазну реального терроризма, и даже могут быть использованы для отбора потенциальных террористов перед тем, как передать их «выше по цепочке для радикализации от человека к человеку».

В отчете Хола отмечается, что Британия была вовлечена в единственный известный случай планирования теракта с помощью чат-бота. Речь идет об инциденте, когда Джасвант Синг Чайл вместе со своей «девушкой-искусственным интеллектом» запланировал покушение на убийство ныне покойной королевы с помощью арбалета.

Хол отметил, что хотя ему не известно ни об одном современном «террористическом чат-боте», интернет «выявил целый ряд уязвимых одиноких людей, включая детей, которые могут оказаться особенно уязвимыми к радикализации в чате один на один». По его словам, Gen AI «в принципе» способен предлагать методы обхода систем безопасности и предоставлять «практические советы по использованию или адаптации оружия или структуры террористических ячеек», что особенно привлекает «одиноких нападающих».

Хол предупредил, что пропаганда, созданная искусственным интеллектом, может быть адаптирована к «местным нарративам, таким как борьба Британии с бандами, вербующими детей». По его словам, эти инструменты могут позволить «армиям ботов» заполонить форумы и социальные сети, чтобы «сделать тему динамичной и актуальной».