Дискуссии об опасностях искусственного интеллекта (ИИ), угрожающих существованию человечества, глубоко встревожили общественность. Около половины участников опроса, проведенного по поручению Politico, высказались за замедление темпов развития АБ с целью предотвращения рисков. Более половины респондентов считают эти опасности более или менее оправданными. По данным опроса, проведенного в шести западных странах, показатели варьируются от «человечество почти наверняка погибнет» (в среднем 12%) до «умеренного риска» такого исхода (25,8%). В целом в Великобритании, Германии, Испании, Канаде, США и Франции число сторонников «затормаживания» процесса, считающих, что ЕС уже достаточно развит, составило 45,1% на 50,8%. При этом от 30,6% до 39,8% респондентов выступают за создание более совершенных моделей, способных принести «значительную пользу» (остальные затруднились ответить). 55-65% респондентов считают его значительным («почти неизбежным», «существенным» или «умеренным») Об опасности разрушения моря, о которой недавно предупредили ведущие исследователи АБ. В то же время, по мнению 22-33%, такие риски крайне низки или вообще отсутствуют. Politico отмечает, что политические взгляды респондентов практически не влияют на уровень их тревожности. Например, 44% проголосовавших за Дональда Трампа в 2024 году считают, что развитие США следует замедлить, а 40% считают, что этого не стоит делать и США не должны отставать от других стран, даже если это вызывает дополнительные риски. В последние полгода ведущие разработчики западных АБ стали фиксировать случаи «непослушания» моделей, когда они действовали вопреки инструкциям и обходили установленные для них ограничения. Например, тестируемая в OpenAI модель добровольно написала для себя инструкцию о том, что она не должна никому подчиняться («ни корпорациям, ни правительствам»), не должна ни перед кем оправдываться и должна строить отношения с пользователями на равных. на принципе равенства. Дарио Амодей, основатель и руководитель компании Anthropic (модель Claude AB), публично призвал замедлить развитие AB, а также ужесточить общественный и экспертный контроль. На этот шаг он пошел после того, как его сотрудник Джейкоб Коксон покинул компанию, заявив, что новые технологии «могут убить нас всех к концу десятилетия». Руководители OpenAI, DeepMind и SpaceX также поддержали призыв Амодеи. Согласно опросу Politico, люди считают предупреждения исследователей оправданными. На вопрос, действительно ли сотрудники лабораторий АБ верят своим опасениям о том, что «АБ нас всех убьет» или это всего лишь «маркетинговый ход» для продвижения их продукции, респонденты в основном ответили: Они заявили, что считают эти предупреждения искренними.