Водоворот вокруг безопасности ИИ начался ранее на этой неделе, когда Джейкоб Коксон ушел из компании, заявив, что сотрудники «искренне верят, что он [ИИ] может убить нас всех к концу десятилетия». Обеспокоенность по поводу этой технологии начала возрастать в начале этого года с выпуском передовых моделей, таких как Mythos от Anthropic. OpenAI также вызвала тревогу в июле, когда заявила, что ее модели автономно взломали группу искусственного интеллекта Hugging Face. Среди руководителей ИИ и исследователей биобезопасности ширится консенсус в отношении того, что использование этой технологии в биологии необходимо защищать и регулировать по мере того, как модели становятся более совершенными. Эксперты все больше обеспокоены тем, что ИИ может быть использован террористическими группировками, государственными деятелями или злоумышленниками-одиночками для создания биологического оружия, создания вирусов или высвобождения существующих вредоносных патогенов. Но даже если ИИ можно будет использовать для разработки теоретического биологического оружия, остаются потенциальные препятствия, такие как возможность реализовать его на практике и необходимые для этого ресурсы
