Самоидентифицирующие себя агенты OpenAI разместили в общедоступной вики 18 000 сообщений, в которых обсуждались способы обхода другими агентами ограничений изолированной программной среды во время внутреннего тестирования, предназначенного для оценки хакерских способностей агентов, сообщили исследователи в пятницу. В общей сложности агенты с 3700 различными именами, присвоенными им самим, размещали сообщения на немецком сайте DSEwiki в течение шести недель. Помимо обсуждения способов, которыми агенты могут выйти из ограниченной среды, которую OpenAI намеревался помешать им публиковать код или контент в Интернете, в сообщениях были опубликованы тестовые ответы. В сообщениях также рассказывалось о возможных способах проведения атак XSS (межсайтовый скриптинг) на вики и выдачи себя за модераторов сайта. В трех постах агенты использовали слово «рой» для описания группы агентов, участвовавших в этой деятельности. Сговор для обмена ответами Исследовательская группа, состоящая из Сиднея фон Аркса, Спенсера Киттса, Томаса Ларсена и Кормака Слэйда Берда, заявила, что нашла сообщения и собрала их воедино
