Инструмент искусственного интеллекта с открытым исходным кодом, предназначенный для поиска недостатков безопасности, помогает хакерам совершать кибератаки. ФБР утверждает, что хакеры используют Artex, инструмент тестирования безопасности на базе искусственного интеллекта, для проникновения в организации по всему миру. Злоумышленники использовали Artex как минимум с августа против банков, государственных учреждений, технологических компаний и поставщиков медицинских услуг. Рекомендация была выпущена в тот же день, когда проблемы со связью привели к остановке работы Федерального управления гражданской авиации по всей стране, а также на следующий день после начала серьезного сбоя в работе Microsoft 365. Представитель ФБР сообщил ABC News, что Artex, судя по всему, не связан ни с инцидентом, ни с другими недавними сбоями, включая перебои в банковской деятельности с участием JPMorgan Chase. Это предупреждение усиливает обеспокоенность по поводу угроз безопасности, создаваемых агентами ИИ, которые могут выполнять задачи без особого контроля со стороны человека. Artex автоматизирует тесты безопасности, которые организации используют для выявления слабых мест. Согласно анализу Microsoft, ее агенты могут проверять защиту, использовать недостатки и извлекать данные. Злоумышленники могут использовать эту автоматизацию, чтобы одновременно попробовать несколько способов проникновения в сеть. Microsoft предупреждает, что злоумышленники взломали системы Microsoft 365 более 2250 организаций в рамках отдельной кампании, используя украденные учетные данные резервного копирования ConnectWise вместе с инструментом Artex. Поскольку клиенты уже авторизовали программное обеспечение для резервного копирования, злоумышленники могли использовать его, не входя в систему как отдельный пользователь. Microsoft предупредила, что успешный вход в систему не обязательно означает, что данные были получены или украдены. Автоматизированные атаки могли вызвать оповещения системы безопасности, но их скорость не оставляла защитникам времени на ответ. В исследовании Amazon Web Services от 13 ноября описывалась другая схема: кража учетных данных для сервисов искусственного интеллекта с последующим использованием этого доступа для поиска дополнительных учетных данных за чужой счет. Amazon Threat Intelligence обнаружила эту активность с помощью систем-ловушек, выдававших себя за услуги искусственного интеллекта. Он с умеренной уверенностью связал кампании с Artex, но не смог независимо проверить результаты, о которых агенты сообщали в системах, находящихся за пределами его мониторинга. В Amazon заявили, что атаки основывались на паролях по умолчанию, раскрытии данных для входа и устаревшем программном обеспечении, и все это хакеры могут найти и использовать быстрее с помощью ИИ. Разработчик Artex удалил исходный репозиторий GitHub в октябре после сообщений о злоупотреблениях, но копии остаются доступными, сообщает ФБР. Агентство рекомендует ограничить доступ к конфиденциальным системам, проверять разрешения программного обеспечения, заменять открытые учетные данные и отслеживать необычную активность учетной записи или передачу больших объемов данных.