Специалисты Anthropic опубликовали 154-страничный отчет , рассказывающий о злоупотреблениях моделями Claude. С декабря 2025 по август 2026 года в компании пресекли множество операций, в рамках которых ИИ использовали для кибератак, слежки, пропаганды, мошенничества, опасных биологических исследований и даже разработки вооружений. В Anthropic подчеркивают, что новый отчет не отражает общий масштаб злоупотреблений Claude и типичные случаи применения ИИ. Для составления этого документа специалисты специально отобрали наиболее заметные и необычные случаи, которые удалось выявить и пресечь за упомянутый период. Один из главных выводов отчета: ИИ все чаще выступает для преступников не просто помощником, который пишет код или отвечает на технические вопросы. В некоторых операциях агенты Claude самостоятельно проводили разведку, эксплуатировали уязвимости, похищали данные и управляли отдельными этапами атак, тогда как человек лишь ставил цели и контролировал результат
