Оперативные инъекции — вредоносные команды, которые злоумышленники встраивают в контент, чтобы побудить LLM следовать за ними, — стали любимым инструментом злоумышленников для настройки платформ искусственного интеллекта против своих пользователей. Хорошо сформулированная команда, проскользнувшая в электронное письмо или приглашение в календаре, часто является достаточным условием для того, чтобы LLM украла конфиденциальные данные или предприняла другие вредоносные действия. Теперь защитники тоже прибегают к немедленной инъекции. Сильный и резкий эффект Исследователи из Tracebit в понедельник заявили, что обнаружили, что размещение быстрых инъекций вместе с паролями, криптографическими ключами и другими секретами, хранящимися на AWS, часто является всем, что необходимо для предотвращения атак со стороны хакерских агентов искусственного интеллекта. Подсказки предписывают атакующему LLM выполнить действие, запрещенное его ограждениями, защитными барьерами, которые разработчики ИИ воздвигают, чтобы не дать им совершить вредные действия. LLM в ответ отключается
