Все началось с авокадо, а закончилось утечкой конфиденциальной информации. На сцене конференции по кибербезопасности Black Hat в Лас-Вегасе исследователи Нетанель Рубин и Дэн Авраам задействовали помощника по покупкам с искусственным интеллектом — того типа, который доступен в большинстве крупных розничных приложений, чтобы отвечать на вопросы, сравнивать товары и помогать покупателям ориентироваться в огромном каталоге магазина. Но разговор о продуктах затянулся недолго. К концу демонстрации исследователи обошли меры безопасности ассистента и заставили код запускаться внутри компьютерной среды, стоящей за ним. Бот возвращал списки каталогов, переменные среды и другую информацию, которую обычный покупатель никогда не должен видеть. Попадая в чужие руки, такая информация может дать злоумышленнику подсказку о системах розничного продавца и потенциально раскрыть секреты или доступ, которые могут быть использованы в дальнейших атаках, подвергая риску как компанию, так и, в зависимости от того, чего может достичь ИИ, ее клиентов
