По умолчанию многие люди делают предположение, что они вызваны либо кибератаками, либо «ИИ» в широком смысле, будь то ИИ, вышедший из строя, «мошеннические» ИИ-агенты или что-то еще, что указывает на то, насколько люди боятся ИИ. По сути, я говорил людям, что это дерьмо сломано и что-то будет продолжать ломаться. Я думаю, что мы наблюдаем серию сбоев инфраструктуры (и некоторых кибератак), которые не связаны напрямую, но в целом являются симптомом тех же общих тенденций и системных проблем, которые мы наблюдали в обществе, правительстве и технологическом секторе за последние несколько лет. Самое простое объяснение, которое я могу придумать для более широкой катастрофической тенденции, которую мы наблюдаем, заключается в том, что после пандемии мы наблюдаем: массовые увольнения технических специалистов и разработчиков программного обеспечения, массовое внедрение продуктов с поддержкой искусственного интеллекта и кодирования Vibe, обновлений программного обеспечения и исправлений, массовые увольнения в государственном секторе и полное уничтожение государственного опыта и надзора, потерю институциональных знаний, связанных с этими увольнениями и сокращением финансирования, неспособность инвестировать в модернизацию инфраструктуры / резервирование государственных контрактов, переданных Друзья и политические союзники президента. Компании по обнаружению, кодированию и развертыванию эксплойтов с помощью ИИ и LLM, реагирующие на угрозу взлома ИИ с помощью ИИ и срочных исправлений. Когда Илон Маск взял на себя управление Twitter и назвал его X, было много людей, которые думали, что его увольнения и связанная с этим потеря опыта приведут к сбою сайта в основном из-за сбоя в инфраструктуре. Таким образом, мы наблюдаем смесь плотно сгруппированных атак, сбоев и сбоев, которые можно ожидать увидеть, когда люди и компании небрежны, не знают, что делают, или работают очень быстро, чтобы отреагировать или склеить что-то вместе перед лицом новых угроз. «Мы — корабль Тезея, управляющий всей нашей экономикой и инфраструктурой». Мы знаем, что это происходит в некоторой степени, потому что после эксплойта PHP2Shell, который был обнаружен с помощью LLM, мы видели, как различные веб-сайты отключались, поскольку они пытались выпускать обновления быстрее, чем обычно, потому что время между обнаружением уязвимости и ее эксплуатацией стало быстрее, чем когда-либо. (Когда я писал это, Калифорния, одна из компаний, которая использовала LLM для поиска PHP2Shell, объявила, что она использовала LLM для поиска очевидно серьезных уязвимостей в Java.) Компании и агентства распространяют обновления (в том числе, например, нашу систему управления воздушным движением) на действующих системах, отчасти из-за угрозы ИИ, и все ломается. Люди все чаще не понимают и не имеют ни малейшего представления о том, как работает их код, люди движутся очень быстро, и происходят плохие вещи.