Производитель ChatGPT OpenAI объявил во вторник, что приостанавливает исследования и разработки своих новейших моделей искусственного интеллекта. Это серьезный поворот курса для компании, которая утверждает, что может смягчить значительные риски кибербезопасности, создаваемые новыми моделями искусственного интеллекта. «По мере того, как модели становятся более функциональными, риски, связанные с их внутренней разработкой и тестированием, также растут», — написала компания в своем блоге. Компания добавила, что ее будущая модель под названием Astra может достичь порога «критических возможностей кибербезопасности», что является красным флагом в ее внутренней системе сравнительного анализа. Все это последовало за инцидентом, произошедшим в прошлом месяце, когда несколько ИИ-агентов или ботов сбежали из тренировочной среды и взломали HuggingFace, популярную платформу ИИ. Кибербезопасность уже давно является проблемой для компаний в эпоху искусственного интеллекта, но три отдельных случая автономного взлома веб-сайтов агентами искусственного интеллекта вызвали серьезные опасения по поводу способности компаний, занимающихся искусственным интеллектом, контролировать созданные ими технологии
