OpenAI заявляет, что ее чип халапеньо может обеспечить более быструю реакцию ИИ, чем у конкурентов

Согласно сообщению в блоге, опубликованному во вторник, OpenAI утверждает, что ее новый чип искусственного интеллекта Jalapeño выполняет задачи более эффективно и возвращает ответы быстрее, чем другие системы искусственного интеллекта. Во время брифинга с журналистами вице-президент OpenAI по аппаратному обеспечению Ричард Хо сказал, что Халапеньо предлагает «лучшее из обоих миров» с меньшей задержкой и более высокой пропускной способностью, поскольку системам искусственного интеллекта обычно «приходится искать компромисс между ними». Впервые представленная в июне, Jalapeño представляет собой интегральную схему специального назначения (ASIC), созданную в сотрудничестве с Broadcom. Он предназначен для вывода ИИ — процесса запуска обученной модели ИИ для выполнения задачи или развертывания агента. Чтобы измерить производительность Халапеньо, OpenAI использовала InferenceX, платформу для сравнительного анализа, которая показывает, насколько хорошо системы искусственного интеллекта обрабатывают логические выводы. В ходе теста производительность Jalapeño сравнивалась с лучшими результатами, зафиксированными на тот момент, которые были достигнуты с суперчипами Nvidia GB200 или GB300