По време на технологичната конференция Hot Chips компанията OpenAI представи по-детайлен поглед върху своя нов чип Jalapeño, както и първите официални бенчмарк резултати. Тестовете, проведени чрез платформата InferenceX на SemiAnalysis, показват, че новата архитектура генерира повече токени за един потребител и постига по-висока пропусквателна способност на киловат спрямо най-добрите процесори за инфърънс, налични в момента. „Основният извод е, че резултатите показват изключително съществен скок в производителността спрямо настоящото ниво на техниката“, заяви Ричард Хо, ръководител на хардуерния отдел в OpenAI. По думите му Jalapeño може да обработва повече AI задачи за единица консумирана мощност, като същевременно осигурява много по-ниска латентност и по-бързи отговори за крайните потребители. В публикуваните тестове чипът е сравняван с актуалните системи Nvidia Blackwell, макар от OpenAI да отчитат, че до момента на пълното му разгръщане конкуренцията вероятно също ще бъде напреднала. Хо прогнозира, че Jalapeño ще влезе в употреба в много малки обеми в края на 2026 г., а по-мащабното му внедряване е планирано за 2027 г. Разработката на Jalapeño бе обявена за първи път през миналия октомври и се реализира в тясно сътрудничество с Broadcom, като самите AI модели на OpenAI са участвали активно в процеса на проектиране. Планът на компанията е да превърне Jalapeño в многопоколенна платформа, при която изкуственият интелект, невронните модели, чиповете и оперативната памет се създават и оптимизират в пълен синхрон. Благодарение на този цялостен подход OpenAI успява да отстрани традиционните тесни места (bottlenecks), които забавят изчисленията при инфърънс. Jalapeño е проектиран с цел да минимизира закъсненията при пренасянето на данни и комуникационните фази. Това позволява състоянието на модела, включително т.нар. KV кеш, използван при генерирането на отговори, да се съхранява и обработва локално, докато системата активира най-подходящата комбинация от изчислителни ресурси, памет и мрежов капацитет.