OpenAI, yapay zeka modellerinin çıkarım süreçleri için geliştirdiği Jalapeno adlı özel çipin ilk performans sonuçlarını paylaştı. SemiAnalysis’in InferenceX testlerinde kullanılan sistem, mevcut Nvidia çözümlerine kıyasla hem güç başına daha fazla yapay zeka işi gerçekleştirdi hem de daha düşük gecikme sundu. Performansı şaşırtıcı OpenAI’ın donanımdan sorumlu yöneticisi Richard Ho, Hot Chips konferansında yaptığı açıklamada Jalapeno’nun çıkarım performansında önemli bir sıçrama sunduğunu belirtti.
SemiAnalysis tarafından gerçekleştirilen InferenceX testlerine göre çip, kullanıcı başına daha fazla token üretirken kilovat başına da daha yüksek işlem kapasitesine ulaştı. Testlerde Jalapeno, tepe performansında Nvidia’nın mevcut GB200 ve GB300 tabanlı sistemlerine kıyasla watt başına 1,5 ila 1,9 kat daha fazla yapay zeka işi gerçekleştirdi. Uçtan uca gecikme tarafında ise 1,7 ila 3,6 kat daha düşük sonuçlar elde edildi.
Karşılaştırmalar OpenAI’ın GPT-OSS 120B, DeepSeek R1 670B ve Kimi K2.5 1T modelleriyle gerçekleştirildi. OpenAI, Jalapeno’nun yalnızca belirli bir model ailesine göre optimize edilmediğini ve farklı modellerle çalışabilecek şekilde tasarlandığını belirtiyor. Bu arada Jalapeno HBM4 bellek kullanırken Nvidia’nın GB200 ve GB300 sistemleri HBM3E ile test edildi.
Dolayısıyla testlerde OpenAI lehine bir avantaj olduğunun altını çizelim. TSMC’nin N3P üretim süreciyle üretilen ve Samsung’un HBM4 belleklerini kullanmasını bekleyen çözüm, paket başına 15,4 TB/s bellek bant genişliği sunuyor. Jalapeno’nun hesaplama tarafı, yapay zeka modellerinde yoğun olarak kullanılan matris işlemleri için özel motorlar barındırıyor.
Bu motorlar MXFP adı verilen daha düşük hassasiyetli sayısal formatları destekliyor. MXFP4 ile veriler 4 bit seviyesine kadar sıkıştırılabiliyor. Bu sayede bellekte daha az alan kullanılması ve verilerin daha hızlı taşınması hedefleniyor.
Çipte ayrıca kontrol işlemleri için 64 bit skaler çekirdekler ve daha yüksek hassasiyet gerektiren hesaplamalar için FP32/INT32 vektör çekirdekleri bulunuyor. Çip içinde veri hareketini azaltıyor Jalapeno’nun tasarımındaki temel hedeflerden biri, yapay zeka çıkarımı sırasında verilerin gereksiz yere bellek ve işlem birimleri arasında taşınmasını azaltmak. Bu sayede gecikmelerin azaltılması isteniyor.
Bu yaklaşımın özellikle aynı anda çok sayıda kullanıcıya hizmet veren yapay zeka sistemlerinde önem taşıması bekleniyor. SemiAnalysis’in verilerine göre Jalapeno için belirtilen TDP 700 watt seviyesinde. Ancak gerçek yapay zeka iş yüklerinde çipin sürekli güç tüketimi genellikle 550 watt veya daha düşük seviyede kalıyor.
2027’de daha geniş kullanıma girecek Bilindiği üzere OpenAI, Jalapeno’yu Broadcom ile geliştiriyor ve çipi birden fazla nesli kapsayacak bir platform olarak konumlandırıyor. Şirket ayrıca kendi Gluon kernel programlama diliyle donanım ve yazılımı birlikte optimize ediyor. Jalapeno’nun 2026’nın sonunda küçük miktarlarda kullanıma alınması, daha geniş çaplı dağıtımın ise 2027’de başlaması bekleniyor.
Bu nedenle çip piyasaya yayılana kadar Nvidia’nın mevcut GB200 ve GB300’den daha yeni çözümler sunması muhtemel.
