Nvidia CEO'su Jensen Huang, geçtiğimiz ay verdiği bir demeçte, bugüne kadardaha çok Çin tarafında gördüğümüz açık modellerin yapay zekâ sektörünün geleceği açısından önemli olduğunu söylemişti. Huang'in bu çıkışı lafta kalmadı. Nvidia, bugün ilk açık kaynaklı yapay zekâ modelini yayımladı.
Şirket, Nemotron 3.5 Lightning adını verdiği yeni modelin özellikle AI ajanları için geliştirildiğini ve tek bir GPU üzerinde çalışabilecek kadar hafif olduğunu söylüyor. Nemotron 3.5 Lightning, Tek Bir GPU Üzerinde Çalışabilecek Nemotron 3.5 Lightning, 30 milyar parametreli bir "mixture-of-experts" (MoE) modeli olarak karşımıza çıkıyor. Bu mimaride modelin bütün parametreleri her görev sırasında aynı anda kullanılmıyor; bunun yerine verilen göreve uygun uzman bölümler devreye sokuluyor.
Böylece çok daha büyük modellerin sunduğu yeteneklere ulaşılırken ihtiyaç duyulan hesaplama gücü ve maliyet azaltılabiliyor. [twitter=https://x.com/NVIDIAAI/status/2087162151995629926] Şirketin açıklamasına göre Nemotron 3.5 Lightning, aynı kategorideki modellere kıyasla dört kata kadar daha hızlı çıktı üretebiliyor ve ajan tabanlı görevleri tamamlamada yüzde 30'a kadar daha yüksek hız sunuyor. Modelin bir diğer önemli özelliği ise tamamen özelleştirilebilir olması. Şirketler modeli kendi verileriyle yeniden eğitebiliyor ve ihtiyaçlarına göre değiştirebiliyor.
Nvidia, CodeRabbit'in modeli kullanarak yaklaşık iki saat içerisinde ve yalnızca 85 dolarlık maliyetle kendi yönlendirici ajanını geliştirdiğini belirtiyor. CrowdStrike ve Harvey gibi şirketler de Nemotron 3.5 Lightning'i test eden ve özelleştiren şirketler arasında yer alıyor. Nvidia'nın modeli açık kaynaklı olarak ücretsiz şekilde indirilebilecek.
Şirketler model üzerinde değişiklik yapabilecek ve kendi sistemlerinde kullanabilecek. Nemotron 3.5 Lightning, Nvidia'nın internet sitesinin yanı sıra Hugging Face üzerinden de erişime açıldı. Açık Kaynaklı Modeller GPU Talebini Artırıyor Nvidia'nın açık kaynaklı yapay zekâya verdiği desteğin arkasında yalnızca teknolojik gerekçeler bulunmuyor.
Şirket, AI modellerinin daha fazla kişi ve kuruluş tarafından kullanılmasının doğrudan GPU talebini artıracağını düşünüyor. Özellikle ücretsiz ve özelleştirilebilir modellerin yaygınlaşması, şirketlerin pahalı ve kapalı yapay zekâ servislerine alternatif olarak kendi donanımlarında model çalıştırmasını teşvik edebilir. Bu da Nvidia'nın sattığı GPU'lara olan talebin artması anlamına geliyor.
Nitekim Jensen Huang da geçtiğimiz ay yaptığı açıklamada bunu oldukça açık bir şekilde ifade etmiş ve "Ücretsiz yapay zekâ, donanım için büyük bir fırsat." demişti. Bu yüzden Nemotron 3.5 Lightning'in yeni bir yaklaşımın ilk adımı olarak da görebiliriz.
