Nvidia’nın Yeni Yapay Zeka Süper Bilgisayarı: Project Digits
Nvidia, artık kendi özel yapay zeka süper bilgisayarını arayanlar için yenilikçi bir çözüm sunmaya hazırlanıyor. Çip üreticisi, CES 2025 etkinliği sırasında, Mayıs ayında duyurduğu Project Digits adlı kişisel yapay zeka süper bilgisayarını piyasaya sürmeyi planlıyor.
Project Digits, masaüstü boyutunda bir tasarıma sahip olmasına rağmen, sofistike yapay zeka modellerini çalıştırmak için gereken işlem gücünü sunan yeni GB10 Grace Blackwell Superchip’i temel alıyor. Bu kadar kompakt bir cihaz, geçmişte yalnızca çok daha büyük ve enerji tüketimi yüksek sistemlerle mümkün olan bir performansı vaat ediyor. Başlangıç fiyatı 3.000 dolar olan bu sistem, 200 milyar parametreye kadar AI modellerini işleyebilme kapasitesine sahip.
Nvidia CEO’su Jensen Huang, yapmış olduğu açıklamada, “Yapay zeka, her sektördeki her uygulamada ana akım olacak. Project Digits ile Grace Blackwell Superchip milyonlarca geliştiriciye ulaşmayı amaçlıyor” ifadelerini kullandı ve devam etti: “Her veri bilimcisinin, AI araştırmacısının ve öğrencisinin masasında bir yapay zeka süper bilgisayarı bulundurmak, onların AI çağına katılmalarını ve bu çağı şekillendirmelerini sağlayacak.”
Her Project Digits sistemi, 128 GB birleşik ve tutarlı belleğe (RAM) sahip olacak ve 4 TB’a kadar NVMe depolama alanı sunacak. Daha karmaşık uygulamalar için iki Project Digits sistemi, 405 milyar parametreye kadar olan modelleri işlemek üzere birbirine bağlanabilecek. Karşılaştırma yapacak olursak, Meta’nın en güncel modeli olan Llama 3.1, tam olarak 405 milyar parametreye sahip.
GB10 çipi, FP4 hassasiyetinde 1 petaflop’a kadar yapay zeka performansı sunabiliyor; bu da saniyede 1 katrilyon yapay zeka hesaplaması yapabileceği anlamına geliyor. Sistem, NVLink-C2C aracılığıyla 20 güç tasarruflu Arm tabanlı çekirdek içeren bir Grace CPU’ya bağlanarak Nvidia’nın en son nesil CUDA çekirdekleri ve beşinci nesil Tensor Çekirdekleri ile donatılmış. Şirket, GB10’un güç verimliliği ve performansını optimize etmek amacıyla, geliştirilmesi aşamasında Arm tabanlı çip tasarımlarıyla tanınan MediaTek ile iş birliği yaptı.
Ayrıca, geliştirme kitleri, yönetim araçları ve önceden eğitilmiş modelleri içeren Nvidia’nın AI yazılım kütüphanesi, kullanıcılar tarafından Nvidia NGC kataloğu aracılığıyla erişilebilecek. Linux tabanlı Nvidia DGX OS ile çalışan bu sistem, PyTorch, Python ve Jupyter notebook’lar gibi popüler çerçeveleri destekleyecek. Geliştiriciler, Nvidia NeMo çerçevesini kullanarak modellerine özelleştirmeler yapabilecek ve Nvidia RAPIDS kütüphaneleri ile veri bilimi iş akışlarını hızlandırabilecekler.
Kullanıcılar, yapay zeka modellerini Project Digits üzerinde yerel olarak geliştirebilecek ve test edebilecek; ardından aynı Grace Blackwell mimarisini ve Nvidia AI Enterprise yazılım platformunu kullanarak bulut hizmetlerine veya veri merkezi altyapısına dağıtabilecekler.
