TanAI, Avrupa’daki hesaplama altyapılarına erişim yolculuğunda önemli bir dönüm noktasına ulaştı.
“TanAI: Pre-training a 3B-Parameter Generative-Adaptive Transformer with Block Attention Residuals” başlıklı projemiz, EuroHPC AI Factory Playground uygunluk ve teknik değerlendirme sürecini başarıyla tamamladı. Projeye üç aylık tahsis dönemi için MareNostrum 5 ACC üzerinde 5.000 GPU saat verildi.
Bu tahsis; dağıtık eğitim deneyleri, checkpoint taşınabilirliği, uzun bağlam değerlendirmesi, RoPE doğrulaması ve Condition Stack ablasyon çalışmaları dâhil olmak üzere TanAI’nin model geliştirme sürecinin sürdürülmesini ve teknik olarak doğrulanmasını destekleyecek.
MareNostrum 5 erişimi, ortaklık paylarında seyrelme olmadan TanAI’nin kullanabileceği hesaplama kapasitesini artırıyor ve eğitim mimarimizi Avrupa’nın önemli yüksek başarımlı hesaplama sistemlerinden birinde doğrulama olanağı sağlıyor.
Operasyonel erişim ve kullanım hazırlıkları şu anda devam ediyor. Hesap aktivasyonunun ardından, seçili eğitim iş yüklerini ve checkpoint’leri mevcut bulut ortamımızdan MareNostrum 5’e taşımayı planlıyoruz.
Bu tahsis, finansal bir yatırım veya model kalitesi sertifikası değil, bir hesaplama kaynağı desteğidir. Bununla birlikte TanAI’nin tüketici sınıfı GPU’larla yapılan araştırmalardan bulut ve Avrupa süper bilgisayar ortamlarına geçişinde önemli bir altyapı dönüm noktasını temsil ediyor.
Öne çıkan bilgiler
- Program
- EuroHPC AI Factory Playground
- Sistem
- MareNostrum 5 ACC
- Tahsis
- 5.000 GPU saat
- Süre
- 3 ay
- Amaç
- Eğitimin sürdürülmesi, dağıtık doğrulama ve ölçeklendirme deneyleri
- Güncel durum
- Erişim ve kullanım hazırlıkları devam ediyor