Qubrid AI'den Yeni Nesil Hızlı Inferencing Çözümü

Qubrid AI ile Yapay Zeka Gelişimi Değişiyor

Qubrid AI, yapay zeka alanında devrim yaratan yeni bir durumunu duyurdu. Washington, D.C.'de gerçekleştirilen NVIDIA GTC Konferansı'nda, NVIDIA altyapısıyla güçlendirilen Advanced Playgroundunu tanıttı. Bu yeni platform, geliştiricilere ve işletmelere, AI'yi dağıtma ve ölçeklendirme süreçlerini köklü bir şekilde değiştiriyor.

Yeni Qubrid AI Playground, yapay zeka inferencingindeki yüksek gecikme süreleri, karmaşık altyapılar ve öngörülemeyen maliyetler gibi uzun süredir devam eden zorlukları çözmek için tasarlandı. Kullanıcılar, anında hesaplama ve inferens için pay-as-you-go yani kullandıkça öde modelini kullanarak popüler açık kaynak modellerini, NVIDIA NIM mikro hizmetlerini ve Hugging Face modellerini saniyeler içinde dağıtabilir, test edebilir ve optimize edebilir.

Qubrid AI CEO'su Pranay Prakash, “Günümüz yapay zeka ekosistemi hız, esneklik ve basitlik talep ediyor; yeni Playground bunu tam olarak sağlıyor.” şeklinde belirtiyor. Token tabanlı inferencing ile, deneme ve dağıtım arasındaki engelleri kaldırdıklarını vurguladı. Geliştiriciler, herhangi bir modeli çalıştırabilir, düşük gecikmeli inferens alabilir ve üretim seviyesinde performansı anında görebilir. Tüm bunlar, sunucu ya da karmaşık yapılandırmalar yönetmeden gerçekleştirilebilir.

Geleneksel inferencing sistemlerinin aksine, Qubrid AI platformu, kapsamlı yapılandırma veya tedarikçi bağımlılığı olmadan, kendi kendine hizmet sunan, talebe dayalı bir deneyim sunuyor. Sistem, model boyutu, token kullanımı ve iş yükü taleplerine göre otomatik olarak ölçekleniyor. Geliştiriciler, RAG iş akışları için kendi verilerini entegre edebilir ve gerçek zamanlı, bağlama duyarlı, doğru ve açıklanabilir yapay zeka elde edebilir.

Advanced Playground, kullanıcıların şunları yapmasına olanak tanıyor:

• Herhangi bir modeli anında çalıştırmak - açık kaynak LLM'lerden, NVIDIA hızlandırmalı görüntü modellerine kadar ultra düşük gecikmeli performans elde etmek.
• Token tabanlı fiyatlandırma modeli ile talep üzerine inferens almak, sunucusuz API ile öngörülebilir maliyet ve maksimum esneklik sağlamak.
• Kurumsal ve özel verileri bağlama katarak daha iyi model performansı sağlayan RAG iş akışları oluşturmak.
• Deneme alanında deney yapmak ve tek bir tıklama ile üretime geçmek, geliştirme ve dağıtım arasındaki sürtünmeyi ortadan kaldırmak.
• Birleştirilmiş, GPU optimize edilmiş ortamda NVIDIA NIM mikro hizmetlerini ve Hugging Face modellerini keşfetmek, ince ayar yapmak ve sunmak.

Qubrid AI Advanced Playground, devrim niteliğinde bir erişilebilirlik ve yüksek performans sunan yapay zeka altyapısının sunduğu olanaklarla yenilik ve üretim arasındaki boşlukları kapatıyor. Playground, artık aktif ve https://platform.qubrid.com adresinden erişilebilir. NVIDIA GTC katılımcıları, 28-29 Ekim tarihlerinde Qubrid AI standında uygulamalı olarak deneyimleyebilirler.