Deepseek'in yeni sohbet botu etkileyici bir tanıtımla övünüyor: "Merhaba, yaratıldım, böylece bir şey sorabilir ve sizi şaşırtabilecek bir cevap alabilirsiniz." Çin girişiminin bir ürünü olan bu AI, hızla büyük bir pazar rakibi haline geldi ve hatta Nvidia'nın hisse senedi fiyatında önemli bir düşüşe katkıda bulundu. Başarısı, çeşitli yenilikçi teknolojileri içeren eşsiz bir mimari ve eğitim metodolojisinden kaynaklanmaktadır.

Çoklu Tahmini Tahmin (MTP): Geleneksel kelime tahmininden farklı olarak, MTP aynı anda birden fazla kelimeyi tahmin ederek, daha fazla doğruluk ve verimlilik için farklı cümle parçalarını analiz eder.

Uzmanların Karışımı (MOE): Bu mimari, girdi verilerini işlemek, AI eğitimini hızlandırmak ve performansı iyileştirmek için birden fazla sinir ağından yararlanır. Deepseek V3, her bir jeton işleme görevi için sekiz'i etkinleştirerek 256 sinir ağı kullanır.

Çok Başlı Gizli Dikkat (MLA): Bu mekanizma, bilgi kaybını en aza indirmek ve ince nüansları yakalamak için metin parçalarından önemli ayrıntıları tekrar tekrar çıkararak önemli cümle parçalarına odaklanır.

Deepseek başlangıçta güçlü Deepseek V3 sinir ağını sadece 2048 GPU kullanarak sadece 6 milyon dolarlık eğittiğini iddia etti. Bununla birlikte, semianaliz çok daha önemli bir altyapı ortaya çıkarmıştır: 10.000 H800s, 10.000 H100s ve ek H20 GPU'lar dahil olmak üzere yaklaşık 50.000 NVIDIA Hopper GPU'ları birden fazla veri merkezine dağıtılmıştır. Bu, yaklaşık 1,6 milyar dolarlık bir sunucu yatırımına ve 944 milyon dolar olarak tahmin edilen operasyonel giderlere dönüşüyor.

Çin Hedge Fonu High-Flyer'in bir yan kuruluşu olan Deepseek, veri merkezlerinin sahibi, AI modeli optimizasyonu ve daha hızlı inovasyon uygulaması üzerinde tam kontrol sağlıyor. Bu kendi kendine finanse edilen yaklaşım esnekliği ve karar verme hızını artırır. Dahası, şirket en iyi yetenekleri çekiyor ve bazı araştırmacılar yılda 1.3 milyon doların üzerinde, öncelikle Çin üniversitelerinden kazanıyor.

Deepseek'in ilk 6 milyon dolarlık eğitim maliyet iddiası gerçekçi görünmese de-yalnızca GPU kullanımının öncesi eğitimine ve araştırma, arıtma, veri işleme ve altyapı hariç-şirket AI gelişimine 500 milyon doların üzerinde yatırım yaptı. Kompakt yapısı, daha büyük, daha bürokratik rakiplere kıyasla verimli inovasyon uygulamasını kolaylaştırır.

Deepseek'in örneği, endüstri devleriyle başarılı bir şekilde rekabet eden iyi finanse edilen bağımsız bir AI şirketini sergiliyor. Bununla birlikte, başarısı inkar edilemez bir şekilde önemli yatırımlar, teknik atılımlar ve güçlü bir ekiple bağlantılıdır, bu da "devrimci bütçenin" biraz yanıltıcı iddia etmesini sağlar. Bununla birlikte, şirketin maliyetleri rakiplerden önemli ölçüde daha düşüktür; Örneğin, Deepseek R1'e 5 milyon dolar harcarken, ChatGpt4 100 milyon dolara mal oldu. Bu maliyet farkı, Deepseek'in gerçek harcamaları göz önüne alındığında bile, önemli bir rekabet avantajını vurgulamaktadır.