Deepseeks neuer Chatbot bietet eine beeindruckende Einführung: "Hallo, ich wurde erstellt, damit Sie alles fragen und eine Antwort erhalten können, die Sie sogar überraschen könnte." Diese KI, ein Produkt des chinesischen Startups Deepseek, ist schnell zu einem wichtigen Marktkonkurrenten geworden, der sogar zu einem erheblichen Rückgang des Aktienkurs von NVIDIA beiträgt. Der Erfolg beruht auf einer einzigartigen Architektur- und Trainingsmethodik, die mehrere innovative Technologien einbezieht.

Multi-Token-Vorhersage (MTP): Im Gegensatz zur herkömmlichen Wort für Wortvorhersage prognostiziert MTP mehrere Wörter gleichzeitig und analysiert verschiedene Satzteile auf verbesserte Genauigkeit und Effizienz.

Mischung von Experten (MOE): Diese Architektur nutzt mehrere neuronale Netze, um Eingabedaten zu verarbeiten, das KI -Training zu beschleunigen und die Leistung zu verbessern. Deepseek V3 verwendet 256 neuronale Netze und aktiviert acht für jede Token -Verarbeitungsaufgabe.

Multi-Head Latent Achtung (MLA): Dieser Mechanismus konzentriert sich auf wichtige Satzteile und extrahiert wiederholt Schlüsseldetails aus Textfragmenten, um den Informationsverlust zu minimieren und subtile Nuancen zu erfassen.

Deepseek behauptete zunächst, sein leistungsstarkes Neuralnetz aus Deepseek V3 für nur 6 Millionen US -Dollar mit nur 2048 GPUs ausgebildet zu haben. Die semiianalyse ergab jedoch eine weitaus wesentlichere Infrastruktur: ungefähr 50.000 NVIDIA Hopper -GPUs, einschließlich 10.000 H800, 10.000 H100s und zusätzlicher H20 -GPUs, die über mehrere Rechenzentren verteilt sind. Dies führt zu einer Serverinvestition von rund 1,6 Milliarden US -Dollar und Betriebskosten, die auf 944 Mio. USD geschätzt werden.

Deepseek, eine Tochtergesellschaft des chinesischen Hedgefonds-High-Flyer, besitzt seine Rechenzentren und gewährt die vollständige Kontrolle über AI-Modelloptimierung und eine schnellere Implementierung von Innovationen. Dieser selbstfinanzierte Ansatz verbessert die Flexibilität und Entscheidungsgeschwindigkeit. Darüber hinaus zieht das Unternehmen Top -Talente an, wobei einige Forscher jährlich über 1,3 Millionen US -Dollar verdienen, hauptsächlich von chinesischen Universitäten.

Während Deepseeks anfängliche Schulungskostenansprüche in Höhe von 6 Millionen US-Dollar unrealistisch erscheint und sich nur für die Nutzung der GPU vor dem Training vorliegt und Forschung, Verfeinerung, Datenverarbeitung und Infrastruktur ausgeschlossen hat, hat das Unternehmen über 500 Millionen US-Dollar in die KI-Entwicklung investiert. Die kompakte Struktur erleichtert eine effiziente Implementierung der Innovation im Vergleich zu größeren, bürokratischeren Wettbewerbern.

Das Beispiel von Deepseek zeigt ein gut finanziertes unabhängiges KI-Unternehmen, das erfolgreich mit Branchenriesen konkurriert. Der Erfolg ist jedoch unbestreitbar mit erheblichen Investitionen, technischen Durchbrüchen und einem starken Team verbunden, wodurch der "revolutionäre Budget" die Behauptung etwas irreführend macht. Trotzdem bleiben die Kosten des Unternehmens deutlich niedriger als die Wettbewerber. Zum Beispiel gab Deepseek 5 Millionen US -Dollar für R1 aus, während Chatgpt4 100 Millionen US -Dollar kostete. Dieser Kostenunterschied unter Berücksichtigung der tatsächlichen Ausgaben von Deepseek zeigt einen erheblichen Wettbewerbsvorteil.