Chatbot ใหม่ของ Deepseek มีการแนะนำที่น่าประทับใจ: "สวัสดีฉันถูกสร้างขึ้นเพื่อให้คุณสามารถถามอะไรก็ได้และรับคำตอบที่อาจทำให้คุณประหลาดใจ" AI นี้ซึ่งเป็นผลิตภัณฑ์ของ Deepseek เริ่มต้นของจีนได้กลายเป็นคู่แข่งในตลาดที่สำคัญอย่างรวดเร็วแม้กระทั่งมีส่วนทำให้ราคาหุ้นของ Nvidia ลดลงอย่างมาก ความสำเร็จของมันเกิดจากสถาปัตยกรรมที่เป็นเอกลักษณ์และวิธีการฝึกอบรมที่ผสมผสานเทคโนโลยีนวัตกรรมหลายอย่าง

การทำนายแบบมัลติเทน (MTP): ซึ่งแตกต่างจากการทำนายคำต่อคำแบบดั้งเดิม MTP คาดการณ์หลายคำพร้อมกันวิเคราะห์ชิ้นส่วนประโยคที่แตกต่างกันเพื่อเพิ่มความแม่นยำและประสิทธิภาพ

ส่วนผสมของผู้เชี่ยวชาญ (MOE): สถาปัตยกรรมนี้ใช้ประโยชน์จากเครือข่ายประสาทหลายแห่งเพื่อประมวลผลข้อมูลอินพุตเร่งการฝึกอบรม AI และปรับปรุงประสิทธิภาพ Deepseek V3 ใช้เครือข่ายประสาท 256 เครือข่ายเปิดใช้งานแปดสำหรับงานประมวลผลโทเค็นแต่ละงาน

ความสนใจแฝงหลายหัว (MLA): กลไกนี้มุ่งเน้นไปที่ชิ้นส่วนประโยคที่สำคัญการแยกรายละเอียดสำคัญซ้ำ ๆ จากชิ้นส่วนข้อความเพื่อลดการสูญเสียข้อมูลและจับความแตกต่างเล็กน้อย

Deepseek ในขั้นต้นอ้างว่าได้ฝึกอบรมเครือข่ายประสาท Deepseek V3 ที่ทรงพลังในราคาเพียง 6 ล้านเหรียญสหรัฐโดยใช้ GPU เพียง 2048 เท่านั้น อย่างไรก็ตาม Semianalysis เปิดเผยโครงสร้างพื้นฐานที่สำคัญยิ่งกว่า: ประมาณ 50,000 Nvidia Hopper GPU รวมถึง 10,000 H800s, 10,000 H100s และ H20 GPU เพิ่มเติมกระจายไปทั่วศูนย์ข้อมูลหลายแห่ง สิ่งนี้แปลว่าการลงทุนเซิร์ฟเวอร์ประมาณ 1.6 พันล้านเหรียญสหรัฐและค่าใช้จ่ายในการดำเนินงานประมาณ $ 944 ล้าน

Deepseek ซึ่งเป็น บริษัท ในเครือของกองทุนป้องกันความเสี่ยงของจีนที่มีการบินสูงเป็นเจ้าของศูนย์ข้อมูลให้การควบคุมการเพิ่มประสิทธิภาพแบบจำลอง AI อย่างสมบูรณ์และการใช้นวัตกรรมที่เร็วขึ้น วิธีการที่ได้รับทุนด้วยตนเองนี้ช่วยเพิ่มความยืดหยุ่นและความเร็วในการตัดสินใจ นอกจากนี้ บริษัท ยังดึงดูดความสามารถสูงสุดโดยนักวิจัยบางคนมีรายได้มากกว่า 1.3 ล้านเหรียญสหรัฐต่อปีส่วนใหญ่มาจากมหาวิทยาลัยจีน

ในขณะที่การเรียกร้องค่าใช้จ่ายการฝึกอบรมเริ่มต้นที่ $ 6 ล้านของ Deepseek นั้นไม่สมจริง-อ้างอิงเฉพาะการใช้งานการใช้ GPU ล่วงหน้าและไม่รวมการวิจัยการปรับแต่งการประมวลผลข้อมูลและโครงสร้างพื้นฐาน-บริษัท ได้ลงทุนมากกว่า 500 ล้านดอลลาร์ในการพัฒนา AI โครงสร้างขนาดกะทัดรัดช่วยอำนวยความสะดวกในการใช้นวัตกรรมที่มีประสิทธิภาพเมื่อเทียบกับคู่แข่งที่มีขนาดใหญ่และมีระบบราชการมากขึ้น

ตัวอย่างของ Deepseek นำเสนอ บริษัท AI อิสระที่ได้รับการสนับสนุนอย่างดีที่ประสบความสำเร็จในการแข่งขันกับยักษ์ใหญ่ในอุตสาหกรรม อย่างไรก็ตามความสำเร็จของมันเชื่อมโยงอย่างปฏิเสธไม่ได้กับการลงทุนที่สำคัญการพัฒนาทางเทคนิคและทีมที่แข็งแกร่งทำให้ "งบประมาณปฏิวัติ" อ้างว่าค่อนข้างทำให้เข้าใจผิด อย่างไรก็ตามค่าใช้จ่ายของ บริษัท ยังคงต่ำกว่าคู่แข่งอย่างมีนัยสำคัญ ตัวอย่างเช่น Deepseek ใช้จ่าย $ 5 ล้านใน R1 ในขณะที่ CHATGPT4 มีราคา $ 100 ล้าน ความแตกต่างของค่าใช้จ่ายนี้แม้จะพิจารณาค่าใช้จ่ายที่แท้จริงของ Deepseek เน้นถึงความได้เปรียบในการแข่งขันที่สำคัญ