Ipinagmamalaki ng bagong chatbot ng Deepseek ang isang kahanga -hangang pagpapakilala: "Kumusta, nilikha ako upang maaari kang magtanong ng anuman at makakuha ng isang sagot na maaaring sorpresa ka." Ang AI na ito, isang produkto ng pagsisimula ng China na Deepseek, ay mabilis na naging isang pangunahing katunggali sa merkado, kahit na nag -aambag sa isang makabuluhang pagbagsak sa presyo ng stock ni Nvidia. Ang tagumpay nito ay nagmula sa isang natatanging pamamaraan ng arkitektura at pagsasanay na nagsasama ng maraming mga makabagong teknolohiya.

Multi-Token Prediction (MTP): Hindi tulad ng tradisyonal na hula ng salita-by-word, ang mga pagtataya ng MTP ay maraming mga salita nang sabay-sabay, na sinusuri ang iba't ibang mga bahagi ng pangungusap para sa pinahusay na kawastuhan at kahusayan.

Paghahalo ng mga eksperto (MOE): Ang arkitektura na ito ay gumagamit ng maraming mga neural network upang maproseso ang data ng pag -input, pabilis ang pagsasanay sa AI at pagpapabuti ng pagganap. Ang Deepseek V3 ay gumagamit ng 256 na mga network ng neural, na nag -activate ng walong para sa bawat gawain sa pagproseso ng token.

Multi-head latent pansin (MLA): Ang mekanismong ito ay nakatuon sa mga mahahalagang bahagi ng pangungusap, paulit-ulit na kumukuha ng mga pangunahing detalye mula sa mga fragment ng teksto upang mabawasan ang pagkawala ng impormasyon at makuha ang banayad na mga nuances.

Una nang inangkin ng Deepseek na sinanay ang malakas na Deepseek V3 Neural Network para sa isang $ 6 milyon lamang gamit ang 2048 GPU lamang. Gayunpaman, ang semianalysis ay nagsiwalat ng isang mas malaking imprastraktura: humigit -kumulang 50,000 NVIDIA HOPPER GPU, kabilang ang 10,000 H800s, 10,000 H100s, at karagdagang mga H20 GPU, na ipinamamahagi sa maraming mga sentro ng data. Ito ay isinasalin sa isang pamumuhunan ng server na humigit -kumulang na $ 1.6 bilyon at mga gastos sa pagpapatakbo na tinatayang $ 944 milyon.

Ang Deepseek, isang subsidiary ng Chinese Hedge Fund High-flyer, ay nagmamay-ari ng mga sentro ng data nito, na nagbibigay ng kumpletong kontrol sa pag-optimize ng modelo ng AI at mas mabilis na pagpapatupad ng pagbabago. Ang diskarte na pinondohan ng sarili na ito ay nagpapaganda ng kakayahang umangkop at bilis ng paggawa ng desisyon. Bukod dito, ang kumpanya ay umaakit sa nangungunang talento, na may ilang mga mananaliksik na kumikita ng higit sa $ 1.3 milyon taun -taon, lalo na mula sa mga unibersidad ng Tsino.

Habang ang paunang $ 6 milyong gastos sa pagsasanay sa pagsasanay sa Deepseek ay lilitaw na hindi makatotohanang-na tinutukoy lamang sa paggamit ng GPU na paggamit ng GPU at hindi kasama ang pananaliksik, pagpipino, pagproseso ng data, at imprastraktura-ang kumpanya ay namuhunan ng higit sa $ 500 milyon sa pag-unlad ng AI. Ang compact na istraktura nito ay nagpapadali ng mahusay na pagpapatupad ng pagbabago kumpara sa mas malaki, mas maraming mga kakumpitensya sa burukrata.

Ang halimbawa ng Deepseek ay nagpapakita ng isang mahusay na pinondohan na independiyenteng kumpanya ng AI na matagumpay na nakikipagkumpitensya sa mga higante sa industriya. Gayunpaman, ang tagumpay nito ay hindi maikakaila na naka -link sa malaking pamumuhunan, mga teknikal na pambihirang tagumpay, at isang malakas na koponan, na ginagawa ang "rebolusyonaryong badyet" na nag -aangkin na medyo nakaliligaw. Gayunpaman, ang mga gastos sa kumpanya ay mananatiling mas mababa kaysa sa mga kakumpitensya; Halimbawa, ang Deepseek ay gumugol ng $ 5 milyon sa R1, habang ang Chatgpt4 ay nagkakahalaga ng $ 100 milyon. Ang pagkakaiba sa gastos na ito, kahit na isinasaalang -alang ang aktwal na paggasta ng Deepseek, ay nagtatampok ng isang makabuluhang kalamangan sa mapagkumpitensya.