DeepSeek의 경제성은 신화입니다. 혁명 AI는 실제로 개발하는 데 16 억 달러가 들었습니다.

DeepSeek의 새로운 챗봇은 인상적인 소개를 자랑합니다. "안녕하세요, 나는 당신이 무엇이든 물어보고 당신을 놀라게 할 수있는 답을 얻을 수 있도록 만들어졌습니다." 중국 스타트 업 Deepseek의 제품인이 AI는 빠르게 주요 시장 플레이어가되어 Nvidia의 주가가 크게 하락하기까지했습니다.

Deepseek의 경쟁 우위는 혁신적인 건축 및 훈련 방법에 있습니다. 주요 기술에는 다음이 포함됩니다.

• MTP (Multi-Token Prediction) : 단어를 개별적으로 예측하는 대신 MTP는 여러 단어를 동시에 예측하여 정확도와 효율성을 높입니다.
• 전문가 (MOE)의 혼합 : 이 아키텍처는 여러 신경망을 사용하여 교육을 가속화하고 성능을 향상시킵니다. DeepSeek V3는 256 개의 네트워크를 사용하여 각 토큰 당 8 개를 활성화합니다.
• 다중 헤드 잠재주의 (MLA) : MLA는 중요한 문장 부분에 중점을 두어 중요한 정보를 간과 할 위험을 최소화합니다.

Deepseek은 처음에 2048 GPU를 사용하여 강력한 DeepSeek V3 Neural Nework를 6 백만 달러에 불과했다고 주장했습니다. 그러나 Semianalysis는 10,000 H800, 10,000 H100 및 추가 H20을 포함하여 약 50,000 개의 NVIDIA HOPPER GPU가 여러 데이터 센터에 퍼지는 훨씬 더 큰 인프라를 나타 냈습니다. 이는 약 16 억 달러의 총 서버 투자를 나타내며 운영 비용은 9 억 9,400 만 달러로 추정됩니다.

중국 헤지 펀드 High-Flyer의 자회사 인 DeepSeek는 데이터 센터를 소유하여 최적화 및 혁신 구현에 대한 비교할 수없는 제어를 제공합니다. 이 자체 지원 접근 방식은 민첩성과 빠른 의사 결정을 촉진합니다. 이 회사는 또한 최고의 인재를 유치하며 일부 연구자들은 주로 중국 대학에서 매년 130 만 달러 이상을 벌고 있습니다.

Deepseek의 초기 6 백만 달러의 훈련 비용 청구는 오해의 소지가 있습니다. 연구, 개선, 데이터 처리 및 인프라를 제외한 사전 훈련 GPU 사용 만 반영합니다. 회사의 AI 개발에 대한 총 투자는 5 억 달러를 초과합니다. 이러한 상당한 투자에도 불구하고, 린 구조는 효율적인 혁신 구현을 허용합니다.

Deepseek의 성공은 잘 자금을 지원하는 독립 AI 회사가 업계 거인과 경쟁 할 수있는 잠재력을 보여줍니다. 그러나 그 성과는 수십억의 투자, 기술 혁신 및 혁신적인 예산이 아닌 강력한 팀에 기인합니다. 그럼에도 불구하고 DeepSeek의 비용은 경쟁 업체보다 훨씬 저렴합니다. 예를 들어, DeepSeek은 Chatgpt의 chatgpt4o에 대한 1 억 달러에 비해 R1에 5 백만 달러를 소비했습니다. 이는 초기 청구가 팽창 했음에도 불구하고 상당한 비용 이점을 강조합니다.