DeepSeek의 놀랍게도 저렴한 AI 챗봇은 업계 거인에게 도전합니다. DeepSeek의 AI는 "무엇이든 물어 보는 것, 놀라운 대답을 얻으십시오"라는 자체 소개를 자랑합니다. 그것의 성공은 혁신적인 기술과 실질적인 투자에 비해 실질적인 투자에서 비롯된 것입니다.
이미지 : ensigame.com
주요 기술 발전에는 다음이 포함됩니다.
- MTP (Multi-Token Prediction) : 여러 단어를 동시에 예측하여 정확도와 효율성을 높입니다.
- 전문가 혼합 (MOE) : 256 개의 신경망을 사용하여 각 토큰 당 8 개를 활성화하고 교육 가속화 및 성능 향상.
- 멀티 헤드 잠재주의 (MLA) : 텍스트 조각에서 주요 정보를 반복적으로 추출하여 중요한 세부 사항을 간과 할 위험을 최소화합니다.
DeepSeek은 처음에 2048 GPU를 사용하여 DeepSeek V3 모델에 대해 6 백만 달러의 교육 비용을 주장했습니다. 그러나 Semianalysis는 약 50,000 개의 NVIDIA HOPPER GPU (H800, H100 및 H20 단위 포함)가 여러 데이터 센터에 퍼져있는 훨씬 더 광범위한 인프라를 나타 냈습니다. 이 인프라는 약 16 억 달러의 총 서버 투자를 나타내며 운영 비용은 9 억 9,400 만 달러로 추정됩니다.
이미지 : ensigame.com
중국 헤지 펀드 인 High-Flyer의 자회사 인 Deepseek는 데이터 센터를 소유하여 최적화와 더 빠른 혁신 구현에 대한 제어를 제공합니다. 자체 자금 지원 상태는 민첩성을 향상시킵니다. 이 회사는 최고의 인재를 유치하며 일부 연구자들은 주로 중국 대학에서 매년 130 만 달러 이상을 벌고 있습니다.
초기 6 백만 달러는 연구, 개선, 데이터 처리 및 전반적인 인프라 비용을 제외한 사전 훈련 GPU 비용 만 반영 할 수 있습니다. DeepSeek의 총 AI 개발 투자는 5 억 달러를 초과합니다. 간소화 된 구조는 더 큰 관료적 경쟁자에 비해 효율적인 혁신을 허용합니다.
이미지 : ensigame.com
Deepseek의 성공은 잘 자금을 지원받는 독립 AI 회사의 경쟁 잠재력을 보여 주지만 "혁명 예산"주장은 오도됩니다. 그들의 성공은 상당한 투자, 기술 혁신 및 강력한 팀 때문입니다. 그러나 이러한 상당한 지출에도 불구하고 DeepSeek의 비용은 경쟁 업체보다 상당히 낮습니다. 예를 들어, DeepSeek의 R1 모델은 ChatGPT4의 1 억 달러에 비해 훈련하는 데 5 백만 달러가 들었습니다.
이미지 : ensigame.com
