El nuevo chatbot de Deepseek cuenta con una introducción impresionante: "Hola, fui creado para que puedas preguntar cualquier cosa y obtener una respuesta que incluso te sorprenda". Esta IA, un producto de la startup china Deepseek, se ha convertido rápidamente en un importante jugador del mercado, incluso contribuyendo a una caída significativa en el precio de las acciones de Nvidia.
Imagen: ensigame.comLa ventaja competitiva de Deepseek se encuentra en sus innovadores métodos de arquitectura y capacitación. Las tecnologías clave incluyen:
- Predicción múltiple (MTP): en lugar de predecir palabras individualmente, MTP pronostica múltiples palabras simultáneamente, aumentando la precisión y la eficiencia.
- Mezcla de expertos (MOE): esta arquitectura utiliza múltiples redes neuronales, acelerando la capacitación y mejorando el rendimiento. Deepseek V3 utiliza 256 redes, activando ocho para cada token.
- Atención latente de múltiples cabezas (MLA): MLA se centra en piezas de oraciones cruciales repetidamente, minimizando el riesgo de pasar por alto la información importante.
Inicialmente, Deepseek afirmó haber entrenado su poderosa red neuronal de Deepseek V3 por solo $ 6 millones utilizando 2048 GPU. Sin embargo, el semianálisis reveló una infraestructura mucho más grande: aproximadamente 50,000 GPU de tolva nvidia, incluidos 10,000 H800, 10,000 H100 y H20 adicionales, distribuidos en múltiples centros de datos. Esto representa una inversión de servidor total de aproximadamente $ 1.6 mil millones, con gastos operativos estimados en $ 944 millones.
Imagen: ensigame.comDeepseek, una subsidiaria del Fondo de cobertura chino High-Flyer, posee sus centros de datos, proporcionando un control incomparable sobre la optimización e implementación de innovación. Este enfoque autofinanciado fomenta la agilidad y la rápida toma de decisiones. La compañía también atrae al máximo talento, con algunos investigadores ganando más de $ 1.3 millones anuales, principalmente de universidades chinas.
Imagen: ensigame.comEl reclamo inicial de capacitación de $ 6 millones de Deepseek es engañoso; Solo refleja el uso de GPU previo al entrenamiento, excluyendo la investigación, el refinamiento, el procesamiento de datos e infraestructura. La inversión total de la compañía en desarrollo de IA supera los $ 500 millones. A pesar de esta inversión sustancial, su estructura magra permite una implementación de innovación eficiente.
Imagen: ensigame.comEl éxito de Deepseek muestra el potencial de las compañías de IA independientes bien financiadas para competir con los gigantes de la industria. Sin embargo, sus logros son atribuibles a miles de millones en inversiones, avances técnicos y un equipo fuerte, no un presupuesto revolucionario. Aun así, los costos de Deepseek siguen siendo significativamente más bajos que los competidores. Por ejemplo, Deepseek gastó $ 5 millones en R1, en comparación con los $ 100 millones de ChatGPT para ChatGPT4O. Esto resalta la ventaja de costo significativa, a pesar de las afirmaciones iniciales infladas.
