Mac Studio M3 Ultra: Potencia Desatada para Ejecutar Deepseek R1 AI Localmente

El creador de contenido Dave Lee, conocido por su canal Dave2D, ha evidenciado cómo el reciente Mac Studio de Apple, con un chip M3 Ultra, puede ejecutar eficientemente una versión ampliada del modelo Deepseek R1 de inteligencia artificial de forma local, siempre que los usuarios configuren la máquina con un máximo de 512 GB de memoria.

De acuerdo con las evaluaciones realizadas por Lee, el modelo de inteligencia artificial con 671 mil millones de parámetros puede ejecutarse directamente en la estación de trabajo de alto rendimiento de Apple, aunque requiere cantidad significativa de memoria, consumiendo 404 GB de almacenamiento y necesitando la asignación manual de 448 GB de RAM virtual a través de comandos en la terminal.

La arquitectura de memoria unificada del M3 Ultra es fundamental para este desempeño, ya que permite al sistema manejar de manera eficiente una versión cuantificada a 4 bits de Deepseek R1. La cuantificación disminuye ligeramente la precisión, pero conserva todos los parámetros y proporciona entre 17 y 18 tokens por segundo, lo que es adecuado para muchas aplicaciones prácticas.

Quizás lo más sorprendente es que el Mac Studio logra esto mientras consume menos de 200 vatios de energía. Un rendimiento similar en hardware convencional de PC necesitaría múltiples GPU, que consumen alrededor de diez veces más electricidad.

La capacidad de ejecutar modelos de inteligencia artificial avanzados ofrece ventajas en términos de privacidad para aplicaciones sensibles, como el análisis de datos de salud, donde el envío de información a servicios en la nube genera inquietudes sobre la seguridad.

Sin embargo, este nivel de rendimiento no es económico: un Mac Studio configurado con el M3 Ultra y 512 GB de RAM tiene un costo inicial de aproximadamente $10,000. Equipar un Mac Studio M3 Ultra completamente con 16 TB de almacenamiento SSD y un chip Apple M3 Ultra con CPU de 32 núcleos, GPU de 80 núcleos y un motor neuronal de 32 núcleos asciende a $14,099. No obstante, para las entidades que requieren el procesamiento local de datos sensibles relacionados con la inteligencia artificial, el Mac Studio presenta una solución relativamente eficiente en cuanto a energía frente a otras configuraciones de hardware alternativas.

Apple afirma que el M3 Ultra es el chip Mac más veloz que ha lanzado hasta la fecha, gracias a su estrategia de combinar dos chips M3 Max utilizando la tecnología “UltraFusion” de la empresa, lo que duplica las especificaciones del chip en comparación con el M3 Max.