Artículos Relacionados con Apple Silicon

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Apple Silicon", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

La nueva tecnología DeepSeek se adapta a los chips Apple, acelerando el modelo local en Mac un 60%

El proyecto de código abierto DSpark de DeepSeek, originalmente diseñado para acelerar modelos de lenguaje en GPUs de centros de datos, ha sido adaptado por el ingeniero Abdur Rahim para funcionar de forma nativa en chips Apple (mlx-dspark). Esta adaptación logra aceleraciones de aproximadamente 1.6x para Gemma-4 12B y 1.4x para Qwen3-4B en un Mac con M4 Pro, manteniendo una precisión de salida idéntica al modelo original (byte por byte), incluso con muestreo por temperatura. La clave de DSpark es el "decodificado especulativo": un modelo pequeño y rápido (draft) genera varios tokens candidatos que luego son verificados de manera eficiente por el modelo principal (target). Rahim optimizó este proceso para la arquitectura Apple Silicon, utilizando cuantización de 4 bits para el modelo draft (1.8 GB) y 8 bits para el target, logrando una tasa de aceptación del 82%. Posteriormente, el proyecto integró también DFlash, una técnica alternativa de decodificación especulativa que genera bloques de tokens en paralelo. DFlash mostró un rendimiento superior (hasta ~2.1x de aceleración) en tareas estructuradas como código y matemáticas, mientras que DSpark es más eficaz en conversaciones abiertas. La versión mlx-dspark v0.0.3 ahora permite elegir entre ambos métodos según la tarea. Este trabajo demuestra la viabilidad de ejecutar eficientemente LLMs avanzados localmente en hardware Apple, combinando velocidad y precisión.

marsbit07/03 12:25

La nueva tecnología DeepSeek se adapta a los chips Apple, acelerando el modelo local en Mac un 60%

marsbit07/03 12:25

¿Mac inactivas pueden generar dinero? Un análisis de Darkbloom, la red de inferencia de IA descentralizada lanzada por Eigen Labs

El proyecto Darkbloom, lanzado por Eigen Labs, es una red descentralizada de inferencia de IA que permite a los usuarios aprovechar la potencia de sus Mac con chips Apple Silicon en estado de reposo para realizar tareas de procesamiento de inteligencia artificial. La arquitectura se compone de tres elementos: usuarios que envían solicitudes, un coordinador que las dirige y proveedores (dueños de los Mac) que ejecutan los modelos sin poder ver el contenido de las peticiones, garantizando privacidad mediante verificación hardware. El sistema prioriza la privacidad y la seguridad, utilizando la arquitectura de seguridad de Apple para autenticación y aislamiento. Economicamente, se diferencia al no emitir tokens; los proveedores reciben el 100% de los ingresos por inferencia, con precios aproximadamente un 50% más bajos que los de los agregadores de API tradicionales. Sin embargo, en su fase alfa actual, las ganancias son modestas (el mejor proveedor obtiene menos de 6 dólares diarios), aunque se espera que aumenten con la adopción de modelos más grandes y mayor uso. Para participar, se necesita un Mac con Apple Silicon, macOS 14 o superior, instalar el software Darkbloom y mantener el equipo conectado a internet. El proyecto ya está disponible en OpenRouter con modelos como Gemma 4 de Google y GPT-OSS de OpenAI.

marsbit06/22 07:18

¿Mac inactivas pueden generar dinero? Un análisis de Darkbloom, la red de inferencia de IA descentralizada lanzada por Eigen Labs

marsbit06/22 07:18

活动图片