Artículos Relacionados con Optimización

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Optimización", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

¿Cuántos tokens consume realmente Claude Code? Un experimento comparativo revela: las tres principales plataformas varían hasta 30 veces

Un experimento comparativo realizado por Composio evaluó tres frameworks de agentes (Claude Code, Hermes y Kimi Code) ejecutando las mismas 28 tareas con el modelo Kimi K3. Los resultados mostraron una tasa de éxito similar: 22, 21 y 20 tareas exitosas respectivamente. La gran diferencia estuvo en el consumo de tokens: Claude Code usó una mediana de 340,000 tokens, aproximadamente 6 veces más que Kimi Code (61,000 tokens) y 5 veces más que Hermes (67,000 tokens). En algunos casos, la diferencia llegó a ser de hasta 30 veces. En costos, utilizando el precio de Kimi K3 de 3 USD por millón de tokens de entrada, el coste promedio por tarea fue de 0.22 USD para Kimi Code, 0.28 USD para Hermes y 2 USD para Claude Code. En velocidad, Hermes fue el más rápido (179 segundos de mediana), seguido por Kimi Code (297 segundos) y Claude Code (348 segundos). Expertos como Sebastian Raschka señalan que el alto consumo de Claude Code se debe principalmente a tokens de entrada, ya que su framework reintroduce constantemente contexto histórico en cada interacción del agente. Una investigación de Writer respalda la creciente importancia del harness (framework de orquestación), demostrando que optimizarlo puede reducir costos en un 41% y la latencia en un 44%, manteniendo la calidad. La conclusión clave es que, para reducir costos de agentes de IA, optimizar el harness es más impactante que cambiar el modelo, marcando un cambio hacia la era donde "el harness es el producto".

marsbitAyer 12:28

¿Cuántos tokens consume realmente Claude Code? Un experimento comparativo revela: las tres principales plataformas varían hasta 30 veces

marsbitAyer 12:28

La ansiedad de memoria de los grandes modelos, la solución podría estar en la unidad USB

Según un artículo publicado por IEEE, surge una nueva estrategia inesperada para aliviar la ansiedad por la memoria en los modelos de lenguaje grandes (LLM): utilizar la tecnología **NAND Flash**, la misma que se emplea en las memorias USB. Tradicionalmente, la memoria Flash se ha considerado lenta, especialmente para tareas de IA. Sin embargo, empresas como SanDisk y SK Hynix están promoviendo el **High Bandwidth Flash (HBF)**. Esta tecnología aplica métodos avanzados de empaquetado y apilamiento 3D (similares a los usados en la memoria HBM) a los chips NAND Flash. El objetivo es permitir que la memoria Flash, originalmente diseñada para almacenamiento, participe en el suministro de datos de alta velocidad durante la **inferencia de IA**. La clave está en que la Flash es lenta principalmente para **escribir**, pero su velocidad de **lectura** puede ser mucho mayor. Al apilar múltiples chips, el HBF busca alcanzar un gran ancho de banda de lectura (hasta 1.6 TB/s en su primera generación, con objetivos de 3.2 TB/s) y una alta capacidad (hasta 512 GB por pila). La propuesta no pretende reemplazar a la costosa y ultrarrápida HBM, sino **complementarla**. En la fase de inferencia, los pesos del modelo están congelados y se accede a ellos principalmente para lectura. El HBF podría actuar como un **"grupo de memoria de solo lectura de gran capacidad"** para almacenar estos pesos masivos y estáticos, liberando así la valiosa HBM para los datos de cálculo más críticos y frecuentes. Esto podría aliviar los cuellos de botella de capacidad y costo, reducir el número de aceleradores necesarios en los servidores y mejorar la eficiencia energética. Aunque el HBF aún no es un producto maduro (se estima que su despliegue a gran escala llevará años) y su estandarización está en curso dentro del Open Compute Project (OCP), representa una señal importante. Indica que la arquitectura de memoria para la IA está evolucionando hacia un **sistema en capas**, donde cada tipo de dato (ultrarrápido, de lectura intensiva, almacenamiento frío) reside en la tecnología más adecuada en términos de rendimiento, capacidad y coste. La solución a los desafíos de escalabilidad de los LLMs podría venir no solo de memorias más caras, sino de reinventar y reempaquetar tecnologías ya conocidas, como la Flash.

marsbit07/20 00:22

La ansiedad de memoria de los grandes modelos, la solución podría estar en la unidad USB

marsbit07/20 00:22

OpenAI te enseña 8 trucos para dominar ChatGPT

**Resumen en español europeo del artículo:** OpenAI ha publicado una guía oficial con ocho técnicas clave para mejorar el uso de ChatGPT y obtener resultados más precisos. 1. **Usar el modelo más avanzado:** Siempre que sea posible, emplea el modelo más reciente (como el ficticio GPT-5.6 Sol del ejemplo) para un mejor rendimiento. 2. **Ser específico y detallado:** En lugar de instrucciones vagas, describe claramente el contenido, formato, estilo y longitud deseada de la respuesta. 3. **Estructurar el prompt:** Coloca la instrucción principal al principio y usa delimitadores como `###` o `"""` para separarla claramente del texto de entrada. 4. **Proporcionar ejemplos:** Muestra ejemplos del formato o respuesta que esperas para guiar al modelo de manera más efectiva. 5. **Empezar simple, luego agregar contexto:** Primero prueba con una instrucción simple (zero-shot), luego añade algunos ejemplos (few-shot) y solo como último recurso considera un ajuste fino (fine-tuning) con muchos datos. 6. **Evitar lenguaje vago:** Sustituye términos imprecisos como "unos pocos" por indicaciones concretas como "3-5 frases". 7. **Decir qué *sí* hacer, no solo qué *no*:** Además de indicar lo que ChatGPT debe evitar, especifica claramente la acción o comportamiento positivo que debe seguir. 8. **Usar palabras clave para código:** Al generar código, incluye palabras clave iniciales como `import` (Python) o `SELECT` (SQL) para guiar la estructura. Además, la guía menciona una función llamada "Generate Anything" que puede crear automáticamente prompts efectivos basados en una descripción general de la tarea. El objetivo final es comunicarse con ChatGPT de manera clara y estructurada para "domesticarlo" y aprovechar al máximo su potencial.

marsbit07/16 08:30

OpenAI te enseña 8 trucos para dominar ChatGPT

marsbit07/16 08:30

¿Pueden los grandes modelos de lenguaje escribir algoritmos de optimización de nivel industrial? El MIT propone FrontierOR, un examen para la IA

Los LLM han avanzado notablemente en la traducción de problemas a modelos matemáticos y código. Sin embargo, en problemas industriales a gran escala, diseñar algoritmos eficientes y escalables es el verdadero desafío. Para evaluar esta capacidad, investigadores del MIT presentan FrontierOR, un benchmark que mide la habilidad de los LLM para diseñar algoritmos complejos como lo haría un ingeniero de investigación operativa, yendo más allá del simple uso de solucionadores genéricos. FrontierOR consta de 180 tareas extraídas de literatura científica real (1992–2025), con un subconjunto "Hard" de 50 problemas donde solucionadores como Gurobi no encuentran soluciones óptimas en una hora. La evaluación, en dos fases, mide la tasa de ejecución, factibilidad, calidad de la solución y la eficiencia combinada calidad-tiempo (QTE). Los resultados en modo "one-shot" muestran que los modelos líderes (GPT-5.3, Gemini 3.1, Claude Opus) tienen una alta tasa de ejecución (~0.93-0.98), pero su QTE es significativamente menor (~0.25-0.31), indicando dificultad para generar algoritmos rápidos y de alta calidad. Los modelos más capaces muestran una distribución más equilibrada de métodos (heurísticos, descomposición, híbridos) en lugar de depender solo del solucionador. Los marcos de auto-evolución (como CORAL) permiten mejoras sustanciales, elevando la QTE hasta 0.50 en las tareas más difíciles mediante iteración y refinamiento. El trabajo subraya que el futuro no está en que los LLM reemplacen a los solucionadores, sino en que actúen como diseñadores de algoritmos inteligentes, combinando estrategias y mejorando mediante retroalimentación para aplicaciones industriales complejas.

marsbit07/10 09:14

¿Pueden los grandes modelos de lenguaje escribir algoritmos de optimización de nivel industrial? El MIT propone FrontierOR, un examen para la IA

marsbit07/10 09:14

活动图片