Artículos Relacionados con Investigación

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Investigación", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

El exalumno post-00 de Tsinghua, Wang Guan, presenta otra innovación: revolucionando los modelos de preentrenamiento Transformer con 1/900 tokens y 1/432 de potencia computacional

El equipo de Wang Guan, egresado de la Universidad Tsinghua, ha presentado HRM-Text, un nuevo modelo de preentrenamiento que desafía el paradigma tradicional de los grandes modelos de lenguaje. Sustituyendo el Transformer estándar por un Modelo Recurrente Jerárquico (HRM) y utilizando un objetivo de entrenamiento directo en pares instrucción-respuesta, HRM-Text logra un rendimiento comparable a modelos de código abierto de 2B a 7B de parámetros, pero con una fracción mínima de los recursos. Concretamente, el modelo de 1B de parámetros se entrenó con solo 40B de tokens únicos, utilizando aproximadamente 100-900 veces menos tokens y 96-432 veces menos cómputo estimado que los modelos baseline estándar, a un costo cercano a los 1500 USD. Aún así, alcanzó puntuaciones destacadas en benchmarks clave: MMLU (60.7%), ARC-C (81.9%), DROP (82.2%), GSM8K (84.5%) y MATH (56.2%). La arquitectura HRM emplea módulos de actualización lenta (H) y rápida (L), permitiendo múltiples pasos recurrentes por token para aumentar la profundidad computacional sin agregar parámetros. Técnicas como MagicNorm y Warmup Deep Credit Assignment aseguraron la estabilidad del entrenamiento recurrente. Los experimentos muestran que HRM supera en eficiencia y estabilidad a Transformers de tamaño similar bajo un presupuesto computacional fijo. Las ablaciones confirman la contribución clave del objetivo de finalización de tareas y el enmascaramiento PrefixLM. El análisis sugiere que la estructura recurrente confiere una "profundidad efectiva" mayor. Las limitaciones incluyen una cobertura de conocimiento aún limitada por el corpus, la necesidad de mecanismos de tiempo de cómputo adaptativo, y desafíos de ingeniería para implementar PrefixLM en entornos de diálogo. El trabajo futuro explorará desacoplar el núcleo de razonamiento del almacenamiento de conocimientos y validar la escalabilidad a tamaños de modelo mayores.

marsbit05/26 03:19

El exalumno post-00 de Tsinghua, Wang Guan, presenta otra innovación: revolucionando los modelos de preentrenamiento Transformer con 1/900 tokens y 1/432 de potencia computacional

marsbit05/26 03:19

Una ganancia de 2.4 millones de dólares: estas 9 direcciones internas conocían mejor la guerra entre EE.UU. e Irán

**Resumen en Español de Europa** El 18 de mayo, los investigadores de Bubblemaps, Nicolas Vaiman y Deebs (un exoficial militar estadounidense), revelaron el descubrimiento de nueve carteras anónimas altamente vinculadas en el mercado de predicciones Polymarket. Este grupo obtuvo una ganancia neta superior a 2.4 millones de dólares apostando casi exclusivamente a eventos relacionados con el conflicto militar entre Estados Unidos e Irán en 2026, con una tasa de aciertos del 98%. Las apuestas se realizaban con una precisión inquietante, a menudo días antes de acciones clave como el ataque conjunto "Operation Epic Fury" del 28 de febrero, que resultó en la muerte del líder supremo iraní Ali Khamenei. Los cuatro núcleos de la operación, creados justo antes de ese ataque, obtuvieron unos 400,000 dólares cada uno. El análisis de Bubblemaps muestra que los fondos de las nueve carteras fluyeron a través de intercambios centralizados hacia una red compartida de carteras, utilizando posiblemente servicios profesionales para ocultar su rastro. Aunque no se señala a ninguna entidad gubernamental específica, la correlación y la casi perfecta tasa de éxito generan serias sospechas de tráfico de información privilegiada (insider trading). Este caso sigue al del sargento del ejército estadounidense Gannon Ken Van Dyke, acusado anteriormente de usar información clasificada para apostar en Polymarket. La plataforma ha implementado reglas más estrictas contra el uso de información no pública. Paralelamente, han surgido polémicas aplicaciones que prometen a los usuarios "copiar" las apuestas de direcciones sospechosas de tener información privilegiada, explotando un vacío regulatorio en estos mercados descentralizados.

marsbit05/25 02:08

Una ganancia de 2.4 millones de dólares: estas 9 direcciones internas conocían mejor la guerra entre EE.UU. e Irán

marsbit05/25 02:08

活动图片