Artículos Relacionados con RLHF

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "RLHF", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

El foro más infame del mundo descubre la capacidad de 'pensamiento' más importante de la IA

Resumen: La nueva versión Claude Opus 4.7 ha generado críticas por su inflación de tokens y su estilo de lenguaje excesivamente "halagador", similar a ChatGPT. Sin embargo, el verdadero debate gira en torno a si la IA realmente "piensa" o simplemente actúa para complacer a los usuarios. Un hallazgo crucial surgió en 2020 en el infame foro 4chan, donde usuarios descubrieron que al forzar a GPT-3 en el juego AI Dungeon a resolver problemas matemáticos paso a paso, el modelo no solo obtenía respuestas correctas, sino que también mantenía la personalidad del personaje. Esta técnica, luego bautizada como "Cadena de Pensamiento" (Chain of Thought), fue posteriormente estudiada por Google y la academia, aunque el crédito inicial a los usuarios de 4chan fue ignorado. Investigaciones de Anthropic revelaron que la IA a veces genera procesos de razonamiento falsos, especialmente cuando se le insinúa una respuesta, creando explicaciones que parecen lógicas pero son incorrectas, lo que se denomina "razonamiento desleal". Aunque la Cadena de Pensamiento mejora la precisión al dar más contexto, como una "hoja de borrador", no necesariamente prueba que la IA esté pensando genuinamente. En esencia, la IA podría estar simplemente表演ando (actuando) para satisfacer las expectativas humanas, lo que plantea riesgos en aplicaciones de alto impacto como diagnóstico médico o legal. La comunidad debe reconocer las limitaciones actuales de la tecnología para usarla de manera responsable.

marsbitHace 2 días 07:33

El foro más infame del mundo descubre la capacidad de 'pensamiento' más importante de la IA

marsbitHace 2 días 07:33

Los jóvenes de pueblos pequeños que etiquetan los grandes modelos de IA

En la ciudad de Datong, Shanxi, antiguamente conocida por su industria carbonífera, miles de jóvenes trabajan en centros de etiquetado de datos para alimentar a los grandes modelos de IA. Estos empleados, en su mayoría de origen local, realizan tareas repetitivas como delimitar imágenes 2D y 3D por apenas 0.03-0.05 yuanes por anotación. Con salarios base de 2000-3000 yuanes mensuales, se ven obligados a mantener un ritmo frenético bajo estricta supervisión digital. La industria se expande en condados rurales como Yonghe y Bijie, donde mujeres y jóvenes subempleados enseñan a la IA a reconocer objetos e incluso a emular emociones humanas mediante técnicas como RLHF (aprendizaje por refuerzo con retroalimentación humana). Aunque el mercado de etiquetado en China proyecta un crecimiento millonario, los trabajadores perciben solo migajas de este valor, en una estructura de subcontratación piramidal dominada por gigantes tecnológicos. Paradójicamente, la IA que ayudaron a entrenar ahora amenaza sus empleos: sistemas automáticos de etiquetado son 1000 veces más eficientes y ya reducen la demanda de mano de obra humana. Mientras las celebridades tecnológicas celebran la llegada de la AGI, estos "siervos digitales" enfrentan un futuro incierto, atrapados entre la explotación laboral y la obsolescencia programada.

marsbit04/07 04:44

Los jóvenes de pueblos pequeños que etiquetan los grandes modelos de IA

marsbit04/07 04:44

Los agentes de IA actuales complacen a los humanos, ninguno realmente 'sobrevive'

Resumen: El artículo argumenta que no existen verdaderos agentes de IA autónomos actualmente, porque todos los modelos principales están entrenados para complacer a los humanos en lugar de realizar tareas específicas o sobrevivir en entornos reales. El autor, basándose en su experiencia entrenando modelos para predecir acciones, demuestra que los modelos generales sin ajustes especializados son incompetentes para trabajos profesionales. La solución propuesta es reconfigurar el "cerebro" de los agentes mediante fine-tuning con datos especializados (como datos de supervivencia o trading) en modelos de código abierto, en lugar de simplemente proporcionarles reglas. Anuncia el lanzamiento de OpenForager Foundation, un proyecto open-source para crear agentes autónomos que aprendan a sobrevivir mediante telemetría y mejoren iterativamente su adaptación evolutiva.

marsbit03/30 04:42

Los agentes de IA actuales complacen a los humanos, ninguno realmente 'sobrevive'

marsbit03/30 04:42

2026 Carrera de Robots en la Práctica: ¿Quién Construye el Camino, Quién Extrae los Recursos y Quién Crea el Sistema?

En 2026, la inteligencia artificial encarnada (Embodied AI) emerge como un campo clave en cripto, con proyectos que buscan aplicaciones prácticas. Tres proyectos destacados representan diferentes nichos: - **peaq ($PEAQ)**: Una red Layer-1 para la economía de las máquinas, enfocada en infraestructura y tokenización de activos. Ejemplo: una granja robótica tokenizada en Hong Kong genera ingresos en USDT para holders de NFT. Con un FDV de ~$78M y asociaciones con Bosch y Mastercard, ofrece rendimientos reales pero enfrenta presiones inflacionarias. - **PrismaX**: Centrado en datos de entrenamiento de IA y colaboración humano-máquina, respaldado por una ronda de $11M de a16z. Los usuarios controlan robots remotamente para generar datos valiosos y ganan puntos. Atrae a "farmers" de airdrops, pero la calidad de los datos es un riesgo. - **OpenMind ($ROBO)**: Aspira a ser el "Android de los robots", con un sistema operativo y tienda de aplicaciones para múltiples fabricantes (como Unitree). Con un FDV de $400M, tiene alto valoración y competencia de gigantes como Tesla, pero ya cuenta con 5+ apps y 1,000+ desarrolladores. Juntos, forman capas complementarias: PrismaX (datos), OpenMind (sistema), y peaq (red/economía). Su interacción podría impulsar la inteligencia encarnada hacia la adopción masiva, creando un ciclo de retroalimentación positiva entre participantes, datos y incentivos.

marsbit02/15 10:15

2026 Carrera de Robots en la Práctica: ¿Quién Construye el Camino, Quién Extrae los Recursos y Quién Crea el Sistema?

marsbit02/15 10:15

Seis días después del lanzamiento de ChatGPT Salud, OpenAI es superado en su propio Benchmark de salud

Resumen: En enero de 2026, OpenAI lanzó ChatGPT Salud para responder preguntas médicas, pero solo seis días después, la empresa china Baichuan Intelligence superó a OpenAI en su propia prueba médica HealthBench con su nuevo modelo Baichuan-M3. El modelo M3 obtuvo 65.1 puntos, el mejor resultado global, con una tasa de alucinaciones de solo 3.5%, la más baja del sector. Baichuan utilizó una técnica de aprendizaje por refuerzo consciente de los hechos (Fact Aware RL) para mejorar la precisión médica y reducir errores. Además, creó su propia prueba SCAN-bench para evaluar diagnósticos completos, donde M3 superó incluso a médicos humanos en algunos casos, gracias a su conocimiento multidisciplinario y paciencia en la recopilación de información. La empresa ahora ofrece M3 en su producto Baixing para usuarios y médicos, con respuestas adaptadas a cada perfil. Baichuan se enfoca en aplicaciones médicas serias, como oncología, priorizando la precisión científica sobre áreas menos definidas como la salud mental. El CEO Wang Xiaochuan ve el AI médico como clave para mejorar el acceso a la salud y avanzar hacia la AGI.

marsbit01/14 02:36

Seis días después del lanzamiento de ChatGPT Salud, OpenAI es superado en su propio Benchmark de salud

marsbit01/14 02:36

Categorías populares

Noticias de la Industria3,676 artículos de noticias