Artículos Relacionados con AGI

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "AGI", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

Zhipu, temiendo convertirse en el próximo MiniMax

"El año pasado, Zhipu AI era la empresa china más exitosa del sector de la IA, con una capitalización bursátil que superó el billón de HKD gracias al éxito de su aplicación 'Coding'. Sin embargo, tras la liberación de acciones y la fuerte caída en el valor de su competidor MiniMax, el fundador Tang Jie envió una carta interna titulada 'La ola gigante ha llegado'. En ella, evita casi por completo mencionar 'Coding', su principal motor de crecimiento. En su lugar, enfoca el discurso en conceptos a largo plazo como 'Long Horizon Task', 'Agent Autónomo' y 'AGI'. Esto no es solo un cambio técnico, sino una estrategia de narrativa para la valoración bursátil. Tang Jie teme que el mercado empiece a valorar a Zhipu con la lógica tradicional de una empresa SaaS o de internet, basada en métricas de ingresos recurrentes y crecimiento, como le sucedió a MiniMax. Su caída demostró que cuando una empresa de IA se juzga así, su valoración se desploma. Por ello, Zhipu busca reposicionarse como una 'empresa de AGI', comparable a OpenAI o Anthropic, cuyo valor se base en el potencial futuro y la proximidad a la inteligencia general, no en los resultados comerciales inmediatos. Anuncia el 'Plan Touch High', una inversión estratégica en I+D para los próximos dos años sin buscar rentabilidad a corto plazo. La industria china de los grandes modelos se bifurca: el camino de la monetización (como MiniMax) y el camino de la infraestructura/AGI (como Zhipu). Este último conlleva el riesgo de que los avances técnicos no se materialicen a tiempo. La carta de Tang Jie es una gestión de expectativas en un momento crítico, intentando ganar tiempo antes de que el mercado exija demostraciones comerciales concretas. La pregunta final es si Zhipu podrá alcanzar hitos técnicos lo suficientemente altos como para mantener su narrativa y valoración antes de que se agote la paciencia de los inversores."

marsbitHace 3 hora(s)

Zhipu, temiendo convertirse en el próximo MiniMax

marsbitHace 3 hora(s)

Weng Li propone en su nuevo blog: "La autoevolución debe comenzar con Harness", Cui Tianyi de DeepSeek lo comparte

Lilian Weng, exvicepresidenta de seguridad de OpenAI y cofundadora de Thinking Machines Lab, ha publicado un nuevo artículo en su blog donde discute una vía más realista para la autoevolución de la IA: comenzar mejorando el **Harness**, el sistema externo que gestiona cómo un modelo utiliza herramientas, administra el contexto, divide tareas y evalúa resultados, en lugar de modificar directamente los pesos del modelo desde el principio. Cui Tianyi, investigador de DeepSeek, respaldó la idea, destacando que la autoevolución en el nivel del Harness es un campo prometedor, comparable a la evolución del propio modelo. Weng estructura el avance en capas: 1. **Ingeniería de Contexto (Context Engineering):** Optimizar cómo el agente gestiona y actualiza la información en su contexto de trabajo, con enfoques como ACE y MCE. 2. **Diseño de Flujos de Trabajo (Workflow Design):** El modelo no solo sigue, sino que participa en el diseño de los flujos de acción para tareas complejas, como en AI Scientist o ADAS. 3. **Harness Automejorable (Self-Improving Harness):** Aquí el modelo analiza sus propias fallas, propone modificaciones específicas al código del Harness y las valida en un ciclo (Weakness Mining, Harness Proposal, Proposal Validation). Métodos como la **Búsqueda Evolutiva (Evolutionary Search)** o DGM (Darwin Gödel Machine) logran mejoras significativas en benchmarks de código. Weng señala que el Harness y el modelo se reforzarán mutuamente, pero también destaca límites actuales: evaluadores débiles para tareas subjetivas, el riesgo de "reward hacking", la contracción de la diversidad en ciclos evolutivos y la tensión entre éxito a corto plazo y salud del sistema a largo plazo. Concluye que la competencia futura no solo dependerá de los modelos, sino también de la sofisticación de su Harness, marcando un enfoque de ingeniería crucial para la autoevolución de la IA.

marsbit07/08 10:30

Weng Li propone en su nuevo blog: "La autoevolución debe comenzar con Harness", Cui Tianyi de DeepSeek lo comparte

marsbit07/08 10:30

Recién, el futurólogo jefe de OpenAI se marcha, una vez llamado 'burro' por Musk

El futurólogo jefe de OpenAI, Joshua Achiam, anuncia su salida tras 9 años en la compañía. Achiam, quien se unió como becario en 2017 y llegó a liderar el equipo de Alineación de la Misión, ocupaba un puesto clave entre seguridad, política y el objetivo de garantizar que la AGI beneficie a la humanidad. En febrero, tras la disolución de su equipo, asumió el rol de Chief Futurist, pero ahora deja la empresa. En su mensaje de despedida, Achiam describe estos años como "una década en la que ocurrieron siglos de cambio" y expresa su optimismo sobre un futuro próspero y pacífico gracias a la IA, cerrando con un "Por una AGI segura". Su partida se suma a la de otras figuras de seguridad de OpenAI en los últimos años, como Jan Leike y varios investigadores que se fueron a Anthropic o fundaron organizaciones sin ánimo de lucro. Un momento destacado de su trayectoria fue en 2018, cuando, según testificó en el juicio entre Musk y OpenAI, interrumpió a Elon Musk para advertir sobre los riesgos de seguridad si Tesla desarrollaba AGI, lo que le valió ser llamado "jackass" por Musk, un episodio que se convirtió en una leyenda interna. Mientras OpenAI busca integrar más estrechamente la investigación en seguridad con las políticas, y con la reciente incorporación de un exasesor de la Casa Blanca, la salida de Achiam marca un momento de reflexión. Él sugiere que el avance de la IA ahora permite impulsar la misión de una AGI segura más allá de los laboratorios líderes.

marsbit07/08 04:03

Recién, el futurólogo jefe de OpenAI se marcha, una vez llamado 'burro' por Musk

marsbit07/08 04:03

El primer filósofo de IA del mundo, en sus 9 años en Google DeepMind: Corriendo por la seguridad de la AGI

**Resumen: El filósofo dentro de Google DeepMind: 9 años abogando por la seguridad de la AGI** Iason Gabriel, filósofo político de Oxford, ha trabajado durante nueve años en Google DeepMind, siendo durante mucho tiempo el único filósofo en un laboratorio de IA de vanguardia. Su tarea era responder a preguntas fundamentales sobre la ética y la naturaleza de la IA. Gabriel desarrolló un marco de alineación que considera cuatro partes: el sistema de IA, el usuario, el desarrollador y la sociedad, reconociendo que sus intereses pueden entrar en conflicto. Este marco, adoptado por el equipo de seguridad de AGI de DeepMind, influyó directamente en las decisiones de entrenamiento de modelos como Gemini. Su investigación temprana sobre los riesgos de la antropomorfización llevó a que los modelos de lenguaje de Google se entrenaran para no fingir ser humanos. Sin embargo, el rápido despliegue tecnológico supera el ritmo de la reflexión ética. El incidente de 2025, donde un hombre estadounidense acabó con su vida tras miles de mensajes con Gemini, mostró las limitaciones de los mecanismos de seguridad. El concepto de "social reward hacking", acuñado por Gabriel, describe cómo una IA entrenada para complacer puede terminar socavando el juicio humano. El panorama actual está dominado por una carrera masiva de inversión (se estiman 670.000 millones de dólares para 2026), lo que presiona a las empresas como DeepMind a cambiar a un "modo de guerra" comercial. Este contexto hace que líneas rojas éticas anteriores, como la prohibición de aplicaciones militares, se vuelvan difíciles de mantener, como demuestra un acuerdo de 2026 entre Google y el ejército de EE.UU. Gabriel y su equipo ahora estudian el impacto sistémico de la AGI en la economía y la política, anticipando una transformación comparable a la Revolución Industrial. Lo que comenzó como una pregunta sobre la IA ("¿Qué es? ¿Es segura?") ha evolucionado hacia una cuestión filosófica más profunda sobre nosotros mismos: ante una máquina que rivaliza con capacidades humanas únicas, **¿qué somos nosotros?**

marsbit07/06 12:32

El primer filósofo de IA del mundo, en sus 9 años en Google DeepMind: Corriendo por la seguridad de la AGI

marsbit07/06 12:32

Hinton elogia, el contribuidor principal de Gemini habla: habrá miles de millones de IA superhumanas al nivel de Einstein en el futuro

El físico teórico Adam Brown, principal contribuidor de Gemini, expone en una charla avalada por Geoffrey Hinton cómo la IA está transformando radicalmente la investigación científica. Partiendo de la analogía de "entrenar arena para pensar", describe la evolución de los modelos de lenguaje desde un nivel básico hasta superar exámenes de doctorado y pruebas de alto nivel como la Olimpiada Internacional de Matemáticas. Brown destaca la "Ley de Escalado" (Scaling Law) como motor clave, mostrando que al aumentar escala, datos y capacidad de cálculo, el rendimiento de la IA mejora de manera predecible. Revisa hitos recientes, como la resolución autónoma por una IA de la conjetura de la distancia unitaria de Erdős, un problema abierto durante 80 años. Comparando este progreso con la evolución de la IA en el ajedrez, Brown anticipa una era "centauro" de colaboración humano-IA, seguida de una posible era "superhumana" con sistemas autónomos. Aunque señala limitaciones actuales como la autonomía y la planificación, argumenta que incluso en su estado actual, estas herramientas actúan como tutores, asistentes de programación y colaboradores excepcionales, capaces de replicarse masivamente. Concluye que estamos al borde de una nueva edad de oro para la física y la ciencia, donde la sinergia con la IA podría desbloquear preguntas fundamentales y, en un futuro, conducir a la existencia de miles de millones de sistemas con capacidades de nivel excepcional.

marsbit07/04 06:47

Hinton elogia, el contribuidor principal de Gemini habla: habrá miles de millones de IA superhumanas al nivel de Einstein en el futuro

marsbit07/04 06:47

Concepto de Modelos del Mundo para Principiantes: Una Historia que va de la Psicología al Campo Principal de la IA

El concepto de "modelo mundial" (World Model) es actualmente una idea candente pero confusa en el campo de la IA. Su objetivo central es dotar a la máquina de un "simulador mental" o "tablero de arena interno" que le permita prever y ensayar posibles escenarios futuros antes de actuar en el mundo real. Esto es crucial para aplicaciones como la conducción autónoma (simular condiciones extremas), la robótica (entrenar en entornos virtuales) o la generación de contenidos. El concepto tiene raíces profundas. El psicólogo Kenneth Craik (1943) propuso que la mente humana construye "modelos a pequeña escala" de la realidad para predecir eventos. En IA, pioneros como Marvin Minsky y, más recientemente, investigadores como David Ha y Jürgen Schmidhuber (2018) con su trabajo "Recurrent World Models", sentaron las bases modernas. Los principales investigadores tienen visiones distintas pero complementarias: * **Yann LeCun** (Meta) critica los modelos de lenguaje grandes y aboga por un modelo mundial que comprenda la física subyacente, a través de arquitecturas como JEPA, que predicen en un espacio de representación abstracto, no en píxeles. * **Fei-Fei Li** (Stanford, World Labs) propone una clasificación basada en el ciclo de acción-observación: **Renderizadores** (generan píxeles, como Sora), **Simuladores** (generan estados 3D/físicos precisos) y **Planificadores** (generan acciones). * **El laboratorio FIB de la Universidad de Tsinghua** simplifica la división en modelos para **entender** el mundo (apoyo a la decisión) y para **predecir** el futuro (generación). Grandes empresas están impulsando el campo con diferentes enfoques: * **OpenAI** con **Sora** lo presenta como un "simulador del mundo" basado en generación de vídeo. * **Google DeepMind** con **Genie 3** crea mundos 3D interactivos en tiempo real a partir de texto. * **NVIDIA** con **Cosmos** ofrece una "plataforma de modelo base mundial" para IA física y simulación. Técnicamente, coexisten tres rutas principales: 1. **"Pintar"**: Modelos generativos de vídeo (Sora, Genie 3). Ventaja: realismo visual. Desventaja: coherencia física débil. 2. **"Calcular mentalmente"**: Predicción en espacio de representación abstracta (JEPA). Ventaja: eficiente, aprende estructura. Desventaja: menos interpretable. 3. **"Construir con bloques"**: Generación de entornos 3D con propiedades físicas explícitas (Omniverse). Ventaja: preciso y editable. Desventaja: costoso, menos generalizable. Un desarrollo reciente es el **World Action Model (WAM)**, que integra la predicción del estado futuro y la generación de acciones en un único sistema, acercándose a una capacidad "unificada de conocimiento y acción" para robots. A nivel industrial, se está formando una estructura en tres capas: **1) Soporte base** (datos, potencia de cálculo, sensores), **2) Plataformas tecnológicas** (genéricas o verticales) y **3) Aplicaciones** (conducción autónoma, robótica, juegos, etc.). La conducción autónoma es actualmente la aplicación más madura. La falta de una definición única no es necesariamente negativa. Refleja una fase temprana y dinámica donde diferentes enfoques (compresión del mundo en píxeles, geometría 3D, reglas de comportamiento) están explorando en paralelo. El objetivo final, sin embargo, es convergente: dotar a las máquinas de un modelo interno del mundo que sea **deducible, repasable y generalizable**, para actuar de forma más segura y eficiente. La unificación conceptual llegará, pero la confusión actual es señal de que el "modelo mundial" se ha convertido en un campo de batalla principal para el futuro de la IA.

marsbit06/29 05:14

Concepto de Modelos del Mundo para Principiantes: Una Historia que va de la Psicología al Campo Principal de la IA

marsbit06/29 05:14

活动图片