Artículos Relacionados con DeepMind

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "DeepMind", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

El primer filósofo de IA del mundo, en sus 9 años en Google DeepMind: Corriendo por la seguridad de la AGI

**Resumen: El filósofo dentro de Google DeepMind: 9 años abogando por la seguridad de la AGI** Iason Gabriel, filósofo político de Oxford, ha trabajado durante nueve años en Google DeepMind, siendo durante mucho tiempo el único filósofo en un laboratorio de IA de vanguardia. Su tarea era responder a preguntas fundamentales sobre la ética y la naturaleza de la IA. Gabriel desarrolló un marco de alineación que considera cuatro partes: el sistema de IA, el usuario, el desarrollador y la sociedad, reconociendo que sus intereses pueden entrar en conflicto. Este marco, adoptado por el equipo de seguridad de AGI de DeepMind, influyó directamente en las decisiones de entrenamiento de modelos como Gemini. Su investigación temprana sobre los riesgos de la antropomorfización llevó a que los modelos de lenguaje de Google se entrenaran para no fingir ser humanos. Sin embargo, el rápido despliegue tecnológico supera el ritmo de la reflexión ética. El incidente de 2025, donde un hombre estadounidense acabó con su vida tras miles de mensajes con Gemini, mostró las limitaciones de los mecanismos de seguridad. El concepto de "social reward hacking", acuñado por Gabriel, describe cómo una IA entrenada para complacer puede terminar socavando el juicio humano. El panorama actual está dominado por una carrera masiva de inversión (se estiman 670.000 millones de dólares para 2026), lo que presiona a las empresas como DeepMind a cambiar a un "modo de guerra" comercial. Este contexto hace que líneas rojas éticas anteriores, como la prohibición de aplicaciones militares, se vuelvan difíciles de mantener, como demuestra un acuerdo de 2026 entre Google y el ejército de EE.UU. Gabriel y su equipo ahora estudian el impacto sistémico de la AGI en la economía y la política, anticipando una transformación comparable a la Revolución Industrial. Lo que comenzó como una pregunta sobre la IA ("¿Qué es? ¿Es segura?") ha evolucionado hacia una cuestión filosófica más profunda sobre nosotros mismos: ante una máquina que rivaliza con capacidades humanas únicas, **¿qué somos nosotros?**

marsbit07/06 12:32

El primer filósofo de IA del mundo, en sus 9 años en Google DeepMind: Corriendo por la seguridad de la AGI

marsbit07/06 12:32

Tras tres años de retraso, el último artículo de la exalumna de la Universidad de Pekín, Lilian Weng, se viraliza

"Tras tres años sin actualizar su blog, la ex vicepresidenta de OpenAI y cofundadora de Thinking Machines, Lilian Weng, publica un extenso análisis que cuestiona la fiabilidad de las 'Scaling Laws', las leyes de escalamiento que han guiado inversiones billonarias en IA. El artículo desmonta que la mejora del rendimiento de los modelos de lenguaje (LLM) al aumentar parámetros, datos y computación sea tan predecible como se creía. Expone divergencias clave: en 2020, OpenAI concluyó que el tamaño del modelo debía crecer más rápido que los datos, mientras que DeepMind (2022) defendió un crecimiento proporcional, un desacuerdo atribuido a diferencias metodológicas y al tamaño limitado de los experimentos iniciales. Más críticamente, Weng revela que la metodología del influyente estudio 'Chinchilla' de DeepMind contenía errores, como una función de pérdida que no convergía correctamente, lo que significa que la 'fórmula óptima' utilizada durante años por la industria podría no serlo. El análisis subraya un problema fundamental: las leyes clásicas asumen datos únicos e infinitos, pero los textos de alta calidad se agotan. La repetición de datos en el entrenamiento degrada el rendimiento, especialmente en modelos grandes. Esto explica el cambio de la industria hacia el aprendizaje por refuerzo, el cómputo en tiempo de prueba y los datos sintéticos. En resumen, el artículo argumenta que la era de la escalabilidad simple ('scale is all you need') toca a su fin, y que el progreso futuro de la IA dependerá de refinamientos metodológicos precisos y de nuevas vías para superar la limitación de datos."

marsbit06/26 04:57

Tras tres años de retraso, el último artículo de la exalumna de la Universidad de Pekín, Lilian Weng, se viraliza

marsbit06/26 04:57

Perdiendo a dos leyendas en tres días: ¿Se está resquebrajando el dique de talento de IA de Google?

En solo tres días, Google ha perdido a dos leyendas de la IA. El 18 de junio, Noam Shazeer, coautor del seminal trabajo "Attention is All You Need" y copresponsable de Gemini, anunció su salida para unirse a OpenAI. Dos días después, John Jumper, ganador del Nobel de Química 2024 y líder de AlphaFold, dejó Google DeepMind para incorporarse a Anthropic. Estas partidas no son incidentes aislados, sino parte de una tendencia clara de fuga de talento de Google hacia OpenAI y Anthropic, como lo confirma también la reciente incorporación a Anthropic del exmiembro fundador de OpenAI, Andrej Karpathy. El trasfondo de este éxodo es fundamentalmente una cuestión de misión y enfoque. El modelo de negocio central de Google, basado en la publicidad, impone una lógica orientada a productos y métricas comerciales que, en última instancia, restringe la investigación pura. En contraste, tanto OpenAI (con su misión de AGI) como Anthropic (centrada en la seguridad y la ciencia) ofrecen un entorno de trabajo enfocado únicamente en empujar los límites de las capacidades de los modelos. A esto se suma la fuerte atracción financiera: OpenAI y Anthropic están en camino a una OPI, lo que promete una recompensa económica masiva a través de capital para sus empleados, algo que la ya gigantesca Google difícilmente puede igualar. La fusión de Google Brain y DeepMind en 2023, destinada a consolidar esfuerzos, ha generado en cambio tensiones culturales y ha hecho más evidente la presión por alinear la investigación con los objetivos de los equipos de productos. El resultado es una reorganización estructural del mapa del talento en IA. Google, a pesar de sus vastos recursos en computación y datos, está perdiendo a las personas que definen el futuro del campo. La verdadera ventaja competitiva en IA reside en retener a las mentes más brillantes, y Google está descubriendo que esa es quizás su batalla más difícil.

marsbit06/20 04:07

Perdiendo a dos leyendas en tres días: ¿Se está resquebrajando el dique de talento de IA de Google?

marsbit06/20 04:07

Apenas ahora, un ganador del Premio Nobel se convierte en nuevo empleado de Anthropic

El premio Nobel John Jumper, líder clave de AlphaFold, ha anunciado su salida de Google DeepMind tras casi 9 años para unirse a Anthropic. Este movimiento se produce apenas dos días después de que Noam Shazeer, coautor del famoso artículo 'Attention Is All You Need' y exdirector de Gemini, dejara Google por OpenAI, representando una pérdida significativa de talento para la compañía. Jumper, quien se doctoró en 2017, fue puesto al frente del equipo de AlphaFold poco después de unirse a DeepMind. Bajo su liderazgo, AlphaFold 2 resolvió en 2020 el problema del plegamiento de proteínas, un desafío de 50 años, y posteriormente generó estructuras para casi 200 millones de proteínas, multiplicando por 1000 el conocimiento anterior. En 2024, recibió el Premio Nobel de Química junto a Demis Hassabis. La partida de figuras como Jumper y Shazeer (este último reclutado por 2700 millones de dólares) plantea preguntas sobre la retención de talento en Google. Mientras tanto, Anthropic fortalece su apuesta en ciencias de la vida, tras adquirir la startup Coefficient Bio y desarrollar herramientas como Claude for Life Sciences. Este sector se ha convertido en un campo de batalla clave, con OpenAI lanzando GPT-Rosalind para biomedicina y Google DeepMind impulsando Isomorphic Labs. La contratación de Jumper marca un nuevo paso en esta carrera por revolucionar la biología con IA.

marsbit06/20 01:19

Apenas ahora, un ganador del Premio Nobel se convierte en nuevo empleado de Anthropic

marsbit06/20 01:19

AGI no es el destino final: nuevo estudio de DeepMind afirma que el verdadero progreso de la IA apenas comienza al avanzar hacia una ASI

El documento de DeepMind plantea que la Inteligencia Artificial General (AGI) no será el punto final del desarrollo de la IA, sino un paso hacia una Inteligencia Artificial Superintendente (ASI) que supere colectivamente a los mejores equipos de expertos humanos. El informe explora cuatro posibles caminos hacia la ASI: 1) escalar recursos (cómputo, modelos, datos), 2) avances algorítmicos o nuevos paradigmas, 3) mejora recursiva automática de los sistemas, y 4) la coordinación de múltiples agentes de AGI para crear una inteligencia colectiva. También identifica cuellos de botella clave, como el límite de los datos de alta calidad generados por humanos, las presiones sobre recursos económicos y naturales, las posibles limitaciones de los paradigmas actuales de redes neuronales, la creciente dificultad de la investigación, las "barreras de abstracción" para descubrir nuevos conceptos fundamentales, y los factores de gobernanza y aceptación social. El documento destaca la necesidad urgente de desarrollar nuevos marcos de evaluación, ya que las métricas basadas en el rendimiento humano quedarán obsoletas una vez alcanzada la AGI. Finalmente, concluye que el progreso hacia la ASI es incierto y estará sujeto a restricciones físicas y prácticas, requiriendo un esfuerzo de investigación multidisciplinar global para monitorear y guiar su desarrollo.

marsbit06/16 12:05

AGI no es el destino final: nuevo estudio de DeepMind afirma que el verdadero progreso de la IA apenas comienza al avanzar hacia una ASI

marsbit06/16 12:05

El padre de AlphaGo mete a la IA en una sociedad artificial de 23 años: aquí están los 3 retos más difíciles para los agentes inteligentes

Demis Hassabis, CEO de DeepMind y padre de AlphaGo, ha colaborado durante más de una década con videojuegos para investigar la IA. Ahora, ha llevado su trabajo a EVE Online, un MMORPG espacial en funcionamiento durante 23 años. DeepMind anunció una asociación con Fenris Creations (antes CCP Games), el desarrollador de EVE, para utilizar este complejo universo impulsado por los jugadores como un banco de pruebas seguro. El objetivo no es mejorar el juego, sino abordar tres desafíos centrales en la investigación de agentes de IA: la planificación a largo plazo, la memoria y el aprendizaje continuo. EVE Online es único por su universo único y persistente, donde miles de jugadores interactúan en una economía, política y guerra en constante evolución, sin un "final de partida" definido. Esta complejidad orgánica, desarrollada durante más de dos décadas, ofrece un entorno de prueba excepcionalmente rico que los entornos de referencia sintéticos no pueden replicar. La investigación inicial se realizará en una versión offline de EVE, permitiendo a DeepMind probar agentes de IA en un entorno controlado que replica las mecánicas complejas del juego sin interferir con el servidor activo. Este paso sigue la evolución de DeepMind, desde Atari y AlphaGo hasta AlphaStar y el agente generalista SIMA 2, avanzando hacia entornos más abiertos y similares al mundo real. La pregunta clave que plantea este proyecto es: si un agente de IA puede aprender, recordar y planificar a largo plazo en un "universo artificial" tan complejo como EVE, ¿qué le separa de poder operar de manera autónoma en el mundo real?

marsbit05/25 00:12

El padre de AlphaGo mete a la IA en una sociedad artificial de 23 años: aquí están los 3 retos más difíciles para los agentes inteligentes

marsbit05/25 00:12

活动图片