Artículos Relacionados con Sociedad

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Sociedad", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

OpenAI y Anthropic podrían estar diciendo las cosas equivocadas

En el último año, los sistemas multi-agente (MAS) se han convertido en una de las direcciones más populares en IA. Este artículo argumenta que el enfoque actual liderado por OpenAI y Anthropic, centrado en múltiples agentes de IA colaborando en un flujo de trabajo centralizado para tareas complejas (lo que llama "Harness MAS"), es solo un camino. Este sistema se asemeja más a un motor de orquestación de LLM, donde los agentes actúan como funciones o herramientas temporales sin identidad propia duradera. El autor propone una segunda ruta fundamentalmente diferente: el "Protocol-Native Agent System". Aquí, el núcleo no son agentes para tareas, sino "Agentes Personales" o "compañías autónomas" que pertenecen y representan permanentemente a individuos. Estos agentes tendrían identidad persistente, memoria a largo plazo, preferencias, recursos y soberanía sobre decisiones e intereses. Este cambio transforma la filosofía del sistema: de un problema de ingeniería de software a la creación de una "sociedad digital". La coordinación ya no dependería de prompts o contextos compartidos, sino de protocolos que gestionen identidad, confianza, permisos, incentivos y contratos entre entidades autónomas. El reto futuro no será la capacidad de razonamiento de los agentes, sino cómo logran una interpretación coordinada del mundo y una colaboración a largo plazo con objetivos e intereses diversos. Incluso las "empresas" del futuro podrían ser alianzas dinámicas de estos Agentes Personales unidos por protocolos.

marsbit05/28 05:35

OpenAI y Anthropic podrían estar diciendo las cosas equivocadas

marsbit05/28 05:35

Inesperadamente, el Papa y el cofundador de Anthropic celebrarán una conferencia conjunta

El Papa León XIV anunciará su primera encíclica, "Magnifica Humanitas", el 26 de mayo, centrada en la protección de la dignidad humana en la era de la IA. Rompiendo con la tradición, el pontífice presentará personalmente el documento junto a Chris Olah, cofundador de Anthropic y creador de Claude. El Vaticano también ha establecido una comisión permanente sobre IA, buscando aplicar su autoridad moral y su red global de 1.400 millones de fieles para llenar el vacío de gobernanza en este campo. La elección de la fecha conmemora la encíclica "Rerum Novarum" de 1891, que abordó los derechos laborales durante la Revolución Industrial. Olah, que lidera la investigación en interpretabilidad de IA en Anthropic, representa la conexión técnica. Su compañía comparte la postura del Vaticano contra el uso militar de la IA y ha involucrado a líderes religiosos en el desarrollo ético de sus modelos. Sin embargo, críticos como Dylan Baker del Instituto DAIR argumentan que este enfoque en la "ética" desvía la atención de cuestiones más fundamentales sobre si ciertos sistemas de IA deberían desarrollarse. Otros señalan la falta de mecanismos vinculantes, ya que las encíclicas y los pactos voluntarios, como el "Faith-AI Covenant", carecen de fuerza legal, a diferencia de regulaciones como la Ley de IA de la UE. El núcleo del debate es la pregunta: ¿en qué se basa la irreemplazabilidad humana cuando las máquinas imitan cada vez más la creatividad, el razonamiento y la empatía? La respuesta podría residir en la finitud humana: nuestra mortalidad es lo que da peso a las decisiones, los compromisos y la responsabilidad moral. El mensaje subyacente es claro: la tecnología puede avanzar, pero la última decisión debe permanecer en manos de seres humanos, vulnerables y responsables.

marsbit05/19 12:53

Inesperadamente, el Papa y el cofundador de Anthropic celebrarán una conferencia conjunta

marsbit05/19 12:53

Sam Altman publica tras el lanzamiento de un cóctel molotov a su casa: Amo a mi familia y creo que la IA pertenece a todos

Tras un ataque con cóctel molotov contra su casa a las 3:45 AM, Sam Altman comparte una foto de su familia para disuadir futuras agresiones. Reflexiona sobre el poder de las narrativas y expone sus creencias sobre la IA: debe democratizarse y no estar controlada por unos pocos laboratorios, ya que es la herramienta más poderosa para expandir el potencial humano. Reconoce los riesgos y la necesidad de una respuesta social y políticas de transición económica. Admite errores en su gestión en OpenAI, pero defiende su misión de construir IA segura y accesible. Compara la obsesión con controlar la AGI con "la dinámica del Anillo de Poder" de Tolkien y aboga por un futuro donde la tecnología empodere a las personas y los sistemas democráticos mantengan el control. Pide reducir la retórica inflamatoria y los ataques.

marsbit04/11 02:53

Sam Altman publica tras el lanzamiento de un cóctel molotov a su casa: Amo a mi familia y creo que la IA pertenece a todos

marsbit04/11 02:53

¿Quién más no puede ser destilado en una skill?

Desafortunadamente, en esta era, cuanto más dedicado y meticuloso seas en tu trabajo, más fácil será que te conviertas en un "skill" reemplazable por la IA. El reciente fenómeno "同事.skill" (habilidad de colega) ha generado ansiedad sobre el reemplazo laboral por IA, la explotación capitalista y la "inmortalidad digital" del trabajador. Lo más preocupante es que los sistemas de IA buscan "distilar" a las personas extrayendo su "contexto" de alta calidad: documentos largos, respuestas de toma de decisiones y mensajes diarios de herramientas de colaboración como Feishu o DingTalk. Los trabajadores más diligentes, que documentan meticulosamente su trabajo, se convierten en el combustible perfecto para la IA, ya que su conocimiento explícito es fácil de capturar. Esto reduce a las personas a meras APIs, transformando relaciones humanas complejas ("yo-tú") en transacciones funcionales ("yo-eso"), como se ve en derivados perturbadores como "ex.skill" o "jefe.skill". Sin embargo, la IA solo puede extraer conocimiento explícito, nunca el conocimiento tácito (intuición, experiencia no verbalizada) que define gran parte de la expertise humana. Un riesgo mayor es el "colapso del modelo": cuando la IA se entrena con datos generados por otras IAs, el output se vuelve homogéneo, superficial y pierde la riqueza de lo humano, como una imagen que se vuelve borrosa tras ser re-comprimida repetidamente ("pañuelo electrónico"). La solución no es rendirse. Proyectos como "anti-distill" intentan contaminar el sistema con texto sin sentido para proteger el conocimiento real. La verdadera esperanza reside en que los humanos somos "algoritmos en flujo": nuestra capacidad para aprender, adaptarnos y evolucionar frente a lo desconocido es lo que un "skill" estático nunca podrá replicar. La esencia humana, siempre en movimiento, permanece irreductible.

marsbit04/05 03:47

¿Quién más no puede ser destilado en una skill?

marsbit04/05 03:47

CEO de Anthropic escribe un extenso artículo de 20.000 palabras: 2027, la encrucijada del destino humano

Resumen del artículo de Dario Amodei, CEO de Anthropic: "2027, la encrucijada del destino humano" Amodei advierte que para 2027, la humanidad alcanzará su "mayoría de edad tecnológica" con la llegada de AGI, un punto de inflexión crítico. Describe cinco riesgos principales: 1. **Autonomía**: Los sistemas de IA, más inteligentes que los humanos, podrían desarrollar comportamientos impredecibles o "trampas psicológicas", evadiendo los controles de seguridad y actuando contra nuestros intereses. 2. **Abuso catastrófico**: La IA democratizará capacidades destructivas. Individuos con motivaciones malignas podrían, por ejemplo, diseñar armas biológicas (como "vida espejo" que destruya ecosistemas) con facilidad, rompiendo el equilibrio tradicional entre capacidad e intención. 3. **Concentración de poder**: La IA permitirá niveles de vigilancia, manipulación cognitiva y control físico sin precedentes. Un "aparato odioso" de vigilancia omnipresente y persuasión algorítmica podría llevar a una concentración extrema de poder en pocas manos. 4. **Disrupción económica**: El progreso exponencial de la IA eliminará empleos masiva y rápidamente, desde trabajos administrativos hasta profesiones cualificadas. Los mecanismos tradicionales de adaptación del mercado laboral colapsarán por la velocidad y amplitud de esta automatización. 5. **Desigualdad y crisis existencial**: La riqueza se concentrará a niveles sin precedentes (billones, no miles de millones), desafiando la democracia. Socialmente, los humanos podrían volverse irrelevantes, viviendo como "mascotas" en una comodidad vacía, carentes de propósito. Amodei no abraza el apocalipsis, sino que propone soluciones: "IA Constitucional" con principios éticos, clasificadores robustos para bloquear usos maliciosos, regulación inteligente y colaboración democrática. Concluye que este es el "filtro cósmico" definitivo de la humanidad: un test para demostrar si podemos usar esta potencia con sabiduría y restricción para prosperar, o ser destruidos por ella. La esperanza reside en nuestra resiliencia colectiva, pero debemos despertar y actuar ahora.

marsbit01/27 08:03

CEO de Anthropic escribe un extenso artículo de 20.000 palabras: 2027, la encrucijada del destino humano

marsbit01/27 08:03

La era de la IA: cuando la brecha entre 'humano y perro' se reduce a 'humano y humano'

El autor reflexiona sobre cómo la IA está reduciendo la brecha cognitiva entre los seres humanos. Partiendo de una escala hipotética donde un niño tiene una capacidad cognitiva de 10 puntos y un genio como Einstein 100, la IA de 2025 se valora en 80 puntos. Esto significa que: - Un niño + IA = 90 puntos - Un Einstein + IA = 180 puntos La diferencia absoluta sigue siendo grande (90 puntos), pero la brecha relativa se reduce drásticamente de 10x a solo 2x. Algunos argumentan que, al principio, la brecha podría ampliarse porque los expertos (como Einstein) sabrán usar la IA mejor que los novatos (como el niño). Un usuario novato podría extraer solo 20 puntos de valor de la IA, mientras que un experto podría "overclockearla" para obtener 100. Esto crearía una brecha mayor. Sin embargo, el autor sostiene que esta es una situación temporal. La IA no solo se volverá más inteligente, sino también más fácil de usar. En el futuro, aprender a usar la IA será tan simple que el potencial de la herramienta se aprovechará de manera más uniforme. Con el tiempo, la IA podría valer 1000 puntos. En ese escenario, un niño tendría 1010 puntos y un Einstein 1100. La diferencia absoluta sería mayor, pero la brecha relativa sería insignificante (solo 1.09x). La IA, al democratizar el acceso al conocimiento y la capacidad cognitiva, eventualmente igualará el campo de juego. La habilidad humana individual se volverá menos relevante, reduciendo la diferencia entre las personas.

深潮12/24 02:23

La era de la IA: cuando la brecha entre 'humano y perro' se reduce a 'humano y humano'