Artículos Relacionados con Incertidumbre

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Incertidumbre", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

Derribando el enfoque predominante contra las alucinaciones: La metacognición es la nueva solución integral para resolver las alucinaciones en los modelos de gran tamaño

Una investigación de Google propone un enfoque revolucionario para combatir las alucinaciones en los modelos de lenguaje grandes (LLMs): desarrollar su metacognición, es decir, su capacidad para reconocer y expresar su propio nivel de incertidumbre, en lugar de intentar hacerlos omniscientes o que rechacen responder con frecuencia. El documento, titulado "Las alucinaciones socavan la confianza; la metacognición es el camino a seguir", argumenta que las estrategias actuales son insuficientes. Por un lado, aumentar los datos de entrenamiento no puede cubrir todo el conocimiento. Por otro, rechazar respuestas para reducir errores impone una pesada "tasa de utilidad", sacrificando muchas respuestas correctas y dañando la experiencia del usuario. La clave del problema es la falta de "discriminación" del modelo: su incapacidad para distinguir con precisión, pregunta por pregunta, si su respuesta es correcta o incorrecta, más allá de una buena "calibración" general. Los análisis muestran que con las capacidades actuales, para reducir la tasa de error al 5%, un modelo tendría que rechazar más del 52% de las preguntas que podría responder correctamente. La propuesta central es redefinir la alucinación. No es simplemente "decir algo incorrecto", sino "afirmar con certeza algo incorrecto cuando no se tiene la base para estar seguro". La solución es lograr una "incertidumbre fiel": que el lenguaje del modelo (ej., "creo que podría ser...") refleje fielmente su estado interno de confianza, medible mediante técnicas como el muestreo repetido. Esto permitiría a los LLMs proporcionar información útil junto con advertencias adecuadas, equilibrando utilidad y fiabilidad. Esta metacognición es aún más crucial para los Agentes de IA que usan herramientas externas, ya que necesitan juzgar cuándo buscar información y cuándo confiar en su conocimiento interno. El camino presenta desafíos como la "paradoja del arranque" para crear datos de entrenamiento dinámicos, la señal de "alineación destruida" por los procesos de ajuste humano (RLHF) que premian la seguridad, y la dificultad de evaluar si el modelo realmente tiene metacognición o solo la está simulando. En resumen, el mensaje es claro: en lugar de perseguir un modelo infalible, un objetivo más realista y valioso es desarrollar LLMs que sean honestos acerca de los límites de su conocimiento, comunicando claramente cuándo están seguros y cuándo no. Esta transparencia es fundamental para generar confianza.

marsbitAyer 00:46

Derribando el enfoque predominante contra las alucinaciones: La metacognición es la nueva solución integral para resolver las alucinaciones en los modelos de gran tamaño

marsbitAyer 00:46

Cuando Futu se convierte en un rincón de citas, la identidad extranjera se vuelve la moneda dura de la clase media

El 22 de mayo, tras el anuncio de fuertes sanciones regulatorias por parte de las autoridades chinas a los corredores offshore como Futu, su comunidad de aplicaciones experimentó un fenómeno inesperado: se convirtió en una plataforma improvisada de citas. Usuarios, principalmente de clase media china, comenzaron a publicar ofertas para encontrar pareja, con un fuerte énfasis en obtener una identidad o residencia en el extranjero, una reacción directa a la nueva restricción que impide a residentes en China continental abrir nuevas cuentas para comprar acciones internacionales. El artículo analiza cómo, en respuesta a la escalada regulatoria desde 2022, la posesión de un pasaporte o residencia permanente extranjera se ha convertido en un nuevo "activo de primera necesidad" para la clase media china. Ya no se trata solo de diversificación de inversiones, sino de una "póliza de seguro" esencial para acceder a mercados globales como acciones estadounidenses, criptomonedas o propiedades en el extranjero. Esta identidad, siendo escasa y no transferible comercialmente, está siendo valorada como un bien duradero, similar a lo que fue la propiedad inmobiliaria en el pasado. El fenómeno en Futu refleja una evolución en la mentalidad de inversión: de buscar oportunidades en el extranjero (2000-2010) a una estrategia defensiva de diversificación (2010-2020), y ahora a la búsqueda de una "identidad como seguro" (2020-presente). La presión regulatoria ha hecho que esta búsqueda se vuelva más urgente, llevando incluso a estrategias personales extremas, como ilustran los posts de citas, donde historias de éxito en inversiones se usan como currículum para atraer parejas con el pasaporte adecuado. El artículo concluye planteando que esta demanda podría trasladarse a la siguiente generación, impulsando servicios como colegios internacionales o programas de estudio en el extranjero.

marsbit05/25 09:19

Cuando Futu se convierte en un rincón de citas, la identidad extranjera se vuelve la moneda dura de la clase media

marsbit05/25 09:19

De Tencent y Circle: Mirando las preguntas fáciles y difíciles de la inversión

El autor analiza la divergente trayectoria de Tencent y Circle en el contexto de la narrativa de la IA, utilizando la filosofía de inversión de Charlie Munger para distinguir entre "problemas fáciles" y "difíciles". **Tencent (Problema "Fácil"):** A pesar de la reciente caída de su cotización tras anunciar mayores inversiones en IA, el autor argumenta que su futuro es altamente predecible. Su ventaja radica en WeChat y su ecosistema de mini-programas. El "Yuanbao AI" actual es un prototipo de un futuro agente nativo de WeChat que, a diferencia de agentes externos, tendrá permisos a nivel de sistema para interactuar sin problemas con todos los mini-programas (p.ej., pedir comida, reservar hoteles). Esta integración profunda con una base de 1400 millones de usuarios lo convierte en el vehículo ideal para una adopción masiva y práctica de los agentes de IA, un evento de alta probabilidad que el mercado no está valorando. **Circle (Problema "Difícil"):** Su revalorización se atribuye al optimismo sobre que USDC, como stablecoin合规 líder, se beneficiará de la necesidad de pagos entre agentes de IA. Sin embargo, el autor ve una cadena de suposiciones con alta incertidumbre: 1) Es incierto que los agentes utilicen predominantemente stablecoins (existen alternativas como el protocolo UCP de Google). 2) La ventaja competitiva de USDC no es segura frente a rivals como Tether o PayPal. 3) Los agentes, indiferentes a la marca, elegirán la stablecoin con menos fricción y coste, debilitando el supuesto efecto de red. Por lo tanto, la tesis de un crecimiento masivo de USDC impulsado por la IA es mucho más especulativa de lo que parece. Conclusión: Invertir en Tencent, con su camino claro hacia un agente integrado, se presenta como un "problema fácil" de alta certeza. Circle, con múltiples incógnitas en su modelo de negocio futuro, es un "problema difícil" y más arriesgado.

marsbit03/21 11:23

De Tencent y Circle: Mirando las preguntas fáciles y difíciles de la inversión

marsbit03/21 11:23

¿Por qué renuncia otra figura clave de la Fundación Ethereum en menos de un año?

El Director Ejecutivo Conjunto de la Fundación Ethereum (EF), Tomasz Stańczak, anunció su renuncia a finales de mes, solo 11 meses después de asumir el cargo junto a Hsiao-Wei Wang en marzo del año pasado. Su salida refleja tensiones internas, presión externa y una transición estratégica en la organización. Stańczak, fundador de Nethermind, fue nombrado en un momento de ansiedad comunitaria, con Ethereum bajo escrutinio por su rendimiento frente a competidores como Solana. Su mandato se centró en mejorar la eficiencia organizativa, priorizar la capa 1 sobre la capa 2, acelerar las actualizaciones y explorar nuevas direcciones como la privacidad, la IA y la computación cuántica. En su declaración, Stańczak citó su deseo de volver a un rol de creador práctico, enfocándose en la intersección de IA y Ethereum, y sugirió que su capacidad de ejecución independiente dentro de la fundación había disminuido. Su reemplazo, Bastian Aue, un interno de perfil bajo, enfatizó en su discurso los principios y el espíritu "cypherpunk", lo que podría indicar un retorno a un estilo de liderazgo más coordinador que ejecutivo. La renuncia ocurre en un momento crítico, con Ethereum debatiendo propuestas clave como "Lean Ethereum" y enfrentando desafíos competitivos y de mercado. El precio de ETH cayó a $1800, lo que, ajustado por inflación, significa que los holders desde 2018 podrían haber obtenido frente a mantener dólares en efectivo. La fundación continúa navegando la difícil paradoja entre descentralización y eficiencia operativa.

marsbit02/14 03:50

¿Por qué renuncia otra figura clave de la Fundación Ethereum en menos de un año?

marsbit02/14 03:50

活动图片