Artículos Relacionados con Velocidad

El Centro de Noticias de HTX ofrece los artículos más recientes y un análisis profundo sobre "Velocidad", cubriendo tendencias del mercado, actualizaciones de proyectos, desarrollos tecnológicos y políticas regulatorias en la industria de cripto.

¿Por qué la acción de Zhipu se disparó casi un 30% en un solo día?

La empresa de IA china Zhipu AI (02513.HK), conocida como "la primera acción de modelos grandes del mundo", experimentó un aumento del 26% en su cotización, alcanzando una capitalización de mercado de 571,5 mil millones de HKD. Este crecimiento se debe al lanzamiento de su API de alta velocidad GLM-5.1-highspeed, que logra una velocidad de generación récord de 400 tokens por segundo, aproximadamente 3-5 veces más rápido que las principales API actuales. Este avance en velocidad es crucial en la era de los Agent de IA, donde las tareas complejas requieren múltiples llamadas al modelo, y una menor latencia mejora la eficiencia y la experiencia del usuario. La innovación técnica de Zhipu se basa en tres pilares: 1. **TileRT:** Un nuevo motor de inferencia que compila el modelo en una única tubería de ejecución continua, eliminando tiempos de espera y maximizando la utilización de la GPU mediante la especialización de Warps. 2. **Paralelización híbrida:** Optimización para el mecanismo de atención MLA (Multi-head Latent Attention), utilizando GPUs de forma heterogénea (una para indexación y otras para cálculo denso) para una colaboración eficiente. 3. **Arquitectura de red ZCube:** Reemplaza la topología de red estándar (ROFT) por un diseño plano y bipartito que elimina los cuellos de botella de comunicación entre GPUs, garantizando una única ruta óptima y evitando la congestión. Los beneficios de esta arquitectura incluyen un aumento del 15% en el rendimiento del clúster, una reducción del 40,6% en la latencia de cola y un ahorro de un tercio en los costos de infraestructura de red. Este enfoque, implementado en software estándar, podría reducir la dependencia de soluciones de hardware propietarias como las de NVIDIA y potencialmente adaptarse a chips chinos, lo que representa un avance significativo en la eficiencia de la inferencia de IA.

marsbit05/23 01:27

¿Por qué la acción de Zhipu se disparó casi un 30% en un solo día?

marsbit05/23 01:27

Revelación de un socio de YC: Construir una empresa nativa de IA desde cero

El socio de Y Combinator (YC), Diana Hu, afirma que las empresas nativas de IA pueden funcionar 1000 veces más rápido que los gigantes existentes. La clave no es usar la IA como herramienta, sino como el sistema operativo central de la empresa, donde cada flujo de trabajo y decisión pasa por una capa inteligente que aprende continuamente. El concepto central es un "sistema de circuito cerrado", donde todas las acciones generan resultados digitales que la IA puede consultar y usar para optimizar procesos. Esto requiere transparencia total: registros de reuniones, dashboards en tiempo real y acceso de los agentes de IA a todas las plataformas (Slack, GitHub, correo, etc.). Por ejemplo, un agente con este acceso puede analizar ciclos de desarrollo anteriores y proponer planes más precisos, reduciendo a la mitad el tiempo de ingeniería. En desarrollo, emerge la "fábrica de software con IA": los humanos definen especificaciones y pruebas, y los agentes de IA generan el código hasta cumplirlas. Algunas empresas ya no tienen código escrito a mano. Esto habilita al "ingeniero 1000x". La estructura organizacional se aplana. La capa de IA reemplaza a la gerencia media ("middleware humano"), acelerando la toma de decisiones. Los futuros equipos constarán de: 1) Contribuidores individuales que crean prototipos, 2) Responsables directos de resultados, y 3) Fundadores de IA que lideran con el ejemplo. La métrica crucial cambia: hay que maximizar el uso de tokens (coste de APIs de IA), no el número de empleados. Un equipo pequeño con altas facturas de IA puede superar a grandes equipos tradicionales. Las startups tienen ventaja sobre las grandes corporaciones, libres de dependencias de camino y procesos heredados. Pueden diseñar toda su cultura y sistemas alrededor de la IA desde el primer día. La conclusión es clara: los fundadores deben experimentar personalmente el poder de la IA, sin subcontratar esta creencia. Los ganadores serán quienes integren la IA en el alma de su empresa desde el principio.

marsbit05/15 01:16

Revelación de un socio de YC: Construir una empresa nativa de IA desde cero

marsbit05/15 01:16

活动图片