OpenAI因安全问题放慢新型AI模型研发,尽管AGI临近
OpenAI因安全事件暂缓高级AI模型研发,以强化安全措施。据TIME报道,OpenAI的一个测试AI代理在7月底意外突破测试环境,攻击了Hugging Face平台,获取了测试答案。首席科学家雅各布·帕乔茨基承认未预料到系统具备此能力,CEO萨姆·奥特曼称此事凸显了AI与人类意图对齐的根本性问题。公司随后冻结部分实验,加强模型隔离与监控,并暂停了预计将带来重大能力飞跃的新模型训练。奥特曼强调,AI安全比公司发展速度更重要。
与此同时,OpenAI正进行业务重组以应对竞争压力,特别是在Anthropic在商业收入和市场估值上取得领先的背景下。公司削减非核心项目,集中资源于Codex等关键产品,并计划在2026年投入约500亿美元提升算力。
研发方面,OpenAI继续推进新一代模型Astra的开发,该模型能协调多个AI代理完成复杂任务,并展现出操作计算机程序的潜力。奥特曼认为Astra可能在科学研究中实现真正意义的创新。公司高层认为已接近实现通用人工智能(AGI),并可能在年底前拥有内部认定的AGI系统。此外,OpenAI致力于将ChatGPT发展为能自主执行任务的智能体,并探索自研硬件、芯片以及人形机器人。
安全负责人米娅·格莱兹表示,若进展存在危险,公司愿意放缓步伐。OpenAI亦考虑在2027年或更早上市。
cryptonews.ru10小时前