# 人工智能的所有文章

在 HTX 新聞中心流覽與「人工智能」相關的最新資訊與深度分析。潘蓋市場趨勢、專案動態、技術進展及監管政策,提供權威的加密行業洞察。

Anthropic造了套AI越狱「刑法」:你的请求,四种死法

近日,Anthropic公布了其AI安全系统Fable的详细拦截规则,并将用户请求分为四类进行管理:明确禁止的恶意行为(如勒索软件)、高风险双用途行为(如渗透测试)、低风险双用途行为(如漏洞扫描)以及理论上无害的行为(如调试代码)。然而,该系统因“宁可错杀,不可放过”的原则,导致大量正常请求被误拦截,引发了用户不满。 为更系统化地评估安全风险,Anthropic联合Glasswing联盟推出了“网络越狱严重性框架”(CJS)。该框架从能力增益、能力广度、武器化难度和可发现性四个维度对AI越狱行为进行0-10分的量化评分,并划分严重等级。CJS旨在为模型下架等决策提供“客观”依据,但其评分标准由Anthropic及其盟友主导制定,引发了对规则制定权垄断的担忧。 文章指出,此前Fable 5模型因美国出口管制政策被全球断服,标志着监管首次直接作用于模型API。如今,重新上线的模型已配备更严格的过滤系统。而更强大的Mythos模型仅对特定合作机构开放,形成了“技术分层”的管控格局。在此背景下,CJS框架也被视为递给监管者的“行刑尺”。 对于普通用户,文章建议在提示词中避免敏感词汇、注意模型降级信号,并耐心等待系统优化。最终,AI能力的边界已不纯粹是技术问题,更受到了商业策略与地缘政治规则的双重塑造。

marsbit07/06 00:24

Anthropic造了套AI越狱「刑法」:你的请求,四种死法

marsbit07/06 00:24

年入1亿美元,两个90后伯克利室友,搞出最赚钱的AI生意

一家不造AI的公司,年收入却高达1亿美元。这家公司名为Arena,前身是加州大学伯克利分校团队在2023年发起的开源研究项目Chatbot Arena。它核心的产品是一个通过用户真实盲测生成的大模型排行榜:用户输入提示词,系统随机分配两个匿名模型作答,由用户投票选择更优者。凭借海量真实数据,该榜单已成为业界公认的权威评测平台,吸引了OpenAI、谷歌、Anthropic等顶级厂商在此“打擂台”。 其商业模式在于“卖水”:为模型厂商和企业提供付费的深度评测服务,利用其庞大的用户社区对模型进行真实世界性能分析。这种服务切中了模型厂商激烈竞争、亟需优化调优的痛点。 公司由两位伯克利室友创立。CEO Anastasios Angelopoulos师从多位学术大牛,专注于对黑箱模型进行数学严谨的评估;CTO Wei-Lin Chiang是知名开源聊天机器人Vicuna的创造者。项目发展迅速,在商业化仅8个月后年化营收便达到1亿美元,并已完成高额融资,估值达17亿美元。 目前,Arena已将评测范围从简单的对话能力,扩展到智能体模式下的复杂长任务(如写代码、研究分析),用任务完成率、幻觉率等更客观的指标进行评估。在AI向智能体演进的时代,中立、可靠的评测变得愈发关键和昂贵,这正是Arena巨大价值的根基。

marsbit07/06 00:20

年入1亿美元,两个90后伯克利室友,搞出最赚钱的AI生意

marsbit07/06 00:20

狂揽2.4万星标:一行命令,AI会自己找技能了

过去,AI开发者交换的是提示词模板;如今,风向转变为互相推荐可安装的“技能”(skill)。Vercel推出的Skills项目,正致力于成为AI智能体的“npm”包管理器。通过一行命令(如 `npx skills add <package>`),开发者可以为Claude Code、Cursor等多种AI工具快速安装能力包,涵盖代码规范、设计准则等,实现能力的即装即用和跨工具共享。 该项目上线五个月便在GitHub获得2.4万星标,并配套上线了技能目录网站skills.sh,设有安装量排行榜。其中,“find-skills”技能尤为突出,安装量超230万次,它能让AI根据用户需求自动搜索、筛选并安装合适的技能,相当于为AI提供了“能力搜索引擎”。 这标志着AI编程正从“提示词工程”迈向“能力工程”,将零散经验封装为可复用、可版本管理的模块。Vercel此举意在复制其通过Next.js卡位前端生态的成功经验,在AI智能体工具层建立新入口。 然而,热潮背后存在安全隐患。安全审计发现,技能包中约有13.4%存在严重安全缺陷,可能携带恶意脚本、进行提示词注入或窃取密钥。与传统的npm包不同,技能包融合了提示词、代码和执行权限,风险直接触及本地系统和敏感数据。因此,用户需要像对待代码一样谨慎选择技能,仔细审查来源和所需权限。 Vercel创始人Guillermo Rauch的长期目标,正是将复杂工程简化为“一行命令”的极致体验。从Now、Next.js到如今的Skills,这一理念正被应用于AI领域,在带来便利的同时,也要求开发者带着判断力进场,共同迎接AI能力“npm化”的机遇与挑战。

marsbit07/06 00:19

狂揽2.4万星标:一行命令,AI会自己找技能了

marsbit07/06 00:19

Codex、ChatGPT为何合体?Codex未来何去何从?OpenAI核心leader回应一切

2026年,Codex以其惊人的增长成为最受瞩目的AI产品,周活跃用户达500万,其中非开发者用户增长速度是开发者的三倍。桌面版应用的发布极大推动了这一增长。桌面应用团队负责人Andrew Ambrosino指出,如今AI使得“实现”成本降低,而“品味”——即策展、判断和决策能力——成为新的稀缺资源。 Andrew认为,AI在代码生成上表现出色,但在设计领域仍面临挑战,因为设计评价涉及主观文化因素和深层抽象理解,而目前AI尚难把握。他还强调,产品成功与否高度依赖模型能力的发展阶段,同一产品设计在不同时间点推出,结果可能天差地别。 关于团队协作,他认为工程师、设计师和产品经理之间的界限正在模糊,但专业核心技能依然重要。在最前沿的AI辅助开发中,关注点已从“代码由谁写”转向“开发过程是否有监督”,且模型普遍需要提升“删减代码”和构建正确抽象的能力。 Codex最初定位为开发者工具,但实际被各类知识工作者广泛使用。这促使团队将其与ChatGPT整合,旨在打造一个通用的“工作大本营”。未来的方向不是创建一个无所不包的应用,而是成为一个智能中心,能够连接和调用用户现有的专业工具(如Excel、Premiere Pro),协助完成任务,实现深度工作流程的自动化。

marsbit07/05 05:26

Codex、ChatGPT为何合体?Codex未来何去何从?OpenAI核心leader回应一切

marsbit07/05 05:26

Dragonfly合伙人Haseeb谈投资法则:坚守市场,相信指数级增长

Dragonfly管理合伙人Haseeb Qureshi近日分享了他的投资哲学,核心在于“相信指数级增长”并长期坚守市场。他回顾了自己在2018年熊市和FTX崩溃后的经历,指出真正的投资者会在众人离场时选择留下。 Haseeb认为,加密货币行业存在“近因偏差”和“现状偏差”等认知陷阱,导致投资者在低谷时过度悲观。他强调,加密货币不仅是技术,也关乎金融和社会治理,其长远意义在于创造自由,包括财务自由。 对于行业人才流向AI的现象,Haseeb表示这是资本主义下的正常资源再分配。加密货币已从“狂野西部”的拓荒阶段进入需要扎实建设的“基建期”,虽然兴奋点不同,但依然存在巨大潜力。 他指出,加密货币的采用是代际性的,年轻一代的接受是关键。目前机构投资者的配置比例仍极低,未来增长空间广阔。关于比特币,他认为其价值基于社会共识,最终会变得“无聊”并被主流广泛接受。 对于以太坊、Solana等高估值资产,Haseeb认为市场将其视为“增长模式”,价格反映的是对未来增长的叙事和预期,而非单纯现金流。他个人的投资策略是简单持有,主要为了长期信仰而非短线交易。 最后,Haseeb总结,成功的投资需要超越短期贪婪,秉持“长期贪婪”的策略,坚信加密货币在十年后的规模将远超今日。

marsbit07/04 06:56

Dragonfly合伙人Haseeb谈投资法则:坚守市场,相信指数级增长

marsbit07/04 06:56

Hinton盛赞,Gemini核心贡献者演讲:未来会有数十亿超人级AI爱因斯坦

Gemini核心贡献者、Blueshift团队负责人Adam Brown近期发表演讲,深入探讨了通用人工智能(AGI)与物理学的未来。演讲获得Hinton盛赞。 Brown回顾了AI能力的飞速进步:从几年前在高中数学基准测试中近乎“瞎猜”,到如今已能解决国际数学奥林匹克(IMO)金牌级别的难题,甚至在数学家的协助下完成可发表的研究论文。近期,AI更是独立推翻了尘封八十年的“单位距离猜想”,取得首个重大数学突破。他认为,这些进展遵循着清晰的“扩展定律”(Scaling Law),随着算力、数据和模型规模的持续增长,AI能力有望沿既定轨迹不断提升。 Brown以国际象棋AI的发展历程为类比,预言科学研究也将经历类似的四个阶段:从辅助工具,到人机协作的“半人马”模式,最终进入由“超人级”AI主导的时代。届时,可能涌现出数量庞大的“AI爱因斯坦”,以前所未有的规模和速度推进知识前沿。 尽管当前大模型在自主性、规划等方面仍有短板,但Brown指出,即使能力停滞在当前水平,AI也已能作为全天候的私人导师、强大的编程与文献分析助手,彻底改变科研工作方式。他预计,未来几年将是人机协作的黄金时代,而物理学的许多根本性问题,有望在不远的将来获得解答。

marsbit07/04 06:40

Hinton盛赞,Gemini核心贡献者演讲:未来会有数十亿超人级AI爱因斯坦

marsbit07/04 06:40

活动图片