Anthropic CEO万字访谈:AI成为超级武器后,如何在商业与安全之间找平衡?
Anthropic CEO Dario Amodei 在访谈中讨论了AI的发展、商业策略、安全风险及社会影响。他形容AI进步呈“平滑的指数曲线”,强调Anthropic的核心始终是提升模型质量、确保安全并管理社会风险。
Amodei回顾了离开OpenAI的原因,主要是价值观差异与信任问题。他主张行业内应“竞相向上”,与值得信赖的伙伴(如Google DeepMind)合作,通过树立标准推动整个生态进步。
商业策略上,Anthropic专注于企业端应用,认为这与构建长期信任、推动积极社会影响(如医疗、能源)的价值观更协同。他预测AI将显著改变就业结构,大量初级白领工作可能被替代,但也会催生新岗位,关键在于推动“正和博弈”,利用效率提升扩大经济总量。
对于安全,Amodei以尚未发布的强大模型“Mythos”为例,解释了因安全考虑而暂不公开的权衡。在AI与国家安全的问题上,Anthropic选择与政府部门合作(如防御性网络安全),但划定了明确红线,反对大规模监控和自主武器。
最后,他探讨了AI的治理难题,认为私营部门与政府需要相互制衡,通过立法、监管及公司内部治理结构(如长期利益信托)来规避风险。他预计AI自我改进的能力将持续加速,呼吁社会采取理性、渐进的应对措施,而非在两个极端间摇摆。
marsbit06/24 09:22