Anthropic CEO万字访谈：AI成为超级武器后，如何在商业与安全之间找平衡？
Anthropic CEO Dario Amodei 在访谈中讨论了AI的发展、商业策略、安全风险及社会影响。他形容AI进步呈“平滑的指数曲线”，强调Anthropic的核心始终是提升模型质量、确保安全并管理社会风险。
Amodei回顾了离开OpenAI的原因，主要是价值观差异与信任问题。他主张行业内应“竞相向上”，与值得信赖的伙伴（如Google DeepMind）合作，通过树立标准推动整个生态进步。
商业策略上，Anthropic专注于企业端应用，认为这与构建长期信任、推动积极社会影响（如医疗、能源）的价值观更协同。他预测AI将显著改变就业结构，大量初级白领工作可能被替代，但也会催生新岗位，关键在于推动“正和博弈”，利用效率提升扩大经济总量。
对于安全，Amodei以尚未发布的强大模型“Mythos”为例，解释了因安全考虑而暂不公开的权衡。在AI与国家安全的问题上，Anthropic选择与政府部门合作（如防御性网络安全），但划定了明确红线，反对大规模监控和自主武器。
最后，他探讨了AI的治理难题，认为私营部门与政府需要相互制衡，通过立法、监管及公司内部治理结构（如长期利益信托）来规避风险。他预计AI自我改进的能力将持续加速，呼吁社会采取理性、渐进的应对措施，而非在两个极端间摇摆。
marsbit06/24 09:22
