全新

通过即将推出的 IQ.wiki API,将专家精选的加密货币和区块链知识集成到您的应用中。

0% read

Daniela Amodei

Daniela Amodei

Daniela Amodei 是一位活跃于人工智能治理、安全和组织领导领域的管理人员,其职业生涯涵盖了政策制定、风险管理以及科技公司的领导职务。她的工作主要集中在高速增长的科技环境中实现安全、政策和组织系统的运营化。她目前担任 Anthropic 的总裁兼联合创始人,负责监督公司的运营和安全相关的组织战略。[3]

教育背景

Amodei 就读于加州大学圣克鲁斯分校(University of California, Santa Cruz),并获得了英语文学学士学位。[2]

职业生涯

Amodei 的职业生涯始于发展和实地运营岗位,包括在马里兰大学 IRIS 中心工作,负责国际项目的业务发展。随后,她在美国众议院担任公共部门竞选职务,并从事政治组织工作,包括在国会和竞选团队中负责实地和通讯工作,重点关注运营、协调和外联。

此后,她转入非营利组织领域,在乌干达的“通过公共卫生实现保护”(Conservation Through Public Health)组织工作,支持实地项目活动。回到美国后,她加入 Stripe,担任风险管理和运营职务,专注于用户政策执行、承保流程和风险基础设施,随后转向更广泛的项目管理和招聘领导工作。

后来她加入 OpenAI,担任过技术招聘、人力运营和工程管理方面的领导职务,并担任安全与政策副总裁。在这些职位上,她致力于组织规模化、招聘系统以及先进人工智能系统内部安全和政策框架的开发。自 2020 年以来,她一直担任 Anthropic 的总裁兼联合创始人,负责公司运营,并将安全和政策考量整合到组织和技术决策中。[4] [5]

采访

Claude 的未来

在 2026 年 6 月彭博科技(Bloomberg Tech)关于 Claude 未来的采访中,Amodei 讨论了 Anthropic 自 2021 年离开 OpenAI 创立以来的演变。她将公司与 的领导动态描述为长期技术愿景与运营执行之间的平衡,并辅以结构化的分歧处理和多视角决策。她概述了 Anthropic 从一家初创公司成长为主要 AI 开发者的历程,强调其专注于负责任的 AI 开发、谨慎的基础设施扩张,以及比竞争对手更倾向于企业的战略,特别是考虑到训练前沿模型的高昂成本和复杂性。Amodei 还解释说,Claude 目前主要部署在编码、金融和人力资源等企业场景中,并逐步扩展到网络安全等领域,同时保持受控发布的方法,将安全评估置于快速消费者推广之上。与此同时,业界也普遍关注资本密集度、算力规划和监管参与等问题。[6]

构建 AI

在 2026 年 5 月斯坦福商学院“顶峰视角”(View From the Top)系列的采访中,Amodei 描述了她进入人工智能领域的非典型路径,其中包括在进入科技行业之前从事艺术、政治和运营方面的工作。她强调,她向 AI 的转型更多是由好奇心和对影响力的兴趣驱动的,而非正式的技术专业化,她通过在工作中不断提问和学习,培养了在技术环境中做出贡献的能力。她还讨论了 2020 年离开 OpenAI 后创立 Anthropic 的经历,将这一决定描述为对 AI 安全担忧的回应,以及希望在公益企业(Public Benefit Corporation)结构下进行开发的愿望。

采访还重点讨论了 Anthropic 对 AI 安全、治理和负责任部署的重视。Amodei 将安全描述为一个核心设计约束,应整合到技术开发和机构决策中,包括应对滥用、虚假信息和网络安全威胁等风险。她强调了行业与监管机构之间合作的重要性,并指出了技术快速进步与谨慎部署之间的矛盾。她还讨论了更广泛的社会影响,包括全球 AI 采用的不平衡,以及对自动化系统在认知和人际任务上过度依赖的担忧,认为即使在 AI 能力扩展的情况下,同理心、沟通和判断等人类技能仍然至关重要。[7]

建立 Anthropic

2024 年 12 月,包括 Daniela 和 在内的 Anthropic 联合创始人回顾了公司的起源和目标,以及他们共同关注的重点:在强调安全和社会效益的前提下开发先进的 AI 系统。他们描述了之前的学术和行业经验如何塑造了他们的观点,即 AI 的进步需要与具体的、以工程为导向的安全方法相结合,包括“AI 安全中的具体问题”研究议程等努力。讨论强调了将抽象的风险考量转化为可衡量的技术挑战的重要性,以及建立组织结构以支持对日益强大的模型进行持续评估和监督的重要性。他们还概述了诸如《负责任扩展政策》(Responsible Scaling Policy)之类的框架,作为结构化、迭代治理的范例,旨在引导开发与能力增长保持一致。

对话进一步探讨了机构设计和协调标准在管理先进 AI 系统长期风险中的作用,强调安全是一个持续的过程,而非一次性的解决方案。联合创始人指出,可解释性研究以及 AI 在包括生物学在内的科学领域的应用是具有潜在社会影响的活跃兴趣领域。他们还讨论了对治理和公共系统的更广泛影响,将 AI 开发框架设定为需要透明度、问责制和跨机构合作的过程。总的来说,这次讨论展示了他们致力于将安全考量直接整合到前沿 AI 开发的组织和技术基础中的努力。[8]

发现错误了吗?

参考文献 (8 来源)

首页分类维基MC事件词汇表