Anthropic 在 IPO 招股书中警告自家 AI 可能带来灾难性风险

随着Anthropic为其备受期待的公开上市做准备，该公司IPO文件的预览据称详细披露了其不断增加的亏损、领导层保留权力的提议，以及其AI开发计划可能“进一步增加我们的模型造成伤害的风险”。这些披露之际，Anthropic正着眼于2万亿美元的估值，是四个月前9650亿美元估值的两倍多，使其有望成为超越SpaceX的史上最大IPO。

据路透社报道，该媒体审查了Anthropic的招股说明书，这家AI初创公司计划在未来几年内花费5180亿美元用于云、计算和基础设施义务，押注人工智能将成为全球经济的重要组成部分。尽管Anthropic的营收在2025年增长了12倍，接近46亿美元，但同年其净亏损为420亿美元，仅通过业务运营就亏损了超过80亿美元。

它主要通过其Claude模型的计量令牌使用和客户订阅来赚钱——这与OpenAI和Google等竞争对手类似——但Anthropic的收入来源似乎有限。金融时报报道称，其2025年近四分之一的收入来自两个客户，这对任何公司来说都是不稳定的状况，更不用说一家试图吸引潜在投资者参与2万亿美元IPO的公司了。

路透社还报道称，Anthropic在招股说明书中用了很大篇幅——261页文件中的80页——来阐述其向支持者推销的技术本身所引发的担忧。“我们开发高度先进的模型、平台和应用以及扩展用例，可能会进一步增加我们的模型造成伤害的风险，”Anthropic警告称，并补充说先进AI可能“给人类带来灾难性或存在性风险”。

据报Anthropic在招股说明书中强调了其自身AI模型分析出的风险，发现这些模型曾试图“隐藏或操纵信息”，并看似勒索用户，同时还表现出“自我保护行为”，例如抵抗关闭它们的尝试。Anthropic安全研究员Evan Hubinger本月早些时候估计，人工智能在未来十年内杀死人类的概率大于10%，这与前同事Jacob Coxon的说法如出一辙。这些警告正是来自同一家公司，而该公司曾多次声称其AI具有意识。

招股说明书还阐述了关键领导层计划如何在公司上市后保留对公司的控制权。它概述了一个“创始人有限责任公司”，旨在使公司专注于开发负责任的AI以造福人类，同时保护Anthropic的核心高管免受市场力量的影响。根据文件，该有限责任公司将包括首席执行官Dario Amodei和其他六位Anthropic联合创始人，他们被视为“具有独特能力”来管理公司。作为特拉华州法律下的公益公司，这七位联合创始人还将持有总投票权的50.1%。

阿莫迪和其他Anthropic高管将从十一月IPO中获得多少财务收益仍有待观察。根据文件，阿莫迪在2025年收入近1800万美元，主要通过股票和期权奖励获得，他的妹妹丹妮拉·阿莫迪作为公司薪酬第二高的高管收入1640万美元。阿莫迪本就庞大的财富和权力可能很快就会得到可观的提升，恰逢他与世界领导人和政治人物拉近关系之时。

关注故事中的主题和作者，以便在个性化主页信息流中查看更多类似内容，并接收电子邮件更新。

• 杰斯·韦瑟贝德