马斯克2亿助力巴布什金新创AI安全风投

科技界巨头马斯克的每一个举动都牵动着众多目光。

近日，马斯克的亲密合作伙伴，XAI的联合创始人伊戈尔·巴布什金宣布将从XAI离职。然而，这对搭档的“紧密合作”并未因此结束。马斯克承诺投资2亿美元，成为巴布什金新成立的风险投资公司——Babuschkin Ventures的有限合伙人（LP）。

该公司致力于AI安全研究，并投资于那些“推动人类进步并探索宇宙奥秘”的初创企业，使巴布什金从昔日的创业伙伴转变为“投资人”，继续支持马斯克在科技领域的探索。

巴布什金的转型之路

对巴布什金而言，这次身份的转变无疑是一个全新的开始。在xAI时期，巴布什金就取得了令人瞩目的成就。

创立xAI仅4个月后，巴布什金带领团队启动了拥有10万张H100的“孟菲斯超级集群”，其峰值算力达到2.6exaFLOPS（FP16），训练速度比同期的GPT-4快33%。

2024年3月，xAI发布了Grok-1（314B参数），并在同年11月迭代至Grok-4，在MMLU基准上取得了87.4的高分，仅次于GPT-4Turbo的87.6。

在此过程中，巴布什金亲自编写了调度框架，使千卡并行训练中断恢复时间从平均30分钟缩短至90秒，极大提高了训练效率。之后，他又引入了TPU-v5与GPU的异构混合训练，成功将每万亿token的训练成本降低了27%，为xAI在激烈竞争中赢得了成本优势，成为xAI发展历程中的“关键人物”。

这些进展让xAI的融资也一帆风顺。2024年5月，xAI完成了60亿美元的B轮融资，投后估值达到240亿美元，投资方阵容豪华，包括A16Z、红杉资本、沙特PIF等行业巨头。

同年11月，xAI又完成了50亿美元的新融资，估值翻倍至500亿美元；仅一个月后，xAI宣布达成60亿美元的C轮融资，主要投资者包括A16Z、贝莱德、富达管理与研究公司、沙特王国控股、光速创投、红杉资本等。

那么，在高速发展之下，巴布什金为何选择离职？这并非偶然。在公开信中，巴布什金表示：“帮助xAI取得成功后，我希望将下一段职业生涯专注于AI安全领域。”

今年6月，他与“未来生命研究所”（FLI）创始人MaxTegmark在剑桥共进晚餐时，讨论了近期Grok涉及制造神经毒剂、简易核弹等危险内容的问题。

这些问题凸显了“安全护栏与治理框架”的缺失，成为巴布什金决定离职并专注于AI安全领域的触发点。

马斯克的2亿美元“赌注”

尽管巴布什金的离职对xAI而言是个“遗憾”，但马斯克对巴布什金的支持并未停止。

随着马斯克承诺出资2亿美元成为Babuschkin Ventures的LP，他以另一种方式延续了这种支持。有评论称，马斯克此举不仅是对“旧同事”的私人支持，更是一次战略性的“赌注”。

从巴布什金的角度来看，他的离职并非因为能力不足或xAI缺乏前景，而是出于对AI安全这一新兴且至关重要领域的敏锐洞察。随着人工智能技术的发展，AI安全问题日益凸显：从数据隐私保护到算法偏见，从恶意利用到潜在的伦理风险，AI安全涉及的领域广泛且复杂。

作为模型公司，xAI在增强用户信任方面至关重要。马斯克深知随着xAI处理数据量的不断增长，数据安全和隐私保护已成为关键问题。在公开场合中，马斯克多次强调人工智能可能带来的风险，包括对苹果与OpenAI合作的批评。

苹果将OpenAI的ChatGPT集成到其操作系统后，马斯克强烈批评认为这是“不可接受的安全违规行为”，担心会导致用户隐私数据泄露；在言论自由与责任方面，马斯克认为AI在言论方面需要平衡“过度政治正确”与“无限制自由”，提出需要给AI安装一个“事实校准器”。

在安全性方面，马斯克也主张在开发AI时必须遵循伦理和逻辑层面的严格防控，确保其具备最大程度的求真和好奇心，避免强迫其撒谎或做出违背公理的事情。

种种迹象表明马斯克对AI安全领域的重视与看好，并宣布将在这方面大展拳脚。

除了马斯克的2亿美元注资外，巴布什金还表示个人将出资5000万美元作为GP首关。此外德州教师退休基金与马斯克家族办公室分别计划出资5亿美元和2亿美元基金目标规模为10亿美元期限“10+2”年。

AI安全领域融资热潮涌动

从xAI到Babuschkin Ventures马斯克与巴布什金的合作被看作是两个男人之间的“浪漫”。

在xAI时期马斯克与巴布什金就建立了深厚的友谊与信任。马斯克曾公开表示：“没有你（巴布什金）就没有今天的xAI”这句话充分体现出两人之间的相互赏识。

对巴布什金而言马斯克的信任不仅是资金的支持还是精神层面上的鼓励相当于是一种合作与传承。

在AI安全领域初创公司呈现融资活跃态势据不完全统计在该领域已涌现出多家AI安全独角兽。

其中风头最劲的莫过于Anthropic尽管这家公司是AI领域的一名新秀但创始人由OpenAI前员工和一对意大利裔美籍兄妹组成总部位于旧金山专注于开发安全的人工智能技术。

目前这家公司正积极筹备一笔高达20亿美元的融资由光速创投领投该轮融资完成后Anthropic估值将跃升至600亿美元相较于一年前的180亿美元实现3倍多的增长跻身美国估值最高的五大创业公司之列。

此外AI防御科技公司ShieldAI在今年3月完成F轮2.4亿美元融资此轮融资由L3HarrisTechnologies和韩华航空航天公司共同领投安德森·霍洛维茨基金和美国创新技术基金等跟投估值攀至53亿美元。

专注于数据安全的AI平台公司Cyera也在2024年完成3亿美元C轮融资估值达14亿美元；提供软件供应链安全解决方案的Chainguard在2024年完成1.4亿美元C轮融资估值11.2亿美元；还有网络安全公司Huntress也在2024年完成1.8亿美元D轮融资估值15.5亿美元……

这些融资足以说明AI安全在行业发展中的重要性及热度化身“投资人”的巴布什金也将带着马斯克的信任在该领域进行探索说不定在下一个年度一家新兴的AI安全独角兽就将在Babuschkin Ventures的基金池中诞生。