今日凌晨，前 OpenAI 首席科学家 Ilya Sutskever 官宣了它的下一站——创办一家新公司，名为Safe SuperIntelligence（简称 SSI）。

并对外开启了招聘，其表示：“我们将一口气追求安全的超级智能，只有一个重点、一个目标和一个产品。我们将通过一支精干的小团队取得革命性的突破来实现这一目标。”

这意味着，SSI更像一个研究室，不会将精力构建其他主线之外的商业产品上。

SSI在某种程度上也是回归了 OpenAI 最初建立时的概念：一个研究机构试图建立一种人工智能，可以在许多任务上可以与人类匹敌甚至超越人类。

然而，OpenAI 在发展过程中，为了满足对庞大算力的资金需求，不得不改变发展路径，与微软建立紧密合作，并着力开发商业化产品。所有主要的人工智能参与者都面临着同样的难题：随着人工智能模型规模的指数级增长，他们需要为不断膨胀的算力买单。

这些经济现实使得 Safe Superintelligence 成为了投资者的一场豪赌。投资者们押注苏茨克维尔及其团队能够取得突破性进展，在与拥有更多资源和领先优势的竞争对手的较量中脱颖而出。这些投资者慷慨解囊，却不期望在此过程中诞生出利润丰厚的热门产品。

此外，SSI 所追求的目标是否能够实现，目前尚不明朗。该公司采用了人工智能行业术语“Superintelligence”，指的是一种与大多数大型科技公司所追求的大语言模型截然不同的系统。业界对于这种智能是否可行，以及公司将如何构建这种智能尚未达成共识。

SSI的另外两位联合创始人分别是 Daniel Gross 和 Daniel Levy。Daniel Gross曾担任苹果公司的人工智能负责人。Gross 因投资多家备受瞩目的人工智能初创公司而闻名，其中包括由3D 游戏之父John Carmack创立的Keen Technologies。

另一位联合创始人Daniel Levy 在与Ilya Sutskever于OpenAI共事期间，因其在训练大型人工智能模型方面的卓越能力而声名鹊起。Levy表示：“我认为现在是启动这样一个项目的最佳时机。我的愿景与Ilya完全一致：组建一支小而精的顶级团队，所有人齐心协力，专注于实现SSI这一共同目标。”

Safe Superintelligence 将在加利福尼亚州帕洛阿尔托和以色列特拉维夫设立办事处。

根据彭博社报道，当被问及他与 Altman 的关系时，Sutskever 只说两人关系“很好”，并表示 Altman 对新企业“大致了解”。

Ilya Sutskever花了数年时间思考安全问题，并已经在脑海中形成了一些方法。然而，对于安全超级智能的具体细节尚未进行讨论。Sutskever说：“从最基本的层面上讲，SSI应具备不对人类造成大规模伤害的特性。在此基础上，我们希望它成为一股向善的力量，并在一些关键价值观的基础上运作。这些价值观可能是过去几百年来支撑自由民主的价值观，比如自由、民主和独立。”

同时他也表示，大型语言模型将在SSI中扮演重要角色，但他的目标是更强大的系统。他说，目前的系统是“你与它对话，然后就结束了。”而他想要追求的系统将更加通用，功能更加广泛。他说：“我们谈论的是一个可以自主开发技术的巨大超级数据中心。这太疯狂了，对吧？我们希望能为它的安全性做出贡献。”

鉴于其创始团队的实力以及人们对该领域的浓厚兴趣，Safe Superintelligence 筹集资金可能不会遇到什么困难。Gross表示：“在我们面临的所有问题中，筹集资金并不是其中之一。”

以下为SSI公告全文：

超级智能已经触手可及。

构建安全的超级智能（SSI）是我们这个时代最重要的技术问题。

我们创建了世界上首个直击目标的SSI实验室，唯一的目标和产品就是安全的超级智能。

它被称为Safe Superintelligence Inc.

SSI是我们的使命、我们的名称以及我们整个产品路线图，因为这是我们的唯一重点。我们的团队、投资者和商业模式都一致致力于实现SSI。

我们将安全性和能力作为需要通过革命性工程和科学突破来解决的技术问题同步推进。我们计划尽快提升能力，同时确保我们的安全性始终领先。

这样，我们才能在和平中扩展。

我们唯一的关注点意味着不会被管理层的琐事或产品周期分心，而我们的商业模式则意味着安全性、保障和进步都不受短期商业压力的影响。

我们是一家美国公司，在帕洛阿尔托和特拉维夫设有办事处，在那里我们有深厚的根基和招募顶级技术人才的能力。

我们正在组建一支精简、顶尖的全球最佳工程师和研究人员团队，专注于SSI及其他。

如果你就是我们寻找的人，我们提供一个机会，让你实现自己一生的工作，并帮助解决我们时代最重要的技术挑战。

时机已到。加入我们。

Ilya Sutskever, Daniel Gross, Daniel Levy

2024年6月19日