突发！Ilya 官宣成立新公司 SSI，只专注于安全超级智能

齐鲁

自前 OpenAI 联合创始人、首席科学家 Ilya Sutskever 官宣离职一个月后，Ilya 终于终于有了新消息：成立新公司 SSI，专注于安全超级智能。

今日凌晨，Ilya 在 X 上“官宣”了这一消息。



Ilya 写道，“我们将直截了当地追求安全超级智能（safe superintelligence，SSI），只有一个重点、一个目标和一个产品。我们将通过一个小型精干的团队所取得的革命性突破来实现这一目标。”

在接受彭博社采访时，Ilya 表示，“它将完全不受外界压力的影响，不必处理庞大而复杂的产品，也不必陷入竞争激烈的赛跑中。”

据 SSI 公司的官方公告介绍，他们将安全和能力作为一个技术问题，通过革命性的工程和科学突破加以解决，并计划尽快提高能力，同时确保我们的安全始终处于领先地位。

“这样，我们才能安心地扩大规模。”

“我们的专注意味着不会受到管理费用或产品周期的干扰，我们的业务模式意味着安全、保障和进步都不会受到短期商业压力的影响。”

完整公告如下：

超级智能已经触手可及

构建安全的超级智能是我们这个时代最重要的技术问题。

我们已经启动了世界上第一个专注于安全的超级智能的实验室，目标和产品只有一个：安全超级智能。

它的名字叫 Safe Superintelligence Inc.。

安全超级智能是我们的使命、名称和整个产品路线图，因为它是我们唯一的关注点。我们的团队、投资者和商业模式都是为了实现 SSI 而努力。

我们将安全和能力作为一个技术问题，通过革命性的工程和科学突破加以解决。我们计划尽快提高能力，同时确保我们的安全始终处于领先地位。

这样，我们才能安心地扩大规模。

我们的专注意味着不会受到管理费用或产品周期的干扰，我们的业务模式意味着安全、保障和进步都不会受到短期商业压力的影响。

我们在美国成立了这家公司，目前在帕洛阿尔托和特拉维夫设有办事处，在那里，我们根基深厚，有能力招募到顶尖的技术人才。

我们正在组建一支由全球最优秀的工程师和研究人员组成的精干、高效的团队，只专注于安全超级智能，而非其他。

如果你是这样的人，我们将为你提供一个完成毕生事业的机会，帮助你解决我们这个时代最重要的技术挑战。

现在正是时候。加入我们吧

Ilya Sutskever, Daniel Gross, Daniel Levy

2024 年 6 月 19 日



数十年来，研究人员一直在思考如何让人工智能系统变得更安全。目前的技术水平是利用人类和人工智能来引导软件朝着符合人类最佳利益的方向发展。至于如何阻止人工智能系统失控，这在很大程度上仍是一个哲学问题。

正如公司名称所强调的，Ilya 将人工智能的安全性放在首位。当然，关键在于确定是什么让一个人工智能系统比另一个系统更安全，或者说，到底是什么让人工智能系统更安全。

Ilya 说，他花了数年时间来思考安全问题，并已经想到了一些办法。但还没有透露一些具体细节。

但他表示，新公司将尝试通过人工智能系统中的工程突破来实现安全，而不是依靠临时应用于技术的防护措施。他说，“我们所说的安全是指像核安全那样的安全，而不是‘信任和安全’那样的安全。”

“我们可以说，我们希望它是一股善的力量。我们希望它能在一些关键价值观的基础上运行。我们所考虑的一些价值观也许就是过去几百年来取得巨大成功的价值观。”

除了 Ilya，SSI 公司还有另外两位联合创始人。其中一位是投资人、前苹果公司人工智能主管Daniel Gross，他因支持包括 Keen Technologies 在内的多家备受瞩目的 AI 初创公司而备受关注；另一位联合创始人是Daniel Levy，他曾在 OpenAI 与 Ilya 一起共事。

鉴于 Ilya 在人工智能行业近乎神话般的地位，几个月来，围绕他的身份不确定性一直是硅谷的焦点。作为一名大学研究员和后来谷歌的科学家，他在开发一系列关键的人工智能进展中发挥了重要作用，他在 OpenAI 早期的参与帮助 OpenAI 吸引到了对其成功至关重要的顶尖人才，他也因倡导建立越来越大的模型而闻名，对 ChatGPT 的崛起起到了至关重要的作用。

Ilya 说，大语言模型将在安全超级智能中发挥重要作用，但他们的目标是更强大的东西。对于目前的系统，“你和它说话，进行对话，然后就完成了”。他所追求的系统将更具通用性和扩展性。“你说的是一个自主开发技术的巨型超级数据中心。这很疯狂吧？我们希望为其安全性做出贡献。”