OpenAI 前首席科学家 Ilya 成立新公司 SSI(安全超级智能),发展前景如何?

知乎热榜5个月前发布 NIUC!
1,646 0 0

庄明浩(rosicky311)的回答

1、IIya离开OpenAI的时候就说了他要做下一个项目,他为这个项目感到兴奋;

考虑到他离开的主要原因是和Sam在AI大模型的安全问题上的分歧,

所以在那个时候大家就猜到大概率IIya下个项目是安全方向的;

今天的新闻相当于某种程度上的正式官宣---SSI;

2、在接受彭博社的专访文章中,SSI这个项目的定位是:

aiming to create a safe, powerful artificial intelligence system within a pure research organization that has no near-term intention of selling AI products or services.

来源:

bloomberg.com/news/arti

核心关键点提取下:

  • 纯粹的研究机构;
  • 安全、强大的人工智能系统;
  • 近期不会销售AI产品或者服务;

3、纯粹的研究机构

这个定位和公司其实某种程度上是“对立”的;

OpenAI建立之初其实也是定位非营利组织,偏研究机构,

但因为算力的投入过于巨大,单纯依靠类似捐助的方式已经很难支撑,

所以后来设计了多层的结构,包括引入微软的巨额投资等等;

详细的可以看我之前的回答:

OpenAI 股权投资协议设计独特,强调分红优先偿还投资者本金,是否会成为未来科技公司融资的流行趋势?

而去年的Sam被逼宫事件其实也和这个到底是盈利公司还是非盈利组织有很大关联;

在当时那次的事件中IIya其实就有表达对于为了公司的盈利以及引入投资者而忽略或者说相对忽略AI安全的担忧……

即便后俩逼宫“闹剧”以Sam回归解决,但这个事情的影响一直都在;

这次llya自己搞了,肯定是要回到“初心”的。

4、短期内不销售AI产品和服务

本质上和上面的研究机构的定位会类似,但只是短期,

中长期看即便llya再坚持,他也要考虑更长久的事情,

收入、员工的激励、投资人的诉求等等,这些看起来可能有些庸俗的原因……

5、llya自己当然知道这些,但他是llya,

在中短期内,钱的事情应该不是太难解决;

所以同样在彭博社的采访中他说:

Out of all the problems we face, raising capital is not going to be one of them

6、这就要引出另外一位SSI的联创---Daniel Gross;

他的履历:

OpenAI 前首席科学家 Ilya 成立新公司 SSI(安全超级智能),发展前景如何?

来源:Daniel Gross

  • 前YC合伙人,AI项目发起人;
  • 13年苹果收购的搜索引擎公司Cue联创;
  • 13-17年上一代苹果内部AI项目的负责人;
  • 天使投资人,投资了:Coinbase\Figma\Notion\Character.ai……

嗯,又一位前YC的Partner……

此时Sam的内心:

OpenAI 前首席科学家 Ilya 成立新公司 SSI(安全超级智能),发展前景如何?

7、回看OpenAI最近的动作:

  • 任命Sarah Friar为CFO(ex NextDoor CEO\Square CFO\Salesforce财务+战略SVP);
  • 公开年化营收达到34亿美金;
  • 引入前美国国家安全局局长加入董事会和安全委员会;

看起来OpenAI已经准备好成为一家“公众”公司了……

8、之前美国参议院发布了人工智能的政策路线图,

OpenAI 前首席科学家 Ilya 成立新公司 SSI(安全超级智能),发展前景如何?

一页纸的PDF,8条,其中和安全相关的有4条半;

所有人都知道AI新浪潮所带来的安全问题需要解决;

但也没有任何人知道这个问题的边界在哪里,如何解决和解决到什么程度;

9、llya作为这一波AI大浪潮中那个几乎已经快被神话的人物,

似乎要把解决这个问题的“重任”担起来……

就像他在接受彭博社专访中提及的那样:

By safe, we mean safe like nuclear safety as opposed to safe as in ‘trust and safety’

祝福把……

© 版权声明

相关文章

暂无评论

暂无评论...