日发期货

千人联名要求“暂停巨型AI实验”在网上经由一天的发酵，各方声音都已经涌现出来。

继LeCun之后，吴恩达、田渊栋等一众AI大牛也发文果然否决“千人联名”。

吴恩达示意，在GPT-4泛起之后要求AI训练暂停6个月是很恐怖的事情：

它（GPT-4）在教育、医疗保健、食物等领域都有许多新的应用，这将辅助许多人。

随后田渊栋也转发并附议，称“我不签暂停令”，并将AI的生长比作囚徒逆境：

一旦最先，就没有设施住手或扭转这一趋势，这就是进化的一定。

应该换个角度继续向前看，更好地明晰 LLM，顺应它并行使其气力，感受热度。

在吴恩达的帖子下面，Meta数据科学家林致远，英伟达AI研究科学家Jim Fan也都示意赞许。

对于这个暂停令，尚有一些领域大佬“趣话连珠”，直接yygq了起来：

本特利学院的数学教授示意，那既然这样，我呼吁暂停碳排放6个月，这样我们就可以在此时代解决天气转变问题。

谷歌大脑的高级研究员Yi Tay直接讥讽，若是是把那些在网上胡乱讨论大语言模子（LLM）的人禁言6个月，我会签的。

而处于这场讨论中央的无疑是OpenAI，CEO奥特曼今早也发了一条“展望未来AGI”的推文，疑似对昨天这场风浪做出回应：

一个好的AGI应该具备这三个特点：

1、对齐超级智能的手艺能力；2、大多数*AGI之间的充实协调；3、一个有用的全球羁系框架。

01、“潘多拉的魔盒”已经打开

在吴恩达的帖子里，除了上面提到的应用价值外，他还从竞争、风险以及AI生长的角度详细说明晰“为什么要否决暂停令”。

首先是竞争方面，让第三方暂停他们不领会的新兴手艺是反竞争的，树立了一个恐怖的先例，是糟糕的创新政策。

然后是AI风险，现在许多流媒体平台渲染的“AI公司疯狂发送不平安代码”是不准确的，绝大多数AI团队都十分注重人工智能的平安问题。

最后再回到“6个月暂停令”自己，这并不是一个异常切实可行的建议，是在抹杀AI提高。

要提高人工智能的平安性，应该是在平安方面举行更大的投资，有关透明度和审计的划定将加倍切实可行。

对此，有网友也同样聚焦“6个月的暂停”呼吁，称“要求暂停”并不能让诉求更好地被解决：

暂停令纵然出于美意，也会让更玄妙、更有建设性的对话变得更难举行。

刚刚，湖北百亿科创天使母基金落地

固然也有人质疑起了马斯克、Bengio等人提议“暂停巨型AI实验”的念头，将其归结为巨头之间的利益之争：

对于提议者以及签署者们的心理，网友直接锐评道：

签署暂停是由于他们不信托人工智能吗？不是，是由于他们不信托人类。

也有网友直接将AI生长比作潘多拉的魔盒：一旦打开，一切都不能制止了。

02、利益之争？

虽说我们一众“看客”并不清晰“暂停令”的提议者或签署者们是不是有什么私心，但仅仅将这条呼吁归结为利益之争一定是不周全的。

那为什么他们要提议这项呼吁？为什么非得是暂停六个月呢？

先是为什么要提议这项呼吁，在那封果然信“暂停巨型AI实验”已经有批注一些缘故原由。

而为什么非要暂停六个月，或允许以从赞许的声音中窥探到一些其他谜底。

赞成的网友这边，有人称正是由于AI生长像“潘多拉的魔盒”，但现在还没有被打开，尚有拯救的余地：

任何具有实验室逃逸潜力的研究都应该受到国际羁系，我们应该全力去挽回，但若是你释放了一些无法挽回的器械，我们就有贫苦了。

尚有一种看法是，现在的AI生长功效已经足够人类使用，暂停几个月也无妨：

GPT-4够用了，仅仅是优化它和扩展插件就能知足至少几年的需求，我们现在需要更多的时间来明晰AI若何与互联网互动，而且我以为测试越来越壮大的AI是危险的。

固然在这样一群争论中，尚有一股清流，无所谓“AI平安”，他们自称降临派：

有高赞微博直接明晃晃地称：

我们羰基生物原本就是开启硅基生命的钥匙而已。

是对人类太失望了吗 （Doge）

对于这长达一天多的“是否暂停巨型AI实验”之争，网友一针见血地总结：

有的人看到利益，有的人看到文明，有的人看到热闹。

但无论若何，对于“拯救派”们来说，依旧有几个问题不容忽视：

人工智能平安的问题该若何解决？

暂停AI生长是明智之举吗？尚有没有其他方式？

对此，你怎么看？