日发期货

//OpenAI首创人：AI可能扑灭人类，必须开发新手艺来解决！ //

OpenAI首创人兼首席执行官Sam Altman上周六（3月25日）在接受科技博客主Lex Fridman的采访时亮相，他不会回避“人工智能可能杀死全人类”的说法。

在Youtube平台宣布的视频中，Fridman在访谈中提到了人工智能研究者、LessWrong研究所首创人Eliezer Yudkowsky的看法。Yudkowsky此前指出“人工智能可能杀死所有人”，并以为，当人工智能生长为超级智能时，险些无法与人类站在统一战线上。

对于此，Altman回应道，“我以为有这种可能性，而且认可这一点很主要，由于若是我们不谈论它、不把它视为潜在的事实，那么我们就不会投入足够的起劲去解决这个问题。”

“我以为我们必须开发新的手艺来解决这个问题…我所知道的解决这类问题的*方式就是不停迭代，尽早学习。”

GPT的推理能力

在此次采访中，Altman提出了一点关于GPT的新颖之处，即推理能力。

“这个模子的神奇之处在于…对于许多它都禁绝确的界说，它可以举行某种推理。”

Altman指出，“我以为这很了不起，最令人兴奋的是，在提取人类知识的历程中，它发生了这种推理能力。”

关于偏向性的争议

在与Lex Fridman的谈论中，Sam Altman讨论了关于语言模子GPT的一个争议性话题，即GPT是否太过“woke”（有苏醒、醒悟之意）了，也就是说该语言模子给出的谜底是否存在偏向性。

例如，天下各地许多存在右翼倾向的新闻媒体指责OpenAI的ChatGPT在某些交互示例中，显示出自由主义私见。

“Woke”这个词*是埃隆·马斯克在推特上提出的。他写道，“训练AI醒悟的风险，换句话说就是训练其说谎，是相当致命的”。

阿里动刀：一个个IPO赶来

对此，Altman在此次采访中示意，“说真话，我甚至不知道‘woke’是什么意思”。

不外Altman也认可，“GPT确实存在私见，而且可能永远都是云云。”

Altman继续注释道，任何一个版本的GPT都不会是完全没有私见的、能被全天下公认是公正的。这是由于ChatGPT在推出之际，借助了外部气力举行迭代更新，也就是让全天下的人介入进往复“塑造”它，以是该模子所存在的私见是无法制止的。

Altman还指出，OpenAI已经对模子举行了重大改善，以减轻固有私见并提高其准确性，一些对GPT模子指斥最严肃的人，也赞扬了OpenAI在GPT-3.5版本升级为GPT-4版本之时所做的改善。Altman同时也认可，未来尚有许多事情要做。

与马斯克的恩怨

在此次访谈中，他也提到了OpenAI和埃隆·马斯克之间的恩怨。自OpenAI推出ChatGPT后，马斯克一直在推特上提出指斥。

Altman，“埃隆显然正在推特上从差异角度攻击我们”。

马斯克是OpenAI的团结首创人，但之后由于理念差异，在2019年与该公司彻底分道扬镳。而最近几个月，在ChatGPT动员的人工智能热潮中，马斯克重新燃起了他对OpenAI的“体贴“。

这位亿万富翁指责OpenAI与微软的相助让它从以前的非营利组织酿成了现在“*的营利公司”。据悉，微软已向OpenAI投资了100多亿美元。

马斯克还把矛头瞄准了该公司的热门谈天机械人ChatGPT，他在推特上取笑这项手艺“好得吓人”，并示意“我们离危险的壮大人工智能不远了”。

对于马斯克的“非营利性”指控，Altman回应道，“我们很早就意识到，我们需要的资金远远跨越我们作为非营利组织所能筹集到的资金。”

Altman回应道，他明晰马斯克对人工通用智能（AGI）的保注重见，AGI是一种能够像人类一样思索和学习智力义务的人工智能系统。也有不少该领域的专家同样对AGI手艺示意担忧，称若是这些系统以意想不到的方式运行或变得难以控制，可能会导致“灾难性的效果”。

与此同时，Altman也提到，“马斯克在我心中是英雄，我支持也明晰他的担忧…但希望马斯克能认可OpenAI在解决AGI平安问题是所支出的起劲。”

现在，OpenAI公司激励对羁系这些系统睁开讨论，并示意正在网络民众的反馈，以完善其手艺。