探索

OpenAI被曝取得重大技术突破 或威胁人类!马斯克:极度令人担忧

时间:2010-12-5 17:23:32  作者:热点   来源:热点  查看:  评论:0
内容摘要:尽管随着山姆·奥特曼重返OpenAI担任CEO,这场震动科技界的“政变”大戏已经宣告落幕。但自始至终,一个谜团一直萦绕在人们心头:奥特曼究竟为何被解雇?  而现在,随着越来越多的消息被曝出,奥特曼被解 青春漫漫之新世界的大门

尽管随着山姆·奥特曼重返OpenAI担任CEO,被曝这场震动科技界的技术极度“政变”大戏已经宣告落幕。但自始至终,突破青春漫漫之新世界的大门一个谜团一直萦绕在人们心头:奥特曼究竟为何被解雇?

  而现在,或威随着越来越多的胁人消息被曝出,奥特曼被解雇的类马令人真相正在逐渐浮出水面。

  据媒体援引知情人士的斯克话报道,在奥特曼被罢免之前,担忧几名公司研究人员向董事会发出了一封信,被曝警告称一项强大的技术极度人工智能(AI)发现可能威胁人类。

  据财联社报道,突破消息人士表示,或威这封此前未被报道的胁人信件和AI算法,是类马令人导致OpenAI董事会罢免奥特曼的催化剂。他们称,斯克青春漫漫之新世界的大门董事会对奥特曼的诸多不满导致后者被解雇,而这封信是原因之一。

  据其中一位消息人士透露,长期担任OpenAI高管的米拉·穆拉蒂周三告诉员工,一封关于名为Q*(发音为Q-Star)的AI突破的信件促使董事会采取了行动。

  另一名消息人士表示,OpenAI在Q*上取得了进展,一些内部人士认为这可能是该初创公司在超级智能,也被称为通用人工智能(AGI)领域的突破。OpenAI将AGI定义为比人类更聪明的AI系统。

  该消息人士表示,鉴于庞大的计算资源,新模型能够解决某些数学问题。虽然Q*的数学成绩仅达小学生的水平,但研究人员对Q*未来的成功非常乐观。

  据澎湃新闻,研究人员认为数学是生成式人工智能发展的前沿领域。目前,生成式人工智能擅长通过统计预测下一个单词来进行写作和语言翻译,而同一问题的答案可能会有很大差异。但征服数学的能力(只有一个正确答案)意味着人工智能将拥有类似于人类智能的更强推理能力。例如,人工智能研究人员认为,这可以应用于新颖的科学研究。

  消息人士称,研究人员在给董事会的信中指出了人工智能的能力和潜在危险,但没有具体说明信中提到的具体安全问题。

  值得注意的是,奥特曼被OpenAI董事会解雇前一天在旧金山出席亚太经合组织首席执行官峰会时,提到了OpenAI最近取得的一项技术进步。“在OpenAI的历史上已经有四次了,最近一次是在过去几周,当我们推开无知的面纱并向前推进发现的前沿时,我已经在房间里了,能够做到这一点是一生的职业荣誉。”他说。

  随着后来OpenAI陷入混乱,这一神秘言论基本上没有引起注意。但一位知情人士表示,一些OpenAI员工认为,奥特曼的言论指的是该公司今年早些时候的一项创新,该创新将使他们能够开发出更强大的人工智能模型。这项技术突破由OpenAI首席科学家伊利亚·苏茨克维(Ilya Sutskever)牵头,一些员工担忧OpenAI在将这种先进的人工智能模型商业化时没有适当的保障措施。

  马斯克就有关于OpenAI在AGI领域新突破的报道置评称,“极度令人担忧!”

图片

(文章来源:每日经济新闻)

copyright © 2024 powered by 虹滢娱乐网   sitemap