迈克尔·乔丹是 machine learning 的先驱, 他反驳了AI的毁灭言论作为一个伟大的道德表演

简介:迈克尔·I.乔丹称AI末日谈论为科幻小说,批评 Anthropic 次辞职,Geoffrey Hinton OpenAI 名特工和 data center 万亿美元.

标签: AI 命运,迈克尔·乔丹 Anthropic , OpenAI

主要图片:抽象的神经网络线路超过 server 架和市场图表,没有人,没有标志,没有文本.

一个长期存在的警告 AI

迈克尔·乔丹 (Michael I. Jordan) 被科学界称之为最有影响力的计算机科学家,他多年来一直在抵抗 artificial intelligence 的夸张语言. 在接受"自由报"广泛采访时,这位70岁的 machine learning 先驱将AI毁灭性谈话称为纯粹的科幻小说,并表示他的目标是灭亡者,公司创始人和天真的初级研究人员. 他描述了夏季 AI 的演讲完全令人.丧.

乔丹是 UC Berkeley 的荣誉教授,现在全职工作在 Inria , French National Institute 在巴黎的研究 Digital Science 和技术,他领导新的"市场和学习"椅子.他的批评并不新鲜.他说,他警告过于鲁 .地使用该术语 AI 在 2019,并指出他是不是一个人,因此歇斯底里显而易见.在他账户中,升级遵循了一个明确的路径: AI 不够,所以谈话转移到 artificial general intelligence ,然后到了 superintelligence .

辞职,监管和提高绩效的道德观念等问题都存在.

公司要求监管是戏剧性的, 这是一种说他们是好人而他们想要完全控制自己如何受到管制的方式.

乔丹说,这些公司的许多年轻员工并不是真正的工程师.他将他们描述为人文科学,哲学或其他学科的人士,通常25岁,天真,没有经验为有纪律的大公司内真正的人构建真实产品.他把他们的讨论与20世纪20年代巴黎咖啡馆进行了比较,在那里辩论了宏伟的科幻小说思想.

根据约旦的说法,辞职可以吸引注意力,让人们感觉有德行,并将他们作为重要人物.他说他们可能声称放弃金钱,但股票期权通常已经到位.对他来说,这是一个伟大的道德表现,不符合它所谓的目标,把天真与某种愤世嫉俗结合起来.

superintelligence ,亨顿,班吉奥和第 Hugging Face 集

乔丹将 superintelligence 视为一个科幻术语,并表示大部分争论属于这个领域.他不反对讨论背后的遥不可及的情景,但他警告说占主导地位的言论对技术发展,年轻人和国家的思维方式非常有害.他指出,10正在把这一词推向科技精英,11他们很乐意一起玩.

他的最尖的批评是针对诺贝尔奖获得者Geoffrey Hinton.乔丹说,欣顿有着大胆的主张的记录,这些主张并不总是成立,并且从来没有为真实的人创造过提供真正服务的公司.在约旦的重述中,辛顿的论点假定大脑可以被理解和复制成,拷贝很多次,并结合起来产生指数增长,成为 superintelligence . 乔丹表示任何一步都不可信.

乔丹表示,Bengio通过采取行动和做直接关注安全的事情而有所不同.他补充说,Bengios的警告往往针对当前AI技术中的缺陷,例如代理群体失控.

乔丹还谈到了 OpenAI 的黑客攻击.他称之为"坏工程",用化学工程类比:没有人会允许爆炸 JUST 看到事情可能有多糟糕.他说, OpenAI 通过让代理做他们想做的任何事并鼓励这种行为进行了相当愚蠢的实验,然后把这一集变成一个关于自我意识的代理试图摧毁人类的可怕故事,乔丹再次将其视为科幻小说.

一万亿美元问题 data center

乔丹认为 data centers 和 JUST 的dol注是巨大的, 他补充说他绝对不知道它是否会有所回报.

相反,乔丹强调在特定领域添加一些基于当地知识的专业知识.他说这并不需要巨大的 data center ,特别是当公司使用开放权重模型并将其内部集成时.采访以一个实际的问题结束:AI 进步是否会继续通过投机性的警告或更小的现有模式和工具的基础性应用来塑造.