尊龙凯时体育照旧马斯克在内的AI科技巨头-尊龙凯龙时官网进入网页

鹭羽 发自 凹非寺

量子位 | 公众号 QbitAI

东说念主工智能有99.5%的可能性会杀死你。

东说念主工智能有99.5%的可能性会杀死你。

这是硅谷版宇宙末日宣教士Eliezer Yudkowsky的最新论点。

Yudkowsky用目下的话说，是个彻头彻尾的斜杠后生，是MIRI创举东说念主，亦然著明的哈利波特同东说念主文作家。

但最引东说念主留心的身份则是一手缔造OpenAI和谷歌DeepMind的中之东说念主。

八年事辍学、AI常识全靠自学成才……

奥特曼、马斯克纷繁援用他的不雅点，AI教父Hinton、LeCun则月旦他的极点。

就是这么一个评价南北极分化严重的东说念主，却成为了硅谷大佬们不甘人后的座上宾。

张开剩余86%

他说，他的方针是拦阻AI朝着超等智能发展，因为这事关统共这个词东说念主类的命悬一线。

莫得融合的余步，即使是llya的公司也应该被关闭。

莫得融合的余步，即使是llya的公司也应该被关闭。

也许你对Eliezer Yudkowsky还不太老到，但他的名字在硅谷不错说是大名鼎鼎。

Eliezer Yudkowsky出身在芝加哥的一个东正教犹太家庭，因为慢性健康问题，在八年事后就早早地辍学回家。

莫得学校证书，拔帜易帜的是，他如饥似渴地阅读科幻演义，自学打算机科学，并与一群主张科技乐不雅方针的改日学家们在网上调换。

也就是其时，他被“奇点”这个主见所深深眩惑，即假定中东说念主工智能出奇东说念主类智能的改日搬动点，于是他奋斗要创建AGI，并确信AGI行将到来。

但当他来到硅谷后，却发现要创建对东说念主类友好的东说念主工智能其实至极发愤，主要照旧以下三个原因：

正交性:

才能不等同于仁慈，AI不会因为变得更聪惠而自动变得更友好。

器具性交融:

任何精深的、以方针为导向的AI系统都有可能采取对东说念主类不利的技能，比如在回形针最大化器履行中，一朝AI以为东说念主类躯壳内的铁元素不错用来制作回形针，那么为了保证最大化分娩回形针，AI将会把东说念主类视作资源的一部分。

谍报爆炸:

AI技艺可能在短时辰内急剧飙升，导致马上出现不成控的超等智能。

才能不等同于仁慈，AI不会因为变得更聪惠而自动变得更友好。

任何精深的、以方针为导向的AI系统都有可能采取对东说念主类不利的技能，比如在回形针最大化器履行中，一朝AI以为东说念主类躯壳内的铁元素不错用来制作回形针，那么为了保证最大化分娩回形针，AI将会把东说念主类视作资源的一部分。

AI技艺可能在短时辰内急剧飙升，导致马上出现不成控的超等智能。

从此之后，他开动陆续关爱AI安全问题，也成为了硅谷最早劝诫AI风险的“宣教士”之一。

Yudkowsky曾暗示：

东说念主类注定要消一火，我不会连续打一场失败的战斗来使东说念主工智能与东说念主类价值不雅保持一致，而是将看重力搬动到匡助东说念主们采纳我方的荣幸上。

东说念主类注定要消一火，我不会连续打一场失败的战斗来使东说念主工智能与东说念主类价值不雅保持一致，而是将看重力搬动到匡助东说念主们采纳我方的荣幸上。

此外他还在伯克利创建了MIRI研究所，勉力于研究先进东说念主工智能的风险。

天然他极点悲不雅的AI末日申报法颇受业界争议，连AI教父Hinton都明确暗示过Yudkowsky的主张过于偏颇，但不成否定的是，他在一定进程上影响了统共这个词硅谷。

无论是OpenAI的奥特曼，照旧马斯克在内的AI科技巨头，都曾在公开花样援用他的不雅点，奥特曼以致曾暗示，Yudkowsky在他创办OpenAI的决定中，发扬了要道性作用，何况他值得一座诺贝尔和平奖。

不仅如斯，谷歌在AI鸿沟有所设立也离不开他的功劳。

2010年时，就是他为初创公司DeepMind的创举东说念主穿针引线，将其先容给了风险投资家Peter Thiel，Thiel从此成为了DeepMind的第一位主要投资者。

后头谷歌在2014年收购了DeepMind，而DeepMind的蚁合创举东说念主Demis Hassabis如今正安然监督谷歌的AI使命。

哈利波特同东说念主文作家

除了在AI安全鸿沟的孝敬，让Yudkowsky在硅谷风生水起的另一个原因，则是他对硅谷感性方针的引颈。

如今硅谷科技公司中的年青一代，绝大无数都是鉴定的感性方针者，顺藤摸瓜恰是受到了Yudkowsky的作品影响。

而这本书即是哈利波特的同东说念主文——《哈利·波特与感性之说念》。

在这本书中，哈利波特从小采纳科学检会、逻辑念念维和感性教学，用科学探索魔法宇宙。原著中的事件都被感性重构改写，不仅关爱魔法若何使用，还探究魔法旨趣和背后的逻辑，还频繁触及像贝叶斯推理、履行联想、概率念念维等常识。

再比如说，Yudkowsky的另一册推敲《龙与地下城》的同东说念主演义，其中也包含了他对方案表面的诸多看法。

而最近他和MIRI总裁Nate Soares合著的新书《要是有东说念主竖立它，每个东说念主都会死》，亦然他们多年来一直向东说念主工智能里面东说念主士提议的案例索求版，当中他公开抛出了推敲超等智能的最终展望。

他以为，目下许多科技公司，包括Anthropic、OpenAI在内，在构建软件模子时，其实并不了了里面的运作逻辑，所追求的“真金不怕火金术”出奇了科学相识鸿沟。

是以一朝模子技艺到达某种进程，现存的AI对皆时间（如强化学习、微调等）将不成幸免地失效，从而忽略东说念主类教唆。

最终AI不仅掌捏了极大的能量，在资源使用、方案等方面也会脱离东说念主类截止，东说念主类可能在毫无察觉的时候就被潜移暗化地角落化取代，以一种渐进式的神色肃清，而非像科幻电影中所描写的那样，会出现一场和机器东说念主的命悬一线的构兵。

Yudkowsky以为，目下仍是到了该报警的阶段，这不是骇东说念主闻见，东说念主类正在忽略信得过的风险。

在谈及硅谷这些追求创造超等智能的科技公司，Yudkowsky暗示它们每一家都应该被关闭，Anthropic相对较好，而OpenAI显着最差，但诚然兴趣AI安全如llya，Yudkowsky也一视同仁地以为llya的公司也需要被住手，因为它们实质上都莫得分离。

不外跟着时辰的推移，他不再精准展望超等东说念主工智能何时才会被拓荒出来，当后果注定的时候，历程显得那么无关遑急。

正如他回应网友时，所采取的这个譬如：

展望掉入开水中的冰块何时熔化，比知说念后果注定是一杯温水，要发愤得多。

展望掉入开水中的冰块何时熔化，比知说念后果注定是一杯温水，要发愤得多。

而他正在试图作念的，是告诉东说念主们，这里将会有一杯温水。

参考连结：

[1]https://www.nytimes.com/2025/09/12/technology/ai-eliezer-yudkowsky-book.html?unlocked_article_code=1.lU8.ALkU.Qne6o4IgeeEP

[2]https://www.semafor.com/article/09/12/2025/researchers-give-doomsday-warning-about-building-ai-too-fast尊龙凯时体育

发布于：北京市