超级智能 路线图、危险性与应对策略

>>>  文章華國詩禮傳家—精彩書評選  >>> 簡體     傳統

当机器智能超越了人类智能时会发生什么?人工智能会拯救人类还是毁灭人类?

作者提到,我们不是这个星球上速度最快的生物,但我们发明了汽车、火车和飞机。我们虽然不是最强壮的,但我们发明了推土机。我们的牙齿不是最锋利的,但我们可以发明比任何动物的牙齿更坚硬的刀具。我们之所以能控制地球,是因为我们的大脑比即使最聪明的动物的大脑都要复杂得多。如果机器比人类聪明,那么我们将不再是这个星球的主宰。当这一切发生的时候,机器的运转将超越人类。

人类大脑拥有一些其他动物大脑没有的功能。正是这些独特的功能使我们的种族得以拥有主导地位。如果机器大脑在一般智能方面超越了人类,那么这种新兴的超级智能可能会极其强大,并且有可能无法控制。正如现在大猩猩的命运更多的掌握在人类手中而不是自己手中一样,人类未来的命运也会取决于机器超级智能的行为。

但是,我们有一项优势:我们有机会率先采取行动。是否有可能建造一个种子人工智能,创造特定的初始条件,使得智能爆发的结果能够允许人类的生存?我们如何实现这种可控的引爆?

作者相信,超级智能对我们人类将是一个巨大的威胁。在这本书中,作者谈到了超级智能的优势所带来的风险,也谈到了人类如何解决这种风险。作者认为,他的这本书提到的问题将是我们人类所面临的最大风险。

这本书目标宏大,且有独创性,开辟了人工智能领域的新道路。本书会带你开启一段引人入胜的旅程,把你带到对人类状况和智慧生命未来思索的最前沿。尼克•波斯特洛姆的新书为理解人类和智慧生命的未来奠定了基础,不愧是对我们时代根本任务的一次重新定义。

尼克‧波斯特洛姆,全球着名思想家,牛津大学人类未来研究院的院长,哲学家和超人类主义学家。其学术背景包括物理、计算机科学、数理逻辑以及哲学,着有大约200种出版物,已经被翻译成22种语言。曾获得尤金‧甘农(Eugene R. Gannon)奖(该奖项的获得者每年只有一名,他们来自哲学、数学、艺术和其他人文学科与自然科学领域)。

序言 // XXV

第一章.人工智能:昨日成就与今日现状

第二章.通往超级智能之路

第三章.超级智能的形式

第四章.智能大爆发的动力学

第五章.决定性战略优势

第六章.超级认知能力

第七章.超级智能的意愿

第八章.结局注定是厄运吗?

第九章.控制问题

第十章.神谕,精灵,主权,工具

第十一章.多极情景

第十二章.获取价值观

第十三章.确定选择标准

第十四章.战略图景

第十五章.关键时刻

致谢 // 331

自述

我出生在瑞典的赫尔辛堡,在海边长大。学校让我感到厌烦。在十五六岁的时候,我有了一次认识上的觉醒:我感觉我浪费了生命中的第一个十五年,于是决心专注于做重要的事。因为我不知道重要的事是什么,而且我不知道如何发现哪些事是重要的,我决定开始完善自己,以便找到答案。因此,我开始了认识方面的自我发展事业,在之后的十五年里我努力追求完成这项事业。

在读本科时,我同时学习了很多专业。我觉得我的事迹大概创造了全国纪录。有一次我因为学得太多而被开除了。于默奥大学(Umeå University)的心理系主任发现我在同时学习其他几个全日制的专业课程(包括物理、哲学和数理逻辑),他认为这是心理学角度不可能发生的事。

大学毕业后,我去了伦敦。我在国王学院学习物理和神经科学,并在伦敦经济学院获得了博士学位。有一段时间,我在伦敦的酒吧和剧院里表演过单口相声。

在这些年里,我和David Pearce共同创立了世界超人类主义协会,这是一个非盈利的草根机构。后来,我参与创立了伦理与新兴技术研究所,这是一个非盈利的智库。研究所的宗旨是鼓励更广泛的对未来科技的影响的讨论,尤其是那些可能会导致人类提升的技术。(这些机构后来都按照它们自己的轨道发展,并不是超人类主义旗帜下的所有观点我都赞同。)

2006年,我创立了牛津大学人类未来研究院,并一直担任主任职务。这是一个独特的多学科研究院,目标是帮助一些学者对人类和全球事务的大问题进行仔细的思考。研究院从属于牛津大学哲学系和牛津马丁学院。从2011年起,我还指导了未来技术的影响研究项目。

简历

Nick Bostrom是牛津大学哲学系的教授。他是人类未来研究院的创始人和主任。人类未来研究院是一个多学科研究院,旨在帮助一些非常优秀的数学家、哲学家和科学家对人类大问题和全球大事务进行仔细的思考。

Bostrom的学术背景包括物理、计算机科学、数理逻辑,以及哲学。他着有大约200种出版物,包括《人择偏差》(Routledge出版社,2002)、《全球灾难危机》(编者,牛津大学出版社,2008),《人类提升》(编者,牛津大学出版社,2009),以及即将出版的《超级智能:途径、危险与战略》(牛津大学出版社,2014)。他最着名的研究领域包括:1. 生存危机;2. 模拟论点;3. 人择理论(发展第一个观察选择效应的数学理论);4. 未来科技的影响;5. 结果主义对全球战略的意义。

他是Eugene R. Gannon奖的获得者(该奖项的获得者每年只有一名,他们来自哲学、数学、艺术和其他人文学科,以及自然科学领域)。今年早些时候,他被《Prospect》杂志列入全球思想家名单,是名单所有领域前十五名中最年轻的,也是分析哲学家中排名最靠前的。他的着作已经被翻译成22种语言。他的作品已经有超过100多种翻译版和重印版。

我是一个非常幸运的人。我没有教课的任务,有助理团队和顶尖的研究人员给我提供支持。我可以研究的领域实际上没有任何限制。我必须非常努力,才能对得起这样的特权,对重要的事情提出一些新的见解。

翻译:Cecile


2023-06-16 15:09:53

[新一篇] 富蘭克林傳 [美] 沃爾特·艾薩克森

[舊一篇] 我們最后的發明:人工智能與人類時代的終結 〔美〕James Barrat(詹姆斯·巴拉特)
回頂部
寫評論


評論集


暫無評論。

稱謂:

内容:

驗證:


返回列表