【推荐】从互联网到“黑客帝国”,机器人会超越人类吗?

>>>  名人論史——近當代作家的史學觀點  >>> 簡體     傳統

人与机器的界限变得模糊的趋势中,人被整成了机器,原先的主从关系不复存在,大部分人成了少数寡头实现自己权力意志的工具。

人类要开始应对无节制的技术颠覆

作者 | 翟振明

虚拟+现实:瞬时跨越地球握个手

如果你我分别在纽约和广州,我们可以约好在虚拟世界的某个地址见面,五分钟后穿过地球见个面,拍个肩膀握个手,没问题。与此同时,我们也可以完成各种生产和建设任务。这可不是科幻电影中描写的遥远的未来的情景。

中国人正在热炒“互联网思维”和“互联网+”之际,谷歌掌门人施米特(Eric Schmidt)却宣称“互联网即将消失”。正像我不久前说过的那样,其实,施米特指的是互联网即将被改造成“物联网”,即从以人与人之间的文本图像交流为主被改造成以物与物之间的连接为主,使人在相互联系的同时能够监控操纵各种人造物和机器设备。

这时,再假设人与人之间的联系是通过虚拟现实界面来达成的,情况又会如何?如果你我分别在纽约和广州,我们可以约好在虚拟世界的某个地址见面,五分钟后穿过地球见个面,拍个肩膀握个手,没问题。与此同时,我们也可以独自或合作操纵物联网中的任何一个物件或机器,完成各种生产和建设任务。


▲翟振明,中山大学人机互联实验室主任,哲学系教授(南方周末资料图)

这可不是科幻电影中描写的遥远的未来的情景。目前,美国的谷歌、脸书、微软、亚马逊、苹果、英特尔等IT巨头,正全力整合资源准备将虚拟现实的软件和硬件以可穿戴的形式推向消费者市场。日本的索尼、爱普森,韩国的三星等也推出自己的硬件,欧洲各国都有各自的领头企业积极参与,中国的腾讯、华为、百度、暴风影音等公司,据说也在努力中。

一方面是“虚拟现实”的风满楼,另一方面呢,各国政府和非政府的力量正在花很大的人力物力财力来建设施米特所说的“物联网”,虚拟现实与物联网融合起来这意味着什么,无须赘言了吧。

这听起来好像非常高科技并且规模宏大,但对于生活在今天的大多数人的生活方式,真会有啥“颠覆”吗?

进一步设想一下,我们不久将看到普通眼镜一般大小的虚拟现实显示器,该显示器只要与手机相接,无需台式或手提电脑,就可以联网进入沉浸式的网络化的虚拟世界。这样,在“大数据”的背景下,人们沉浸在与我们现在所处的物理世界在经验上难以分别的虚拟现实中,这种世界,可以看成现在网上的《我的世界》(Minecraft)或《第二人生》(Second Life)的虚拟现实显示器升级版。

进入这种世界,再在其中遥距操作物联网上的东西,我们就沉浸在“扩展现实”中进行各种“体力”活动了。并且,现实世界中的现实场景,也可以随时无缝整合进这个虚拟世界中,原本身处广州的我和远在纽约的你,就可以即时克服空间距离进行约会了。这种虚拟与现实无缝融合的世界,我称之为“扩展现实”。

当然,这种监控操纵,不是靠键盘鼠标来进行的,而是以虚拟现实为界面通过动捕和传感系统使人能够用完全自然的身体运动来行使的,在这里,主从机器人,估计会是最常见的人机互联中介。

什么叫“主从机器人”呢?看过电影《阿凡达》的人对此理解起来就简单了。男主角Jack是一个和我们一样的普通人,但是,科学家给他培育了一个第二身体,放在遥远的外星球服从他的遥控,原来的他成了这个“主从”关系的“主端”,远处的第二身体成了“从端”。现实中,用机器人来充当第二身体,遥控信号就用我们正在用的电磁波,就这么平实可靠。到时,我们就能够克服空间的距离,以“遥距临境”的方式(虽远离千里但感觉就像亲临现场一样),对自然物和人工物进行即时操控。

这样,由虚拟现实人联网+主从机器人遥距操作+信号传感物联网融合而成的巨系统,就是类似于电影《黑客帝国》中展示的那种大家在其中全方位交往的人造“物理”世界。

多年以前,我在学术讨论中提出,这种虚拟现实化的“扩展现实”与我们现在身处其中的自然现实在本体论上是具有对等性的命题。十多年后,英国物理学家霍金在他的《大设计》一书中宣称,如果把我们整个宇宙理解成一个虚拟实在,很有可能解决当代物理学和宇宙学中的很多难题,从不同的逻辑起点出发提出与我的命题相契合的设想。


▲注:横轴的指向是对物的操控,纵轴的指向表示与其他人替(意识主体)的交往。 (梁淑怡/图)

“扩展现实”中有啥存在

这将是一个允许我们与原来的自然环境道别的人造环境,对人类现有生活方式的挑战之彻底,前所未有。但是,如果我们愿意,我们确实可以栖居其中,维持我们的生存和发展,在这个“物理”的虚拟空间中创造新型的未来。

在我们按上述思路建造起来的“扩展现实”中,会遭遇如下各种对象(如图所示):

1)人替(avatar),直接由用户实时操纵的感觉综合体,将让人感觉完全沉浸在虚拟环境中,在视觉上代替了原来的自然身体,让你以第一人称的视角把周围世界对象化,成为视听场域的原点。

2)人摹(agent),由人工智能驱动的摹拟人,可以是系统创设的,也可以是用户创建的。

3)物替(inter-sensoria),对应于物联网中的物体的服务于遥距操作的感觉复合体。

4)物摹(virtual physicon),该世界中各种不被赋予生命意义的“物体”。

5)人替摹(avatar agent),用户脱线时派出的假扮真人的由人工智能驱动的摹拟人替。

此外,考虑将来动物群体的加入,我们还会有:

6)动物替(animal avatar),如果我们在信号输入端使用了完全的传感技术进行实时动态捕捉而摈弃键盘和鼠标,我们就可以允许我们的宠物或其他动物进入虚拟世界,于是该世界里就会有这类对象活跃其中。

7)动物摹(animal agent),由人工智能驱动的摹拟动物,如几年前HiPiHi公司给广东河源市政府建造的虚拟恐龙公园中的“恐龙”。

可以设想,如果我们将各种现有的数字城市整合到虚拟世界,数字城市就会很自然地成为人联网与物联网融合的界面,亦即实施遥距操作的界面。现今的数字城市,主要是为城市规划和管理建造的,这类数字城市,一方面可以转化为供人替居住的城区,另一方面又可以转化为物联网在虚拟世界中的“物替”系统,为用户通过人替对物联网化的城市实施监控和遥距操作提供有效的界面。此外,像美国的City Cluster项目,却主要用于历史文化名城的再现,与此类似的项目,中国的一些博物馆也有涉足。

再进一步,我们可以把网络游戏中的人摹放置到虚拟世界的大环境中,网络游戏的竞赛活动也可以转化为人替之间的一般交往和娱乐的内容,甚至用作军事训练。最后,游戏场景也可以转化成我们行使遥距操作时使用的“物替”。这样,我们就有了一个崭新的人工与自然无缝连接的扩展世界。

这将是一个允许我们与原来的自然环境道别的人造环境,对人类现有生活方式的挑战之彻底,前所未有。但是,如果我们愿意,我们确实可以栖居其中,维持我们的生存和发展,在这个“物理”的虚拟空间中创造新型的未来。

这种主要用来改变人类主体状态的技术(也包括克隆人等生物工程技术),我称之为“主体技术”,与以往的“客体技术”(亦即用来改造人之外的自然对象为人所用的技术)形成强烈对照。与客体技术相比,主体技术更加直接地在人类生活的基准线上挖掘重建,从而也更具颠覆性。

阿西莫夫机器人法则的实践困境

更糟糕的一个可能情形,是在这种人与机器的界限变得模糊的趋势中,人被整成了机器,原先的主从关系不复存在,大部分人成了少数寡头实现自己权力意志的工具。

读者不禁又要问了,这种颠覆性,也许听起来或令人神往或令人恐惧,但我们除了被动应对,还能有更多作为吗?

▲注:艾萨克·阿西莫夫,美国科幻小说黄金时代的代表人物之一

首先,必须注意的是,对于这种无所不包的“扩展现实”,总体规划者既可以在结构原则上使其方便自己行使一种凌驾一切的权力并以此来操控人替使其成为物联网的附属工具,也可以反过来,让所有人替作为权力的主体来操控物联网,使物联网服从每个人的主体诉求。人的需求和人的价值的实现,才使得物联网的建设获得工具性意义。这两种对立的构架代表了两种对立的价值预设,我们必须从理论上证明,只有第二种选择才是正当的,而第一种选择是不正当的因而是需要被避免的。

但是,按照当今比较主流的说法,物联网属于网络技术的“严肃应用”,而以虚拟现实为特征的像Minecraft和Second Life那样的人联网则被看作“游戏”,是“不严肃”的应用。这样的看法,折射出来的是手段与目的颠倒的异化思维,是人文理性缺失的结果,具有相当的危险性。

其次,要理解这种由人联网与物联网全面融合形成的系统,“人替”(avatar)这个概念的所指非常关键。一方面,每个人在沉浸式虚拟环境中有个身体的动态视觉替身,并以这个替身在人联网中建立自己的独特标识与他人互动,这个替身是网络虚拟世界中人们一般称作“avatar”的东西。

另一方面,每人还有一个机器人替身,就像电影《阿凡达》中为主角配置的送往外星球的替身那样。这里,我们所指的是主从机器人的“从端”,其动作完全由“主端”的人的意志力直接掌控,即时重复人的生物身体的动作。可以说,这是我们用来切入物联网的另一个身体,虽然我们不称其为“人替”,却还是从事人的体力劳动的实实在在的“替身”。

这里所说的“主从机器人”,与人们平时想到的由人工智能直接控制的机器人不同。主从机器人的出现,使阿西莫夫几十年前提出的“机器人三大法则”以及后来补充进去的第零法则,在机器人设计的实践中陷入了更深一层的困境。

这几条法则是这样的:(1)机器人不得伤害人类,或坐视人类受到伤害;(2)除非违背第一法则,机器人必须服从人类的命令;(3)在不违背第一及第二法则下,机器人必须保护自己;再加上第零法则,(0)机器人不得伤害人类整体,或坐视人类整体受到伤害。


▲《阿凡达》

以上四条法则,在人工智能式的机器人的设计实践中就遇到了各种困难,但人与机器的界限起码在那里还是相对分明的。而我们现在涉及的“主从”机器人,很可能是,“主端”原来的生物身体只是被用来作为一个中介,借此中介来得到驱动的远方的“从端”替身,却成了主人与外界互动的实际上的身体。正像在电影《阿凡达》中的那样,当主人公与外星人交往时,原来的生物身体已被弃置一边,人造的“替身”变成了他实际上的身体。于是,以上第一条法则中预设的“人类”与“机器人”的分立,在这里就失效了。在主从机器人这个设置中,机器人成了人的一部分,“机器人伤害人类”的含义也就需要重新得到恰当的澄清。不然,我们就很有可能在“人伤害人”与“机器人伤害人”的判定之间无所适从。

其次,“伤害”概念也变得更为复杂,因为“人身伤害”与“毁坏财产”之间的界限也需要重新界定。因此,为了让我们的生活秩序获得起码的保证,我们就要重新讨论道德和法律的理念基础的有效性。以此类推,其他几条法则的确切含义和可行性也受到了类似的挑战。

更糟糕的一个可能情形,是在这种人与机器的界限变得模糊的趋势中,人被整成了机器,原先的主从关系不复存在,大部分人成了少数寡头实现自己权力意志的工具。

人文理性的介入和挑战的应对

条件成熟时,在人类各共同体间达成某种理性的规范性共识,编撰“虚拟世界和扩展现实大宪章”,作为面向未来的立法和制定其它政策时的理念基础,也作为在新时代保护人的基本权利和维护人的主体地位的基本依据。

有鉴于上面讨论中揭示出来的危险和挑战,我们现在应该采取什么措施来应对呢?这里,笔者尝试着抛砖引玉,提出以下几条建议:

1.建造“扩展现实”小模型(本人主持的“人机互联实验室”正在施工中),把人联网和物联网整合后的各种可能性率先展示给人文社科学者、媒体从业者、政府决策者,让他们在有切身体验的情况下探讨各种可行理论或推行各种应对策略。

2.坚持虚拟世界中的“人替中心主义”,把人替信号流向的非对称性作为标准化的设计,让每个人替的主人可以在充分知情的条件下自主选择对外来信号的开放度,而来自系统和他人的指令信号必须在主人选择和监控下才能起作用。

3.人摹与人工智能的结合要服从人替中心的掌控,这样的话,虚拟世界中的纯数字化的“机器人”就不至于与人的替身(“人替”avatar)相混淆。

4.将人工刺激源的作用严格限制在自然感官上,严禁对脑中枢直接输入刺激信号;我们的脑信号可以被直接用来控制人造环境和物联网中的器具,但他人不能被允许使用直接的脑神经刺激来操控人的行为。虚拟现实作为人机互联的界面,必须被设计成只能通过刺激外感官来与人的意志互动,而帕特南式的“缸中之脑”之类的脑神经元直接刺激模式,应该在人替程序的设计标准中一开始就被禁绝。

5.将服务器分散化,用分布式计算来保证任何寡头的中心集权式控制成为不可能。

6.将主导或参与虚拟现实和物联网前期建设的行业领袖召集起来,以“造世伦理学”的学术研究为起点,形成共识性的行业伦理规范,确保人文理性从一开始就在业者的实践中发挥范导作用。

7.在物联网建成运行之前,促使以虚拟现实为特征的人联网充分发展,在诸如Second Life、Minecraft等以人替为中心的在线虚拟世界中注入鲜活丰满的人文理性和艺术创造精神,以“人是目的”的基本原则为指导,形成各种丰富多彩、自由自律的虚拟世界文化共同体,抵挡来自各方的将人的生活工具化、物化或奴化的企图。

8.条件成熟时,在人类各共同体间达成某种理性的规范性共识,编撰“虚拟世界和扩展现实大宪章”,作为面向未来的立法和制定其它政策时的理念基础,也作为在新时代保护人的基本权利和维护人的主体地位的基本依据。

以上八条的提出,只是作为我们进一步深入讨论的起点,一定有不少疏漏抑或谬误。为了从容应对信息技术革命给我们的生活方式带来的颠覆性转型,我们必须迅速迈开步伐,准备为即将来临的“扩展现实”合乎理性地奠定价值基础,以期让这个颠覆性的转折给人类带来的是福音而不是其它。

本文选自南方周末,转载请注明来源



腾讯思享会 翟振明 2015-08-23 08:54:03

[新一篇] 高全喜:新文化運動的演進、岐變及其復調結構

[舊一篇] 【來稿】故宮拍裸照,也該顧及文物的顏面
回頂部
寫評論


評論集


暫無評論。

稱謂:

内容:

驗證:


返回列表