社科文论选摘 理论研究

对人工智能四种威胁的辨析

选自《人工智能距离“人类杀手”有多远?》

赵庆秋

2018年01月11日 12:00

李恒威 王昊晟
社会科学报


人们所谈到的人工智能威胁大致可以分为四种类型:工具性威胁、适应性威胁、观念性威胁和生存性威胁。

   对于一个完整的心智(mind)而言,通常包括三个相对独立又相互连结的系统——情感(情感和动机)系统、意志(意志和行动)系统和智能(感知和思维)系统。事实上,就语义而言,威胁”“控制等词语都是规范性概念,而这种规范性的语义通常是由情感(情感和动机)系统承载的,而并非由智能(感知和思维)系统承载的,换言之,威胁的规范性语义并不内在于智能概念中。因此,要明确人工智能威胁论的究竟,我们就有必要辨明在上述四种威胁中人类与人工智能在规范性上处于何种关系。

   对于工具性威胁和适应性威胁而言,主体都是完全生物意义上的人。在两种威胁中,人工智能体(或人工智能装置,或人工智能系统)都扮演着工具性的角色。虽然适应性威胁中的人工智能体已经成为一种改变人类生存环境的革命性构成要素,但从本质上看,其功能与价值同样是由人类赋予或决定的,并服务和满足人的意图。因此,上述两种威胁实质上是关于人如何使用工具的威胁。

   在观念性威胁中,主体已不再是完全生物学意义上的人,构成人类主体的方式发生了一定的变化。但这种变化是局限性的,它增强的是生物人的体力、感知力和智力,而作为行动主体的规范性,即生存的动机、意图、目的、感受、情感、价值、意义等,来源仍然是由生物意义上的人所决定的。确切地说,融合在生物人身上的人工智能是对生物人的智能的融合而不是对生物人的心智的融合。从核心意义上说,观念性威胁仍然是人类对人类的威胁。

   然而,在生存性威胁中,主体发生了根本性的改变,从人转移到了人工智能本身。尽管此类人工智能也是人类创发的,但它本身却具有独立自主的(autonomous)心智,因此也就有了独立自主的动机和情感系统——人工智能体将成为一种尽管是人工的、但却是独立自主的、甚至超越人类心智的主体。在这一层面上,生存性威胁就与前三种威胁存在质的差别,也就是说,生存性威胁是真正意义上人工智能对人类的威胁,而不仅仅是人类因为使用作为人类智能延伸的人工智能而对自身产生的危害或威胁。

   事实上,针对生存性威胁,许多公众人物,特别是科技界的知名人士都表达过自己的立场。以霍金、马斯克等为代表的支持派认为,“人工智能未来还将发展出自己的意志——这种意志将与人类的意志产生冲突。”而扎克伯格、贾南德雷亚等所在的反对阵营则表示,这些威胁言论过于消极,是极其不负责任的。在他们看来,所谓的生存性威胁并不是迫在眉睫的事情,人们不应当为此感到恐慌。 


]]>

2018年01月11日 02:36
200
从经济学视角看社会主要矛盾变化