专栏首页>徐瑾
人工智能的终极问题:暴力与和平
2017-09-19 14:18:03作者:徐瑾 来源:中国经营网

人工智能的出现,让一部人喜悦的同时,一部分人也颤栗。

人工智能在智力超越人类,这点在阿尔法go战胜围棋选手之后,已经没有疑义。那么,如何保证人工智能为人类一直服务?

人工智能虽然最近很热,但是这并不是全新的技术。过去几十年内已经有无数人做出探索,只是最近关于人类技术进步将得到一个转折点的可能性正在加大,各类预测也层出不穷,谷歌首席未来学家雷·库兹韦尔(Ray Kurzweil)最近接受《花花公子》杂志专访时表示,到2030年左右,人类不仅可以利让纳米机器人通过毛细血管进入大脑,从而变得更聪明,甚至可能永生。

这就是人性的矛盾,一方面无比恐惧人工智能的超级能力,一方面又迫切希望借助人工智能让人类获得永生。

将人和机器刻画为非你即我的战争一直有思想渊源,而关于机器人抢走工作的担忧更是中产阶级的普遍担忧,问题是当前普遍存在的经济担忧很可能只是小儿科。

对于机器人或人工智能的运用,目前还更多停留在讨论机器是否取代人类工作,或者机器人作为高级智能逃逸人类监督的情况,但事实上更为隐蔽也更为重要讨论应该回归一个古老的问题,如何预防人类通过机器人伤害同类,即如何预防暴力。

暴力是贯穿人类历史,而驯服暴力是人类文明发展的基础。如果说过去的没人机已经引发不少道德焦虑,那么关于机器人作为杀人工具变为现实,在人性面前不仅不是不可能,好像也没那么遥远——想一下,如果人类战争升级成为机器人战争,那么冰冷理性的计算加上完美冷酷的执行,机器人的优势如果被恶意利用,简直过去集中营的新世纪版本。

人类如果要毁灭,其实很多程度是来自人类内部。对于人工智能认识以及运用的差异,正在构成新的鸿沟,在不同阶层扩大。

也正因此,除了比尔.盖茨这样的前科技企业家主张对机器人征税之外,人类可以做的事互或许是抵制杀手机器人。本来这些举措应该寄希望于联合国等多边组织,但是当前形势之下取得一致行动其实相当困难,曾经提议的联合国管制“杀手机器人”会议也出现延期之后。

如何办才好?当庞大官方组织面临效率问题的时候,民间力量和个人往往会更有活力,行业自律可能更为关键。类似的新闻有不少,一方面是 1000名人工智能专家联名表示公开停止发展致命自动武器系统,另一方面是上百家机器人与人工智能企业创始人开始呼吁禁止使用致命自主武器,其中还包含大名鼎鼎的SpaceX创始人埃隆??马斯克。

最后,即使到了人工智能觉醒甚至统治时刻,其实也可以大家一些安慰,《西部世界》中管理与处理机器人的员工都是真人,他们甚至对自己定义不过是“屠夫”——可不是么,从古到今,根据学者统计,死于同类是人类的头号死因;而脏活,过去现在很可能未来,都是人类在做。

(作者近期出版《白银帝国》《印钞者》,微信公号《徐瑾经济人》)


*文章为作者独立观点,不代表中国经营网立场。

徐瑾

徐瑾,“资深”85后,FT中文网财经版块主编、首席财经评论员。经济,希腊语原意为管理家庭事务,中文则引申为经世济民。经济人,是经济学的逻辑起点,也应是其终极关怀。本专栏留心财经事件背后的人与事,立意将经济理论作为普遍常识加以推广。个人微信公号econhomo,近期出版《有时》、《印钞者》等,其中《凯恩斯的中国聚会》入选“2015最受金融人喜爱的十本财经书籍”。