沙特机器人获得公民身份?强人工智能时代还早呢!

2017年10月25日，在沙特首都利雅得的“未来投资倡议”大会上，来自香港的Hanson Robotics公司出品的女机器人索菲娅Sophia——这个据说是根据奥黛丽·赫本外型所设计的女机器人，在大会中自行宣布了沙特王国破天荒给予她公民身份之外，还与主持人侃侃而谈，谈到关于自我意识、家庭等议题，甚至不忘调侃马斯克以及好莱坞电影。

难道机器人时代这么快就来了吗？

周遭几个比较敏感的朋友忧心着，虽然他们常听我演讲，也清楚我常传达的“人工智能只是工具，并没有思考能力……人类该做人类擅长的事，机器就是协助我们从无聊繁琐的事中脱身……”等观点。“但这次可是获得公民身份啊！”我想这样的忧虑恐怕不止我身边的这几位，关注这新闻的大众恐怕有更多人在慌乱。

机器人时代就要来了吗？放心，在这个时代“有多少人工，就有多少智能！”

深度学习框架Keras的作者Francois Chollet近日写了篇与智能爆炸（Intelligence Explosion）议题相关的文章在社交网络上引起关注。智能爆炸的概念是1965年由密码学家I.J. Good所提出的。在他的想象中，如果有一天人类设计出了第一个通用人工智能后，这个人工智能将会设计出更厉害的人工智能，依照这样的无穷迭代思维，智能这玩意儿就会像永动机一样不断地涌出新的更高级的智能。也因此，最初的“种子人工智能”将会成为人类文明制造出的最后一样东西。但是Francois Chollet驳斥了这种想法，他认为智能这件事从来就无法脱离环境，如果把婴儿时期的爱因斯坦放入狼群，也不会有个发明相对论的狼少年就此诞生。真的能够改变人类历史与命运的其实一直都不是智能，反而是在各个时间点由环境影响人类所作的决策更为关键。也就是说，真的会扭转人类命运的，应该是所有人类共同累积的群体智慧，我们姑且可以称它为“文明”，文明的迭代成长早就在进行。

在文中，有一个观点是不得不让我拍案叫好的，人类害怕机器人的威胁是因为担心有些机器的智能超过人类，那它们将会是统治世界的物种，人类将臣服于机器之下。但是从历史看来，那些背后被称作是天才的人通常具有更远大的视野，以及更专注于解决一般人所看不到的问题，他们在世的时候过的日子并不好，因为财富与权势未必是他们所关心的。

换个角度，那些历史上想要统治世界的人，往往并不聪明。我个人以为，就算真的这世界突然冒出了强人工智能，他又有何必要统治人类？人类过去上千年血腥的历史中多半是为了争夺生存空间、为了自身利益，以及为了后代，而在网络世界自由自在且没有形体的人工智能，又不需要花钱也不用担心后代，他到底有何动机要统治世界呢？这又是一个难有结论的大问题了。

人工智能的概念是从1950年代图灵的经典论文《机器会思考吗？》中提出的，论文中的图灵测试也成为评断机器智能程度的标准。但更多人不知道的是2014年首个通过图灵测试的人工智能，其实是一个人物设定——一个13岁名为Eugene Goostman的孩子，外籍移民身份，英文不是很好，并且有社交困难的心理障碍，所以不愿多说话。这样的设定完全把自然语言功能没做好的缺点掩盖过去了，才顺利地骗过评审通过了图灵测试。这剧本精湛的人设，我觉得应该先去报个奥斯卡最佳编剧奖，剧本的成就应该远超过技术上的突破。

另一个也该颁奖的是脸书（facebook）实验室，今年五月份的时候，一则关于脸书实验室强化学习实验中，聊天机器人发明了自己的语言的新闻值得关注和讨论。要知道这个新闻之所以引起关注，是因为语言一直是与统治权力画上等号的，正是为何当初秦始皇要书同文、车同轨，使用统治者无法理解的语言是用来回避统治的一种沟通策略。？大家又想多了，各位可以看看那篇论文：Deal or No Deal? End-to-End Learning for Negotiation Dialogues (  《成交吗？用于谈判对话的端到端学习》)。光看标题就觉得综艺味十足，文中的实验室要让智能体能在不知道对方持有物体价值的状况下，透过对话来完成协商。其中他使用了名为Seq2Seq的对话生成技术，这种技术在传说中的全球最大同友网站Github上很容易搜到范例代码，可以用这技术学会方文山为周杰伦写的所有歌词。这并非新鲜而困难的技术，不过我测过，虽然方文山没问题，但是林夕的词，模型怎么也无法收敛。下图中就是那些所谓机器人自己发明的语言……。

对，没错，这不是新语言，用专用的技术术语形容，那叫BUG，这完全是一个没训练好的对话生成模型常见的状况，在过去的职业生涯中将BUG强辩为FEATURE的案例并不罕见，但是将BUG变成人工智能技术大突破，也真是闻所未闻。

强人工智能即将到来的信号与征兆好像越来越真实，但事实上全部是空包弹。曾经参与过一场人工智能的讨论会，也许是非技术人员较多的场子，大家突然话锋一转，讨论起该如何立法来解决邪恶科学家恶意在人工智能中加入意识的问题。但我还是忍不住发言说了真话——“现在就算是倾全球科学家之力都无法为人工智能添加意识，大家应该还是把焦点放在最近几年比较会发生的事情上比较妥当。”在定义上，强人工智能要有自我意识，能够自主思考与解决问题，而弱人工智能则需要能够完成基本的自动推理演绎。老实说，，强人工智能的事情就先别太上心了。

再回到索菲娅身上，其实整个事件的真相光是从事件的场景是“未来投资倡议”大会恐怕就不言可喻了。而另外相关的两个事主后续的发展恐怕更值得我们关注，一个是上个月才正式开放女性公民可以开车，但是想去体育馆还要等明年的沙特，也许是希望用人工智能来塑造更开明更先进的国际形象，但是对照到女性人类公民的权利还不及机器人，那恐怕只是更负面的效果。另一个则是索菲娅的制造商，我实在很好奇他们是不是在走一条神奇的商业模式，难道是要大量制造沙特公民然后取得身份……好吧，脑洞似乎开太大了。

科技是需要媒体与公关业者的协助才能够让更多人知道的，像是今年AlphaGO匿名Master，可以看出是极为高明的公关操作，但若是让娱乐与假事件凌驾于技术本质，甚至是造成恐慌，那就反而是本末倒置了。

最后，还是老话一句，面对人工智能即将走进我们生活甚至是职场的不远的未来，还是回归到科学界当初想要发展人工智能的初心：让所有的人类可以从无聊繁琐的工作中脱身，把人能够释放出来做更有趣或伟大的事。

• 作者：Deepbelief人工智能科学家。华院数据科学家。2002年在中国台湾创立亚洲资采，台湾第一个大数据公司。

• Deal or No Deal? End-to-End Learning for Negotiation Dialogues下载地址https://arxiv.org/pdf/1706.05125.pdf

• 作品链接：

AI不是来让人们失业的，是让人们更真诚相对的

阿法元100:0完爆阿法狗的启示，人类应该向人工智能学习三堂课

「 本文仅代表作者个人观点 」