天才一秒记住【权七小说】地址：https://www.quanqihao.com
第七章杞人忧天——我们想象中的人工智能会出什么错
banner"
>
进入21世纪以后，人工智能的飞速发展引起了媒体的广泛关注。
其中有一些报道是公正合理的，不过坦白地说，大部分报道都愚蠢得无可救药。
其中有一些报道颇有知识性和引导性，而大部分则是杞人忧天式的恐吓。
比如2017年7月，各大媒体争相报道脸书关闭了两个人工智能系统，因为它们开始用自己的人工智能语言进行交流（显然它们的设计者无法理解）[93]。
当时的新闻头条和社交媒体报道立场明确地暗示，脸书关闭这两个系统是因为害怕它们失去控制。
事实上，脸书的人工智能实验是常规化并且完全无害的，连人工智能专业的学生都能承担这类实验项目。
脸书的系统策划疯狂杀人的可能性和你家的微波炉突然变身成杀手机器人的概率一样大，实话实说，那是根本不可能的。
一方面，我觉得对于脸书事件的报道相当滑稽，但另一方面，这也让我十分沮丧。
问题在于，这样滑稽的报道迎合了大众对人工智能的“终结者式恐惧”
：我们正在创造一些自己无法控制的东西，这会给人类的生存带来风险〔此处你应该能听到阿诺德·施瓦辛格（Arner）在《终结者》影片中经典的角色配音〕。
当然，我们创造出怪物的想法绝不是现代才有的：它至少可以追溯到玛丽·雪莱的《弗兰肯斯坦》。
这种说法仍然主导着有关人工智能未来的争论，现在的人们还经常用讨论核武器的口吻来讨论人工智能的未来。
亿万富翁企业家、贝宝公司（PayPal）和特斯拉公司的联合创始人埃隆·马斯克（ElonMusk）就对此担忧不已。
他发表了一系列公开声明，表达了自己的担忧，并捐赠了1000万美金作为研究经费，支持负责任的人工智能研究。
2014年，当今最著名的科学家斯蒂芬·霍金曾公开表示，他担心人工智能会成为人类生存的威胁。
鼓吹人工智能“终结者式恐惧”
真的会带来很严重的后果，原因如下：首先，它让我们担心一些我们完全没必要担心的问题；其次，它让人们把注意力从真正应该关注的人工智能问题上转移开。
这些问题可能不像终结者幻想那样吸引人的眼球，可以成为头条新闻，但它们才是我们现阶段确确实实应该关注的。
因此，在这一章中，我想解决有关人工智能的“终结者式恐惧”
：类似《终结者》中的毁灭场景，到底有多大可能性出现；并且，人工智能是怎么出错的。
接下来我会从直面这个故事开始，讨论它是怎么发生的，以及发生的概率有多大。
这就会引出对人工智能伦理的讨论——人工智能系统充当道德智能体的可能性，以及已经提出的各种有关人工智能的伦理框架。
最后，我将提醒大家注意人工智能的一个特点，就是它们很容易出故障，尽管还没到特别可怕的程度：如果我们想要一个人工智能系统代替我们工作，那么就需要跟它沟通我们想要的东西。
但事实证明这很难做到，若是我们在传达意愿的时候稍有偏差，或许人工智能系统会给出我们所要求的、但并非我们真正想要的东西。
奇点主义？纯属胡扯!
在当代人工智能中，终结者式的场景通常跟名叫奇点的想法联系在一起，这个想法来源于美国未来学家雷·库兹韦尔（RayKurzweil）于2005年出版的著作《奇点临近》[94]。
奇点临近，其背后的关键思想是，人类创造技术的增速正在加快，技术的力量正在以指数级的速度扩张……在几十年内，以信息为基础的技术将涵盖所有人类的知识和技能领域，最终包括人类大脑自身的模式识别能力、解决问题的技能，以及情感和道德。
尽管库兹韦尔对奇点的定义相当宽泛，但这个术语已经逐渐被当作一个特定概念：奇点是指计算机智能（通用意义上）超过人类智能的一个假想点。
有人认为，到达奇点以后，计算机可以开始运用自己的智能来改进自己，这个过程就会持续自我完善。
之后，这些改进后的机器会用它们改进后的智能进一步改进自身，以此类推。
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！