人工智能的成功有可能是人类文明史上最大的事件，但也有可能是人类文明史的终结！
01
在刚刚过去的3月份，
一个人的逝去和两起车祸，
让人工智能再次成为争论焦点。
3月14日，物理学家霍金离世。
在对霍金的各种追悼里，
他提醒警惕人工智能的话，被无数次引用。
巧合的是，之后的两起车祸，
为“人工智能威胁论”添加了新的证据。
3月18日，美国凤凰城。
49岁的Elaine过马路时，被Uber无人驾驶测试车撞倒身亡。
38岁的华裔苹果工程师驾驶特斯拉Model X
撞上高速路护栏，并起火。
工程师及其父亲遇难。
按照特斯拉的说法，
失事汽车使用了自动驾驶功能(Autopilot)
去年11月，这位工程师
为了庆祝自己入职苹果，买了这辆特斯拉。
出事前，他已多次投诉，
说特斯拉经常驶向障碍物。
02
今年2月份，亚马逊的人工智能也曾“失控”。
2 月 22 日，一名推特用户发布短片称，
“Alexa 在厨房不经意
就笑起来了，真是吓死我们了，
还以为是一个孩子在我身后笑着呢”。
Alexa是亚马逊
基于AI技术推出的语音助手，
相当于iPhone的Siri，但比Siri聪明很多。
这个AI助手可以帮你放歌、播新闻、
买东西、控制智能家居设备…
然而2月底，Alexa失控了。
我正要睡下，Alexa却发出了诡异的大笑…今晚我可能会被谋杀。
诸如此类的吐槽还有很多：
一个用户告诉Alexa关灯，Alexa却不停地把关掉的灯打开，并发出恶毒的笑声；
一个老哥说，他的Alexa半夜自动给老板打电话；
一个用户的智能设备受Alexa“指使”，自动买了猫粮……
对于Alexa的诡异行为，
亚马逊声称已知晓，并采取了一些措施。
包括禁止回应“Alexa，笑一下”这个语音指令。
是恶意软件捣鬼、
某些程序与第三方应用发生冲突，
还是Alexa开始有了自己的意识，
亚马逊并没有公布细节。
霍金
人工智能的真正风险不是它的恶意，而是它的能力。
一个超智能的人工智能在完成目标方面非常出色，如果这些目标与我们的目标不一致，我们就会陷入困境。
03
2月20日，来自 OpenAI、牛津大学、剑桥大学等机构的26 名学者，
在 arXiv 上发表最新研究报告
《人工智能的恶意使用：预测、预防和缓解》
在这份101页的报告中，学者们警告，
“随着人工智能越来越强大，越来越普及，
我们预计，人工智能系统的广泛应用
将导致现有威胁的扩大，
还会引发新的威胁，
甚至改变典型的威胁特征。”
比如这些：
自动攻击、钓鱼、语音合成、数据中毒相关的网络攻击将会增多。
无人驾驶汽车会故意撞击；无人机或变成人脸识别刺客，控制关键基础设施以索要赎金。
可用于左右民众观点，形成高度精准的宣传，传播虚假但可信的文章。
其中的两位重要级人物，
牛津大学教授Miles Brundage
和剑桥大学教授 Shahar Avin
在另一篇报告
《利用AI来犯罪只是时间问题》中指出，
如果不重视安全问题，
罪犯就会利用AI犯罪，
而这只是时间问题。
04
这种观点并非危言耸听。
2017年12月，
日内瓦举办了联合国武器公约会议。
会议上的一段视频曝光了
一个恐怖武器——
杀手机器人。
这个小东西只有蜜蜂一样大，
却蕴含可怕的黑科技：广角摄像头、传感器、面部识别，还有3克炸药。
它能穿透建筑物、汽车，
躲避人类子弹，反应速度比人类快100倍。
只要将目标图像信息输入它的大脑，
就能实现超精准打击。
戴口罩、穿伪装都没用，
因为它的识别率高达99.99%。
“蜜蜂”攻击过程演示
如果把这款造价2500万美元的蜜蜂放出去，
很快就能杀死半个城市的人。
通过面部识别定位，“蜜蜂”轻易杀死了正在上课的一班学生。
