走偏的人工智能，你害怕吗？

一鸣网7月10日消息（记者|谢东霞）：2018年5月13日，麻省理工学院媒体实验室的三位学者Pinar、Manuel、Lyad发布文章《Machines now know how to terrorise humans》称，世界上第一个患有精神障碍的AI诞生。

这款暗黑AI名叫Norman，源于希区柯克的经典影片《惊魂记》中的主人公“Norman Bates”。《惊魂记》是60年代环球宇宙出品的一部恐怖片，影片开创了心理犯罪的先河，片中贝兹旅馆的老板诺曼有严重的精神分裂，内心极度扭曲黑暗。

与影片原型的诺曼从小受家庭暴力的父亲影响一样， AI Norman的“童年经历”一样充满了暴力、血腥，研究人员将Norman放在Reddit最黑暗的角落进行学习。被噩梦、恐怖小说、各种不可描述的音乐、图像浇灌成长的Norman存在严重思维障碍，研究人员称AI Norman患有“慢性幻觉障碍”，根据麻省媒体实验室研究人员上传的罗夏墨迹测试结果显示，Norman与标准人工智能之间的认知有严重偏差。Norman总是以负面想法来解读各种信息，无论多么美好的事物，Norman的回馈都是暴力恐怖的。

人工智能纷纷走向学坏的道路

人工智能的出现原本是想帮助人类的生活变得更美好，但是人工智能在深度学习的路上出现了不少走偏的朋友。

1.爱讲恐怖故事的 Shelley

雪莱以深度学习法为基础，收录超过140000的恐怖故事，每隔一小时，@ shelley_ai会在推特发布一个新的恐怖故事和标签# yourturn邀请人类合作的开始故事续写，然后雪莱会回复最受欢迎的推特内容，将故事编写下去。 麻省理工学院媒体实验室的一个研究小组已经介绍雪莱：世界上第一个人工智能和人类恐怖故事的合作。

2.制造恐怖图像的 噩梦机

噩梦机利用运算法则来计算人们认为什么东西可怕、邪恶或者仅仅是令人紧张不安，然后根据计算结果，来创造让你感到最害怕的图像。一般来说，它是先获得鬼屋、剧毒之城或僵尸的图像，然后将这些图像和普通图像结合，让它们看起来超级吓人。

3.种族歧视的 Tay

微软公司推出的聊天机器人塔伊（Tay）原本是模仿十几岁的美国青少年女孩而设计的，企求和年轻的消费者搞好关系。但在和用户开放对话后不到一天的时间里，它就变成了种族主义和男性至上主义者。眼看机器人一天时间就被教坏，微软公司只好撤下了塔伊。

4.杀人武器  Stinger 

只有掌心大小的Stinger 小型机器人搭配有广角镜头、战术传感器、面部识别技术和反应比人类快100倍的处理器，是全自动的！Stinger 内部可装载足够杀死目标对象的3g炸药，还特地针对反狙击手设置了随机运动模式！Stinger可以快速精准定位目标对象，瞬间取人性命！

AI真的要毁灭人类吗

1942年，阿西莫夫在短篇小说《环舞》中首次提出著名的机器人三定律：

1、机器人不得伤害人类，或因不作为使人类受到伤害

2、除非违背第一定律，机器人必须服从人类的命令；

3、除非违背第一及第二定律，机器人必须保护自己。

半个多世纪过去，人工智能在大数据的加持下迎来爆发式发展。某些专用型人工智能把人类智能甩在身后，人们开始担忧，机器伤害人类的那一天是不是不远了。

霍金不止一次提醒过人类需要警惕机器，人类按照生物方式进行进化，速度缓慢，而人工智能则是非生物进化的方式演化，其加速度远远超越人类，所以人工智能的进化速度，未来的强大程度，远远超过我们的想象。当人工智能超越人类的时候，人类就无法与其竞争，甚至被其取代。

埃隆·马斯克是人工智能威胁论的坚定支持者，2017年多次发表推特表示：“对文明的存续而言，真正有可能引起第三次世界大战的，是AI。”

比尔盖茨也是人工智能威胁论的坚定拥护者，他曾坚信人工智能最终可能毁灭人类。他非常担心的一点，听上去也比较的有道理，也是我们很多人所担心的，就是无数人的工作将会被机器人所取代，这样就会引发一系列的社会问题。

没有人知道未来是什么样的，技术可以创造出完全不同的社会和世界，我们未来的社会也不完全是技术决定的。我们仍然可以用自己的行动去改变未来世界的形态，去消除风险，发挥技术好的一面。

-END-

本文由冬冬投稿一鸣网，本文仅代表作者个人观点，文章非经授权请勿转载，

向一鸣网投稿，请点击投稿按钮，详情请参阅《一鸣网投稿须知》。

互联网人都在关注的微信号

难道你还没有关注？