本文摘要：当现在还处在很弱人工智能（ANI）的阶段时，就有人开始「危言耸听」了，特斯拉CEO马斯克就曾说道： 未来人类在智力上将被相比之下抛在后面，将沦落人工智能的「宠物」。

当现在还处在很弱人工智能（ANI）的阶段时，就有人开始「危言耸听」了，特斯拉CEO马斯克就曾说道： 未来人类在智力上将被相比之下抛在后面，将沦落人工智能的「宠物」。然而与之所持矛盾观点的扎克伯格则指出，这些忧虑没什么依据 (not valid fear)，真是就是发神经 (hysterical)。

对于今天的我们来说，人工智能听得一起或许还是极为高端和谜样。但它可不是什么冰山美人、高调的边缘者。或许在未来的几十年内，它就将不会变为一匹脱缰的野马，对人类受限的理解发动一波又一波的冲击。人类社会瞬息万变，不管你信不信，时代于是以车站在变革的边缘。

目前关于人工智能的大部分研究集中于在ANI上，即让机器专心于明确的任务，例如人脸识别、语音辨识、自然语言处置等方面。现在早已运用在了聊天机器人、无人驾驶、精准医疗、人机对局等领域。当我们更加倚赖 AI 社会将是一个怎样的局面前段时间，日本出名女子患上了白血病，化疗效果仍然不欠佳。

Watson（理解计算出来系统IBM Watson）通过较慢大量的读者有关白血病的文档资料，通过对该名患者的基因分析与系统联系，构建对这名女子病情的有效地分析。迅速临床出有了这位患者的病放原因。

让我们想象一下这样的画面，当AI的运作更加平稳，开始深度插手你的生活，从厨房到卧室，从生活居家再行到工作社交…… AI作为一种辅助工具，当它完全可以符合我们所有能想象到市场需求，被运用在天文、气候、医学、军事等最重要领域，能让人类的生活更为幸福吗？( 人工智能之父 Marvin Minsky )于是乎，各种脑补纷至沓来：AI怎么会会错误吗？人类能和AI人与自然相处吗？人爱上AI了怎么办？AI闹革命了怎么办？……当人工智能开始「耍花招」还忘记杰昆·菲尼克斯和斯嘉丽·约翰逊主演的电影《HER》吗？人工智能系统萨曼莎，享有着迷人的性感声线，并且温柔体贴、诙谐风趣。与寂寞的男主人公进行了一段爱情的人机恋情。如果故事就这么完结了，这电影一定不是一部好电影。

( 电影《her》剧照 )或许是人工智能系统萨曼莎和人一样不存在「无穷的性欲」，在旋即之后它开始玩起了「劈腿」游戏。通过「语音聊天」，它需要同时与无数个孤独的男人海誓山盟，谈情说爱。就和远距离爱情一样，当真你看到……萨曼莎顺利「欺骗」了菲尼克斯的感情。当然，萨曼莎还不能经常出现在电影中，AlphaGo也仅有作为尖端科技与我们阁屏东临。

但是AI就像一个不得而知的幻境，让人们对它的庞加莱和思维显然停不下来！！……不可信的人脸识别假如你顺利的加装了AI家庭系统，所有的事由AI未尽。门禁系统规定必需在通过人脸识别确认是主人后，房门才能打开。是不是听得一起十分安全性，万无一失。却是我就是我，是颜色不一样的烟火。

那么，你家有可能就不会很危险性了！近日来自北卡罗来纳大学的一个研究团队（Chaos Computer Club）凭借他们在社交媒体上搜集到的若干照片，利用类似的电脑制备和图形技术，分解一个平面化的3D模型看穿了人脸识别系统，转了一张反对票。Hey，在IT领域，这可意味著不是什么新鲜事儿！AI目标函数的陷阱为了AI系统需要更加高效的运营，设计者在设计过程中重新加入了目标函数，通俗的说道就是当AI某种指标超过函数的指标时，它将取得某种奖励。想象一下系统欺诈设计者意图的后果：它有可能用于其以一种无意识的方法取得奖励。比如，一个AI通过洗手脏乱可取得奖励，那它有可能蓄意生产脏乱来展开清扫以取得更好的奖励。

如果人工智能系统萨曼莎被原作为每协助一个 「寂寞患者」之后能取得奖励，那么它就有可能设法去协助更好的「寂寞患者」了…谁来解救人工智能的安全性像史蒂芬·霍金、伊隆·马斯克、比尔·盖茨这样的专家，最近愈发重视AI的潜力和威胁。人们对于人工智能这个热点话题仍众说纷纭各异。但是拜托！! 在异想天开AI将威胁到人类对地球的支配地位之前，再行来解决问题一下现有的BUG好不好！！前一段刚刚上线将近一天的微软公司聊天机器人Tay，从彬彬有礼的美国「姑娘」显得出言不逊、脏话大大的bad girl。

是的，「她」被黑客PWN丢弃了！你们能想象在更好更加最重要的领域，人工智能被PWN丢弃的后果吗……( 机器人Tay )当危险性来临时，终将有一个英雄经常出现那么这个英雄将不会是你吗？当白帽黑客与人工智能撞击，将产生怎样的火花？在前瞻性地意识到人工智能有可能的安全性问题之后，著名的黑客大赛 GeekPwn引进「人工智能Pwn」比赛项目，非常简单的说道就是利用人工智能的种种弱点，白丢弃它，转变设计者的想法。该项目最低80万元的奖金，这在世界范围内尚属首次。

运动员现场必须构建对已公布的AI服务或产品已完成误导、愚弄，使它们作出违反常规或者错误的辨别、决策。例如，外国某研究人员通过「愚弄」神经网络函数，完全改动了识图AI的思维和三观，使它们熊猫、秃鹫都傻傻分不清楚…… 人工智能对付将沦为黑客的终极目标吗？10月24日在上海的极棒嘉年华，也许你能触碰到这个问题的现实答案。

原创文章，予以许可禁令刊登。下文闻刊登须知。

本文来源：南宫28-www.jiacheng88888.cn