学院动态

SHC春秋讲堂第三讲——江晓原:为什么人工智能必将威胁我们的文明

    4月26日晚,上海交大科学史与科学文化研究院“SHC春秋讲堂”再次开讲,院长江晓原教授做了题为“为什么人工智能必将威胁我们的文明”的学术讲座。讲座开始,可以容纳50余人的大会议室座无虚席,并有听众源源不断赶来站着听完了整场报告。

    人工智能(Artificial Intelligence, AI)的崛起带来了深刻的社会变化,江晓原教授首先阐明了“所有人都有资格谈论人工智能”的基本观点,并对“人工智能还很弱小,所以应当推进研究与开发”的想法做出澄清。

    接下来,江老师向大家从三个层次分期讲述人工智能将给人类带来的威胁。人工智能的近期威胁是大批失业和军事化,当人工智能可以取代大部分工作岗位的时候,社会将变得非常不稳定,酝酿危机。而研发军事用途的人工智能,就是研发更先进的杀人武器,当然不是人类之福。

    人工智能的中期威胁是人工智能的反叛和失控。这种威胁媒体早有报道,在各类影视、文学作品中也多有表现。江晓原教授指出,一些人工智能专家提出的设定道德戒律的方法,其实是不可行的。人工智能会比人类更聪明,人类尚且不能保证让自己的后代不学坏,又如何保证人工智能不学坏呢?而一旦人工智能与互联网结合后出现失控,将产生更为可怕的后果。

    人工智能远期威胁更值得我们深思。人们熟知阿西莫夫著名的“机器人三定律”,却常常忽视他的另一个告诫——所有依赖于人工智能的文明都是要灭亡的。从根本上来说,人工智能像我们现在所希望、所想象的那样无所不能,听话,不学坏,但是这样的人工智能将最终消除我们人类生存的意义。试想所有的事情都由人工智能替人类干了,人类活着干嘛?

     江晓原教授认为,人工智能绝不仅仅是一场比赛、一个应用这么简单,它给人类带来的变革是非常深远的。面对人工智能,我们必须思考人类生存的意义,而中国今天应有的态度是:首先,不要盲目歌颂人工智能;其次,要以搞两弹一星的心态来搞人工智能。

     本场讲座引发了在场听众的思考和共鸣,激起热烈讨论,演讲结束后,大家还就人工智能的定义、人工智能的伦理问题、科学乐观主义与悲观主义等多个问题进行了长达40分钟的深入交流与探讨。

版权所有©2016 上海交通大学科学史与科学文化研究院   沪交ICP备20160097

技术支持 : 维程互联