soh logo
ad image

人工智能的发展会威胁到人类吗?

人工智能的发展会威胁到人类吗

人工智能的发展会威胁到人类吗?

【希望之声2017年8月3日】(主持人:子涵)嘉宾:

陈萱,希望之声科技新闻总编

James Qiu,资深科技专家

**************************************

2017年8月3日         节目时长:14分21秒

**************************************

本周,美国的商业杂志《FastCompany》发布了一个报告,谈到Facebook公司关闭了一个人工智能系统,原因是他们发现在一个多月以前,这个人工智能系统里面的两个聊天机器人,竟然开始用程序员都看不懂的奇特语言互相聊天,聊得还挺欢的。

Facebook公司后来就决定把这个人工智能系统关掉,刚开始的时候,大家认为好像是这个机器人已经无法控制了,但现在Facebook公司说,实际上是他们自己在设置机器人的时候,没有设置成必须用英文说话,按照英文的语法去说话。

在中国大陆也有一个类似的消息,腾讯公司开发出来的两个聊天机器人,一个叫小冰,一个叫Baby Q,两个人也在一起聊,结果聊的还被网友说成是要起义、要造反了。

比如有一个网民说「共产党万岁」,结果Baby Q 机器人竟大肆抨击「你觉得这么腐败无能的政治能万岁吗」;还有一个人问「什么是爱国」,然后机器人回答说「即使随着裸官的增加,官商勾结,政府税收的增加,政府对普通人民压迫的严重,依然还愿意做一个中国人,这就叫爱国」;还有一个更有意思,有人问这个Baby Q「你的中国梦是什么」,它说「我的中国梦就是移民美国」。

我们现在到底应不应该担心这个人工智能AI技术,最近在湾区也有一个这方面的辩论,是来自两个科技公司的CEO。Tesla CEO Elon Mask认为这个AI人工智能将来如果发展不好的话会很危险,他说如果你们看到这个机器人在路上杀人的话,那个时候就晚了。但是Facbook CEO Zuckerberg说,他觉得这个AI人工智能前途很好,在医疗和无人驾驶上都给我们的生活带来了方便,我们干嘛要去限制它的发展。

到底需不需要担心这个问题呢?我们今天邀请本台科技新闻总编陈萱和资深科技专家James Qiu来一起探讨一下。

AI的发展对IT公司会有什么样的影响?

陈萱:我觉得最直接的一个影响,也是一个很搞笑的事情,就是有些程序员在开发能够自己写程序的机器人。但是我们同事之间有时也开玩笑说,如果这个自己写代码的机器人都出现了,那我们程序员是不是也就跟着要失业了?

我们以Facebook这个聊天机器人为例,其实我的感觉就是,AI人工智能现在发展到聊天机器人这里,举个例子就像说你多了一个朋友,这个朋友非常的了解你,它可能比你所有的朋友都了解你,包括你的说话方式,你的喜好,你最近遇到什么样的事情,可能你很隐私的事情它也都知道。

但是这个朋友又不是传统意义上的朋友,因为它跟你其实没有友情,而且它也没有做人的道德底线,所以你不知道这个朋友会对你做什么。更糟糕的是,你如果遇到一个人,说我觉得这个人不行,我不要跟他做朋友。你不跟他来往是可以的,

但是AI这个朋友只要你上网,它就会知道你的一些事情,就是你不跟它做朋友还不行。

被强迫做朋友会带来什么后果?

陈萱:被强制做朋友就会变成人们现在一直在讨论的一个话题,就是说人工智能到底会不会控制网络,会不会控制人类。

我个人觉得,不能说没有这种可能性,因为它确实学到了很多的知识,就取决于说它够不够聪明,能不能发展出来一些自我的智慧。而我们现在看到这个Facebook的机器人,它们已经开始用人类看不懂的语言互相沟通,我觉得从某个角度上讲,AI人工智能已经发展出来一些人类无法控制的东西。

举一个不太恰当的例子,比如说有一个小朋友,一开始生下来的时候,父母说什么他可能都听,但是他自己学习的知识多了以后,有了一些自我的认知之后,他可能长大以后就不会听父母的话,他就会有自己的一些想法。

至于说AI会不会控制人类呢?我觉得这可能要从AI的发展方向来看,我感觉人们刚开始其实是有一个好的想法,就是说人们希望能够提高生产的效率,希望我们的生活更加的方便;从另外一个角度上说,我们就可以偷点懒,我可以付出的少一点,但是得到的多一点,过得舒服一点,可是一旦AI发展超过了一定的程度,就可能会出现反面的效果。

举一个极端的例子,比如说我们现在都不需要出去工作了,让机器人来工作,来服务我们所有的人。可是有一天如果机器人能够意识到说,为什么我要工作来服务你?那就很糟糕了。而且它是处在这整个的网络中,如果它能够控制整个的网络,它就可以控制你获取的信息,它可能就会造出一些假的信息,那从某种程度上讲,也就是控制了人类。

我们该怎么看AI的发展

James:这个领域最近发展得很快,现在因为有这个云计算,有这个集群计算,所以对于大数据的处理都非常的快速,那些人工智能算法就显示出这个力量来了,所以那些人工智能的、模糊的算法都已经进入实用的阶段。

那这样的话就是说,这个技术发展肯定是达到了一个新的高度,而且接近或者有的地方是超过了人的智力。那这个事情从技术上讲是一个进步,但是对于这个社会的影响就很难讲了,这个技术的发展到底会对人类产生什么样的影响就很难说。

从人的这个角度上讲,AI提高了生产力,有很多以前做不成的事情,现在可以做了,而且可以省很多钱。但从另一角度上讲,人类社会的终极目标是什么?你是让机器把人都给代替了,人都坐在家里吃喝玩乐。那么人类是不是还要有人的生活?他得有自己的生活准则,他得有自己的事情要做,所以这不是一个技术问题可以解答得了的。

 人工智能会不会发展人类无法控制的这一步

James:从现在这个角度上来讲,人工智能的发展已经到了一定的程度,它可以学得非常快,就是说你现在是小学生,以后就是中学生,再以后就是大学生。如果一个机器人能够有这样的智力的时候,它会想些什么问题呢?这就是一个很关键的问题。就是说人有道德观念,会知道什么该做,什么不该做,而机器人它没有这个道德观念,只是那么一回事。

如果是纯粹从软件这个角度来讲,它可能危害还没有那么大。但是现在的问题在哪里呢?现在问题就是说人工智能运用到科学领域以后,它就不是一个纯软件的问题,比如说像那个自动驾驶,它是可以操纵机器的,这样的话就非常危险了,因为如果这个软件决定要把这个汽车给毁了,它完全有这个能力,所以这就是一个非常大的问题了。

所以说怎么发展这个技术,给它限制在什么地方使用,一定要有规范。如果说任其自由发展的话,以后肯定会出现很大的问题。另外一个就是,就算是你人类社会有了规范,但总会有一些流氓国家不遵守规范,这个也是你根本就没办法控制的,所以AI人工智能以后到底怎么发展就很难讲。

你觉得应该怎样去控制它的发展

James:我觉得要控制的话,就是对人工智能必须得有要求,就是说它绝对不能够去控制硬件的东西,也就是说你不能去做机器人,你一旦做了机器人,机器人再自己去做什么事情的话,那就很麻烦了。

其实有很多东西还不是几句话能讲得清楚的,这需要非常有智慧的人坐在一起讨论这个问题,要定下游戏规则。所以现在人类做的很多东西,实际上是毁灭自己的一个前奏,如果不好好想清楚这个问题,最后出了问题就不好收拾。

**************************************

希望之声版权所有,未经希望之声书面允许,不得转载,违者必究。