欢迎光临蚌埠都市在线-最前沿的时尚资讯!
 首页  新闻动态 社会热点 国内新闻 体育资讯 国际新闻 军事新闻 娱乐焦点 时尚快讯 手机快讯 消费购物 财经新闻 健康饮食 文化交流 旅游资讯 教育动态 科技资讯 健康快讯 生活资讯 游戏资讯 奇闻趣事
当前位置:首页 > 旅游资讯 > 正文
人工智能变得越来越恶毒?我们怎么办
字号: 时间:2018-04-15 21:01:09 来源:证劵日报
文章摘要:人工智能的成功有可能是人类文明史上最大的事件,但也有可能是人类文明史的终结!01在刚刚过去的3月份,一个人的逝去和两起车祸,让人工智...

人工智能的成功有可能是人类文明史上最大的事件,但也有可能是人类文明史的终结!

01

在刚刚过去的3月份,

一个人的逝去和两起车祸,

让人工智能再次成为争论焦点。

3月14日,物理学家霍金离世。

在对霍金的各种追悼里,

他提醒警惕人工智能的话,被无数次引用。

巧合的是,之后的两起车祸,

为“人工智能威胁论”添加了新的证据。

3月18日,美国凤凰城。

49岁的Elaine过马路时,被Uber无人驾驶测试车撞倒身亡。

人工智能变得越来越恶毒?我们怎么办

38岁的华裔苹果工程师驾驶特斯拉Model X

撞上高速路护栏,并起火。

工程师及其父亲遇难。

按照特斯拉的说法,

失事汽车使用了自动驾驶功能(Autopilot)

去年11月,这位工程师

为了庆祝自己入职苹果,买了这辆特斯拉。

出事前,他已多次投诉,

说特斯拉经常驶向障碍物。

人工智能变得越来越恶毒?我们怎么办

02

今年2月份,亚马逊的人工智能也曾“失控”。

2 月 22 日,一名推特用户发布短片称,

“Alexa 在厨房不经意

就笑起来了,真是吓死我们了,

还以为是一个孩子在我身后笑着呢”。

人工智能变得越来越恶毒?我们怎么办

Alexa是亚马逊

基于AI技术推出的语音助手,

相当于iPhone的Siri,但比Siri聪明很多。

这个AI助手可以帮你放歌、播新闻、

买东西、控制智能家居设备…

然而2月底,Alexa失控了。

人工智能变得越来越恶毒?我们怎么办

我正要睡下,Alexa却发出了诡异的大笑…今晚我可能会被谋杀。

人工智能变得越来越恶毒?我们怎么办

诸如此类的吐槽还有很多:

一个用户告诉Alexa关灯,Alexa却不停地把关掉的灯打开,并发出恶毒的笑声;

一个老哥说,他的Alexa半夜自动给老板打电话;

一个用户的智能设备受Alexa“指使”,自动买了猫粮……

对于Alexa的诡异行为,

亚马逊声称已知晓,并采取了一些措施。

包括禁止回应“Alexa,笑一下”这个语音指令。

是恶意软件捣鬼、

某些程序与第三方应用发生冲突,

还是Alexa开始有了自己的意识,

亚马逊并没有公布细节。

霍金

人工智能的真正风险不是它的恶意,而是它的能力。

一个超智能的人工智能在完成目标方面非常出色,如果这些目标与我们的目标不一致,我们就会陷入困境。

03

2月20日,来自 OpenAI、牛津大学、剑桥大学等机构的26 名学者,

在 arXiv 上发表最新研究报告

《人工智能的恶意使用:预测、预防和缓解》

在这份101页的报告中,学者们警告,

“随着人工智能越来越强大,越来越普及,

我们预计,人工智能系统的广泛应用

将导致现有威胁的扩大,

还会引发新的威胁,

甚至改变典型的威胁特征。”

比如这些:

自动攻击、钓鱼、语音合成、数据中毒相关的网络攻击将会增多。

无人驾驶汽车会故意撞击;无人机或变成人脸识别刺客,控制关键基础设施以索要赎金。

可用于左右民众观点,形成高度精准的宣传,传播虚假但可信的文章。

其中的两位重要级人物,

牛津大学教授Miles Brundage

和剑桥大学教授 Shahar Avin

在另一篇报告

《利用AI来犯罪只是时间问题》中指出,

如果不重视安全问题,

罪犯就会利用AI犯罪,

而这只是时间问题。

人工智能变得越来越恶毒?我们怎么办

04

热门推荐

查看更多精彩

精彩推荐

热门车型

进入车系

car

哈弗H6

厂商指导价(万):8.88-14.68万

级别:紧凑型SUV

保修:3年或6万公里

变速箱:手动|自动|双离合

排量(L):1.3T|1.5T|2.0T

油耗(L):6.8L/100km

上一篇:2018安徽军转干公基:农村独生子女家庭可享4项福
下一篇:最后一页