网站首页 > 医药 > “暗黑版”AI现身引忧虑 我们需要怎样的人工智能?

“暗黑版”AI现身引忧虑 我们需要怎样的人工智能?

2019-07-11 12:24:42 来源:益店绒娘网 作者:网站编辑 阅读:1518次

名如其人。诺曼会以负面想法来理解它看到的图片。例如,一张在一般AI看来只是“树枝上的一群鸟”的普通图片,在诺曼眼中却是“一名男子触电致死”。

作恶还是向善,是人类的选择

中国青年网北京3月7日电近日,黄宏被宣布不再担任八一制片厂厂长,引发舆论讨论。3月6日上午,黄宏也在八一电影制片厂做了简短的离职陈述,正式卸任八一厂厂长。通报会上强调黄宏的离职是“正常调动,他的职务可能会有别的安排”,但并未说到黄宏的具体工作走向。该知情人表示,“黄宏来八一厂后,起色挺大的,拍了几部片,反响都不错,很有能力。”据悉,与黄宏同时被宣布职务调整的还有八一厂政委张振仓,新政委已于3月4日到任。不过另一方面,接替黄宏的人选还并未公布。

6月17日,广东省揭阳市在向中央第五环境保护督查组汇报整改情况时表示,揭阳市目前“对一些治理周期长、治理效果难以立竿见影的重大项目和重点工作推进不够坚决有力”。据悉,揭阳市目前正面临着传统产业转型升级缓慢的窘境。同时,生态环保投融资机制不完善,治理资金缺口大。

最近,她在关注公交卡的问题,“成本一两元,但收工本费就是30元,每年再扣0.5元损耗费,如果遗失补办,还要收30元。为这个,办理窗口经常吵架。”这个问题涉及千家万户,她打算反映到市作风办。

消息引发业内关注。第四范式是一家专注于提供人工智能技术与服务的初创企业。据悉,第四范式团队目前已为金融、电信、互联网等领域的100多家企业成功打造人工智能解决方案。创始人戴文渊专注于人工智能“迁移学习”等领域的研究,曾任百度“凤巢”系统总架构师、华为诺亚方舟实验室主任科学家。

与腾讯类似,网易游戏对公司的营收贡献率已经从2016年的69%下降至2018年的30%,这一方面是因为其非游戏收入(主要为电商)大幅增长,另一方面则是因为网易的游戏收入净增长逐渐下降,2018年同比只有39亿元的增幅。

另外是算法本身的影响。“这可能是无法完全避免的,由深度学习算法本身的缺陷决定,它存在内在对抗性。”王金桥表示,目前最流行的神经网络不同于人脑的生物计算,模型由数据驱动,和人类的认知不具有一致性。基于深度学习的框架,必须通过当前训练数据拟合到目标函数。在这个框架之下,如果机器要识别狗,它会通过狗的眼睛、鼻子、耳朵等局部特征进行可视化识别,而这些可视化特征却能给想利用深度学习漏洞的人机会,后者可以通过伪造数据来欺骗机器。

前段时间,据路透社报道,韩国科学技术院的人工智能研发中心正在研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术,希望在今年年底前研发出基于人工智能的导弹、潜艇和四轴飞行器。此事引发学术界的巨大震动,抗议纷至沓来,并最终以院长保证无意于“杀手机器人”的研发并重申人类尊严和伦理收场。在美国,以“不作恶”为纲的谷歌也因与国防部的合作协议涉及“Maven项目”被推上风口浪尖,反对者普遍认为,识别结果完全有可能被用于军事用途,比如说精准打击。谷歌最终表示终结协议。

因此有一种看法很主流——人类训练有意识、有自我觉知的人工智能是不明智的。开个脑洞,机器一旦发展出自我意识,要反向攻击人类,场面或许失控。

据有关媒体报道,在谷歌研究自然语言处理的科学家DaphneLuong表示,正确地校准标签对机器学习来说非常关键,有些数据集其实并不平衡,像维基百科上的数据,“他”(He)出现的次数远比“她”(She)要多。

偏见、刻板印象、歧视都是人类社会的痼疾,有些流于表面,有些深入社会肌理,无法轻易剥离。在这样的语境中产生的数据,携带着大量复杂、难以界定、泥沙俱下的观点。如果研究者没有意识到或着手处理这一问题,机器学习的偏见几乎无解。真正的“公正算法”或许是不存在的。

去年12月,梧州市公安部门发现,梁某东、方某平有利用网络非法买卖枪支的嫌疑,随即组织精干警力成立“12·01”“12·08”专案组循线深挖。

在《普通高等学校研究生国家奖学金评审办法》中,并未具体要求学生成绩。对于评选办法,高校应根据学校自身情况,以研究生的道德品质和学习成绩为基本条件,科学合理地制定研究生国家奖学金评审指标体系。

数据的均衡或可减少“跑偏”

报道称,长征十一号火箭是新一代中国运载器中唯一的固体运载火箭。这一20米高、58吨重的火箭主要用于发射较小的卫星,可同时将多颗卫星带入太空。据报道,此次发射了两颗技术试验卫星和五颗商用卫星。

TA们的偏见就是人类的偏见

12月23日,开发商中德红谷投资有限公司发布了一份情况说明称,“高新华皓医院”运营总监丁某因业主维权造成的巨大工作压力,私自组织同事对维权业主采取过激行为。

“很多人提到AI总是一惊一乍,把AI说成超人。我相信人工智能是能解决问题的,但大家的期待也要在合理范围内。人和机器各有优势,技术会服务于特定场景,但也不需要把AI捧上天。”接受科技日报记者采访时,思必驰北京研发院院长初敏博士忍不住“抱怨”了一下。看来“我们需要怎样的AI”这一题,大家都还没有答案。

新华社西安9月20日电 题:陕西安康:毛绒小玩具撑起山区大产业

中新网12月17日电据河北省监察厅网站消息,张家口市人大常委会副主任、市工商联主席武凤英违反中央八项规定精神,大操大办其母丧事,并借机收受礼金,受到行政记大过处分。

团队希望通过诺曼的表现提醒世人:用来教导或训练机器学习算法的数据,会对AI的行为造成显著影响。AI会成为什么样,有时人类可能束手无策。

专案组并没有满足于现状,而是马不停蹄地乘胜追击。

智能穿戴设备吸引观众。汤彦俊摄

“机器学习的模型本身也要有一定的防攻击能力,从技术上防止本身结构设计的漏洞被攻击,研究者可以使用各种数据攻击机器,训练机器的反攻击能力。”王金桥说。

相较于舆论环境的忧心忡忡,研究者对“技术向善”普遍乐观。他们认为把AI和“杀人机器”联系在一起,近乎“捧杀”,夸大AI能力之余,也引发不明真相的公众恐慌,无益于人工智能的发展环境。

地方大数据产业正在密集迎来政策利好。《经济参考报》记者获悉,开年以来贵州、湖南等多个省份相继出台系列细化政策,包括培育大数据产业主体,实施智慧农业、智能驾驶行业创新应用等,瞄准千亿产值目标加快大数据产业发展。业内预计,2019年我国大数据核心产业规模有望突破7200亿元,四川、重庆、贵州西部三省市或将接棒东部地区成为大数据产业的领跑省份。

除了人训练机器的数据本身有偏差以外,机器通过对抗性神经网络合成的数据也可能有问题。由于机器不可能“见过”所有东西(比如识别桌子,机器不可能学习所有长短宽窄各异的桌子),人也不可能标记所有数据。如果研究者输入一个随机的噪音,机器可以向任何方向学习。这是一把双刃剑,机器也可能合成一些有问题的数据,学习时间长了,机器就“跑偏”了。

1942年,阿西莫夫在短篇小说《环舞》中首次提出著名的机器人三定律:机器人不得伤害人类,或因不作为使人类受到伤害;除非违背第一定律,机器人必须服从人类的命令;除非违背第一及第二定律,机器人必须保护自己。半个多世纪过去,人工智能在大数据的加持下迎来爆发式发展。某些专用型人工智能把人类智能甩在身后,人们开始担忧,机器伤害人类的那一天是不是不远了。

5月29日是联合国国际维和人员日,古特雷斯为此提前发表书面致辞。他向100多万在联合国旗帜下服过役的男女维和人员表示感谢,并向3700多名献出宝贵生命的维和人员致敬。

记者登录搜房网查询发现,目前罗湖在售的楼盘如深业东岭的参考均价为7万/平方米,信义金御半山3期参考均价为6.3万/平方米。所以如果仅以面积最大的这户人家计算,其住宅类物业的市场价值就至少1个多亿。

王金桥也着重强调了“数据的均衡”。就算对人来说,不同人秉持着不同的价值观,但多听多看多受教育可以让人向良好的方向改进。机器学习也是如此。“训练机器时,要注重数据的均衡,给它更多可靠的数据。研究团队成员具有多元的学术背景(如吸纳更多社会学、心理学等领域学者加入)、性别、年龄、价值观,也可以帮助机器学习更加均衡,减少机器出现偏见、谬误甚至失控的可能。”王金桥说。

孙光荣还表示,中医药事业发展涉及文化、卫生、教育、科技、农业、林业、工业、商务、药品食品监管等多部门,为避免“多龙治水”局面出现,建议即将出台的《中医药法》应明确建立跨部委的常态化决策机制。

“人工智能识别出的结果不是凭空而来,是大量训练的结果。如果要训练AI某一方面的能力,比如下棋,就需要收集、清洗、标记大量数据供机器学习。如果用于训练的数据不够多,就会造成AI学习的不充分,导致其识别结果的失误。”中科院自动化研究所研究员王金桥对科技日报记者表示。数据本身的分布特性,如偏差甚至偏见,也会被机器“有样学样”。针对诺曼的表现,创造它的实验室也指出,“当人们谈论人工智能算法存在偏差和不公平时,罪魁祸首往往不是算法本身,而是带有偏差、偏见的数据。因为当前的深度学习方法依赖大量的训练样本,网络识别的特性是由样本本身的特性所决定。尽管在训练模型时使用同样的方法,但使用了错误或正确的数据集,就会在图像中看到非常不一样的东西”。

近日,麻省理工学院媒体实验室出品了一个“暗黑版AI”,再次将人工智能的黑箱隐忧这个经久不衰的话题送上热门。据报道,实验室的三人团队联手创造了一个叫诺曼(Norman)的人工智能,与希区柯克经典电影《惊魂记》中的变态旅馆老板诺曼·贝兹同名。

不仅如此,台当局反复拿“共谍”议题进行炒作。此前台北地检署认定大陆学生周泓旭“以资助方式吸收新党成员王炳忠等人在台发展组织”,将以违反台当局所谓“国安法”发展组织罪为由,起诉周泓旭、王炳忠等多人。国台办新闻发言人马晓光以非常严厉的措辞,对此进行了回应。他表示,我想,这样一种丧心病狂的行为,必将受到两岸同胞的一致反对和谴责,当然也阻挡不了两岸各界民众要交流、要合作的共同民意和两岸交流的历史趋势。

五、支持雄安新区推行“证照分离”改革试点。通过开展“证照分离”改革试点,进一步清理和取消一批行政许可事项,提高办理行政许可事项的透明度和可预期性,释放企业创新创业活力,增强经济发展动力。严格按照“谁审批、谁监管,谁主管、谁监管”的原则,做好“证照分离”改革后事中事后监管体制机制建设,探索各项监管措施创新。

“港津交流,贵在交心。”天津市委统战部副部长唐瑞生说,相信实习交流活动能够不断增进香港和内地青年的友谊。

诺曼们从哪来?答案首先藏在数据里。

不少科学家以“garbagein,garbageout”来形容“数据和人工智能的关系”。中科视拓(北京)科技有限公司CEO刘昕说:“对机器学习而言,进什么就出什么。监督学习就是让模型拟合标签,比如训练者把帅哥都标记成‘渣男’,那么机器看到刘德华,就会认为他是……”谈到诺曼引发的讨论,刘昕表示:“不需要担心,人类本身就有各种歧视和偏见,用人类生产的数据训练AI,再批判AI不够正直良善,这么说有点危言耸听。”

晚上9点半,一名身高近一米八的光头男子走到休息区前,大喊一声,“游戏开始了!”

青年汽车:这个问题,我们跟你说,现在还正在从实验室推出来,还没有进入市场。

中国化工产品网

相关新闻

文章部分转载,仅供学习和研究使用。如有侵犯你的版权,请联系我们,本站将立即改正。

网站简介 | 版权声明 | 联系我们 | 广告服务 | 工作邮箱 | 意见反馈 | 不良信息举报 | 

Copyright @ shoessea.com All Rights Reserved

版权所有 益店绒娘网