设为首页 | 加入收藏 | 关注我们
网站首页 > 佛学 > “暗黑版”AI现身引忧虑 我们需要怎样的人工智能?
  • “暗黑版”AI现身引忧虑 我们需要怎样的人工智能?
  • 2019-07-11 12:50:19 来源:曼日共何网
  • 5月4日,珠海市魅族科技有限公司(魅族)证实,珠海基金珠海虹华新动能股权投资基金正式投资魅族,根据协议约定,其拥有一个董事席位。魅族强调,公司最大股东和实际控制人为黄章(即魅族创始人黄秀章),管理层团结稳定。

    团队希望通过诺曼的表现提醒世人:用来教导或训练机器学习算法的数据,会对AI的行为造成显著影响。AI会成为什么样,有时人类可能束手无策。

    名如其人。诺曼会以负面想法来理解它看到的图片。例如,一张在一般AI看来只是“树枝上的一群鸟”的普通图片,在诺曼眼中却是“一名男子触电致死”。

    对肇事嫌疑人王季进的司法鉴定结果一经公布,便受到公众强烈关注。截至9月7日下午17时,微博评论已达1.6万余条,转发1万余次。网友纷纷质疑,什么是急性短暂性精神障碍?为什么要强调“作案时”?这个鉴定结果是怎么得出来的?《法制日报》记者独家采访了南京脑科医院司法鉴定所鉴定人员,详解司法鉴定过程。

    德氏猴是一种已灭绝的体型似狐猴的小型古灵长目动物,曾广泛分布于亚洲、欧洲和北美森林中,被认为最终演化为现代猴子、猿和人类。

    “人工智能识别出的结果不是凭空而来,是大量训练的结果。如果要训练AI某一方面的能力,比如下棋,就需要收集、清洗、标记大量数据供机器学习。如果用于训练的数据不够多,就会造成AI学习的不充分,导致其识别结果的失误。”中科院自动化研究所研究员王金桥对科技日报记者表示。数据本身的分布特性,如偏差甚至偏见,也会被机器“有样学样”。针对诺曼的表现,创造它的实验室也指出,“当人们谈论人工智能算法存在偏差和不公平时,罪魁祸首往往不是算法本身,而是带有偏差、偏见的数据。因为当前的深度学习方法依赖大量的训练样本,网络识别的特性是由样本本身的特性所决定。尽管在训练模型时使用同样的方法,但使用了错误或正确的数据集,就会在图像中看到非常不一样的东西”。

    王雁飞说,推动作风建设取得实效,必须依靠群众、依靠媒体,“我呼吁媒体,恳请媒体,给我们帮帮忙。我一向对媒体朋友抱有敬意,我们的工作离不开媒体。”

    王金桥也着重强调了“数据的均衡”。就算对人来说,不同人秉持着不同的价值观,但多听多看多受教育可以让人向良好的方向改进。机器学习也是如此。“训练机器时,要注重数据的均衡,给它更多可靠的数据。研究团队成员具有多元的学术背景(如吸纳更多社会学、心理学等领域学者加入)、性别、年龄、价值观,也可以帮助机器学习更加均衡,减少机器出现偏见、谬误甚至失控的可能。”王金桥说。

    诺曼们从哪来?答案首先藏在数据里。

    新华社乌鲁木齐10月10日电 题:人们心中的那颗星——追记新疆阿勒泰地区青河县委原副书记、政法委书记王红星

    《通知》指出,各级检察机关要将国家司法救助工作深度融入精准扶贫工程,充分发挥检察机关司法为民、司法扶贫的特色和优势,为因案致贫、因案返贫的困难群众提供有效司法救助,更好地服务精准扶贫、精准脱贫,为确保如期实现脱贫攻坚目标做出贡献。将国家司法救助工作作为检察机关担当拥军优属政治责任的重要方式,作为贯彻军民融合发展战略、促进军政军民团结的具体举措,用好法治思维和法治方式拥军优属。贯彻落实《最高人民检察院关于全面加强未成年人国家司法救助工作的意见》,将未成年人国家司法救助工作作为推进活动中的一个专项任务来抓。认真贯彻落实《中华人民共和国残疾人保障法》,维护残疾人的合法权益,为国家发展残疾人事业提供司法保障。

    不过,印度海军的这一回应在耿直哥看来一点也不意外。

    “新能源汽车、化学医药、储能电池等很多新兴产业都要用到锂,金属锂业市场需求以每年25%的速度增长,怎么就产能过剩了?而且,我们在国内金属锂深加工行业是技术最领先的企业,银行能不能对行业、企业多些了解再下结论?”昆瑜总经理程飞愤愤不平。

    1942年,阿西莫夫在短篇小说《环舞》中首次提出著名的机器人三定律:机器人不得伤害人类,或因不作为使人类受到伤害;除非违背第一定律,机器人必须服从人类的命令;除非违背第一及第二定律,机器人必须保护自己。半个多世纪过去,人工智能在大数据的加持下迎来爆发式发展。某些专用型人工智能把人类智能甩在身后,人们开始担忧,机器伤害人类的那一天是不是不远了。

    偏见、刻板印象、歧视都是人类社会的痼疾,有些流于表面,有些深入社会肌理,无法轻易剥离。在这样的语境中产生的数据,携带着大量复杂、难以界定、泥沙俱下的观点。如果研究者没有意识到或着手处理这一问题,机器学习的偏见几乎无解。真正的“公正算法”或许是不存在的。

    除了人训练机器的数据本身有偏差以外,机器通过对抗性神经网络合成的数据也可能有问题。由于机器不可能“见过”所有东西(比如识别桌子,机器不可能学习所有长短宽窄各异的桌子),人也不可能标记所有数据。如果研究者输入一个随机的噪音,机器可以向任何方向学习。这是一把双刃剑,机器也可能合成一些有问题的数据,学习时间长了,机器就“跑偏”了。

    不少科学家以“garbagein,garbageout”来形容“数据和人工智能的关系”。中科视拓(北京)科技有限公司CEO刘昕说:“对机器学习而言,进什么就出什么。监督学习就是让模型拟合标签,比如训练者把帅哥都标记成‘渣男’,那么机器看到刘德华,就会认为他是……”谈到诺曼引发的讨论,刘昕表示:“不需要担心,人类本身就有各种歧视和偏见,用人类生产的数据训练AI,再批判AI不够正直良善,这么说有点危言耸听。”

    据有关媒体报道,在谷歌研究自然语言处理的科学家DaphneLuong表示,正确地校准标签对机器学习来说非常关键,有些数据集其实并不平衡,像维基百科上的数据,“他”(He)出现的次数远比“她”(She)要多。

    目前,护理假最短的为天津、山东,规定配偶陪产假为7天,其次是上海、安徽,规定配偶陪产假为10天。云南的新计生条例中明确,符合法律、法规规定生育子女的,男方给予护理假30天,为各个省份中最长。其余省份分别规定给予男方7至20天不等的陪产假或护理假,大多数省份都在15天左右。

    9月27日,王岐山在中南海会见丹麦王储腓特烈;11月3日,王岐山在钓鱼台会见巴基斯坦总理伊姆兰·汗;11月10日,王岐山在北京中南海紫光阁会见美国前国务卿基辛格;11月13日,王岐山在人民大会堂会见德国外长马斯。

    另外是算法本身的影响。“这可能是无法完全避免的,由深度学习算法本身的缺陷决定,它存在内在对抗性。”王金桥表示,目前最流行的神经网络不同于人脑的生物计算,模型由数据驱动,和人类的认知不具有一致性。基于深度学习的框架,必须通过当前训练数据拟合到目标函数。在这个框架之下,如果机器要识别狗,它会通过狗的眼睛、鼻子、耳朵等局部特征进行可视化识别,而这些可视化特征却能给想利用深度学习漏洞的人机会,后者可以通过伪造数据来欺骗机器。

    相较于舆论环境的忧心忡忡,研究者对“技术向善”普遍乐观。他们认为把AI和“杀人机器”联系在一起,近乎“捧杀”,夸大AI能力之余,也引发不明真相的公众恐慌,无益于人工智能的发展环境。

    关于2019年的房价走势,张大伟说,预计未来几个月,二手房价格的下调城市和下调幅度将继续加大,部分城市的新建住宅也将逐渐开始调整。

    智能穿戴设备吸引观众。汤彦俊摄

    作恶还是向善,是人类的选择

    此次参赛队伍包括北京大学、北京师范大学、成都体育学院,以及台湾的台湾大学、新竹清华大学、中国文化大学、世新大学等20支两岸高校棒球队。4日至8日,他们将以“好棒,兄弟”为口号,进行24场比赛,并参加多场交流参访活动。

    12月29日凌晨,人们从美国纽约布朗克斯区发生火灾的楼房附近经过。新华社记者王迎摄

    “美国关于在太空探索领域与中国开展科学合作的态度开始软化。然而,美国的政治现在简直一团糟,所以现在的状况让人很困惑。”勒科达瓦拉接受记者采访时说。

    TA们的偏见就是人类的偏见

    对于家长拿自己的孩子和别人家孩子比较的行为,复旦大学社会发展与公共政策学院副教授沈奕裴指出,孩子之间的差异性是很大的,“你可能看到某个孩子很活泼外向,演讲很厉害,而你的孩子可能很内向,动手能力很强。孩子之间有很多不同的地方,但家长总喜欢以自己孩子的弱点去比其他孩子的长处,就很容易焦虑”。

    “机器学习的模型本身也要有一定的防攻击能力,从技术上防止本身结构设计的漏洞被攻击,研究者可以使用各种数据攻击机器,训练机器的反攻击能力。”王金桥说。

    因此有一种看法很主流——人类训练有意识、有自我觉知的人工智能是不明智的。开个脑洞,机器一旦发展出自我意识,要反向攻击人类,场面或许失控。

    新华社深圳3月16日电(记者印朋)16日创业板指以1847.18点低开,股指震荡走低,以1821.32点报收,比上个交易日跌27.39点,跌幅1.48%。

    新华社拉巴特10月22日电(记者陈斌杰)摩洛哥内政部22日发布公报说,141名试图翻越边界围栏进入西班牙飞地梅利利亚的撒哈拉以南非洲国家移民将被遣返。

    今年以来,全球股市低迷的情况下,企业应用服务公司的股价的表现却很“异类”,美国一家视频会议解决商Zoom,两个月前上市当日大涨70%,目前股价从发行价36美元已经涨至102美元。同样在今年上市的基于云的管理软件公司PagerDuty和网络安全软件制造商CloudStrike,股价表现也都翻了一倍。

    故宫工作人员接受查询时表示,为解决女性游客如厕难、等候时间长等问题,故宫今年国庆长假期间将午门外的临时厕所均改为女厕,并增加十余个临时女厕,女厕是男厕的三倍。该工作人员又说,每年来故宫参观的游客太多,游客素质高低不一,不好对此事过多评价,类似情况每年都会发生,小孩来不及上厕所可以理解,但家长应及时处理。

    数据的均衡或可减少“跑偏”

    近日,麻省理工学院媒体实验室出品了一个“暗黑版AI”,再次将人工智能的黑箱隐忧这个经久不衰的话题送上热门。据报道,实验室的三人团队联手创造了一个叫诺曼(Norman)的人工智能,与希区柯克经典电影《惊魂记》中的变态旅馆老板诺曼·贝兹同名。

    前段时间,据路透社报道,韩国科学技术院的人工智能研发中心正在研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术,希望在今年年底前研发出基于人工智能的导弹、潜艇和四轴飞行器。此事引发学术界的巨大震动,抗议纷至沓来,并最终以院长保证无意于“杀手机器人”的研发并重申人类尊严和伦理收场。在美国,以“不作恶”为纲的谷歌也因与国防部的合作协议涉及“Maven项目”被推上风口浪尖,反对者普遍认为,识别结果完全有可能被用于军事用途,比如说精准打击。谷歌最终表示终结协议。

    “很多人提到AI总是一惊一乍,把AI说成超人。我相信人工智能是能解决问题的,但大家的期待也要在合理范围内。人和机器各有优势,技术会服务于特定场景,但也不需要把AI捧上天。”接受科技日报记者采访时,思必驰北京研发院院长初敏博士忍不住“抱怨”了一下。看来“我们需要怎样的AI”这一题,大家都还没有答案。

    5月23日上午,(北京市)西城区十六届人大常委会召开第二十四次会议。经过投票表决,决定任命孙硕为北京市西城区人民政府代理区长,任命喻华锋为北京市西城区人民政府副区长。

    74、“坚持预防为主,将新增基本公共卫生服务财政补助经费全部用于村和社区,务必让基层群众受益”之后,补充“抓好传染病、地方病、青少年近视防治”。

    中华美食网

上一篇:贵州贵阳市南明区统战部长接受组织调查 下一篇:11月美军在台海无军演讯息 港媒:美军知难而退