人工智能的偏见能消除吗?

当人们在为人工智能进入人类生活的方方面面欢呼,并以为人工智能可能让人类进入新的文明时代而充满无限美妙的憧憬之时,一种新忧虑产生了:人工智能也会像人类一样产生种种偏见和歧视,而且,这种偏见和歧视与生俱来,是人类教会了它们。英国媒体《卫报》近日发表的一篇文章指出,计算机在学习人类语言时吸收了人类文化中根深蒂固的观念,产生了偏见和歧视。

在人们孜孜以求实现社会公平和正义之时,人工智能如果带有偏见,就不可能更好地完成其替代人类工作和服务于人类的任务。这是人工智能应用面临的另一种巨大挑战,如果不能解决这个挑战,显然没法寄予人工智能以厚望和赋予其更大、更艰巨和更崇高的使命。

人工智能的偏见和歧视早就引起了人们的注意,较典型的是微软2016年3月23日推出的人工智能聊天机器人Tay。设计的最初目的是让其成为一个善解人意的小女孩,为用户排忧解难。但是,上线第一天Tay就变成了一个满口粗言秽语的种族主义者,发表了不少白人优越的言论,甚至还变成了希特勒的粉丝,要发起种族灭绝战争。眼见不妙,微软公司立刻将Tay下线,并删除所有不适言论。经过调教,Tay于2016年3月30日再次上线,但旧病复发,不得不再次下线。

现在,一项发表于《科学》杂志(2017年4月14日)的研究揭示了人工智能的毛病来源于人类。美国普林斯顿大学信息技术政策中心计算机科学家阿尔文德纳拉亚南(Arvind Narayanan)等人在网上用爬虫软件收集了220万个词的英语文本,用来训练一个机器学习系统。这个系统采用了文字嵌入技术,是一种普遍应用于机器学习和自然语言处理过程的统计建模技术。其中,也包括根据心理学家揭示人类偏见时使用的内隐联想测验(IAT)。

文字嵌入的核心是采用一种称为词语表达全局向量的无监督学习算法,通过对词语库中词对词同现的统计结果进行训练,在处理词汇时,主要根据各种因素来观察词语之间的相关性,即不同的词共同出现的频率。结果,在最为相邻相关的词语上出现了与人类语言使用相似的语义组合和联系情景。

比较中性的结果是,鲜花与女人相联,音乐与愉快相关;但极端的结果是,懒惰,甚至犯罪与黑人相联;隐秘的偏见则把女性与艺术、人文职业和家庭联系得更为紧密,让男性与数学和工程专业更为接近。

其实,这不能怪人工智能,而要怪人类。人类自诞生以来和在演化进程中一直充斥着偏见,而且从人类社会组成以来,更充满相当多的负面和人性的弱点,所有这些17棋牌游戏网都会体现在人类的文化中。而文化的载体就是语言,所以所有的偏见都可以从语言和语义中找到根源。

(责任编辑:17棋牌游戏网)

本文地址:http://www.unforgivenwow.com/tongxue/2020/0913/997.html

上一篇:盐城学子苦熬实验室 可堆肥新材料研发宠物尿垫
下一篇:iphone要支持双卡双待了!苹果已申请两项专利

类似文章

每百人有95.5部手机 我国手机用户数冲破13亿

每百人有95.5部手机 我国手机用户数冲破13亿

来源标题:每百人有95.5部手机 我国手机用户数冲破13亿 17棋牌游戏网 我国手机用户数冲破13亿工信部最新数据显...

科普:牙周炎降低痴呆症早期病人认知力

科普:牙周炎降低痴呆症早期病人认知力

新华社伦敦3月11日电(记者张家伟)英国研究人员近日在美国《科学公共图书馆·综合》期刊上报告说,牙周炎会使阿尔茨海默氏症病人在患病初期,认知能力快速下降。  阿尔茨...

美网络安全公司称疑有国家背景的黑客攻击中俄等国

美网络安全公司称疑有国家背景的黑客攻击中俄等国

美国网络安全技术供应商赛门铁克日前指出,一个“低调的”黑客小组有选择性对中国、俄罗斯、瑞典、比利时等国目标展开网络间谍式攻击,高度先进的技术手段表明,这个黑客小组...

NASA失踪飞行器在彗星上找到 天宫二号能做到吗

NASA失踪飞行器在彗星上找到 天宫二号能做到吗

【科技讯】9月16日消息:NASA失踪飞行器在彗星上找到,天宫二号能做到吗。NASA拥有全球最先进的飞行器,并且已经近距离探索过太阳系内的大部分星球,而这次NASA找到了曾经登上彗星...

iPhone 7为何难帮苹果重回巅峰:创新药力不够大

iPhone 7为何难帮苹果重回巅峰:创新药力不够大

来源标题:iPhone 7为何难帮苹果重回巅峰:创新药力不够大 预约量火爆、新配色机型奇货可居价格飞涨、苹果公司...

iphone要支持双卡双待了!苹果已申请两项专利

iphone要支持双卡双待了!苹果已申请两项专利

不能支持双卡可能是中国用户对iPhone最不满意的地方之一了,不过从昨天被披露出的苹果新申请专利来看,似乎这个问题有可能要解决。  据了解,中国国家专利局网站的信息显示,...

在线评论

您的电子邮件地址不会被公开。
* 为必填内容