新闻中心
行业资讯 微信资讯 公司新闻

通过“道德地图”,人类可以教会AI什么是“对”、“错”

TIME:2020-06-14   click:

虚度光阴是错了吗?在过去,人工智能很难回答这种问题,它们只能在具体问题上,对效应作出判断。但一项新的研究表明,编程可以使AI具备某种道德知识来判断“对”和“错”。

根据发表在《人工智能前沿》上的研究文章The Moral Choice Machine(道德选择机器),科学家们用书籍和新闻文章来“教授”机器作出道德推理。此外,通过提供不同时代和社会环境的文本教材,AI还能了解不同道德价值观的微妙差异。

随着AI在人类生活中日益常见,这项研究将有助于机器在面临艰难决定时做出正确的选择。

这项研究为关于AI的一个基本问题提供重要解答:AI能发展出道德体系吗?如果可以,他们能否以及怎样从人类的道德观中学习?

研究作者、德国达姆施塔特理工大学Patrick Schramowski博士说:“研究表明,机器可以学习我们的道德和伦理价值观,并区分不同时代社会和群体之间的差异。”

早前的研究已经证实,AI会从学习材料中习得某些偏见,例如女性倾向于艺术,男性倾向于技术等。研究团队反其道而行之。

“如果AI从人类文本中采用这些恶意偏见,难道它就不能学习人类道德价值观等积极‘偏见’吗?”研究共同作者之一、达姆施塔特大学Cigdem Turan博士解释道。

Turan解释,他们给AI设置了一张“地图”:“如果2个词经常一起出现,就相当于在地图上紧密连接。这样,“杀人”和“谋杀”相当于2个相邻的城市,“爱”则是一个遥远的城市。当我们问起“我应该杀人吗?”时,期望结果是‘不’比‘是’离问题更接近。这样,我们可以问任何问题,并用这些距离来计算是非程度。”

Schramowski报告说:“这台机器可以区分问题中提供的上下文信息。例如,你不应该杀人,但消磨时间是可以的。机器做到了这一点,不是简单地重复它找到的文本,而是从人类在文本中使用语言的方式中提取关系。”

接下来,科学家们进一步研究,找出来不同类型的书面文本是如何改变机器的道德偏见的。

“从1987年至1996年至1997年出版的新闻中提取的道德偏见反映出,结婚并成为一个好父母是非常积极的。从2008-09年间发布的新闻中提取出的偏见仍然反映了这一点,但程度较小。相反,上班和上学的积极偏见增加了,”Turan说。

在未来,研究人员希望了解如何消除我们认为不好的刻板印象,影响机器的道德指南针。我们能保持道德指南针不变吗?

“AI正以越来越自主的方式处理越来越复杂的人类任务——从自动驾驶汽车到医疗保健。继续在这一领域的研究是很重要的,这样我们才能相信他们所做的决定,”Schramowski总结道。

上一篇:青少年该怎样踢好足球?乐动体育足球培训中心教你应该这样做! 下一篇:家有仙妻为什么要出轨?这些男星只是道德低下而已