DeepMind启动研究团队调查AI的伦理道德问题

Google的AI子公司DeepMind正在认真对待人工智能的伦理道德问题，这普遍被看成是这一领域最为棘手的问题。这些AI带来的问题包括自动化对未来经济的影响以及人类开发的智能系统需要符合伦理道德价值观。DeepMind伦理与社会研究小组（缩写DMES）将在明年年初开始对这些课题进行研究，该小组目前有8名全职员工，并准备发展一些来自外部的对此类课题有研究的无薪酬顾问。

DMES的职能是帮助DeepMind“探索和了解AI对现实世界的影响”，其实这些问题现在就已经遇到了不少，比如人工智能对于无人驾驶车辆在发生事故时选择冲撞的点、种族主义调查中的司法算法等等。

研究人员认为如果AI技术要服务于社会，那么它们必须被社会的优先事项和关注点所塑造。

DeepMind是在去年与英国国民健康服务局（NHS）的工作受到批评之后，才意识到这些挑战。 DeepMind在2015年与三家伦敦医院进行了交易，其中处理了160万名患者的医疗数据，今年被英国的数据监督机构判定为非法，公司未能通知个人他们的数据被使用。 DeepMind后来表示，它“低估了NHS的复杂性以及关于患者数据的规则”，并聘请了新的独立伦理审查员来审查未来的任何交易。

DMES研究人员将与DeepMind内部伦理审查委员会的员工同时工作，后者至今笼罩着神秘的面纱，私营公司在尖端技术上工作的透明度较低，但相信DMES未来也可以解决这个问题。