欧盟正式发布人工智能道德准则草案：可信赖为AI讨论起点

责任编辑：zsheng |来源：企业网D1Net 2018-12-26 10:08:13 本文摘自：安防知识网

近日，欧盟委员会(EC)任命的人工智能高级专家小组(AI HLEG)刚刚发布了 AI 开发和使用的道德草案—可信赖 AI 的道德准则草案(Draft Ethics Guidelines for Trustworthy AI)，内容长达 37 页，提出可信赖 AI 应具备两大要素，以及 AI 不可为的基本原则。

欧盟 AI 道德准则草案指出，可信赖的 AI 有两个组成要素：一、应尊重基本权利，适用法规、核心原则和价值观，以确保“道德目的”(ethical purpose)，二、兼具技术鲁棒性(robust)和可靠性，因为即使有良好的意图，缺乏技术掌握也会造成无意的伤害。另外，AI 技术必须足够稳健及强大，以对抗攻击，以及如果 AI 出现问题，应该要有“应急计划”(fall-back plan)，例如在 AI 系统失败了，必须要求交还由人类接手。

另外，可信赖 AI 的不可为，包括不应以任何方式伤害人类;AI 不应限制人的自由，换句话说，人们不应该被 AI 驱动的机器征服或强迫; AI 应该公平使用，不得歧视或诬蔑;AI 应透明地运作，也就是说，人类需要知道 AI 正在开发的目的，以及如何使用它;AI 应该只为个人和整个社会的福祉而发展

草案也提出了框架，第一章阐述 AI 必须遵守的基本权利和价值观，以确保 AI 符合道德目的。第二章则是实现可信赖 AI 的指导方针，同时兼顾道德目的和技术稳健性，并列出可信赖 AI 的要求，包括技术和非技术方法。第三章则提供了具体但非穷举的可信赖 AI评估表。

关键字：准则智能欧盟