这四项原则是：合理利用；可解释；保护隐私；安全且可靠。

1.解释原则（Explanation）

解释原则要求AI系统为所有输出提供相应证据和理由，但不要求证据是正确的、信息丰富的或可理解的，只要表明AI系统能够提供解释即可。解释原则不强加任何的质量评价指标。

2.有意义原则（Meaningful）

有意义原则要求AI系统提供单个用户可理解的解释。也就说，只要一个用户可以理解AI系统所提供的解释即符合该原则，不要求解释为所有用户所理解。有意义原则允许基于不同用户群体或个人的定制化和动态解释。不同用户群体对AI系统的解释需求不同，如系统开发者与系统使用者需求不同，律师和陪审团需求不同。此外，每个人知识、经验、心理等方面存在差异导致其对AI解释的理解不同。

3.解释准确性原则（Explanation Accuracy）

解释准确性原则要求相应解释正确反映AI系统产生输出的过程，不要求AI系统做出的判断准确。与有意义原则类似，解释准确性原则也允许用户差异性。有的用户（如专家）需要解释产生输出的算法细节，有的用户可能仅需要关键问题的解释。对算法细节要求的差异性恰恰反映了解释准确性原则与有意义原则的不同，详细解释可以加强准确性但却牺牲了部分用户的理解性。基于不同的用户群体定制化解释准确性测量指标。AI系统可以提供多类型、多层次的解释，因此解释准确性测量指标不是通用或绝对的。

4.知识局限性原则（Knowledge Limits）

知识局限性原则要求AI系统仅可以在其所设定的条件下运行，以保证系统输出。知识局限性原则要求AI系统能识别出未经设计或批准以及响应错误的情况。知识局限性原则可以防止错误、危险、不公正的决策和输出，从而增加AI系统的可信度。AI系统有两类知识局限性，一是所需判断不属于AI系统本身设定，如鸟分类AI系统无法分类苹果，二是所需判断超越内部置信度阈值，如鸟分类AI系统无法对模糊图像上的鸟类进行归类。

第一，技术人员研发的产品必须是安全的可以控制的，不能危害他人危害社会。

第二，产品研发展望未来的基本愿望应该是，促进人类更加公平的获得一些技术以及知识。

第三，这项技术的研发目的应该是帮助人类成长和进步，不应该让机器替代我们人类。

第四，这项技术的最终结果应该是为人类提供更多的可能和机遇，促进人类发展。

人工智能的发展，需要遵守的四个AI伦理原则：

第一个原则是安全可控是最高原则；

第二个是促进人类平等地获得技术和能力是创新愿景；

第三个则是人工智能的存在价值不是超越人、代替人，而是教人学习和成长；

第四个是人工智能的终极理想应该是带给我们更多的自由和可能。

世界上不只有大公司需要AI的技术和能力，几千万的组织都需要。防止技术的不平等，导致人们在生活、工作上的不平等，这是我们需要思考的。

AI技术的使命，就是要通过学习人、从而去忠诚服务于人，让人类生活得更美好，但AI的技术发展也需要价值观的指引，在AI伦理价值的新“红绿灯”指引下，才能迎来“一个更美好的AI时代”。

在这个技术驱动的时代，人工智能正在为全球多个行业的更高效工作流程创造尖端技术。除了人工智能工程师或相关员工，还有机器学习和深度学习算法过于复杂，人们无法理解。人工智能为利益相关者和合作伙伴生成了自我解释的算法，以理解将大量复杂的实时数据转换为有意义的深入见解的整个过程。这被称为可解释人工智能或 XAI，其中人类可以轻松理解这些解决方案的结果。它帮助 AI 设计师解释 AI 机器如何为企业在市场中蓬勃发展产生特定类型的洞察力或结果。

通过设计可解释和包容的人工智能，可以使用多个在线课程和平台来更好地理解可解释的人工智能。可解释人工智能有四个主要原则来解释机器学习模型的预测。可解释 AI 的一系列模型可用于这些类别 - 用户利益、社会接受度、监管和合规性、系统开发以及所有者利益。可解释的人工智能对于实施负责任的人工智能以实现人工智能模型的可解释性和问责制至关重要。

简述：可解释人工智能的四项原则

可解释人工智能的原则是一组四项指导方针，可帮助可解释人工智能有效地采用一些基本属性。美国国家标准与技术研究所制定了这四项原则，以更好地了解人工智能模型的工作原理。这些原则单独适用，彼此独立，可根据自己的权利进行评估。

解释：这是第一个主要原则，它要求人工智能模型生成一个全面的解释，并提供证据和推理，以便人类理解为企业生成高风险决策的过程。这些清晰解释的标准由可解释人工智能的其他三个原则规定。

有意义：这是可解释人工智能的第二个原则，它为组织的人类利益相关者和合作伙伴提供有意义且易于理解的解释。解释越有意义，对人工智能模型的理解就越清晰。解释不应该很复杂，并且需要针对群体或个人层面的利益相关者量身定制。

解释准确性：这是第三个原则，它命令准确解释和反映人工智能产生有意义输出的复杂过程。它有助于将系统解释的准确性强加给利益相关者。对于不同的群体或个人，可能有不同的解释准确度指标。因此，必须以 100% 的准确度提供不止一种类型的解释。

知识限制：这是可解释 AI 的第四个也是最后一个原则，它解释了 AI 模型仅在特定条件下按照其设计和训练数据集运行——对于黑

在人工智能迅速发展，深刻改变人类社会生活、改变世界的背景下，我们在不断寻求人工智能效益最大化时，如何应对其伦理和监管问题，成为新的焦点。

6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》（以下简称《治理原则》），提出了人工智能治理的框架和行动指南。

清华大学苏世民书院院长，国家新一代人工智能治理专业委员会主任薛澜参与了《治理原则》制定和出台的全过程，他在接受科技日报记者采访时表示，《治理原则》旨在更好地协调人工智能发展与治理的关系，确保人工智能安全可控可靠，推动经济、社会及生态可持续发展，共建人类命运共同体。

《治理原则》突出了发展负责任的人工智能这一主题。薛澜说，这里的“负责任”既有人工智能研发者，也有使用者、管理者等其他相关方，各方应具有高度的社会责任感和自律意识，严格遵守法律法规、伦理道德和标准规范，防范利用人工智能进行非法活动。

针对人工智能技术更迭快、老政策解决不了新问题的现状，《治理原则》推出了“敏捷治理”。“这是一个全新的思路”，中科院自动化所研究员、国家新一代人工智能治理专业委员会委员曾毅向科技日报记者表示，《治理原则》在推动人工智能创新发展、有序发展的同时，更应该具有前瞻性和***性眼光，这样才能及时发现和解决可能引发的未知风险。

在《治理原则》中，尊重隐私被放在一个十分重要的位置。要求充分保障个人的知情权和选择权的同时，在个人信息的收集、存储、处理、使用等各环节应设置边界，建立规范。曾毅表示，此次在《治理原则》中首提“个人数据授权撤销机制”。个人有权在同意个人信息授权后，随时撤销授权，这在全世界也属于领先。他认为，人工智能应以保障社会安全、尊重人类权益为前提，避免误用，禁止滥用、恶用。

《治理原则》的出台，为的是推动我国人工智能行业的自律，凝聚全社会共识，促进人工智能健康发展，所以“共治共管”的理念贯穿始终。早在《治理原则》起草前，科学技术部就在官方网站上发布消息，征求社会各界的意见。

“我们征集到了百余条十分有价值的意见，其中一些意见被采纳，还有许多提意见的人员被请来与我们一起探讨”，薛澜向科技日报记者介绍说。

一位中国中医科学院的专家提出以医学伦理为鉴确定人工智能的监管思路，一位南开大学的哲学专家建议以传统文化中的哲学思路倡导人工智能向善的理念等等，这些意见和建议都被国家新一代人工智能治理专业委员会的专家们广泛听取。

薛澜表示，人工智能的治理已经不是某个地区或者国家的问题，而是需要全球协同，中国的专家们盼着与全世界的科学家一起建立共识、协同发展，为促进人机和谐，服务人类文明进步共同努力。

标签： 人工智能 北京