原文出处：Ethical and Responsible AI 原作者：Microsoft · 许可证：MIT License 中文译本由诸葛AI学院整理，仅供学习参考，版权归原作者与微软所有。

合乎伦理且负责任的 AI

这门课快学完了。到这一步，希望你能看清一件事：AI 建立在一套形式化的数学方法之上，这些方法让我们能在数据里找到关联，再训练出模型来复现人类行为的某些侧面。放在当下的历史阶段看，AI 是一件很强大的工具，能从数据中提取模式，再用这些模式去解决新问题。

课前测验

不过在科幻小说里，我们常看到 AI 给人类带来危险的故事。这类故事大多围绕某种 AI 反叛展开，讲的是 AI 决定与人类对抗。这就意味着 AI 有了某种情绪，或者能做出开发者没有预料到的决定。

我们在这门课里学到的 AI，说到底就是大规模的矩阵运算。它是很强大的工具，能帮我们解决问题；而和其他强大的工具一样，它既可以用于好的目的，也可以用于坏的目的。更要紧的是，它可能被滥用。

负责任的 AI 的原则

为避免 AI 被无意或有意地滥用，微软提出了负责任的 AI 原则（Principles of Responsible AI）。下面这些概念支撑着这几条原则：

• 公平性（Fairness）：对应一个重要问题，即模型偏差（model biases）。用有偏的数据做训练，模型就会带上偏差。比如预测一个人拿到软件开发职位的概率时，模型很可能更偏爱男性，原因往往只是训练数据集本身偏向男性人群。我们要仔细平衡训练数据、检查模型，避开偏差，并确保模型把更多相关的特征考虑进去。
• 可靠性与安全性（Reliability and Safety）：就其本质而言，AI 模型会犯错。神经网络返回的是概率，做决策时要把这一点算进去。每个模型都有自己的精确率（precision）和召回率（recall），理解了这两个指标，才能防住错误建议造成的伤害。
• 隐私与安保（Privacy and Security）：这里有 AI 特有的问题。比如用一些数据训练模型之后，这些数据在某种程度上就被"合并"进了模型。一方面这提高了安全性和隐私性，另一方面，我们得记住模型是用哪些数据训练的。
• 包容性（Inclusiveness）：指的是我们做 AI 不是为了取代人，而是为了增强人，让我们的工作更有创造性。它也和公平性有关：和代表性不足的群体打交道时，我们收集的数据大多有偏，所以要确保这些群体被 AI 包含进来、得到正确的对待。
• 透明度（Transparency）：包括确保我们始终讲清楚哪些地方用到了 AI。另外，只要条件允许，我们希望使用可解释（interpretable）的 AI 系统。
• 问责性（Accountability）：AI 模型做出某些决定时，谁来为这些决定负责往往不清楚。我们要弄明白 AI 决定的责任落在哪里。多数情况下，我们希望把真人纳入重要决策的回路，让真实的人为决定担责。

负责任的 AI 的工具

微软开发了 Responsible AI Toolbox（负责任的 AI 工具箱），里面有一套工具：

• 可解释性面板（Interpretability Dashboard，InterpretML）
• 公平性面板（Fairness Dashboard，FairLearn）
• 错误分析面板（Error Analysis Dashboard）

• 负责任的 AI 面板（Responsible AI Dashboard），其中包含

• EconML，做因果分析（Causal Analysis）的工具，关注"如果……会怎样"一类的问题

• DiCE，做反事实分析（Counterfactual Analysis）的工具，能让你看出需要改动哪些特征才能影响模型的决策

想进一步了解 AI 伦理（AI Ethics），请看机器学习入门课程（ML-For-Beginners）里的这一课，里面附有作业。

复习与自学

走一遍这条 Learn Path，了解更多关于负责任的 AI 的内容。

课后测验