人工智能治理框架

Slide Creator 的治理是确保我们的 AI 技术与我们的目标保持一致的过程。核心价值观并保持安全、可靠且对我们的用户有利。我们的框架受到 NIST 人工智能风险管理框架和经合组织人工智能原则的启发。

1. 结构性监督

治理植根于我们组织的各个层面：

-董事会级别：这董事会监督长期人工智能战略和风险。

伦理委员会：由研究人员、律师和设计师组成的多学科机构，负责审查所有主要模型更新。

产品评论：每个新功能在投入生产之前都会经过“安全与道德审核”。

2. 模型开发生命周期（MDLC）

我们维持严格的模型创建和部署流程：

-道德数据采购：所有培训数据均经过版权合规性和偏见审查（请参阅我们的型号卡）。

安全基准：模型根据内部“红队”数据集进行测试，以检测和防止有害输出。

-持续监控：部署后，我们的负责任的人工智能中心监控模型行为是否存在意外漂移或紧急风险。

3. 人在环 (HITL) 要求

我们的政策要求 Slide Creator 仍然是人类赋权的工具，而不是替代人类的工具。

用户机构：人工智能提供建议和草稿，但最终的编辑决定始终取决于人类用户。

归因：我们为用户提供工具，帮助他们在演示文稿中清楚识别人工智能生成的内容和人工策划的内容。

4. 减少偏见和公平

我们认识到人工智能可以继承并放大社会偏见。我们的算法公平框架 requires:

定期审核：每季度对模型输出的性别、种族和文化偏见进行审查。

培训多元化：积极寻找多样化的设计模式和数据集，以确保全球视角。

5. 透明度和可解释性

我们努力让我们的人工智能“可解释”。

-模型透明度：我们发布详细模型卡适用于所有核心设计引擎。

设计逻辑：在可能的情况下，我们为用户提供特定布局选择背后的“推理”（例如，“选择该图表是因为它在比较这两个变量时具有很高的清晰度”）。

有关我们实际执行这些规则的更多信息，请访问我们的负责任的人工智能中心.