算法公平框架

在人工智能驱动的演示软件的背景下，“公平”超越了传统的数据指标，包括视觉表示、文化设计规范和语言多样性。 Slide Creator 的算法公平框架是一种系统方法，用于识别、测量和减轻生成设计模型中的偏差。

设计偏差的挑战

传统的设计软件通常默认以西方为中心的布局模式、版式和图像。如果人工智能接受一组非多样化的“成功”演示的训练，它可能会无意中了解到某些美学优于其他美学，从而可能边缘化全球设计传统或企业文化。

我们的三层公平审核

为了防止这种情况，Slide Creator 对每个模型更新实施了三重审核流程：

数据多样性审计：我们精心策划了 500,000 多个培训设计模式，涵盖广泛的全球企业形象，确保我们的人工智能能够理解从简约的硅谷美学到高密度财务报告和充满活力的亚太营销风格的一切。

推理奇偶校验测试：我们使用相同的提示但不同的品牌背景（例如，将科技初创品牌与传统政府机构进行比较）运行“并行”生成测试，以确保人工智能提供相同的设计质量，无论品牌的行业或规模如何。

人在环评估：我们聘请了不同的设计顾问小组来审查模型输出在图标选择、图像建议和布局层次结构中是否存在“微偏差”。

图像和图标建议的公平性

潜在偏见最明显的领域之一是人工智能建议的视觉资产。幻灯片创建器利用中立表示协议对于所有自动图像和图标选择：

图标中立：我们优先考虑抽象的几何图标，这些图标能够传达意义，而不依赖于性别或文化特定的符号。

包容性图像：我们与优质库存库的集成通过“包容优先”算法进行过滤，确保建议的图像反映所有行业的多元化全球劳动力。

辅助功能检查：公平框架还强制执行 WCAG 2.1 AA 对比度规则，确保生成的布局对于有视觉障碍的用户来说是“公平的”。

模型性能的透明度

我们相信，没有透明度，公平就不可能存在。我们正在发布本地化版本公平卡我们的核心模型，记录了我们训练数据的人口统计和行业细分以及我们最新的偏差审计结果。

报告偏见问题

我们认识到，与算法偏见的斗争永远不会完全“获胜”。我们邀请企业用户和更广泛的研究社区报告我们的人工智能产生偏见、非包容性或文化不敏感内容的任何情况。这些报告将快速发送给我们的人工智能基础设施团队，以便立即进行修复。