人工智慧治理框架

Slide Creator 的治理是確保我們的 AI 技術與我們的目標一致的過程。核心價值並保持安全、可靠且對我們的用戶有利。我們的框架受到 NIST 人工智慧風險管理框架和經合組織人工智慧原則的啟發。

1. 結構性監督

治理植根於我們組織的各個層面：

-董事會層級：這董事會監督長期人工智慧戰略和風險。

倫理委員會：由研究人員、律師和設計師組成的多學科機構，負責審查所有主要模型更新。

商品評論：每個新功能在投入生產之前都會經過「安全與道德審核」。

2. 模型開發生命週期（MDLC）

我們維持嚴格的模型創建和部署流程：

-道德數據採購：所有培訓數據均經過版權合規性和偏見審查（請參閱我們的型號卡）。

安全基準：模型根據內部“紅隊”數據集進行測試，以檢測和防止有害輸出。

-持續監控：部署後，我們的負責任的人工智慧中心監控模型行為是否有意外漂移或緊急風險。

3. 人在環 (HITL) 要求

我們的政策要求 Slide Creator 仍然是人類賦權的工具，而不是取代人類的工具。

用戶機構：人工智慧提供建議和草稿，但最終的編輯決定始終取決於人類用戶。

歸因：我們為使用者提供工具，幫助他們在簡報中清楚辨識人工智慧產生的內容和手動規劃的內容。

4. 減少偏見和公平

我們認識到人工智慧可以繼承並放大社會偏見。我們的演算法公平框架 requires:

定期審核：每季對模型輸出的性別、種族和文化偏見進行審查。

培訓多元化：積極尋找多樣化的設計模式和數據集，以確保全球視角。

5. 透明度和可解釋性

我們努力讓我們的人工智慧「可解釋」。

-模型透明度：我們發布詳細模型卡適用於所有核心設計引擎。

設計邏輯：在可能的情況下，我們為使用者提供特定佈局選擇背後的「推理」（例如，「選擇該圖表是因為它在比較這兩個變數時具有很高的清晰度」）。

有關我們實際執行這些規則的更多信息，請訪問我們的負責任的人工智慧中心.