Структура управления ИИ

Управление в Slide Creator — это процесс, с помощью которого мы обеспечиваем соответствие нашей технологии искусственного интеллекта нашимОсновные ценностии остается безопасным, надежным и полезным для наших пользователей. Наша система основана на системе управления рисками ИИ NIST и принципах ОЭСР по искусственному интеллекту.

1. Структурный надзор

Управление встроено на каждый уровень нашей организации:

-Уровень Совета:совет директоровкурирует долгосрочную стратегию и риски в области ИИ.

Комитет по этике:Многопрофильная группа исследователей, юристов и дизайнеров, которая рассматривает все основные обновления моделей.

Обзоры продуктов:Каждая новая функция перед запуском в производство проходит «Аудит безопасности и этики».

2. Жизненный цикл разработки модели (MDLC)

Мы поддерживаем строгий процесс создания и развертывания моделей:

-Источники этических данных:Все данные обучения проверяются на предмет соблюдения авторских прав и предвзятости (см.Модель карты).

Сравнительный анализ безопасности:Модели тестируются на основе внутренних наборов данных «Red Teaming» для обнаружения и предотвращения вредных результатов.

-Непрерывный мониторинг:После развертывания нашиОтветственный центр искусственного интеллектаотслеживает поведение модели на предмет неожиданного отклонения или возникновения рисков.

3. Требования к управлению человеком (HITL)

Наша политика требует, чтобы Slide Creator оставался инструментом расширения прав и возможностей человека, а не замены человека.

Пользовательское агентство:ИИ предоставляет предложения и черновики, но окончательное редакционное решение всегда остается за пользователем-человеком.

Атрибуция:Мы предоставляем пользователям инструменты, позволяющие четко отличать контент, созданный искусственным интеллектом, от контента, созданного человеком, в своих презентациях.

4. Смягчение предвзятости и справедливости

Мы признаем, что ИИ может наследовать и усиливать социальные предубеждения. НашАлгоритмическая структура справедливости requires:

Регулярные аудиты:Ежеквартальные обзоры результатов моделей с учетом гендерных, расовых и культурных предубеждений.

Разнообразие в обучении:Активный поиск разнообразных шаблонов проектирования и наборов данных для обеспечения глобальной перспективы.

5. Прозрачность и объяснимость

Мы стремимся сделать наш ИИ «интерпретируемым».

-Прозрачность модели:Мы публикуем подробныеМодельные картыдля всех основных двигателей конструкции.

Логика дизайна:Там, где это возможно, мы предоставляем пользователям «обоснование» выбора конкретного макета (например, «Эта диаграмма была выбрана из-за ее высокой ясности при сравнении этих двух переменных»).

Для получения дополнительной информации о практическом применении этих правил посетите нашОтветственный центр искусственного интеллекта.