В контексте программного обеспечения для презентаций на основе искусственного интеллекта «справедливость» выходит за рамки традиционных показателей данных и включает визуальное представление, нормы культурного дизайна и языковое разнообразие. Алгоритмическая структура справедливости Slide Creator — это систематический подход к выявлению, измерению и смягчению предвзятости в наших моделях генеративного дизайна.
Проблема предвзятости в дизайне
Традиционное программное обеспечение для дизайна часто по умолчанию использует западно-ориентированные шаблоны макетов, типографику и иконографию. Если ИИ обучается на неразнообразном наборе «успешных» презентаций, он может непреднамеренно узнать, что одни эстетики превосходят другие, потенциально маргинализируя глобальные традиции дизайна или корпоративную культуру.
Наш трехуровневый аудит справедливости
Чтобы предотвратить это, Slide Creator реализует процесс тройного аудита для каждого обновления модели:
Аудит разнообразия данных:Мы курируем более 500 000 шаблонов обучения, включающих широкий спектр глобальных корпоративных стилей, гарантируя, что наш ИИ понимает все: от минималистской эстетики Кремниевой долины до финансовой отчетности с высокой плотностью размещения и ярких маркетинговых стилей Азиатско-Тихоокеанского региона.
Тестирование четности вывода:Мы проводим параллельные тесты генерации, используя одинаковые подсказки, но разный контекст бренда (например, сравнивая бренд технологического стартапа с брендом устаревшего государственного учреждения), чтобы гарантировать, что ИИ обеспечивает одинаковое качество дизайна независимо от отрасли или размера бренда.
Человеческая оценка:Мы нанимаем разнообразную группу консультантов по дизайну для проверки результатов модели на предмет «микропредвзятости» в выборе значков, предложениях изображений и иерархии макетов.
Справедливость в предложении изображений и значков
Одна из наиболее заметных областей потенциальной предвзятости — это визуальные ресурсы, предлагаемые ИИ. Slide Creator используетПротокол нейтрального представлениядля всех автоматических выборов изображений и значков:
Иконка Нейтральность:Мы отдаем предпочтение абстрактным геометрическим значкам, которые передают смысл, не полагаясь на гендерные или культурные символы.
Инклюзивные изображения:Наша интеграция с библиотеками стоковых материалов премиум-класса фильтруется с помощью алгоритма «Inclusion-First», который гарантирует, что предлагаемые изображения отражают разнообразие сотрудников во всех отраслях по всему миру.
Проверки доступности:Fairness Framework также применяет правила контрастности WCAG 2.1 AA, гарантируя, что созданные макеты «справедливы» для пользователей с нарушениями зрения.
Прозрачность производительности модели
Мы считаем, что справедливость не может существовать без прозрачности. Мы находимся в процессе выпуска локализованной версииКарты справедливостидля наших основных моделей, которые документируют демографическую и отраслевую разбивку наших данных по обучению и результаты наших последних проверок предвзятости.
Сообщение о предвзятости
Мы признаем, что битва против алгоритмической предвзятости никогда не бывает полностью «выиграна». Мы приглашаем наших корпоративных пользователей и более широкое исследовательское сообщество сообщать о любых случаях, когда наш ИИ создает предвзятый, неинклюзивный или культурно нечувствительный контент. Эти отчеты быстро передаются нашей команде по инфраструктуре искусственного интеллекта для немедленного исправления.