La gobernanza en Slide Creator es el proceso mediante el cual garantizamos que nuestra tecnología de IA se alinee con nuestraValores fundamentalesy sigue siendo seguro, confiable y beneficioso para nuestros usuarios. Nuestro marco está inspirado en el Marco de Gestión de Riesgos de IA del NIST y los Principios de Inteligencia Artificial de la OCDE.
1. Supervisión estructural
La gobernanza está integrada en todos los niveles de nuestra organización:
-Nivel de tablero:ElJunta Directivasupervisa la estrategia y el riesgo de IA a largo plazo.
Comité de Ética:Un cuerpo multidisciplinario de investigadores, abogados y diseñadores que revisa todas las actualizaciones importantes de los modelos.
Reseñas de productos:Cada característica nueva se somete a una "Auditoría de Ética y Seguridad" antes de pasar a producción.
2. Ciclo de vida de desarrollo de modelos (MDLC)
Mantenemos un proceso riguroso para la creación e implementación de modelos:
-Obtención de datos éticos:Todos los datos de capacitación se examinan para determinar el cumplimiento de los derechos de autor y el sesgo (consulte nuestraTarjeta modelo).
Evaluación comparativa de seguridad:Los modelos se prueban con conjuntos de datos internos de "Red Teaming" para detectar y prevenir resultados dañinos.
-Monitoreo continuo:Después del despliegue, nuestroCentro de IA responsablemonitorea el comportamiento del modelo para detectar derivas inesperadas o riesgos emergentes.
3. Requisitos de Human-in-the-Loop (HITL)
Nuestra política exige que Slide Creator siga siendo una herramienta para el empoderamiento humano, no para el reemplazo humano.
Agencia usuaria:La IA proporciona sugerencias y borradores, pero la decisión editorial final siempre recae en el usuario humano.
Atribución:Proporcionamos herramientas para que los usuarios identifiquen claramente el contenido generado por IA versus el contenido curado por humanos dentro de sus presentaciones.
4. Mitigación del sesgo y la equidad
Reconocemos que la IA puede heredar y amplificar los prejuicios sociales. NuestroMarco de equidad algorítmica requires:
Auditorías periódicas:Revisiones trimestrales de los resultados del modelo en busca de prejuicios de género, raciales y culturales.
Diversidad en la formación:Búsqueda activa de diversos patrones de diseño y conjuntos de datos para garantizar una perspectiva global.
5. Transparencia y explicabilidad
Nos esforzamos por hacer que nuestra IA sea "interpretable".
-Transparencia del modelo:Publicamos detalladamenteTarjetas modelopara todos los motores de diseño central.
Lógica de diseño:Cuando es posible, proporcionamos a los usuarios el "razonamiento" detrás de una elección de diseño específica (por ejemplo, "Este gráfico fue elegido por su gran claridad al comparar estas dos variables").
Para obtener más información sobre nuestra implementación práctica de estas reglas, visite nuestroCentro de IA responsable.