🧨 Directrices éticas de Diffusers

Preliminares

Diffusers ofrece modelos de difusión preentrenados y funciona como un kit de herramientas modular para la inferencia y el entrenamiento.

Dadas sus aplicaciones en casos reales en el mundo y su potencial impacto negativo en la sociedad, consideramos importante proporcionar al proyecto directrices éticas que guíen el desarrollo, las contribuciones de los usuarios y el uso de la biblioteca Diffusers.

Los riesgos asociados con el uso de esta tecnología aún están siendo examinados, pero para mencionar algunos: problemas de derechos de autor para los artistas; explotación mediante deepfakes; generación de contenido sexual en contextos inapropiados; suplantación de identidad no consentida; sesgos sociales perjudiciales que perpetúan la opresión de grupos marginados. Seguiremos monitoreando los riesgos y adaptaremos las siguientes directrices en función de la respuesta de la comunidad y su valiosa retroalimentación.

Alcance

La comunidad de Diffusers aplicará las siguientes pautas éticas al desarrollo del proyecto y ayudará a coordinar cómo la comunidad integrará las contribuciones, especialmente en lo que respecta a temas sensibles relacionados con preocupaciones éticas.

Directrices éticas

Las siguientes pautas éticas son de aplicación general, pero las implementaremos principalmente al abordar cuestiones éticamente sensibles al tomar una decisión técnica. Además, nos comprometemos a adaptar esos principios éticos con el tiempo, a medida que surjan daños relacionados con el estado del arte de la tecnología en cuestión.

• Transparencia: estamos comprometidos a ser transparentes en la gestión de PRs, explicando nuestras decisiones a los usuarios y tomando decisiones técnicas.

• Coherencia: nos comprometemos a garantizar a nuestros usuarios el mismo nivel de atención en la gestión del proyecto, manteniéndolo técnicamente estable y coherente.

• Simplicidad: con el deseo de facilitar el uso y la explotación de la biblioteca Diffusers, nos comprometemos a mantener los objetivos del proyecto ágiles y coherentes.

• Accesibilidad: el proyecto Diffusers ayuda a reducir la barrera de entrada para los colaboradores que pueden ayudar a mantenerlo incluso sin experiencia técnica. De este modo, los artefactos de investigación se vuelven más accesibles para la comunidad.

• Reproducibilidad: nos esforzamos por ser transparentes sobre la reproducibilidad del código, los modelos y los conjuntos de datos de origen cuando se ponen a disposición a través de la biblioteca Diffusers.

• Responsabilidad: como comunidad y mediante el trabajo en equipo, tenemos una responsabilidad colectiva hacia nuestros usuarios al anticipar y mitigar los riesgos y peligros potenciales de esta tecnología.

Ejemplos de implementaciones: Funciones y mecanismos de seguridad

El equipo trabaja a diario para poner a disposición las herramientas técnicas y no técnicas necesarias para abordar los posibles riesgos éticos y sociales asociados con la tecnología de difusión. Además, la aportación de la comunidad es invaluable para garantizar la implementación de estas funciones y para sensibilizarnos sobre ellas.

• Pestaña de comunidad: permite a la comunidad discutir y colaborar mejor en un proyecto.

• Exploración y evaluación de sesgos: el equipo de Hugging Face pone a disposición un espacio para demostrar de forma interactiva los sesgos en Stable Diffusion. En este sentido, apoyamos y fomentamos la exploración y evaluación de sesgos.

• Fomentar la seguridad en el despliegue

  • Safe Stable Diffusion: Mitiga el problema bien conocido de que los modelos, como Stable Diffusion, entrenados en conjuntos de datos no filtrados obtenidos de la web tienden a sufrir una degeneración inapropiada. Artículo relacionado: Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models.

  • Safety Checker: Comprueba y compara la probabilidad de clase de un conjunto de conceptos dañinos predefinidos en el espacio de incrustaciones con una imagen después de que esta se haya generado. Los conceptos dañinos se ocultan intencionalmente para evitar la ingeniería inversa del comprobador.

• Liberación por etapas en el Hub: en situaciones particularmente sensibles, el acceso a algunos repositorios debe estar restringido. Esta liberación por etapas es un paso intermedio que permite a los autores del repositorio tener más control sobre su uso.

• Concesión de licencias: OpenRAILs, un nuevo tipo de licencia, nos permite garantizar el acceso gratuito al tiempo que establece un conjunto de restricciones que aseguran un uso más responsable.