🧨 Diffusersの倫理ガイドライン

序文

Diffusers は事前学習済み拡散モデルを提供し、推論と学習のためのモジュール化されたツールボックスとして機能します。

Diffusersライブラリは、現実世界での応用例が多く、社会に悪影響を及ぼす可能性もあるため、開発、ユーザーによる貢献、および利用を導くための倫理ガイドラインをプロジェクトに提供することが重要だと考えています。

この技術の使用に伴うリスクはまだ調査が続けられていますが、その例としては、アーティストの著作権問題、ディープフェイクによる悪用、不適切な文脈での性的コンテンツの生成、本人の同意のないなりすまし、そして周縁化されたグループに対する抑圧を助長する有害な社会的偏見などが挙げられます。 私たちはリスクの追跡を継続し、コミュニティの反応と貴重なフィードバックに基づいて、以下のガイドラインを適応させていきます。

スコープ

Diffusersコミュニティは、プロジェクトの開発に以下の倫理ガイドラインを適用し、コミュニティが貢献を統合する方法、特に倫理的懸念に関連するセンシティブなトピックに関する調整を支援します。

倫理ガイドライン

以下の倫理ガイドラインは一般的に適用されますが、技術的な選択を行う際に倫理的に敏感な問題に関わる場合を中心に実施します。さらに、対象となる技術の最先端の状況に関連する新たな害が明らかになるにつれて、これらの倫理原則を適応させていくことを約束します。

• 透明性: PR の管理、ユーザーへの選択理由の説明、技術的な意思決定において、透明性を保つことをコミットしています。

• 一貫性：プロジェクト管理において、技術的に安定かつ一貫した状態を維持し、ユーザーに同じレベルの注意を払うことを約束しています。

• シンプルさ: Diffusersライブラリを簡単に使い、その恩恵を享受できるようにしたいという願いから、プロジェクトの目標をスリムで一貫性のあるものに保つことに注力しています。

• アクセシビリティ: Diffusers プロジェクトは、技術的な専門知識がなくても貢献できる人々の参入障壁を下げることで、研究の成果物をコミュニティ全体によりアクセスしやすくしています。

• 再現性: Diffusers ライブラリを通じて公開される上流のコード、モデル、データセットについて、その再現性に関する透明性を確保することを目標としています。

• 責任: 私たちはコミュニティとして、またチームワークを通じて、この技術がもたらす潜在的なリスクや危険を予測し、軽減することで、ユーザーに対して集団的な責任を負います。

実装の例: Safety features and Mechanisms

チームは、拡散技術に伴う潜在的な倫理的・社会的リスクに対処するために必要な技術的および非技術的なツールを確保すべく、日々取り組んでいます。さらに、これらの機能の実装を確実にし、私たちとともに認識を高めるうえで、コミュニティからのフィードバックは非常に価値のあるものです。

• コミュニティタブ: プロジェクトに関するコミュニティの議論や、より良い協業を可能にします。

• バイアスの探索と評価: Hugging Face チームは、Stable Diffusion に存在するバイアスをインタラクティブにデモするためのスペースを提供しています。この点において、私たちはバイアスの探索および評価を支援し、奨励しています。

• デプロイにおける安全性の確保

  • Safe Stable Diffusion: 未フィルタリングのWebクローリングデータセットで学習されたモデル（Stable Diffusionなど）に見られる、不適切な劣化という周知の問題を軽減します。関連論文: Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models。

  • Safety Checker: 生成された画像について、埋め込み空間内でハードコードされた有害な概念のクラス確率を確認・比較します。チェッカーのリバースエンジニアリングを防ぐため、有害な概念は意図的に隠されています。

• Hub での段階的リリース: 特に機密性の高い状況では、一部のリポジトリへのアクセスを制限する必要があります。この段階的リリースは、リポジトリの作成者がその使用をより細かく管理できるようにするための中間ステップです。

• ライセンス: OpenRAILsは新しいタイプのライセンスであり、より責任ある利用を保証する一連の制限を設けつつ、無料でのアクセスを確保することを可能にします。