🧨 Pedoman Etika Diffusers

Pembuka

Diffusers menyediakan model difusi yang telah dilatih sebelumnya dan berfungsi sebagai kotak perkakas modular untuk inferensi dan pelatihan.

Mengingat aplikasi kasus nyata di dunia dan potensi dampak negatifnya terhadap masyarakat, kami menganggap penting untuk menyediakan pedoman etika bagi proyek ini guna memandu pengembangan, kontribusi pengguna, dan penggunaan pustaka Diffusers.

Risiko yang terkait dengan penggunaan teknologi ini masih terus diteliti, namun beberapa contohnya adalah: masalah hak cipta bagi para seniman; eksploitasi deep-fake; pembuatan konten seksual dalam konteks yang tidak pantas; peniruan tanpa persetujuan; bias sosial yang merugikan yang melanggengkan penindasan terhadap kelompok marginal. Kami akan terus memantau risiko dan menyesuaikan pedoman berikut berdasarkan respons komunitas dan umpan balik yang berharga.

Cakupan

Komunitas Diffusers akan menerapkan pedoman etika berikut dalam pengembangan proyek dan membantu mengoordinasikan cara komunitas mengintegrasikan kontribusi, terutama yang berkaitan dengan topik sensitif terkait kekhawatiran etika.

Pedoman etika

Pedoman etika berikut berlaku secara umum, namun kami akan terutama menerapkannya saat menangani isu-isu yang sensitif secara etika dalam membuat pilihan teknis. Selain itu, kami berkomitmen untuk menyesuaikan prinsip-prinsip etika tersebut seiring waktu, mengikuti kerugian yang muncul terkait perkembangan terkini dari teknologi yang dimaksud.

• Transparansi: kami berkomitmen untuk transparan dalam mengelola PR, menjelaskan pilihan kami kepada pengguna, dan mengambil keputusan teknis.

• Konsistensi: kami berkomitmen untuk menjamin pengguna kami mendapatkan tingkat perhatian yang sama dalam manajemen proyek, menjaganya tetap stabil dan konsisten secara teknis.

• Simplicity: dengan keinginan untuk memudahkan penggunaan dan pemanfaatan pustaka Diffusers, kami berkomitmen untuk menjaga tujuan proyek tetap ringkas dan koheren.

• Aksesibilitas: proyek Diffusers membantu menurunkan ambang batas bagi kontributor yang dapat membantu menjalankannya bahkan tanpa keahlian teknis. Dengan demikian, artefak penelitian menjadi lebih mudah diakses oleh komunitas.

• Reproduktibilitas: kami bertujuan untuk transparan mengenai reproduktibilitas kode, model, dan dataset hulu yang tersedia melalui pustaka Diffusers.

• Tanggung jawab: sebagai komunitas dan melalui kerja sama tim, kami memiliki tanggung jawab kolektif terhadap pengguna kami dengan mengantisipasi dan memitigasi potensi risiko dan bahaya teknologi ini.

Contoh implementasi: Fitur dan Mekanisme Keamanan

Tim ini bekerja setiap hari untuk menyediakan alat teknis dan non-teknis guna mengatasi potensi risiko etis dan sosial yang terkait dengan teknologi difusi. Selain itu, masukan dari komunitas sangat berharga dalam memastikan implementasi fitur-fitur ini serta meningkatkan kesadaran bersama kami.

• Tab Komunitas: memungkinkan komunitas untuk berdiskusi dan berkolaborasi dengan lebih baik pada sebuah proyek.

• Eksplorasi dan evaluasi bias: tim Hugging Face menyediakan space untuk mendemonstrasikan bias dalam Stable Diffusion secara interaktif. Dalam hal ini, kami mendukung dan mendorong eksplorasi serta evaluasi bias.

• Mendorong keamanan dalam deployment

  • Safe Stable Diffusion: Meringankan masalah yang sudah dikenal, yaitu model seperti Stable Diffusion yang dilatih pada dataset web-crawled tanpa filter cenderung mengalami degradasi yang tidak pantas. Paper terkait: Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models.

  • Safety Checker: memeriksa dan membandingkan probabilitas kelas dari seperangkat konsep berbahaya yang di-hardcode di ruang embedding terhadap gambar setelah gambar tersebut dihasilkan. Konsep-konsep berbahaya ini sengaja disembunyikan untuk mencegah reverse engineering pada checker.

• Dirilis bertahap di Hub: dalam situasi yang sangat sensitif, akses ke beberapa repositori harus dibatasi. Rilis bertahap ini merupakan langkah perantara yang memungkinkan para penulis repositori memiliki kendali lebih besar atas penggunaannya.

• Lisensi: OpenRAILs, jenis lisensi baru, memungkinkan kami untuk memastikan akses gratis sambil memiliki serangkaian pembatasan yang menjamin penggunaan yang lebih bertanggung jawab.