Hub documentation
ChatUI di Spaces
ChatUI di Spaces
HuggingChat adalah antarmuka open-source yang memungkinkan semua orang untuk mencoba model bahasa besar open-source seperti Falcon, StarCoder, dan BLOOM. Berkat template Docker resmi bernama ChatUI, Anda dapat mendeploy HuggingChat Anda sendiri berdasarkan model pilihan Anda dengan beberapa klik menggunakan infrastruktur Hugging Face.
Deploy Chat UI Anda sendiri
Untuk memulai, cukup kunjungi di sini. Di bagian backend aplikasi ini, text-generation-inference digunakan untuk inferensi model yang lebih teroptimasi. Karena model-model ini tidak dapat berjalan di CPU, Anda dapat memilih GPU sesuai dengan model yang Anda pilih.
Anda harus menyediakan endpoint MongoDB tempat percakapan Anda akan ditulis. Jika Anda membiarkan bagian ini kosong, log Anda akan dipertahankan ke database di dalam Space. Perhatikan bahwa Hugging Face tidak memiliki akses ke percakapan Anda. Anda dapat mengonfigurasi nama dan tema Space dengan menyediakan parameter application name dan application color. Di bawahnya, Anda dapat memilih Hugging Face Hub ID dari model yang ingin Anda layani. Anda juga dapat mengubah hiperparameter generasi di dalam kamus di bawah ini dalam format JSON.
Catatan: Jika Anda ingin mendeploy model dengan akses bergerbang atau model di repositori privat, Anda cukup menyediakan HF_TOKEN di secrets repositori. Anda perlu mengatur nilainya ke access token yang dapat Anda dapatkan dari sini.
Setelah pembuatan selesai, Anda akan melihat Building di Space Anda. Setelah dibangun, Anda dapat mencoba HuggingChat Anda sendiri!
Mulai ngobrol!
