استخدام GGUF مع LM Studio

LM Studio هو تطبيق سطح مكتب للتجربة والتطوير مع نماذج الذكاء الاصطناعي المحلية مباشرةً على جهازك. بُني LM Studio على llama.cpp ويعمل على Mac (Apple Silicon) وWindows وLinux!

الحصول على النماذج من Hugging Face إلى LM Studio

أولاً، فعّل LM Studio تحت إعدادات التطبيقات المحلية في Hugging Face.

الخيار 1: استخدم زر استخدم هذا النموذج مباشرةً من Hugging Face

بالنسبة لأي نموذج GGUF أو MLX LLM، انقر على قائمة “Use this model” المنسدلة واختر LM Studio. سيقوم هذا بتشغيل النموذج مباشرةً في LM Studio إذا كان لديك بالفعل، أو يعرض لك خيار التحميل إذا لم يكن لديك.

لمحاولة استخدام LM Studio مع نموذج رائج، ابحث عنهم هنا: https://huggingface.co/models?library=gguf\&sort=trending

الخيار 2: استخدام مُحمِّل التطبيق المدمج في LM Studio

افتح تطبيق LM Studio وابحث عن أي نموذج بالضغط على ⌘ + Shift + M على Mac، أو Ctrl + Shift + M على PC (حيث يرمز حرف M إلى Models). يمكنك حتى لصق عناوين Hugging Face كاملة في شريط البحث!

لكل نموذج، يمكنك توسيع القائمة المنسدلة لعرض خيارات التكميم المتعددة. يبرز LM Studio الخيار الموصى به لمعداتك، ويوضح الخيارات المدعومة.

الخيار 3: استخدم lms، سطر أوامر LM Studio:

إذا كنت تفضل سير عمل يعتمد على الطرفية، فاستخدم lms، وهو واجهة سطر الأوامر الخاصة بـ LM Studio.

ابحث عن النماذج من الطرفية:

البحث بكلمة مفتاحية

lms get qwen

تصفية البحث حسب نتائج MLX أو GGUF

lms get qwen \--mlx  # or \--gguf

قم بتنزيل أي نموذج من Hugging Face:

استخدم رابط Hugging Face كاملاً

lms get https://huggingface.co/lmstudio-community/Ministral-3-8B-Reasoning-2512-GGUF

اختر نموذجًا كمّياً

يمكنك اختيار مستوى تكميم للنموذج يحقق التوازن بين الأداء واستهلاك الذاكرة والدقة.

يتم ذلك باستخدام مُؤهِّل @، على سبيل المثال:

lms get https://huggingface.co/lmstudio-community/Ministral-3-8B-Reasoning-2512-GGUF@Q6\_K

لقد قمت بتنزيل النموذج – فماذا الآن؟

لقد قمت بتنزيل نموذج تبعًا لأحد الخيارات المذكورة أعلاه، والآن لنبدأ في LM Studio!

البدء باستخدام تطبيق LM Studio

في تطبيق LM Studio، انتقل إلى مُحمِّل النموذج لعرض قائمة النماذج المُحمَّلة واختيار أحدها للتحميل. يمكنك تخصيص معاملات تحميل النموذج، لكن LM Studio سيختار افتراضيًا معاملات التحميل التي تُحسّن أداء النموذج على جهازك.

بمجرد اكتمال تحميل النموذج (كما يشير شريط التقدم)، يمكنك البدء في الدردشة باستخدام واجهة الدردشة في تطبيقنا!

أو استخدم سطر أوامر LM Studio للتفاعل مع نماذجك

راجع قائمة الأوامر هنا. لاحظ أنه يجب عليك تشغيل LM Studio مرة واحدة على الأقل قبل أن تتمكن من استخدام lms

الاحتفاظ بأحدث النماذج

تابع صفحة LM Studio Community على Hugging Face للبقاء على اطلاع بأحدث نماذج LLM المحلية وأفضلها فور إصدارها.