Hub documentation
하드웨어
하드웨어
Hub에 소유한 컴퓨트 하드웨어(GPU, CPU 또는 Apple Silicon)를 알려 주면, 해당 환경에서 실행할 수 있는 모델을 찾는 데 도움을 줍니다. 이 정보는 공개 프로필에도 표시되므로 커뮤니티와 내 환경을 비교할 수 있으며, 언제든지 비공개로 설정할 수 있습니다.
언제든 하드웨어 설정에서 관리할 수 있습니다.
하드웨어 추가
하드웨어 설정 페이지에서 소유한 각 하드웨어를 추가하세요:
- 타입을 선택하세요: GPU, CPU 또는 Apple Silicon.
- provider와 model을 선택합니다(예: NVIDIA RTX 4090).
- 보유한 메모리(VRAM, RAM 또는 통합 메모리)와 단위 수를 설정하세요.
원하시는 만큼의 항목을 추가할 수 있습니다. 여러 대의 하드웨어를 보유하고 있다면, 모델 페이지에서 가장 먼저 표시되도록 하나를 기본 하드웨어로 지정하세요.
하드웨어는 기본적으로 공개됩니다. 비공개로 유지하려면 공개 표시 토글을 끄세요.
하드웨어에 맞는 모델을 확인하세요
On model pages that offer GGUF or MLX files, a Hardware compatibility panel estimates whether each quantization will run on your saved hardware, so you can choose a size that fits before downloading. Pair it with Local Apps to get up and running in a couple of clicks.
공유 및 비교
하드웨어가 공개된 동안:
- 프로필에 TFLOPS 배지가 표시되며, 예상 총 컴퓨트 파워를 요약합니다.
- 커뮤니티에서 실행 중인 구성을 살펴보고 GPU, CPU, Apple Silicon에서 자신의 설정이 어떻게 비교되는지 확인할 수 있습니다.
- 각 벤더도 NVIDIA, AMD, Apple, Intel, Qualcomm와 같은 자체 페이지를 보유하고 있으며, 해당 브랜드의 하드웨어를 한곳에 모아 제공합니다.
API에서 하드웨어 읽기
하드웨어가 공개되어 있다면, 프로그래밍 방식으로 사용할 수 있습니다:
GET https://huggingface.co/oauth/userinfo는 앱이profile스코프를 부여받은 경우hardwareItems클레임을 포함하므로, Hugging Face로 로그인 앱은 추가 호출 없이 로그인한 사용자의 설정을 읽을 수 있습니다.GET https://huggingface.co/api/users/{username}/overview는 하드웨어가 공개된 사용자의 경우hardwareItems배열을 반환합니다.
curl https://huggingface.co/api/users/{username}/overview{
"hardwareItems": [
{ "sku": ["GPU", "NVIDIA", "RTX 4090"], "mem": 24, "num": 2, "isPrimary": true }
]
}각 항목에는 다음이 포함됩니다:
sku:[type, provider, model]3원조.mem: GB 단위의 메모리(VRAM, RAM 또는 통합 메모리).num: 유닛의 개수.isPrimary: primary로 표시된 항목에만 존재합니다.
사용자가 공개 표시 토글을 꺼두면 hardwareItems가 두 응답 모두에서 생략됩니다. 전체 응답 스키마는 Hub API 문서를 참조하세요.
다음 단계
- AI 모델을 로컬에서 사용 — 좋아하는 로컬 앱으로 모델을 실행합니다.
- llama.cpp를 활용한 로컬 에이전트 — 자체 하드웨어에서 코딩 에이전트를 구축합니다.