サードパーティ製スキャナー: Protect AI

Hubでのセキュリティパートナーシップへの参加、またはスキャン情報の提供にご興味がある方は、security@huggingface.coまでご連絡ください。*

Protect AIのGuardianは、Knowledge Base pageに詳述されているpickle、Keras、その他のエクスプロイトを検出します。Guardianは、バウンティHuntrのコミュニティから送信されるレポートの恩恵も受けています。

danger.datのレポートの例

Protect AI と提携し、スキャン機能を提供することで Hub の安全性を向上させています。内部のスキャンシステムによってファイルがスキャンされるのと同様に、パブリックリポジトリのファイルは Guardian によってスキャンされます。

この目的に特化して、新しいスキャナーに対応できるよう、フロントエンドが再設計されました:

この機能を実際に確認できるサンプルリポジトリを以下に示します: mcpotato/42-eicar-street。

モデルセキュリティの復習

モデルを共有するために、モデルとの相互作用に使用するデータ構造をシリアライズし、保存と転送を容易にします。一部のシリアライズ形式は、任意のコード実行（pickle、あなたのことです）のような悪意あるエクスプロイトに対して脆弱であり、モデルの共有が潜在的に危険を伴う可能性があります。

Hugging Face がモデル共有のプラットフォームとして広く普及したことに伴い、コミュニティをこの脅威から保護するため、picklescan などのツールを開発し、サードパーティ製のスキャナーを統合しています。

Pickleは唯一の悪用可能なフォーマットではありません。KerasのLambdaレイヤーを悪用して任意のコード実行を実現する方法については、参考資料を参照してください。

Update on GitHub