Escáner de terceros: Protect AI

¿Le interesa unirse a nuestra alianza de seguridad / proporcionar información de escaneo en el Hub? Póngase en contacto con nosotros en security@huggingface.co.*

Protect AI’s Guardian detecta exploits de pickle, Keras y otros, tal como se detalla en su página de Knowledge Base. Guardian también se beneficia de los informes enviados por su comunidad de Huntrs de recompensas.

Ejemplo de un informe para danger.dat

Colaboramos con Protect AI para ofrecer escaneos y hacer el Hub más seguro. De la misma manera en que los archivos son escaneados por nuestro sistema interno de escaneo, los archivos de los repositorios públicos son escaneados por Guardian.

Nuestro frontend ha sido rediseñado específicamente para este fin, a fin de acomodar nuevos escáneres:

Aquí tienes un ejemplo de repositorio que puedes consultar para ver la función en acción: mcpotato/42-eicar-street.

Repaso de la seguridad de los modelos

Para compartir modelos, serializamos las estructuras de datos que usamos para interactuar con ellos, con el fin de facilitar su almacenamiento y transporte. Algunos formatos de serialización son vulnerables a exploits peligrosos, como la ejecución de código arbitrario (mirándote a ti, pickle), lo que hace que compartir modelos sea potencialmente riesgoso.

Dado que Hugging Face se ha convertido en una plataforma popular para compartir modelos, queremos proteger a la comunidad de esto, por lo que hemos desarrollado herramientas como picklescan y por qué integramos escáneres de terceros.

Pickle no es el único formato explotable que existe, véase como referencia cómo se pueden explotar las capas Lambda de Keras para lograr la ejecución de código arbitrario.

Update on GitHub