Une faille de CPython permettrait à des modèles piégés de s’évader du bac à sable des serveurs d’inférence, selon des chercheurs
Des chercheurs de RunSybil affirment qu’une faille de sécurité de la mémoire dans CPython permet à un modèle d’IA spécialement conçu de contourner le bac à sable du moteur de gabarits Jinja et d’exécuter du code sur le serveur qui l’héberge. Ils préviennent que les fournisseurs qui laissent leurs clients téléverser leurs propres modèles pourraient être touchés. L’équipe de sécurité de Python reconnaît le bogue, mais conteste que l’évasion démontrée constitue une vulnérabilité de CPython.
InfoWorldPublié à l’origine le 1 min
Pourquoi c’est important
Le désaccord porte sur la responsabilité de prévenir les évasions de bac à sable : l’interpréteur ou les logiciels bâtis par-dessus. Quelle que soit la réponse, la démonstration montre que les fichiers de modèles et leurs gabarits peuvent servir de point d’entrée vers une infrastructure d’inférence partagée.
Selon les chercheurs, une telle attaque pourrait offrir un point d’appui dans des serveurs qui traitent les requêtes de nombreux utilisateurs, voire dans l’infrastructure infonuagique sous-jacente.
Pour les affaires et les TI
Si vous hébergez ou servez des modèles de tiers ou téléchargés, traitez les fichiers de modèles et leurs gabarits de clavardage comme du code non fiable : exécutez l’inférence dans des conteneurs ou des machines virtuelles isolés à privilèges minimaux et suivez les correctifs de Python et de votre pile de service.
AWS annonce que SageMaker Inference peut maintenant diviser un GPU en partitions isolées au niveau matériel, chacune pouvant héberger un modèle différent ou une fraction de GPU. La fonction est offerte sur les instances P4d (A100), P5 (H100), G7 et G7e, avec jusqu’à sept partitions par GPU, et se configure au moyen de deux nouveaux champs d’API facultatifs.
Dans la deuxième partie d’une série, AWS décrit un modèle d’entreprise où Amazon Bedrock AgentCore Gateway sert de point d’entrée unique pour les agents et échange les autorisations émises par Okta Cross App Access. Des politiques Cedar lient chaque outil à un agent précis, et un second agent s’exécute sur Amazon EKS avec sa propre identité et un accès en lecture seule. AgentCore Observability et CloudWatch consignent chaque décision d’autorisation ou de refus à côté des journaux d’Okta.
Dans un billet de blogue d’AWS, Greenlight Financial décrit Luna, un système multiagent à deux niveaux bâti sur Amazon Bedrock AgentCore, qui traite les 3 000 à 4 000 alertes de sécurité et de risque reçues chaque mois par son centre d’opérations de sécurité. Selon l’entreprise, le premier niveau règle à lui seul 83 % des cas de façon autonome, et plus de 90 % avec un second niveau de raisonnement. Elle estime économiser de 900 à 1 800 heures de travail d’analyse courant par mois.
Selon CIO, Meta a suspendu indéfiniment une mise à jour de ses conditions d’utilisation pour les entreprises, qui lui aurait permis de récupérer du contenu sur les sites de ses clients et aurait fait porter à ceux-ci la responsabilité des erreurs de l’IA. Ces conditions, dévoilées le 19 octobre, avaient déjà été reportées au 20 novembre.
CIO
Avec votre accord, nous utilisons Google Analytics pour savoir quelles nouvelles sont lues. Aucune publicité, et vos données ne sont jamais vendues. Politique de confidentialité