dimanche 8 novembre 2026
EN
BP·InfoVeille IA

L’actualité de l’IA qui compte, expliquée pour les pros des affaires et des TI.

Affaires et TI

Amazon SageMaker Inference prend en charge le partitionnement de GPU avec NVIDIA MIG

AWS annonce que SageMaker Inference peut maintenant diviser un GPU en partitions isolées au niveau matériel, chacune pouvant héberger un modèle différent ou une fraction de GPU. La fonction est offerte sur les instances P4d (A100), P5 (H100), G7 et G7e, avec jusqu’à sept partitions par GPU, et se configure au moyen de deux nouveaux champs d’API facultatifs.

AWS Machine Learning BlogPublié à l’origine le 1 min

Pourquoi c’est important

Les petits modèles laissent souvent des accélérateurs coûteux largement inutilisés; ajuster la capacité GPU à la taille réelle des besoins est donc un levier direct pour réduire les coûts d’inférence. AWS met de l’avant une latence prévisible, l’absence de démarrage à froid et une répartition plus simple des coûts. La fonction a toutefois ses limites : elle exige des composants d’inférence, n’est pas offerte pour les points de terminaison à modèle unique ou sans serveur, et la disposition des partitions est fixée à la création du point de terminaison.

Pour les affaires et les TI

Repérez dans vos points de terminaison SageMaker les petits modèles qui occupent un GPU entier, et vérifiez que le partitionnement maintient une latence acceptable avant de modifier les configurations en production.

#aws#sagemaker#gpu#inference#nvidia

Plus dans Affaires et TI

Tout voir →

AWS montre comment centraliser l’autorisation des agents IA avec Okta et AgentCore Gateway

Dans la deuxième partie d’une série, AWS décrit un modèle d’entreprise où Amazon Bedrock AgentCore Gateway sert de point d’entrée unique pour les agents et échange les autorisations émises par Okta Cross App Access. Des politiques Cedar lient chaque outil à un agent précis, et un second agent s’exécute sur Amazon EKS avec sa propre identité et un accès en lecture seule. AgentCore Observability et CloudWatch consignent chaque décision d’autorisation ou de refus à côté des journaux d’Okta.

AWS Machine Learning Blog

Greenlight Financial affirme que son centre d’opérations de sécurité multiagent règle plus de 90 % des cas sans humain

Dans un billet de blogue d’AWS, Greenlight Financial décrit Luna, un système multiagent à deux niveaux bâti sur Amazon Bedrock AgentCore, qui traite les 3 000 à 4 000 alertes de sécurité et de risque reçues chaque mois par son centre d’opérations de sécurité. Selon l’entreprise, le premier niveau règle à lui seul 83 % des cas de façon autonome, et plus de 90 % avec un second niveau de raisonnement. Elle estime économiser de 900 à 1 800 heures de travail d’analyse courant par mois.

AWS Machine Learning Blog

Une faille de CPython permettrait à des modèles piégés de s’évader du bac à sable des serveurs d’inférence, selon des chercheurs

Des chercheurs de RunSybil affirment qu’une faille de sécurité de la mémoire dans CPython permet à un modèle d’IA spécialement conçu de contourner le bac à sable du moteur de gabarits Jinja et d’exécuter du code sur le serveur qui l’héberge. Ils préviennent que les fournisseurs qui laissent leurs clients téléverser leurs propres modèles pourraient être touchés. L’équipe de sécurité de Python reconnaît le bogue, mais conteste que l’évasion démontrée constitue une vulnérabilité de CPython.

InfoWorld