L’hyperscaler propose une intégration plus profonde avec la plate-forme de modèles IA.
L’intégration plus profonde a pour résultat des temps de chargement réduits par une nouvelle passerelle entre le répertoire d’Hugging Face qui met directement en cache les modèles et jeux de données sur Google Cloud au travers de Vertex AI et Kubernetes Engine.
Un travail commun est en cours pour ajouter le support des TPU (Tensor Processing Unit) pour tous les modèles ouverts d’Hugging Face. Que ce soit pour l’entraînement ou l’inférence, les développeurs auront le même d’utilisation qu’avec les GPU de NVidia. Un autre axe de travail est l’intégration des protocoles de sécurité de Google Cloud pour tous les modèles de la plate-forme d’IA déployés sur Vertex AI. Tous les modèles sur Vertex AI Model Garden seront scannés et validés avec les fonctions de sécurité de Google qui s’appuient sur la plate-forme de Threat Intelligence de Google Cloud et Mandiant.
