Exploitez la nouvelle vague d’IA générative avec le calcul par GPU de Snowpark Container Services

L’essor de l’IA générative incite les entreprises à envisager un avenir dans lequel l’IA est intégrée dans tous les aspects de leurs activités pour une expérience client plus humaine, plus personnalisée et plus rentable. Cependant, la mise en place de l’infrastructure de calcul requise, en particulier des GPU pour les grands modèles de langage (LLM), est un véritable défi. L’accès aux ressources nécessaires auprès des fournisseurs de services cloud nécessite une planification minutieuse et les temps d’attente peuvent aller jusqu’à un mois en raison de la forte demande de GPU. De plus, une fois les GPU obtenus, l’exploitation de l’infrastructure nécessite un haut niveau d’expertise, ce qui augmente les frais de gestion et peut constituer un frein à l’innovation. 

Assurer l’accès facile à une infrastructure GPU sans frais opérationnels supplémentaires, tel est l’idéal vers lequel tendent grand nombre d’entreprises. Pour les aider à faire de cette vision si complexe une réalité, Snowflake fournit à ses clients un accès à des LLM de pointe via des fonctionnalités sans serveur dans Snowflake Cortex (en private preview). Nous sommes ravis d’annoncer que Snowpark Container Services est désormais disponible en public preview. Cet outil fournit aux développeurs un calcul élastique et à la demande basé sur des GPU pour tous types de développement d’applications LLM sur mesure et de cas d’usage complexes. 

Avec la public preview de ce nouvel environnement d’exécution Snowpark, qui permet aux développeurs d’enregistrer et de déployer facilement des images de conteneurs dans leur compte Snowflake, les clients ayant des obligations en termes de capacité bénéficient d’un accès rapide à l’infrastructure GPU. Nul besoin de s’approvisionner en instances ou de faire des réservations auprès de son fournisseur cloud public.

Dans le cadre de l’IA générative, le nouvel environnement d’exécution Snowpark permet aux développeurs de déployer rapidement et en toute sécurité des conteneurs pour réaliser les tâches suivantes (et tant d’autres) :

• Réglage des LLM
• Déploiement de bases de données vectorielles open source
• Traitement d’intégrations distribuées
• Transcription de fichiers audio en texte

Dans le but d’étendre les capacités du moteur Snowflake au-delà des charges de travail basées sur SQL, Snowflake a lancé Snowpark, qui prend également en charge Python, Java et Scala au sein des calculs d’entrepôt virtuel. Et, pour une flexibilité quasi illimitée en termes de langage, de framework ou de bibliothèque, ainsi que de matériel utilisé (GPU compris), Snowflake a créé Snowpark Container Services. 

Étant donné que Snowflake continue à rapprocher le calcul des données, le développement et la gestion de pipelines supplémentaires ne sont pas nécessaires et les développeurs profitent de temps de latence réduits, n’ayant pas à déplacer de gros volumes de données vers des plateformes externes. De plus, Snowpark Container Services étant conçu pour le traitement à forte intensité de données, les développeurs peuvent charger et traiter sans effort des millions de lignes de données.   

C’est le cas de l’équipe d’ingénieurs de Sailpoint, dont le modèle de sécurité des identités est passé d’un pipeline d’orchestration complexe à une simple tâche d’exécution. Pour en savoir plus sur leur expérience avec Snowpark Container Services, lisez ce blog en deux parties (partie 1, partie 2).

Une gouvernance intégrée : Snowpark Container Services fonctionne dans le même framework de gouvernance Snowflake Horizon que les données. En ayant la même gouvernance sur les données et le calcul, les développeurs peuvent plus facilement garantir la protection des données et rationaliser les examens de sécurité pour les nouveaux développements. 

Une expérience de services unifiés : Snowpark Container Services réduit la charge opérationnelle liée au déploiement de conteneurs car il est fourni avec un registre d’images intégré, une infrastructure de calcul élastique et un cluster Kubernetes géré, ainsi que d’autres services nécessaires à l’exécution de conteneurs en production (voir figure 1). 

Une tarification simplifiée : les services intégrés se traduisent également par une tarification rationalisée. Snowpark Container Services facture uniquement le calcul et le stockage, ce qui signifie qu’il n’y a pas de facturation séparée pour le registre, la passerelle, les logs et tout ce qui est nécessaire aux déploiements en production. 

Mieux encore, pour passer d’une image de conteneur dans votre environnement de développement à un service évolutif dans le cloud, seuls deux artefacts suffisent : l’image de conteneur et un fichier YAML de spécification. 

• Amélioration de la sécurité et de la gouvernance : nous avons amélioré le contrôle des aspects liés à la sécurité, notamment les sorties, les entrées et le networking. Inscrivez-vous ici pour en savoir plus lors de notre prochaine conférence technique relative à la sécurité.

• Plus d’options de stockage : nous avons implémenté des solutions de stockage plus diversifiées, notamment des volumes locaux, de la mémoire et des Stages Snowflake. Nous sommes également en train d’étendre notre offre au stockage par blocs (actuellement en private preview).

• Types d’instances plus diversifiés : nous avons introduit des instances à forte mémoire et l’allocation dynamique de GPU pour les charges de travail à forte intensité de données.

L’équipe progresse rapidement pour rendre Snowpark Container Services disponible dans toutes les régions AWS et mettre en place prochainement une prise en charge pour d’autres clouds. 

Voici quelques ressources pour vous aider à démarrer :

• Déployez votre premier conteneur dans Snowflake (remarque : Snowpark Container Services n’est pas disponible dans le cadre des comptes d’essai gratuit). Quickstart
• Recevez une notification lorsque de nouvelles régions sont disponibles. Github
• En savoir plus sur Snowpark Container Services. Documentation
• Découvrez comment Snowpark ML et Snowpark Container Services simplifient le déploiement de LLM. Démo
• Participez à une présentation technique sur l’avenir des applications d’IA d’entreprise avec le VP of Product de Landing AI. S’inscrire

Nous sommes impatients de voir toutes les applications sensationnelles que vous construirez dans le Data Cloud avec ce nouveau système, qui permet une flexibilité de développement presque illimitée.