Cette note d'application serveur, publiée le 12 mars 2025, est intitulée « Déploiement d'un modèle DeepSeek R1 sur Amazon Inferentia2 + EC2 ». L'environnement et les outils utilisés incluent Docker.
Cette note d'application serveur, publiée le 12 mars 2025, est intitulée « Déploiement d'un modèle DeepSeek R1 sur Amazon Inferentia2 + EC2 ». L'environnement et les outils utilisés incluent Docker.
Conditions logicielles et de déploiement
Amazon Web Services propose des options de déploiement telles qu'Amazon Bedrock Marketplace et Amazon SageMaker JumpStart. L'authentification auprès d'Amazon Elastic Container Registry (ECR) est requise ; l'accès à ECR est nécessaire lors de la création de l'image Docker.
Centre de données et ressources
L'option `--tensor-parallel-size=2` indique le nombre de cœurs dans un dispositif Neuron ; chaque puce Inferentia2 possède 2 cœurs Neuron.
Les langages de script, les bases de données et les extensions dont dépendent les programmes existants constituent le point de départ pour déterminer la compatibilité avec l'hôte.
Ce document d'exemple montre comment construire un système de gestion Odoo à l'aide d'une image EC2 Marketplace, les abonnements à l'image et les ressources de calcul étant inclus dans les coûts de déploiement.
Cette note d'application serveur, publiée le 18 juin 2025, est intitulée « Expérience pratique de déploiement du modèle Qwen-7B-Chat Large sur un serveur Amazon Cloud EC2 ».
Les factures de stockage d'objets peuvent inclure différentes utilisations telles que la capacité, le trafic réseau externe et les requêtes API, ce qui rend difficile l'estimation du montant total en se basant uniquement sur le prix par Go de stockage.
Cette note de maintenance d'hébergement, publiée le 9 juin 2025, est intitulée « Politique et méthodes de RackNerd pour changer d'adresse IP gratuitement ou moyennant des frais ».