Esta nota de aplicación para servidores, publicada el 12 de marzo de 2025, se titula "Implementación de un modelo DeepSeek R1 en Amazon Inferentia2+EC2". El entorno y las herramientas involucradas incluyen Docker.
Esta nota de aplicación para servidores, publicada el 12 de marzo de 2025, se titula "Implementación de un modelo DeepSeek R1 en Amazon Inferentia2+EC2". El entorno y las herramientas involucradas incluyen Docker.
Software y condiciones de implementación
Amazon Web Services ofrece opciones de implementación como Amazon Bedrock Marketplace y Amazon SageMaker JumpStart. En primer lugar, se requiere la autenticación de Amazon Elastic Container Registry (ECR); el acceso a ECR es necesario durante el proceso de creación de la imagen de Docker.
Centro de datos y recursos
La opción `--tensor-parallel-size=2` indica el número de núcleos en un dispositivo Neuron; cada chip Inferentia2 tiene 2 núcleos Neuron.
Los lenguajes de scripting, las bases de datos y las extensiones de las que dependen los programas existentes son el punto de partida para determinar la compatibilidad con el sistema anfitrión.
Este documento de ejemplo muestra cómo crear un sistema de gestión Odoo utilizando una imagen del mercado EC2, con las suscripciones a la imagen y los recursos informáticos incluidos en los costes de implementación.
Esta nota de aplicación para servidores, publicada el 18 de junio de 2025, se titula "Experiencia práctica en la implementación del modelo grande Qwen-7B-Chat en un servidor EC2 de Amazon Cloud".
Las facturas de almacenamiento de objetos pueden incluir diferentes usos, como capacidad, tráfico de red externo y solicitudes de API, lo que dificulta estimar el importe total basándose únicamente en el precio por GB de almacenamiento.
Esta nota de mantenimiento del servidor, publicada el 9 de junio de 2025, se titula "Política y métodos de RackNerd para cambiar direcciones IP de forma gratuita o a cambio de una tarifa".