这篇2025-06-18发布的服务器应用笔记,主题是“实操在亚马逊云EC2服务器部署Qwen-7B-Chat大模型”。
域名与站点配置
配置EC2服务器时,安全组要常规放行,包括要放行一个7860端口,7860端口用于访问WebUI页面。
软件与部署条件
后续操作都需要在容器中运行,若退出了容器,可通过以下命令启动并再次进入容器的Shell环境。由于下载的模型数据是HuggingFace格式,需要转换成xFasterTransformer格式。
原文记录的参数
文中涉及的事项
托管主机
已有程序依赖的脚本语言、数据库和扩展,是决定主机兼容性的起点。
服务商标志
托管主机
这份实例记录使用 EC2 市场镜像建立 Odoo 管理系统,镜像订阅和计算资源分别计入部署成本。
服务商标志
托管主机
对象存储账单可包含容量、外网流量和 API 请求等不同用量,单看每 GB 存储单价难以估算总额。
服务商标志
托管主机
这篇2025-06-09发布的主机运维笔记,主题是“RackNerd 免费或者付费更换IP地址的政策和方法”。
服务商标志
托管主机
这篇2025-03-12发布的服务器应用笔记,主题是“亚马逊云科技Inferentia2+EC2部署DeepSeek R1模型”。实际涉及的环境或工具有Docker。