Vultr Talon 是 Vultr GPU 服务器,本文介绍一下 Vultr Talon,来自 Vultr 官方博客。
在 Vultr,我们为让所有人(开发人员、中小型企业和大型企业)都能负担得起的云基础设施而感到自豪。压低价格的愿望促使我们创建了 Vultr Talon,这是我们今天在测试版中推出的突破性平台。借助 Vultr Talon,我们现在提供一流的虚拟化 GPU,从 NVIDIA A100 Tensor Core GPU 开始,价格仅为完整 GPU 的一小部分。Vultr 是第一家提供 NVIDIA A100 GPU 虚拟化以实现 GPU 共享的云提供商,从而确保最佳资源利用率。
今天的发布代表了一种创造类别的创新,它提供了一种全新的云虚拟机,解决了使用 GPU 构建和部署支持 AI 的生产应用程序的一些最大障碍。
一、提高 GPU 实例的成本效益和利用率
在过去几年中,NVIDIA GPU 的受欢迎程度呈爆炸式增长 – 这是有充分理由的。单个 GPU 包含数千个非常适合并行计算的专用内核。除了强大的计算能力之外,NVIDIA GPU 还是非常通用的加速器,可用于人工智能、机器学习、数据分析、科学计算等等。
但是,在客户工作负载方面,没有一种适合所有人的方式。不同的工作负载具有不同的计算要求,从 GPU 的一小部分到单个节点上或跨多个节点上的多个 GPU。
为您的工作负载配置适当大小的加速器并最大限度地提高利用率对于云成本优化至关重要。
从历史上看,基于云的用户只能购买以直通模式运行、连接到云计算实例的整个物理 GPU。以这种方式交付的高端 GPU 通常每月花费数千美元。
对于最大的企业工作负载,这种成本通常是合理的,其中一些计算密集型需要多个 GPU 并行运行。但是,对于许多企业和开发人员而言,即使是单个 GPU 的成本也可能会令入门、试验或在开发和测试环境中运行应用程序感到望而却步。即使是拥有大量 IT 预算的企业,最终也可能会浪费大量资金,提供比实际需要更多的 GPU 容量,或者干脆决定完全不使用 GPU。
二、NVIDIA A100 在云端的 GPU 虚拟化,可实现高效计算并降低 AI 成本
GPU 带来了巨大的潜在影响,但许多可以从这些功能中受益的客户却无法利用它们。事实是,满足支持各种 AI 工作负载的计算需求并不是一种万能的方法。
通过利用我们在虚拟化和云基础架构方面的专业知识,我们试图颠覆 GPU 交付模式。我们不是以较低的价格提供整个物理 GPU,而是寻求通过虚拟化实现 GPU 共享,而成本只是其中的一小部分。我们与 NVIDIA 密切合作,开发了由 NVIDIA GPU 和 NVIDIA AI Enterprise 软件提供支持的 Vultr Talon 平台,我们将在今天的测试版中推出该平台。
三、每月 90 美元或每小时 0.13 美元的价格获得改变世界的 NVIDIA GPU 技术
Vultr Talon 的核心是最先进的 NVIDIA GPU 虚拟化平台。我们不是将整个物理 GPU 附加到 VM,而是仅以虚拟 GPU (vGPU) 的形式附加一小部分。虚拟 GPU 由 NVIDIA AI Enterprise 提供支持,其中包括 NVIDIA vGPU 软件,并针对远程运行 AI 工作负载和高性能数据分析进行了优化。
对您的机器而言,vGPU 看起来就像物理 GPU。每个 vGPU 都有自己的专用内存,它是底层卡内存的一部分。vGPU 可以访问物理 GPU 计算能力的相应部分。
Vultr Talon 将 NVIDIA 的多实例 GPU 技术用于具有至少 10GB GPU 内存的 VM,通过为租户提供有保证的 QoS、完全隔离的 GPU 高带宽内存、缓存和专用计算核心来扩展性能价值。
您可以使用带有虚拟 GPU 的 Vultr VM 来运行您在物理 GPU 上运行的所有相同框架、库和操作系统。与所有 Vultr 产品一样,您可以轻松地扩大或缩小使用量,以精确匹配您的 GPU 支出与您的实际需求。
四、NVIDIA A100 的几分之一,起价仅为每月 90 美元
NVIDIA A100 Tensor Core GPU 为深度学习、高性能计算 (HPC) 和数据分析提供了令人难以置信的加速。NVIDIA A100 得益于 NVIDIA Ampere 架构中的技术突破,如第三代张量核心、TensorFloat-32 (TF32) 精度和结构稀疏性,为数据分析、人工智能训练、人工智能推理和 HPC 提供统一的工作负载加速器。
结合 NVIDIA AI Enterprise 软件套件,该套件针对 AI 的开发和部署进行了优化,并经过认证可在虚拟化环境中运行,NVIDIA A100 可加速所有主要的深度学习和数据分析框架,如 TensorFlow 和 PyTorch 以及 700 多个 HPC 应用程序。
具有单个或多个物理 GPU 的云实例通常每月售价数千美元。相比之下,我们今天推出了一组 Vultr 计划,为您提供 NVIDIA A100 Tensor Core GPU 的一小部分以及专用的 vCPU、RAM、存储和带宽,起价为每月 90 美元或每小时 0.13 美元。这些实例支持更精细地配置 GPU 资源,并为开发人员提供最佳的加速计算量。
现在,在我们的控制面板中,您可以配置各种规格的 GPU 实例。
五、您可以使用虚拟化的 NVIDIA A100 Tensor Core GPU 做什么?
带有 NVIDIA A100 GPU 和 NVIDIA AI Enterprise 软件的 Vultr 计划适用于广泛的生产和开发用例。特别是,我们推荐将它们用于自然语言处理、语音识别和计算机视觉的 ML 推理和模型构建工作负载。
除了 NVIDIA AI Enterprise 软件套件,NVIDIA 还提供 NGC 目录,这是一个额外的 GPU 优化 AI 和 HPC 软件的中心。NGC 包括企业级容器、框架、预训练模型、Helm 图表和行业特定的软件开发工具包 (SDK),供数据科学家、开发人员和 DevOps 团队更快地构建和部署他们的解决方案。借助 NGC,开发人员可以部署性能优化的 AI/HPC 软件容器、预训练的 AI 模型和 Jupyter Notebook,从而在任何 GPU 驱动的本地、云和边缘系统上加速 AI 开发和 HPC 工作负载。
对于数据准备和深度学习训练等计算密集型 AI 工作负载,客户可以选择使用多 GPU 或完整的 NVIDIA A100。AI 推理或边缘 AI 等计算密集度较低的工作负载通常不需要 GPU 的全部计算能力,并且可以在较小的 vGPU 大小的产品上运行。
六、用于大型工作负载的裸机 GPU
如果您希望运行需要多个物理 GPU 的工作负载,我们还提供配备四个 NVIDIA A100 GPU 和双 24 核 Intel Xeon CPU 的 Bare Metal 服务器。
今天的发布是一个测试版,初始容量在新泽西州。我们将在未来几周内增加 NVIDIA A100、A40 和 A16 GPU 的全球库存,以更好地支持更多地区和更广泛的用例。
如果您有兴趣尝试 Vultr Talon,您可以通过我们的控制面板配置实例。您可以在我们网站的文档部分找到有关如何开始使用的其他指南。
七、Vultr 新手活动和套餐推荐
1. Vultr 新用户赠送 $50 美金
点击上面的链接并注册账户即可获赠 $50 美金账户余额,赠金有效期 30 天。
Vultr 新用户注册教程:《2022 最新 Vultr VPS 新用户注册/购买图文教程/使用支付宝付款教程》。
2. Vultr 新用户赠送 $100 美金
第二个活动是新用户注册账户赠送 100 美元的活动,点击上面的链接注册账户即可获赠 $100 美金账户余额,有效期只有 14 天。
3. Vultr 新用户充多少送多少活动(推荐)
2021 年下半年,Vultr 最新上线了一个充值翻倍活动,充多少送多少,最多送 $100 美元赠金。赠送的金额有效期为 1 年,非常给力!
注意事项:
- 必须是新用户,老用户没有资格。
- 账户扣款的时候充值金额和赠金按照 50/50 的比例扣,也就是各扣一半,比如消费了 $10,充值金额扣 $5,赠金扣 $5。
- 活动结束时间未知,但是说是限时活动,尽快参加。
4. Vultr 推荐套餐
CPU | 内存 | 硬盘 | 月流量 | 带宽 | IP | 价格 | 购买 |
---|---|---|---|---|---|---|---|
1核 | 0.5GB | 10GB SSD | 0.5TB | 1Gbps | 仅IPv6 | $2.5/月 | 购买 |
1核 | 0.5GB | 10GB SSD | 0.5TB | 1Gbps | 1个IPv4 | $3.5/月 | 购买 |
1核 | 1GB | 25GB SSD | 1TB | 1Gbps | 1个IPv4 | $5/月 | 购买 |
1核 | 2GB | 55GB SSD | 2TB | 1Gbps | 1个IPv4 | $10/月 | 购买 |
2核 | 4GB | 80GB SSD | 3TB | 1Gbps | 1个IPv4 | $20/月 | 购买 |
4核 | 8GB | 160GB SSD | 4TB | 1Gbps | 1个IPv4 | $40/月 | 购买 |
6核 | 16GB | 320GB SSD | 5TB | 1Gbps | 1个IPv4 | $80/月 | 购买 |
8核 | 32GB | 640GB SSD | 6TB | 1Gbps | 1个IPv4 | $160/月 | 购买 |
16核 | 64GB | 1280GB SSD | 10TB | 1Gbps | 1个IPv4 | $320/月 | 购买 |
24核 | 96GB | 1600GB SSD | 15TB | 1Gbps | 1个IPv4 | $640/月 | 购买 |