您现在的位置是：首页 > 动态 > 正文
AWS EC2 Trn1实例现已推出
发布时间：2022-11-15 16:40:18编辑：来源：
Amazon Web Services (AWS) 已宣布全面推出 AWS EC2 Trn1 实例。Trn1 实例由 AWS 设计的 Trainium 芯片提供支持，专为机器学习模型(在云中)的高性能训练而设计，与类似的 GPU 相比，“训练成本”节省减少了 50%基于实例。
AWS EC2 Trn1 实例提供了在 AWS 上训练流行机器学习模型的最快时间。这使他们的客户能够减少训练时间，快速迭代模型以提高准确性，并提高自然语言处理、语音和图像识别、语义搜索、推荐引擎、欺诈检测和预测等工作负载的整体生产力。
就定价而言，Trn1 实例非常灵活，因为没有最低承诺或预付费用。客户还只需为他们使用的计算量付费。
以前，即使组织利用可用的最快加速实例，训练更复杂的机器学习模型仍然过于昂贵和耗时。借助新的 AWS EC2 Trn1 实例，亚马逊表示它们拥有最好的性价比和在 AWS 上进行最快的机器学习模型训练。
客户可以在 Amazon EC2 UltraClusters(由数万个 Trainium 加速器组成)中部署 Trn1 实例，以快速训练最复杂的深度学习模型，即使是具有数万亿参数的模型。借助 EC2 UltraClusters，组织能够使用多达 30,000 个与 EFA PB 级网络互连的 Trainium 加速器来扩展机器学习模型的训练。亚马逊表示，这些组织将因此可以按需访问超级计算级性能，这可以显着缩短通常需要几个月到几天的培训时间。
每个 AWS EC2 Trn1 实例支持高达 8TB 的快速本地 NVMe SSD 存储，而 AWS Trainium 支持多种数据类型(FP32、TF32、BF16、FP16 和可配置的 FP8)。它还支持随机舍入，一种基于概率的方法，以实现高性能和更高的准确性。此外，AWS Trainium 支持动态张量形状和自定义运算符，这促进了旨在根据客户培训需求进行调整的灵活基础设施。
AWS Nitro 系统
Trn1 实例基于 AWS Nitro 系统构建，该系统是 AWS 设计的硬件和软件创新的集合，可简化隔离多租户、私有网络和快速本地存储的交付。为了提供必要的性能，Nitro 系统将 CPU 虚拟化、存储和网络功能卸载到专用硬件和软件上。
标签：
猜你喜欢
- 4月疫情最新消息4月24日0--24时湖南省新增本土确诊病例12例
- 4月疫情最新消息关于开通疫情期间邵阳市退役军人心理咨询援助热线的公告
- 4月疫情最新消息浦发银行广州分行奔赴疫线 守护家园
- 4月疫情最新消息广州银行持续提升疫情防控金融温度
- 4月疫情最新消息深新早点 | 五一还能跨省出游吗深圳最新出行政策→
- 4月疫情最新消息4月23日四川无新增本土病例
- 4月25日疫情消息乡村振兴看安徽稻虾共养让农民走上生态致富路
- 孕妇胆汁酸高是怎么了（孕妇胆汁酸高是怎么引起的）
- 胸口正中间疼怎么缓解（胸口正中间疼怎么回事）
- 孩子夜里咳嗽怎么办最有效的方法（孩子夜里咳嗽怎么回事）
- 高血压最大禁忌吃什么（高血压最大禁忌）
- 艾滋病最常见的机会型感染（艾滋病最常见的机会性感染）
- 吃阿莫西林多久后可以喂奶（吃阿莫西林多久后可以喝酒）
- 咽喉老有痰与脾胃气虚有关系吗（咽喉老有痰怎么办）
- 肺外结核会在胰腺处发现肿块吗（肺外结核是什么）
- 三角区长痘痘是什么原因怎么调理（三角区长痘痘是什么原因）
- 头虱子怎么彻底去除土方法（头虱子怎么彻底去除）
- 脸上长疖子涂什么药膏（脸上长疖子用什么药膏）
- 修复胰岛功能的药物（修复胰岛的最佳方法）
- 脾虚痰湿型肥胖症状（脾虚痰湿的症状及调理）