近年来
经过移动互联网的洗礼
相信很多人对“共享”一词都耳熟能详
先有滴滴合并Uber
睥睨网约车市场
后有各色单车涌出
铺满一线城市大街小巷
共享雨伞、共享充电宝等新事物纷纷冒头
整合闲置资源渐成新趋势
从此
拥有30年驾龄的退休老人开着网约车拉活
外出旅行的空置房躺着收租
大学生利用闲暇帮人照看宠物
上班族进了大厦
Ta的汽车依然跑在各个角落
盘活闲置资源,创造更多价值
共享的思路不仅在互联网经济中如鱼得
其对如火如荼的AI发展同样适用
昂贵的资源困局
有人说,AI是用算力喂出来的。随着智能化步伐加快,越来越多企业将AI技术嵌入业务内核,从边缘到数据中心到云的海量结构化和非结构化数据,需要复杂的推理、训练任务提炼出价值,而算力,正是这一切的基石。
近几年,企业对AI算力的需求迅猛增长,尤其是云端AI算力,从2012年到现在增长了超过三十万倍,而且在可预见的将来依然会保持这个增速。
面对嗷嗷待哺的云端AI,目前主要有三类AI加速器为其提供营养:GPU,FPGA和AI ASIC芯片,这些加速器具有极高的性能优点,但价格极其昂贵。
民间有句老话:人有所求,物有所值。既然剁手把这么贵的AI加速器买回来了,总得充分发挥价值让人心理平衡吧。然而,把这宝贝抱回家后,很多企业都会感到心气不顺。
为什么呢?
资源利用不足。
由于无法构建高效的加速器资源池,绝大部分企业不得不独占式地使用这些昂贵的加速器资源,导致资源利用率低、成本高。例如,AWS在re:Invent 2018上提到,其GPU利用率只有10%-30%。
空有昂贵的高性能GPU资源,却不能充分共享出去,让更多任务加以利用,任谁想想都觉得肉疼。那么,有什么好办法可以解决这个问题呢?
经济高效的AI加速器虚拟化解决方案来一个!
猎户座AI计算平台
可靠的GPU军师
针对企业无法高效利用GPU资源的问题,戴尔科技集团联合AI计算平台合作伙伴趋动科技,基于猎户座AI软件,助力客户摆脱资源随需扩展的苦恼。
http://mpvideo.qpic.cn/0bf26uaaqaaauyal5tmfrjpfb5odbd2qacaa.f10002.mp4?dis_k=7c9983b03edf59d483cb7ca37a66b704&dis_t=1586226883
趋动科技:成立于2018年,由Dell EMC中国研究院背景的核心团队创办,主要为用户提供AI加速器虚拟化和资源池化软件及解决方案,目前趋动科技已经推出OrionX计算平台,使用户应用无需修改就能透明地共享和使用数据中心内任一服务器之上的AI加速器,提升AI计算资源利用率,便利用户应用的部署。
为实现计算资源的灵活分配和使用,传统的GPU虚拟化技术只能对本地物理机上的GPU进行虚拟切割,而猎户座AI计算平台采用了创新的虚拟化技术,不仅可以支持本地GPU虚拟化,而且能够打破资源调度的物理边界,帮助客户构建数据中心级AI加速器资源池。
通过猎户座AI计算平台,用户应用无需修改代码就能透明地共享和使用数据中心内任何服务器之上的AI加速器,不但能够实现AI加速器资源的管理和调度、提高资源利用率,而且可以极大便利用户应用的部署。
如果猎户座AI计算平台比作军师,服务器上的GPU资源就好比千军万马,军师运筹帷幄,按照工作负载需求灵活调度本地及非本地GPU资源,可实现资源最大程度的利用。它支持以下四大技术场景:
化整为零
实现GPU显存和算力任意比例的切割和分配
猎户座AI计算平台支持将一块物理GPU细粒度切分成多块虚拟GPU,并分配给多个虚拟机或容器,每一块虚拟GPU的显存和算力都能被独立设置和限制。
通过这个功能,用户可以高效地共享GPU资源,从而提高资源利用率,降低成本。
化零为整
实现对应用透明的跨物理服务器GPU资源聚合
猎户座AI计算平台支持将多台服务器上的GPU提供给一个虚拟机或者容器使用,而该虚拟机或者容器内的AI应用无需修改代码。
借助这个功能,用户可以将多台服务器的GPU资源聚合后提供给单一虚拟机或者容器使用,为AI应用提供数据中心级的海量算力。
隔空取物
透明使用非本地服务器上GPU资源
猎户座AI计算平台支持将虚拟机或容器运行在一台没有物理GPU的服务器上,透明地使用另一台服务器上的GPU资源,而该虚拟机或者容器内的AI应用无需修改代码。
由此,猎户座AI计算平台助力用户实现数据中心级的GPU资源池,其应用可以无障碍地部署到数据中心内的任意服务器之上——打破所谓“远水解不了近渴”的困局。
随需应变
资源动态伸缩无需重启虚机
猎户座AI计算平台支持用户在虚拟机或容器的生命周期内,动态分配和释放所需要的GPU资源。这个功能帮助用户实现了真正的GPU资源动态伸缩,极大提升了GPU资源调度的灵活度。
AI要发展,算力要支撑,除了高性能的硬件准备,企业也需修好软件内功,实现资源最大利用。猎户座AI计算平台,灵活随需,高效降本,助力用户内外兼修,AI胜之有道。
看到这儿
伙伴们
要怎么向您的客户撬动AI这块奶酪?
为什么选择戴尔动态加速云
01 对客户的价值
• 疫情之下NVIDIA卡断货,可以利用老的GPU服务器加猎户座AI软件,提高GPU利用率4-5倍;
• 弹性切分GPU;
• 将分散在N台服务器上的GPU资源池化;
• 实现数据中心级GPU资源共享;
• 支持异构;
• 帮助客户将TCO降低至少20%。
02 对渠道商的价值
• 全球领先的GPU虚拟化技术,非常强的产品竞争力
• 另辟蹊径应对NVIDIA GPU全球持续缺料
• 满足16卡或者更多GPU AI训练需求
• 避免方案同质化,价格挑战无法中标
03 典型行业和应用场景
• 互联网-AI推理&训练计算平台、深度学习
• 教育-高校AI实训平台、生物工程
• 制造业-自动驾驶
• 金融-金融大数据处理
• 医疗-AI优化医疗影像、AI加速基因测序
• 公有云服务提供商- GPU云服务
• 政府-监控影像智能分析
• 私有云-企业级AI云平台
销售指引
为推动销售猎户座AI计算平台,供各位合作伙伴挖掘商机,作参考之用:
潜在销售机会关键词
GPU、AI、深度学习、CUDA 并行计算平台、HPCC高性能并行计算、GPU公有云
常见问题及资料包
软件试用装:一个月的免费试用;
申请要求:需报备,报备成功后,软件 Lisence 会发至客户邮箱;
报备流程:填写报备申请表,报备有效期为从申请之日起 6 个月;
安装支持:
https://github.com/virtaitech/orion/blob/master/doc/Orion-User-Guide.md
产品型号:Orion Controller+Orion vGPU for(V100,T4/P4,2080Ti)( 猎户座控制器+GPU软件许可)。
随着5G、云计算、物联网等技术的发展,智能化趋势方兴未艾,如何在数字化浪潮中抢占AI高地 ,夺得市场先机,戴尔科技集团愿与各位合作伙伴携手前行,共赢AI新时代!
