哈密伊吾算力云引进的DeepSeek大模型服务,由新疆联合智算科技有限公司供给技能上的支撑。“满血版”是指完好最大类型的DeepSeek-R1大模型,规划高达6710亿参数。为满意多元化使用场景需求,渠道同步布置了6个轻量化版别,参数量梯度掩盖15亿至700亿区间,构成完好的大模型服务体系。
新疆联合智算科技有限公司运维工程师洪钟表明,用户可根据详细事务需求灵敏挑选模型装备,仅需5分钟就可以完结DeepSeek推理服务和使用的自主创立,完成本地化布置DeepSeek,在打破云端服务流量约束的一起,完成客户数据本地化存储和全流程闭环办理,保证企业中心数据安全可控。
据了解,参数规划更大的 “满血版” DeepSeek R1 大模型具有更强壮的语义捕捉才能,在处理科研核算、编程开发及杂乱财政剖析等需深度推理的使命中体现尤为杰出,其长文本处理优势可支撑专业文献解析和持续性对话场景,并能供给定制化解决方案,满意科研机构与企业的高阶需求,而轻量化模型(蒸馏版)则适用于呼应时效要求高的客服体系、移动端使用等环境,具有布置灵敏的优势。
洪钟说:“ 哈密伊吾算力云装备了先进的硬件设备,可以充沛的发挥DeepSeek大模型的才能,更高效地运转各种根据DeepSeek大模型的各行各业的使用。”
2月10日,新疆联合智算科技有限公司作业人员正在哈密伊吾算力云作业。伊吾县融媒体中心记者 高志华摄
哈密伊吾算力云依托前沿的算力优化技能支撑,奇妙融入集群网络拓扑感知、算力资源智能调度优化、GPU虚拟化及透传等一系列前沿技能,完成了算力调度的精准高效、模型练习的快速迭代以及推理才能的明显提高,先进的技能的交融使用极大地促进了各类大型模型在哈密伊吾算力云渠道的顺利运转,提高使用者实在的体会和作业效率。依托其高度灵敏且赋有弹性的算力调度机制,无论是草创型小微企业,仍是规划巨大的职业巨子,均能在哈密伊吾算力云渠道上敏捷搭建起贴合本身需求的大模型使用,享用史无前例的高效与便当。
哈密伊吾算力云“满血版”DeepSeek大模型的成功上线,不仅是对新疆算力基础设备建造的一次严重提高,更是伊吾数字化的经济加快兴起的实在写照。这一成果得益于伊吾得天独厚的绿电资源优势,为算力工业高质量开展奠定了坚实基础。伊吾县提前布局、科学策划,大力开展算力工业基础设备建造,各企业智算中心连续建成,算力设备相继“点亮”,为大模型练习等AI工业开展供给了有力支撑。