返回
云轴科技ZStackCTO王为:AI Infra平台具备解决私有化AI全栈难题能力
2025-04-09 11:28

4月1-2日,2025中国生成式AI大会在北京举办,该会议已成为国内AI领域最具影响力的产业峰会之一。云轴科技ZStack CTO王为受邀在“大模型”峰会上发表主题为《AI 原生实践:企业实际场景的 AI 赋能与 Infra 实践探索》演讲,并参加《DeepSeek给AI Infra带来的启示与机会》圆桌讨论。

AI Infra平台具有多维支撑特性 解决企业私有化AI全栈难题

DeepSeek在激活全行业对人工智能重视的同时,也倒逼很多产品必须进行技术重构,包括传统一体机。只有深度整合人工智能基础设施(AI Infra)平台的方案,才能满足企业智能化转型的核心需求。

王为指出:“具有AI Infra平台能力的DeepSeek一体机为用户提供了入门的解决方案,通过预装模型和应用降低了部署门槛,能够快速满足基础需求。但随着需求增长,用户可能需要更复杂的算力调度和混合云部署方案,以及模型部署上线复杂、多种模型难以评估、模型版本迭代困扰、敏感数据泄露隐患、算力资源利用率低等问题”。

在今年3月,ZStack基于ZStack AIOS平台智塔发布智塔AI一体机DeepSeek版,希望解决这些用户痛点。ZStack AIOS平台智塔通过创新的资源调度机制,实现了 GPU 算力的充分利用。vGPU切分技术支持在单张显卡上同时运行多个轻量级模型,可显著提升硬件资源利用率,同时平台适配 NVIDIA、华为昇腾、海光 等主流GPU设备

在多个实践案例中,ZStack AIOS平台智塔帮助企业将GPU利用率提升40%以上,显著降低了硬件投入成本。

同时ZStack AIOS平台深度集成HuggingFace、ModelScope等主流开源模型平台,支持一键拉取最新模型到企业私有模型仓库,并在5分钟内完成部署验证,满足模型迭代需求。(更多阅读:基于ZStack AIOS平台智塔部署DeepSeek的六大核心优势

应该说AI Infra平台ZStack智塔像极了‘六边形战士’,可以通过一个平台解决私有化AI全栈问题”,王为总结道。

目前行业共识是AI Infra平台赋予了IT基础设施自适应进化能力——通过模型OTA(Over-the-Air Technology)更新、算力动态调度等功能,可无缝适配大模型、多模态AI等技术迭代,避免传统IT基础设施沦为“一次性产品”。

在圆桌对话现场备受关注的话题还有DSA特定领域芯片或ASIC专用芯片是否会消亡,这折射出行业对GPGPU与ASIC两大阵营发展方向的关切。

参会专家普遍认为一定会有对Transformer架构计算特点更有针对性设计的专用芯片出现,ASIC能够有效降低推理计算成本,只有不断降低推理成本,才更能让大模型的应用实现普惠。

对此ZStack CTO王为表示,一些优化技术在GPGPU上效率不是特别高,所以AI推理往ASIC上发展的可能性非常大。国产算力在推理上替代能力很强,在训练上还需要一定时间追赶,但应该不会太久。

据了解,ZStack AIOS平台智塔提供了推理服务部署能力,可支持包括 DeepSeek 671B 满血版在内的全规格模型,并通过深度优化的分布式训练和推理架构,有效突破大模型部署的算力瓶颈,充分发挥模型性能。

据媒体报告,在今年3月,ZStack基于ZStack AIOS 平台智塔发布智塔AI一体机DeepSeek版。这样的DeepSeek x AI Infra技术方案如今已被云计算技术圈认可,并成为行业用户进行私有AI应用创新的默认选项,正被金融、教育、科研、传媒等行业用户部署在生产业务中。

“AI Infra平台+领域增强”私有化模式是部署大模型的优选方案

在论坛现场,多位专家表示DeepSeek一体机有助于企业在保护数据安全的情况下快速用上DeepSeek,私有化是企业部署大模型的优选方案,第三方研究报告也验证了这个趋势。

深交所 2025 年 4 月启动的证券行业大模型基础设施调研显示,78% 的受访券商将私有化列为部署首选。

赛迪顾问在《2025中国AI Infra平台市场发展研究报告》中指出,企业级AI应用私有化部署需求强劲,预计2025年中国AI Infra平台市场规模将达到36.1亿元,同比2024年增长超过86%,2025年将是中国AI Infra平台应用元年。

王为表示,私有化部署让用户拥有了“自主权”,“用户不用去研究软硬件,比如技术环境、模型版本升级、CPU、内存等,能以最快速度体验。但是最重要的还是AI Infra平台具备整体构建能力,包括对运营与应用层、模型层、智算底座3大层面的管理”。

据了解,ZStack智塔 AIOS平台以“AI”为核心,通过算力层、模型层、运营层三大层面助力 AI 创新落地,支持从云平台无缝升级,以及适配全部的云基础设施模块服务、产品文档和售后服务。

具备AI Infra平台能力的DeepSeek一体机减少了用户的学习成本、软硬件选型和适配试错成本,降低了使用DeepSeek大模型的难度,同时满足数据隐私和本地化LLM的便捷需求”,王为总结道。

今年的2月2日,ZStack AIOS平台智塔首发支持 DeepSeek V3/R1/ Janus Pro三种模型后,3 月 3 日ZStack基于ZStack AIOS 平台智塔发布智塔AI一体机DeepSeek版,可基于海光、昇腾、英伟达、英特尔等多种国内外CPU/GPU 私有化部署,满足企业进行DeepSeek本地私有化部署需求。

升级提醒

若您选择升级至4.0.0及之后版本,请注意以下功能调整:

1. 云路由器全面升级为VPC路由器,云路由网络全面升级为VPC网络,不再单独设云路由器页面。升级全程无感知,相关业务不受任何影响。

2. 企业管理账号体系取代用户组与用户,不再单独设用户/用户组页面,不可再使用用户/用户组账号登录云平台。升级前,请先将“用户组与用户”纳管的账号数据妥善迁移至“企业管理”纳管,再执行升级操作。注意:对于admin创建并具备admin权限的用户账号同步取消,如有需要,可使用企业管理账号体系中的平台管理员实现相同功能。

3. 调整AD/LDAP与账户的对接管理方式,统一由企业管理纳管,不再单独设AD/LDAP页面。升级前,请先将“账户”对接纳管的AD/LDAP账号数据妥善迁移至“企业管理”纳管,再执行升级操作。

如对上述升级提醒有任何疑问或需要升级帮助,请联系ZStack官方技术支持

下载ZStack企业版

您已填写过基本信息?点击这里

姓名应该不少于两个字符
手机号格式错误
验证码填写错误 获取短信验证码 60 秒后可重发
公司名称不应该少于4个字符
邮箱格式错误

下载链接将会通过邮件形式发送至您的邮箱,请谨慎填写。

同意 不同意

我已阅读并同意云轴科技 《法律声明》《隐私政策》用户管理规则及公约

下载ZStack企业版

还未填写过基本信息?点击这里

邮箱或手机号码格式错误
同意 不同意

我已阅读并同意云轴科技 《法律声明》《隐私政策》用户管理规则及公约

验证手机号
手机号格式错误
验证码填写错误 获取短信验证码 60 秒后可重发
同意 不同意

我已阅读并同意云轴科技 《法律声明》《隐私政策》用户管理规则及公约

登录观看培训视频
仅对注册用户开放,请 登录 观看培训视频

业务咨询:

400-962-2212 转 1

售后咨询:

400-962-2212 转 2

其他(漏洞提交、投诉举报等)

400-962-2212 转 3
ZStack认证培训咨询
姓名应该不少于两个字符
手机号格式错误
验证码填写错误 获取短信验证码 60 秒后可重发
公司名称不应该少于4个字符
邮箱格式错误

同意 不同意

我已阅读并同意云轴科技 《法律声明》《隐私政策》用户管理规则及公约

业务咨询:

400-962-2212 转 1

ZStack学院:

training@zstack.io
申请ZStack多机版
姓名应该不少于两个字符
手机号格式错误
验证码填写错误 获取短信验证码 60 秒后可重发
公司名称不应该少于4个字符
邮箱格式错误

同意 不同意

我已阅读并同意云轴科技 《法律声明》《隐私政策》用户管理规则及公约

业务咨询:

400-962-2212 转 1

售后咨询:

400-962-2212 转 2

其他(漏洞提交、投诉举报等)

400-962-2212 转 3
立即咨询
姓名应该不少于两个字符
手机号格式错误
验证码填写错误 获取短信验证码 60 秒后可重发
公司名称不应该少于4个字符
邮箱格式错误

同意 不同意

我已阅读并同意云轴科技 《法律声明》《隐私政策》用户管理规则及公约

业务咨询:

400-962-2212 转 1

售后咨询:

400-962-2212 转 2

其他(漏洞提交、投诉举报等)

400-962-2212 转 3
培训认证合作伙伴申请
姓名应该不少于2个字符
手机号格式错误
验证码填写错误 获取短信验证码 60 秒后可重发
邮箱格式错误
城市名称不应该少于2个字符
公司名称不应该少于4个字符
职位名称不应该少于2个字符

同意 不同意

我已阅读并同意云轴科技 《法律声明》《隐私政策》用户管理规则及公约

业务咨询:

400-962-2212 转 1

商务联系:

channel@zstack.io
ZStack&工信人才联合证书申请
已获得ZStack原厂证书
未获得ZStack原厂证书
请填写您的基本信息
姓名应该不少于2个字符
手机号格式错误
验证码填写错误 获取短信验证码 60 秒后可重发
邮箱格式错误
城市名称不应该少于2个字符
公司/学校名称不应该少于4个字符
证书类型
ZCCT
ZCCE
ZCCA
ZCPC-ISP
申请ZStack&工信人才联合证书须支付工本费,是否可以接受
同意 不同意

我已阅读并同意云轴科技 《法律声明》《隐私政策》用户管理规则及公约

业务咨询:

400-962-2212 转 1

商务联系:

channel@zstack.io

下载链接已发送至您的邮箱。

如未收到,请查看您的垃圾邮件、订阅邮件、广告邮件。 当您收到电子邮件后,请点击 URL 链接,以完成下载。

下载链接已发送至您的邮箱。

如未收到,请查看您的垃圾邮件、订阅邮件、广告邮件。
或点击下方URL链接 (IE内核浏览器请右键另存为), 完成下载:

感谢您使用 ZStack 产品和服务。

成功提交申请。

我们将安排工作人员尽快与您取得联系。

感谢您使用 ZStack 产品和服务。

信息提交成功。

我们将安排工作人员尽快与您取得联系,请保持电话畅通。

感谢您使用 ZStack 产品和服务。

智能助手

预约沟通

联系我们

业务咨询
400-962-2212 转 1
售后咨询
400-962-2212 转 2
其他业务(漏洞提交、投诉举报等)
400-962-2212 转 3

联系我们

回到顶部

产品试用申请
请选择您要试用的产品
ZStack Cloud 企业版
ZStack Cloud 混合云版
ZStack Cloud 基础版
ZStack Cloud 标准版
请填写您的基本信息
姓名应该不少于两个字符
手机号格式错误
验证码填写错误 获取短信验证码 60 秒后可重发
公司名称不应该少于4个字符
邮箱格式错误

商务咨询:

400-962-2212 转 1

售后咨询:

400-962-2212 转 2

商务联系:

sales@zstack.io

成功提交申请。

我们将安排工作人员尽快与您取得联系。

感谢您使用 ZStack 产品和服务。