国产飞腾CPU完整支持DeepSeek:可达国外平台性能80%
作者:小编日期:2025-02-10浏览:14958分类:热门事件
问鼎娱乐网2月9日消息,飞腾官方宣布,飞腾腾云S5000C、飞腾腾锐D3000处理器已成功实现对DeepSeek全系列大模型的端到端支持,覆盖数据中心和终端场景,而且性能非常出色。
其实在2024年,DeepSeek-V2.5 236B大模型就已经在飞腾腾云S5000C平台成功稳定运行。
DeepSeek-V3、R1版本发布后,飞腾第一时间在腾云S5000C、腾锐D3000平台上本地部署验证,形成整体解决方案,构建端到端的国产平台DeepSeek大模型智算环境。
在数据中心侧,腾云S5000C服务器可以与多款AI加速卡配合,实现DeepSeek蒸馏版和全量版的部署。
根据官方实测,飞腾腾云S5000C搭配8块国产的AI加速卡,蒸馏版DeepSeek-R1-Distill-Llama-70B版本的推理速度可达到每秒22个tokens,本地部署的推理效率与国外同类产品架构解决方案相当,整体性能相当于国外平台性能的80%左右。
同时,完整版DeepSeek R1 671B模型采用分布式推理框架,基于四机、32卡AI服务器集群,也已部署成功。
在用户终端侧,基于腾锐D3000、银河麒麟V10系统的台式机,可以本地部署DeepSeek-R1 7B蒸馏版模型,再搭配1张国产推理卡,就实现了AI PC能力,能够建立安全可靠的本地知识助手。
现阶段,飞腾平台已实现端到端支持DeepSeek全系列、众多开源和国产头部大模型的本地化部署,可为企业级和个人应用提供全国产化、软硬一体、性价比高、安全、开放的全栈解决方案。
猜你还喜欢
- 02-11 韩国美女主播Cos不知火舞休闲装:还原度相当高
- 02-11 男子忘带钥匙徒手楼顶翻回家 结果被困空调外机
- 02-11 曝《哪吒2》被偷票房:多地网友投诉买到手写票
- 02-11 七彩虹自曝首款AMD X870旗舰主板!首次显卡快拆 真的很安全
- 02-11 一个智驾包快能买一辆比亚迪 博主:想靠软件盈利在中国没戏了
- 02-11 马斯克痛斥国外游戏媒体是垃圾
- 02-11 科学家利用AI创造出一种全新材料:坚固如钢 轻如泡沫
- 02-11 4000至6000元手机销售量爆单!王腾:K80 Pro销量超越友商同档
- 02-11 6.98万还标配智驾 比亚迪今晚又掀桌了。。。
- 02-11 滞留太空近8个月!美国宇航员回归地球又推迟了 预计3月19日
- 02-10 历史首次!俄宇航员在国际空间站硕士论文答辩
- 02-10 国产飞腾CPU完整支持DeepSeek:可达国外平台性能80%
取消回复欢迎 你 发表评论:
- 热门文章
暂无评论,来添加一个吧。