Intel全线进入AI PC时代!软硬一体 三大优势无敌
作者:小编日期:2025-03-31浏览:14694分类:热门事件
2023年底,伴随着代号Meteor Lake的一代酷睿Ultra处理器的发布,Intel正式提出了AI PC的新概念。
彼时,乃至之后很长一段时间内,很多人都存在相同的疑问:AI PC和传统PC到底有何不同?它能替我的工作/生活/学习做什么?值得升级吗?
事实上,不仅仅是广大消费者,从业者在AI PC兴起之初也有类似的迷茫。
但是,困难的事总是要有人去做的,未知的路总是要有人去走的。
作为AI PC的发起者,Intel凭借持续的路线图、扎实的技术、广泛的影响力、强大的号召力,联合整个业界一起,不断从软硬件各个角度推进AI PC,尤其是推动更多的应用开发、场景落地。
令人欣喜的是,AI PC诞生还不到一年半,就已经取得了长足的进步:
随着Intel酷睿Ultra 200系列全线布局完毕、锐炫B系列显卡崭露头角、至强6家族各系列陆续登场,AI PC无论硬件产品还是应用场景,都越来越丰富、越来越深入。虽然距离完全成熟为时尚早,但确确实实已经迈入了全新的、实用的阶段。
尤其是这个新年,我们不止有“DeepFeed”、“DeepSleep”这些传统的吃吃喝喝、休闲放松,更有DeepSeek。
DeepSeek的重大意义,一方面是中国AI一次革命性的突破,另一方面是通过开源、免费,加速了AI普惠,无论是政企学科等各种单位机构,还是个人,都可以灵活地部署自己的大模型,无论是满血版、蒸馏版,还是微调、再训练。
DeepSeek的炸裂表现,无疑是AI历史上里程碑的一幕,掀起了一股新的浪潮,带来了更多的思考,也带来了更多的机遇。
【软硬全栈:Intel的大模型一体机部署方案】
随着AI大模型部署需求的高涨,尤其是DeepSeek的火爆,AI通用一体机逐渐为更多人所熟知,市场上也迅速出现了大量产品,不少都直接打出了“DeepSeek一体机”的标签。
Intel自然没有错过这一波机遇,充分发挥了自己独特的软硬件“全家桶”优势。
AI一体机包括训推一体、模型推理、模型应用等不同类型,主要面向政务、金融、医疗、教育、制造等垂直行业领域。
它的优点有三:
一是开箱即用:硬件、模型、算法、软件等全部集成,无需再单独采购、配置、安装、调优,买回来就能用,大大降低使用门槛,而且因为是本地化部署,延迟更低,响应更快,体验更流畅。
二是隐私安全:很多企业机构的数据是不能对外的,本地化部署一体机后,可以集成本地知识库、高效智能体,一切处理都可以在本地进行,不会外传。
三是高效优化:软硬件适配优化更深入,可大大提高AI模型的运行效率,从而提升工作效率。
不过,DeepSeek等大模型的本地部署,也不是完全那么简单,要重点考虑多个因素,才能达成效率和经济的最优化。
比如模型大小,是满血?还是蒸馏?
比如数据精度,是更精确但更好资源的FP16/BF16?还是比较均衡的FP8?抑或速度更快的INT4/FP4?甚至更低比特?
比如上下文长度,16K-128K如何选择?
比如吞吐能力,能否满足时延要求?
比如响应能力,TTFT(首个token)生成时间有没有超过5秒?TPOT(token生成时间间隔)是否控制在100毫秒之内?
Intel AI全家桶的优势恰恰就在于,无论你想部署什么样的模型,获得什么样的输出效果,无论是在边缘侧还是在端侧(当然也有云侧),都可以找到最适合自己的产品组合。
其中,至强一体机适合满血大模型,锐炫GPU显卡适合蒸馏模型,酷睿Ultra 200系列则适合蒸馏量化模型。
酷睿Ultra系列的全新命名,当然不完全是改个名字那么简单,更是标志着开始真正进入AI的新时代。
第一代酷睿Ultra 100H系列(代号Meteor Lake),最高可提供36 TOPS算力,算是开始入门。
第二代酷睿Ultra 200系列直接提升了一个档次,200V系列(代号Lunar Lake)、200H系列(代号Arrow Lake-H)分别可提供最高120 TOPS、99 TOPS的算力,不但可以完全满足Windows 11 AI+ PC的需求,还为部署更大规模模型提供了支撑,14B蒸馏模型都可以直接搞定,保证流畅体验。
除了基础的硬件算力,Intel还有着成熟的AI工具链和生态支持,总能得到最先支持与最好用优化,这是竞品无法比拟的。
迄今为止,仅仅是在国内,Intel AI PC就已经得到了40多家ISV软件开发生的适配支持。
Intel的锐炫GPU显卡虽然在游戏市场占比不高,但是凭借先进的架构、大容量的显存、完善的工具链支持,也悄然成为AI部署的上佳之选。
最新发布的锐炫B系列,搭配酷睿Ultra 200系列处理器,单用户单卡即可部署14B模型(FP8/INT4),双卡的话可以支持32B+模型(INT4)。
上一代的锐炫A系列依然宝刀不老,搭配至强处理器可以组成四卡、八卡一体机,最高可以支持70B模型(FP8/INT4),这也是个非常流行的方案。
不过注意,系统内存容量也是个关键因素,建议不少于64GB。
这是使用基于酷睿Ultra 200V系列处理器、32GB内存的轻薄本,本地部署DeepSeek 14B模型基础版,可以流畅执行知识问答、代码编写等任务,输出速度能达到每秒10 tokens左右。
这里展示了两个俄罗斯方块游戏的生成,左侧是正常的基础版,右侧则是进阶版,每隔20秒左右就会出现两个新的随机方块,可能生成在任意落点,从而大大增加了游戏难度。
挑战本地部署DeepSeek R1 32B模型,内存也增加到64GB,可以分配大约36GB作为核显的显存,生成速度可以达到每秒14 Tokens。
用它开发小游戏,比如打砖块、五子棋这种级别的,虽然速度说不上飞快,但依然完全在可接受程度内,生成的小游戏也都能正常运行。
猜你还喜欢
- 04-02 直曲之争就此终结!越来越多厂商青睐直屏
- 04-02 双胞胎在子宫内斗争出生后一红一白:死亡率极高 医生抢救后转危为安
- 04-02 TCL华星正式入主LGD广州厂 高阶LCD面板竞争进入下一阶段
- 04-02 iPhone 17系列全面前瞻:Pro版变化巨大
- 04-02 长沙人可以带猫狗坐飞机了:湖南航空推出“爱宠同行”产品
- 04-02 小米:目前仅能确定事故车并非部分网传的“自燃”
- 04-02 雷军回应SU7高速碰撞爆燃致3人死亡事故:无论发生什么 小米都不会回避
- 04-02 任天堂Switch2直面会前夕 来看看目前我们知道的一切
- 04-02 等深微曲屏退场!曝华为Mate 80 Pro回归直屏
- 04-02 六年磨一剑!腾讯射击大作《暗区突围:无限》国服定档4月29日上线
- 04-01 台积电2nm马上量产:工厂火力全开 苹果首发
- 04-01 2025年电视画质天花板!海信RGB
取消回复欢迎 你 发表评论:
- 热门文章
暂无评论,来添加一个吧。