大家好!今天让小编来大家介绍下关于intel aigc体验:酷睿轻薄本也能玩大语言模型!arc显卡效率奇高的问题,以下是酷知号的小编对此问题的归纳整理,让我们一起来看看吧。
一、前言:ai领域不应忘记intel的存在
今年最为火爆的产业无疑就是aigc,也就是以ai为主导的生成式内容,包括chatgpt、ai画图、ai作诗等功能。可以说,只能玩游戏而不支持aigc的显卡已经不符合时代的需求。
如今nvidia 在ai时代一飞冲天,可能会让很多同学误认为只有nvidia显卡才支持stable diffusion这类的ai应用。
但事实上,还有一家厂商对于ai的投入力度并不逊于nvidia,而且在多年前就开始布局ai,它就是芯片巨头intel公司。
在即将上市的14代酷睿meteor lake处理器中,就设计了vpu(visual processing unit)ai单元,这将是intel首次在cpu中放入独立的ai硬件单元。集成在cpu内部的好处就是能够拥有极低的延迟,在处理一些低负载ai时要优于gpu。
更令人想象不到的是,vpu还能对stable diffusion提供硬件加速,无需昂贵的独立显卡。这也就意味即将上市的14代酷睿轻薄本将会以更加完整的姿态的拥抱ai。
为了让更多的intel用户也能体验到ai,intel还推出了ai 应用 demo “英特尔大语言模型”,它可以帮助处理一些日常生活以及工作中的一些任务。
这个demo特别对混合架构的第12/13代酷睿处理器进行了优化,也就是市面上主流的intel处理器轻薄本就能直接运行,并且会有相当棒的体验。
不止cpu, 在gpu领域intel也做了非常多的努力。年初,intel推出了基于openvino,ai绘图开源模型stable?diffusion可以使用开源图片编辑软件gimp,让intel arc gpu能通过输入关键词实现创意绘图。
不久之后,intel又推出了基于openvino pytorch后端的方案,能让arc a770/a750 gpu直接支持stable diffusion webui,并且在加速能力方面远强于同价位的nvidia gpu。
下文中我们将会进行对比测试,让大家能更为直观的了解intel arc gpu的ai性能。
二、英特尔大语言模型体验:13代酷睿轻薄本轻松搞定
这里我们选择了一台通过intel evo认证的轻薄本-- thinkpad x1 yoga来进行测试,它搭载的是intel 酷睿i5-1340p处理器。
英特尔大语言模型应用拥有“聊天助手”、“情感分析”、“中文翻译”、“故事创作”、“生成大纲”、“信息提取”、“美食指南”、“旅游规划”等八大模块,并且还有写代码的能力。
在“聊天助手”中,我们尝试让ai写一首关于安史之乱的七言律诗,虽然结果并不算好,但仍有部分诗句让人眼前一亮,可作为创作借鉴。
“生成大纲”功能,你只需要说出自己想写怎样的作品,ai就会给你一个故事大纲。
“中文翻译”可以翻译一段中文,而且你的提问,ai也是用英文回答。
其他功能模块,有兴趣的同学可以自行摸索体验。
三、stable diffusion出图测试:arc a770 16gb大幅领先rtx 4060
目前windows端的stable diffusion webui大多是采用“绘世”启动器,不过可惜的是这款启动器目前只支持nvidia gpu,amd gpu根本无法识别,intel arc gpu可以被识别,但却无法启用硬件加速。
因此想要使用intel显卡来加速stable diffusion,需要运行在linux环境下才能实现。
当然,也并不是说必须得安装一个linux系统,更简单的途径是使用docker(容器)。
本次我们的测试即是基于docker版stable diffusion webui,参与测试的显卡包括a/i/n三家的4款2000元价位甜点显卡。
可以看到,arc a770 16gb的确可以支持硬件加速,gpu利用率99%,显存占用超过了8gb,功耗也跑满了190w tgp。
为了将显存占用控制在8gb之下,以便让其他显卡也能顺利测试,我们将出图分辨率设置为640*480。
测试结果多少还是让人有一些意外。
如果从游戏性能表现来看,rtx 4060比2张arc gpu都要强不少,但是stable diffusion出图更依赖显存,这方面rtx 4060由于被阉割的比较厉害,特别是显存位宽只有128bit,容量也只有8gb,因为并不是特别适合用来加速stable diffusion。
amd这边,虽然rx 6700 xt拥有12gb大容量显存、192bit位宽,但由于amd目前对ai支持力度不够,导致旗下gpu在这方面的表现不尽如人意。
两张intel gpu的表现有些超越预期,就算是定位更低的arc a750成绩也与 rtx 4060接近。arc a770的表现更是大幅超越了对手,领先幅度高达20%。
另外,我们这是限制了出图分辨率。如果使用更高分辨率,或者安装一些其他插件进行ai画面修复,8gb显存是远远不够的,arc a770 16gb的优势也会更大。
四、总结:ai画图不妨考虑2000元的intel arc a770 16gb
此前,当有同学让我推荐能跑ai的显卡时,我会根据预算推荐对应的n卡,但如今的话,我也会考虑i卡。
众所周知,stable diffusion对于显存容量和速度有非常苛刻的需求,8gb及以下容量显存会有非常多的限制,比如使用高分辨率出图。
因此,想要认真玩ai画图,16gb或者24gb显存会带来更多的玩法和更好的体验,这也导致了二手rtx 3090 24gb显卡的热销。
当然,即便是2手rtx 3090,其价格也不是普通消费者能够承受的。
纵观当前的gpu市场,intel arc a770 16gb可以说是专为ai而生的显卡。这款显卡以低于rtx 4060的售价,提供了后者2倍的显存容量和显存位宽,可以一定程度上治疗好ai玩家的stable diffusion显存焦虑症。
虽然arc a770 16gb游戏性能与rtx 3060处于同一水准,但其ai出图的加速性能却比rtx 4060还要强20%以上。
相比之下,nvidia拥有16gb显存的显卡型号相对较少而且售价高昂,比如rtx 4080高达9000元的售价让不少ai玩家望洋兴叹。即便是不久前推出的rtx 4060 16gb,其售价也在4000元左右,几乎2倍于arc a770 16gb。
因此,对于预算不足的ai玩家来说,intel arc a770 16gb在性价比方面的确胜多大多数显卡。
至于amd,其ai之路还很漫长!
另一方面,ai应用往往都需要强大的算力,而性能并非轻薄本的优势,所以很少有人会把轻薄本和ai联系起来。
intel则让我们看到了不一样的一面,配备13代酷睿p系列的evo认证轻薄本上,英特尔大语言模型可以运行得非常流畅,无论写诗、翻译,还是写代码,抑或生产力辅助,都能快速给出相当有帮助的结果,可以大大提升工作效率。
无论是日常办公,还是外出差旅,随手拿出便携的evo轻薄本,都可以完成一些轻负载的ai推理工作,这在以往可是不敢想象的。
以上就是小编对于intel aigc体验:酷睿轻薄本也能玩大语言模型!arc显卡效率奇高问题和相关问题的解答了,intel aigc体验:酷睿轻薄本也能玩大语言模型!arc显卡效率奇高的问题希望对你有用!