轻薄本支棱起来了!Intel酷睿Ultra 200H处理器Deepseek本地部署攻略
一、前言:本地部署大模型 不依靠显卡其实也可以
Deepseek大模型横空出世以来,以其高效和开源的特性迅速火爆出圈,是现在当之无愧最为知名的AI大模型。
Deepseek-R1不但直接开源了其671B参数规模的满血模型,还同步开源了六个不同规模大小的蒸馏模型,分别是DeepSeek-R1-Distill-Qwen-1.5B/7B/8B/14B/32B,以及DeepSeek-R1-Distill-Llama-70B,这就非常方便用户根据自己设备的配置情况,选择合适规模的模型进行本地部署。

在各大厂商纷纷上线AI服务的今天,我们为什么还要在本地部署一个AI大模型呢?
其实原因也很简单,首先是避免云服务不稳定,Deepseek上线初期的网络故障都已经成一个梗了;其次是一些数据不允许公开或者上云,这就必须要在本地完成处理,确保数据和隐私安全。
最后就是玩家的心态了:“我花了这么多钱,买的新硬件有这么高的算力,不充分利用多浪费?”
再加上新硬件也确实可以支撑AI大模型的本地部署运行,所以也就顺理成章的要在本地部署一个AI大模型了。
另一方面,本地部署大模型其实现在也已经没有什么困难,网上很容易就能找到大量的部署教程和方案,甚至已经有人制作了傻瓜式部署的一键包,只需要下载之后解压运行就可以获得一个本地运行的AI大模型,真的让人人都可以轻松上手。
但这些教程方案中,都会提到本地算力的要求,通常都需要一块比较强的显卡,才能比较好的在本地运行AI大模型。
选择模型规模时,往往是要求一定的显存容量,这就对没有独立显卡的轻薄笔记本不太友好,可能会有使用轻薄本的用户直接就放弃了本地部署的计划。

没有大显存显卡真的就不能拥有自己的AI大模型了吗?当然不是。
我们这次就找来一台使用Intel酷睿Ultra 9 285H处理器的轻薄笔记本,来尝试在本地部署大模型并应用,看看不依靠独立显卡,充分发挥CPU、iGPU核显以及NPU的算力资源,能不能真正应用上本地AI大模型。
二、Ollama:高效轻量化 简洁到硬核的程度
既然是在并不以性能见长的轻薄本上部署大模型,我们自然要尽量节省系统资源,那么轻量化的开源AI模型部署工具Ollama就是我们的首选。
首先我们确认系统已安装最新版驱动程序,然后从浏览器中打开Ollama的主页(https://ollama.com/),下载Ollama的安装文件。

作为一个开源免费的部署工具,Ollama的主页做的非常简洁,用户只需要点击Download按钮就可以下载到最新的安装程序。
安装程序大小约1GB,不需要特别的网络设置,直接下载速度就相当快。

虽然Ollama的安装界面没有中文,但和普通安装程序并无区别,点击Install之后选择安装目录位置,即可完成安装。
这里我们没有修改安装位置,直接在默认安装目录完成安装。

安装完成之后,Ollama运行时会在托盘区显示一个可爱的小羊驼图标,同时会自动弹出一个Windows PowerShell窗口。

这就是极度轻量化的Ollama运行的效果,连图形界面都欠奉,直接在命令行中运行。
按照Ollama给出的提示,我们输入命令运行Deepseek-R1:1.5B模型进行测试。

可以看到模型下载速度相当快,应该是使用了国内的镜像站,Deepseek-R1:1.5B模型只有1.1GB的大小,很快就可以完成下载开始运行。


下载完毕之后,我们就可以在命令行中开始和Deepseek进行对话了。
对于最新的Intel酷睿Ultra 9 285H来说,通用的Ollama目前还只能调用CPU资源,更强大的iGPU算力资源被浪费了,这也是开源部署工具的劣势,软件跟不上硬件的发展速度。
好在开源工具的分支众多,针对Intel iGPU特别优化的Ollama版本也可以从网上找到,而且同样也是免费开源,任何人都可以下载使用。
Intel ipex-llm优化版可以充分利用Intel iGPU的算力,利用iGPU中包含的XMX 矩阵加速单元,可以加速大模型推理速度,提高效率。


Intel官方提供的ipex-llm优化版Ollama的GitHub下载地址:https://github.com/intel/ipex-llm/releases。也可以从https://www.modelscope.cn/models/ipexllm/ollama-ipex-llm/summary这里下载。
由于Intel优化版Ollama目前还是测试版,功能将来会整合到正式版的Ollama中,而且目前还是免安装的绿色版软件,使用起来比官方版Ollama要稍微麻烦一点。
我们从GitHub或者镜像站下载Windows版本的压缩包之后,先将其解压至本地目录,我们在C盘建立一个新的文件夹命名为‘AI’作为解压缩目标目录使用。


在解压目录中找到“start-ollama.bat”批处理文件,双击运行,启动Intel优化版Ollama服务,此时就和官方版Ollama运行效果一致,唯一需要注意的即使Ollama服务启用时,会有一个命令行窗口,不要意外关闭,关闭这个命令行窗口就会关闭Ollama服务。

此时可以用Win+R输入“cmd”启动一个新的命令行窗口,先使用“cd”命令,转到Intel优化版Ollama的解压目录,在我们测试电脑上,就是输入:
cd C:\AI\ollama-ipex-llm-2.2.0b20250328-win
回车之后就可以和官方版Ollama一样开始下载模型和对话了。
三、通过浏览器插件使用图形化界面:Page Assist插件简单方便
虽然命令行中已经可以和Deepseek进行对话,但对于普通用户来说,每次和Deepseek对话都要启动命令行还是太硬核了一点,所以我们接下来给Ollama部署的大模型设置一个更符合用户习惯的图形界面。

Page Assist(https://github.com/n4ze3m/page-assist)同样是一个开源免费的浏览器插件,可以在谷歌浏览器、微软EDGE浏览器和火狐浏览器的插件商店中找到。

安装好Page Assisr插件之后,点击插件图标,我们就可以看到插件提示Ollama正在运行,无需额外配置,插件可以自动识别到Ollama。

点击右上角的齿轮图标,进入设置页面,我们可以把插件的语言修改为中文。

左侧的管理模型这里可以看到所有已下载的模型。

也可以点击添加新模型,然后在弹出窗口中输入模型名称,点击拉取模型,就可以开始下载。

Page Assist本身并没有大模型相关的功能,只是Ollama的一个图形界面,一切功能其实都还是Ollama提供的。
所有可下载的模型列表,都可以在Ollama网站找到。
在Ollama首页左上角,点击Models,就可以查看所有可下载的模型信息。

之后就可以在上方选择模型,然后输入文字和大模型对话了。
图形界面使用起来更加方便易用,而且也增加了不少更直观的功能。
四、ChatBox AI客户端:让AI大模型更聪明
如果需要更多的功能,我们也可以使用ChatBox AI客户端来运行大模型。

在Chatbox AI客户端的主页(https://chatboxai.app/zh),可以看到Chatbox AI官方的提示,官方有提供免费下载,注意不要上当受骗。

Chatbox AI软件安装之后,因为我们已经安装了Ollama,所以就选择使用本地模型。
Chatbox也支持使用在线AI服务,由云计算服务商提供更强大的算力。