<<<写在前面>>>
用 CPU 跑 AI 模型非常慢,那能否使用 CPU 的核显来跑 AI 模型加快速度呢?
前提
需要升级最新的显卡驱动,可以直接去官网搜索显卡驱动
下载
我这里使用的是Ollama 英特尔优化版
下载压缩包文件,运行 start-ollama.bat
打开 ollama-webui,会提示读不到版本信息,点击 close 即可
测试
测试一下,完美跑起来 deepseek 14b,速度相比 CPU 跑的快一点
用 CPU 跑 AI 模型非常慢,那能否使用 CPU 的核显来跑 AI 模型加快速度呢?
需要升级最新的显卡驱动,可以直接去官网搜索显卡驱动
我这里使用的是Ollama 英特尔优化版
下载压缩包文件,运行 start-ollama.bat
打开 ollama-webui,会提示读不到版本信息,点击 close 即可
测试一下,完美跑起来 deepseek 14b,速度相比 CPU 跑的快一点