从安排到使用：一文看懂若何用锐龙AI PC搭建当地化DeepSeek大模子

人工智能利用落地，是随同AI PC行业开展的主旋律。AMD、NVIDIA、英特尔这些上游芯片厂商搭出硬件台子，天然须要有人登台唱戏，如许才干够让AI PC的开展步入慢车道。2025开年，DeepSeek成为了让全天下注视的登台者，且倍受行业跟用户承认。然而对民众用户而言，怎样将DeepSeek安排到本人的AI PC装备上？以后AI PC硬件是否顺遂支撑年夜容量数据模子？明天我们就来聊聊这些成绩。·AMD哪些硬件支撑DeepSeek R1年夜模子？前多少天，AMD宣布了DeepSeek R1 Distill推理模子可被利用于AMD Ryzen AI处置器跟Radeon显卡上的博客，并颁布了对应的处置器型号、内存需要、显卡型号，以及响应的DeepSeek R1 Distill年夜模子的规格，详细如下：作为以后备受承认的前沿推理模子，DeepSeek R1曾经被提炼成为功效强盛的小型模子，算力需要本钱低，后果好，并且安排起来十分便捷。·测试平台硬件设置信息本次咱们应用LM Studio这款软件对DeepSeek R1停止了当地化安排，所应用的硬件平台设置如下：CPU：AMD锐龙AI 9 HX PRO 375GPU：AMD Radeon 890M iGPU内存：64GB LPDDR5X硬盘：2TB PCIe 4.0固态硬盘体系：Windows 11 24H2（26100.2161）推理模子是一种新型的年夜型言语模子（LLMs），经由过程链式头脑（CoT）推理来处理高度庞杂的义务，其价值是呼应时光较长，并且它对GPU、内存机能的请求极高。此次咱们应用的AMD锐龙 AI 9 HX PRO 375平台不装备独显，但既然AMD博客里提到锐龙AI HX 370/365这个品级的处置器能够支撑DeepSeek-R1-Distill-Qwen-14B规格的年夜模子，那么锐龙 AI 9 HX PRO 375天然也可能胜任这项义务。接上去，咱们看看怎样在本人的AI PC上安排一个可能在不联网情形下也能应用的“DeepSeek AI助手”，同时也看看不独显的AMD锐龙平台AI PC在应用DeepSeek R1 Distill停止推理时会有怎么的表示？·怎样安排一个当地化的DeepSeek利用情况「先期筹备」在开端安排DeepSeek R1之前，咱们须要先做两个筹备：其一，进级驱动顺序。将AMD Software：Adrenalin Edition进级到25.1.1及以上版本。【点击此处进入官网驱动顺序下载页面】其二，下载LM Studio软件。现在最高版本为0.3.9。【点击此处进入官网下载LM Studio软件】进级驱动并装置好LM Studio软件之后，须要重启电脑以使驱动顺序失效。「模子下载」接上去让咱们正式开端将DeepSeek R1 Distill安排到咱们的AI PC上。第一步：翻开LM Studio软件之后，咱们能够直接点击右上角跳过领导界面。第二步：点击右下角齿轮图标，或许直接「Ctrl+，」快捷键翻开利用顺序设置界面。这里你能够将界面言语调剂为中文。同时下拉转动条找到Use LM Studio s Hugging Face Proxy选项，并在其左侧的方框里打勾选中。之后即可关失落利用顺序设置界面。第三步：找到主界面左侧缩小镜图标，也就是「发明」按钮，并点击翻开模子搜寻界面。第四步：在搜寻栏搜寻「DeepSeek R1 Distill」相干的要害词。比方咱们要下载「DeepSeek-R1-Distill-Qwen-14B」以及「DeepSeek-R1-Distill-Qwen-7B」两个年夜模子，直接搜寻要害词，并找到对应年夜模子之后，点击右下角绿色的Download按钮，即可下载响应年夜模子。同时在弹出的下载界面里能够看到下载进度。别的，AMD官方推举将全部Distill运转在Q4_K_M量化形式，以是鄙人载模子时须要从右侧概况栏中确认该模子能否是Q4_K_M量化形式。「应用」第一步：年夜模子下载实现之后是不须要停止任何装置安排操纵的，此时咱们直接点击主界面黄色的谈天按钮，即可进入谈天界面。第二步：在正式应用DeepSeek R1 Distill之前，咱们须要做的是点击谈天界面正上方的「抉择要加载的模子」下拉菜单，此时能够看到方才下载好的模子称号，同时确保「手动抉择模子加载参数」后面的方框处于勾选状况。第三步：抉择年夜模子之后会弹出设置菜单，这里咱们把「GPU卸载」的条拉到最右侧，别的选项按需设定即可。第四步：之后点击右下角的「加载模子」按钮等候模子加载结束，即可应用DeepSeek R1 Distill年夜模子了。·锐龙AI PC是否顺遂运转DeepSeek？最后咱们看看锐龙AI PC是否顺遂在当地运转DeepSeek？同时也能够看看它的运转速率究竟怎么？在与DeepSeek停止交互时能够看到，这项利用对GPU资本的占用十分高，多少乎到达了100%，同时在内存占用方面会超越20GB，以是一般的8GB、16GB内存运转起来就十分费劲了。别的处置器的占用十分低，个别不到10%。测试平台所搭载的GPU是AMD Radeon 890M iGPU，运转7B跟14B范围的DeepSeek R1 Distill Qwen年夜模子实测是不任何成绩的，不外速率比拟自力显卡天然是会慢上不少。但集成显卡AI PC可能在当地借助硬件算力跑起来14B范围的年夜模子，这在以往是难以想像的，可见Ryzen AI在算力方面的保证是极为杰出的。我让DeepSeek帮助编写了一段“经由过程Enum罗列统一标签或一系列常量的聚集”的代码，应用的年夜模子是DeepSeek-R1-Distill-Qwen-14B（7B精度绝对比拟低），前序的思考推理进程耗时为57.95秒，不算快，但斟酌到咱们应用的锐龙平台只有集成显卡，这个速率以硬件为参照坐标来说，实在曾经是相称快了。在实现全部推理互动进程之后能够看到，首个token天生时光为1.59秒，每秒可天生4.59个token，总计为907tokens。笔者大略看了一下天生的谜底，而且求教了顺序员共事，DeepSeek给出的谜底十分正确。别的，笔者还实验让DeepSeek撰写了条记本产物的评测剧本，剖析了2025年PC市场开展趋向等等。团体来说前序思考推理时光基础在45秒-2分钟以内，有着不错的效力。这阐明AMD Ryzen AI平台运转当地化的DeepSeek年夜模子是完整可行，且领有不错休会的。·结语AI PC在阅历了一年多的高速开展期之后，所面对的重要成绩就是缺乏“杀手级”利用，以及用户自立安排当地化AI利用时有着较高的门槛。反却是在硬件端，实在AMD、NVIDIA这些厂商都曾经供给了充足强盛的算力支撑。2025开年DeepSeek的爆火，让更多民众用户意识到了以后人工智能是什么、怎样用，基于这一年夜模子所打造的AI利用，并不须要十分宏大的算力支撑。尤其是经由过程本篇文章中测试就能够看出，AMD锐龙AI 9 HX PRO 375平台在仅有Radeon 890M iGPU的情形下， 就可能在当地顺遂且绝对流利地应用DeepSeek-R1-Distill-Qwen-7B/14B如许范围的年夜模子，足见锐龙AI PC是完整能够满意以后AI利用算力需要的。别的可能有友人会问，“为什么要安排当地化的AI？”这个成绩的谜底实在用两个中心词就能归纳综合——保险跟方便。当地化AI利用一方面为用户供给了无可比拟的私密性跟保险性；另一方面又带来了不错的方便性，它让用户在不收集的情形下也可能借助AI晋升任务、进修效力。别的，绝对于现在基础都要付费才干应用的AI利用来说，当地化安排的AI应用本钱天然也更低。从AMD官方颁布信息能够看到，当初纯真应用非独显的锐龙处置器平台，最高就能够支撑到DeepSeek-R1-Distill-Llama-70B超年夜范围的年夜模子应用，这真的能够说是“黑科技”了。