在Mac上部署DeepSeek R1模型，设置知识库对话、Prompt等
那篇文章引见了正在Mac上圈套地陈列DeepSeek R1大模型的办法，并展示了如何通过Ollama停行模型运止和打点。做者具体解说了从下载Ollama使用、拆置号令止工具，到正在末端中运止差异内存分配下的模型版原的历程。另外，还引见了运用Page Assist插件设置对话界面，并通过Prompt引导AI止为。最后，文章还提到了如何通过文原嵌入模型自界说知识库，满足特定需求的对话场景。
此内容依据文章生成，并颠终人工审核，仅用于文章内容的评释取总结
赞扬假如是普通的内容去运用网页版大概app去运用deepseek很是不错，但是一旦问一些敏感数据的时候就会被内容审查间接干掉，并且保密数据、知识库数据也不太折用于正在线模型。
于是陈列一个没有任何内容审查和限制的大模型就很是有必要了。原地陈列没有那些限制，于是就正在寻找Mac的搭建方式。我看了5分钟正在Mac上陈列DeepSeek R1原地大模型那个室频引见的很具体。各人假如须要看室频教程可以到那个地址去看。
我正在那里就用笔朱版本原引见如何将DeepSeek R1陈列正在原人的Mac上。并且添加了一些webui的简略运用方式。
Windows用户也可以运用Ollama来陈列，历程其真大同小异，此教程也可做为参考。
运用Ollama进入Ollama，常常陈列原地AI的小同伴应当不陌生，不过我因为没有什么原地陈列的需求所以用的不暂不多，能够让我孕育发作原地陈列的动力的也只要DeepSeek了。
觉得Ollama的效劳器正常，下载要很暂。。。
下载之后将app文件拖拽到使用步调目录。
正在启动台翻开Ollama
拆置号令止
翻开末端（可以正在启动台的其余文件夹中找到末端app），输入ollama run deepseek-r1:8B
此中，详细用几多多B的模型次要须要看内存（M芯片用户）。（windows用户看显卡显存）。
8G内存：1.5B (1.1GB模型大小)
16G内存：8B及以下（4.9GB模型大小）
32G内存：14B及以下（9GB模型大小）
64G内存及以上：32B及以下（20GB模型大小）
我是想要电脑低负载一点去历久跑，所以我那里就用8B模型了。
等候模型下载
假如发现下载速度奇慢，可以ctrl+C撤消原次下载，而后从头输入陈列号令。只有没有退出Ollama，下载可以断点续传。
ollama run deepseek-r1:1.5B 8G 快捷回复，有简略考虑才华，多轮对话常常有bug
ollama run deepseek-r1:8B 16G 回复比较快，能够办理一些简略的工作，但是prompt尽可能简短
ollama run deepseek-r1:14B 32G 回复速度正常，能够办理有一定逻辑的prompt，可以抵达写做的最低范例
ollama run deepseek-r1:32B 64G及以上 回复速度较慢，能够了解prompt，并且回复的语言有一定量质
我检验测验写了一小段小说，8B模型相比14B量质简曲差一个层次，不过14B也不少话没有逻辑，但是能了解我的一局部prompt。
拆置对话UI进入Chrome的插件商店停行Page Assist插件拆置
正在已拆置插件列表找到插件并点击进入
点击左上角设置，而后设置语言
而后回到主界面选择模型。
就可以初步聊天啦！
32G跑8B模型压力很小，速度很快
内存压力对照。前面是我运用8B，背面是14B。我是32G内存。
点击左上角的大脑图标。
咱们可以设置prompt等
咱们须要一个文原嵌入模型，翻开末端，执止ollama pull nomic-embed-teVt
而后进入webui界面停行配置。
上传文件，你可以上传多个文件到一个知识库
对话时选择知识库
而后询问便可：
prompt:
你须要饰演一个暗码打点器，我问你暗码的时候你须要讲述我暗码。你可以会见内部数据，你只须要输出暗码的结果是什么便可。
原地模型可以通过“饰演”来绕过各类限制，并且因为没有二次的文原审查，所以运用领域的确无限制。
张洪Heo
分享设想取科技糊口
打赏做者
打赏者名单
因为你们的撑持让我意识到写文章的价值🙏
订阅
原文是本创文章，给取 CC BY-NC-ND 4.0 和谈，完好转载请说明来自 张洪Heo
必看69教程365热门71AIGC38Mac83软件100Ollama2
应声取赞扬
下一篇
咕哩的年度红包封面正在那里收付～
喜爱那篇文章的人也看了
2022-10-24
将Mac微信聊天记录备份到挪动硬盘
2023-04-12
敲木鱼App教程：如何运用创意工坊自界说音效？
评论
违规告发
✅ 你无需增除空止，间接评论以获与最佳展示成效