文本 AI 生成的内容可能不正确。
Artificial Intelligence [人工智能]

[AI探索] 利用Open WebUI部署本地家庭or企业知识库

实干、实践、积累、思考、创新。 利用Open WebUI部署本地家庭or企业知识库 来自团队成员 陈浩伟 的分享 1 引言 本地化部署AI知识库，将能保证数据的私密性，避免泄密，为企业或家庭个人赋能，提升工作学习效率。 2 技术方案 根据个人目前电脑配置，采用Ollama 开源项目选择合适的Deepseek模型，利用WEB管理工具Open WebUI搭建用户使用界面和知识库，同时兼顾用户管理。 3 实施过程 3.1 安装Ollama及deepseek 安装Ollama，并在ollama中安装deepseek和embedding模型nomic-embed-text。 Ollama部署和配置模型选择参考文章：DeepSeek R1 本地部署看这篇 3.2 安装Anaconda和Open-webui 这一步是为了安装Open-webui，但是采用Anaconda来安装Open-webui会比较方便。 下载安装Anaconda（或者miniconda）。 打开Anaconda Prompt，注意，以下命令均在Anaconda Prompt 中输入，非系统的CMD平台，我们使用命令安装Open-webui并运行。 具体操作：a、在Anaconda …

Artificial Intelligence [人工智能]

[AI探索] DeepSeek R1 本地部署看这篇

实干、实践、积累、思考、创新。 在我们发布第一篇API部署DeepSeek R1 （ 本地API 召唤满血DeepSeek R1 ）之后，很多热心的小伙伴和我们建议考虑使用完全本地部署DeepSeek R1，这样回答速度更快、更体现隐私性、更能检验你的电脑配置。 在正式开始之前我们先来看看你是否真的想要完全本地部署。 Step 0 思辨：我是否需要本地部署DeepSeek R1 ？ 本地部署的优缺点 在开始前先和大家唠叨两句。 相较于API调用，本地部署的意思就是把DeepSeek R1（下文简称DS）模型下载到本地，再通过本地工具访问DS进行对话，这种情况下DS不会上传用户语料，包括提问、知识库、智能体等。信息安全大概是本地部署的最大好处。其余的优缺点对比请各位小伙伴看下图体会： （大模型本地部署的优缺点） 本地部署的模型差异 目前网络公开的DS 模型有6个蒸馏版+1个完整版（俗称满血版）： 蒸馏版有：1.5B, 7B, 8B, 14B, 32B, 70B； 完整版：671B。 首先版本号的B是模型参数的单位Billion（十亿）；然后解释下蒸馏，蒸馏Distillation是一种模型压缩技术，其核心是通过知识迁移（Knowledge …

Image
Artificial Intelligence [人工智能]

[AI探索] 本地API 召唤满血DeepSeek R1

实干、实践、积累、思考、创新。 本地API 召唤满血DeepSeek R1 by 郑依力 Ely 使用工具 DeepSeek API Cherry Studio 硅基流动 或其它 API：Application Programming Interface, 应用程序编程接口。 本方法基于DeepSeek 开放的API，通过Cherry Studio web UI进行本地调用DeepSeek R1，满足大家的使用需求。 至于为什么要进行本地布置？ 最近有在DeepSeek官网使用过R1的小伙伴一定能回答这个问题。 由于算力和DDoS攻击的原因，能用上官网R1完全看脸，更多的时候你根本用不上。 至于为什么是Cherry Studio？我们话不多说，直接开始。 选择对应自己电脑系统的程序，直接下载慢就换网盘下载。地址为大家附在这里 https://cherry-ai.com/ 安装完成后打开桌面Cherry Studio，显示为上图界面。 硅基流动SiliconFlow是一个大模型云服务平台，当然也可以是其他平台，比如腾讯云、阿里云等等。 打开硅基流动网址去获取API秘钥，地址为大家附在这里 https://cloud.siliconflow.cn/i/eeEe2vlB 第一次进入需要用手机注册，大家可以保留我的邀请码eeEe2vlB。因为输入邀请码注册后会赠送额外的使用额度（Tokens），能大大延长大家免费使用API密钥的时间。 以下是DeepSeek官方对Tokens的解释，token是模型用来表示自然语言文本的基本单位，也是我们的计费单元，可以直观的理解为“字”或“词”；通常 …