集成 Web UI
2025/2/8...大约 1 分钟
虽然我们可以通过CMD窗口进行对话,但是相对不那么直观,于是我们可以通过第三方Web UI来实现对话效果。
提示
其他 UI 也可以实现,这里只是以 AnythingLLM 为例。
AnythingLLM 介绍
AnythingLLM 是一款功能强大的企业级生成式人工智能应用程序,允许用户选择任何大型语言模型(LLM)和任何文档, 以创建完全可定制和可控制的私有ChatGPT-like解决方案。它支持多种LLM,包括OpenAI、Anthropic、LLaMA 2等, 并允许用户上传各种文档类型,如TXT、DOCX、PPT、PDF、代码库等。AnythingLLM 提供了全栈应用程序,包括前端、后端、向量数据库和LLM, 用户可以完全控制自己的AI解决方案,无需依赖第三方服务。此外,它还支持多用户管理和权限控制, 适用于企业环境。AnythingLLM 可以在任何设备上运行,包括Mac、Windows和Linux,并且可以部署在本地或云端。
下载 AnythingLLM
下载到指定目录后,傻瓜式安装即可。
部署
打开后选择 Ollama,下方选择模型和 MaxToken

到此,DeepSeek R1模型的本地部署以及简单对话应用就完成了😺😺😺

贡献者
廿四