大模型工具：Ollama和AnythingLLM

Ollama 是一个开源框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。

它将模型权重、配置和数据捆绑到一个包中，优化了设置和配置细节，包括 GPU 使用情况，从而简化了在本地运行大型模型的过程。Ollama 支持多种模型，如 Llama 3、Code Llama、Mistral、Gemma 等，并允许用户根据特定需求定制和创建自己的模型。

Ollama 支持 macOS、Linux、Windows 平台。安装过程简单，只需访问 Ollama 的官方网站下载相应平台的安装包即可。安装完成后，通过简单的命令行操作，就可以启动和运行大型语言模型。

AnythingLLM 是 Mintplex Labs Inc. 开发的一款可以与任何内容聊天的私人 ChatGPT，是高效、可定制、开源的企业级文档聊天机器人解决方案。它能够将任何文档、资源或内容片段转化为大语言模型（LLM）在聊天中可以利用的相关上下文。

AnythingLLM是一个“single-player”应用程序，可以安装在任何Mac、Windows或Linux操作系统上，实现本地LLMs、RAG和代理（Agents），几乎不需要配置，同时保持完全的隐私。

可以将AnythingLLM安装为桌面应用程序，或者使用Docker在本地自托管，也可以使用Docker在云端托管。

#头条创作挑战赛#