你是否曾想过让强大的开源大模型更懂你的专业领域，或者更能模仿你的写作风格？微调就是实现这一目标的钥匙。过去，微调是资源雄厚的大公司的专利，动辄需要数十张GPU和复杂的分布式训练知识。 但现在，感谢 Ollama 和 Python 生态的强大工具，这一切变得 ...

你是否曾想过让强大的开源大模型（LLM）更懂你的专业领域，或者更能模仿你的写作风格？微调（Fine-Tuning）就是实现这一目标的钥匙。过去，微调是资源雄厚的大公司的专利，动辄需要数十张GPU和复杂的分布式训练知识。 但现在，感谢 Ollama 和 Python 生态的强大 ...

作为一名对 AI 和机器学习充满热情的人，我花了不少时间研究怎么让强大的语言模型更好地完成特定任务。今天，我想分享一份详细的指南，教你如何用 Python 微调 LLM（大型语言模型），然后用 Ollama 这个工具在本地运行微调后的模型。这份指南基于我看到的 ...

最近，无论是在国内还是国外，一股 DeepSeek-R1 部署热潮正在兴起，许多人都争相在自己的本地服务器上尝试部署完整版的 DeepSeek-R1。不过，想要在本地部署一个满血版本的 DeepSeek-R1 版本，可能需要大约16张 A800 显卡，这意味着大约需要投入200万元人民币的成本。

IT之家 2 月 15 日消息，现阶段用户使用 DeepSeek-R1 的主要途径无外乎云服务及“本地部署”，但官网服务器频频宕机、个人部署多为参数量缩水 90% 的蒸馏版。因此，一般用户要想在普通硬件上运行起真正的 DeepSeek-R1 满血版可以说很难很难，而租赁服务器的成本就 ...

IT之家2 月 15 日消息，现阶段用户使用 DeepSeek-R1 的主要途径无外乎云服务及“本地部署”，但官网服务器频频宕机、个人部署多为参数量缩水 90% 的蒸馏版。因此，一般用户要想在普通硬件上运行起真正的 DeepSeek-R1 满血版可以说很难很难，而租赁服务器的成本就 ...

在本文中，我们将简单介绍如何在 Python 中使用 Ollama API。无论你是想进行简单的聊天对话、使用流式响应处理大数据、还是希望在本地进行模型的创建、复制、删除等操作，本文都可以为你提供指导。此外，我们还展示了如何使用自定义客户端和异步编程来优化 ...

功能更强大的 Code Llama 70B 模型来了。 今天，Meta 正式发布 Code Llama 70B，这是 Code Llama 系列有史以来最大、性能最好的型号。 我们正在开源一个全新的改进版 Code Llama，包括一个更大的 70B 参数模型。编写和编辑代码已成为当今人工智能模型最重要的用途之一。