https://155a386f.text-matrix.pages.dev/tags/gpu%E5%8A%A0%E9%80%9F/Recent content in GPU加速 on Text MatrixHugozh-cnWed, 08 Apr 2026 23:16:10 +0800https://155a386f.text-matrix.pages.dev/posts/tech/llama-cpp-gogu-gpu-llm-inference-guide/Mon, 06 Apr 2026 22:45:00 +0800https://155a386f.text-matrix.pages.dev/posts/tech/llama-cpp-gogu-gpu-llm-inference-guide/<h2 id="学习目标">学习目标</h2> <p>通过本文，你将全面掌握以下核心能力：</p> <ul> <li>深入理解 llama.cpp 的项目定位和技术架构</li> <li>学会在各种硬件上运行 LLM（CPU、GPU、Apple Silicon）</li> <li>掌握 GGUF 格式模型的下载和使用</li> <li>理解量化技术原理和不同量化级别的选择</li> <li>学会构建 llama.cpp Server 并通过 API 调用</li> <li>掌握性能优化技巧和内存管理</li> </ul> <hr> <h2 id="1-项目概述">1. 项目概述</h2> <h3 id="11-是什么">1.1 是什么</h3> <p><strong>llama.cpp</strong> 是 Facebook LLaMA 架构的纯 C/C++ 移植版本，专门用于在 CPU 和 GPU 上高效推理 GGUF 格式的大语言模型（LLM）。它的核心特点是<strong>无需 GPU 即可运行 LLM</strong>，支持多种硬件架构。</p>https://155a386f.text-matrix.pages.dev/posts/tech/ollama-local-llm-guide/Mon, 06 Apr 2026 22:18:00 +0800https://155a386f.text-matrix.pages.dev/posts/tech/ollama-local-llm-guide/<h2 id="学习目标">学习目标</h2> <p>通过本文，你将全面掌握以下核心能力：</p> <ul> <li>深入理解 Ollama 的项目定位、核心概念和设计理念</li> <li>掌握 Ollama 的安装、配置和基本使用方法</li> <li>学会运行和管理各种大模型（Llama、Gemma、Mistral 等）</li> <li>理解 Modelfile 自定义模型配置</li> <li>掌握 OpenAI 兼容 API 服务搭建</li> <li>理解 Agent 和 ReAct 模式</li> <li>学会 GPU 加速配置和多模态模型使用</li> <li>掌握 Ollama 与 LangChain 的集成方法</li> </ul> <hr> <h2 id="1-项目概述">1. 项目概述</h2> <h3 id="11-是什么">1.1 是什么</h3> <p><strong>Ollama</strong> 是一个让你在<strong>本地机器上运行开源大模型</strong>的平台。它提供了简单的命令来下载、运行和管理 AI 模型，无需云服务，完全离线可用。</p>