https://155a386f.text-matrix.pages.dev/tags/%E8%A7%86%E8%A7%89%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B/Recent content in 视觉语言模型 on Text MatrixHugozh-cnWed, 08 Apr 2026 23:16:10 +0800https://155a386f.text-matrix.pages.dev/posts/tech/mlx-vlm-apple-silicon-vlm-inference-guide/Mon, 06 Apr 2026 17:30:00 +0800https://155a386f.text-matrix.pages.dev/posts/tech/mlx-vlm-apple-silicon-vlm-inference-guide/<h1 id="mlx-vlmapple-silicon-上的视觉语言模型推理与微调框架">MLX-VLM：Apple Silicon 上的视觉语言模型推理与微调框架</h1> <h2 id="学习目标">学习目标</h2> <p>通过本文，你将全面掌握以下核心能力：</p> <ul> <li>深入理解 MLX-VLM 的技术架构与设计理念</li> <li>掌握在 Mac 上安装、配置 MLX-VLM 的完整流程</li> <li>学会使用命令行界面、Python API、FastAPI 服务器等多种调用方式</li> <li>理解视觉特征缓存（Vision Feature Caching）的工作原理与性能优化</li> <li>掌握 TurboQuant KV Cache 量化技术实现更长上下文的方法</li> <li>学会使用 LoRA/QLoRA 对视觉语言模型进行微调</li> </ul> <hr> <h2 id="1-项目概述">1. 项目概述</h2> <h3 id="11-是什么">1.1 是什么</h3> <p><strong>MLX-VLM</strong> 是由 <a href="https://github.com/Blaizzy" target="_blank" rel="noopener noreffer ">Blaizzy Prince Canuma</a> 开发的一个开源项目，专注于在 Apple Silicon Mac 上使用 MLX 框架进行视觉语言模型（Vision Language Models，VLM）的推理和微调。</p>