https://155a386f.text-matrix.pages.dev/tags/%E6%9C%AC%E5%9C%B0ai/Recent content in 本地AI on Text MatrixHugozh-cnWed, 08 Apr 2026 23:16:10 +0800https://155a386f.text-matrix.pages.dev/posts/tech/ghost-pepper-local-speech-to-text-macos-guide/Wed, 08 Apr 2026 08:35:00 +0800https://155a386f.text-matrix.pages.dev/posts/tech/ghost-pepper-local-speech-to-text-macos-guide/<h1 id="ghost-pepper14k-stars本地语音转文字">Ghost Pepper：1.4k Stars本地语音转文字</h1> <h2 id="项目概述">项目概述</h2> <p><strong>Ghost Pepper</strong>是一款macOS上的本地语音转文字工具，核心特点是<strong>100%本地运行</strong>，不依赖任何云端API。用户只需按住<code>Control</code>键说话，松开后即可自动将语音转录为文字并粘贴到任意文本框中。</p>https://155a386f.text-matrix.pages.dev/posts/tech/mlx-vlm-apple-silicon-vlm-inference-guide/Mon, 06 Apr 2026 17:30:00 +0800https://155a386f.text-matrix.pages.dev/posts/tech/mlx-vlm-apple-silicon-vlm-inference-guide/<h1 id="mlx-vlmapple-silicon-上的视觉语言模型推理与微调框架">MLX-VLM：Apple Silicon 上的视觉语言模型推理与微调框架</h1> <h2 id="学习目标">学习目标</h2> <p>通过本文，你将全面掌握以下核心能力：</p> <ul> <li>深入理解 MLX-VLM 的技术架构与设计理念</li> <li>掌握在 Mac 上安装、配置 MLX-VLM 的完整流程</li> <li>学会使用命令行界面、Python API、FastAPI 服务器等多种调用方式</li> <li>理解视觉特征缓存（Vision Feature Caching）的工作原理与性能优化</li> <li>掌握 TurboQuant KV Cache 量化技术实现更长上下文的方法</li> <li>学会使用 LoRA/QLoRA 对视觉语言模型进行微调</li> </ul> <hr> <h2 id="1-项目概述">1. 项目概述</h2> <h3 id="11-是什么">1.1 是什么</h3> <p><strong>MLX-VLM</strong> 是由 <a href="https://github.com/Blaizzy" target="_blank" rel="noopener noreffer ">Blaizzy Prince Canuma</a> 开发的一个开源项目，专注于在 Apple Silicon Mac 上使用 MLX 框架进行视觉语言模型（Vision Language Models，VLM）的推理和微调。</p>