前言
在现代软件开发中，本地大模型（LLM）因其隐私保护和高性能而受到越来越多开发者的青睐。VSCode 的 Continue 插件为开发者提供了便捷的方式来集成和使用这些本地模型。本文将详细介绍如何在 VSCode Continue 中配置一个基于 llama.cpp 部署的本地大模型。
前提条件
在开始之前，请确保你已经完成了以下准备工作：
- 安装 Continue 插件：在 VSCode 中安装 Continue 插件。
- 部署本地大模型：确保你的本地大模型已通过
llama.cpp（其他也行）成功运行，并监听了相应的端口。
配置步骤
1. 创建配置文件
在 VSCode 中，打开 Continue 插件的配置界面，点击左边的“Configs” → “Main Config”右边的齿轮图标。
接下来，你需要创建一个配置文件来定义你的本地模型。可以使用以下 YAML 格式的配置：
name: LOCAL-LLM
version: 1.0.0
schema: v1
models:
- name: Qwen3-Coder-30B-A3B
provider: openai
model: Qwen3-Coder-30B-A3B-Instruct-UD-Q4_K_XL
apiBase: http://127.0.0.1:8080/v1
apiKey: xxxxxx
roles:
- chat
- autocomplete
- edit
capabilities:
- tool_use
2. 解释配置项
name: 配置文件的名称，用于标识你的模型配置。version: 当前配置的版本号。schema: 配置文件的 schema 版本。models: 定义模型的详细信息：name: 模型的名称。provider: 指定模型提供者为openai，因为llama.cpp的 API 兼容 OpenAI 的接口。model: 模型的名称或标识符。apiBase: 指向本地大模型服务的 URL 地址。apiKey: 如果需要认证，请填写密钥。如果不需要认证，可以留空或使用占位符。
roles: 指定模型在 Continue 中的角色，包括聊天、自动补全和编辑功能。capabilities: 指定模型的能力，例如工具调用（tool_use）。
3. 应用配置
保存上述配置文件后，重启 VSCode 或重新加载 Continue 插件以使配置生效。此时，你可以在 Continue 的界面中看到新添加的本地模型，并可以开始使用它进行代码生成、补全和编辑等操作。
结语
通过以上步骤，你可以轻松地将本地大模型集成到 VSCode 的 Continue 插件中。这种方式不仅提升了开发效率，还保障了数据的安全性。如果你有任何问题或需要进一步的帮助，请随时查阅 Continue 插件的官方文档或社区支持。