AI

本文以 Qwen 本地大模型为例，介绍如何在 Windows 上使用 llama.cpp 本地部署多模态 GGUF 大模型，配置主模型与 mmproj 视觉投影器，启用 NVIDIA CUDA 加速，并通过 Web UI 和 OpenAI 兼容 API 实现文本对话与图片理解。

从一个例子开始：需求是向AI提出在Linux中希望进行的操作后AI能够直接回答Linux的命令，而不包含其他废话和Markdown符号。经本人测试（gpt-4，gpt-5，deepseek-r1），该需求可通过将以下内容首先喂给AI实现：……

本文教你如何在自己的PC上搭建并使用deepseek-r1生成式AI模型。教学内容在Windows11系统的PC上测试。显卡使用了NVIDIA GeForce GTX 1080。步骤简单，有手就会。从此无需联网就可体验生成式AI的魅力。