基于 llama.cpp 的 Windows 本地轻量级 AI 服务器。解压即用,无需配置 Python 或 WSL 环境。
不含千问AI广告,没有专门推荐千问,仅仅是因为作者使用的是千问。
包含运行所需的所有组件,并已内置千问模型。下载解压后即可直接开始对话,无需额外配置。
仅包含启动器与各类硬件加速引擎,不含模型文件。适合已经拥有 GGUF 模型文件,或希望自行下载其他模型的高级用户。