Web 前端AI 助手by bunnywaffle

llama.cpp Manager

Name: llama.cpp Manager
Author: bunnywaffle

Windows 版 llama.cpp 管理器：下载后端与 GGUF 模型，运行服务器并聊天。

打开 llama.cpp Manager ↗

简介

用 MyGo 搭配 Web 前端构建的 Windows 版 llama.cpp 管理器，界面运行在系统自带的 WebView2 中。它会识别显卡并安装 CUDA 12.4、Vulkan 或 CPU 后端，可导入本地 GGUF 模型或从 Hugging Face 下载，并以单个模型或整个模型文件夹的方式运行 llama-server。内置聊天可以从任意回复分出新对话，并切换人设。