为大语言模型(LLM)应用开发一个功能完备的聊天界面,通常意味着要从零开始处理用户会话、历史记录、模型切换和数据持久化,这会消耗大量的前期开发精力。
Hugging Face 开源的 Chat UI 项目解决了这个问题。它提供了一个可立即部署的聊天前端,让你能快速为任何兼容 OpenAI API 的模型服务(如 Ollama、llama.cpp)套上一个成熟的 UI,这也是 HuggingChat 背后的官方实现。
项目开箱即用,通过环境变量配置好模型 API 地址和 MongoDB 连接后,即可拥有一个支持多用户、能够保存完整对话历史和设置的聊天应用。它会自动从你的模型服务端拉取并展示可用模型列表,无需手动配置。
🔗:
github.com · 技术栈:SvelteKit, MongoDB ·
项目还内置了可选的客户端 LLM 路由功能,能根据用户输入动态选择最合适的模型进行响应,并将选择结果透明地展示给用户。
只需克隆仓库、配置好环境变量、安装依赖,即可在本地启动一个功能完整的 LLM 聊天应用。