架构

本文档讨论了 Chat UI 代码库的高层次概述。如果您想参与贡献，或者只是想了解代码库的工作原理，那么这里就是为您准备的！

概述

Chat UI 提供了一个简单的界面，用于将大语言模型 (LLM) 与外部信息和工具连接起来。该项目使用 MongoDB 和 SvelteKit 搭配 Tailwind。

本节简要讨论了代码库的各个模块。标题并非路径，因为代码库结构可能会发生变化。

提供所有通过 SvelteKit 进行服务器端渲染 (SSR) 的路由。大部分后端和前端逻辑都可以在这里找到，其中一些模块被提取到客户端的 `lib` 和服务器端的 `lib/server` 中。

为大多数聊天功能（如模型输出、网页搜索、助手和工具）提供标准接口。输出 `MessageUpdate`，用于提供请求状态的细粒度更新，例如新的令牌和网页搜索结果。

为许多第三方 LLM 和嵌入提供商提供通用的流式接口。

实现网页搜索查询和检索增强生成（RAG）。更多信息请参见网页搜索部分。

为 LLM 调用的外部工具提供通用接口。更多信息请参见工具部分。

包含所有 MongoDB 迁移，用于在模式变更时保持向后兼容性。对模式的任何更改都必须包含一次迁移。