FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.

OTHER License

Stars
13.7K
Committers
95
View Code on GitHub Visit Website View on X
Ecosystems: React, Next

Bot releases are hidden (Show)

FastGPT - V4.7

Published by c121914yu 7 months ago

FastGPT正式支持工具调用，支持简易模式和高级编排中使用。

  1. 新增 - 工具调用模块，可以让LLM模型根据用户意图，动态的选择其他模型或插件执行。
  2. 新增 - 分类和内容提取支持 functionCall 模式。部分模型支持 functionCall 不支持 ToolCall，也可以使用了。需要把 LLM 模型配置文件里的 functionCall 设置为 true， toolChoice设置为 false。如果 toolChoice 为 true，会走 tool 模式。
  3. 新增 - HTTP插件，可实现OpenAPI快速生成插件。
  4. 新增 - Rerank 模型兼容 cohere的格式，可以直接使用 cohere 的 rerank 模型。https://github.com/labring/FastGPT/issues/998
  5. 新增 - Helm 安装。 @LinuxSuRen https://github.com/labring/FastGPT/pull/1023
  6. 优化 - 高级编排性能。
  7. 优化 - 抽离 Flow controller 到 packages。
  8. 优化 - AI模型选择。
  9. 优化 - 手动输入知识库弹窗。
  10. 优化 - 变量输入弹窗。
  11. 优化 - docker 部署，自动初始化副本集。
  12. 优化 - 浏览器读取文件自动推断编码，减少乱码情况。
  13. 优化 - 图片类型自动推断 @dimsky https://github.com/labring/FastGPT/pull/1040
  14. 修复 - 问题分类，内容提取在prompt模式下，历史记录错误 @Fengrui-Liu https://github.com/labring/FastGPT/pull/1012
  15. 修复 - 开源版重排选不上。 https://github.com/labring/FastGPT/issues/982
  16. 修复 - http 请求 body，不使用时，传入undefined。（会造成部分GET请求失败）
  17. 新增 - 支持 http url 使用变量。https://github.com/labring/FastGPT/issues/1010
  18. 修复 - 469 的提取的提示词容易造成幻觉。
  19. 修复 - PG HNSW索引未实际生效问题，本次更新后，搜索速度大幅度提升(但是可能会出现精度损失，如果出现精度损失需要参考PgVector文档，对索引进行调整)。详细见：https://github.com/pgvector/pgvector?tab=readme-ov-file#troubleshooting
  20. 修复Safari浏览器语音输入问题。
  21. 修复 - 自定义分割规则可输入正则特殊字符（之前输入的话，会导致前端崩溃）
  22. 修复 - 提示词编辑器特殊情况多出空行 https://github.com/labring/FastGPT/issues/1047
  23. 修复 - 文档内容错误 @liujianglc https://github.com/labring/FastGPT/pull/1000 @entorick https://github.com/labring/FastGPT/pull/994 @gooyoung https://github.com/labring/FastGPT/pull/992
FastGPT - V4.7

Published by c121914yu 7 months ago

FastGPT正式支持工具调用，支持简易模式和高级编排中使用。

  1. 新增 - 工具调用模块，可以让LLM模型根据用户意图，动态的选择其他模型或插件执行。
  2. 新增 - 分类和内容提取支持 functionCall 模式。部分模型支持 functionCall 不支持 ToolCall，也可以使用了。需要把 LLM 模型配置文件里的 functionCall 设置为 true， toolChoice设置为 false。如果 toolChoice 为 true，会走 tool 模式。
  3. 新增 - HTTP插件，可实现OpenAPI快速生成插件。
  4. 新增 - Rerank 模型兼容 cohere的格式，可以直接使用 cohere 的 rerank 模型。https://github.com/labring/FastGPT/issues/998
  5. 新增 - Helm 安装。 @LinuxSuRen https://github.com/labring/FastGPT/pull/1023
  6. 优化 - 高级编排性能。
  7. 优化 - 抽离 Flow controller 到 packages。
  8. 优化 - AI模型选择。
  9. 优化 - 手动输入知识库弹窗。
  10. 优化 - 变量输入弹窗。
  11. 优化 - docker 部署，自动初始化副本集。
  12. 优化 - 浏览器读取文件自动推断编码，减少乱码情况。
  13. 优化 - 图片类型自动推断 @dimsky https://github.com/labring/FastGPT/pull/1040
  14. 修复 - 问题分类，内容提取在prompt模式下，历史记录错误 @Fengrui-Liu https://github.com/labring/FastGPT/pull/1012
  15. 修复 - 开源版重排选不上。 https://github.com/labring/FastGPT/issues/982
  16. 修复 - http 请求 body，不使用时，传入undefined。（会造成部分GET请求失败）
  17. 新增 - 支持 http url 使用变量。https://github.com/labring/FastGPT/issues/1010
  18. 修复 - 469 的提取的提示词容易造成幻觉。
  19. 修复 - PG HNSW索引未实际生效问题，本次更新后，搜索速度大幅度提升(但是可能会出现精度损失，如果出现精度损失需要参考PgVector文档，对索引进行调整)。详细见：https://github.com/pgvector/pgvector?tab=readme-ov-file#troubleshooting
  20. 修复Safari浏览器语音输入问题。
  21. 修复 - 自定义分割规则可输入正则特殊字符（之前输入的话，会导致前端崩溃）
  22. 修复 - 提示词编辑器特殊情况多出空行 https://github.com/labring/FastGPT/issues/1047
  23. 修复 - 文档内容错误 @liujianglc https://github.com/labring/FastGPT/pull/1000 @entorick https://github.com/labring/FastGPT/pull/994 @gooyoung https://github.com/labring/FastGPT/pull/992
FastGPT - V4.7-alpha3

Published by c121914yu 7 months ago

  1. 简易模式中，单纯选择知识库，仍保持旧逻辑，不调用工具。
  2. 修复由于 Mongo 结构失败导致的多索引训练失败问题。
FastGPT - V4.7-alpha2

Published by c121914yu 7 months ago

升级说明文档：https://doc.fastai.site/docs/development/upgrading/47/

  1. 新增 - promptToolCall 尝试，但不稳定。
  2. 新增 - HTTP插件，可实现OpenAPI快速生成插件。
  3. 新增 - 简易模式支持工具调用。
  4. 优化 - 抽离 Flow controller 到 packages
  5. 优化 - AI模型选择。
  6. 修复 - 开源版重排选不上 https://github.com/labring/FastGPT/issues/982
  7. 修复 - http 请求 body，不使用时，传入undefined
  8. 新增 - 支持 http url 使用变量 https://github.com/labring/FastGPT/issues/1010
  9. 修复 - 469 的提取的提示词容易造成幻觉。
  10. 修复 - PG HNSW索引未实际生效问题，本次更新后，搜索速度大幅度提升(d但是可能出现死组现象)。详细见：https://github.com/pgvector/pgvector?tab=readme-ov-file#troubleshooting
  11. 修复 - 问题分类和内容提取在提示词模型中问题 @Fengrui-Liu https://github.com/labring/FastGPT/pull/1012
  12. 修复 - 文档内容错误 @liujianglc https://github.com/labring/FastGPT/pull/1000 @entorick https://github.com/labring/FastGPT/pull/994 @gooyoung https://github.com/labring/FastGPT/pull/992
FastGPT - V4.7-alpha

Published by c121914yu 7 months ago

  1. 新增 - 工具调用模块，可以让LLM模型根据用户意图，动态的选择其他模型或插件执行。
  2. 新增 - 分类和内容提取支持 functionCall 模式。部分模型支持 functionCall 不支持 ToolCall，也可以使用了。需要把 LLM 模型配置文件里的 functionCall 设置为 true， toolChoice设置为 false。如果 toolChoice 为 true，会走 tool 模式。
  3. 优化 - 高级编排UX性能。
  4. 优化 - Flow控制器，统一输入输出。
FastGPT - V4.6.9

Published by c121914yu 7 months ago

  1. 新增 - 完善了HTTP模块的变量提示。
  2. 新增 - HTTP模块支持OpenAI单接口导入。
  3. 新增 - 全局变量支持外部传入。https://github.com/labring/FastGPT/issues/887
  4. 新增 - 内容提取模块支持默认值。
  5. 优化 - 问题补全。增加英文类型。同时可以设置为单独模块，方便复用。
  6. 优化 - 为商业版重写了计量模式
  7. 优化 - Token 过滤历史记录，保持偶数条，防止部分模型报错。
  8. 优化 - 分享链接SEO，可直接展示应用名、头像和介绍。
  9. 修复 - 标注功能。
  10. 修复 - qa生成线程计数错误。
  11. 修复 - 4.6.8-alpha登录问题 https://github.com/labring/FastGPT/issues/924
  12. 修复 - QA拆分特殊字符导致截取失败问题 https://github.com/labring/FastGPT/pull/950
FastGPT - V4.6.9

Published by c121914yu 8 months ago

  1. 新增 - 完善了HTTP模块的变量提示。
  2. 新增 - HTTP模块支持OpenAI单接口导入。
  3. 新增 - 全局变量支持外部传入。https://github.com/labring/FastGPT/issues/887
  4. 新增 - 内容提取模块支持默认值。
  5. 优化 - 问题补全。增加英文类型。同时可以设置为单独模块，方便复用。
  6. 优化 - 为商业版重写了计量模式
  7. 优化 - Token 过滤历史记录，保持偶数条，防止部分模型报错。
  8. 优化 - 分享链接SEO，可直接展示应用名、头像和介绍。
  9. 修复 - 标注功能。
  10. 修复 - qa生成线程计数错误。
  11. 修复 - 4.6.8-alpha登录问题 https://github.com/labring/FastGPT/issues/924
  12. 修复 - QA拆分特殊字符导致截取失败问题 https://github.com/labring/FastGPT/pull/950
FastGPT - V4.6.9-alpha2

Published by c121914yu 8 months ago

  1. 新增 - 完善了HTTP模块的变量提示。
  2. 新增 - HTTP模块支持OpenAI单接口导入。
  3. 新增 - 全局变量支持外部传入。https://github.com/labring/FastGPT/issues/887
  4. 新增 - 内容提取模块支持默认值。
  5. 优化 - 问题补全。增加英文类型。同时可以设置为单独模块，方便复用。
  6. 优化 - 为商业版重写了计量模式
  7. 优化 - Token 过滤历史记录，保持偶数条，防止部分模型报错。
  8. 优化 - 分享链接SEO，可直接展示应用名、头像和介绍。
  9. 修复 - 标注功能。
  10. 修复 - qa生成线程计数错误。
  11. 修复 - 4.6.8-alpha登录问题 https://github.com/labring/FastGPT/issues/924
FastGPT - V4.6.9-alpha

Published by c121914yu 8 months ago

  1. 新增 - 完善了HTTP模块的变量提示。
  2. 新增 - HTTP模块支持OpenAI单接口导入。
  3. 优化 - 问题补全。增加英文类型。同时可以设置为单独模块，方便复用。
  4. 优化 - 为商业版重写了计量模式
  5. 优化 - Token 过滤历史记录，保持偶数条，防止部分模型报错。
  6. 优化 - 分享链接SEO，可直接展示应用名、头像和介绍。
  7. 修复 - 标注功能。
  8. 修复 - qa生成线程计数错误。
FastGPT - V4.6.8

Published by c121914yu 8 months ago

  1. 新增 - 知识库搜索合并模块。
  2. 新增 - 新的 Http 模块，支持更加灵活的参数传入。同时支持了输入输出自动数据类型转化，例如：接口输出的 JSON 类型会自动转成字符串类型，直接给其他模块使用。此外，还补充了一些例子，可在文档中查看。
  3. 优化 - 内容补全。将内容补全内置到【知识库搜索】中，并实现了一次内容补全，即可完成“指代消除”和“问题扩展”。FastGPT知识库搜索详细流程可查看：知识库搜索介绍
  4. 优化 - LLM 模型配置，不再区分对话、分类、提取模型。同时支持模型的默认参数，避免不同模型参数冲突，可通过defaultConfig传入默认的配置。
  5. 优化 - 流响应，参考了ChatNextWeb的流，更加丝滑。此外，之前提到的乱码、中断，刷新后又正常了，可能会修复）
  6. 修复 - 语音输入文件无法上传。
  7. 修复 - 对话框重新生成无法使用。
FastGPT - V4.6.8

Published by c121914yu 8 months ago

  1. 新增 - 知识库搜索合并模块。
  2. 新增 - 新的 Http 模块，支持更加灵活的参数传入。同时支持了输入输出自动数据类型转化，例如：接口输出的 JSON 类型会自动转成字符串类型，直接给其他模块使用。此外，还补充了一些例子，可在文档中查看。
  3. 优化 - 内容补全。将内容补全内置到【知识库搜索】中，并实现了一次内容补全，即可完成“指代消除”和“问题扩展”。FastGPT知识库搜索详细流程可查看：知识库搜索介绍
  4. 优化 - LLM 模型配置，不再区分对话、分类、提取模型。同时支持模型的默认参数，避免不同模型参数冲突，可通过defaultConfig传入默认的配置。
  5. 优化 - 流响应，参考了ChatNextWeb的流，更加丝滑。此外，之前提到的乱码、中断，刷新后又正常了，可能会修复）
  6. 修复 - 语音输入文件无法上传。
  7. 修复 - 对话框重新生成无法使用。
FastGPT - V4.6.8-alpha

Published by c121914yu 9 months ago

  1. 新增知识库合并模块。
  2. 新增 Mongo 事务，保证数据一致性。（Docker部署的 Mongo 需要手动初始化副本模式）
  3. 增加向量模型自定义参数，可以使用 embedding3-large 1024维度模式。
  4. 优化 LLM 模型配置，合并了问题分类、内容提取、AI对话的模型配置。(解决了GLM4的问题）
  5. 优化系统存储。
  6. 优化高级编排交互。
  7. 优化流输出(可能解决了中断和乱码，刷新后又正常的问题） https://github.com/labring/FastGPT/issues/798
  8. 高级编排增加数据格式转换。（之前很多人提HTTP输出没法直接格式化成字符串使用，现在可以了）
  9. 修复变量选择后不显示问题。 https://github.com/labring/FastGPT/issues/790
  10. 修复语音输入问题。
FastGPT - V4.6.7 Fix

Published by c121914yu 9 months ago

修复 retry 与 whisper 问题。

FastGPT - V4.6.7

Published by c121914yu 9 months ago

  1. 修改了知识库UI及新的导入交互方式。
  2. 优化知识库和对话的数据索引。
  3. 知识库 openAPI，支持通过 API 操作知识库。（文档待补充）
  4. 新增 - 输入框变量提示。输入 { 号后将会获得可用变量提示。根据社区针对高级编排的反馈，我们计划于 2 月份的版本中，优化变量内容，支持模块的局部变量以及更多全局变量写入。
  5. 修复 - API 对话时，chatId 冲突问题。
  6. 修复 - Iframe 嵌入网页可能导致的 window.onLoad 冲突。
FastGPT - V4.6.7-alpha

Published by c121914yu 9 months ago

  1. 修改了知识库UI及新的导入交互方式。
  2. 优化知识库和对话的数据索引。
  3. 知识库 openAPI，支持通过 API 操作知识库。（文档待补充）
  4. 新增 - 输入框变量提示。输入 { 号后将会获得可用变量提示。根据社区针对高级编排的反馈，我们计划于 2 月份的版本中，优化变量内容，支持模块的局部变量以及更多全局变量写入。
  5. 修复 - API 对话时，chatId 冲突问题。
  6. 修复 - Iframe 嵌入网页可能导致的 window.onLoad 冲突。
FastGPT - V4.6.6

Published by c121914yu 10 months ago

  1. 查看 FastGPT 2024 RoadMap
  2. 新增 - Http 模块请求头支持 Json 编辑器。
  3. 新增 - ReRank模型部署
  4. 新增 - 搜索方式：分离向量语义检索，全文检索和重排，通过 RRF 进行排序合并。
  5. 优化 - 问题分类提示词，id引导。测试国产商用 api 模型（百度阿里智谱讯飞）使用 Prompt 模式均可分类。
  6. UI 优化，未来将逐步替换新的UI设计。
  7. 优化代码：Icon 抽离和自动化获取。
  8. 修复 - 链接读取的数据集，未保存选择器，导致同步时不使用选择器。
  9. 修复alpha - 增加 Trainings 表索引

fix issue:
https://github.com/labring/FastGPT/issues/682
https://github.com/labring/FastGPT/issues/678
https://github.com/labring/FastGPT/issues/670

FastGPT - V4.6.6-alpha2

Published by c121914yu 10 months ago

  1. 查看 FastGPT 2024 RoadMap
  2. 新增 - Http 模块请求头支持 Json 编辑器。
  3. 新增 - ReRank模型部署
  4. 新增 - 搜索方式：分离向量语义检索，全文检索和重排，通过 RRF 进行排序合并。
  5. 优化 - 问题分类提示词，id引导。测试国产商用 api 模型（百度阿里智谱讯飞）使用 Prompt 模式均可分类。
  6. UI 优化，未来将逐步替换新的UI设计。
  7. 优化代码：Icon 抽离和自动化获取。
  8. 修复 - 链接读取的数据集，未保存选择器，导致同步时不使用选择器。

fix issue:
https://github.com/labring/FastGPT/issues/682
https://github.com/labring/FastGPT/issues/678
https://github.com/labring/FastGPT/issues/670

FastGPT - V4.6.6-alpha

Published by c121914yu 10 months ago

  1. 优化UI
  2. 优化配置文件代码
FastGPT - V4.6.5

Published by c121914yu 10 months ago

  1. 新增 - 问题补全模块
  2. 新增 - 文本编辑模块
  3. 新增 - 判断器模块
  4. 新增 - 自定义反馈模块
  5. 新增 - 【内容提取】模块支持选择模型，以及字段枚举
  6. 优化 - docx读取，兼容表格（表格转markdown）
  7. 优化 - 高级编排连接线交互
  8. 优化 - 由于 html2md 导致的 cpu密集计算，阻断线程问题
  9. 修复 - 高级编排提示词提取描述
FastGPT - V4.6.5-alpha2

Published by c121914yu 10 months ago

  1. 新增 - 问题补全模块
  2. 新增 - 文本编辑模块
  3. 新增 - 判断器模块
  4. 新增 - 自定义反馈模块
  5. 新增 - 【内容提取】模块支持选择模型，以及字段枚举
  6. 优化 - docx读取，兼容表格（表格转markdown）
  7. 优化 - 高级编排连接线交互
  8. 优化 - 由于 html2md 导致的 cpu密集计算，阻断线程问题
  9. 修复 - 高级编排提示词提取描述
Package Rankings
Top 6.75% on Proxy.golang.org
Related Projects
chatgpt-web

ChatGPT web application. ChatGPT 网页应用，支持多对话、海量提示词、PWA、ASR、TTS

10 Mar 2023 122