BIG-AGI
为AI开发者和研究者提供多模型并行推理与融合决策的工作区
可直接连接云端与本地模型服务的专家级 AI 工作区
项目介绍
Big-AGI 是一款面向研究、分析和高要求决策场景的专家级 AI 工作区,可直接连接云端与本地模型服务,并允许用户使用自己的 API Key。用户能为不同问题或角色配置模型参数,把同一提示并行交给多个模型,比较共识和分歧后再合并答案;系统还提供带记忆的专业角色,以及展示模型、参数、Token 和成本的 AI Inspector,帮助用户掌握整个请求过程。 【核心功能】 多模型精细控制:可直接接入云端与本地模型服务,并使用自己的 API Key;用户能为每次请求或特定角色分别调节推理力度、温度、输出冗长度、推理预算、搜索和工具等参数。 Beam 并行求解:在聊天过程中可同时向2至24个模型并行发送同一问题,各模型在不知道其他回答的前提下实时输出;用户可查看共同结论与分歧,决定何处需要继续验证。 Merge 融合决策:Beam 的 Merge 可将多个回答融合为一个结果,支持直接融合、引导式合并、对比式合并或自定义合并提示词,便于将多模型观点整理为可继续讨论或交付的结论。 记忆型专家角色:可创建携带指令、文档、图片、记忆、固定模型及参数的 Persona,将专业工作流程保存为可复用的专家角色;角色还可加入自定义聊天强化、合并规则和语音设置。