River
面向开发者和团队提供开源大模型的托管微调与API部署服务
提供托管 API 的基于开源大模型运行与微调的 AI工具
项目介绍
River AI 面向希望拥有自有模型的开发者和团队，提供从训练到部署的托管 API；平台基于开源大模型运行 LoRA 微调与强化学习，用户可带入自己的数据和奖励函数，让模型学习特定任务，训练后的权重与检查点可保存、迭代，并通过兼容 OpenAI 的接口提供服务。 【核心功能】 LoRA 低秩微调：通过可配置的适配器更新模型权重，在注意力、MLP 及 MoE 专家等模块上训练，快速塑造面向具体任务的模型。 强化学习训练：支持基于自定义奖励的 RL 流程，完成采样、评分、更新等步骤，帮助模型针对实际目标持续改进。 多种开源基座：提供 Qwen、Kimi、GLM、DeepSeek、Nemotron 等开源模型，覆盖约 35B 至 1T 参数规模，具体可用模型取决于账号权限。 Python 客户端与部署：通过 river-client 统一完成采样、训练和保存检查点，训练结果可使用 OpenAI 兼容端点直接接入现有应用。