阅读全文

⭐⭐⭐ Spring Boot 项目实战	⭐⭐⭐ Spring Cloud 项目实战
《Dubbo 实现原理与源码解析 —— 精品合集》	《Netty 实现原理与源码解析 —— 精品合集》
《Spring 实现原理与源码解析 —— 精品合集》	《MyBatis 实现原理与源码解析 —— 精品合集》
《Spring MVC 实现原理与源码解析 —— 精品合集》	《数据库实体设计合集》
《Spring Boot 实现原理与源码解析 —— 精品合集》	《Java 面试题 + Java 学习指南》

摘要: 原创出处 极客之家 「丛林」欢迎转载，保留摘要，谢谢！

• 核心功能
• 实战案例
• 界面展示
• 总结

---

🙂🙂🙂关注微信公众号：【芋道源码】有福利：

1. RocketMQ / MyCAT / Sharding-JDBC 所有源码分析文章列表
2. RocketMQ / MyCAT / Sharding-JDBC 中文注释源码 GitHub 地址
3. 您对于源码的疑问每条留言都将得到认真回复。甚至不知道如何读源码也可以请教噢。
4. 新的源码解析文章实时收到通知。每周更新一篇左右。
5. 认真的源码交流微信群。

---

在AI大模型百花齐放的今天，开发者常面临一个难题：不同厂商的API协议差异导致开发效率低下。

例如调用ChatGPT需要遵循OpenAI的规范，而接入讯飞星火则需完全不同的参数结构。今天给大家推荐一款开源项目 One API，这个项目正是为解决这一痛点而生。它如同AI领域的”网关”，将分散的大模型API统一转化为标准OpenAI格式，让开发者以一套代码兼容数十种主流大模型。

核心功能

1. 多模型统一接入

One API目前已支持超过30种大模型服务，涵盖国内外主流AI厂商：

• 国际模型：OpenAI全系列（含Azure）、Google PaLM2/Gemini、Anthropic Claude、Meta Llama等
• 国产模型：讯飞星火、智谱ChatGLM、百度文心一言、阿里通义千问、360智脑等
• 开源模型：通过集成Ollama可接入本地部署的ChatGLM3、Qwen、DeepSeek等模型

2. 企业级管理功能

• 密钥分发：支持二次分发管理API密钥，可设置额度、有效期和IP白名单
• 负载均衡：自动在多个同类型渠道间分配请求，提升系统稳定性
• 数据监控：实时查看各渠道的调用量、响应时间和错误率
• 审计日志：记录所有API请求的详细元数据，满足企业合规需求

3. 开发者友好特性

• 无缝兼容：现有基于OpenAI SDK的应用只需修改base_url即可迁移
• 流式传输：完整支持Chat Completions的stream模式，实现打字机效果
• 模型映射：将私有模型名称映射为通用标识（如将”qwen-max”映射为”gpt-4”）

实战案例

5分钟接入私有化大模型

案例背景

某企业希望将本地部署的ChatGLM3接入现有AI知识库系统，但原有系统仅支持OpenAI接口。

实现步骤：

部署ChatGLM3服务

# 使用chatglm.cpp加速CPU推理
docker run -p 8000:8000 liplusx/chatglm.cpp uvicorn api:app --host 0.0.0.0:cite[6]

配置One API渠道

• 类型选择OpenAI兼容
• 代理地址填写http://内网IP:8000
• 模型名称映射为”gpt-3.5-turbo“

修改应用配置

# 原OpenAI配置
OPENAI_API_BASE = "https://api.openai.com/v1"

# 改为One API地址
OPENAI_API_BASE = "http://one-api:3000/v1"

界面展示

渠道列表

监控页面

操作日志

对话页面

令牌页面

总结

One API的出现，如同在AI应用的”巴别塔”上架起了一座桥梁。开发者不再需要为每个模型单独编写适配代码，企业也无需担心供应商锁定的风险。

在这个大模型技术日新月异的时代，它正在成为AI工程化道路上的基础设施级工具。正如某位用户在使用后感叹：”原来需要两周完成的模型迁移，现在只需修改一个配置项！“

开源地址

https://github.com/songquanpeng/one-api