GPT-Load：高性能AI网关，集成多种大模型服务

GPT-Load（高性能AI网关）简介

GPT-Load 是一款高性能的 AI 网关，可以说是专门为需要集成多种大型语言模型服务的企业和开发者设计。采用 Go 语言开发，具有透明代理、智能密钥管理、负载均衡等功能，能够为高并发生产环境提供稳定可靠的服务。

主要功能

• 透明代理：GPT-Load 完全保留原生 API 格式，支持 OpenAI、Google Gemini 和 Anthropic Claude 等多种格式，方便用户无缝切换。
• 智能密钥管理：具备高性能密钥池，支持分组管理、自动轮换和故障恢复，确保服务的安全性和连续性。
• 负载均衡：支持多上游端点的加权负载均衡，提升服务可用性和响应速度。
• 动态配置：系统设置和分组配置支持热重载，无需重启即可生效，极大地提升了管理效率。
• 全面监控：实时统计、健康检查和详细请求日志功能，帮助用户及时了解系统状态。

该工具适合各种企业和开发者，尤其是那些需要同时使用多种 AI 服务的场景。通过简单的配置，用户可以快速启动服务，并通过友好的 Web 管理界面进行监控和管理。

GPT-Load（高性能AI网关）官网及教程

• 开源地址：https://github.com/tbphp/gpt-load
• 官网：https://www.gpt-load.com/

方式一：Docker 快速开始

docker run -d --name gpt-load \
    -p 3001:3001 \
    -e AUTH_KEY=sk-123456 \
    -v "$(pwd)/data":/app/data \
    ghcr.io/tbphp/gpt-load:latest

使用 sk-123456 登录管理界面：http://localhost:3001

Crawl4AI – 开源异步网页爬虫和网页抓取工具

方式二：使用 Docker Compose（推荐）

安装命令：

# 创建目录
mkdir -p gpt-load && cd gpt-load

# 下载配置文件
wget https://raw.githubusercontent.com/tbphp/gpt-load/refs/heads/main/docker-compose.yml
wget -O .env https://raw.githubusercontent.com/tbphp/gpt-load/refs/heads/main/.env.example

# 启动服务
docker compose up -d

默认安装的是 SQLite 版本，适合轻量单机应用。

如需安装 MySQL, PostgreSQL 及 Redis，请在 docker-compose.yml 文件中取消所需服务的注释，并配置好对应的环境配置重启即可。