Apache License 2.0

技术解读

以下内容由 GitRead 中文社区 编辑团队基于项目 README 与官方资料整理, 结合中文开发者的常见使用场景补充技术选型建议。具体以项目官方文档为准。

关于

开源、高性能AI网关,可用作您的LLM网关、HCP网关和代理网关。一个适用于10,000多种型号的OpenAI兼容API,具有故障转移、负载平衡、语义缓存、虚拟密钥、预算和HCP代码模式。可与任何SDK或代理配合使用,并在5 k RPS时增加不到200µs的管理费用。

语言占比

CSS
Dockerfile
Go
Go Template
HCL
HTML
JavaScript
Makefile
Nix
Python
Shell
TypeScript
jq

README

暂无 README 预览

评论

暂无评论