同一个VPC内
运维管理侧 - 内部
运维管理侧 - 海外

Azure OpenAI

目前还没被墙
tier1: 60 rpm

OpenAI

流控限制:
tier1: 500 rpm
tier2: 5000 rpm

文心一言

OSS

阿里云kubernetes集群

阿里云Serverless服务 [[2023-11-14]]修改:为了一个统一的应用视图,部署在后端统一集群的ai-namespace中。

阿里云上Milvus数据库

  • 杭州region,目前唯一选项
  • 公网https暴露url
  • token鉴权
HTTP,不鉴权部署在部署在部署在直接访问代理转发请求直接访问直接访问数据上报