全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

CeraNetworks网络延迟测速工具IP归属甄别会员请立即修改密码
查看: 2400|回复: 12

Azure openai已申请到,分享下搭建方法

[复制链接]
发表于 2023-5-2 13:04:08 | 显示全部楼层 |阅读模式
本帖最后由 karllo 于 2023-5-2 13:06 编辑

我用的是这2个项目部署起来的,当然还有其他优秀的azure兼容项目,mjj们可以去挖掘一下
ChatGPT-Next-Web
azure-openai-proxy


一、创建 Azure OpenAI

  • 区域:我选美东,关于区域,我看了下文档,西欧不支持gpt4,会影响后续使用,美东和中南部都可以
  • 名称:这个比较建议填一个好记的名称,后续调用api是带这个名字的域名的
  • 其他步骤直接默认下一步就行
  • 最后提交部署需要等待几分钟,我等了10分钟左右才部署成功



二、模型部署
  • 进入刚才创建的服务,选择模型部署
  • 这里的名称填写也注意一下,后面调用api接口参数也会用到,我填的是
    1. gpt-35-turbo
    复制代码

  • 当然,模型选择肯定也是gpt-35-turbo
  • 到此已经完成了Azure上的部署



三、服务器部署
使用的是docker-compose部署,下面我写一个通用的docker-compose.yml文件模板给大家
注意模板要改的地方:
  • OPENAI_API_KEY(Azure上在“密钥和终结点”里可以找到,密钥1、2都可以用)
  • CODE(用来访问页面服务的自定义密码,建议密码8位以上防止被爆破,多个密码以逗号隔开)
  • AZURE_OPENAI_ENDPOINT(也是在Azure上在“密钥和终结点”里可以找到)
  • AZURE_OPENAI_MODEL_MAPPER(名称映射,就是上一步里模型部署提到的模型名称,如果跟我写的一样可以不用改)


  1. services:
  2.   chatgpt-next-web:
  3.     image: yidadaa/chatgpt-next-web
  4.     container_name: chatgpt
  5.     ports:
  6.       - 3000:3000
  7.     environment:
  8.       - BASE_URL=http://azure-openai:8080
  9.       - OPENAI_API_KEY=xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
  10.       - CODE=xxxxxxx,xxxxxxx
  11.     depends_on:
  12.       - azure-openai
  13.     links:
  14.       - azure-openai
  15.     networks:
  16.       - chatgpt-ns
  17.     restart: always

  18.   azure-openai:
  19.     image: ishadows/azure-openai-proxy:latest
  20.     container_name: azure-openai-proxy
  21.     restart: always
  22.     ports:
  23.       - 7070:8080
  24.     environment:
  25.       - AZURE_OPENAI_ENDPOINT=https://xxxxx.openai.azure.com
  26.       - AZURE_OPENAI_MODEL_MAPPER={gpt-3.5-turbo=gpt-35-turbo,gpt-3.5-turbo-0301=gpt-35-turbo-0301}
  27.     networks:
  28.       - chatgpt-ns

  29. networks:
  30.   chatgpt-ns:
  31.     driver: bridge
复制代码



至此已经完成服务部署,剩下的那些反向代理(3000端口)、域名绑定,相信作为一位mjj都懂
发表于 2023-5-2 13:04:51 | 显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
 楼主| 发表于 2023-5-2 13:08:32 | 显示全部楼层

https://azure.microsoft.com/zh-cn/pricing/details/cognitive-services/openai-service/
发表于 2023-5-2 13:16:23 | 显示全部楼层
用这这个搭镜像赚钱不
 楼主| 发表于 2023-5-2 13:20:51 | 显示全部楼层
MikuP 发表于 2023-5-2 13:16
用这这个搭镜像赚钱不

赚不了钱吧,自己玩,目前有每分钟请求次数限制:
Davinci 模型(002 及更高版本):120
ChatGPT 模型(预览版):300
GPT-4 模型(预览版):18
所有其他模型:300
发表于 2023-5-2 13:21:56 | 显示全部楼层
karllo 发表于 2023-5-2 13:20
赚不了钱吧,自己玩,目前有每分钟请求次数限制:
Davinci 模型(002 及更高版本):120
ChatGPT 模型( ...

gpt4不用单独申请?
发表于 2023-5-2 13:25:00 | 显示全部楼层
azure100有售
 楼主| 发表于 2023-5-2 13:25:45 | 显示全部楼层
xhcj666 发表于 2023-5-2 13:21
gpt4不用单独申请?

要的啊,前提条件是要先通过gtp3.5的
发表于 2023-5-2 13:27:16 | 显示全部楼层
karllo 发表于 2023-5-2 13:25
要的啊,前提条件是要先通过gtp3.5的

你4通过了嘛?我等了一周了,还没消息
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2024-5-17 08:45 , Processed in 0.063333 second(s), 9 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表