基于腾讯云快速搭建廉价实用的混元大模型工作流平台

2024-07-26 23:46:51 浏览数 (5)

腾讯云的高性能应用服务(HAI)是一个性价比高(1.2元/小时)、开箱即用的好产品。近期在客户项目里,我需要搭建一个混元大模型应用原型,用于客户演示、确认需求。通过HAI,我在十几分钟之内就完成了开源工作流平台Dify的搭建,特分享相关方法。

一、购买腾讯云相关服务

1、登录腾讯云账号

2、登录https://console.cloud.tencent.com/hunyuan,开启混元大模型服务。点击“创建密钥”,新建密钥之后记录SecretID和SecretKey。(注意,SecretKey只能在创建时查看,注意保存)

3、登录 https://buy.cloud.tencent.com/hai ,购买高性能应用服务(建议选海外机器),选择“基础环境”里面的“Ubuntu 20.4.3”。

4、在“高性能应用服务”的控制台里,记录新建Ubuntu机器的IP(机器每次重启IP都会改变);从腾讯云主页右上角进入“站内信”,从最新的站内信里记录Ubuntu机器的用户名和密码

5、下载任意一款SSH客户端软件,填入上述记录的IP、账号、密码、端口(22),然后登录Ubuntu机器

二、安装Docker Compose

1. 更新系统软件包:

sudo apt-get update

2. 下载Docker Compose的最新版本:

sudo curl -SL https://github.com/docker/compose/releases/download/v2.29.1/docker-compose-linux-x86_64 -o /usr/local/bin/docker-compose

注:如需使用最新版本,可访问GitHub发布页面( https://github.com/docker/compose/releases )查看最新版本号,替换上面指令里的“V2.29.1”

3. 为下载的二进制文件添加可执行权限:

sudo chmod x /usr/local/bin/docker-compose

4. 验证Docker Compose是否安装成功:

docker-compose --version

如果安装成功,会显示Docker Compose的版本号。

三、安装开源工作流平台Dify

1、通过Github安装并运行Dify:

sudo git clone https://github.com/langgenius/dify.git

cd dify

cd docker

sudo docker-compose up -d

2、在浏览器上访问 http://xx.xx.xx.xx/install 进入 Dify 控制台,并开始初始化安装操作。下次关机重启之后,浏览器访问 http://xx.xx.xx.xx 即可登录Dify。请将“xx.xx.xx.xx”自行替换成当前最新的Ubuntu机器IP。

3、注册管理员账号并登录

4、配置混元大模型

1)从Dify页面右上角的控制台进入“设置”

2)在“模型供应商”里面选择Tencent HunYuan

3)将“一.2”记录的SecretID和SecretKEY填写进去,保存

5、你可以调用混元大模型来自由创建工作流了!下面是我做的一个工作流样例。

0 人点赞