首先要进入腾讯云高性能应用服务 HAI ,点击“申请资格”,
https://cloud.tencent.com/act/pro/hai
登录成功,等待审核通过后,可前往体验HAI。
下面是进入到了腾讯云,HAI服务页面。点击“新建”按钮来创建一个云服务器。
进行服务器的配置选择。
选择AI模型中的chatGLM2 6B,然后再输入一个实例名称,最后点击右下角的“立即购买”按钮就开始创建了。
这时候的状态是创建中。
等待几分钟后,状态为运行中就创建完成了。 然后点击“算力连接”,选择jupyter_lab。
打开了jupyter_lab页面,然后点击 Terminal打开终端。
下面是打开终端的页面。
下载程序,修改配置,然后启动程序。
下面是配置开放共有ip的端口,
新建规则:
填写规则
然后再创建自己的Cloud Studio环境。
创建工作空间:
等待一会就可以创建完成
新建文件,粘贴代码,修改为自己的公有ip地址和端口
运行代码,成功后会在控制台中返回结果
下面是创建带有前端页面的对话功能应用
下载官方提供的前端程序。
创建新的终端,启动程序。
在浏览器中打开应用,输入内容后进行发送。
最终,成功收到了返回结果, 就完成了前端功能的部署,测试通过。
ChatGL M26BAI模型搭建总结:
通过腾讯HAI云主机环境,非常快速和简单就可以完成ChatGL M26BAI模型的搭建,包括api调用 ,前端页面调用接口等各通用的场景,功能强大,还可以通过修改各项参数,个性化实现接口服务。
只是目前HAI环境集成好的AI场景只有生成AICG图和对话2种,希望不久能推出预测分析类的服务。