go调用腾讯混元大模型

2024-09-02 18:36:40 浏览数 (2)

go-easy-llm

点击 github go-easy-llm 查看更多

一个满足你的调用多种大模型API的轮子,支持目前市面多家第三方大模型,包含ChatGPT、通义千问、文心大模型、混元、盘古、百川智能等; 一套写法兼容所有平台,简单配置即可灵活使用第三方大模型API。

简单几步即可使用第三方大模型API

混元大模型调用

创建密钥

点击我 进行密钥创建

通过这一步,你就会拿到腾讯的 secretIdsecretKey,主要用于鉴权使用

引入go-easy-llm

代码语言:go复制
go get github.com/soryetong/go-easy-llm

导入配置

这里填入你创建密钥时获取到的 secretIdsecretKey

代码语言:go复制
config := easyllm.DefaultConfigWithSecret("your-secretId", "your-secretKey", easyai.ChatTypeHunYuan)

创建 Chat 客户端

代码语言:go复制
client := easyllm.NewChatClient(config)

调用 Chat 模式大模型

一次性回复 NormalChat

代码语言:go复制
resp, reply, err := client.NormalChat(context.Background(), &easyai.ChatRequest{
    Model:   easyai.ChatModelQWenTurbo,
    Message: "请介绍一下自己",
})
// resp 为定义的通用类型, `easyai.ChatResponse`
// reply 为大模型返回的文本

流式回复 StreamChat

代码语言:go复制
resp, err := client.StreamChat(context.Background(), &easyai.ChatRequest{
    Model:   easyai.ChatModelQWenTurbo,
    Message: "介绍一下你自己",
})

for content := range resp {
    fmt.Println(content)
}

通过以上简单几步,你就可以轻松的调用腾讯混元大模型了。就如此简单

单元测试

可移步 go-easy-llm 查看详细代码

0 人点赞