腾讯云宣布国内首家支持Mistral Large 2,可在腾讯云高性能应用服务HAI上实现一键部署,高效开启模型体验

2024-07-29 17:42:54 浏览数 (1)

继 Llama 3.1 之后,开源大模型赛道再迎重磅进展。7月25日,法国 AI 初创公司 Mistral AI 发布Mistral Large 2,该模型拥有123B 参数,在多个基准测试中能够与 GPT-4o、Anthropic 的 Claude 3.5 Sonnet 媲美,甚至与Llama 3.1 405B版本性能接近。

为了方便用户快速使用到最新开源模型能力,7月26日,腾讯云宣布国内首家支持Mistral Large 2,开发者在腾讯云高性能应用服务HAI(Hyper Application Inventor)上一键部署Mistral Large 2,高效开启模型体验。

图片图片

Mistral Large 2 代码能力评测

图片图片

Mistral Large 2 代码能力评测

腾讯云HAI作为国内领先的GPU算力云服务,

致力于帮助个人开发者克服环境和资源障碍,

助力开发者快速探索最新开源模型

缩短用户DIY开源模型的实践路径。

一方面,HAI基于Ollama框架适配模型的推理部署,Ollama框架实现了模型量化、硬件加速等推理加速优化能力,使得用户可以一键体验Large 2的高性能推理;

另一方面,HAI提供了预装模型文件、Ollama框架、完善的环境支持、独占的GPU资源,用户可以基于预置设置,在友好的图形化交互视图下,基于Large 2探索更多自定义研究和业务。

与此同时,HAI作为即插即用的GPU智能算力,除WebUI、Notebook以外,还支持云端IDE Cloud Studio作为算力连接的新方式。

HAI 支持 Cloud Studio 云端IDE

Cloud Studio基于HAI提供全新的应用模板,用户可以快速创建基于浏览器的独立GPU开发环境。另外,云端IDE还集成了基于混元代码大模型的AI代码助手,提供技术对话、代码补全、代码诊断和优化等能力,尤其在AI教研探索、AI创新能力培养方面,为国内师生提供堪比Google Colab的便利体验。

目前,HAI已经提供了多种预装模型环境,包括最新的 Llama 3.1、以及StableDiffusion、ChatGLM等热门模型。后续,腾讯云高性能应用服务HAI也将快速上线更多模型的部署能力,用户也可以根据自身需要最新的开源模型下载部署到HAI,实现更个性化的创作。

0 人点赞