继 Llama 3.1 之后,开源大模型赛道再迎重磅进展。7月25日,法国 AI 初创公司 Mistral AI 发布Mistral Large 2,该模型拥有123B 参数,在多个基准测试中能够与 GPT-4o、Anthropic 的 Claude 3.5 Sonnet 媲美,甚至与Llama 3.1 405B版本性能接近。
为了方便用户快速使用到最新开源模型能力,7月26日,腾讯云宣布国内首家支持Mistral Large 2,开发者在腾讯云高性能应用服务HAI(Hyper Application Inventor)上一键部署Mistral Large 2,高效开启模型体验。
Mistral Large 2 代码能力评测
Mistral Large 2 代码能力评测
腾讯云HAI作为国内领先的GPU算力云服务,
致力于帮助个人开发者克服环境和资源障碍,
助力开发者快速探索最新开源模型
缩短用户DIY开源模型的实践路径。
一方面,HAI基于Ollama框架适配模型的推理部署,Ollama框架实现了模型量化、硬件加速等推理加速优化能力,使得用户可以一键体验Large 2的高性能推理;
另一方面,HAI提供了预装模型文件、Ollama框架、完善的环境支持、独占的GPU资源,用户可以基于预置设置,在友好的图形化交互视图下,基于Large 2探索更多自定义研究和业务。
与此同时,HAI作为即插即用的GPU智能算力,除WebUI、Notebook以外,还支持云端IDE Cloud Studio作为算力连接的新方式。
HAI 支持 Cloud Studio 云端IDE
Cloud Studio基于HAI提供全新的应用模板,用户可以快速创建基于浏览器的独立GPU开发环境。另外,云端IDE还集成了基于混元代码大模型的AI代码助手,提供技术对话、代码补全、代码诊断和优化等能力,尤其在AI教研探索、AI创新能力培养方面,为国内师生提供堪比Google Colab的便利体验。
目前,HAI已经提供了多种预装模型环境,包括最新的 Llama 3.1、以及StableDiffusion、ChatGLM等热门模型。后续,腾讯云高性能应用服务HAI也将快速上线更多模型的部署能力,用户也可以根据自身需要最新的开源模型下载部署到HAI,实现更个性化的创作。