一. 环境介绍
HAI已适配Mistral AI最新开源大语言模型Large 2,用户可在HAI中快速启动Llama3.18B和70B版,进行测试并接入业务。
Large 2特点如下:
● Large 2是法国人工智能初创公司于7月25日推出的最新一代旗舰模型。
● 该模型共有 1230 亿个参数,在代码生成、数学和推理方面比其前身功能更强大,并提供更强大的多语言支持和高级函数调用功能。
● 官方称其为 GPT-4 级模型,在多项基准测试中的性能非常接近 GPT-4o、Llama 3.1-405 和 Anthropic 的 Claude 3.5 Sonnet。
二. 使用说明
1. 在“社区应用”选择“Mistral AI Large 2B”应用
2. 点击jupyterlab连接方式,进入terminal,执行如下命令行,即可启动服务
ollama run mistral-large