首先 , 安装 Ollama 软件 , 到 https://ollama.com/ 下载安装 ;
然后 , 运行
代码语言:javascript复制ollama run llama3
命令 , 即可开始使用 Llama3 大模型 ;
一、Meta Llama 3 大模型安装
1、Llama 3 大模型简介
Llama 3 大模型 是 Meta 公司 发布的 大模型 , Meta 公司 就是 Facebook ;
Llama 3 大模型 使用的是 标准的 仅解码 Decoder-Only 式的 Transformer 架构 ; 与之相对的 ChatGPT 使用的是 GPT ( Generative Pre-trained Transformer ) 架构 , 包含了编码器 ( Encoder ) 和 解码器 ( Decoder ) 的特性 ;
2、Ollama 软件下载安装
到 Ollama 官网 https://ollama.com/ , 点击 Download 按钮 进入下载页面 ;
进入下载页面后 , 根据自己的系统 , 选择对应的 Ollama 版本 , 目前 Ollama 支持 Windows / Linux / MacOS ;
这个 模型有 299 MB , 等待下载完成 ;
进入到 Ollama 的下载路径 , 直接运行 下载后的 安装文件 ;
点击 Install 按钮 , 安装该软件 ;
安装完成后 , 自动弹出如下对话框 :
3、Llama3 模型下载
安装前提 : 需要挂 全局梯子 , 全局 , 挂上以后可以达到 5 ~ 10MB 每秒 , 不挂 1KB 每秒 ;
运行
代码语言:javascript复制ollama run llama3
命令 , 即可启动 Llama3 大模型 ;
下载的模型放在了 C:Users用户名.ollama 目录中 , 在我的电脑上的路径是 C:Usersoctop.ollama ;
这个模型很大 , 有 4.7 G
安装完成后的效果 :
安装过程中的命令行终端输出 :
代码语言:javascript复制D:Llama>ollama run llama3
pulling manifest
pulling 6a0746a1ec1a... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
pulling 4fa551d4f938... 100% ▕████████████████████████████████████████████████████████▏ 12 KB
pulling 8ab4849b038c... 100% ▕████████████████████████████████████████████████████████▏ 254 B
pulling 577073ffcc6c... 100% ▕████████████████████████████████████████████████████████▏ 110 B
pulling 3f8eb4da87fa... 100% ▕████████████████████████████████████████████████████████▏ 485 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> Send a message (/? for help)
二、Meta Llama 3 大模型使用
1、Llama 3 大模型在线使用
在命令行中 , 可以直接进行对话 , 下面是对话内容 :
代码语言:javascript复制D:Llama>ollama run llama3
pulling manifest
pulling 6a0746a1ec1a... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
pulling 4fa551d4f938... 100% ▕████████████████████████████████████████████████████████▏ 12 KB
pulling 8ab4849b038c... 100% ▕████████████████████████████████████████████████████████▏ 254 B
pulling 577073ffcc6c... 100% ▕████████████████████████████████████████████████████████▏ 110 B
pulling 3f8eb4da87fa... 100% ▕████████████████████████████████████████████████████████▏ 485 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> 你好, 做一下自我介绍