【AI 大模型】Meta Llama 3 大模型 ( Llama 3 大模型简介 | Ollama 软件下载安装 | Llama3 模型下载 | Llama 3 大模型 在线 / 离线 使用 )

2024-08-09 09:41:51 浏览数 (1)

首先 , 安装 Ollama 软件 , 到 https://ollama.com/ 下载安装 ;

然后 , 运行

代码语言:javascript复制
ollama run llama3

命令 , 即可开始使用 Llama3 大模型 ;

一、Meta Llama 3 大模型安装


1、Llama 3 大模型简介

Llama 3 大模型 是 Meta 公司 发布的 大模型 , Meta 公司 就是 Facebook ;

Llama 3 大模型 使用的是 标准的 仅解码 Decoder-Only 式的 Transformer 架构 ; 与之相对的 ChatGPT 使用的是 GPT ( Generative Pre-trained Transformer ) 架构 , 包含了编码器 ( Encoder ) 和 解码器 ( Decoder ) 的特性 ;

2、Ollama 软件下载安装

到 Ollama 官网 https://ollama.com/ , 点击 Download 按钮 进入下载页面 ;

进入下载页面后 , 根据自己的系统 , 选择对应的 Ollama 版本 , 目前 Ollama 支持 Windows / Linux / MacOS ;

这个 模型有 299 MB , 等待下载完成 ;

进入到 Ollama 的下载路径 , 直接运行 下载后的 安装文件 ;

点击 Install 按钮 , 安装该软件 ;

安装完成后 , 自动弹出如下对话框 :

3、Llama3 模型下载

安装前提 : 需要挂 全局梯子 , 全局 , 挂上以后可以达到 5 ~ 10MB 每秒 , 不挂 1KB 每秒 ;

运行

代码语言:javascript复制
ollama run llama3

命令 , 即可启动 Llama3 大模型 ;

下载的模型放在了 C:Users用户名.ollama 目录中 , 在我的电脑上的路径是 C:Usersoctop.ollama ;

这个模型很大 , 有 4.7 G

安装完成后的效果 :

安装过程中的命令行终端输出 :

代码语言:javascript复制
D:Llama>ollama run llama3
pulling manifest
pulling 6a0746a1ec1a... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
pulling 4fa551d4f938... 100% ▕████████████████████████████████████████████████████████▏  12 KB
pulling 8ab4849b038c... 100% ▕████████████████████████████████████████████████████████▏  254 B
pulling 577073ffcc6c... 100% ▕████████████████████████████████████████████████████████▏  110 B
pulling 3f8eb4da87fa... 100% ▕████████████████████████████████████████████████████████▏  485 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> Send a message (/? for help)

二、Meta Llama 3 大模型使用


1、Llama 3 大模型在线使用

在命令行中 , 可以直接进行对话 , 下面是对话内容 :

代码语言:javascript复制
D:Llama>ollama run llama3
pulling manifest
pulling 6a0746a1ec1a... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
pulling 4fa551d4f938... 100% ▕████████████████████████████████████████████████████████▏  12 KB
pulling 8ab4849b038c... 100% ▕████████████████████████████████████████████████████████▏  254 B
pulling 577073ffcc6c... 100% ▕████████████████████████████████████████████████████████▏  110 B
pulling 3f8eb4da87fa... 100% ▕████████████████████████████████████████████████████████▏  485 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> 你好, 做一下自我介绍



	

0 人点赞