最新 最热

使用 Transformers 量化 Meta AI LLaMA2 中文版大模型

本篇文章聊聊如何使用 HuggingFace 的 Transformers 来量化 Meta AI 出品的 LLaMA2 大模型,让模型能够只使用 5GB 左右显存就能够运行。

2023-07-22
1

使用 Docker 快速上手中文版 LLaMA2 开源大模型

本篇文章,我们聊聊如何使用 Docker 容器快速上手朋友团队出品的中文版 LLaMA2 开源大模型,国内第一个真正开源,可以运行、下载、私有部署,并且支持商业使用。...

2023-07-21
0

【玩转 GPU】本地部署大模型--chatGLM(尝鲜篇)

本文主要介绍ChatGLM-6B 的本地部署,提供更保姆级别的教程,让完全不懂技术的同学,也能在本地部署大模型~

2023-06-03
0

基于AIGC的写作尝试:A Survey of Large Language Models(论文翻译)(上)

自从图灵测试在20世纪50年代提出以来,人类一直在探索机器掌握语言智能的方法。语言本质上是一个由语法规则控制的复杂、精细的人类表达系统。开发能够理解和掌握语言的能力强大的人工智能(AI)算法是一个重大挑战。作为一...

2023-05-30
1

基于大语言模型构建知识问答系统

打造 特定领域知识(Domain-specific Knowledge) 问答 系统,具体需求有:

2023-05-08
1

模型杂谈:1.5G 显存就能运行的 RNN 14B 的开源模型(ChatRWKV)

这篇文章中,我们来聊聊如何快速上手一众模型里,具有 14B 参数,但是比较特别的 RNN 模型:ChatRWKV。

2023-03-25
1