部署Falcon-40B、MPT-30B 和 Stable Diffusion 应该使用哪些 GPU 方案？本文将对每一种模型部署所需GPU提供多种方案——性能型、均衡型、经济型。

本文主要介绍ChatGLM-6B 的本地部署，提供更保姆级别的教程，让完全不懂技术的同学，也能在本地部署大模型～

公众号：尤而小屋作者：Peter编辑：Peter大家好，我是Peter~记录下2023年4月份AI大事记，尤其是大模型方向。编号时间公司/学校AI热点新闻14月2日浙江大学浙江大学和蚂蚁集团合作，成立智能视觉实验室24月4日斯坦福大学斯坦福大学...

当今社会是科技的社会，是算力快速发展的时代。随着数据中心、东数西算、高性能计算、数据分析、数据挖掘的快速发展，大模型得到了快速地发展。大模型是“大算力+强算法”相结合的产物，是人工智能的发展趋势和未来。目前，...

作者介绍: 马永亮 ，澜舟科技搜索与金融 NLP 技术负责人。2009年硕士毕业于哈尔滨工业大学，先后在阿里巴巴和微软工作，主要从事搜索引擎、问答、翻译、NLP 相关的技术和产品研发。2021年4月加入澜舟科技。...

推荐系统中常见的深度学习模型由Embedding表和神经网络两部分组成，其中Embedding部分起记忆表征作用，神经网络起到分析和归纳作用。实际上，神经网络在的分析能力是很有限的，更多是表现为归纳。而归纳的效果非常依赖表征的...

推荐上一篇文章说到所谓TB级模型主要的问题在于百亿离散特征，反映在物理层面就是由百亿KV对构成的Embedding表。很多人会直观的认为这里需要一个redis集群，或者类redis的大型KV存储，其实非也。Embedding在使用上存在一个...

在上周发布的《一文看懂预训练最新进展》中，澜舟科技创始人兼 CEO 周明和澜舟科技大模型技术负责人王宇龙分享了大模型技术发展背景和近期百花齐放的大模型及新应用、新趋势。本文继续为大家深入介绍“大模型轻量化”...

本文回顾了过去 12 个月以来，国内外大模型的发展趋势，包括百花齐放的国产大模型、新秀不断涌现的多模态模型、萌芽中的通用能力模型等等，并对大模型新应用、预训练框架等方面的进展进行了总结。...