【Rust日报】moxin - 纯Rust实现的LLM Client

2024-07-02 15:39:34 浏览数 (2)

moxin - 纯Rust实现的LLM Client

moxin 0.1.0 发布,感兴趣可以试试,有问题可以反馈下

纯血 Rust 实现的 LLM 大模型跨平台客户端,美得很,后台链接里 WasmEdge llama.cpp (LLamaEdge)

https://github.com/moxin-org/moxin/

CIDR trie - 用于高效管理IP/subnet的数据结构

这篇文章讲了CIDR的基础以及Rust实现,需要的自取。

https://d34dl0ck.me/rust-bites-cidr-trie/index.html

native_db - rust原生内嵌数据库

基于redb的封装,能直接存储rust类型。更好用了。

https://github.com/vincent-herlemont/native_db

代码语言:javascript复制
#[derive(Serialize, Deserialize, PartialEq, Debug)]
#[native_model(id = 1, version = 1)]
#[native_db]
struct Item {
    #[primary_key]
    id: u32,
    #[secondary_key]
    name: String,
}

一篇介绍rayon并行化库的入门文章

rayon是rust社区非常受欢迎的一键式并行化库,非常好用。这篇细致地讲解了 rayon 的入门使用。

https://nrempel.com/parallel-processing-with-rayon/

--

0 人点赞