最新 最热

Java11 的 G1 垃圾收集器

作为 5 年以上工作经验的技术人员,或多或少在系统维护,系统保障,系统调优遇到过上面的这几个场景,你可能是通过重启,调整一些 jvm 参数解决,如果大家需要深入的探究找到问题的原因,可以耐心看看下文我对 G1 的一些总结。...

2023-11-16
1

S-LoRA:一个GPU运行数千大模型成为可能

一般来说,大语言模型的部署都会采用「预训练 — 然后微调」的模式。但是,当针对众多任务(如个性化助手)对 base 模型进行微调时,训练和服务成本会变得非常高昂。低秩适配(LowRank Adaptation,LoRA)是一种参数效率高的微调方法...

2023-11-16
1

数据存储和内存对齐

在ASCII码中,通过一个65的偏移量,使得一部分无符号数指向A-Za-z。 在C语言中,通过char类型的转换规范,可以将对应的01序列转换为英文输出。

2023-11-16
1

【89期】为什么选择B+树作为数据库索引结构?

不同容量的存储器,访问速度差异悬殊。以磁盘和内存为例,访问磁盘的时间大概是ms级的,访问内存的时间大概是ns级的。有个形象的比喻,若一次内存访问需要1秒,则一次外存访问需要1天。所以,现在的存储系统,都是分级组织的。...

2023-11-15
1

揭开K8s适配CgroupV2内存虚高的迷局

在Almalinux替换CentOS的过程中,我们通过kubectl top nodes命令观察到了两个相同规格的节点(只有cgroup版本不同)。在分别调度两个相同的Pod后,我们预期它们的内存使用量应该相近。然而,我们发现使用了cgroupv2的节点的内...

2023-11-15
1

最强AI芯片英伟达H200深夜发布,Llama2-70B推理提速90%,2024年二季度发货

英伟达在 2023 年全球超算大会(SC2023)上发布了目前世界上最强的 AI 芯片 H200。

2023-11-15
1

最强大模型训练芯片H200发布!141G大内存,AI推理最高提升90%,还兼容H100

作为首款搭载HBM3e内存的GPU,内存带宽也从3.35TB/s提升至4.8TB/s,提升43%。

2023-11-15
0

JVM-intern方法在1.6和1.8版本实现区别

intern() 方法是 java.lang.String 类中的一个方法,用于在 Java 字符串常量池中添加字符串对象,并返回对字符串对象的引用。它的作用是将字符串对象添加到字符串常量池中,并且如果字符串常量池已经存在相同内容的字符串,...

2023-11-15
1

垃圾回收算法的评价标准

综合考虑以上评价标准,选择适合应用场景的垃圾回收算法是非常重要的。不同的应用场景可能对垃圾回收算法的要求有所不同,因此需要根据具体情况选择最合适的算法。...

2023-11-15
1

JVM-不同jdk版本静态变量存储位置

JDK(Java Development Kit)是一个软件开发工具包,它提供了开发 Java 应用程序所需的所有工具、编译器和库的集合。

2023-11-15
1