一个Linux 动态库常见bug

2021-01-18 10:43:07 浏览数 (1)

遇到的问题

对于正在运行的程序,当更新动态库尝试重新加载时,可能会导致程序 CoreDump 。

case:

我们的一个开发环境中有多个进程依赖同一个动态库.so, 我更新这个so的时候,直接用

代码语言:javascript复制
cp new.so old.so

导致多个进程同时core,???

这里简单解释下其原因,以及规避方案。

简介

在加载动态库时,主要通过如下方式进行测试。

  • 加载执行关闭,cp覆盖文件,加载执行,正常。
  • 加载执行不关闭,cp覆盖文件,加载执行,CoreDump。
  • 加载执行不关闭,install覆盖文件,关闭加载执行,正常。
  • 加载执行不关闭,install覆盖文件,加载执行关闭关闭,第二次加载的是同一个文件。
代码语言:javascript复制
/* cat foobar.c */
#include <stdio.h>
#include <dlfcn.h>
#include <unistd.h>
#include <stdlib.h>

typedef int (*CAC_FUNC)(int, int);
int main(void)
{
        void *handle1, *handle2;
        char *err;
        CAC_FUNC func = NULL;

        if ((handle1 = dlopen("./libcaculate.so", RTLD_LAZY)) == NULL) {
                fprintf(stderr, "!!! %sn", dlerror());
                exit(EXIT_FAILURE);
        }

        func = (CAC_FUNC)dlsym(handle1, "add");
        if ((err = dlerror()) != NULL)  {
                fprintf(stderr, "!!! %sn", err);
                exit(EXIT_FAILURE);
        }
        printf("add: %dnn", (func)(2,7));
        dlclose(handle1);

        sleep(10);

        if ((handle2 = dlopen("./libcaculate.so", RTLD_LAZY)) == NULL) {
                fprintf(stderr, "!!! %sn", dlerror());
                exit(EXIT_FAILURE);
        }

        func = (CAC_FUNC)dlsym(handle2, "add");
        if ((err = dlerror()) != NULL)  {
                fprintf(stderr, "!!! %sn", err);
                exit(EXIT_FAILURE);
        }
        printf("add: %dnn", (func)(2,7));
        dlclose(handle2);

        exit(EXIT_SUCCESS);
}
代码语言:javascript复制
/* cat caculate.c */
#include <stdio.h>

static int gint = 0;
int add(int a, int b)
{
        printf("static global member address is %p %pn", &gint, add);
        return (a   b   5);
        return (a   b);
}
代码语言:javascript复制
# Makefile
all:
        gcc -fPIC -shared caculate.c -o libcaculate.so
        gcc -o foobar foobar.c -ldl
产生原因

直接复制文件过去,实际上对应的 inode 信息是不变的,可以简单通过 strace cp new old 核心内容如下:

代码语言:javascript复制
open("../libcaculate.so", O_RDONLY)     = 3
fstat(3, {st_mode=S_IFREG|0700, st_size=8064, ...}) = 0
open("libcaculate.so", O_WRONLY|O_TRUNC) = 4

也即是说,老的动态库文件被 trunc 了,这个过程发生的具体的事情是:

  • 应用程序通过 dlopen 打开 so 的时候,kernel 通过 mmap 把 so 加载到进程地址空间,对应于 vma 里的几个 page;
  • 在该过程中 loader 会把 so 里引用的外部符号,如 malloc printf 等解析成真正的虚存地址
  • 当 so 被 cp 覆盖时,确切地说是被 trunc 时,kernel 会把 so 文件在虚拟内的页 purge 掉;
  • 当运行到 so 里面的代码时,因为物理内存中不再有实际的数据,此时仅存在于虚存空间内,会产生一次缺页中断;
  • 内核此时会从 so 文件中 copy 一份到内存中去,此时可能会出现:A) 全局符号表并没有经过解析,当调用到时就产生 segment fault;B) 如果需要的文件偏移大于新的 so 的地址范围,就会产生 bus error。

所以,如果用相同的 so 去覆盖,那么 A) 如果 so 里面依赖了外部符号,直接导致 coredump;B) 如果 so 里面没有依赖外部符号,运气不错,不会 coredump 。

所有问题的产生都是因为 so 被 trunc 了一把,所以如果不用 turnc 的方式就避免这个问题。

解决方案

可以使用 install 命令,可以通过 strace install new old 查看,核心内容如下:

代码语言:javascript复制
unlink("libcaculate.so")                = 0
open("../libcaculate.so", O_RDONLY)     = 3
fstat(3, {st_mode=S_IFREG|0700, st_size=8064, ...}) = 0
open("libcaculate.so", O_WRONLY|O_CREAT|O_EXCL, 0600) = 4

可以看到 install 的方式跟 cp 不同,先 unlink 再 creat,当 unlink 的时候,已经 map 的虚拟空间 vma 中的 inode 结点没有变,只有当 inode 结点的引用计数为 0 是,内核才会把它干掉。

也就是新的 so 和旧的 so 用的不是同一个 inode 结点,所以不会相互影响。

引用相同文件

对于第四种情况,实际上通过 strace 查看时,不再加载新的动态库,而是直接引用之前的文件。 通过 dlclose() 关闭时,会减少动态库的引用计数,当为 0 的时候才会真正卸载该动态库;可以在执行前添加 LD_DEBUG=bindings 环境变量,并查看如下的信息:

代码语言:javascript复制
binding file <some.so> [0] to libdynamicTest.so.1 [0]: normal symbol `<symbol>'

实际上,第一次没有关闭,下次重新打开时直接使用上次结果,导致引用函数不变。

结论

替换动态库文件时使用 install 命令而非 cp ,在重新加载动态库前先关闭所有的引用,确保动态库被正常卸载。

0 人点赞