教你无限制批量下载JGI-IMG基因组数据!

2022-05-05 12:59:49 浏览数 (1)

IMG(Integrated Microbial Genomes,https://img.jgi.doe.gov/cgi-bin/m/main.cgi)由美国能源部联合基因组研究中心(Joint GenomeInstitute,JGI)于2005年创立,是综合的微生物基因组数据库及比较分析系统。IMG收录了细菌、古菌、质粒、病毒以及少量真核生物基因组数据,其数据主要来源于NCBI的RefSeq数据库,但是增添了更加详细的注释信息,例如CRISPR序列、信号肽、非编码RNA、功能基因等。IMG基于COG、Pfam、TIGRfam、InterPro、GO和KEGG等数据库产生基因家族的注释信息。其主页如下所示:

IMG整理了详细的微生物基因组信息,包括物种的分类、生存环境、基因组序列长度、GC含量、编码基因数目、数据质量以及研究项目信息等,目前仅细菌基因组收录的数目已超过5万。在IMG搜索页面(Find Genomes),每个条目均可排序筛选,查询搜索十分方便,且基因组信息可以很方便的输出。

基因组注释信息我们可以很方便的导出到表格,那么如何批量下载对应的基因组序列数据呢?在JGI Portal的主页中(https://genome.jgi.doe.gov/portal/)列出了三种可行的下载方法,如下所示:

批量下载我们推荐第三种也即使用API进行下载,这样我们可以很好的整合到程序里面,在服务器进行下载。点击上面第三种方法,页面上会列出curl地址及使用方法,如下所示:

首先我们需要在JGI主页(https://img.jgi.doe.gov)注册一个账户,然后使用Perl语言根据上述信息编写下载程序:

代码语言:javascript复制
#!/usr/bin/env perl
use strict;
use warnings;
use Getopt::Long;

die "perl $0 -cookies yes|no $0 n" if $#ARGV<0;
my($cookies);
GetOptions("cookies=s"=>$cookies);
my $user='xxxxxxxxx'; #单引号内写你JGI登录邮箱
my $passwd="xxxxxxxxxx"; #双引号内写你JGI登陆密码
`curl 'https://signon-old.jgi.doe.gov/signon/create' --data-urlencode "login=$user" --data-urlencode "password=$passwd" -c cookies > login.log` unless $cookies eq "no";

while(<>){
    chomp;
    next if /taxon_oid/;
    next if /^$/;
    my @line=split /t /;
    my $specie_name="IMG_".$line[6];
    `curl 'https://genome.jgi.doe.gov/portal/ext-api/downloads/get-directory?organism=$specie_name' -b cookies > xml 2>/dev/null`;
    my($specie,$url)=&xml2url("xml",$specie_name);
    `curl 'https://genome.jgi.doe.gov/portal/ext-api/downloads/get_tape_file?blocking=true&url=$url' -b cookies -m 600 > $specie.tgz 2>/dev/null` if $url;
}

sub xml2url{
    my ($xml,$spe)=@_;
    open XML,$xml or die "Failed to open xml: $!";
    my $input=join("", <XML>);
    if($input=~/label="(. ?)". ?url=(/IMG. ?tar.gz). ?md5/m){
        my $label=$1;
        my $url=$2;
        $label=~s/s /_/g;
        $label=~s/[()]/_/g;
        `mv $xml $label.xml`;
        return $label,$url;
    }else{
        `cp $xml $spe.xml` ;
    }
}
##End##

此脚本最初发表于博客网站(http://blog.sina.com.cn/u/2622394401),这里我根据IMG的curl网址变化进行了修改。我们将此脚本保存为down_genome_from_jgi.pl。接下来在IMG主页搜索需要下载的基因组:

选中要下载的基因组后点击Export保存xls文件到自己的电脑,然后上传到服务器,下载的文件如下所示:

其中第七列为IMG Genome ID,如果不是需要修改前面脚本的第18行。在服务器批量下载这些基因组如下所示:

代码语言:javascript复制
perl down_genome_from_jgi.pl taxontable56069_28-may-2019.xls

下载完成后每个基因组均有一个后缀tgz的压缩文件,里面包含基因组序列与基因、蛋白序列等,如下所示:

0 人点赞