IMG(Integrated Microbial Genomes,https://img.jgi.doe.gov/cgi-bin/m/main.cgi)由美国能源部联合基因组研究中心(Joint GenomeInstitute,JGI)于2005年创立,是综合的微生物基因组数据库及比较分析系统。IMG收录了细菌、古菌、质粒、病毒以及少量真核生物基因组数据,其数据主要来源于NCBI的RefSeq数据库,但是增添了更加详细的注释信息,例如CRISPR序列、信号肽、非编码RNA、功能基因等。IMG基于COG、Pfam、TIGRfam、InterPro、GO和KEGG等数据库产生基因家族的注释信息。其主页如下所示:
IMG整理了详细的微生物基因组信息,包括物种的分类、生存环境、基因组序列长度、GC含量、编码基因数目、数据质量以及研究项目信息等,目前仅细菌基因组收录的数目已超过5万。在IMG搜索页面(Find Genomes),每个条目均可排序筛选,查询搜索十分方便,且基因组信息可以很方便的输出。
基因组注释信息我们可以很方便的导出到表格,那么如何批量下载对应的基因组序列数据呢?在JGI Portal的主页中(https://genome.jgi.doe.gov/portal/)列出了三种可行的下载方法,如下所示:
批量下载我们推荐第三种也即使用API进行下载,这样我们可以很好的整合到程序里面,在服务器进行下载。点击上面第三种方法,页面上会列出curl地址及使用方法,如下所示:
首先我们需要在JGI主页(https://img.jgi.doe.gov)注册一个账户,然后使用Perl语言根据上述信息编写下载程序:
代码语言:javascript复制#!/usr/bin/env perl
use strict;
use warnings;
use Getopt::Long;
die "perl $0 -cookies yes|no $0 n" if $#ARGV<0;
my($cookies);
GetOptions("cookies=s"=>$cookies);
my $user='xxxxxxxxx'; #单引号内写你JGI登录邮箱
my $passwd="xxxxxxxxxx"; #双引号内写你JGI登陆密码
`curl 'https://signon-old.jgi.doe.gov/signon/create' --data-urlencode "login=$user" --data-urlencode "password=$passwd" -c cookies > login.log` unless $cookies eq "no";
while(<>){
chomp;
next if /taxon_oid/;
next if /^$/;
my @line=split /t /;
my $specie_name="IMG_".$line[6];
`curl 'https://genome.jgi.doe.gov/portal/ext-api/downloads/get-directory?organism=$specie_name' -b cookies > xml 2>/dev/null`;
my($specie,$url)=&xml2url("xml",$specie_name);
`curl 'https://genome.jgi.doe.gov/portal/ext-api/downloads/get_tape_file?blocking=true&url=$url' -b cookies -m 600 > $specie.tgz 2>/dev/null` if $url;
}
sub xml2url{
my ($xml,$spe)=@_;
open XML,$xml or die "Failed to open xml: $!";
my $input=join("", <XML>);
if($input=~/label="(. ?)". ?url=(/IMG. ?tar.gz). ?md5/m){
my $label=$1;
my $url=$2;
$label=~s/s /_/g;
$label=~s/[()]/_/g;
`mv $xml $label.xml`;
return $label,$url;
}else{
`cp $xml $spe.xml` ;
}
}
##End##
此脚本最初发表于博客网站(http://blog.sina.com.cn/u/2622394401),这里我根据IMG的curl网址变化进行了修改。我们将此脚本保存为down_genome_from_jgi.pl。接下来在IMG主页搜索需要下载的基因组:
选中要下载的基因组后点击Export保存xls文件到自己的电脑,然后上传到服务器,下载的文件如下所示:
其中第七列为IMG Genome ID,如果不是需要修改前面脚本的第18行。在服务器批量下载这些基因组如下所示:
代码语言:javascript复制perl down_genome_from_jgi.pl taxontable56069_28-may-2019.xls
下载完成后每个基因组均有一个后缀tgz的压缩文件,里面包含基因组序列与基因、蛋白序列等,如下所示: