从NT_NR数据库中提取子库

2021-11-26 13:08:59 浏览数 (1)

估计宿主污染至少80%左右,因而就想通过一些方法,例如kraken、bowtie等把宿主污染去除。

那么就有一个问题,如何选择去除污染的数据库呢?

思来想去,还是从NT库入手,打算把NT库所有动物的序列或者所有小鼠的序列提取出来,做成一个子库,用来去除宿主污染。

百度了一下提取子库的方法,大多都是人云亦云,干脆还是自己整理整理。下面是一些步骤

1 首先下载NCBI的taxonomy数据库

下载完解压缩,其中names.dmp和nodes.dmp两个文件很重要,是后续提取子库的基础

2下载NCBI的TaxonKit软件,http://bioinf.shenwei.me/taxonkit/download/,linux系统直接解压

而后把names.dmp和nodes.dmp两个文件直接cp到~/.taxonkit下,其余的.dmp也可一并cp到~/.taxonkit下

cp taxdump/* ~/.taxonkit

3下载NCBI的csvtk软件,http://bioinf.shenwei.me/csvtk/download/,linux系统也是直接解压,即可使用

4 (选择性步骤)NCBI

taxonomy数据库下还有accession2taxid库,这个库里面也有蛋白以及核酸的accession以及对应的分类id,但是经过尝试,采取这种方法提取的子库序列往往出乎意料的少,很可能是该库的accession与NT/NR库的accession不一致,前者可能冗余更多,因此该方法可忽略,见仁见智吧,下面给个例子,例如:

#从taxonomy数据库中的nucl_wgs.accession2taxid提取accession号

pigz -dc prot.accession2taxid.gz

| csvtk grep -t -f taxid -P $id.taxid.txt

| csvtk cut -t -f accession.version,taxid

| sed 1d

$id.acc2taxid.txt

cut -f 1 $id.acc2taxid.txt > $id.acc.txt

5 查看,并提取动物的taxid

grep -P "|s aAnimalws|" ~/.taxonkit/names.dmp

33208

taxonkit list --ids 33208 --indent "" > $id.taxid.txt

6 从下载好的NT库提取对应的accession

blastdbcmd -db $NT -entry all -outfmt "%a %T" | csvtk grep -d ' ' -D ' ' -f 2 -P $id.taxid.txt

| cut -d ' ' -f 1

$id.acc.txt

7 从NT库提取完整的nt序列,并提取子库序列

blastdbcmd -db $NT -dbtype nucl -entry all -outfmt "%f" -out - | pigz -c > nt.fa.gz

time cat <(echo) <(pigz -dc nt.fa.gz)

| perl -e 'BEGIN{ $/ = "n>"; <>; } while(<>){s/>$//; $i = index $, "n"; $h = substr $, 0, $i; $s = substr $, $i 1; if ($h !~ />/) { print ">$"; next; }; $h = ">$h"; while($h =~ />(^ . ?) ?(?=>|$)/g){ $h1 = $1; $h1 =~ s/^W //; print ">$h1n$s";} } '

| seqkit grep -f $id.acc.txt -o nt.$id.fa.gz

需要注意的是,这里又使用了seqkit软件。这种从NT库中还原的nt.fa序列里面有很多重复的头文件,例如

所以使用的话,还需要写个perl把这些序列拆开,最终形成nt.anmail.fa.gz

8 如果直接想构建子库,那么没必要搞序列,直接运行

blastdb_aliastool -gilist $id.acc.txt -db $NT -out nt_animal -title nt_animal

0 人点赞