使用R语言读取PUBMED存入MYSQL数据库

2020-03-03 11:32:39 浏览数 (1)

最近,在科研狗网站看到了一个有趣的项目,使用R语言读取pubmed存入mysql数据库,之前报名没有报上,还是决心要跟着做一下,无奈R语言水平比较渣渣,只能复制别人的代码来用,悲剧的是,原代码复制过来还是报错,来一个小目标,把这段代码运行起来。花了两三天的功夫,终于实现了目标。

原代码参考自R科研作图学习小组组长:木萱小主的作业: http://group.keyangou.com/RGraph/topic/952

这个项目的难点在于要用R语言和MySQL数据库,两者都是初学,加大了难度,搞不定R函数。首先这个任务的准备工作是安装数据库和phpmyadmin(当然这只是一个选项,还有好多的图形数据库管理软件,据说大牛都是命令行操作的),这个不表。

主要步骤就是第一,用你要查询的关键词或条件获得pubmed-id,标题和摘要,然后格式化一下,放入数据库。代码如下:

代码语言:javascript复制
library(RISmed)
代码语言:javascript复制
cell2017<-EUtilsSummary("cell[TA] AND 2017[DP]")
代码语言:javascript复制
data<-QueryId(cell2017)
代码语言:javascript复制
data #获得全部的ID
代码语言:javascript复制
pmids<-paste(data,sep = "",collapse=",")
代码语言:javascript复制
#pmids
代码语言:javascript复制
library(RMySQL)
代码语言:javascript复制
library(xml2)
代码语言:javascript复制
library(httr)
代码语言:javascript复制
postFetchUrl<-'https://eutils.ncbi.nlm.nih.gov/entrez/eutils/efetch.fcgi?'
代码语言:javascript复制
r2 <- POST(postFetchUrl,body = list(db='pubmed',id=pmids,retmode='xml'))
代码语言:javascript复制
stop_for_status(r2)
代码语言:javascript复制
data2=content(r2, "parsed")
代码语言:javascript复制
article=xml_children(data2)
代码语言:javascript复制
count=length(article)
代码语言:javascript复制
cnt=1
代码语言:javascript复制
a<-list()
代码语言:javascript复制
b<-list()
代码语言:javascript复制
while(cnt<=count){title=xml_find_first(article[cnt],".//ArticleTitle")
代码语言:javascript复制
abstract=xml_find_first(article[cnt],".//AbstractText")
代码语言:javascript复制
#write.table(xml_text(title),file='a.txt', row.names=F,quote=F,append=T)
代码语言:javascript复制
a<-c(a,xml_text(title))
代码语言:javascript复制
#write.table(print(xml_text(abstract)),file='b.txt',row.names=F,quote=F,append=T)
代码语言:javascript复制
b<-c(b,xml_text(abstract))
代码语言:javascript复制
#break
代码语言:javascript复制
cnt = cnt   1
代码语言:javascript复制
}
代码语言:javascript复制
pmid<-data
代码语言:javascript复制
title=a
代码语言:javascript复制
abstract<-b
代码语言:javascript复制
title = gsub("'","",title)
代码语言:javascript复制
abstract = gsub("'","",abstract)
代码语言:javascript复制
article<-data.frame(pmid,title,abstract)
代码语言:javascript复制
con<-dbConnect(MySQL(),host="127.0.0.1",dbname="rdb",user="root",password="")
代码语言:javascript复制
dbSendQuery(con,'SET NAMES utf8')
代码语言:javascript复制
dbWriteTable(con,"article",article,append=TRUE)
代码语言:javascript复制
dbDisconnect(con)

用另外一种解决方法,不用RISmed包,用httpr包,也能运行,但是到第6行就会报错,只好作罢。不管怎样,上边那个方法是最简单的,用做实际应用足够了。

这里还要补充一下,如果边数据库次数太多而没有关闭会报错,有个哥们定义的函数很有用,一起放这。

代码语言:javascript复制
#数据库连接删除函数,每个任务之前最好先清理所有的连接,调用此函数就可以
代码语言:javascript复制
killDbConnections <- function () {
代码语言:javascript复制
  all_cons <- dbListConnections(MySQL())
代码语言:javascript复制
  print(all_cons)
代码语言:javascript复制
  for(con in all_cons)
代码语言:javascript复制
      dbDisconnect(con)
代码语言:javascript复制
  print(paste(length(all_cons), " connections killed."))
代码语言:javascript复制
}
代码语言:javascript复制
killDbConnections()

代码github地址:https://github.com/zd200572/R/blob/master/科研狗

0 人点赞