扒糗事百科精华的python爬虫

代码语言：javascript复制

# -- coding: utf-8 --
import urllib2

import urllib

import re

import thread

import time
----------- 加载处理糗事百科 -----------
class Spider_Model:

def __init__(self):  
    self.page = 1  
    self.pages = []  
    self.enable = False  

# 将所有的段子都扣出来，添加到列表中并且返回列表  
def GetPage(self,page):  
    myUrl = "http://www.qiushibaike.com/hot/page/"   page
    myUrl = myUrl   "?s=4771468"
    user_agent = 'Mozilla/5.0 (Windows NT 6.1; rv:37.0) Gecko/20100101 Firefox/37.0' 
    headers = { 'User-Agent' : user_agent }
    #print myUrl
    req = urllib2.Request(myUrl, headers = headers)
    myResponse = urllib2.urlopen(req)
    myPage = myResponse.read()  
    #encode的作用是将unicode编码转换成其他编码的字符串  
    #decode的作用是将其他编码的字符串转换成unicode编码  
    unicodePage = myPage.decode("utf-8")

    # 找出所有class="content"的div标记  
    #re.S是任意匹配模式，也就是.可以匹配换行符  
    myItems = re.findall('<div.*?class="content">(.*?)</div>',unicodePage,re.S)

    items = []  
    for item in myItems:  
        # item 中是div的内容，也就是糗事百科精华的内容
        # item 中去掉换行
        items.append(item.replace("n","").replace("<br/>",""))  
    return items  

# 用于加载新的段子  
def LoadPage(self):  
    # 如果用户未输入quit则一直运行  
    while self.enable:  
        # 如果pages数组中的内容小于2个  
        if len(self.pages) < 2:  
            try:  
                # 获取新的页面中的段子们  
                myPage = self.GetPage(str(self.page))  
                self.page  = 1  
                self.pages.append(myPage)  
            except:  
                print '无法链接糗事百科！'  
        else:  
            time.sleep(1)  

def ShowPage(self,nowPage,page):  
    for items in nowPage:  
        print u'第%d页' % page , items 
        myInput = raw_input()  
        if myInput == "quit":  
            self.enable = False  
            break  

def Start(self):  
    self.enable = True  
    page = self.page  

    print u'正在加载中请稍候......'  

    # 新建一个线程在后台加载段子并存储  
    thread.start_new_thread(self.LoadPage,())  

    #----------- 加载处理糗事百科 -----------  
    while self.enable:  
        # 如果self的page数组中存有元素  
        if self.pages:  
            nowPage = self.pages[0]  
            del self.pages[0]  
            self.ShowPage(nowPage,page)  
            page  = 1  



----------- 程序的入口处 -----------
print u""" 
程序：糗百爬虫 
   版本：0.3 
   原作者：why
   修改者：天问-中国
   日期：2015-05-12 
   语言：Python 2.7 
   操作：输入quit退出阅读糗事百科
   功能：按下回车依次浏览今日的糗百热点 
"""
print u'请按下回车浏览今日的糗百内容：'

raw_input(' ')

myModel = Spider_Model()

myModel.Start()</pre> 

python爬虫

0 人点赞