findImgSrc = re.compile(r'让换行符匹配到字符中

# 影片的片名

finTitle = re.compile(r'(.*)')

# 影片的评分

findReating = re.compile(r'(.*)')

# 找到评价人数

findJudge = re.compile(r'(\d*) 人评价 ')

# 找到概况

findInq = re.compile(r'(.*)')

# 找到影片的相关内容

findBb = re.compile(r'

(.*?)

第二部分：爬取网页。

def getData(baseurl):

    datalist = []

    for i in range(0, 10):

        url = baseurl + str(i*25)

        html = askURL(url)    # 保存获取到的网页源码

        # 对网页进行解析

        soup = BeautifulSoup(html, 'html.parser')

        for item in soup.find_all('div', class_="item"):  # 查找符合要求的字符串 形成列表

            #print(item)  # 测试查看电影信息

            data = []

            item = str(item)

            link = re.findall(findLink, item)[0]  #re 库用来查找指定的字符串

            data.append(link)

            imgSrc = 外汇跟单https://www.gendan5.com/re.findall(findImgSrc, item)[0]

            data.append(imgSrc) # 添加图片

            titles = re.findall(finTitle, item)         #

            if (len(titles) == 2):

                ctitle = titles[0]      # 添加中文名

                data.append(ctitle)

                otitle = titles[1].replace("/", "")   #replace("/", "") 去掉无关的符号

                data.append(otitle)     # 添加英文名

            else:

                data.append(titles[0])

                data.append(' ')# 外国名字留空

            rating = re.findall(findReating, item)[0] # 添加评分

            data.append(rating)

            judgeNum = re.findall(findJudge,item) # 评价人数

            data.append(judgeNum)

            inq = re.findall(findInq, item)  # 添加概述

            if len(inq) != 0:

                inq = inq[0].replace(".", "")  # 去掉句号

                data.append(inq)

            else:

                data.append(" ")    # 留空

            bd = re.findall(findBb,item)[0]

            bd = re.sub('(\s+)?',' ', bd)  # 去掉 br   后面这个 bd 表示对 bd 进行操作

            bd = re.sub('/', ' ', bd)   # 替换 /

            data.append(bd.strip())  # 去掉前后的空格 strip()

            datalist.append(data)   # 把处理好的一部电影放入 datalist 当中

    return datalist

第三部分：得到一个指定的url 信息。

# 得到指定的一个 url 网页信息

def askURL(url):

    head = {

        "User-Agent": "Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.141 Mobile Safari/537.36"

}

    request = urllib.request.Request(url,headers=head)    #  get 请求不需要其他的的，而 post 请求需要 一个 method 方法

    html = ""

    try:

        response = urllib.request.urlopen(request)

        html = response.read().decode('utf-8')

        # print(html)

    except Exception as e:

        if hasattr(e,'code'):

            print(e.code)

        if hasattr(e,'reason'):

            print(e.reason)

    return  html

第四部分：保存数据

#    3: 保存数据

def saveData(datalist,savepath):

    book = xlwt.Workbook(encoding="utf-8", style_compression=0)

    sheet = book.add_sheet(' 豆瓣电影 Top250', cell_overwrite_ok=True)

    col = (' 电影详情链接 ', ' 图片链接 ', ' 影片中文名 ', ' 影片外国名 ', ' 评分 ', ' 评价数 ', ' 概况 ', ' 相关信息 ')

    for i in range(0,8):

        sheet.write(0,i,col[i])  # 列名

    for i in range(0,250):

        print(" 第 %d 条 "%i)

        data = datalist[i]

        for j in range(0,8):

            sheet.write(i+1,j,data[j])

    book.save(savepath) # 保存

if __name__ == '__main__':

    main()

    print(" 爬取完毕 ")