paras = {
    'jl': '北京',                # 搜索城市
    'kw': 'python工程师',        # 搜索关键词 
    'isadv': 0,                    # 是否打开更详细搜索选项
    'isfilter': 1,                # 是否对结果过滤
    'p': 1,                        # 页数
    're': 2005                    # region的缩写，地区，2005代表海淀
}

url = 请访问以下链接进行职位搜索：https://sou.zhaopin.com/jobs/searchresult.ashx? + urlencode(paras)

请求头：

headers = {
    'User-Agent': Mozilla版本5.0，运行于Windows NT 10.0操作系统，采用WOW64架构，通过AppleWebKit 537.36内核，兼容KHTML和Gecko引擎，使用Chrome浏览器63.0.3239.132版本，配备Safari 537.36版浏览器引擎。,
    'Host': 'sou.zhaopin.com',
    'Referer': 'https://www.zhaopin.com/',
    'Accept': 拒绝接受text/html、application/xhtml+xml、application/xml等格式，优先考虑image/webp、image/apng等图像格式，其他类型内容亦有限度接受，整体质量权重为0.8。,
    'Accept-Encoding': 'gzip, deflate, br',
    'Accept-Language': 'zh-CN,zh;q=0.9'
}

1.2 分析有用数据

接下来，我们将对有价值的资料进行深入剖析。在搜索结果中，我们特别关注以下信息：岗位的名称、企业的名称、企业详细页面链接、以及该职位的月薪水平。

借助网页元素的定位技术sublime text f12，我们成功确定了这些项目在HTML文档中的具体位置，具体位置如图所示。

用正则表达式对这四项内容进行提取：

# 正则表达式进行解析
pattern = re.compile('(.*?).*?'        # 匹配职位信息
    '(.*?).*?'     # 匹配公司网址和公司名称
    '(.*?)'，re.S)仅限特定用途，不得擅自更改或滥用。# 匹配月薪      

# 匹配所有符合条件的内容
通过使用正则表达式，程序成功提取了符合特定模式的html内容，并将这些内容存储在变量items中。

注意：解析出来的部分职位名称带有标签，如下图所示：

那么在解析之后要对该数据进行处理剔除标签sublime text f12，用如下代码实现：

for item in items:
    job_name = item[0]
将 job_name 变量中的内容替换为去除特定字符后的新字符串。'', '')
    job_name = job_name.replace('', '')
    yield {
        'job': job_name,
        'website': item[1],
        'company': item[2],
        'salary': item[3]
    }

2、写入文件

所收集到的职位数据，各项信息内容一致，均可录入数据库。然而，本研究采纳了csv格式。下面是百度百科对该格式的介绍：

逗号分隔值，亦称作CSV，有时亦被称作字符分隔值，尽管分隔字符未必一定是逗号，它是以纯文本格式保存的表格数据文件，包含数字与文本信息。纯文本特性表明，此类文件仅由字符序列组成，不包含需像二进制数字那样进行解析的数据。

由于内置了csv文件操作的库函数，所以很方便：

import csv
def write_csv_headers(path, headers):
    '''
    写入表头
    '''
    with open(path, 'a', encoding='gb18030', newline='') as f:
f_csv = csv.DictWriter对象，负责将文件f中的数据按照headers指定的字段名进行字典格式化写入。
        f_csv.writeheader()

def write_csv_rows(path, headers, rows):
    '''
    写入行
    '''
    with open(path, 'a', encoding='gb18030', newline='') as f:
        f_csv = csv.DictWriter(f, headers)
        f_csv.writerows(rows)

3、进度显示

为了寻觅心仪的职业，我们必须对众多岗位进行细致筛选，这意味着我们需要收集的数据量必然相当庞大——可能是数十页、数百页，甚至数千页。在这种情况下，只有实时了解数据抓取的进展，我们才能感到安心。因此，有必要增设进度条显示功能。

本文选取了tqdm模块来展示进度，下面我们共同欣赏一下那些令人眼前一亮的视觉效果（图片来源于网络）：

执行以下命令进行安装：pip tqdm。

简单示例：

from tqdm import tqdm
from time import sleep

for i in tqdm(range(1000)):
    sleep(0.01)

4、完整代码

以上是所有功能的分析，如下为完整代码：

#-*- coding: utf-8 -*-
import re
import csv
import requests
from tqdm import tqdm
from urllib.parse import urlencode
from requests.exceptions import RequestException

def get_one_page(city, keyword, region, page):
    '''
    获取网页html内容并返回
    '''
    paras = {
        'jl': city,         # 搜索城市
        'kw': keyword,      # 搜索关键词 
        'isadv': 0,         # 是否打开更详细搜索选项
        'isfilter': 1,      # 是否对结果过滤
        'p': page,          # 页数
        're': region        # region的缩写，地区，2005代表海淀
    }

    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36',
        'Host': 'sou.zhaopin.com',
        'Referer': 'https://www.zhaopin.com/',
        'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8',
        'Accept-Encoding': 'gzip, deflate, br',
        'Accept-Language': 'zh-CN,zh;q=0.9'
    }

    url = 'https://sou.zhaopin.com/jobs/searchresult.ashx?' + urlencode(paras)
    try:
        # 获取网页内容，返回html数据
执行请求操作，获取指定URL的响应内容，同时携带自定义的头部信息headers。
        # 通过状态码判断是否获取成功
        if response.status_code == 200:
            return response.text
        return None
    except RequestException as e:
        return None

def parse_one_page(html):
    '''
    解析HTML代码，提取有用信息并返回
    '''
    # 正则表达式进行解析
    pattern = re.compile('(.*?).*?'        # 匹配职位信息
        '(.*?).*?'     # 匹配公司网址和公司名称
        '(.*?)', re.S)                                # 匹配月薪      

    # 匹配所有符合条件的内容
re.findall()函数在html字符串中应用了pattern模式，成功提取出了一系列相关项。

    for item in items:
        job_name = item[0]
将job_name变量中的内容替换为新的job_name值。'', '')
        job_name = job_name.replace('', '')
        yield {
            'job': job_name,
            'website': item[1],
            'company': item[2],
            'salary': item[3]
        }

def write_csv_file(path, headers, rows):
    '''
    将表头和行写入csv文件
    '''
    # 加入encoding防止中文写入报错
    # newline参数防止每写入一行都多一个空行
    with open(path, 'a', encoding='gb18030', newline='') as f:
        f_csv = csv.DictWriter(f, headers)
        f_csv.writeheader()
        f_csv.writerows(rows)

def write_csv_headers(path, headers):
    '''
    写入表头
    '''
    with open(path, 'a', encoding='gb18030', newline='') as f:
        f_csv = csv.DictWriter(f, headers)
        f_csv.writeheader()

def write_csv_rows(path, headers, rows):
    '''
    写入行
    '''
    with open(path, 'a', encoding='gb18030', newline='') as f:
        f_csv = csv.DictWriter(f, headers)
        f_csv.writerows(rows)

def main城市、关键词、区域以及页面数量均不得擅自修改。:
    '''
    主函数
    '''
    filename = 'zl_' + city + '_' + keyword + '.csv'
    headers = ['job', 'website', 'company', 'salary']
执行write_csv_headers函数，将文件名作为参数传入，同时传入头部信息列表。
    for i in tqdm(range(pages)):
        '''
        获取该页中所有职位信息，写入csv文件
        '''
        jobs = []
获取城市、关键词、区域以及索引i的相关信息后，html变量被成功赋值。
items = 解析单页内容(html)
        for item in items:
            jobs.append(item)
写入CSV文件中的行，指定文件名、表头和任务列表。

if __name__ == '__main__':
    main('北京', 'python工程师', 2005, 10)

上面代码执行效果如图所示：

完成任务后，将在与py文件同级的目录中自动创建一个名为“zl_北京工程师.csv”的文件，打开该文件后，您将看到如下所示的界面：

如有侵权请联系删除！