爬虫详解：原理、常用库与实战案例！-开发者社区

import requests from bs4 import BeautifulSoup import pandas as pd # 豆瓣电影TOP250的基础URL base_url = 'https://movie.douban.com/top250' # 定义一个函数来获取页面内容 def get_page_content(url): headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} response = requests.get(url, headers=headers) if response.status_code == 200: return response.text else: print('请求页面失败:', response.status_code) return None # 定义一个函数来解析页面内容 def parse_page_content(html): soup = BeautifulSoup(html, 'html.parser') movie_list = soup.find_all('div', class_='item') movies = [] for movie in movie_list: title = movie.find('span', class_='title').get_text() rating = movie.find('span', class_='rating_num').get_text() director = movie.find('p', class_='').find('a').get_text() movies.append({'title': title, 'rating': rating, 'director': director}) return movies # 定义一个函数来保存数据到CSV文件 def save_to_csv(movies): df = pd.DataFrame(movies) df.to_csv('douban_top250.csv', index=False, encoding='utf_8_sig') # 主函数，用于运行爬虫 def main(): movies = [] for i in range(0, 250, 25): # 豆瓣电影TOP250分为10页，每页25部电影 url = f'{base_url}?start={i}&filter=' html = get_page_content(url) if html: movies.extend(parse_page_content(html)) save_to_csv(movies) print('爬取完成，数据已保存到douban_top250.csv') # 运行主函数 if __name__ == '__main__': main()

在实际使用中，需要根据豆瓣网站的实际情况调整以下内容：

1.URL和参数：

根据豆瓣电影的URL结构和参数进行设置。

2.BeautifulSoup选择器：

根据网页源代码的结构编写正确的选择器来提取数据。

此外，为了遵守网站的使用协议和法律法规，请确保在编写爬虫时遵循以下几点：

遵守Robots协议，不爬取网站禁止爬取的内容。
设置合理的请求间隔，避免对网站服务器造成过大压力。
如果遇到网站的反爬措施，如验证码、IP封禁等，请合理应对，遵守网站规定
使用爬虫获取的数据请勿用于商业目的或侵犯他人隐私。

最后，由于网站结构可能会发生变化，上述代码可能需要根据实际情况进行调整。在实际应用中，请确保您的爬虫行为合法合规。

四、爬虫实战案例

以爬取某招聘网站职位信息为例，讲解如何编写一个实用的Python爬虫。

1. 分析网站结构

通过观察招聘网站的URL、参数和页面结构，找到职位信息的来源。

2. 编写爬虫代码

（1）使用requests库发送带参数的HTTP请求，获取职位列表。
（2）使用lxml库解析职位列表，提取职位详情页URL。
（3）使用PyQuery库解析职位详情页，提取职位信息。
（4）使用SQLite数据库存储职位信息。

3. 结果展示与分析

import requests from lxml import etree from pyquery import PyQuery as pq import sqlite3 # 创建或连接SQLite数据库 conn = sqlite3.connect('job.db') cursor = conn.cursor() # 创建职位信息表 cursor.execute('CREATE TABLE IF NOT EXISTS job (id INTEGER PRIMARY KEY, title TEXT, salary TEXT, company TEXT, location TEXT)') # 分析网站结构后得到的职位列表URL url = 'https://www.example.com/jobs' # 发送HTTP请求获取职位列表 params = { 'page': 1, # 假设页面参数为page，这里请求第1页 'city': 'beijing' # 假设城市参数为city，这里请求北京地区的职位} response = requests.get(url, params=params) response.encoding = 'utf-8' # 设置字符编码，防止乱码 # 使用lxml解析职位列表，提取职位详情页URL html = etree.HTML(response.text) job_list = html.xpath('//div[@class="job-list"]/ul/li/a/@href') # 假设职位详情页URL在a标签的href属性中 # 遍历职位详情页URL，爬取职位信息 for job_url in job_list: job_response = requests.get(job_url) job_response.encoding = 'utf-8' job_html = pq(job_response.text) # 使用PyQuery解析职位详情页，提取职位信息 title = job_html('.job-title').text() # 假设职位名称在class为job-title的元素中 salary = job_html('.job-salary').text() # 假设薪资信息在class为job-salary的元素中 company = job_html('.job-company').text() # 假设公司名称在class为job-company的元素中 location = job_html('.job-location').text() # 假设工作地点在class为job-location的元素中 # 存储职位信息到SQLite数据库 cursor.execute('INSERT INTO job (title, salary, company, location) VALUES (?, ?, ?, ?)', (title, salary, company, location)) conn.commit() # 关闭数据库连接 cursor.close() conn.close()