轻松掌握BeautifulSoup，高效Python爬虫入门

发布时间：2025-03-16 人气：305 作者：网络

一、了解BeautifulSoup

BeautifulSo。树档文改up是一个功能强大的Python库，用于解析HTML和XML文档。它提供了一套简单易用的API，使我们能够轻松地遍历文档树、搜索文档树以及修改文档树。

二、安装BeautifulSoup

安装BeautifulSoup非常简单，只需在命令行中运行以下命令：

pip install beautifulsoup4

三、基础使用方法

from bs4 import BeautifulSoup

html_doc = """这是一个段落。
这是另一个段落。这是一个链接"""

soup = BeautifulSoup
print  # 输出：这是一个标题
print      # 输出：这是一个段落。
print)  # 输出：
print)  # 输出：

四、高级用法

1. CSS选择器

BeautifulSoup支持使用CSS选择器来查找文档中的元素。以下例子演示了如何使用CSS选择器查找所有class为content的元素：

from bs4 import BeautifulSoup

html_doc = """这是一个段落。
这是另一个段落。这是一个链接"""

soup = BeautifulSoup
print)  # 输出：

2. 处理字符串

BeautifulSoup提供了一些方法来处理HTML中的字符串，比如去除标签、替换标签等。以下例子演示了如何使用get_text方法获取HTML文档中所有文本内容：

from bs4 import BeautifulSoup

html_doc = """这是一个加粗的段落。
这是另一个带颜色的段落。这是一个链接"""

soup = BeautifulSoup
print)  # 输出：这是一个标题这是一个加粗的段落。这是另一个带颜色的段落。这是一个链接

3. 修改文档树

BeautifulSoup也支持修改文档树，比如添加、删除、替换元素等。以下例子演示了如何使用soup.append方法在文档末尾添加一个元素：

from bs4 import BeautifulSoup

html_doc = """这是一个段落。
这是另一个段落。这是一个链接"""

soup = BeautifulSoup
new_tag = soup.new_tag
new_tag.string = '这是一个新元素'
soup.body.append
print