博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
BeautifulSoup学习心得(一)
阅读量:6289 次
发布时间:2019-06-22

本文共 2019 字,大约阅读时间需要 6 分钟。

【BeautifulSoup最简介】

BeautifulSoup,是Python中的一个第三方库,用于帮助解析Html/XML等内容,便于实现后期的内容提取等方面的工作。

BeautifulSoup官网地址:

【官网文档】

BeautifulSoup 最新的 v4,改名为bs4,英文官网文档:

之前的旧的,BeautifulSoup v3,对应的官网文档,中文版:

1.善于利用soup节点的parent属性

比如对于已经得到了,如下html代码:

                   

的soup变量eachMonthHeader了。

想要提取其中的

Month的label的值:November

和Year的label的值:2012

最简单,也是最省事的办法是,直接搜两个label,然后肯定会找到这两个label,然后分别对应着Month和Year的label,然后获得对应的string即可:

foundTwoLabel = eachMonthHeader.findAll("label");print "foundTwoLabel=",foundTwoLabel;monthLabel = foundTwoLabel[0];yearLabel = foundTwoLabel[1]; monthStr = monthLabel.string;yearStr = yearLabel.string; print "monthStr=",monthStr; # monthStr= Novemberprint "yearStr=",yearStr; # yearStr= 2012

但是很明显,这样的逻辑性很不好,而且万一处理多个这样的soup变量,而且两者的顺便颠倒了,那么结果也就错误了。

此时,可以考虑利用soup变量的parent属性,从一个soup变量本身,获得其上一级的soup变量。

其中细节可以参考官网的教程:

示例代码如下:

#      #     # #     #     # # foundCboMonth = eachMonthHeader.find("input", {
"id":re.compile("cboMonth\d+")});#print "foundCboMonth=",foundCboMonth;tdMonth = foundCboMonth.parent;#print "tdMonth=",tdMonth;tdMonthLabel = tdMonth.label;#print "tdMonthLabel=",tdMonthLabel;monthStr = tdMonthLabel.string;print "monthStr=",monthStr; foundCboYear = eachMonthHeader.find("input", {
"id":re.compile("cboYear\d+")});#print "foundCboYear=",foundCboYear;tdYear = foundCboYear.parent;#print "tdYear=",tdYear;tdYearLabel = tdYear.label;#print "tdYearLabel=",tdYearLabel;yearStr = tdYearLabel.string;print "yearStr=",yearStr;

2.当解析非UTF-8或ASCII编码类型的HTML时,需要指定对应的字符编码

当html为ASCII或UTF-8编码时,可以不指定html字符编码,便可正确解析html为对应的soup:

#这里respHtml是ASCII或UTF-8编码,此时可以不指定编码类型,即可正确解析出对应的soupsoup = BeautifulSoup(respHtml);

当html为其他类型编码,比如GB2312的话,则需要指定相应的字符编码,BeautifulSoup才能正确解析出对应的soup:

比如:

中的相关代码:

#此处respHtml是GB2312编码的,所以要指定该编码类型,BeautifulSoup才能解析出对应的souphtmlCharset = "GB2312";soup = BeautifulSoup(respHtml, fromEncoding=htmlCharset);

而关于如何获得对应的html的字符编码,不了解的可参考:

 

 

文章地址:http://www.crifan.com/summary_usage_of_beautifulsoup_in_python/

 

 

 

转载于:https://www.cnblogs.com/qiernonstop/p/3779420.html

你可能感兴趣的文章