微慑信息网

[python] Windows下安装libxml2并在Python中使用XPath

 为了使用XPath技术,对爬虫抓取的网页数据进行抽取(如标题、正文等等),花了一天的时间熟悉了一下Python语言,今天尝试在Windows下安装libxml2模块,将自己的一点学习实践简单记录一下。

Python在安装一个扩展的模块时,可以通过安装辅助工具包(Setuptools)来安装新的Python packages,并可以实现对已经安装的packages的管理。在http://pypi.python.org/pypi/setuptools上你可以找到对于不同平台下的安装包,这些工具主要包括Python Eggs和 Easy Install。在网上搜了很多,比较常用的应该是Easy Install,而且在网站http://peak.telecommunity.com/DevCenter/EasyInstall上给出了对EasyInstall的介绍:

 

[plain] view plaincopy

 
  1. Easy Install is a python module (easy_install) bundled with setuptools that lets you automatically download, build, install, and manage Python packages.  

Easy Install是一个Python模块,通过它可以方便地安装扩展的Python模块。

下面我们就一步步地准备、安装、配置。

 

准备

 

需要的软件包,及其相应的下载地址,分别整理如下:

Python 2.6 (python官网貌似打不开,也忘记从哪里下载的,到网上搜一下吧)
libxml2-python-2.7.7.win32-py2.7.exe  (http://xmlsoft.org/sources/win32/python/libxml2-python-2.7.7.win32-py2.7.exe,http://xmlsoft.org/sources/win32/python/)
setuptools-0.6c11.win32-py2.6.exe (http://pypi.python.org/packages/2.6/s/setuptools/setuptools-0.6c11.win32-py2.6.exe#md5=1509752c3c2e64b5d0f9589aafe053dc,http://pypi.python.org/pypi/setuptools#downloads)

 

安装


第1步:安装Python

在Windows下面,只需要安装包的exe可行性文件即可安装,不在累述。

第2步:安装Easy Install工具

前提是Python要安装好,然后安装上面准备好的setuptools-0.6c11.win32-py2.6.exe即可,它会自动找到Python的安装目录,并将安装工具包安装到对应的目录下面。例如我的脚本目录为E:Program FilesPython26Scripts,验证一下:

 

[plain] view plaincopy

 
  1. E:>cd E:Program FilesPython26Scripts  
  2. E:Program FilesPython26Scripts>easy_install –help  
  3.   
  4. Global options:  
  5.   –verbose (-v)  run verbosely (default)  
  6.   –quiet (-q)    run quietly (turns verbosity off)  
  7.   –dry-run (-n)  don’t actually do anything  
  8.   –help (-h)     show detailed help message  
  9.   
  10. Options for ‘easy_install’ command:  
  11.   –prefix                       installation prefix  
  12.   –zip-ok (-z)                  install package as a zipfile  
  13.   –multi-version (-m)           make apps have to require() a version  
  14.   –upgrade (-U)                 force upgrade (searches PyPI for latest  
  15.                                  versions)  
  16.   –install-dir (-d)             install package to DIR  
  17.   –script-dir (-s)              install scripts to DIR  
  18.   –exclude-scripts (-x)         Don’t install scripts  
  19.   –always-copy (-a)             Copy all needed packages to install dir  
  20.   –index-url (-i)               base URL of Python Package Index  
  21.   –find-links (-f)              additional URL(s) to search for packages  
  22.   –delete-conflicting (-D)      no longer needed; don’t use this  
  23.   –ignore-conflicts-at-my-risk  no longer needed; don’t use this  
  24.   –build-directory (-b)         download/extract/build in DIR; keep the  
  25.                                  results  
  26.   –optimize (-O)                also compile with optimization: -O1 for  
  27.                                  "python -O", -O2 for "python -OO", and -O0 to  
  28.                                  disable [default: -O0]  
  29.   –record                       filename in which to record list of installed  
  30.                                  files  
  31.   –always-unzip (-Z)            don’t install as a zipfile, no matter what  
  32.   –site-dirs (-S)               list of directories where .pth files work  
  33.   –editable (-e)                Install specified packages in editable form  
  34.   –no-deps (-N)                 don’t install dependencies  
  35.   –allow-hosts (-H)             pattern(s) that hostnames must match  
  36.   –local-snapshots-ok (-l)      allow building eggs from local checkouts  
  37.   
  38. usage: easy_install-script.py [options] requirement_or_url …  
  39.    or: easy_install-script.py –help  

如果能够看到上述easy_install的命令选项,就说明安装成功了。

 

第3步:安装libxml2

libxml2安装,通过libxml2-python-2.7.7.win32-py2.7.exe安装即可。安装完这个以后,只是将相应的模块解压到了对应的目录,并不能在Python编程中使用,还需要通过Easy Install来安装一个lxml库,它是一个C编写的库,能够加速对HTML或XML的解析处理,详细介绍可以参考(http://lxml.de/index.html)。安装lxml需要使用Easy Install的执行脚本,例如我的脚本目录为E:Program FilesPython26Scripts,执行安装:

E:Program FilesPython26Scripts>easy_install lxml==2.2.2

可以看到安装信息:

 

[plain] view plaincopy

 
  1. E:Program FilesPython26Scripts>easy_install lxml==2.2.2  
  2. Searching for lxml==2.2.2  
  3. Reading http://pypi.python.org/simple/lxml/  
  4. Reading http://codespeak.net/lxml  
  5. Best match: lxml 2.2.2  
  6. Downloading http://pypi.python.org/packages/2.6/l/lxml/lxml-2.2.2-py2.6-win32.egg#md5=dc73ae17e486037580371077efdc13e9  
  7. Processing lxml-2.2.2-py2.6-win32.egg  
  8. creating e:program filespython26libsite-packageslxml-2.2.2-py2.6-win32.egg  
  9. Extracting lxml-2.2.2-py2.6-win32.egg to e:program filespython26libsite-packages  
  10. Adding lxml 2.2.2 to easy-install.pth file  
  11.   
  12. Installed e:program filespython26libsite-packageslxml-2.2.2-py2.6-win32.egg  
  13.   
  14. Processing dependencies for lxml==2.2.2  
  15. Finished processing dependencies for lxml==2.2.2  

 

使用XPath抽取

 

下面,我们使用XPath来实现网页数据的抽取。这里,我使用了一个Python的IDE工具——EasyEclipse for Python(Version: 1.3.1),可以直接创建Pydev Project,具体使用请查阅相关资料。

 

验证可以使用XPath来定向抽取网页数据,Python代码如下:

 

[python] view plaincopy

 
  1. import codecs  
  2. import sys  
  3. from lxml import etree  
  4.   
  5. def readFile(file, decoding):  
  6.     html =   
  7.     try:  
  8.         html = open(file).read().decode(decoding)  
  9.     except:  
  10.         pass  
  11.     return html  
  12.   
  13. def extract(file, decoding, xpath):  
  14.     html = readFile(file, decoding)  
  15.     tree = etree.HTML(html)  
  16.     return tree.xpath(xpath)  
  17.   
  18. if __name__ == ‘__main__’:  
  19.     sections = extract(‘peak.txt’‘utf-8’"//h3//a[@class=’toc-backref’]")  
  20.     for title in sections:  
  21.         print title.text  

首先,把网页http://peak.telecommunity.com/DevCenter/EasyInstall的源代码下载下来,存储到文件peak.txt中,编码UTF-8;

然后,在Python中读取该文件内容,使用XPath抽取页面上每个段落的标题内容,最后输出到控制台上,结果如下所示:

[plain] view plaincopy

 
  1. Troubleshooting  
  2. Windows Notes  
  3. Multiple Python Versions  
  4. Restricting Downloads with   
  5. Installing on Un-networked Machines  
  6. Packaging Others’ Projects As Eggs  
  7. Creating your own Package Index  
  8. Password-Protected Sites  
  9. Controlling Build Options  
  10. Editing and Viewing Source Packages  
  11. Dealing with Installation Conflicts  
  12. Compressed Installation  
  13. Administrator Installation  
  14. Mac OS X "User" Installation  
  15. Creating a "Virtual" Python  
  16. "Traditional"   
  17. Backward Compatibility  

如果你足够熟悉XPath,借助于libxml2,你可以抽取网页中任何你想要的内容。

本文标题:[python] Windows下安装libxml2并在Python中使用XPath
本文链接:
(转载请附上本文链接)
http://vulsee.com/archives/vulsee_2013/1129_791.html
转载请附本站链接,未经允许不得转载,,谢谢:微慑信息网-VulSee.com » [python] Windows下安装libxml2并在Python中使用XPath
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

微慑信息网 专注工匠精神

访问我们联系我们