PYTHON爬虫 这句正则不知道该怎么写


刚开始学python,对爬虫和正则表达式这部分还不是很熟悉。

我现在准备爬取下面这段源码的href和title部分,爬href中的网址后,要在每个网址前面加上" http://www.infoq.com " ,用到的库是urllib2和re.

我现在碰到的问题时,我能够把网址或者title单独爬下来,但是没有办法一起爬下来。同时爬下来后有重复,因为网址和title在下面的源码中出现了两次。我不知道这个正则表达该怎么写才正确。求教各位前辈指点迷津~


 href="/cn/presentations/kanban-instantiation"

 title="实例化看板">

                   <div class="movie">
                       <img src="http://cdn.infoqstatic.com/statics_s2_20150424-0221/resource/presentations/kanban-instantiation/zh/mediumimage/Snip20140804_27.png"/>
                       <span class="videolength">33:08</span>
                   </div>
               </a>



            <h2 class="itemtitle">
                   <a

    href="/cn/presentations/kanban-instantiation"

 title="实例化看板">

                       实例化看板
                   </a>

python 正则表达式 python-爬虫

yoxino 10 years, 2 months ago

只是从 html 里抓数据的话用 pyquery 比较方便。强烈推荐去看看。
我之前用过一次 《Python使用cookielib、urllib2和pyquery模拟登陆本科教学网并抓取数据》

saerll answered 10 years, 2 months ago

一直都是用 urllib + re 写爬虫的。。
楼主可以试一下scrapy

Heloise answered 10 years, 2 months ago

用 xpath,正则能不用尽量不用。

夜枫OR疯 answered 10 years, 2 months ago

谈一点个人最近写爬虫的看法,可能有点答不对题。
最近和班里的人一起在用python写爬虫,有同学写爬虫的时候用正则表达式去来寻找html元素的方式。但是反应正则表达式有点难,解析起来非常费劲。
正则表达式这个东西我个人的看法是会用就行,实在不行了再自己写。
剩下的很多同学写爬虫都是采用htmlparser和beautifulsoup,就是利用第三方库,这样写起来非常的方便,不用写复杂的正则表达式了。很快就能上手而且效率上也很高。
推荐一篇我入门爬虫的文章,希望对你有帮助
iOS程序员如何使用python写网路爬虫

瞬发大火球 answered 10 years, 2 months ago

Your Answer