看了你这个网站,下一页每次都不一样,每一页的链接也不一样,这种你靠分析肯定是不行的,因为你永远都不知道会出来什么内容,建议你用八爪鱼采集器,这是目前最好用的网页数据采集利器,解决这种问题很轻松的。
用爬虫跟踪下一页的方法是自己模拟点击下一页连接,然后发出新的请求;
参考例子如下:
item1 = Item()
yield item1
item2 = Item()
yield item2
req = Request(url='下一页的链接', callback=self.parse)
yield req
注意:使用yield时不要用return语句。
url=“http://search.jiayuan.com/index.php?t=0&y=0&m=1&s=0&re=1&d=&ajax=1”
data={'p':页码}
用post方法提交
不太明白你在说什么....我都是直接从文本里面截取url,不知道你咋扯到javascript了.