采集的网页需要点击一下button按钮,才能进入到下级网页,button按钮是onclick事件,没找到独立网址,现在尝试用连续动作实现点击,然后采集下级页面的数据,问题是我有多个button要点击,点完第一个button并且采完它的下级网页,要怎样让爬虫继续点击第二个button,然后采集下个页面的数据?
举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2016-11-3 14:24

沙发
ym 版主 发表于 2016-11-3 14:19:10 | 只看该作者
本帖最后由 ym 于 2016-11-3 14:23 编辑

如果点击button按钮,弹出新的页签,就需要用到飞掠模式功能,操作可以参考《飞掠模式:追踪弹窗采数据》。简单概括就是,第一级规则的点击动作的xpath要定位到每个button按钮,这样爬虫采集时就会点完一个按钮,采完它的下级网页,再点击下一个按钮,再采集下个页面,是自动循环的。
举报 使用道具
板凳
花生论坛 初级会员 发表于 2016-11-3 14:24:21 | 只看该作者
哦哦,我看看
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-15 16:01