骑着猪猪去逛街的gravatar头像
骑着猪猪去逛街 2013-11-25 15:11:43

【猪猪-后端】WebMagic框架搭建的爬虫,根据自定义规则,直接抓取,使用灵活,Demo部署即可查看。

【猪猪-后端】WebMagic框架搭建的爬虫,根据自定义规则,直接抓取,使用灵活,Demo部署即可查看。

如果要使用注解方式实现,也是支持的。

@TargetUrl("http://my.oschina.net/flashsword/blog/\\d+")
public class OschinaBlog {

    @ExtractBy("//title")
    private String title;

    @ExtractBy(value = "div.BlogContent",type = ExtractBy.Type.Css)
    private String content;

    @ExtractBy(value = "//div[@class='BlogTags']/a/text()", multi = true)
    private List<String> tags;

    public static void main(String[] args) {
        OOSpider.create(
            Site.me().addStartUrl("http://my.oschina.net/flashsword/blog"),
            new ConsolePageModelPipeline(), OschinaBlog.class).run();
    }
}


最代码官方编辑于2013-12-31 22:08:41


打赏

文件名:WebMagic.rar,文件大小:6063.709K 下载
  • /
      • /WebMagic
        • /WebMagic/.classpath
        • /WebMagic/.mymetadata
        • /WebMagic/.project
          • /WebMagic/.settings
            • /WebMagic/.settings/.jsdtscope
            • /WebMagic/.settings/org.eclipse.jdt.core.prefs
            • /WebMagic/.settings/org.eclipse.wst.common.component
            • /WebMagic/.settings/org.eclipse.wst.common.project.facet.core.xml
            • /WebMagic/.settings/org.eclipse.wst.jsdt.ui.superType.container
            • /WebMagic/.settings/org.eclipse.wst.jsdt.ui.superType.name
          • /WebMagic/WebRoot
            • /WebMagic/WebRoot/index.jsp
最代码最近下载分享源代码列表最近下载
人工智能4708  LV11 2022年3月24日
亚索King  LV5 2021年7月16日
放开那个难海纸  LV22 2021年4月26日
abdkfksdkf  LV16 2021年3月21日
企鹅不会飞  LV2 2021年3月16日
sccs1984  LV15 2021年3月15日
binbinbbb  LV2 2021年1月14日
tanyc2008  LV6 2020年9月3日
yuanfen  LV16 2020年8月26日
mustDo  LV14 2020年7月30日
最代码最近浏览分享源代码列表最近浏览
半夏bx  LV14 10月20日
kevinkg  LV12 2023年12月14日
zealze  LV3 2023年7月31日
jane1986  LV1 2023年6月2日
dixiu000  LV4 2023年5月19日
lironggang  LV38 2023年4月25日
ls2008  LV15 2023年4月7日
zouge520  LV3 2023年3月28日
tdfgjbi0de  LV6 2023年3月15日
默滅3216  LV3 2023年2月28日
顶部 客服 微信二维码 底部
>扫描二维码关注最代码为好友扫描二维码关注最代码为好友