大橙子网站建设,新征程启航
为企业提供网站建设、域名注册、服务器等服务
这篇文章主要介绍“JAVA爬虫区块链快讯的方法是什么”,在日常操作中,相信很多人在JAVA爬虫区块链快讯的方法是什么问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”JAVA爬虫区块链快讯的方法是什么”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
创新互联是专业的确山网站建设公司,确山接单;提供网站设计、做网站,网页设计,网站设计,建网站,PHP网站建设等专业做网站服务;采用PHP框架,可快速的进行确山网站开发网页制作和功能扩展;专业做搜索引擎喜爱的网站,专业的做网站团队,希望更多企业前来合作!
需求:
需要将目标的几个站点的快讯内容做定时爬取,并根据内容做重复过滤。
技术评审:
站点的内容抓取刚开始是想用python,但在内容重复过滤这块没想好实践路径就未直接采用python;
JAVA也看过其他一些开源框架比如:“xxl-crawler”"WebCollector",这两个框架其实在分布式上面略有些优势,但在文本过滤上并未有太好的解决文案;
a、任务调度:
任务调度用Quartz,成熟、灵活
b、文本重复过滤
考虑到数据多的时候重复数据匹配量比较大,如果用分词的内容做索引再循环过滤匹配文本项,效率太低;有没有一种方式可以快速建好文本特征,方便的使用关系数据库就可以做一个全局滤重。
答案是:有的,为每个快讯文本建一个指纹,重复的文本或者较大篇幅的文本重复
其原理简述一下:Simhash算法将给定文本,根据其中的关键字,将文本最终计算出一个32位二进制串,我将生成的二进制串分成四个8位串,这样方便快速计算匹配度,数量大的时候还可以在指纹上建索引提高效率。
上图为根据抓取的内容做的生成的指纹
关键实现:
上图为整个模块基本架构
爬虫任务线程:是用户Quartz做调度,每个目标站是单独的一个Job,具体的调度交给Quatz,爬虫的子JOB再抽取一个父类,做爬虫模板,这样单个爬虫代码量就很少了,附上一个目标站的实现类:
public class LianNewsJob extends NewsJob implements Job { protected static long MAX_ID=0; Logger logger = LoggerFactory.getLogger(WalianNewsJob.class); @Override public void execute(JobExecutionContext jobExecutionContext) { TAG="WALIAN"; try { saveNewsToQueue(getContent()); }catch (Exception e){ logger.error(TAG+"采集异常",e); } } /** * 抓取资讯 * @return */ private ListgetContent(){ LxbNewsSuorce newsItem; List newsList = new ArrayList<>(); List jsonList = new ArrayList<>(); try { String responseJsonStr = getHttpContent(Constants.WALIAN_URL); JSONObject responseJO = JSON.parseObject(responseJsonStr); if(StringUtils.equals(responseJO.getString("code"),"000000")) { JSONArray contentList = responseJO.getJSONObject("data").getJSONArray("list"); for (int i = 0; i < contentList.size(); i++) { jsonList.add(contentList.getJSONObject(i)); } sortContent(jsonList); for (JSONObject jObj : jsonList) { if (jObj.getLong("id") > MAX_ID) { newsItem = new LxbNewsSuorce(); newsItem.setTitle(jObj.getString("title")); newsItem.setContent(StringUtils.replace(jObj.getString("content"))); newsList.add(newsItem); MAX_ID = jObj.getLong("id"); } } } } catch (Exception e) { logger.error(TAG+"抓取异常",e); } return newsList; } boolean isTitleExist(String title ){ Query userQuery = DBManager.getSqlManager().query(LxbNewsSuorce.class); List newsList = userQuery.andEq("title",title).select(); if(newsList.size() > 0){ return true; } return false; }
到此,关于“JAVA爬虫区块链快讯的方法是什么”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注创新互联网站,小编会继续努力为大家带来更多实用的文章!