大橙子网站建设,新征程启航
为企业提供网站建设、域名注册、服务器等服务
爬取美团数据三个方法
创新互联坚持“要么做到,要么别承诺”的工作理念,服务领域包括:成都网站制作、成都网站建设、企业官网、英文网站、手机端网站、网站推广等服务,满足客户于互联网时代的枣庄网站设计、移动媒体设计的需求,帮助企业找到有效的互联网解决方案。努力成为您成熟可靠的网络建设合作伙伴!
一 ,App
二,网页
三,微信小程序
APP(数量最全 难度最大 反hook 反抓包 还有各种加密)网页端(数量少 但是开发简单 只要js的加密参数)微信小程序(数量合适 难度也还行)所以最后对比决定走微信小程序
模拟器一个 安装微 信 和其他的(去看我其他文章)
开始抓包 分别是这两个URL
列表URL ‘ ’
店家详情URL ‘ ’
发现他和网页端都加密方式差不多都是_token (网上一大堆破解都算法 我也就不说了 )
找到一个可用的 开始地图打点,这些基本上都是常规操作 我也就不说了
我说几点注意事项
一 cookie 经过我测试 cookie很少会过期 几乎不会 如果遇到提示 请登录 可以sleep一下 如果还不行 再去看一下模拟器里面是否过期 可以写一个自动登录都按键精灵
模拟成搜索引擎来采集,我采集新闻的时候遇到过这个问题 可以到我的blog去查看
搜索采集
用熊猫智能采集软件就可以了。软件内内置美团、大众点评等众多主流网站的采集模板,点击一下对应网站的图标,然后输入你需要的关键词和地区、栏目信息就可以新建一个采集了。目前最为方便简单的商家采集了。不用担心对方网站的防采集措施,熊猫里面都已经通过设置搞定了他们。