• 各大搜索引擎的User-Agent


    各大搜索引擎的User-Agent

    baidu:Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html) 
    Google:Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
    Sogou:Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
    Yahoo:Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp)
    百度网页搜索 User-agent
    Baiduspider 
    无线搜索 User-agent
    Baiduspider-mobile 
    图片搜索User-agent 
    Baiduspider-image 
    视频搜索 User-agent
    Baiduspider-video 
    新闻搜索 User-agent
    Baiduspider-news 
    百度搜藏 User-agent
    Baiduspider-favo 
    百度联盟 User-agent
    Baiduspider-cpro
    谷歌User-agent
    Googlebot
    MSN User-agent
    MSNBot
    有道User-agent
    YoudaoBot
    搜狗User-agent
    Sogou inst spider
    Sogou spider2
    Sogou blog
    Sogou News Spider
    Sogou Orion spider
    即刻User-agent
    JikeSpider
    搜搜User-agent
    Sosospider
    360User-agent
    360Spider
    
    百度爬虫,第二条为百度图片爬虫
    Baiduspider+(+http://www.baidu.com/search/spider.htm")
    Baiduspider-image
    google爬虫,最后一条为google图片搜索爬虫
    Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
    Googlebot/2.1 (+http://www.googlebot.com/bot.html)
    Googlebot/2.1 (+http://www.google.com/bot.html)
    Googlebot-Image/1.0
    即刻搜索爬虫
    Mozilla/5.0 (compatible; JikeSpider; +http://shoulu.jike.com/spider.html)
    雅虎爬虫(分别是雅虎中国和美国总部的爬虫)
    Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html")
    Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp")
    新浪爱问爬虫
    iaskspider/2.0(+http://iask.com/help/help_index.html")
    Mozilla/5.0 (compatible; iaskspider/1.0; MSIE 6.0)
    搜狗爬虫,第三条为搜狗图片爬虫
    Sogou web spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
    Sogou Push Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
    Sogou Pic Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
    搜搜爬虫
    Sosospider+(+http://help.soso.com/webspider.htm)
    网易有道爬虫
    Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/; )
    MSN爬虫
    msnbot/1.0 (+http://search.msn.com/msnbot.htm)
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
  • 相关阅读:
    使用hping3和wrk模拟泛洪
    客户CRM能给企业带来哪些用处?
    23-职位分类展示平台响应式网页模板{HTML JS CSS)
    Stable Diffusion专场公开课
    mysql docker 安装
    高考志愿系统-信息管理模块:院校信息分析
    自己动手写编译器:汤普森构造法
    可观测性-Metrics-WebClient异步Http远程Call
    jenkins+nginx部署前端页面&静态资源
    NATAPP内网穿透之接口测试
  • 原文地址:https://blog.csdn.net/weixin_42786460/article/details/133712370