什么是百度蜘蛛?
百度蜘蛛,英文名是“baiduspider”是百度搜索引擎用以抓取互联网上数以亿计的网页的自动程序。
百度蜘蛛的作用是访问互联网上的html网页,建立索引数据库,使用户能在百度搜索引擎中搜索到您网站的网页。
百度蜘蛛是一个程序,夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,返回到百度的网页暂存数据库。
百度用来抓取网页内容的程序,叫做Baiduspider,抓取其他内容的蜘蛛,则是新的名字:
产品名称 对应user-agent
网页搜索 Baiduspider
无线搜索 Baiduspider-mobile
图片搜索 Baiduspider-image
视频搜索 Baiduspider-video
新闻搜索 Baiduspider-news
百度搜藏 Baiduspider-favo
百度联盟 Baiduspider-cpro
文章作者:admin
本文地址:http://www.xueseo.com/what-is-baiduspider
版权所有 © 转载时必须以链接形式注明作者和原始出处!