简单来说互联网是由一个个站点和网络设备组成的大网,我们通过浏览器访问站点,站点把HTML、JS、CSS代码返回给浏览器,这些代码经过浏览器解析、渲染,将丰富多彩的网页呈现我们眼前
如果我们把互联网比作一张大的蜘蛛网,数据便是存放于蜘蛛网的各个节点,而Python爬虫就是一只小蜘蛛,
沿着网络抓取自己的猎物(数据)爬虫指的是:向网站发起请求,获取资源后分析并提取有用数据的程序;
从技术层面来说就是 通过程序模拟浏览器请求站点的行为,把站点返回的HTML代码/JSON数据/二进制数据(图片、视频) 爬到本地,进而提取自己需要的数据,存放起来使用
Python爬虫的基本原理
发起请求
使用http库向目标站点发起请求,即发送一个Request
Request包含:请求头、请求体等
Request模块缺陷:不能执行JS 和CSS 代码
获取响应内容
如果服务器能正常响应,则会得到一个Response
Response包含:html,json,图片,视频等
解析内容
解析html数据:正则表达式(RE模块),第三方解析库如Beautifulsoup,pyquery等
解析json数据:json模块
解析二进制数据:以wb的方式写入文件
保存数据
数据库(MySQL,Mongdb、Redis)
以上就是python爬虫什么意思的详细内容,更多请关注其它相关文章!
更多技巧请《转发关注》哦!
【python爬虫什么意思 python是什么意思】
推荐阅读
- 什么颜色鱼钩质量好,买什么样的电脑内存大品质好
- 衢江有什么肉食鱼,这是食肉鱼吗
- 水母为什么不吃饵料,海龟吃水母吗
- 钓鱼用什么牌子的饵料最好,钓鱼用的拉饵用什么牌子的好
- 什么小药鱼吃了拉肚子怎么回事啊,最近吃鱼和鸡都拉肚肚以前不这样的这是为什么呢
- 初秋钓鲢鳙有什么技巧,什么季节钓鲢鳙
- 钓鱼用偏光镜什么颜色最好,偏光眼镜好吗如何选择
- 狗鱼能和什么鱼混养,狗鱼和乌龟和虾米能一起养么
- 麻团颗粒一般用什么,钓罗非麻团沾颗粒可以吗
- 花莲用什么好钓,鲢鱼用什么饵料最好用