什么是动态加载的数据?(爬虫学习)举例,为什么使用selenium
·
以稀土掘金网站为例,

当我们写网络爬虫对https://juejin.cn/这个url发起请求时,即访问的下方这个名为juejin.cn的文件,对应的response一栏中,是我们能获取到的数据。

以网页上的“2022 首次更文挑战”的字段,在这个response中是不存在的。即使用requests访问上边的url是获取不到该数据的,该数据即为动态加载的。
点击search进行搜索,

可以找到该数据所在的url。
使用selenium可以获取到动态加载的数据,但是动态加载的数据是动态的,所以每一次访问返回的数据未必相同,但是会有。
更多推荐
所有评论(0)