Python爬虫入门教程03：二手房数据爬取

Python爬虫入门教程04：招聘信息爬取

PS：如有需要 Python学习资料 以及 解答 的小伙伴可以加点击下方链接自行获取

python免费学习资料以及群交流解答点击即可加入

基本开发环境💨

---

• Python 3.6

• Pycharm

相关模块的使用💨

---

• requests

• re

安装Python并添加到环境变量，pip安装需要的相关模块即可。

一、💥明确需求

---

找一个弹幕比较多的视频爬取

二、💥网页数据分析

---

以前的B站弹幕视频，点击查看历史的弹幕，会给你返回一个json数据，包含了所有的弹幕内容。

现在点击历史弹幕数据，同样是有数据加载出来，但是里面的都是乱码了。

请求这个链接还是会得到想要的数据内容。

只需要使用正则表达匹配中文字符就可以匹配出来

三、💥解析数据并多页爬取

---

弹幕分页是根据日期来的，当点击 2021-01-01 的使用，返回的给我的数据并不是弹幕数据，而是所有的日期。

那么看到这里有人就会问了，那我想要爬取 2021-01-01 的弹幕数据怎么办？

这两个的url地址是不一样的，seg.so 才是弹幕数据url地址。

import requests

import re

def get_response(html_url):

headers = {

‘cookie’: ‘你自己的cookie’,

‘origin’: ‘https://www.bilibili.com’,

‘referer’: ‘https://www.bilibili.com/video/BV19E41197Kc’,

‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’,

}

response = requests.get(url=html_url, headers=headers)

return response

def get_date(html_url):

response = get_response(html_url)

json_data = response.json()

date = json_data[‘data’]

print(date)

return date

if name == ‘main’:

one_url = ‘https://api.bilibili.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01’

get_date(one_url)

返回的数据是json数据，根据字典键值对取值就可以得到相关数据。

四、💥保存数据（数据持久化）

---

def main(html_url):

data = get_date(html_url)

for date in data:

url = f’https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}’

html_data = get_response(url).text

result = re.findall(“.?([\u4E00-\u9FA5]+).?”, html_data)

for i in result:

with open(‘B站弹幕.txt’, mode=‘a’, encoding=‘utf-8’) as f:

f.write(i)

f.write(‘\n’)

文末有福利领取哦~

👉一、Python所有方向的学习路线

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

👉二、Python必备开发工具

👉三、Python视频合集

观看零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉 四、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。（文末领读者福利）

👉五、Python练习题

检查学习结果。

👉六、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

👉因篇幅有限，仅展示部分资料，这份完整版的Python全套学习资料已经上传

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！