最近,《青春有你2》开播,隔几天就上一次热搜,到了几乎全民讨论的地步。其中许多的选手不论是美貌还是才艺都十分出彩。
追星的你可能很难把所有人的信息都全部了解,更是难以搜集欣赏所有漂亮小姐姐美丽的相片。
那么接下来我将告诉你如何一键get《青你2》中所有小姐姐的信息和照片!
使用工具:
为了获取大量的互联网数据,我们自然想到使用爬虫代替我们完成这些重复的工作。
爬虫的过程,就是模仿浏览器的行为,往目标站点发送请求,接收服务器的响应数据,提取需要的信息,并进行保存的过程。
Python为爬虫的实现提供了工具:requests模块、BeautifulSoup库。
接下来我们就会使用这些工具来获取我们想要的信息。
本次实践使用Python来爬取百度百科中《青春有你2》所有参赛选手的信息。
数据获取:青春有你 第二季 百度百科
打开浏览器 --> 往目标站点发送请求 --> 接收响应数据 --> 渲染到页面上。
模拟浏览器 --> 往目标站点发送请求 --> 接收响应数据 --> 提取有用的数据 --> 保存到本地/数据库。
1.发送请求(requests模块)
2.获取响应数据(服务器返回)
3.解析并提取数据(BeautifulSoup查找或者re正则)
4.保存数据
requests是python实现的简单易用的HTTP库,官网地址:
Requests: 让 HTTP 服务人类
requests.get(url)可以发送一个http get请求,返回服务器响应内容。
BeautifulSoup 是一个可以从HTML或XML文件中提取数据的Python库。网址:
Beautiful Soup 4.4.0 文档
BeautifulSoup支持Python标准库中的HTML解析器,还支持一些第三方的解析器,其中一个是 lxml。
BeautifulSoup(markup,"html.parser")或者BeautifulSoup(markup, "lxml"),推荐使用lxml作为解析器,因为效率更高。
具体来说,这一步是爬取百度百科中《青春有你2》中所有参赛选手信息,返回页面数据
也就是将如图的多有参赛学员信息爬取并返回。
示例代码:
对爬取的页面数据进行解析,并保存为JSON文件。
那么我们在这一步就可以获得如图所有人的具体信息了~~
示例代码:
成功运行之后保存的json部分截图
爬取每个选手的图片,并进行保存。
这一步我们就可以获得所有小姐姐的美照了。一共下载482张照片。
具体的思路是从上一步得到的个人信息中进入每个人的百度百科,然后再进入相册,下载照片并保存。
为了方便检验代码正确性和调试,此处将爬取链接和下载图片分开
代码运行成功后结果的部分截图:
使用paddlehub中的模型,简单便捷的帮小姐姐去除背景。
结果如下:
主程序。
看着满屏的成功和新增的文件夹,成就感油然而生。
本期内容到此结束,下一期我们分享数据分析和数据可视化。
此处添加AIStudio的项目地址:
原文链接: