Python爬虫(约会吧全站图片爬取)

基础爬虫小案例:约会吧小姐姐照片,联系方式随手可得(附源码) 前言 百度贴吧是以兴趣主题聚合志同道合者的互动平台,同好网友聚集在这里交流话题、展示自我、结交朋友。贴吧中有的帖子当中有用户上传的图片,今天跟着老师把约会吧全吧的图片给爬取下来吧 预先清理磁盘哦~~ 本文亮点: 1、分析页面(静态or动态) 2、两层数据解析 3、海量图片数据保存 环境介绍: python 3.6 pycharm requests parsel(xpath) 爬虫的一般思路 1、确定爬取的url路径,headers参数 2、发送请求 -- request... 阅读详情

0x01 前言

大家好,我还是那个菜菜的Adminxe,依旧还是很菜,然后这几天也是准备深入爬虫,比如学习完,想要去爬一下小说网,或者是XX影片,或者是XX图书漫画,反正你懂的就行了,我是那个脑力小可爱-酷酷的菜!

今天准备给大家分享的是python爬虫之爬取百度贴吧(约会吧)全站图片,当然,不懂得自行搜索,我为啥要爬取这个贴吧,肯定不用想,那必然是妹子多,妹子多,才能福利大,有妹子,才能激发脑细胞,才能继续学习!

0x01 爬取效果

 

0x02 爬虫代码

#! /usr/bin/python3
# 约会吧全站图片爬取

import requests,parsel,os

page_num = 0
for page in range(0,57050 + 1, 50):
    page_num = +1
    print('===========================正在爬取第{}页图片==========================='.format(page_num))
    #爬虫的一般思路
    #1、分析目标网页,确定爬取的url路径,headers参数
    base_url = "https://tieba.baidu.com/f?ie=utf-8&kw=%E7%BA%A6%E4%BC%9A%E5%90%A7&fr=search&pn={}".format(page)
    headers = {'User-Agent': 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'}
    #2、发送请求 --requests 模拟浏览器发送请求,获取响应数据
    response = requests.get(url=base_url,headers=headers)
    html_str = response.text
    #print(html_str)

    #3、解析数据 --parsel 转化为Selector对象,Selector对象具有xpath的方法,能够对转化的数据进行处理
    # 转化数据类型
    html = parsel.Selector(html_str)
    #print(html)
    title_url = html.xpath('//div[@class="threadlist_title pull_left j_th_tit "]/a/@href').extract()
    #print(title_url)

    # 拼接完整的url地址
    for title in title_url:
        all_url = 'https://tieba.baidu.com' + title
        print('当前帖子连接:',all_url)
        # 继续发送帖子的请求
        response_2 = requests.get(url=all_url,headers=headers)
        html_img = response_2.text
        # 二次数据
        html2 = parsel.Selector(html_img)
        img_url = html2.xpath('//cc/div/img[@class="BDE_Image"]/@src').extract()
        #print(img_url)

        for img in img_url:
            img_data = requests.get(url=img,headers=headers).content
        # 4、保存数据
        #     file_name = img.split('/')[-1]
        #     with open('YUBimg\\' + file_name,mode='wb') as f:
        #         print('正在下载图片:',file_name)
        #         f.write(img_data)
        #         f.close()
            root = "D://pics//"
            file_name = img.split('/')[-1]
            path = root + file_name
            try:
                if not os.path.exists(root):
                    os.mkdir(root)
                if not os.path.exists(path):
                    with open(path,'wb') as f:
                        print('正在下载图片:',file_name)
                        f.write(img_data)
                        f.close()
            except:
                print("爬取失败!")

转载请注明:Adminxe's Blog » 密码保护:Python爬虫(约会吧全站图片爬取)

python带你们采集相亲网里的美女信息详情~ 嗨喽~大家好呀,这里是魔王呐!在前不久的七夕,相信你一定遭受了情侣的暴击 😭(俺也一样)出去逛逛街上必见一情侣,在家打打游戏叭,发现人家情侣双排的,哭惹~看看小说,偶然一看,评论区也有人秀恩爱(我决不承认我酸了~)于是,为了给广大网友一个福利,我毅然决然的决定爬取相亲网站(绝不是我想要)... 阅读详情

相关推荐

潇洒郎: python 简单安装、使用BeautifulSoup

python 简单安装、使用BeautifulSoup

潇洒郎的博客 547

Python爬取图片

爬取网站https://image.baidu.com/

lidiaosi的博客 2万+

TwinCAT3 主站动态配置 PDO 的实战技巧与性能优化

本文深入探讨了TwinCAT3主站动态配置PDO的实战技巧与性能优化策略。通过对比静态PDO的局限,阐述了动态配置在提升系统灵活性、降低网络负载和保障实时性方面的核心优势。文章提供了从环境准备、代码实现到错误排查的完整流程,并重点解析了PDO映射、SDO通道区别以及分布式时钟同步等关键概念,帮助工程师掌握EtherCAT网络性能调优的核心方法。

weixin_29213525的博客 344

爬虫入门经典(二十一) | 破解CSS加密之爬取大众点评

  大家好,我是不温卜火,是一名计算机学院大数据专业大三的学生,昵称来源于成语—不温不火,本意是希望自己性情温和。作为一名互联网行业的小白,博主写博客一方面是为了记录自己的学习过程,另一方面是总结自己所犯的错误希望能够帮助到很多和自己一样处于起步阶段的萌新。但由于水平有限,博客中难免会有一些错误出现,有纰漏之处恳请各位大佬不吝赐教!暂时只在csdn这一个平台进行更新,博客主页:https://buwenbuhuo.blog.csdn.net/。 PS:由于现在越来越多的人未经本人同意直接爬取博主本人.

不温卜火 8万+

Python爬虫实战:基于Scrapy和Playwright的深交所数据采集

本文将详细介绍如何使用Python最新技术栈(Scrapy框架结合Playwright浏览器自动化)爬取深圳证券交易所(www.szse.cn)的公开数据。文章包含完整项目搭建、反爬策略应对、数据解析存储等全流程实现,并附详细代码示例和性能优化建议。python复制下载# 上市公司基本信息# 财务数据revenue = scrapy.Field() # 营业收入net_profit = scrapy.Field() # 净利润eps = scrapy.Field() # 每股收益。

2201_76125261的博客 943

Spring AI从入门到精通:构建智能Spring应用的全面指南

随着人工智能技术的快速发展,将大语言模型(LLM)与企业应用集成已成为趋势。Spring AI作为Spring官方推出的AI集成框架,为开发者提供了便捷、标准化的方式来构建智能应用。本文将从基础概念到高级应用,全面介绍Spring AI的核心功能与实践技巧。Spring AI 是 VMware 于 2023 年推出的开源框架,旨在简化大语言模型(LLM)与 Spring 应用的集成。它提供了统一的 API 抽象,支持多种 LLM 供应商,包括 OpenAI、Azure OpenAI、Hugging Face

qq_36929638的博客 1062

Python应用开发——爬取网页图片

当我们需要从网页上面下载很多图片的时候,一个一个手动保存实在是太累人了。那么有没有批量下载的办法呢? 答案是有的,Python爬虫就可以完美的做到这一点,而且作为一个Python的初学者,我可以很负责任的告诉你,这门语言入门挺简单的,特别是对于那些有其他编程语言经验的人。

ShenZhen_zixian的博客 4万+

智能车图像处理19-进阶篇11--斜入十字补线

这篇文章主要讲述智能车竞赛中如何对于斜入十字进行补线操作。

taiyuezyh的博客 7430

大众点评评论爬虫:Dianping_Spider 快速入门指南

大众点评评论爬虫:Dianping_Spider 快速入门指南 dianping_spider大众点评爬虫(全站可爬,解决动态字体加密,非OCR)。持续更新项目地址:https://gitcode.com/gh_mirrors/di/dianping_spider 一、项目介绍 项目概述 Dianping_Spider 是一个专门用于从大众点评网站上抓取评论数据的爬虫项目。这个工具利用Pytho...

gitblog_00221的博客 2793

使用HART Server PC软件进行HART设备的组态、调试和分析的完整指南

HART协议是一种用于工业自动化中的双向通信协议,能够在4-20mA模拟信号的基础上叠加数字信号,从而实现设备的远程监控和管理。HART协议兼具模拟和数字通信的优点,被广泛应用于过程控制系统中。设备组态:通过软件可以对HART设备进行组态,配置设备参数。设备调试:支持设备的在线调试和故障诊断,方便快速解决问题。数据分析:提供设备运行数据的实时监控和历史数据分析功能。报表生成:支持生成各类报表,便于数据记录和管理。

qq_38334677的博客 2455

STM32G4 电机外设篇(三) TIM1 发波 和 ADC COMP DAC级联

STM32G4电机控制外设应用笔记摘要:本文详细介绍了TIM1高级定时器生成三对互补PWM波的配置方法(预分频器PSC=30000,重装载值ARR=10000),重点说明需断开电机连线避免干扰。通过STM32CubeMX配置TIM1通道4触发ADC采样,设置RCR分频参数,并给出Keil代码修改要点。第二部分探讨了TIM1、ADC、比较器和DAC的级联应用,包括电流采样触发时序(在PWM波峰值前采样)和过流保护机制。配置步骤包含DAC3作为比较器负输入端、设置Break触发封波保护,并附关键代码段实现外设联

qq_43091070的博客 1097

Python3 实现大众点评网酒店信息和酒店评论的网页爬取

Python3 实现大众点评网酒店信息和酒店评论的网页爬取概要本文根据已有的的”大众点评网”酒店主页的URL地址,自动抓取所需要的酒店的名称、图片、经纬度、酒店价格、星级评分、用户评论数量以及用户评论的用户ID、用户名字、评分、评论时间等,并且将爬取成功的内容存放到.txt文档中。本文是在博文http://blog.csdn.net/drdairen/article/details/51146961

LeiGaiceong的博客 1万+

jira的详细使用教程

​jira的详细使用教程,1,Jira- 是一款缺陷管理软件工具,用其进行缺陷的管理和跟踪。(是B/S架构的软件) 2,主要涉及的角色: 3,具体工作流 添加工作流 1.点击项目设置

计算机毕业论文源码,学生个人网页制作html源码。贴近用户做网络推广和互联网优化。 3289

爬虫01-爬取约会吧图片

import requests import parsel page_num = 1 for page in range(0,57000+1,50): print("==============正在爬取第{}页=========".format(page_num)) page_num+=1 # 1.分析目标网页,确定爬取到url路径, headers参数 base_url = "https://tieba.baidu.com/f?kw=%E7%BA%A6%E4%BC%9A&

qq_41458842的博客 215

DPABISurf使用教材

严老师的官方教程:http://rfmri.org/Course DPABISurf版本:dpabi50docker.tar.gz MATLAB版本:2018b 一、数据准备 (1)如果是数据的DICOM格式,整理成以下格式(注意文件夹的命名方式): 如果觉得不是很清楚,可以在官网下载Demo数据(http://rfmri.org/DemoData),参照里面的文件格式进行整理即可。 (2)如果数据是nii格式,整理成以下格式: 这里没有使用官网的demo数据进行学习,而是..

从事脑科学核磁共振方法学研究,在Nature communications等权威期刊发表研究论文,熟练掌握磁共振处理方法和统计学方法,欢迎大家和我交流。 8506

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

你还缺对象吗? 教你用Python仅需三步, 用爬虫捕获女孩的心

没错,这不是教你去爬几张gakki老婆的美照,而是很严肃认真正经的教你如何追女孩?   喜欢上一个女孩,怎么追到手当老婆?身为程序员,只需要三步: 第二步精确定位,找准目标 要追女孩,首先需要个女孩,然而作为一名尽职尽责的程序员,加班才使你快乐,所以命里注定你没有搬个小马扎往大街上一坐看妹纸的闲情逸致。 那么如何去寻找另一半?坊间有云:外事问谷歌,内事问百度,房事问天涯。此言不虚,...

Python达人 927

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

爬虫养成记--顺藤摸瓜回首掏(女生定制篇)

本文由图雀社区成员 灿若星空 写作而成,欢迎加入图雀社区,一起创作精彩的免费技术教程,予力编程行业发展。 如果您觉得我们写得还不错,记得 点赞 + 关注 + 评论 三连????????????,鼓励我们写出更好的教程???? 前情回顾 在上篇教程爬虫养成记——先跨进这个精彩的世界(女生定制篇)中我们已经可以将所有小哥哥的封面照片抓取下来,但仅仅是封面图片在质量和数量上怎么能满足小仙女们的要求呢?在本篇教程中,我...

crxk_的博客 1万+

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

男程序员学会爬虫后,第一个都在爬些什么?来了解一下

爬美女写真集?当然不是这么简单,这不是教你去爬几张gakki老婆照片那么简单,而是很严肃正经认真的教你办“正事”。当然很多人会去爬取美女写真集,今天教大家爬到心仪的女孩,怎么去追她。第一步精准地位,找准目标要追女孩,首先需要个女孩,然而作为一名尽职尽责的程序员,加班才使你快乐,所以命里注定你没有搬个小马扎往大街上一坐看妹纸的闲情逸致。那么如何去寻找另一半?坊间有云:外事问谷歌,内事问百度,房事问天...

weixin_34409703的博客 479

仅需三步,教你用爬虫捕获女孩的心

没错,这不是教你去爬几张gakki老婆的美照,而是很严肃认真正经的教你如何追女孩~ 喜欢上一个女孩,怎么追到手当老婆?身为程序员,只需要三步: 第二步 精确定位,找准目标 要追女孩,首先需要个女孩,然而作为一名尽职尽责的程序员,加班才使你快乐,所以命里注定你没有搬个小马扎往大街上一坐看妹纸的闲情逸致。 那么如何去寻找另一半?坊间有云:外

Python之禅 2289

午夜时分,当你看到选择心动秘书的游戏广告,能用Python做什么?

观前提醒,本期内容过于刺激,请未成年人在家长陪同下观看。 事情是这样子儿的 昨天晚上我在某网站上看韩剧,突然之间,播放窗口就弹出了一个这样的广告 好家伙,这广告, 绷着好奇心,我点进去看了看,我只是好奇,这是一个什么样的秘书 点进去的那一瞬间,小心脏无比的激动,经过链接的不断跳转 我来到了一个……小姐姐私房照网站! 算了,将就一下 将就一下:把图片扒下来 爬取目标: 网址:https://www.jdlingyu.com/tag/%e4%b8%9d%e8%a2%9c%e

前端仙人的博客 716

利用python预测交通拥堵_Python pyecharts 绘制的交通拥堵情况地图

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。以下文章来源于Python干货铺子 ,作者:不正经的kimol君前言就在今天,我感受到了来自堵车的深深恶意。没有错!我今天被堵在路上近乎3个小时,美好的约会就这样化为泡影了。我倒还真想看看这路到底能有多堵。于是,我爬取了各城市的拥堵数据,并将它们可视化:特别说明:由于数据具有实时性,画图时已经过了高...

weixin_30364109的博客 1734

python的库有哪些餐厅_Python告诉你上海有哪些高性价比的西餐厅

七夕节就要到了,我们用Python爬了下点评上所有上海的西餐厅,看看上海都有哪些高性价比的西餐厅。爬虫的原理不多说了,很简单,按行政区爬取每个区的西餐厅,存入数据库。餐厅综合评分在展现数据前,我们先介绍一下我们的餐厅综合评分。点评上对每家餐厅的评分有口味、环境和服务三项,如下我们综合这三项算出一个评分,作为对这家餐厅的综合评分,计算公式如下餐厅数据分析我们共爬取了5000多家西餐厅,西餐厅的人均消...

weixin_39732534的博客 316

2020-11-18

前言 就在今天,我感受到了来自堵车的深深恶意。没有错!我今天被堵在路上近乎3个小时,美好的约会就这样化为泡影了。 PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取 python免费学习资料以及群交流解答点击即可加入 点击添加图片描述(最多60个字)编辑 我倒还真想看看这路到底能有多堵。于是,我爬取了各城市的拥堵数据,并将它们可视化: 点击添加图片描述(最多60个字)编辑 特别说明:由于数据具有实时性,画图时已经过了高峰期,于是图上一片绿油油也并不奇怪。 有感兴..

pythonlaodi的博客 456

python pyecharts 合并地图_Python pyecharts 绘制的交通拥堵情况地图

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。以下文章来源于Python干货铺子 ,作者:不正经的kimol君 前言就在今天,我感受到了来自堵车的深深恶意。没有错!我今天被堵在路上近乎3个小时,美好的约会就这样化为泡影了。 我倒还真想看看这路到底能有多堵。于是,我爬取了各城市的拥堵数据,并将它们可视化: 特别说明:由于数据具有实时性,画图时已经...

weixin_39699070的博客 899
上一篇: CVE-2020-0796 SMB远程代码执行漏洞 分析、验证及加固
下一篇: Apache开启SSI,文件上传Getshell复现
Adminxe
博客等级 码龄10年 1万+粉丝 130原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Adminxe

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值