【实战】Python 爬虫爬取新浪财经盈利能力数据(多 Sheet Excel + 分页爬取 + 数据统计)

爬虫(二):新浪财经爬虫(获取文本信息) 新浪财经爬虫(获取文本信息) BiuBiu,接上一篇文章,这一次,我并没有用东方财富网站,而是新浪财经网,当然,也是因为个人需要啦。但是我看了一下,大差不差,只要看懂那些div,就能够爬取。 首先给大家看一下需求:获取新浪财经网上公司研究的研究报告整篇文章,如下图: (按照我上一篇文章,只能做到获取这页的相关信息,但是不能获取里面的具体内容) 当然,也是看了几个爬虫视频过来的,然后按照自己的理解加上调试,搞出来的 ... 阅读详情

一、前言

在金融数据分析场景中,新浪财经的上市公司盈利能力数据是行业研究、投资分析的重要数据源。本文将从需求拆解→技术选型→浏览器分析→代码实现→结果验证 全流程,讲解如何用 Python 爬取新浪财经 2024 年度第四季度各行业盈利能力数据,并生成包含多行业 Sheet 和统计总结 Sheet 的 Excel 文件,帮助大家掌握实战爬虫开发的核心思路和避坑技巧。

二、需求分析

本次爬虫开发的核心需求可拆解为以下 5 个核心目标,覆盖 “数据采集→数据清洗→数据输出” 全链路:

需求阶段 具体要求 核心目标
数据采集(行业列表) 访问指定 URL,提取select标签name="s_i"的选项值 + 文本,组成行业键值对 获取所有待爬取的行业维度
数据采集(分页识别) 基于行业参数,解析分页标签(class=pages)获取总页码数 确保爬取行业全部数据,无遗漏
数据采集(多页数据) 按指定 URL 格式(行业 + 年份 + 季度 + 页码)爬取所有页面源码(编码 gbk) 完整获取单行业全量数据
数据清洗 用 pandas 提取 id=dataTable 的表格,股票代码补零至 6 位 保证数据格式规范、可用
数据输出 各行业数据写入 Excel 不同 Sheet,新增 “总结” Sheet 统计核心指标(公司数、营收总计、净利润总计、ROE 均值) 输出结构化、可分析的最终数据

核心约束:

  • 编码必须适配新浪财经的gbk格式,否则会出现乱码;
  • Excel Sheet 名长度限制(最大 31 字符);
  • 需适配分页标签无 “共 X 页”、仅展示 “上一页 / 数字 / 下一页” 的场景。

三、浏览器开发工具实操(关键!)

爬取前需通过浏览器开发者工具分析目标网页结构,这是爬虫开发的核心前置步骤,以 Edge为例:

步骤 1:分析行业列表(name=s_i 的 select 标签)

  1. 打开目标 URL:https://vip.stock.finance.sina.com.cn/q/go.php/vFinanceAnalyze/kind/profit/index.phtml;
  2. 按CTL+Shift+I打开开发者工具,切换到「Elements」标签;
  3. 按Ctrl+F搜索<
python爬虫:利用Selenium库来爬取新浪财经股票信息 ( 这里chromedriver最新版是 114.0.5735.90,版本太低,并且它只包含win32的版本,和我自己电脑上的谷歌浏览器版本不一样,在后续使用的时候会出现问题,详情见后面)【Win+R】→输入cmd→按【Enter】键→输入”where python”→按【Enter】键。这个链接包含最新的google浏览器模拟器下载链接,我版本不匹配和win64版本的要求。我又重新下载了,版本正确的模拟浏览器,问题才得以解决。遇到的问题:模拟浏览器的版本不匹配。 阅读详情

相关推荐

某招聘网站“数据分析”相关岗位招聘信息爬取并分析

确定目标 简单分析数据分析相关岗位的薪酬状况及技能要求; 尝试数据分析从数据获取到数据分析报告撰写的整个数据分析流程,学习爬虫、数据清洗、数据分析相关技巧。 数据获取 获取的岗位数据来源于某招聘网站,采取爬虫的方式获取,岗位搜索的关键词为:“数据分析”,爬取的信息包括:岗位名称,城市,薪酬,学历要求,经验要求,岗位描述/职责,分五次爬取,爬取了北京、上海、广州、深圳、南京五个城市的岗位数据共...

JinSheng 1万+

Python从零到实战:系统学习路径与爬虫数据分析项目指南

编程语言作为人机交互的核心工具,其设计哲学直接影响开发效率与应用广度。Python凭借简洁的语法结构和动态类型特性,降低了编程的入门门槛,同时通过丰富的标准库和第三方生态,实现了从脚本编写到大型系统开发的全面覆盖。在数据处理领域,Python通过Pandas、NumPy等库提供了高效的数据结构和计算能力,结合Matplotlib、Seaborn等可视化工具,形成了完整的数据分析技术栈。这种技术组合的价值在于能够将原始数据转化为直观洞察,支撑业务决策和自动化流程。典型的应用场景包括市场趋势分析、用户行为研究和

weixin_30372371的博客 354

Python 爬虫数据处理:爬取数据统计报表自动生成

规模化 Python 爬虫长期运行过程中,采集总量、每日增量、失败请求、重复数据、异常接口、存储占用、爬取耗时等核心指标,是爬虫运维、任务调度、策略优化、成本管控的核心参考依据。传统人工统计日志、手动汇总数据的方式效率低下、误差较大、无法实时监控爬虫运行状态,难以适配 7×24 小时不间断采集的工程化爬虫业务。依托程序自动化生成标准化统计报表,可实现爬虫数据指标可视化汇总、运行状态实时研判、异常问题提前预警、历史数据追溯分析,全面提升爬虫项目运维效率与数据治理能力。

2503_91057718的博客 392

新浪财经24小时python爬虫程序(内置企业微信机械人推送功能)

新浪财经24小时python爬虫程序,内置自动推送到企业微信的群机械人的功能。适合微信企业群使用。爬虫仅供个人学习研究python使用,请勿使用于商业或非法用途。

【Unity3D】RTS Engine 笔记一

RTS Engine 中配置一个新场景, 初步认识GameManager、设置地形以及配置地形网格搜索

ViYeye的博客 1636

PyTorch复现EEG-TCNet踩坑记:从BCI IV2a数据到TCN块缺失的完整解决方案

本文详细解析了使用PyTorch复现EEG-TCNet模型的全过程,重点解决了BCI IV2a数据集预处理和TCN模块缺失的技术难题。通过标准化数据流程、跨受试者验证策略以及三种因果卷积实现方案,为运动想象分类任务提供完整解决方案,帮助研究者高效实现模型复现与优化。

weixin_30699955的博客 315

自定义css属性实现渐变边框动画

自定义cs属性实现渐变边框动画

lemon的博客 1872

NDIAurora 6D、5D传感器裸线焊接与烧录 6D传感器型号:10001742;5D传感器型号:610157

NDI Aurora 6D、5D传感器裸线焊接与烧录

yanghong2000719的博客 1196

(14-3)值分布式算法:QR-DQN (Quantile Regression DQN)算法

QR-DQN(Quantile Regression DQN)是一种强化学习算法,它是深度 Q-网络(Deep Q-Network,DQN)的一个变种,旨在更好地处理值函数的不确定性。QR-DQN的实现步骤与传统的DQN类似,但在目标分布计算和损失函数方面有一些不同之处,这使得它能够更好地处理值函数的不确定性。QR-DQN(Quantile Regression DQN)算法的核心思想是将值函数表示为一个分布,而不是传统的单一值估计。在下面的内容中,将讲解一个使用QR-DQN算法的例子。

码农三叔 2044

FOC 电流采样方案对比(单电阻/双电阻/三电阻)

电流采样的作用 在FOC算法中,电流采样在反馈环节是相当重要的一部分,通常交流三相同步电机在进行坐标变换的时候,需要实时测量相电流,最终通过SVPWM实现电机转子磁场和定子磁场的同步转动,那么这里有三种方案,单电阻采样,双电阻采样,三电阻采样。本文参考ST的单电阻和三电阻采样以及TI的双电阻采样,结合实际中可能需要注意的地方进行总结分析。 单电阻采样 双电阻采样 三电阻采样 ...

一名热爱技术的工程师的博客。分享技术干货,记录美好生活。永远相信美好的事情即将发生。 4万+

DSP篇--C6678功能调试系列之SPI调试

SPI传输数据分为线上直接收发和通过EDMA的数据传输两种。第一种是直接将数据放在线上(SPIDAT1),在寄存器(SPIBUF)中写入命令实现数据的收发;第二种需要配置EDMA,将数据buffer直接作为EDMA的数据源进行传输,其需要配置的参数和中断与EDMA一致。

nanke_yh的博客 1253

开发simulink 以及stm32半物理仿真碰到的问题,以及处理方法,Error:External Mode Open Protocol Connect command failed(实测有用)

串口实现的,但是在测试的时候发现,这个串口可以正常发送和接收数据,但是一旦把这个串口只让其进行版物理仿真就报错。直接刷写程序是可以的,最后查到问题了。我要实现半物理仿真,就是通过matlab实现可以直接控制stm32板子,实际上是通过xcp on。然后点击simulink上的观测按钮就可以直接和stm32平台进行通讯了。3,还是使用串口3,但是重新需要设置一下com口,因为重新插拔了一下,按照这个设置方法就可以。2,重新加载ioc文件。

pvmsmfchcs的博客 1491

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

上一篇: 基于selemium模块的数据爬虫运行环境配置手册(定制版本)
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值