← 返回 AI 赋能产业研究
蝶动洞察 · 数据采集 SOP 标杆案例

陕西·青海储能项目全量数据挖掘
招投标情报 + 备案在建清单构建 SOP

一套可复制的「产业项目库」数据采集方法论:从招投标数据 API、政府公示官网、PDF 结构化解析与多模态 OCR、到客户附件资料挖掘,系统化抓取两省储能项目全维度清单,并自动补全建设单位联系方式。本案例最终交付物为一套 15 个 Excel 成果文件 的储能产业项目数据库(总目录 + 招中标 2,079 条 + 备案在建 62 项 + 省平台备案全量 475 项等),覆盖两省储能全生命周期。

2,079
招中标公告(条)
62
2026+ 备案在建(条)
336
中标单位联系方式命中(家)
4
结构化工作表
01 / BACKGROUND

项目背景与目标

客户需要一份覆盖陕西、青海两省的储能产业「项目全景底账」——不仅要有招投标动态,还要有拟建备案、环评公示、以及 2026 年以后将集中开工的备案在建项目,并尽可能补齐建设单位的联系方式,用于招商线索挖掘与投资研判。

业务痛点

  • 储能项目分散在招投标平台、发改委公示、环评网站、企业公众号等多处,无统一底账
  • 官方清单多为图片型 PDF,无法直接复制结构化数据
  • 中标单位联系方式缺失,需逐家工商检索,人工成本极高
  • 2026 年起两省独立储能、抽蓄、光热等政策密集落地,项目爆发式增长,必须靠系统化抓取

交付目标

  • 全量招中标公告(含中标单位、金额、时间、采购人)
  • 拟建 / 备案项目清单
  • 环评公示清单
  • 2026 年及以后备案在建项目清单(规模 / 技术路线 / 投资 / 状态)
  • 每一类中标单位 / 建设单位的公开联系方式补全
  • 输出为可追溯、可续跑的 Excel 工作簿
02 / CHANNELS

爬虫抓取渠道(核心)

围绕「公开可得 + 结构化可得 + 多源互补」原则,搭建四条数据通道,覆盖项目从立项、公示、环评到中标的全生命周期。

🔌
渠道一 · 招投标数据 API
知了标讯等招投标情报平台提供的结构化 API,支持按关键词 / 地区 / 时间 / 公告类型检索。
用途:search_bids(招中标)、search_proposed_projects(拟建/备案)、search_company(企业工商)。按省+「储能/独立储能/抽蓄/光热/全钒液流」等关键词组合并行检索,再聚合去重。
🏛️
渠道二 · 政府公示官网
省发改委 / 能源局官网的项目公示、核准、容量电价公告页(如陕西省发改委第一批电网侧独立储能公示)。
用途:抓取权威项目清单(项目名称、建设地点、规模、建设单位、公示期)。官网正文多为文本,直接解析;若为图片 PDF 则进入渠道四。
🧾
渠道三 · PDF 结构化解析
研报、行业清单、项目速递等 PDF 文档,用 pdfplumber 抽取文本,按关键词(储能 / MW / MWh / 投资 / 开工建设)切片定位相关段落。
用途:从海量 PDF 中批量筛出含储能项目的段落,形成结构化候选清单,再人工 / LLM 抽取字段。
👁️
渠道四 · 多模态 OCR(图片 PDF 破解)
对官方图片型 PDF(如 15 个项目完整清单),用 PyMuPDF 逐页渲染为高分辨率 PNG,再调用多模态视觉模型识别表格文字。
用途:恢复「文本层为空」的官方清单,拿到准确的项目单位 / 建设地址 / 规模,这是纯文本解析做不到的关键补全。
📎 渠道五 · 客户附件资料挖掘(增量源)

客户提供的约 100 份 MD / PDF 资料(项目速递、投资清单、行业分析)作为高价值增量源:批量提取文本 → 关键词扫描储能段落 → 聚合去重,专门支撑「2026+ 备案在建」清单的构建。多源交叉验证可显著提升覆盖率与准确率。

03 / PIPELINE

抓取逻辑与处理流水线

从「广撒网检索」到「结构化入库」,全流程脚本化、可断点续跑,保证大规模数据不丢不重。

1多源并行检索按省 + 技术关键词组合,API / 官网 / PDF / 附件四路并发抓取
2聚合与去重按项目名 / 公告 ID 去重,合并多源命中,标注来源
3字段抽取从非结构化公告抽取规模 / 技术路线 / 投资额 / 状态
4多表联表招中标 / 拟建备案 / 环评公示 / 备案在建 分表归档
5联系方式补全中标 / 建设单位 → 工商检索 → 解析公开信息回填
6缺口标注交付不确定的字段留空,不编造,输出可追溯 Excel

联系方式补全逻辑(关键)

  • 以「中标单位 / 建设单位」名称为键,调用企业检索接口定位企业 ID 与详情页 URL
  • 解析公开工商档案:地址 / 邮箱 / 官网 / 法定代表人 / 注册资本(电话常缺失,按实标注)
  • 联合中标按「、,,」拆分,各主体联系方式用「|」拼接,保留可追溯性
  • 结果写入本地缓存(JSON),支持断点续跑 —— 中途中断后只补未查项

数据可信度策略

  • 每条数据标注来源渠道与抓取时间
  • 权威源(发改委公示)优先,标讯 / 附件作交叉印证
  • 推理估算与权威数据严格区分,拒绝「AI 幻觉」式填充
  • 无法核实的字段显式留空,而非猜测
04 / BREAKTHROUGH

关键问题与破解

实际抓取中遇到的三类硬骨头,以及对应的工程化解法。

① 内容详情付费墙

招投标平台的项目详情页多为登录墙(仅返回简短摘要),无法直接拿到联系方式。

解法:放弃逐条详情页,改用「企业检索接口 + 公司公开工商页」反查主体信息,绕开单条内容付费限制。

② 图片型 PDF 清单

官方第一批电网侧独立储能 15 个项目清单是扫描图片 PDF,pdfplumber 仅能抽极少文本。

解法:PyMuPDF 渲染为 2x PNG → 多模态视觉模型 OCR → 恢复完整 15 行表格(含项目单位 / 地址 / 规模)。

③ 联系方式大规模回填

700+ 家中标单位逐家人工检索不现实,且接口有频限。

解法:脚本化批量检索 + 正则解析 + 本地缓存断点续跑,一次跑完 407 行回填,命中率 50.4%。

05 / OPTIMIZATION

优化方向(可继续迭代)

本 SOP 已跑通闭环,下一步可从「速度、覆盖、智能、产品化」四个维度继续增强,直接转化为更高交付价值。

1

增量更新 SOP(常态化监测)

从「一次性抓取」升级为「定期增量刷新」,按周 / 月自动比对新增公告与项目,输出 diff 清单,适配招商 / 投研的持续跟踪需求。

2

LLM 字段自动抽取

用大模型直接从非结构化公告中结构化抽取「建设规模 / 技术路线 / 投资额 / 开工时间」,减少正则与人工规则维护成本,提升新省份迁移效率。

3

多源交叉校验与置信度评分

对同项目多源命中自动打分(官方 > 标讯 > 附件),输出置信度标签,让客户一眼识别「已核验」与「待核实」。

4

一手源扩展

接入知识星球、行业社群、企业官微等一手情报源,覆盖招投标平台尚未收录的早期拟建 / 签约项目,拉长项目发现链路。

5

可视化与产品化交付

在 Excel 底账之上叠加产业链图谱、地图散点(建设地点分布)、投资规模仪表盘,输出「表格 + 看板 + 报告」三位一体交付。

6

跨省份 / 跨行业模板化

将本案例的渠道配置、关键词库、字段映射抽象为模板,可一键复用到光伏、风电、低空经济、半导体等任意「项目型」行业。

06 / DELIVERABLES

研究成果详细清单

本项目最终交付的不是单一表格,而是一整套分层、可追溯的储能产业项目数据库:共 15 个 Excel 成果文件(含总目录 + 统计口径索引 + 数据来源说明),覆盖陕西、青海两省储能项目从招投标、拟建备案、环评公示、备案在建到重点项目与抽水蓄能专项的全生命周期。完整交付清单如下:

#成果文件规模内容说明
00总目录(先读我)1 份全库导航与阅读顺序指引,串联其余 14 个文件
01陕西青海储能招投标公告明细2,079 条2025–2026 两省储能招中标公告基础明细(项目名称 / 采购人 / 中标单位 / 金额 / 时间 / 地区 / 来源 等)
02陕西青海储能招中标公告全量(含联系方式)2,079 条在 01 基础上补全「中标单位联系方式」列(去重 667 家,命中 336 家,回填 407 行)
03陕西青海储能拟建备案项目6 项青海 6 个拟建 / 备案储能项目(建设地点 / 规模 / 建设单位 / 备案状态)
04陕西青海储能项目环评公示18 项两省储能项目环境影响评价公示(建设内容 / 环评机构 / 公示期)
05陕西青海储能备案在建项目清单(含联系方式)62 项2026 年及以后备案在建项目(陕 43 + 青 19),含技术路线 / 投资 / 状态 + 建设单位联系方式
06青海陕西储能备案在建项目清单(核验版)47 项对 05 的多源交叉核验版本,剔除重复与存疑项,提升置信度
07储能清单:统计口径与来源索引口径 11 + 来源 42各清单的统计口径定义(11 条)+ 数据来源索引(42 条),保证可追溯
08陕西省储能重点项目清单36 项2025–2026 陕西储能重点 / 省级重点项目(含抽蓄、独立储能、压缩空气等)
09青海省储能重点项目清单33 项2025–2026 青海储能重点项目(容量补偿、源网荷储、光热、抽蓄等)
10陕西青海抽水蓄能项目清单8 项专项清单:陕西 6 + 青海 2 抽水蓄能项目
11陕西省储能备案全量(省投资审批平台)436 项陕西省投资项目在线审批监管平台储能备案全量抓取
12青海省储能备案全量(省投资审批平台)39 项青海省投资项目在线审批监管平台储能备案全量抓取
13数据来源说明(重点清单与备案全量口径)13 条重点清单与备案全量两套数据的口径、来源与差异说明
142025 年陕西省储能备案项目清单263 项2025 年 1–12 月陕西省储能备案项目按月归集全量
📊 全库规模一览

招中标 2,079 条、拟建备案 6 项、环评公示 18 项、2026+ 备案在建 62 项(核验版 47 项)、重点清单 陕 36 + 青 33、抽蓄专项 8 项、省平台备案全量 陕 436 + 青 39、2025 陕西备案 263 项;配套 总目录、口径 / 来源索引、数据来源说明 3 份元文件。所有清单均按省、年份、技术路线、项目状态可交叉筛选。

📌 重点清单(政策密集落地,2026 集中开工)

陕西 2026 重点建设项目含 12 个储能(宁陕北 / 鱼岭 / 曹坪 / 佛坪 / 山阳 / 宝鸡大庄里抽蓄,陇县混合储能,合阳全钒液流 120MW/480MWh,志丹 200MW/600MWh,恒口混合储能调频,铜川耀州 350MW/1400MWh 压缩空气);青海 2026 西北重点项目含贵南哇让抽蓄(159.4 亿)、海西电网侧储能项目群(21 个项目 / 145.85 亿)、中广核高景源网荷储(700MW 光伏 + 200MW/400MWh 储能)等。

07 / REPLICABILITY

可复制性与适用客户

本案例的方法论不绑定储能行业 —— 它本质是一套「项目型行业全量底账构建 SOP」,可平移到任何需要系统化抓取项目 / 招投标 / 企业情报的场景。

适用行业

  • 新能源(光伏 / 风电 / 储能 / 氢能)
  • 低空经济(eVTOL / 无人机)
  • 半导体 / 集成电路
  • 环保 / 水务 / 基建
  • 任意有「立项—公示—中标」链条的行业

适用客户

  • 投资机构(标的发现 / 赛道扫描)
  • 政府招商部门(目标企业清单)
  • 设备 / EPC 厂商(商机线索)
  • 行业研究院(产业底账)
  • 咨询公司(尽调数据支撑)

可交付形态

  • Excel 项目底账(多工作表)
  • 定期增量监测报告
  • 产业链图谱 + 地图分布
  • 投资规模 / 竞争格局仪表盘
  • 定制化深度研究报告

需要一份属于你的「产业项目全量底账」?

无论是储能、光伏、低空经济还是其他项目型行业,我们都能用同一套数据采集 SOP,为你系统化抓取招投标、备案、公示、在建全量清单,并补全关键联系方式。告诉我你的省份、行业与时间范围,即可启动。

提交同类数据采集需求 查看 AI 赋能产业研究