01 · START HERE
地址与入口
| 入口 | 地址 | 用途 |
|---|---|---|
| 正式门户 | energy.w2764362942.com | 登录、查询、采集、导出与来源管理 |
| 数据服务 | https://test.w2764362942.com | 后端 API,不是网站首页 |
| 健康检查 | /health | 检查 API、数据库与调度器 |
| Swagger | /docs | 开发人员查看公开接口 |
| 管理页 | /admin/sources | 管理员维护数据源 |
02 · ACCOUNT
账号、登录与权限
门户优先使用 Authing 托管登录。使用手机号和短信验证码完成身份验证后,平台按角色开放功能。
| 角色 | 查询 | 采集 | 导出 | 管理来源 |
|---|---|---|---|---|
viewer | 可以 | 不可以 | 不可以 | 不可以 |
operator | 可以 | 可以 | 可以 | 不可以 |
admin | 可以 | 可以 | 可以 | 可以 |
- 打开正式门户,选择“获取短信验证码并登录”。
- 在 Authing 页面完成验证并返回门户。
- 在页面顶部确认账号和角色。
- 出现“账号等待授权”时,联系管理员分配角色;不要发送密码或验证码。
过渡环境可能仍显示页面访问码。访问码仅用于回退,不等于个人账号,也不应公开。
03 · READ DATA
查询数据库中的现有数据
先从“数据目录”找到准确 ID
- 在首页找到“只读数据 API”。
- 选择“数据目录”,将返回条数设为 100。
- 发送查询并复制需要的
source_id。 - 再切换到“指标数据”或“文档元数据”。
- 填写 ID、开始日期、结束日期和返回条数。
nbs_energy_production_monthly2025-01-01 至 2025-12-31nea_electricity_consumption2025-01-01 至 2025-12-31eia_natural_gas_prices2025-01-01 至 2025-03-31nea_policy_web2026-07-01 至 2026-07-31查询为零时
切换到“覆盖统计”,核对该来源的记录数、最早日期和最晚日期。零记录不等于故障,也可能是日期不在覆盖范围或上游尚未发布。
04 · COLLECT
发起采集任务
- 使用
operator或admin账号登录。 - 展开“采集任务”,写清能源主题和完整日期。
- 需要精确控制时,展开“指定数据源”并勾选来源。
- 提交任务后保持页面打开,等待全部子任务完成。
- 记录
run_id,核对发现、新增、跳过和失败数量。
可以直接复制的要求
采集2025年1月1日至2025年3月31日的国家统计局月度能源生产数据。
采集2025年全年的国家能源局全社会用电量。
采集2025年第一季度的天然气价格和库存数据。
采集2026年7月1日至2026年7月31日的国家能源局政策元数据。| 计数 | 解释 |
|---|---|
discovered | 从上游识别出的记录 |
inserted | 新写入数据库的记录 |
updated | 获准更新的已有记录 |
skipped | 重复或不满足写入条件而跳过 |
failed | 处理失败的记录 |
05 · LONG RANGE
长时间范围和分批采集
门户可以采集超过 31 天的正式数据。较长范围会按最多 30 天拆分;选择多个来源时,每个来源会得到独立子任务。
- 新数据源预览验证:最多 31 天,且不入库。
- 单个后端正式请求:默认最多 90 天。
- 门户长任务:主动拆成最多 30 天的小窗口。
多年回填建议按年、季度或月执行。保存每一批的 run_id,只重试失败窗口。
06 · DELIVERY
生成并下载标准化数据包
- 展开“标准化数据交付”。
- 选择“数据库现有数据”或“本次任务数据”。
- 检索并勾选来源,设置开始和结束日期。
- 点击“生成标准化数据包”。
- 显示“数据包已就绪”后下载 ZIP。
网页数据包主要包含标准化 CSV 和清单,不包含原始网页、原始响应、内部配置、密钥、分析结论或摘要。下载通常在 24 小时内有效。
07 · FIND SOURCES
模糊搜索和选择数据源
在数据库导出区,可以输入来源机构、来源网站、主题或精确 ID。多个关键词用空格分开,并按“同时满足”处理。
| 输入 | 可扩展匹配 |
|---|---|
| 石油 | 原油、油气、化石能源、petroleum、oil |
| 天然气 | 燃气、气价、用气、natural gas |
| 电力 | 电价、用电、发电、售电、electricity、power |
| 新能源 | 清洁能源、可再生能源、替代燃料 |
例如输入“国家能源局 政策”,会比只输入“政策”更精确。界面仍会保留原始数据源 ID,复制时不要翻译或改名。
08 · SOURCE ADMIN
管理员添加网站、RSS 或 API
- 进入“数据源管理”,点击“新建草稿”。
- 填写不可变 ID、包含来源机构的显示名称、类型、类别、官方 URL 和频率。
- 填写精确域名白名单和声明式 JSON 配置,然后保存。
- 选择不超过 31 天且已知有数据的范围,运行预览验证。
- 核对识别条数、字段和“未写入数据库”的提示。
- 检查许可、频率和操作审计,再审批并启用。
- 首次正式采集小范围,并用覆盖统计复核。
JSON API 草稿结构
{
"source_id": "demo_oil_price",
"source_name": "示例能源机构 - 原油价格",
"source_type": "api",
"category": "oil",
"entry_url": "https://api.example.org/energy/prices",
"frequency": "daily",
"parser_name": "generic_api",
"allowed_domains": ["api.example.org"],
"config": {
"base_url": "https://api.example.org/energy/prices",
"query_params": {"start": "{start_date}", "end": "{end_date}"},
"items_path": "items",
"field_mapping": {
"metric_name": "name", "region": "region",
"period": "date", "value": "value", "unit": "unit"
},
"data_format": "json",
"record_frequency": "daily"
}
}example.org 仅用于说明,不能直接审批。配置中禁止填写真实密钥、Cookie、Authorization、命令、脚本、通配域名或私网地址。
09 · DEVELOPERS
数据 API 与 Swagger
Swagger 用于查看公开 API 的路径、参数和响应结构。它不是数据展示网站,管理接口也故意不出现在其中。
| 接口 | 用途 |
|---|---|
GET /v1/energy/data/catalog | 共享数据源目录 |
GET /v1/energy/data/metrics | 标准化指标 |
GET /v1/energy/data/documents | 文档元数据 |
GET /v1/energy/data/statistics | 覆盖统计 |
curl -sS -G \
'https://test.w2764362942.com/v1/energy/data/metrics' \
-H 'X-Data-API-Key: YOUR_DATA_API_KEY' \
--data-urlencode 'source_id=nbs_energy_production_monthly' \
--data-urlencode 'start_date=2025-01-01' \
--data-urlencode 'end_date=2025-12-31' \
--data-urlencode 'limit=100' \
--data-urlencode 'offset=0'YOUR_DATA_API_KEY 是占位符。真实密钥必须通过环境变量或秘密管理服务提供,不能提交到代码仓库。
10 · OPENCLAW
OpenClaw 使用方法
OpenClaw 使用自然语言调用固定工具,只访问已批准目录,不会临时运行命令或访问任意网址。
查找与“石油”有关的已批准数据源,列出中文名称、来源网站、source_id、类型和更新频率,不要分析数据。
查询 nbs_energy_production_monthly 在 2025-01-01 到 2025-12-31 的标准化指标,返回日期、值、单位、来源网址、发布时间和采集时间。
查看 nea_electricity_consumption 的记录总数、最早日期和最晚日期,不做趋势判断。11 · DATA MEANING
字段和时间含义
| 字段 | 含义 |
|---|---|
period | 数据实际描述的日期或周期 |
published_at | 来源机构公布数据的时间 |
collected_at | 本系统取得记录的时间 |
raw_value / raw_unit | 上游原始值和单位 |
value / unit | 标准化值和单位 |
source_url | 官方出处链接 |
做预测模型时必须按当时已经发布的数据构造样本,避免未来信息泄露。比较数据前还要核对地区、频率、统计口径和单位。
12 · TROUBLESHOOTING
常见错误处理
API 根地址返回 404
正常。请打开 /health、/docs 或具体 API 路径。
账号等待授权或提示没有权限
核对页面顶部角色。viewer 不能采集或导出,未授权账号需要管理员分配角色。
查询返回零条记录
先查实时目录和覆盖统计,再核对 ID、日期、类型以及上游发布时间。
HTTP 401 / 403 / 422
401 通常是服务密钥问题;403 通常是角色或访问限制;422 通常是日期、范围、分页、ID 或来源状态不符合要求。
source preview failed
依次检查后端能否访问 URL、精确域名白名单、重定向、凭据环境变量、JSON 路径或 CSS 选择器、响应大小和 31 天日期范围。
采集有发现记录但新增为零
检查 skipped,数据可能已经存在;也可能是上游尚未发布目标日期数据。
13 · GUARDRAILS
安全与合规边界
- 不在聊天、截图、Git、网页代码或终端历史中写真实密钥。
- 后端密钥只保存在服务器或 Cloudflare Secrets,浏览器只访问固定门户路由。
- 不把 PostgreSQL、内部采集接口或 OpenClaw Gateway 暴露到公网。
- 不允许用户提交任意 URL、工具名、命令或请求头。
- 不绕过登录、验证码、付费墙、robots.txt 或反爬限制。
- 新闻对外只共享元数据;平台输出数据,不输出预测或决策结论。