liuzengyu/srbg-four-pillars-edu-crawler.git
content_body_hash (UNIQUE) · 重复爬取若正文哈希不变,仅更新 PG last_updated_at (更新时间),first_crawled_at (初抓时间) 100% 锁死不变,JSONL 零重复追加!
| 教育支柱标识 | PG17 唯一记录数 | 平均纯度得分 | 最低得分 | 复爬更新核验数 | 总字符规模 |
|---|
| 文档 ID / 标题 | 正文 Hash (恒定不变) | 原始载荷 Hash (随表头变) | 初抓时间 (锁死不变) | 更新时间 (刷新) | 命中次数 |
|---|
| 批次编号 (Batch ID) | 运行模式 | 扫描数 | 新增入库 | 正文未变仅更新时间戳 | 低纯度拦截(<0.70) | 304短路 | 平均纯度 |
|---|
| 编号 | 最佳实践名称 | HP 生产实装机制与核验状态 |
|---|
| 文档 ID | 所属支柱 | 标题摘要 | 纯度分 | 正文 Hash (content_body_hash) | 初抓时间 (first_crawled_at) | 更新时间 (last_updated_at) | 复爬次数 |
|---|