智迹闻 AuraTracer · 科技新闻事件追踪引擎
独立开发 | 开源 | 在线运行问题
同一科技事件分散在多家媒体,读者需要反复搜索与核对。
我的贡献
独立设计、开发并上线,从异构采集到事件聚合、可视化与增量发布。
结果
形成可溯源的事件页与时间线,以自动化测试保障持续运行。
X 通道覆盖 319 个账号(2 RPS)
跨中英文、含历史回溯
实体词典 3.4 万条
初筛标注集准确率 84%,80% 为 CI 通过线
Trace the signal. See the whole story.
全链路架构:分级采集 → 六段式混合推理 → 静态站增量发布 → 无人值守运维
采集按信源产量分级调度:热榜每 30 分钟一轮,其余按近 7 日产量分 10 分钟至 6 小时;站点结构各异且部分有强风控,统一封装 RSS / HTML / JSON / sitemap / 热榜五类适配器,并逐个处理反爬、编码与发布时间格式差异。标准轮约 5–7 分钟,无新数据时只做热度与建站,另有 6 小时一轮的去重调和消化积压;自研运营 agent 常驻巡检,信源增删改走治理提案队列。
六段式混合推理管线
逐条相关性初筛
云端 Spark-X2.5-4B 关闭思考模式,单条约 2 秒;强制逐条(batch=1)避免批量 JSON 协议把边界相关性判反,三级解析容错保证 JSON 稳定可解析。100 条人工标注集准确率 84%;被内容审核拦截时按 gpt-oss-120b → qwen3.8-27b → Qwen3.5-4B 三层兜底链逐层重发。
跨语言同事件聚类
词面强合并 + 多语言向量 + 灰区 LLM 裁决三级策略,实体别名归一(「美联储」=「Federal Reserve」)。阈值按实测空带划分,防止「同一公司、不同事件」误并。
倒金字塔忠实摘要
不超过 300 字,只用原文事实、逐句可溯源;公开层标注「由 AI 生成」。正文若补抓仅用于本地初筛与摘要,永不进入模板、API 或静态站。
事件框架化
把多篇报道整合为结构化框架:事件性质、当前状态、关键数字卡组与按时间分层的阶段叙事;同日多篇报道合并为一个阶段,无 LLM 时确定性按日聚合兜底。
云端双语翻译与兜底
云端接入 xf-yun MaaS 混元 Hy-MT2-7B,配置 Gemini / Azure 多层自动兜底链;标题 / 摘要 / 事件框架字段全量双语入库,保障全天候吞吐与高质量译文;英文站配置保留,当前发布中文站。
热度计算与二次去重
多信源交叉权重与时效衰减计算热度,站外热榜命中计入信号;合成后第二遍事件级去重跨包合并同事件,保留顺序确定性,旧事件页链接不 404。
工程质量、可视化与合规
纯静态站 + 手写 SVG 可视化
Jinja2 生成首页 / 热榜 / 时间线 / 洞察 / 分类 / 检索 / 关于与数千事件页。全部图表为手写 SVG,零 CDN 图表库:报道柱、构成环、词移发散、分类×日期热力下钻、阶段轨道。洞察页按叙事序组织,每图带口径条。
增量发布与静默运维
发布只推送改动过的文件,并同步删除远端已下线的页面。Windows 登录计划任务静默拉起采集、翻译、看门狗与本机监控站,密钥只进进程环境,不进命令行、日志、仓库与静态站。
异构信源适配
统一封装 RSS / HTML 列表 / JSON / sitemap / 热榜五类适配器,逐个适配 TLS 指纹拦截、UA 黑名单、JS 壳页、GB2312、锚文本时间戳与 URL 内嵌日期;直连受限的 FT / The Information / 36氪 改走公开 Google News RSS 只取标题流。
合规边界写进产品
公开站只呈现标题、机器摘要、原文链接与信源署名,不转载正文、不绕过付费墙登录;付费媒体只取标题流,正文补抓仅供本地初筛与摘要。信源明细与方法口径不下放公开站。
无人值守运维:运营 agent 常驻巡检 + 信源治理(2026-09 上线,规则优先、LLM 仅叙述)
ops_agent 常驻巡检
12 个只读传感器覆盖本机进程 / 端口 / 日志与数据质量、公网与 SSH 白名单远端探针,四态状态机(ok / warn / unknown / idle);远程探针首次失败降级 unknown,连续失败才告警,防网络抖动误报。已连续巡检 6,838 轮。
规则引擎 + gated act
YAML 规则按真实分布校准阈值(失败信源中位 4 / p90≈8),streak≥2 连续命中防抖;命中动作经白名单解释器与既有脚本结构校验,观察期内仅记录不执行,每条动作在审计库留存 before 快照(runs / results / acts,WAL)。
source_governor 信源治理
按入选 / 删除 / 间隔调整 / D1-D3 试采 / 停用恢复规则生成治理提案,人工 apply 才改 packs 配置;写入前保存原始字节、YAML 字节级最小变换(保留注释与顺序),可逐字节回滚,上线以来零自动变更。
规范事件层与发布运维(2026-10 新增,采集器仍是原始数据唯一写入者)
规范事件层 v2
独立保存「公开事件身份 + 证据」,原始聚类怎么变,公开页的事件 ID 与历史页都保持稳定。现有 31,731 个规范事件、66,467 个内容版本、35,484 条事件—报道证据关联;人工复核规则按主体 / 产品 / 动作 / 阶段 / 时间定义事实键并附官方原文链接,671 条归并裁决中 116 条把同一产品的不同阶段拆开,36 个已确认别名让旧链接继续指向新事件。
正文补全与事件增强
可追溯的正文修复队列:worker 只产出补丁,由 watch 单点写库,已完成 54,538 个任务,其余按正文过短、访问受限、非文章等原因分类留档;事件增强与内容版本绑定,2,103 个事件中 2,101 个就绪。
发布产物自动保留与回收
只保留本地当前、线上成功、最后交付与正在发布等仍被引用的版本;无引用产物静置 15 分钟后回收,且只有公网核对与本地构建一致时才回收。原始新闻库、规范事件、账本、模型与凭据不在删除范围,每轮最多 12 个目标、30 秒预算。
另有只监听本机回环地址的运维控制台,经 SSH 调用服务器白名单操作(目录、日志、快照、预检、提交、取消);模型调用只走白名单内已批准的生产路由。
线上站点实测截图(2026-09-13)
桌面 1440px 全页截图,数据为 2026-09-13 22:52(Asia/Shanghai)构建版本:7 日窗 4,464 事件 / 5,697 条报道 / 120 个活跃信源。当前导航为热榜 / 时间线 / 洞察 / 分类 / 检索 / 关于;原信源目录页与收藏页已下线。
search.json,在浏览器内完成标题与摘要的全文匹配,结果直达事件页,无服务端参与。
移动端(390px)