不是所有数据都该进同一个库:日志要毫秒检索、台账要事务、心跳用完即弃、大文件压给对象存储。本页讲存储选型背后的匹配逻辑:数据特征 ↔ 存储特性,以及 StarRocks 存算分离为什么把成本和弹性一起解决。
全链路七跳,本页覆盖第六、七跳:终端 Agent → envoy mTLS → audit-gateway → Kafka → Flink ETL → std topic → StarRocks 落库(本页)。同时盘点全系统的存储版图:日志主存、业务台账、对象存储、小数据配额——各就各位。
三十句确定性短句,分四组:分工总览、存算分离、小数据与观测、选型理由。
三张图:存储地图(可点击六存储)、存算分离分层示意、数据分流决策树。
数据分拣器:六类数据各投一个存储,答对亮绿、答错讲为什么;全对点亮徽章。加六题自测。
六镜头「归位」:洪流到站、六层货架、计算与存储分家、配额到期、冷热分离思考、收尾。成片已交付 · 01:33。
主角:StarRocks(3FE+3BE)领衔的存储版图
一句话:每一类数据都有它的位置。
三个数字:3FE+3BE · MinIO 4 节点 · 双层配额。
解决两件事:检索快(列存毫秒查)· 成本低(冷数据压对象存储)。
Flink 产出 std topic → 批量直写 StarRocks(3FE+3BE,底层 MinIO bucket audit-etl)| 台账 → MySQL 主从 | 心跳/资产/监控 → LogStorage 双层配额 | 指标 → Prometheus | 运行日志 → ES
以下每句话都来自交接材料(设计方案 v5、部署手册)。读不懂的句子,去 L2 找对应的结构图。
三张图:先看全系统六块存储各管什么,再看 StarRocks 计算层怎么浮在 MinIO 上,最后一张决策树回答「这条数据该去哪」。
每张数据卡给你三个候选存储,点你认为正确的那个:对了亮绿,错了标红并讲清为什么。六张全对,点亮「每一类数据都有它的位置」。
已答 0 / 6 · 正确 0 · 正确率 0%
1. 标准化业务日志的主存是?
2. 租户、设备、策略、工单这类台账存在?
3. 心跳、资产、监控这类小数据走哪里?
4. StarRocks 存算分离的底层存储是?
5. ES + Kibana 在本系统里存/看什么?
6. 为什么大日志直写 StarRocks?
六镜头讲完「各就各位」:洪流到站、六层货架、计算与存储分家、配额到期、冷热思考、收尾。画面里的集群形态与 bucket 名与 L1–L3 同源。
规格:1920×1080 · 30fps · 01:33 · H.264 + AAC · 中文配音(zh-CN-Yunxi 逐句合成,每句实测时长均落在自己的字幕窗口内)+ 画面内嵌字幕。底部常驻进度轨随镜头推进点亮。
镜头 1 · 洪流到站
画面:std topic 的数据流抵达终点站,面前六层货架一字排开。
旁白:洗好的数据到站了。但站台上没有一个大筐——只有货架,每一层,只收一种货。
镜头 2 · 六层货架
画面:日志箱进 StarRocks 层、台账册进 MySQL 层、心跳卡滑过 LogStorage 层、指标线进 Prometheus 层、运行日志进 ES 层、大文件沉底 MinIO 层。
旁白:日志要快查,台账要事务,心跳用完即弃,指标看趋势。特征不同,去处不同。
镜头 3 · 计算与存储分家
画面:StarRocks 楼层从地基(MinIO)上「抬起」,中间出现伸缩缝;查询洪峰来了,楼上加座,地基不动。
旁白:三加三的楼上,四节点的楼下,中间一条伸缩缝。计算忙就加计算,存储贵就买存储——谁也不绑架谁。
镜头 4 · 配额到期
画面:心跳卡在 LogStorage 货架上逐渐褪色,到期自动滑入碎纸机,货位瞬间清空。
旁白:不是所有数据都配永久保存。心跳的价值以分钟计——双层配额,到期即清,主库一尘不染。
镜头 5 · 冷热之问
画面:检索框输入「用户登录」毫秒返回;镜头拉远,冷数据成排沉入对象存储深水区,标签写「audit-etl」。
旁白:热在毫秒,冷在便宜。热多久、多冷算冷——这是留给架构师的下一道题。
镜头 6 · 收尾:各就各位
画面:全链路七跳整条点亮,终点站货架上六层灯光各就各位,一条日志安稳落进 StarRocks 层。
旁白:从终端到货架,一条日志走完了七跳。每一类数据都有它的位置——这就是存储的答案。
① 特征匹配存储
一个库装天下是最贵的偷懒;特征不同去处不同。
② 存算分离
MinIO 担成本与弹性,3FE+3BE 独立扩缩。
③ 台账进 MySQL
强事务数据要一致性,主从保高可用。
④ 小数据配额过期
心跳价值以分钟计,双层配额到期自动清。
⑤ 观测栈独立
Prometheus/ES 看系统自己,不混审计业务。
⑥ 一套对象存储三用
audit-etl 同桶:底层存储 + checkpoint + ipdb。