国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

Datadog用戶踩坑:87%的監(jiān)控面板在事故時毫無價值

0
分享至


去年夏天,PagerDuty發(fā)布了一組內(nèi)部數(shù)據(jù):企業(yè)級客戶的平均故障響應(yīng)時間中,有34%浪費在"確認誰在值班"這件事上。不是修復(fù)問題,是找人。

這串數(shù)字背后藏著一個被長期忽視的真相——監(jiān)控工具買得越貴,盲區(qū)藏得越深。Datadog年費動輒六位數(shù),Grafana部署手冊厚得像磚頭,但事故來臨時,值班工程師打開面板的瞬間,往往只看到滿屏的"no data"。

值班表指向一個已離職6個月的人

這是監(jiān)控審計中最荒誕卻最高頻的場景。某SaaS公司的SRE負責人曾向我復(fù)盤一次典型故障:凌晨2點,核心支付接口告警觸發(fā),PagerDuty按預(yù)案通知"支付通道值班組"。

該組唯一成員三個月前轉(zhuǎn)崗,無人更新排班表。告警在系統(tǒng)中空轉(zhuǎn)47分鐘,直到客服被商戶投訴電話打爆,人工升級才觸達正確的工程師。

事后統(tǒng)計,這47分鐘里系統(tǒng)嘗試了4輪自動升級,全部指向無效聯(lián)系人。更諷刺的是,該工程師的賬號在離職當天已被禁用——但排班系統(tǒng)的同步邏輯沒人管。

審計清單的第一項就該是這個:逐條檢查所有升級策略(escalation policy)的末端是否指向活人。具體動作包括:

? 每個策略是否至少有兩級備份?單點失效在人員流動頻繁的組織里幾乎是必然事件

? 排班表是否存在空窗期?很多團隊按周輪換,但交接日的凌晨時段常被漏掉

? 是否有兜底策略?未匹配任何特定規(guī)則的服務(wù),告警該流向哪里

Datadog和PagerDuty都提供API查詢排班狀態(tài),建議用腳本定期掃描"未來30天內(nèi)無有效響應(yīng)人"的時間段。這不是過度工程,是買保險。

告警規(guī)則在自嗨:響了,但沒人收到

Grafana Labs的社區(qū)論壇有個經(jīng)典帖子,標題叫《我的告警明明觸發(fā)了,為什么Slack沒動靜》。高贊回復(fù)一針見血:你綁定的頻道2022年就歸檔了。

這類故障的隱蔽性在于——監(jiān)控系統(tǒng)本身運行正常。Datadog的監(jiān)控器(monitor) dutifully firing,Grafana的告警狀態(tài)從OK變?yōu)锳lerting,但通知渠道指向的是數(shù)字廢墟。

常見尸體包括:已歸檔的Slack頻道、被刪除的郵件組、離職員工的個人郵箱、甚至是一個測試用的Webhook地址。監(jiān)控工具不會主動告訴你"這條通知發(fā)給了不存在的人",它們只負責發(fā)送。

更隱蔽的是"無數(shù)據(jù)"狀態(tài)的監(jiān)控器。Datadog中,一個監(jiān)控器如果連續(xù)多天處于"no data"狀態(tài),往往不是業(yè)務(wù)穩(wěn)定,是查詢條件失效了。比如監(jiān)控的指標名在代碼重構(gòu)后被改掉,或者標簽(tag)過濾邏輯與新部署不匹配。

審計時需要導(dǎo)出所有監(jiān)控器的通知目標清單,逐條驗證可達性。對于Slack頻道,可以調(diào)用conversations.info API檢查is_archived字段;對于郵件組,發(fā)送測試郵件并驗證投遞狀態(tài)。

一個實用技巧:給所有監(jiān)控器設(shè)置"元監(jiān)控"——用另一個監(jiān)控器來監(jiān)控"這個監(jiān)控器上次觸發(fā)是什么時候"。如果某個關(guān)鍵業(yè)務(wù)監(jiān)控超過72小時無狀態(tài)變化,大概率已經(jīng)失聰。

面板上的漂亮圖表,事故時全是"no data"

2023年某電商大促期間,技術(shù)負責人打開"核心交易鏈路"大盤,準備定位支付成功率下跌原因。結(jié)果首頁12個面板中,7個顯示紅色"no data",2個展示的是上周已下線的舊指標。

這個面板上次更新是九個月前。期間經(jīng)歷了兩次微服務(wù)拆分、一次指標命名規(guī)范改造,但沒人同步維護可視化層。

面板的腐爛速度遠超想象。原因通常是復(fù)合的:

? 指標名變更:代碼里從http_requests_total改成http_request_duration_seconds_count,面板查詢語句沒跟進

? 標簽漂移:原本按region=cn-north分組,新部署改為availability_zone=bj-1

? 數(shù)據(jù)源遷移:從Prometheus切到VictoriaMetrics,舊查詢語法部分不兼容

? 權(quán)限過期:面板綁定的服務(wù)賬號密鑰失效,數(shù)據(jù)拉取被403拒絕

建議每季度執(zhí)行一次"面板可用性巡檢":由值班工程師隨機抽取10個核心面板,模擬事故場景下的使用路徑。記錄從打開面板到獲取有效信息的時間,超過30秒的面板進入整改清單。

真正危險的不是面板報錯,是報錯被習(xí)慣性忽視。當"no data"出現(xiàn)頻率太高,工程師會形成肌肉記憶——直接跳過這個面板,靠猜。

那28個沒監(jiān)控的端點,遲早有一個會炸

大多數(shù)團隊的監(jiān)控覆蓋遵循"顯眼包優(yōu)先"原則:主API、核心數(shù)據(jù)庫、支付網(wǎng)關(guān),這些一上線就配好告警。但業(yè)務(wù)系統(tǒng)的接口數(shù)量通常是監(jiān)控數(shù)的3-5倍,盲區(qū)藏在暗處。

典型漏網(wǎng)之魚包括:

? 內(nèi)部服務(wù):處理Webhook回調(diào)、異步任務(wù)隊列、數(shù)據(jù)同步管道

? 管理后臺:批量操作接口、數(shù)據(jù)修復(fù)工具、運營配置頁面

? 定時任務(wù):賬單對賬、數(shù)據(jù)清理、報表生成

? 邊緣端點:健康檢查接口(常被監(jiān)控,但只檢查"是否200",不檢查"返回內(nèi)容是否正確")、版本探測接口、灰度開關(guān)讀取接口

某金融科技公司的教訓(xùn)極具代表性:他們的核心交易API有47個監(jiān)控器覆蓋,但一個處理銀行間對賬的內(nèi)部端點零監(jiān)控。該端點在某次證書更新后靜默失敗,導(dǎo)致連續(xù)三天對賬數(shù)據(jù)缺失,最終引發(fā)監(jiān)管問詢。

發(fā)現(xiàn)盲區(qū)的唯一可靠方法是代碼與監(jiān)控的交叉比對。從代碼倉庫提取所有HTTP端點定義(包括框架路由、API網(wǎng)關(guān)配置、服務(wù)注冊表),與監(jiān)控工具中的目標列表做差集。

具體實現(xiàn)上,可以解析OpenAPI規(guī)范、掃描Kubernetes Ingress資源、或者直接從APM(應(yīng)用性能監(jiān)控)工具的自動發(fā)現(xiàn)列表導(dǎo)出。目標是建立"端點-監(jiān)控"的映射表,未覆蓋項用紅色高亮。

這個工作的阻力通常來自組織層面:誰對"非核心"服務(wù)的監(jiān)控負責?建議把覆蓋率納入CI/CD門禁——新端點合并前必須附帶監(jiān)控配置,否則阻斷發(fā)布。

數(shù)據(jù)庫監(jiān)控停在"能ping通"是自欺欺人

Postgres響應(yīng)TCP連接請求,不代表查詢能在合理時間內(nèi)返回。太多團隊的數(shù)據(jù)庫監(jiān)控停留在可用性層面,對性能拐點毫無感知。

關(guān)鍵指標的分層應(yīng)該包括:

? 連接層:活躍連接數(shù)、空閑連接池耗盡頻率、連接等待隊列長度

? 查詢層:慢查詢占比(按P99/P95分層)、鎖等待時間、死鎖頻率

? 存儲層:WAL(預(yù)寫日志)積壓、復(fù)制延遲、磁盤I/O飽和度

? 業(yè)務(wù)層:核心表的寫入速率、索引膨脹率、VACUUM(垃圾回收)進度

某次審計中,我們發(fā)現(xiàn)一個PostgreSQL實例的監(jiān)控面板只展示了"up=1"。深入排查后,該實例的autovacuum已停用四個月,主表膨脹到原始大小的340%,查詢性能在凌晨批量任務(wù)時段斷崖式下跌——但沒有任何告警。

數(shù)據(jù)庫監(jiān)控的特殊性在于,很多關(guān)鍵信號需要主動查詢系統(tǒng)視圖(pg_stat_*系列),而非被動接收暴露的指標。建議為每個數(shù)據(jù)庫實例維護一份"深度健康檢查"腳本,定期執(zhí)行并上報結(jié)果。

審計不是一次性項目,是持續(xù)對抗熵增

監(jiān)控系統(tǒng)的腐爛是熱力學(xué)第二定律在技術(shù)領(lǐng)域的體現(xiàn):不投入能量維護,秩序必然退化。人員流動、架構(gòu)演進、工具升級,每一個變量都在制造新的不一致。

有效的審計機制需要嵌入日常運營:

? 每月自動化掃描:排班表空窗、通知渠道失效、監(jiān)控器無數(shù)據(jù)狀態(tài)

? 每季度人工抽檢:隨機選取事故復(fù)盤,驗證監(jiān)控是否按預(yù)期工作

? 每年全面審計:代碼與監(jiān)控覆蓋比對、面板可用性測試、告警疲勞度調(diào)研

最后留一個開放問題:你們團隊最近一次驗證"告警能否真正觸達值班人"是什么時候?如果答案是"上次事故時",那下一次審計的優(yōu)先級,或許應(yīng)該比功能排期更高。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
太陽報:大量槍迷想搶票見證奪冠,西漢姆聯(lián)嚴查主隊看臺購票

太陽報:大量槍迷想搶票見證奪冠,西漢姆聯(lián)嚴查主隊看臺購票

懂球帝
2026-03-26 13:21:13
學(xué)醫(yī)后才知道,保護心血管最好的運動,不是快走慢跑,而是這個

學(xué)醫(yī)后才知道,保護心血管最好的運動,不是快走慢跑,而是這個

垚垚分享健康
2026-03-26 13:09:39
三觀盡毀!蘿莉島新照片流出,辦公桌下趴著妙齡女郎,不堪入目!

三觀盡毀!蘿莉島新照片流出,辦公桌下趴著妙齡女郎,不堪入目!

川渝視覺
2026-02-09 10:43:27
3-1拿下陳熠,最后一個世乒賽名額到手,王藝迪笑到了最后

3-1拿下陳熠,最后一個世乒賽名額到手,王藝迪笑到了最后

眼界縱橫
2026-03-26 23:25:59
“公路閃電”終于換代,但我覺得不如豐田

“公路閃電”終于換代,但我覺得不如豐田

差評XPIN
2026-03-26 09:57:20
中日48小時交鋒:日企被排除,東京降級對華關(guān)系

中日48小時交鋒:日企被排除,東京降級對華關(guān)系

星落山間
2026-03-25 14:12:01
第86輪打擊來襲!打擊力度升級,以色列海軍基地遭摧毀,川普讓步

第86輪打擊來襲!打擊力度升級,以色列海軍基地遭摧毀,川普讓步

愛吃醋的貓咪
2026-03-26 22:25:02
幾乎全是假貨!利潤高達2400%,咋消費者還前赴后繼爭相購買?

幾乎全是假貨!利潤高達2400%,咋消費者還前赴后繼爭相購買?

夢史
2026-01-07 10:08:05
女大學(xué)生住院做檢查,報告竟是假的!珠海中山五院等多方回應(yīng)

女大學(xué)生住院做檢查,報告竟是假的!珠海中山五院等多方回應(yīng)

南方都市報
2026-03-24 12:42:25
大眾中國回應(yīng)斯柯達退出中國市場

大眾中國回應(yīng)斯柯達退出中國市場

澎湃新聞
2026-03-26 17:33:03
男女約會隱秘又安全的12個地方,有6個場合你根本想不到

男女約會隱秘又安全的12個地方,有6個場合你根本想不到

聰明小石頭
2026-03-21 09:13:42
70歲陳寶國現(xiàn)狀:頭發(fā)胡子全白,老到認不出,大齡兒子是他的煩惱

70歲陳寶國現(xiàn)狀:頭發(fā)胡子全白,老到認不出,大齡兒子是他的煩惱

白面書誏
2026-03-24 18:23:07
小區(qū)樓上天天晚上都有女的大聲叫。。。

小區(qū)樓上天天晚上都有女的大聲叫。。。

微微熱評
2025-12-24 00:26:04
男同胞們別嘴硬,老實回答!

男同胞們別嘴硬,老實回答!

小光侃娛樂
2026-03-07 13:15:07
房價上漲的最強信號!

房價上漲的最強信號!

米宅
2026-03-24 07:26:02
諾基亞6600內(nèi)置無人機,這設(shè)計必須封神

諾基亞6600內(nèi)置無人機,這設(shè)計必須封神

3C毒物
2026-02-27 15:25:40
還記得20年前的《故事會》嗎?廣告不堪入目,簡直是個紙上"暗網(wǎng)"!

還記得20年前的《故事會》嗎?廣告不堪入目,簡直是個紙上"暗網(wǎng)"!

神奇故事
2026-03-17 23:54:32
漢武帝用一場血腥清算告訴后人,為什么最該死的永遠是中間派!

漢武帝用一場血腥清算告訴后人,為什么最該死的永遠是中間派!

掠影后有感
2026-03-26 10:50:33
伊朗格斗冠軍被捕!或被截肢+判處死刑 曾來中國參賽 擊敗5大高手

伊朗格斗冠軍被捕!或被截肢+判處死刑 曾來中國參賽 擊敗5大高手

念洲
2026-03-25 17:59:21
一夜暴跌25%!小馬哥最怕的事還是發(fā)生了:年輕人正在從騰訊溜走

一夜暴跌25%!小馬哥最怕的事還是發(fā)生了:年輕人正在從騰訊溜走

潮鹿逐夢
2026-03-21 11:54:42
2026-03-27 00:20:49
硬核玩家2哈
硬核玩家2哈
沉淀中,勿擾
213文章數(shù) 0關(guān)注度
往期回顧 全部

科技要聞

美團發(fā)布外賣大戰(zhàn)后成績單:虧損超200億

頭條要聞

張雪峰留巨額遺產(chǎn):二婚妻子或拿50% 剩下的女兒占1/3

頭條要聞

張雪峰留巨額遺產(chǎn):二婚妻子或拿50% 剩下的女兒占1/3

體育要聞

申京努力了,然而杜蘭特啊

娛樂要聞

劉曉慶妹妹發(fā)聲!稱姐姐受身邊人挑撥

財經(jīng)要聞

油價"馴服"特朗普?一到100美元就TACO

汽車要聞

一汽奧迪A6L e-tron開啟預(yù)售 CLTC最大續(xù)航815km

態(tài)度原創(chuàng)

房產(chǎn)
教育
手機
本地
公開課

房產(chǎn)要聞

突發(fā),三亞又有大批征遷補償方案出爐!

教育要聞

天天學(xué)習(xí)|走進課堂的“大朋友”

手機要聞

OPPO K15 Pro 系列定檔,嵐影呼吸燈搭配金屬中框

本地新聞

救命,這只醬板鴨已經(jīng)在我手機復(fù)仇了一萬遍

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關(guān)懷版