是否曾試圖在五個雲端硬碟和 2021 年的 Slack 訊息串中尋找名為 Final_Final_v9_REAL_THIS_TIME.xlsx 的試算表?這就是現代的資料探索:密室逃脫,但有更多的儀表板和更少的線索。DataHub 應運而生,這是一個開源的資料目錄,承諾成為您的資料 GPS。在這篇評論中,我親自體驗了一下,迷路了,找到了方向,並且在元資料血緣圖和架構探索之間,我想起了有組織的資料為何會讓人們異常快樂。
讓我們像 Joanna 一樣來分析一下:DataHub 究竟是什麼、它適合誰、它的效能如何、它在哪裡會遇到困難,以及您的團隊是否應該在其他人開始編寫新的「單一事實來源」文件之前採用它。(劇透:永遠不只有一個。)
DataHub 究竟是什麼?一篇您可以實際使用的評論
DataHub 是一個開源的元資料平台——可以把它想像成您資料資產的活地圖。它會抓取您的資料倉儲、資料湖、BI 工具和管線,然後將這些雜亂的資料轉變成一個可搜尋、可瀏覽的目錄,其中包含所有權、使用情況、血緣和文件。如果您目前的資料探索方法是「那個表格在哪裡?」然後是十二次 Slack 的 ping,那麼 DataHub 就是更成熟的方法。
- 核心概念:統一元資料——架構、血緣、所有權、文件、標籤——以便人們可以找到並信任資料。
- 開源的根源:誕生於 LinkedIn,現在擁有活躍的社群和企業附加元件。
- 實際的回報:更快的探索、更少的重複儀表板、更少的「這個表格是否已棄用?」站立會議。
故事:我去找一個 KPI,結果找到了一個組織結構圖
我像一個決心在早上 9:15 之前給 VP 留下深刻印象的新員工一樣測試了 DataHub。我搜尋了「active users」,點擊了一個名為 analytics.active_users_daily 的表格,然後:說明、所有者、下游儀表板和一個血緣圖,看起來像是咖啡因充足的土木工程師繪製的地鐵地圖。我沿著管線向上追溯到轉換任務,看到了誰建立了它、它上次運行的時間,以及為什麼數字在上週二發生了變化。我沒有 ping 任何人。我沒有打開一個名為 README_please.md 的文件。讀者,我…很冷靜。
DataHub 評論:重要的主要功能
1) 不會讓您哭泣的搜尋
DataHub 的搜尋速度很快,而且出乎意料地寬容。查詢同義詞?很有幫助。平台、網域、標籤、所有者的 Facet?超級有幫助。它將表格、儀表板、管線、ML 功能和術語表條款視為一等公民。翻譯:您可以搜尋「revenue」並找到規範表格、Looker 儀表板和術語表定義,而無需玩資料打地鼠遊戲。
我喜歡的地方:
- Facet 過濾器意味著您可以在兩次點擊中縮小到「BigQuery + 儀表板 + 財務網域」。
2) 真正有用(而不僅僅是漂亮)的血緣
是的,血緣圖很漂亮。更重要的是,它是可操作的。您可以看到上游來源、下游儀表板和將它們連接在一起的任務。如果上游出現問題,DataHub 會告訴您在您的 CFO 想知道為什麼每月報告突然看起來像迷因股票之前,應該警告誰。
我喜歡的地方:
3) 所有權和網域:無需憤怒電子郵件的問責制
DataHub 會促使您分配所有者和網域。這是秘訣。當每個資料集都有一個負責的團隊和一個像「行銷分析」或「財務」這樣的網域時,您可以停止在每個問題中標記隨機的資料工程師,而開始標記正確的工程師。神奇。
我喜歡的地方:
4) 術語表和文件:文字很重要(非常重要)
DataHub 的術語表是您最終解決「什麼算作活躍使用者?」爭論的地方。將定義連結到實際資產。新增範例。標記同義詞。突然之間,「MRR」、「revenue」和「ARR」成了朋友,而不是敵人。
我喜歡的地方:
5) 治理和信任訊號:信任的病毒式傳播
該平台讓您可以將資產標記為「已驗證」、「已棄用」或「審查中」。這是一個小小的 UI 裝飾,具有巨大的文化影響。當您在資料集旁邊看到綠色的已驗證徽章時,您的肩膀會放鬆。當您看到已棄用時,您會關閉標籤並像一個負責任的成年人一樣走開。
我喜歡的地方:
設定和整合:它會毀了您的週末嗎?
簡短的答案:可能不會,但提前計劃。DataHub 為流行的堆疊提供官方的攝取器:Snowflake、BigQuery、Redshift、Databricks、Postgres、Looker、Tableau、Power BI、Airflow、dbt 等。您按計劃運行元資料攝取任務,連接驗證,然後讓它抓取。
- 開源部署:Docker/Kubernetes。您需要一個熟悉基礎架構的人。
- 攝取是可重複的——像對待 ETL 一樣對待它:程式碼中的設定、版本控制、排程。
現實檢查:
- 預計會出現一些一次性的修復(錯誤的架構名稱、舊的儀表板、孤立的管線)。這很好。元資料會照亮您的骨骼。
- 計劃時間來設定 SSO/權限。您的安全團隊會提出意見。儘早邀請他們。
效能和可擴展性:它能跟上嗎?
DataHub 可以隨著元資料的增長而適度擴展。搜尋和血緣的查詢速度在我的測試中保持不變。更大的勝利是運營上的:一旦您自動化了攝取並設定了合理的計劃,您就不會做英雄工作了。只是快速、無聊、可靠的同步——最好的無聊。
專業提示:不要在第一天就攝取整個宇宙。從人們抱怨最多的五個系統開始,好好地標記它們,然後從那裡開始增長。元資料就像室內植物和群組聊天一樣,在修剪後才能茁壯成長。
DataHub 與您的替代方案:誠實的看法
- DataHub 與 Amundsen:DataHub 感覺更精緻,具有更豐富的血緣和所有權。Amundsen 更輕巧,但您可能會花更多的時間將它們粘合在一起。
- DataHub 與 OpenMetadata:OpenMetadata 具有相似的目標和強大的社群。DataHub 的搜尋和治理感覺更成熟一些,具有更深入的企業橋樑。
- DataHub 與「只需使用 Confluence 並希望」:不。
- DataHub 與專有目錄:付費平台可以提供更多的統包合規性和 UI 光澤。DataHub 以靈活性、開放 API 和強大的成本故事來反擊。
DataHub 的最佳部分(播放蒙太奇音樂)
- 不僅僅是藝術的血緣。它是警報、影響分析和更少的損壞儀表板。
DataHub 會在哪裡出錯(因為沒有工具是獨角獸)
- 設定不是「點擊下一步、下一步、完成」。您需要基礎架構舒適度和一些 YAML 耐心。
- UI 光澤在各個功能中有所不同。沒有什麼致命的,但並非所有東西都感覺像 Apple 商店一樣閃亮。
- 變更管理是真實的。資料目錄是 50% 的軟體,50% 的文化。如果沒有人編寫文件,沒有工具可以拯救您。
實作:7 天 DataHub 快速啟動計劃
因為評論只有在您可以採取行動時才有用,所以這裡有一個快速的一週計劃,不會讓您的 PM 悲傷地搖頭。
第 1 天:選擇前 2-3 個來源(例如,Snowflake、dbt、Looker)並設定目標。「減少 30% 的重複儀表板」比「採用元資料」更好。
第 2 天:部署沙箱。使用 Docker Compose 或託管選項。儘早連接 SSO。
第 3 天:為您的頂級來源設定攝取。對設定進行版本控制。運行第一次同步。慶祝您發現的每一個損壞的連結——這些都是預先存在的錯誤。
第 4 天:定義網域和所有權。分配實際的人員(而不是「資料團隊」)。為每個網域新增 Slack 頻道。
第 5 天:編寫五個小的文件。一個用於您最常用的表格,一個用於您爭論最多的 KPI,三個用於使用者詛咒的不穩定的管線。
第 6 天:為「活躍使用者」、「revenue」、「churn」新增術語表條款。將它們連結到資產。套用徽章:已驗證、已棄用、審查中。
第 7 天:啟動午餐學習。示範搜尋、血緣、所有權。錄製它。新增回饋表單。將其釘在 Slack 中。用餅乾賄賂。好東西。
適用於不同團隊的 DataHub:誰贏得什麼
- 分析師:更快的探索、更少的 ping、更清晰的 KPI 定義。更少的「我發誓數字是正確的」。
- 資料工程師:所有權清晰、變更前的影響分析、更少的支援票證。
- BI 開發人員:具有血緣意識的部署、受信任的儀表板、更小的待辦事項。
- 產品經理:自己找到儀表板(一個奇蹟)。了解上游風險。
- 安全性/合規性:治理標籤、便於稽核的血緣和所有權。
文化部分:使其堅持下去,而不會變成元資料警察
- 公開所有權。如果一切都歸「資料」所有,那麼沒有人擁有任何東西。
- 獎勵文件貢獻。在站立會議中大聲疾呼是免費且非常有效的。
- 將目錄更新烘焙到 PR 中。如果您重新命名一個欄位而不更新文件,則應該響起鈴聲,並且資料工程師會失去一杯咖啡。
定價和價值:開源並不意味著免費的獨角獸
DataHub 的開源核心可以免費運行,但您需要付出時間:設定、託管、維護。許多團隊發現這對於靈活性和長期控制來說是值得的。託管產品增加了便利性、SLA 和企業功能。無論如何,您的試算表都會感謝您。
安全性和隱私:是的,您的法律團隊會詢問
DataHub 儲存元資料,而不是您的實際資料。儘管如此,還是像對待任何重要的系統一樣對待它:
我沒想到的小樂趣
- 微妙的提示,以新增文件/所有者——就像一個整潔的朋友輕輕地重新組織您的冰箱。
誰應該跳過 DataHub(暫時)
- 只有一個資料倉儲和五個受信任的儀表板的小團隊。共享的 README 可能實際上就足夠了。重點是可能。
- 對流程過敏的組織。如果您的團隊拒絕新增所有者或編寫一行文件,則沒有目錄可以拯救您。
結論:我的 DataHub 評論底線
如果您的公司有多個資料儲存、三個以上的儀表板和零個以上的困惑的人,那麼 DataHub 值得認真考慮。它掌握了基礎知識——搜尋、血緣、所有權——並為您提供了一個從「某處的資料」成長到「某人可以找到、理解且不會破壞的資料」的平台。
值得注意的是:如果您在評估或記錄您的堆疊時想要一個更聰明的副駕駛,Sider.AI 可以幫助您總結混亂的文件、比較選項,並在您將 DataHub 映射到您的系統時保持您的筆記整潔。可以把它想像成一個閱讀手冊的朋友,這樣您就不必自己閱讀了——然後用簡單的英語解釋它。 快速優缺點(因為您很忙)
優點:
缺點:
您可以螢幕截圖的最終要點
- 從小處著手:前 3 個來源、明確的所有者、五個文件、三個術語表條款。
- 不要讓完美阻止有用。一個像樣的描述勝過一個空白框,每一次都是如此。
如果 DataHub 是一個人,它就是那個標記辦公室冰箱、設定日曆提醒,並以某種方式讓每個人都在不煩人的情況下遵守的同事。在一個漫遊儀表板和神秘指標的世界中,這是您想要快速撥號的英雄。
FAQ
Q1:DataHub 適合小型團隊還是過度使用?
如果您只有一個資料倉儲和五個儀表板,DataHub 可能會過多。共享文件可能會起作用。一旦您新增了更多來源、更多人員和更多混亂,這個資料目錄就會開始通過更少的 ping 和更清晰的定義來彌補自身。
Q2:與其他資料目錄相比,設定 DataHub 有多困難?
它不是一鍵式的,但通過 Docker/Kubernetes 的舒適性和一些 YAML 是可以做到的。攝取框架是可靠的,如果您不想管理服務,託管選項可以消除粗糙的邊緣。
Q3:是什麼讓 DataHub 的血緣比漂亮的圖表更好?
影響分析和所有權。您可以追蹤上游變更到人們實際盯著的儀表板,然後在數字出錯之前通知正確的人員。它是防止火災的血緣,而不僅僅是繪製它們。
Q4:DataHub 可以處理治理和合規性需求嗎?
是的,在元資料層級:已驗證/已棄用徽章、所有權、網域和策略。對於繁重的合規性,請將其與您現有的控制措施配對——DataHub 為您提供地圖和標籤,以便稽核不會成為尋寶遊戲。
Q5:DataHub 與專有資料目錄相比如何?
專有工具可以使用統包治理來變得更加閃亮。DataHub 的宣傳是開源的靈活性、強大的搜尋以及具有實際用途的血緣。如果您重視控制和社群,這是一個引人注目的選擇。