5つのクラウドドライブと2021年のSlackのスレッドから、Final_Final_v9_REAL_THIS_TIME.xlsxという名前のスプレッドシートを探し出すのに苦労したことはありませんか? それが現代のデータディスカバリーです。脱出ゲームのようですが、ダッシュボードが多く、手がかりは少なくなっています。そこでDataHubの登場です。これは、あなたのデータのGPSとなることを約束するオープンソースのデータカタログです。このレビューでは、実際に試してみました。迷子になったり、道を見つけたり、メタデータのリネージグラフとスキーマの探求の間で、組織化されたデータが人々を非合理的に幸せにする理由を思い出しました。
何がDataHubなのか、誰のためのものなのか、どのように機能するのか、どこでつまずくのか、そして、誰かが新しい「唯一の真実の情報源」ドキュメントを作成する前に、あなたのチームが採用すべきかどうかを、Joanna風に分析してみましょう。(ネタバレ:唯一の情報源なんてありません。)
DataHubとは一体何なのか?実際に役立つレビュー
DataHubはオープンソースのメタデータプラットフォームです。あなたのデータ資産の生きた地図と考えてください。あなたのウェアハウス、レイク、BIツール、パイプラインをクロールし、そのごちゃごちゃしたものを、所有権、使用状況、リネージ、ドキュメントがすべて1か所にまとまった、検索可能で閲覧可能なカタログに変えます。もしあなたの現在のデータディスカバリーの方法が、「あのテーブルはどこだっけ?」の後に12回のSlackでのpingだとしたら、DataHubは大人のやり方です。
- 中心となる考え方:メタデータ(スキーマ、リネージ、所有権、ドキュメント、タグ)を統合し、人々がデータを見つけて信頼できるようにする。
- オープンソースのルーツ:LinkedInで生まれ、現在は活発なコミュニティとエンタープライズアドオンがあります。
- 現実世界のメリット:より迅速な発見、重複したダッシュボードの削減、「このテーブルは非推奨ですか?」というスタンドアップミーティングの削減。
ストーリー:KPIを探していたら、組織図を見つけた
私は、午前9時15分までにVPに感銘を与えようと決意した新入社員のようにDataHubをテストしました。「active users」を検索し、analytics.active_users_dailyというテーブルをクリックすると、説明、所有者、ダウンストリームのダッシュボード、そしてカフェイン中毒の土木技師が作成した地下鉄の路線図のようなリネージグラフが表示されました。私は上流の変換ジョブまでラインをたどり、誰がそれを構築したのか、最後にいつ実行されたのか、そしてなぜ先週の火曜日に数値が変化したのかを確認しました。誰にもpingをしませんでした。README_please.mdというタイトルのドキュメントを開きませんでした。読者の皆さん、私は…穏やかでした。
DataHubレビュー:重要な主要機能
1)泣かずに済む検索
DataHubの検索は高速で、驚くほど寛容です。クエリの同義語? 役に立ちます。プラットフォーム、ドメイン、タグ、所有者のファセット? とても役に立ちます。テーブル、ダッシュボード、パイプライン、ML機能、用語集の用語を、一流の市民のように扱います。つまり、「revenue」を検索して、標準的なテーブル、Lookerのダッシュボード、用語集の定義を、データモグラたたきゲームをせずに見つけることができるのです。
気に入った点:
- 関連性は、ロボットではなく、人間向けに調整されていると感じる。
- ファセットフィルターを使用すると、2回のクリックで「BigQuery + Dashboards + Finance domain」に絞り込むことができる。
- 結果の豊富なプレビューにより、10個のタブを開く時間を節約できる。
2)実際に役立つ(ただきれいなだけではない)リネージ
確かに、リネージグラフはきれいです。さらに重要なのは、それが実行可能であるということです。上流のソース、下流のダッシュボード、そしてそれらを繋ぎ合わせるジョブを見ることができます。上流で何かを壊した場合、DataHubは、CFOが月次レポートが突然ミーム株のようになっている理由を不思議に思う前に、誰に警告すべきかを教えてくれます。
気に入った点:
- エンドツーエンドのリネージ:ソース → 変換 → BI。
- コンテキスト付きのクリック可能なノード:スキーマ、所有権、健全性。
- 影響分析:カラムを変更した場合、誰が悲鳴を上げるかを確認する。
3)所有権とドメイン:怒りのメールなしで説明責任を果たす
DataHubは、所有者とドメインを割り当てるように促します。これが秘伝のソースです。すべてのデータセットに責任を負うチームと、「マーケティング分析」や「財務」のようなドメインがある場合、すべての質問でランダムなデータエンジニアにタグ付けするのをやめて、適切なエンジニアにタグ付けすることができます。魔法です。
気に入った点:
- ドメインベースの閲覧は、新しい人が組織のデータマップを学ぶのに役立つ。
- あなたのアイデンティティプロバイダーからのグループ/ロールマッピングで動作する。
4)用語集とドキュメント:言葉は重要(非常に重要)
DataHubの用語集は、「何がアクティブユーザーと見なされるか?」という議論に最終的に決着をつける場所です。定義を実際のアセットにリンクします。例を追加します。同義語にタグを付けます。突然、「MRR」、「revenue」、「ARR」は敵ではなく、友達になります。
気に入った点:
- テーブルとダッシュボードのすぐ隣にある豊富なドキュメント。
- コンテキスト内のドキュメントの衛生状態を促進する—人が読む場所に書く。
5)ガバナンスと信頼のシグナル:信頼の口コミ
このプラットフォームでは、アセットに「verified」、「deprecated」、「in review」というラベルを付けることができます。これは、大きな文化的影響を与える小さなUIの装飾です。データセットの横に緑色のverifiedバッジが表示されると、肩の力が抜けます。deprecatedが表示されたら、タブを閉じて、責任ある大人として立ち去ります。
気に入った点:
セットアップと統合:週末を壊すか?
短い答え:おそらくそうではありませんが、事前に計画を立ててください。DataHubは、Snowflake、BigQuery、Redshift、Databricks、Postgres、Looker, Tableau, Power BI, Airflow, dbtなどの一般的なスタック用の公式インジェスターを提供しています。メタデータインジェストジョブをスケジュールどおりに実行し、認証を接続して、クロールさせます。
- オープンソースのデプロイ:Docker/Kubernetes。インフラに慣れている人が必要になります。
- サービスを見張る必要がない場合は、クラウド/マネージドオプションが存在します。
- インジェストは反復可能です—ETLと同じように扱います:コード内の構成、バージョン管理、スケジュール設定。
現実のチェック:
- いくつかの1回限りの修正(悪いスキーマ名、古いダッシュボード、孤立したパイプライン)が表面化することを期待してください。それは良いことです。メタデータはあなたの骨格に光を当てます。
- SSO/権限を設定する時間を計画してください。あなたのセキュリティチームは意見を持ってくるでしょう。早い段階で招待してください。
パフォーマンスとスケーラビリティ:追いつけるか?
DataHubは、増大するメタデータに対応して適切にスケールします。検索とリネージのクエリ速度は、私のテストでは維持されました。より大きな勝利は運用上のものです。インジェストを自動化し、適切なスケジュールを設定したら、ヒーローのような仕事をする必要はありません。ただ、速くて、退屈で、信頼性の高い同期—最高の退屈さです。
プロのヒント:初日に宇宙全体をインジェストしないでください。人々が最も不満を言っている5つのシステムから始めて、それらに適切にタグを付け、そこから成長してください。メタデータは、観葉植物やグループチャットのように、剪定することで成長します。
DataHub vs. あなたの代替手段:正直な意見
- DataHub vs. Amundsen:DataHubは、より洗練されており、より豊富なリネージと所有権を備えていると感じます。Amundsenはより軽量ですが、物事をまとめるためにより多くの時間を費やすことになるでしょう。
- DataHub vs. OpenMetadata:OpenMetadataは同様の目標と強力なコミュニティを持っています。DataHubの検索とガバナンスは、より成熟しており、より深いエンタープライズブリッジを備えていると感じます。
- DataHub vs. 「Confluenceを使って期待する」:いいえ。
- DataHub vs. 独自のカタログ:有料プラットフォームは、よりターンキーのコンプライアンスとUIの光沢を提供するかもしれません。DataHubは、柔軟性、オープンAPI、そして強力なコストストーリーで対抗します。
DataHubの最高の部分(モンタージュ音楽をかける)
- 単なる芸術ではないリネージ。アラーム、影響分析、そして壊れたダッシュボードの削減。
- データを実際のチームと連携させる所有権とドメインモデル。
- 人々が実際に必要とする場所にある用語集とドキュメント。
- 活発なコミュニティと拡張性を備えたオープンソースの基盤。
DataHubがつまずく場所(ユニコーンツールはないので)
- セットアップは「次へ、次へ、完了」ではありません。インフラの快適さといくつかのYAMLの忍耐が必要です。
- UIの洗練度は機能によって異なります。致命的なものはありませんが、すべてがAppleストアのように輝いているわけではありません。
- 変更管理は現実です。データカタログは、50%がソフトウェア、50%が文化です。誰もドキュメントを書かない場合、どのツールもあなたを救うことはできません。
ハンズオン:7日間のDataHubクイックローンチプラン
レビューは、それに基づいて行動できる場合にのみ役立つため、PMを悲しませない1週間の計画をご紹介します。
1日目:上位2〜3個のソース(例:Snowflake, dbt, Looker)を選択し、目標を設定します。「重複するダッシュボードを30%削減する」は、「メタデータを採用する」よりも優れています。
2日目:サンドボックスをデプロイします。Docker Composeまたはマネージドオプションを使用します。SSOを早期に接続します。
3日目:上位ソースのインジェストを構成します。構成をバージョン管理します。最初の同期を実行します。表面化したすべての壊れたリンクを祝福してください—それらはバグの前兆です。
4日目:ドメインと所有権を定義します。実際の人間(「データチーム」ではない)を割り当てます。各ドメインにSlackチャネルを追加します。
5日目:5つの小さなドキュメントを書きます。最も使用されているテーブルに1つ、最も議論されているKPIに1つ、ユーザーがののしる不安定なパイプラインに3つ。
6日目:「アクティブユーザー」、「revenue」、「churn」の用語集の用語を追加します。それらをアセットにリンクします。バッジを適用します:verified、deprecated、in review。
7日目:ランチアンドラーンチを開催します。検索、リネージ、所有権をデモします。録画します。フィードバックフォームを追加します。Slackに固定します。クッキーで賄賂を贈ります。良い種類の。
さまざまなチーム向けのDataHub:誰が何を得るか
- アナリスト:より迅速な発見、より少ないping、より明確なKPIの定義。「数値は正しいと誓います」が減ります。
- データエンジニア:所有権の明確さ、変更前の影響分析、サポートチケットの削減。
- BI開発者:リネージを意識したデプロイメント、信頼できるダッシュボード、より少ないバックログ。
- プロダクトマネージャー:ダッシュボードを自分で見つける(奇跡)。上流のリスクを理解する。
- セキュリティ/コンプライアンス:ガバナンスラベル、監査フレンドリーなリネージと所有権。
文化的な側面:メタデータ警察にならずに定着させる
- 所有権を公開します。すべてが「データ」によって所有されている場合、誰にも所有されていません。
- ドキュメントの貢献に報酬を与えます。スタンドアップでのシャウトアウトは無料で非常に効果的です。
- カタログの更新をPRに組み込みます。カラムの名前を変更してドキュメントを更新しない場合、ベルが鳴り、データエンジニアがコーヒーを失うはずです。
価格と価値:オープンソースは無料のユニコーンを意味するものではありません
DataHubのオープンソースコアは無料で実行できますが、時間でお金を払うことになります:セットアップ、ホスティング、メンテナンス。多くのチームは、柔軟性と長期的な制御のためにそれだけの価値があると判断しています。マネージドオファリングは、利便性、SLA、およびエンタープライズ機能を追加します。あなたのスプレッドシートはどちらにしても感謝するでしょう。
セキュリティとプライバシー:はい、あなたの法務チームは尋ねます
DataHubはメタデータを保存しますが、実際のデータは保存しません。それでも、重要なシステムと同じように扱います。
- 監査ログを保持します。将来のあなたは、誰が何をしたのかを知ることに感謝するでしょう。
予想外の小さな喜び
- パワーユーザー向けのキーボードショートカット。検索、フィルター、完了。
- 別のツールへの巡礼を必要としないインラインのカラムレベルの説明。
- ドキュメント/所有者を追加するように微妙に促す—冷蔵庫を優しく整理するきちんとした友達のように。
DataHubをスキップすべき人(今のところ)
- 単一のウェアハウスと5つの信頼できるダッシュボードを持つ小さなチーム。共有のREADMEで十分かもしれません。強調するのは「かもしれない」です。
- プロセスにアレルギーのある組織。あなたのチームが所有者を追加したり、1行のドキュメントを書くことを拒否した場合、どのカタログもあなたを救うことはできません。
結論:DataHubレビューの結論
あなたの会社に複数のデータストア、3つ以上のダッシュボード、そして混乱した人間が1人以上いる場合、DataHubは真剣に検討する価値があります。検索、リネージ、所有権という基本を抑えており、「どこかにあるデータ」から「誰かが見つけ、理解し、壊さないデータ」へと成長するためのプラットフォームを提供します。
注目すべき点:スタックを評価またはドキュメント化する際に、よりスマートなコパイロットが必要な場合は、{Sider.AI}が、ごちゃごちゃしたドキュメントの要約、オプションの比較、およびDataHubをシステムにマッピングする際のメモの整理に役立ちます。それは、あなたがマニュアルを読む必要がないように読んで、それをわかりやすい英語で説明してくれる友達と考えてください。
簡単な長所と短所(あなたは忙しいので)
長所:
- 実際の説明責任を促進する所有権、ドメイン、および用語集
短所:
- セットアップとインフラストラクチャには実際の労力が必要です
スクリーンショットできる最終的なポイント
- 小さく始める:上位3つのソース、明確な所有者、5つのドキュメント、3つの用語集の用語。
- インジェストを自動化し、さらに多くのことを自動化します。
- カタログを製品として扱います:ロードマップ、所有者、フィードバックループ。
- 完璧さが有用性を妨げないようにします。まともな説明は、空白のボックスよりも常に優れています。
DataHubが人であれば、オフィスの冷蔵庫にラベルを貼り、カレンダーのリマインダーを設定し、どういうわけか誰もをイライラさせずに従わせる同僚です。さまようダッシュボードと不可解なメトリックの世界では、それはあなたが短縮ダイヤルに登録したいヒーローです。
よくある質問
Q1:DataHubは小規模チームに適していますか、それとも過剰ですか?
ウェアハウスが1つとダッシュボードが5つしかない場合、DataHubは余分かもしれません。共有ドキュメントが機能する可能性があります。より多くのソース、より多くの人々、そしてより多くの混乱を追加すると、このデータカタログは、より少ないpingとより明確な定義でその価値を発揮し始めます。
Q2:他のデータカタログと比較して、DataHubのセットアップはどれくらい難しいですか?
ワンクリックではありませんが、Docker/Kubernetesの快適さといくつかのYAMLがあれば可能です。インジェストフレームワークは堅牢で、サービスを見張る必要がない場合は、マネージドオプションが荒れたエッジを滑らかにします。
Q3:DataHubのリネージがきれいなグラフよりも優れている点は何ですか?
影響分析と所有権です。上流の変更を人々が実際に凝視するダッシュボードまで追跡し、数値がおかしくなる前に適切な人間に通知することができます。それは火事を描くだけでなく、火事を防ぐリネージです。
Q4:DataHubはガバナンスとコンプライアンスのニーズに対応できますか?
はい、メタデータレベルで:verified/deprecatedバッジ、所有権、ドメイン、およびポリシー。厳格なコンプライアンスのために、既存のコントロールと組み合わせます—DataHubは地図とラベルを提供するため、監査は宝探しではありません。
Q5:DataHubは独自のデータカタログとどのように比較されますか?
独自のツールは、ターンキーガバナンスでより輝かしいものになる可能性があります。DataHubの売りは、オープンソースの柔軟性、強力な検索、および現実世界で有用なリネージです。制御とコミュニティを重視する場合は、魅力的な選択肢です。