-
Notifications
You must be signed in to change notification settings - Fork 0
MS_AzureDataExplorer
- 戻る(AzureのBI系サービス)
- Power BI
- Azure Analysis Services
- Azure Data Explorer
- Elastic on Azure
- Azure Synapse
大量のデータ ストリーミングをリアルタイムに
分析するためのフル マネージドのデータ分析サービス
※ KQL (Kusto Query Language) が特徴的なので
ストリーム処理テクノロジではなく
BI 系サービスに分類。
補足(この分類判断について): 原文の分類は妥当である。
Data Explorer は流れてくるデータをその場で加工する
(ストリーム処理)のではなく、
高速に取り込んで蓄積し、後からクエリで探索するサービスだからである。【ストリーム処理】 データ ─▶ 変換・集計 ─▶ 出力(通過する) 【Data Explorer】 データ ─▶ 取り込み ─▶ [ 蓄積 ] ─▶ クエリ(貯める)ただし取り込みの遅延が小さい(数秒〜数分)ため、
結果として「リアルタイム分析」に見えるというのが実態。
-
雑に言うとログのリアルタイム分析用
-
または、ストリーミングのリアルタイム分析用
-
- データを探索し、
- パターンを検出し、
- 異常と外れ値を特定し、
- 統計モデリングを作成する。
補足(Log Analytics との関係): 両者は
同じ Kusto エンジンの上に作られている。違いは「誰のためのものか」。
Log Analytics Azure Data Explorer 主な用途 Azure の運用監視(Azure Monitor の一部) 任意の業務データの分析 データソース 診断設定、エージェント(Azure 中心) 何でも(IoT、業務ログ、テレメトリ) スキーマ Azure が定義したテーブルが中心 自分で定義する 課金 取り込み量 + 保持期間 クラスタ(VM)の稼働時間 クエリ KQL KQL(同じ) 「大量に入れると Log Analytics では高額になる」
という場合に、Data Explorer のクラスタ課金の方が
有利になることがある、というのが選択の一つの軸。
sku の name や tier で決まるらしい。
補足: クラスタは **VM のサイズ(
name)と
レベル(tier: Basic / Standard)**で構成する。
Basic は単一ノードで SLA が無く検証向け、
Standard は複数ノードで可用性とスケールが得られる。なお、現在は 無料クラスター(機能制限あり・カード登録不要)が
提供されており、学習用途ならこれで足りる。
また、クラスタ課金を避けたい場合は
**Microsoft Fabric の Real-Time Intelligence(Eventhouse)**が
同じエンジンをサーバーレス的に提供している。
補足(運用上の注意): Data Explorer のクラスタは
起動している間ずっと課金される(クエリしなくても)。
検証で作った場合は、
- 使わない時間帯は 停止する(
az kusto cluster stop)、- 自動停止(一定期間アクセスがないと停止する設定)を有効にする、
といった対処が必要。
Azureの課金 の「想定外の課金」の典型例になりやすい。
-
Azure Data Explorer ことはじめ - Qiita
https://qiita.com/mihochannel/items/2d94f26be59776580b76 -
Azure に挑戦!(IoT Hub と Data Explorer を用いてデータを可視化)
https://houwa-js.co.jp/2021/09/azureiot/ -
Azure Data Explorer ができることを理解する | Think IT(シンクイット)
https://thinkit.co.jp/article/17975
- Data Explorer - 分析サービス
https://azure.microsoft.com/ja-jp/products/data-explorer/
- Azure Data Explorer のドキュメント
https://learn.microsoft.com/ja-jp/azure/data-explorer/
Tags: 移行, クラウド, ビッグデータ, Azure
このWikiは「Open棟梁Project」,「OSSコンソーシアム 開発基盤部会」によって運営されています。