id stringlengths 5 7 | category stringclasses 21
values | topic stringlengths 3 16 | qtype stringclasses 1
value | aspect stringclasses 1
value | difficulty stringclasses 1
value | instruction stringclasses 1
value | input stringclasses 1
value | output stringclasses 1
value | lang stringclasses 1
value | source stringclasses 1
value | text stringlengths 53 1.02k |
|---|---|---|---|---|---|---|---|---|---|---|---|
pre_0 | 分散処理エンジン | spark | ja | synthetic | # Apache Spark 4.x
カテゴリ: 分散処理エンジン
タグ: Spark, Spark Connect, 分散処理, Databricks, バッチ
## 概要
Spark 4.0は2025年5月にGAされ、2026年時点の最新系は4.2系（2026年7月リリース）まで進んでいる。
ANSI SQLモードがデフォルトになり、キャスト時の精度損失や暗黙の型変換がエラーになるなど標準SQL準拠の挙動が強まった。
VARIANT型が追加され、半構造化JSONを1カラムに格納してもネストしたフィールドを効率的にクエリできる。
Spark ConnectはPySpark・Scalaに加え、コミュニティ版のGo・Swift・R... | ||||||
pre_1 | 分散処理エンジン | spark | ja | synthetic | # Apache Spark 4.x よくある質問
Q: Spark 4.xへの移行で最初にやることは？
A: ANSI SQLモードの影響範囲を洗い出すことです。nightlyの回帰テストを用意し、暗黙キャスト・精度損失・Nullイン構文の差分を洗い出します。並行してspark.api.mode=connectを検討し、段階的にConnectへ移行するとローカル開発も軽くなります。
Q: Spark Connectとクラシックモードはどう使い分ける？
A: 新規開発はSpark Connectを推奨します。クライアントが軽量でリモート接続でき、サーバ側でUDFを管理できます。既存のクラシックジョブはそのまま動かしつつ、リスクの... | ||||||
pre_2 | 分散処理エンジン | flink | ja | synthetic | # Apache Flink 2.x
カテゴリ: 分散処理エンジン
タグ: Flink, ストリーミング, ForSt, Materialized Table, クラウドネイティブ
## 概要
Flink 2.0は2025年3月にGAされ、2026年時点では2.x系が最新ラインである。
分散ステート管理（Disaggregated State）が導入され、ステートの主記憶をS3/HDFSなどのDFSに置ける。
ForSt（For Streaming）はLSMツリー abstractionでローカルとリモートのステートアクセスを統合するステートバックエンドである。
非同期実行モデルにより、リモートステートアクセスのレイテンシを隠蔽... | ||||||
pre_3 | 分散処理エンジン | flink | ja | synthetic | # Apache Flink 2.x よくある質問
Q: Flink 2.0の分散ステート管理は何が嬉しいの？
A: ステートサイズがローカルディスクに縛られなくなり、コンピュートとストレージを独立にスケールできます。さらにステートがDFSにあることでリカバリやリスケールが軽量になり、Kubernetes上での運用がしやすくなります。
Q: SparkとFlinkはどう使い分ける？
A: Flinkは低レイテンシ・真のストリーミング・複雑なイベント時間処理に強く、Sparkは巨大バッチ・SQL統一・ML/BIエコシステムに強いです。多くの現場は取り込みと集約にFlink、成形とFeature/学習にSparkという役割分担に落ち... | ||||||
pre_4 | ストリーミング基盤 | kafka | ja | synthetic | # Apache Kafka 4.x
カテゴリ: ストリーミング基盤
タグ: Kafka, KRaft, イベントストリーミング, キュー, Connect
## 概要
Kafka 4.0は2025年3月にリリースされ、ZooKeeperを完全に廃止してKRaftモードのみになった。
KRaftによりメタデータ管理がコントローラクォーラムに集約され、運用コンポーネントが減ってスケールした。
クライアントの最小要件はJava 11、ブローカ・Connect・ツールはJava 17が必要。
古いメッセージフォーマットv0/v1が削除され、v2が前提になった。
KIP-896によりクライアント/ブローカ間の最小サポートバージョンが引き... | ||||||
pre_5 | ストリーミング基盤 | kafka | ja | synthetic | # Apache Kafka 4.x よくある質問
Q: ZooKeeper廃止の影響は？
A: KRaftモードで運用することが前提になり、別途ZooKeeperアンサンブルを運用する必要がなくなります。3.xからのアップグレードでは、まず3.9以降でKRaftへ移行してから4.0へ上げる手順が公式に推奨されています。
Q: キューとストリームの違いはKafka 4.xでどう扱う？
A: Kafka従来のコンシューマグループはストリームセマンティクス（各メッセージを1回消費）でした。4.xではqueues/share groupsにより、複数ワーカーで競合消費するキューセマンティクスも使えます。用途に応じてどちらを選ぶか明確に... | ||||||
pre_6 | ストリーミング基盤 | streaming-basics | ja | synthetic | # ストリーミング処理の基礎設計
カテゴリ: ストリーミング基盤
タグ: ストリーミング, ウォーターマーク, ウィンドウ, exactly-once
## 概要
ストリーミング処理の3本柱は、at-least-once配送・冪等シンク・重複排除である。
ウォーターマークはイベント時間の進みを宣言し、ウィンドウを閉じるトリガーを決める。
イベント時間と処理時間の差（レイテンシ）を把握し、allowed latenessで遅延データをどこまで待つか設計する。
ウィンドウにはタンブリング・スライディング・セッション・グローバルがあり、集計の意味が変わる。
サイド出力で遅延データやメインストリーム外のイベントを分離できる。
exact... | ||||||
pre_7 | ストリーミング基盤 | streaming-basics | ja | synthetic | # ストリーミング処理の基礎設計 よくある質問
Q: exactly-onceはどうやれば実現できる？
A: クライアント/プロデューサの冪等化とトランザクション、シンク側の冪等書き込み（MERGE UPSERTやユニークキー制約）を組み合わせます。完全な exactly-once はコストが高いので、多くの現場は at-least-once + シンク冪等で実用上の exactly-once を達成します。
Q: ウィンドウはどう選べばいい？
A: 固定間隔の集計ならタンブリング、移動平均ならスライディング、ユーザー行動の間隔検出ならセッション、全期間累計ならグローバルです。集計の意味とダッシュボードの見方とセットで決めるのが... | ||||||
pre_8 | ストリーミング基盤 | cdc | ja | synthetic | # CDC（Change Data Capture）
カテゴリ: ストリーミング基盤
タグ: Debezium, CDC, outbox, Flink CDC, binlog
## 概要
CDCはRDBの変更ログ（binlog/redo/WAL）を読み、INSERT/UPDATE/DELETEをイベントとして流出させる技術である。
DebeziumはKafka Connect上でMySQL/PostgreSQL/SQL Server/Oracle/Db2などのCDCを提供する。
スナップショット初期ロード後は増分変更を読み継ぐため、抽出クエリでソースDBに負荷をかけにくい。
Outboxパターンは、業務トランザクション内でイベン... | ||||||
pre_9 | ストリーミング基盤 | cdc | ja | synthetic | # CDC（Change Data Capture） よくある質問
Q: なぜSELECTで差分抽出ではなくCDCを使う？
A: 差分SELECTは更新・削除を取得しづらく、ソースDBに継続的な負荷をかけます。CDCは変更ログを読むだけなので遅延が小さく、DELETEも確実に取得でき、ソースへの影響も抑えられます。
Q: Outboxパターンのガベージ管理は？
A: 配信完了済み行は別テーブルへアーカイブまたはパーティション単位でドロップします。配信確認はコンシューマ側のOffsetと突き合わせ、compact化を定期バッチで回すのが定石です。
Q: CDCで遅延が大きくなる原因は？
A: 巨大トランザクションのコミット待ち、... | ||||||
pre_10 | ストリーミング基盤 | streaming-db | ja | synthetic | # ストリーミングデータベース（RisingWave / Materialize / Pathway）
カテゴリ: ストリーミング基盤
タグ: RisingWave, Materialize, ストリーミングDB, Materialized View
## 概要
RisingWaveはPostgreSQL互換のストリーミングデータベースで、ストリームのMaterialized Viewを継続的に維持する。
MaterializeはPostgreSQL互換で、増分ビューを維持しつつ標準SQLでストリーミング処理を書ける。
両者とも「ビューを定義すると、あとは自動で最新に保たれる」モデルである。
バッチとストリームの両入力からビュー... | ||||||
pre_11 | ストリーミング基盤 | streaming-db | ja | synthetic | # ストリーミングデータベース（RisingWave / Materialize / Pathway） よくある質問
Q: FlinkとRisingWave/Materializeはどう違う？
A: Flinkはプログラマブルな汎用ストリーム処理基盤で、細かい制御と高い表現力が魅力です。ストリーミングDBはSQLでMVを定義するだけで運用できる手軽さが魅力です。要件の複雑さと運用体制で選びます。
Q: リアルタイムダッシュボードの構成は？
A: Kafka→RisingWaveでMV集計→Superset/Metabase参照が最短です。ただし分析負荷が高い場合やアドホックが欲しい場合は、結果をIceberg/DWHにも書き出し... | ||||||
pre_12 | DWH / SQL | bigquery | ja | synthetic | # Google BigQuery
カテゴリ: DWH / SQL
タグ: BigQuery, GCP, DWH, continuous queries, BigLake
## 概要
BigQueryはサーバレスDWHで、ストレージとコンピュートが分離されスロット課金/オンデマンド課金を選べる。
editions（スタンダード/エンタープライズ/エンタープライズプラス）とオンデマンドのハイブリッドが基本。
continuous queriesでストリーミングSQLを継続実行でき、Flink代替の入り口になる。
BI Engineと検索インデックスで、ダッシュボードを高速化できる。
BigLakeはIceberg/Delta/Hu... | ||||||
pre_13 | DWH / SQL | bigquery | ja | synthetic | # Google BigQuery よくある質問
Q: BigQueryのコストを下げる定石は？
A: パーティション/クラスタの設計、SELECT *の排除、BI Engine/materialized viewの活用、スロット予約の最適化です。INFORMATION_SCHEMAで定期的に高スキャンジョブを洗い出し、クエリを改善する運用を回します。
Q: continuous queriesとFlinkの使い分けは？
A: SQL中心の軽量ストリーミング変換ならcontinuous queries、複雑なステートフル処理やJava資産の活用ならFlink（Managed Service）を選びます。BigQueryに寄せるな... | ||||||
pre_14 | DWH / SQL | snowflake | ja | synthetic | # Snowflake
カテゴリ: DWH / SQL
タグ: Snowflake, Snowpark, 動的テーブル, Iceberg, Cortex
## 概要
Snowflakeはストレージとコンピュートが完全に分離されたマルチクラスタ対応のDWHである。
Dynamic Tablesで宣言的にストリーミング→テーブルのパイプラインを構築できる。
Snowpark（Python/Scala/Java UDF/プロシージャ）でDWH内で複雑なロジックを実行できる。
Icebergテーブルを外部/内部として扱え、SnowflakeのパフォーマンスとIcebergの相互運用を両立できる。
Cortex（AI SQL、Docume... | ||||||
pre_15 | DWH / SQL | snowflake | ja | synthetic | # Snowflake よくある質問
Q: Snowflakeのコスト設計は？
A: 自動サスペンドを短めに設定し、用途別ウェアハウス（ETL/BI/ad-hoc）に分離します。リソースモニターで異常を検知し、大きなクエリはクエリプロファイルで改善します。マルチクラスタウェアハウスは高負荷時のみスケールさせます。
Q: Icebergテーブルはどのような場面で使う？
A: Delta/Iceberg資産をSnowflakeから直接読み書きしたい場合や、データを他エンジン（Spark/Trino/DuckDB）と共有したい場合に有効です。相互運用とSnowflakeの運用性のバランスで、内部Icebergテーブルと外部テーブルを使... | ||||||
pre_16 | DWH / SQL | redshift | ja | synthetic | # Amazon Redshift
カテゴリ: DWH / SQL
タグ: Redshift, AWS, DWH, Zero-ETL, RA3
## 概要
RedshiftはAWSのMPP型DWHで、RA3ノードではコンピュートとストレージが分離される。
Zero-ETL連携により、Aurora/RDS/DynamoDB等からのニアリアルタイム反映が可能。
Spectrum→Redshift Managed Storageの流れで、S3上の Parquet/ORC を外部テーブルとして参照できる。
Serverless版（RA3サーバレス/Provisionedの選択）で、ワークロードに合わせた課金形態を選べる。
ソートキー・分... | ||||||
pre_17 | DWH / SQL | redshift | ja | synthetic | # Amazon Redshift よくある質問
Q: Redshiftのコスト最適化の基本は？
A: ノード種類と台数の見直し、自動一時停止/再開、コンパクション/ソート/ANALYZEの自動化、マテリアライズドビューの活用です。システムテーブルで遅いクエリと偏りスライスを可視化してボトルネックを潰します。
Q: Zero-ETL連携はどう使う？
A: AuroraやDynamoDBなどのソースを指定してRedshiftターゲットに紐づけると、変更が自動反映されます。変換はSQL（MERGE）で行うのが基本で、複雑な加工は取り込み後のパイプラインで段階的に行います。 | ||||||
pre_18 | DWH / SQL | trino | ja | synthetic | # Trino（分散SQLエンジン）
カテゴリ: DWH / SQL
タグ: Trino, Presto, 分散SQL, フェデレーション, Iceberg
## 概要
Trinoはストレージに手を付けず、任意のデータソースをANSI SQLで横断検索できる分散SQLエンジンである。
コネクタ（Hive/Iceberg/Delta/Postgres/MySQL/Kafka/ES/Mongo等）を差し替えるだけでソースを追加できる。
MPPアーキテクチャで、インプロセスのロングランではなくクラスタで水平スケールする。
IcebergコネクタはMERGE・タイムトラベル・スキーマ進化に対応し、Lakehouse問い合わせの主戦力。
... | ||||||
pre_19 | DWH / SQL | trino | ja | synthetic | # Trino（分散SQLエンジン） よくある質問
Q: TrinoとSparkの使い分けは？
A: TrinoはSQLによる新鮮な横断検索・BI向き、Sparkは複雑なETL・ML・ストリーミング・大規模バッチ向きです。LakehouseではIcebergを中心に、参照はTrino/DuckDB、加工はSparkという分担が定番です。
Q: TrinoのOOM対策は？
A: クエリあたりのメモリ上限を見直し、ブロードキャストJOINのしきい値を調整し、ソート/集約前にパーティション絞り込みを入れます。巨大JOINはあらかじめ集約テーブルを作ってからJOINするのが安全です。 | ||||||
pre_20 | DWH / SQL | realtime-olap | ja | synthetic | # StarRocks / ClickHouse（リアルタイムOLAP）
カテゴリ: DWH / SQL
タグ: StarRocks, ClickHouse, リアルタイム, OLAP, ユーザー定義分析
## 概要
StarRocksはMySQL互換プロトコルの分散OLAPで、主キーモデルと高速JOINでユーザー向け分析に強い。
ClickHouseは列志向で極めて高いスキャン性能を持ち、ログ分析のデファクトになりつつある。
両者とも「ストリーミング取り込み→即座にクエリ可能」が売りで、ダッシュボードの低遅延化に使う。
StarRocksはAggregate/Duplicate/Unique/Updateモデルを選べ、更新系も... | ||||||
pre_21 | DWH / SQL | realtime-olap | ja | synthetic | # StarRocks / ClickHouse（リアルタイムOLAP） よくある質問
Q: StarRocksとClickHouseはどう選ぶ？
A: MySQL互換で既存SQLを活かし、更新やJOIN中心のユーザー向け分析ならStarRocks。ログ・メトリクス系のスキャン性能とエコシステム（Grafana等）を重視するならClickHouseです。パーティション設計と運用体制も判断材料にします。
Q: ユーザー向けダッシュボードの遅延を1秒以内にするには？
A: Kafkaから直接取り込み、パーティション/ソートキー/事前集約MVを設計し、クエリはユーザーIDで絞り込む形に寄せます。BI側はキャッシュしつつ、ホットな集計は... | ||||||
pre_22 | DWH / SQL | sql-craft | ja | synthetic | # SQL実践（ビッグデータSQL）
カテゴリ: DWH / SQL
タグ: SQL, ウィンドウ関数, MERGE, チューニング
## 概要
大規模SQLでは「絞り込みを先に」「集約を先に」「JOINは最後」が鉄則である。
ウィンドウ関数（ROW_NUMBER, RANK, LAG, SUM OVER）で、自己結合を使わずにランクや累積を表現できる。
QUALIFY句（BigQuery/Databricks/Snowflake）でウィンドウ関数の結果を直接フィルタできる。
MERGE INTOでUPSERTを1文で書けるが、条件の重複に注意。
再帰CTEで階層（組織・カテゴリ）を辿れる。
GROUPING SETS / CU... | ||||||
pre_23 | DWH / SQL | sql-craft | ja | synthetic | # SQL実践（ビッグデータSQL） よくある質問
Q: 遅いSQLの切り分け手順は？
A: EXPLAIN/ANALYZEで実行計画を見て、フルスキャン・大きなシャッフル・スキューを確認します。絞り込みと集約の順序を見直し、不要なJOINを減らし、最後にパーティション設計と統計情報の更新で対応します。
Q: SQLの可読性とパフォーマンスを両立するコツは？
A: CTEで意図を名前付けし、各CTEが1つの責務を持つように分割します。必要なカラムだけをSELECTし、JOINキーの型を揃え、WHEREは可能な限り上流に入れます。dbt + SQLFluffで機械的にチェックすると崩れません。 | ||||||
pre_24 | テーブル格式 | iceberg | ja | synthetic | # Apache Iceberg
カテゴリ: テーブル格式
タグ: Iceberg, レイクテーブル, RESTカタログ, Polaris, タイムトラベル
## 概要
Icebergはオープンテーブル形式で、Parquet/ORC/Avroのデータファイルと、スナップショットというメタデータでバージョン管理する。
「hidden partitioning」により、物理パーティションの進化を気にせず論理パーティションを進化できる。
スキーマ進化（カラム追加・型変更・並べ替え）はメタデータのみで完結し、データ書き換えが不要。
タイムトラベルとロールバックで、誤更新時もスナップショットに戻せる。
RESTカタログ仕様により、Pola... | ||||||
pre_25 | テーブル格式 | iceberg | ja | synthetic | # Apache Iceberg よくある質問
Q: Icebergの運用でやることリストは？
A: compaction（小ファイル統合）、スナップショット期限管理、orphan file整理、統計更新、カタログの監査です。これらはワークフローで定期実行し、メタデータ肥大化とスキャン遅延を防ぎます。
Q: なぜIcebergが標準になったの？
A: エンジン非依存のRESTカタログ、hidden partitioning、スキーマ進化、タイムトラベルが、レイク運用の実課題をそのまま解決したためです。2026年はS3 Tables等のマネージドIcebergも増え、選択肢としての優位が固まりました。 | ||||||
pre_26 | テーブル格式 | delta | ja | synthetic | # Delta Lake
カテゴリ: テーブル格式
タグ: Delta Lake, Databricks, UniForm, Liquid Clustering
## 概要
Delta LakeはSpark/Databricksエコシステムで広く使われるオープンテーブル形式である。
トランザクションログ（_delta_log）によりACIDとスナップショットを実現する。
Liquid Clusteringでパーティション設計の制約を緩和し、多次元クラスタリングができる。
Deletion Vectorで削除/更新を高速化し、CoWの書き込み増幅を抑える。
UniFormにより、DeltaテーブルをIcebergとしても読み取れる... | ||||||
pre_27 | テーブル格式 | delta | ja | synthetic | # Delta Lake よくある質問
Q: Liquid Clusteringとは？
A: 従来のパーティション分割に代わり、複数カラムをクラスタリングキーとして柔軟にチューニングできる仕組みです。パーティション値の爆発を避けながら、絞り込み性能を確保したい場面で効果を発揮します。
Q: DeltaとIcebergはどちらを選ぶ？
A: Databricks中心ならDeltaが最も機能が揃います。マルチエンジン・標準カタログを重視するならIcebergです。2026年はUniForm/S3 Tables等で相互運用が進み、両立する選択肢も増えています。 | ||||||
pre_28 | テーブル格式 | hudi | ja | synthetic | # Apache Hudi
カテゴリ: テーブル格式
タグ: Hudi, Upsert, MOR, レイクテーブル
## 概要
HudiはUpsertと増分処理を得意とするオープンテーブル形式である。
Copy-on-Write（MoRでない）とMerge-on-Readの2テーブルタイプを持つ。
MoRは書き込みをログに追記し、compactionでパーティション化する。
インクリメンタルクエリで、前回からの差分だけを読み出せる。
Hudi StreamerでSpark/Flinkからストリーミング取り込みができる。
インデックス（グローバル/バケット/Bloom）で、重複排除とUpsertを高速化。
Spark中心の歴史があ... | ||||||
pre_29 | テーブル格式 | hudi | ja | synthetic | # Apache Hudi よくある質問
Q: Hudi・Iceberg・Deltaの選び分けは？
A: 既存Hudi資産や特殊なインクリメンタル要件ならHudi継続、Databricks中心はDelta、マルチエンジン相互運用はIcebergが2026年の基本です。新規ではIceberg/Deltaが無難で、Hudiは運用継続の判断になります。 | ||||||
pre_30 | テーブル格式 | catalog | ja | synthetic | # カタログとメタデータ（Unity Catalog / Polaris / Gravitino / Nessie）
カテゴリ: テーブル格式
タグ: Unity Catalog, Polaris, Gravitino, Nessie, メタデータ, OpenLineage
## 概要
Iceberg RESTカタログ仕様により、メタデータ管理がエンジンから独立した。
Apache PolarisはSnowflake発のOSSで、Iceberg RESTカタログのデファクト実装になりつつある。
Unity CatalogはDatabricks系で、テーブル・ファイル・モデルまで一元的にガバナンスできる。
Apache Gravi... | ||||||
pre_31 | テーブル格式 | catalog | ja | synthetic | # カタログとメタデータ（Unity Catalog / Polaris / Gravitino / Nessie） よくある質問
Q: 行レベルセキュリティはどう実現する？
A: カタログ/DWH側の行アクセスポリシーで、ユーザー属性に応じた行フィルタを集中管理します。テナントIDカラムを全テーブルに持たせ、ビュー/ポリシー経由でのみ参照させる設計にすると、監査も一箇所で済みます。
Q: なぜRESTカタログが重要なの？
A: Spark/Flink/Trino/DuckDBが同じメタデータを見ることで、テーブルの一貫性と権限管理が一元化されます。ファイルを直接触る運用をやめ、カタログ起点のアクセスに統一すると、ガバナンスとリ... | ||||||
pre_32 | テーブル格式 | lakehouse | ja | synthetic | # レイクハウス設計
カテゴリ: テーブル格式
タグ: レイクハウス, Iceberg, Delta, メダリオン, アーキテクチャ
## 概要
レイクハウスは「低コストなオブジェクトストレージ」に「DWHのトランザクション/ガバナンス」を乗せたアーキテクチャ。
メダリオンアーキテクチャ（Bronze→Silver→Gold）は、鮮度と品質の層でデータを整理する定番。
Bronzeは生データの履歴、Silverはクレンジング・準標準化、Goldはビジネス集計・マート。
マルチエンジン（Spark/Flink/Trino/DuckDB）が同じテーブルを読むことで、部門ごとの最適化が可能。
コストは分離コンピュート＋Spot＋ライフ... | ||||||
pre_33 | テーブル格式 | lakehouse | ja | synthetic | # レイクハウス設計 よくある質問
Q: レイクハウス移行の進め方は？
A: ①基準テーブル格式（Iceberg/Delta）とカタログを決める②新規パイプラインからレイクハウス化③DWHはGoldマートの参照に限定④並行期間後にDWHの役割を縮小、の順が安全です。移行期は二重書き込みではなく、カタログ経由の参照統一で進めます。
Q: 非構造データもレイクハウスに載せる？
A: はい。Document AIや非構造データ抽出でテキスト化し、Icebergのテーブルとして同じガバナンス下に置く流れが2026年の定番です。元ファイルはS3に、抽出テキストとメタデータはIcebergに、という二層構成が現実的です。 | ||||||
pre_34 | オーケストレーション | airflow | ja | synthetic | # Apache Airflow 3.x
カテゴリ: オーケストレーション
タグ: Airflow, Task SDK, オーケストレーション, バックフィル
## 概要
Airflow 3.0は2025年4月にGAされ、サービス指向アーキテクチャへ大きく変わった。
DAGは airflow.sdk 名前空間（Task SDK）から DAG/@dag/@task をインポートして書く。
Reactベースの新UI、イベント駆動スケジューリング、スケジューラ管理のバックフィルが追加された。
Task Execution APIにより、タスクをAirflow外のコンテナやリモートランタイムで実行できる。
legacyモデジュール（ai... | ||||||
pre_35 | オーケストレーション | airflow | ja | synthetic | # Apache Airflow 3.x よくある質問
Q: Airflow 2.xから3.xへの移行でやることは？
A: ①airflow.sdkへのimport変更②Task SDK対応プロバイダへの更新③イベント駆動/新UIの確認④（あれば）アセットへの依存設計の見直しです。移行はDAG単位で段階的に行い、CIでパース検証を回します。
Q: Airflowは何に向かない？
A: 低レイテンシストリーミング（Flink/kafka consumer）、複雑な依存グラフの自動化（Dagster/SQLMeshが強い）、数分おきの高頻度実行（スケジューラ負荷）には向きません。使い分けの設計が重要です。
Q: 冪等なDAGを書く... | ||||||
pre_36 | オーケストレーション | dagster | ja | synthetic | # Dagster
カテゴリ: オーケストレーション
タグ: Dagster, Software-Defined Assets, 宣言的オートメーション
## 概要
DagsterはSoftware-Defined Assets（SDA）を中心に据えるオーケストレーションフレームワークである。
SDAでは「何を作るか（アセット）」を定義し、依存関係を自動でグラフ化する。
宣言的オートメーション（Declarative Automation）で、ソース更新を検知して自動マテリアライズする。
アセットのリネージ・メタデータ・型チェックをフレームワークが一元管理する。
パーティション単位のマテリアライズとバックフィルが強力。
Dags... | ||||||
pre_37 | オーケストレーション | dagster | ja | synthetic | # Dagster よくある質問
Q: AirflowとDagsterの使い分けは？
A: 既存の複雑なバッチ連携が多いならAirflow、「データ製品」単位で管理して自動更新させたいならDagsterが向きます。新規でデータ中心の構成を作るならDagsterの方が開発体験が良いという評価が多いです。
Q: SDAのメリットは？
A: 依存を自動で解釈してくれるので、DAGのつなぎ忘れが減り、アセット単位の観測・テスト・バックフィルができます。「このテーブルは何から作られているか」が常にコードとUIで一致するのが最大の利点です。 | ||||||
pre_38 | 変換 | dbt | ja | synthetic | # dbt（Fusion / Core v2.0）
カテゴリ: 変換
タグ: dbt, Fusion, Rust, ADBC, dbt-mesh, セマンティック
## 概要
dbt Fusionは2025年5月発表のRust製新エンジンで、dbt Core v1系の後継基盤。
2026年6月にdbt Core v2.0の初alphaが公開され、Fusionのランタイム基盤がApache 2.0でOSS化された。
Fusionはdbt Core比で最大30倍速いパースを実現し、巨大プロジェクトでも秒でコンパイルできる。
SQL理解（SQL comprehension）により、列レベルリネージやエラー即時検出がVS Code内で可... | ||||||
pre_39 | 変換 | dbt | ja | synthetic | # dbt（Fusion / Core v2.0） よくある質問
Q: dbt Core v1からv2/Fusionへの移行は？
A: ①プロジェクトのアダプタ・パッケージのFusion対応確認②CIでの差分実行テスト③Unit tests整備④段階的に環境を移行です。v1は当面メンテされるため、急がず、ただし新規プロジェクトはFusionで始めるのが2026年の基本です。
Q: dbtの層構成はどうする？
A: staging（ソースの1:1クレンジング）→intermediate（加工）→marts（ビジネス露出）の3層が定番です。stagingは1ソース1ステージング、martsはビジネス用語で名前を付け、命名規約をCIで... | ||||||
pre_40 | 変換 | sqlmesh | ja | synthetic | # SQLMesh
カテゴリ: 変換
タグ: SQLMesh, 仮想環境, 列リネージ, CI
## 概要
SQLMeshはSQLモデルのバージョン管理とCIを前提とした変換フレームワークである。
仮想環境（Virtual Environment）で、同じデータを指す複数の論理ビューを分離できる。
PLAN/APPLYの2段階で、本番変更のプレビューと適用を分離する。
列レベルリネージが標準で、影響範囲の把握が容易。
incremental by time_range/idで、増分モデルを簡単に定義。
audit（監査クエリ）をモデルに紐づけて、変更前後の整合性を自動チェック。
Python不要（SQLとYAMLのみ）で、非Py... | ||||||
pre_41 | 変換 | sqlmesh | ja | synthetic | # SQLMesh よくある質問
Q: dbtとSQLMeshのどちらを選ぶ？
A: すでにdbtエコシステム（パッケージ、semantic layer、コミュニティ）に乗るならdbt。SQLファーストのCI・環境分離・列リネージを最重視するならSQLMeshが強いです。2026年はdbt Fusionの登場で選択の幅が広がっています。 | ||||||
pre_42 | ローカル分析 | duckdb | ja | synthetic | # DuckDB 1.5系 / 2.0
カテゴリ: ローカル分析
タグ: DuckDB, 組み込みDB, DuckLake, Quack, wasm
## 概要
DuckDBはインプロセスの分析用SQL DBで、ローカルで数GBのParquetを秒で集計できる。
2026年3月に1.5（Variegata）がリリースされ、9月時点の最新は1.5.6。
1.4 LTS（2025年9月）にはMERGE INTOとAES-256暗号化、Dockerイメージが追加された。
1.5ではGEOMETRY/VARIANT型の標準搭載、新CLI、Azure書き込み対応、DuckLake v0.4が入った。
2.0は2026年秋リリース予定で、非... | ||||||
pre_43 | ローカル分析 | duckdb | ja | synthetic | # DuckDB 1.5系 / 2.0 よくある質問
Q: DuckDBの使いどころは？
A: ローカル/CIでの検証、データ探索、中規模ELT、プロトタイピングです。本番の大規模並列処理ではなく、「開発者が素早く確かめる」レイヤーで真価を発揮します。iceberg extensionで本番テーブルにそのままつなげるのも強みです。
Q: DuckLakeとは？
A: DuckDBチームのレイクテーブル形式で、メタデータ管理にDuckDBを使います。Icebergとの違いは、メタデータを標準的なDBテーブルとして扱えるためシンプルに始めやすい点です。本番の大規模運用はIcebergの方がエコシステムが厚いです。 | ||||||
pre_44 | ローカル分析 | polars | ja | synthetic | # Polars
カテゴリ: ローカル分析
タグ: Polars, Rust, lazy, ストリーミング, Arrow
## 概要
PolarsはRust製のDataFrameライブラリで、Arrowメモリモデル上で動く。
lazy API（LazyFrame）でクエリプランを最適化してから実行。
streamingエンジンでメモリより大きいデータも処理できる。
Pandas比で、同じ処理を数倍〜数十倍速く終えることが多い。
式（Expression）ベースのAPIは、列ごとの操作を宣言的に書ける。
Icebergのストリーミングシンクに対応し、lakehouseへの書き出しも可能（2026年）。
Polars Cloudでク... | ||||||
pre_45 | ローカル分析 | polars | ja | synthetic | # Polars よくある質問
Q: PandasからPolarsに移行すべき？
A: 処理速度・型安全・メモリ効率を重視するなら、です。既存のPandasコードは変換コストがかかるため、新規処理はPolars、既存はPandasのままという仁義もあり得ます。2026年はPandas 3.0も大幅に速くなったので、両方を触り比べて判断するのが現実的です。
Q: Polarsは本番ETLで使える？
A: はい。streamingエンジンとIcebergシンクにより、数十GB〜TB級のローカル/シングルノードETLが現実的です。並列分散が必要ならSpark/Flink、ノード1台で足りるならPolarsが軽量で速いです。 | ||||||
pre_46 | ローカル分析 | python-stack | ja | synthetic | # Python データスタック 2026
カテゴリ: ローカル分析
タグ: Python, uv, ruff, marimo, pydantic, pandas 3
## 概要
2026年のPythonデータ開発は、uvによる仮想環境・依存管理が標準になりつつある。
ruffはlint/formatを1ツールに統合し、black/isort/flake8を置き換える。
Python 3.13（2024年10月）と3.14（2025年10月）が主流で、free-threadedビルドの評価も進む。
pandas 3.0では文字列dtypeのデフォルトが変更（PDEP-14）され、Copy-on-Writeが標準。
PyArrow... | ||||||
pre_47 | ローカル分析 | python-stack | ja | synthetic | # Python データスタック 2026 よくある質問
Q: 2026年にアップデートすべきPythonツールは？
A: uv（依存管理）、ruff（lint/format）、pydantic v2、DuckDB/Polarsのどれかです。pandas 3.0への移行は、文字列dtypeのPDEP-14影響を確認してから段階的に進めます。
Q: marimoはJupyterと何が違う？
A: リアクティブにセルが連動し、実行順に依存しないのが最大の違いです。さらにPythonファイルとしてGit管理でき、アプリとしても共有できるため、データ検証や社内ツールの作成に適しています。 | ||||||
pre_48 | モデリング | modeling | ja | synthetic | # データモデリング（Kimball / Data Vault / OBT）
カテゴリ: モデリング
タグ: モデリング, スタースキーマ, SCD, Data Vault, アクティビティスキーマ
## 概要
ディメンショナルモデリングは、ファクトテーブル（計測値）とディメンション（文脈）に分ける。
スタースキーマは1ファクト＋複数ディメンション、スノーフレークは正規化したディメンション。
Kimballの4ステップ：業務プロセス選択→粒度宣言→ディメンション特定→ファクト特定。
粒度の宣言が最も重要で、「1行が何を表すか」を最初に決める。
代理キー（サロゲートキー）を使い、自然キーの変更に強い構成にする。
SCD（Slowl... | ||||||
pre_49 | モデリング | modeling | ja | synthetic | # データモデリング（Kimball / Data Vault / OBT） よくある質問
Q: スタースキーマとData Vaultのどちらを選ぶ？
A: BI集計のシンプルさと開発速度を取るならスタースキーマ、履歴・変更の完全性と規制対応を重視するならData Vaultです。多くの現場はGold層でスタースキーマ、Silver層で監査可能な正規形、という二段構えにしています。
Q: モデリングのテストは何を検証する？
A: ①ユニーク性（主キー）②参照整合性（ディメンションに存在しないキーが来ていないか）③行数の保存則④集計値のスポットチェックです。dbt testやcustom generic testで自動化します。 | ||||||
pre_50 | モデリング | contracts | ja | synthetic | # データコントラクトと ODCS
カテゴリ: モデリング
タグ: データコントラクト, ODCS, Soda, 契約, スキーマ
## 概要
データコントラクトは、プロデューサとコンシューマの間のデータの期待値を明文化した合意。
ODCS（Open Data Contract Standard）は、コントラクトの記述標準として注目されている。
スキーマ（型・必須・制約）・SLA（鮮度）・品質ルール・所有者・連絡先が契約の要素。
契約はコードとして管理（YAML/JSON/Protobuf）し、CIで検証・自動デプロイする。
pydantic/Avro/Protobufでスキーマを型として表現し、境界でバリデーション。
dbt ... | ||||||
pre_51 | モデリング | contracts | ja | synthetic | # データコントラクトと ODCS よくある質問
Q: コントラクトはどこまで厳格にやるべき？
A: まずは「スキーマと鮮度のSLA」から始め、破壊的変更のゲートを設けます。品質ルールは重要ファクトから順に追加し、全テーブルに一律は求めない方が現実的です。
Q: AIエージェントとコントラクトの関係は？
A: AIがSQLやパイプラインを生成する際、コントラクトは参照するスキーマ・制約・SLAの一次情報になります。コントラクトが整っているほど、AIの生成物は安全で正確になります。 | ||||||
pre_52 | データ運用 | quality | ja | synthetic | # データ品質（Soda / Great Expectations / Deequ / Elementary）
カテゴリ: データ運用
タグ: データ品質, Soda, Great Expectations, テスト, 異常検知
## 概要
データ品質は「正確性・完全性・一貫性・適時性・独自性」の5軸で定義する。
SodaはYAMLで品質チェックを宣言し、CIとパイプラインに組み込める。
Great Expectationsは Expectations を定義し、Data Docsで結果を可視化。
DeequはSpark上で大規模なユニットテストをスケールさせる（AWSチーム発）。
Elementaryはdbtと連携し、テスト結... | ||||||
pre_53 | データ運用 | quality | ja | synthetic | # データ品質（Soda / Great Expectations / Deequ / Elementary） よくある質問
Q: 品質テストの優先順位は？
A: ①主キーのユニーク/NOT NULL ②外部キー整合性 ③鮮度 ④業務値の範囲 then 分布の異常です。Goldの重要マートから順に厳格化し、Bronzeはスキーマ程度に抑えるのが現実的です。
Q: 異常検知はどう始める？
A: 行数、Null率、ユニーク数、平均値の4メトリクスを日次で記録し、3σや前週比較で外れ値を検知します。最初はアラートを出さずダッシュボードで観察し、ノイズを把握してから自動化します。 | ||||||
pre_54 | データ運用 | lineage | ja | synthetic | # リネージュ（OpenLineage / 列レベル）
カテゴリ: データ運用
タグ: OpenLineage, リネージュ, カラムレベル, 影響分析
## 概要
リネージは「データがどこから来て、どこへ行くか」の系譜である。
OpenLineageは、パイプラインからのリネージイベントの標準スキーマ。
Airflow/Spark/Flink/dbt等の多くのツールがOpenLineageイベントを射出。
テーブルレベルリネージは普及し、列レベルリネージが次の標準に。
列レベルリネージがあれば、カラム変更の影響範囲を正確に把握。
DataHub/OpenMetadata/Atlan等が、リネージの保存・可視化を担う。
Marq... | ||||||
pre_55 | データ運用 | lineage | ja | synthetic | # リネージュ（OpenLineage / 列レベル） よくある質問
Q: テーブルレベルリネージと列レベルの違いは？
A: テーブルレベルはA→Bの関係のみですが、列レベルはどのカラムがどのカラムに影響するかを追います。変更影響分析やPII追跡には列レベルが必須で、最近のdbt Fusion等で自動抽出が進んでいます。
Q: 列レベルリネージはどう構築する？
A: dbt Fusion/SQLパーサで自動抽出するか、SQLグリッパーでカラム依存を解析します。解析できない部分はメタデータに手動マッピングを追加し、カタログ上で統合します。 | ||||||
pre_56 | データ運用 | observability | ja | synthetic | # データオブザーバビリティ
カテゴリ: データ運用
タグ: オブザーバビリティ, モニタリング, インシデント, SLO
## 概要
データオブザーバビリティは、Metrics・Logs・Tracesを超えて「データの健康状態」を見る。
5本の柱：Freshness, Volume, Schema, Distribution, Lineage。
freshness: 最終更新からの経過時間で、パイプライン停止を即検知。
volume: 行数/バイト数の変化で、上流の異常を検知。
スキーマ: カラム追加・型変更・制約違反の自動検出。
ディストリビューション: 値の分布・カーディナリティの急変。
リネージ: 影響範囲の自動追跡で、... | ||||||
pre_57 | データ運用 | observability | ja | synthetic | # データオブザーバビリティ よくある質問
Q: アラートが多すぎて困っています。
A: しきい値と通知先を見直します。手順は①アラートを一覧化し頻度順に並べる②pages/ticketに分類③ノイズの原因（バースト的再実行等）を潰す④残った重要アラートにRunbookを紐付け、です。
Q: データSLOはどう設計する？
A: ビジネス影響から逆算します。「ダッシュボードは毎朝9時までに最新」が要件なら、パイプライン完了SLO 7:30、鮮度SLO 30分という形で分解し、エラーバジェットで運用します。 | ||||||
pre_58 | データ運用 | security | ja | synthetic | # データセキュリティとコンプライアンス
カテゴリ: データ運用
タグ: セキュリティ, APPI, PII, マスキング, RBAC, ABAC
## 概要
APPI（個人情報保護法）は2024-2025年にかけて改正が施行され、企業のデータ管理要件が強化。
PII（Personal Identifiable Information）はカラム単位で分類し、自動マスキング/トークン化。
RBAC（ロールベース）+ ABAC（属性ベース）のハイブリットが2026年の標準。
列レベルセキュリティと行レベルセキュリティを、カタログ/DWHで一元管理。
動的マスキング（ユーザー又はロールに応じて値を隠す）は、Snowflake/BigQ... | ||||||
pre_59 | データ運用 | security | ja | synthetic | # データセキュリティとコンプライアンス よくある質問
Q: 監査ログは何をどこまで取る？
A: 認証成否・クエリ実行・スキーマ変更・エクスポート操作を、ユーザー/時刻/対象リソース/結果とともに記録します。保存はWORM等の改変不能保管にして、少なくとも1年（業界によっては7年）保持する設計が基本です。
Q: PIIの取り扱いで最初にやることは？
A: ①PIIカラムの棚卸し（自動分類ツール併用）②タグ付けとカタログ登録③アクセス制御と動的マスキング④開発環境のマスクポリシーです。検出と制御を自動化し、人の目に依存しない運用にします。 | ||||||
pre_60 | 組織・アーキテクチャ | datamesh | ja | synthetic | # データメッシュとデータプロダクト
カテゴリ: 組織・アーキテクチャ
タグ: データメッシュ, データプロダクト, 連合ガバナンス, ドメイン
## 概要
データメッシュは、ドメイン単位でデータの所有責任を持つ組織的アーキテクチャ。
4原則：ドメイン所有者・データ as a Product・セルフサービス基盤・連合計算ガバナンス。
データプロダクトは、契約・SLO・Ownerを持つ最小の公開単位。
連合ガバナンスは、中央が標準（命名・契約・セキュリティ）を決め、詳細はドメインに委ねる。
セルフサービス基盤（データプラットフォーム）は、ドメインが簡単に公開できる仕組み。
データファブリック/データメッシュは対極思想：メッシュは分... | ||||||
pre_61 | 組織・アーキテクチャ | datamesh | ja | synthetic | # データメッシュとデータプロダクト よくある質問
Q: ドメインの境界はどう決める？
A: 業務の境界と組織の責任範囲を一致させます。受注・在庫・顧客など、ビジネス上の意思決定単位が目安です。境界は変わるため、所有権と契約の更新プロセスを先に決めておきます。
Q: メッシュは小規模チームに必要？
A: 不要です。ドメイン数が少なく中央組織で回るうちは、プロダクト思考（契約・SLO・Owner）だけを取り入れ、組織分散は後の課題としておくのが現実的です。 | ||||||
pre_62 | クラウド基盤 | aws-de | ja | synthetic | # AWS データ基盤 2026（S3 Tables / Zero-ETL / MSK / Glue）
カテゴリ: クラウド基盤
タグ: AWS, S3 Tables, Zero-ETL, MSK, Glue, Athena
## 概要
S3 Tablesは、S3上にマネージドのIceberg RESTカタログを提供する。
Zero-ETL（Aurora→Redshift等）で、ニアリアルタイムのDWH反映が設定のみで可能。
MSK（Managed Streaming for Kafka）はKRaftモードやServerless版を提供。
MSK Connectで、Debeziumコネクタ等をマネージド実行できる。
AWS Gl... | ||||||
pre_63 | クラウド基盤 | aws-de | ja | synthetic | # AWS データ基盤 2026（S3 Tables / Zero-ETL / MSK / Glue） よくある質問
Q: S3 Tablesは従来のS3と何が違う？
A: S3上でIcebergテーブルのメタデータ管理をAWSがマネージドで行い、アトミックな更新・タイムトラベル・カタログ統合を提供します。ファイル置き場からの脱却が目的です。
Q: AthenaとRedshiftの使い分けは？
A: アドホック探索・非定期・S3の生データ分析はAthena、定期ETL・ダッシュボード・複雑なSQL/演算はRedshiftです。2026年はAthenaのIceberg対応が進み、境界がより曖昧になっています。 | ||||||
pre_64 | クラウド基盤 | gcp-de | ja | synthetic | # GCP データ基盤（Dataflow / Composer / Pub/Sub / Dataproc）
カテゴリ: クラウド基盤
タグ: GCP, Dataflow, Composer, Pub/Sub, Dataproc, BigQuery
## 概要
Pub/Subはグローバルなマネージドメッセージングで、Kafka互換APIも提供。
Dataflow（Apache Beam）は、ストリーミング/バッチ統合のマネージド処理。
DataprocはマネージドSpark/Hadoop/Flinkクラスタ。
Cloud Composer（Airflowマネージド、Composer 2/3）でDAGを運用。
Datastreamは... | ||||||
pre_65 | クラウド基盤 | gcp-de | ja | synthetic | # GCP データ基盤（Dataflow / Composer / Pub/Sub / Dataproc） よくある質問
Q: Dataplex/Datap Catalogは何をする？
A: メタデータの収集・分類・検索を一元化し、レイク上のデータをビジネス用語で探せるようにします。リネージと権限制御にも接続できます。
Q: GCPのデータチーム構成の定番は？
A: Pub/Sub（取り込み）→Dataflow（加工）→BigQuery（蓄積/分析）→Dataform/dbt（変換）→Looker（BI）→Composer（運用）が王道です。Composer 3でAirflow 3系の機能も使えます。 | ||||||
pre_66 | クラウド基盤 | azure-de | ja | synthetic | # Microsoft Fabric / OneLake / Synapse
カテゴリ: クラウド基盤
タグ: Microsoft Fabric, OneLake, Synapse, Purview, KQL
## 概要
Microsoft Fabricは、OneLakeを中心にデータを統合したSaaSプラットフォーム。
OneLakeはテナント横断の論理データレイクで、Delta/Iceberg形式を前提とする。
Real-Time Intelligence（Eventhouse/KQLデータベース）で、ストリーミング分析。
Mirroringで、SQL Server/Cosmos/Snowflake等のソースをニアリアルタイ... | ||||||
pre_67 | クラウド基盤 | azure-de | ja | synthetic | # Microsoft Fabric / OneLake / Synapse よくある質問
Q: OneLakeはただのADLSと何が違う？
A: Delta/Iceberg形式で保存されたアイテムをテナント横断で論理統合し、Power BI（Direct Lake）やSparkが同じデータを指せる点が違いです。Shortcutで外部ストレージも論理接続します。
Q: FabricはSynapseの後継？
A: Synapseの機能はFabricに統合されつつあります。既存Synapse資産は並行運用しつつ、新規はFabric（Data Warehouse/Lakehouse/Eventhouse）で構成するのが2026年の基本... | ||||||
pre_68 | クラウド基盤 | k8s-data | ja | synthetic | # Kubernetes データ基盤（Spark Operator / Flink Operator / Strimzi / Kueue）
カテゴリ: クラウド基盤
タグ: Kubernetes, Spark Operator, Flink Operator, Strimzi, Kueue
## 概要
Spark on K8sは公式サポートされ、OperatorによるSparkApplication運用が一般化。
Flink Kubernetes Operatorで、Java/SQLジョブを宣言的にデプロイ・監視。
Strimziは、Kafka（KRaft）Connect/MirrorMakerをK8s上で運用するOperato... | ||||||
pre_69 | クラウド基盤 | k8s-data | ja | synthetic | # Kubernetes データ基盤（Spark Operator / Flink Operator / Strimzi / Kueue） よくある質問
Q: Operatorの選定基準は？
A: ①CRDの成熟度とコミュニティ実績②監視・再起動の自動化③CRのバージョン互換④社内のK8s運用力です。Spark/FlinkはOperator、KafkaはStrimziが第一候補になります。
Q: Kubernetesはデータ基盤に必須？
A: 必須ではありませんが、複数チームのリソース分離・再現性・Spotコスト削減を実現する有力な選択肢です。セルフホストのSpark/Flink/Kafkaを統一して運用したい場合に検討します。... | ||||||
pre_70 | データ運用 | finops | ja | synthetic | # データFinOps/コスト
カテゴリ: データ運用
タグ: FinOps, コスト, 課金
## 概要
データ基盤のコストはストレージとコンピュートに分けて管理する
スキャン量はパーティション・クラスタ・SELECT列制限で削減する
予約割引とスポット活用で最適化する
## 2026年動向
2026年はデータFinOpsが標準に
## つまずきポイント
未使用ウェアハウスが放置されて課金される | ||||||
pre_71 | データ運用 | finops | ja | synthetic | # データFinOps/コスト よくある質問
Q: コストを可視化するには？
A: ジョブ履歴・スキャン量・ストレージ使用量を日次で集計する | ||||||
pre_72 | データ運用 | perf-debug | ja | synthetic | # パフォーマンスデバッグ
カテゴリ: データ運用
タグ: パフォーマンス, デバッグ, スキュー
## 概要
EXPLAIN/ANALYZEで実行計画のボトルネックを特定する
シャッフル・スキュー・ブロードキャストが遅延の主因
集約先取り・絞り込み先行でシャッフル量を減らす
## 2026年動向
## つまずきポイント
スキューで一部タスクが長時間停止する | ||||||
pre_73 | データ運用 | reliability | ja | synthetic | # 信頼性・SLO・バックフィル
カテゴリ: データ運用
タグ: 信頼性, SLO, バックフィル
## 概要
データSLOを鮮度・完了率・正確性で定義する
idempotent設計で再実行が安全にできる
バックフィルは対象日範囲を小さく分割する
## 2026年動向
## つまずきポイント
非冪等なタスクで再実行すると重複する | ||||||
pre_74 | データ運用 | testing-ci | ja | synthetic | # テスト・CI-CD
カテゴリ: データ運用
タグ: CI, テスト, 品質ゲート
## 概要
スキーマ契約・SQLFluff・unit testで品質ゲートをかける
状態差分（state:modified）で変更分だけビルドする
PRでPLANを出す運用で安全性が上がる
## 2026年動向
## つまずきポイント
CIが遅すぎてレビューが滞る | ||||||
pre_75 | AI/ML | ai-pipeline | ja | synthetic | # AI/LLMデータパイプライン
カテゴリ: AI/ML
タグ: LLM, RAG, embedding, vector
## 概要
埋め込み・ベクトルDB・検索・生成を一つのパイプラインに組む
評価（hallucination/grounding）を追跡する
データ契約とガバナンスを維持する
## 2026年動向
2026年はagenticデータパイプラインが増加
## つまずきポイント
RAGでコンテキストが漏れてしまう | ||||||
pre_76 | AI/ML | mlops-data | ja | synthetic | # ML向けデータ管理
カテゴリ: AI/ML
タグ: MLops, 特徴量, lineage
## 概要
特徴量ストアで再利用性を高める
学習データのリネージとバージョンを記録する
トレーニングデータと推論データの乖離を監視する
## 2026年動向
## つまずきポイント
特徴量のドリフトを検知できない | ||||||
pre_77 | 現場 | jp-de | ja | synthetic | # 日本のデータエンジニアリング現場
カテゴリ: 現場
タグ: 日本, APPI, 電帳法
## 概要
APPIをはじめ法規要件を考慮して設計する
電帳法に準拠した保存期間・監査を確保する
日本語処理（形態素解析等）への対応が必要な場合あり
## 2026年動向
## つまずきポイント
法規要件を後回しにすると移行が難航する | ||||||
pre_78 | キャリア | interview-career | ja | synthetic | # 面接・キャリア・認定
カテゴリ: キャリア
タグ: 面接, 認定, キャリア
## 概要
データ基盤の設計思想（モデリング・信頼性・コスト）を言語化する
実際に作ったパイプラインを具体的に説明する
最新動向（2026年版）を押さえる
## 2026年動向
## つまずきポイント
暗記だけで答えて設計の理由が言えない | ||||||
pre_79 | トレンド | trends2026 | ja | synthetic | # 2026年のデータエンジニアリング潮流
カテゴリ: トレンド
タグ: トレンド, 2026
## 概要
ストリーミングファースト・Lakehouseが定着
Icebergを共通フォーマットにしたマルチエンジン
AIエージェントとデータ基盤の接続が進む
Rust製ツール（uv/ruff/polars）が普及
dbt Fusion/Rust基盤とSQL理解が強まる
## 2026年動向
## つまずきポイント
| ||||||
pre_80 | 移行 | legacy-migration | ja | synthetic | # レガシーDWH/ETL移行
カテゴリ: 移行
タグ: 移行, Teradata, Informatica
## 概要
影響分析・依存関係の洗い出しが最重要
段階的移行（並行稼働）でリスクを下げる
DDL変換・スキーマ・権限を自動化する
## 2026年動向
## つまずきポイント
全量一斉移行で長期間停止する | ||||||
pre_81 | 取り込み | ingestion-etl | ja | synthetic | # 取り込み（Airbyte/Fivetran/dlt/Meltano/reverse ETL）
カテゴリ: 取り込み
タグ: 取り込み, Airbyte, dlt
## 概要
CDC・API・ファイル・DBなどソース特性に合わせて選択
スキーマ検出・履歴保持・再実行の安全性に留意
reverse ETLでアクティベーションにも活用
## 2026年動向
## つまずきポイント
スキーマ進化を考慮せず設計する | ||||||
pre_82 | 基礎 | math-algo | ja | synthetic | # データエンジニアのためのアルゴリズム
カテゴリ: 基礎
タグ: アルゴリズム, sketch, ハッシュ
## 概要
HyperLogLogで大規模なユニーク件数推定
Bloom Filterで重複排除・テスト
Reservoir Samplingで母集団を代表的に抽出
Sort-merge/hash/broadcastでJOIN戦略を選ぶ
## 2026年動向
## つまずきポイント
近似精度の前提を誤解する | ||||||
pre_83 | 設計 | patterns | ja | synthetic | # パイプライン設計パターン
カテゴリ: 設計
タグ: 設計パターン, outbox, idempotent, exactly-once
## 概要
Outboxパターンでトランザクションとイベント配信を整合
冪等シンクでat-least-onceでも正確な書き込みを実現
メタデータと状態管理で再実行を制御する
## 2026年動向
## つまずきポイント
シンクが非冪等で重複が発生する | ||||||
pre_84 | AI | governance-ai | ja | synthetic | # AIエージェントとデータ基盤
カテゴリ: AI
タグ: AIエージェント, MCP, text2sql
## 概要
MCPでツール・データ・権限をAIエージェントに公開する
text2sqlはスキーマ・契約・セマンティック層を文脈にする
ガバナンス（権限・監査・プロンプトインジェクション対策）が重要
## 2026年動向
2026年はエージェント向けデータ基盤が注目
## つまずきポイント
AIエージェントに過剰な権限を与える | ||||||
pre_85 | クラウド | serverless-2026 | ja | synthetic | # サーバーレス・イベント駆動2026
カテゴリ: クラウド
タグ: サーバーレス, イベント駆動
## 概要
サーバーレスでコスト・スケーラビリティを最適化する
イベント駆動で疎結合かつ自律的なパイプラインを構築する
ゼロETL・管理型サービスの活用で運用負荷を下げる
## 2026年動向
## つまずきポイント
コールドスタートで遅延が顕在化する | ||||||
pre_86 | 分散処理エンジン | spark | ja | synthetic | # Apache Spark 4.x チャンク
Scala 2.13がデフォルト、JDK 17がデフォルトになり、Java 8/11のサポートは終了した。
構造化ログがJSONで出力されるようになり、Spark UI以外のログ基盤でも解析しやすくなった。
Spark ConnectはPySpark・Scalaに加え、コミュニティ版のGo・Swift・Rustクライアントが利用できる。
VARIANT型が追加され、半構造化JSONを1カラムに格納してもネストしたフィールドを効率的にクエリできる。
AQE（Adaptive Query Execution）、動的パーティション刈り込み、DQPは標準で効く。
ブロードキャストジョインのし... | ||||||
pre_87 | 分散処理エンジン | flink | ja | synthetic | # Apache Flink 2.x チャンク
分散ステート管理（Disaggregated State）が導入され、ステートの主記憶をS3/HDFSなどのDFSに置ける。
per-jobデプロイモードが廃止され、applicationモードが標準になった。
SQLクライアントだけで複雑なストリーミング処理を書けるため、Python出身者でも参入しやすい。
AIモデル推論の実験的サポート（AI関数）が追加された。
1.x系から2.xへの状態互換性は保証されていないため、移行時は状態の再構築が必要。
DataStream V2 API（実験的）が登場し、モダンなAPIへの道筋が示された。 | ||||||
pre_88 | ストリーミング基盤 | kafka | ja | synthetic | # Apache Kafka 4.x チャンク
古いメッセージフォーマットv0/v1が削除され、v2が前提になった。
RESTプロキシとGraphQL/Flinkの食い合わせで、非Javaシステムにもイベントを配布しやすい。
プロデューサのacks・min.insync.replicas・冪等性（enable.idempotence=true）は最低限押さえる。
MirrorMaker 2の設定改善と internal トピックのミラーリング対応が進んだ。
Consumer Groupの運用コマンドが改善され、ラグ・構成・割り当ての可観測性が上がった。
MCP/エージェント連携でKafkaトピックのメタデータをAIに読ませる動きも... | ||||||
pre_89 | ストリーミング基盤 | streaming-basics | ja | synthetic | # ストリーミング処理の基礎設計 チャンク
LambdaからKappa/Streaming Lakehouseへ移行する現場が増え、ストリームが正規ルートになりつつある。
exactly-onceを目指すなら、プロデューサの冪等性＋トランザクション＋シンクの冪等書き込みが三前提。
バックプレッシャーは処理能力のボトルネックを可視化する重要なシグナルである。
メトリクスはラグ・処理遅延・ドロップ・チェックポイント時間・ステートサイズの5点を監視する。
テストはイベント時間を擬似クロックで進めるTestHarness/こulationフレームワークで書く。
チェックポイント間隔はレイテンシとリカバリ時間のトレードオフで決める。 | ||||||
pre_90 | ストリーミング基盤 | cdc | ja | synthetic | # CDC（Change Data Capture） チャンク
論理削除（削除フラグ）のテーブルはDELETEイベントが来ず、UPDATEとして扱う必要がある。
Outboxパターンは、業務トランザクション内でイベントテーブルに書き、CDCで安全に配信する方式である。
Debezium Server（Kafka非依存モード）もあり、Pub/SubやKinesisに直接送れる。
Flink CDCはJDBCベースでテーブルを丸ごと同期でき、スキーマ変更の自動追従もある。
大規模ではスレッド/パーティション設計で並列スナップショットを有効化する。
論理レプリケーション（PostgreSQL）や論理デコードはライセンス/権限設計に注意が... | ||||||
pre_91 | ストリーミング基盤 | streaming-db | ja | synthetic | # ストリーミングデータベース（RisingWave / Materialize / Pathway） チャンク
MaterializeはPostgreSQL互換で、増分ビューを維持しつつ標準SQLでストリーミング処理を書ける。
両者とも「ビューを定義すると、あとは自動で最新に保たれる」モデルである。
スケーリングはコンピュートノードの追加で実現し、ステートは内部ストレージで管理される。
RisingWaveはPostgreSQL互換のストリーミングデータベースで、ストリームのMaterialized Viewを継続的に維持する。
正確には、Sink先のレイクやDWHに書き出してからBIで読む二段構えも一般的。
Icebergなど... | ||||||
pre_92 | DWH / SQL | bigquery | ja | synthetic | # Google BigQuery チャンク
BigQuery MLでSQLからモデル学習・推論ができ、特徴量から推論まで1環境で完結する。
予約（slot commitment）と自動スケーリングで、予測可能なコストと突発的な高負荷を両立させる。
workload managementと割り当てで、部門/用途ごとのクォータ制御ができる。
検索インデックスは部分一致検索を高速化するが、ストレージコストが増える。
continuous queriesでストリーミングSQLを継続実行でき、Flink代替の入り口になる。
INFORMATION_SCHEMAでジョブ履歴・スキャン量を分析し、コスト可視化する。 | ||||||
pre_93 | DWH / SQL | snowflake | ja | synthetic | # Snowflake チャンク
リージョン間レプリケーションとフェールオーバーで事業継続を設計する。
タイムトラベルとFAILSAFEで、誤更新からの復旧が可能。
Dynamic Tablesで宣言的にストリーミング→テーブルのパイプラインを構築できる。
Snowpark（Python/Scala/Java UDF/プロシージャ）でDWH内で複雑なロジックを実行できる。
Secure Data Sharing/Liveで、データをコピーせずに共有できる。
仮想ウェアハウスの自動サスペンド/再開でコストを最小化できる。 | ||||||
pre_94 | DWH / SQL | redshift | ja | synthetic | # Amazon Redshift チャンク
Short query accelerationで短時間クエリを長いクエリから切り離して高速化できる。
Athenaとの住み分け：正規運用のETL/DWHはRedshift、アドホック探索はAthena。
RedshiftはAWSのMPP型DWHで、RA3ノードではコンピュートとストレージが分離される。
Spectrum→Redshift Managed Storageの流れで、S3上の Parquet/ORC を外部テーブルとして参照できる。
BigQuery/Snowflakeと比較して、高い並列書き込みとバルクロード（COPY）が得意。
「分散スタイル」の選定（KEY/ALL/E... | ||||||
pre_95 | DWH / SQL | trino | ja | synthetic | # Trino（分散SQLエンジン） チャンク
PrestoSQLからフォークした経緯があり、Starburstや多くの商用ディストリビューションがある。
Trinoはストレージに手を付けず、任意のデータソースをANSI SQLで横断検索できる分散SQLエンジンである。
コネクタ（Hive/Iceberg/Delta/Postgres/MySQL/Kafka/ES/Mongo等）を差し替えるだけでソースを追加できる。
行単位のフィルタ/カラムプルーニングで、スキャン量を削減する。
JOINの分散方式（ブロードキャスト/パーティション化）がTrinoエンジンのコスト構造の要点。
メモリ設定（query-max-memory-per-... | ||||||
pre_96 | DWH / SQL | realtime-olap | ja | synthetic | # StarRocks / ClickHouse（リアルタイムOLAP） チャンク
StarRocksは外部カタログ（Hive/Iceberg/Paimon）を直接読める。
BIツール（Superset, Metabase, Grafana）との接続実績が豊富。
ClickHouseのログ基盤（ログ・トレース・メトリクス）での採用が2026年も加速。
大規模なアドホック分析や履歴スキャンにはIceberg系の方が向く。
StarRocksはMySQL互換プロトコルの分散OLAPで、主キーモデルと高速JOINでユーザー向け分析に強い。
ClickHouseのReplacingMergeTreeでUPSERT相当を実現できる（重複除去... | ||||||
pre_97 | DWH / SQL | sql-craft | ja | synthetic | # SQL実践（ビッグデータSQL） チャンク
再帰CTEで階層（組織・カテゴリ）を辿れる。
大規模SQLでは「絞り込みを先に」「集約を先に」「JOINは最後」が鉄則である。
MERGE INTOでUPSERTを1文で書けるが、条件の重複に注意。
数値の丸め・除算・NULL伝播は、集計結果の予期しないズレの原因になる。
LATERAL/TABLE関数で、行ごとにサブクエリを適用できる。
dbt test/SQLFluffで、SQLの品質とスタイルを機械的に担保する。 | ||||||
pre_98 | テーブル格式 | iceberg | ja | synthetic | # Apache Iceberg チャンク
スキーマ進化（カラム追加・型変更・並べ替え）はメタデータのみで完結し、データ書き換えが不要。
RESTカタログ仕様により、Polaris・Gravitino・AWS Glue Iceberg REST・Unity Catalog等と相互運用できる。
カタログが「単一の真実」となり、ネームスペースとテーブル識別子の設計が重要。
タイムトラベルとロールバックで、誤更新時もスナップショットに戻せる。
Position Delete / Equality Deleteで行削除を管理し、compactionでファイルを最適化。
Spark/Flink/Trino/DuckDB/Polars/Sta... | ||||||
pre_99 | テーブル格式 | delta | ja | synthetic | # Delta Lake チャンク
Delta LakeはSpark/Databricksエコシステムで広く使われるオープンテーブル形式である。
Liquid Clusteringでパーティション設計の制約を緩和し、多次元クラスタリングができる。
Unity Catalogとの統合で、アクセス制御・リネージュ・検索を提供。
小ファイル問題はDeltaでも起きるため、OPTIMIZEの自動化が運用作業になる。
Spark以外にもdelta-rs（Rust）実装があり、Flink/Kafkaからも書ける。
OPTIMIZE/Z-ORDERでファイル統合とデータクラスタリングを行う。 |
End of preview. Expand in Data Studio
Data Engineer 2026 (Japanese) Dataset
A Japanese-language dataset for training and fine-tuning models on modern data engineering topics as of 2026. It contains instruction-tuning (SFT) Q&A pairs and a pretraining corpus covering distributed processing, streaming, data lakehouse, orchestration, transformation, local analytics, modeling, quality and governance, cloud and data platforms, MLOps, and AI/agentic data workflows.
Dataset splits
| Split | Size | Description |
|---|---|---|
sft |
1,780 samples | Instruction-following Q&A pairs in Japanese (instruction / input / output). Covers definitions, comparisons, how-tos, design and best practices, debugging, interview-style questions, 2026 trends, outlines, and aspect-specific questions. |
pretrain |
186 samples | Japanese technical explanatory text (chunked articles and notes) about data engineering topics, intended for continued pretraining. |
Schema
SFT (sft)
| Column | Type | Description |
|---|---|---|
id |
str | Sample ID (sft_N) |
category |
str | High-level category (分散処理エンジン, ストリーミング基盤, DWH・SQL, テーブル格式, オーケストレーション, 変換, ローカル分析, モデリング, データ運用, クラウド基盤, AI・ML, 現場, トレンド, 移行, 設計, ...) |
topic |
str | Topic slug (e.g. spark, flink, kafka, iceberg, airflow, dbt, duckdb, polars, lakehouse, contracts, governance-ai, ...) |
qtype |
str | Question type (faq, definition, overview, design, howto, debug, trend, interview, compare, outline, aspect, variant) |
aspect |
str | Aspect (general, 全体像, 設計, パフォーマンス, コスト, 運用, セキュリティ, 移行, 2026年動向) |
difficulty |
str | intermediate (default) |
instruction |
str | Question or instruction in Japanese |
input |
str | Optional context (empty in this release) |
output |
str | Answer or explanation in Japanese (markdown) |
lang |
str | ja |
source |
str | curated+synthetic or synthetic |
Pretrain (pretrain)
| Column | Type | Description |
|---|---|---|
id |
str | Sample ID (pre_N) |
text |
str | Explanatory Japanese text (markdown-style article or FAQ block) |
topic |
str | Topic slug |
category |
str | Category |
lang |
str | ja |
source |
str | synthetic |
Coverage (key topics)
- Distributed engines: Apache Spark 4.x, Apache Flink 2.x
- Streaming: Apache Kafka 4.x (KRaft), streaming fundamentals, CDC (Debezium), streaming databases (RisingWave / Materialize)
- Lakehouse and table formats: Apache Iceberg, Delta Lake, Hudi, catalogs (Unity Catalog / Polaris / Gravitino / Nessie), file formats (Parquet / Arrow / Avro)
- Warehouses and SQL engines: BigQuery, Snowflake, Redshift, Trino, StarRocks, ClickHouse, SQL craft
- Orchestration and transformation: Apache Airflow 3.x (Task SDK), Dagster (SDA), dbt (Fusion / Core v2.0), SQLMesh
- Local and modern analytics: DuckDB 1.5 / 2.0, Polars, Python data stack 2026 (pandas 3.x, uv, ruff, marimo, pydantic)
- Data modeling and contracts: Kimball / Data Vault / OBT, data contracts (ODCS), data quality (Soda / Great Expectations / Deequ / Elementary), lineage (OpenLineage)
- Cloud and platform: AWS / GCP / Azure data platforms, Kubernetes data (Spark / Flink operators / Strimzi / Kueue)
- AI / ML and data for AI: AI/LLM data pipelines (embeddings / RAG / vector DB), MLOps data (feature store / lineage / versioning), governance for AI agents (MCP / text2SQL)
- Ops / FinOps / reliability, testing / CI, migration, design patterns
All content reflects 2026-era trends (e.g. Iceberg as the open table format, Spark Connect, Flink disaggregated state, Airflow 3, dbt Fusion, DuckDB / Wasm / Iceberg, streaming-first lakehouse, data contracts, agentic data workflows).
How to load
pip install datasets
from datasets import load_dataset
ds = load_dataset("LoNebula/data-engineer-2026-ja")
print(ds)
# ds["sft"], ds["pretrain"]
Notes and license
- This dataset is primarily synthetically generated from a curated Japanese knowledge base. It is intended for research, educational purposes, and model training or evaluation.
- While care was taken for factual accuracy (aligning to 2026 versions and trends), it may contain minor inaccuracies. Always verify against official documentation.
- License: CC BY 4.0. Retain attribution to
LoNebulaand a link to this dataset when redistributing or building derived work.
Acknowledgments
Generated with assistance from Kilo / Claude Code tooling. The dataset structure and schema are designed for instruction tuning (SFT) and continued pretraining in Japanese.
- Downloads last month
- 64