proxmox.blog

クラスター内のユーザーをきちんと認証するセキュリティ仕組みだよ。たとえば勝手に分析ジョブを動かされないように、本当に本人かどうかしっかり確認する。大規模クラスターでも安全性を保ちたいなら大事なんだ。

データ処理が増えたら“まとめて手伝いに来る人”を増やし、減ったら帰ってもらうみたいにクラスターのノード数を自動で調整する機能。これで処理が必要なときだけサーバーを増やし、コストを抑えられるんだ。

ブラウザでプログラムを書いて、その場で結果をグラフや表で見られる“ノートブック”機能だよ。たとえばSparkやSQLのコードを入力すると、EMRクラスターで実行され、結果がすぐ返ってくる。学習やコラボにも便利だね。

S3をHadoopのファイルシステムっぽく扱う仕組みだよ。わざわざHDFSにデータをコピーしなくてもS3に置いたまま分析できるから、ディスクが足りなくなる心配も減るし、大容量のファイルも楽に扱えるんだ。

クラスターの動きをグラフで見られる監視ツール。EMRの内部でどのノードがどれだけ負荷を受けているか一目でわかる。もし処理が遅かったら原因を探しやすいし、調整や拡張のヒントにできる優れものなんだ。

超高速でSQLクエリを実行できる“分析エンジン”だよ。大量のデータでもすぐに結果を返してくれることが多く、あちこちに散らばったデータソースにも対応しやすい。EMRならすぐクラスタを作って使い始められるんだ。

読みやすいスクリプトを書いて大きなデータを加工する仕組みだよ。SQLほど厳密じゃない言い回しで操作できる。EMRでPigジョブを走らせると、一気に大量のファイルを処理して、自動でクラスタが増えたり減ったりしてくれる。

SQLみたいな言葉でビッグデータを扱える仕組みだよ。“SELECT”で巨大なデータを読んだり集計したりするから、普段SQLに慣れている人でも大規模データ分析に挑戦しやすい。EMRがあれば構築がシンプルなんだ。

メモリを活用してとても速い分析ができるフレームワークだよ。繰り返しの処理やリアルタイム分析に強い。EMR上でSparkを動かすと、自分で面倒な設定をしなくても必要なサーバーが用意されてスイスイ動かせるんだ。

データを“小分けにして並行作業”する仕組みの代表格だよ。EMRではこのHadoopクラスターを何台も簡単に作成でき、使い終わったら片づけられる。自分でサーバー構築するより断然ラクなんだ。