proxmox.blog

学習済みモデルをコンパクトに変換し、速く推論できる形に最適化してくれる技術。EdgeデバイスやCPU/GPUごとにチューニングし、自分で低レベルの最適化を書かなくても大丈夫なんだ。

AIモデルを作って学習し、推論用にデプロイするまでを一貫サポートしてくれるサービスだよ。ノートブック環境もあって、データ準備からチューニング、モニタリングもまとめてできる。

古いイメージを自動で消すルールを作れるよ。タグ付きは残して、タグなしは30日で削除…などを設定しておけば、リポジトリがどんどん膨れ上がるのを防ぐんだ。

イメージをプッシュしたら自動で脆弱性スキャンしてくれる機能。セキュリティホールがあるライブラリを使ってないかチェックし、問題があれば通知してくれるから安心なんだ。

Dockerイメージをプライベートに保管する“コンテナ倉庫”だよ。ECSやEKS、Fargateと組み合わせて、アプリのイメージを安全に管理し、バージョンを追跡できる。外部への公開も設定次第さ。

パソコンの“休止状態”みたいに、RAMの中身を保存してインスタンスを一旦停止し、再開時にそのままの状態に復元できる。長い計算の途中でも、コストを抑えつつ中断→再開できるんだ。

必要な数のEC2を確実に使えるように“場所取り”しておける機能。ピーク時にインスタンス不足にならないようにあらかじめ枠を確保できるんだ。重要な本番環境を途切れさせたくない人に便利。

スポットインスタンスを複数のタイプやサイズでまとめて借りる仕組みだよ。いろんなインスタンスが一番安い価格帯になるよう自動調整しながら集めるから、大量計算を安くやりたいときに向いてるんだ。

EC2インスタンスを起動するときの設定(AMI、インスタンスタイプ、セキュリティなど)をまとめてテンプレにできる。これがあるとAuto Scalingやスポットリクエスト時に楽だし、バージョン管理で過去の設定も残せるんだ。

EC2インスタンスのCPUやメモリなどの性能セットを指す言葉だよ。たとえばT2はお手頃、C5は計算特化、M5はバランス型…というふうに選べる。用途に合った“型”を選ぶと、お金を無駄なく使えるんだ。