GPU分割、ロボット評価、資料生成を支えるAI基盤

AWSは、Amazon SageMaker InferenceでNVIDIA Multi-Instance GPU（MIG）を使ったGPUパーティショニングのサポートを発表しました。物理GPUを独立した区画に分け、各区画に計算資源とメモリを割り当てます。利用できるのはInference Componentsを使うエンドポイントで、単一モデル、サーバーレス、異種インスタンスプールのエンドポイントは対象外です。

Hugging Face掲載の記事は、ロボット学習を調べるための「FoundationWorlds」と、その最初の環境であるToyBlocksを紹介しました。ToyBlocksはロボットアームと卓上のブロックを対象にした公開シミュレーションで、タスクや訓練デモを自動生成します。高水準の推論モデルと低水準の行動モデルを組み合わせる実験や、未学習タスクへの一般化の評価を想定しています。

Hugging Face掲載の記事でIBM Researchの著者らは、組織固有のデザイン言語に沿ったスライドを生成する20Bモデル「Palette」を説明しました。LoRAで微調整したモデルを、構成やデザインを決める「designer」と、各スライドのコードを書く「coder」の役割として使います。合成データは約1,000件のデッキ、約1万枚のスライドからなり、生成後には重なりやはみ出しを確認・修復する仕組みを通します。