01インフラ/AWS
AWS Batch、SageMaker学習向けにGPU枠の貸借管理
AWSは、Amazon SageMaker Trainingジョブに対応したAWS Batchのキューイング・スケジューリング機能について、チーム、プロジェクト、ワークロード単位で計算容量を割り当てる「quota management」を説明しました。空き容量を予約、他枠へ貸与、貸与と借用の両方から選べ、貸し出し中の容量が必要になった場合には、枠をまたぐプリエンプションで回収できます。
発表元の記事を読む(新しいタブで原文を開く) 編集図解 · AI coach発表のポイント
- 発表主体
- AWS
- 対象
- Amazon SageMaker Trainingジョブ
- 機能
- AWS Batchのquota management
- 共有方式
- RESERVE、LEND、LEND_AND_BORROW
発表からの一節原文引用Administrators can use it to divide compute capacity into quota shares, organized by team, project, or workload.
日本語訳管理者は、チーム、プロジェクト、またはワークロードごとに整理したクォータ共有へ計算容量を分割できます。
AWS(新しいタブで原文を開く)出典:AWS(新しいタブで原文を開く)Lend and borrow resources across teams with AWS Batch’s quota management for SageMaker Training jobs
02モデル/Hugging Face
LiquidAI、共有基盤のLFM3を6モデル展開
LiquidAIは、テキスト、画像・動画、音声、複合入力、意思決定向けの6モデルを含むLFM3を発表しました。各モデルはLFM3-1.7B-Baseを基盤とし、いずれも20億パラメータ級です。記事では、用途に応じてモデルを選び、単一GPUで自社データにファインチューニングしてアプリケーションの実行場所へ配備する構想を示しています。テキストモデルは4ビット精度で約1GB、コンテキスト長は256Kトークンとしています。
発表元の記事を読む(新しいタブで原文を開く) 編集図解 · AI coach発表のポイント
- 発表主体
- LiquidAI(Hugging Face掲載)
- モデル群
- LFM3
- モデル数
- 6モデル
- 入力領域
- テキスト、画像・動画、音声、複合入力
発表からの一節原文引用It brings text, vision, audio, omni, and decision models onto one shared backbone, all in the 2B parameter range.
日本語訳テキスト、視覚、音声、オムニ、意思決定のモデルを、すべて20億パラメータ級の一つの共有バックボーンに載せています。
Hugging Face(新しいタブで原文を開く)出典:Hugging Face(新しいタブで原文を開く)Build specialized multimodal models with LFM3
03研究/NVIDIA
SETI観測でAIエージェントとリアルタイム処理
NVIDIAは、Breakthrough ListenとSETI Instituteが北カリフォルニアのAllen Telescope ArrayにNVIDIA Holoscanを統合した取り組みを紹介しました。記事によると、エージェントは自然言語による要求を起点に、望遠鏡の操作、受信データの補正、入力ストリームへのAIモデル適用を行えます。DAQIRIはセンサーデータをGPUメモリへ直接取り込み、CyberEtherがCUDA-Xライブラリで信号処理を担います。システムはNVIDIA RTX PRO 6000 Blackwell GPU上で毎秒2.4テラビットを扱うとしています。
発表元の記事を読む(新しいタブで原文を開く) 編集図解 · AI coach発表のポイント
- 紹介主体
- NVIDIA
- 観測施設
- Allen Telescope Array
- 基盤
- NVIDIA Holoscan、DAQIRI、CyberEther、Nexus
- 記事記載の処理量
- 毎秒2.4テラビット
発表からの一節原文引用The NVIDIA Holoscan platform processes the massive streams of sensor data, giving agents live data to act on.
日本語訳NVIDIA Holoscanプラットフォームは大量のセンサーデータストリームを処理し、エージェントが行動に使えるライブデータを提供します。
NVIDIA(新しいタブで原文を開く)出典:NVIDIA(新しいタブで原文を開く)Things That Go Beep in the Night: Agentic AI Joins the Search for Extraterrestrial Signals