(出所:エヌビディア)第2回では、エージェンティック推論時代の重要指標を示した。競争力を高める代表的なアプローチが、AI(人工知能)推論処理の性質を踏まえてアクセラレーターの使い方を再設計する「プレフィル・デコード分離」である。本稿では、推論効率化の多様な手法の中から、チップ設計にも直接影響を与える本手法に焦点を当て、3つのパターンと主要プレーヤーの戦略の違いを整理する。AIエージェントなどの推論 ...
一部の結果でアクセス不可の可能性があるため、非表示になっています。
アクセス不可の結果を表示する