Googleは7月、大規模言語モデル(LLM)を中核に据えたノート作成ツール「NotebookLM」を発表した。ノート作成に関するさまざまなニーズに対応するパーソナライズされた人工知能(AI)コラボレーターとして機能するものだ。Googleは今回、同社の最も高度なLLMへの ...
Googleは、LLMのメモリ消費量を6分の1に削減する新技術「TurboQuant」を発表した。PolarQuantとQJLを組み合わせ、精度を維持したままKVキャッシュを3ビットまで圧縮する。NVIDIAのH100での計算速度は最大8倍に向上。G ...
Google DeepMindが大規模言語モデル(LLM)の「事実性」と「根拠」を評価する新たなベンチマークを公開した。AAI開発コミュニティーにツールの活用と評価を呼び掛けている。 この記事は会員限定です。会員登録すると全てご覧いただけます。 Google DeepMindは2024 ...