TensorRTがSD3でも使用できるようになったので、ベースとなるノードを無料で配布します。 お金を取る程の複雑なノードでもありませんで。 ComfyUIにおけるtensorRTの導入方法についてはこちらをご覧ください。 また、TensorRT用モデルの作成方法についても、SD1.5 ...

今回は、NVIDIA公式プレイブック"推論のためのTRT LLM"に従い、GB10上でTensorRT-LLMを用いたLLM推論環境を構築します。 タイトルには、"NVIDIA TensorRT-LLM (TRT-LLM)"とあるが、そもそもこれが何なのか？ まずは最初にどんなものなのか素人なりに理解しておきましょう。

今年7月27日に次世代Stable DiffusionのSDXL 1.0が登場してから数カ月経ったが、ここに来てSD(XL)を高速化する技術がいくつか出て ...