こんにちは、gene@granvalleyです。今回はPython向け機械学習ライブラリのPyTorchのモデルをOpenVINOで扱える形式に変換する方法を紹介します。OpenVINOを使って処理をした場合に速度がどれくらい上がったか検証もしているので、ディープラーニング推論で処理速度 ...

Intel製CPU搭載を搭載したPCでGPUなしでもStable Diffusionを用いた画像生成を可能にするGIMP用プラグイン「OpenVINO AI Plugins for GIMP」がGitHubに公開されています。特徴的なのは、AIの演算処理に特化したプロセッサ「NPU」に対応しており、NPUを使った画像生成が可能だ ...

看log, openvino 作为backend 已经初始化完成. FastDeploy/examples/vision/ocr/PP-OCR/cpu-gpu/python# python infer.py --det_model ch_PP-OCRv3_det_infer --cls ...

IoTハッカソンの企画・運営からIoT製品開発、IoT教育コンテンツ事業を手掛けているJellyWare株式会社（本社：東京都新宿区四ツ谷、代表取締役社長：崔 熙元）は、オンラインで学べるAI・IoT・ロボティクス学習サービス「ものものテック」にて「OpenVINOでゼロ ...

Intel OpenVINOを使用したPhi-3.5の量子化 Intelは、最も伝統的なCPUメーカーであり、多くのユーザーを抱えています。機械学習や深層学習の台頭に伴い、IntelもAIアクセラレーション競争に参加しています。モデル推論において、IntelはGPUやCPUだけでなく、NPUも使用 ...

しかしOpenVINOを利用すれば、そうしたハードウェアへの最適化はOpenVINOがほぼ自動で行ってくれるし、かつそのエンジンのメモリフットプリントは小さいので、組み込み機器にありがちな小さな容量のメモリ環境でも軽々と動かすことができる。

Stable DiffusionをCPUで高速に動かすFastSD CPUの画像生成時間がどれくらいかかるのか試してみました。 検証に使っているPCはグラフィックボードを搭載してない（オンボード）のモバイルPCです。 インストールしてそのまま使ってみたときの画像生成時間ですが ...

小型PCとカメラがセットになった岡谷エレクトロニクスの「OpenVINOスターターキット」が登場、ツクモパソコン本店IIが動作デモと受注販売を開始した。 OpenVINOスターターキットはIntelが提供しているツールキット「OpenVINO」を活用するための完成システム。