Nodes Browser
ComfyDeploy: How ComfyUI_DiffusionModel_fp8_converter works in ComfyUI?
What is ComfyUI_DiffusionModel_fp8_converter?
This is a custom node to convert only the Diffusion model part or CLIP model part to fp8 in ComfyUI. VAE fp8 conversion is not supported. The advantage of this node is that you do not need to separate unet/clip/vae in advance when converting to fp8, but can use the safetenros files that ComfyUI provides.
How to install it in ComfyDeploy?
Head over to the machine page
- Click on the "Create a new machine" button
- Select the
Edit
build steps - Add a new step -> Custom Node
- Search for
ComfyUI_DiffusionModel_fp8_converter
and select it - Close the build step dialig and then click on the "Save" button to rebuild the machine
ComfyUI_DiffusionModel_fp8_converter
ComfyUIで、Diffusionモデル部分のみ/CLIPモデルのみをfp8に変換するカスタムノードです。
VAEのfp8変換については対応していません。
このノード利点としては、fp8変換時にあらかじめunet/clip/vaeなどに分ける必要がなく、ComfyUIが出している、あらかじめ1つにまとめてあるsafetenrosファイルを使用できる点です。
This is a custom node to convert only the Diffusion model part or CLIP model part to fp8 in ComfyUI.
VAE fp8 conversion is not supported.
The advantage of this node is that you do not need to separate unet/clip/vae in advance when converting to fp8, but can use the safetenros files that ComfyUI provides.
Usage
以下のように間にノードをはさんで使用します。
CLIP is not converted, but is entered as a specification.
Checkpoint
SDXL・Auraflow・HunyuanDITのsafetensorsファイルをf8変換してファイルサイズの圧縮を確認しました。
変換したチェックポイントは、通常の画像生成フローで使用してもエラーの発生なく使用出来ています。
I have converted SDXL, Auraflow, and HunyuanDIT safetensors files to f8 and verified the file size compression.
The checkpoints can be used in the normal image generation flow without any errors.
<変換によるサイズの変化:DiffusionモデルとCLIPをfp8にした場合>
① SDXL
6.5GB ⇒ 3.4GB
② Auraflow
16GB ⇒ 7.7GB
③ HunyanDiT
7.7GB ⇒ 3.5GB
Install
以下のコマンドでインストール出来ます。
You can install it with the following command.
cd Yourdirectory/ComfyUI/custom_nodes
git clone https://github.com/Shiba-2-shiba/ComfyUI_DiffusionModel_fp8_converter.git
Reference Script
fp8化のスクリプトは、以下のサイトで公開しているスクリプトを参考にしています。感謝です。
This project references a main script from the following source:
Source URL: https://note.com/den2_nova/n/n073adc24eb40
This script is used under the assumption that it is publicly available without licensing restrictions. If there are any concerns or issues regarding the usage of this script, please feel free to contact us.