ComfyUI Node
binyuan Universal Quant Converter (NVFP4/FP8/GGUF)
A ComfyUI node in binyuan/Advanced with 9 inputs and 1 output.
binyuan Universal Quant Converter (NVFP4/FP8/GGUF)
- status
◄input_model▾►
◄save_to_source_dirtrue►
◄custom_output_dirF:/custom_models_dir/►
◄output_filenamemodel_nvfp4►
◄model_typeAuto (Universal)►
◄devicecuda►
◄output_formatNVFP4►
◄gguf_qtypeQ8_0►
◄full_precision_mmtrue►
Categorybinyuan/Advanced
Inputs (9)
| Name | Type | Default | Description |
|---|---|---|---|
| input_model | COMBO | 1 options: 没有检测到模型(请确认模型已放入 checkpoints/unet/diffusion_models 文件夹内) | |
| save_to_source_dir | BOOLEAN | true | — |
| custom_output_dir | STRING | F:/custom_models_dir/ | 手动输入保存目录。留空则看 save_to_source_dir:开=存到源模型同目录,关=报错。填了目录就以此为准(save_to_source_dir 被忽略) |
| output_filename | STRING | model_nvfp4 | — |
| model_type | COMBO | Auto (Universal) | NVFP4/FP8 时选择黑名单策略;GGUF 时忽略(用架构自动检测) |
| device | COMBO | cuda | 2 options: cuda, cpu |
| output_format | COMBO | NVFP4 | 3 options: NVFP4, FP8 (e4m3fn), GGUF |
| gguf_qtype | COMBO | Q8_0 | 仅 output_format=GGUF 时生效。⚠️ 本机 gguf 库通常只支持量化到 Q8_0/Q5_0/Q4_0/BF16/F16;K 系列(Q4_K 等)与 IQ 系列在纯 Python gguf 里没实现量化。选了不支持的类型会自动改用同尺寸可用类型(Q4_K→Q4_0、Q5_K→Q5_0、Q6_K→Q8_0…)并打印提示,不会报错。要压 FP8 源推荐直接选 Q4_0(≈0.56) 或 Q5_0(≈0.69)。 |
| full_precision_mm | BOOLEAN | true | NVFP4/FP8 推理模式。开=反量化到全精度做矩阵乘(任何GPU都能跑、最稳,但无省显存收益);关=原生量化矩阵乘(真省显存/加速,需Blackwell+cu130+comfy_kitchen CUDA后端,否则可能报错) |
Outputs (1)
| Name | Type | Description |
|---|---|---|
| status | STRING | — |