Nodes/ComfyUI-Binyuan-NVFP4-Converter/binyuan Universal Quant Converter (NVFP4/FP8/GGUF)
ComfyUI Node

binyuan Universal Quant Converter (NVFP4/FP8/GGUF)

A ComfyUI node in binyuan/Advanced with 9 inputs and 1 output.

By yjitiu·Created 2 months ago·Updated 2 months ago· 2
binyuan Universal Quant Converter (NVFP4/FP8/GGUF)
    • status
    input_model
    save_to_source_dirtrue
    custom_output_dirF:/custom_models_dir/
    output_filenamemodel_nvfp4
    model_typeAuto (Universal)
    devicecuda
    output_formatNVFP4
    gguf_qtypeQ8_0
    full_precision_mmtrue
    Categorybinyuan/Advanced

    Inputs (9)

    NameTypeDefaultDescription
    input_modelCOMBO1 options: 没有检测到模型(请确认模型已放入 checkpoints/unet/diffusion_models 文件夹内)
    save_to_source_dirBOOLEANtrue
    custom_output_dirSTRINGF:/custom_models_dir/手动输入保存目录。留空则看 save_to_source_dir:开=存到源模型同目录,关=报错。填了目录就以此为准(save_to_source_dir 被忽略)
    output_filenameSTRINGmodel_nvfp4
    model_typeCOMBOAuto (Universal)NVFP4/FP8 时选择黑名单策略;GGUF 时忽略(用架构自动检测)
    deviceCOMBOcuda2 options: cuda, cpu
    output_formatCOMBONVFP43 options: NVFP4, FP8 (e4m3fn), GGUF
    gguf_qtypeCOMBOQ8_0仅 output_format=GGUF 时生效。⚠️ 本机 gguf 库通常只支持量化到 Q8_0/Q5_0/Q4_0/BF16/F16;K 系列(Q4_K 等)与 IQ 系列在纯 Python gguf 里没实现量化。选了不支持的类型会自动改用同尺寸可用类型(Q4_K→Q4_0、Q5_K→Q5_0、Q6_K→Q8_0…)并打印提示,不会报错。要压 FP8 源推荐直接选 Q4_0(≈0.56) 或 Q5_0(≈0.69)。
    full_precision_mmBOOLEANtrueNVFP4/FP8 推理模式。开=反量化到全精度做矩阵乘(任何GPU都能跑、最稳,但无省显存收益);关=原生量化矩阵乘(真省显存/加速,需Blackwell+cu130+comfy_kitchen CUDA后端,否则可能报错)

    Outputs (1)

    NameTypeDescription
    statusSTRING