Extensions/ComfyUI-LLMLink
ComfyUI Extension

ComfyUI-LLMLink

A lightweight multimodal LLM node pack for ComfyUI, connecting OpenAI-compatible APIs and Ollama over plain HTTP—SDK-free, runtime-free, and dependency-friendly.

By leafiy·Created 18 days ago·Updated 16 days ago· 1
leafiy/ComfyUI-LLMLink
Nodes1
On cloudLocal install
CategoryLLMLink
Stars1
Updated16 days ago
Readme

ComfyUI-LLMLink

A lightweight multimodal LLM node pack for ComfyUI, connecting OpenAI-compatible APIs and Ollama over plain HTTP—SDK-free, runtime-free, and dependency-friendly.

纯 HTTP 的 ComfyUI LLM 节点:零第三方依赖(只用 Python 标准库 + ComfyUI 自带的 numpy/Pillow),不碰依赖地狱。支持 Ollama 原生 API 与任意 OpenAI 兼容端点,多模态图片反推提示词,输出纯文本。

安装

cd ComfyUI/custom_nodes
git clone https://github.com/leafiy/ComfyUI-LLMLink.git

重启 ComfyUI 即可。无需 pip install 任何东西。

节点:LLM Chat (LLMLink)

分类 LLMLink。输出一个 STRING(纯文本),可直接接入 CLIP Text Encode 等文本输入。

| 参数 | 说明 | | --- | --- | | provider | ollama(原生 /api/chat)或 openai(任意 OpenAI 兼容 /chat/completions) | | base_url | 默认 http://127.0.0.1:11434(Ollama)。OpenAI 场景填 https://api.openai.com/v1 或其他兼容端点 | | api_key | 见下方安全说明;Ollama 不需要 | | model | 模型名,自由文本,如 qwen2.5vl:7bgpt-4o-mini可留空:自动查询端点(Ollama /api/tags、OpenAI /models)并选用列表中第一个模型 | | preset | 内置提示词:natural(默认,自然语言反推,适合 Flux/SDXL)、tags(booru 标签风,适合 SD1.5)、none | | custom_prompt | 非空时整体覆盖预设 | | temperature / max_tokens | 常规采样参数 | | seed | 传给后端;调节它可强制重新执行节点(重抽) | | timeout | 请求超时(秒) | | image(可选) | 连接 IMAGE 即启用多模态;batch 中每一帧都会作为图片发送 |

不接图片 = 纯文本对话;接图片 + 默认预设 = 图片反推提示词。请求失败(网络、HTTP 错误、响应异常)会直接报错中断工作流,不会把错误文本混进下游。

内置结果缓存:节点对所有影响回复的输入(含图片像素、seed)做哈希,完全相同的请求直接复用上次的回复,不会重复发给 LLM。缓存为进程内 LRU,最多 100 条,整个 ComfyUI 进程存活期间跨任务、跨工作流共享,重启后清空;错误不缓存。每次命中/存入都会在控制台打一行 [LLMLink] cache hit/miss … 日志。想强制重抽,改 seed 即可(seed 参与哈希)。

API key 安全

写在 api_key widget 里的 key 会被保存进 workflow JSON,分享工作流前请清空。推荐做法:widget 留空,用环境变量启动 ComfyUI:

  • LLMLINK_API_KEY — 两种 provider 通用的回退;
  • OPENAI_API_KEY — 仅 provider=openai 时的第二回退。

典型用法

  1. 图片反推提示词:Load Image → image,preset=natural,输出接 CLIP Text Encode。
  2. 标签反推:同上,preset=tags
  3. 纯文本生成/扩写:不接图,custom_prompt 写你的指令。

License

MIT