Nodes Browser

ComfyDeploy: How Phi-3-mini in ComfyUI works in ComfyUI?

What is Phi-3-mini in ComfyUI?

Nodes:Phi3mini_4k_ModelLoader_Zho, Phi3mini_4k_Zho, Phi3mini_4k_Chat_Zho

How to install it in ComfyDeploy?

Head over to the machine page

  1. Click on the "Create a new machine" button
  2. Select the Edit build steps
  3. Add a new step -> Custom Node
  4. Search for Phi-3-mini in ComfyUI and select it
  5. Close the build step dialig and then click on the "Save" button to rebuild the machine

P3 Comfyui

<h1 align="center">Phi-3-mini in ComfyUI</h1>

Dingtalk_20240426213526

项目介绍 | Info

  • 将微软 Phi-3-mini-4k-instruct 模型引入到 ComfyUI 中,模型很小,速度很快,性能很强(媲美 GPT-3.5 和 Mixtral 8x7B)

  • Phi-3-mini-4k-instruct 开源可商用( MIT 许可),中文表现很不错,可用于 生成/补全提示词 或畅聊人生!

  • 版本:V1.0 支持系统提示词,支持单/多轮对话双模式,支持中文输入自动并输出英文提示词

详细说明 | Features

  • 节点:

    • 🏖️Phi3mini 4k ModelLoader:会自动下载模型(请保持网络畅通)

    • 🏖️Phi3mini 4k:支持系统指令设置(System Instruction)

    • 🏖️Phi3mini 4k Chat:支持系统指令设置(System Instruction)+ 多轮对话

  • 节点示例:

Dingtalk_20240426225104

  • 上下文多轮对话:

Dingtalk_20240426224040

参数说明 | Parameters

  • model:接入模型
  • tokenizer:分词器
  • prompt:提示词
  • system_instruction:系统指令
  • temperature:随机性

安装 | Install

  • 环境依赖要求:transformers>=4.40.0,手动升级:pip uninstall -y transformers && pip install git+https://github.com/huggingface/transformers

  • 推荐使用管理器 ComfyUI Manager 安装(ON THE WAY)

  • 手动安装:

    1. cd custom_nodes
    2. https://github.com/ZHO-ZHO-ZHO/ComfyUI-Phi-3-mini.git
    3. cd custom_nodes/ComfyUI-Phi-3-mini
    4. pip install -r requirements.txt
    5. 重启 ComfyUI
  • 输出节点可配合像ComfyUI-Gemini中 ✨DisplayText_Zho 一样的任何接受文本的节点

工作流 | Workflow

V1.0 工作流

Phi-3-mini-4k + CosXL【Zho】

Dingtalk_20240426223015

Phi-3-mini-4k Chat【Zho】

Dingtalk_20240426211605

更新日志 | Changelog

20240426

  • V1.0: 支持系统提示词,支持单/多轮对话双模式,支持中文输入自动并输出英文提示词

  • 创建项目

Stars

Star History Chart

关于我 | About me

📬 联系我

  • 邮箱:zhozho3965@gmail.com
  • QQ 群:839821928

🔗 社交媒体

💡 支持我

Credits

Phi-3-mini-4k-instruct