如何使用 Dedicated GPU Mode?
如果你的 Run 按钮是飞机的图标,你可以直接点击 Run 按钮,然后你会看到这样的一个弹窗。你需要选择你想要使用的 GPU 型号,以及需要运行的时间,还有你不想使用的插件。部分插件因为启动的时间比较久,所以你可以选择不启用部分你用不到的插件。
点击 start 后,就会启动 GPU。你会看到底部工具栏会变成这样,这就意味着你已经启动了 GPU。
点击 run 后,会运行工作流。
大约 A10G 生成 SD1.5,20 steps,512x512 的图片仅需要 10 秒左右。
整体的体验与你本地使用 ComfyUI 类似,部分节点运行过后,如果参数没有变化,则不会重复运行。当你需要调试工作流的时候,速度相对于 Serverless 模式会更快一些。
你可以在任意时候点击 Stop 按钮暂停 GPU。没有用完的时间的 Credit 我们会退回给你。
如果你的 Run 按钮,是个汽车的icon,那证明你现在是在 Serverless 模式下。你需要点击 run 旁边的下拉按钮,然后选择 Dedicated GPU Mode。
Dedicated GPU 模式和 Serverless 模式有什么区别?
首先,在费用上的区别如下:
当你在使用 Serverless 模式下,你只需要支付 GPU 的运行时间,不需要支付 GPU 的空闲时间。比如当你调整工作流的时候,就不需要支付费用。但每次使用 GPU 的时候,都会需要重新启动 ComfyUI。你需要支付启动 ComfyUI 的费用。
当你在使用 Dedicated GPU 模式下,你不仅需要支付 GPU 的运行时间,还需要支付 GPU 的空闲时间。比如当你调整工作流的时候,你都需要支付费用。但只需要启动一次 Comfyui,这部分的费用会比较低。但因为调整工作流的时候,仍然会消耗 GPU 的运行时间,所以费用会更高。如果你需要花很长时间对工作流进行调试,那么 Dedicated GPU 模式费用可能会更高。
第二,在运行 Workflow 模式上,也有一些细微的区别。如果我们将运行工作流到获得结果的过程拆得更细一些,大概是这样的:
当你在使用 Serverless 模式下,不管你如何调整工作流(比如你仅仅只调整了 2 个节点的参数),只要点击运行,所有的节点都会重新运行。
当你在使用 Dedicated GPU 模式下,则与之相反。你仅仅只调整了 2 个节点的参数,那么只有这 2 个节点会重新运行。这就意味着运行的速度会更快,所以比较适合调试工作流的时候使用。
为何或何时要使用 Dedicated GPU Mode?
如果你是要调试某个工作流,那么 Dedicated GPU Mode 会是一个不错的选择。因为它不会运行你已经运行过的节点,所以调试的速度会更快。
另外,如果你想要连续生成多张图,那么 Dedicated GPU Mode 会是一个不错的选择。因为 Serverless 模式下,在生图与生图任务之间,会需要再次启动 GPU,所以速度会慢一些。