如何使用 Serverless 模式?
如果你的 Run 按钮,是个汽车的icon,那证明你现在是在 Serverless 模式下。点击 Run 按钮就能直接运行 Workflow。
如果你的 Run 按钮,是个飞机的icon,那证明你现在是在 Dedicated GPU 模式下。你需要点击 run 旁边的下拉按钮,然后选择 Serverless Mode。
Serverless 模式和 Dedicated GPU 模式有什么区别?
首先,在费用上的区别如下:
当你在使用 Serverless 模式下,你只需要支付 GPU 的运行时间,不需要支付 GPU 的空闲时间。比如当你调整工作流的时候,就不需要支付费用。但每次使用 GPU 的时候,都会需要重新启动 ComfyUI。你需要支付启动 ComfyUI 的费用。
当你在使用 Dedicated GPU 模式下,你不仅需要支付 GPU 的运行时间,还需要支付 GPU 的空闲时间。比如当你调整工作流的时候,你都需要支付费用。但只需要启动一次 Comfyui,这部分的费用会比较低。但因为调整工作流的时候,仍然会消耗 GPU 的运行时间,所以费用会更高。如果你需要花很长时间对工作流进行调试,那么 Dedicated GPU 模式费用可能会更高。
第二,在运行 Workflow 模式上,也有一些细微的区别。如果我们将运行工作流到获得结果的过程拆得更细一些,大概是这样的:
当你在使用 Serverless 模式下,不管你如何调整工作流(比如你仅仅只调整了 2 个节点的参数),只要点击运行,所有的节点都会重新运行。
当你在使用 Dedicated GPU 模式下,则与之相反。你仅仅只调整了 2 个节点的参数,那么只有这 2 个节点会重新运行。这就意味着运行的速度会更快,所以比较适合调试工作流的时候使用。
为何或何时要使用 Serverless Mode?
如果你需要花比较多的时间在调整工作流上,那么可能 Serverless 模式会更便宜一些。但如果你调整工作流的时候,需要多次运行 Workflow,那么 Dedicated GPU 模式会更便宜一些。