支持硬件 Supported Machines

fal 运行时允许您指定 fal 函数运行的机器的大小。这是使用 `fal.function` 装饰器中的 `machine_type` 参数完成的。目前,以下选项可用:

ValueDescription
XS0.25 CPU cores, 256MB RAM (default)
S0.50 CPU cores, 1GB RAM
M2 CPU cores, 8GB RAM
L4 CPU cores, 32GB RAM
GPU8 CPU cores, 64GB RAM, 1 GPU core (A100, 40GB VRAM)

例如:

py
@fal.function(machine_type="GPU")
def my_function():
  ...

@fal.function(machine_type="L")
def my_other_function():
  ...

默认情况下,machine_type 设置为 XS

您还可以使用 on 方法切换现有 fal 函数的机器类型。

py
my_function_S = my_function.on(machine_type="S")

在上面的例子中,my_function_S 是一个新的 fal 函数,它具有与 my_function 相同的内容,但它将在机器类型 S 上运行。

这两个函数都可以调用:

py
my_function() # executed on machine type `GPU`
my_function_S() # same as my_function but executed on machine type `S`

my_function 在机器类型 GPU 上执行。而与 my_function 具有相同逻辑的 my_function_S 现在在机器类型 S 上执行。

最后更新于 2024 年 6 月 26 日