EN 中文
返回总览

LiteRtLm_GetAvailableBackends

环境探测接口。返回当前硬件平台支持的推理后端列表。建议在配置 Engine 之前调用以决定最佳运行策略。

01. 启动探测流程图

graph TD Start[App Startup] --> Probe[LiteRtLm_GetAvailableBackends] Probe --> Detect{检测硬件环境} Detect -->|Found Vulkan/Metal| GPU["返回 'gpu,cpu'"] Detect -->|Generic Only| CPU["返回 'cpu'"] GPU --> Decision[根据返回值设置 Config.backend]

此接口是一个纯静态探测函数,无需创建引擎即可调用,用于为后续的 LiteRtLm_Config 提供决策依据。

02. 函数原型与返回值

const char* LiteRtLm_GetAvailableBackends();
返回值类型内存契约与语义
const char* 静态字符串。
指向 DLL 内部的常量内存,严禁调用 free() 释放。返回以逗号分隔的标识符(如 "cpu,gpu")。

03. 动态配置示例

const char* Backends = LiteRtLm_GetAvailableBackends();
FString Supported(Backends);

LiteRtLm_Config config = {0};
if (Supported.Contains("gpu")) {
    config.backend = "gpu"; // 发现显卡加速支持
} else {
    config.backend = "cpu"; // 回退到 CPU
}