异步泵送机制、计算循环与实时遥测百科
sequenceDiagram
participant GT as Game Thread
participant K as Plugin Kernel (Thread)
participant GPU as GPU hardware
K->>K: 进入阻塞循环 (WaitUntilDone)
loop Token Generation
K->>GPU: 提交流程指令 (WebGPU)
GPU-->>K: 返回 Logits
K->>GT: 触发 OnChunk (异步分发)
end
GT->>GT: 并行处理逻辑与渲染
在处理过程中,业务层应持续感知硬件状态以进行防御性编程。
// 业务层标准写法:轮询显存
float AvailableVRAM = ULiteRtLmSubsystem::QueryAvailableVramMB();
if (AvailableVRAM < 512) { InterruptInference(); } // 熔断保护
插件内部自动启动的后台任务。业务层主要负责管理其关联的异步句柄。
为什么不会卡主线程?插件通过后台泵送驱动内核。GameThread 只负责接收推送结果,实现了物理计算与渲染的彻底解耦。
直接穿透 RHI,获取最真实的 GPU 剩余 Budget。这是本地 AI 游戏不闪退的工程保障。