EN 中文
返回总览

LiteRtLm_CreateConversation

创建基础对话会话。在引擎内部分配一个新的 KV Cache 槽位及上下文管理器。

01. 会话分配逻辑

graph LR Engine[LiteRT-LM Engine] -->|Spawn| Conv[Conversation Object] subgraph KV_Pool [显存 KV 池] Slot1[Session 1 Cache] Slot2[Session 2 Cache] end Conv -->|Owner| Slot1

每一个 Conversation 句柄都持有一个独立的上下文状态机。它负责记录对话历史,并占用由 max_num_tokens 定义的显存空间。

02. 参数与返回值

void* LiteRtLm_CreateConversation(void* engine_ptr);
参数/返回值详细描述
engine_ptr CreateEngine 返回的有效引擎指针。
返回值 (void*) 会话句柄。
用于后续的消息追加与推理触发。若创建失败(如显存不足以分配新槽位),返回 NULL。

03. 简单初始化示例

// 创建一个没有任何历史记录的新会话
void* MyConversation = LiteRtLm_CreateConversation(EngineHandle);

if (MyConversation) {
    // 准备开始对话...
}