Skip to content

Latest commit

 

History

History
182 lines (135 loc) · 4.55 KB

06-extraction.md

File metadata and controls

182 lines (135 loc) · 4.55 KB

上下文提取

OpenViking 采用三层异步架构处理文档解析和上下文提取。

概览

输入文件 → Parser → TreeBuilder → SemanticQueue → 向量库
           ↓           ↓              ↓
        解析转换    文件移动     L0/L1 生成
        (无 LLM)   入队语义      (LLM 异步)

设计原则：解析与语义分离，Parser 不调用 LLM，语义生成异步进行。

Parser（解析器）

Parser 负责文档格式转换和结构化，在临时目录创建文件结构。

支持格式

格式 解析器 扩展名 支持情况
Markdown MarkdownParser .md, .markdown 已支持
纯文本 TextParser .txt 已支持
PDF PDFParser .pdf 已支持
HTML HTMLParser .html, .htm 已支持
代码 CodeRepositoryParser github 代码仓库等 已支持
图片 ImageParser .png, .jpg 等
视频 AudioParser .mp3, .wav 等
音频 VideoParser .mp4, .avi 等

核心流程 (以文档为例)

# 1. 解析文件
parse_result = registry.parse("/path/to/doc.md")

# 2. 返回临时目录 URI
parse_result.temp_dir_path  # viking://temp/abc123

智能分割

如果 document_tokens <= 1024:
    → 保存为单文件
否则:
    → 按标题分割
    → 小节 < 512 tokens → 合并
    → 大节 > 1024 tokens → 创建子目录

返回结果

ParseResult(
    temp_dir_path: str,    # 临时目录 URI
    source_format: str,    # pdf/markdown/html
    parser_name: str,      # 解析器名称
    parse_time: float,     # 耗时（秒）
    meta: Dict,            # 元数据
)

TreeBuilder（树构建器）

TreeBuilder 负责将临时目录移动到 AGFS，并入队语义处理。

核心流程

building_tree = tree_builder.finalize_from_temp(
    temp_dir_path="viking://temp/abc123",
    scope="resources",  # resources/user/agent
)

5 阶段处理

  1. 查找文档根目录：确保临时目录下恰好 1 个子目录
  2. 确定目标 URI：根据 scope 映射基础 URI
  3. 递归移动目录树：复制所有文件到 AGFS
  4. 清理临时目录：删除临时文件
  5. 入队语义生成：提交 SemanticMsg 到队列

URI 映射

scope 基础 URI
resources viking://resources
user viking://user
agent viking://agent

SemanticQueue（语义队列）

SemanticQueue 异步处理 L0/L1 生成和向量化。

消息结构

SemanticMsg(
    id: str,           # UUID
    uri: str,          # 目录 URI
    context_type: str, # resource/memory/skill
    status: str,       # pending/processing/completed
)

处理流程（自底向上）

叶子目录 → 父目录 → 根目录

单目录处理步骤

  1. 并发生成文件摘要：限制并发数 10
  2. 收集子目录摘要：读取已生成的 .abstract.md
  3. 生成 .overview.md：LLM 生成 L1 概览
  4. 提取 .abstract.md：从 overview 提取 L0 摘要
  5. 写入文件：保存到 AGFS
  6. 向量化：创建 Context 并入队 EmbeddingQueue

配置参数

参数 默认值 说明
max_concurrent_llm 10 并发 LLM 调用数
max_images_per_call 10 单次 VLM 最大图片数
max_sections_per_call 20 单次 VLM 最大章节数

三种上下文提取

流程对比

环节 Resource Memory Skill
Parser 通用流程 通用流程 通用流程
基础 URI viking://resources viking://user/memories viking://agent/skills
TreeBuilder scope resources user/agent agent
SemanticMsg type resource memory skill

资源提取

# 添加资源
await client.add_resource(
    "/path/to/doc.pdf",
    reason="API 文档"
)

# 流程: Parser → TreeBuilder(scope=resources) → SemanticQueue

技能提取

# 添加技能
await client.add_skill({
    "name": "search-web",
    "content": "# search-web\\n..."
})

# 流程: 直接写入 viking://agent/skills/{name}/ → SemanticQueue

记忆提取

# 记忆从会话自动提取
await session.commit()

# 流程: MemoryExtractor → TreeBuilder(scope=user) → SemanticQueue

相关文档