实时语音导购与合规销售辅助

面向电商私域销售场景，将销售对话沉淀为知识资产，再由实时语音导购承接商品咨询、专业应答、素材推荐与下单引导。

负责实时语音导购链路、RAG 召回、LLM 首字延迟优化、RTC 弱网治理、Prompt 评测回流和微调模型接入。

用于让 AI 从“回答问题”进入真实销售辅助场景，在保持人工可控和合规边界的前提下，提升响应速度、专业度和转化承接能力。

• 1直接消费销售语料治理系统导出的 RAG 数据，串联混合检索、Int8 量化、Metadata 标签过滤、TOPK / N / Rerank 协同调节
• 2联通多模态素材中心，检索命中图片和视频后按文字、图片、视频混排分条返回，让语音与图文客服具备多模态应答能力
• 3面向语音查询中的专有名词命中瓶颈，采用降维、精简 Limit、base-rerank 轻量模型与 dense_weight 动态平衡，使检索速度提升约 4 倍
• 4固定 RAG 片段排序并合并 System Prompt，深度触发 Prefix Caching 与 KV Cache，将复杂 RAG 场景 TTFT 从 15s 降至 2s 内
• 5ASR 实时捕获用户情绪变化，结合 TTS 声音复刻输出情绪化回复；弱网侧引入 FEC 与自适应 Jitter Buffer，在高丢包环境下保障语音可用性
• 6Prompt Pilot 统一管理提示词，通过评测集做自动评分和版本对比，并将负样本优化后的高质量样本回流数据中台

核心技术包括 RTC、ASR / TTS、Hybrid RAG、Metadata Filter、Rerank、Prefix Caching、KV Cache、Prompt Pilot、FEC、Jitter Buffer、多模态素材召回、微调模型接入和 Max Token 分级控制。