steady-RAG #56
AlexBybye
announced in
Announcements
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
目前三期仓库开发第二代计划全部完成,未来的老学长复习助手迭代会持续在abtest分支进行,验收标准是实测2轮,验证前端真实返回,后端真实链路记录,模型端平台token耗额,实验规范如https://github.com/AlexBybye/SCUT_CS/pull/55 所示
本期RAG在tokenless基础上,实现了
一期的词法做了一个评测基线,加权换成了BM25F,结果如下:
其次embedding考虑到后期服务器部署和资料汉字较多,使用了1.5B的中文友好的ONNX512维模型,本地轻量才是王道,rerank采用规则重排,BM25F为主要证据,毕竟题目题号这种一字之差千差万别,向量检索证据实在有限,在服务器资源受限前提下,使用小模型reranker不如规则重排
等等优化修改不再赘述,详见 https://github.com/AlexBybye/SCUT_CS/blob/master/apps/scut-senior/docs/senior-2/PLAN-2.md
总之最后实测使用非常模糊凌乱或是简要的提示词也可以索引到真实的往年题目/大纲等材料,此智能复习助手已经可以通过个性化知识库,接入各种想要复习的考试了。

This discussion was created from the release steady-RAG.
All reactions