百川智能披露 To B 技术路线:看好搜索增强大模型,文本获取规模增至 1 亿汉字
百川智能披露ToB技术路线:看好搜索增强大模型,文本获取规模增至1亿汉字百川智能今日首次对外介绍了公司ToB技术路线,同时宣布开放基于搜索增强的Baichuan2-Turbo系列API,包含Baichuan2-Turbo-192K及Baichuan2-Turbo。在支持192K超长上下文窗口的基础上,还增加了搜索增强知识库的能力。据王小川介绍,通过长窗口+搜索增强的方式,百川智能在192K长上下文窗口的基础上,将大模型能够获取的原本文本规模提升了两个数量级,达到5000万tokens——相当于1亿汉字。通过搜索增强,模型可以先根据用户的Prompt在海量的文档中检索出最相关的内容,再将这些文档与Prompt一起放到长窗口中,有效节省了推理费用和时间成本。(新浪科技)
在Telegram中查看相关推荐
🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人