2024年AIcon全球人工智能應(yīng)用與開發(fā)大會上，騰訊云依托向量數(shù)據(jù)庫和AI代碼助手等產(chǎn)品，在RAG領(lǐng)域的創(chuàng)新實踐獲得了廣泛關(guān)注，并斬獲年度AI最佳實踐案例、十大高價值技術(shù)團隊、十大AI最佳技術(shù)服務(wù)商三大獎項。
RAG（Retrieval-Augmented Generation，檢索增強生成）技術(shù)因能有效解決大模型的“幻覺”問題而受到廣泛認(rèn)可，但其實際落地效果一直是業(yè)界關(guān)注的焦點。騰訊云數(shù)據(jù)庫副總經(jīng)理羅云透露，自去年上線以來，騰訊云向量數(shù)據(jù)庫已成功支持60多個集團業(yè)務(wù)及外部3000多家企業(yè)，其吞吐能力是業(yè)界平均水平的兩倍，響應(yīng)延遲低至毫秒級，助力企業(yè)快速構(gòu)建RAG解決方案。
在大會期間的TechoDay“RAG應(yīng)用與實踐”專場，來自金融、教育、工業(yè)等多個行業(yè)的頭部企業(yè)技術(shù)負(fù)責(zé)人還分享了基于RAG的創(chuàng)新策略與實戰(zhàn)經(jīng)驗，展現(xiàn)了多樣化的RAG技術(shù)實現(xiàn)路徑。
金融行業(yè)：快速構(gòu)建與高效安全
招商證券自2023年起探索AI輔助編碼技術(shù)，在取得階段性成績后今年選擇引入騰訊云AI代碼助手，致力于進一步提升智能開發(fā)效率。
（招商證券技術(shù)平臺團隊負(fù)責(zé)人譚成鑫演講照片）
目前，騰訊內(nèi)部已經(jīng)有80%的程序員使用騰訊云AI代碼助手實現(xiàn)開發(fā)提效，日均有33%的代碼由AI生成，整體編碼效率提升達(dá)到42%。
招商證券技術(shù)平臺團隊負(fù)責(zé)人譚成鑫表示，結(jié)合公司實際需求和技術(shù)特點，雙方進行了深度定制，利用代碼大模型融合內(nèi)部數(shù)據(jù)實現(xiàn)跨文件智能擴展，按需擴展插件快捷指令和Prompt，還將運營體系與度量標(biāo)準(zhǔn)對接，提升了軟件開發(fā)效率和質(zhì)量。
教育行業(yè)：精準(zhǔn)問答與知識庫構(gòu)建
作業(yè)幫在研發(fā)學(xué)習(xí)機AI助手時，面臨大模型“幻覺”問題，傳統(tǒng)關(guān)鍵字檢索方案效果遭遇瓶頸, 測試準(zhǔn)確率僅為60%。
（作業(yè)幫高級架基礎(chǔ)架構(gòu)研發(fā)工程師許春旭演講照片）
面對這一挑戰(zhàn)，作業(yè)幫經(jīng)過多方調(diào)研測試，采用了向量數(shù)據(jù)庫作為大模型的外掛知識庫，利用其Embedding功能自動生成向量數(shù)據(jù)。同時，騰訊云向量數(shù)據(jù)庫的AI套件功能，提供一站式文檔檢索解決方案，只需上傳原始文檔，就能在數(shù)分鐘內(nèi)快速構(gòu)建專屬知識庫，極大地提高了知識接入效率。
上線后的測試結(jié)果顯示，純靠向量檢索可以覆蓋95%的場景，作業(yè)幫學(xué)習(xí)機AI助手目前的效果遠(yuǎn)優(yōu)于傳統(tǒng)關(guān)鍵字檢索方案。
工業(yè)行業(yè)：標(biāo)準(zhǔn)化設(shè)計提升效率
成套電氣行業(yè)因其產(chǎn)品定制化程度高、交貨周期短以及協(xié)同工作復(fù)雜等特點，面臨著諸多挑戰(zhàn)。特別是在設(shè)計環(huán)節(jié)，工程師需花費大量時間消化圖紙、手工繪制，且行業(yè)內(nèi)元器件和設(shè)計的標(biāo)準(zhǔn)化程度較低，導(dǎo)致設(shè)計效率低下。此外，工程師的培養(yǎng)過程復(fù)雜，需要掌握大量的專業(yè)知識、國家和地方標(biāo)準(zhǔn)，以及各種專業(yè)術(shù)語，這進一步加劇了行業(yè)的痛點。
（浙江萬榕總經(jīng)理黃帥演講照片）
在騰訊云知識引擎的助力下，浙江萬榕打了造一套開關(guān)設(shè)備行業(yè)的隨身專家系統(tǒng)——“榕博士”。該項目通過建設(shè)行業(yè)幾萬個元器件模型和上千個二維、三維方案模型，積累了300多個行業(yè)標(biāo)準(zhǔn)文檔和近百份頂尖設(shè)計方案，以及工程師的專業(yè)經(jīng)驗。
目前，“榕博士”系統(tǒng)已成功服務(wù)200多位工程師，平均每人設(shè)計效率提升超過50%。
未來，騰訊云將繼續(xù)致力于推動RAG技術(shù)的發(fā)展和應(yīng)用，助力更多企業(yè)加速擁抱智能時代。