近期，中國工業(yè)互聯(lián)網(wǎng)研究院（簡稱“工聯(lián)院”）針對人工智能大模型在中文工業(yè)領域的知識問答能力進行系統(tǒng)性評測。結果顯示，百度文心一言表現(xiàn)超過GPT3.5，綜合評價指數(shù)在國內(nèi)排名第一。
【資料圖】
工聯(lián)院本次評測選取了工業(yè)領域典型的八大行業(yè)。百度文心一言在電子設備、裝備、鋼鐵、采礦、電力、石化、建材等七大行業(yè)均獲國內(nèi)第一。
據(jù)悉，評測對象涵蓋GPT4、GPT3.5、文心一言、ChatGLM等國內(nèi)外具有代表性的頭部大模型。評估結果選取性能前六名的模型進行公布。
百度文心一言測評表現(xiàn)超過GPT3.5
本次工業(yè)知識問答測試主要分為客觀題與主觀題兩大類，總計超過1100個問題。主觀題主要考察四大維度：基礎能力、語句能力、概括能力和邏輯能力。
評測結果顯示，GPT4表現(xiàn)最佳。國內(nèi)頭部大模型表現(xiàn)亮眼，整體與GPT3.5相當。其中百度文心一言表現(xiàn)超過GPT3.5，在國內(nèi)大模型中排名第一。
在客觀題環(huán)節(jié)，評測結果顯示，GPT4與文心一言表現(xiàn)好于其他大模型。但評測結果也同時指出，大模型普遍準確率有較大的提升空間。
主觀題方面，國內(nèi)大模型的基礎能力、語句能力與GPT4接近，概括能力、邏輯能力與GPT4有一定差距。
在大模型的自我認知能力和污染問題分析能力上，GPT4相較于其他大模型表現(xiàn)出更好的能力。
大模型發(fā)展新熱點：豐富特定行業(yè)專業(yè)知識
雖然國內(nèi)大模型在本次評測表現(xiàn)較好，甚至在部分行業(yè)趕超GPT3.5，但工聯(lián)院評測報告也指出，國內(nèi)外通用大模型在工業(yè)知識問答領域探索仍處于初級階段，國內(nèi)大模型與GPT4有差距，比如行業(yè)間的泛化能力有待加強。
實際上，工聯(lián)院評測報告揭示出通用大模型落地垂直行業(yè)的痛點，缺乏特定行業(yè)的專業(yè)知識。
關于解決難題的方法，工聯(lián)院評測報告給出的建議是，進一步豐富相關專業(yè)領域的數(shù)據(jù)訓練集，進一步進行專業(yè)化的微調(diào)。
當前，國內(nèi)科技公司紛紛加強與工業(yè)企業(yè)合作，期望通過在實際場景中探索應用大模型，彌補差距，趕超GPT4.0。
比如百度文心一言與南方電網(wǎng)電力調(diào)度控制中心在電力調(diào)度場景探索使用調(diào)度AI大模型。在汽車行業(yè)，長安汽車基于百度文心大模型正在開發(fā)生成式人工智能產(chǎn)品，賦能一款量產(chǎn)車型，實現(xiàn)提升用戶體驗的目標。除了能源、汽車制造，百度智能云還在建筑、采礦、物流、紡織等領域，探索使用大模型提升運營效率和用戶體驗效果。
據(jù)悉，未來，工聯(lián)院將持續(xù)開展通用大模型在工業(yè)領域更多維度的性能評測，包括但不限于大模型的魯棒性、安全性以及人類大價值觀等。（肖智）
（文章來源：經(jīng)濟參考網(wǎng)）
標簽：
