·Google DeepMind首席執(zhí)行官德米斯·哈薩比斯稱,Gemini將AlphaGo背后的技術(shù)與大語言模型相結(jié)合,目標是讓系統(tǒng)具有新的能力,如規(guī)劃或解決問題,比OpenAI的GPT-4能力更強。
(資料圖片僅供參考)
Google DeepMind首席執(zhí)行官德米斯·哈薩比斯。
不久前強強合并而成的人工智能巨頭Google DeepMind終于向ChatGPT發(fā)出實質(zhì)性挑戰(zhàn)。
在上個月的谷歌(Google) I/O開發(fā)者大會上,谷歌公司首次透露了其正在開發(fā)的大型語言模型Gemini。據(jù)《連線》6月26日報道,DeepMind聯(lián)合創(chuàng)始人兼Google DeepMind首席執(zhí)行官德米斯·哈薩比斯(Demis Hassabis)最近在采訪中進一步透露了Gemini的細節(jié):該系統(tǒng)將AlphaGo背后的技術(shù)與大語言模型相結(jié)合,目標是讓系統(tǒng)具有新的能力,如規(guī)劃或解決問題,比OpenAI的GPT-4能力更強。
2016年,DeepMind開發(fā)的AlphaGo曾擊敗圍棋高手創(chuàng)造歷史?!澳憧梢哉J為Gemini結(jié)合了AlphaGo系統(tǒng)的一些優(yōu)勢和大模型的驚人語言能力?!惫_比斯說,“我們也有一些新的創(chuàng)新,這些創(chuàng)新將非常有趣?!?/p>
可能會嘗試新想法
AlphaGo是基于DeepMind開創(chuàng)的一種叫做強化學習的技術(shù),在這種技術(shù)中,軟件通過反復嘗試并接受關(guān)于其表現(xiàn)的反饋,學會選擇采取何種行動以處理棘手的問題,比如圍棋或視頻游戲。它還使用了一種叫做樹狀搜索(tree search)的方法來探索和記憶棋盤上的可能動作。語言模型的下一個大飛躍,可能涉及讓這種技術(shù)在互聯(lián)網(wǎng)和計算機上執(zhí)行更多任務(wù)。
哈薩比斯說,Gemini仍在開發(fā)中,這個過程將需要數(shù)月時間,可能花費數(shù)千或數(shù)億美元。OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)曾在4月透露,創(chuàng)建GPT-4的成本超過1億美元。
訓練像GPT-4這樣的大型語言模型,需要將來自書籍、網(wǎng)頁和其他來源的大量文本輸入被稱為Transformer(谷歌開發(fā)的一種深度學習模型,OpenAI在此基礎(chǔ)上開發(fā)了GPT)的機器學習軟件。它利用訓練數(shù)據(jù)中的規(guī)律,熟練地預測一段文本后面的字母和單詞,這種簡單的機制在回答問題和生成文本或代碼方面被證明是非常強大的。
要開發(fā)ChatGPT和類似能力的語言模型,需要一個重要的額外步驟:使用基于人類反饋的強化學習來完善其性能。DeepMind在強化學習方面的深厚經(jīng)驗可以讓其研究人員賦予Gemini新的能力。
哈薩比斯和他的團隊也可能嘗試用人工智能其他領(lǐng)域的想法來加強大型語言模型技術(shù)。DeepMind的研究人員涵蓋了從機器人到神經(jīng)科學等各個領(lǐng)域,本周,該公司展示了一種算法,能夠?qū)W習用各種不同的機器人手臂執(zhí)行操縱任務(wù)。
谷歌DeepMind的研究人員最近將人工智能與一款名為RoboCat的機器人結(jié)合起來,預計將在自我訓練機器人方面實現(xiàn)一大躍進。
人們普遍認為,像人類和動物那樣從世界的物理經(jīng)驗中學習,對于使人工智能更有能力非常重要。一些人工智能專家認為,語言模型通過文本間接地學習世界,是一個主要的限制。
谷歌高層十分重視Gemini
Gemini是DeepMind迄今為止在該領(lǐng)域最有野心的項目。國外科技網(wǎng)站The Information在3月報道稱,受谷歌聊天機器人項目巴德(Bard)失敗的刺激,為了跟上ChatGPT的步伐,谷歌高層直接參與Gemini的研發(fā),包括該公司最高級的人工智能研究主管杰夫·迪恩(Jeff Dean)。
Gemini的開發(fā)完成,可能會讓谷歌在與ChatGPT等生成式人工智能技術(shù)的競爭中占據(jù)優(yōu)勢。盡管谷歌開創(chuàng)了許多技術(shù),并催生了最近的人工智能創(chuàng)新,但它選擇了謹慎地開發(fā)和部署產(chǎn)品。而到了4月,為了應(yīng)對越來越激烈的競爭,谷歌將其“谷歌大腦”實驗室與哈薩比斯領(lǐng)導的DeepMind合并為Google DeepMind。
哈薩比斯說,新團隊將結(jié)合兩個強大的人工智能團隊。“如果你看看我們在人工智能領(lǐng)域的地位,我會說80%或90%的創(chuàng)新來自這兩者之一?!惫_比斯說?!斑^去十年里,這兩個組織都取得了一些杰出的成就?!?/p>
哈薩比斯自己曾引發(fā)過一場人工智能狂熱。2014年,DeepMind被谷歌收購。在接下來的幾年里,DeepMind展示了AI如何做到曾經(jīng)看起來只有人類才能做到的事情。當AlphaGo在2016年擊敗圍棋冠軍李世石時,許多人工智能專家都驚呆了,因為他們曾認為,機器要想熟練掌握如此復雜的游戲,還需要幾十年。
值得注意的是,Gemini并不是DeepMind進入語言模型領(lǐng)域的第一次嘗試。去年,該公司推出了聊天機器人Sparrow,聲稱它比其他語言模型更不可能給出“不安全”或“不恰當”的答案。哈薩比斯今年1月在接受《時代》采訪時說,DeepMind將考慮在今年某個時候發(fā)布Sparrow的私人測試版,目前還不清楚這些計劃是否仍在進行中。
(原標題:“比GPT-4強”!谷歌DeepMind自曝正開發(fā)新型AI模型)
標簽: