ChatGPT絕對是近期媒體報道熱點(diǎn)中的熱點(diǎn)。生命未來研究所（Future of Life Institute）日前在他們的網(wǎng)站上貼出了一封“公開信”，一石激起千層浪。

“公開信”呼吁“所有人工智能實(shí)驗(yàn)室至少暫停6個月比ChatGPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練”，說法這么具體，體現(xiàn)了人類對于ChatGPT發(fā)展速度帶來的挑戰(zhàn)的深深擔(dān)憂。人類對于自己開發(fā)的ChatGPT，不能接受傷到自己的巨大可能。人類需要停頓一下，給自己一點(diǎn)時間進(jìn)行思考，找到有效對策。

ChatGPT底層的學(xué)習(xí)方式是“單字接龍”原理，即只允許用上文預(yù)測下一個字。ChatGPT把機(jī)器學(xué)習(xí)中的極端訓(xùn)練模式都用到了。直到ChatGPT3.5，先后經(jīng)歷了這三階段，即無監(jiān)督學(xué)習(xí)的“開卷有益”、有監(jiān)督學(xué)習(xí)“模板規(guī)范”、強(qiáng)化學(xué)習(xí)的“創(chuàng)意引導(dǎo)”。通過這三個階段的訓(xùn)練后得到“大語言模型”(Large Language Model，LLM)，能夠?qū)Ａ炕ヂ?lián)網(wǎng)信息，文本、語音、圖片進(jìn)行學(xué)習(xí)，擴(kuò)充模型的詞匯量，語言表達(dá)，世界的信息與知識，最終形成“單字接龍”。

(資料圖片僅供參考)

ChatGPT的核心模型結(jié)構(gòu)，在2017年有了“開卷有益”；到2020年，又從“模板規(guī)范”到“創(chuàng)意引導(dǎo)”，技術(shù)模型的發(fā)展離不開從古至今，科研乃至各行業(yè)人員的成果信息之不斷積累于互聯(lián)網(wǎng)，將信息進(jìn)行歸納總結(jié)和學(xué)習(xí)，得出回答。

ChatGPT能夠?qū)⒄Z言符號和指代對象關(guān)聯(lián)起來，并與現(xiàn)實(shí)對應(yīng)起來，這方面具有重大的里程碑意義。它讓人類都看到了LLM的可行性、革命性。所以真正對人類社會帶來沖擊的，不是ChatGPT本身，而是它身后的改變社會發(fā)展方向的推動力。

自然語言處理(Natural Language Processing，NLP)技術(shù)也被譽(yù)為人工智能“皇冠上的明珠”。NLP是LLM的一種，它優(yōu)勢突出，可以不間斷處理海量語言內(nèi)容，處理速度快、效率高。ChatGPT的NLP是LLM中的佼佼者。LLM將變得更好用、更快速、更便宜?？梢灶A(yù)測，相關(guān)產(chǎn)品也會如雨后春筍般普及。

大語言模型對社會的影響范圍將和當(dāng)初電腦的影響范圍一樣，即全社會。美國前國務(wù)卿基辛格認(rèn)為這項(xiàng)技術(shù)的進(jìn)步將帶來新的認(rèn)知革命，將重新定義人類知識，將加速我們現(xiàn)實(shí)結(jié)構(gòu)的改變，并將重組政治和社會。

人類能通過群體協(xié)作創(chuàng)造知識、繼承知識、運(yùn)用知識。這三個環(huán)節(jié)，全都是依靠語言來實(shí)現(xiàn)。LLM的發(fā)明，允許人類將“海量”個體所獲得的認(rèn)識及載體統(tǒng)籌起來，在極短時間“掌握”過去與未來，能帶來很多行業(yè)生產(chǎn)效率的大幅提升。

然而，ChatGPT也可能會威脅到全人類。ChatGPT操縱控制用戶的能力會逐漸加強(qiáng)。歐洲警察組織警告說，像ChatGPT這樣的LLM是危險的，因?yàn)樗鼈兪狗缸锓肿痈菀撞扇⌒袆?。外媒還表示，ChatGPT可以用來了解大量了不解的潛在犯罪領(lǐng)域，從如何闖入住宅，到恐怖主義、網(wǎng)絡(luò)犯罪和兒童性虐待方面均存在極大風(fēng)險。歐洲刑警組織指出，ChatGPT可能被濫用來產(chǎn)生虛假的社交媒體，成為犯罪分子和大規(guī)模犯罪工具。美國哲學(xué)教授（Aumann）發(fā)現(xiàn)，學(xué)生提交的論文是由ChatGPT寫的，因?yàn)檎撐牡恼Z法等各方面“過于”完美，而且論文是群體性的。

ChatGPT的“大語言模型”通過互聯(lián)網(wǎng)掌握一個人幾輩子都沒法讀完資料，會隨意聯(lián)想，有能力回答各種問題，但我們卻很難指揮它，這是人類擔(dān)心的關(guān)鍵所在。

霍金警告過，“人工智能（Artifical Intelligence，AI）將堪比第三次世界大戰(zhàn)”。AI能控制接入全球互聯(lián)網(wǎng)，能把世界上每一寸士地都通過衛(wèi)星攝像頭監(jiān)控到，然后當(dāng)他的算力足夠強(qiáng)大的時候可以精確計算到每個人。GPT-5完成后，即將讀取全人類的知識報道，訓(xùn)練視頻數(shù)高達(dá)20億GB，ChatGPT進(jìn)化速度過快了。對一個算力發(fā)達(dá)，甚至可以想像到無限的當(dāng)代，有網(wǎng)友假設(shè)了地球已經(jīng)變成“乒乓球”，被“攥在”在恐怖分子的“手心”里?！翱植婪肿永肁I，通過ChatGPT下達(dá)了一個消滅全人類的指令”。人類需要6個月的短暫時間思考，并找到切實(shí)有效的措施，防止ChatGPT被壞人利用。

“無意識但具備高智能的算法，可能很快比我們更了解自己。”霍金在《未來簡史》中警告人類時如是說?！叭斯ぶ悄鼙群宋淦骺膳隆保R斯克也警告過人類。“公開信”中，馬斯克也成為千人積極簽名中的一員。

太陽下面沒有新鮮事，歷史總在重演。如何解決ChatGPT技術(shù)是一把雙刃劍這個問題，可以回顧一下歷史，從歷史經(jīng)驗(yàn)中找答案。

每項(xiàng)革命性的技術(shù)進(jìn)步，都是各有利弊，人類應(yīng)該有智慧處理ChatGPT這件事。正像人類發(fā)明“原子能技術(shù)”一樣，核能能為人類提供電力，帶來光明，核能也是原子彈的原理，人類也采取有效措施避免不應(yīng)有的各種核災(zāi)難。

在ChatGPT技術(shù)上，筆者有如下建議：

一是要部署研究開發(fā)自己的“大語言模型LLM”來確保安全。ChatGPT將方便人類對技術(shù)知識的繼承，也將帶來網(wǎng)絡(luò)安全和社會安全的新挑戰(zhàn)，尤其要防范ChatGPT給國家安全帶來的危險。在今年“兩會”上，政協(xié)科技、科協(xié)聯(lián)組會議上，朱松純委員的發(fā)言是關(guān)于“信息領(lǐng)域的產(chǎn)業(yè)制高點(diǎn)問題”，引起了廣泛共鳴。他談了ChatGPT的發(fā)展和威脅，建議人工智能研究要提到“兩彈一星”的高度，制定線路圖，打通產(chǎn)學(xué)研用。要保證國家各機(jī)構(gòu)數(shù)據(jù)安全，我國只能研發(fā)自己的NLP和LLM。

二是要做好從“應(yīng)試教育”轉(zhuǎn)向“能力培養(yǎng)”工作。ChatGPT的回答基本符合人類邏輯，一言一語都有因果關(guān)聯(lián)，都是由前推后、由此及彼，所以它的回答有意義，也能解決我們提出的問題。未來的教育，應(yīng)當(dāng)注意培養(yǎng)批判性思維、邏輯能力。要培養(yǎng)孩子的批判性思維和邏輯能力。

三是跟上ChatGPT技術(shù)的發(fā)展潮流，學(xué)習(xí)能力培養(yǎng)愈顯重要。現(xiàn)在我們?nèi)砸孔约?，靠學(xué)習(xí)能力，來應(yīng)對后面加速變化的技術(shù)和工具。ChatGPT所掀起的浪潮已經(jīng)不僅僅涉及個人，還關(guān)乎到各國未來?！皯?yīng)試教育”學(xué)生的考卷得分，無法與ChatGPT的得分相比，學(xué)生要做好終身學(xué)習(xí)的準(zhǔn)備。教育機(jī)構(gòu)要以提高學(xué)習(xí)能力、提高創(chuàng)造力為教育的主要目的，從小就訓(xùn)練學(xué)生適應(yīng)快速變化的學(xué)習(xí)能力和創(chuàng)造能力。

四是如果學(xué)不會善用工具，終將被會用工具的人淘汰。沒有人能阻止我們探索開發(fā)自己的NLP、LLM，要像電動汽車、AI一樣，做到“人無我有，人有我優(yōu)”，實(shí)現(xiàn)善用工具。能阻止我們的只有我們自己的心態(tài)和學(xué)習(xí)能力。人類有智慧的一大優(yōu)勢就在于善于利用工具。要先了解ChatGPT工具的優(yōu)點(diǎn)和缺點(diǎn)，然后避開其缺點(diǎn)，使其優(yōu)點(diǎn)為我所用。即使讓ChatGPT從市場消失，取代現(xiàn)象也會隨著其他新工具的出現(xiàn)而出現(xiàn)，不會因?yàn)槿藗兊暮ε潞偷钟|而消退。

（作者系中國航天科技集團(tuán)有限公司第十一研究院研究員）

標(biāo)簽：