點擊海報回看本期《面談》 制作|陳靜茹 張莉
長江日報大武漢客戶端2月22日訊（記者陳靜茹）最近，應(yīng)用軟件ChatGPT在多國社交媒體“狂飆”。發(fā)布兩個月后，月活人數(shù)成功過億，成為史上用戶增速最快的消費者應(yīng)用。2月20日，清華大學(xué)人工智能國際治理研究院副院長、清華大學(xué)公共管理學(xué)院教授梁正，武漢大學(xué)人工智能系系主任、教授彭敏和武漢大學(xué)副研究員李祖超做客長江日報《面談》，一起暢聊風(fēng)暴眼中的ChatGPT。網(wǎng)友在線上同三位教授一起熱議ChatGPT，各平臺觀看視頻網(wǎng)友達(dá)70萬。
一、ChatGPT能做什么？有沒有與它聊天過？
梁正：作為科研工作者，我最關(guān)心的是ChatGPT可以給我們提供什么幫助。因為我是做人工智能的治理研究，也就是人工智能會帶來什么樣的風(fēng)險，什么樣的問題，所以我首先問他“你會對人類產(chǎn)生什么樣的影響？應(yīng)該怎么去應(yīng)對？”它的回答很官方，也很全面。
彭敏：首先ChatGPT的編寫代碼能力讓我印象深刻。此外，我的研究領(lǐng)域是人工智能的對話，所以在這方面比較關(guān)注，我覺得它在多意圖多輪的對話中，表現(xiàn)非常好。
李祖超：在和ChatGPT聊天的過程中，我發(fā)現(xiàn)它的回答的質(zhì)量依賴于用戶的問題的清晰程度，問題定義越清晰，ChatGPT可以回答得更具體更有根據(jù)。
二、把ChatGPT比做一個14到15歲的孩子在跟人類對話，這個比喻如何？準(zhǔn)確嗎？
梁正：在一般生活對話的場景方面，我認(rèn)為ChatGPT已經(jīng)達(dá)到了14-15歲的孩子的能力，甚至在有的領(lǐng)域它可以達(dá)到大學(xué)本科生畢業(yè)生的這樣一個水平，包括醫(yī)師資格考試、大學(xué)入學(xué)考試等都可以完成。它不是只在一個領(lǐng)域去發(fā)揮作用，它在一些專用領(lǐng)域的表現(xiàn)更好。
彭敏：我們不能籠統(tǒng)地來講ChatGPT的能力。它在很多領(lǐng)域確實是做得非常卓越，背后對應(yīng)的是它所支撐的技術(shù)、數(shù)據(jù)或者是知識，但在某些領(lǐng)域，它又非常知識匱乏，不具備一定的智能。
李祖超：將ChatGPT對照14-15歲的孩子我認(rèn)為是不完全確切的。這需要從幾個層面來講。從語言表達(dá)能力來說，ChatGPT給出的答案確實都是以簡單句為主，看上去像一個14-15歲的孩子講的話。這主要是大眾在試用ChatGPT時都采用閑聊的方式，并且ChatGPT訓(xùn)練的目的是作為助手。但是實際上，只要經(jīng)過稍微地調(diào)教，ChatGPT的回答風(fēng)格則可以發(fā)生巨大的變化，遠(yuǎn)不止14-15歲的孩子的表達(dá)能力。從掌握知識的廣度角度來說，ChatGPT可以同時記憶天文、地理、物理、化學(xué)、計算機(jī)等等行業(yè)知識，而人類一般無法掌握這么多領(lǐng)域的知識。從掌握知識的深度來說，ChatGPT應(yīng)該相當(dāng)于一個某個專業(yè)領(lǐng)域的初級到中級水平。ChatGPT本質(zhì)上是在模擬人的對話過程，它的模擬能力是利用一個神經(jīng)網(wǎng)絡(luò)大模型從大規(guī)模的訓(xùn)練語料學(xué)習(xí)出來的，其實現(xiàn)基于四個要素：覆蓋廣泛的訓(xùn)練語料、算力、一些算法技巧和人工調(diào)優(yōu)技巧。ChatGPT在知識方面的上限取決于訓(xùn)練它的語料庫。如果語料庫里面沒有的知識，它是無法回答的，同時如果訓(xùn)練語料中的知識本身就是錯的，它也會回答錯誤。此外，ChatGPT在計算方面的能力是弱于14-15歲的孩子，約等于8-9歲孩子，這也是未來ChatGPT進(jìn)一步進(jìn)化的方向之一。
三、我們可以調(diào)教ChatGPT嗎？
李祖超：我們是可以對ChatGPT進(jìn)行調(diào)教的。比如某人，你的性格是什么樣的，你應(yīng)該講什么樣的話，比如你的表現(xiàn)是非常軟萌的，它的回答都會按照你的風(fēng)格進(jìn)行生成，或者嚴(yán)厲的老師，或者老板等等角色。
四、ChatGPT真的能取代人類的某一些職業(yè)嗎？
梁正：我個人的觀點，ChatGPT在給我們提供幫助上，它的潛力是巨大的。這個“替代”只是把人類不愿意做的，或者人類覺得比較辛苦和繁復(fù)的工作去替代掉，但我不認(rèn)為它可以把人類有創(chuàng)意的，創(chuàng)造性的這部分工作替代掉，包括對我們做科學(xué)研究做學(xué)術(shù)研究也是一樣。
彭敏：什么工作是不能被替代的？具有創(chuàng)意的，或者說在我們的基礎(chǔ)搜索或者是生成之后，還需要去進(jìn)行相應(yīng)的人類智慧去給他一些指導(dǎo)的工作。此外，ChatGPT在某些領(lǐng)域提高了生產(chǎn)力并不代表剝奪了大家的飯碗，這一產(chǎn)品研發(fā)的初衷正是為了替人去做一些重復(fù)工作，讓人可以有時間和精力去做自己更擅長、更適合人類做的創(chuàng)新性的工作，更好地享受生活。
李祖超：這種職業(yè)替代形式，人工智能發(fā)展過程中一直存在。如2015年，美聯(lián)社使用機(jī)器人寫作，年報道量超過15億條，領(lǐng)域涉及金融、房地產(chǎn)、體育等領(lǐng)域。目前，空中客車公司使用人工智能而不是人類工程師來設(shè)計飛機(jī)，制藥公司葛蘭素使用人工智能進(jìn)行藥物開發(fā)，工作效率和任務(wù)完成質(zhì)量都比人類工程師更好。人工智能甚至可以拍電影。2019年，上演的科幻短片《走神》就是一部劇本、導(dǎo)演、表演、配樂等一系列制作程序，大部分由人工智能所完成的影片，僅用了2天時間。能力更強(qiáng)更通用的ChatGPT將進(jìn)一步加快職業(yè)形式的變化過程。
五、ChatGPT這樣的AI可幫助人類進(jìn)行真實創(chuàng)造，尤其是幫助人類提高創(chuàng)造效率，比如提高獲取信息的效率或提出新穎想法。這意味著什么？
梁正：這是在技術(shù)發(fā)展過程中，也就是在人類知識的積淀的基礎(chǔ)上，學(xué)習(xí)訓(xùn)練這種大的語言模型后，凸顯出來的這樣的一種能力。從信息的處理上、內(nèi)容的生成上，它的效率和質(zhì)量應(yīng)該說都得到了一個飛躍，這是特別的、積極的一方面。所以它其實會對我們未來，在這樣的一些領(lǐng)域中怎么去利用它，提供了更好的選擇。但我們也不要去神話它，在很多問題上，比如說推理的能力，比如說一些常識，它還是不具備對客觀知識的無中生有的這樣的一種能力。ChatGPT在效率提升這一方面是非常明顯的，特別是在內(nèi)容創(chuàng)作上，所以這也是我們目前面臨的一個很大的一個問題。另外，由于ChatGPT大大提高這樣的效率以后，一些重復(fù)性的工作可以不給那么高的權(quán)重。我認(rèn)為，在ChatGPT出來以后，我們需要去做的是——每個人都應(yīng)該去使用、去探索怎么去跟它更好地去合作，利用它優(yōu)越的一面。然后結(jié)合自己的優(yōu)勢，把你原來所不擅長的一部分工作交給它去做。它能引起整個分工關(guān)系和人技關(guān)系的深刻變化。ChatGPT的影響不僅僅體現(xiàn)在產(chǎn)業(yè)上，還體現(xiàn)在社會、教育、人際交往的變化上。
彭敏：ChatGPT在效率提高這件事上，毋庸置疑。這一通用人工智能產(chǎn)品的目的并不僅僅是提高信息檢索一個優(yōu)勢，更重要的是在落地到垂直領(lǐng)域，比如裝備制造、集成電路、大型工程設(shè)計等等這些方面，都可以借助于它的智能能力，提高效率。在將來可能會出現(xiàn)類似于工業(yè)5.0，推動整個社會和人類的進(jìn)步，而不僅僅說給我們增加了一個很方便的小工具而已，這也是為什么現(xiàn)在大家都會對它有期待。另外一個角度，我們要看到這個信息產(chǎn)生以后可能也會出現(xiàn)很多問題。比如，大家用它去寫作帶來的著作權(quán)問題。還有一個很重要的方面，就是信息的真?zhèn)螁栴}。所以效率的提高，未來也會帶來其他問題。
李祖超：人類歷史的發(fā)展總體上來看就是生產(chǎn)效率的不斷提高的過程。ChatGPT是當(dāng)下信息時代的蒸汽機(jī)，實用性很高。用戶使用ChatGPT獲取信息的效率不亞于現(xiàn)在已經(jīng)非常成熟的搜索引擎。ChatGPT基于用戶需求以及世界性知識為人類的創(chuàng)造提供靈感，提高了效率，這將對所有的人類創(chuàng)作領(lǐng)域產(chǎn)生重要的影響。也許未來，人類創(chuàng)作中發(fā)揮的作用是作為鑒賞家對人工智能創(chuàng)作進(jìn)行篩選以及微調(diào)。但與此同時，ChatGPT在提高創(chuàng)作效率的同時，生產(chǎn)會越來越多地具備人工智能體形態(tài)的行為主體。這類新形態(tài)的行為主體，遵循新的組織行為規(guī)則，其權(quán)責(zé)邊界和供求關(guān)系都將產(chǎn)生一系列新現(xiàn)象、新問題。
人工智能體創(chuàng)造各種作品，使用大量來源廣泛的知識資源，那么這些作品所涉及的知識產(chǎn)權(quán)如何界定？其行為表現(xiàn)及后果與相關(guān)自然人法人之間的法律責(zé)任如何確定？這些問題都會成為值得關(guān)注的焦點。
例如，如果醫(yī)院門診的大多數(shù)功能，像掛號候診、檢查檢驗、病情診斷、醫(yī)囑處方等都可以由人工智能體承擔(dān)，那主診醫(yī)生與人工智能體的職能劃分和權(quán)責(zé)關(guān)系如何界定？特別是人工智能體如果達(dá)到診斷差錯率顯著地低于主診醫(yī)生誤診率的水平，那處方權(quán)應(yīng)歸誰？在更多的行業(yè)都將發(fā)生類似現(xiàn)象。對此，都須有新的規(guī)則來維護(hù)新的秩序。
六、ChatGPT的出現(xiàn)，具有劃時代意義嗎？會成為操作系統(tǒng)平臺的新雛形嗎？
梁正：在產(chǎn)業(yè)發(fā)展當(dāng)中，ChatGPT是具有類似于操作系統(tǒng)，或者是通用界面、主導(dǎo)設(shè)計的這樣一個里程碑式的進(jìn)步產(chǎn)品，這意味著可能未來一個非常大的產(chǎn)業(yè)的發(fā)展空間被打開了。其實從我們研究產(chǎn)業(yè)創(chuàng)新的角度來看，一個行業(yè)它從技術(shù)的突破到真正的商業(yè)化，然后到規(guī)模化和普及化，它確實是要經(jīng)歷這樣一個過程?，F(xiàn)在，ChatGPT給大家提供了一個模板，可以在這個基礎(chǔ)上去考慮怎么去為各行各業(yè)賦能。所以，這是真正可能引爆整個產(chǎn)業(yè)智能化轉(zhuǎn)型的非常重要的方向。
彭敏：ChatGPT比以往深度學(xué)習(xí)更有優(yōu)勢的是面對超大規(guī)模數(shù)據(jù)，擺脫了做大量語料標(biāo)注的工作，是一種無監(jiān)督學(xué)習(xí)。此外，它還擁有強(qiáng)化學(xué)習(xí)、指令微調(diào)、思維鏈等先進(jìn)技術(shù)。從技術(shù)的角度，ChatGPT對于整個人工智能是具有里程碑意義的。
李祖超：對于ChatGPT是否能成為操作系統(tǒng)的新雛形這個問題，我的答案是積極的。操作系統(tǒng)的作用根據(jù)用戶指令實現(xiàn)資源的分配以及計算的調(diào)度，那么ChatGPT發(fā)揮的作用是充當(dāng)新的人機(jī)接口，更智能地實現(xiàn)用戶指令的解譯，減少用戶的操作。從更長遠(yuǎn)來看，通過賦予ChatGPT管理系統(tǒng)資源如硬盤、CPU、外設(shè)等能力，將ChatGPT直接作為一種操作系統(tǒng)，用戶只需要輸入自然語言便可以達(dá)到操作的目標(biāo)，應(yīng)該是新一代操作系統(tǒng)的雛形。
七、ChatGPT有時會“一本正經(jīng)地胡說八道”，存在事實性錯誤、知識盲區(qū)和常識偏差等諸多問題。主要是什么原因，產(chǎn)生了這樣的可能性？
梁正：ChatGPT可以無中生有，所以叫做“生成式”。背后有大量的人類的知識以及我們對它的引導(dǎo)和獎勵的策略。人類告訴它，什么是對錯。它在專業(yè)領(lǐng)域講得頭頭是道，如果聊個人的喜好情緒等，它的能力遠(yuǎn)遠(yuǎn)沒有到擬人的程度?！耙槐菊?jīng)地胡說八道”可能也是它創(chuàng)造性回答的部分。ChatGPT“一本正經(jīng)地胡說八道”，那么誰來判斷？只有人才能判斷。當(dāng)然有一些工作不要求創(chuàng)造性，它可以做得很好。那么這種條件下人去做什么？人就是要去做創(chuàng)新性的、創(chuàng)造性的工作，包括藝術(shù)、創(chuàng)意這樣真正叫無中生有，也就是客觀世界里沒有，只存在于人的這個腦海當(dāng)中的東西。我們先不講大模型再大到一定程度，是不是有自主意識產(chǎn)生了，如果說有，可能技術(shù)專家可以去回答，那是另外一回事了。起碼到現(xiàn)在，不能夠說ChatGPT能替代人。所以這方面呢，我覺得它其實反倒會引起我們的反思，就是我們的創(chuàng)意創(chuàng)造的源泉、我們的優(yōu)勢到底是在哪里。也可以反過來去推動我們在這方面的研究，就是人類的這個創(chuàng)造性思維到底是從哪來的？你是邏輯的推理、是現(xiàn)實的觀察、還有可能是個人的頓悟，這樣的一些思維的涌現(xiàn)究竟是如何發(fā)生的？所以，我覺得可能將來它反倒會打開這個空間，讓我們?nèi)パ芯咳说倪@種思維和創(chuàng)意。
彭敏：“有沒有胡說八道”主要是看它的知識點和計算能力有沒有到這個層面。為什么知道是胡說八道的話他還會講？因為他不知道是錯的，因為這一模型缺乏可解釋性和驗證性。這也是在這10年深度學(xué)習(xí)出現(xiàn)以后，許多研究者一直在努力做的工作。
李祖超：ChatGPT本質(zhì)上依托于一個參數(shù)量巨大的神經(jīng)網(wǎng)絡(luò)模型，其訓(xùn)練過程是基于網(wǎng)上現(xiàn)有的語料進(jìn)行的，而這些訓(xùn)練數(shù)據(jù)本身良莠不齊，并不全都是優(yōu)質(zhì)文本，因此有可能出現(xiàn)事實性錯誤問題。此外，ChatGPT給出的答案只是基于其理解生成的最佳結(jié)果，然而對于某些訓(xùn)練的知識盲區(qū)問題，且可能根據(jù)字面意思進(jìn)行推理，從而出現(xiàn)了“一本正經(jīng)胡說八道”的現(xiàn)象。此外，自然語言理解困難之一是語境問題，由于缺乏上下文可能導(dǎo)致的對問題本身的不理解等，也會導(dǎo)致ChatGPT給出錯誤的結(jié)果。對于常識偏差的問題，這是由于ChatGPT是基于對大量文本進(jìn)行預(yù)訓(xùn)練，而常識（比如太陽比月亮大）通常不會直接包括在這些文本中，因此缺乏對常識的理解。
八、最近，多國高校出臺了ChatGPT禁令，專家們怎么看？
梁正：對于科學(xué)研究也好，對于內(nèi)容創(chuàng)作也好，我們確實要承認(rèn)他是能夠給我們帶來很大的這種幫助的。那么，作為一個好的工具，你為什么不去使用它呢？明明他可以給你很大的這方面的一些便利，包括在文獻(xiàn)、資料、信息的搜集和整理上。我個人的觀點目前高校對ChatGPT的禁令主要是基于公平性的考慮，從長期來看不能簡單地“一禁了之”，更重要的是探討怎么去誠信、客觀、正面地使用它。
彭敏：我們要用一種開放的心態(tài)去接受新事物，而且要把它用到我們能用的極致。當(dāng)然，我們不能過度地去信任這個工具，還得給它配套必要的措施。
九、這些“啥都懂”“啥都會”機(jī)器人給我們帶來震撼的同時，還提供了哪些思考和啟發(fā)？
李祖超：在啟發(fā)層面，以ChatGPT為代表的人工智能技術(shù)的發(fā)展確實是邁出了很大的一步。在未來，這樣的技術(shù)還有著無限的發(fā)展?jié)摿?，我們的日常生活也會隨之而慢慢發(fā)生改變。隨著人工智能的發(fā)展，人工智能可以代替人類進(jìn)行各種作業(yè)，我們未來在生活中應(yīng)該更好地借助人工智能的力量來進(jìn)行發(fā)展，而不是過度依賴人工智能的能力而喪失我們原有的能力。同時，人類作為人工智能創(chuàng)意的來源，持續(xù)不斷的新的創(chuàng)意養(yǎng)料才能幫助人工智能迭代，因此未來的高價值職業(yè)都會向高創(chuàng)意方向發(fā)展。最后，隨著人工智能不斷滲透到人類的生活中，相應(yīng)的道德和法律規(guī)范也應(yīng)該隨之健全。
十、對中國未來的人工智能領(lǐng)域有何展望？
梁正：近年來，我國在人工智能領(lǐng)域基礎(chǔ)研究、技術(shù)平臺、行業(yè)應(yīng)用等多方面都有布局。人工智能領(lǐng)域的創(chuàng)新創(chuàng)業(yè)活躍度很高。未來，我們應(yīng)該堅持長期主義，產(chǎn)業(yè)、人才、創(chuàng)新創(chuàng)業(yè)環(huán)境等持續(xù)投入，不僅僅要做突破，更要探討我們在數(shù)字化轉(zhuǎn)型中的潛力和活力。
彭敏：我國人工智能領(lǐng)域應(yīng)該從全局角度入手進(jìn)行規(guī)劃，在通用大模型基礎(chǔ)上再落地到下游垂直領(lǐng)域場景。希望未來國家關(guān)于人工智能的規(guī)劃能有所調(diào)整，做全局性部署。
李祖超：中國未來人工智能領(lǐng)域的發(fā)展目標(biāo)之一是需要追平代差。此外，由于通用人工智能技術(shù)不僅僅包含語言智能，也包含語音智能和視覺智能等，因此下一代ChatGPT技術(shù)應(yīng)當(dāng)是多模態(tài)的，未來人工智能領(lǐng)域也將著眼于多模態(tài)ChatGPT的研發(fā)當(dāng)中。
