計算機科學家討論ChatGPT的利弊 _科學

計算機科學家討論ChatGPT的利弊。Credit: Pixabay/CC0 Public Domain
據(jù)by Johns Hopkins University：憑借其模仿人類語言和推理的神奇能力，ChatGPT似乎預(yù)示著人工智能的一場革命。自從硅谷研究實驗室OpenAI在11月發(fā)布自然語言處理工具以來，用戶已經(jīng)測試了無數(shù)應(yīng)用程序，其中包括靈活的聊天機器人可以召喚詩歌和散文，分享食譜，翻譯語言，提供建議和講笑話。
伴隨著興奮而來的是一些恐懼——技術(shù)可能會降低真實的人類寫作和批判性思維，顛覆行業(yè) ，并放大我們自己的偏見和成見。
約翰霍普金斯大學計算機科學助理教授丹尼爾·哈沙比說，對于那些從事人工智能工作的人來說，ChatGPT不僅僅是一夜之間的轟動，而是多年實驗后取得成就的標志，他專門研究語言處理，并研究過類似的工具。
“ChatGPT似乎是一場突如其來的革命，”他說。"但這項技術(shù)多年來一直在逐步發(fā)展，最近幾年進展迅速."
然而，Khashabi承認ChatGPT似乎開創(chuàng)了一個前所未有的時代，一個充滿人類進步潛力的時代。“這真的是我們修正對智慧含義理解的機會，”他說。“這是一個激動人心的時刻，因為我們有機會應(yīng)對新的挑戰(zhàn)和新的前景，而這些過去是我們力所不及的。”
隨著微軟對該工具的投資， OpenAI發(fā)布了一個付費版本，谷歌計劃發(fā)布自己的實驗性聊天機器人，該中心向Khashabi了解了該技術(shù)及其發(fā)展方向。
能不能分解一下ChatGPT的工作原理？
第一階段不涉及直接的人類反饋。該模型通過從網(wǎng)絡(luò)上回流大量文本來學習語言的結(jié)構(gòu)——例如，來自維基百科、Twitter、Reddit、紐約時報等所有不同語言的句子和段落。它還接受了來自GitHub等平臺的程序員編寫的代碼的訓練。
在第二階段，[通常稱為“自我監(jiān)督”學習]，人類注釋者參與訓練模型變得更加復雜。他們對ChatGPT收到的各種類型的查詢編寫響應(yīng)，因此該模型學習執(zhí)行像“就這個主題寫一篇文章”或“修改這一段”這樣的命令。
因為OpenAI坐擁一座金礦，他們有能力雇傭許多注釋者，并讓他們注釋大量高質(zhì)量的數(shù)據(jù) 。我通過小道消息聽說，最初的系統(tǒng)被輸入了近100，000輪人類反饋。所以這背后有大量的人力。
但OpenAI的秘密武器不是其人工智能技術(shù)，而是使用其服務(wù)的人。每當有人查詢他們的系統(tǒng)時，他們會收集這些查詢，以使ChatGPT適應(yīng)用戶正在尋找的內(nèi)容，并識別他們系統(tǒng)的弱點。換句話說，OpenAI的成功在于贏得了數(shù)百萬人使用它的演示。
你個人是如何體驗ChatGPT的？
它可以是一個優(yōu)秀的寫作和頭腦風暴工具。我可以寫一個我腦海中的想法的摘要，讓ChatGPT更復雜地擴展它，然后挑選我喜歡的結(jié)果并自己進一步開發(fā)它們或繼續(xù)使用ChatGPT 。這就是人機協(xié)同寫作。正如Twitter上有人恰當?shù)卣f的那樣，“ChatGPT是你大腦的電動自行車！”
你對它受到的關(guān)注和壓力有什么看法？
這是人工智能進步的又一個里程碑，值得慶祝。令人興奮的是，人工智能和自然語言處理越來越接近于幫助人類完成他們關(guān)心的任務(wù) 。
然而，我擔心過分夸大人工智能的狀態(tài) 。已經(jīng)取得了進展，但“普遍智能”仍未出現(xiàn) 。在過去的幾十年里，每當我們進步的時候，我們都會不斷地修正我們對“聰明”的理解。在20世紀60年代和70年代，我們的目標是創(chuàng)建一個與人類對弈的系統(tǒng) 。這樣的例子還有很多。每一次進步，我們都會想:“就是這樣！”但是過了一段時間，炒作就銷聲匿跡了，我們看到了問題并發(fā)現(xiàn)了新的需求。
“智能”一直是一個不斷變化的目標，并且很可能繼續(xù)保持下去，但我對在解決ChatGPT類系統(tǒng)的缺點方面取得的進展感到興奮。
那些缺點是什么？
ChatGPT編東西很容易。如果你問ChatGPT一些它沒見過的小眾的東西，它會用流暢的議論文式的語言幻覺出事實。例如，如果你問它如何定義“維納斯·大威廉姆斯在哪屆錦標賽上贏得她的第八個大滿貫？”它會為你補上一個答案，盡管維納斯·大威廉姆斯已經(jīng)贏得了七個大滿貫。正如許多媒體報道的那樣，她想贏得她的第八個冠軍，但她沒有。這個模型混淆了“想贏”和“贏了”這兩個概念。
問題是它做得如此流暢。它可以給你垃圾，但在如此流暢，連貫的語言中，如果你不是該領(lǐng)域的專家，你可能會相信它說的是真的。這讓我很擔心，我認為我們?nèi)祟愒诳此魄逦妮敵雒媲昂苋菀资茯_ 。
另一方面，ChatGPT有什么令人興奮的地方？
我們現(xiàn)在有了這些工具，可以產(chǎn)生有創(chuàng)造性的和流暢的語言，這是我們花了多年時間解決的一個挑戰(zhàn) 。作為一名人工智能科學家，我的興奮之處在于接下來的步驟，我們有新的問題需要人工智能來解決。
我對人工智能的目標——逆向工程人類智能——不太感興趣，而更感興趣的是智能增強。我認為使用人工智能使人類能夠做得更好并增強人類能力是一個有價值的目標。我對這種協(xié)作系統(tǒng)感到興奮。
你如何看待技術(shù)的發(fā)展？
我們?nèi)蕴幱谶@種變化之中，但我們將繼續(xù)使語言模型更有效，從而產(chǎn)生更緊湊但質(zhì)量更高的模型。因此，我們將在任何地方看到非常可靠的對話代理形式。未來的模型將是你的網(wǎng)絡(luò)導航助手，完成我們現(xiàn)在自己做的各種基于網(wǎng)絡(luò)的普通任務(wù) 。
同樣的一套技術(shù)也開始進入現(xiàn)實世界。當前的模型，如ChatGPT，不能感知它們的環(huán)境。比如他們看不到我的手機在哪里，看不到我有多累。很快我們就會看到有眼睛的ChatGPT 。這些模型將使用不同形式的數(shù)據(jù)(文本、視覺、聽覺等。)，這是他們每天為我們服務(wù)所必需的。
這將導致基于其物理環(huán)境數(shù)據(jù)的自我監(jiān)督機器人，包括物理對象、人類及其交互。這里的影響將是巨大的。在不到10年的時間里，我們?nèi)粘Ｊ褂玫娜魏挝锢碓O(shè)備——汽車、冰箱、洗衣機等等。—將成為您可以與之交談的對話代理。我們還將看到機器人在解決今天不可能解決的問題方面驚人的強壯。想象一下，你要和你的Roomba談?wù)撃阆胱龌虿幌胱龅氖虑椋拖衲愫虲hatGPT交談一樣。
同樣重要的是，不要忽視這些技術(shù)將如何在社會層面上改變事物。未來的多模態(tài)模式——有眼睛和耳朵的聊天機器人——將無處不在，并將影響一切，包括公共安全。但現(xiàn)在問題來了:在一個我們不斷被有眼睛和耳朵的人工智能模型監(jiān)視的社會里，我們的自由和隱私會是什么樣子？
這聽起來像是著名小說《1984》描述的反烏托邦社會。像任何其他技術(shù)一樣，自我監(jiān)督模型是一把雙刃劍。我們現(xiàn)在能做的最好的事情就是保持警惕，在應(yīng)用程序出現(xiàn)之前預(yù)見并討論這些問題。理想情況下，我們需要通過從ChatGPT等例子向其未來擴展進行外推，來開發(fā)確保我們的自由和公平的框架。我很樂觀，我們會的。