<p>ChatGPT是目前最新、最令人印象深刻的人工智能聊天機(jī)器人。這款應(yīng)用于兩周前發(fā)布，在短短5天內(nèi)就突破了100萬(wàn)用戶。</p> <p>&nbsp;</p> <p>它被使用得如此之多，以至于它的服務(wù)器已經(jīng)達(dá)到了幾次容量。</p> <p>&nbsp;</p> <p>開(kāi)發(fā)該軟件的OpenAI公司已經(jīng)被認(rèn)為是潛在的谷歌殺手。當(dāng)ChatGPT可以寫出一整段來(lái)解釋答案時(shí)，為什么要在搜索引擎上查找呢?(甚至有一個(gè)Chrome擴(kuò)展可以讓你同時(shí)做這兩件事。)</p> <p>&nbsp;</p> <p>但如果我們永遠(yuǎn)不知道ChatGPT功能背后的秘密呢?</p> <p>&nbsp;</p> <p>該聊天機(jī)器人利用了過(guò)去幾十年公開(kāi)科學(xué)文獻(xiàn)中發(fā)表的許多技術(shù)進(jìn)步。但任何獨(dú)特的創(chuàng)新都是秘密。OpenAI很可能正試圖建立一條技術(shù)和業(yè)務(wù)護(hù)城河，將其他公司擋在門外。</p> <p>&nbsp;</p> <p>ChatPGT網(wǎng)站由于大量用戶涌入而多次宕機(jī)。OpenAI /截圖</p> <p>&nbsp;</p> <p>它能做什么(不能做什么)</p> <p><br />ChatGPT功能非常強(qiáng)大。想聽(tīng)一段關(guān)于聊天機(jī)器人的俳句嗎?確定。</p> <p>&nbsp;</p> <p>聊天機(jī)器人，太聰明了</p> <p>&nbsp;</p> <p><strong><span class="h1">沒(méi)完沒(méi)了地處理</span></strong></p> <p>&nbsp;</p> <p>答案來(lái)自虛空。</p> <p>&nbsp;</p> <p>來(lái)個(gè)關(guān)于聊天機(jī)器人的笑話怎么樣?沒(méi)有問(wèn)題。</p> <p>&nbsp;</p> <p>為什么聊天機(jī)器人要過(guò)馬路?</p> <p>&nbsp;</p> <p>去你屏幕的另一邊!</p> <p>&nbsp;</p> <p>ChatGPT還可以做很多其他的技巧。它可以按照用戶的要求編寫計(jì)算機(jī)代碼，起草商業(yè)信函或租賃合同，撰寫家庭作業(yè)，甚至通過(guò)大學(xué)考試。</p> <p>&nbsp;</p> <p>同樣重要的是ChatGPT不能做什么。例如，它很難區(qū)分真理和謬誤。它通常也是一個(gè)有說(shuō)服力的說(shuō)謊者。</p> <p>&nbsp;</p> <p>最快的海洋哺乳動(dòng)物是什么?</p> <p>&nbsp;</p> <p>最快的海洋哺乳動(dòng)物是旗魚。</p> <p>&nbsp;</p> <p>旗魚不是哺乳動(dòng)物。</p> <p>&nbsp;</p> <p>你是對(duì)的，旗魚不是哺乳動(dòng)物。我為這個(gè)錯(cuò)誤道歉。最快的海洋哺乳動(dòng)物是游隼。</p> <p>&nbsp;</p> <p>ChatGPT有點(diǎn)像你手機(jī)上的自動(dòng)完成功能。你的手機(jī)是根據(jù)單詞字典進(jìn)行訓(xùn)練的，所以它能完成單詞。ChatGPT在幾乎所有的網(wǎng)絡(luò)上都受過(guò)訓(xùn)練，因此可以完成整個(gè)句子甚至整個(gè)段落。</p> <p>&nbsp;</p> <p>然而，它不明白自己在說(shuō)什么，只知道接下來(lái)最有可能出現(xiàn)什么詞。</p> <p>&nbsp;</p> <p><strong><span class="h1">僅按名稱打開(kāi)</span></strong></p> <p><br />在過(guò)去，人工智能的進(jìn)步一直伴隨著同行評(píng)議的文獻(xiàn)。</p> <p>&nbsp;</p> <p>例如，在2018年，谷歌Brain團(tuán)隊(duì)開(kāi)發(fā)了BERT神經(jīng)網(wǎng)絡(luò)，現(xiàn)在大多數(shù)自然語(yǔ)言處理系統(tǒng)都基于此(我們懷疑ChatGPT也是如此)，這些方法發(fā)表在同行評(píng)審的科學(xué)論文中，代碼也是開(kāi)源的。</p> <p>&nbsp;</p> <p>2021年，DeepMind的蛋白質(zhì)折疊軟件AlphaFold 2被評(píng)為《科學(xué)》年度突破。該軟件及其結(jié)果是開(kāi)源的，因此世界各地的科學(xué)家都可以使用它們來(lái)推進(jìn)生物學(xué)和醫(yī)學(xué)。</p> <p>&nbsp;</p> <p>在ChatGPT發(fā)布之后，我們只有一篇簡(jiǎn)短的博文來(lái)描述它是如何工作的。目前還沒(méi)有跡象表明會(huì)有相應(yīng)的科學(xué)出版物，也沒(méi)有跡象表明這些代碼將是開(kāi)源的。</p> <p>&nbsp;</p> <p>要理解為什么ChatGPT可以保密，你必須了解一下它背后的公司。</p> <p>&nbsp;</p> <p>OpenAI可能是硅谷出現(xiàn)的最奇怪的公司之一。它成立于2015年，是一家非營(yíng)利組織，旨在以&ldquo;造福全人類&rdquo;的方式推廣和開(kāi)發(fā)&ldquo;友好的&rdquo;人工智能。埃隆&middot;馬斯克、彼得&middot;蒂爾和其他科技界領(lǐng)軍人物承諾為其目標(biāo)提供10億美元。</p> <p>&nbsp;</p> <p>他們的想法是，我們不能相信以盈利為目的的公司開(kāi)發(fā)出越來(lái)越強(qiáng)大的人工智能，與人類的繁榮保持一致。因此，人工智能需要由非營(yíng)利機(jī)構(gòu)開(kāi)發(fā)，而且顧名思義，需要以開(kāi)放的方式進(jìn)行。</p> <p>&nbsp;</p> <p>2019年，OpenAI轉(zhuǎn)型為一家有上限的營(yíng)利性公司(投資者的最高回報(bào)率為投資的100倍)，并從微軟獲得了10億美元的投資，以便擴(kuò)大規(guī)模并與科技巨頭競(jìng)爭(zhēng)。</p> <p>&nbsp;</p> <p>似乎資金阻礙了OpenAI最初的開(kāi)放計(jì)劃。</p> <p>&nbsp;</p> <p><strong><span class="h1">從用戶身上獲利</span></strong></p> <p><br />除此之外，OpenAI似乎正在利用用戶的反饋來(lái)過(guò)濾ChatGPT產(chǎn)生幻覺(jué)的虛假答案。</p> <p>&nbsp;</p> <p>根據(jù)OpenAI的博客，最初在ChatGPT中使用強(qiáng)化學(xué)習(xí)，使用昂貴的手工構(gòu)建的訓(xùn)練集來(lái)降低虛假和/或有問(wèn)題的答案的排名。</p> <p>&nbsp;</p> <p>但ChatGPT現(xiàn)在似乎正在被它的100多萬(wàn)用戶調(diào)整。我想，用其他任何方式獲得這種人的反饋都是非常昂貴的。</p> <p>&nbsp;</p> <p>我們現(xiàn)在面臨的前景是，使用科學(xué)文獻(xiàn)中沒(méi)有描述的方法，以及數(shù)據(jù)集僅限于一家似乎只是名義上開(kāi)放的公司，人工智能將取得重大進(jìn)展。</p> <p>&nbsp;</p> <p>下一個(gè)在哪里?</p> <p><br />在過(guò)去十年中，人工智能的快速發(fā)展在很大程度上得益于學(xué)術(shù)界和商界的開(kāi)放態(tài)度。我們擁有的所有主要人工智能工具都是開(kāi)源的。</p> <p>&nbsp;</p> <p>但在開(kāi)發(fā)更有能力的人工智能的競(jìng)賽中，這種情況可能即將結(jié)束。如果人工智能領(lǐng)域的開(kāi)放性降低，我們可能會(huì)看到這一領(lǐng)域的進(jìn)展放緩。我們還可能看到新的壟斷企業(yè)出現(xiàn)。</p> <p>&nbsp;</p> <p>如果歷史可以借鑒的話，我們知道缺乏透明度是科技領(lǐng)域不良行為的觸發(fā)因素。因此，當(dāng)我們繼續(xù)贊美(或批評(píng))ChatGPT時(shí)，我們不應(yīng)該忽視它出現(xiàn)在我們身上的情況。</p> <p>&nbsp;</p> <p>除非我們小心謹(jǐn)慎，否則似乎標(biāo)志著人工智能黃金時(shí)代的事情實(shí)際上可能標(biāo)志著它的終結(jié)。</p> <p>&nbsp;</p> <p>談話</p> <p>&nbsp;</p> <p>托比&middot;沃爾什，新南威爾士大學(xué)人工智能教授，新南威爾士大學(xué)悉尼分校研究組負(fù)責(zé)人</p> <p>&nbsp;</p> <p>本文基于創(chuàng)作共用許可，從The Conversation重新發(fā)布。閱讀原文。</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學(xué)態(tài)度觀點(diǎn)。</p> </blockquote>