<p>所謂的生成式人工智能(可用于使用機(jī)器學(xué)習(xí)創(chuàng)建內(nèi)容的算法)最近經(jīng)常出現(xiàn)在新聞中。特別是Open AI開發(fā)的工具ChatGPT，引起了相當(dāng)大的關(guān)注。</p> <p>&nbsp;</p> <p>在澳大利亞，這無疑得益于微軟聯(lián)合創(chuàng)始人比爾&middot;蓋茨的評(píng)論，他最近訪問了我國(guó)，熱衷于宣傳這項(xiàng)技術(shù)的好處。</p> <p>&nbsp;</p> <p>大多數(shù)爭(zhēng)論都是關(guān)于ChatGPT和類似的人工智能工具，如DALL。e2，用于創(chuàng)造被認(rèn)為是真實(shí)的圖像和藝術(shù)，Whisper，提供&ldquo;自然語(yǔ)言語(yǔ)音識(shí)別&rdquo;，以及它們?yōu)閷W(xué)生作弊或取代工人提供便利的潛力。</p> <p>&nbsp;</p> <p>他們還被認(rèn)為有潛力解放人們的時(shí)間，使他們能夠從事其他任務(wù)。</p> <p>&nbsp;</p> <p>在一篇文章中，一位創(chuàng)辦了一家專門從事科技創(chuàng)業(yè)的公司的企業(yè)家熱情地說道:</p> <p>&nbsp;</p> <p>&ldquo;ChatGPT給人的感覺就像是PC的引入&mdash;&mdash;它是一種工具，可以讓我們更聰明地工作，并增強(qiáng)人類的能力，讓他們做自己最擅長(zhǎng)的事情，也就是創(chuàng)造、夢(mèng)想和創(chuàng)新。&rdquo;</p> <p>&nbsp;</p> <p>然而，到目前為止，很少有人說這些工具在醫(yī)學(xué)和醫(yī)療保健中的潛在使用和濫用，包括診斷，包括自我診斷和處方。</p> <p>&nbsp;</p> <p>如果以史為鑒，這些技術(shù)很可能在這些領(lǐng)域得到早期的廣泛應(yīng)用。它們也是有很大可能被利用和濫用的領(lǐng)域，特別是考慮到在線工具的現(xiàn)成可訪問性。<img src="https://res.cloudinary.com/cognitives-s3/image/upload/c_limit,dpr_auto,f_auto,fl_lossy,q_75/v1/cog-live/n/1271/2023/Jan/30/Ns3ia7rK4saT8qnSAwJx.jpg" alt="Bill Gates" width="808" height="566" />&nbsp;</p> <p>在最近的一篇新聞文章中，據(jù)報(bào)道，比爾&middot;蓋茨看到了&ldquo;(ChatGPT)在醫(yī)療行業(yè)以及其他需要了解大量信息的行業(yè)的明顯好處&rdquo;。</p> <p>&nbsp;</p> <p>文章稱，&ldquo;例如，人工智能可以幫助醫(yī)生開處方，向病人解釋醫(yī)療賬單，或者還可以幫助撰寫和理解法律文件。&rdquo;</p> <p>&nbsp;</p> <p>作為一名對(duì)新興健康技術(shù)感興趣的健康社會(huì)學(xué)家，這些評(píng)論引起了我的注意。這是圍繞新健康技術(shù)的典型承諾話語(yǔ)。這也令人深感擔(dān)憂。</p> <p>&nbsp;</p> <p>從表面上看，使用實(shí)際上是復(fù)雜的聊天機(jī)器人的近乎即時(shí)的信息生產(chǎn)有很多吸引人的地方。</p> <p>&nbsp;</p> <p>聊天機(jī)器人已經(jīng)被廣泛使用了一段時(shí)間，盡管有時(shí)有用，但人們很清楚它們的局限性。作為人工智能的一種形式，它們依賴于從許多在線來源收集的信息&mdash;&mdash;其中一些可靠性存疑&mdash;&mdash;這些信息也帶有偏見，包括基于性別、階級(jí)、種族/民族和年齡差異的信息。</p> <p>&nbsp;</p> <p>網(wǎng)上的很多信息都是&ldquo;個(gè)性化&rdquo;算法驅(qū)動(dòng)的廣告，旨在吸引用戶。這些個(gè)性化的信息被精心設(shè)計(jì)成&ldquo;情感共鳴&rdquo;<img src="https://res.cloudinary.com/cognitives-s3/image/upload/c_limit,dpr_auto,f_auto,fl_lossy,q_75/v1/cog-live/n/1271/2023/Jan/30/MtzwghqN3mI75sY6n8wf.jpg" alt="Medical chatbot collects patient symptoms. " width="808" height="578" />&nbsp;</p> <p>在我最近出版的書中，我探討了在網(wǎng)上利用情感的機(jī)制;例如，通過欺騙性的設(shè)計(jì)或&ldquo;黑暗模式&rdquo;，旨在欺騙用戶，使他們以某種方式感受和行動(dòng)，通常目的是鼓勵(lì)他們繼續(xù)在線并購(gòu)買廣告中的商品和服務(wù)。</p> <p>&nbsp;</p> <p>情感計(jì)算是羅莎琳德&bull;皮卡德(Rosalind Picard)創(chuàng)立的一個(gè)領(lǐng)域，旨在讓機(jī)器變得更&ldquo;像人&rdquo;、更&ldquo;健談&rdquo;，因此情感得到了前所未有的利用。皮卡德聯(lián)合創(chuàng)立了Affectiva，這是麻省理工學(xué)院媒體實(shí)驗(yàn)室的一個(gè)分支，聲稱自己的使命是&ldquo;使技術(shù)人性化&rdquo;，而這種技術(shù)在廣告領(lǐng)域可能有廣泛的應(yīng)用。這就是生成式AI(如ChatGPT)備受關(guān)注的地方。</p> <p>&nbsp;</p> <p>OpenAI推出了ChatGPT，聲稱這種語(yǔ)言模型&ldquo;以對(duì)話的方式進(jìn)行交互&rdquo;，并且&ldquo;對(duì)話格式使ChatGPT能夠回答后續(xù)問題，承認(rèn)錯(cuò)誤，挑戰(zhàn)不正確的前提，并拒絕不適當(dāng)?shù)恼?qǐng)求&rdquo;。</p> <p>&nbsp;</p> <p>這一聲明表明，人工智能可以像人類一樣思考、感受和反應(yīng)，這一聲明意義重大，顯然引起了很多人的興趣，據(jù)稱該工具發(fā)布后一周內(nèi)就有大約100萬(wàn)用戶。</p> <p>&nbsp;</p> <p>一個(gè)會(huì)思考、有感覺、有感覺的人工智能的前景很牽強(qiáng)，但在科幻小說和大眾想象中根深蒂固。</p> <p>&nbsp;</p> <p>讓我非常擔(dān)心的是人們使用ChatGPT和類似的工具進(jìn)行常規(guī)醫(yī)療程序，包括自我診斷。<img src="https://res.cloudinary.com/cognitives-s3/image/upload/c_limit,dpr_auto,f_auto,fl_lossy,q_75/v1/cog-live/n/1271/2023/Jan/30/QAf0AkoeCjEzWeIWdW3c.jpg" alt="Ill woman lies in a bed searching on her computer for medical information." width="808" height="539" />&nbsp;</p> <p>OpenAI得到了一些有權(quán)勢(shì)的人的支持，包括蓋茨(據(jù)報(bào)道微軟已經(jīng)是投資者)、埃隆&middot;馬斯克(Twitter的現(xiàn)任所有者)、彼得&middot;蒂爾(PayPal的創(chuàng)始人)和其他大型科技企業(yè)家。</p> <p>&nbsp;</p> <p>當(dāng)他們談?wù)撋墒紸I的好處時(shí)，他們很難說是無私的玩家。毫無疑問，他們和其他億萬(wàn)富翁企業(yè)家都在關(guān)注生成式人工智能在健康和醫(yī)藥等領(lǐng)域所能帶來的巨大利潤(rùn)。</p> <p>&nbsp;</p> <p>閱讀更多:醫(yī)療保健教育中的人工智能:它準(zhǔn)備好教未來了嗎?</p> <p>&nbsp;</p> <p>自我診斷已經(jīng)成為人們使用數(shù)字媒體的重要組成部分。正如我和同事在我們的研究中所表明的那樣，許多人在發(fā)病后不久就上網(wǎng)了解更多關(guān)于他們的病情，并在網(wǎng)上搜索信息和治療方法。</p> <p>&nbsp;</p> <p>這些在線搜索被寄予厚望，并使用啟發(fā)式捷徑來簡(jiǎn)化有關(guān)信息可信度的復(fù)雜決策。生成式人工智能無疑將在那些尋求治療和管理復(fù)雜疾病的快速答案的人中得到廣泛應(yīng)用。</p> <p>&nbsp;</p> <p>對(duì)于生成式人工智能(generative AI)等創(chuàng)新帶來的危險(xiǎn)，有必要展開更多辯論。這些創(chuàng)新前景廣闊，但也存在巨大風(fēng)險(xiǎn)。</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學(xué)態(tài)度觀點(diǎn)。</p> </blockquote>