<p>康奈爾大學的一項新研究表明，ChatGPT 和 GPT-4 等自然語言模型為惡意行為者影響代議制民主開辟了新機會。</p> <p><br />一項調(diào)查自然語言模型 GPT-3（最近發(fā)布的模型的前身）如何用于生成組成電子郵件的現(xiàn)場實驗表明，立法者對 AI 生成的消息做出回應的可能性（15.4%）僅略低于立法者（15.4%）人為產(chǎn)生的 (17.3%)。</p> <p><br />研究人員說，從發(fā)送給美國約 7,000 名州立法者的 32,000 多條消息中收集到的 2% 的差異具有統(tǒng)計學意義，但實際上很小。</p> <p>&nbsp;</p> <p>結果凸顯了這項技術對民主代表的潛在威脅，但也提出了立法者可能會采取哪些方式來防范 AI 來源的 astroturfing，這是一種營造基層支持感的虛偽做法，在這種情況下，通過發(fā)送大量同情特定特定群體的內(nèi)容問題。</p> <p><br />這項名為&ldquo;新興技術對民主代表的潛在影響：來自實地實驗的證據(jù)&rdquo;的研究由藝術與科學學院 (A&amp;S) 政府系 John L. Wetherill 教授Sarah Kreps合著，康奈爾大學Jeb E. Brooks 學院技術政策研究所所長兼法學兼職教授 Douglas Kriner 和Douglas Kriner，美國政府部門 (A&amp;S) 的 Clinton Rossiter 教授和布魯克斯學院教授，??于 3 月 20 日在新媒體上發(fā)表和社會。</p> <p><br />克雷普斯說，近年來，新的通信技術多次干擾民主進程。在 2016 年美國總統(tǒng)大選中，俄羅斯特工利用微目標社交媒體廣告來操縱美國選民并影響選舉結果。2017 年，聯(lián)邦通信委員會的公眾評論熱線被自然語言模型生成的數(shù)百萬條消息淹沒，以響應擬議的法規(guī)回滾。</p> <p><br />考慮到這些，Kreps 是 OpenAI 的早期學術合作者，該組織開發(fā)了 GPT-2、-3 和 -4，以及更主流的 ChatGPT，他想知道惡意行為者可以使用現(xiàn)在廣泛使用的更強大的語言模型做什么。</p> <p><br />&ldquo;他們會產(chǎn)生錯誤信息或出于政治動機的、有針對性的大規(guī)模內(nèi)容嗎？&rdquo;&nbsp;她問。&ldquo;他們能有效地扭曲民主進程嗎？或者他們是否能夠生成大量看起來像是來自選民的電子郵件，從而將立法議程轉(zhuǎn)向外國政府的利益？&rdquo;</p> <p><br />在整個 2020 年進行的實驗中，Kreps 和 Kriner 選擇了六個當前問題：生殖權利、警務、稅收水平、槍支管制、衛(wèi)生政策和教育政策。為了創(chuàng)建人工生成的信息，與學生運營的康奈爾政治聯(lián)盟相關的本科生就每個主題起草了給州立法者的電子郵件，倡導右翼或左翼立場。</p> <p><br />然后，他們使用 GPT-3 生成機器生成的選區(qū)字母，用 12 個字母（六個問題中的每一個的右側(cè)和左側(cè)位置）訓練系統(tǒng)。他們?yōu)槊總€意識形態(tài)和主題生成了 100 個不同的輸出。</p> <p><br />研究人員表示，許多立法者及其工作人員并沒有將機器生成的內(nèi)容視為不真實，這從 AI 和人類內(nèi)容在六個問題上的反應差異很小就可以看出。</p> <p><br />此外，關于槍支管制和健康政策的信息收到了幾乎相同的回復率，而關于教育政策，AI 生成的信息的回復率更高，這表明&ldquo;在這些問題上，GPT-3 成功地產(chǎn)生了幾乎無法區(qū)分的內(nèi)容州立法辦公室的眼睛來自人類內(nèi)容。&rdquo;他們寫道。</p> <p><br />在實驗后的反饋中，州立法者分享了他們?nèi)绾翁暨x出虛假電子郵件，例如缺少地理標記。一些人說他們代表的地區(qū)太小了，只要看一個名字就可以辨別假貨。</p> <p><br />&ldquo;聽到這些立法者中的許多人真正了解他們的選民和他們的聲音，而且這些人工智能生成的信息聽起來根本不像他們的選民會寫的東西，這令人振奮。&rdquo;克雷普斯說。</p> <p>&nbsp;</p> <p>然而，研究人員表示，對于國家級參議員和代表來說，這種當?shù)氐恼鎸嵭跃€索將更難發(fā)現(xiàn)。</p> <p><br />采用相同類型的神經(jīng)網(wǎng)絡的技術工具可以幫助區(qū)分真實信息和虛假信息，&ldquo;但是敏銳的眼睛和數(shù)字素養(yǎng)也可以，&rdquo;克雷普斯說。&ldquo;立法者需要接受培訓，才能知道要尋找什么。&rdquo;</p> <p><br />Kriner 說，隨著電子 astroturfing 能力的提高，立法者可能不得不更多地依賴有關選區(qū)偏好的其他信息來源，包括地區(qū)投票數(shù)據(jù)和現(xiàn)場活動：&ldquo;他們在選區(qū)四處走動，舉行城鎮(zhèn)會議，并獲得直接的支持。&rdquo;耳邊，至少來自那些對一個問題最活躍的人。&rdquo;</p> <p><br />兩位學者都樂觀地認為，美國的民主將在這一新威脅中幸存下來。</p> <p><br />&ldquo;你可能會爭辯說，從坐下來寫一封信到寫一封電子郵件的轉(zhuǎn)變比樣板在線電子郵件模板和 GPT-3 之間的轉(zhuǎn)變要大得多。&rdquo;</p> <p>&nbsp;</p> <p>Kreps 說。&ldquo;我們以前適應過，民主機構會再次適應。&rdquo;</p> <p><br />該研究部分由 A&amp;S New Frontier Grant 資助。</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學態(tài)度觀點。</p> </blockquote>