圖/IC

ChatGPT（生成式預(yù)訓練轉(zhuǎn)換器）正遭遇“圍剿”。

4月3日，德國聯(lián)邦數(shù)據(jù)保護專員發(fā)言人稱，出于數(shù)據(jù)保護方面的考慮，暫時禁止在德國使用ChatGPT原則上是可能的。而3月底，意大利個人數(shù)據(jù)保護局宣布，從即日起禁止使用聊天機器人ChatGPT，并限制開發(fā)這一平臺的OpenAI公司處理意大利用戶信息。

(資料圖片僅供參考)

意大利這一舉動，被視作打響了人類保衛(wèi)戰(zhàn)的第一槍，但“封殺”ChatGPT，在意大利高層也引發(fā)了激烈討論。

五天用戶破百萬，2個月用戶上億，ChatGPT爆火，將生成式AI推上了風口。用戶追捧從側(cè)面說明這絕非一次概念炒作，而是實實在在的技術(shù)改善，而機器學習算法締造的生成式AI，具備在橫向領(lǐng)域應(yīng)用的能力——ChatGPT可以是聊天AI（人工智能），也可以應(yīng)用在編程以及搜索上。針對這種能力有一句口號：萬物皆可GPT。

譽滿后必然是毀滿。早在2022年6月，谷歌一位工程師交上了21頁調(diào)查報告，認為谷歌AI模型LaMDA已經(jīng)擁有人格，再訓練下去會導致不可預(yù)見的后果。如今，ChatGPT同樣面臨這樣的挑戰(zhàn)。

擔憂AIGC（人工智能生成內(nèi)容）具備人格并引發(fā)災(zāi)難的人不在少數(shù)。近期，OpenAI創(chuàng)始投資人馬斯克聯(lián)名千人要求“暫停巨型AI實驗”，將ChatGPT停留在GPT4.0階段。連OpenAI的CEO奧特曼都認為，開源GPT算法是非常危險的行為，因為如果被壞人使用將危害無窮。

大家到底在擔心什么？第一個層面是ChatGPT可能取代人類，甚至會出現(xiàn)科幻片中清洗人類的危險。這部分擔憂實際上源自于科幻，也源自于哲學范疇，對人格和AI人格區(qū)別化界定。最早的小說可能是《佛蘭肯斯坦》。

第二個層面是ChatGPT可能破壞數(shù)據(jù)安全。諸如AIGC有爬取數(shù)據(jù)的功能，這會讓數(shù)據(jù)隱私在互聯(lián)網(wǎng)時代更加無所遁形。

第三個層面是信息繭房。由ChatGPT引導的信息搜索結(jié)果，可能導致新的信息繭房，也就是我們只能獲得ChatGPT給予的信息。相比于搜索推薦和內(nèi)容算法推薦，ChatGPT推送信息更加精準，我們這一代還會手動找一找信息來源，“后浪們”會不會產(chǎn)生依賴？

第四個層面是GPT遭遇濫用危害無窮。萬物皆可GPT，GPT會應(yīng)用到任何領(lǐng)域。如果這項功能被別有用心的人掌握，勢必會產(chǎn)生惡劣影響，不亞于恐怖分子掌握了核武器。

實際上，對于取代人類之說，無需憂慮。機器學習下，AI的確是技術(shù)黑箱，但說到底還是數(shù)學、統(tǒng)計學、計算機學的融合體，是一堆函數(shù)和數(shù)學模型的最終產(chǎn)物。這種擔憂本身來自于科幻，也來自于人類獨特的想象力。如果AI是提升人類認知水平和科技水平的一種工具，我們應(yīng)該用AI來提高認知，應(yīng)對其他潛在風險，而不是去猜測可能性。

不過，ChatGPT帶來的數(shù)據(jù)安全和信息繭房問題，要給與重視。AIGC說到底是一種工具，而且是一種強大的工具，爬取數(shù)據(jù)，建立信息繭房和被別有用心的人掌控，造成的破壞不容小覷。直白點說，它會成為收割金錢和利益的工具。

懼怕被收割，就不發(fā)展AIGC嗎？并非如此，一方面人類從未成功阻止過一項有用技術(shù)的發(fā)展，技術(shù)的進步只會降低工具門檻，最終讓技術(shù)更加不可控。另一方面，人類應(yīng)對技術(shù)帶來的負外部性，一般是靠技術(shù)本身。比如，應(yīng)對核武器的手段就是核武器本身，我們稱之為“黑暗森林”。因此，監(jiān)管AI的方式，在規(guī)則層面很難找到突破口，因為AI本身太復雜，只有AI才能監(jiān)管AI。所以，應(yīng)鼓勵人們早日掌握這些關(guān)鍵技術(shù)，應(yīng)用到關(guān)鍵領(lǐng)域。

對于AIGC的監(jiān)管有必要，監(jiān)管目標不應(yīng)該是AI的人格，而是用AI的人，了解他們想要達到的目的。一定程度上來說，我們不能被封殺AIGC的口號影響，但生成式AI技術(shù)的出現(xiàn)不僅帶來了巨大機遇，同時也帶來了風險。

近年來，隨著技術(shù)進步，生成式AI在文化創(chuàng)意產(chǎn)業(yè)、新聞媒體、金融、醫(yī)療等領(lǐng)域得到廣泛應(yīng)用。其一大風險是可能被用于惡意目的，因此，政府、企業(yè)和其他相關(guān)組織應(yīng)該加強監(jiān)管，盡可能地預(yù)防生成式AI濫用，要預(yù)見風險，提早筑起一道防護墻。

文/盤和林（浙江大學國際聯(lián)合商學院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員，工信部信息通信經(jīng)濟專家委員會委員）

編輯 王進雨

校對 柳寶慶

關(guān)鍵詞：