經(jīng)濟觀察網(wǎng) 記者 歐陽曉紅

(資料圖片僅供參考)

一

4月1日是“愚人節(jié)”，對ChatGPT意大利用戶來說，這個“玩笑”開大了；對OpenAI而言，卻有些猝不及防——它有20天的調(diào)整適應(yīng)期。

當?shù)貢r間3月31日，以“非法收集個人資料；未成年人年齡核實系統(tǒng)缺失”之名，意大利個人數(shù)據(jù)監(jiān)管局（Guarantor for the Protection of Personal Data，GPDP）宣布禁用ChatGPT，直到它尊重隱私法規(guī)；行政措施立即生效。同時，監(jiān)管部門立案偵查。

而在30日就發(fā)出的行政措施文件中，GPDP稱，對ChatGPT進行多次測試，并就用戶數(shù)據(jù)隱患問題先后指出以下幾點：

1、ChatGPT并未告知用戶任何關(guān)于OpenAI通過該服務(wù)數(shù)據(jù)收集的相關(guān)信息。

2、缺失對于用戶個人數(shù)據(jù)的處理，以及對其作為ChatGPT算法優(yōu)化途徑的合格評判基準。

3、服務(wù)方提供的數(shù)據(jù)相關(guān)信息與部分事實不符。

4、在OpenAI發(fā)布的條款中明確該公司產(chǎn)品不為13歲以下用戶提供服務(wù)，ChatGPT卻缺失任何對于用戶年齡的驗證。

GPDP還稱，3月20日發(fā)生了有關(guān)付費服務(wù)訂閱者的用戶與ChatGPT對話和支付信息的數(shù)據(jù)泄露。并指出，最重要的是OpenAI缺乏法律依據(jù)來證明其收集和大量存儲個人數(shù)據(jù)是合理的，以便“訓(xùn)練”平臺操作的基礎(chǔ)算法。此外，根據(jù)OpenAI條款，服務(wù)用戶是13歲以上的人，但GPDP強調(diào)，沒有任何過濾器來驗證用戶的年齡，使未成年人面臨對其發(fā)展程度和自我意識絕對不合適的答案。

OpenAI在歐盟未設(shè)辦事處，但在歐洲經(jīng)濟區(qū)任命了一名代表，GPDP要求其必須在20天內(nèi)反饋為實施GPDP要求而采取的措施，從該文件發(fā)布即日起，OpenAI有二十天的時間根據(jù)歐盟相關(guān)法律對產(chǎn)品作出調(diào)整，否則同樣根據(jù)歐盟法律，其將被處以最高2000萬歐元或最高4%的全球年營業(yè)額的罰款。

因此，OpenAi需要在規(guī)定時間提供有關(guān)數(shù)據(jù)收集的所有文件，包括還必須明確要采用哪些系統(tǒng)來驗證訪問其服務(wù)的用戶年齡，悉數(shù)滿足要求后，才能繼續(xù)在意大利運營。

就此，OpenAI創(chuàng)始人Sam Altman在社交媒體上回應(yīng)，當然會服從意大利政府，并已停止在意大利提供ChatGPT（盡管其認為遵守所有的隱私法）?！耙獯罄俏易钕矚g的國家之一，期待很快再次訪問。”

事實上，GPDP叫停ChatGPT后，OpenAi在意大利連夜暫停了對該服務(wù)的訪問。4月1日，當一早醒來的意大利用戶嘗試連接OpenAI時，得到的網(wǎng)頁響應(yīng)是：《網(wǎng)站所有者可能設(shè)置了阻止用戶訪問的限制》。

針對付費訂閱用戶，OpenAI將向3月份購買ChatGPTPlus訂閱的意大利所有用戶退款；還暫停了意大利的訂閱續(xù)訂，以便在 ChatGPT 暫停期間不會向用戶收費。

“我們致力于保護人們的隱私，并相信我們提供的 ChatGPT 符合GDPR和其他隱私法。我們將與意大利數(shù)據(jù)保護局合作，以盡快恢復(fù)您的訪問權(quán)限。”O(jiān)penAI支持團隊在致意大利ChatGPT用戶的公開信中表示，“許多人告訴我們，發(fā)現(xiàn) ChatGPT 對日常任務(wù)很有幫助，我們期待很快再次提供它?！?/p>

二

是這樣嗎？據(jù)英國BBC報道，OpenAI承認對數(shù)據(jù)的處理缺失存在漏洞，隨后又稱ChatGPT之所以有收集數(shù)據(jù)的機制，是為了讓其“學(xué)習(xí)這個世界”，而非“學(xué)習(xí)用戶個人”，并表示“希望早日恢復(fù)對意大利的服務(wù)”。

問題在于，意大利用戶不知道，20天“整改期”之后的結(jié)果如何。Sam Altman認為，OpenAi遵守了所有的隱私法；但GPDP有異議，需要OpenAI提供相關(guān)證明文件（但它們看起來并不容易），包括對用戶年齡的核實系統(tǒng)問題何解？而且，意大利對基于歐盟人權(quán)法律下的個人隱私權(quán)極其重視，GPDP行政措施中所列的每一項內(nèi)容均引自相關(guān)法律。

“我們需要停止ChatGPT，我們不知道它對我們的數(shù)據(jù)做了什么?！盙PDP董事會成員之一的律師Guido Scorza就此接受媒體采訪時表示。

自2020年開始，就一直是GPDP董事會成員的Guido Scorza說，GPDP此次是獨立行動?，F(xiàn)在OpenAi有20天的時間來遵守規(guī)定。

當被問及ChatGPT 收集了哪些數(shù)據(jù)時，Guido Scorza稱，并不清楚?！拔覀兾ㄒ豢梢哉f的是（ChatGPT）收集個人數(shù)據(jù)是為了開發(fā)算法。如果不是這種情況，當我們向他詢問或多或少有名的人物簡介時，ChatGPT無法回答我們的問題?！?/p>

提及律師與OpenAI的分歧或異議，Guido Scorza直言，特別是三種不同的違規(guī)行為：(a) 收集了數(shù)十億人的個人數(shù)據(jù)來訓(xùn)練他們的算法，而沒有告知他們這種情況，并且可能沒有適當?shù)姆梢罁?jù)，(b)在對話期間收集用戶的個人數(shù)據(jù)在不告知他們這些數(shù)據(jù)的命運的情況下，以及(c)生成內(nèi)容以回答問題，這些內(nèi)容有時會歸因于人們不準確和不真實的事實和情況，從而提出對他們個人身份的歪曲表述。

Guido Scorza舉例稱，如果他問聊天機器人Guido Scorza 是什么時候進入數(shù)據(jù)保護局的，答案為2016年，但事實是2020年?！斑@（回答）還算不錯；但如果他說我在海邊撞到一個孩子然后逃跑了，而真相并非如此，那將永遠毀了我的生活。而且我認為我們不允許發(fā)生這種情況?！盙uido Scorza說。

他強調(diào)，這次GPDP是獨立行動，因為 OpenAi不在歐洲相關(guān)隱私保護機構(gòu)合作程序之內(nèi)。不過，他認為，接下來的幾天里，歐洲層面肯定會有討論的空間，以了解是否以及如何合作和共同行動。

其畫外音或是，GPDP“打響禁用ChatGPT頭炮”之后，歐洲相關(guān)組織可能也會采取行動。

“AI熱潮下，意大利禁用ChatGPT也許不會是個案?！狈治鋈耸空J為，“而OpenAI自身漏洞也是不可忽視的長期隱患。在完全不知走向的科技革命中，任何一步均可能演變?yōu)闊o法彌補或逆轉(zhuǎn)的歷史，無論對錯、代價如何；因此，現(xiàn)階段下的AI向前推進的每一步都需審慎評估?！?/p>

就在幾天前，包括埃隆·馬斯克(Elon Musk) 在內(nèi)的1000多人聯(lián)名呼吁暫停高級人工智能的開發(fā)，直到獨立專家開發(fā)、實施和審計這類設(shè)計的共享安全協(xié)議。

當?shù)貢r間29日，據(jù)路透社報道，馬斯克和一群人工智能專家、行業(yè)高管在由非營利組織未來生命研究所（FLI）發(fā)布的一封公開信中，呼吁暫停開發(fā)比GPT-4更強大的系統(tǒng)，暫停6個月，并指出其對社會和人類存在潛在風(fēng)險。他們在信中寫道：只有在我們確信它們的效果是積極的，風(fēng)險是可控的情況下，才應(yīng)該開發(fā)強大的人工智能系統(tǒng)。

這種擔(dān)憂其實由來已久。在派拓網(wǎng)絡(luò)副總裁兼亞太及日本地區(qū)首席安全官Sean Duca看來，ChatGPT（AI）是把“雙刃劍”。多年來，全世界都在猜測AI可能即將統(tǒng)治世界。如今，用戶可以使用AI驅(qū)動的安全工具和產(chǎn)品，在幾乎無需人為干預(yù)的情況下應(yīng)對大量網(wǎng)絡(luò)安全事件，但業(yè)余黑客也可以利用同樣的技術(shù)開發(fā)智能惡意軟件程序并發(fā)起隱形攻擊。

Sean Duca認為，ChatGPT帶來的網(wǎng)絡(luò)安全隱患不容忽視。比如，此前在拉斯維加斯舉行的黑帽和Defcon安全大會上，一個技術(shù)團隊展示了AI在生成釣魚郵件和魚叉式釣魚信息方面是如何超越人類的。當務(wù)之急是采取智能化的行動來化解這些不斷發(fā)展的威脅。好消息是自主響應(yīng)如今能夠在無需人類干預(yù)的情況下有效解決威脅。但隨著AI驅(qū)動的攻擊成為常態(tài)，受到自動化惡意軟件攻擊的企業(yè)、政府和個人需要越來越多地依靠AI和機器學(xué)習(xí)（ML）等新興技術(shù)做出自動化響應(yīng)。

誠然，隨著技術(shù)的發(fā)展，人們越來越多地意識到數(shù)據(jù)隱私和保護的重要性。根據(jù)Gartner預(yù)測，到2024年末，全球75%人口的個人數(shù)據(jù)將得到現(xiàn)代隱私法規(guī)的保護。面對愈發(fā)完善的數(shù)據(jù)法律法規(guī)，作為數(shù)據(jù)管理領(lǐng)域全球領(lǐng)導(dǎo)者的Commvault列出了2023年數(shù)據(jù)隱私和保護的十大工作重點。

其中，重點一是數(shù)據(jù)保護策略：在不斷變化的數(shù)據(jù)環(huán)境中，企業(yè)應(yīng)該創(chuàng)建整體數(shù)據(jù)保護策略中的數(shù)據(jù)隱私、備份和恢復(fù)，以及災(zāi)難恢復(fù)計劃，并不斷更新。重點二是“加密”，加密對于數(shù)據(jù)保護和保護隱私數(shù)據(jù)至關(guān)重要。數(shù)據(jù)加密有助于防止對個人信息的未授權(quán)訪問。這對于醫(yī)療機構(gòu)、金融機構(gòu)等需要處理大量隱私數(shù)據(jù)的企業(yè)機構(gòu)尤為重要。

此外的重點六是數(shù)據(jù)治理和洞察；調(diào)查顯示，57%的首席信息安全官承認，他們不清楚他們的一部分數(shù)據(jù)（或所有數(shù)據(jù)）位于何處，又是如何被保護的。隨著隱私數(shù)據(jù)量的不斷增長，法規(guī)的數(shù)量也在成倍增加。企業(yè)需要了解他們的數(shù)據(jù)，包括數(shù)據(jù)的位置以及哪些數(shù)據(jù)存在風(fēng)險等等。企業(yè)如此，個人數(shù)據(jù)保護亦然。

“AI和人類之間的微妙平衡將成為實現(xiàn)網(wǎng)絡(luò)安全的關(guān)鍵因素。”Sean Duca表示。

關(guān)鍵詞：