大規模封亞洲IP、遭意大利禁用、洩露芯片機密…ChatGPT遇滑鐵盧?

大規模封亞洲IP、遭意大利禁用、洩露芯片機密...ChatGPT遇滑鐵盧?

近日,一則有關 ChatGPT 大規模封號的消息傳遍互聯網。

消息顯示,OpenAI 官方從 3 月 30 號開始大面積封號,甚至一些開通了付費會員的賬號也無法正常啟用。據瞭解,一部分用戶在付費後會出現只扣款但訂閱不開啟的情況,一部分用戶的付費Plus原本可用,但近期卻突然失效,乃至賬單裡無法查詢相關記錄。

在社交平臺上,不少網友透露自己的賬號被封。

數據顯示,OpenAI 的本次封號處理主要集中在亞洲地區,尤其是使用中文對話的用戶和批量註冊的賬號。 

除了封號,有網友還曝出 OpenAI 已經暫停註冊新賬號,註冊網頁無法進入,很多收碼平臺近期已關閉。

綜合上述情況,網友給出建議:

●儘量用非亞洲節點登錄

●不要用同一臺設備先後登錄不同賬號

●不要用不同設備登錄同一個賬號

不過,4月3日,有媒體報道,經訪問 OpenAI 官網發現,賬號註冊界面已經開放,原有的賬號能夠成功登錄,ChatGPT的響應也很快。

有分析認為,此次出現封號的背後原因,可能是“批量註冊”和“API調用”。

前者主要是由於用戶在手動註冊之外,入手了大量由第三方途徑收入的賬戶;後者則是由於用戶在操作過程中存有濫用API的嫌疑,而這違反了OpenAI API的使用規則。

值得注意的是,火爆的 ChatGPT 正遭遇更嚴的審查和挑戰。

首先是來自意大利的“禁令”。由於涉嫌侵犯用戶隱私,ChatGPT 近日在意大利被暫停使用。

上週五,意大利數據保護機構對 OpenAI 公司非法收集用戶信息展開調查。意大利個人數據保護局宣佈,即日起禁止使用聊天機器人 ChatGPT,並限制開發這一平臺的美國人工智能公司處理意大利用戶信息。同時,意大利個人數據保護局指出了三個問題:

●3月20日,ChatGPT 平臺出現了“用戶對話數據和付款服務支付信息丟失”的情況。

●該平臺沒有就收集處理用戶信息進行告知,缺乏大量收集和存儲個人信息以訓練平臺算法的法律依據。

●儘管 OpenAI 稱其服務面向 13 歲以上的用戶,但卻未設立檢查年齡的驗證機制,可能使兒童收到絕對不適合他們年齡和意識的答案。

OpenAI 公司需在 20 天時間內來說明其將如何解決上述隱患,否則最高面臨 2000 萬歐元(約1.49億人民幣)的罰款。

這也是首個禁用 ChatGPT 的西方國家。

但給 OpenAI 帶來的麻煩不僅是罰款方面,如若該公司不能為自己做出合理的辯護,勢必會有更多的歐洲國家加入“禁用ChatGPT”的行列。


據悉,德國已有此方面的考慮。4月3日,德國聯邦數據保護專員發言人稱,出於數據保護方面的考慮,暫時禁止在德國使用ChatGPT原則上是可能的。該發言人稱,禁止使用該軟件的動作將屬於德國聯邦數據保護機構的職權範圍。


其次,因存在洩密風險,三星考慮禁用 ChatGPT。 

上週,韓媒披露,三星電子引入 ChatGPT 不到 20 天的時間,便曝出 3 起內部機密資料外洩事件。

據韓國媒體《economist》3月30日報道,近日,三星內部發生三起涉及 ChatGPT 誤用與濫用案例,包括兩起“設備信息洩露”和一起“會議內容洩露”。報道稱,半導體設備測量資料、產品良率等內容或已被存入ChatGPT學習資料庫中,隨時面臨洩露的風險。而出現這些事故的根源,均是因為員工將涉密內容輸入到了 ChatGPT。

目前,三星正在制定相關保護措施,告知員工謹慎使用該應用,若之後仍發生類似事故,公司內部網絡可能會切斷 ChatGPT 連接。

事實上,ChatGPT 洩露用戶聊天記錄的事件已發生多次。上月,Reddit 上有用戶發佈截圖稱遇到了一個BUG,其 ChatGPT 聊天曆史欄出現了不是自己的聊天記錄標題。同時期,網絡上有人反饋 ChatGPT Plus 支付頁面會隨機曝光用戶註冊郵箱。多起事件引發了大家對於 ChatGPT 在隱私安全方面存在漏洞的擔憂。

尤其是很多企業員工都在將公司內部數據輸入到 ChatGPT,讓它幫忙處理。在數據洩露事件發生後,多家企業開始重視隱私安全問題,包括軟銀、日立、富士通、摩根大通等企業都明確禁止員工使用 ChatGPT。

此外,千餘名科技大牛呼籲暫停 ChatGPT 研發。

包括馬斯克在內的上千名科技大佬就曾聯合署名要求,至少 6 個月內,暫停發展更高級別的 GPT,擔心更高級別的 AI 會脫離人類的掌控,主要還是出於對技術安全問題的擔憂。

上月中旬,GPT-4 剛發佈,被馬斯克請願叫停的則是更先進的 GPT-5。據悉,GPT-5 能力會大幅提升,可能會首次實現 AGI,也就是通用人工智能。這將成為 AI 發展的一個轉折點,意味著 AI 首次比人類更聰明。

AI 發展太快,相關的監管和法律沒有跟上,人們的擔憂也就愈發強烈。

無論如何,創新技術不應該被阻止,但因為人工智能技術可能會面臨倫理方面的挑戰,被納入監管是有必要的。

如何對人工智能進行監管,也成為歐盟內部正考慮的問題。

據報道,由於 AI 生成圖片近期在網上瘋傳,尤其是 Midjourney 這類 AI 生成圖片的應用軟件被濫用引起了混亂。比如,“美國前總統被捕”、“馬斯克和通用汽車女掌門人手牽手”等圖片在國外社交媒體上氾濫,這些看似細節豐富的圖片卻非事實,其都出自人工智能驅動的圖像生成技術。

針對 AI 生成圖片引發的混亂,歐盟內部市場專員、工業和信息化產業負責人蒂埃裡·布雷頓公開表示表示:歐盟希望對 AI 生成的內容進行強制性的規定。

其表示,歐盟將是首個做出明確規定的政府,人工智能生成的一切,無論是文本還是圖像,都有義務告知它們是由人工智能完成的。如果有人在社交網絡上發佈由 AI 生成的圖像卻不表明是由 AI 生成的,他們將面臨法律訴訟。

歐盟人工智能法案將於本月起正式進行投票,生成式 AI 也將作為被監管的重點對象被納入其中。

生成式 AI 內容需註明來源,這一規定將利於我們更好的辨別虛假信息。但人工智能發展的過程中,保護用戶隱私同樣至關重要。聊天機器人該如何加強自身的隱私政策透明度?讓用戶清楚地知道自己授權的信息會被用在哪些方面?希望相關的法律制度儘管完善,切實保護用戶的隱私權益。

最後再次提醒,鑑於 ChatGPT 曾多次出現數據洩露事件,最好不要和它聊隱私。


編輯:崔崔


重要提醒

電腦報的讀者朋友們,有沒有發現從不斷更的電腦報最近好像很難刷到了,這是因為,微信公眾號推薦機制又雙叒調整了!想要不錯過我們準備的內容,請一定要星標“電腦報”公眾號~


2023年《電腦報》便捷訂閱模式:

—— 方式1:微信訂閱  ——

郵發代號:77-19

單價:8元

年價:400元

長按二維碼識別進入郵政訂閱平臺

—— 方式2:網店訂閱  ——

打開中國郵政網上營業廳

https://mall.11185.cn/

搜索欄輸入77-19或電腦報即可

—— 方式3:電話訂閱  ——

撥通郵政訂閱熱線:11185

按語音提示,郵政收訂人員上門服務

《電腦報》發行諮詢熱線:023-63863737 

(請工作時間撥打)

歡迎關注電腦報視頻號

Scroll to Top