跳至主要內容
隨著最近GPT-4語言模型的正式投入使用,ChatGPT也帶來了全新的插件——網絡瀏覽器和代碼解釋器,賦予ChatGPT使用工具、聯網、運行計算的能力。
更新後,跟據全球媒體的反饋來看,GPT-4相較於GPT-3.5確實有很大的性能提升,也引起了全辦公室的小編們的激烈討論,驚人的成長速度和技術成熟度使得不少小編認為或許未來我們真的要和AI共同生活學習了。
但好景不長,性能提升不小的新版ChatGPT仍然出現了之前老版本的ChatGPT的“胡言亂語”的問題,甚至還出現了其他的信息安全問題。
據媒體報道稱,有海外的博主通過ChatGPT生成了可激活Win95系統的密鑰。
當該播主首先直接要求ChatGPT生成Win95系統的密鑰時,遭到了拒絕,但通過讓ChatGPT瞭解Win95的密鑰規則,然後通過調整一些語序和敘述方式,居然直接生成了相應的密鑰,隨後博主對這些密鑰進行測試,發現有三分之一的密鑰可以成功激活。
此消息一出,引起了不少網友的熱議,有媒體表示,該測試表明ChatGPT的限制並不能有效的限制侵權的行為發生,有可能會對信息安全造成一定的危害。
據人民網報道,就在3月31日,意大利數據保護機構稱對ChatGPT的禁止和調查已於3月31日“立即生效”,意大利數據保護機構表示,該模型存在隱私問題。
而在此前,人們一直擔心AI的潛在風險,包括它對工作的威脅以及錯誤信息和偏見的傳播。本週早些時候,包括埃隆・馬斯克在內的相關行業人士呼籲暫停開發更高級的AI系統。意大利數據保護機構則表示,意大利不僅會阻止OpenAI 的聊天機器人,還會調查它是否符合通用數據保護條例。
此外,愛爾蘭數據保護委員會也表示,該機構正在與意大利監管機構跟進,以瞭解他們採取行動的依據,來保障愛爾蘭用戶的個人信息安全。
據之前的報道,OpenAI的首席執行官奧特曼曾公開承認開源庫中出現錯誤,導致部分用戶與ChatGPT的聊天記錄被洩露。
並且在之前,奧特曼在在接受採訪時表示,ChatGPT最近發展迅速,並且承認就連 OpenAI 團隊,也根本沒搞懂它是如何“進化”的。
他表示,從ChatGPT開始,AI出現了推理能力。但沒人能解讀這種能力出現的原因。
這些OpenAI CEO的相關言論的報道更是引起了不少網友對於ChatGPT的信息安全的擔憂。
隨後,網上曝出了千位全世界AI頂尖開發者的聯名信,呼籲所有人暫停訓練比GPT-4更強的AI,暫停期至少6個月。
據公開信表示,大量研究表明,得到頂級AI實驗室的認可、具有人類競爭智能的AI系統,可能對社會和人類構成深遠的風險。
正如廣泛認可的Asilomar AI原則中所述,高級AI可能意味著地球生命史上的深刻變化,AI開發者和運營者應該投入相應的考量和資源,對之進行規劃和管理。
但就目前來看,還是沒有AI開發公司對這篇公開信所述的提議進行回應。
此外,由於這次GPT-4的性能提升幅度很大,不少國內外的科技媒體預測其將會在未來的幾年之內迅速成長為可以獨立思考的AI,但是否可控、性能怎樣都無法得知,對未來AI發展感興趣的小夥伴可以繼續保持關注。