變強速度超出預期，安全問題逐漸變大，多國停用ChatGPT

黑大帥

科技美學

前段時間，小編向大家介紹過，隨著最近GPT-4語言模型的正式投入使用，ChatGPT也帶來了全新的插件——網絡瀏覽器和代碼解釋器，賦予ChatGPT使用工具、聯網、運行計算的能力。

更新後，跟據全球媒體的反饋來看，GPT-4相較於GPT-3.5確實有很大的性能提升，但出乎全球AI關注者的意料的是最近這種能力似乎有了全新的進化。

(GPT-4反思後，準確率為88%，之前為67%)

一名前谷歌大腦研究工程師發現了GPT-4可以合理的方式批評自己的成果，也就是說GPT-4模型已經有了一定的反思能力，這再一次加快了GPT-4模型的進化速度，據相關媒體測試稱，有了反思能力的GPT-4測試成功率相較於沒有反思能力的GPT-4提升了30%。

GPT-4越來越快的發展速度可以加重了用戶對於個人信息安全的擔憂，並且對ChatGPT是否可控提出了質疑。

根據網絡安全公司Darktrace公佈的最新研究報告，攻擊者使用ChatGPT等生成式AI，通過增加文本描述、標點符號和句子長度，讓社會工程攻擊量增加了135%。

此外，據相關媒體報道，三星電子引入聊天機器人ChatGPT不到20天就發生了3起涉及ChatGPT的事故，其中2起與半導體設備有關，1起與會議內容有關。

為了防止類似事故再次發生，三星正在制定相關的保護措施。如果今後發生類似事故，三星可能切斷ChatGPT服務。

而對於快速增長的安全問題不少國家也採取了措施，據人民網報道，就在3月31日，意大利數據保護機構稱對ChatGPT的禁止和調查已於3月31日“立即生效”，意大利數據保護機構表示，該模型存在隱私問題。

而在此前，人們一直擔心AI的潛在風險，包括它對工作的威脅以及錯誤信息和偏見的傳播。意大利數據保護機構表示，意大利不僅會阻止OpenAI 的聊天機器人，還會調查它是否符合通用數據保護條例。

此外，愛爾蘭數據保護委員會也表示，該機構正在與意大利監管機構跟進，以瞭解他們採取行動的依據，來保護本國用戶的信息安全。

而就在昨日，據相關媒體報道稱，不只是意大利，德國、法國等國家也可能跟隨意大利的做法對ChatGPT進行停用，並且德國相關組織表示已經與意大利相關組織進行了聯繫，並討論了調查結果。

據相關媒體報道稱，由於多國對於ChatGPT的相關信息安全問題的調查，ChatGPT概念股C3.ai的股價持續走低，收跌26.34%報24.95美元，市值28億美元，創該股上市以來最大日內跌幅。

就目前來看，ChatGPT確實有其獨到的優勢，並且相較於其他競品其性能優勢很大，但是目前因為其不能被有效的控制所產生的問題也是非常明顯的，首先AI目前並不能每次提供完全正確的答案，會有幾率輸出錯誤答案，造成誤解；此外，無法對違法行為施加更加嚴格的管控，使得相關信息安全的犯罪成本和在社交媒體上製造謠言的成本更低，加重了審查的負擔。