問題明確？微軟總裁稱目前人工智能最令人擔憂的問題是深度造假

黑大帥

科技美學

前段時間，小編向大家介紹過，隨著最近GPT-4語言模型的正式投入使用，ChatGPT也帶來了全新的插件——網絡瀏覽器和代碼解釋器，賦予ChatGPT使用工具、聯網、運行計算的能力。

更新後，跟據全球媒體的反饋來看，GPT-4相較於GPT-3.5確實有很大的性能提升，但出乎全球AI關注者的意料的是最近這種能力似乎有了全新的進化。

(GPT-4反思後，準確率為88%，之前為67%)

一名前谷歌大腦研究工程師發現了GPT-4可以合理的方式批評自己的成果，也就是說GPT-4模型已經有了一定的反思能力，這再一次加快了GPT-4模型的進化速度，據相關媒體測試稱，有了反思能力的GPT-4測試成功率相較於沒有反思能力的GPT-4提升了30%。

但也是由於性能過強超出預想，使得其發展速度可以加重了用戶對於個人信息安全的擔憂，並且對ChatGPT是否可控提出了質疑。

根據網絡安全公司Darktrace公佈的最新研究報告，攻擊者使用ChatGPT等生成式AI，通過增加文本描述、標點符號和句子長度，讓社會工程攻擊量增加了135%。

而作為OpenAI的主要投資方，微軟的總裁布拉德·史密斯週四表示，他對人工智能的最大擔憂是深度造假，隨著各式各樣的人工智能工具出現，這類看起來很逼真但實際是虛假的內容如今越來越普遍了。

此外，他還呼籲採取措施，以確保人們能夠判定照片或視頻的真實性。史密斯強調，“我們需要採取措施防止合法內容被篡改，以及防止意圖通過使用人工智能進行欺騙的行為。”

史密斯還呼籲支持成立新機構來監管ChatGPT等流行AI，以“承擔保護安全、物理安全、網絡安全和國家安全的義務”。

史密斯還在演講中和週四發表的一篇博文中指出，人們需要對AI造成的任何問題負責，他敦促立法者確保對有關民生工程的AI技術進行安全監管。史密斯說：“我們需要更多的實踐和監管來確保人工智能在正確的軌道上運行”。

而在此前，人們一直擔心AI的潛在風險，包括它對工作的威脅以及錯誤信息和偏見的傳播。意大利數據保護機構表示，意大利不僅會阻止OpenAI 的聊天機器人，還會調查它是否符合通用數據保護條例。

此外，愛爾蘭數據保護委員會也表示，該機構正在與意大利監管機構跟進，以瞭解他們採取行動的依據，來保護本國用戶的信息安全。

而近期，據相關媒體報道稱，不只是意大利，德國、法國等國家也可能跟隨意大利的做法對ChatGPT進行停用，並且德國相關組織表示已經與意大利相關組織進行了聯繫，並討論了調查結果。隨後歐洲數據保護委員會表示，已成立ChatGPT特別工作組，這可能是朝著制定人工智能隱私規則通用政策方面邁出的重要一步。

目前，全球都在對AI接下來的安全問題進行更多關注，感興趣的小夥伴可以保持關注。

近期文章精選：

相關文章