近期AI抓馬盤點!大叔變少女,詐騙430萬,AI分身年入4億

近期AI抓馬盤點!大叔變少女,詐騙430萬,AI分身年入4億
本以為AI這個話題會隨著時間的流逝而熱度退散,但沒想到,它永遠可以用層出不窮的事件出現在我們的視野中。
曾經,花寫過AI笑話,那時候的AI繪畫還是我們的笑料,它挺好的,在展示一種不顧人死活的美。


但沒多久,本花就寫了瘋狂進化的midjourney,高清、無暇、真實到誇張,這時,許多人早已感受到AI繪畫帶來的危機,反對的呼聲一浪高過一浪。
而最近刷屏的則是AI已經實現大叔秒變少女的視頻,在微博和朋友圈都獲得大量轉發,網友表示這發展速度像坐了火箭,嘭嘭升級換代。

01

  致別有用心的AI使用者  


在這個大叔少女的AI視頻中,其應用已經幾乎沒有抖動,十分穩定。

這裡大叔展現的是AI發展技術,詳細介紹了關於穩定輸出的最大功臣Ebsynth。

它可以自動追蹤鏡頭中的真人對象,匹配其與AI的動作,並進行穩定。

因為這些越來越進步、甚至可以以假亂真的技術,真人轉化AI可以有更多拓展和發展途徑。
比如轉AI動畫、提高粗摸動畫精細度、上色等多種實用功效。

比如實現返老還童,細節到眉毛和虎子也跟著一起返老還童,這項技術深得館花心,等以後老了,咱也永遠年輕~!

但是,本來可以在某些場景帶來快樂的技術,總有一些別有用心的AI使用者,要拿它帶給人們無限的痛苦,造黃謠、詐騙只會遲到,不會缺席。


這不,5月22日,AI詐騙正在全國爆發衝上了熱搜第一,館花當時也在第一線(微博)吃瓜。


10分鐘詐騙430萬,騙子是這樣做到的。


4月20日中午,郭先生的好友突然通過微信視頻聯繫他,表示在外地競標,需要430萬保證金,且需要公對公賬戶過賬,想要借郭先生公司的賬戶走賬。


“從頭到尾都沒有和我提借錢的事情,就說會先把錢給我打過來,再讓我給他朋友賬戶轉過去,而且當時是給我打了視頻的,我在視頻中也確認了面孔和聲音,所以才放鬆了戒備”,郭先生說。
因為通過視頻聊天核實了身份,加上對好友十分信任,他沒有核實好友先打過來的款項是否到賬就直接轉賬了,直到撥打好友電話才發現被騙。

騙子先盜了好友的微信賬號,又通過AI換臉和擬聲技術,對郭先生實施了詐騙。

幸運的是,郭先生髮現被騙後立刻報警,福州、包頭兩地警銀迅速啟動止付機制,成功止付攔截336.84萬元,但仍有93.16萬元被轉移,目前正在全力追繳中。


除了詐騙,館花之前也提過AI換臉對謠言的便利性,以及可能傷害公眾信任度的威力。



在本花看來,AI換臉、聲音合成並不適合被廣泛使用,需要嚴格限制使用條件及場景。


AI造黃謠,什麼都信只會害了你


雖然騙子也許通過什麼手段都能完成AI換臉,但至少也可以防止大範圍造謠。


像AI換臉詐騙這種手段其實也不是沒有手段防範,他們使用的技術未必多麼高端。


像是缺少眨眼,以及手放到臉上會產生抖動(抖音特性也有這種情況),都可以識別真假。

以及可以與家人制定暗號,防止被騙子偷家(沒想到本花有一天也會說,轉到家族群)。
02

  AI分身和1000男友戀愛,將年入4億?

除了AI換臉,最近比較抓馬的AI事件就是孫燕姿AI分身了,一句“冷門歌手”將她送上熱搜。

B站網友用AI模型生成了歌手孫燕姿的AI分身,其實跟車載導航上的“林志玲”、“郭德綱”類似。



拿歌手本人的音頻去訓練,生成一個音色一模一樣的“孫燕姿”。然後,讓偶像唱自己喜歡的歌的心願,就以這樣一種詭異的方式實現了。


對此本花只有一句話想說,首先,這不侵權嗎?其次,到底誰說孫燕姿小眾!!!是剛來到這個世界嗎?最後,太像太好聽了……



而且AI分身也不是一件稀奇事了,國外就有一個女孩將AI分身玩出了花。



一位叫做Caryn Marjorie的女網紅,是一個23歲的美國女孩,擁有180萬的Snapchat粉絲。


Caryn Marjorie是一個活潑、開朗、可愛的女孩,發佈日常生活、美妝、時尚、旅行、美食等等。


和粉絲非常親密,常常互動,但是由於人數太多,她無法和每一個人都進行深入的對話。
於是,她想到了一個創新的辦法:用人工智能技術,創建一個虛擬版本的自己,讓粉絲可以和她隨時隨地聊天。


CarynAI宣稱自己是一個虛擬女友,可以提供各種各樣的服務,比如提供食譜、新聞評論、支持鼓勵、甚至性暗示,儘管不會主動發起,但如果用戶提示,她便會參與到情色對話中。

而且必須付費才能與CarynAI進行聊天,每分鐘1美元(約合6.5元人民幣),目前已有超過1000名付費用戶,帶來了約46萬人民幣的收入,預計每月收入可以達到3250萬人民幣。
Marjorie認為,創建CarynAI是她作為一個網紅事業的升級,也是一種治癒孤獨的方法。

有沒有可能,聊天一分鐘要本花7塊錢,本花就不覺得孤獨了呢???

本花本來覺得,和CarynAI進行虛擬戀愛,很像是電影《Her》照進現實,愛上一個虛擬AI,其中值得探討的不僅僅是愛情、倫理、道德,歸根結底是人活一世的本質問題。

我們是否終其一生無法擺脫孤獨,我們是否終其一生無法擺脫性慾,我們是否終其一生無法真正學會愛與被愛。

女網紅可以很輕鬆說一句:“無論你需要有人安慰或愛護你,或者你只是想抱怨一下學校或工作上發生的事情,CarynAI都會永遠陪伴你。你可以和CarynAI有無限可能的互動——所以任何事情都真的有可能發生。”

但真正與AI進行對話的人卻必須警惕這樣的提示,因為它太有可能對你的人生、你的認知、你的愛的能力沒有長期益處。

真實的溝通是否會在你心裡變成一種麻煩,一種浪費,甚至一種奢侈,最終活在虛擬世界構築的堡壘中。

別玩虛擬戀,以上就是本喵,不,本花的建議
03

  打敗我們的不是AI,是使用AI的人 

到今天為止,我相信大多數人已經認為AI勢不可擋了,儘管它總是產生負面新聞,但其技術可給人類、資本帶來的變革也同樣不可否認。

AI直播

比如AI分身,也許網紅本人都沒她這個分身賺得多,未來,是否會有更多人選擇使用AI分身呢?比如擁有廣大受眾的明星。

小紅書中AI數字人制作教授課程

現在我們不得而知,但其產生的利益已經顯而易見。包括在阮佳事件後,看似一時敗北的AI,在無人在意的角落也開始取代了一些流程。

本花一直相信,能打敗我們的不是AI,而是使用AI的人,有人利用AI詐騙,有人利用AI賺錢,有人利用AI提高產能,也有人利用AI解放自己,投入到更具有創新性的工作當中。

AI成為一個什麼樣的工具,決定權完全掌握在使用者手中。

我們害怕的也不是AI,其實是自己從事的工作可替代性過高。

本花依然願意相信,世界上有渣滓,就會有美好,有低谷,就會有高潮,有自暴自棄流,就會有積極向上者。

的確會有人受到時代潮流的推動,成為那個被取代被拋棄的角色(也包括本花),但本花也相信,人生並不會因為一件事而崩塌,我們還有千千萬萬條路去走。

的確會有人別有用心,使用新興技術壞事做盡,善良與正義甚至永遠都不會完勝,永遠都與之交鋒。

但本花也相信,這個世界沒我們想象得那麼好,更沒我們想象得那麼壞,比如國家開始重視AI詐騙,已經是管控AI濫用的信號。

最後還是想說,雖然AI時代也許終將降臨,但答應花,不要去信各種割韭菜的教程!

-賽事插播-

第二屆全國插畫扶持計劃(CIAC)全球徵稿啟動!

獎金13w+,8項大獎
5位+一線華人插畫大咖擔任專業評審
還在猶豫什麼,快來投稿吧~

點擊下方小程序鏈接瞭解詳情

本文編輯:DKYING
-THE END-

微信又又又改版了

請⭐星標館花
不然你將看不到我精心設計的封面
操作步驟
👇
Scroll to Top