|
|
|
#1
2018-11-29, 08:10 PM
|
||||
|
||||
第一批AI已經開始詐騙
【第一批AI已經開始詐騙】用你的聲音你的臉，說你沒說過的話
本文來源：極客視界(微信id：geekview) 作為世界上最古老的幾個職業之一，騙子可以說是與時俱進的代表了，甚至可以說是世界上擁抱新事物最積極的群體。 自從微信成為國民級社交軟件之後，各類騙子的主戰場也隨之進行轉移，從原來的電話短信詐騙進行了產業升級，成功步入了移動互聯網時代。 畢竟作為熟人社交的社交工具，微信獲取信任的成本遠遠低於其他方式，「秦始皇打錢」的時代宣告結束。 騙子們依托微信開發了非常多的詐騙方式。 比如針對年輕男性群體的「茶葉詐騙」，在早期微信還沒有完全成為熟人社交軟件之前風靡一時。 基本套路都是以武夷山某茶莊莊主外孫女在外公重病、親戚覬覦茶莊的時候走投無路，通過「搖一搖」或者「附近的人」功能，找到了天選之子的受騙者，最終一步一步的讓受騙者熱血上頭打錢買茶葉，保衛茶莊所有權。 隨著媒體的曝光，此類騙術逐漸失去了效果。 但是騙子們的招數依然層出不窮，最近媒體又爆出了一個更新的騙術： 近日，趙女士收到父親的語音留言，對方稱買菜沒帶錢要趙女士轉200元。 趙女士問了一句「爸，是你嗎？」很快收到語音答复。 趙女士一聽是父親的口音，便將錢轉了過去，結果還是被騙。 同樣受害的還有來自滄州的王女士，王女士接到同學發來的微信，讓她幫忙轉點錢，並發來語音催促。 一听就是同學的聲音，王女士好心打款500元，同樣被騙。 這種騙局主要原因，還是由於微信盜號造成的，雖然目前通行的微信版本語音是不能轉發的，但是騙子可以通過提取語音文件或者安裝「增強版微信」（一般是基於xposed框架的插件），都能達到轉發語音的效果。 雖然這種騙局技術含量不高，如果警惕性高一點，直接打電話聯繫就可以讓騙子不攻自破。 但是騙子很聰明的利用了中國人給彼此留面子的社交規則，如果是親朋好友語音跟你說借個百來塊錢，一般是不太可能去直接打電話質疑的，這樣會顯得自己很小氣。 再加上又有對方的語音，自然更不會去進一步深究，所以這樣的騙局能成功的也不意外。 但是所謂道高一尺魔高一丈，你真的以為打電話就能夠攻破騙子的騙局嗎？ 現在的技術已經完全可以通過算法，來生成人的全套語音了，甚至連憤怒、高興等不同語氣情緒都能夠做到惟妙惟肖，足以以假亂真。 而所需要的材料，也僅僅只需要被生成者的幾段話。 開發這項技術的是谷歌2016 年在加拿大蒙特利爾大學建立的人工智能實驗室（MILA）。 基於聲音合成技術，MILA 在2017 年4 月份成立了Lyrebird 公司。 Lyrebird 是一種名為琴鳥的鳥類，這種鳥具有一種特殊的天賦，它不僅能模仿多種其他鳥類的聲音，它還能模仿幾乎一切它聽到的聲音。 在其網站DEMO 部分，你可以聽到了官方合成的、足以以假亂真的特朗普以及奧巴馬的聲音，而美國那邊也有記者用機器合成的句子跟家裡人打電話做實驗，他的母親完全分不清楚真假。 之所以能產生如此高還原度的合成聲音，背後的技術正是神經網絡（Neural Network）和機器學習（Machine Learning）。 神經網絡模擬電信號在人腦神經元之間的傳遞過程，對輸入數據進行處理。 它利用分層的神經元，從大量樣本數據中總結出共同特徵。 第一個用神經網絡來生成人類自然語音的，就是DeepMind 的WaveNet。沒錯，就是那個做AlphaGo 的公司。 具體的原理比較複雜，就不過多贅述了，總而言之WaveNet 可以把PS 痕跡明顯的機器語音，轉換成更加流暢自然的語音，與人類聲音之間的差異大幅降低，目前在鬼畜視頻界做的風生水起。 而Lyrebird 則更進一層，他可以基於音色、音調、音節、停頓等多種特徵，來定義某個人的聲音，然後生成更加擬真的聲音。 對於騙子來說，完全可以通過騷擾電話錄音來提取你的聲音，在Lyrebird 上進行生成，從而可以完成把我們上面說的打電話驗證真偽的這個過程給搞定。 聲音靠不住了，那就只能靠臉了。 在接到騙子的語言詐騙微信消息的時候，反手就是一記視頻通話，這樣應該騙子就慌了。 其實不止聲音可以偽造，現在連臉都可以通過AI 來進行偽造了。 比如前段時間在Reddit 上大火的明星換頭「成人短片」，一個網名為deepfakes 的程序員，他在業餘時間用家裡的電腦和開源的AI 工具fakeapp，通過機器學習算法成功移花接木，將神奇女俠女主角蓋爾·加朵的臉，移植到了一名成人女演員身上。 deepfakes 此舉一石激起千層浪，由於Fakeapp 使用門檻極低，無需安裝Python和Tensorflow 等編程語言和開源軟件庫就能運行，甚至連高性能顯卡都不用，完全可以租用谷歌的雲GPU 搞定。 一時間歐美各大女星的小電影充斥了整個社區，導致Reddit 做出了緊急封殺處理，一群老司機就此做鳥獸散。 而比成人片更可怕的還是製造假新聞，在2018年的4月份，就有人利用Fakeapp做出了一段假視頻，在視頻中美國前總統奧巴馬對著鏡頭說出了一句令人震驚的話：「川普總統完全就是個笨蛋。」 瞬間在美國造成了轟動的影響，大家在這場精心準備的玩笑中，發現了一個可怕的事實，那就是： 我們已經進入了這樣一個時代，我們的敵人可以做出看起來像任何人在任何時候說任何話的東西。 而Fakeapp 和Lyrebird 就是一套組合拳，可以圍繞臉和聲音兩個主要的辨識點去做出以假亂真的材料出來。 雖然目前這兩個技術還有著不少問題，但是我們看到在機器學習的加持下，它們正在變得越來越強大。 而這兩項技術創立的初衷，其實也並不是為了作惡。 Lyrebird 的創始人就表示，他們希望自己的這個技術能幫助那些發聲困難的人，通過官方API接口，為他們打造出自己克隆出的更真實聲音，而不再是過去那種機器發出的聲音。 而deepfakes 也表示「任何技術都可以被邪惡的動機利用，這種事情無法被禁止。我認為人人都可參與機器學習研究不是一件壞事。」 雖然這老哥車發起來是迅雷不及掩耳，但是看得出來，這更多也是一名程序員的炫技。 這個技術一旦用好了，對於影視行業後期來說，是一項重大福音，比如斯坦·李老爺子的客串彩蛋，也會一直進行下去。 deepfakes 的這番話，倒是讓人很容易想起當年快播創始人王欣在法庭上的那句「技術無罪」。 如今已經出獄的王欣，一頭扎進了區塊鏈裡面。 也許很多年以後，王欣也會想起在風聲已經變緊的情況下，他決定繼續做一個「有種」的男人的那個下午。 
|
