語音克隆聽起來像科幻小說，但它已經(jīng)在發(fā)生

快速發(fā)展人工智能 （AI）既帶來了好處，也帶來了風(fēng)險(xiǎn)。

一個(gè)令人擔(dān)憂的趨勢是濫用語音克隆。在幾秒鐘內(nèi)，詐騙者可以克隆一個(gè)聲音并誘騙人們認(rèn)為朋友或家人急需錢。

新聞媒體，包括美國有線電視新聞網(wǎng) （CNN，警告這些類型的騙局有可能影響數(shù)百萬人。

隨著技術(shù)使犯罪分子更容易侵入我們的個(gè)人空間，因此對其使用保持謹(jǐn)慎比以往任何時(shí)候都更加重要。

什么是語音克隆？

AI 的興起為圖像、文本、語音生成和機(jī)器學(xué)習(xí).

雖然 AI 提供了許多好處，但它也為欺詐者提供了利用個(gè)人賺錢的新方法。

你可能聽說過”深度偽造“，其中 AI 用于創(chuàng)建虛假圖像、視頻甚至音頻，通常涉及脫口秀或政客。

語音克隆是一種深度偽造技術(shù)，它通過從簡短的音頻樣本中捕獲一個(gè)人的語音模式、口音和呼吸來創(chuàng)建一個(gè)人聲音的數(shù)字副本。

捕獲語音模式后，AI 語音生成器可以將文本輸入轉(zhuǎn)換為類似于目標(biāo)人員聲音的高度逼真的語音。

借助先進(jìn)的技術(shù)，只需一個(gè) 3 秒的音頻樣本.

雖然像“你好，有人在嗎？”這樣的簡單短語可能會導(dǎo)致語音克隆騙局，但更長的對話有助于騙子捕獲更多語音細(xì)節(jié)。因此，最好保持通話簡短，直到您確定來電者的身份。

語音克隆在娛樂和醫(yī)療保健領(lǐng)域具有有價(jià)值的應(yīng)用——使藝術(shù)家能夠遠(yuǎn)程進(jìn)行語音工作（甚至死后）和幫助語言障礙者。

然而，它引發(fā)了嚴(yán)重的隱私和安全問題，凸顯了保護(hù)措施的必要性。

犯罪分子如何利用它

網(wǎng)絡(luò)犯罪分子利用語音克隆技術(shù)冒充名人、權(quán)威人士或普通人進(jìn)行欺詐。

他們制造緊迫感，獲得受害者的信任，并通過禮品卡、電匯或加密貨幣索要錢財(cái)。

過程開始通過從 YouTube 和 TikTok 等來源收集音頻樣本。

接下來，該技術(shù)分析音頻以生成新的錄音。

一旦語音被克隆，它就可以用于欺騙性通信，通常伴隨著欺騙性的來電顯示，以顯得值得信賴。

許多語音克隆詐騙案件成為頭條新聞。

例如，犯罪分子克隆了公司董事在阿拉伯聯(lián)合酋長國策劃了一起價(jià)值 5100 萬$A的搶劫案。

一個(gè)孟買的商人成為語音克隆騙局的受害者，該騙局涉及印度駐迪拜大使館的虛假電話。

最近在澳大利亞，詐騙者使用了昆士蘭州州長史蒂文·邁爾斯試圖誘騙人們投資比特幣。

青少年和兒童也成為目標(biāo)。在綁架騙局在美國，一個(gè)青少年的聲音被克隆出來，她的父母縱服從要求。

它有多廣泛？

最近研究顯示去年英國 28% 的成年人面臨語音克隆騙局，其中 46% 的人不知道此類騙局的存在。

它凸顯了巨大的知識差距，使數(shù)百萬人面臨欺詐風(fēng)險(xiǎn)。

2022 年，近 240,000 名澳大利亞人報(bào)告成為語音克隆騙局的受害者，導(dǎo)致$A 5.68 億.

個(gè)人和組織如何防范

語音克隆帶來的風(fēng)險(xiǎn)需要多學(xué)科應(yīng)對.

個(gè)人和組織可以實(shí)施多種措施來防止濫用語音克隆技術(shù)。

第一公眾意識運(yùn)動和教育可以幫助保護(hù)人員和組織并減少此類欺詐。

公私協(xié)作可以為語音克隆提供明確的信息和同意選項(xiàng)。

其次，個(gè)人和組織應(yīng)該著眼于使用具有活體檢測功能的生物識別安全性，這是一種新技術(shù)，可以識別和驗(yàn)證實(shí)時(shí)語音，而不是假語音。使用語音識別的組織應(yīng)考慮采用多因素身份驗(yàn)證。

第三，加強(qiáng)針對語音克隆的調(diào)查能力是執(zhí)法的另一項(xiàng)重要措施。

最后準(zhǔn)確和最新的法規(guī)因?yàn)樾枰獓襾砉芾硐嚓P(guān)風(fēng)險(xiǎn)。

澳大利亞執(zhí)法部門認(rèn)識到 AI 的潛在優(yōu)勢。

然而，對這項(xiàng)技術(shù)的“陰暗面”的擔(dān)憂促使人們呼吁對”用于受害者目標(biāo)定位的人工智能."

還有人呼吁執(zhí)法部門可以采用可能的干預(yù)策略來解決這個(gè)問題。

這些努力應(yīng)該與整體打擊網(wǎng)絡(luò)犯罪的國家計(jì)劃，該策略側(cè)重于主動、被動和恢復(fù)性策略。

該國家計(jì)劃規(guī)定了服務(wù)提供商的注意義務(wù)，這反映在澳大利亞政府的新立法保護(hù)公眾和小企業(yè)。

該立法旨在規(guī)定預(yù)防、檢測、報(bào)告和打擊詐騙的新義務(wù)。

這將適用于受監(jiān)管的組織，例如電信公司、銀行和數(shù)字平臺提供商。目標(biāo)是通過預(yù)防、檢測、報(bào)告和中斷來保護(hù)客戶涉及欺騙的網(wǎng)絡(luò)詐騙.

降低風(fēng)險(xiǎn)

由于網(wǎng)絡(luò)犯罪給澳大利亞經(jīng)濟(jì)造成的損失估計(jì)為420 億澳元、公眾意識和強(qiáng)有力的保障措施是必不可少的。

澳大利亞等國家正在認(rèn)識到日益增長的風(fēng)險(xiǎn)。針對語音克隆和其他欺詐的措施的有效性取決于其適應(yīng)性、成本、可行性和合規(guī)性。

所有利益相關(guān)者——政府、公民和執(zhí)法部門——都必須保持警惕并提高公眾意識，以減少受害的風(fēng)險(xiǎn)。

林淑芬，警務(wù)研究高級講師，查爾斯特大學(xué);杜安·阿斯萊特，警務(wù)研究高級講師，查爾斯特大學(xué);Geberew Tulu Mekonnen， 警務(wù)學(xué)院講師，查爾斯特大學(xué)和姆拉登·澤切維奇， 警務(wù)研究學(xué)院講師，查爾斯特大學(xué)

本文轉(zhuǎn)載自對話根據(jù) Creative Commons 許可。閱讀原創(chuàng)文章.

寶寶起名