警惕“AI換聲”隱患　莫讓“耳聽為虛”成常態(tài)

趙鑫

社會

近日，多個中國明星開口“說”英語的視頻引發(fā)熱議。視頻中的人物中英文表達自然真實，音樂幾乎匹配本人，口型和字幕同步。

據(jù)悉，這些視頻出自AI人像視頻工具。該工具支持多種輸入語言和輸出語言，用戶只需上傳視頻，選擇語言，就能自動翻譯、生成和原嘴型、聲線都匹配的新視頻。對此，有網(wǎng)友表示，這種技術(shù)看起來很炫酷，應(yīng)用場景很廣泛，未來可能會越來越成熟。但也有網(wǎng)友表示擔(dān)憂，“這會不會被用來模仿聲音進行詐騙？”“再加上換臉，以后網(wǎng)上啥都不能信了?！薄耙院笠曨l造假會越來越容易?！边€有網(wǎng)友表示：“希望AI技術(shù)發(fā)展能被控制在正軌。”

（摘自網(wǎng)絡(luò)，2023年11月10日）

素材解讀

AI技術(shù)是把“雙刃劍”，以假亂真的聲音帶來的絕不僅僅是我們今天看到“明星說外語”時的“哈哈一笑”，更重要的是，“耳聽為虛”可能變成一種“常態(tài)”，給社會安全穩(wěn)定運行帶來潛在風(fēng)險。一方面，AI換臉及換聲技術(shù)對于工作效率的提高具有非常強的作用。另一方面，近年來，有不法分子為了牟利，利用AI技術(shù)進行詐騙。

科學(xué)技術(shù)是魔杖，它可以改變我們的生活，改變我們的世界。所以，有人說：“正因為科學(xué)技術(shù)的存在，才有了人類社會的向前發(fā)展?！笨茖W(xué)技術(shù)運用的好壞，完全取決于我們?nèi)祟愖约?。正所謂：科技興，人類興！科技運用好，人類社會發(fā)展盛！相反，如果把某種科學(xué)技術(shù)當(dāng)成奴役或者驅(qū)使人們的工具，其結(jié)果是可想而知的。

適用話題

科技發(fā)展、利與弊、約束、創(chuàng)新、守法……