因錯(cuò)誤率較?OpenAI被迫叫停AI內(nèi)容識(shí)別軟件

美國(guó)政府希望大型人工智能公司能夠披露那些使用人工智能創(chuàng)建的內(nèi)容。另一邊，歐盟即將要求一些科技平臺(tái)在其人工智能生成的圖像、音頻和視頻上打上“顯著標(biāo)記”，以便告知大眾這些東西是合成而來(lái)的。

然而，這里有一個(gè)大問(wèn)題：識(shí)別人工智能創(chuàng)造的內(nèi)容是一個(gè)巨大的技術(shù)挑戰(zhàn)。目前可用的最佳選擇是采取同樣由人工智能驅(qū)動(dòng)的檢測(cè)工具和水印，但是它是檢測(cè)結(jié)果不一致、不準(zhǔn)確等缺點(diǎn)。

事實(shí)上，就在本周由于錯(cuò)誤率過(guò)高，OpenAI關(guān)閉了自己的人工智能檢測(cè)工具。

但另一種方法最近引起了人們的注意：C2PA。它于兩年前推出，是一種開(kāi)源的互聯(lián)網(wǎng)協(xié)議，依靠密碼學(xué)來(lái)對(duì)內(nèi)容出處的細(xì)節(jié)進(jìn)行編碼。

C2PA的開(kāi)發(fā)人員經(jīng)常將該協(xié)議比作“營(yíng)養(yǎng)成分標(biāo)簽”，它標(biāo)明了內(nèi)容來(lái)自哪里，以及是誰(shuí)或什么創(chuàng)造了它。

該項(xiàng)目是非營(yíng)利組織聯(lián)合開(kāi)發(fā)基金會(huì)的一部分，由Adobe、Arm、英特爾、微軟和Truepic發(fā)起，它們成立了內(nèi)容來(lái)源和真實(shí)性聯(lián)盟，英文全稱為CoalitionforContentProvenanceandAuthenticity，C2PA也由此得名。

目前，有1500多家公司通過(guò)開(kāi)源社區(qū)“內(nèi)容真實(shí)性倡議”參與了該項(xiàng)目，其中包括尼康、英國(guó)廣播公司（BBC）和索尼等多家知名機(jī)構(gòu)。

近來(lái)，隨著人們對(duì)人工智能檢測(cè)和監(jiān)管的興趣增強(qiáng)，上述項(xiàng)目的勢(shì)頭越來(lái)越大。C2PA主席安德魯·金克斯表示，在過(guò)去六個(gè)月里會(huì)員數(shù)量增加了56%。

知名媒體平臺(tái)Shutterstock已經(jīng)作為成員加入，并宣布打算使用這一協(xié)議來(lái)標(biāo)記其平臺(tái)上所有由人工智能生成的內(nèi)容，包括其由DALL-E驅(qū)動(dòng)的人工智能圖像生成器。該平臺(tái)的首席執(zhí)行官薩耶·阿敏在一封電子郵件中告訴《麻省理工科技評(píng)論》，該公司正在通過(guò)“支持系統(tǒng)和基礎(chǔ)設(shè)施的開(kāi)發(fā)來(lái)保護(hù)藝術(shù)家和用戶，這些系統(tǒng)和基礎(chǔ)架構(gòu)可以創(chuàng)造更大的透明度，從而輕松識(shí)別藝術(shù)家的創(chuàng)作與人工智能生成或修改的藝術(shù)之間的區(qū)別?！?/p>

什么是C2PA，如何使?它？

微軟、英特爾、Adobe和其他主要科技公司于2021年2月開(kāi)始研究C2PA，它們希望創(chuàng)建一個(gè)通用的互聯(lián)網(wǎng)協(xié)議，允許內(nèi)容創(chuàng)作者選擇在其視覺(jué)和音頻內(nèi)容上標(biāo)注其來(lái)源信息。但就目前而言，該協(xié)議還不適用于基于文本的內(nèi)容。

最重要的是，該項(xiàng)目具有跨互聯(lián)網(wǎng)的適應(yīng)性和功能性，并且任何人都可以免費(fèi)訪問(wèn)其底層計(jì)算機(jī)代碼。

銷售內(nèi)容驗(yàn)證產(chǎn)品的Truepic公司已經(jīng)使用Revel.ai演示了該協(xié)議到底該如何與深度偽造視頻搭配使用。當(dāng)觀眾的光標(biāo)懸停在屏幕右上角的一個(gè)小圖標(biāo)上時(shí)，會(huì)出現(xiàn)一個(gè)關(guān)于視頻的信息框，其中包括“包含人工智能生成的內(nèi)容”的信息披露。

Adobe還將C2PA（又被稱為內(nèi)容憑證）集成到了包括Photoshop和AdobeFirefly在內(nèi)的幾款產(chǎn)品中。該公司的內(nèi)容真實(shí)性倡議高級(jí)總監(jiān)、C2PA項(xiàng)目負(fù)責(zé)人安迪·帕森表示：“我們認(rèn)為這是一種增值，可能會(huì)吸引更多客戶使用Adobe工具。”

C2PA是通過(guò)密碼學(xué)來(lái)保護(hù)內(nèi)容的，密碼學(xué)依賴于一系列代碼和密鑰來(lái)保護(hù)信息不被篡改，并記錄信息的來(lái)源。更具體地說(shuō)，它的工作原理是通過(guò)一組加密綁定到每個(gè)像素的哈希值，來(lái)對(duì)出處信息進(jìn)行編碼。

與人工智能檢測(cè)系統(tǒng)相比，C2PA提供了一些重要的優(yōu)勢(shì)，后者能夠更好地逃避檢測(cè)。

水印，是另一種用于識(shí)別人工智能生成內(nèi)容的典型技術(shù)。但是，C2PA是一個(gè)比水印更加標(biāo)準(zhǔn)化的系統(tǒng)，在某些情況下比水印更容易查看。同時(shí)，該協(xié)議還可以與水印以及其他人工智能檢測(cè)工具一起使用。

信息來(lái)源的價(jià)值

在媒體中添加來(lái)源信息以打擊虛假信息，并不是一個(gè)新想法。早期研究似乎表明這是有希望的：例如，此前牛津大學(xué)團(tuán)隊(duì)在研究中發(fā)現(xiàn)，有證據(jù)表明用戶在獲得有關(guān)內(nèi)容的出處信息之后，往往不太容易受到錯(cuò)誤信息的影響。

事實(shí)上，在OpenAI關(guān)于其人工智能檢測(cè)工具的迭代上，該公司表示它正在專注于其他“來(lái)源（披露）技術(shù)”，以滿足相關(guān)方面的披露要求。

也就是說(shuō)，來(lái)源信息遠(yuǎn)不是一個(gè)萬(wàn)無(wú)一失的解決方案。美國(guó)信息完整性中心主任、紐約布法羅大學(xué)教授呂思偉表示，C2PA不具有法律約束力，如果不要求在互聯(lián)網(wǎng)范圍內(nèi)采用該標(biāo)準(zhǔn)，那么未標(biāo)記的人工智能生成內(nèi)容就會(huì)始終存在。

盡管他強(qiáng)調(diào)該項(xiàng)目仍然非常重要，但是他也表示：“缺乏全面的約束力使得這項(xiàng)工作存在內(nèi)在漏洞?！?/p>

此外，由于C2PA依賴創(chuàng)作者選擇加入，該協(xié)議并未真正解決不良行為者使用人工智能生成內(nèi)容的問(wèn)題。目前，還不清楚元數(shù)據(jù)的提供到底能給公眾媒體流暢性帶來(lái)多大幫助。

因此，該聯(lián)盟最重大的挑戰(zhàn)可能是鼓勵(lì)整個(gè)互聯(lián)網(wǎng)生態(tài)系統(tǒng)廣泛地采用它的技術(shù)，尤其是鼓勵(lì)社交媒體平臺(tái)積極使用。

在C2PA協(xié)議的設(shè)計(jì)中，它會(huì)全方位地追溯出處信息。比如，一張照片的出處信息從相機(jī)拍攝、到它進(jìn)入社交媒體時(shí)都會(huì)被編碼。但是，如果社交媒體平臺(tái)不使用該協(xié)議，它就不會(huì)顯示照片的出處數(shù)據(jù)。

目前，尚無(wú)主流社交媒體平臺(tái)采用C2PA。推特原本已經(jīng)簽署了該項(xiàng)目，但在埃隆·馬斯克接手后退出了。該公司也暫停了參與其他以自愿參與為基礎(chǔ)的項(xiàng)目，而這些項(xiàng)目的重點(diǎn)多數(shù)是為了遏制錯(cuò)誤信息。

不過(guò)，C2PA并不是“萬(wàn)能藥”，它不能解決所有的錯(cuò)誤信息問(wèn)題，但它確實(shí)為共有的客觀現(xiàn)實(shí)奠定了基礎(chǔ)。

“（因此）在Meta上分享內(nèi)容之前，你不必知道它是從哪里來(lái)的，但如果你想的話你可以選擇這樣做。鑒于生成媒體的驚人能力，我們認(rèn)為這樣做的能力至關(guān)重要?！卑驳稀づ辽硎尽?/p>