人工智能巨頭開始進(jìn)一步考量如何保證AI生成內(nèi)容的真實(shí)性。

當(dāng)?shù)貢r(shí)間5月7日，OpenAI發(fā)布一款圖像檢測分類器，能夠區(qū)分非人工智能生成的圖像和DALL-E 3生成的圖像，能正確識別約98%的DALL-E 3生成圖像。

OpenAI表示，該分類器還可以處理常見的修改，如壓縮、裁剪和飽和度變化。不過，其他修改則會降低分類器的性能。同時(shí)，分類器在區(qū)分文生圖大模型DALL-E 3與其他AI模型的生成內(nèi)容方面性能也較低，在內(nèi)部數(shù)據(jù)集上只標(biāo)記了約5%-10%由其他AI模型生成的圖像。

目前，該分類器僅向第一批測試者開放使用申請。

OpenAI的圖像檢測分類器界面

此外，OpenAI還提及了音頻水印技術(shù)，不過目前仍處于研發(fā)階段。OpenAI表示，增加防篡改水印，在音頻數(shù)字內(nèi)容上標(biāo)記難以去除的隱形信號，也將確保數(shù)字內(nèi)容的完整性。

OpenAI也強(qiáng)調(diào)，創(chuàng)建新技術(shù)目前是為了專門幫助識別由OpenAI自己的工具創(chuàng)建的內(nèi)容，此外還要與其他公司一起采用、開發(fā)和推廣一種開放標(biāo)準(zhǔn)，幫助人們驗(yàn)證用于創(chuàng)建或編輯多種數(shù)字內(nèi)容的工具。

為此，OpenAI宣布加入C2PA（內(nèi)容真實(shí)性聯(lián)盟）指導(dǎo)委員會。據(jù)介紹，C2PA是一個(gè)被廣泛采用的數(shù)字內(nèi)容認(rèn)證標(biāo)準(zhǔn)，由軟件公司、相機(jī)制造商和在線平臺等眾多參與者開發(fā)和使用，可用于證明內(nèi)容來自特定來源。微軟、Meta、谷歌等也是C2PA指導(dǎo)委員會的成員。

OpenAI表示，今年早些時(shí)候就已開始在ChatGPT和OpenAI API中為由DALL-E 3創(chuàng)建和編輯的所有圖片添加C2PA元數(shù)據(jù)。并且將會在Sora推出時(shí)，也為模型整合C2PA元數(shù)據(jù)。

據(jù)稱，這些信息無法被輕易偽造或篡改，隨著標(biāo)準(zhǔn)采用率的提高，可以覆蓋內(nèi)容的共享、修改和重新使用等環(huán)節(jié)。

近年來，隨著生成式人工智能快速發(fā)展，AI內(nèi)容愈發(fā)真實(shí)，AI換臉、AI變聲等新型詐騙也層出不窮，確保數(shù)據(jù)安全和內(nèi)容真實(shí)性也成為全球共識。中國相繼出臺《關(guān)于加強(qiáng)科技倫理治理的意見》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等多項(xiàng)法規(guī)和政策；4月23日，中央網(wǎng)信辦再次強(qiáng)調(diào)要加強(qiáng)信息來源標(biāo)注展示，使用AI等技術(shù)生成信息的，必須明確標(biāo)注系技術(shù)生成。