TMT观察网_独特视角观察TMT行业

快科技1月10日消息，西藏日喀則市定日縣發生地震后，災情牽動著全國人民的心，然而，在這令人揪心的特殊時刻，少數別有用心之人卻妄圖利用AI技術制造謠言，博取關注。

今日，抖音安全中心發布于治理“災害期間不當使用AI生成內容”的公告。

公告稱，近期西藏自治區發生地震災害，全網出現多起不當利用AI技術生成災害場景的情況，給救災工作帶來了干擾，平臺已嚴肅處置23652條涉地震不實信息并配發了辟謠內容。

抖音發現，有部分用戶發布AI生成的災難圖片時，自認為這是“藝術創作”，目的是“祈福”，主觀上并非要“造謠”。

在此，抖音重申，AI創作易讓人混淆虛假與現實，創作者、主播、用戶、商家、廣告主等平臺生態參與者，在抖音應用生成式人工智能技術時，須遵循以下規范：

1、發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景。

2、發布者需對人工智能生成內容產生的相應后果負責，無論內容是如何生成的。

3、虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證。

4、禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限于侵犯肖像權、知識產權等。 一經發現，平臺將嚴格處罰。

5、禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容。 一經發現，平臺將嚴格處罰。

2023年和2024年，抖音先后發布《關于人工智能生成內容的平臺規范暨行業倡議》，《關于不當利用AI生成虛擬人物的治理公告》，明確平臺不鼓勵利用AI生成虛擬人物進行低質創作，將嚴格處罰違規使用AI生成虛擬人物發布違背科學常識、弄虛作假、造謠傳謠的內容。

據了解，最近，一系列“小男孩被埋圖”在網上廣泛傳播，并配文日喀則地震等關鍵詞，其中，一張“戴著帽子的小男孩被壓在廢墟下”的圖片在多個賬號發布，獲得大量轉評贊。

但事實上，這張圖片并非真實的地震現場畫面，而是通過AI生成的圖片，且這張圖片于2024年11月18日首發，作者在發布時并未關聯地震且聲明是AI生成。

據媒體報道，經查，青海某網民為博取眼球，將“小男孩被埋圖”與日喀則地震相關的信息進行關聯拼湊、移花接木，混淆視聽、誤導群眾，致使謠言信息傳播擴散。

目前，涉案人員已被屬地公安機關依法行政拘留。