XM外匯官網(wǎng)APP獲悉，內容埃隆?馬斯克近日透露，監管舉措其人工智能公司xAI正在開(kāi)發(fā)的迎新聊天機器人Grok，將很快具備識別AI生成視頻和追蹤其網(wǎng)絡(luò )來(lái)源的克宣能力，以應對日益嚴重的布G并追深度偽造內容問(wèn)題。Grok即將推出的識別生成視頻新功能能夠直接分析視頻比特流中的人工智能特征，從而識別出在壓縮或生成過(guò)程中留下的蹤源微小痕跡，這些特征雖肉眼不可見(jiàn)，內容但卻能揭示內容的監管舉措真偽。

近幾個(gè)月，迎新隨著(zhù)OpenAI的克宣Sora App的崛起，AI視頻生成技術(shù)正在改變互聯(lián)網(wǎng)生態(tài)。布G并追Sora 2具備自然光影一致性、識別生成視頻音畫(huà)同步和多人物邏輯連貫性，蹤源使得AI合成視頻幾乎難以與真實(shí)視頻進(jìn)行區分。內容然而，這項技術(shù)的廣泛應用也引發(fā)了社會(huì )的不安：從名人形象被篡改到政治操控，AI偽造視頻的傳播速度已經(jīng)超過(guò)了事實(shí)核查的能力。批評者稱(chēng)這種泛濫的虛假內容為“AI殘渣”，即未經(jīng)驗證的大量AI生成影像充斥網(wǎng)絡(luò )。

一名X平臺用戶(hù)在帖子中表達了對此現象的擔憂(yōu)，指出“在未來(lái)一兩年內——甚至可能更早——任何討厭你的人都能夠生成你進(jìn)行惡劣言行的虛假視頻，而這些視頻與真實(shí)錄像幾乎無(wú)法區分，導致你很難證明其偽造性。目前尚未采取任何措施來(lái)防止這種情況?！睂Υ?，馬斯克回應稱(chēng)，Grok的新功能將能分析視頻比特流中的AI特征，并進(jìn)一步搜索互聯(lián)網(wǎng)以評估視頻的來(lái)源。