實名帳號也會被假照片所騙
本週一(5/22)，一張 AI 繪成的假照片，描述在美國五角大廈附近發生了爆炸，被幾個 Twitter 實名帳號分享。這張明顯經由 AI 匯出的圖片被用來散播假消息，導致美國股市短暫下跌和大眾訊息的混亂。值得注意的是，被誤導的帳號中，有一個聲稱與彭博新聞有關(很明顯也是錯誤的訊息)。
Twitter 的驗證政策問題
Twitter 已經停止了最初散播這張圖片的帳號。但是該帳號擁有者的身份仍然未知，而 AI 圖片的來源也仍不清楚。這次事件讓大眾注意到了， Twitter 現行驗證政策的問題。在 Elon Musk 的領導下，Twitter 只要上繳月費，就可以得到藍勾勾認證。這稀釋了 Twitter 驗證系統的價值，因為它不再只代表真正的”人”或是可信度，一些課金藍勾勾可能一開始打算來散布不實訊息。
假消息觸及全球觀眾
這次的誤導訊息不只局限於使用 Twitter 的用戶。這次的 AI 假爆炸圖片還被主流的印度電視網，共和國電視，以及俄羅斯新聞網 RT 報導。導致 AI 假圖片經由它們的媒體網路散佈給了大量的觀眾。直到後來，這些新聞網才發現這是個虛假的消息，並撤下了新聞。
中招新聞機構的回應
在事件發生後，RT 表示，他們為了讓人們知道這個事件而快速的報導，但在確定圖片是 AI 生成後，已經採取適當措施修正他們的報導。話雖如此，他們在俄羅斯社交媒體平台 VKontakte 上似乎淡化了他們的錯誤的嚴重性，突顯了我們現代快節奏新聞周期的潛在問題。
對股市的影響
假造的圖片威力直接反映到了美國股市上。在短短四分鐘內，道瓊斯工業平均指數下跌約 80 點，但隨後不久便全面恢復。S&P 500 也經歷了類似的快速下跌和恢復模式。這快速的波動顯示了社交媒體，以及假消息對經濟影響。
專家對 AI 假圖片分析
爆炸圖片的可信度很快就被專家所擊破。在仔細檢查之後，圖片中的建築與五角大廈的相似性很小，幾個不一致性顯示了是 AI 合成的。加州大學伯克利分校的教授，也是數位取證專家的 Hany Farid，強調了圖片中存在的結構異常，進一步強化了 AI 繪圖假照片的論點。
寫在後面
儘管事件最終被平息，這次的問題其實大大的凸顯的 AI 照片的以假亂真。加上 Twitter 藍勾勾的推波助瀾，造成假訊息越滾越大。以現在這個態式，小編認為在不久的將來鐵定會有 AI 管理法了...
留言
張貼留言