【科技新聞】要發現 deepfake 視頻通話，請讓來電者側身

資料來源：我在外地工作。

這是當前的限制，也是數據+方法的產物，但不是應該依賴的東西。

如果我們做一些對手建模，我們可以找到兩種方法來解決這個問題：

1) 主動生成和搜索此類數據；對於小演員來說可能很昂貴，但裝備精良的惡意演員可能會很昂貴。

2）等待深度學習趕上來，例如通過將NERF（神經輻射場）擴展到面部；時間問題。

現在，如果您的公司/政府處於基於 ML 的欺騙的最前沿，他們可以製定此類政策，並且他們將在 12-18-24 個月（或在 (1) 或 (2) 實現時）對其進行更新。但是，我不知道有哪個組織沒有遵守一些過時的安全準則，例如舊式密碼規則和輪換。

5年後“側身發現deepfake”會是有效的測試嗎？ Prolly 不，所以不要以此為基礎。

稍微更健壯的方法…

要求呼叫者移出框架，然後再重新進入。

您會看到一個明顯的“步驟”，因為部分位於畫面中的人臉突然被檢測為人臉並應用了 deepfake。

解決這個問題的唯一方法是大量裁剪輸入視頻——至少裁剪一個人臉直徑，如果用戶靠近相機，這會很大。

這是一場持續不斷的貓捉老鼠遊戲。當我在這個領域工作時（2019-2021 年），對深度偽造的最佳防禦是查看“傀儡大師”的微面部行為/運動學，並與深度偽造主題的已知標准進行比較。即使假貨是像素完美的也可以工作（因為它看的是面部“線框”而不是圖像本身）。明顯的缺點是您需要主題的樣本數據（通常是大量數據）。我想知道這種通用方法是否可以優化。例如，深度贗品往往難以處理某些精細的運動/細節，如果你有主體的反射，算法不僅要復制主臉和鏡子，還要在光學上完全一致。

是一個有趣的項目，但貓捉老鼠的感覺是不可避免的。對於那些好奇的人，請查看 DARPA MediFor 項目。 Siwei Lyu（在文章中）在這個領域做了很多工作。另見 Hany Farid 和 Shruti Agarwal。他們專門從事深度偽造檢測。

https://arxiv.org/abs/2004.14491

>“雖然藝術家的角色不會很快消失，但圖片網站的角色可能會消失。”

還沒有。雖然相對於庫存圖片來說它很便宜，但要準確地生成你想要的東西是很耗時的。對於常見的快速使用圖像，庫存圖像的價格將崩潰，但專業高端圖像的價格將保持其價值甚至增加價值。那些歷史和類似的圖像將繼續具有價值。

看看專業工作是否會興起，人們將獲得報酬以產生恰到好處的形象，這將是一件有趣的事情。它可能被稱為“AI圖像藝術家”這個人將使用AI生成圖像，但使用圖形工具將其最終確定以供使用。

老實說，這是對 DALL-E 的一次很棒的使用，我可能會開始為我的博客做同樣的事情

這是完美的，因為：

– 圖像只需要傳達一種氛圍，它們不需要完美

– 這是對圖像的低價值使用，你可能永遠不會委託人類藝術家來做它們；相反，您要么使用庫存照片，要么完全跳過圖像

– 科技博客的標題圖片的性質傾向於抽象/超現實，這意味著要么很難找到合適的庫存圖片，要么你找到的圖片會超級抽像到無聊的地步

所有這些都使其充分利用了該技術

我是少數發現這些生成的圖片真的很糟糕的人之一嗎？當您仔細觀察時，它們通常具有奇怪和令人不安的細節。

我的意思是，我們可以在這個級別生成圖像，這是 AI 的一項令人難以置信的成就，但我不希望在我閱讀博客時每天都向我展示它們。

> 當我們得知這件事後，我們立即進行了調查並修復了它。當時，我們沒有證據表明有人利用了這個漏洞。

> 2022 年 7 月，我們通過新聞報導獲悉，有人可能利用了這一點，並提出出售他們收集的信息。在審查了可供出售的可用數據樣本後，我們確認有不良行為者在問題得到解決之前利用了該問題。

哎呀。聽起來他們要么沒有深入挖掘以查看它是否被利用，要么他們沒有保存足夠長的記錄來確定。

>為盡可能隱藏您的身份，我們建議您不要在您的 Twitter 帳戶中添加公開的電話號碼或電子郵件地址。

然而他們實際上要求我給他們我的，並且最近多次要求確認。

電話號碼是最糟糕的 2fas 之一。

請記住，電話號碼只有 10 位數長，因此暴力破解所有電話號碼是完全可行的。

考慮到這一點，如果您實施任何涉及檢查電話號碼是否已被使用的流程，那麼您實際上是在向攻擊者洩露使用您產品的每個電話號碼的列表。