魔法打敗魔法：社交平臺的關鍵角色
編者按：本文來自微信公眾號 師天浩觀察（ID：shitianhao01），作者：師天浩，創業邦經授權發布。
【資料圖】
隨著生成式AI技術，如GPT-4等強大的語言模型的廣泛普及，人們對于AI在各個領域，如文本創作、藝術繪畫、翻譯，以及替代傳統的人工客服等方面的潛力滿懷期待。
然而，這種對未來技術的期待之余，我們也不得不面對AI技術可能被濫用的風險。讓我們關注的是，一些犯罪分子已開始巧妙地利用AI技術進行電信詐騙，這無疑給我們的防范帶來了新的挑戰。
2019年，全球首例AI詐騙案發生在英國，一名詐騙者利用先進的AI語音模仿軟件，假扮公司高層，成功騙取一家英國能源公司總經理的22萬歐元。近期在國內，一例更令人震驚的案件中，某公司法人在使用微信與好友視頻聊天的短短10分鐘內被騙取了高達430萬元。
這些駭人聽聞的案例揭示了AI生成虛假信息所潛在的巨大社會風險，同時也讓我們對人工智能軟件被用于各類犯罪活動的可能性深感憂慮。
在人工智能技術的興起之時，我們正處于尋找最佳應用場景與商業落地的關鍵期。雖然這類個別的詐騙案例不會直接扼殺AI的發展，但如果不能妥善解決相關的安全和隱私問題，也許會對人工智能的前景產生負面影響，形成對AI發展的壓力。
AI詐騙：為何成功率極高？AI詐騙的出現在很大程度上得益于人工智能技術，尤其是深度學習和機器學習的快速發展。通過這些先進的技術，詐騙者能夠逐步訓練出能夠模擬人類行為和語言的AI，甚至能制作出極為逼真的虛假視頻或音頻（例如：人工智能的深度換臉技術Deepfakes）。
這些偽造的內容極度真實，讓識別真假變得異常困難，從而大大提高了詐騙者的欺騙效果。
在這個日益數字化的社會，人們在網絡和社交媒體上的活動越來越頻繁，每個人都在生成大量的數字化信息。這為詐騙者提供了廣闊的操作空間，他們可以利用這些平臺，配合AI技術，進行大規模、精準的詐騙行為。
無論是通過大數據分析來獲取被詐騙對象的行為習慣，更精確地定位其所處的社會層級和經濟實力，還是通過熟悉的偏好接近對象，獲得其信任，最終達到詐騙目標，都顯示了AI詐騙的高效性和隱蔽性。
詐騙者往往擁有比受害者更多的信息和技術資源，這使得受害者在面對這種高科技詐騙時，難以察覺和防御。因此，信息和技術的不對稱性，無疑成為了AI詐騙的一大優勢。
然而，盡管一些地方已經開始制定針對AI詐騙的法規，但法律和監管的滯后也是一個不容忽視的問題。現有的法律和規定往往無法跟上技術的快速發展，導致AI詐騙在法律漏洞中找到足夠的操作空間。
最后不可忽視的是，經濟激勵是推動詐騙者行動的主要因素。由于AI詐騙往往難以被察覺，詐騙者可以獲得更高的經濟收益。這種巨大的利益誘惑，也使他們愈加積極地進行這種活動。
綜上，可以看出，AI詐騙的成功率之高，主要源于其技術優勢、社會數字化、信息不對稱、法規滯后以及經濟激勵等因素。
AI詐騙與傳統詐騙相比，成本更低隨著AI技術的發展，它不僅改變了許多領域的工作方式，還深刻地改變了詐騙的形態，使得電信詐騙更加難以防范。
舉個例子，AI換臉技術已經相對成熟，可以以較低的成本合成出極其真實的動態視頻。最近的一個案例中，一名女子被一段偽造的自己的視頻所詐騙，讓她相信自己無意間涉及了一場犯罪，最終被騙走了大量財物。
AI詐騙具有高度自動化的特點。經過適當訓練的AI模型能夠在無人工干預的情況下自動運行。這意味著一旦AI詐騙工具被創建并部署，它就可以全天候、24小時進行欺詐行為，無需人工參與，從而降低了詐騙的人力成本。
首先技術從哪來？在GitHub等開源社區上，就有開源使用的AI換臉軟件。其中最知名的是Deepfacelive、Deepfacelab兩種著名開源換臉模型。很多相關的技術社區、論壇、貼吧，有大量小白入門系列教程，甚至還有中文版AI現成模型下載，一些交易平臺上也有大量教程與教學包售賣，價格數元起。
此外，AI詐騙具有很強的可擴展性。與需要人工參與的傳統詐騙方式不同，AI詐騙可以在短時間內輕易擴展到大規模。
舉例來說，某詐騙集團完全可以利用自動撥打系統、AI語音識別和自然語言處理技術，日均撥打幾十萬甚至上百萬次電話（類似海外ip呼出），范圍覆蓋全國多個城市。這種規模的擴張僅需增加一些計算資源，就能讓AI詐騙影響到更多的人。
AI詐騙利用深度偽造和自然語言處理等技術制造出相當逼真的假象，使得詐騙行為更難以被察覺。例如，某歐洲能源公司因為一通偽造的CEO電話而被詐騙了約22萬歐元。因為它們可以在不被察覺的情況下模擬人類的行為，這降低了詐騙行為被發現和制止的可能性，進一步降低了詐騙的風險成本。
然而，我們需要意識到，開發和訓練一個有效的AI模型并不容易，這需要大量的數據、專門的技術知識和計算資源，都需要投入一定的成本。
隨著法律監管力度的加大和識騙技術的發展，AI詐騙的風險和成本也可能會增加。一些國家已經開始建立相關法律，對使用AI進行詐騙的行為給予嚴厲懲罰。因此，盡管AI詐騙在某些方面具有成本優勢，但實施AI詐騙仍然需要考慮多方面的風險和代價。
魔法打敗魔法：社交平臺的關鍵角色在這個數字化的時代，社交平臺顯然已成為AI詐騙的主要戰場。人們在社交平臺上進行大量的在線活動和社交互動，為詐騙者提供了豐富的目標選擇和信息來源，使得AI詐騙在社交平臺上層出不窮。
舉例來說，在一次針對社交媒體用戶的詐騙中，詐騙者利用AI技術模仿了受害者朋友的語音，發起了一次虛假的緊急求助。受害者在無法分辨語音真假的情況下，被騙取了大量資金。
另外，一些詐騙者使用深度學習技術制作了假冒名人的虛假視頻，聲稱這些名人在推薦某種投資機會，從而騙取了無數人的財產。
社交平臺的多元性和開放性使得監管和防范變得困難。用戶眾多且行為各異，詐騙者往往能夠混入其中進行犯罪行為。一旦被識別出來，他們往往已經騙取了大量財富，并逃之夭夭。
因此，社交平臺在防止AI詐騙中扮演著至關重要的角色。它們需要利用先進的技術手段進行預防，制定并執行明確的用戶政策，加強對用戶的教育和引導，以便盡可能地減少AI詐騙的發生。
升級技術魔法打敗：首先，社交平臺需要強化技術防護。借助機器學習等先進技術，平臺可以檢測并標記出異常行為或可疑賬戶。例如，通過分析用戶的行為模式，機器學習算法可以尋找并識別出與正常行為模式不符的行為，這類行為往往暗示可能存在詐騙行為。
建立規則魔法打敗：其次，社交平臺應制定并執行明確的用戶政策。5月9日，抖音平臺發布了“關于人工智能生成內容的平臺規范暨行業倡議”，明確禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限于肖像權、知識產權等。一旦發現違規行為，平臺將嚴格處罰。
其他平臺也需要明確說明哪些行為是被禁止的，以及違反規定將面臨的后果。對于違規用戶，社交平臺需要設立一個公正而快速的處理機制，以確保公平對待每一位用戶。
培養意識魔法打敗：再者，社交平臺可以通過提升用戶的網絡安全意識來防止AI詐騙。通過發布有關如何安全使用社交平臺的教育內容，教導用戶如何識別和防范AI詐騙，用戶們就可以有效地降低自身成為詐騙受害者的風險。
同時，提醒用戶不輕易信任陌生人，以及警告用戶注意保護個人信息也是重要的措施。
總的來說，社交平臺在防止AI詐騙中扮演著至關重要的角色。
正如同一把錘子可以用來建房子也可以用來破壞房子，AI技術為社交平臺帶來更好的用戶體驗，本身是一件好事，關鍵在于如何使用。平臺需要在多個方面采取積極行動，以確保用戶的網絡安全，利用自身的技術能力來削弱AI詐騙產生的弊端。
結言AI詐騙無疑是當前AI發展面臨的重大挑戰之一，其影響不容忽視。然而，相信有讀者會認為將其視為壓倒AI發展的“最后一根稻草”或許過于悲觀。事實上，技術發展總會伴隨無限可能的延展，也并非危言聳聽。
我們需要認識到這一問題，并通過多角度的努力，包括社交平臺的技術防護、用戶教育、法律監管等途徑，共同應對并降低其對社會的潛在風險。
AI詐騙的出現確實揭示了AI技術的一面隱患，但同樣的，我們也可以看到，眾多企業、研究機構以及監管者正努力在探索解決方案，以確保AI技術的健康發展和應用。
未來，我們將會看到更多的科技創新幫助我們識別和防范AI詐騙，法律監管體系將更加完善，社交平臺將提供更好的用戶安全保障。
AI詐騙并不會成為阻礙我們前進的“最后一根稻草”，相反，它將成為推動我們繼續前進、發展更安全、更負責任的AI技術的重要驅動力。我們要保持樂觀，積極應對挑戰，并共同努力創造一個更加安全、可信賴的數字化社會。