21世紀經濟報道記者 邊萬莉 北京報道  ChatGPT帶火了一系列GPT產品，AIGC（AI generated content，生成式AI）技術逐步走向實用。根據奇富科技對104家中小機構的訪談，64%的受訪金融機構認為，GPT產品的能力將有助于提煉信息、整合材料、生成報告，減輕金融機構內部繁重的案頭工作。

ChatGPT的面世推動人工智能發展史走到了奇點，但不得不承認的是，同時也帶來了風險和挑戰。近期包頭警方公布的一則詐騙案例，正是利用“AI換臉”實施的詐騙，為各行各業都敲響了安全警鐘。

“我們迫切需要重構人工智能信任，在技術上、制度上有效對抗AI虛假，建立防范AI操縱的防火墻，維護數字經濟時代的國家安全與金融業安全?！敝袊y行原行長李禮輝在近日“第八屆融城杯金融科技創新案例評選”啟動儀式上發言時如是說。

實際上，應對人工智能技術帶來的威脅，不僅僅是要依靠制度，更是需要技術公司、監管部門的共同努力。此外，個人也應當樹立信息安全意識，謹防上當受騙。

金融機構對GPT產品的需求方向

ChatGPT熱度稍減，但關注度從未消失。如果將ChatGPT應用金融行業，會有哪些可能性呢？此前，21世紀經濟報道記者向金融從業人員發起采訪后發現，答案主要集中在以下幾個方面：寫企業宣傳稿、寫研報、做客服、做催收、營銷、專業分析等。

前不久，奇富科技就金融機構對于GPT產品的需求，對104家中小金融機構進行訪談。92%的金融機構一致認為，標準化程度越高，AI可替代性就越強。與其坐等被替代，不如尋求主動出擊。從調研結果看，金融機構對GPT產品的需求主要集中在三個方面，即改善用戶體驗、輔助風控決策、資料查詢與信息提煉。

數據顯示，72%的受訪金融機構相信，通過使用自然、流暢、個性化語言的GPT產品，可以有效緩解客戶情緒，降低客戶投訴率。67%的受訪金融機構表示，他們需要一款能夠全面、準確地解讀征信報告的GPT產品，以提高信貸人員的工作效率和精準度。64%的受訪金融機構認為，GPT產品的能力將有助于提煉信息、整合材料、生成報告，減輕金融機構內部繁重的案頭工作。

某南方農村信用社聯合社科技負責人表示：“我們認為客戶對話是非常重要的一環，特別希望有一款能夠生成自然、流暢、個性化語言的GPT產品，能滿足客戶問題解答及處理，同時又能紓解客戶情緒，提升客戶體驗和滿意度，減少客戶投訴率?！蓖瑫r，他也指出，機構也會相當重視對話內容的合規性、安全性、可信度和邏輯性，“如果GPT無法解決問題處理操作的準確性，我們將會選擇僅回答問題，在操作環節再跳轉人工復核?！?/p>

某南方城商行副行長表示：“我們在數字化轉型的過程中迫切需要一款優秀的GPT產品，來提高其業務的效率和質量。GPT能夠快速查詢專業領域資料，提煉核心信息。當然，AI提供的信息有些需要深入考究真實性，但是GPT肯定是未來金融業務發展的趨勢。因此，我們一定會加緊研究和選擇GPT產品，以適應市場的需求并提高自身的競爭力?！?/p>

李禮輝認為，ChatGPT的面世推動人工智能發展史走到了奇點，是人工智能的迭代升級，標志著數字技術的某種變局，將會帶來新的沖擊和挑戰。

一是在算力競爭上面臨挑戰。金融領域中，智能化的信用評估、客戶篩選、風險定價、數字員工等方面無不需要數據和算力的支撐，算力很大程度上決定金融業的競爭力。算力的競爭，今后是科技巨頭、資本巨頭之間的競爭。我們需要探討如何構建一個既能占領全球技術高地、又能避免壟斷的國家級算力基礎設施；如何構建一個資源可共享、商業可持續、監管可包容、金融機構和科技公司可受益的金融算力生態圈。

二是AI合成與信任面臨挑戰。深度內容合成模糊了真實與虛假的邊界，最新的深度合成算法可以對抗通用的技術性的甄別，人們開始擔憂AI虛假與AI操縱對社會構成的威脅。低級別的AI虛假用于詐騙、詆毀個人及企業名譽；高級別的AI操縱有可能用于詆毀政治人物或政權實體操控負面輿情、制造政治惡意、激化社會矛盾。

“AI換臉”詐騙敲響安全警鐘

風控是金融機構可持續發展的生命線，安全性是金融科技創新應用關注的重要問題。近日，包頭警方公布了一則AI詐騙案例，敲響了人工智能的警鐘。

據警方通報，騙子冒充郭先生一名至交好友，通過微信聯系到郭先生。對方告訴郭先生，他的朋友在外地招標，需要430萬元，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。郭先生說，“從頭至尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉過去，而且當時是給我打了視頻，我在視頻中也確認了面孔和聲音，所以才放松了戒備。因為當時已經臨近12點了，對方又說招標款12點前必須到賬，所以基于信任的前提下，我還沒等錢到我的賬戶，就先把這430萬元給對方打了過去?！?/p>

沒想到的是，當錢款打過去后，郭先生拿起手機給好朋友的微信發了一條消息，稱事情已經辦妥。讓他沒想到的是，此次對方回過來的消息竟然是一個問號。很快，郭先生撥打了好朋友的電話，這一問才知道自己竟然是遇上了“高端”騙局，對方通過智能AI的詐騙手段，佯裝成好朋友對他實施了詐騙。

郭先生在視頻中看到的朋友面孔和聲音難道是假的？確實是假的。隨著AIGC技術的大爆發，普通人接觸到各種先進生成工具變得不費吹灰之力，制作出越發難以識別的高質量deepfake視頻也越來越容易，想一眼識破這些造假內容就更困難。

5月24日，中國互聯網協會發布提醒：伴隨著深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮。

包頭警方通報的案例中，不法分子利用AI技術，通過聲音合成，偽造成特定人物的聲音，通過AI換臉，偽裝成特定人物，實時與他人進行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯系被害人，博取被害人信任后實施詐騙。面對利用AI技術的新型騙局，廣大公眾需提高警惕，加強防范。

據度小滿數據智能部總經理、度小滿技術委員會執行主席楊青介紹，在金融行業，由deepfake產生的主要欺詐行為就是身份欺詐，也就是通過深度偽造的虛假圖像和視頻，來冒充他人身份，騙過金融信貸流程中的身份核驗系統（包括活體檢測）。不法分子的欺詐方法其實也很簡單，就是先通過劫持root或者緩存文件注入等形式劫持手機的攝像頭，不讓它進行真實采集。然后上傳提前準備好的虛假證件信息（或經過篡改處理，或直接從黑產處購買）和通過深偽技術/AIGC技術生成的人臉樣本了。如果系統恰好沒有檢測出來，盜刷和惡意注冊就可能隨之而來，給金融機構和用戶造成不易挽回的經濟損失。

中關村科金金融事業部技術專家張巍向記者表示，隨著技術的不斷進步和計算能力的提升，AI換臉技術成本越來越低，更加易于使用，因此此類AI換臉案例逐步進入公眾視野，監管機構、行業參與者及社會公眾需對此予以關注。該項技術的濫用，引發了行業很多思考，包括：隱私侵犯、虛假信息傳播、偽造身份、形象破壞和誹謗、法律和倫理問題。對于AI技術濫用，需要警惕所帶來的風險問題。

當前應對AI詐騙的探討與實踐

有數據顯示，國內主要金融機構及互聯網公司應用的人臉驗證流程，70%以上存在被繞過的風險。在全球范圍內，也有快接近一半（46%）的企業遭受過合成身份的欺詐，有高達90%的受訪企業認為這種行為已日益嚴重。

“新技術發展到現在這個階段，我們迫切需要重構人工智能信任。需要探討的是如何在技術上和制度上有效對抗AI虛假，如何建立防范AI操縱的防火墻，維護數字經濟時代的國家安全，當然也要維護數字經濟時代金融業的安全?！崩疃Y輝如是說。

實際上，已有公司在破解deepfake視頻上有所研究和實踐。楊青告訴記者，一般來說，行業各家公司在破解deepfake視頻上采取的思路和以上所講差別不大。以度小滿為例，用防深偽檢測模型破解造假視頻，防深偽攻擊的算法策略主要從三方面的破綻入手。

具體來看，一是生成瑕疵，比如，眨眼頻率不正常、瞳孔形狀不規則、牙齒有缺陷，大到口型與聲音不吻合，肢體動作與演講內容不協調……二是固有屬性，指的是生成工具、攝像頭光感元件固有的噪聲指紋。由于單一特征難以適應復雜的deepfake內容，因此檢測模型的整體框架采用的是多特征融合，以此來保證決策的魯棒性。三是高層語義。它指的是檢測面部動作單元（肌肉群）協調性、面部各區域朝向一致性、視頻微觀連續性等方面的問題，由于這些細節建模困難、難以復制，很容易抓到把柄。

應對濫用AI技術進行詐騙，人工智能科技公司、監管部門均需發揮應有的作用。張巍認為，對于人工智能科技公司而言，一方面發展技術，另一方面也要對技術進行迭代，避免技術所帶來的道德風險；對于監管，期望能夠從行業秩序方面給予支持和規范，保障技術良性發展，為社會帶來幫助。

他進一步指出，金融機構應從技術升級和組織升級角度予以防范，與相關監管機構、司法機構開展合作，共同打擊欺詐。一方面，技術升級包括引入人工智能輔助技術，實施多層次、多模態身份核驗，全面升級網絡安全和數據安全策略，針對異常行為進行監測；另一方面，組織升級包括加強員工安全培訓，加強對新型欺詐手段的認知和應對，提升安全意識。

隨著AI技術近期的迅猛發展，新一輪的有針對性的監管正在逐步完善。作為一家領先的對話式AI技術解決方案提供商，中關村科金有責任與行業各方一道，堅定支持監管機構開展行業監管，通過科技輔助相關監管規范落地，共同維護行業秩序。