21世紀經濟報道記者 鄭雪 北京報道
本周(230522-230527)合規領域動態頻頻。
數字經濟與平臺監管方面,工信部相關負責人表示,將前瞻布局人工智能、web3.0、先進計算、6G等未來產業。市場監管總局發布《合同行政監督管理辦法》。人社部、最高法聯合發布新就業形態勞動爭議典型案例。
個人信息保護與數據安全方面,為保障未成年人的合法權益,5月25日,最高人民法院、最高人民檢察院聯合發布《關于辦理強奸、猥褻未成年人刑事案件適用法律若干問題的解釋》;同日,《最高人民法院、最高人民檢察院、公安部、司法部關于辦理性侵害未成年人刑事案件的意見》(以下簡稱《意見》)。近日,平安包頭通報一起通過AI技術從而被騙取430萬元的消息。市場傳言科大訊飛“大量采集用戶隱私數據”,科大訊飛辟謠:系某生成式AI寫作虛假小作文。
讓我們把目光轉向海外。微軟調整必應的用戶跟蹤方式,規避法國監管機構進一步隱私罰款。據外媒報道,特斯拉100GB數據泄露,涉及馬斯克社保號碼和員工工資。因向美國傳輸數據,Meta被愛爾蘭DPC處以創紀錄的12億歐元罰款。
數字經濟與平臺監管
1.工信部:前瞻布局人工智能、web3.0、先進計算、6G等未來產業
據工信微報消息,工業和信息化部黨組成員、副部長王江平出席2023中國國際大數據產業博覽會開幕式并致辭。其在致辭中表示,工業和信息化部將深化大數據與實體經濟融合發展,扎實推進新型工業化。加強關鍵核心技術攻關,統籌推進產業基礎再造工程和重大技術裝備攻關工程,前瞻布局人工智能、web3.0、先進計算、6G等未來產業,在新賽道上形成新競爭力。
不斷提升網絡供給能力,加快5G、千兆光網深度覆蓋,打造云網融合、算網一體的網絡架構和算力供給體系,為大數據產業創新發展提供強有力的底座。加快數據要素市場培育,構建數據基礎制度,推動建設全國統一的數據登記平臺、數據資產評估服務平臺,深化數據管理國家標準貫標,激發數據要素價值潛力。推進大數據賦能千行百業,開展促進數字經濟和實體經濟深度融合全國行等系列活動,以數字技術的規?;瘧么龠M實體經濟高質量發展。
2.市場監管總局發布《合同行政監督管理辦法》 強化格式條款規制
據“市說新語”消息,5月26日,市場監管總局修訂出臺了《合同行政監督管理辦法》,將于2023年7月1日起正式施行。
《合同行政監督管理辦法》從合同行政監管出發,重點監管四個方面:一是加強對利用合同擾亂市場秩序,危害國家利益、社會公共利益行為的監管。列明虛構合同主體資格或者盜用、冒用他人名義訂立合同,以惡意串通、賄賂、脅迫等手段訂立合同等禁止情形,切實維護市場秩序。
二是加強對格式條款的規制。禁止經營者利用格式條款作出減輕或者免除自身責任、加重消費者責任、排除或者限制消費者權益的規定,要求經營者在使用格式條款時應當以顯著方式提請消費者注意,切實保障消費者的知情權、自主選擇權等權益。
三是加強行政指導。針對特定行業或者領域,市場監管部門可以聯合有關部門制定合同示范文本,供社會公眾免費閱覽、下載和參照使用。
四是明確有關合同違法行為的查處方式和法律責任,加大違法行為懲戒力度。
3.人社部、最高法:堅持勞動關系認定“事實優先”
5月26日,人力資源社會保障部、最高人民法院聯合發布新就業形態勞動爭議典型案例,典型案例涵蓋貨運車司機、外賣騎手、網絡主播、網約家政服務人員等相關的勞動爭議。
人社部、最高法表示,堅持“事實優先”的勞動關系認定原則,根據用工事實認定企業和勞動者的關系;結合平臺實際用工中勞動者對工作時間及工作量的自主決定程度等要素,全面分析勞動者與企業之間的人格從屬性、經濟從屬性、組織從屬性,加強對勞動管理程度的綜合考量,對符合確立勞動關系情形的認定標準作出重點規范;對通過訂立民事合作協議規避用人單位義務、“假外包真用工”、誘導勞動者注冊個體工商戶等違法用工行為予以糾正,切實維護勞動者合法權益。
個人信息保護與數據安全
1.兩高:脅迫、誘騙未成年人網絡裸聊、索要裸照等可以猥褻兒童罪論處
5月25日,最高人民法院、最高人民檢察院聯合發布《關于辦理強奸、猥褻未成年人刑事案件適用法律若干問題的解釋》(以下簡稱《解釋》)。
《解釋》對教師、監護人等特殊職責人員性侵未成年人,侵害農村留守女童、精神發育遲滯的被害人,以及利用網絡裸聊、索要裸照,利用網絡散布性侵害視頻等社會關注問題,進行了回應。
“從嚴懲處”是《解釋》非常鮮明的特點。針對司法實踐中危害嚴重、應予嚴懲的突出情形,作出加重處罰或者適用較重的從重處罰幅度的規定。對刑法中“強奸婦女、奸淫幼女情節惡劣”情節如何適用,非法拘禁或者利用毒品誘騙、控制被害人等,屬于“情節惡劣”,應當加重處罰。
對負有照護職責人員,《解釋》規定,明確負有照護職責人員性侵罪的加重處罰情節:對未成年女性負有特殊職責的人員,利用優勢地位或者被害人孤立無援的境地,迫使被害人與其發生性關系的,以法定刑較重的強奸罪定罪處罰,以依法、準確、有力懲處犯罪。
《解釋》明確,對脅迫或者誘騙未成年人通過網絡視頻聊天,或者發送視頻、照片等方式,暴露身體隱私部位或者實施淫穢行為的,依照猥褻犯罪處罰;對拍攝奸淫、猥褻過程或者被害人身體隱私部位,以此脅迫對被害人實施強奸、猥褻,或者致使影像資料向多人傳播、暴露被害人身份的,應當依法加重處罰。
2.兩高兩部:嚴厲打擊懲處性侵未成年人犯罪 有案必立
5月25日,《最高人民法院、最高人民檢察院、公安部、司法部關于辦理性侵害未成年人刑事案件的意見》(以下簡稱《意見》)發布?!兑庖姟窂娬{有案必立,公安機關接到未成年人被性侵害的報案、控告、舉報,符合刑事立案條件的,立即立案偵查;對性侵害未成年人的成年犯罪嫌疑人、被告人,從嚴把握適用非羈押強制措施,嚴格把握減刑、假釋等;持續推進強制報告、入職查詢法律制度落實。
案件辦理時限方面,《意見》規定公安機關接到未成年人被性侵害的報案、控告、舉報,符合刑事立案條件的,立即立案偵查,重大、疑難、復雜案件立案審查期限原則上不超過七日。發現精神發育遲滯未成年人、幼女懷孕、產子或未成年人隱私部位遭受明顯非正常損傷等情況的,直接立案。
案件辦理方式方法上,《意見》要求詢問未成年被害人選擇“一站式”取證場所、未成年人住所或者其他讓未成年人心理上感到安全的場所,采取和緩的方式進行,堅持一次詢問原則。規定性侵害案件審理,未成年被害人、證人一般不出庭,確有必要出庭的,應當采取必要保護措施。
3. 平安包頭通報一起借助AI技術被騙取430萬元的案件
近日,平安包頭通報了一起通過AI技術從而被騙取430萬元的消息。作為事件當事人的郭先生,在通過社交媒體與好友視頻確認的情況下,仍被騙走大額資金430萬元,所幸336.84萬元被騙資金已經被攔截。
南財點評:完成AI電信詐騙,是有前提:一是相關社交媒體被盜號,二是尋找借口重新添加社交媒體成為好友。在完成上述步驟后,通過采集受害者的照片或者語音,通過深度偽造技術可以實時合成視頻,在獲得信任后,從而繼續進行詐騙。原因在于深度合成技術則恰恰顛覆了公眾“眼見為實”的認知??梢钥吹降氖牵疃群铣杉夹g通過偽造音頻、圖片、視頻,捏造人物的行為與語言,為政治、軍事、經濟犯罪甚至恐怖活動等提供了新工具,帶來嚴峻安全挑戰。
需要注意的是,無論個人還是平臺、AI換臉技術提供方,未經肖像權人同意,通過技術手段提取肖像,并擅自使用或上傳至換臉App中供用戶選擇使用的行為都侵害了他人肖像權。在民事責任方面,AI換臉技術提供方需承擔連帶民事責任,被侵權人可以通過提起民事訴訟方式要求AI換臉技術提供方承擔停止侵權、賠禮道歉并賠償損失等民事責任。
人工智能模型監管上,人工智能模型訓練的目的是為了獲得“能力”,這與既有法律制度中的信息內容監管、以風險為導向的分級分類治理的監管目標有所不同,未來的分級分類應該以“能力+場景”作為標準。
4、采集用戶隱私數據消息?科大訊飛:不實,系某AI生成式軟件生成
5月24日,科大訊飛午后股價跳水,盤中一度跌超9%。原因在于市場出現兩則關于科大訊飛的傳言:美國或將科大訊飛等加入“實體名單”、大量采集用戶隱私數據用于AI研究。
針對市場傳言,科大訊飛回應表示已于2019年10月被列入實體清單;針對采集用戶隱私數據消息,科大訊飛回復稱,相關流傳文字及截圖,公司初步判斷該段不實信息系某AI生成式軟件生成??拼笥嶏w表示,使用大模型編造虛假信息屬于違法行為,將受到法律制裁,當前已有刑事案例。對于惡意抹黑、捏造虛假信息,損害名譽權的機構或個人,公司會借助法律武器保護公司和投資者利益。
百度文心一言市場負責人張文全在朋友圈回應:“聽聞有友商把自己股價大跌,歸咎于有人利用文心一言寫了篇命題小作文,也是醉了。先別說小作文這事真假 (目前看來只怕是策劃痕跡太重),如果AI作文有這本事,百度員工自己先炒一下自己股價不香嗎?中國發展自己的大模型技術挺不容易的把精力放到正事上吧,還請友商解決好自己的問題,別動不動就碰瓷別人,大家的眼睛都雪亮的?!?/p>
南財點評:深度合成技術的廣泛應用對虛假信息的治理提出了更高的要求。生成式AI最顯著的技術優勢就是能夠以貼近人類思維和表達的方式呈現信息,這就導致網民更難以甄別其生成信息的真偽,加之人工智能技術能批量生成信息,海量且高效的網絡謠言生成,顯然會導致官方辟謠、賬號封禁等傳統虛假信息治理措施難以發揮預期效果。
需要關注的是,現有侵權法體系能夠處理AI運營公司的民事責任問題,但有必要為新興事物發展預留一些空間,這意味著傳統的基于工業經濟下的侵權責任規則,需要回應數字經濟下人工智能產業發展,并做出相應調整。
海外動態
1.微軟必應完成用戶跟蹤方式調整 CNIL解除相關禁令
當地時間5月26日,來自法國數據保護機構CNIL的消息,考慮到微軟的必應搜索引擎已經在規定時間內對用戶跟蹤方式進行調整,CNIL的限制委員會在5月11日結束了針對微軟的禁令。
2022年12月19日,微軟被CNIL的限制委員會罰款6000萬歐元,因為該公司沒有讓必應搜索引擎的用戶足夠容易地拒絕用于在線廣告的cookie。同時,監管機構要求微軟就另一種類型的cookie尋求用戶同意,該公司將這種cookie放置在網絡瀏覽器中,用于檢測欺詐性的廣告瀏覽。
CNIL要求微軟在三個月的時間內完成相關合規工作,否則微軟將被處以每日額外60,000歐元的罰款。
微軟在對其bing搜索引擎用戶跟蹤方式進行調整后,規避了法國的進一步隱私罰款。5月26日,CNIL在其新聞稿中介紹稱,微軟“在規定的時間內做出了回應,并進行了技術修改,以便在沒有得到法國用戶明確同意的情況下,打擊廣告欺詐有關的跟蹤功能將被禁用?!?/p>
2. 特斯拉100GB數據泄露 涉及馬斯克社保號碼和員工工資
據英國《衛報》26日報道,一名舉報者向德國《商報》舉報稱,100GB的特斯拉數據遭遇泄露,除了首席執行官馬斯克的社保號碼、員工工資等信息,還包括數千名客戶投訴。
數千名客戶的投訴主要針對的是特斯拉“完全自動駕駛”系統,以及特斯拉車輛突然全速剎車或加速等問題。此外,泄露的文件還包括超過10萬名前現任員工的信息、客戶的銀行詳細信息,甚至是馬斯克的社保號碼以及私人郵箱和電話等。
特斯拉的歐洲總部位于阿姆斯特丹,目前荷蘭數據保護局已經就此展開調查。若確定特斯拉存在違規行為,該公司恐被處以高達其年銷售額4%的罰款,即35億美元。
德國工會(IG Metall)表示,這些爆料令人不安,呼吁特斯拉將違反數據保護的行為告知員工。
3.因向美國傳輸數據,愛爾蘭DPC對Meta處12億歐元罰款
5月22日,Meta被歐盟數據監管機構處以創紀錄的12億歐元(約91億人民幣)罰款,并被命令停止將歐盟公民的Facebook數據傳輸到美國。歐盟法院認為,此類數據傳輸使歐盟公民面臨隱私侵犯。
該裁決由愛爾蘭數據保護委員會(DPC)做出,該委員會表示,目前向美國傳輸數據的法律框架“沒有解決Facebook歐盟用戶基本權利和自由的風險”,并違反了《通用數據保護條例》。該罰款超過了2021年因類似侵犯隱私而對亞馬遜征收的7.46億歐元的歐盟紀錄。
據了解,將數據傳輸到美國對于Meta龐大的廣告定位操作至關重要,該操作依賴于處理來自其用戶的多個個人數據流。去年Meta曾表示,如果歐盟無法將數據發送回美國,它將被迫考慮關閉Facebook和Instagram。
此前,這些數據傳輸受到被稱為隱私盾的跨大西洋協議的保護。但在歐盟最高法院發現它沒有保護數據不被美國監控計劃抓取后,該框架于2020年被宣布無效。
盡管Meta現在已被命令停止這些數據傳輸,但還是保留了一定空間。首先,該裁決僅適用于來自Facebook的數據,不適用于Instagram和WhatsApp等其他Meta公司的應用。其次,歐盟的這項決定是從今年年底實施,Facebook不會立即中斷,Meta還有一定的寬限期。第三,也是最重要的,歐盟和美國目前正在談判一項新協議以轉移數據,有望在今年下半年達成。
同天,Meta全球事務總裁Nick Clegg和首席法律官Jennifer Newstead通過公司官網回應歐盟天價罰款,表示美國政府關于數據訪問規則和歐洲隱私權之間存在根本性的法律沖突,決策者預計將在夏天解決這些問題。Meta將對該裁決提出上訴,包括不合理和不必要的罰款,并通過法院尋求暫停命令。