生成式人工智能進入合規(guī)發(fā)展階段

　 阿里云優(yōu)惠券 先領券再下單

8月15日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布的《生成式人工智能服務管理暫行辦法》(以下簡稱《辦法》)正式施行，有望促進生成式人工智能健康發(fā)展和規(guī)范應用。

“生成式人工智能技術快速發(fā)展，為經(jīng)濟社會發(fā)展帶來新機遇的同時，也產(chǎn)生了傳播虛假信息、侵害個人信息權益、數(shù)據(jù)安全和偏見歧視等問題。”文淵智庫研究員王超接受記者采訪時表示，《辦法》的正式實施，是促進生成式人工智能健康發(fā)展的要求，也是防范生成式人工智能服務風險的需要。

監(jiān)管不搞“一刀切”

生成式人工智能是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關技術，自去年底起在各行各業(yè)大規(guī)模落地應用，在提升效率的同時也亂象叢生。

新壹科技CEO雷濤告訴記者，與判別型人工智能風險主要集中在算法的歧視和濫用上不同，生成型人工智能存在更多知識產(chǎn)權爭議和更復雜的數(shù)據(jù)風險，同時濫用生成內(nèi)容在技術上可能會給監(jiān)管帶來更多挑戰(zhàn)。“特別是隨著大模型的不斷迭代，其生成內(nèi)容的真實性、偏向性與原創(chuàng)性在技術上越來越難以判別，也給監(jiān)管造成較大壓力。”

在教育行業(yè)，生成式人工智能大多在輔助教學、自動批改作業(yè)、優(yōu)化教育資源以及個性化學習和興趣激發(fā)上具有智能、提效的作用。即便如此，但iEnglish智能英語學習解決方案技術研發(fā)負責人賈先好認為，這些應用帶來的版權、作弊，以及數(shù)據(jù)與隱私安全風險等系列問題，也需要引起足夠的重視。他表示，《辦法》明確了提供和使用生成式人工智能服務應當遵守相關法律法規(guī)和倫理規(guī)范，對于保障人工智能的安全、可靠和透明使用具有重要意義。“《辦法》的正式施行，標志著我國對生成式人工智能的管理進入了新的階段。”

《辦法》提出堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。

雷濤認為，這種包容審慎和分類分級的監(jiān)管明確供應商主體責任，在創(chuàng)新和有效監(jiān)管之間取得了平衡。“《辦法》符合對人工智能進行分級、分類管理的趨勢，實現(xiàn)了監(jiān)管科學化、精細化，避免了‘一刀切’式的監(jiān)管措施抑制人工智能技術創(chuàng)新。”

產(chǎn)業(yè)應該積極應對

生成式人工智能大規(guī)模落地應用，大模型居功至偉。日前發(fā)布的《中國人工智能大模型地圖研究報告》顯示，我國人工智能大模型產(chǎn)品已經(jīng)發(fā)布超百余個。

基于大模型研發(fā)應用全產(chǎn)業(yè)鏈，數(shù)據(jù)及安全便成為重中之重。《辦法》明確，生成式人工智能服務提供者應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎模型;采取有效措施提高訓練數(shù)據(jù)質量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性。此外，還明確了數(shù)據(jù)標注的相關要求。

顯然，這些規(guī)定讓此前在數(shù)據(jù)采集、加工和應用方面呈野蠻式發(fā)展的廠商壓力倍增。雷濤認為，這種陣痛是短暫且必須的，雖然當前生成式人工智能依然是一個輔助人類創(chuàng)作的技術工具，但不可否認的是其巨大潛能以及廣闊的應用場景，產(chǎn)業(yè)鏈上的企業(yè)都應是立足于自身做好研發(fā)追趕，而絕非回避。“《辦法》的施行，將有助于明確企業(yè)技術拓展和使用的邊界，新技術、新場景只有在合理的規(guī)范體系下，才能不斷推動行業(yè)進步，進而形成良性的行業(yè)生態(tài)。”

“作為全球范圍內(nèi)較早關注生成式人工智能服務治理的規(guī)范性文件，《辦法》為生成式人工智能服務劃定了底線，提供了方向。”王超提醒，產(chǎn)業(yè)相關企業(yè)應該以積極開放的態(tài)度面對《辦法》的施行，并結合自身優(yōu)勢、探索生成式人工智能技術的創(chuàng)新應用場景，不斷完善自身的應用生態(tài)體系。

申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！