- 是“神器”還是“魔盒”？ ChatGPT將給我們帶來哪些挑戰(zhàn)與機遇
- 2023年04月13日 來源：中國網(wǎng)財經(jīng)
提要：趙東認(rèn)為，現(xiàn)階段的監(jiān)管措施，網(wǎng)絡(luò)三法規(guī)定的基本原則、制度和要求，是維護(hù)網(wǎng)絡(luò)安全、個人信息安全、數(shù)據(jù)安全的“最低要求”；有關(guān)制度、規(guī)則并不限制新技術(shù)的發(fā)展，反而希望新技術(shù)促進(jìn)以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟發(fā)展，為經(jīng)濟社會發(fā)展全面賦能。
(記者 譚夢桐)近年來，隨著區(qū)塊鏈、元宇宙，再到ChatGPT的爆火，越來越多的應(yīng)用讓人們感受到了人工智能的強大。擁抱科技的同時,不少人也表示擔(dān)憂。ChatGPT是否會取代人工？生成式AI技術(shù)的發(fā)展，能推動哪些產(chǎn)業(yè)進(jìn)步？AIGC(利用人工智能技術(shù)來生成內(nèi)容)領(lǐng)域如何監(jiān)管？中國網(wǎng)財經(jīng)記者采訪到了多位專家。
ChatGPT是什么？能為我們帶來什么？
ChatGPT是美國OpenAI公司研發(fā)的聊天機器人程序，它能夠通過理解和學(xué)習(xí)人類的語言來進(jìn)行對話，還能根據(jù)聊天的上下文進(jìn)行互動，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、文案、代碼，寫論文?等任務(wù)。
浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林介紹，ChatGPT通過三步走來優(yōu)化其行為，除了利用海量語言數(shù)據(jù)、海量標(biāo)注的語言范例來學(xué)習(xí)外，還需通過強化學(xué)習(xí)算法對ChatGPT回答進(jìn)行打分，一方面讓ChatGPT的回答具有隨機性，另一方面讓ChatGPT更大概率用最優(yōu)的方式回答問題。
盤和林認(rèn)為，ChatGPT比過去的AI更智能，不僅僅是聊天，它還可以寫代碼、寫文案，GPT-4的多模態(tài)模型中還加入讀圖功能，它也可以輔助搜索，同樣的功能可以移植到辦公軟件領(lǐng)域，移植到醫(yī)學(xué)領(lǐng)域，移植到新聞廣告領(lǐng)域。
“我們認(rèn)為ChatGPT將帶來生產(chǎn)力的變革?！北P和林表示?！耙驗樗蓄I(lǐng)域都可以用GPT來提升效率。人類將記憶性、重復(fù)性的工作交給GPT，自己承擔(dān)創(chuàng)造性的工作，這大大降低了人類創(chuàng)新創(chuàng)造的門檻?！?/p>
ChatGPT是否取代人工？
不過，ChatGPT為生產(chǎn)力帶來變革的同時，也帶來了隱憂。
據(jù)媒體報道，近日，高盛一份最新的研報顯示，ChatGPT等AI的最新突破，將給全球勞動力市場帶來重大顛覆，全球預(yù)計將有3億個工作崗位被生成式AI取代。
“生成式AI技術(shù)會沖擊工作內(nèi)容重復(fù)度高、難度低的行業(yè)。” 中國信息通信研究院云計算與大數(shù)據(jù)研究所副所長魏凱在接受中國網(wǎng)財經(jīng)記者采訪時表示，“諸如人工客服、初級程序員、文案編輯等?！?/p>
這部分勞動群體該如何應(yīng)對AI代替人工造成的就業(yè)擔(dān)憂? 魏凱認(rèn)為，面對這樣的沖擊，勞動者們未來需提升個人的思維力、實踐力、創(chuàng)造力。
“勞動者需要將個人的技能經(jīng)驗進(jìn)行系統(tǒng)化總結(jié)，形成獨創(chuàng)性經(jīng)驗?！?魏凱舉例說明，例如生成式AI中的文本生成類應(yīng)用，目前其生成內(nèi)容仍存在邏輯不清晰、回答不準(zhǔn)確的問題，需要經(jīng)驗豐富的人士進(jìn)行潤色。同時，勞動者也可以快速掌握使用方法，讓生成式AI應(yīng)用成為生產(chǎn)力工具。再例如一些簡單的編程代碼可以交給生成式AI應(yīng)用產(chǎn)出，技術(shù)人員可以專注更復(fù)雜的算法開發(fā)、研究?；谝延械慕?jīng)驗，藝術(shù)設(shè)計方向的資深人士可結(jié)合自己的思路構(gòu)建提示詞，促使生成式AI應(yīng)用產(chǎn)出更具創(chuàng)意的作品。
生成式AI 技術(shù)的發(fā)展，能推動哪些產(chǎn)業(yè)進(jìn)步？
隨著ChatGPT的爆火，生成式AI帶來產(chǎn)業(yè)機會，各行各業(yè)紛紛布局。
從去年11月ChatGPT發(fā)布開始，國內(nèi)大廠便率先關(guān)注到生成式AI技術(shù)，各個大廠曬應(yīng)用、發(fā)產(chǎn)品、組建團隊，搶占技術(shù)應(yīng)用的高地。
例如，中國三大電信運營商近期紛紛表示參與類ChatGPT服務(wù)帶來的機遇中。在金融領(lǐng)域，也有多家銀行積極考慮將類ChatGPT為代表的生成式對話產(chǎn)品引入銀行業(yè)務(wù)。據(jù)悉，目前包括客戶服務(wù)、數(shù)據(jù)分析、投資建議、半自動程序編寫等業(yè)務(wù)已可以接入ChatGPT，未來隨著技術(shù)進(jìn)一步發(fā)展，效果進(jìn)一步提升，應(yīng)用場景會逐漸豐富。
“從應(yīng)用角度看，生成式AI能夠利好文娛行業(yè)、生物醫(yī)藥等多個行業(yè)?！蔽簞P具體分析，文娛行業(yè)中，基于文生圖、文生視頻、文生3D模型應(yīng)用，生成式AI能夠加速設(shè)計作品的制作過程，提升游戲、動漫畫面的制作效率。生物醫(yī)藥行業(yè)中，目前國外一些大型制藥公司嘗試用生成式AI設(shè)計針對疾病的蛋白質(zhì)模型，生成式AI也有助于縮短藥物研發(fā)周期。
“劍橋大學(xué)的研究人員利用ChatGPT確定了一個治療阿爾茨海默病的新靶點。”魏凱舉例。
從要素角度看，伴隨生成式AI技術(shù)發(fā)展，合成數(shù)據(jù)或?qū)⒋龠M(jìn)AI數(shù)據(jù)集質(zhì)量提升。生成式AI應(yīng)用訓(xùn)練時使用合成數(shù)據(jù)學(xué)習(xí)內(nèi)容、對象，并生成全新內(nèi)容，可有效緩解數(shù)據(jù)短缺問題，盡可能降低數(shù)據(jù)投毒風(fēng)險、保證生成結(jié)果安全可信。
盤和林認(rèn)為芯片、CPO光模塊、ICT通信設(shè)備、智算中心、云計算服務(wù)商、AI應(yīng)用企業(yè)、算法平臺、互聯(lián)網(wǎng)平臺企業(yè)等上下游產(chǎn)業(yè)均將受到生成式AI發(fā)展帶動進(jìn)步。
值得一提的是，在AI時代背景下，東數(shù)西算工程的意義顯得更加重大。國信證券認(rèn)為，西部地區(qū)得天獨厚的資源稟賦將成為AI時代最寶貴的“降本”資源，東數(shù)西算工程使降低“數(shù)據(jù)存儲成本”變成“降低社會整體運行成本”。
盤和林指出，生成式AI需要智算中心，智算中心可能需要距離需求方更近以降低時延，所以，一方面東數(shù)西算為生成式AI提供了算力支持，有效推動發(fā)展，另一方面東數(shù)西算布局也會隨著智算算力特點，有所調(diào)整，將數(shù)據(jù)中心和智算中心區(qū)分開來。
AIGC領(lǐng)域如何監(jiān)管？
3月31日，據(jù)央視報道，意大利個人數(shù)據(jù)保護(hù)局表示，已就OpenAI聊天機器人ChatGPT涉嫌違反數(shù)據(jù)收集規(guī)則展開調(diào)查，即日起禁止使用ChatGPT，并暫時限制OpenAI處理意大利用戶數(shù)據(jù)。
此外，歐盟執(zhí)法機構(gòu)歐洲刑警組織警告ChatGPT可能被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪；非營利組織人工智能與數(shù)字政策中心(CAIDP)也向美國聯(lián)邦貿(mào)易委員會(FTC)投訴稱，GPT-4“有偏見性，欺騙性，對隱私和公共安全構(gòu)成風(fēng)險”。
在國內(nèi)，AIGC(利用人工智能技術(shù)來生成內(nèi)容)也同樣存在諸多風(fēng)險。包括隱私風(fēng)險、人工智能生成內(nèi)容濫用風(fēng)險、數(shù)據(jù)缺失或錯誤風(fēng)險、知識產(chǎn)權(quán)風(fēng)險等等。
近日，中國支付清算協(xié)會發(fā)布《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》，引發(fā)業(yè)內(nèi)關(guān)注。協(xié)會倡議業(yè)內(nèi)提高思想認(rèn)識，依法依規(guī)使用；不上傳關(guān)鍵敏感信息；會員單位加強內(nèi)部管理和引導(dǎo)。
不過，聚焦AIGC存在的風(fēng)險，我國現(xiàn)有的監(jiān)管體系已經(jīng)成形。在法律法規(guī)層面，一方面是通過專門性綜合性立法對網(wǎng)絡(luò)運營者在使用人工智能技術(shù)的義務(wù)和責(zé)任進(jìn)行規(guī)范，另一方面則是切實聚焦到人工智能領(lǐng)域的算法、模型、技術(shù)，進(jìn)行具體規(guī)范。
4月11日，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》(下稱“意見稿”)，并向社會公開征求意見。該意見稿從個人信息保護(hù)、數(shù)據(jù)來源合法性、知識產(chǎn)權(quán)保護(hù)、約束不正當(dāng)競爭行為等方面進(jìn)行規(guī)范。
該意見稿還提出，生成式AI提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識。此前，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的監(jiān)管范圍為深度合成技術(shù)、深度合成服務(wù)，僅作為規(guī)范AIGC技術(shù)及服務(wù)的參考。
北京市京師律師事務(wù)所律師趙東在接受中國網(wǎng)財經(jīng)采訪時表示，在未來一段時間內(nèi)，網(wǎng)絡(luò)三法(《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護(hù)法》)及其規(guī)定的相關(guān)制度依舊是新技術(shù)監(jiān)管的重要依據(jù)。按照網(wǎng)絡(luò)三法對新技術(shù)的產(chǎn)生和運用進(jìn)行嚴(yán)格監(jiān)管，不僅有利于維護(hù)網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個人信息安全，也有利于整個行業(yè)的健康、有序發(fā)展。
盤和林認(rèn)為，意見稿的發(fā)布，主要是明確了生成式人工智能先規(guī)范再發(fā)展的總基調(diào)，總體上是為了完善生成式AI的應(yīng)用環(huán)境，為生成式AI在國內(nèi)應(yīng)用創(chuàng)造條件。但從另一方面看，當(dāng)前意見稿內(nèi)容還比較簡化，部分條款的線條還比較粗，他建議未來需要進(jìn)一步完善意見稿內(nèi)容，防止“一管就死、一放就亂”的情況在生成式AI領(lǐng)域出現(xiàn)，在生成式AI的發(fā)展和安全有序推進(jìn)之間找到平衡點。
“對于AIGC的監(jiān)管有必要，監(jiān)管目標(biāo)不應(yīng)該是AI的人格，而是用AI的人，了解他們想要達(dá)到的目的?！?盤和林直言。
趙東認(rèn)為，現(xiàn)階段的監(jiān)管措施，網(wǎng)絡(luò)三法規(guī)定的基本原則、制度和要求，是維護(hù)網(wǎng)絡(luò)安全、個人信息安全、數(shù)據(jù)安全的“最低要求”；有關(guān)制度、規(guī)則并不限制新技術(shù)的發(fā)展，反而希望新技術(shù)促進(jìn)以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟發(fā)展，為經(jīng)濟社會發(fā)展全面賦能。
