大桥未久av在线播放,色一情一交一乱一区二区三区,国产一区二区91,天堂中文av在线,亚洲色图亚洲色图,国产在线观看99,国产精品尤物视频

當(dāng)AI遇上法律：聚焦技術(shù)應(yīng)用風(fēng)險(xiǎn)，共探合規(guī)布局與立法進(jìn)程

2025年第02期    作者:文字整理 許倩    閱讀 54 次

主持人：朱培 上海律協(xié)數(shù)字科技與人工智能專業(yè)委員會(huì)委員、上海市匯業(yè)律師事務(wù)所合伙人

嘉賓：徐凱  上海律協(xié)青年律師工作委員會(huì)委員、數(shù)字科技與人工智能專業(yè)委員會(huì)副主任,上海市君悅律師事務(wù)所合伙人

王渝偉 上海律協(xié)數(shù)字科技與人工智能專業(yè)委員會(huì)委員、北京觀韜(上海)律師事務(wù)所律師

翁冠星 上海律協(xié)對(duì)外宣傳與聯(lián)絡(luò)委員會(huì)委員、仲裁專業(yè)委員會(huì)委員,上海功承瀛泰(臨港新片區(qū))律師事務(wù)所主任

朱培： 大家好！歡迎來到《上海律師》2025年第二期“法律咖吧”，我是本期咖吧的主持人朱培。近期，人工智能技術(shù)快速發(fā)展，與之相關(guān)的法律問題不斷涌現(xiàn)，比如AI換臉擬聲引發(fā)的侵權(quán)案件等。圍繞著人工智能、數(shù)字經(jīng)濟(jì)、大數(shù)據(jù)等新興領(lǐng)域，國(guó)家也已經(jīng)在加強(qiáng)立法研究。在這一趨勢(shì)下，當(dāng)前人工智能應(yīng)用中存在哪些突出的法律風(fēng)險(xiǎn)點(diǎn)？對(duì)于尚未完善的法律體系，法律從業(yè)者和相關(guān)企業(yè)應(yīng)該如何提前布局，以應(yīng)對(duì)未來可能出臺(tái)的法律法規(guī)？

今天非常榮幸地邀請(qǐng)到了徐凱律師、王渝偉律師和翁冠星律師共同探討分析人工智能法律問題。在當(dāng)今時(shí)代，科技發(fā)展日新月異，人工智能技術(shù)作為前沿力量，正深刻改變著我們的生活與工作模式。從智能家居到自動(dòng)駕駛，從醫(yī)療診斷到金融風(fēng)控，人工智能無處不在。

首先請(qǐng)徐凱律師為我們分享一下，在日常工作還有案例研讀的過程中，您認(rèn)為當(dāng)前人工智能應(yīng)用中存在哪些突出的法律風(fēng)險(xiǎn)點(diǎn)？

 

徐凱：我本科就讀計(jì)算機(jī)專業(yè)，后就讀民商法學(xué)碩士，我更能感受到人工智能技術(shù)對(duì)法律行業(yè)的沖擊。思維層面上，法律思維要從傳統(tǒng)工業(yè)生產(chǎn)、傳統(tǒng)服務(wù)業(yè)的思維轉(zhuǎn)變?yōu)楦舆m應(yīng)人工智能生產(chǎn)力的思維。例如，當(dāng)下大數(shù)據(jù)和大數(shù)據(jù)算法對(duì)我們的影響其實(shí)已經(jīng)不同于以往。以往的數(shù)據(jù)、算法是靜態(tài)的，算法對(duì)計(jì)算機(jī)而言就是一系列的解決特定問題的代碼。針對(duì)此類數(shù)據(jù)、算法產(chǎn)生的問題，已有著作權(quán)和知識(shí)產(chǎn)權(quán)法律法規(guī)能夠妥善進(jìn)行回應(yīng)并解決，并沒有特別大的爭(zhēng)議及突出的問題。而當(dāng)前的大數(shù)據(jù)和大數(shù)據(jù)算法（包括采集用戶信息以及推測(cè)用戶的行為）其實(shí)是一種動(dòng)態(tài)的算法，其所涉及的大數(shù)據(jù)是一個(gè)實(shí)時(shí)的、動(dòng)態(tài)的大數(shù)據(jù)。因此當(dāng)前無論是消費(fèi)者還是勞動(dòng)者都比較關(guān)注算法問題。我認(rèn)為，當(dāng)下我們遇到的挑戰(zhàn)實(shí)質(zhì)上是動(dòng)態(tài)的數(shù)據(jù)加上動(dòng)態(tài)的算法所呈現(xiàn)出來的一種結(jié)果。所以，無論是從靜態(tài)的角度看人工智能收集的數(shù)據(jù)，或者單純從靜態(tài)的角度看其實(shí)現(xiàn)商業(yè)行為的算法代碼，我們很難去發(fā)現(xiàn)或者判斷人工智能企業(yè)存在什么具體的算法歧視，所以我們更需要從動(dòng)態(tài)的角度來理解數(shù)據(jù)收集給我們帶來的影響，包括消費(fèi)者的隱私、勞動(dòng)者隱私等沖突。

以消費(fèi)者隱私保護(hù)為例，人工智能企業(yè)可能涉及采集用戶信息，并且不當(dāng)存儲(chǔ)以及不當(dāng)用于促成商業(yè)成交的情況。針對(duì)這種情形，在權(quán)利救濟(jì)機(jī)制層面，從平衡商業(yè)服務(wù)和用戶感受的角度來看，如果通過訴訟，對(duì)人工智能企業(yè)某一個(gè)行為去起訴，對(duì)于消費(fèi)者來說是很大的一個(gè)負(fù)擔(dān)。我的建議是，特定社會(huì)公共機(jī)構(gòu)應(yīng)當(dāng)參照環(huán)境保護(hù)維權(quán)制度，設(shè)立集體救濟(jì)制度。因?yàn)闊o論是數(shù)據(jù)還是算法，對(duì)其需要具備較為專業(yè)性的判斷，因此需要存在一個(gè)集體來代表消費(fèi)者去對(duì)算法歧視或侵害不特定對(duì)象個(gè)人信息或者數(shù)據(jù)的行為進(jìn)行專業(yè)判斷。集體救濟(jì)制度的優(yōu)勢(shì)在于可以降低消費(fèi)者的維權(quán)成本，比如可以設(shè)計(jì)成針對(duì)有消費(fèi)者的有代表性的批量投訴，該集體把共性問題整理后，以專門機(jī)構(gòu)的角度，向人工智能企業(yè)或者互聯(lián)網(wǎng)企業(yè)提出整改要求。從行政監(jiān)管層面，建議網(wǎng)信部門及數(shù)據(jù)主管部門在現(xiàn)有網(wǎng)絡(luò)綜合治理體系基礎(chǔ)上，進(jìn)一步強(qiáng)化對(duì)算法運(yùn)行過程的動(dòng)態(tài)監(jiān)管能力，也建議消費(fèi)者、勞動(dòng)者用普適性的角度去解決問題，以此能夠讓當(dāng)前數(shù)據(jù)算法和用戶隱私保護(hù)之間形成平衡，更好地維護(hù)消費(fèi)者的利益。

 

翁冠星：我講一些跟徐律師觀點(diǎn)不一樣的看法。我是做國(guó)際爭(zhēng)議解決的，觀察到的風(fēng)險(xiǎn)點(diǎn)主要有以下兩點(diǎn)：第一，不加限制地使用，也就是主持人在引言里提到的一個(gè)很關(guān)鍵的點(diǎn)——換臉。換臉有一定的趣味性，我自己也會(huì)看手機(jī)里的一些視頻，但是這種技術(shù)越好，如果應(yīng)用在詐騙領(lǐng)域就越會(huì)引起嚴(yán)重后果。我們也碰到過許多案例，其不僅用在普通的民事領(lǐng)域，還用在一些商事領(lǐng)域。比如用AI換臉冒充公司老總，讓財(cái)務(wù)打錢，從視頻頭像到簽字到聲音，可以做到一模一樣。第二，在運(yùn)用的時(shí)候，比如律師或者專業(yè)人員也面臨著一個(gè)使用者道德的問題。剛才徐律師講的算法，底層邏輯是什么？它一定繞不開大數(shù)據(jù)和概率統(tǒng)計(jì)，這是深度思考里面絕對(duì)繞不開的概念。設(shè)想一下，對(duì)于有些東西，在輸入關(guān)鍵詞的時(shí)候，就可能違反了道德。答案越是正確，越會(huì)造成一些道德沖突，但是這些東西往往又會(huì)被專業(yè)人士用作素材，我們把它歸類為使用者道德陷阱。就可能會(huì)引發(fā)一些更為尖銳的矛盾。

 

朱培：正是因?yàn)樾录夹g(shù)帶來的法律風(fēng)險(xiǎn)點(diǎn)，才讓我們法律人有機(jī)會(huì)為新質(zhì)生產(chǎn)力提供法律供給。我們都知道在人工智能飛速發(fā)展以及商業(yè)化應(yīng)用的關(guān)鍵時(shí)期，以智能駕駛汽車為例，從2022年全國(guó)首部自動(dòng)駕駛法規(guī)——《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例》正式生效以來，多地也相繼出臺(tái)了與自動(dòng)駕駛相關(guān)的地方性法規(guī)。社會(huì)上關(guān)于我國(guó)是否應(yīng)該制定統(tǒng)一人工智能法，以統(tǒng)一當(dāng)前的分散式立法方式。有請(qǐng)王律師結(jié)合自己的實(shí)務(wù)經(jīng)驗(yàn)為我們分享一下，您認(rèn)為當(dāng)前人工智能法統(tǒng)一立法的時(shí)機(jī)和條件成熟了嗎？

 

王渝偉：首先說說我的判斷，我個(gè)人觀點(diǎn)是覺得時(shí)機(jī)不成熟。關(guān)于國(guó)內(nèi)是不是需要一部完整意義上的人工智能法案，大家討論很多，而且特別關(guān)注。因?yàn)橐呀?jīng)有歐盟的人工智能法在前，所以會(huì)不會(huì)出現(xiàn)與當(dāng)年個(gè)人數(shù)據(jù)保護(hù)領(lǐng)域的GDPR一樣，歐盟在人工智能領(lǐng)域首先立法之后全球開始效仿，即人工智能領(lǐng)域的“布魯塞爾效應(yīng)”。實(shí)際上這樣的討論是挺多的，業(yè)界也很關(guān)注，包括在法律研究和實(shí)務(wù)當(dāng)中，我們也看到國(guó)內(nèi)有一些研究機(jī)構(gòu)或者專家已經(jīng)在開始做了。比如我們看到出現(xiàn)了人工智能法專家稿、人工智能示范法等立法研究成果。但從我個(gè)人視角來看，我認(rèn)為這兩者存在顯著差異，我們不能效仿之前的個(gè)人數(shù)據(jù)領(lǐng)域的歐盟立法，畢竟歐盟的先行立法，尤其是 GDPR 的出臺(tái)，使其在全球個(gè)人數(shù)據(jù)治理格局中占據(jù)了舉足輕重的地位，甚至有人說歐盟是因?yàn)镚DRP的出臺(tái)，享受到了數(shù)據(jù)治理中的政策紅利。大家很關(guān)注，我們國(guó)家要不要效仿歐盟一樣，要盡快出臺(tái)一部人工智能領(lǐng)域的基礎(chǔ)立法，我覺得是不太一樣的。

我想澄清一個(gè)觀點(diǎn)，不要一部完整的人工智能立法和要不要人工智能相關(guān)的立法，這是兩個(gè)不同的概念，我支持的是目前我們可以有一些分散或者以風(fēng)險(xiǎn)為視角的相關(guān)人工智能治理、一些以風(fēng)險(xiǎn)治理為視角的立法，包括目前已經(jīng)有了的。比如我們?cè)谒惴I(lǐng)域當(dāng)中可以看到，比較早期的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，更多的是針對(duì)大數(shù)據(jù)殺熟這樣一個(gè)風(fēng)險(xiǎn)比較大或者受到社會(huì)高度關(guān)注的問題點(diǎn)，以這個(gè)為視角去做了相應(yīng)的立法。另外就是針對(duì)深度偽造的問題。實(shí)際上我們也有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，以及2023年8月15日發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》，也是針對(duì)當(dāng)時(shí)逐步發(fā)展起來的生成式人工智能服務(wù)所伴生的相應(yīng)風(fēng)險(xiǎn)而提出的人工智能治理文件。

所以在這個(gè)領(lǐng)域目前國(guó)內(nèi)是有相關(guān)的立法，我覺得人工智能領(lǐng)域的立法與個(gè)人數(shù)據(jù)領(lǐng)域不太一樣的地方就是數(shù)據(jù)或者個(gè)人隱私。它在歐盟乃至全球是一個(gè)已經(jīng)有很長(zhǎng)歷史和立法研究以及治理沿革的領(lǐng)域，或者說是有一定立法基礎(chǔ)的行業(yè)立法，歐盟在制定GDPR之前，實(shí)際上已經(jīng)有針對(duì)個(gè)人數(shù)據(jù)和隱私保護(hù)相關(guān)立法的，所以它不是從頭開始的。但是對(duì)于人工智能，特別是人工智能技術(shù)或者它的風(fēng)險(xiǎn)，目前來看，我覺得全球還處于一個(gè)比較早期的研究，包括對(duì)生成式人工智能等新技術(shù)的研究都是比較早期的。對(duì)于人工智能特別是新一代生成式人工智能技術(shù)發(fā)展以及技術(shù)可能造成的風(fēng)險(xiǎn)，在還沒有完整理解的情況下，起草一部完整意義的人工智能立法，時(shí)機(jī)是不成熟的，它可能會(huì)限制我們?cè)谠擃I(lǐng)域的創(chuàng)新，并且也不一定會(huì)帶來我們期望的風(fēng)險(xiǎn)防控。

 

翁冠星：我個(gè)人同意王律師的想法，我覺得統(tǒng)一立法和立法本身分開來看，立法很有必要，包括職業(yè)道德的問題，現(xiàn)有數(shù)據(jù)的提取、儲(chǔ)存、傳輸使用的問題，現(xiàn)在我們已經(jīng)有散見的規(guī)定在不同的法律里。如果一定要有建議，就是要把數(shù)字?jǐn)?shù)據(jù)的不恰當(dāng)運(yùn)用造成侵權(quán)以及賠償標(biāo)準(zhǔn)，包括是否要適用懲罰性賠償、舉證責(zé)任，以及舉證責(zé)任倒置的問題，必須由法律來決定，不能由法官自由裁量權(quán)決定，我覺得這一塊是必要的。至于統(tǒng)一立法，我個(gè)人的想法是，首先歐盟的GDPR并非善法。GDPR的存在導(dǎo)致歐盟法域以后很難出現(xiàn)任何形式的數(shù)據(jù)創(chuàng)新。為什么？因?yàn)閿?shù)據(jù)本身一定要在使用中體現(xiàn)價(jià)值，就好像我今天打車去哪里，每天回到哪里，每天最頻繁出現(xiàn)在哪里，這些信息對(duì)在座各位來說是沒用的，但對(duì)一個(gè)賣車的人可能是有用的。也就是說數(shù)據(jù)的使用如果規(guī)定太嚴(yán)，就會(huì)失去商業(yè)價(jià)值；而如果要把它的商業(yè)價(jià)值發(fā)揮到最大化，一定會(huì)導(dǎo)致被濫用，法律可能要在發(fā)展過程當(dāng)中尋找一個(gè)動(dòng)態(tài)的平衡。因此我首先覺得統(tǒng)一立法還沒有到時(shí)間點(diǎn)，但可以先守住最后一道關(guān)，即侵權(quán)。一旦侵權(quán)行為發(fā)生了，侵權(quán)結(jié)果怎么認(rèn)定？舉證責(zé)任的倒置形式，以及侵權(quán)結(jié)果即酌定標(biāo)準(zhǔn)是什么？然后就是過錯(cuò)的認(rèn)定，這些可以先把它通過法律規(guī)定下來，讓大家知道不能把技術(shù)用在不恰當(dāng)?shù)牡胤?，否則可能會(huì)被罰得很重。甚至再往前一步，民訴法里面把長(zhǎng)臂管轄也規(guī)定進(jìn)去。如果侵權(quán)結(jié)果發(fā)生在境外，但是跟中國(guó)主體有關(guān)聯(lián)，中國(guó)法院也可以管，那就是保護(hù)我們的企業(yè)走出去，這個(gè)事再進(jìn)一步可以規(guī)定一些程序事項(xiàng)，包括級(jí)別管轄、地域管轄，甚至長(zhǎng)臂管轄，我們可以規(guī)定進(jìn)去，一步步來會(huì)比較好。

 

徐凱：我的觀點(diǎn)是，目前發(fā)展較為成熟的大語言模型、以chatgpt為代表的技術(shù)路線也一直被挑戰(zhàn)，技術(shù)路線也隨可能被顛覆。未來在大模型、大語言模型發(fā)展過程，以及相關(guān)開源產(chǎn)業(yè)，中國(guó)企業(yè)也在為世界作出貢獻(xiàn)。人工智能產(chǎn)業(yè)還在工程學(xué)上發(fā)展，其發(fā)展理論仍有太多需要完善。因此無論是大語言模型，還是未來的具身智能，包括自動(dòng)駕駛的一些算法和數(shù)據(jù)發(fā)展過程中有太多的不確定性。我認(rèn)為只有當(dāng)在技術(shù)上、理論上有一個(gè)相對(duì)明確的階段，我們才有基礎(chǔ)去厘清各方的責(zé)任。所以，我認(rèn)為統(tǒng)一立法的時(shí)機(jī)和條件遠(yuǎn)沒有到來，如果強(qiáng)行做判斷，不僅是對(duì)產(chǎn)業(yè)的傷害，可能在觀念上也給整個(gè)社會(huì)帶來一些不必要的負(fù)擔(dān)。

 

朱培：對(duì)于人工智能的創(chuàng)新發(fā)展和法律合規(guī)方面，想先請(qǐng)教一下王律師，您有什么建議和提醒？對(duì)于尚沒有完善的法律體系，您認(rèn)為法律從業(yè)者和相關(guān)企業(yè)應(yīng)該如何提前布局，以應(yīng)對(duì)未來可能出臺(tái)的法律法規(guī)？如何提前布局，以同時(shí)避免布局以后要推倒重來的重復(fù)建設(shè)，想聽一下王律師對(duì)這個(gè)問題的看法。

 

王渝偉：我覺得企業(yè)應(yīng)該還是以風(fēng)險(xiǎn)為視角整體分層建立和完善合規(guī)治理機(jī)制，或者內(nèi)部風(fēng)險(xiǎn)治理機(jī)制。我們最近就碰到一個(gè)事，前段時(shí)間某省的衛(wèi)健委組織了一個(gè)內(nèi)部活動(dòng)，現(xiàn)在有很多公共機(jī)構(gòu)包括醫(yī)院都在大量接入Deepseek等大語言模型來做一些應(yīng)用創(chuàng)新，甚至有些會(huì)做本地化部署，在這過程中，可能潛在一些風(fēng)險(xiǎn)。當(dāng)時(shí)衛(wèi)健委的相關(guān)部門意識(shí)到，在做這個(gè)項(xiàng)目的時(shí)候，大量數(shù)據(jù)可能會(huì)在過程中傳輸給底層大模型，不管是做二次訓(xùn)練，還是直接作為知識(shí)庫做調(diào)用，實(shí)際上都會(huì)存在潛在數(shù)據(jù)風(fēng)險(xiǎn)，但是里面到底有什么法律風(fēng)險(xiǎn)，實(shí)際上他們沒有具體認(rèn)識(shí)。

目前國(guó)內(nèi)針對(duì)人工智能的一些法律法規(guī)，有框架也有一些具體規(guī)定，監(jiān)管方面發(fā)展和安全并重。我認(rèn)為企業(yè)不管從自身業(yè)務(wù)連續(xù)性發(fā)展視角，還是從規(guī)避法律風(fēng)險(xiǎn)視角出發(fā)，首先要搞清楚其在使用人工智能技術(shù)進(jìn)行創(chuàng)新研發(fā)以及應(yīng)用中到底面臨了哪些風(fēng)險(xiǎn)。目前在我所處的行業(yè)里面，做底層大模型或具體在應(yīng)用或者底層的研發(fā)方面，到底有什么風(fēng)險(xiǎn)，不僅僅要有具體的認(rèn)識(shí)，還可以借助外部一些咨詢機(jī)構(gòu)或評(píng)估工具，對(duì)一些主要的法律合規(guī)以及技術(shù)的風(fēng)險(xiǎn)，比如我們常常提到的、備受關(guān)注的知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、個(gè)人信息保護(hù)、模型幻覺等，包括數(shù)據(jù)跨境的問題，需要針對(duì)這些風(fēng)險(xiǎn)做完整評(píng)估，再來看哪些是最核心的風(fēng)險(xiǎn)，哪些是目前機(jī)構(gòu)在現(xiàn)有的資源需要盡早進(jìn)行合規(guī)風(fēng)險(xiǎn)治理的。我理解的風(fēng)險(xiǎn)治理是有一個(gè)時(shí)間先后順序的，需要企業(yè)根據(jù)自身情況以及外部的監(jiān)管要求做合理適時(shí)的安排。目前我們也做了全球人工智能領(lǐng)域相關(guān)立法的一些研究，看到了包括歐盟的人工智能法、美國(guó)以及其他經(jīng)濟(jì)體的立法動(dòng)向，以及國(guó)內(nèi)的生成式人工智能服務(wù)治理規(guī)定，實(shí)際上都有類似的安全風(fēng)險(xiǎn)評(píng)估或者類似的要求或規(guī)定，同時(shí)一些國(guó)際性組織和行業(yè)組織也在積極推動(dòng)一些自發(fā)性風(fēng)險(xiǎn)評(píng)估工具。我的建議是：可以先從識(shí)別風(fēng)險(xiǎn)基礎(chǔ)開始，根據(jù)企業(yè)本身的風(fēng)險(xiǎn)高低來做后面的一些合規(guī)工作。

 

翁冠星：法律合規(guī)方面，我還是建議先從負(fù)面清單開始做起。首先，這個(gè)行業(yè)剛起來，不能馬上用一個(gè)法律規(guī)范去約束它發(fā)展。既然這個(gè)行業(yè)正在蓬勃發(fā)展，而且還涉及中國(guó)參與到國(guó)際博弈的一個(gè)彎道超車的重要途徑，也可能是我們突破西方對(duì)我們進(jìn)行技術(shù)封鎖的一個(gè)非常重要的賽道。因此我覺得對(duì)于這個(gè)行業(yè)首先我們要以扶持為主，不能一上來就給太多限制，但是對(duì)于做法還是先以規(guī)定好底線為主，比如法律、侵權(quán)責(zé)任的擬定、舉證責(zé)任、管轄等。我們律協(xié)可以先規(guī)定，律師在執(zhí)業(yè)過程中，什么是絕對(duì)不能用人工智能技術(shù)的，或者人工智能產(chǎn)生的成果絕對(duì)不能對(duì)接到哪里。

這里要強(qiáng)調(diào)的是，有些內(nèi)容，如果AI使用結(jié)果直接反饋到人，那是沒有問題的。問題是如果這個(gè)結(jié)果繼續(xù)給到機(jī)器，就會(huì)出大問題。這也是過完新年以后，我們發(fā)現(xiàn)Deepseek變笨的一個(gè)很重要的原因。因?yàn)樗F(xiàn)在被“喂”的是被其他的人工AI產(chǎn)品“吐”出來的東西。我覺得可以先規(guī)定好底線。對(duì)于企業(yè)來說，有一個(gè)最基本的預(yù)期，可以在哪些地方用人工智能技術(shù)，比如可以用在內(nèi)部匯報(bào)，最終結(jié)果誰可以看到，不能用的地方有哪些，企業(yè)就有預(yù)期了。在給它劃定的一個(gè)范圍里面，可以大膽用，這是第二個(gè)。

第三，就是標(biāo)識(shí)。我知道現(xiàn)在很多媒體平臺(tái)都有一定要強(qiáng)制的標(biāo)識(shí)，這個(gè)強(qiáng)制標(biāo)識(shí)現(xiàn)在僅限于媒體，比如這個(gè)視頻是用AI制作，我覺得應(yīng)該通過立法強(qiáng)制，或者通過法律解釋、行業(yè)部門規(guī)章可以先做起來，可以使用AI，但是你必須標(biāo)注這個(gè)產(chǎn)品是用人工智能生成的，人工智能生成的形式是什么。后期又經(jīng)過了內(nèi)部的一些加工，這等于是一個(gè)強(qiáng)制標(biāo)記的要求，我覺得先把底線設(shè)好，讓這個(gè)行業(yè)發(fā)展到一定程度后，然后像王律講的，再慢慢往上加?xùn)|西，因?yàn)閿?shù)據(jù)方面已經(jīng)有這樣一些運(yùn)用。

最后，我個(gè)人建議，從我們做后期爭(zhēng)議解決的角度來說，在數(shù)據(jù)入表和數(shù)據(jù)產(chǎn)品的上市交易這一塊可能需要謹(jǐn)慎一點(diǎn)。因?yàn)榧夹g(shù)發(fā)展到一定程度，數(shù)據(jù)本身的估值可能有巨額浮動(dòng)，無論是運(yùn)用在目標(biāo)還是運(yùn)用在產(chǎn)品的掛牌交易上面，會(huì)導(dǎo)致它價(jià)值的不確定。在這樣的情況下，考慮到整個(gè)人工智能行業(yè)的大發(fā)展，我覺得在數(shù)據(jù)這塊是絕對(duì)的進(jìn)步。在肯定它進(jìn)步意義的前提下，入表也好，數(shù)據(jù)產(chǎn)品的交易也好，需謹(jǐn)慎處理。如果一定要做減法，在這兩塊可以有一些限制。

 

徐凱：我認(rèn)為現(xiàn)在企業(yè)根據(jù)自己的經(jīng)營(yíng)業(yè)務(wù)，可以分為核心技術(shù)創(chuàng)新型的人工智能企業(yè)和服務(wù)商業(yè)應(yīng)用類的企業(yè)。對(duì)于創(chuàng)新型企業(yè)，其實(shí)本身技術(shù)處于按周迭代、按天迭代的過程，它是輸出一個(gè)技術(shù)服務(wù)，只要符合現(xiàn)在安全的審核情況，技術(shù)服務(wù)的合規(guī)風(fēng)險(xiǎn)不太突出。對(duì)于應(yīng)用類的人工智能企業(yè)，在類似本地化部署過程中的問題，其本質(zhì)上是一個(gè)數(shù)據(jù)安全的問題，是需要行業(yè)從安全理論、技術(shù)措施、人才保障多方面完善的問題。我們當(dāng)下在“補(bǔ)課”數(shù)據(jù)安全，在于我們一直處于信息技術(shù)產(chǎn)業(yè)跟隨狀態(tài)，數(shù)據(jù)安全體系還做得不夠好。其次，服務(wù)商業(yè)應(yīng)用類企業(yè)要充分尊重現(xiàn)有的知識(shí)產(chǎn)權(quán)，保護(hù)他人的合法權(quán)益。做好以上兩點(diǎn)，目前從政府到市場(chǎng)都是充分包容和鼓勵(lì)的。

 

王渝偉：我補(bǔ)充一下，剛剛提到識(shí)別風(fēng)險(xiǎn)，我認(rèn)為在識(shí)別風(fēng)險(xiǎn)的基礎(chǔ)上，我們開展業(yè)務(wù)時(shí)，有時(shí)候會(huì)特別提醒客戶，對(duì)于合規(guī)的相關(guān)工作，建議盡早規(guī)劃并同步進(jìn)行布局。因?yàn)樽R(shí)別風(fēng)險(xiǎn)后，存在一系列工作需要落實(shí)，例如項(xiàng)目中的應(yīng)用是否需要后續(xù)進(jìn)行算法備案；又如企業(yè)新近出臺(tái)的標(biāo)識(shí)相關(guān)規(guī)定，將于9月1日起正式實(shí)施。此類工作實(shí)際上應(yīng)當(dāng)在開發(fā)應(yīng)用、構(gòu)建底層大模型等前期籌備階段就預(yù)先規(guī)劃，而不是等到整個(gè)項(xiàng)目開發(fā)完成后再著手處理，這是我的觀點(diǎn)。

第二個(gè)觀點(diǎn)，雖然我前面提到，開展合規(guī)工作必然會(huì)產(chǎn)生成本，但我們也意識(shí)到，合規(guī)有時(shí)不僅是成本支出，它有時(shí)已然成為企業(yè)的特殊競(jìng)爭(zhēng)優(yōu)勢(shì)。近期我們接觸到一家從事數(shù)字人業(yè)務(wù)的企業(yè)，由于該業(yè)務(wù)鏈條較長(zhǎng)，從基礎(chǔ)大模型研發(fā)到應(yīng)用落地，再到終端用戶使用，涉及多個(gè)環(huán)節(jié)與多樣主體。若企業(yè)提前完成合規(guī)布局，如為應(yīng)用完成算法備案獲取官方認(rèn)可，同時(shí)妥善處理版權(quán)等相關(guān)事宜，就能助力客戶在內(nèi)部審批流程中更加順暢；當(dāng)客戶尤為關(guān)注合規(guī)問題時(shí)，這些合規(guī)舉措反而會(huì)成為該企業(yè)產(chǎn)品或服務(wù)的顯著優(yōu)勢(shì)。由此可見，盡管前期合規(guī)工作會(huì)產(chǎn)生成本，但從長(zhǎng)遠(yuǎn)來看，它極有可能轉(zhuǎn)化為企業(yè)獨(dú)一無二的競(jìng)爭(zhēng)力。換言之，合規(guī)不僅是成本，更可能成為企業(yè)的核心競(jìng)爭(zhēng)力。

 

朱培：在人工智能技術(shù)快速發(fā)展的當(dāng)下，法律規(guī)范的重要性與緊迫性不言而喻。正如今天各位嘉賓分享的人工智能在應(yīng)用過程中已經(jīng)產(chǎn)生了相應(yīng)的法律風(fēng)險(xiǎn)，當(dāng)然在出現(xiàn)這些法律風(fēng)險(xiǎn)或問題后，我們需要發(fā)揮法律人的主觀能動(dòng)性，首先考量能否通過對(duì)現(xiàn)有法律進(jìn)行解釋從而有效解決人工智能帶來的各類風(fēng)險(xiǎn)問題，如果可以解決則制定新的統(tǒng)一法律就無必要。如果現(xiàn)行法律法規(guī)窮盡其解釋力仍無法有效解決上述問題，則再考慮分散立法進(jìn)行補(bǔ)充，最后在條件必要時(shí)考慮制定統(tǒng)一的人工智能法，仍應(yīng)考慮國(guó)家級(jí)產(chǎn)業(yè)戰(zhàn)略以促進(jìn)性立法為主基調(diào)。

其次，我們通常都說法律人是保守的，法律追求穩(wěn)定性，但是在人工智能時(shí)代，技術(shù)不斷更迭，我們法律人應(yīng)當(dāng)保持敏銳性，不斷快速學(xué)習(xí)、努力適應(yīng)快速發(fā)展的技術(shù)，及時(shí)調(diào)整自己的知識(shí)儲(chǔ)備。感謝各位嘉賓的積極參與，期待未來能有更多類似的交流活動(dòng)，持續(xù)關(guān)注人工智能法律問題，共同推動(dòng)人工智能技術(shù)健康有序發(fā)展，為社會(huì)創(chuàng)造更大價(jià)值。

 

（本文內(nèi)容根據(jù)錄音整理，系嘉賓個(gè)人觀點(diǎn)，整理時(shí)間：2025 年4月28日）