中新網(wǎng)上海2月28日電 (記者 鄭瑩瑩)從ChatGPT到Sora，路在何方新一代人工智能在收獲大量關(guān)注的模型同時(shí)，也引發(fā)安全擔(dān)憂。安全線上買球APP28日在滬舉辦的路在何方2024上海網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新大會(huì)上，業(yè)界人士圍繞大模型安全話題展開探討。模型

2月28日，安全2024上海網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新大會(huì)在滬舉行。路在何方圓桌論壇上，模型業(yè)界人士圍繞大模型安全話題展開探討。安全中新網(wǎng)記者 鄭瑩瑩 攝

　　“大模型是路在何方一把‘雙刃劍’，它既能幫助行業(yè)解決很多問(wèn)題，模型又會(huì)引起很多問(wèn)題。安全”中國(guó)信通院華東分院院長(zhǎng)廖運(yùn)發(fā)說(shuō)。路在何方

　　他表示，模型現(xiàn)在人工智能發(fā)展非?；鸨踩?strong>線上買球APP尤其是大模型，從ChatGPT到Sora都引起了大家的關(guān)注，該院一方面助力上海打造大模型產(chǎn)業(yè)生態(tài)，另一方面也關(guān)注人工智能引起的一些安全擔(dān)憂，在基礎(chǔ)設(shè)施、數(shù)據(jù)隱私、內(nèi)容安全等方面與業(yè)界攜手探索。

　　上海交通大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副院長(zhǎng)王士林認(rèn)為，可以從兩個(gè)角度看待人工智能與安全的關(guān)系。其一，可以用大模型技術(shù)來(lái)解決行業(yè)一些安全問(wèn)題，包括內(nèi)容安全等。隨著大模型能力的提升，相關(guān)領(lǐng)域的AI賦能水平也會(huì)隨之提升。其二，新的大模型本身會(huì)造成新的威脅，比如生成式AI生成人臉圖像，可能造成社會(huì)問(wèn)題。因此，相關(guān)部門需要研究如何進(jìn)行相應(yīng)的監(jiān)管。

　　商湯科技信息安全委員會(huì)負(fù)責(zé)人吳友勝?gòu)囊幻畔踩珡臉I(yè)者的角度分享了他看到的行業(yè)變化。據(jù)他介紹，一方面，大模型的引入讓業(yè)界可以更自動(dòng)化地去處理一些流程化的工作，規(guī)避一些低級(jí)錯(cuò)誤，減少相關(guān)領(lǐng)域的安全風(fēng)險(xiǎn)。行業(yè)出現(xiàn)了AI賦能安全方面的一些好產(chǎn)品，這些產(chǎn)品涉及威脅的預(yù)測(cè)、漏洞的管理等等。

　　另一方面，他指出，在AI賦能安全這個(gè)方向上，路程還很遙遠(yuǎn)。這一領(lǐng)域既需要提升數(shù)據(jù)的規(guī)模與質(zhì)量、提升算力水平，也需要既懂AI又懂安全的專業(yè)人才。吳友勝認(rèn)為，在AI安全方面，風(fēng)險(xiǎn)與挑戰(zhàn)并存，業(yè)界需要在重視利用技術(shù)的同時(shí)，從監(jiān)管層面更好地確保“利劍”為行業(yè)賦能，而非給行業(yè)帶來(lái)災(zāi)難。

　　翼方健數(shù)技術(shù)總監(jiān)孫維東說(shuō)，企業(yè)在試圖用大模型賦能自身發(fā)展的過(guò)程中，首先關(guān)注安全問(wèn)題，因?yàn)楹芏嗌虡I(yè)機(jī)密和敏感數(shù)據(jù)是需要由大模型進(jìn)行處理的；不同行業(yè)對(duì)安全的需求也存在比較大的差異。他表示，業(yè)界還在等待大模型生態(tài)穩(wěn)定下來(lái)，等待更多安全技術(shù)涌現(xiàn)。(完)