中新經(jīng)緯11月22日電 題：企業(yè)需承擔(dān)保障人工智能安全的主體責(zé)任

　　作者 陳兵 南開(kāi)大學(xué)競(jìng)爭(zhēng)法研究中心主任、法學(xué)院副院長(zhǎng)

　　陳兵(圖片由本人提供)

　　在2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)上，“安全”成為備受矚目的話題之一。人工智能技術(shù)飛速進(jìn)步，其在自動(dòng)駕駛、醫(yī)療、金融等關(guān)鍵領(lǐng)域的應(yīng)用日益廣泛，同時(shí)也帶來(lái)了前所未有的安全挑戰(zhàn)。

　　在自動(dòng)駕駛領(lǐng)域，車輛與外部環(huán)境的復(fù)雜交互以及對(duì)實(shí)時(shí)數(shù)據(jù)處理的高度依賴，使得傳感器故障、通信中斷、惡意軟件入侵等風(fēng)險(xiǎn)更加突出。醫(yī)療領(lǐng)域中，人工智能模型訓(xùn)練數(shù)據(jù)的準(zhǔn)確性和完整性至關(guān)重要，一旦數(shù)據(jù)出現(xiàn)問(wèn)題，可能導(dǎo)致嚴(yán)重的醫(yī)療事故。金融領(lǐng)域則面臨著智能算法的黑箱特性帶來(lái)的潛在風(fēng)險(xiǎn)，以及網(wǎng)絡(luò)詐騙手段的不斷升級(jí)。這些挑戰(zhàn)與傳統(tǒng)信息技術(shù)安全問(wèn)題相比，更加復(fù)雜且影響深遠(yuǎn)。

　　為應(yīng)對(duì)人工智能技術(shù)的快速發(fā)展所帶來(lái)的多方面安全挑戰(zhàn)，可以利用人工智能自身技術(shù)特性增強(qiáng)安全性。例如，采用量子加密等先進(jìn)技術(shù)提高加密強(qiáng)度，利用人工智能算法進(jìn)行智能檢測(cè)以快速發(fā)現(xiàn)并修復(fù)系統(tǒng)漏洞，以及研究對(duì)抗生成網(wǎng)絡(luò)等技術(shù)提高系統(tǒng)對(duì)惡意攻擊的抵御能力。

　　企業(yè)在開(kāi)發(fā)和應(yīng)用人工智能產(chǎn)品與服務(wù)時(shí)，應(yīng)承擔(dān)起保障數(shù)據(jù)安全、確保算法公平公正、進(jìn)行充分的安全測(cè)試等安全責(zé)任。為建立有效的內(nèi)部安全管理體系，企業(yè)應(yīng)從完善安全制度、加強(qiáng)員工安全培訓(xùn)、設(shè)立安全監(jiān)督崗位等方面入手，并定期進(jìn)行安全評(píng)估和風(fēng)險(xiǎn)預(yù)警。

　　中國(guó)人民大學(xué)校長(zhǎng)林尚立在會(huì)上表示，應(yīng)構(gòu)建人工智能安全治理的政策法規(guī)和制度體系，持續(xù)夯實(shí)網(wǎng)絡(luò)法治基礎(chǔ)，規(guī)范人工智能在法律、倫理和人道主義層面的價(jià)值取向，確保人工智能安全、可靠、可控。盡管人工智能發(fā)展已經(jīng)取得了一定成果，但在技術(shù)支撐體系、管理策略實(shí)施及監(jiān)測(cè)評(píng)估機(jī)制上仍需強(qiáng)化。數(shù)據(jù)隱私保護(hù)和機(jī)器責(zé)任問(wèn)題是當(dāng)前亟待解決的難題，需要建立更強(qiáng)有力且適當(dāng)?shù)谋O(jiān)管框架，并明確相關(guān)的法律體系。(中新經(jīng)緯APP)

　　中新經(jīng)緯版權(quán)所有，未經(jīng)授權(quán)，不得轉(zhuǎn)載或以其他方式使用。

責(zé)任編輯：孫慶陽(yáng)