①英國(guó)官員日前警告公司不要將AI聊天機(jī)器人整合到他們的業(yè)務(wù)中，稱(chēng)越來(lái)越多的研究表明，它們可能被誘騙執(zhí)行有害任務(wù)。

②英國(guó)國(guó)家網(wǎng)絡(luò)安全中心（NCSC）表示，專(zhuān)家們尚未掌握與大型語(yǔ)言模型相關(guān)的潛在安全問(wèn)題。

財(cái)聯(lián)社8月31日訊（編輯 卞純）英國(guó)官員日前警告公司不要將人工智能（AI）聊天機(jī)器人整合到他們的業(yè)務(wù)中，稱(chēng)越來(lái)越多的研究表明，它們可能被誘騙執(zhí)行有害任務(wù)。

(資料圖)

英國(guó)國(guó)家網(wǎng)絡(luò)安全中心（NCSC）在周三發(fā)表的兩篇博客文章中表示，專(zhuān)家們尚未掌握與可以生成類(lèi)似人類(lèi)互動(dòng)的算法（大型語(yǔ)言模型）相關(guān)的潛在安全問(wèn)題。

人工智能工具目前正以聊天機(jī)器人方式實(shí)現(xiàn)一些早期運(yùn)用，一些人設(shè)想，聊天機(jī)器人不僅可以取代互聯(lián)網(wǎng)搜索，還會(huì)取代客戶服務(wù)工作和電話銷(xiāo)售。

NCSC表示，這樣做可能帶來(lái)風(fēng)險(xiǎn)，尤其是如果此類(lèi)模型被嵌入公司的重要業(yè)務(wù)流程時(shí)。學(xué)者和研究人員已經(jīng)多次發(fā)現(xiàn)，如果輸入惡意指令或欺騙它繞過(guò)內(nèi)建的防護(hù)機(jī)制，就可以擾亂聊天機(jī)器人。

例如，如果黑客正確下達(dá)指令，那么銀行部署的AI聊天機(jī)器人可能會(huì)被誘騙執(zhí)行一筆未經(jīng)授權(quán)的交易。

“公司在利用大語(yǔ)言模型搭建服務(wù)時(shí)需要小心，就像它們?cè)谑褂锰幱跍y(cè)試階段的產(chǎn)品或代碼庫(kù)的時(shí)候一樣?！盢CSC表示?！八鼈儾粫?huì)讓那種產(chǎn)品參與代表客戶進(jìn)行交易的工作，而且也不會(huì)完全信任這樣的產(chǎn)品。同樣的審慎也適用于大語(yǔ)言模型?！?/p>

AI安全成全球關(guān)注焦點(diǎn)

眼下，世界各國(guó)政府都在努力應(yīng)對(duì)大語(yǔ)言模型的崛起，比如OpenAI的ChatGPT，企業(yè)正在將其納入廣泛的服務(wù)中，包括銷(xiāo)售和客戶服務(wù)。人工智能的安全影響也成為人們關(guān)注的焦點(diǎn)，美國(guó)和加拿大當(dāng)局表示，他們已經(jīng)看到黑客采用了這項(xiàng)技術(shù)。

路透社/益普索最近的一項(xiàng)調(diào)查發(fā)現(xiàn)，許多企業(yè)員工都在使用ChatGPT這樣的工具來(lái)幫助完成基本任務(wù)，比如起草電子郵件、總結(jié)文件和進(jìn)行初步研究。

約10%的受訪者表示，他們的老板明確禁止使用外部人工智能工具，而四分之一的人不知道他們的公司是否允許使用這項(xiàng)技術(shù)。

網(wǎng)絡(luò)安全公司RiverSafe的首席技術(shù)官Oseloka Obiora表示，如果企業(yè)領(lǐng)導(dǎo)人未能引入必要的檢查，將人工智能融入商業(yè)實(shí)踐將產(chǎn)生“災(zāi)難性后果”。

“高管們應(yīng)該三思，而不是盲目追隨最新的人工智能趨勢(shì)?！彼Q(chēng)?！霸u(píng)估收益和風(fēng)險(xiǎn)，并實(shí)施必要的網(wǎng)絡(luò)保護(hù)，以確保公司免受傷害?！?/p>

關(guān)鍵詞：