日日噜噜噜夜夜爽亚洲精品_欧美视频在线观看一区_久久久久久久久久久久久久久99_成人在线视频网站_国产丝袜美腿一区二区三区_亚洲黄页视频免费观看_国产成+人+综合+亚洲欧洲_日韩一级精品视频在线观看_欧美激情极品视频_亚洲精品国产精品国自产在线

(資料圖片僅供參考)

北京日報(bào)客戶端 | 記者 孫奇茹

熱到發(fā)燙的ChatGPT近期不斷占據(jù)媒體和社交網(wǎng)絡(luò)的頭條。在給眾多行業(yè)帶來巨大想象空間的同時(shí)，其帶來的安全與技術(shù)倫理問題也備受關(guān)注。奇安信人工智能研究院負(fù)責(zé)人透露，公司正在基于ChatGPT相關(guān)技術(shù)和自身積累的海量安全知識和數(shù)據(jù)，訓(xùn)練奇安信專有的類ChatGPT安全大模型。

如同其他人工智能模型一樣，ChatGPT是把雙刃劍，既可以是提升效率的工具，解答人們的各種問題、創(chuàng)造出大學(xué)水平的論文，甚至編寫代碼，但同時(shí)也可能繞過安全機(jī)制，被用于實(shí)施有害的活動(dòng)。“比如，對網(wǎng)絡(luò)安全行業(yè)來說，既可以用來編寫網(wǎng)絡(luò)釣魚、生成惡意軟件、開展社工攻擊，也可以成為網(wǎng)絡(luò)防御者的有力工具。”虎符智庫研究員李建平說。

據(jù)了解，網(wǎng)絡(luò)犯罪分子使用 ChatGPT 造成的“最緊迫和常見的威脅”主要包括網(wǎng)絡(luò)釣魚、社會(huì)工程和惡意軟件開發(fā)。以社會(huì)工程為例，研究人員發(fā)現(xiàn)，ChatGPT 等工具使犯罪分子能夠逼真地模擬各種社會(huì)環(huán)境，從而使各種針對性的通信攻擊更加有效，這類語言模型提供支持的工具，使攻擊者更易誘騙受害者提供敏感信息或下載惡意軟件，加速從網(wǎng)絡(luò)釣魚到傳播仇恨言論的各種攻擊。

ChatGPT等人工智能工具會(huì)以比人類罪犯更快的速度制造出新的、日益智能的威脅，傳播威脅的速度也會(huì)將超過網(wǎng)絡(luò)安全人員的反應(yīng)速度。如何應(yīng)對這一新挑戰(zhàn)？網(wǎng)絡(luò)安全業(yè)界人士認(rèn)為，跟上這一變化的唯一方法是——通過使用人工智能來應(yīng)對人工智能。

李建平分析，一方面，網(wǎng)絡(luò)安全行業(yè)的研究人員、從業(yè)者、學(xué)術(shù)和企業(yè)可以利用ChatGPT的力量進(jìn)行創(chuàng)新和協(xié)作，包括漏洞發(fā)現(xiàn)、事件響應(yīng)和釣魚檢測。與此同時(shí)，隨著ChatGPT等類似工具的發(fā)展，未來開發(fā)新的網(wǎng)絡(luò)安全工具更加重要。安全企業(yè)應(yīng)更積極地開發(fā)和部署基于行為（而非規(guī)則）的AI安全工具，來檢測人工智能生成的攻擊。

奇安信相關(guān)負(fù)責(zé)人稱，ChatGPT是使用了互聯(lián)網(wǎng)數(shù)據(jù)及部分由標(biāo)注人員人工編寫的對話數(shù)據(jù)，利用人類反饋強(qiáng)化學(xué)習(xí)（RLHF）技術(shù)及自有的GPT3.5大模型進(jìn)行訓(xùn)練而成的。相關(guān)的強(qiáng)化學(xué)習(xí)、大語言模型等技術(shù)，奇安信團(tuán)隊(duì)已經(jīng)有長時(shí)間實(shí)踐并取得了一些成果，公司已經(jīng)開展了ChatGPT在網(wǎng)絡(luò)安全領(lǐng)域應(yīng)用的研究和探索，目前正在訓(xùn)練的類ChatGPT安全大模型未來將廣泛應(yīng)用于安全產(chǎn)品開發(fā)、威脅檢測、漏洞挖掘、安全運(yùn)營及自動(dòng)化、攻防對抗、反病毒、威脅情報(bào)分析和運(yùn)營、涉網(wǎng)犯罪分析等領(lǐng)域。

標(biāo)簽： 網(wǎng)絡(luò)安全 人工智能 惡意軟件