智東西（公眾號：zhidxcom）
作者|?徐珊
編輯|?云鵬
智東西7月31日消息，據(jù)外媒Tech Xplore報道，康奈爾大學(xué)的研究人員發(fā)現(xiàn)惡意代碼很容易隱藏在AI的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，并且人們難以察覺。
研究團(tuán)隊嘗試將惡意代碼嵌入到一個名為“AlexNet”AI的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，隨后他們發(fā)現(xiàn)不僅常見的殺毒軟件無法發(fā)現(xiàn)惡意代碼件的存在，而且AI被惡意代碼感染之后，運(yùn)行狀態(tài)也不會發(fā)生變化，人們也更難以察覺系統(tǒng)中存在惡意代碼。因此，如果不法分子利用這樣的方式入侵AI中，將會很容易盜竊系統(tǒng)里的重要數(shù)據(jù)。
研究人員表示，在此次實驗中，他們將惡意代碼添加到神經(jīng)網(wǎng)絡(luò)系統(tǒng)中最容易入侵的注入層（injection）。此外，他們選擇的是已經(jīng)訓(xùn)練過的AI系統(tǒng)，而不法分子們可能更愿意選擇一些從未經(jīng)過訓(xùn)練的AI神經(jīng)網(wǎng)絡(luò)系統(tǒng)，這樣入侵起來會更加方便。
研究人員指出，如果簡單地向AI添加一段惡意代碼，AI模型并不會受到傷害，因為無論誰將代碼插入到AI模型中，都需要找到該代碼的執(zhí)行方式。但如果將惡意代碼入侵到AI的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，惡意代碼會模仿神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)運(yùn)作，悄無聲息地“融入”到AI的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中。
他們表示，現(xiàn)在人們注意到黑客可以將惡意代碼隱藏在AI的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中后，可以設(shè)計出更加全面的防病毒軟件，以免用戶損失。
結(jié)語：AI時代，技術(shù)與安全應(yīng)并行
康奈爾大學(xué)的研究人員發(fā)現(xiàn)，惡意代碼入侵AI的神經(jīng)網(wǎng)絡(luò)系統(tǒng)后，能在無聲無息中對用戶的數(shù)據(jù)安全以及財產(chǎn)造成較大的威脅。
隨著AI技術(shù)快速發(fā)展，AI已經(jīng)逐漸滲入日常生活的各個角落中，但我們也需要關(guān)注AI技術(shù)背后的安全漏洞，因為這些安全漏洞可能會成為威脅到國家安全的“武器”。近期，俄羅斯黑客組織REvil在9個月內(nèi)入侵了近180家公司，300家組織，甚至讓美國部分能源公司全面癱瘓。
因此，面對AI時代的快速發(fā)展，AI時代的安全是不可避免的重要話題，技術(shù)應(yīng)與安全并行。
來源：Tech Xplore
