機(jī)器通過(guò)處理從傳感器收集的數(shù)據(jù)來(lái)學(xué)習(xí)的能力，是自動(dòng)駕駛汽車(chē)，醫(yī)療設(shè)備和許多其他新興技術(shù)的基礎(chǔ)。普林斯頓大學(xué)的研究人員發(fā)現(xiàn)，這種學(xué)習(xí)能力使系統(tǒng)容易受到黑客的攻擊。

普林斯頓大學(xué)研究團(tuán)隊(duì)研究了應(yīng)用于人工智能(AI)的對(duì)抗策略如何例如欺騙交通效率系統(tǒng)導(dǎo)致僵局或操縱與健康相關(guān)的AI應(yīng)用程序以揭示患者的私人醫(yī)療狀況。歷史。作為這種攻擊的一個(gè)例子，該團(tuán)隊(duì)將駕駛機(jī)器人對(duì)道路標(biāo)志的感知從限速更改為“停止”標(biāo)志，這可能導(dǎo)致車(chē)輛以高速公路速度危險(xiǎn)地剎車(chē)。在其他示例中，他們將停車(chē)標(biāo)志更改為多種其他交通指示。

普林斯頓大學(xué)電氣工程系首席研究員兼副教授Prateek Mittal說(shuō)：“如果機(jī)器學(xué)習(xí)是未來(lái)的軟件，那么我們將在確保其安全的基礎(chǔ)上邁出第一步。” “為了使機(jī)器學(xué)習(xí)技術(shù)發(fā)揮其全部潛力，我們必須了解在對(duì)手面前機(jī)器學(xué)習(xí)的工作原理。那就是我們面臨的巨大挑戰(zhàn)。”

正如軟件容易受到計(jì)算機(jī)病毒的攻擊和感染，或者其欺詐者通過(guò)網(wǎng)絡(luò)釣魚(yú)和其他破壞安全性的手段將其作為用戶的目標(biāo)一樣，基于AI的應(yīng)用程序也具有自身的漏洞。然而，適當(dāng)保障措施的部署滯后。到目前為止，大多數(shù)機(jī)器學(xué)習(xí)的開(kāi)發(fā)都發(fā)生在良性，封閉的環(huán)境中，與現(xiàn)實(shí)世界截然不同。