網(wǎng)絡(luò)犯罪分子也喜歡用人工智能，部門機(jī)構(gòu)挑戰(zhàn)升級(jí)
一直以來，金融機(jī)構(gòu)都和網(wǎng)絡(luò)犯罪處于長期拉鋸中，而人工智能技術(shù)可能讓戰(zhàn)事升級(jí)。
人工智能技術(shù)正在幫助銀行的網(wǎng)絡(luò)安全團(tuán)隊(duì)洞察并處理違規(guī)行為。不過，人工智能也會(huì)創(chuàng)造出新的系統(tǒng)漏洞，這是由于機(jī)器被賦予控制權(quán)的同時(shí)也為發(fā)生錯(cuò)誤和偽造行為提供了機(jī)會(huì)。從另一個(gè)角度來看，庫卡機(jī)器人何服電機(jī)維修，人工智能還可以提升攻擊者的工作效率。例如，在去年發(fā)生的那起黑客攻擊事件中，Petya惡意軟件就利用人工智能來識(shí)別漏洞，可以每秒掃描數(shù)百萬個(gè)端口來發(fā)現(xiàn)攻擊的突破口。
「人工智能是一把錘子，可以用來行善，也可用來作惡，」普華永道合伙人、負(fù)責(zé)人兼網(wǎng)絡(luò)安全和隱私部門負(fù)責(zé)人JimFox說道，「如果你的對(duì)手有一把錘子，你最好也有一把�！�
人工智能軟件能夠監(jiān)視所有的網(wǎng)絡(luò)活動(dòng)，并快速辨別出可能出現(xiàn)違規(guī)的行為模式。隨著時(shí)間的推移，人工智能系統(tǒng)可以辨別出常規(guī)模式中真正的可疑行為，哪怕這種模式在之前從未被標(biāo)記過。
去年的Petya惡意軟件攻擊是「以機(jī)器的速度」在做決策，一位網(wǎng)絡(luò)安全專家說道，庫卡機(jī)器人，「沒有人指導(dǎo)這個(gè)惡意軟件。他們編寫了一個(gè)智能程序來完成所有的工作�！�
紐約投資銀行Greenhill&Co.的首席信息官JohnShaffer找到了一個(gè)更好的方式來應(yīng)對(duì)零日漏洞攻擊（zero-dayattack）。
「我們現(xiàn)在處理的大多數(shù)攻擊事件都不是通過傳統(tǒng)工具解決的，比如基于簽名的防病毒軟件，或者其它與簽名有關(guān)的東西�！筍haffer說道，「真正的攻擊程序知道如何對(duì)付這些工具。真正有趣的是嘗試找出那些聰明的程序在做什么。這就是機(jī)器學(xué)習(xí)和人工智能發(fā)揮作用的地方�！�
Shaffer安裝了Vectra公司基于人工智能的系統(tǒng)，該系統(tǒng)可以監(jiān)管Greenhill公司所有的網(wǎng)絡(luò)流量。它能夠發(fā)現(xiàn)那些標(biāo)準(zhǔn)入侵檢測(cè)軟件看不到的異常，他解釋說�；谌斯ぶ悄芑蛟鰪�(qiáng)型網(wǎng)絡(luò)安全產(chǎn)品的供應(yīng)商還包括IBM、Darktrace、FireEye和McAfee。
在Shaffer部署這個(gè)軟件時(shí)，系統(tǒng)立即發(fā)現(xiàn)了銀行網(wǎng)絡(luò)中一些奇怪的流量模式，而在這之前，這些工作是由公司自己的漏洞掃描器負(fù)責(zé)。
「對(duì)很多系統(tǒng)來說，這就像是有人在掃描你的網(wǎng)絡(luò)，」Shaffer說道。
Vectra的軟件并不像絕大多數(shù)的安全系統(tǒng)那樣會(huì)發(fā)出大量警告，一天的發(fā)送量在10條左右。同時(shí)無需人工編寫規(guī)則，而是系統(tǒng)自己去學(xué)習(xí)正常行為和違規(guī)行為之間的差異，這為網(wǎng)絡(luò)安全人員節(jié)省了大量的時(shí)間和精力。
人工智能的黑暗面
美國情報(bào)界對(duì)人工智能的使用憂心忡忡：人工智能不僅會(huì)增加網(wǎng)絡(luò)攻擊漏洞、增加事故發(fā)生的風(fēng)險(xiǎn)，還能催生外國組織利用技術(shù)升級(jí)武器和情報(bào)系統(tǒng)，同時(shí)加重了私營部門和金融機(jī)構(gòu)擔(dān)負(fù)的責(zé)任。
「美國政府已經(jīng)表示，如果一切都由機(jī)器運(yùn)作而不再有人為干預(yù)，那么人工智能就是我們的全部執(zhí)法力量、一切人類事務(wù)的總把關(guān)人，」多倫多公司DuhaimeLaw一位律師Christine說道，「所以，我們的互聯(lián)性越強(qiáng)，使用系統(tǒng)判定安全性、良性或惡性的比例就越高，系統(tǒng)就會(huì)越容易受到攻擊，因?yàn)槲覀兙谷恢竿到y(tǒng)能夠比想要傷害我們的外國黑客更聰明且更優(yōu)秀�！�
她還指出，政府擔(dān)心人工智能可能會(huì)增加事故發(fā)生的風(fēng)險(xiǎn)，并大幅增加私營部門和金融機(jī)構(gòu)肩負(fù)的責(zé)任。換句話說，系統(tǒng)的自行決策程度越高，就越有可能犯下一個(gè)難以挽回的大錯(cuò)誤。
「例如，系統(tǒng)搞錯(cuò)了付款對(duì)象，而那個(gè)人已經(jīng)走了，或者是顛倒了一群交易對(duì)象，或是將100萬美元付給了1000個(gè)人，」Duhaime說道，「如果系統(tǒng)遭到大規(guī)模曝光，那么很多人的個(gè)人信息將被不法分子利用，可能面臨被勒索的威脅。具有超強(qiáng)計(jì)算能力的流氓軟件會(huì)解碼我們的系統(tǒng)，而且能夠?qū)ξ覀兊年P(guān)鍵金融基礎(chǔ)設(shè)施實(shí)施各種破壞性行為。從歷史的角度看，私營部門從未在網(wǎng)絡(luò)安全方面投入足夠多的資金�？墒侵挥羞@么做，才能發(fā)現(xiàn)漏洞。」
鑒于網(wǎng)絡(luò)犯罪分子使用人工智能的現(xiàn)實(shí)，私營部門更有理由以其之道防患于未然，普華永道的Fox在援引Petya的例子時(shí)說到。「這些決策是以機(jī)器的水準(zhǔn)和速度制定的，」他說，「沒有人指導(dǎo)這個(gè)惡意軟件。他們編寫了一個(gè)智能程序來完成所有的工作�！�
有一家銀行配備了強(qiáng)大的網(wǎng)絡(luò)安全系統(tǒng)和人工智能工具，卻在兩分鐘內(nèi)被Petya感染了14000臺(tái)機(jī)器。Fox說：「人工智能系統(tǒng)在五分鐘內(nèi)便通知到網(wǎng)絡(luò)安全團(tuán)隊(duì)，庫卡機(jī)器人何服電機(jī)維修，報(bào)告了一些可能帶有惡意的異常事件，并做了鎖定和關(guān)閉所有機(jī)器的決策�！�
罪犯如何使用人工智能
McAfee公司首席技術(shù)官SteveGrobman也指出，新技術(shù)的出現(xiàn)會(huì)引來守法者，也會(huì)招致網(wǎng)絡(luò)罪犯。
「金融領(lǐng)域有如此多網(wǎng)絡(luò)犯罪的原因在于，這是一個(gè)非常有效且低風(fēng)險(xiǎn)的偷錢方法，罪犯只會(huì)遭到逮捕和起訴。」Grobman說，McAfee正在學(xué)習(xí)「對(duì)抗性機(jī)器學(xué)習(xí)技術(shù)」。
「我們正在研究惡意軟件究竟是如何對(duì)模型產(chǎn)生不良影響�！顾忉尩�，騙子們可能會(huì)把經(jīng)過專門制作的數(shù)據(jù)引入到數(shù)據(jù)集中，這樣模型在未來查看數(shù)據(jù)時(shí)就更難發(fā)現(xiàn)它的問題。
或者，他們可能會(huì)向輸入數(shù)據(jù)集中添加噪聲或虛假信號(hào)，從而使提取真實(shí)信號(hào)的過程變得更加困難。
「如果你成功令防衛(wèi)系統(tǒng)頻繁誤報(bào)，網(wǎng)絡(luò)安全人員將不得不重新調(diào)整其模型，」Grobman說。他做了一個(gè)比喻：如果一個(gè)小偷想闖入一個(gè)有警報(bào)系統(tǒng)的房子，他可能會(huì)在每晚11點(diǎn)鐘騎車經(jīng)過房子，故意激活警報(bào)。幾周后，房主會(huì)對(duì)這個(gè)警報(bào)系統(tǒng)厭倦，不是校準(zhǔn)警報(bào)系統(tǒng)的敏感度，就是把這個(gè)系統(tǒng)系統(tǒng)關(guān)掉。這時(shí)，小偷就有了可乘之機(jī)。
惡意軟件也開始使用人工智能來自動(dòng)化先前人類的工作，Grobman說。例如，利用電郵或社交媒體搜索的歷史記錄，人工智能可以生成千人千面的魚叉式網(wǎng)絡(luò)釣魚郵件，即黑客會(huì)偽裝成接收者認(rèn)識(shí)的人并向其發(fā)送電子郵件來套取密碼等信息。
他補(bǔ)充道：「人類無需為每個(gè)人量身定制內(nèi)容，軟件可以自動(dòng)創(chuàng)造出適合每一個(gè)人的內(nèi)容，從而可以提高受害者的轉(zhuǎn)化率�！�
Grobman對(duì)政府面向人工智能的警告感慨萬千。