日前，360網(wǎng)絡(luò)安全北美研究院負(fù)責(zé)人，360 IoT安全研究院院長(zhǎng)李康與360智能網(wǎng)聯(lián)汽車安全實(shí)驗(yàn)室總監(jiān)張青聯(lián)合宣布360的一項(xiàng)全新研究成果，可為人工智能的算法測(cè)試尤其是智能汽車的測(cè)試提供了一把“尺子”，簡(jiǎn)單理解就是人工智能算法的調(diào)試器。

　　這把“尺子”什么樣

　　李康表示，深度學(xué)習(xí)系統(tǒng)是基于分層統(tǒng)計(jì)學(xué)方法得到的結(jié)論，和傳統(tǒng)的計(jì)算機(jī)軟件系統(tǒng)不一樣，并沒(méi)有專門(mén)的測(cè)試平臺(tái)對(duì)系統(tǒng)進(jìn)行測(cè)試和調(diào)試。

　　“傳統(tǒng)的軟件測(cè)試我們有污點(diǎn)跟蹤、覆蓋測(cè)試等各種方法，而對(duì)于深度學(xué)習(xí)測(cè)試來(lái)說(shuō)，工程師面對(duì)的是一個(gè)黑盒。”李康說(shuō)道。

　　人工智能時(shí)代的大數(shù)據(jù)就是過(guò)去的源代碼，而對(duì)于現(xiàn)階段機(jī)器學(xué)習(xí)測(cè)試來(lái)講，更多是依靠數(shù)據(jù)測(cè)試，人肉測(cè)試。所以我們也能看到Uber等無(wú)人駕駛汽車在實(shí)際道路上反復(fù)駕駛測(cè)試，但是對(duì)于測(cè)試人員來(lái)說(shuō)，并不知道數(shù)據(jù)之中的邏輯，也無(wú)法判斷自己測(cè)試結(jié)果的好壞，不了解有多少神經(jīng)元進(jìn)行了測(cè)試，給調(diào)試帶來(lái)了困難。

　　360目前提供的方案可以給深度學(xué)習(xí)正確或錯(cuò)誤的決策提供輸入輸出關(guān)系，并且相對(duì)量化測(cè)試的程度，從而提高深度學(xué)習(xí)黑盒測(cè)試的準(zhǔn)確率，通過(guò)熱力圖等可視化界面，讓工程師了解哪些神經(jīng)元反復(fù)執(zhí)行，哪些神經(jīng)元一直都沒(méi)有激活。

　　實(shí)際道路測(cè)試10個(gè)小時(shí)和100個(gè)小時(shí)的測(cè)試結(jié)果肯定不同，下雨天測(cè)試和太陽(yáng)底下測(cè)試的效果也不同，但究竟不同的有多少，就需要李康的這把“尺子”丈量，通過(guò)量化的比對(duì)，可幫助開(kāi)發(fā)人員進(jìn)行深度學(xué)習(xí)系統(tǒng)的調(diào)試與評(píng)測(cè)工作。

　　把深度學(xué)習(xí)變得可解釋

　　“過(guò)去包括豐田剎車門(mén)等事故，可以精確地定位到哪個(gè)程序有問(wèn)題，而Uber、特斯拉的事故，很難真正判斷出出錯(cuò)的邏輯和原因是什么，因?yàn)樯疃葘W(xué)習(xí)大多數(shù)是經(jīng)驗(yàn)性的，可能更換了一個(gè)場(chǎng)景，測(cè)試結(jié)果就完全不對(duì)了。”李康說(shuō)道。

　　目前360所做的被測(cè)模型全部是由英偉達(dá)官網(wǎng)提供的開(kāi)源數(shù)據(jù)進(jìn)行測(cè)試，360也希望可以和更多車廠、智能駕駛系統(tǒng)商合作，共同對(duì)數(shù)據(jù)進(jìn)行測(cè)試以驗(yàn)證這一方案的可靠性。

　　李康也表示，這一調(diào)試器方案設(shè)想不只是針對(duì)智能駕駛汽車，而是針對(duì)所有帶人工智能和神經(jīng)元的測(cè)試系統(tǒng)?！拔覀円巡豢山忉尩纳疃葘W(xué)習(xí)變成可解釋的。”李康說(shuō)道。

　　李康在安全對(duì)抗網(wǎng)絡(luò)方面有著豐富經(jīng)驗(yàn)，是Disekt、SecDawgs CTF戰(zhàn)隊(duì)創(chuàng)始人，是xCTF和藍(lán)蓮花戰(zhàn)隊(duì)的啟蒙老師，2016年DARPA Cyber Grand Challenge的決賽獲獎(jiǎng)?wù)?。相信隨著越來(lái)越多的深度學(xué)習(xí)公司尤其是在自動(dòng)駕駛領(lǐng)域，意識(shí)到測(cè)試的安全性和重要性之后，360的這一方案會(huì)得到業(yè)界認(rèn)可。