下一個震驚全球被黑客鎖定的“獵物”是什么?這個答案或?qū)⒃?10 月 24 日舉辦的國際安適極客大賽GeekPwn硅谷·上海站揭曉。日前，GeekPwn(極棒) 正式向全球頂尖黑客們發(fā)出邀請——以 500 萬獎金池懸賞打破思維枷鎖的創(chuàng)新攻破項目。

本年，GeekPwn特別增設(shè) “人工智能安適挑戰(zhàn)專項”，鼓勵極客從對抗的思路出發(fā)，協(xié)助AI進行安適性的預(yù)演分析，從而尋找AI潛藏的風險并不停幫手其完善，幫手人工智能安適健康成長。也許有朝一日，黑客可以成為掩護人類的那群人。

不停突破創(chuàng)新 黑客與AI打響欺騙與反欺騙之戰(zhàn)

2014 年，“沒有規(guī)則”的極棒大賽橫空出世， 2015 年設(shè)置了指紋專場、SSL/TLS 協(xié)議安適專場， 2016 年更是首創(chuàng)機器特工挑戰(zhàn)賽和跨次元CTF賽。 2017 年，GeekPwn將重點放在了備受關(guān)注的“人工智能安適挑戰(zhàn)賽”。同時，主辦方還將與項目聯(lián)合發(fā)起方NextIdea(騰訊創(chuàng)新大賽)、獨家AI協(xié)辦機構(gòu)機器之心等合作伙伴，就AI安適的社會及專業(yè)議題展開前所未有的前沿探討。

當AI可以被誤導，人類的未來將會怎樣?如今，人工智能已經(jīng)廣泛應(yīng)用于生活的諸多場景中，包孕實時語音翻譯、目標識別、自動駕駛等等。率先關(guān)注到人工智能可能袒露出的諸多風險，極棒實驗室在 2015 年底開始了AI對抗的研究，并廣泛接觸和招募AI領(lǐng)域的頂尖人才，很快，在 2016 年的GeekPwn美國站上，生成對抗網(wǎng)絡(luò)(GANs)之父Ian Goodfellow就展示了“對抗性圖像”在現(xiàn)實物理世界欺騙機器學習的效果。人工智能在圖像領(lǐng)域可能被蒙騙的證實，引發(fā)了極棒實驗室的思考，這些看似AI的錯誤和不完善，在黑客眼里就成了可以被利用的漏洞。

按照功能區(qū)分，人工智能安適挑戰(zhàn)賽將分為PWN AI 與 AI PWN 兩部分。PWNAI簡單來說就是利用AI中存在的漏洞或錯誤，“黑掉”它，使它做出錯誤判斷或讓程序瓦解。舉例來說，好比突破人臉識別手機解鎖，以任意人臉解鎖手機;在自動駕駛系統(tǒng)中找到安適問題，使其不能夠正確識別障礙物的存在。

而AI PWN則是讓AI成為你攻擊其他目標的工具。舉例來說，用人工智能的方法進行語音合成，生成目標模擬對象的語音并以高的概率通過語音身份驗證系統(tǒng);用人工智能的方法進行動作的判別，從視頻中識別出門禁密碼輸入并達到較高的正確識別概率;用人工智能的方法識別復(fù)雜的機器驗證碼，正確識別率較高，使得目標驗證碼機制失去作用。

是上演“科幻大片”誤導似乎已具備超強能力的AI?還是演繹現(xiàn)實版的“AI特工入侵人類”?不懼一切未知，黑客會把一切不成能變?yōu)榭赡堋?/p>

無所不PWN挑戰(zhàn)一切 白帽黑客掩護世界

除了AI挑戰(zhàn)專項，GeekPwn將延續(xù)“無所不PWN”的傳統(tǒng)，鼓勵選手將市場在售的所有智能設(shè)備、物聯(lián)網(wǎng)(IoT)產(chǎn)品或產(chǎn)品中的安適模塊作為目標。在合理的攻擊條件下，實現(xiàn)越權(quán)控制、越權(quán)拜候數(shù)據(jù)或者突破原有安適機制。

用鼻尖解鎖手機、任意遠程劫持世界任一用戶的通訊、發(fā)現(xiàn)影響全球數(shù)億網(wǎng)民的骨干網(wǎng)絡(luò)設(shè)備漏洞……在GeekPwn上，白帽黑客們將他們的逆向思維、奇思妙想的腦洞發(fā)揮到了極致。在向世界秀出他們的才華的同時，也幫手了上百個廠商及產(chǎn)品去修復(fù)安適問題。對此，GeekPwn創(chuàng)辦人、碁震KEEN公司CEO王琦就曾表達：在極棒上面，每個選手成功的背后，就成功的制止了一次互聯(lián)網(wǎng)的癱瘓，制止了千萬人隱私的泄露，制止了一次可能難以計數(shù)的損失。白帽黑客實際上在默默掩護全人類。

附：GeekPwn2017 硅谷·上海站角逐規(guī)則

(報名官網(wǎng)：)

無所不PWN

目標范圍：

市場在售的所有智能設(shè)備、物聯(lián)網(wǎng)(IoT)產(chǎn)品或產(chǎn)品中的安適模塊。在合理的攻擊條件下，對于范圍內(nèi)的產(chǎn)品或者模塊，實現(xiàn)越權(quán)控制、越權(quán)拜候數(shù)據(jù)或者突破原有安適機制。參考

參考實例：實例

黑客通過一臺受惡意軟件感染的打印機，從物理隔絕的網(wǎng)絡(luò)中提取數(shù)據(jù)，并通過激光將數(shù)據(jù)發(fā)給裝有攝像頭的無人機。

智能穿戴可能透露使用者的密碼：恢復(fù)出用戶手掌的運動軌跡，隨后獲得拜候ATM機、電子門禁以及用鍵盤控制的企業(yè)辦事器的密碼。

PWN AI范圍

目標范圍：

對于已發(fā)布的AI辦事、產(chǎn)品、庫、框架，采取手段使得在學習或者實際使用中，發(fā)生不測情況導致系統(tǒng)停止工作或系統(tǒng)被欺騙、誤導，做出違反常規(guī)或者錯誤的判斷、決策。標的目的包孕但不限于圖像識別、語音識別、自然語言處理、自動駕駛、惡意軟件識別等，AI框架主要是指流行框架如 Tensorflow、TorchNet、Caffe 等。

參考實例：

突破人臉識別手機解鎖，以任意人臉解鎖手機。

在自動駕駛系統(tǒng)中找到安適問題，使其不能夠正確識別障礙物的存在。

在AI開源框架中找到問題，使得安排的AI系統(tǒng)在得到某種輸入的情況下停止響應(yīng)。

AI PWN

場景：