“很感谢看雪举办这次CTF,可以跟各位高手交流想法,让我获益良多,这是我的荣幸;也感谢京东安全,让我非常有动力!”在刚刚落幕的2018看雪安全开发者峰会上,小邓对获奖很开心。这次颁奖典礼也标志着京东安全联合国内安全人才的黄埔军校——看雪学院举办的CTF 大赛在历时两个多月之后圆满结束。
这次大赛共吸引3万余名白帽子和安全爱好者参加。特别是京东安全的AI题目,将AI系统与CTF相结合,提供了学习人工智能安全的宝贵机会。据了解,近1500人参与AI题目答题,仅2人解出。第一名解出AI题目的选手(ID阳春)介绍:AI题目在CTF比赛中非常少见,偶然看到这道题后非常兴奋,尽管解题过程曲折,以后有AI题目还会积极参与。
深度学习题目首现CTF大赛
这次比赛的AI题目的出题方,京东安全硅谷研发中心团队介绍,通常人工智能也只能做到98%的精确,而那剩余的2%,尤其在安全领域,一旦被人盯上,后果将是致命的。本次题目的核心是在解释深度学习算法的基础上,查找逻辑漏洞,并给深度学习打补丁。
给深度学习打补丁,作为近两年才出现的新兴研究领域,被用在CTF中,在国际上尚属首次。
“AI安全的研究是近两年才兴起的。但现实中AI攻防双方是不平衡的,攻击方处在优势地位。之所以出这个题目,就是想探讨改变防守劣势的状况。”京东首席信息安全专家Tony Lee在看雪安全峰会上表示,我们要很好地利用AI,但也要警惕AI系统本身出错,不能完全依赖机器学习。“它也会有缺陷,一旦发生系统性风险,打击将是致命的。”
京东首席信息安全专家Tony Lee
因此,如何修正AI的错误便显得尤为重要,但要修正错误首先要找到错误,可即便这一步有时候也是很难的,因为封闭决策的AI并不会说话,不会给你一个合理的解释。这次题目,正是为了让人们更加了解AI,让AI系统“走下神坛”。
培养实战型安全人才
京东安全介绍,此次AI CTF的题目其实已经降低了难度,仅要求参赛者更正特定的错误,但是需要考核的内容依然很多。需要参赛选手首先理解深度学习逻辑,找出错误,更正错误的同时不影响深度学习对其他样本的判断。
之所以这样设计,是因为在现实的攻防对抗场景中,大规模修改深度学习模型会耗费大量的时间和精力,这种设计思路,是为了更高效地与黑产对抗。“这不仅仅是一道比赛题目,而是具有现实意义。”显然,希望能够透过比赛,挖掘优秀的种子,培养实战型人才,这才是京东安全举办AI CTF比赛的目的。
除了联合举办国内高水平的CTF比赛,京东安全在国外也有培养人才的布局,在硅谷研发中心组建了一支精英团队,从事AI安全、IOT安全、区块链安全等领域技术研发工作,并与包括斯坦福、伯克利、清华在内的国际知名大学建立重要合作,结合京东实际应用场景和数据,在人工智能、IOT等前瞻技术研究上推动产学研项目落地。
相信不久的将来,会有更多像小邓这样的实战型白帽子,踏上守护中国网络安全的道路。
