非死book员工用谷歌模型 攻破亚马逊人脸识别算法

   <p><a href="/misc/goto?guid=4958992220058155744" title="非死book"><img alt="非死book员工用谷歌模型 攻破亚马逊人脸识别算法" src="https://simg.open-open.com/show/7335b414f3b8f2f6a943cf004cf9ef11.gif" /></a></p>    <p>在 AI 大行其道时，藏匿于其中的安全问题也开始得到关注，即便是巨头也暴露了风险。</p>    <p>在 10 月 24 日的 GeekPwn 国际安全极客大赛上，IYSWIM 团队攻破了比赛中的人脸识别算法，结果是系统把《最强大脑》主持人蒋昌建的照片识别成了施瓦辛格。</p>    <p>要知道，这项人脸识别算法 API 接口来自于亚马逊名人鉴别系统（Rekognition）。</p>    <p>这场比赛共有 6 个团队参加，IYSWIM 是唯一一个破解人脸识别算法的团队。IYSWIM 团队队员吴育昕系 非死book 员工，他在接受第一财经采访时表示，自己用了谷歌的 FaceNet 开源代码模型攻破了该算法。</p>    <p><strong>人脸识别的危险</strong></p>    <p>今年 GeekPwn 国际安全极客大赛设定了 AI 控制人类世界的故事背景。10 月 24 日的第一场比赛中，参赛选手即极客利用“CAAD 对抗样本”技术生成对抗样本，目标是使 AI 对飞行器、武器和人脸产生判断错误，逃出“觉醒黑客”们的囚禁地。</p>    <p>要求是，AI 将宇宙飞船飞行器识别为石头，把导弹认为是安全的，并将主持人蒋昌建的照片识别为施瓦辛格。</p>    <p>在飞行器、导弹和人脸三项图像识别中，人脸识别被认为是最难攻克的一关，用了亚马逊名人鉴别系统（Rekognition）API 接口。</p>    <p>比赛进行到一半，飞行器和武器先后被选手闯关成功，6 个团队已经对人脸识别发起了不下 90 次攻击，却迟迟未能攻破其中算法。</p>    <p>赛事设计者，碁震 KEEN 公司创始人兼 CEO、GeekPwn 黑客大赛发起创办人王琦表示，这道题可能没有选手能攻破，因为迄今为止，这项人脸识别系统尚未被攻破过。</p>    <p>话音落下不久，比赛进行了约 20 分钟时，IYSWIM 团队成功解题，主持人蒋昌建被系统确认为施瓦辛格，现场一片欢呼。</p>    <p>IYSWIM 团队吴育昕对第一财经表示，自己在网上找了 FaceNet 开源代码，用其中的几套模型进行训练，最终破解了比赛中的系统算法。</p>    <p>吴育昕对第一财经表示，自己是以个人名义报名参赛，自己有名队友没有来到现场，比赛开始前知道这项比赛是人脸识别，但不知道是哪张图片。</p>    <p>FaceNet 系谷歌人脸识别系统，基于 Tensorflow 环境运行，可以用于人脸验证、识别和聚类等。</p>    <p>包括人脸识别在内的图像识别是 AI 最重要的分支之一，也是应用场景最为广泛的领域之一。人脸识别被广泛应用于零售、安防等领域，但 GeekPwn 比赛，却用短短 20 分钟时间向外界揭示了其中的危险。这再一次引发了公众对人脸识别等 AI 技术的担心。</p>    <p><strong>三倍于互联网时代的安全难度</strong></p>    <p>GeekPwn 比赛的目的是预演潜在风险、拓宽安全思维、帮助智能设备更加安全地问世、协助人工智能健康成长的手段。</p>    <p>从筹办第一届比赛开始，GeekPwn 比赛已经连续举办了五年，五年间互联网安全环境也发生着变化。</p>    <p>“最初我们意识到不光是手机和电脑，特斯拉也是可以被黑的；2015 年 O2O 最火的时候，行业潜在危险是比如叫滴滴叫到一万辆导致系统瘫痪、保洁服务订单被黑导致上门的其实是个坏人；2016 年，美国开始关注轮椅、游戏机被黑的案例；最近 AI 领域比较受关注。”王琦对第一财经表示。</p>    <p>“安全本质上是人和人的对抗，到 AI 时代，安全攻防难度至少扩大了 3 倍，不光是人和人的对抗，还有人和机器的对抗，机器和机器的对抗，机器和人的对抗。AI 的安全问题得 AI 解决，传统安全领域的人只能提供思路。”王琦称。</p>    <p>来自: <a href="/misc/goto?guid=4984298452340365061" id="link_source2">新浪科技</a></p>