防御机器学习算法对抗欺骗攻击的研究

问答对人有帮助，内容完整，我也想知道答案 0 darpa与英特尔、乔治亚理工学院合作，开创机器学习“免疫系统” 0
2020-11-26 07:04:37　　评论淘帖0 邀请回答您可以邀请以下用户，快速回答问题 × CHENYUHENG 该类别下有 2 个回答。邀请回答 yweyerwq 该类别下有 2 个回答。邀请回答 nywerwe2 该类别下有 2 个回答。邀请回答 fywyesfw 该类别下有 2 个回答。邀请回答 mvueurtwd 该类别下有 2 个回答。邀请回答林1024 该类别下有 1 个回答。邀请回答 1102sc 该类别下有 1 个回答。邀请回答 guangchuan 该类别下有 1 个回答。邀请回答 60user32 该类别下有 1 个回答。邀请回答 zbb9612 该类别下有 1 个回答。邀请回答 xiaoge240 该类别下有 1 个回答。邀请回答海蜇pi 该类别下有 1 个回答。邀请回答 Arttronix 该类别下有 1 个回答。邀请回答 arikey 该类别下有 1 个回答。邀请回答 Cdxxgcdx 该类别下有 1 个回答。邀请回答 ze55me 该类别下有 1 个回答。邀请回答 60user195 该类别下有 1 个回答。邀请回答 xixunled 该类别下有 1 个回答。邀请回答 LEON1985 该类别下有 1 个回答。邀请回答 031220705 该类别下有 1 个回答。邀请回答宫素香相关问题全部机器学习机器学习算法 • 机器学习与软件平台的融合0 • 机器学习的未来0 • 人工智能和机器学习技术在2021年的五个发展趋势 ...0 • 人工智能和机器学习提高网络安全性的方法 ...0 • 机器学习的创新/开发和应用能力0 • 机器学习在医疗保健中有哪些应用？101 • 机器学习处理器单元支持浮点的乘加运算101 • Microchip的机器学习开发工具有哪些101 • 基于signoff驱动的PrimeECO解决方案0 • 机器学习可以有效的控制物联网应用的安全性 ...101 • 机器学习与软件平台的融合0 • 机器学习的未来0 • 人工智能和机器学习技术在2021年的五个发展趋势 ...0 • 人工智能和机器学习提高网络安全性的方法 ...0 • 机器学习的创新/开发和应用能力0 • 机器学习在医疗保健中有哪些应用？101 • 机器学习处理器单元支持浮点的乘加运算101 • Microchip的机器学习开发工具有哪些101 • 基于signoff驱动的PrimeECO解决方案0 • 机器学习可以有效的控制物联网应用的安全性 ...101 1个回答

答案对人有帮助，有参考价值 0 机器学习系统在面部识别系统到自主车辆等所有领域的普及，伴随着攻击者想方设法欺骗算法的风险。简单的技术已经在测试条件下起了作用，研究人员有兴趣找到减轻这些和其他攻击的方法。国防部高级研究项目局（DARPA）已经找来了英特尔和佐治亚理工学院（Georgia Tech），负责领导旨在防御机器学习算法对抗欺骗攻击的研究。欺骗攻击在实验室测试之外很少见，但在实操环境下可能会造成重大问题。例如，McAfee早在2月份就曾报道，研究人员通过在限速标志上贴上两英寸的黑色电子胶带，欺骗了特斯拉Model S中的速度辅助系统，使其超速行驶50英里/小时。还有其他的例子也不胜枚举，这证明欺骗人工智能并不算困难，几乎谁都能做到。 DARPA认识到欺骗攻击可能会对任何使用机器学习的系统构成威胁，并希望主动出击，减轻这种企图。因此，大约一年前，该机构制定了一个名为GARD的计划，即Garanging AI Robustness against Deception的缩写。英特尔已经同意成为与乔治亚理工学院合作的四年期GARD计划的主要承包商。 "英特尔和佐治亚理工学院合作，共同推进生态系统对人工智能和ML漏洞的集体理解和能力，"DARPA GARD计划的首席工程师和研究人员Jason Martin说。"通过对相干技术的创新研究，我们正在合作研究一种方法，以增强对象检测，提高AI和ML应对对抗性攻击的能力。" 目前的欺骗缓解的主要问题是基于规则的、静态的设定。如果规则不被打破，欺骗就能成功。由于欺骗人工智能的方式几乎有无数种，仅仅受限于攻击者的想象力，因此需要开发出更好的系统。英特尔公司表示，该计划的初始阶段将着重于利用图像和视频中的空间、时间和语义的一致性来改进物体检测。 DARPA信息创新办公室的项目经理Hava Siegelmann博士设想的系统与人类的免疫系统并无不同，你可以把它称为另一个机器学习系统中的机器学习系统。 "我们希望产生的那种基于广泛场景的防御，可以在免疫系统中看到，比如说，免疫系统可以识别攻击，成功拦截后记住本次攻击的方式，以便在未来的交战中创造出更有效的反应。"Siegelmann博士说。"我们必须确保机器学习是安全的，不能被欺骗。"

2020-11-26 10:09:06 评论举报袁飞