人工智能发展带来的安全问题与策略研究

人工智能发展带来的安全问题与策略研究

李明

（国家知识产权局专利局 北京 100088）

[摘要]随着云计算、大数据的不断创新发展，人工智能的应用普及率不断提高。人工智能给人们的生活、工作以及学习带来了诸多便利，但是与此同时，其也引发了许多新的安全问题，如个人信息泄露、隐私难以得到有效保护等。本文将对人工智能发展带来的安全问题进行分析，探究行之有效的解决策略。

[关键词]人工智能；安全问题；策略研究

[中图分类号]TP393.08 [文献标识码]A

引言

当前，由于社会经济、政治、文化环境日趋复杂，人工智能技术在各个领域的应用率不断 高，如人脸识别、图片对比、智能停车计费等，相关技术的应用对于社会的和谐稳定发展有着重要的帮助，但是部分技术由于发展还不成熟，存在的问题也比较多，引发了诸多安全问题，下面笔者将结合自身的理解和认识，对相关技术的应用进行详细分析和论述。

1 人工智能发展面临的安全问题

1.1 人工智能技术自身的安全性

在对人工智能技术进行研究和分析时，许多专家认为深度学习是人工智能得以不断发展的关键性因素。而深度学习受数据、算法、计算能力等多种因素的影响，结合当前人工智能技术发展现状来看，上述因素还存在有诸多缺陷与不足，因此对最终运算结果的准确性造成了一定的影响[1]。以人工智能中的图像识别技术为例，其是以图像的主要特征为基础，对图像的相似度，以及环境内容等进行分析和测算，然后确认图像的类别、范围、领域等多重目标。当前图像识别技术在人脸识别系统中应用极为广泛，主要包含有人脸图像采集及检测、人脸图像预处理、人脸图像特征 取、匹配与识别等部分。特征 取首先就需要在人脸上找到一系列基本特征点，然后进行机器学习训练，确保人的面部在各种角度、表情和环境下均能够有效识别这些特征[2]。但实际上在进行人脸识别时，只要破坏人脸特征的延续性，就能够破解脸部识别技术的安全性，当前人脸识别技术离安全、精准的目标还存在有一定的距离。

1.2 人工智能技术的云端安全

当前，人类社会已经从PC互联网时代过渡到了移动互联网时代，并且即将进入到人工智能互联网时代。在云计算和大数据技术的支持下，人工智能技术具有使用便捷、成本低廉，因此当前许多公司、组织及个人都将数据存储至云盘之中，但是部分不法分子可能会在各种利益的驱动之下，攻击企业或者是组织的网络，云盘内的重要信息很容易被其他机构恶意窃取和安全攻击，这样势必会对用户的信息安全构成危险[3]。1.3 干扰项对人工智能技术应用安全的影响

人工智能是基于机器学习、数据积累的技术，但是在该技术应用期间，一旦特征码失真，特征码不够真实，将会对人工智能的识别判断结果产生影响。比如说在对图片进行识别时，如果在图片中添加一个肉眼无法识别的干扰项，在使用人工观测时，图片的内容没有出现任何变化，但是如果使用云计算和大数据技术进行分析测算，就会发现所得到的结果与肉眼所见不同。再比如说，对图片的特征码匹配阈值进行修改，也将会对图片识别的通过率产生影响。所以说，干扰项在人工智能技术应用期间出现，必将会对最终的识别效果造成不良影响。2 人工智能安全防护措施分析

结合上文中的分析可以发现，当前人工智能技术应用期间，存在的安全问题相对还是比较多的，针对上述问题，笔者认为可以尝试从以下方面入手予以解决[4]。

2.1 构建人工智能的安全监管框架

未来人工智能技术的应用范围必将会越来越广泛，其可能会与核武器、生物技术一样对国家的安全、社会经济发展产生深刻地影响。但是，人工智能技术在各个领域中地发展应用时间并不是很长，因此针对该技术的安全监管框架尚未真正的建立，在我国人工智能技术安全监管可以说是处于空白状态，监管法律和机构等远远落后于人工智能技术的发展速度[5]。

2.2 制定人工智能的安全标准

人工智能安全标准应当是一套与人工智能安全、伦理以及隐私保护等密切相关的标准规范。从广义的角度来说，人工智能安全标准包含有人工智能自身的平台、技术、产品等。一般人工智能都是以大数据为基础满足各项应用需求的，在相关技术应用期间，通常面临有大量隐私保护的需求，因此在制定人工智能的安全标准时，需要重点考虑大数据安全、隐私保护方面的内容。

2.3 加强对人工智能技术的安全研究

人工智能技术当前被应用于多个领域中，其对各行各业的发展建设 供了更多新的契机，但是要想发挥好人工智能技术的作用优势，还需进一步加强对人工智能技术的安全研究。如要 升人工智能底层技术的安全防范，保证传感器、网络设备的传输安全。人工智能技术的大面积推广和应用一定程度上模糊了网络虚拟与现实世界之间的界限，部分技术的应用可能会对现实世界中的个体造成实质性的伤害，所以说加强人工智能底层技术的研究就显得极为有必要了。

总之，人工智能的快速发展对社会的发展有利也有弊，其涉及了诸多未知的领域，存在有许多无法预测的安全问题，还需要人工智能领域的专家投入更多的精力，对各项技术内容进行研究分析，制定出科学合理的安全防护体系，保证人工智能技术应用的安全性。

参考文献

[1] 张彬,彭书桢,金知烨,等.“大智物云”时代数据治理国家战略

比较分析——数据开放、网络安全保障与个人隐私保护[J].

电子政务.2019,16(6):110-112.

[2] 洪延青.“以管理为基础的规制”——对网络运营者安全保护

义务的重构[J].环球法律评论,2016,41(4):20-40.

[3] 焦媛媛,沈志锋,胡琴.不同主导权下战略性新兴产业协同创

新网络合作关系研究——以我国物联网产业为例[J].研究与发展管理,2015,31(4):60-74.

[4] 张丽芳,张福进,尚洁.知识扩散、集群创新与集群网络的扩

张——基于物联网产业的研究[J].软科学,2014,33(10):11-17.

作者信息：李明（1977.7-），男，汉族，陕西西安，硕士，研究方向：计算机技术、通信技术、民商法学、知识产权法。