当前位置:首页 >> 新闻中心
警惕人工智能背后巨大的信息泄漏安全风险

发布时间:2024-09-13 点击数:0

作为信息社会的革命性技术,人工智能(Artificial Intelligence)可谓智能化信息社会的核心技术,具有广泛的应用前景。

当前,我们看到,随着AI技术在人机对话、人形机器人、自动驾驶、智能制造等领域的快速推广和应用,相关安全问题也愈加凸显,亟须予以高度重视。


一、人机对话

以ChatGPT为代表的基于生成式预训练模型(GPT)的对话型人工智能能够模拟人类对话,并应用于自动化写作、智能客服等多个领域。随着自然语言处理技术的进步,ChatGPT在文本生成、内容创作等方面展现出强大能力,已成为AI技术的一个重要分支。

安全隐患:由于主要通过交互问答开展工作,ChatGPT存储并处理了大量用户数据,其中可能包含国家秘密、敏感信息,一旦被黑客窃取或系统遭受攻击,数据安全将受到严重威胁。此外,ChatGPT还可能被用于生成虚假信息或进行社交工程攻击,攻击形式包括仿冒电子邮件、虚假新闻等,会给个人、企业和社会安全带来极大隐患。

二、人形机器人

人形机器人是具有人类形态、具备一定程度智能的机器设备,能够模拟人类的行为与动作,在服务行业、医疗辅助、教育陪伴等领域有着广泛的应用前景。

安全隐患:人形机器人在执行任务时需要获取和处理大量用户数据,可能涉及个人隐私、健康状况等敏感信息,如果这些数据被黑客截获,会导致用户信息的泄露。此外,技术上的不成熟也将增加系统遭受攻击的风险。

三、自动驾驶

当前,很多汽车厂家和互联网公司相继推出自动驾驶汽车以及智能交通系统。可以预见,在人工智能控制交通的时代,交通运行效率会得到显著优化。在不远的将来,也许只有赛车手和发烧友才会驾驶汽车,交通事故则可能被系统事故所替代。

安全隐患:自动驾驶汽车内部往往集成了复杂的电子控制系统、传感器网络以及车联网通信技术,黑客可以从智能汽车端、移动应用端和云平台以及三者交互的通信管道实施攻击,目前已经出现黑客通过盗取 App 账号密码来控制自动驾驶汽车的案例。

四、智能制造

通过人工智能技术对工业大数据进行分析处理,可以有效提高生产效率,比如,Google 将机器学习技术应用于数据处理,使用神经网络控制服务器等设备以降低耗电量,提升电力使用效率。

安全隐患:工业大数据是由生产不同阶段的大量零散数据组成,数据间存在同步问题,因此,黑客对数据的任何一点入侵篡改都会使人工智能计算产生偏差,从而对企业、对社会造成巨大损害。


长远展望人工智能在信息社会的发展,基于人工智能的社会精细化管理将是未来社会的基本管理模式,也许未来会出现人工智能控制人类、威胁人类安全的风险隐患。技术就像一枚硬币的两面,发明一项技术需要聪明,驾驭一项技术则需要智慧。面对人工智能,确实需要人类有足够的智慧去利用和驾驭,从而在确保安全的前提下便利人类生活和社会发展。


微信咨询
扫一扫,立即咨询