您的位置：首页>滚动 >

AI安全隐患不容忽视，九方财富安全防线构建得怎么样？

来源：今日热点网时间：2023-10-07 15:57:19

近年来，随着机器学习以及神经网络的持续迭代和演进，人工智能正朝着历史性的时刻迈进，特别是以ChatGPT为代表的生成式AI的出现，催生人工智能和更多应用场景结合。但在AI技术推动各行各业创新发展的同时，其所带来的数据安全问题也引起广泛关注，如何在满足业务基本需求的基础上，强化数据保护能力，保障数据安全流动，已经成为各大企业当前亟待解决的问题。

AI技术高速发展带来数据安全新问题

生成式AI依赖大量数据和大型模型，任何一个环节的安全疏漏，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果，甚至就算用户正常使用，都有可能存在个人数据泄露的风险。

今年年初，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的 OpenAI 公司处理意大利用户信息，同时个人数据保护局开始立案调查。OpenAI也向外界证实，部分ChatGPT Plus的确存在数据安全漏洞，可能泄露了服务订阅用户的个人隐私和支付信息。不只是国外，近期国内各类“AI 诈骗”案件也层出不穷，用户缺乏警惕性，引起各界广泛关注。

根据国际开源安全组织OWASP报告显示，大语言模型（LLM）应用的安全威胁包括提示注入、数据泄露、沙箱隔离不足、未经授权的执行代码、SSRF漏洞、过度依赖LLM生成的内容、AI调整能力不足、错误处理不当、训练数据污染等十个风险。

AI技术快速发展的弊端浮出水面，敲响新技术带来的新安全问题警钟，也让AI本身的安全性变得愈发重要。中国科学院院士何积丰此前在《探索下一代安全智能》论坛上表示，以人工智能为代表的数字技术正迈入从高速增长向高质量增长转变的全新发展阶段，这对其自身安全性和可靠性提出更高要求，也衍生出新型风险与挑战。

为此，在行业内建立起一个更加可信可控的数字安全屏障刻不容缓。9月初，中国电信、蚂蚁集团、华为、百度、字节跳动、西安电子科技大学、国家金融测评中心等30余家机构作为首批发起单位，宣布成立“AI安全工作组”，致力于共同解决AI技术快速发展所带来的安全难题。

九方财富守住“安全”底线

行业监督固然重要，企业的自觉也不可或缺。

在金融行业，AI技术的应用也越来越广泛。领先的在线投资决策解决方案提供商九方财富（09636.HK），自2019年就开始全面开启“数智化”转型，期间推出了包括AI旺财、AI巡查官、AI监测官、智能创造工坊，以及行业首个智能投顾数字人“九哥”在内的众多AI产品。

自成立以来，九方财富持续加大在数据安全领域的投入，并依据行业最高标准打造了自身数据安全体系。在用户数据安全方面，九方财富坚持制度建设和技术能力两手抓，严格遵循相关法规开展合法经营；在产品设计上，九方财富不断探索新技术、新应用，提升数据安全防护能力，全方位保障用户数据安全。

九方财富多年来在数据、合规安全领域上的耕耘和沉淀，已经成为了行业的典范。今年年初，九方财富旗下九方智投的案例顺利编入了中国信通院发布的《数据安全管理实践案例集》。随后4月，九方智投又成功获得了中国信通院颁发的“数据安全管理能力认证(DSMC)”证书，成为证券投资咨询行业首家获颁该证书的企业。不仅如此，九方智投还获得国际认证机构SGS颁发的ISO/IEC 27001信息安全管理体系标准及ISO/IEC 27701隐私管理体系标准双认证。

数据安全不仅影响着企业的稳健发展，也直接影响到国家安全。为促进生成式人工智能技术健康发展和规范应用，7月国家网信办等七部门联合发布了《生成式人工智能服务管理暂行办法》，此前4月，国家互联网信息办公室也发布《生成式人工智能服务管理办法（征求意见稿）》并公开征求意见。九方财富（09636.HK）在数据安全管理上积极发挥带头作用，不仅是对广大投资者的负责，也将对行业、国家数据安全产业的健康发展带来积极有效的推动作用。

关键词：