用科技预防未成年人氪金？“安全科技”发展受业内关注

发布日期：2024-05-06 19:14 点击次数：91

“如果我们没有刹车的技术，那就不可能有汽车产业。”中国社会科学院大学数字中国研究院执行院长吕鹏如此表示。

度过了AI大模型横空出世、深度智能时代加速到来的一年，数字化安全风险也随着技术的快速发展走向了更为严峻的形势，“安全科技”正受到业内关注。1月18日，中国社会科学院大学数字中国研究院联合蚂蚁集团发布了《数字时代安全科技价值报告》，报告认为，安全科技将成为社会的公共品，与人工智能并列为未来的两项通用技术。

如何看待安全科技的价值？小到如何预防未成年人“氪金”，大到如何推动智能终端、车联网、AI大模型等领域的安全发展，都是需要用“安全科技”回答的问题。

安全科技是一种伴生技术

“安全的范围正变得越来越广，从原来的网络安全到信息安全，再到现在的数字安全，随着数字化转型的加快，很多行业、尤其是水电、铁路、航空、航运等基础设施行业的数字化程度越来越高，它所面临的风险也越大。”中国信通院高级工程师李敏表示，社会的发展正对安全的技术提出更高的要求。

以工业4.0时代下的供应链安全为例，科技部“云计算+大数据〞国家重点专项课题负责人、数秦科技执行总裁兼首席科学家崔伟提出，目前，供应链安全风险可分为两种，一种是网络遭到破坏，数据中心停止工作，可能导致整个供应链中断或者瘫痪，带来重大的社会影响。另一种是产品开发的供应链安全问题，无论开发硬件还是软件，必定用到了大量的第三方开源代码。而一旦这些开源产品存在安全漏洞，软件供应链就可能受到攻击，带来巨大损失。Make UK于2022年12月发布的一份报告显示，42%的英国制造商在当年成为网络犯罪的受害者，其中四分之一遭受了5 万至25万英镑的损失。

吕鹏提到，在AI大模型的发展下，AI安全风险也在不断上升。目前，AI安全风险主要可以分为三类：第一是内生安全，从人工智能内部视角看，其可能会存在技术本身的脆弱性、对数据的依赖性等自身缺陷原因带来的安全问题等，涉及人工智能“价值对齐”“决策黑盒化”等问题；第二是衍生安全问题，即人工智能系统脆弱性被利用或不恰当使用从而引发其他领域的安全问题，例如大模型生成虚假新闻、深度合成伪造被用于诈骗等；第三是外生安全问题，即面向人工智能系统的外部入侵攻击所带来的风险，随着新科技的发展，黑灰产攻击模式也逐渐呈现出专业化、多样化、智能化、产业化的特点。

中国社科院研究团队在报告中指出，与过去“安全科技”即“网络安全”的主流认知不同，随着数字化智能化的深入，“安全科技”的定义应当是包括一系列旨在保护信息、网络和计算机系统免受未经授权的访问、攻击和威胁的工具、技术、系统，是一种更为通用、包含多个领域、多种前沿技术的复杂系统性技术集群。

同时，报告认为，本质上，安全科技是一种伴生技术。随着新技术不断衍生新的安全风险，安全技术也将一直更新、逐渐走向无边界，比如面向人工智能，就会有智能安全，面向生物科技，就会有生物安全。

对学界来说，提高社会对于安全科技的认知、重视与参与正在成为一个重要议题。社科院研究团队认为，未来，安全科技将成为社会的“公共品”，是技术向善的关键保障，尽早对安全科技进行投入非常必要。

“安全科技要成为公共品”

如何用“安全科技”解决更多问题？

未成年人在游戏平台“氪金”的现象受到社会普遍关注，在中国社会科学院科学技术和社会研究中心主任、研究员段伟文看来，在信息推荐、服务算法不断优化目标的过程中，可能会被恶用，在AI时代，无论是从技术还是从社科角度，都需要关注此类智能衍生安全问题的涌现。

谈到这个问题，荣耀终端有限公司高级技术生态经理张有科表示，这个问题的核心在于不能增加用户过多支付环节的便捷性与支付安全性间的平衡与统一，从手机端来看，安全科技在发展与应用中区分“未成年人”与“成年人”谁在点击手机，可能成为一种解法。他透露，目前荣耀正联合蚂蚁集团对相关技术进行开发合作，通过未成年人在使用触屏交互时接触面积更小、手指张力的差异等特征，保障成年用户体验的同时，推动未成年人支付安全性问题的解决。

安全科技在车联网领域的应用也备受关注。根据德勤汽⻋安全团队预测，2040年全球联网⻋辆的数量预计将从目前的2. 5亿辆增⻓到10亿辆以上。⻋联网也正在从1. 0时代的⻋身状况监测，迈向2. 0时代的数据应用、交互，对安全科技提出了更高要求。一旦车联网系统被破坏，所有的⻋、路，路边的摄像头、温度传感器等信息都可能被篡改，发出错误提示，影响车主安全和城市交通。根据Upstream security发布的《2020年汽⻋信息安全报告》，20 16年至2020年1月，汽⻋信息安全事件的数量增⻓了605%。

报告认为，车联网所涉及的身份认证、内容安全、区块链、硬加密技术等技术不断发展的同时，对于⻋联网行业的安全水平而言，统一技术与应用标准，并加强与相关行业的技术合作，亦是加快其发展的关键。

因此，社会层面对安全科技发展的重视和推动被学界视为关键。在段伟文看来，要让更好的安全科技和制度构建、惠及更多人需要社会各界的积极关注与参与。一方面，这要求企业需要转变理念，不再将安全仅仅视作企业运行的成本。另一方面，这也要求安全科技真正成为公共品，由国家、社会和产业界共同推动新安全技术的低门槛、规模化应用，建立数字化安全风险公共治理空间等。

在推动安全科技成为公共品的路径上，他提出了合规激励、商业保险、标准建设、安全思维四种推动力。当企业自身没有直接动力来投入安全时，需要政府通过合规者的角度来推动相关的保障投入；发展商业网络安全保险等建立数字安全事件评估及赔偿标准，帮助中小企业为安全风险兜底买单；在生态合作的范畴中，借助政府、头部机构与企业的带头作用，为全社会的安全技术建设提供标准；推动以人为本的安全设计、运维与建设并重的安全思维的构建。

“正如数字化安全风险以及安全科技的内涵所体现出的生态融合特征，无论是合规激励政策、商业保险市场的发展，还是行业标准建设、安全思维更新，都要求政府、企业、学术界以及公众各个层面的合作。基于此，我们认为——政企合作是安全科技成为公共品的核心驱动力。”报告写道。

举报第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：021-22002972或021-22002335；banquan@yicai.com。文章作者

陈杨园