服务热线:0551-63356267
咨询热线:0551-63356288

新闻资讯

国内首个生成式AI安全指导文件已正式发布

发布日期:2024-03-18    浏览次数:97

 

  2024229日,信安标委正式发布《生成式人工智能服务安全基本要求》(以下简称“《基本要求》”)

《基本要求》规定了生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施、安全评估等,并给出了适用范围。适用于服务提供者开展安全评估提高安全水平,也可为相关主管部门评判生成式人工智能服务安全水平提供参考。

 其中,语料安全,通俗一点讲就是大模型训练所引用的的数据,《《基本要求》对这种训练语料来源的安全性提出了可操作的指引。比如,语料内容中含违法不良信息超过5%的,不应采集该来源语料等。


对于其他模型安全、安全措施、安全评估等内容,这里不做过多阐述。总体而言《基本要求》的发布将有助于建立更安全、透明和有序的生成式人工智能服务生态系统。

众所周知,当前生成式AI行业正处于快速发展阶段,目前在教育、娱乐、媒体、设计、科研、广告等多个行业都产生深远影响,并逐步渗透至商业决策、产品开发、客户服务等诸多业务场景。

在市场规模方面,据彭博社预计,全球生成式人工智能的市场规模将在2032年扩大至1.3万亿美元。国内方面,据工信部旗下赛迪研究院消息,预计2023年我国生成式人工智能市场规模将突破10万亿元,到2035年将突破30万亿元。

鉴于这广阔的市场,为促进生成式人工智能健康发展和规范应用,2023815正式实施由国家发展和改革委员会、教育部、科学技术部、工业和信息化部等七部门公布《生成式人工智能服务管理暂行办法》。

此次再发布《基本要求》,无疑是为生成式人工智能行业健康发展增添新的护航神器,作为近期生成式人工智能领域最重磅的一个文件,将推动行业应用加速落地。

另外,在今年“两会”期间,多位人大代表与政协委员热议生成式A1,关注人才培养、场景落地、产业生态等问题。并认为当前生成式AI发展迅速,应用场景不断拓展,有望成为新质生产力。建议加强顶层设计,推动产学研合作,构建开放共享的产业生态

在产业生态方面,国内生成式AI产业生态图谱主要包括基础设施层、算法模型层、平台层、场景应用层、服务层等部分。其中,基础设施层包括 AI芯片、计算、存储、网络、安全、基础设施软件等;算法模型层包括通用、面向行业的生成式A1大模型及模型库;平台层包括大模型构建和编排、应用开发部署、数据管理软件及工具;场景应用层包括面向生产效率提升、业务、行业搭建的应用,例如文本生成、图像生成、音频生成、视频生成、数字人等;服务层包括跨越业务、IT 和运营技术(OT)领域提供服务。

生成式AI的快速发展也将带来新的挑战。例如,如何保护用户隐私、如何确保模型的安全性、如何制定合理的法规等。这些挑战将影响生成式AI行业的未来发展,需要有针对性地进行深入思考和认真研究,并采取一系列迅速有效的举措,以保障安全有效地应用生成A1

总体而言,随着技术的进步和应用领域的拓展,生成式AI将进一步智能化和个性化为各个行业带来效率的提升和业务的创新。

值得注意的是,安防企业要想构建生成式AI应用,大体上可分为找准场景、选择模型、模型适配和模型调整、应用开发和部署。也就是说,未来随着生成式AI的持续发展,安防产业链各细分企业要想融合利用生成式AI技术,或许可从公司聚焦的场景优先入手,从而助力安防+AI稳健前行。

综上所述,生成式AI行业市场现状良好,竞争格局多元,未来前景广阔。作为一个处在快速发展阶段的新兴行业,生成式AI将持续为各个行业带来巨大的商业价值和社会价值。