生成式AI在安全层面正给企业带来挑战及机遇。8月31日，亚马逊云科技宣布与IoT开发者平台涂鸦智能成立“联合安全实验室”，双方将在机密计算、数据隐私以及生成式AI在IoT领域的安全实践等方面展开联合共创，为终端用户的物联网设备提供更多安全保障。
据中国信通院《云计算白皮书（2023年）》公布的数据显示，2022年，我国云计算市场规模达4550亿元，较2021年增长40.91%。预计2025年，中国云计算整体市场规模将超万亿元。伴随着企业加速上云，提供SaaS化的托管安全服务已经成为明显趋势。今年7月，国际数据公司IDC发布《中国公有云托管安全服务能力2023》报告显示，2022年，托管安全服务市场成为全球网络安全产品与服务市场中的最大子市场，规模达到372亿美元。
“如今各行各业的企业都希望能抓住生成式 AI带来的机遇开展业务创新，云上负载业务成爆发式增长，安全全面云化也是大势所趋。”亚马逊云科技大中华区安全合规与治理产品总监白帆告诉记者，生成式 AI需要依赖大量的数据和模型，任何一个环节的安全疏漏，如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等等，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。
该如何确保业务应用AI后爆发增长的同时，各个环节的安全合规？据悉，目前云安全正从被动防御变向主动设计，比如建立网络、存储隔离的独立安全通道，将安全功能嵌入AI应用之中等等，都是提升应用本身安全性的方法。
但在白帆看来，更重要的趋势，将人工智能（AI）和机器学习（ML）集成到云安全中，这些技术将通过自动化和增强各种安全流程来彻底改变该领域。人工智能和机器学习可以以前所未有的速度分析大量数据，识别可能被忽视的潜在威胁和异常。这种主动的安全方法允许早期发现和减轻风险，显著改善云环境的整体安全状况。
“我们内部有一句话说，如果一件事情需要重复地被人做两次，我们就会尝试把这个事情做到自动化，因为人是一定会出错的，自动化是不会出错的。”白帆告诉记者，云安全产品在设计之初就要考虑到面对业务暴增的情形，具备自动扩展的特性。
记者注意到，今年以来，亚马逊云计算部门显著增加对人工智能项目基础设施的投资，以1亿美元建立一个生成式人工智能中心。亚马逊第二财季财报显示，云计算部门净销售额达到221亿美元，同比增长12%，好于预期。