上海市委网信办总工程师杨海军透露，截至目前，全国已经有188款大模型完成备案，上海市共34款，个中徐汇区21款。目前，上海还有两批次17款大模型正在备案流程中。模速空间生态集聚效应显现。把稳到，截至8月30日，上海市累计已完成30款天生式人工智能做事登记。
2022年底以来，以大措辞模型为代表的天生式人工智能技能与运用快速发展，做事"大众，赋能行业。同时，大模型也引发业界和公众年夜众对人工智能安全和伦理的担忧。
杨海军说，为应对天生式人工智能带来的风险寻衅，国家及上海市持续出台相应法规政策，促进创新与依法管理相结合。2023年8月15日，国家网信办等七部委联合出台的《天生式人工智能做事管理暂行办法》正式施行，成为环球天生式人工智能做事监管立法的先行者。
2024年天下人工智能大会上，“上海人工智能安全管理实验室”正式揭牌。“我们将持续统筹发展与安全，在推动人工智能赋能千行百业的同时，不断加强安全保障，提升安全性、可靠性、可控性和公正性，推动人工智能以人为本、智能向善。”杨海军说。
当天，论坛环绕“大模型浪潮下的安全寻衅”主题，聚焦大模型最新的技能进展及其所面临的安全难题，约请干系领域的学者、科研专家、行业大咖，就大模型科研动态、发展趋势、技能实践以及安全寻衅等话题展开深入的研讨与互换。
上海市信息安全测评认证中央总工程师李宏达以《天生式人工智能内容安全指引及备案》为题作互换分享。智巡密码（上海）检测技能有限公司副总经理、高等工程师刘军荣带来《密码技能守护大模型安全》的主题分享，深入磋商了密码技能与大模型的领悟运用与创新发展。
此外，上海商汤智能科技有限公司、上海数字安全科技有限公司、不雅观源（上海）科技有限公司、深圳奥联信息安全技能有限公司等单位的行业专家环绕《大模型浪潮下的安全寻衅》主题展开圆桌谈论。