据介绍，该委员会由国家互联网应急中心、北京智源研究院、上海人工智能实验室、阿里云、华为、金山办公等单位发起，首批成员单位共58家，包含有关领域高校、研究院所、企业等。
该委员会将组织人工智能领域产学研单位开展技术创新、产业协作、成果转化和行业自律，并在模型安全、内容安全、数据安全、隐私保护和知识产权保护方面不断提升人工智能安全治理能力。
首批成员单位在成立大会上还建言表示，面向高质量中文语料库开发、模型安全评测、垂直领域大模型安全
应用等人工智能安全治理工作扎实攻关、开放交流、深度合作。
另据IT之家此前报道，全国信息安全标准化技术委员会宣布《生成式人工智能服务安全基本要求》面向社会公开征求意见，该文件对生成式人工智能服务在语料安全、模型安全、安全措施、安全评估等方面给出了基本要求。
