建云上智城,筑产业未来!AI发展与安全研讨会在珠海召开 建云上智城,筑产业未来!AI发展与安全研讨会在珠海召开
admin
2024-03-21 10:40:29
0次

连续两天,两场人工智能研讨会在广东举行,百余名政产学研媒代表齐聚,面对面交流人工智能的发展态势、安全挑战及全球治理等问题。

3月20日,中国网络空间安全协会人工智能安全治理专业委员会(以下简称“专委会”)在珠海组织召开了人工智能发展与安全暨《全球人工智能治理倡议》研讨会,聚焦人工智能安全治理、检测评估、语料使用、合规实践等议题,来自专委会成员单位、律所和相关领域科研机构、企业、社会组织等单位专业人士展开深入讨论。

该研讨会是专委会此次在广东开展的第二场活动,由珠海市委网信办、珠海网络空间安全协会和南方都市报、南都大数据研究院等单位协同举办,第一场研讨会于3月19日在广州举行。(回顾报道)


人工智能发展与安全暨《全球人工智能治理倡议》研讨会在珠海举行。

珠海计划建设智能算力成本最低城市

人工智能是发展新质生产力的重要引擎,今年的政府工作报告3次提到了“人工智能”,并首次提出了开展“人工智能+”行动。

据了解,人工智能安全治理专业委员会的成立构想曾在珠海擦出思路火花。中国网络空间安全协会副秘书长、人工智能安全治理专业委员会秘书长王健兵致辞表示,广东具备发展人工智能的区位优势,而珠海正在建设“云上智城”,朝着人工智能高质量发展的方向建设规划,未来可期。

王健兵同时强调,人工智能既要快速发展,同时也要有安全保障,使产业健康有序发展。他介绍,专委会致力于发挥桥梁纽带作用,协同产、学、研、用机构,推动人工智能发展与安全治理,去年10月成立至今,在高质量中文数据集、大模型安全评测等方面持续做出相应工作,接下来,专委会还将继续加强语料库平台建设、安全测评能力建设,有效推动人工智能安全治理,为广大网民提供更好的优质服务。

“要加强分类指导和典型示范,让人工智能更好赋能千行百业;要在守住安全底线的前提下,积极推行包容审慎监管,给予新技术足够的创新空间和必要的试错空间。”珠海市委网信办主任陈建海致辞提到,目前珠海正重点聚焦打造“云上智城”,适度超前布局建设AI算力云谷等新型基础设施,目标是建设智能算力成本最低的城市。

近年来,珠海网络强市建设取得显著成效,一批人工智能、大数据的研发应用企业快速成长。全志科技、大横琴科技、格力智能装备、四维时代等企业入选省人工智能骨干(培育)企业名单,仅次于广州、深圳。华为(珠海)人工智能创新中心、中德(珠海)人工智能研究院、中星电子人工智能研究院等一批人工智能科技创新平台落子布局。多所在珠高校设立了人工智能相关学院,为珠海人工智能发展提供了有力人才支撑。

陈建海表示,真诚希望相关领域科研机构、企业、社会组织等单位多给予珠海关心和支持,共同助力珠海人工智能应用和产业持续健康发展,为构建安全、可控、可持续的人工智能未来贡献智慧和力量。

专家热议语料合规训练、AI安全检测评估

近年来,人工智能作为新质生产力的重要引擎迎来飞跃式发展,与此同时,安全与发展同样重要的共识逐渐形成。此次珠海研讨会上,围绕人工智能大模型的安全治理、安全评估、语料合规和安全发展等主题,张震、何延哲、陈际红、柳嘉琪等合规、法务、安全专家进行主旨分享。

国家互联网应急中心正高级工程师张震带来题为“适应生成式人工智能特点 探索中国特色安全治理路径”的主旨发言,他围绕《全球人工智能治理倡议》、《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》中的重要内容,从语料在训练中的合规使用、数据标注、模型安全要求等方面进行了深度解读。张震指出,当前我国生成式人工智能安全治理对AI大模型语料安全和生成内容安全方面有明确要求,相关企业和机构应当以此为底线,进一步优化AI大模型在数据使用、风险抵御等方面的能力,以向公众提供更好的服务。

中国电子技术标准化研究院网安中心测评实验室副主任何延哲在会上分享了对人工智能安全检测评估的思考与建议。在其看来,安全检测评估工作一直是保障国家网络安全的重要组成部分。他从人工智能安全检测评估的背景及必要性出发,重点阐述了风险评估、影响评估、合规审计、安全评估等的几种检测评估方法。他还强调,AI大模型完成备案仅是安全工作的开端,如何确保其实现“长效安全”才是根本。

中华全国律师协会网络与高新技术专业委员会副主任、中伦律师事务所合伙人陈际红从法务合规角度分享了对“人工智能知识产权风险与解决路径”的看法。他分别从模型训练抓取数据方式的正当性、作品合理使用的边界、作者与开发者的权利之争、生成内容的可版权性、知识产权归属、侵权责任如何承担、AIGC企业的合规指引等方面进行阐述,针对不同的参与角色,提出了采购前的合规评估、责任权利约定、依法备案和风险提示等合规建议。

华为战略研究院AI治理产业发展首席专家柳嘉琪分享了华为大模型的安全实践进展。他介绍,针对AI大模型的安全治理实践,华为主要从四个方面进行努力:一是通过政策解读、数据溯源、风险过滤等方式建设大模型网络安全;二是基于运营场景进行安全威胁分析,形成安全控制措施;三是持续开展安全测试,提升大模型自身数据安全水平;四是针对应用环节,尤其是内容风控和应用安全护栏等方面构建安全防御能力。柳嘉琪表示,华为接下来还会沿上述方向继续发力,构建从算力平台安全,到模型安全,再到应用安全的全生命周期安全治理能力,以期实现快速发现问题,快速处置问题。

出品:南都大数据研究院

采写:李伟锋 张雨亭 实习生 黄子玮 周惠琪

相关内容

热门资讯

蜻蜓订购APP贵金属订购非法期...   蜻蜓订购APP以"投资平台"名义对外宣传,主打贵金属期货(订购)交易。该平台一方面强调自身"正规...
悟空订购APP非法期货交易欺骗...   近期,有投资者反映,“悟空订购APP”等平台以白银、贵金属订购为名,宣传所谓“高收益”“低门槛”...
小赢淘金APP期货投资骗局,平...   “小赢淘金”之流,最擅长的就是用“注册送现金”、“充值返券”的糖衣炮弹来引流。别天真地以为那是福...
八方淘金APP非法期货交易欺骗...   警惕!八方生财、每日淘金、小赢淘金、悟空订购、蜻蜓订购、斗金订购等APP均涉嫌非法期货交易!  ...
智易购APP贵金属订购交易骗局...   很多人看到“3元起投”“充值送福利”“操作简单”“随时提现”这类宣传,很容易把智易购APP当成普...
喜玛银庄APP商品订购投资骗局...   喜玛银庄APP白银、铂金“现货订购”骗局警示:无资质平台涉嫌非法期货交易,投资者爆仓后如何维权?...
吉鑫乐享APP炒贵金属订购交易...   近期,多名投资者反映在“吉鑫乐享APP”进行贵金属投资时遭遇严重亏损,甚至血本无归。看似正规的“...
易掘金APP虚假期货投资骗局,...   “易掘金”的APP它打着“高收益、灵活投资”的旗号,宣称通过“商品订购”就能轻松赚钱,吸引了不少...
在大吉订购APP订购交易亏损被...   近期,不少投资者反映在“大吉订购App”上投资白银、铂金等商品遭遇严重亏损。该平台宣称提供现货订...
铂银壹号APP商品订购交易亏损...   许多中小投资者误以为网上的“商品现货订购”是合规合法的理财渠道,殊不知这背后隐藏着巨大的合规风险...
兴鑫淘金APP贵金属订购交易亏...   白银、贵金属或其他商品类投资,除国家批准的正规期货交易场所及持牌期货公司外,市面上大量第三方交易...
铂银掘金APP无资质的违规平台...   铂银掘金等平台的投资者,往往是被“注册送现金”“充值返现券”“首单免亏”等广告话术吸引,进而下载...
八方淘金APP订购交易不合规,...   “八方淘金APP”“铂银掘金APP”“铂银壹号APP”等软件被指以“现货订购”为名,实际采用高杠...
在指尖订购APP订购商品亏损被...   指尖订购APP这类平台,表面是“订购交易”,实则是披着电商外衣的非法期货陷阱。绝大多数投资者被蒙...
在犀贝易购APP做商品订购交易...   市面上打着“现货投资”“贵金属交易”旗号的APP并不少,但真正合规、受监管的平台并不多。犀贝易购...
易达淘金APP虚假商品订购交易...   易达淘金APP存在严重的虚假宣传与违规交易行为。该平台打着“商品订购”的旗号,实则通过不合规的交...
大浪淘金APP白银订购亏损被骗...   大浪淘金APP最隐蔽的套路,在于其完全封闭的内盘交易系统。表面上,它宣称与国际贵金属市场接轨;实...
一品好购APP上订购白银出现亏...   一品好购APP原名“一品订购”,运营方为上海宝智未来信息技术有限公司。近期不少投资者反映在该平台...
九州订购APP贵金属订购投资骗...   九州订购APP正通过抖.音、快手、今日头条等平台大量投放投资广告,用“5元起投”“充值返现”“0...
坚锅淘金APP交易软件并不正规...   当前,市面上大量所谓的“现货商城订购”交易软件,早已偏离了正常的实物商品买卖,演变为高杠杆、高手...