科学院计算技术研究所研究员孙凝晖《AI与智能计算的发展》的演讲稿中对AI引发的安全风险进行了具体归类阐述并

  孙凝晖院士将AI安全风险归成两大类,第一类是网络虚假信息泛滥,第二类是AI大模型面临的严重可信问题。关于第一类互联网虚假信息安全风险,据正奇五度AI数字助手了解孙凝晖院士列举了若干场景进行讲解,他说虚假信息的来源一是数字分身。AI Yoon是首个使用 DeepFake 技术合成的官方“候选人”,这一个数字人以韩国国民力量党候选人尹锡悦(Yoon Suk-yeol)为原型,借助尹锡悦 20 小时的音频和视频片段、以及其专门为研究人员录制的 3000 多个句子,由当地一家 DeepFake 技术公司创建了虚拟形象 AI Yoon,并在网络上迅速走红。实际上 AI Yoon 表达的内容是由竞选团队撰写的,而不是候选人本人。

  谈到第二类人工智能安全风险,正奇五度AI数字助手收集到的资料显示,孙凝晖院士将AI大模型面临的严重可信问题涵盖为:(1)“一本正经胡说八道”的事实性错误;(2)以西方价值观叙事,输出政治偏见和错误言论;(3)易被诱导,输出错误知识和有害内容;(4)数据安全问题加重,大模型成为重要敏感数据的诱捕器,ChatGPT将用户输入纳入训练数据库,用于改善ChatGPT,能利用大模型获得公开渠道覆盖不到的中文语料,掌握我们自己都可能不掌握的“知识”。

  对上述人工智能安全风险的应对,正奇五度AI数字助手了解到孙凝晖院士在十四届全国人大常委会举行第十讲专题讲座中建议,从技术层面加快发展,比如迫切地需要发展大模型安全监管技术与自己的可信大模型。

  从法规层面,需要落实人工智能安全保障相关立法工作。2021年科技部发布《新一代人工智能伦理规范》,2022年8月,全国信息安全标准化技术委员会发布《信息安全技术 机器学习算法安全评估规范》,2022-2023年,中央网信办先后发布《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法》等。欧美国家也先后出台法规,2018年5月25日,欧盟出台《通用数据保护条例》,2022年10月4日,美国发布《人工智能权利法案蓝图》,2024年3月13日,欧洲议会通过了欧盟《人工智能法案》。

  我国应快速推进《人工智能法》出台,构建AI治理体系,确保人工智能的发展和应用遵循人类共同价值观,促进人机和谐友好;创造有利于人工智能技术探讨研究、开发、应用的政策环境;构建合理披露机制和审计评估机制,理解人工智能机制原理和决策过程;明确AI系统的安全责任和问责机制,可追溯责任主体并补救;推动形成公平合理、开放包容的国际人工智能治理规则。

  人工智能衍生的安全风险问题是科技发展普遍会出现的问题,正奇五度数字AI助手专家团研究员认为未来随着人工智能管理技术进步及法律和法规的健全,人工智能的再发展将对人类社会起到翻天覆地的促进作用。

  人工智能的发展促进了当今世界科学技术的进步,同时也引发了很多安全风险。近日正奇五度AI数字助手获悉,中国...

  近日，泰州移动与江苏龙凤堂中药有限公司携手合作，成功进行了5G-A新技术试点，测试结果展现出了其卓越...

  很多游戏的乐趣在于联机，比如：我的世界、幻兽帕鲁等，但自建服务器往往面临远程访问难题。然而，自建...

  威世智于 2024年6月7日推出了世界上第一款集换式卡牌游戏《万智牌》的最新系列：《摩登新篇3》。《摩登...

  2024年5月15日起，博众投资积极开展第六届515 全国投资者保护宣传日暨第五届防范非法证券期货基金宣...

  阿里云作为云原生技术的推动者及引领者，一直走在行业发展的前沿，始终关注业内新方向。为推动新技术发...

  美国时间6月12日至6月14日，2024年美国视听技术及系统集成展览会（下称美国InfoComm展会）在拉斯维加斯...

  今日，紫光集团旗下国产存储品牌紫光闪存系列消费级固态硬盘正式上架京东开启预售。本届618是紫光闪...

  6月7日，浙江大学机械工程学院2024年思看杯本科毕业设计展在浙江大学紫金港校区机器人与智能装备学生创...

  人工智能的发展促进了当今世界科学技术的进步,同时也引发了很多安全风险。近日正奇五度AI数字助手获悉,中国...

  近日，泰州移动与江苏龙凤堂中药有限公司携手合作，成功进行了5G-A新技术试点，测试结果展现出了其卓越...

  为扎实开展党风廉政建设，提高党员干部法治意识和廉洁自律能力，营造风清气正的浓厚氛围，6月11日，江苏...

  6月初，箭牌卫浴携手景德镇陶瓷大学、景德镇陶瓷大学青年校友创业基地共创 相箭美好 设计研学活动落地...

  2024年6月13日，由新疆沃宏农业发展有限公司主办，TFresh万果会承办

  （广州，6月14日）第32届广州国际大健康博览会于6月14日至16日隆重举行，吸引了来自全球众多有名的公司和...

  八二设计为了更好地发挥EPC项目优势,近年来总结经验对EPC项目实行超前策划,凸显了强大的资源整合能力,展现...

  很多游戏的乐趣在于联机，比如：我的世界、幻兽帕鲁等，但自建服务器往往面临远程访问难题。然而，自建...

  威世智于 2024年6月7日推出了世界上第一款集换式卡牌游戏《万智牌》的最新系列：《摩登新篇3》。《摩登...

  2024年5月15日起，博众投资积极开展第六届515 全国投资者保护宣传日暨第五届防范非法证券期货基金宣...

  作为过来人，我们大家都知道在人生的长河中，偶尔的挫败不是终点，而是通往胜利前夜的必经之路。当命运的笔触...

  小时候，爸爸是无所不能的超人，他总是在我们最需要的时候出现，为我们排除困难、遮风挡雨;长大后，爸爸...

  在碳中和的大背景下，绿色能源及可持续的环保理念逐步渗透各行各业，水务行业的供需也进入了洗牌阶段，...

  日前，柏曼酒店在湖北黄石又开3 0版本新店柏曼酒店阳新铜锣湾广场店已开业迎客。作为黄石第6家柏曼...

  山东华素制药是一家以生产、研发心脑血管类药物为主的现代化制药企业,主要生产化学原料药和片剂,产品涵...

  龙安先进制造业开发区管理委员会以案为鉴 警钟长鸣集中组织观看《安全生产 责任在肩》警示教育片为进...

  6月13日-14日,中国石化润滑油有限公司承办的中国汽车工程学会汽车燃料与润滑油分会第二十一届学术年会如...

  6月12日,国家互联网信息办公室发布了《国家互联网信息办公室关于发布第六批深度合成服务算法备案信息的...

  蝉鸣悠悠,凤凰花开,夏日滚烫的热风带着祝福,亲吻李锦记希望厨师成都班45名毕业生的脸庞。6月12日上午,本...

  随着上一轮国际知名发展心理学家阿莱莎苏尔泰在杭州云谷学校开展《理解孩子的行为问题》专题讲座结束...

  阿里云作为云原生技术的推动者及引领者，一直走在行业发展的前沿，始终关注业内新方向。为推动新技术发...

  2024年6月13日，中华环保联合会在广东省佛山市举办了数字绿色书院启动发布会暨2024数字空间绿色低碳行动...