栏目导航
确保人工智能安全、可靠、可控
来源:米乐体育 发布时间:2025-06-23 22:16:52
作为新一轮科技革命和产业变革的重要驱动力量,AI发展在发挥多方面非消极作用的同时,也面临着安全风险等一系列问题。4月25日,习在主持中央政治局第二十次集体学习时强调,“完善人工智能监督管理体制机制,牢牢掌握AI发展和治理主动权”。人工智能安全是我国总体国家安全观的重要组成部分。习格外的重视统筹AI发展和安全,围绕发展和安全辩证统一关系、筑牢国家安全屏障等作出一系列重要论述,强调“要加强AI发展的潜在风险研判和防范,维护人民利益和国家安全”。推动人工智能健康有序发展,必须充分运用法律、技术等多种手段,构建并完善全方位、多层次的监督管理机制,有效应对AI带来的各种风险和挑战,确保人工智能安全、可靠、可控。
通过法律手段对人工智能进行监管是世界主要国家和地区的普遍通用做法。2017年以来,美国、欧盟、日本、新加坡等陆续发布AI领域的法律和法规准则,持续加强对AI的管理。近年来,我国持续加快AI领域立法步伐,出台网络安全法、数据安全法、个人隐私信息保护法和《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律和法规,在加强对AI监管、防范人工智能风险等方面发挥了非消极作用。与此同时,人工智能技术和应用发展日新月异,人工智能的监管需求日渐增长,有关规定法律法规还存在一些短板和不足,比如,法律体系还不够完善,缺少人工智能安全监管的专门法律,在一些促发展、保安全的关键问题上还存在立法空白等。习强调,“要坚持促进发展和依法管理相统一,既大力培育人工智能、物联网、下一代通信网络等新技术新应用,又积极利用法律和法规和标准规范引导新技术应用”。我们要进一步把握人工智能发展趋势和规律,加快人工智能立法进程,推动人工智能相关立法工作列入国家立法规划,尽快制定具有前瞻性的人工智能法律法规,为相关技术的研发、应用和管理提供法律依据和保障;聚焦人工智能重点领域制定法规政策、行业规范,强化人工智能技术滥用的法律约束,逐步完善人工智能相关法律体系,为我国人工智能安全治理提供法律依据和支撑。
人工智能技术的复杂性和不确定性使其可能带来多种风险,如数据泄露、算法偏见、系统被攻击等,这些风险可能对个人、企业和社会产生负面影响。人工智能技术的风险评估与分类分级监管是确保人工智能技术安全、可靠和可持续发展的关键环节。通过建立健全风险评估与分类分级监管机制,既可以有效识别和量化潜在风险,保障人工智能技术的安全应用,又能促进人工智能的创新发展。生成式人工智能是人工智能的一个分支。2023年7月,国家网信办等七部门发布《生成式人工智能服务管理暂行办法》,明确要求对生成式人工智能服务实行包容审慎和分类分级监管,对具有舆论属性或者社会动员能力的生成式人工智能服务开展安全评估。这是我国出台的全面监管生成式人工智能的规范文件。当前,人工智能技术发展方兴未艾,我们既要建立包括技术风险、数据安全风险、伦理风险、社会影响等在内的风险评估体系,对人工智能系统的潜在风险进行全面、动态的评估,以便及时发现和防范风险;也要进一步建立健全分类分级监管机制,根据人工智能应用的领域、风险等级、安全后果以及容错能力等,划分不同监管级别,实施差异化的监管措施,以确保人工智能技术健康、安全、可持续发展,更好保障社会公共利益和国家安全。
人工智能在给经济社会发展带来巨大福利的同时,也带来难以预知的各种风险和复杂挑战。人工智能技术发展的不确定性、技术应用的数据依赖性以及算法可解释性可能导致技术失控、隐私失密、公平失衡等问题,冲击着人类社会的伦理规范。近年来,为有效应对人工智能引发的伦理问题,我国成立了国家新一代人工智能治理专业委员会,发布了《新一代人工智能伦理规范》等规范制度,持续加强人工智能伦理治理,取得明显成效。习强调:“科技是发展的利器,也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战,完善相关法律法规、伦理审查规则及监管框架。”要始终坚持“以人为本、智能向善”的人工智能发展原则,加强对人工智能发展的安全伦理风险研判,对人工智能应用可能产生的负面影响开展预见性风险评估,提前做好风险预案,确保人工智能发展安全可控;积极引导企业、科研机构等在人工智能发展中承担社会责任,要求其规范数据采集、加强数据保护、修改推送规则、监管虚假信息,防止出现数据滥用和虚假信息蔓延;深入开展人工智能伦理教育和宣传,构建良好舆论氛围,推动人工智能安全可控、健康有序发展。
人工智能是一个复杂的系统,对人工智能的监管与治理也是一个复杂的系统工程。对人工智能实行有效监管和治理,离不开政府、企业、行业组织、学术团体、社会公众等多元主体的共同参与。2024年,全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版,紧密结合人工智能技术特性,分析人工智能风险的来源和表现形式,提出一系列技术应对和综合防治措施,这对于推动社会各方积极参与、协同推进人工智能安全治理具有重要促进作用。习指出,“人工智能带来前所未有发展机遇,也带来前所未遇风险挑战”。推动人工智能健康发展,需要多方协同,共建共治。要明确监管主体,成立人工智能专门监管机构,负责统筹协调人工智能安全监督管理工作;建立健全跨部门协同监管机制,加强政府内部各部门的协同合作,形成监管合力;建立社会多元共治机制,鼓励行业协会、社会组织、企业等参与人工智能安全治理,着力形成政府、企业、社会组织和公众共同参与的协同共治新局面。
当前,人工智能在带来巨大机遇的同时,也带来威胁全球稳定的风险,需要国际社会共同合作才能有效应对。在这方面,中国始终坚持在充分尊重各国政策和实践基础上,推动形成具有广泛共识的全球人工智能治理框架和标准规范,并在规则制定、合作机制建设、实践推广等方面持续贡献中国智慧和力量。2023年10月,中国提出《全球人工智能治理倡议》,推动各国协力绘就全球人工智能治理的未来蓝图;同年11月初,中国、美国、英国等28个国家和欧盟签署《布莱切利宣言》,同意通过国际合作,建立人工智能监管制度与方案;中国还积极举办世界人工智能大会、世界互联网大会,促进各国在人工智能等方面开展合作。习指出,“要广泛开展人工智能国际合作”“早日形成具有广泛共识的全球治理框架和标准规范”。我们要继续发挥负责任大国作用,积极参与全球人工智能治理框架与标准规范的建立,通过签署国际公约、参与国际组织活动等方式,提升我国在国际人工智能治理中的话语权和影响力;积极与其他国家和地区开展跨国监管合作,共同应对AI带来的跨境安全挑战,推动形成统一的国际监管标准和机制。(作者 李国祥,山西省社会科学院〔省政府发展研究中心〕马克思主义研究所副所长)
【大国粮策】“锄禾日当午”遇上“代码田间舞”!南农AI农场主带你“云”种地
既能上天飞行,也能踏海遨游,我国完全自主研制的AG600“鲲龙”飞机,正是这样的“跨界”航空装备。近期,“鲲龙”喜讯频传——4月20日,获颁中国民航局型号合格证;5月6日,批产首架机总装下线日,顺利完成生产试飞;6月11日,获颁中国民航局生产许可证。
记者从展会上感受到,过去几年氢燃料汽车的发展倒逼氢能产业的发展,而今,氢能的应用从燃料电池车的单一赛道向其他行业辐射。丰田智能电动汽车研发中心(中国)有限公司丰田中国氢能事业总部领域长线年百万辆燃料电池汽车规模的目标面临挑战。
近日,总医院第五医学中心血液病医学部高晓宁教授团队和周杰教授团队合作,在国际著名期刊《Oncogene》发表突破性研究成果,首次揭示PHF19基因在急性髓系白血病中的“致命开关”作用,为破解白血病复发耐药难题带来全新解决方案。团队首次阐明WTAP-PHF19调控轴的双重表观遗传调控机制,这相当于找到了癌细胞的“能量总控开关”。
科研之路道阻且长,如何选对方向?如何坚定信念走得更好、走得更远?我们邀请了几名在不同领域从事科研工作的青年科技工作者,请他们讲述自己当初为何选择投身科研,并勇毅前行、不断攀登科技高峰的故事。
一种能够为任何3D打印器官快速设计血管网络的计算模型,可能让我们离无需供体即可移植人工肝脏、肾脏或心脏的目标更近一步。研究人员利用模型,为一个由肾细胞3D打印而成的1厘米宽环形结构设计了由25条血管组成的网络,整个过程仅用了几分钟。
在6月18日至20日举行的2025年世界移动通信大会(上海)(MWC上海2025)上,一系列新技术、新产品、新应用集中亮相。
每年春天,在南半球夜空的指引下,数十亿只布冈夜蛾会向南迁徙1000公里,到达澳大利亚的阿尔卑斯山脉。
厦门大学柔性电子(未来技术)研究院教授梁亮亮团队联合新加坡国立大学教授刘小钢团队,在镧系元素掺杂光子雪崩上转换纳米晶研究中取得进展。
几十万年前,不只是我们“毛茸茸”的祖先在奔跑、狩猎、生火,还有许多其他“人类亲戚”也栖居在地球上。
记者从上海海洋大学获悉,该校水产与生命学院、上海海洋大学eDNA工程中心张玮研究小组在四川稻城海子山保护区的从前措,完成了一次令人兴奋的“生命寻宝”——发现并命名了一种全新的藻类。
在生命起源的奥秘中,胚胎发育始终是深受关注的谜题之一。研究发现,在小鼠胚胎发育到7.75天时,胚内、胚外层交界处出现一个独特的信号“洼地”——器官原基决定区(PDZ)。
高校学术共同体是科学家精神的培育者、践行者、传承者,以科学家精神引领学术共同体文化建设、以制度机制创新推进科学家精神转化为学术共同体的行动自觉,必将推动高校充分发挥人才和科技优势,在实现高水平科技自立自强、全面提高人才自主培养质量中做出积极贡献。
今年麦收期间,各地积极应对高温炎热和多轮大范围降雨天气影响,高效调度机具,强化部门协作,加强服务保障,全力组织抢收,努力做到适收快收、应收尽收。
干细胞储备耗竭及其引发的组织再生与稳态维持能力下降,是机体衰老和衰老相关疾病的关键特征。
设立20多年来,创新研究群体项目有力支持了一批优秀学术带头人自主组建、带领研究团队开展创新性的基础研究。
今年以来,DeepSeek“破圈”跻身全球AI大模型“顶流”,人形机器人加速进入多个应用场景……
海洋给人的传统印象,一是资源取之不尽、用之不竭,二是靠天吃饭。渔民们世世代代出海撒网,找鱼靠经验、收成靠运气,虽然要受天气、季节、水文等的影响,却从不担心无鱼可捕。
(记者魏依晨)记者6月15日从江西婺源森林鸟类国家级自然保护区获悉,该保护区与上饶师范学院生命科学学院在多样性调查中发现了昆虫新属新物种——桂刺蛾。上饶师范学院生命科学学院院长郭连金介绍,基于线粒体编码的细胞色素C氧化酶I(COI)基因的分析表明,桂刺蛾属为单系群。
几年前,我开始使用聊天机器人ChatGPT时,还觉得离通用AI(AGI)很遥远。我发起的研究项目正是围绕上面讲述的情况展开的,并希望构建一种只有智能,没有自我、没有目标,并且具有极有限行动能力的AI。
- 上一篇: 穆棱市丰富粮食交易有限公司二期项目开工
- 下一篇: 打破边界实现质变:贵州金三叶的蜕变之路!