据报道，11月初，首届全球人工智能安全峰会在英国召开，中国、美国、英国、欧盟等多方代表签署《布莱切利宣言》。中国科技部副部长吴朝晖在发言中表示，人工智能治理攸关全人类命运，是世界各国面临的共同课题。
11月16日，微信号“国家安全部”发布消息表示，对于如何化解人工智能带来的国家安全挑战，国家安全部表示，国家安全机关将强化科技赋能、数字赋能，不断推进国家安全体系和能力现代化，为应对人工智能的风险挑战筑牢国家安全屏障。
视频中的“岸田”，身着西装，语气郑重，且屏幕上还配以日本电视台的台标和“突发新闻”字样。然而，从他嘴里讲出的，却是不堪入耳的“黄段子”。
这当然是一则生成式人工智能制作的假视频。但惊人的是，视频在社交平台上发布后，短短24小时播放量已超过230万人次，关注度与传播率可谓惊人。
更惊人的是，据制作该视频的男子表示，生成这则视频的原料其实就是日本电视台新闻节目的实际影像，使用工具则是能够配合说话声音进行嘴型加工的生成式人工智能软件。据悉，这一软件学习岸田的声音用了约2小时，制作视频本身则只用了约1小时。
所谓生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。换句话说，它可以创造原本不存在的对话、故事、图像、视频和音乐，模糊真实与虚假的边界，令人难以判断。
如果说生成式人工智能所创作的作品是否享有版权还主要是法律问题，对公众人物的言论近乎以假乱真的杜撰则不仅涉及伦理和法律问题，更有可能引发难以预料的后果。尽管制作“岸田”视频的男子称自己只想搞笑，且为此向日本电视台表示歉意，但细想难免令人后怕——一国政治首脑若可以被人操纵面向公众发言，这次是“开黄腔”，那下次如果是对外宣战呢？
其实，早在“岸田”讲段子前，不少政治人物已成为生成式人工智能创作的原料。这一技术还可能在选举的关键节点生成诋毁竞选对手的假视频，从而以假消息左右选举。也难怪有分析人士指出，生成式人工智能的发展，有可能对目前的选举政治构成前所未有的致命挑战。
政坛之外，生成式人工智能对娱乐、传媒、艺术等领域公众人物的“创作”也不少见。在各种短视频平台，从以搞怪喜剧闻名的“憨豆先生”，到因饰演《哈利·波特》系列电影里的赫敏而成名的艾玛·沃森，不少外国名人纷纷能“讲出”一口毫无翻译腔又完美符合本人音色的普通线;如果说这种“全世界都在说中国话”的“创作”还只是逗人一乐，那么生成式人工智能依据人物头像等资料合成制作的色情制品，则是对相关人物赤裸裸的侵犯与伤害，会对当事人造成困扰，乃至巨大的名誉和精神创伤。
更有甚者，生成式人工智能还被用于电信诈骗。近日有媒体报道，作为国内一家科技公司法人代表的郭先生突然接到一名“好友”的微信视频，称他在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“确认”了身份，郭先生在10分钟内把430万元巨款如数转到对方的银行账户上。事后郭先生才得知，这其实是骗子通过人工智能换脸和拟声技术实施的骗局。
美国电视台也曾做过一期节目，现场展示黑客通过克隆声音来窃取信息的过程。黑客仅用了5分钟就通过人工智能软件克隆了当事人的声音，并且替换了手机的来电显示功能，成功获取了相当多的私人信息。
在亚欧大陆另一端，以色列与巴勒斯坦抵抗运动(哈马斯)在加沙地带血战的背后，也惊现人工智能的身影。
据以色列国防军一名高级情报官员透露，自10月7日本轮巴以冲突爆发以来，以色列国防军借助人工智能打击了加沙地带1.4万多个目标，“高度先进的人工智能主导的目标库”帮助以军士兵在一天内锁定并摧毁了150个地道目标。可以说，在本轮巴以冲突中，人工智能对战事的介入程度达到新的水平。它发挥的作用已不只是辅助人脑进行图像识别，还直接参与复杂地形条件下的地图绘制与侦察。从战争实践的角度来说，以军的相关经验必然引起各方重视。
有分析人士认为，可怕之处在于人工智能已经一步步从战场的幕后走向前线，而鉴于西方国家在无人设备上侦察和打击一体技术的发展，人工智能芯片算力的提升，尤其是地缘政治紧张态势加剧的高技术竞争，在下一次冲突中，是否有可能看到类似好莱坞电影《终结者》中自主杀人机器人的出现？
以色列宣布将人工智能融入致命性行动，距离本轮巴以冲突不过短短几个月时间。科技威力的发展如此迅速，以致让人担忧能否有效规制它。人工智能的“潘多拉魔盒”能否避免被彻底打开，实质上取决于国际社会的共识与行动。
分析人士称，人工智能技术正以难以想象的方式嵌入人们的认知与生活里，让越来越多的人感受到何谓“一念成佛，亦可一念成魔”。如何有效规避这一新兴技术的风险，避免打开智能革命时代的“潘多拉魔盒”，已迫在眉睫。
据报道，首届全球人工智能安全峰会11月在英国布莱切利园召开，来自全球28个国家的政府代表、7个国际组织，以及超过80个学术研究机构、企业和公民组织与会。
尽管与会国家数量有限，但在人工智能的“玩家群”，可以说是强手尽出。除来自中国、美国、英国、欧盟、印度的官方代表外，还有英国图灵研究所、中国科学院、经济合作与发展组织等众多智库机构，以及英国“深层思维”公司、美国谷歌公司和微软公司、中国腾讯公司和阿里巴巴公司等知名企业参与。本次峰会重中之重，就是关注人工智能技术可能带来的风险，探寻全球人工智能治理方案。
会后，各方共同签署了《布莱切利宣言》。据报道，《布莱切利宣言》指出，人工智能的许多风险本质上是国际性的，“最好通过国际合作来解决”。
对于这一幕，百岁高龄的美国前国务卿基辛格可能会感到欣慰。这位曾推动东西方之间架起沟通桥梁的外交家，开元体育近年来一直关切人工智能对全球未来的冲击，并大声疾呼大国之间应合作管控新兴技术的科技风险。
就在此次峰会开幕之前，一些西方政客却对是否应邀请中国与会提出异议。对此，英国首相苏纳克在宣布邀请中国时表示，就人工智能相关科技实力而言，美国居首，中国紧追其后，若不让全球人工智能强国参与研讨过程，就不会有值得被严肃看待的全球人工智能战略。
据英国《卫报》报道，此次峰会组织者之一、英国官员克利福德表示，美国商务部长雷蒙多和中国科技部副部长吴朝晖同台是个“非凡的时刻”，“展示了全球团结的决心”。吴朝晖在发言中表示，人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治，增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。
事实上，一些西方政客动辄以意识形态为由竖起科技藩篱的做法，恰恰是阻碍全球人工智能治理的最大阻碍之一。美国硅谷企业家埃隆·马斯克在峰会闭幕后表示，“如果中国不是（峰会）参与者，那就毫无意义”。他认为，美国、英国和中国等各方在人工智能安全方面取得共识有利于应对相关问题。
值得关注的是，10月“一带一路”国际合作高峰论坛期间，中国发布了《全球人工智能治理倡议》。其中指出，各方应鼓励全球共同推动人工智能健康发展，共享人工智能知识成果，开源人工智能技术；反对以意识形态划线或构建排他性集团，恶意阻挠他国人工智能发展。中国还提出，积极支持在联合国框架下讨论成立国际人工智能治理机构，协调国际人工智能发展、安全与治理重大问题。
近期，美国国会举行了多场与人工智能立法有关的讨论。其中一场听证会中，谷歌、微软、特斯拉、OpenAI等科技巨头先后发表了看法，呼吁美国政府和立法机构尽快采取行动，解决人工智能治理中的原则性问题。今年6月，欧盟推出全球首部人工智能法案，对生成式人工智能企业提出更高的透明度要求。该法案要求此类企业在人工智能生成内容上增加标记，与训练内容提供者分享利润，严格限制算法被运用于非法领域和传播谣言。
纵观历史，科技的发展从来都是双刃剑，但剑刃指向哪里可以由人来决定。在人工智能迭代加快、应用愈发广泛的当下，各国亟须共同行动，防止人工智能“野蛮生长”。只有通过明确、科学的规范和引导，确保人工智能不失控、不逾矩，让AI技术在合法、规范的轨道上运行，才能真正让先进技术造福于人类。
◆数据窃取风险 人工智能需要海量的数据来进行学习和训练，这些数据可能包含用户大量敏感信息。如果这些信息被滥用或泄露，可能会对个人隐私、国家安全造成严重危害。
◆网络攻击风险 人工智能可以成为破坏网络安全和管理的“帮凶”。在人工智能的协助下，网络攻击者可以随时随地对特定目标轻易发起针对性和隐蔽性很强的进攻，将互联网空间变成人人自危的“黑暗森林”。
◆“数据投毒”风险 “数据投毒”是指在人工智能训练数据中投放恶意数据，干扰数据分析模型正常运行的行为。在智能汽车系统中“投毒”，可能导致交通事故；在舆论宣传中“投毒”，一些负面思想可以更加隐蔽地渗透至群众思想观念中。
◆军事安全风险 人工智能可被用在致命性自主武器上，通过自主识别攻击目标、远程自动化操作等，隐藏攻击者来源，建立对抗优势；人工智能可以将网络、决策者和操作者相连接，让军事行动针对性更强、目标更明确、打击范围更广。
今年7月，微软创始人比尔·盖茨发表文章指出，人工智能(AI)的未来不会像某些人想象的那么严峻，也不会像一些人想象的那么乐观，其风险的确存在，但这些风险是可控的。
与硅谷的其他一些高管相比，盖茨似乎不那么担心人工智能的风险。他表示，这项技术的出现可能会导致深度伪造、有偏见的算法和学生作弊等问题，但他预测，这项技术引发的问题是可以解决的。
他认为人工智能的影响可能不会像工业革命那样巨大，但肯定会像个人计算机问世那样带来重大冲击，许多由人工智能引发的问题可以通过人工智能来解决。
盖茨指出，重大创新带来了新的威胁，这已经不是第一次了，人类已经适应了过去所有的技术进步，他们也将适应人工智能。“例如：它将对教育产生重大影响，而几十年前的手持计算器以及近些年允许计算机进入教室也产生了重大影响。”
盖茨鼓励所有人尽可能多关注人工智能发展，因为这是当代最具变革性的创新。微软是人工智能竞赛的领导者之一，它已经开发和部署了一系列人工智能产品，这些工具有望帮助人们提高生产力和创造力。但一些业内知名人士也公开对这项快速发展的技术提出了“末日预言”。
盖茨对采用这项技术所带来的一些挑战也感到担忧，包括它如何改变人们的工作，以及有时候会虚构信息，让人一时无法分清事实。他还提到了深度伪造的问题，即利用人工智能模型，人们可以轻松制作冒充他人的假视频，这可能被用来欺骗他人。
但盖茨强调，人们不应该对人工智能感到“恐慌”，这项技术需要的是监管，是“限速和安全带”。“第一批汽车上路后不久，就发生了车祸。但我们没有禁止汽车——我们采用了限制速度、安全标准、执照要求、酒驾法律和其他道路规则。” （中广）
