好玩的AI换脸也可能威胁国家安全？-Ameya360 electronic components purchasing network

好玩的AI换脸也可能威胁国家安全？

Release time：2019-09-03

author：

source：新浪科技

reading：1516

ZAO可能产生的潜在危险和不安全性，也是人工智能为社会提供产品的同时人们必然面临的挑战。

　　名为ZAO的AI换脸软件红遍网络，然而好景不长，一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧，仍在蔓延。

　　实际上，ZAO软件就是一款经改造的换脸APP，2017年发源于美国，称Deepfakes，是深度机器学习（deep machine learning）和假照片（fake photo）的简称（合称），最生动的称呼是深度（照片）造假。

　　既然是造假，当然要禁止。它不仅可能产生因个人信息泄露带来的种种不安全，如果涉及犯罪，轻而易举的换脸操作也会让真假罪犯难辨，同时加大司法成本。当然，在一些国家，如美国，换脸还可能成为反恐的梦魇，既可以让恐怖分子很容易通过换脸作案和逃脱，也加大了安全部门反恐的难度。

　　所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性，这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此，如何监管才是最现实和最严峻的问题。

　　现在ZAO软件就面临着管理者禁与放的困难抉择。而对于换脸，美国欧盟等认为，即便是潜在的威胁，也极其严重，必须先出手防范。

　　今年1月28日，美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes？》，指出，以Deepfakes为代表的换脸技术具有一系列潜在的危害，包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等，希望各国明确定义Deepfakes的不正当使用，亟须社会定义什么可以接受，什么不可以接受，这既有利于社会和法律的管理，也有利于社交媒体规范其平台，管理网上内容。

今年6月13日，美国众议院情报委员会对Deepfakes举行了听证会，会上该委员会主席、众议员亚当·希夫称，篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景，让议员、新闻媒体和公众“难以分辨什么是真实的，什么是虚假的”。因此，他和美国马里兰法学院教授达尼埃尔·西特龙建议国会考虑对《通信规范法》第230条（互联网服务不必为其用户的行为负责）进行修改，以打击Deepfakes，保护用户免受假新闻的误导。

　　针对Deepfakes换脸技术产生的具有破坏性的危险性内容，欧盟也在2019年初出台了应对指南，以帮助公众分辨某条信息的来源，信息是如何产生的以及信息是否值得信赖。

　　可以看到，对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止，只是在进行论证。但迫于压力，美国的Reddit上关于换脸技术的讨论版被删除，换脸技术也在美国被全网封禁，其GitHub开源代码也被清除。

　　尽管目前看来，ZAO软件还没有造成实际上的危害，但是，正如网友所指出，一个潜在危害非常实在：“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你家人通话了。”因此，公众的担心并非杞人忧天，有必要及早以明确的法律条款予以规范。

（"Note: The information presented in this article is gathered from the internet and is provided as a reference for educational purposes. It does not signify the endorsement or standpoint of our website. If you find any content that violates copyright or intellectual property rights, please inform us for prompt removal."）

行业新闻

这个“黑客帝国”的痴梦，未来究竟以怎样的线路图演进？

硅谷钢铁侠的倾情安利，让脑机接口成了一个火到烫耳的热词。 7月17日旧金山的一场公开活动中，马斯克投资的神经科学公司Neuralink公布了最新的脑机接口装置。“无损植入”“装备完整”“成功应用”，是被重点强调的特殊之处。一时间全网都在喊《黑客帝国》来了，话题更是一度延伸到了科技伦理、人机共生等哲学层面。不过不出所料，很快就有专业人士出来打脸，认为产品远没有达到可应用的预期。别问，问就是“画饼”。必须承认，马斯克是一个非常善于打破次元壁、将科幻搬进现实的公关天才。可惜现实与科幻作品最大的区别就是，艺术可以尽情放飞脑洞，但技术想要从0变成100，中间的1到99都是无法省略的步骤。尤其脑机接口这样牵涉甚广的交叉学科，更不会跳过打怪升级的过程直接一步封神。这也是为什么，马斯克为我们描绘了一个人机共生的震撼未来，却又很难具象与明确。那么，马斯克的成果与真实的脑科学之间，究竟是以何种关系共生的？脑机接口未来又将以怎样的路线图演进？脑机接口的“马斯克形态”：科学还是玄学？事故后只剩下大脑，也能操控机械骨骼；用脑神经指挥机甲与敌人搏斗；甚至将大脑中的意识提取并转移，实现另一种概念上的永生…… 乍一听，你可能会觉得自己走错了片场——“这也太玄乎了吧！”，而这正是马斯克与Neuralink公司为人类安排的未来。按照马斯克的规划，他们打造的脑机连接设备，包含了为脑机接口系统特质的柔性电线、类似缝纫机的穿线机器人，以及读取大脑信号的电子芯片，安装完成后，可以通过USB连接大脑，并用iPhone进行控制。往近了说能帮助一些脑损伤患者（例如中风、癌症或者先天障碍）提升生活质量；长远目标则是让所有人实现移动、视觉、语言交流等运动的“脑部操作”。针对前一目标，我们已经看到了不少实际的应用案例。比如利用神经脉冲恢复听觉的人工耳蜗；帮助13 名瘫痪者控制肢体的 BrainGate 系统；Facebook靠脑输出的语音文本界面……但如果设定一个高可靠、规模化的执行标准，“马斯克形态”的脑机接口，似乎只能呆在实验室里，或者科幻小说中。首先要知道，理想中的脑机接口都是如何实现的？简单来说，就是通过设备刺激脑部神经元，捕捉相应的感知信号，对其进行读取和记录，进而转换成指令发送给外部设备，比如机械臂、电子屏幕甚至物联网装置。所以脑机接口技术的核心突破点，就在于三个关键指标： 1.脑。检测到脑部活动并不难，核磁共振、脑电图等都可以检测到大规模神经元的运动表现。但想要通过人力对大脑进行结构重建和功能模拟，需要完整的脑部路线图来确保人工指令的精准触发与送达。但以目前的脑认知水平，基于自发脑电的任务识别率只有80%，诱发脑电的控制精度同样也达不到使用要求。也难怪马斯克和Neuralink谈到自家设备时，究竟能做什么，刺激哪些部位，怎么实现的，一律含糊其词了。 2.机。脑机接口设备采集到的脑电信号之后，最关键的一步就是对其进行处理，转换成机器语言被电脑接收，进而达到辅助人类的目标。但脑机接口的通信速率还比较低，而且不可避免地会遇到环境干扰。由于需要在PC平台上处理信息，所以目前BCI产品的便携性也很差。举个例子，目前基于视觉信号诱发的BCI通信速率最高，但也只有60-100bit/min。像是通过跟踪电脑屏幕上虚拟键盘的视觉信号，来显示对应的文字，以目前的技术只能做到每分钟输出10个单词，还必须精神高度集中。这样的信息转换效率，说一句话、递一杯水都累个半死，远远达不到正常交流、操控自如的水平。 3.接口。生物相容性，是脑机接口的先决条件。而目前的技术解决方案都有不少问题，非植入设备对脑电波信号的捕捉极其不稳定，无法实现准确读取和控制。而植入设备，要么采用硬金属或半导体，很容易引起人体的排异反应；要么则是Neuralink所采用的超细聚合物管线，硬度不足，需要靠“缝纫机”机器人把它“编织”进大脑，这种介入是否会导致神经胶质增生的组织损伤，马斯克并没有拿出足够有说服力的证明。这三点限制反映了脑机接口的先天难题：无法真正复制大脑神经云的工作原理及运动细节，现有电子技术无法处理高清脑信号，工业体系无法实现安全无创随取随用的移植，使得脑机接口虽然看上去很酷，却始终只能在应用的边缘徘徊。如果我们将脑机智能看做是一个蕴藏着巨大财富的技术世界，如今的马斯克就像是拿到了一张局部高糊地图，就呼吁大家上车跟他一起去寻宝…… 相比“脑部改造”，更重要的是脑认知与脑模拟 “两开花”想要在人类大脑上“为所欲为”，一个真实可靠高精度的技术路线图是必不可少的。而这里脑机接口的存在感很低，主要依赖两个重点领域——认路，即理解大脑的结构和功能，以及神经信息处理的机制；造路，通过智能技术模拟大脑运动，推动信息产业的发展。其中，脑认知的诉求带动了基础脑科学的突破，这在各国的脑计划中都是重中之重。比如美国的脑计划就提出一个口号——记录神经环路中每一个神经元的每一个锋电位，填补宏观意识与微观电子之间的“明显的鸿沟”。2016年发布的“中国脑计划”，也将研究脑认知的神经原理作为学科制高点。而类脑智能则从算法角度为人类探索大脑提供了一种途径。核心在于“模拟大脑”的超级能力，背后包含了一系列应用落地的技术和硬件体系。脑机接口的计算技术和器件，脑机融合的新模型新方法等等只是类脑智能的其中一个分支。换句话说，脑认知与脑模拟是智能的“一体两面“，未来想要占领智能的高地，很大程度上要看哪个国家或企业能率先做到这两个领域真正地融合发展。只有二者在现实场景中不期而遇，脑机接口的“大脑改造计划”才有可能梦想成真。接下来，脑机接口还需要点亮哪些技能树？站在这个角度审视脑机接口，会发现当前阶段它更合理的角色，是成为脑认知与脑模拟的辅助技术中的一员，而不是直接上位“大脑指挥官”。当然，终极版的“脑机接口”是那么神奇而迷人，也让我们忍不住来设想一下，想要抵达大脑这片“无垠之海”，还需要点亮哪些技能： 1.人类脑图谱。传统核磁共振等脑成像技术让人们了解了大脑宏观结构和功能区块，而要实现脑机接口想要实现复杂的多元任务目标，就依赖于细胞级分辨率（微米级）神经网络图谱和高时间分辨率（毫秒级）的神经元集群的电活动图谱。这有点无人驾驶领域的高精度地图，有了它才能平稳飙车。目前各国都在这一领域加紧布局，日本的大脑图谱MINDS就对“普通狨猴”展开了结构和功能地图测绘；2016年中科院绘制的一张全新人类脑图谱，就包含了246个精细脑区亚区。未来研究成果的完善与扩大，揭开脑电与脑功能的因果关系，脑机接口的精确操控或许才成为可能。 2.微电极技术。传统脑机接口之所以发展不起来，一个关键原因就在于临床上还没有出现能记录和处理大量信息的微电极阵列。现有的半导体尺寸都很大，一些脑机器械需要专家才能操作。如果必须让一个神经学硕士站在患者旁边帮他操作，这项技术显然就没有太大使用价值。最后真正拥有机会的，一定是低损伤甚至无损伤的微型电极。 3.半导体技术。传统的脑机芯片计算效率很低，只能处理很小一部分神经元信号。实验室中科学家可以通过PC等外部设备花费大量时间进行数据离线处理，但在实际应用时，实时脑机接口则要求最大化的解码效率，同时还要尽可能少地耗能，总不能隔三差五取出来充电吧。Neuralink最后选择了自研芯片可能也是出于这种考虑，但持久度如何还有待检验。 4.人工智能算法。与其依赖大脑自行完成操作，并为漫无边际、时有波动的脑电波信号感到困扰，不如将解决的希望放在算法上。相比人脑，算法的可塑性更强。斯坦福大学就通过机器学习模型来预测用户眼动的意图，帮助光标自动移动到特定位置，从而提升了大脑打字的效率。受临床实验的限制，目前此类算法的数据规模还比较少，准确率还有待提升，热衷于靠脑机+AI改造人类的马斯克将研究重点放在这里或许可行性与商业价值更大。通过上述技术突破点不难看出，马斯克预想中的“半机器人”时代，对基础科学、材料学、通讯技术及相关软硬件的需求都很强烈。或许相比脑机接口这样炸裂而遥远的“大风口”，这些关联技术的接连爆发，才是真正的“金矿”。与其急于圆一个“黑客帝国”的痴梦，倒不如沿着枯燥而真实的技术演进路线去一步步打磨与淬炼。

2019-07-22 00:00 reading：1521

model	brand	Quote
TL431ACLPR	Texas Instruments
RB751G-40T2R	ROHM Semiconductor
MC33074DR2G	onsemi
CDZVT2R20B	ROHM Semiconductor
BD71847AMWV-E2	ROHM Semiconductor

model

brand

Quote

Texas Instruments

ROHM Semiconductor

onsemi

ROHM Semiconductor

ROHM Semiconductor

model	brand	To snap up
IPZ40N04S5L4R8ATMA1	Infineon Technologies
TPS63050YFFR	Texas Instruments
BP3621	ROHM Semiconductor
BU33JA2MNVX-CTL	ROHM Semiconductor
STM32F429IGT6	STMicroelectronics
ESR03EZPJ151	ROHM Semiconductor

model

brand

To snap up

IPZ40N04S5L4R8ATMA1

Infineon Technologies

Texas Instruments

ROHM Semiconductor

ROHM Semiconductor