本周在日内瓦举行的联合国裁军会议上，与会国同意在2017年讨论是否禁止杀人机器人。支持者认为，一旦杀人机器人存在，就没有办法再阻止它们，因此需要提前禁止它们。在会议上致辞的新南威尔士大学的AI 教授 Toby Walsh 本周早些时候在 IEEE Spectrum 上发表文章，解释为什么联合国应该禁止杀人机器人：没有禁令限制将会出现军备竞赛，最终可能通向类似终结者的反乌托邦未来；今天的冲突是不对称的，机器人主要的对手不是其它机器人，而是人类。

作为联合国裁军会议的一部分，与会国将在周五决定是否正式讨论致命自动机器人禁令。新南威尔士大学的AI 教授 Toby Walsh 在 IEEE Spectrum 上发表评论文章，辩论为什么联合国应该禁止杀人机器人。他的论点包括：没有禁令限制将会出现军备竞赛，最终可能通向类似终结者的反乌托邦未来；今天的冲突是不对称的，机器人主要的对手不是其它机器人，而是人类。他认为，禁令不会100%有效，但就像生物武器禁令和化学武器禁令，相比没有禁令，有禁令将更可能会让世界变成一个更好的地方。

知名黑客 George Hotz 通过他的公司 Comma.ai 开源了自动驾驶软件和硬件。如果你的汽车使用了开源的自动驾驶软件，由于软件bug 汽车撞上建筑物，或其它汽车甚至行人，谁应该对车祸负责？许多法律专家和 Hotz 本人都相信，如果你使用了Comma.ai的代码，出了问题负责的不是Comma.ai而是你。但消费者保护组织 Consumer Watchdog 的顾问 John Simpson认为这不公平，他认为Hotz需要承担部分责任，随着修改代码的开发者增多，责任将会日益模糊。他认为是Hotz公开了代码，Hotz需要和用户一起承担责任。Hotz 通过源代码使用的 MIT许可证为自己加入免责声明，将法律责任转移到下载者。律所O’Melveny & Myers LLP 合伙人Heather Meeker指出，如果 Hotz 出售了包含开源软件的产品，或者向汽车制造商做出能正常工作的保证，那么Hotz将需要为损失承担责任；如果汽车制造商使用了 Hotz的软件，那么责任可能就转移到了它身上了。

人工智能、机器人技术和其它新兴技术将重塑我们所知的世界。根据管理咨询公司 Korn Ferry 的一项研究，绝大部分 CEO 在思考未来业务的时候认为技术的价值高于人类。Korn Ferry调查了800名商界领袖，44%的CEO相信机器人、自动化和AI技术将重塑未来的许多工作场所，人类在很大程度上将变得多余。Korn Ferry全球董事总经理Jean-Marc Laouchez认为有形性偏差（tangibility bias）可以解释为什么如此多的CEO采用这一受争议的想法，面临不确定性时CEO们在思考、规划和执行时将可以看到、触摸和测量的有形性如技术工具作为优先考虑的事。

Google工程师正在开发改进版的ReCAPTCHA验证系统，利用算法区分机器人程序和人类，而验证过程不需要用户互动。新的系统被称“Invisible reCAPTCHA”，仍然在开发之中，但服务已经开放注册，网站管理员可选择帮助Google测试这一新的验证技术。Google在过去几年推出了多个版本的ReCAPTCHA系统，最早是识别模糊扭曲的字符，然后是No CAPTCHA reCAPTCHA，通过分析用户与验证码的交互过程来区分真人和机器人。

苹果首次公开表示对自主驾驶汽车技术感兴趣。苹果产品整合总监Steve Kenner 致函美国国家公路交通安全管理局，称苹果对自动化运输的潜力感到兴奋，该公司因此对支持自动化驾驶系统的机器学习技术大举投资。苹果的信赞扬了“自动汽车的重大社会效益”，称这是一种拯救生命的技术，有望每年防止数百万起车祸和成千上万的死伤。Kenner写道，“苹果利用机器学习使其产品和服务更智能、更直观、更个性化，苹果公司正大力投资于机器学习和自动化研究，并对自动系统在多个领域的潜力感到振奋，包括交通运输业。”有知情人士此前透露，数百名苹果员工已经在一款电动汽车上工作了两年多时间。但随后又有报道称，该项目进展艰难。

知名黑客 George Hotz 筹集了数百万美元为普通汽车开发自主驾驶功能，他将其产品称为 Comma One。美国国家公路交通安全管理局今年10月致函 Hotz，要求他详细描述产品工作原理和内置的安全功能，否则他将面临罚款。Hotz 随后突然宣布取消这款产品，但并没有完全抛弃Comma One，而是开源了软件和硬件，相关文档和代码托管在 GitHub上。他的自动驾驶软件被称为Open Pilot，而相兼容的硬件被称为 Comma Neo。软件目前只支持本田讴歌ILX 2016和本田思域2016旅行版。在讴歌ILX上，软件依赖于巡航定速，也就是它只能在时速25英里以上启用；至于思域，时速降至18英里后软件会关闭转向。

过去几年，霍金（Stephen Hawking）、马斯克（Elon Musk）、比尔·盖茨等一些名人警告我们应加强关注超级AI可能带来的危险后果。而且他们还把钱用在这方面：包括马斯克在内的几位亿万富翁为OpenAI提供支持，该组织致力于开发惠及人类的人工智能。但是对很多人来说，这不过是杞人忧天。吴恩达称担心杀人机器人的出现就好像担心火星上人口过剩一样。与其担心人类被人工智能统治，不如思考因为我们过分相信我们制造的智能系统而可能带来的真正风险。机器学习的工作模式是训练已有数据寻找规律。当机器作出回答时，我们通常无法知道它的解答过程。这就存在明显的问题。机器的准确性取决于它学习时所使用的数据的准确性。由于我们提供给人工智能的很多数据都是不完美的，我们也不应期待人工智能一直能提供完美的答案。我们需要加强审视基于人工智能的决策过程。由于我们按照自己的样子制造出人工智能，它就很可能兼具人类的优点和缺点。

学术界的人工智能专家纷纷被主要科技公司挖走。最新的一个例子是斯坦福大学人工智能实验室主任李飞飞(Fei-Fei Li)加盟了Google，将担任搜索巨人的一个人工智能部门主管。其他例子包括斯坦福的吴恩达加盟百度，卡内基梅隆的Alex Smola加盟亚马逊...研究人员警告称，科技公司正在抽干大学的科学家人才，而这些科学家负责培养下一代研究人员，并且致力于解决从天文学到环境科学、物理学等众多领域的紧迫问题。根据美国国家科学基金会的数据，刚毕业的计算机科学博士在业界任职的比例从十年前的38%升至57%，留在学术界的比例已跌至历史低点。

在日本举行的围棋人机大战中，60岁的九段棋手赵治勋以2比1击败了人工智能围棋软件DeepZenGo。赵治勋称，“（AI）包括失误在内，都和人很像很有人情味。下得好的时候非常强，对局令人非常愉快”。今年3月世人瞩目的围棋人机大战中，Google的AlphaGo以4比1击败了韩国九段棋手李世石。DeepZenGo使用了类似AlphaGo的深度学习技术，但硬件规格上远落后于AlphaGo，开发团队并没有像Google那样拥有近乎无限的资源，它能取得一场胜利打败职业选手已让人不能轻视了。

Google子公司DeepMind和牛津大学合作开发了一套读唇系统，使用了大约5000小时的BBC节目视频进行训练，它的读唇表现让人类专业人士相形见绌。通过观察说话者的嘴唇，系统能精确辨认出其所说的完整词语。人类专业读唇者的复述不出现错误的比例只有12.4%，而AI系统的正确率能达到 46.8%。芬兰 Oulu 大学的Ziheng Zhou说，这套系统朝开发完全自动读唇系统迈出了一大步。我们也许不需要担心AI通过阅读嘴唇偷听我们的谈话，因为麦克风比AI更方便。研究报告发表在预印本网站上。

包括丰田、本田、日产和三菱电机在内的15家日本公司组建财团共同为无人驾驶安全行驶绘制详细的高清3D地图。该项目得到了日本政府的支持，以在2020年日本东京奥运会期间提供无人驾驶汽车服务。被称为 Dynamic Map Planning 的项目由三菱电机领导，其任务是绘制日本长3万公里的高速公路地图，装备移动地图系统MMS-G220的汽车配置使用激光雷达、摄像机、GPS和其它传感器，以40公里的巡航速度测绘地图，它能以10厘米的绝对精度捕捉7米外的物体，每秒能收集100万个数据点。

联合国贸易和发展会议最近发表报告认为发展中国家三分之二的工作将被机器人取代。对于大多数人来说，未来似乎并不令人乐观。但机器人和AI接管了普通人的工作之后，人类真的会贬为二等人？Elon Musk 就建议政府需要提供基本收入。我们不知道未来究竟会如何。但如果过去的经济革命有任何指导意义的话，那就是你的孩子仍然需要好好学习做好家庭作业，因为新的技术会催生新的工作和新的技能要求。以无人机为例，无人机取代了部分有人飞机去进行侦查和作战，但目前这些无人机并不是完全自动驾驶，地面的操作人员需要对它们进行远程操控。无人机有驾驶员，在无人机兴起之前并不存在无人机驾驶员这种工作，新的工作诞生在新技术出现之后。历史上的自动化技术消灭的是3D工作——即沉闷、肮脏和危险（dull, dirty, and dangerous）的工作，那些我们的父辈在做但子辈不会去做的工作。自动化推动了进步，创造了新的工作机遇。

很多公司都在为卡车运输业开发自动驾驶技术。中国公司有两大优势：监管较为宽松，以及改善卡车运输业混乱状况的迫切要求。这些优势可能为中国向卡车行业引入自动驾驶技术铺平道路。北京图森互联科技有限责任公司正在与一家大型卡车制造商开发卡车自动驾驶技术。公司联合创始人兼CTO 侯晓迪称，中国目前测试自动驾驶系统事实上没有限制，他相信政府实际上会支持，因为政府想要改善卡车行业。图森计划在2017年演示其技术，2018年进行商业演示。侯晓迪毕业于加州理工，主修计算机视觉，该公司的技术也主要依赖于计算机视觉和算法去预测公路上的车辆行为。中国有720万辆卡车和1600万司机，整个卡车运输业价值超过3000亿美元，其中司机的薪水占用了四成的成本，长距离驾驶需要2到3名司机轮换。自动驾驶被认为能让司机在驾车期间睡觉。

相脸术流行于各个文明。亚里士多德就认为外表特征可能推断出一个人的个性。这是一个有争议的话题。上海交大的两位研究人员在预印本网站发表论文（PDF），他们无意争论此种社会刻板印象，而是想了解利用流行的机器学习方法根据静态脸部照片判断一个人是犯罪分子或不是犯罪分子的准确率有多高。采用有监督的机器学习方法，研究人员构建了4种分类器，测试了1856张真人照片，其中一半是已定罪的罪犯。结果显示分类器表现出色，他们发现犯罪分子和守法公民有一大明显区别：犯罪分子的脸部变化更多。研究人员发现了一些脸部特征可用于预测犯罪。

根据联合国贸易和发展会议的报告，受机器人技术进步影响最大的不是发达国家的低薪/低技能工人，而是发展中国家的工人。报告认为发展中国家三分之二的工作将被机器人取代，机器人对发展中国家的负面影响可能将会十分巨大。中国的工厂正在快速使用自动化和机器人，报告认为有最多机器人的国家将会看到生产力的最大提升。低技能劳工最多的国家可能只能转向机器人不擅长的领域，也就是开发和部署机器人的成本超过了收益。

随着人类越来越多的工作被机器人和人工智能所取代，人类可做的工作将会越来越少，最终他们的生活将依赖于政府提供的基本收入。特斯拉和SpaceX的创始人Elon Musk认为没有其它选项可选。Musk说，由于自动化，有很大的可能性我们最终将会有某种基本收入。基本收入意味着公民将定期从政府获得一笔固定薪水。瑞士曾考虑每月发放2500瑞士法郎的基本收入，然而在今年6月举行的全民公决中这一建议遭到了否认，但它激起了对基本收入的全球讨论。Musk认为，自动化程度的提高会让社会从整体上受益，人们将有时间做其他更复杂更感兴趣的事情。

Google的人工智能子公司 DeepMind 宣布与暴雪合作，将在明年向AI和机器学习研究员发布一个用于AI研究的《星际争霸2》。暴雪的《星际争霸》系列风靡世界20载，它最为人所津津乐道的地方是其平衡的设计，《星际争霸》一代是电子竞技的早期开拓者。DeepMind称游戏是测试AI的完美环境，允许AI研究人员快速而高效的测试AI算法，获得即时的反馈。DeepMind与《星际争霸2》开发团队密切合作，将向研究人员提供一个API，允许可编程的控制游戏中的个别单位，访问完整的游戏状态。

Google Brain团队创造了两个AI，为防止第三个AI的监听它们发明了自己的加密算法。研究论文（PDF）发表在预印本网站上。被称为 Alice、Bob和Eve的三个神经网络给予了三个特定目标：Alice必须安全的向Bob发送信息，而Bob必须尝试着解密信息，Eve则必须试图监听和破解信息。Alice和Bob相对于Eve的一个优势是它们共享了一个密钥。但最重要是AI并没有被告知如何加密，它们必须靠自己从头开始摸索。除了Alice和Bob共享密钥外，三个AI都是独立的。结果显示，在有些回合Alice和Bob完全失败了，Bob没能够重组出Alice的信息；大部分时间，Alice和Bob设法发展出一套很少犯错的系统，而且它们还能根据Eve的反应改进加密技术。研究人员称，神经网络能学习如何保护它们的通信，只要告诉Alice将保密性置于一切之上。

五角大楼已把人工智能置于其维持美国全球主导军事大国地位的战略的核心。它正花费数十亿美元开发所谓的自动化和半自动化武器，引起了关注人工智能军备竞赛隐患的科学家和活动人士的警惕。美国国防部正在设计可以和由人驾驶的飞机一起参加战斗的自动控制战斗机。它已经试射了可以自行确定打击目标的导弹，还建造了能不依赖任何人力就能在数千英里的范围内搜寻敌方潜水艇并跟踪它们的船舰。国防部官员表示，美国需要这些武器来保持它相对于中国、俄罗斯和其他对手的军事优势，这些国家也在投入大量资金进行类似的研究。根据五角大楼最新的预算，在接下来的三年里，他们会花费180亿美元用于技术投资，其中包括与自动武器相关的必要技术。五角大楼面临的挑战是确保这些武器是人类可靠的伙伴，而非潜在的威胁。五角大楼设想的战略转变的核心，是一种被官员称为半人马作战的概念。该战略强调将人工控制和自动武器作为提高士兵、飞行员和海军士兵的创造性，增强他们解决问题能力的办法，而不是取代他们的工具。在五角大楼的想象中，这些武器不太会像终结者，而更像钢铁侠。