专栏卷首语
AlphaGo和人类在棋盘上的对决已经竣事，科幻美剧《西部天下》第一季也已落幕。但人类对于将来和未知的探索不会改变。以太资源不但盼望伴随那些具有创新精力、计划改变将来的创业公司，更时候关注大概对天下产生改变的技能。我们创建了人工智能专精小组来跟上这场革命。从本日开始，每周会由我们的投资司理为你精挑细选出人工智能范畴的好文章，盼望与你分享我们的视野，并盼望和你一起向前。
《西部天下》第一季已经竣事。从第一集开始，我就深深的意识到这是聚集了3D打印、呆板人、NLP（天然语言处理惩罚）、CV（盘算机视觉）、人造皮肤等等高科技细分范畴技能的神剧。着实现阶段以上全部方面技能的终极形态也不外云云。但试想一下以下大概：将来呆板对话能到达10层、20层、100层；当CV数据积聚到错误率更低的时间；对于随机变乱的发生，其结果和影响结果全部因素都盘算之时，真实的西部天下间隔我们还会多远？最盼望的还是这一天到来的时候，真实的西部天下中，有中国AI范畴创业者的产物在此中得到应用。
——保举人：吴月忠
《西部天下》上周播出了第一季终极集，了局固然驳倒不一，有人说神剧，有人说烂尾，但毫无疑问非常震撼。本文前半部分来自futureoflife，作者采访了创造性AI和知觉研究的两位专家，从「AI可否故意识」以及「故意识的AI是否伤害」的角度批评此剧。后半部分是《卫报》的批评，从呆板人计划的角度分析剧中出现的呆板人。
这部由《盗梦空间》导演克里斯托弗·诺兰的亲弟弟乔纳森·诺兰引导、电视剧界闻名金主HBO投资拍摄的新剧从上映开始就备受关注，IMDb总评分高达9.2。根据Deadline统计，本季末了一集收视人数高达220万。而各平台上总观众数估计到达了1200万（仅限美国）。收视率乃至高出了《权利的游戏》。
「这些暴虐的欢愉，终将以暴虐了局。」——莎士比亚
HBO播出的《西部天下》引起了大众对「能人工智能」的关注。假如你还没有看过《西部天下》，简单先容一下：《西部天下》（Westworld）的故事设定在将来天下，在一个巨大的高科技主题公园中，环境雷同美国的西部荒野。游客耗费大量款子来到这个主题公园，在那边，拟人的呆板人「欢迎员」能让游客享恣意欲、暴力等欲望的放纵。游客可以杀死呆板人，每次呆板人「殒命」后，它的身材会被洗濯，内存被擦除，然后再开始一个新的脚本。
这部剧上周末播出了第一季的终极集，毫无疑问了局是个大爆炸，但不消担心，本文没有剧透。
－只有一行代码确保呆板人不会伤害人类－
《西部天下》剧集改编自美国科幻小说家、编剧迈克尔·克莱顿（MichaelCrichton）的同名影戏，克莱顿也是《侏罗纪公园》的编剧，他为该剧创作的故事线不禁让观众猜疑，在科学不绝发展的将来，人类是否还能维持对天下的掌控？
原始版本影戏中呆板人是险恶的，但在改编的剧会合，呆板人被刻画成具有怜悯心，乃至可以说是最人性化的脚色。
对公园的安全题目的担心很快就浮现出来。公园由一个人监督，他可以对呆板人举行任何他想要的程序更新，而不必要颠末其他人的试运行或安全查抄。呆板人会记录下他们被荼毒的陈迹。此中一个脚色提到，程序中只有一行代码确保呆板人不会伤害人类。
这些只是该剧涉及到的很多题目中的一部分，它触及到当前对真正的AI安全担心：仅仅利用一个高级AI的「险恶智能体」就能故意对人类造成伤害；软件里发生的小故障也大概引起致命变乱；而且代码中也缺少冗余性和鲁棒性来确保人类的安全。
但该剧出现的很多安全和伦理方面的题目都取决于呆板人是否有自主意识。实际上，该剧重要探究的题目，也是最难的题目是：什么是意识？人类可否创造出有自主意识的智能体？假如能，我们能控制它们吗？我们想找到答案吗？
为了办理这些题目，我采访了乔治亚理工学院的AI研究员MarkRiedl，他的研究方向是创造性AI，以及提出闻名的「知觉困难」（hardproblemofconsciousness）的纽约大学DavidChalmers传授。
－AI可以或许感受疼痛吗？－
我先向Riedl提问，假如呆板人被编程可以或许有痛觉，呆板人能感受到多洪流平的疼痛？Riedl说：「起首，我不能容许对人类、动物，大概拟人化的呆板人以及AI施行暴力。」然后他表明说，人类和动物的疼痛感受是一种「克制特定的刺激」的告诫信号。
然而，对呆板人来说，「最雷同的大概是强化学习智能体，它们举行反复的试错学习。」根据它们特定的举动，AI会得到积极或悲观的嘉奖，而且会相应地调解其将来的举动。Riedl以为悲观的嘉奖并不像「疼痛感觉」，而更像「在电子游戏中失分」。
Riedl说：「呆板人和AI可以被编程，实现以雷同人类的方式来表达疼痛，但这着实是错觉。造成这种错觉的缘故起因之一是：呆板人以一种可以明白的方式，将其内涵状态转达给人类，而且引起人类的怜悯。」
Riedl不担心AI会感觉到真正的痛楚，假如呆板人的影象每天晚上都会被完全删除，他以为那就像是什么也没发生过。但他也以为这此中存在大概的安全题目。为了让强化学习起效，AI必要为积极的嘉奖举行优化。假如呆板人的内存没有被完全删除——假如呆板人开始记取在它身上发生的坏事，那么它大概会试图避开触发这些悲观嘉奖的举动或人类。
Riedl说，从理论上说，这些智能体可以或许学会提前筹划，尽大概以最低的本钱镌汰悲观嘉奖的大概性。假如呆板人不明白其避开悲观嘉奖的举动大概带来的其他影响，这也意味着它们在提前采取举措制止人类伤害它们。
但Riedl也指出，在可预见的将来，我们还没法造出拥有这些本领的，必要引起人类担心的呆板人。但假设如许的呆板人出现了，悲观嘉奖带来的题目大概对人类来说是潜伏的威胁。
－AI能有自主意识吗？－
Chalmers的见解则有点差别。Chalmers说：「我对意识的见解，也是大多数人对意识的见解——这些人无疑是有自主意识的。他们有相称丰富的感情体验，表现为可以感觉疼痛，思考题目，等等。他们不但被动地对下令举行反应，还会思考自身的状态。他们在推理。很显然，人是有感情的。」
Chalmers以为，不消试图找出什么能让呆板人拥故意识，而应该思考呆板人缺乏什么。最显着的是，它们缺乏自由意志和影象力。但是，我们人类中也有很多人生存在无法冲破的惯例中，也有很多人有严峻的影象题目，但没人会以为应该清除掉这些人。
Chalmers反问道：「在这部剧中，这些呆板人被以为可以随意荼毒，岂非是由于这些呆板人有缺陷，大概别的什么缘故起因吗？」
《西部天下》中刻画的场景是不实际的，由于Chalmers以为二分心智理论（Bicameral-mindtheory）不大概带来意识，哪怕对呆板人来说也是云云。他说，「我以为作为一种理论它是无望的。呆板人的意识，大概说呆板人的自主意识，要比预编程的复杂得多。而编程让呆板人直接监控它们本身的想法则要简单得多。」
任何环境下，荼毒呆板人都很轻易对人类的安全造成威胁。我们冒险去创造没有自主意识的呆板人，它们从悲观反馈中汲取履历教导；大概我们偶然中（大概比如在西部天下的环境下，是故意地）创造了故意识的呆板人，终极将面对呆板人的荼毒和克制。
在该剧第二会合，一个呆板人「欢迎员」被问及她是否「真实」，她答复说：「假如你分辨不出来，真实还是不真实，紧张吗？」
－云端的大脑：《西部天下》中的呆板人计划都很糟糕吗？－
《西部天下》有多条时间线，不外故事的「当前」时间线应该是21世纪中期至后期，当时公园已经存在约35年。也就是说，西部天下主题公园出如今「近将来」，这意味着最早的「欢迎员」呆板人（计划上比背面的版本更显机器性）是利用与我们如今的技能相差不远的技能造出的。
台式机处理惩罚器在黄金时期每年以指数级的速率飞速增长，在十多年前这个黄金时期竣事。那样的处理惩罚器对构造人工智能来说非常未便，以是人们连合利用了两种战略。起首，创建大型服务器中心来网络并处理惩罚「大数据」，同时作为一种在线服务提供原始处理惩罚本领。第二，利用专门的显卡芯片来处理惩罚大型数据，究竟证明它们比通用的处理惩罚器性能更好。
在这期间，斲丧者已经从台式机转移到移动装备或laptop。这些装备必要依靠电池，而电池技能的升级并没有像我们想要的那么快，以是芯片制造商们关注更多的是芯片的能源服从而非原始性能。显然，节流能耗的另一种方法是镌汰在移动装备上处理惩罚的任务，而把更多任务放到云上处理惩罚。如许，移动装备成了一个低功耗的接口，通过这个接口，我们可以访问及利用存储于别的地方的数据和处理惩罚本领。
比方苹果的Siri，亚马逊的Echo等智能助理，固然它们好像有物理实体，但它们的「大脑」在别处。我们通过自制、可置换的装备与它们对话，而这些装备的作用只不外是继电器。这些装备把吸取到的指令通过互联网转达给一个嗡嗡作响的黑盒子——天下各地的数据中心有成千上万如许的黑盒子，并等待读取答复。这很公道，以是为什么西部天下的欢迎员不能也利用这种方式？
图：CERN的一个服务器中心。假如我们如今想造「欢迎员」，他们的「大脑」应该是像如许的。
假想你正在计划第一个「欢迎员」呆板人。你有一些很明白的要求。我们已经知道这些欢迎员会受到伤害。他们可以活动很长时间，而没有显着的充电方式。他们必须是安全的。假如他们偏离了脚本，必要有可控制的方法。他们必要举行定期的质量查抄。他们绝对不答应离开公园，Delos把这一点看得非常紧张，欢迎员们体内被以为有基于感知位置的引爆物。
物理地给欢迎员安上「大脑」是毫偶然义的。这会大大增长它们的能源斲丧。物理上的伤害可以永世地改变脚色，比方剧中Clementine被施行了额叶切除术。这会拦阻长途控制。管理人必要实际出现以举行诊断，而欢迎员必须要人工地举行练习。
然后是Maeve的故事线：她试图离开公园去往「大陆」（剧中一个场景可以看到她的编程中有如许的代码）。假如她的智能位于本地网络的服务器中，那么这整个「离开」的概念本身就不大概。当她走出末了一个无线路由器的覆盖范围，她的身材立刻就会宕机。相比在呆板人体内安置炸药，这好像是更安全的办理方案。
在本地处理惩罚均衡、移动等主动控制功能可以明白，但是为什么要在欢迎员内部举行那么多的高级处理惩罚，而不是在通过网络毗连的服务器上举行呢？我们知道这毕竟只是软件，不是某种黑盒。假如可以在将来的iPad上编辑他们的性格，应该也可以或许在服务器上运行他们。
我唯一能想到的技能缘故起因是带宽。欢迎员有双眼视觉、立体声听觉和触觉。他们也有某种情势的本体感觉——一种对他们的身材部位的相对定位感觉。假如在同一个地方存储、传输几百个欢迎员的全部数据，大概会使无线网络瘫痪。但是既然Delos有本领构造有知觉的呆板，他们应该能造出更好的路由器。
有一个我喜好称之为「废话哲学」的观点。此中的关键词是「具身认知」（embodiedcognition），即人类的智能必要与身材、感觉活动的技能以及环境精密接洽，换句话说，必要人的履历。
这很有原理，但在这里关系不大，由于如许的接洽不依靠于物理位置。假如你的大脑放置在Luton的一个堆栈，它通过超快速的网络毗连和路由器让你语言，这种「人的履历」也没有实际的区别。除了你发现这个究竟之后大概会以为有点怪怪的。
也有别的两种大概性。一个是「由于情节必要」，这没什么好说的。更风趣的一个是：欢迎员不满意要求，由于他们不想满意这些要求。他们的创造者从一开始就筹划让他们得到知觉本领和自主意识。假如没有本身的大脑，就不大概独立，大概这种想法逾越了其他的全部要求。
谁知道呢？JonathanNolan表现这部剧将在第二季探究更多欢迎员的功能。看看他们的计划选择是否故意义，这会很风趣。毕竟，将来某天我们大概想建一个真正的西部天下主题公园。
▲转自新智元（ID：AI_era）
以太资源创建了AI专精小组
每周分享3-5篇深度的AI行业观察
同时，我们也开通了AI项目绿色BP通道
ytbp@ethercap.com
10位AI专精FA和50位AI范畴投资人
随时为您待命
吴月忠
以太资源高级投资司理
【教诲配景】哈工大航天本科，UFLEE硕士，4年硅谷芯片计划履历
【乐成案例】流深激光、Perfxlab、图灵工业呆板人、慧灵智能科技等
【关注范畴】AI，工业主动化，呆板人汽车方面的硬科技类
【接洽方式】微信joewu-sd
CopyrightYourWebSite.SomeRightsReserved.
京ICP备2023016396号PoweredByESCLINK.
我要评论