· 

第13期 | 天使还是魔鬼 - 汉堡科学院华人院士谈人工智能危机

 姜伟 俞逸霖 对话德国 2017-01-25

终结者剧照:魔鬼终结者
终结者剧照:魔鬼终结者

 

 

嘉宾简介

张建伟教授任德国汉堡大学信息科学系多模态技术研究所 (TAMS) 所长,德国汉堡科学院院士,国家千人计划特聘专家,世界智能机器人顶级会议IROS2015 总主席。此外,他也担任德中企业家联合会会长,德国清华校友会会长。曾任中国留德学者计算机学会主席,全德中国学联主席。

 

张教授1986年于清华大学计算机系以学士第一名的成绩毕业,1989年清华大学计算机系硕士人工智能专业毕业,2004年德国卡尔斯鲁厄大学计算机系机器人专业博士毕业。从事及领导工业4.0中的感知学习和规划、多传感信息处理与融合、智能机器人技术、多模式人机交互的研究与开发。发表三百余篇论文及专著,并多次获得国际会议最佳论文奖。指导德国硕士工程师百余名,德国博士三十余名,洪堡学者多人。拥有四十余项机器人和人工智能方面发明专利。任数个国际重要机器人及人工智能会议的主席,多份国际专业杂志编辑,并任德国数家企业的技术顾问。

 

在张教授任职所长期间,TAMS 研究所主持了多个德国科学基金重点项目、联邦教研部与工业合作项目和欧盟ICT重大项目,开发出可用于工业4.0的经验学习机器人系统、自主移动操作机器人、双臂装配系统、多模式人机交互平台、开放机器人软件、认知式电子教学界面等多项技术与系统。

 

导语

一些研究者预测,本世纪人类将开发出强人工智能。但史蒂芬·霍金教授曾发出警告,如果强人工智能真的实现,将是「人类历史上发生的要么最好的,要么最坏的事情」。强人工智能可能会给人类带来哪些危机?科学界目前在采取哪些对策?我们来听听人工智能和机器人专家张建伟教授的见解。

 

1

人工智能的潜在风险

 

 对话德国

张教授您好,下面我们想跟您聊一下人工智能的潜在风险。现在有很多科幻影视或者书籍以未来人工智能给人类带来危机为题材,您觉得这是杞人忧天吗?

 

 

 张建伟

你的这个问题让我想起一个小故事,去年我在汉堡组织了世界智能机器人系统大会(IROS 2015),会上除了来自世界各地的3000多名专家学者之外,还有一群不速之客,他们在警察署登记要游行反对研究和发展机器人。

 

我觉得这是一个很好的现象,因为在一个民主社会需要有不同的声音。后来我和抗议者进行了交流。原来他们来自一个和平主义组织,他们担心机器人研究会用于战争,也担心未来机器人统治人类会成为现实。后来我邀请他们参加市民论坛,也为他们安排了一个展位,允许他们表达自己的声音,但要求他们必须遵守展会的纪律,之后他们也改变了一些原有的偏见。许多专家学者也觉得,有人提醒监督机器人研究的道德规范是个好事。

 

学术界将控制人工智能或者机器人的风险的问题叫做 robot ethics,也就是机器人伦理。因为机器人和其它技术一样,既能够带来生产技术的进步,也存在滥用这一技术的可能,所以研究和讨论机器人伦理是很有必要的。

 

 

 对话德国

也就是说您也认为风险是真实存在的,在您看来,可能会存在哪些风险呢?

 

 

 张建伟

最早的风险担忧是,机器人会将人类的工作位置抢走。这个担忧已经过时了,现在德国的工会普遍认为,使用机器人对他们来说是一个好的事情。因为机器人可以替代工人去做许多枯燥繁重、环境恶劣的工作,工厂的质量和效率也会提高,工人能够更好地保住他们在德国的工作位置,否则如果工作依旧全手工进行的话,它们可能会被转到劳动力成本低廉的地区。所以目前在德国,工人和工会对机器人持比较积极正面的态度。

 

目前讨论机器人伦理问题主要在三个方面,一是机器人与人类的伦理关系,二是机器人被应用于战争,三是超级机器人对人类的威胁。

 

 

 对话德国

您能否具体介绍一下这三方面的风险?

 

 

 张建伟

首先是关于人类的伦理关系。我认为,如果投入足够的资金和科研力量,在未来50到100年之间做出类人水平的强人工智能是完全有可能的。到时候,机器人将会更加紧密地服务于人类的生活,和人类建立更加紧密的关系。

 

人与机器人之间会形成怎样的关系,有没有可能成为朋友,甚至生活伙伴?人与人之间的伙伴关系、亲情关系、婚姻关系等等会不会受到威胁?就像一些影视或者书籍里描述的那样,类人水平的强人工智能可能会对人类社会的伦理道德、人与人之间的相互关系提出一些挑战。

 

第二个方面就是机器人应用于战争。目前已经存在一些间谍机器人,能够操纵炸弹的无人机等等。未来机器人在战争里的应用也会越来越广,以后的战争有可能变成是机器人的战争,带给人类的影响或许会比原子弹还要大。

  

第三个就是超级机器人、超级人工智能的出现,会不会威胁到人类的生存,会不会机器人不再是为人服务而是统治人类。从技术的角度来看,我觉得超级机器人或者人工智能被开发出来的技术可能性是存在的。

 

2

学术领域将如何应对?

 

 对话德国

面对这些风险的存在,科研学术领域有没有采取哪些措施去应对呢?

 

 

 张建伟

现在我们已经到了需要考虑机器人伦理的时候了,对这个风险的防范目前可以从两个方面来做。一是对资源投入进行引导和监督,二是未来要逐渐建立起应对机器人时代的道德和法律规范。

 

首先是对资助的引导和监督。机器人的研究需要大量的资源投入,要确保资源投入的领域和方向是对的。资助的来源主要有两个方面,一方面是政府资助,一方面是商业资助。

 

目前我们科研领域会积极地与政府沟通,对政府资金的投入方向进行引导。每年的世界机器人大会上都会组织政府论坛,比如去年我们请来了美国的自然基金、欧盟的机器人基金机构,还有德国的、日本的、韩国的、中国的等等,让各个政府资助机构聚在一起,互相交流,讨论哪些是真正的全球性问题,哪些是应该资助的主要方向。比如像保护环境、助老助残、工业应用等等,这些都是资助的最重要方向。

 

另一个方面就是追求商业利益的资源投入,比如机器人伙伴、性伙伴等等,这些可能会赚钱,但这些机器人的研发应该主要由私人或民营公司来资助。甚至有可能会有一些很有钱的人或组织希望造出一个超级机器来追求利益,或者说想统治世界。这些情况就需要未来依靠道德和法律来进行规范了。

 

 

 对话德国

具体到您的研究工作当中,您是怎么处理关于机器人伦理道德方面的问题的?

 

 

 张建伟

我们要避免让机器人成为一个 super smart machine (超级机器),这不是我们研究的目的。我一直在倡导 human-centered robotic,也就说为人服务的机器人,而不是创造一个完全自主的、不能交互的机器。

 

我们要在做机器人的整个过程中要求机器人的思考、状态、推理和学习等等都对人透明,然后使得我们每一步都可以跟它交互,能够知道他是为什么做出这种决定,然后让机器人最多成为我们的伙伴,而不是成为我们的主人。

 

我和我的学生在机器人的研讨中,至少会让一个学生讨论机器人的伦理,有时候就会以科幻片里的各种各样想象的机器人为背景。它们一方面对我们的研究会有一定的启示,另一方面也能让学生在讨论机器人伦理时候逐渐更加深刻地认识到,哪些可以做,哪些不应该做。

 

目前在德国,年轻人在机器人应用方面的道德感还是非常强的,比如之前有讨论过要做无人机,有人来到实验室门口进行抗议,因为他们联想到这是会被用到战争里的机器。

 

如果大部分人都建立起应对机器人时代的伦理道德,并以此有了相应的法律之后,那么即使有些私人或者机构投很多钱去做一些对人类没有益处的、甚至说最后有可能威胁到人类的事情,那么他们必然会受到人们的反对,甚至是法律的制裁。

 

我想,在全球加强协作的情况下,未来是能够控制住这个局面的。

 

下期预告

原来电影里的人工智能危机不仅仅是艺术的夸张,而是真的有可能会变为现实。让我们在期待人工智能不断发展的同时,也祝愿我们人类会有好运!

 

张建伟教授长期在德国从事教学与科研管理工作。作为华人,如何才能在德国高校取得教席?在德国做教授又是怎样的体验?与国内任教有何不同?德国高校与政府及工业界有哪些特别的合作方式?下一期中张教授将带您深入了解如何在德国做教授。

 

往期精彩文章

 

第1期 | 资深研发专家谈研发管理、工业4.0与人才培养 - 访全德华人机电工程学会主席张式程博士

第2期 | 中德文化差异与跨文化管理 - 访德国博世部门总监杜飞先生(上)

第3期 | 汽车电子行业发展趋势与研发人才培养 - 访德国博世部门总监杜飞先生(下)

第4期 | 保持好奇,敢于挑战 - 访采埃孚中国电驱动事业部总监朱朝宏博士(上)

第5期 | 如何突破外企职业天花板 - 访采埃孚中国电驱动事业部总监朱朝宏博世(下)

第6期 回国创业,我从未后悔 - 访北汽新能源总工胡伟博士 (上)

第7期 | 中国电动汽车的技术现状与发展趋势 - 访北汽新能源总工胡伟博士(中)

第8期 | 整合全球资源,打造新一代卓越电动车 - 访北汽新能源总工胡伟博士(下)

第9期 | 戴姆勒工作32年的德国人事高管谈中德管理文化差异

第10期 | 入职、轮岗、跳槽——德国资深HR高管的深入剖析

第11期 | 德国高管披露:中国人如何挤进管理层?

第12期 | 德国华人专家张建伟教授谈人工智能与中德合作

 

对话德国介绍

 

    有了这个号,还要什么女朋友?

 

访谈问题征集

对话德国将采访一位某德系豪华车的研发负责人,如果您有任何关心的问题,请给我们留言,我们将争取在访谈中为您获得答案。感谢支持!

 

 

- END -

 

欢迎大家对公众号提出建议,如果有特别关注的问题也欢迎回复公众号,我们将尽可能在今后的访谈中寻找答案。

 

欢迎转发分享,未经许可不得转载。

Write a comment

Comments: 0