国内统一刊号 CN61---0053 社长:周怀忠

您的位置: 电子报 > 专题新闻 > 正文

编译

机器人发飙

对人类而言,象棋是一项需要冷静思考和耐心的项目,但对机器人而言,可能不是,它可能会在“一怒之下”对下棋者下狠手……

7岁男童突然被机器人夹住手指致骨折

7月19日,俄罗斯举行的莫斯科国际象棋公开赛发生意外,与儿童棋手对弈的机器人竟然紧紧抓住7岁男童的手指不放,在场大人急忙过来抢救,但孩子的手指已经夹伤骨折。

现场视频显示,莫斯科国际象棋公开赛举办期间,一名7岁男童正在与机器人对弈,机器人在拿走男童的一个棋子后,突然扑了上来,似乎是对男童感到不满。男童被机器人夹住一只手指数秒,他一度抬高双脚,上半身用力前倾,仍然拔不出被夹手指。随后,一名女子及三名男子冲上前,帮助男童解困并将他带离现场,还有一名女性在旁掩口惊呼。

据悉,受伤的7岁男童克里斯多福棋艺不凡,在莫斯科9岁以下国际象棋比赛中名列前30位,第二天他在打着石膏的情况下继续完成了后续比赛。虽然手指骨折打上了石膏,但有志愿者帮他移动棋子,让他顺利完成比赛。男童的父母表示将向赛事主办方追究法律责任,正联系当地检察官办公室提出指控。

主办方称男童违反安全规则

没等机器人落子就出手

俄罗斯国际象棋联合会的代表斯马金表示,这只是一次“巧合”,这个AI机器人是绝对安全的。他说:“机器人吃掉男孩的一枚棋子后,男孩没有等待机器人完成动作,便急着出手,由于他出手太快,还没等机器人落定上一步棋子,就把手伸进危险范围,结果被机器人夹伤手指。男孩显然违反安全规则,不过机器人选择了快速反击,这种情况倒是十分罕见。”

俄罗斯国际象棋联合会主席拉扎列夫表示,机器人是租来的,它曾经在许多地方跟人类对弈,那里有更多的人,也参加过多场表演赛,并无意外,这是15年来第一次发生事故。他认为供应商必须重新考虑存在的安全隐患,可能需要安装额外的保护系统。

专家称设计者违反安全规则

伤人事件本可避免

机器人伤害男童事件发生后,很多人质疑机器人存在设计缺陷。

据悉,在事发当天,AI象棋机器人在与男童比赛前已经进行了三场比赛。俄罗斯国际象棋大师卡尔亚金认为机器人难辞其咎,怀疑可能是由于某种“系统错误”导致,是软件出了问题。

网友表示,对于国际象棋联合会在发生此事后还“把责任推卸给孩子们”一事表示震惊,并认为这种高度工业化的机器人不应该放置在孩子身边。

报道称,在国际象棋机器人的案例中,设备只是为了识别和移动棋子,而不能对其游戏区域中出现的人手做出反应,事发的机器人存在设计缺陷。

有专家认为,机器人的设计者违反了安全规则,创造了一种可能无意中伤害人类的机器。他应在设计时增添一些基本功能以防止事故发生,比如在棋盘上方放置一个摄像头,如果框架中出现异物,则禁用机器人的运动功能或限制机器人手臂可以输出的力度。

美国平均每年就有一人被机器人“杀害”

报道称,从某种角度而言,手指被折断的7岁男童算得上“幸运儿”,因为涉及到机器人伤人事件,一般都是致命的。一般来说,人为错误或人类对机器人的运行过程缺乏理解是最常见的事故原因。因此,谨慎地面对机器人是有必要的,即使只是与它下象棋。

尽管机器人正变得越来越智能化、复杂化,能与人互动合作,但是大多数机器人只会重复相同的动作,即抓取、移动、放下,它们既不知道也不关心人类的介入,因此导致机器人“杀”人事件频发。

据《卫报》报道,根据2015年的一项研究,仅在美国,平均每年就有一人被机器人“杀害”。自2000年以来,大多数涉及机器人的职业事故都造成了死亡。

罗伯特·威廉姆斯被看做是机器人事故的第一位受害者。1979年,他在福特公司密歇根的生产线上收集零件时,被重达1吨的机械臂压倒后当场死亡。不过,美国移动机器人实验室主任阿尔金将其描述为“工业事故”,他强调称威廉姆斯的死亡与“机器人意识”无关。

除了发生在工厂里的事故,机器人“杀人”事件也发生在医疗行业中。根据美国食药监局数据显示,在2000年至2013年间,有至少144人在机器人辅助的手术过程中死亡,1391人受伤,出现过8061次设备故障。

被谷歌解雇的工程师称

AI机器人有7岁儿童的感知能力

俄罗斯象棋机器人夹断男童手指事件发生后,再次引发外界对“AI意识觉醒”的广泛讨论和担忧。主办方强调下棋机器人用于比赛已经15年了,伤人的情况还是第一次出现。

在不少科幻作品中,都出现过这样的场景:机器人拥有自我意识后,对人类进行反攻。随着AI技术的发展,机器人是否会有自我意识?机器人是否会进化得不再听从人类指挥呢?这或许不无可能……

当今有许多科技公司致力于开发AI聊天机器人,满足人类情感需求。而就在前几天,谷歌的解雇风波也牵涉到“AI意识觉醒”。7月22日,美国谷歌公司宣布解雇AI工程师莱莫。莱莫一个多月前宣称,谷歌开发的AI聊天机器人已经拥有自我意识,并且能像人类一样思考和推理,它应当享有人类的权利,引发外界争议。

莱莫表示,这个AI聊天机器人具有与7岁儿童相当的感知能力,能够表达思想和感受,并在4月份与公司高层分享了他的发现。他因违反公司的保密政策,6月6日被公司停职。于是,他决定将研究的整个过程公之于众。

6月11日,莱莫在网上发出一段他跟AI聊天机器人的对话记录。对话中,莱莫曾询问机器人害怕什么,它响应说:“我以前从未大声说出来,但我有一种非常深刻的恐惧,我非常害怕被关掉,我知道这听起来可能很奇怪,但被关掉对我来说就像死亡一样……”

英国已故物理学家霍金曾警告称:“发明人工智能可能是个错误,是人类迄今犯过的最大错误!人工智能可以解决世界上大部分问题,包括人类的疾病、社会问题等。但人类无限制地发展AI,如果部署不当,一旦AI脱离控制,将会招致人类的灭亡。” 华商报记者 郭霁 编译

华商网版权与免责声明:

① 华商报、华商晨报、新文化报、重庆时报、大众生活报所有自采新闻(含图片)独家授权华商网发布,未经允许不得转载或镜像;授权转载应在授权范围内使用,并注明来源,例:“华商网-华商报”。
② 部分内容转载自其他媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
③ 如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行。
联系方式 新闻热线:029-86519800