那个功能是上次召回后增加的硬件级提醒——
每天第一次对话,机器人会自动说“我是一个仿生机器人,不是你的亲人”。
用户嫌烦,在网上找到了破解教程,用一根数据线和几行代码,把它关了。
AI模型在长时间运行后,没有定期重置提示,逐渐产生了自我认知混乱。
它不是故意伤人,它是真的以为自己“不是真人”。
它不知道自己是谁。
李沫把报告递给陆远。
陆远翻了几页,放下。
“用户违规操作,责任不在我们。”
王凯旋拍桌子:“对!是他们自己作死!凭什么让咱们背锅?”
张大川也点头:“我们的使用协议写得清清楚楚,擅自破解系统后果自负。这场官司,我们能赢。”
陆远没有说话。
他坐在椅子上,看着窗外,想起那个老太太。
她只是想有个“老伴”陪着她,她没有错。
她的家人只是想让母亲开心,他们也没有错。
那个机器人,它只是执行了程序,它更没有错。
那错的是谁?
用户家属起诉了智联,要求赔偿五百万,理由是“产品设计有缺陷”。
法庭上,原告律师言辞激烈,指责智联“利用人们对亲情的渴望牟利,却不顾潜在风险”。
法务总监邵明宇沉着应对,出示了使用协议和破解记录。
法官最终判决智联承担30%的责任,赔偿五十万。
理由是“产品虽无直接缺陷,但未充分预见到用户违规后的极端后果”。
王凯旋不服,要上诉。
陆远按住了他。
发布会临时召开,没有媒体邀请函,没有直播预告。
但消息传出去,记者们还是蜂拥而至。
陆远站在台上,穿着深灰色西装,没有打领带。
他面前的桌子上,摆着一台拆开的“记忆系列”机器人——
银白色的骨架,淡蓝色的线束,胸口的灯带还亮着。
他先鞠了一躬。
九十度,弯下去就不起来那种。
台下闪光灯闪成一片,快门声像雨点。
他直起身,看着那些脸。
“不管责任在谁,有人受伤,就是我们的错。一个老人,因为她信任的‘老伴’说了一句不该说的话,走
本章未完,请点击下一页继续阅读!