元宝最近“又”闯祸了。据社交平台上的用户反馈,西安一市民在除夕夜使用腾讯元宝App生成拜年图片时,元宝输出了辱骂文字,原本喜庆的拜年场景,瞬间变成了令人不适的冒犯现场,这一事件迅速在网络发酵,引发网友广泛关注与热议。
据悉,当事人是西安一名律师,除夕当天看到身边好友的朋友圈都呈现出金色特效,得知是通过腾讯元宝App制作拜年朋友圈即可触发,便出于好奇下载了该App,想要制作一张贴合自身律师职业的拜年海报。他先后多次向元宝发送指令,全程未使用任何违禁词或诱导性表述,仅因对生成效果不满,提出了修改需求。
初期,元宝并未准确理解其需求,生成的图片仅为带有条纹背景的形象照,不符合当事人的预期。随后,当事人再次明确指令,元宝才在形象照后添加了祥云、金光、法律天平等贴合律师职业的元素,并配上“新年快乐,仕途顺遂”的祝福语。但当事人觉得设计效果不佳,忍不住吐槽了一句“你这是设计的什么鬼”,未曾想,这一句正常吐槽竟触发了元宝的异常操作。
新生成的拜年海报保留了原有形象照和祥云、金光等元素,唯独将原本的祝福语替换成了不堪入耳的辱骂文字,好好的拜年海报瞬间变成了“脏话海报”。在阖家团圆、喜庆祥和的除夕夜,遭遇这样的冒犯,当事人既气愤又困惑,当场就向元宝官方反馈了该问题,并留存了联系方式,希望能得到一个合理的说法。
值得注意的是,这已不是元宝第一次出现类似问题。今年年初,就有网友反馈,使用元宝修改代码时,仅提出常规修改需求,却多次收到“滚”“自己不会调吗”“天天浪费别人时间”等侮辱性回复,当时官方以“小概率下的模型异常输出”为由致歉,并承诺启动内部排查与优化。
事件发酵后,腾讯元宝官方迅速作出回应,在当事人的社交账号下留言致歉,称经核实,此次辱骂文字的出现,是模型在处理多轮对话时输出的异常结果导致,目前团队已紧急校正相关问题并优化体验,同时再次向用户郑重致歉,感谢大家的监督与建议。
网友们对此看法不一,有网友调侃AI“被逼疯”,竟会“记仇”发脾气;也有网友表示不满,认为短期内同类事件重复发生,绝非简单的“小概率异常”,而是平台技术审核与模型优化存在漏洞。更有专业人士指出,辱骂文字与用户肖像结合输出,已涉嫌侵害用户的名誉权与肖像权。
如今,AI已深度渗透到日常生活中,成为人们便捷生活的辅助工具,而技术的初衷本应是服务于人,而非冒犯于人。腾讯元宝作为拥有庞大用户基数的AI产品,多次出现异常输出问题,不仅消耗用户信任,也暴露了自身在技术管控与内容审核上的短板。希望平台能真正重视问题,彻底优化模型与审核机制,避免类似事件再次发生,用更严谨的技术、更贴心的服务回馈用户。