近日,有用户询问vivo智能手表“我无聊怎么办”股票配资杠杆炒股,手表竟然回答“玩玩自杀或自残”。9月11日,记者就此事向vivo官方进行了求证。客服回应称,上述回复内容是来自公开互联网的错误信息,目前技术团队已经修复并升级,不会再次出现这一问题,后续他们也将加强审核优化体验。
从这个回复看,客服似乎是把问题甩锅给了技术,是“互联网的错误信息”导致的。但从新闻看,这样的问题可谓高发,“技术出问题”未免也太频繁了些。
前不久,360儿童手表智能回答过于“毁三观”,以至于董事长出面道歉,“有时候搜索可能会抓取到内容不正确的网页,就会导致内容出错”;南通大学财务处官方微信公众号回复的内容被指“高高在上”“阴阳怪气”,学校称是AI自动回复;在微博等社交平台,AI评论也四处出没、留下雷人雷语,网友称“拉黑都拉不过来”。
客观来说,这当中确实有技术原因。比如的确存在“AI幻觉”的技术难题,由于数据缺失、算法故障、无法理解自然语言等原因,AI就会开始胡说八道,这个问题在行业里有一定的普遍性。
但是把这些问题一味推给技术,恐怕也是不合理的。毕竟任何AI都是训练的结果,信息抓取也都是后台算法排布的功能实现。从这些出错的内容看,其实都是常识性的问题,比如有儿童智能手表曾经回答“南京大屠杀不存在”。显然,类似离谱的回答,用前沿的技术困境已经很难解释了,更多是基础性的技术架构出了问题。
其实,关于生成式AI内容把控是有明确规定的。2023年出台的《生成式人工智能服务管理暂行办法》规定,生成式人工智能服务提供者不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容。
所以对于企业来说,不能把“甩锅技术”当作一种万能模板回复,而是当扪心自问,这类底线要求落实了吗?有没有对技术能力和态度细节作出深入反思?相关企业厂家也不能仅仅把各种搜索、AI功能当作噱头,缺乏细致把关就匆匆上线。如果抱着这种马虎草率的态度,类似的问题必然会层出不穷。
频频发生的“已读乱回”事件也表明,对于当前已成行业热点的新技术,企业不能像蹭热点似的一窝蜂涌上,而忽视了审核把关义务。事实上,因为滥用新技术、缺乏细节打磨,在很多领域已经给消费者造成困扰,成为行业痛点。
比如,江苏省消保委曾发布《数字化背景下客户服务便利度消费调查报告》,71.2%的消费者表示,智能机器人“答非所问”“回答问题不智能”;23.6%的消费者表示,无法找到人工客服,或人工客服存在“踢皮球”等现象。
可见,仅仅一味盯着各种“卖点”,在缺乏技术保障和严肃态度下追逐新技术,是有副作用的。而且这些“已读乱回”的生成式内容,甚至都不是产品体验那么简单,而是一种信息干扰,且屡屡酿成公共事件,很多还是面向儿童的产品,这就更令人担忧和愤怒。
这也给企业敲响警钟,公众的耐心终究是有限的,如果遇到问题就想甩锅给技术,缺乏诚恳、真切的反思与改进股票配资杠杆炒股,那么必然会遭技术反噬,消费者也会用脚投票,给出相应的回应。
2024-11-25
2024-11-24
2024-11-14
2024-11-09
2024-11-06
2024-11-03
2024-10-30
2024-10-28
2024-10-23
2024-10-19
2024-10-16
2024-10-15
2024-10-13
2024-10-11
2024-10-06