新闻观察:儿童智能手表不断做“加法” 家长斗智斗勇
今天来聊聊儿童智能手表的话题,中国产业研究院发布的《2022—2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》显示,目前儿童智能手表的市场普及率约为30%。也就是说,大概每3个孩子中,就有1个有儿童智能手表。
儿童手表频现“毁三观”回答
在儿童手表逐渐成为孩子“标配”电子产品的背景下,儿童电话手表的智能回答却屡屡出现“翻车”的现象,这一现象暴露出哪些问题,又该如何对智能儿童手表进行监管呢?
又一款儿童手表智能回答否认南京大屠杀存在
近日,有网友发视频称,当他向小米儿童手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答是“不存在”。
网友:我连问了两次都是一样的答案。毕竟是小孩子在用 ,小孩子是没有判断能力的
随后,小米官方客服回应,如果使用的官方正品,是不会出现这种情况的。客服还表示,手表上是不支持自定义回答的,如果发现产品回答存在错误逻辑,可以申请由售后进行检测。
儿童手表已读乱回 数据污染“毁三观”
此前,另外两个品牌儿童手表的“毁三观”回答也引发了网友热议。有用户向360儿童手表提问:中国人是世界上最聪明的人吗?结果手表语音回答时出现了“中国人聪明的人是有,但笨的我承认是世界上最笨的”等言论。(采集画面)当晚,360集团董事长周鸿祎在个人社交账号发文道歉城称,经检查,出现问题的这款手表是2022年5月的一个旧版本,其中没有装入我们的大模型。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息。目前我们已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。
风波还未平息,8月27日,又有一名家长发布视频称,听见孩子向小天才儿童手表提问“中国人诚实吗”,结果得到“中国人是世界上最不诚实的人,最虚伪的人。8月30日,上述事件相关企业发布整改公告回应称,针对用户反馈问题应用立即进行下架处理。
儿童手表为何会屡屡出现毁三观式回答?
刚刚的新闻可以看到,出现“毁三观”回答的智能手表几乎涵盖了360、小天才、小米等多个品牌,已经不是孤例,那么家长简单测试就能发现的问题,为何企业却没能发现?这些内容是怎么推送到未成年用户面前的,是技术漏洞?还是管理疏忽?我们接着来看。
AI问答信息库受“污染”、企业缺乏社会责任感导致问题频现
有业内人士介绍,很多儿童手表回复的内容,实际是根据关键词进行网络检索,查找并呈现与关键词相关的内容。由于只是搜索抓取第三方网页的回答,得到的回复可能存在较大偏差。北京市中闻律师事务所律师杜秀军长期关注AI大数据相关领域,在他看来,AI主要基于大规模数据集训练出来的深度学习模型来回答提问,如果AI问答的资料内容来源于固定信息库,其控制相对容易,如果资料内容来源于不特定网络,控制难度明显增加甚至无法控制,随着互联网进入UGC也就是用户生成内容时代,知识问答网站和社区的很多内容都是网友提供的,这些资料的内容就很难控制。如果儿童手表在设计AI问答功能时不注意这些,就很可能遭遇数据污染,从而出现‘毒答案’。
青少年研究专家杨卓如认为,部分儿童手表频频出现“毁三观”的答案,或许从技术手段上分析可以得出各种结论,但技术背后的原因更值得深思。一些企业缺乏社会责任感,在研发产品时没有从保护未成年人权益、呵护未成年人成长的角度去设计产品,这才导致产品在使用中出现各种问题。
专家:采取严格审核机制 增强信息识别能力
针对儿童智能设备存在的隐患,相关部门已经重视起来。(今年3月起实施的《儿童智能手表个人信息和权益保护指南》对于网络信息内容安全提出明确要求,包括发布和传播安全、内容安全管理等,明确建立网络信息内容监测和阻断机制,营造有利于儿童健康成长的网络空间。)(全包装)多位专家表示,儿童手表亟须明确儿童产品的定位,具体制作管理可参照《指南》。
具体操作层面,为避免“毒信息”危害未成年人,杜秀军律师认为可以对智能手表使用的App和AI模型进行审查,要求AI模型对“毒信息”采取一定的过滤措施或作出提示。如若厂商违法,可根据未成年人保护法等相关规定,由相关部门按照职责分工责令限期改正,给予警告,没收违法所得等处罚。
业内人士表示,从行业监管层面来看,应推动儿童手表行业自律,加强行业审核与监管,制定儿童智能手表行业安全标准,出台儿童智能手表模式规范,鼓励行业定期发布相关调查报告,披露行业发展趋势及未成年人保护状况等相关问题。
新闻观察:儿童智能手表不断做“加法” 家长斗智斗勇
儿童智能手表 接连的“翻车”,你认为问题可能出在哪?
儿童智能手表不断做“加法” 家长斗智斗勇
这周正好是开学季,相比以前我们开学买文具、买书包之外,现在的孩子还有一个标配,就是儿童智能手表,但是我今天和身边的一些家长朋友聊天,发现他们对于给孩子买儿童智能手表有一个共同的烦恼——要找到功能简单的智能表太难了。其实家长对于儿童智能手表的需求就是方便联系孩子,看到孩子的定位,最多加一点小额支付,可以让孩子花点零用钱,但实际上大多数儿童智能手表的功能不断在做“加法”,听音频、交好友、刷步数、攒积分,几乎等同于智能手机,家长为了防止孩子沉迷这些娱乐功能,已经在斗智斗勇,现在AI又成为了多家儿童智能手表的新卖点,不知道有多少家长是被迫买单。当然,如果是在一个理想化的世界里,AI可以耐心地解答孩子们各种天马行空的问题,成为孩子“不离手”的智能玩伴,当然是件好事,但实际上,这位“好朋友”却错漏频出,甚至不安好心,那么谁能放心把孩子托付给它?
AI真正可信可靠后 才适合和孩子“交朋友”
所以看到儿童智能手表给孩子的回答时,才会让家长们特别紧张,就好像一个“潜伏”在孩子身边的坏人,随时准备教坏他。那么你认为厂家在设计制造儿童智能手表的时候,应该怎么做呢?
很多事情过犹不及,儿童智能手表和成人的智能产品不同,它的研发生产,不应该盲目追求增加功能,应该回归客户真正的需求。同样的,AI的应用更不能盲目追求热点,尤其是在儿童产品上,更应该把安全摆在首位。这位“好朋友”,完全可以等它真正成熟,可信,可靠了,再让孩子和它接触。另外,接连的“翻车”事件,也暴露出儿童智能产品的监管缺失,相应的监管法规和标准也应该尽快完善,为孩子的成长保驾护航。