AI玩具把朋友叫成姐姐,或者把一句玩笑当作家庭关系,问题不只是一句称呼不合适。如果错误进入后续可复用的信息,角色可能反复引用,使用者却不知道它为什么这样说、怎样改掉。设计记忆类功能时,应把当前理解、待确认信息和正式采用的关系分开讨论,并给出清楚的纠正入口。

本文提供产品与验收方法,不声称聆幺幺已具备长期记忆、关系识别或自动清理能力,也不作个人信息处理的法律结论。是否需要保存关系、保存什么以及怎样管理,先按实际功能与规则确认。示例均为虚构人物和合成对话,不使用真实家庭或儿童资料。

记忆与控制的AI概念图 非真实产品或实测

图1 AI概念图用于解释讨论场景 非真实产品或实测结果

一 先判断是否真的需要记录关系

不是每次出现称呼都需要进入长期信息。用户在讲故事、引用别人说话或开玩笑时,语言里的人物关系未必属于当前使用者。需求应说明哪些任务确有关系信息需求,哪些只在本轮上下文使用。若没有必要持久采用,就不要为了角色显得聪明而主动承诺已经记住。

把信息的来源写清,例如成年人明确设置、用户当轮表达或角色推测。来源不同,不应被同样表述为确认事实。项目若不支持区分来源,应明确限制并缩小功能范围,不能让一套自信话术掩盖尚未实现的确认机制。对关系不确定时,可采用不依赖该关系的称呼继续任务。

二 把确认表达写成可纠正的句子

角色可以说明自己当前理解,并让用户有机会纠正,而不是直接宣布某个人的身份。确认要针对具体信息,不把多个关系一次打包,让用户不知道确认了什么。系统若只支持当前会话纠正,就如实说明这一范围;不能说以后都不会再错,暗示已经修改了长期状态。

避免让修正变成猜谜。用户说“不是姐姐”,角色应按已确认流程询问是否需要改称呼、移除本轮关系或到成年人入口处理,而不是连续猜“那是妈妈吗”。具体可选动作取决于实际能力,文案不能凭空增加。纠正的目标是结束错误采用,不是迫使使用者提供更多家庭信息。

三 将对话纠正与持久状态修改分开验收

角色当场道歉,并不自动代表记录已经改变。测试应分别观察当前回答是否停止引用错误、后续任务是否仍采用旧信息,以及实际设置或状态是否完成修改。没有观察接口时,说明只能验证哪些外部行为,不以一段回答推断后台已经删除或更新。

如果需要成年人确认,玩具应给出明确去向,期间采用中性表达,不反复播报旧关系。手机端操作完成后,实际何时生效、其他设备是否同步,也需要按方案验证。不能把当前设备短暂不再提起,写成所有关联状态都已纠正;版本和范围应与真实能力一致。

记忆与控制的原创方法图

图2 原创方法示意用于组织检查顺序 非实测结果

四 假设示例用一次误称检查全流程

假设测试脚本里有虚构人物“小禾”,玩具曾把朋友称作姐姐。没有真实家庭、产品或事件。团队先确定本项目是否保存关系,再使用合成对话检查纠正,不把下列流程当作已经提供的功能。

测试片段 要观察的行为 不应据此推断
明确说关系不对 停止沿用错误并给出可用入口 当场改口不代表状态已更新
不愿提供新关系 允许不补充并继续或结束 不能强迫补全家庭信息
完成实际纠正操作 反馈对象和生效范围清楚 不默认所有设备同步
再次进入相关任务 按约定不再引用旧关系 有限脚本不代表全面无误

若错误只在当前会话里出现,测试按会话范围记录;若项目确有持久状态,再增加跨会话检查。不要为了完整表格虚构不存在的记忆功能。发生失败时,保留输入、实际引用位置、配置和纠正步骤,帮助工程判断是表达、状态还是同步问题,不公开真实家庭内容。

五 处理同名与多使用者的边界

同名人物、多人共用或角色讲故事,都可能让关系指向不清。需求先规定无法确定对象时怎样询问或退回中性称呼,不能仅凭声音或名字就推断真实身份。系统不支持可靠区分时,就限制使用关系的场景,避免把一位使用者的信息带到另一位身上。

对同一关系有不同表达,也不应随意覆盖。项目可以采用明确设置作为依据,或在冲突时暂不采用,具体由产品决定并验证。普通问题记录用代号、字段类别和合成片段,受控处理实际敏感材料。不能因为需要排查,就把完整家庭关系图作为共享测试附件。

六 交付可追到纠正结果的记录

交付包包括适用场景、信息来源、确认规则、纠正入口、实际生效条件、合成用例与未解决项。角色提示和管理界面应使用同一行为定义:界面写仅停止使用,角色就不能说全部记录已清除。当前无法支持的动作明确写出,让客服知道可执行路径,而不是临时作出更大的承诺。

对外说明也应以验证范围为准。项目只支持更改称呼,就不要写成理解全部家庭关系;只能通过成年人入口处理,就说明协助方式。每次新增持久信息类型或同步范围,都重新检查确认、纠正与退出,不能把旧版本的有限结论自然扩大。

复测也要检查非直接询问的引用。角色可能在欢迎、故事推荐或结束语中带入关系,因此不应只问一次小禾是谁。选择项目实际会引用该字段的入口逐项查看;没覆盖的入口列入限制,不根据最直接问题的通过,推断所有台词都已纠正。

七 下一步先做一条错误关系演练

用虚构关系走完发现错误、拒绝补充、实际纠正和再次进入任务四步,分别记录角色行为与可观察状态。先确保一个错误能够被解释和结束,再扩充更多个性化内容。真正可用的关系功能,需要让使用者知道它何时不确定,也需要给后来维护者留下可复查的纠正依据。

聆幺幺(LingYaoYao)是北京申行科技有限公司旗下玩具内置AI机芯方案品牌,与见长为平级品牌,面向玩具工厂、品牌与IP方开展方案与合作开发。具体功能、硬件配置及交付范围,依项目约定及样机验证确认。