AI 安全与儿童隐私

让孩子自由探索想象力,也让家长清楚了解作品如何保存和分享、个人信息如何处理,以及 AI 创作可能存在的风险。

小布实验室面向儿童创意探索提供 AI 图像创作和相关练习功能。我们通过隐私保护、内容规则、安全审核和清晰的使用边界,降低儿童使用生成式 AI 时可能遇到的风险。

但任何技术都不能保证绝对安全。AI 输出也可能出现错误、偏差或不符合预期的内容。儿童使用时,仍需要家长或监护人根据孩子的年龄和理解能力进行适度陪伴。

我们如何看待儿童使用 AI

AI 可以帮助孩子把语言、想象和画面连接起来,但它不应替代儿童自己的思考、判断和表达。

更合适的使用方式是:

  • 由孩子提出创作想法;
  • 用自己的语言描述角色和场景;
  • 观察 AI 如何理解描述;
  • 发现结果与想法之间的差异;
  • 继续修改和完善表达;
  • 在家长陪伴下理解隐私和分享边界。

小布实验室提供创作和表达练习环境,但不保证一定提升创造力、学习成绩或其他特定教育效果。

作品默认私密,也可以主动分享

孩子创作的作品默认保持私密,不会在没有操作的情况下自动对外展示。

用户可以主动使用产品提供的分享功能。作品被分享后,其他人可能通过相应的分享入口访问作品。

分享前,建议家长和孩子共同检查:

  • 是否包含真实姓名、学校、班级或家庭住址;
  • 是否出现电话号码、证件信息或其他敏感信息;
  • 是否包含未经允许使用的他人照片;
  • 是否存在不适当、错误或容易产生误解的内容;
  • 孩子是否理解分享后作品可能被其他人看到;
  • 当前分享方式是否符合家庭约定。

分享方式、访问范围和具体操作,以产品页面的实际提示为准。

提示词和作品不会用于模型训练

小布实验室不会使用用户提交的提示词和生成作品训练自有生成式 AI 模型,也不会将这些内容提供给第三方用于模型训练。

为完成用户主动发起的创作请求,必要内容可能由提供 AI 生成、云存储或相关技术服务的服务商处理。

这类处理用于完成当前服务请求,不等同于将用户内容用于模型训练。

我们可能处理哪些信息

为了提供账户、创作、作品、订阅和安全功能,小布实验室可能处理:

  • 用户名、邮箱和显示名称等账户信息;
  • 用户输入的提示词;
  • AI 生成的作品;
  • 交易和订阅记录;
  • 设备、浏览器和日志信息;
  • 功能使用情况和偏好。

这些信息可能用于创建和管理账户、完成 AI 创作请求、保存和展示作品、提供试用积分、钱包和订阅功能、进行内容安全审核、防止欺诈和滥用、排查故障和保护服务,以及发送验证、安全和交易通知。

我们不会出售儿童个人信息,也不会将儿童个人信息用于定向广告。

我们如何保护信息

小布实验室会采用合理的安全措施保护用户信息,例如:

  • 传输过程中的加密;
  • 账户和系统访问控制;
  • 服务日志和安全监测;
  • 必要的数据备份;
  • 对服务提供商的数据使用进行限制。

但任何网络服务都无法保证绝对安全。

家长和孩子也应共同保护账户安全:不与他人共享密码;不在提示词中填写敏感信息;不在公共设备上长期保持登录;发现异常登录或账户问题时及时修改密码;分享作品前检查内容和访问范围。

内容安全与审核

小布实验室不允许用户生成违法、暴力、色情、性暗示、侵权、剥削未成年人或其他不适当内容。

为了保护用户和平台安全,系统可能:

  • 拒绝处理不符合规则的请求;
  • 拦截部分提示词;
  • 审核生成内容;
  • 移除违规内容;
  • 对严重或重复违规的账户采取限制措施。

内容审核可以降低风险,但不能保证所有不适当内容都会被提前识别。

家长仍应在孩子查看、保存或分享作品前进行检查。

AI 输出可能出现哪些问题

生成式 AI 根据概率产生内容,并不真正理解现实世界。

因此,作品可能出现:

  • 与提示词不完全一致;
  • 人物、动物或物体细节错误;
  • 文字、手部或数量异常;
  • 不符合现实常识;
  • 风格或场景偏离预期;
  • 同一个提示词每次产生不同结果;
  • 偶尔出现不适合儿童查看的内容。

不要把 AI 输出当作完全正确的事实,也不要直接将其用于医疗、法律、安全或其他需要专业判断的场景。

不要在提示词中输入敏感信息

孩子进行创作时,不需要提供真实身份信息。

建议不要输入:

  • 真实姓名;
  • 家庭住址;
  • 学校和班级;
  • 电话号码;
  • 邮箱密码;
  • 身份证件号码;
  • 银行卡或支付信息;
  • 精确行程和实时位置;
  • 他人的私人信息;
  • 其他与创作无关的敏感内容。
不建议:“上海市某某小学三年级二班的张某某。”
建议改为:“一个背着蓝色书包的小学生。”

可以使用虚构名称和概括性描述代替真实信息。

家长和监护人的陪伴建议

使用前先说明基本规则

让孩子知道:

  • AI 不一定正确;
  • 不输入真实个人信息;
  • 不生成伤害他人或不适当的内容;
  • 分享前需要检查;
  • 遇到奇怪或不舒服的内容应及时告诉家长。

让孩子先表达

家长可以提问,但不必替孩子写完整提示词。

例如:

  • 画面中最重要的角色是谁?
  • 它正在做什么?
  • 故事发生在哪里?
  • 你希望画面看起来温暖、神秘还是有趣?
  • 哪个地方和你的想法不一样?

一起检查生成结果

可以和孩子讨论:

  • AI 正确理解了什么;
  • 哪些细节出现错误;
  • 为什么同一句话可能得到不同结果;
  • 下一次准备修改哪些描述。

分享前再次确认

主动分享作品前,应检查个人信息、内容安全和孩子的分享意愿。

    儿童使用与监护

    是否适合使用小布实验室,需要结合孩子的:

    • 阅读能力;
    • 语言表达能力;
    • 对 AI 输出的理解;
    • 独立操作能力;
    • 隐私和安全意识。

    13 岁以下儿童应在家长或监护人同意和监督下使用。

    年龄较小、首次接触生成式 AI,或者尚不能理解隐私和内容边界的儿童,不建议完全独立使用。

    如何提交隐私请求

    家长或监护人需要访问、更正、导出或删除儿童相关信息时,可以通过以下邮箱提交请求:

    support@xiaobulab.com

    登录后,也可通过首页顶部的“意见反馈”提交请求。

    平台可能需要核验请求人与相关账户或儿童之间的关系。

    部分与交易、安全、争议处理或法律义务有关的记录,可能需要在适用期限内继续保存。

    常见问题

    孩子的作品默认会公开吗?

    不会。作品默认保持私密,不会自动对外展示。用户可以主动分享作品。分享后,其他人可能通过相应的分享入口访问作品,因此建议在分享前检查内容和个人信息。

    提示词和作品会被用于训练 AI 模型吗?

    不会。小布实验室不会使用用户提示词和生成作品训练自有生成式 AI 模型,也不会将这些内容提供给第三方用于模型训练。必要内容可能由相关服务商处理,以完成用户主动发起的生成请求。

    小布实验室会出售儿童个人信息吗?

    不会。小布实验室不会出售儿童个人信息,也不会将儿童个人信息用于定向广告。

    AI 生成的作品一定安全吗?

    不能作出绝对保证。平台会通过内容规则和安全审核降低风险,但 AI 仍可能产生错误、偏差或不符合预期的内容。家长应在孩子查看或分享作品前进行检查。

    AI 生成的内容一定准确吗?

    不一定。AI 输出具有概率性,可能出现细节错误、遗漏、偏离描述或不符合现实常识的情况。

    可以输入孩子的真实姓名和学校吗?

    不建议。创作通常不需要真实姓名、学校、班级、地址或电话号码。可以使用虚构名称和概括性描述代替。

    孩子可以完全独立使用吗?

    是否适合独立使用,需要结合孩子的理解能力、操作能力和安全意识判断。13 岁以下儿童应在监护人同意和监督下使用。

    平台会阻止所有不适当内容吗?

    内容安全机制可以降低风险,但不能保证识别所有不适当内容。发现不适合儿童查看的内容时,应停止继续操作,并由家长进行检查。

    分享作品前需要注意什么?

    需要检查作品是否包含个人信息、不适当内容、他人肖像或未经允许使用的内容,并确认孩子理解作品分享后可能被其他人看到。

    如何申请访问或删除儿童信息?

    可以发送邮件至 support@xiaobulab.com。平台会根据身份核验、数据类型和适用法律处理请求。

    小布实验室能保证提高创造力吗?

    不能。产品提供创作、观察和表达练习环境,但不保证特定教育效果。

    在清楚边界的前提下开始创作

    从一个简单想法开始,让孩子主动表达,让家长提供必要的陪伴。

    在生成、保存和分享作品时,始终注意个人信息、内容安全和 AI 输出的不确定性。