原则与承诺

Responsible AI

科技越强,人的主体性越重要

本页写的是 TOIVO 为产品定下的信念、设计承诺和规则。

基本信念

AI 应扩展人的思考、学习、联结和选择能力;判断、关系和成长由人主导。

我们把 AI 设计为一个有边界的学习支架:

  1. 帮学生厘清问题,答案由学生自己找
  2. 帮学生比较信息,结论由学生自己判断
  3. 帮学生踏出第一步,任务由学生自己完成
  4. 帮教师看见学生卡在哪里,判断仍由教师作出
  5. 帮家长看见孩子的成长,同时尊重孩子的私人空间
  6. 帮校长推动校本创新,每项分析都可解释、可查核

七项承诺

这是我们给产品定下的设计承诺。

学生先思考,AI 后支持

学生应先形成自己的问题、假设、草稿或想法;AI 才提供提示、例子、结构、查证和反馈。

教师保有专业主导权

AI 可以草拟、整理、提示和协助,但教学、评估、辅导、纪律及高影响决定,始终由教师和具备资质的专业人员负责。

不把学生标签化

TOIVO 不生成“低动机学生”“问题学生”“不适合某学科”“高风险人格”等固定标签。

系统只可呈现可解释、可修正的学习模式,例如:

“学生近期常在任务第一步停下来,可能需要更清楚的任务拆解或成功条件。”

不作心理健康诊断或人生预测

TOIVO 不会根据学生对话、作业、点击、登录时间、声音、影像或情绪文字,诊断焦虑、抑郁、ADHD、成瘾、人格或家庭问题。

设计要求:学生主动表达困扰时,提供求助选项并转介给真人;平台不取代辅导、医疗或临床服务。

学生拥有作品和分享选择

学生可逐步理解、管理、补充、更正及选择分享自己的作品、数字凭证、TOIVO Passport 和成长数据。

高影响决定由人复核

涉及升学、纪律、特殊教育、心理支持、奖助、招聘、机会分配或数据共享的高影响决定,必须有清晰权限、人工复核和申诉机制。

不以成瘾式设计追求使用量

TOIVO 不以无限滚动、深夜推送通知、连续登录、随机宝箱或公开排名,来争夺学生注意力。

我们重视的是:

  1. 完成有意义任务
  2. 适时停下
  3. 回到真人关系
  4. 线下观察、访谈、实验、运动和服务
  5. 睡眠、恢复和可持续的学习节奏

治理

三条底线

人工复核、数据用途与儿童及青年保障,是产品交付的前提,每一次任务都须执行。

01 人工复核 标明 AI 的角色与协助程度;评估、升留级、录取、纪律与诊断等决定由人作出。
02 数据用途 只收必要数据;展示须学生授权,未成年人另需家长同意;报告只用汇总数据,不出售个人信息。
03 儿童与青年保障 任务按年龄与风险分级;没有家长同意、伙伴审核与人工支持,不开放高风险任务。

认证规划

01 ISO/IEC 27001 信息安全管理体系
02 ISO/IEC 42001 人工智能管理体系

技术平台

在香港设计与治理

TOIVO 的技术平台按以下四项原则设计。

模型可替换
以受控路由按任务选用成熟的模型服务,兼顾质量、成本与安全。设计上可按性能、数据分类及地区要求更换供应商。
数据可隔离
以角色权限和数据隔离管理访问;敏感数据不得输入未经批准的工具。
决策可追溯
记录 AI 的使用、关键输出、来源核查及采纳理由,并把任务、作品、修订、反馈与能力连成记录;学生能力以真实证据说明,每项判断都可追溯。
人类在回路
AI 可协助生成建议、语言支架和初步反馈;颁发数字凭证、分配机会、风险升级及其他高影响判断,由人作决定。

本网站自身的信息安全状况,见信息安全(英文)。

数据与权限

数据最小化与角色权限

产品的设计规则:只收集完成特定教育、任务、服务和治理目的所需的数据。

设计规则

  1. AI 只可读取和处理完成任务所需的数据
  2. 学校、家庭和伙伴可以清楚知道数据的用途和使用范围

学生

可见内容自己的作品、任务、反思、能力和授权分享状态

不可见内容他人的个人信息和评估

家长

可见内容学生选择分享的成长成果、支持需要与亲子对话资源

不可见内容私人反思、情绪相关内容、与其他学生比较

教师

可见内容与教学和学生支持相关的任务、作品、修订和班级趋势

不可见内容未授权的私人日志或敏感信息

校长

可见内容聚合的教学、采用、成效和治理趋势

不可见内容个别学生不必要的私人内容

企业/NGO 伙伴

可见内容学生按明确同意、特定用途和期限授权分享的作品和 Challenge 成果,以及匿名化洞察

不可见内容个人敏感信息、校内记录和私人反思

大学

可见内容学生主动授权的 TOIVO Passport

不可见内容未同意分享的数据、学校内部资料

导师/评估者

可见内容被分配学生的必要证据

不可见内容未被分配学生的数据;已查看的数据不可任意下载或外传

平台管理员

可见内容工作所需的数据,采用最小权限、分权审批与审计记录

不可见内容工作所需以外的数据

本网站自身收集哪些个人信息,见隐私政策及儿童个人信息(英文)。