原則與承諾

Responsible AI

科技愈強,人的主體性愈重要

本頁寫的是 TOIVO 為產品定下的信念、設計承諾和規則。

基本信念

AI 應擴展人的思考、學習、連結和選擇能力;判斷、關係和成長由人主導。

我們把 AI 設計為一個有界線的學習鷹架:

  1. 幫學生釐清問題,答案由學生自己找
  2. 幫學生比較資訊,結論由學生自己判斷
  3. 幫學生踏出第一步,任務由學生自己完成
  4. 幫教師看見學生卡在哪裏,判斷仍由教師作出
  5. 幫家長看見孩子的成長,同時尊重孩子的私人空間
  6. 幫校長推動校本創新,每項分析都可解釋、可查核

七項承諾

這是我們給產品定下的設計承諾。

學生先思考,AI 後支援

學生應先形成自己的問題、假設、草稿或想法;AI 才提供提示、例子、結構、查證和回饋。

教師保有專業主導權

AI 可以草擬、整理、提示和協助,但教學、評核、輔導、紀律及高影響決定,始終由教師和合資格專業人員負責。

不把學生標籤化

TOIVO 不生成「低動機學生」「問題學生」「不適合某學科」「高風險人格」等固定標籤。

系統只可呈現可解釋、可修正的學習模式,例如:

「學生近期常在任務第一步停下來,可能需要更清楚的任務拆解或成功條件。」

不作心理健康診斷或人生預測

TOIVO 不會根據學生對話、作業、點擊、登入時間、聲音、影像或情緒文字,診斷焦慮、抑鬱、ADHD、成癮、人格或家庭問題。

設計要求:學生主動表達困擾時,提供求助選項並轉介真人;平台不取代輔導、醫療或臨床服務。

學生擁有作品和分享選擇

學生可逐步理解、管理、補充、更正及選擇分享自己的作品、數碼憑證、TOIVO Passport 和成長資料。

高影響決定由人覆核

涉及升學、紀律、特殊教育、心理支援、獎助、招聘、機會分配或資料分享的高影響決定,必須有清晰權限、人工覆核和申訴機制。

不以成癮式設計追求使用量

TOIVO 不以無限滾動、深夜推送通知、連續登入、隨機寶箱或公開排名,來爭奪學生注意力。

我們重視的是:

  1. 完成有意義任務
  2. 適時停下
  3. 回到真人關係
  4. 線下觀察、訪談、實驗、運動和服務
  5. 睡眠、恢復和可持續的學習節奏

治理

三條底線

人工覆核、資料用途與兒童及青年保障,是產品交付的前提,每一次任務都須執行。

01 人工覆核 標示 AI 的角色與協助程度;評核、升留班、取錄、紀律與診斷等決定由人作出。
02 資料用途 只收必要資料;展示須學生授權,未成年人另需家長同意;報告只用彙總數據,不出售個人資料。
03 兒童與青年保障 任務按年齡與風險分級;未有家長同意、伙伴審核與人工支援,不開放高風險任務。

認證規劃

01 ISO/IEC 27001 資訊安全管理系統
02 ISO/IEC 42001 人工智能管理系統

技術平台

在香港設計與治理

TOIVO 的技術平台按以下四項原則設計。

模型可替換
以受控路由按任務選用成熟的模型服務,兼顧品質、成本與安全。設計上可按效能、資料分類及地區要求更換供應商。
資料可隔離
以角色權限和資料隔離管理存取;敏感資料不得輸入未經批准的工具。
決策可追溯
記錄 AI 的使用、關鍵輸出、來源核查及採納理由,並把任務、作品、修訂、回饋與能力連成紀錄;學生能力以真實證據說明,每項判斷都可追溯。
人類在迴路
AI 可協助生成建議、語言鷹架和初步回饋;發出數碼憑證、分配機會、風險升級及其他高影響判斷,由人作決定。

本網站自身的資訊安全狀況,見資訊安全(英文)。

資料與權限

資料最小化與角色權限

產品的設計規則:只收集完成特定教育、任務、服務和治理目的所需的資料。

設計規則

  1. AI 只可讀取和處理完成任務所需的資料
  2. 學校、家庭和伙伴可以清楚知道資料的用途和使用範圍

學生

可見內容自己的作品、任務、反思、能力和授權分享狀態

不可見內容他人的私人資料和評估

家長

可見內容學生選擇分享的成長成果、支援需要與親子對話資源

不可見內容私人反思、情緒相關內容、與其他學生比較

教師

可見內容與教學和學生支援相關的任務、作品、修訂和班級趨勢

不可見內容未授權的私人日誌或敏感資料

校長

可見內容聚合的教學、採用、成效和治理趨勢

不可見內容個別學生不必要的私人內容

企業/NGO 伙伴

可見內容學生按明確同意、特定用途和期限授權分享的作品和 Challenge 成果,以及匿名化洞察

不可見內容個人敏感資料、校內紀錄和私人反思

大學

可見內容學生主動授權的 TOIVO Passport

不可見內容未同意分享的資料、學校內部資料

導師/評核者

可見內容被分配學生的必要證據

不可見內容未被分配學生的資料;已查看的資料不可任意下載或外傳

平台管理員

可見內容工作所需的資料,採用最小權限、分權審批與審計紀錄

不可見內容工作所需以外的資料

本網站自身收集甚麼資料,見私隱政策及兒童資料(英文)。