ChatGPTを運営するOpenAIは、未成年向けの利用環境「ChatGPT for Teens」を発表した。自傷行為や暴力、性的な内容を制限するほか、「学習モード」では、ユーザーが宿題や課題をAIに投げて回答を得ようとしていると推察される場合には質問と段階的な支援で理解できるように誘導する。「ChatGPT for Teens」は、ChatGPTのシステムが18歳未満と判断した場合、またはユーザーが13～17歳と申告した場合に自動的に適用される。
学習面での機能として、問題を解決するための誘導的な質問と段階的な支援で、子どもが教材を理解できるよう支える「学習モード」と、子どもが課題を近道で済ませようとしているとAIが認識した場合に学習モードに誘導する「責任ある宿題リマインダー」を導入した。この機能では、いわゆる宿題を丸投げしようとすると、AIがすぐに答えを提供するのではなく、理解を深めるよう誘導する。OpenAIは、アメリカの教員のコメントとして「『責任ある宿題リマインダー』のようなツールは、単に答えを渡すのではなく、生徒が間違いを理解し、自信をつけ、学び続けられるよう、一歩ずつ導くことができます。こうした一人ひとりに合わせた支援は、成功したいと思っていても、次にどう進めばよいか分からないことがある生徒に、大きな変化をもたらします。」と紹介している。
保護機能としては、発達科学と専門家の助言を踏まえ、自傷、暴力、摂食障害、危険な行為、露骨な性的表現や生々しい描写などのカテゴリーで、年齢に応じたモデルの保護機能と対策を適用。アカウントを連携した保護者は、安全通知の受信などができるほか、オフラインでの支援が特に重要となりうる場面に焦点を当てながら、摂食障害に関する通知も追加するという。
また、AIの健全な利用も促す。18歳未満のユーザーには、AIとの恋愛的または性的なロールプレイを遮断し、ChatGPT側も恋愛的な表現を使わず、ユーザーの感情的依存を促さず、AIに感情や意識があると示唆しないようにする。この機能は、ユーザーが現実世界での健全な人間関係を支えるために設計されている。
Unsplash/Emiliano Vittoriosi
