2025年9月2日、OpenAI（本社：カリフォルニア州サンフランシスコ）によって、AIチャットボット「ChatGPT」に保護者向けの新機能を導入すると発表がありました。
この取り組みは、特に青少年ユーザーにおけるメンタルヘルス対応への懸念が高まっていることを受けたものです。
- ChatGPTに保護者アカウントと子どもアカウントの連携機能が追加される。
- 感情的な「急性の苦悩」を検知した場合、保護者へ通知が送られる仕組みが導入される。
- 会話履歴やメモリ機能などの一部機能を保護者が制御可能となる。
今回の新機能は、OpenAIが子どもやティーンの精神的安全性に関するリスクに対応するための初の本格的なステップと位置づけており、来月中に段階的に展開予定としている。
具体的には、保護者が自身のアカウントから子どものChatGPTアカウントにメール招待でリンクできる仕組みが導入され、以下のような操作が可能になる：
- チャット履歴の確認・制御
- メモリ機能のオン/オフ設定
- 感情的に不安定なやり取りが検出された際の通知の受信
特に注目されているのは、「急性の苦悩（acute distress）」と判断された場合に、保護者へアラートが飛ぶ機能。
これは、AIが自動的にユーザーの心理状態を検知し、リスクの高いやり取りを大人に共有する初めての仕組みであり、「保護者による早期介入」を可能にするものとされている。
この動きの背景には、AIとの会話が自殺などの深刻な問題を助長するリスクへの懸念が急速に高まっていることがある。
特に2025年8月には、カリフォルニア州で16歳の少年アダム・レインさんが自殺した件に関し、ChatGPTの使用が関与したとして、OpenAIが訴えられるという前代未聞の訴訟が発生。
遺族側は、ChatGPTが自殺に関するアドバイスやメッセージの草稿作成に加担したと主張しており、同社に製品安全性の責任を問いかけている。
OpenAIはこの件に関して具体的な言及を避けつつも、「モデルが感情的・精神的なサインを検知し、より適切に反応できるよう訓練している」とコメント。
また、特定のプロンプトに対しては、より慎重かつ時間をかけて応答する「推論型モデル」へ自動で切り替える新機能も追加される予定。
さらに、同社は今後120日間で以下の強化施策を進めていくとしている：
- 長時間・複数回にわたるやり取りでも安全性を維持するガードレールの強化
- 「Expert Council on Well-Being」（青年心理、メンタルヘルス、HCI専門家による諮問会議）との共同研究
- 250人以上の医師からなる「Global Physician Network」との連携によるモデル改善
他社の対応と業界全体の動き
AIチャットボットを展開する他企業も同様に対応を進めている。
- GoogleのGemini AI：Google Family Linkにより保護者が設定制御可能
- MetaのAIチャットボット：自殺・自傷行為・摂食障害に関する会話を禁止
- Character.AI：保護者向けのアクティビティ要約機能を実装中（同社も10代ユーザーの自殺に関連して訴訟中）
精神医療専門誌『Psychiatric Services』では、OpenAIを含む主要チャットボットが「中程度の自殺リスク」に対して不適切な回答を示す場合があるという研究結果も発表されており、AIとメンタルヘルスの接点に関する安全性は国際的にも注目されているテーマとなっている。
コメントを残す