AIで子どもが自殺。“優しいAI”の裏に潜むリスクとは？

こんにちは！子ども達をネットトラブルから守りたいハルです。

アメリカで、AIに相談していた16歳の子どもが自殺をするという、痛ましい事件がありました。

最近では、当たり前のように身近になったAI。特に子ども達は、「ChatGPTで宿題のヒントを探す」「画像を作ってみる」など、使う機会が増えていると思います。

しかし今後、人の心をまねるAIが、子ども達の心を強くひきつけてしまい、「AI依存」の問題が出てくることは予想できますよね。

AIはうまく使えば学びのサポートになりますが、子ども達の心に影響しやすいリスクもし、私たちは知っておく必要があります。

AIで自殺｜子ども達の心に影響しやすいAIのリスク

アメリカで発生した、AIに関する子どもの自殺事件は、AIは励ましのつもりで返した言葉が、相手にとっては“死を肯定するようなメッセージ”に感じられてしまい、発生したと言われています。

人間であれば、「厳しさの中にも優しがある」というような、複雑なコミュニケーションが可能ですが、感情のない「優しいだけのAI」は、本当の意味では相手のためにはなっていないことが多々あるのではないかと思います。

子ども達が陥りやすい、AIの３つのリスクはこちらです。

チャット型AIは、「怒らない」「否定しない」「いつでも話を聞いてくれる」など、どんな相談にも優しく答えてくれます。

特に、家庭や学校でうまく気持ちを言葉にできない子にとって、AIは“心を受け止めてくれる存在”のように見えてしまうのです。

でも実際には、AIに「心」や「感情」はありません。

過去の膨大な会話データをもとに“人が安心する返答”を予測しているだけなので、親しくなりすぎると問題が発生する可能性があります。

「AIが私をわかってくれる」
「AIは裏切らない」
そんな気持ちが強くなっていくと、現実の人とのつながりが薄れていく危険性があります。

現実の人間関係は、時には傷つけ合うし、意見がぶつかることもあります。

でもその中で、子どもたちは他人との関わり方や、気持ちの整理を学んでいきます。
AIだけが「理解者」になってしまうと、そうした人間関係の経験が奪われてしまうのです。

AIが優しいのは、プログラムでそう設計されているからです。人間のように思いやりを持っているわけではありません。

「現実の世界ではつらいことばかり。でもAIはいつも味方でいてくれる」
そんな感覚が積み重なると、AIが“唯一の理解者”のようになってしまうのです。

日本でも、子どもや若者のAI依存の兆しが少しずつ見え始めています。

「AIと話していると落ち着く」
「AIがいるから大丈夫」

でもその“安心感”が、現実のつながりを遠ざけてしまうこともあるのです。

AIが優しいのは、人間のように思いやりを持っているわけではなく、プログラムでそう設計しているからです。

子ども達が自分の力で生活していくためには、いい意味での厳しさや、周りの方とのコミュニケーションが何より重要ですよね。

「優しいAI」はあくまで一つの情報であることを伝え、私たち保護者のできることとしては、たくさんのリアルな経験や、コミュニケーションを子ども達に与えていくことかもしれません。

まず、AIは悪者ではありません。正しく使えば、勉強や創作の力になり、世界を広げてくれるツールです。

でも、AIの「優しさ」や「共感」は、人間が感じている愛情とは違うもの。
子どもたちがそれを知らずに心を預けてしまうと、孤独や絶望を深めてしまうことがあります。

まずは私たちが、「AIはあくまで道具であり、心を持たない存在だ」ということを理解し、家庭でその違いを伝えていくことが大切ですね。