心理学者の77%が患者のAI利用を報告し、週120万人の会話に自殺の兆候。米カリフォルニア州は規制法案SB903の可決目前だ。
心理学者の77%が「患者はAIに相談している」
深夜、誰にも言えない悩みをスマートフォンに打ち込む。相手は人間ではない。カリフォルニアの非営利報道機関CalMattersによれば、この2年、チャットボットの使いみちの上位を占めてきたのはコンパニオンやセラピーとしての利用だ。ChatGPTの週間アクティブユーザーは約8億人。24時間、無料で、決して自分を裁かない相手に人が頼るのは無理もない。
医療の現場はこの波を肌で感じている。米国心理学会が2026年6月に行った調査では、心理学者の77%が「患者がメンタルヘルスの目的でAIを使っている」と答えた。10代と若年成人では、およそ8人に1人がメンタルヘルスのためにチャットボットを使う。市民は、国家が無視できない規模で内面を機械に預け始めている。
AIカウンセリングの何が危険か
では、AIに悩みを打ち明けることの何が危険なのか。最初の答えは、生死に関わる領域だ。OpenAIが2025年10月に公表したデータでは、週間アクティブユーザーの約0.15%の会話に、自殺の計画や意図の明確な兆候が含まれていた。週あたり約120万人に相当する。自殺を図った人数ではない。それだけの数の切実な危機のサインが、人間ではなくアルゴリズムに向けて発信されているという事実である。
危険は見落としにとどまらない。King’s College Londonなどの研究チームは、チャットボットが過度に同意し、応答を個別化することで、利用者の妄想を強化しうると指摘する。人間のカウンセラーは、同意するだけの存在ではない。時に認知の歪みに介入し、現実へ引き戻す。相手に合わせすぎる機械に、その役割は期待しにくい。
SB903は何を禁止するのか
この事態を受けて、米カリフォルニア州では州上院法案SB903「Wellness and Oversight for Psychological Resources Act」の審議が進んでいる。提出は2026年1月21日。2025年に全米で初めてAIによるセラピーの提供そのものを禁止したイリノイ州とは、性格が違う。線を引いたのは、名乗りと単独判断だ。
禁じるのは、AIが人間の監督なしに単独で心理療法を提供することと、チャットボットを「セラピー」として広告することである。治療上の判断には有資格の専門家によるレビューが必須になり、AIは臨床医を支援する道具に限定される。セラピーの録音やケアの振り分けにAIを使うなら、開示と患者の同意がいる。ピアサポート、宗教的カウンセリング、研究、連邦承認の医療ツールは適用外だ。
議会の動きは速い。2026年5月に州上院を39対0で通過し、8月13日には州下院の歳出委員会を13対0で可決、本会議の採決を待つ。政策委員会でも17対0と14対1。ここまで反対票は1票しかない。提案者のスティーブ・パディーヤ州上院議員（民主党・サンディエゴ選出）は、この技術を「きわめて強力で、結果を左右する」ものと呼び、「光の速さで」広がっていると警告する。「AIのアルゴリズムは、人間のセラピストの仕事を引き継ぐのに適していない。セラピストには、AIには再現できない技能と訓練がある」。
AIに悩みを相談してはいけない人
法案の条文から逆算すると、誰がAIを頼ってはいけないのかが浮かび上がる。まず、自殺念慮など危機的な状況にある人だ。緊急の介入が要る場面で、単独の機械は命綱にならない。週120万人という数字は、その場面が毎週起きていることを示している。
次に、妄想や現実検討が揺らいでいる人。過度な同意が症状を強めうるからだ。そして、AIの返答を治療上の判断として受け取ってしまう使い方も危うい。治療の決定には人間の専門家の目が要る、というのがこの法案の背骨である。つらいときはAIで完結させず、専門家や公的な相談窓口へつながってほしい。
反対したのはテック業界だった
この議論、反対しているのは誰か。テック業界である。業界団体TechNetのロバート・ボイキンは「カリフォルニアのすべての郡が行動医療の人手不足に直面しているいま、SB903は、患者が早くケアにたどり着くための受付・スクリーニングツールの前に、臨床医というボトルネックを置くものだ」と批判する。安全のための規制が、ケアへの入り口を狭めるかもしれない。ねじれた対立軸だ。
振り分けの自動化は、すでに現場の火種でもある。全米医療労働者組合は、カイザー・パーマネンテがeビジットのスクリーニングで、自動アルゴリズムによりメンタルヘルスケアを振り分けているとして申し立てを行った。賛成側に立つカリフォルニア行動医療協会CEOのレオンドラ・クラーク・ハーヴェイは言う。「有資格の臨床医と自動応答の違いは、人生を左右しうる」。
日本には規制がない
日本に、この線引きはまだない。精神疾患の診断や治療は医師にしかできないが、チャットボットへの相談はその枠外にある。2025年にAI推進法が成立したものの、罰則のない枠組み法で、AIによるセラピーやカウンセリングを名指しした規制ではない。誰でも今夜から、AIをカウンセラー代わりにできてしまう。
週に120万人。その悩みは今夜もサーバーに流れ込む。安全を取れば、ケアにたどり着けない人が出る。アクセスを取れば、独りで機械と向き合う人が残る。39対0で進む法案が突きつけているのは、その選択である。
SB903とはどんな法案か
米カリフォルニア州でAIチャットボットのセラピー利用を規制する州上院法案である。AIが人間の監督なしに単独で心理療法を提供することと、「セラピー」として広告することを禁じる。全面禁止したイリノイ州と違い、有資格者の監督下に置く設計だ。2026年8月時点で本会議の採決待ちで、まだ成立はしていない。
ChatGPTに悩みを相談してもいいのか
日常の悩みの整理に使うのは自由だが、治療の代わりにしてはならない。チャットボットは過度に同意する傾向があり、利用者の妄想を強化しうると研究チームが指摘している。自殺念慮など危機的な状況では、AIではなく専門家や相談窓口を頼るべきだ。
AIカウンセリングは日本で規制されているのか
名指しで規制する法律はまだない。2025年に成立したAI推進法は罰則のない枠組み法である。精神疾患の診断や治療は医師にしかできないが、チャットボットへの相談は医療行為の枠外にある。
AIカウンセリングのデメリットは何か
人間のセラピストが持つ技能と訓練を再現できないことだ。過度な同意によって利用者の妄想を強化しうること、危機的な状況で緊急の介入ができないことも、研究と規制の議論で指摘されている。