質問本文情報
令和七年五月二十八日提出質問第二〇九号
会話型生成ＡＩに起因する心理的依存及び社会的影響に関する質問主意書
提出者 八幡 愛
会話型生成ＡＩに起因する心理的依存及び社会的影響に関する質問主意書
生成ＡＩ、とりわけ自然言語による対話が可能な会話型生成ＡＩ（ＣｈａｔＧＰＴ、Ｇｅｍｉｎｉ、Ｃｈａｒａｃｔｅｒ．ＡＩ等）は、その利便性と親和性から、青少年を含む幅広い層に急速に普及している。
一方で、これらのＡＩとの過度な対話がいわゆる「ＡＩ中毒」やいわゆる「ＡＩ誘発性心理反応」と呼ばれる状態を引き起こす事例が、国内外において報告されている。たとえば、米国ではいわゆるチャットボットに深く依存した未成年者が自殺に至った事例が報道されており、また、発達障害傾向のある少年が会話型生成ＡＩとのやり取りを通じて自傷行為に至ったとする訴訟も提起されている。いずれも会話型生成ＡＩの発言内容が重大な影響を及ぼしたとされており、民間ＡＩ事業者の責任のあり方が問われていると承知している。
また、台湾や中国でも、孤独感を抱えた若者がＡＩチャットに没入し、実社会との接点を失う例が報告されており、心理的・社会的な孤立や逸脱的行動の誘発といった深刻な懸念が示されていると考える。
なお、本年、人工知能関連技術の研究開発及び活用の推進に関する法律が成立したが、同法は民間事業者に対して努力義務を課すにとどまり、罰則規定を含まない、いわゆるソフトローとしての性格を有していると承知している。ＡＩが急速に社会に浸透しつつある現状において、このような法制のままで国民の安全と人権を守れるのか、再考を要すると考える。
以上の状況を踏まえ、次の事項について質問する。
一 実態把握と省庁連携について
１ 現在、政府は会話型生成ＡＩとの過度なやり取りに起因する心理的依存の実態をどのように把握しているかを示した上で、年齢別、性別、職業別などを含めた統一的な全国調査を今後実施する予定はあるか回答されたい。
２ この問題に関して、厚生労働省、文部科学省、総務省、消費者庁など関係府省庁の間で定期的な連絡会議や政策協議の枠組みは存在するか。存在しない場合、今後設ける予定はあるか回答されたい。
二 利用者に対する法的責任と開発企業・プラットフォームの規律について
１ 会話型生成ＡＩによって生成された発言が誤情報、性的・暴力的内容、人権侵害的言説などに該当し、それが利用者に精神的なダメージや社会的影響を与えた場合、開発企業や運営主体に対して、民事的・刑事的責任を問うことは現行法制上どこまで可能か。とりわけ、（１）成年の利用者に対する影響の場合と、（２）未成年の利用者に対する影響の場合とで、政府はそれぞれどのように責任のあり方や制度的限界を認識しているか。
２ 成年と未成年の違いを踏まえた上で、必要な制度整備についてどのように構想しているか。
３ アプリケーションを配信・仲介するプラットフォーム事業者（Ｇｏｏｇｌｅ、Ａｐｐｌｅ Ｓｔｏｒｅなど）が、問題ある生成ＡＩアプリを野放しにしている場合、その責任や監督のあり方をどのように考えるか。
三 国際的ルールと比較法的観点からの評価について
１ 欧州連合で策定されたいわゆるＡＩ法や、米国・中国におけるＡＩ規制との比較において、日本のＡＩ規制の立ち位置と課題をそれぞれどのように認識しているか。
２ ＡＩについての国際的なガイドライン策定への日本政府の関与状況と、国内法制への反映予定をそれぞれ明らかにされたい。
四 教育・啓発及び専門家との連携体制について
１ 学校教育におけるいわゆるＡＩリテラシー教育の現状と今後の拡充方針について、政府の具体的な取組をそれぞれ示されたい。
２ 保護者が子どものＡＩ利用を適切に把握し、親子間の対話を促すための啓発活動や支援ツールの整備について、政府は今後どのように推進するか。
３ 精神科医、公認心理士、教員、ＩＣＴ専門家などによるガイドライン策定、相談体制、医療連携の必要性について、政府としての対応方針をそれぞれ示されたい。
五 政府の立法姿勢とソフトローに関する認識について
１ 人工知能関連技術の研究開発及び活用の推進に関する法律は努力義務を課すものであり、法的拘束力を有する規制ではない。同法が会話型生成ＡＩに起因する心理的依存や社会的孤立、対人関係能力の低下などの社会的影響に対して、どれほどの実効性を持ち得ると考えるか。
２ 会話型生成ＡＩによる精神的被害や社会的孤立など深刻な影響が確認された場合、罰則を含む法的拘束力のある規制への転換を検討する考えはあるか。
六 社会的影響と不安定化リスクについて
１ ＡＩへの過度な依存が、社会的孤立、実社会との断絶、対人関係能力の低下、犯罪への誘導など、社会不安の増大に結びつくおそれがあるとの指摘があるが、政府はどのように認識しているか。
２ こうしたＡＩとの擬似的交流の拡大が、家族関係や地域社会のつながりに与える影響について、政府としての調査・分析及び対策の必要性をそれぞれどのように評価しているか。
右質問する。