第15号 令和7年4月18日（金曜日）
令和七年四月十八日（金曜日）午前九時二分開議
出席委員
委員長 大岡 敏孝君
理事 黄川田仁志君 理事 國場幸之助君
理事 西銘恒三郎君 理事 今井 雅人君
理事 本庄 知史君 理事 山岸 一生君
理事 市村浩一郎君 理事 田中 健君
石原 宏高君 井野 俊郎君
江渡 聡徳君 尾崎 正直君
岸 信千世君 栗原 渉君
小寺 裕雄君 田中 良生君
西野 太亮君 平井 卓也君
平沼正二郎君 宮下 一郎君
山際大志郎君 山口 壯君
市來 伴子君 梅谷 守君
おおたけりえ君 下野 幸助君
橋本 慧悟君 藤岡たかお君
馬淵 澄夫君 水沼 秀幸君
山 登志浩君 伊東 信久君
三木 圭恵君 石井 智恵君
菊池大二郎君 河西 宏一君
山崎 正恭君 上村 英明君
塩川 鉄也君 辰巳孝太郎君
緒方林太郎君
…………………………………
国務大臣
（科学技術政策担当） 城内 実君
内閣府副大臣 辻 清人君
内閣府大臣政務官 西野 太亮君
デジタル大臣政務官
兼内閣府大臣政務官 岸 信千世君
政府参考人
（内閣官房デジタル行財政改革会議事務局審議官） 山澄 克君
政府参考人
（内閣府知的財産戦略推進事務局長） 奈須野 太君
政府参考人
（内閣府科学技術・イノベーション推進事務局統括官） 渡邊 昇治君
政府参考人
（内閣府科学技術・イノベーション推進事務局審議官） 徳増 伸二君
政府参考人
（個人情報保護委員会事務局長） 佐脇紀代志君
政府参考人
（総務省大臣官房審議官） 近藤 玲子君
政府参考人
（総務省大臣官房審議官） 下仲 宏卓君
政府参考人
（文部科学省大臣官房学習基盤審議官） 日向 信和君
政府参考人
（文部科学省大臣官房審議官） 奥野 真君
政府参考人
（文部科学省大臣官房文部科学戦略官） 中原 裕彦君
政府参考人
（厚生労働省大臣官房審議官） 森 真弘君
政府参考人
（厚生労働省大臣官房審議官） 青山 桂子君
政府参考人
（経済産業省大臣官房審議官） 奥家 敏和君
政府参考人
（中小企業庁経営支援部長） 岡田 智裕君
政府参考人
（防衛省大臣官房サイバーセキュリティ・情報化審議官） 家護谷昌徳君
内閣委員会専門員 田中 仁君
―――――――――――――
委員の異動
四月十八日
辞任 補欠選任
井野 俊郎君 小寺 裕雄君
塩川 鉄也君 辰巳孝太郎君
同日
辞任 補欠選任
小寺 裕雄君 井野 俊郎君
辰巳孝太郎君 塩川 鉄也君
―――――――――――――
四月十八日
日本学術会議法案（内閣提出第三六号）
は本委員会に付託された。
―――――――――――――
本日の会議に付した案件
政府参考人出頭要求に関する件
人工知能関連技術の研究開発及び活用の推進に関する法律案（内閣提出第二九号）
――――◇―――――
○大岡委員長 これより会議を開きます。
内閣提出、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。
この際、お諮りいたします。
本案審査のため、本日、政府参考人として、お手元に配付いたしておりますとおり、内閣官房デジタル行財政改革会議事務局審議官山澄克君外十四名の出席を求め、説明を聴取いたしたいと存じますが、御異議ありませんか。
〔「異議なし」と呼ぶ者あり〕
○大岡委員長 御異議なしと認めます。よって、そのように決しました。
―――――――――――――
○大岡委員長 質疑の申出がありますので、順次これを許します。平井卓也君。
○平井委員 おはようございます。自由民主党の平井卓也です。
今日は、久々に質問のお時間をいただきまして、ありがとうございます。ここで質問に立つより答弁していた方が多かったので、圧倒的に質問する方が楽しいので、今日は楽しみながら質問をさせていただきたいというふうに思います。
私も、二〇〇〇年に当選して、ＩＴ基本法が施行されて以降、デジタル分野に関わって今日までいろいろ仕事をさせていただきましたけれども、まず、この分野に関して言うと、与党も野党もなく、デジタルを理解して、やろうという方々と、そうではない方々というので分かれてきたように思います。
その中で、二〇一四年のサイバーセキュリティ基本法であるとか、二〇一六年の官民データ活用推進基本法は、我々と野党の皆さんとの、協力して作った、あれは議員立法なんですね、閣法ではない。ですから、そういう流れの中でいうと、恐らく、デジタル化を進めるとかＩＴを社会実装するとかというのは、党派を超えてこれから考えていかなきゃいけない問題だろうというふうに思います。
私も委員の一人ですから、今日まで質疑を拝聴させていただく中で、今回の法案に関しては、非常に皆さん、ポジティブな質疑が多かったのではないかなというふうに思います。
これはＡＩに限らず、テクノロジーを社会実装するときに起きる問題というのはいろいろあるんですけれども、ほとんどの問題は、既存の、現行の法律で解決できることの方が多いんですね。
ただ、今回、ＡＩというのは、ここに来て、実はＡＩというのはもう五十年の開発の歴史があるんですが、ここ数年の基盤モデル、ラージランゲージモデルが出てきて以降の投資と開発とその成果、ここが大きく変わってきたというところがあって、そこに対する、常にキャッチアップしながらそういう問題に取り組んでいくというようなことが実は大変だというふうに日々感じています。
なので、私の担当しております自民党のデジタル社会推進本部の会議というのは、恐らく自民党政調の中ではぶっちぎって回数が多いんですね。私も、一週間に何回あるのかというぐらい。そのぐらいやらないと追いつかない時代になってしまって、我々、どこかで少し勉強するのをサボっちゃうと、一か月で置いていかれるというような危機感を持ちながら常にやっています。
そういう中で、ＡＩに関しては、二〇二三年の四月と二四年の四月に、我々のところでホワイトペーパーをまとめさせていただきました。これはＡＩに関するホワイトペーパーで、日本語と英語で両方作らせていただいて、海外の皆さんとの意見交換、そして、海外の方々が、そのホワイトペーパーを見ながら自民党本部を訪問していただいていろいろな議論を積み上げてきたという過去の歴史があります。
その中で、ＡＩに関して言うと、どうしても、やはり今までとは違って、いろいろな法制度、法律との絡む中で、想定していなかったような問題が起きるというケースがあります。その法律というのは、まず、ぱっと思いつくのが二つです。著作権法と個人情報保護法です。
ＡＩというのは、インターネット上にある全てのデータを学習してしまいます。今の基盤モデルはもうほとんど、全てのオープンになったデータをみんな学習しちゃっているということで、その中にはいろいろな、著作物もあれば、個人情報も当然入っているわけです。
私は、著作権に対する議論を少しここで拝聴している中で、今難しくなっているというのは、クリエーターの著作権を守るという話も当然あるんですけれども、クリエーター自身がＡＩを利用して作るというのはもう当たり前な時代になっちゃったということは、権利者であると同時に利用者でもあるということで、恐らく多くの、これから出てくる曲であるとか絵画であるとかアニメとか、やはりＡＩをどこかで使って、最後は人間の責任で世に出していくということになるんだと思います。
そして、個人情報保護法に関して言えば、これだけ世の中に個人情報というのはオープンになっているわけで、それをＡＩが、学習段階で、なかなか、それを全部排除してというようなことは不可能なんですね。
そういうことがある中で、この著作権法と個人情報保護法というのは、ある一定の、我々が関与をしていく必要があるのではないかなというふうに思います。
まず、個人情報保護法に関して言いますと、データは国境を越えて流通するということで、まず、法制度の国際整合性が非常に重要だと思います。ＯＥＣＤの個人情報保護法に関する国際的な指針と日本の個人情報保護法の違いは何かということを、まず政府参考人にお聞きしたいと思います。
○佐脇政府参考人 お答え申し上げます。
個人情報保護制度につきましては、それぞれの国、地域によって文化的、歴史的な背景もございまして、様々な制度が存在してございますが、その中で、ＯＥＣＤ加盟各国の共通の考え方につきまして理事会勧告が出されており、それがプライバシーガイドラインと称されてございます。現在、このプライバシー、個人データ保護に関するグローバルスタンダードとして受け止められておりまして、我が国の個人情報保護法もそれに準拠したものになってございます。
他方、ガイドラインは基本原則を示しているものでありますので、法制度の具体的な規律につきましては、依然として国、地域で差異が見られます。そのため、データ利活用の多様化、グローバル化の進展に伴いまして、そのような具体的な制度の違いも企業活動の足かせになり得るものですから、現在、各国の我々と同等の責任を持っている機関同士では、そういった更なる国際調和というのは議論の対象になって、鋭意進めているところでございます。
引き続きまして、国際的な動向や情報通信技術の進展等も勘案しながら、必要に応じた制度、運用の見直しに邁進してまいりたいと思います。
○平井委員 ありがとうございます。
そして、これも個人情報保護法に関してなんですけれども、個人情報保護法の附則第十条に基づいて、個人情報保護委員会は、法律を三年に一度見直すこととしていますが、いわば法改正が頻繁に行われると、制度の不安定性から、ＡＩを使う企業も含めて、投資を控えてしまうという可能性もあり、いろいろな新しい開発も停滞するリスクがあります。
この見直し期間、制度改正を検討する意向があるのかないのか、その辺についてお聞かせください。
○佐脇政府参考人 お答え申し上げます。
議員御指摘のとおり、令和二年改正法附則第十条におきましては、国際的動向や情報通信技術が急速に変化する中にあって、適時に対応した法制度とするために、三年ごとに見直すことを政府に義務づけられております。
また、同条では、検討の結果、必要があると認めるときは、その結果に基づいて所要の措置を講ずるものとされておりますので、法改正が必ず求められているものではないと承知してございます。
私ども個人情報保護委員会におきましては、現在、同条の規定を踏まえまして、令和五年十一月から、三年ごとの見直しの検討を開始しまして議論を積み重ねたところでございますが、その過程におきましても、委員御指摘のように、制度の不安定性を懸念する御意見もいただいてございます。
また、制度の見直しにつきましては、法の定める定期的な検討に限りませんでして、必要な観点から必要な時期に適切に行うということかと思ってございまして、例えば、ＡＩをめぐる政策の検討をする機会がそうでありますように、データの利活用の実態や環境の在り方と整合的に行うという観点からも見直すことが重要であろうかと思います。
例えば、現在でいいますと、デジタル行財政改革会議におきましても、データ利活用に係る制度、システムの検討につきまして包括的な検討が行われておりまして、その中でも、個情法は利活用の基盤的な制度の一つと位置づけて、全体の検討の中で扱われているというふうに承知してございます。
個人情報保護法の改正を検討するに当たりましては、これらの様々な要素を踏まえまして行うべきものと考えてございまして、三年ごとの見直しの規定の在り方も含めまして、御指摘を踏まえ検討を進めてまいりたいと思います。
○平井委員 まあ、そうだと思います。
今、ちょうどデジタル行財政改革の話もありましたけれども、結局、ヨーロッパのデータ法が出てきたように、官民データ活用推進基本法も、二〇一六年にできた法律ですけれども、もう一回、野党の皆さんと見直して、改正をしていかないといけないという話につながっていくというふうに思います。
ですから、個人情報保護法の改正と官民データ活用推進基本法の改正、これが両方成って、個人情報保護法の理念に基づく、利活用と保護のバランスを取るということができるんだろうというふうに思いますので、時が来ましたら、是非、野党の皆さんにも一緒に議論に参加していただければというふうに思います。
そして、先ほども申し上げましたけれども、ＡＩの開発を通じては、個人情報を収集、利用するという意図がなくても、学習データに個人情報は含まれてしまうし、期せずして個人情報保護法の適用対象になってしまうと、開発をためらうというようなことがあります。このようなケースは、元の保護の趣旨とは異なるために、法制度の見直し、合理化、実態に合わせた改正が必要ではないかと思います。
また、その際には、制度は合理化するが罰則は強化するといった代償は、ＡＩ開発を萎縮させるおそれがあり、統計作成等の定義が明確でない場合も、これも萎縮につながると思います。
個人情報の利用を最小化する技術、これは今物すごく、プライバシー・エンハンシング・テクノロジーなんかが非常に進んでいますので、そういうものの利活用も考えながら、不安を解消してＡＩ開発を後押しするような見直しをすべきだというふうに考えておりますが、個人情報保護委員会、政府参考人の皆さんに御意見を承りたいと思います。
○佐脇政府参考人 お答えいたします。
ＡＩの学習データと個人情報の関係につきましては、学習データに含まれる個人情報に係る本人につきまして、一般的な事業活動で個人情報データベースを取り扱う場合と同様に、本人に同意といった関与を求めることの適否が論点になっているというふうに思ってございます。
この点に関連しまして、現在進めております三年ごと見直しの中で、制度の基本的な在り方まで立ち戻った議論を進めておりまして、そこで、同意を含めた本人の関与の在り方を検討する場合には、本人の権利利益に直接の影響があるかどうかという切り口も重要じゃないかという御示唆をいただいたところでございます。
こういった御示唆を踏まえた検討を深める中で、今年三月に制度的論点の全体像を発表いたしましたけれども、その中で、特定の個人との対応関係が排斥された統計情報等の作成、これには一部学習データを用いたＡＩの開発が含まれるわけでございますけれども、それのみに利用されることが担保されていることなどを条件に、本人の同意なくとも個人データなどの第三者提供、あるいは、公開されている要配慮個人情報、これは本来は本人の同意を前提で取得するものでございますが、公開されているそういった情報を同意なく取得をすることができるようにしてはどうかといった規律の考え方を整理してお示ししているところでございます。
なお、抑止効果、萎縮効果ということでございましたけれども、個人情報保護法におきましては、一般的にルールの遵守を求めるための措置が設けられておりまして、新しい規定につきましても、少なくとも横並びに、同様に、ルール違反を抑止するような、実効性のある仕組みが導入される必要があるとは思いますけれども、今ほど委員が御指摘がありましたとおり、それによってＡＩ開発推進の効果が損なわれることになるのであれば、改正の趣旨にもとることになろうかと思います。
このようなことにならないように、萎縮効果には様々な原因があると思ってございまして、その解消のために、委員が御指摘がありました、例外が適用される場合の、統計作成などの定義をより明確化するでありますとか、ルールの遵守を担保する仕組みとして、罰則その他だけによるのではなく、ＰＥＴｓといったものの技術をしっかり位置づけるとか、あるいはルールにしっかり見合った、バランスの取れた違反行為抑止策を検討するといったことが重要であろうかと思ってございます。
こうしたことを踏まえまして、今回の規律が、利用者や消費者を含め、様々な幅広い関係者に受け入れられる内容となりますよう、引き続き対話も重ねながら検討してまいりたいと思います。
○平井委員 くれぐれも開発を萎縮させるようなことがないようにお考えいただきたいと思うし、今、ＡＩ戦略というのは非常に重要なときだし、この法律ができたら、まさに日本のＡＩを前に進めていかなきゃいけないときに、その障害になるようなものは一つずつやはり取り除いていく必要があるんだろうと思います。
私は自由民主党の広報本部長なんですが、自由民主党の広報本部では、政府より早く、実はＡＩの開発をしています。これは、株式会社フィクサーさんというベンチャー企業と一緒になって、どうやったら安全に使えるのかと。正直言って、チャットＧＰＴなんかをＡＰＩ連携して使った方が、それはＡＩとしてはレスポンスも速いし、いろいろな、全ての情報を拾えるので、いい面もあるんですけれども、党として、ＡＩを実装する場合には何が必要なのかというのをずっと考えてきました。
そこで、結局、自民党ＡＩというのは、今、広報本部の中に、一応閉じた存在にはなっているんですけれども、恐らくＡＩを使おうとしている企業等々にも参考になるような、いろいろな問題を我々はちゃんと一つずつ解決しています。
ですから、自民党独自のナレッジベースといいますと、過去五年間の自民党のデータは全部学習しているし、クローズドブック型のＲＡＧ、要するに、過去の自民党の正しいデータを参照して生成する。あとは、とはいえ、最新の情報も引っ張ってこなきゃいけないというようなことと、出力にはやはりガードレールが必要で、おかしな出力にならないようにしなきゃいけない。ましてや、自分たちがやるプロンプトとかそういうものは、やはり厳格に管理されなきゃいけない。つまり、使い勝手のところを大分犠牲にしてでも責任あるＡＩを作るということじゃないと、広報本部が作る印刷物とかいろいろなものの中にそういうものが入ることを防ごうとして、そうしました。
当然、これからはデジタル庁が中心となって、今度は、ガバメントクラウドの次のフェーズは、間違いなくガバメントＡＩなんですよね。そこに、今回、我々もこれから提言の中に入れようと思っていますが、デジタル庁は現時点でどのようにお考えでしょうか。
○岸大臣政務官 平井先生には、いつもデジタル社会推進本部等で大変御指導いただき、ありがとうございます。
今、ガバメントＡＩの御質問をいただきました。
まず、我が国においては人口減少という喫緊の課題に直面をしております。今後も行政サービスの質の維持向上を図るためには、政府において、デジタル技術、そしてＡＩの実装、これによる業務の効率化を図ることは極めて重要な課題だと考えております。また、社会全体でＡＩ導入を進めるためには、政府自らが積極的にＡＩを利活用することが何より重要であるものと認識をしております。
このため、デジタル庁では、ＡＩの利活用による画期的なアイデア、サービス等を創出する場として、今現在、アイデアソン・ハッカソン等を実施しております。ＡＩの利活用のユースケースの発掘に努めているところでありまして、特に有効性の高いものについては、やはり安全性を検証した上で、しっかりと各府省等へ横展開を進めていきたい、そのように考えております。
また、御指摘のガバメントＡＩですけれども、政府全体で利活用の可能なＡＩ基盤を指すもの、このように承知をしております。このＡＩ利活用においても、各府省で個別調達によって無駄が発生している、これを削減をする、さらには、このＡＩ利活用を通じたデータ、経験の蓄積、こうしたものをしっかりと集約する、こうした好循環のサイクルというものをつくり出すことがやはり重要だと考えております。
今まさにデジタル庁では、デジタル庁職員によるＡＩ機能のプロトタイプ開発、これに取り組んでおります。また、政府率先としたＡＩの利活用の実現に向けて、もちろん最大限、全省を挙げて取り組んでいきたい、そのように考えております。
また、これには、やはりガバナンスの観点も重要でございます。各府省へ、まず、ＡＩ統括責任者、ＣＡＩＯの設置、またさらには、職員向けの生成ＡＩ利用ルールの策定を求める、生成ＡＩの調達、利活用に係るガイドライン、これも本年五月を目途に策定をし、また、政府における生成ＡＩの推進、ガバナンス体制をしっかりと構築してまいりたいと考えております。
○平井委員 是非、デジタル庁は率先して責任あるＡＩを使えるような環境を整えるべきだと思うし、今も実際、地方自治体もＡＩをほとんど使っているんです。ただ、部分的に使っていて、私から見ると、本格的にＡＩの機能を発揮させているかどうかというところには疑問があります。
ＡＩは、さっき言ったように、ガバナンスとかセキュリティーとかが非常に難しい面もあるので、ここはデジタル庁が自らやはり整理していく必要があるし、恐らく、開発環境、つまりアプリケーションなんかを、今のＡＩを使っちゃうとあっという間にできちゃうんですね。そういう機能をうまく利用すれば、例えば、地方自治体とかいろいろな国の機関が新しいサービスを立ち上げようと思ったときに、恐らく、今までみたいに半年も一年もかかるんじゃなくて、一、二週間で新しいサービスをローンチできるようなことも可能なのではないかなというふうに思います。
もう一つ、データが大事だということは当然そうなんですけれども、デジタル庁というのは、私は、つくった立場で思い返して言うんですけれども、データのオーソリティーとしての機能は設置法の中にきっちり入っているわけです。つまり、全てのデータ戦略の責任ある立場でなきゃいけないんですが、今なかなか、システムだ何だで手が回っていないという現状もあって、そこを強化しないと、これから、ＡＩもそうですし、全ての産業、特に最近皆さんが注目しているロボティクスなんかはデータが一番の競争領域だと思います。
その辺のところについて、どのように御検討されているのでしょうか。
○岸大臣政務官 まさに先生の御指摘、デジタル庁としても使命感を持って取り組んでいきたいと思っております。
また、我が国においては、豊かな生活、産業競争力の強化、ロボティクス等々も含めた、これを実現するためには、ＡＩの活用、またデータの利活用が必須だと考えております。そこには、やはり信頼性のある、そして正確なデータをどう取り扱っていくか、こういった観点、さらに、量、質、こういったものを考える必要があると考えております。
ただ一方で、データの利活用はまだこれまで十分に行われていないという現状を踏まえ、まずはデータの利活用をしっかりと加速をしていく。さらには、個人及び企業の権利利益等の適切な保護、こうした観点も重要でございます。これを両立をさせるような制度設計とするべく、まさに今、デジタル行財政改革会議でこの両面の議論を進めているところであります。
この在り方については、前回、二月に開催された第九回デジタル行財政改革会議において、石破総理から、新たな法制度の必要性を含め検討し、基本的な方針というものを今年の六月めどに策定をするよう御指示をいただいたところでありまして、ＡＩの活用も視野に入れたデータ戦略、これをしっかりと議論を深め、また検討を深めてまいりたい、そのように考えております。
○平井委員 もう時間がなくなってきたので、最後に大臣にお聞きしたいんですけれども。
まず、今回の法律、やはり一番今までと違って、この法律の特徴としては、法律自体がアジャイルに対応できるというところだと思います。そうじゃないと、多分、私がデジタル社会推進本部で経験しているように、余りにも変化が激しいので、そういうものに柔軟に対応できるための法律というのは、恐らくこれからは、テクノロジー関連の法律は同じような形になっていくと思います。ですから、柔軟なアプローチを、ハードロー、ソフトローを組み合わせてやっていくということだと思うんです。
ＡＩに関して、私自身も使わない日がない中で、まず一つ、これは本当に、自分の能力が高まっているのか退化しているのかがやや不安になります。ポジティブに言えば、自分の能力が拡張されたようにいろいろな仕事ができる反面、では、ＡＩを取り上げられちゃったら私はどうなるんだろう、つまり、ＡＩ依存人間が増えてしまうという懸念が一つあります。
そして、今はそういうツールとして使っているんですけれども、恐らく、余りにもＡＩが情報を学習して人間以上の働きをするようになったときに、意思決定の中にＡＩの判断というものが物すごく大きな比重を占める可能性があるんですね。そこが私は怖いと思っているんです。つまり、意思決定に関してはあくまでも人間がコントロールしなきゃいけないんだけれども、日々使って、それが当たり前になってしまうと、ついついそこに意思決定を委ねたかのような結果になるのではないかと思うんです。
これが、私は、これからＡＩを社会実装する上で非常に大きな問題だと思うんですが、アジャイルな対応と、責任あるＡＩの意思決定等について、大臣のお考えをお聞かせください。
○城内国務大臣 お答えします。
平井委員におかれましては、これまで、科学技術政策担当大臣、また初代デジタル大臣としてＡＩ関連の施策を数多くリードしてくださいましたし、また、自民党デジタル社会推進本部長としても本法案の礎となるような考え方をまとめてくださったことに、改めて感謝を申し上げたいと思います。
委員御指摘のとおり、ＡＩの技術がどれだけ発展しようとも、人間の社会がＡＩに支配されるようなことがあってはならない、これは私もこれまでの答弁でも申し上げたとおりでございますが、やはり、人間が自ら判断し、意思決定、コミュニケーションを行うことは極めて重要であるとともに、ＡＩの研究開発及び利活用の大前提である、これはもう紛れもない事実だと思います。
平井委員が科学技術政策担当大臣でおられたときに取りまとめていただきました人間中心のＡＩ社会原則におきましても、目指すべきはＡＩレディーな社会、これは人間中心であることを強く掲げられました。人間の尊厳が尊重される社会とする必要があることが、しっかりと示されているわけでございます。
今後策定するＡＩ基本計画におきましても、こうした考え方をしっかりと、そしてまた、国際的な規範には、やはり人間中心の考え方も示されておりますので、しっかりとこうした考え方を踏まえて、いずれにしても、人間にしかできないこと、人間がすべきことを十分に考えた上で、今後ともＡＩ政策をしっかりと進めてまいる考えであります。
○平井委員 ありがとうございました。これで終わります。
○大岡委員長 次に、梅谷守君。
○梅谷委員 立憲民主党の梅谷守です。
この間の質疑を踏まえ、また、私自身が今持っている問題意識、これについての質問をさせていただきたいと思います。
まずは、この目的や基本理念、基本計画、そして指針、ここの中における、今何度も御答弁されていた人間中心のＡＩの原則、これの位置づけについてお尋ねをしたいと思います。
それに当たってまず確認をさせていただきたいのが、基本計画と指針について、私はこう理解しています。
基本計画というのは、政府に向けられたもの、そして、今後政府が施策を講ずるに当たっての方向性を示す、すなわち我が国政府としてのＡＩ政策の全体図、これと同時に具体策を示すものだというふうに私は理解しています。
そして一方で、指針ですけれども、これは、事業者やまた研究開発者、そして一般のＡＩ利活用をされる方々に向けられていて、いわば、そこに向けての行動規範だったり、また倫理基準、ないしは配慮すべき考え方、要素、こういったものを示すものだというふうに理解していますが、この理解でよろしいですよね。
○城内国務大臣 梅谷委員の御理解のとおりでありまして、基本計画はまさに政府が推進すべき事項を定めるものでありまして、これが十八条。そしてまた、本案第十三条に基づく指針、これは、事業者を始めとする全てのＡＩ関係者が遵守すべき事項を定めるものであります。
○梅谷委員 理解は間違っていないということで。
そして、二〇一九年に示された、先ほど来の人間中心のＡＩ原則、これは広島ＡＩプロセスでもつながっているものですけれども、この原則が、今も御答弁で、基本計画に盛り込んでいきたい、しっかり踏まえて考えていきたいという御答弁でしたけれども、基本計画と指針にこの人間中心のＡＩ原則が盛り込まれる方向で検討中だということで間違いないのか改めて確認させていただきたいのと、それぞれに盛り込まれる人間中心のＡＩという原則の考え方は、実質的に、本質的に違いがないものなのか、この点、いかがでしょうか。
○城内国務大臣 お答えします。
梅谷委員御理解のとおり、人間中心のＡＩ原則の重要性に鑑みまして、この考え方をＡＩ基本計画及び指針にしっかりと盛り込む予定となっております。また、両者に記載する内容は、詳細な書きぶりや分量に違いが恐らく出てくると思うんですが、同様の考え方を両者にしっかり盛り込むことを想定しております。
○梅谷委員 ありがとうございます。
何度もこの点、質疑、委員から指摘がありました。やはり、私も特にそう思うんですが、この考え方、大原則、人間中心のＡＩという大原則、又は先日馬淵委員が指摘をされた憲法的価値ないしは立憲主義的価値、こういったものをやはり目的や基本理念に盛り込まなければ、盛り込まないことは、我が国のＡＩ政策の枠組みとなる理念に示さないことは問題なのではないかというふうに思っています。
そこでお尋ねしますが、そもそも基本計画と指針に同じ内容のものを、表現は若干違えど盛り込むのであれば、そもそもこの理念に法文として法体系に組み込む、法律に書く、これをするべきなんじゃないでしょうか。御見解をお願いします。
○城内国務大臣 ＡＩの研究開発や活用を進める上で人間中心のＡＩ原則の考え方を尊重することは、これは当然非常に重要なことであり、まさに一丁目一番地じゃないかというふうに思います。このため、今後ＡＩ戦略本部が策定する、先ほど申しましたＡＩ基本計画には、その冒頭に、人間中心のＡＩ原則の考え方を記載することを検討しております。
基本計画は、ＡＩの研究開発及び活用の推進に関する施策について基本的な方針等を定めるものであることから、この計画の冒頭に記載されることで、法案に直接書き込まずとも、人間中心のＡＩ原則に基づき各施策が行われることを担保できるものと考えております。
やはり、法案第三条五の基本理念においては、国際的協調の下に推進する旨の記載もありまして、その国際的協調は何かというと、広島ＡＩプロセスの国際指針、これが重要であるということでありますので、その中には人間中心のＡＩ原則が含まれておりますので、当然に、本法案に記載されていなくても、そこに既に含意、意味が含まれているというふうに考えております。
○梅谷委員 それが一丁目一番地である、当然に前提になるという話ですが、それは政府が前提としますと言っているだけにすぎず、法体系として、法律上当然の前提になっていません。だから私は、やはり人間中心のＡＩ、法律上位置づけられた価値になっていないものは、ここでしっかりと国会で確認をして、そして法律上位置づけるべきだと本当に強く思います。
最適の形という答弁もよくされておったんですが、これについても、やはり人間中心のＡＩというのは大原則であり、大きな枠組み、そして、今回の法案は我が国初のＡＩ立法、すなわち、これがベースになってこれから進んでいく大事な枠組みなんですね。この枠組みに対して大きな枠組みを載せずして何で一丁目一番地になるのかと、私は強い疑問を抱かずにはいられません。
改めてなんですが、本法案が枠組みを示すものだからこそ、大枠となる大原則は法律に書く、その枠内で基本計画や指針を作るというたてつけであるべきだと思います。また、幾らＡＩが日進月歩であったとしても、もしその大原則を変更する、動かす必要があるのであれば、やはりそこは民意を踏まえるべきであって、行政や本部だけで決めるようなものじゃないと思いますが、御見解、お願いします。
○城内国務大臣 今御答弁したとおり、人間中心のＡＩということは、これは一丁目一番地であり、基本中の基本でございまして、基本計画のまず冒頭にしっかりうたうことは先ほど述べたとおりでございますし、また、ＡＩ基本計画はＡＩ戦略本部の下で作成されることになりますので、具体的な記載方法は、この策定作業の中で、どういう書きぶりにするかも含めて、梅谷委員の御指摘なども踏まえてしっかり検討していきたいというふうに思っております。
○梅谷委員 ここは、もう時間もないので次に移らせていただきますが、しっかり検討していただく、そして、今後の不断の見直しの中には恐らく法改正というのも否定はしないでしょうから、それも含めてやはりきちっと一丁目一番地らしく表現するべきだということを重ねて強く申し上げ、次に移りたいと思います。
次は、人工知能の戦略本部の司令塔機能について伺います。
これも、まず端的に確認させていただきたいんですが、このたてつけ、内閣総理大臣がトップで、その下に担当大臣が新たに据えられ、そして全部の大臣が参加をされ、そしてそこの傍らに有識者会議、これが意見具申したり、諮問したりするんでしょうかね、そして省庁に横串を刺す、こういうたてつけだという理解でいいのかどうか。そして、この中身については、いわば各省庁の、具体的な施策、政策の立案とか執行については各省庁が行っていくたてつけだという理解なんですけれども、これで間違いないか、イエスかノーでお答えください。
横串を刺し、そして、あとは各省庁で政策の立案、実行、執行を行うという、そのたてつけでいいか、イエスかノーかで。
○城内国務大臣 基本的にそういうことだと思います。
ＡＩ戦略本部は、これは司令塔でございまして、設置後におきましては、各省庁が、それぞれの所掌事務に基づいて実施される個別の政策の立案業務等、これは引き続き各省庁が実施する。あくまでもＡＩ戦略本部というのは全体の司令塔ということになっております。
○梅谷委員 私、ここで一つ懸念するのは、ＡＩが、まさに技術進展が極めて速い、スピーディーだ、日進月歩どころじゃないかもしれないという、それぐらいのスピード感を持ってＡＩ対応は、政策は当たる必要がある、そう考えたときに、このたてつけというのは、いわばこれまでの従来の我が国の科学技術推進の体制とほとんど変わらないんですね。いわば事務局的には司令塔本部を担いますけれども、あとは各省庁やってくださいと。これはやはり、私はもっと改善するべきだというふうに考えているんです。
つまり、例えば今、経産省や総務省が、ＡＩ事業者のガイドラインなどを昨年の十一月二十二日に公表されました。また、文化庁では著作権法の所管。様々な政策、事象なるものを一手にＡＩ本部として引き受けて、そしてそれらに対しての、きちんと政策立案の方向性を示したり、また執行に対しても行っていく。すなわち、内容やスケジュール感についてまでもきちんと具体的に進めていく、その体制づくりが非常に重要になってくる、私はこう確信をしております。
この点、今のままでなく、やはりもっともっと事務局的なものから脱皮をして、そして実質的な機動力、迅速性を持った、一元化した本部体制の構築、司令塔機能の強化、これを是非やるべきだと思いますが、この点、いかがでしょうか。
○城内国務大臣 お答えします。
各省庁で実施する施策の内容、スケジュールについては、やはりそれぞれの省庁において個別に決定することがまずは基本だと思っておりますが、重要なＡＩ政策につきましては、司令塔機能を持っておるＡＩ戦略本部が、内閣府において、関係省庁がそれぞれ企画立案する政策を全体として一元的にしっかり把握した上で、関係省庁間の適切な連携を確保してまいる考えであります。
一方、個別政策の執行に関しては、ＡＩが活用される分野は非常に多岐にわたりますし、いろいろな細かいこともございますので、やはり、各分野の現場を知っている各省庁が適切に判断し、執行することがより適切であるというふうに考えております。
○梅谷委員 いずれにしても、司令塔機能は強化するべきだという方向性は一緒だと思います、認識は。
そうなってくると、やはり人材登用が大事になります。この点も、これまでの審議でさんざん指摘をされました。ここで、やはりＡＩの迅速な、強力な推進のためには省庁縦割りを排して一元化するべきだ、より強化するべきだというのは私の主張ですけれども、この中で、ＡＩについての知見の深い高度人材、こういった方々は、やはりそれなりの給与がなければ難しいと思います。そうなってくると、公務員の給与体系に収まらない。
なので、お尋ねしますが、報酬体系を含めた特別な制度設計を、新たな高度人材獲得に向け、登用に向けて行う覚悟があるのか、具体像についてお答えください。
○城内国務大臣 お答えします。
御指摘のとおり、外部の専門人材の活用、これまた重要でありますし、引き続き人材確保を図っていきたいと思いますが、まずは、関係省庁との間で、内閣府へ出向していただける方、あるいは、それぞれの各省庁にとどまりながら、併任をかけて、何か具体的な問題が起こったときには集まっていただくとか、そして情報を共有し、しっかり相談する、そして対処すべきことは速やかに検討するというような体制を構築することが重要だと思います。
いずれにいたしましても、ＡＩの技術の進展は大変速く、かつ幅広い分野と関係するために、関係省庁からの今申しました出向者、併任者、さらには、御指摘のとおり、外部のＡＩ技術、法制度、倫理、ガバナンスなどの専門家が必要となると思いますので、そうした外部人材もしっかり活用していく考えであります。
○梅谷委員 これまでの我が国の科学技術の進展が大分大きく後れを取ったわけですから、この反省をしっかりと踏まえて、ＡＩに関しては絶対に負けない、そういう気迫でいけば、やはり人材が何より不可欠ですので、この点、給与体系、報酬体系も含めて、是非御検討いただきたいと思います。
次の質問なんですが、ＡＩの限界についてお伺いしたいと思います。
ＡＩは、いわば思考がない、今主流となっている生成ＡＩですけれども、これはいわば人間のような思考がなく、あくまでも統計的そして確率論的なもののデータの蓄積の下、人間らしく表現をする、そういうことなんですが、こうなってくると、ある意味、およそ人間では起こし得ない、不可避な事故が起きる、これは多くの研究者が共有する課題です。
例えば、ＡＩによる自動運転で見たときに、百のヒューマンエラーを防げるとしても、人間では考えられない、絶対起こさないような、そういう事故を、一人二人、引き起こしかねない。
私は何を言いたいかといいますと、これは確かに、データを蓄積していろいろと改善、改善を図っていけば、その確率は低くなります。それでも、なくならないんです。失敗を失敗として認識せず、あくまでも確率の多いところで吐き出すわけですから。
そうなってくると、不可避な事故、不可避な犠牲といいますか、この点が必ず残る以上、今後、製造者責任が、整理をしっかり考えていかなければ、ある意味、この技術推進法、いろいろな投資なり参入を促す、そのための法案が、推進力を欠くのではないかという疑問点があります。この点、いかがでしょうか。
○城内国務大臣 梅谷委員御指摘のとおり、ＡＩが誤った出力をし、そして誤った判断をさせられることなどによって何らかの被害が生じる可能性がある、そして、そのようなリスクに対応することは、御指摘のとおり大変重要であります。
他方、ＡＩは多様な分野で活用されるため、特定の対応をすることで全ての分野のリスクを一律にカバーするということは難しいと考えております。このため、個々の分野、個々のケースに応じまして、適切な既存法、ガイドライン、事故の前例、判例などに沿って、リスクへの対応をきめ細かく検討することが必要となると思います。
今後、現在では想定し得ない事故が発生する可能性もありますので、指針をしっかり整備すること等により、不適切な事案が少しでも減るように努めてまいる考えであります。
○梅谷委員 一律じゃなく個別対応していきたい、指針などでしっかり対応していきたいと言いますが、現行法上、ＡＩに関する事故が生じたときの責任の在り方は明確じゃないんです。
なので、例えば、さんざん先ほど申し上げた、データ学習の改善などでどんなに誤作動を減らす努力をしても、残ってしまう。そうなると、製造物責任上の欠陥と認定されるんだったら、ＡＩを組み込んだ製品に消極的になる企業も出るでしょうね、出かねない。大きな事故が起きれば、国民世論の反発、社会からの拒絶反応など、ＡＩの利活用に大きなブレーキになりかねない。そして、その責任をどう整理するのかということ、ここが非常に大事な話であって、私はやはり、ＡＩとして旗振りをしている我が国が、国が、きちんとこの責任に対しても一定の方向づけをするべきだというふうに思っております。
そこで、もう一度お尋ねしますが、責任の所在と救済、補償について、ＡＩ特有の制度を早急に法律上設ける必要があると考えますが、政府の見解を求めます。
○城内国務大臣 お答えします。
委員御指摘のとおり、ＡＩの利活用によりまして生じる損害、これに対する責任の考え方を明確化することは、ＡＩの利活用や投資を促進していく上で非常に重要だということであります。
こうした観点から、やはり個別の分野について、例えば自動運転車が事故等を起こした場合の責任制度や社会的ルールの在り方等について、産学官の関係者によって検討を行い、今後検討を深めるべき事項等が整理されるものと承知しております。
今後、ＡＩ戦略本部の下に司令塔機能が加わるわけですが、その下で、例えば、今申しました自動運転車以外の分野についても、ＡＩの利活用によって生じる損害に対する責任の考え方を明確化させるべく、関係省庁と緊密に連携しながら検討を深めてまいる考えであります。
○梅谷委員 ここは非常に重要な課題だと思いますので、検討を深めていただきたいと思います。
そして、次、インシデント情報の申告と責任免除の仕組みについてお伺いします。
インシデント情報をいかに積極的に提出をしていただくか、その情報の蓄積が今後のＡＩ技術の改善につながっていくわけで、ここがある意味、非常に重要なコアとなる部分だ、コアの一つだと私は思っています。
そうした中で考えていくと、たとえ悪意なく起こしたインシデントであっても、正直に申告した事業者や研究機関が法的、社会的責任を仮に問われるとするんだったら、正直者がばかを見る制度となり、大事な大事な重要な情報が集まらない。
私は、ここをやはりしっかりと見据えて検討すべきだというふうに思っているんです。ある意味、インセンティブを設けるべきではないか。すなわち、自主的に政府に情報提供した場合に研究機関や事業者の責任を減免する仕組みや、誠実な対応を評価する仕組み、評価する制度的インセンティブを設けるべきではないかと思いますが、いかがでしょうか。
○城内国務大臣 御指摘のとおり、適正なＡＩの研究開発及び活用を推進していくに当たりまして、事業者から当然十分な情報を収集した上で政策を実施すること、これは極めて重要でありまして、そのためにも、情報提供の仕組みの実効性をしっかり確保するべく、可能な限り、事業者の情報提供に対する萎縮、これを防止する必要があると考えております。例えば、事業者が企業秘密の提出を強いられないよう、情報提供前に相談に応じるなどの配慮を行うことが想定されます。
また、事業者から積極的に調査に御協力をいただけるような、御指摘のように動機づけの工夫も重要であります。例えば、充実した情報提供を行っている事業者の取組を高く評価したり、優良な事例として紹介したり、そういった形で同様の取組を他の事業者にも奨励することなど、議員の御指摘も踏まえて、しっかりと具体的に検討してまいりたいと思います。
○梅谷委員 私は、そういうことじゃなくて、情報提供が肝だからこそ、法的な責任、社会的責任を問われない、そういう正直なインシデントの申告を促すことが必要だというふうに言っているんですよ。
だから、その点での検討を是非するべきだ、していただきたいなと思います。強制的な措置を設けない法案だからこそ、自主的な情報提供を促す仕組みが本当に重要になると思います。情報はリスク管理の大前提ですから、是非御決断をいただくようお願いします。
最後に一分だけ。国民の責務について。
これは、項目、見出しが「国民の責務」となりながら、本文ではそういう内容になっていない。また、この間の御答弁によれば、それは実質、努力なんですよというふうにおっしゃる。だとすれば、見出しをきちんと国民の努力に変える必要がある、変えるべきだと思います。でなければ、国民に無用の誤解を招きかねない、生じかねない。
私はこの点を是非修正するべきだというふうに考えますが、お答えいただけますでしょうか。御決断を。
○城内国務大臣 この点につきましては、先日のこの委員会でも御答弁させていただいたとおりでありまして、本法案第八条の内容は、国民の皆様が、ＡＩの適正な活用を推進し、便益を享受するには、ＡＩに対する正しい理解と関心を深めていただくことが不可欠という認識の下で規定しているものであります。
そしてまた、本法案では、第四条の国、あるいは第五条に地方公共団体がございますが、ＡＩの活用を推進する施策を実施することとされておりますが、この国や地方公共団体ですが、その施策が経済社会の便益につながる十分な効果を得るためには、国民の皆様の理解と協力が不可欠なものとなります。こうした観点から、果たさなければならない務めを意味する責務という文言を第八条の見出しに用いたものであります。
○梅谷委員 時間が来たのでもう終わりにしますが、最後に。
私は違うと思いますよ、本当に。ＡＩがこれから社会にどんどん組み込まれる中で、国民がＡＩを使いこなす力をつけていただくことは確かに必要です、おっしゃるとおり。しかし、それは義務とか責務とは違いますよ。まして、国や自治体の施策に協力する義務というのは、その射程によっては、国民に予測もしない負担を生じたり、ＡＩ政策への国民の不信、不安の要因ともなりかねない、このことを強く指摘をし、再考を求め、終わりにしたいと思います。
ありがとうございました。
○大岡委員長 次に、塩川鉄也君。
○塩川委員 日本共産党の塩川鉄也です。
ＡＩ推進法案について、ＡＩの軍事利用についてお尋ねをいたします。
法案は、基本理念に、ＡＩ技術は安全保障の観点からも重要な技術と明記をしております。そこで質問しますが、法案が研究開発、活用を推進するＡＩには、殺傷兵器に使われるＡＩも含まれるのか、お答えください。
○渡邊政府参考人 お答え申し上げます。
本法案では、我が国として、ＡＩの研究開発力の保持、国際競争力を向上させることが重要である旨を規定しております。その理由の一つとして、ＡＩが安全保障の観点からも重要な技術であるということを掲げているところであります。このため、御指摘の殺傷兵器に使われるＡＩの研究開発、活用につきましては、この法案においては想定をしていないということでございます。
○塩川委員 想定をしていないということですけれども、一方で、防衛省及び米国防省による合意というのがありまして、これは、二〇二三年の十二月に、次期戦闘機と連動する無人機の行動判断に適用されるＡＩ技術を共同研究することで合意をしております。無人航空機へ適用するＡＩ技術に係る日米共同研究に関する事業取決めの署名ということが行われております。
また、二四年の四月には、米英豪の安全保障の枠組みであるＡＵＫＵＳが、ＡＩを含む先端技術分野での協力に日本の参加を検討すると発表しております。さらに、二五年三月三日付の日経新聞によると、ＡＵＫＵＳが二四年末までに防衛省に対し、次期戦闘機と連動する無人機に搭載するＡＩの共同研究を軸にした連携を打診したと報じられております。
実際にＡＩ技術を、このような戦闘機に連動した無人機に活用する、そういうＡＩ技術というのはまさに殺傷兵器に係るＡＩ技術であって、想定していないということが実態とすれば、防衛省と米国防省の間でそういった研究開発が行われているということは極めて重大であります。
三菱重工が公開をした無人機のコンセプトの一つには戦闘型の戦闘支援無人機もあり、兵器を内装化をしたり、レーダーを搭載したりと、運用に合わせて様々な使い方ができるよう設計され、陸上から離陸をし、相手を攻撃して帰還するコンセプトとなっています。
防衛省に聞きます。戦闘機と連動する無人機は、まさに殺傷兵器そのものではありませんか。
○家護谷政府参考人 防衛省からお答えいたします。
諸外国において戦闘機と連携して行動する無人機の研究開発が進められている中、防衛省及び米国防省は、二〇二三年十二月、無人航空機へ適用するＡＩ技術に係る日米共同研究に関する事業取決めに署名し、パイロット等の指揮の下、自律的に行動するためのＡＩ技術について日米共同研究を実施しているところでございます。
次期戦闘機と連携する無人機の本体については、今後、現防衛力整備計画期間中に研究開発に着手することとしていますが、現時点で具体的な性能等が決まっているものではありません。
いずれにしましても、我が国としては、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を明確にしてきており、また、当然のことながら、国際法や国内法により使用が認められていない装備の開発を行うことはありません。
○塩川委員 完全自律の話をしましたけれども、米空軍が行っている開発においては、半自律、半分自律ですよね、そういった形での、有人戦闘機を補佐する、そういった無人戦闘機の開発を計画をしているということであります。
そうしますと、防衛省と米国防省が進めているような無人戦闘機、戦闘無人機についてのＡＩ技術の共同研究というのは、今回の法案の対象外、そういう趣旨ということになるわけですか。
○渡邊政府参考人 お答え申し上げます。
ＡＩ技術はデュアルユースでございますので、その技術が経済社会のためになりますし、安全保障のためにもなるという両方の可能性があるわけでございますけれども、専ら、武器といいますか、兵器に使われるようなＡＩ、それを専門とするようなＡＩにつきましては、この法案では対象としておりません。
○塩川委員 でも、実際にはそういう開発が行われているわけですし、国際競争力の観点で、軍事力、そういった中での兵器生産についても、これを支援を行うという大きな枠組みはあるわけで、安保三文書にもそういう方向が示されているところであります。
このような殺傷兵器そのものの兵器開発にＡＩ技術の研究開発、活用を進めていくというのは極めて重大で、憲法九条を持つ日本として断じて認めることはできません。
大臣にお尋ねしますけれども、このような殺傷兵器にＡＩ技術を使用する、こういうことは禁止をすべきではありませんか。
○城内国務大臣 現在のＡＩの軍事利用につきましては、国際的な議論が別途なされているところでありますが、先ほど防衛装備庁からも答弁がありましたとおり、我が国としては、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を明確にしておると承知しております。
引き続き、国際的な議論の場において、責任あるＡＩの軍事利用について、人道と安全保障の視点を勘案したバランスの取れた議論がなされることを期待しております。
○塩川委員 半自律も含めてＡＩの軍事利用は禁止をすべきだということをはっきりとさせることを求めて、質問を終わります。
○大岡委員長 次に、伊東信久君。
○伊東（信）委員 日本維新の会の伊東信久でございます。
今回の法案に対して城内大臣に御質問させていただくんですけれども、今回の法案、欧米諸国にＡＩ技術においてキャッチアップしていく、そして、逆に日本がＡＩの大国になるべくこの法案ができたということは承知しておりまして、午前中、平井議員がおっしゃっていたように、おおむね、これに対して後押しをするというのは与野党共通したことだとは思うんです。
先ほど立憲の梅谷議員からも御質問あったんですけれども、じゃ、ＡＩに関して、これからというよりも、もう既に実用化されておりまして、もう今既にある課題について御質問させていただきたいんですけれども。
まずは、自動運転若しくは生成ＡＩによる偽情報など、ＡＩによる事故、自動運転による事故若しくはＡＩによる名誉毀損、損害などが発生した場合、これは責任の所在はどこにあるかということをまず聞きたいわけですね。
例えば、自動運転による事故というのは、予測されていたか否かで免責になったり責任を負ったりするということは今の法律で決まっておるわけなんですけれども、これは、作った者、つまり作成した企業なのか、使った者、所有する企業なのか、こういったところの責任の所在も含めて、ＡＩが事故を起こした場合、交通事故の事例でも構いませんので、どのような現行のルールになっているか、若しくはどのような予定であるかを大臣にお尋ねします。
○城内国務大臣 お答えします。
ＡＩが事故を起こした場合の責任の所在につきましては、例えば、ＡＩが活用されている自動運転車が事故等起こした場合につきましては、責任制度や社会的ルールの在り方等の検討が進められております。
今後、あらゆる分野におきましてＡＩが活用されることが想定されますので、ＡＩの活用方法は分野によって大きく異なっております。したがいまして、事故が発生した場合の対応につきましては、それぞれの分野において、各種のガイドライン等も勘案しつつ、産学官の関係者において検討していく必要があるというふうに考えております。
内閣府といたしましては、今後、ＡＩ法案に基づきまして設置するＡＩ戦略本部の下、関係省庁と緊密に連携しながら、ＡＩが事故を起こした場合の責任の考え方について、伊東委員の御指摘もしっかり踏まえて検討していく考えであります。
○伊東（信）委員 大臣から分野においてということをおっしゃっていただきまして、非常によく分かります。ただ、分野においても、やはり進んでいるところ進んでいないところ、濃淡があると思いますので。
私は外科医でありますので、ちょっとそれに関連して資料を出しているんですけれども、私は、消化器外科は専門じゃありません。椎間板ヘルニアのレーザー治療というのをやっていまして、レーザー機器自体にももうＡＩがあって、ある程度の出力が来るとストップがかかるようになっております。
診断学において、今ＡＩというのは非常に発達しておりまして、例えば内視鏡の、胃カメラとか直腸鏡とかのカメラにおきまして見ていくわけですよね。体の中というのは真っ暗ですから、明かりが要るわけですね。明かりをつけて人間の目で見ていくと、それが反射して、今度は診断がしにくいということもあったりもします。それを、ＡＩがいろいろデータを蓄積していって、腫瘍の箇所に円で表示してくれる、そういったやつがもう使われております。
もっと発達していくと、アミノレブリン酸、ＡＬＡというんですけれども、ＡＬＡというのを飲んでもらったら、そこにレーザー光線を当てたらぴかぴかぴかっと光るんですね。その光り具合をまた蓄積していってがんの診断をしていくというのももうやっています。
若しくは、ＡＩのチャットボットを使って、患者さんのある程度の質問に関してそれが答えてくれるということも、蓄積して、既にされているんですね。
ところが、それがもし誤診であった場合、この責任の所在は医者にあるのか、それともそれを作った者にあるのかというのを聞いてくれと昨日医者仲間に言われまして、これはどうなるんでしょうね。
逆に、今、患者さんにおいては、不要な検査に関してかなりセンシティブになっておりまして、例えば、それを見逃して健康被害に遭ったというならともかく、それを実際に調べてみると健康だったというか、何もなかったというときも、不要な検査をしたといって怒ってくる場合もあるわけなんですね。こういった所在は医療においてどこにあるか、教えていただければ幸いです。
○城内国務大臣 大変難しい質問だと思いますが。
まず、医療現場で発生する諸事案への対応につきましては、実はこれは私の担務ではありませんが、一般論で申しますと、医療の現場においては、まず医師が患者さんに対しまして事前にリスクを説明し、ある程度両者が合意した上で治療を行うことが基本であると認識しておりますが、ＡＩにおいても恐らく同様でありまして、ＡＩの提供者が利用者に対してリスクについてしっかりと説明をし、利用者側もＡＩのリスクを十分理解した上で、当事者間の責任の下で活用されるべきものと考えております。
それでもなお不意の事故が発生した場合には、やはりケース・バイ・ケースでその事案ごとに、前例やガイドライン等を勘案し、判断していくということになるのではないかと思います。
○伊東（信）委員 ありがとうございます。
ただ、やはり、かなりこれは進んでいるし、既にもう開発もしてあるんですね。今、大阪・関西万博をやっていますけれども、自動的にいろいろ調べたりするような、そういった展示もされているんですけれども、もしかしたら、医者がいなくても診断できるような、ＡＩが診断できるような、そんなシステムを開発されるかもしれません。
そういったところも、厚労省としてはもう既に予測されているんですね。ですので、もう平成三十年にそういったガイドラインができているとお聞きしているんですけれども、厚労省からそれを説明していただいていいですか。
○森政府参考人 ＡＩを用いた診断等に関する関係ですけれども、先ほど御指摘のとおり、平成三十年十二月の厚労省からの通知で、ＡＩを用いて患者に対する診断や治療を行う場合についても、診断、治療等を行う主体は医師であり、医師がその最終的な判断の責任を負うこととなり、当該医療は医師法に基づく医業として行われるものである旨の通知をしているところでございます。
実際に、先ほどおっしゃられた、点線で丸が出てくるようなケースについても、それを実際に医師が確認して、本当にがんの病変であるかどうかも含めて判断していただくことになるのが今の時点での基本的な医師の責任という形になっておりますので、こうした形の通知を発出しているところでございます。
○伊東（信）委員 ありがとうございます。
これは本当に、ベースとして医師法十七条というのがありまして、あくまでも、今日というか今までの議論の中にもありましたけれども、やはり人間が中心であると。
そして、人間が使うデバイスとしての、道具としてのＡＩというところを改めて認識しなければいけないんですけれども、ただ、やはり今後のＡＩの発達によって、本当に、今日も興味深くほかの議員の皆さんの質問を聞いていたんですけれども、ＡＩというのはやはり蓄積である、インプットとアウトプットによって、確率論によってというのはなかなか興味深いですけれども。アンドロイドを作っている阪大の石黒教授が、あの方はアンドロイドを作っているのでそうおっしゃるのかもしれないですけれども、いや、もうそれが人間を超える時代は来るよ、伊東さんと言われたことがあって、何となく、人間が作るＡＩであるけれども、それが、まさしくＳＦの世界になっちゃいますけれども、そういった時代も見据えてこういった法案であり、責任の所在はしっかりと考えていかなければならないかなと思っております。
ただ、そうなると、これを使う、やはり人間の知力であり、人材育成というのは非常に大事でありまして、私が国家試験を受けたのが平成七年になるんですけれども、そのときというのは、ほぼレントゲンを見て診断しましょうという話で、こういったＭＲＩとか３ＤのＣＴなんかは国家試験の中になかったんですよね、三次元ＣＴとか。だから、今は本当にいい時代になっているなと思うんですけれども、このＡＩの発達によって日本の医療の全体的なレベルも上がる可能性もあります。
つまりは、ベテランの、熟練の医師でなくても診断ができる、若しくは遠隔診療にそれを利用するなり、かなりの発展があるとは思うんですけれども、そうなると、これも再生医療の法案の際に山中伸弥教授がおっしゃっていたんですけれども、こういった医療の一つ一つの技術的なことをやることと、それをマネジメントして社会に生かすことを産官学でやったりとか、基礎と臨床とか、そういったところに死の谷があったりダーウィンの海があったり、いろいろ壁があるんですよね、壁があったり。だけれども、それを越えていこうと思ったら、医療とはまた違う分野になっていくわけです。研究は文科省、臨床は厚労省、産業になると経産省、そういう省庁の壁も破っていかなければいけないと。
そういったところを後押ししていこうと思ったら、そういえば、山中教授がおっしゃっていたんですけれども、その違いはラグビーとアメリカンフットボールみたいに違いがある、似ているけれども、違うと。ちょっと例えが分かりにくくて、この話はおいておきまして。
こうした生成ＡＩの応用は、早期診断の促進、医療従事者の負担軽減、地域医療の向上にもつながるんですけれども、こういった医療分野における生成ＡＩの実証、実用化に向けて、医療分野でも構わないんですけれども、研究支援、データ整備、規制の適正化、人材育成など、こういった施策に関して今議論をされておられるか、城内大臣にお聞きします。
○城内国務大臣 お答えします。
例えば医療画像についていえば、ＭＲＩで撮影した過去の脳画像をＡＩに学習させて、将来の脳画像を予測し自動生成するＡＩが開発されるなど、民間企業でそういった研究開発の取組が進んでいる、実際にそれが応用されて使われているというふうに伺っておりますが、いずれにしましても、例えば医療分野におけますと、我が国は良質なデータを大量に持っておりますので、今後この分野で世界をリードしていけるんじゃないかなと思います。
実は、内閣府としても、戦略的イノベーション創造プログラム、ＳＩＰというのがございまして、このプログラムで患者の健康状態をデジタル空間で再現することのできる医療デジタルツインの構築に向けて、今開発に取り組んでいるところでございます。
いずれにしましても、内閣府が司令塔機能を持って、委員御指摘のとおり、縦割りではなくて、各省庁と協力しながら、医療分野はもちろんのこと、様々な分野におきましてＡＩの活用を推進し、それによって国民生活の向上あるいは経済社会の発展を目指していく考えであります。
○伊東（信）委員 大臣がそういった壁をぶち破るリーダーシップを取っていただくことを期待いたしまして、私の質問を終わらせていただきます。
ありがとうございます。
○大岡委員長 次に、田中健君。
○田中（健）委員 国民民主党、田中健です。
城内大臣、よろしくお願いします。
一昨日の参考人質疑の際に、多くの参考人から、とにかくＡＩを使う、活用するというお話が多々ありました。一方、総務省の令和六年度の情報通信白書によれば、我が国による生成ＡＩの利用率は九・一％ということでありまして、米国の四六・三、中国は五六・三、さらに、規制が強いと言われる欧州においても、英国三九・八、ドイツ三四・六と比較しても、顕著にまだまだ日本の利用率は低いということです。
今後、日本社会が高齢化や労働者不足、また生産性の向上という課題を抱え、これに取り組んでいくためには、ＡＩの利用に伴うリスクは対応しつつも、ＡＩの前向きな活用をしっかりと後押ししていくことが重要と考えています。
その中で、今後、ＡＩの基本計画や指針の策定やその他の政策を含めて、今回のＡＩ法に基づくＡＩ政策の施行に当たっては、リスクの最小化は当然のことですが、ＡＩの便益や機会の実現及び日本社会におけるＡＩの導入促進にも焦点を当てることが大切かと考えていますので、大臣にお聞きしたいと思います。
そして、あわせて、この導入を促進していくためには、政府自らがその姿勢を示していくことが重要かと思っています。先ほど平井委員からもその指摘がありました。政府自身が、政府の基盤インフラにしても、例えばＡＩの導入率やクラウドの移行率など、特定の目標を設定して、そしてその推進を図るということも重要ではないかと思いますが、併せて城内大臣の考えを伺います。
○城内国務大臣 お答えします。
田中委員御指摘のとおりだと思いますが、社会全体におけるＡＩ導入の促進に当たりましては、まずは政府が模範を示し、積極的にＡＩの導入を図っていくことが重要であり、まさに御指摘のとおりだと思います。
その政府におけるＡＩの導入につきましては、ＡＩのユースケースの発掘が現在進められております。例えば、具体的な例を挙げますと、デジタル庁におきましては、職員の皆さんから持ち込まれた様々な課題に対するＡＩ活用のアイデアとエンジニアの技術力を融合させることによりまして、試行的にプロトタイプや試作品を開発するアイデアソン・ハッカソンの取組が現在行われております。ＡＩに必要な情報を読み込ませることによりまして、調達仕様書の作成効率化や既存の関係法令の自動抽出などを実現するための機能を備えたプロトタイプや試作品が開発されてきているところであります。
今後、実用化できそうなものからデジタル庁で順次実装するとともに、有効性の高いものについては、安全性をしっかり検証した上で、各省庁に水平展開する予定とも聞いております。こうした政府におけるＡＩ導入の取組を、引き続き関係府省庁が連携してしっかりと進めてまいります。
あわせて、本法案が成立した暁には、ＡＩ基本計画の策定などを通じましてＡＩ政策に取り組んでいくこととしており、その際、田中理事の御指摘のとおり、日本社会におけるＡＩ導入状況の目標設定、これについても必要に応じて適切に検討していく考えであります。
○田中（健）委員 是非、国民に分かりやすい形で目標設定、また、その姿を見せていただければと思っています。
その中で、規制の在り方でありますが、昨年九月に、欧州の中央銀行の、イタリアの前首相のマリオ・ドラギ氏が、ＥＵの産業競争力強化に向けたドラギ・レポートを公表しました。その中で、懸念事項の一つとして、欧州企業への過剰な規制やその手続や、負担の重さが挙げられておりました。
そんな中、四月九日、欧州委員会は、ＡＩの包括規制の簡素化を目指すと発表をしたばかりであります。欧州企業を育成するためには、煩雑な企業の手続など規制の一部緩和に取り組むとのことであります。日本においてもＬＬＭの開発をする企業が多数存在する中、こうした企業のイノベーションに向けた活動を萎縮させてはいけないと思っています。
ついては、今回の新法に基づいて行われる調査権についても、あくまでリスクの度合いと釣り合ったものであるべきであり、企業に過度な負担を強いてはならないと思っておりますし、経済産業省の二〇二〇年のレポートでは、政府の規制や各種ルールに対応するための時間は総労働量の二〇％以上にも上がるとされていて、大きな日本企業の課題となっております。
是非、このようなイノベーションに向けた民間企業の取組を促すように、透明性確保のための取組は、例えば知財や営業秘密保護にも配慮したものにするべきなど、工夫していくべきかと思いますが、大臣の考えを伺います。
○城内国務大臣 まさに田中理事御指摘のとおりでありまして、我が国の事業者におけますイノベーションに向けた活動が一層進むよう、それを支援するための事業環境を整えること、これは非常に重要な課題であります。
そのため、本法案に基づく調査の実施等に当たりましては、事業者の萎縮や過度な負担を避ける観点から、適正な内容や範囲、頻度となるよう、関係省庁や有識者の意見も聞きつつ適切な運用を図っていく必要があると考えております。
また、当該調査結果の公表等に当たりましては、事業者の知的財産権や営業秘密の保護について、御指摘のとおり、十分に配慮する必要があります。調査の対象事業者を始めとする関係者の意見を事前にしっかりと聞きながら丁寧に対応してまいります。
○田中（健）委員 安野参考人からも、ＡＩの課題は法規制だということで、各法規制の見直しが必要であり、サンドボックス制度なども取り入れてあらゆる推進を図ってほしいという発言がありましたので、是非お願いをしたいと思います。
一問飛ばして、先に国際的な動きを確認したいと思います。
これは参考人の質疑でも、河西先生も取り上げられておりました、東南アジアのＬＬＭ構想についてです。
これはシンガポール政府が二〇二三年に立案したものでありますが、日本政府も東南アジアの言語、文化に根差した生成ＡＩの基盤整備について、官民協力の枠組みをつくって取り組んでいくということであります。これは東大の松尾先生からもその意義が述べられていました。
そして、この参考人質疑をした次の日、つまり昨日ですけれども、昨日、報道では、中国の習近平国家主席がマレーシアの首相とＡＩの、先端技術の協力拡大に合意したということであり、この内容が、ＡＩやデジタル経済をめぐる協力を深めて、さらに、サプライチェーンの統合まで進めるべきだということを述べています。
やはり、この経済的支援、ＬＬＭの開発、松尾先生からは、今、日本は最善手を指し続けている、しかし、下手をすればすぐに詰んでしまうと。そして、先ほど、これも平井委員からありましたが、もう日進月歩で進んで、大変速いスピードだということで、日本もこの国際協調にはしっかりと後れを取らず進んで取り組んでいただきたいと思っていますが、どのような形で参画をし、今後展開を進めていくおつもりか、お聞かせください。
○奥家政府参考人 お答え申し上げます。
日本と東南アジアがＡＩ分野のイノベーションを共に促進するということは、委員御指摘のとおり、極めて重要なことだと考えております。
これまで、経済産業省では、マレーシア工科大学やバンドン工科大学において、日本のトップＡＩ専門家によるＡＩ人材の育成プログラムを実施する、また、アジアのＩＴサービス関連業界団体の全体会合、ここにおきまして、日本のトップＡＩスタートアップを紹介して協業を提案する、さらに、グローバルサウス補助金を活用しまして、我が国の優れたＡＩ開発企業と東南アジアの現地ユーザー企業とのマッチングや実証事業の立ち上げ、こういったものに取り組んでいます。
実証事業の一例としまして、日本のフィンテック企業のココペリという企業があるんですけれども、このココペリとＡＩスタートアップのＥＬＹＺＡが連携しまして、ビジネスマッチングプラットフォームにタイ語と日本語を理解した生成ＡＩを搭載して、タイの方で展開を進めている、こういうようなことも取り組んでいます。
引き続き、これらの取組を推進して、日本と東南アジアがＡＩ分野のイノベーションを共に促進していくということを進めていきたいと考えております。
○近藤政府参考人 お答え申し上げます。
現在、一般的に利用されている生成ＡＩでは、英語を中心とした学習データが用いられており、学習言語に偏りがあると認識をしております。各国の言語に対応した言語モデルの開発に当たりましては、言語モデルが各国の文化や歴史などを反映し、利用者のニーズに合った的確かつ正確な出力がなされるようにするということが重要でございます。
総務省では、この観点も踏まえた生成ＡＩ開発に関して技術協力を行うべく、シンガポール政府や関係機関と協議を行うなど、準備を進めているところでございます。
また、本年五月には、国立研究開発法人情報通信研究機構に設置されたＧＰＡＩ東京専門家支援センター、こちらが中心となりまして、世界各地のＡＩ専門家が意見交換を行うＧＰＡＩ東京イノベーション・ワークショップを開催して、その中で、東南アジアを始めとした各国の言語や文化に対応した生成ＡＩの開発についても議論をいたします。
引き続き、こうした取組を進め、ＡＩ分野における東南アジア諸国との連携を進めてまいります。
○田中（健）委員 是非、国を挙げて、東南アジア、ＡＳＥＡＮ諸国のＡＩの連携というのを深めていただければと思います。
以上です。終わります。
○大岡委員長 次に、山崎正恭君。
○山崎（正）委員 公明党の山崎正恭です。
本日も質問の機会をいただきまして、ありがとうございます。貴重なお時間ですので、早速質問に入らせていただきます。
今日は、まず初めに、ＡＩ人材の育成についてお伺いしたいと思います。
日本政府は、ＡＩ技術を国家戦略の重要な柱と位置づけ、その推進のために包括的な戦略を策定しています。これらの戦略において、教育と人材育成はＡＩ技術の発展と社会実装を成功させるための根幹として一貫して強調しています。
ＡＩ戦略二〇一九においては、既に教育改革は主要な戦略目標の一つとして掲げられており、早期の段階から政府がＡＩ人材育成の重要性を認識していました。続くＡＩ戦略二〇二一では、ＡＩ時代に対応した人材育成を世界で最も行う国となることを目指し、研究者からエンドユーザーまで多岐にわたるレベルの人材育成と、二〇二五年までの具体的な数値目標を設定したと承知しています。
日本政府は、ＡＩ人材育成のために、初等中等教育から高等教育、そして社会人のリカレント教育に至るまで、様々な段階に応じた具体的な政策と取組を展開しているというふうに承知しております。
そこで、まず、初等中等教育段階においては、文部科学省が中心となり、急速に普及する生成ＡＩの教育現場への導入を検討し、ガイドラインを策定されています。
二〇二三年七月には暫定的なガイドラインが発行され、生成ＡＩの利点とリスクを考慮した上で、責任ある利用を促進する方針が示されました。ガイドラインでは、人間中心の原則が強調され、ＡＩはあくまで人間の能力を拡張する道具であるべきという基本的な考え方が示されています。
生成ＡＩの教育利用に関する議論は継続的に行われていまして、二〇二四年十二月にはガイドラインバージョン２・０が公表されました。改訂版では、人間中心の原則と情報活用能力の育成がより明確に打ち出され、生成ＡＩの潜在的な利点、個別最適化された学習、新たな視点の提供とリスク、ハルシネーション、バイアスが認識され、学校現場での適切な活用方法についての指摘がありました。
そこで、まず、初等中等教育段階でＡＩリテラシーをどのように育成し、どのようなことが重要な課題として考えられているのか、お伺いします。
○日向政府参考人 お答えいたします。
昨年十二月に改訂いたしました初等中等教育段階における生成ＡＩの利活用に関するガイドラインにおいて、学校現場においても、あくまで生成ＡＩは使い方によって人間の能力を補助、拡張し、可能性を広げてくれる有用な道具になり得るものと捉えるべきであり、最後は人間が判断し、生成ＡＩの出力結果を踏まえた成果物に自ら責任を持つ基本姿勢が重要とされています。
小中学校の学習指導要領においては、情報モラルを含む情報活用能力を学習の基盤となる資質、能力として位置づけており、情報を主体的に捉え活用すること、情報技術を学習や日常生活に活用できるようにすることの重要性を強調しております。
文部科学省としても、学校現場における生成ＡＩの適切な利活用に向け、情報活用能力の育成強化を含む学校現場での利活用に向けたガイドラインを策定することや、利活用の実践事例の創出に向けたパイロット校を指定するなどの取組を進めています。
引き続き、情報モラルを含む情報教育の充実に取り組んでまいります。
○山崎（正）委員 済みません、今様々なお話があったんですけれども、私も元教員として教育現場へのＡＩ導入で気になる点が幾つかありますが、一番気になるのが、小学生ぐらいは余り思わないかもしれないですけれども、中学生ぐらいになったら、ＡＩがあったら楽勝、もう勉強しなくてもいいんじゃないか、これが一番恐ろしいと思うんです。
先ほどもありましたけれども、これは違いますよね。勉強しないとＡＩのうそは見抜けませんし、ＡＩを使いこなすためには勉強が大事で、先ほどもありましたけれども、人間の能力を拡張する道具が変わっただけだと思います。
これは本当にしっかりと子供たちにイロハのイとして教えてもらいたいです。意外とそういう子供たちが多いので、とにかく勉強の大切さは何も変わっていなくて、勉強をしっかりしなければＡＩは使いこなせないよ、そういう単純なことからまずはしっかり、大事なところですので教えていっていただきたいなと思います。
次に、これに連動して、簡単に答えが出てしまうと子供たちの達成感が弱まるのではないか、失われるのではないかということも私は心配しておるところでございます。
そこで、ＡＩの活用について、特に使う側の達成感が失われないような教育が重要と考えますが、見解をお伺いします。
○日向政府参考人 お答えいたします。
御指摘いただきましたが、育成したい資質、能力を意識せず安易に生成ＡＩを児童生徒の学習活動に導入することで、目的に即した学習過程が省略されてしまい、資質、能力の育成につながらないリスクがあることが想定されます。
そのため、先ほども述べましたガイドラインにおきまして、児童生徒の学習場面で生成ＡＩを利活用する際の適否の判断に当たり、学習指導要領に示す資質、能力の育成につながるか、教育活動の目的を達成する観点で効果的かどうかを吟味する必要があるとしているところです。
具体的には、生成ＡＩに全てを委ねるのではなく自己の判断や考えが重要であることを十分に認識させられるか、生成ＡＩの出力を基に深い意味理解を促し、思考力を高める使い方をできるかなど、児童生徒の実態を踏まえ、そうした教育活動が可能であるかどうかの見極めが重要であるとしております。
文部科学省としては、このようなリスクも踏まえた上で、学校現場で生成ＡＩが適切に利活用されるよう、引き続き、ガイドラインの内容を教育委員会や学校に対し研修などの機会を通じて周知を徹底してまいります。
○山崎（正）委員 私が思うに、今後考えられる場面として、これも今まで指摘があったかもしれませんけれども、ＡＩにレポートや感想文を書いてもらう又は絵を描いてもらうということが考えられます。ＡＩに指示をすれば、例えば夏休みの宿題もすぐにできてしまいます。
レポートに関しては、うちの党の平林議員が大学の教授でしたので、平林さんに聞くと、今までにもあった、ネットから引っ張ってきたレポートはあったけれども、これは口述試験や面接試験があればすぐに見破れると言っていました。ただ、読書感想文は難しいと思うんです。僕はこう思いましたと言い張れば、なかなか分からない。ただ、それはふだんからその子の国語能力を知っている人間教師の腕の見せどころだというふうにも思います。
それと、実は、絵、私の教え子が困って、夏休みの最終日にお母さんも多分子供を見かねたんだと思うんですけれども、小学校の教員であるお母さんが描いたと思われた絵が登場しました。そして、それが何と、夏休みが終わった後、出したところで、県の絵画展で入賞してしまいました。そこも、ふだんその子の絵を描く能力を知っているクラスメートから温かいやじが飛んで、本人も苦笑いでしたけれども。
やはり大事なのは、ＡＩを駆使して自分の学びが深まったり、自分の思いや、そういった表現がしっかりとできていくことでありまして、やはりそういった達成感を奪われないような工夫、これは本当に難しいと思うんですけれども、しっかりお願いしたいと思います。
そして、誤った活用があった場合には、達成感はないやろうということで、先生の方が促していきながら、それは、ＡＩじゃない人間教師がしっかり子供たちを見て、そこは適切な能力を養えるような使い方をしていただけたらと思います。
次に、子供たちにＡＩリテラシーをつけていくには、当然、教えていく教員にその力が備わっていなければなりませんが、当然ですが、現在の教員は、自分たちが初等中等教育段階ではそのような教育は受けていません。
そこで、教員もＡＩリテラシーを育成していくための力を習得する必要がありますが、一番気になるのは、昨今非常に働き方が厳しい、教員不足で教員環境が厳しい中でどのように研さんの機会を確保していくのかが非常に気になるんですけれども、この点、どのように考えているのか、お伺いいたします。
○日向政府参考人 お答えいたします。
学校現場における生成ＡＩの効果的な利活用を実現するためにも、教師自身が生成ＡＩの仕組みや特徴を理解するなど、一定のＡＩリテラシーを身につけることが前提になると考えています。
そのため、さきに述べたガイドラインでは、教育委員会が、教員養成大学やサービス提供者等の外部のリソースも活用しつつ、教材、ノウハウを周知、共有することや、効果的な活用を促進する研修を実施することなど、生成ＡＩの適切な利活用を推進する環境を整備する役割を担う必要があることを明示しております。
また、文部科学省としても、生成ＡＩの利活用に係る様々な研修動画等をホームページにおいて公開しており、教師が適宜参照することができるコンテンツを提供しているところです。今後、これらの研修動画を拡充していくことも予定しております。
これらを通じて、教師が可能な限り負担のない形で生成ＡＩについて学ぶことができる機会を確保してまいります。
○山崎（正）委員 何とぞ、この点につきましては、本当に大変な状況ですので、できる限り負担の少ない形でお願いいたします。
済みません、次に、ちょっと質問の順番を変えまして、ＡＩ戦略二〇二二において、二〇二五年を見据えた教育目標では、高校卒業生全員のＡＩリテラシー習得や専門分野へのＡＩ応用人材の育成、イノベーション創出を担う高度人材の育成が掲げられていると承知していますが、大学や高専でのＡＩ専門人材育成を強化するための具体的な支援策や目標についてお伺いします。
○奥野政府参考人 お答え申し上げます。
大学や高専におきまして、ＡＩを始めとする情報分野等の成長分野を牽引する高度専門人材の育成は重要であると認識しております。
文部科学省におきましては、令和元年に策定されておりますＡＩ戦略二〇一九に基づきまして、今年度までに、文系、理系を問わず、全ての大学、高専生五十万人がデータサイエンスやＡＩ活用に関するリテラシーを高めることや、さらに、その半数の二十五万人が、自ら専門分野への応用基礎力を習得することを目標と掲げまして、全国で九ブロック形成されてございますコンソーシアムの活動も支援しながら、大学、高専におきまして、数理、データサイエンス、ＡＩ教育の普及、展開を推進しているところです。
また、併せまして、大学・高専機能強化支援事業によりまして、意欲のある大学や高専による、ＡＩ等の情報分野を含めた学部・学科等の再編でございますとか定員の増といいました改革を支援しておるところです。
文部科学省といたしましては、今後とも、関係府省とも連携いたしまして、こういった取組を積極的に推進してまいりたいと考えておるところでございます。
○山崎（正）委員 ありがとうございました。
初等、中等に比べると、教える側の体制も整えやすいと思いますし、こういった中から本当に高度な専門人材が出てくれる素地をつくっていただきたいというふうに思いますので、しっかり長所を伸ばしていくような形で育成をお願いしたいと思います。
次に、社会人の人材育成についてお伺いします。
ＡＩ戦略二〇二二では、ＡＩ人材育成の範囲は、技術専門家のみならず、ＡＩを活用して新たなビジネスや創造を行う人材や中小企業における応用人材など、より広範な層を対象とする多様な人材の育成の必要性が示されました。二〇二五年を見据えた教育目標では、専門分野へのＡＩ応用人材の育成、イノベーション創出を担う高度人材の育成、社会人のリカレント教育の推進などが掲げられました。
最新のＡＩ戦略会議の中間まとめでも、政府のＡＩ政策が継続的に進化してきており、教育、人材育成はその重要な要素として引き続き検討され、日本政府が長期的な視点に立ち、多角的なアプローチでＡＩ人材の育成に取り組んでいると承知しています。
そこで、そういった国の方針の下、産学官が連携してＡＩ人材を育成していく必要があると考えますが、その現状と今後の展望についてお伺いします。
○渡邊政府参考人 お答え申し上げます。
まず、ＡＩ人材の育成、確保に当たりましては、基礎的なリテラシーからエキスパートの段階まで、あらゆるレベルの取組が重要と考えております。このため、政府としましては、例えば、大学等におきまして、優れた教育プログラムを政府が認定する、これは数理・データサイエンス・ＡＩ教育プログラムと呼んでいますけれども、あるいは、大学院において、情報分野とそれ以外の分野を掛け合わせたプログラム、学位プログラムということで、これはクロスプログラムと呼ばれております、あるいは、若手研究者、博士に対する支援ということで次世代ＡＩ人材育成プログラム、こういった様々な取組を進めてきております。
また、今回のＡＩ法案では、法第十四条になりますけれども、基礎研究から国民生活における活用まで様々な段階において、専門的かつ幅広い知識を有する多様な人材の確保等が規定されているところでございます。
今後とも、関係省庁、地方公共団体、あるいは研究開発機関、活用事業者と協力をしながら、ＡＩ人材の育成、確保の取組を進めてまいりたいと考えております。
○山崎（正）委員 次に、現在、経済産業省では、産業界のニーズを踏まえ、社会人のリカレント教育やデジタルスキルの向上を推進しているとし、先ほどのＡＩ戦略二〇二二でも、ＡＩを活用して新たなビジネスや創造を行う人材の育成とともに、中小企業における応用人材の育成を掲げられています。
そこで、中小企業におけるＡＩの利活用を推進するための、特に人的側面に対する支援の取組についてお伺いいたします。
○岡田政府参考人 お答えいたします。
中小企業、小規模事業者がＡＩの活用も含めたデジタル化やＤＸを推進するためには、デジタル人材の育成が重要であると考えております。
経済産業省といたしましては、デジタル人材の育成、確保のために、デジタルスキルに関する教育コンテンツを提供するポータルサイトの整備、企業の課題解決にチームで取り組むような実践的プログラムを提供するデジタル人材育成プラットフォームの構築、全国九か所に設置いたしました中小企業大学校におきまして、中小企業の経営者などを対象に、ＩＴ活用による業務効率化などが学べる研修プログラムの提供などを措置しているところでございます。
また、ＡＩの利活用を含め、デジタル化をどのように進めればよいか分からないとの声も多数ございますので、そうした要望を踏まえまして、中小企業基盤整備機構におきまして、ＩＴ経営サポートセンターなどの相談窓口を整備して、ＩＴ技術の具体的な活用方法など、きめ細かく事業者の相談に対応しているところでございます。
今後も、こうした取組を通じまして、中小企業のデジタル化、ＤＸを支えるデジタル人材の育成を促進してまいりたいと考えております。
○山崎（正）委員 ありがとうございました。
ＡＩ人材の育成の質問は終わりまして、次は、生成ＡＩの学習データについてお伺いします。
生成ＡＩ、特に大規模言語モデル、ＬＬＭの飛躍的な進化に伴い、日本語のような複雑な文法構造や多様な表現、文化的背景を持つ言語に特化した高品質な学習データの整備が急務となっています。海外製ＬＬＭの多くは英語中心のデータで訓練されており、日本語に関する表現力や文化的ニュアンスの再現には限界があります。そのため、日本独自の価値観や産業競争力を守る観点からも、日本語デジタル言語資源の充実が不可欠であると考えます。
そこで、生成ＡＩの学習データとして利活用が可能な日本語のデジタル言語資源を構築していくための取組についてお伺いします。
○中原政府参考人 お答えを申し上げます。
文化庁におきましては、国立国語研究所が過去に整備いたしました一億語規模の現代日本語のデータベース、現代日本語書き言葉均衡コーパスと呼んでおりますが、これにつきまして、令和六年度から十年度までの五年計画で、直近二十年分の約一億語分のデータを追加する事業を同研究所へ委託させて、実施をしております。
この事業におきましては、現代日本語の縮図となるよう、書籍、雑誌などから統計的手法により対象を選択しまして、選択された部分の文章に対して、品詞名、用法、修飾関係、意味などの情報を付与したデータベースを作成するものでございます。
これら書き言葉のデータは、編集者や校閲者のチェックを経た信頼度の高い日本語であるということから、大規模言語モデルを基にＡＩで生成される日本語の的確性を高めるファインチューニングなどでの活用も想定をさせていただいております。
文化庁といたしましては、委員御指摘のとおり、引き続き、国立国語研究所と連携し、本事業の着実な実施に向けて取り組んでまいりたいと存じます。
○山崎（正）委員 ありがとうございます。
本当に、本来の正しい日本語表現をしっかりと読み込ませていくことで性能が上がっていくと思いますので、引き続きの取組の強化をお願いしたいと思います。
次に、人工知能戦略本部についてお伺いします。
本法案については、基本的にはソフトロー的なアプローチであり、規制ではなく推進法ということがベースとなっていると理解しています。その上で、技術開発など変化のスピードが激しい分野であるので、常に新しいリスクも生み出されると考えます。
そこで、そういったリスク等に対応するためにも、継続した検討と、変化に対応可能な体制づくりが重要と考えますが、本法案で設置される人工知能戦略本部は、このような継続性、即応性が確保される組織なのか、お伺いいたします。
○城内国務大臣 山崎委員の御質問にお答えします。
本法案では、新たに、内閣総理大臣を本部長とし全ての閣僚で構成されますＡＩ戦略本部、これを内閣に設置するとともに、同本部に、ＡＩ基本計画の案の作成や重要施策の企画立案、総合調整等を担わせることとしております。このＡＩ戦略本部は、法律に基づき設置されるものであることから、その継続性は間違いなく確保されるものと考えております。
また、喫緊に検討すべき事項が生じた場面では、適時に本部会合を開催するとともに、ＡＩ戦略本部の下に置く予定の有識者会議や、あるいは局長級の関係省庁会議などの会議体も活用いたしまして、顕在化したリスクに応じた機動的かつ即応性のある検討を行ってまいる考えです。
いずれにしましても、本法案が成立した暁には、ＡＩ戦略本部の事務局であります内閣府が旗振り役となって関係府省庁間の一層の緊密な連携を図りつつ、ＡＩ戦略本部の下、我が国のＡＩ関連施策がより強力に推進されるよう、政府全体一丸となって取り組んでまいる考えであります。
○山崎（正）委員 ありがとうございました。
次に、ＡＩの普及が雇用や労働市場に与える影響についてお伺いします。
ＡＩ、特に生成ＡＩの急速な普及によりＡＩに人間の職が奪われると言われていますが、特にＡＩにホワイトカラーの人の仕事が奪われると当初は言われていましたが、最近では、ホワイトカラーは絶滅するということまで聞こえてくるところでございます。
アメリカなんかでも、そういった研究に対しましては、驚くべきことに、ナレッジワーカー、知的労働者は最も高いレベルの露出に直面しており、いわゆる知的労働者の方が今までは安全だと言われていたのが、そちらの方が危険になってきたのは今までの革命では見られなかったところであるというふうに言われております。多くの場合は手作業が置き換えられてきたのに、そうではない、自動化の影響を受けないという今までの考えを覆していくものでもあるというふうに言われています。
逆に、肉体労働なんかの場合は、ＡＩに対して最も回復力があるというふうにも言われておりますし、テレワークなんかは非常にそういったところでは代わられやすいというふうなことも言われているところでございますが、しっかりと、そういったところについて、今現在、ＡＩの普及が雇用や労働市場に与える影響について、政府としてどのように評価していて、今後どのようなことを重要な課題と捉えているのか、お伺いします。
○青山政府参考人 お答え申し上げます。
ＡＩ等の新たなテクノロジーが雇用に与える影響につきましては、これらのテクノロジーによる仕事内容の変化が想定されるという御指摘がある一方で、労働生産性やウェルビーイング、すなわち労働者の健康や仕事へのエンゲージメント等でございますが、そうしたものの向上が期待されるという意見もあると承知しております。
厚生労働省といたしましては、丁寧な労使のコミュニケーションを通じまして労使双方の納得感を高めながら、新たなテクノロジーを職場に導入することで働く人全ての活躍や労働生産性の向上を図ることが重要と考えております。
今後とも、ＡＩなどの新たなテクノロジーが雇用に与える影響につきまして注視してまいりたいと考えております。
○山崎（正）委員 是非お願いいたします。
これは本当に国民の皆さん方は不安を抱えておりますので、しっかり、なかなか難しいと思うんですけれども、先のことを常に専門家等の意見を聞きながら見通していただいて、是非そういった不安に応えていっていただきたいと思いますので、よろしくお願いいたします。
次に、地方自治体へのＡＩの導入についてお伺いします。
今、日本の多くの自治体では少子高齢化と人口減少が進みまして、職員数の減少や若手人材の確保が深刻化しています。また、住民サービスの質や行政運営の水準を維持向上させるには、限られた人員で効率的に業務を行う必要があり、ＡＩの導入はその切り札になるとも言われております。
そこで、地方自治体へのＡＩの導入は非常に重要であるが、地方自治体がＡＩ技術を導入、活用する際の支援策や地方格差の是正に向けた取組などはどのように考えているのか、お伺いいたします。
○下仲政府参考人 お答えいたします。
総務省では、自治体ＤＸ推進計画において、自治体のＡＩ、ＲＰＡの利用推進を地方自治体が重点的に取り組む事項として位置づけております。
自治体のＡＩ技術の導入や活用の支援策としては、ＡＩ導入に対する財政措置や外部人材による支援などを行っております。また、自治体におけるＡＩ活用・導入ガイドブックをまとめ、先行団体におけるＡＩ導入事例を紹介することなどにより地域格差の是正にも取り組んでおります。
こうした支援策などもあり、ＡＩ導入団体数は、平成三十年度の百六団体から、令和五年度で九百二十六団体に増加するなど、着実に進展しております。
総務省としては、ＡＩを含むデジタル技術の活用を通じて、一層、住民の利便性向上や自治体の業務効率化が実現されるよう、必要な施策に取り組んでまいります。
○山崎（正）委員 済みません、最後の質問に入りたいと思います。
先ほど、中小企業のＡＩ人材の育成について聞かせていただきましたけれども、次は、中小企業へのＡＩ技術の導入についてお伺いさせてもらいます。
先ほども言いましたように、ＡＩ戦略二〇二二で中小企業における応用人材の育成が掲げられていました。中小企業が生産性を向上していくことは、利益を上げ、賃上げをしてもらう面でも非常に重要であるというふうに思いますが、生成ＡＩを業務で利用している企業は四七％で、アメリカや中国に大きく水を空けられている現状があります。
そこで、中小企業へのＡＩ技術の導入は重要でありますが、中小企業がＡＩ技術を導入する際の資金的な障壁をどのように解消し、普及を促進していくのか、お伺いいたします。
○岡田政府参考人 お答えいたします。
経済産業省におきましては、ＡＩ製品を含むＩＴツールの導入を支援するＩＴ導入補助金をこれまで措置してきたところでございます。また、令和六年度補正予算からは、ＩＴ活用の定着を促すため、導入後の活用支援も新たに対象化いたしまして、先月、本補助金の申請受付を開始してきたところでございます。
今後も、こういった取組を通じまして、ＡＩを含めた中小企業のデジタル化、ＤＸの普及促進に努めてまいりたいと考えております。
○山崎（正）委員 ありがとうございました。
様々、今日は人材育成等も含めて聞かせていただきました。しっかりと様々な課題を見据えながら、世界の中でもしっかり日本がリードしていくように頑張っていただきたいと思います。
以上で質問を終わりたいと思います。ありがとうございました。
○大岡委員長 次に、上村英明君。
○上村委員 多分今日がこの質疑の最後の山場になると思いますので、今日はさくさくと行きたいと思います。
本日の質疑においても、リスクの問題、また、その対応が必要であるということについていろいろな委員が言及されたというふうに思います。同時に、リスク問題とは別に、ＡＩ推進上での便益の問題についても、生産性の向上や効率化にもこの時代ならではの検証が必要なことは四月十一日の質疑の中で指摘いたしました。
今、山崎委員の方から雇用という言葉が出てきたんですけれども、雇用という概念で本当に区切られるのかということ自体も一つ問題だというふうに思っています。
例えば、生産性の向上と生活の向上は別物であるという指摘をしましたけれども、生産性の向上や効率化が、従来の視点で、賃金や社会保障などのコストカット、私の場合はコストカットというのは一つキーワードになると思うんですけれども、コストカットの言い訳とされれば、それは労働者の生活の向上にはつながりません。具体的には、非正規化、それから減給とか解雇などがその結果として表れると思います。
つまり、ＡＩの導入によって、組織の労働者に正規雇用や賃金や社会保障費が維持される中で、加えて、多様に使える余暇が生まれれば、それが生活の向上になります。これが多分、ＡＩ導入の本当の目的だというふうに私は思っているんですけれども、そうした意味で、ＡＩの推進をするには、生産性の向上や効率化をどう考えるかという発想が並行して議論され、新しい社会的価値の共有に向けて社会モデルが転換されなければいけないのではないかというふうに思っています。
四月十六日の参考人質疑で、田中邦裕参考人も大変興味深いことを御指摘されました。それは何かというと、ＡＩ推進の成果は製品とかサービスの販路の拡大に向けられるべきであって、それがコストカットに向けられるべきではないということを彼もおっしゃいました。こうしたことを考えると、やはり社会全体の価値観の転換を伴いながらＡＩの推進というものを図っていかないと、なかなか難しいというふうなことを思っています。
昨日は人事院の総裁の件で質疑をしたんですけれども、公務員の過剰な労働というものを、例えばこういうふうな質疑の答弁作りが忙しければ、将来的にはＡＩが全部作ってしまうということになれば政府委員は要らなくなっちゃうということも考えられなくもない。
こうしたＡＩの推進に伴うビジネスあるいは社会モデルの転換自体を同時にやらなければいけないということに関して、城内大臣のお考え、そしてまた、こうした仕事は多分政府がやらなくちゃいけないのではないかなというふうに私は思っているんですけれども、その辺について大臣の御見解をお伺いできればと思います。
○城内国務大臣 ただいま上村委員から御指摘がありまして、また、一昨日、参考人質疑の中で田中参考人からも発言がありましたように、やはりＡＩの導入の目的が殊更コストカット、コストダウンばかりに向かいますと、低賃金化が進む懸念もありますし、逆にまた、正規雇用よりも非正規がどんどん増えていったり、失業率が上がるということになるかと思います。ＡＩ産業を基にして全産業が発展していくことがやはり重要でありまして、まさに御指摘は私も共有しております。
他方で、ＡＩの活用やイノベーション促進に当たりましては、本法案の目的にもありますように、まずは国民の生活水準の向上や経済の発展に資するものとしなければならないわけでありまして、例えば、ＡＩの導入によりまして人々の働き方が改善し、それによって生まれた余暇を自由に使えるような、豊かで生き生きした生活を送れる社会が実現することが重要と考えております。
政府としては、ＡＩによる効率化を最終的な目標とするのではなく、人間中心の、一人一人が多様な幸せ、すなわちウェルビーイング、これを実現できる社会の構築や持続的な経済成長を目指してＡＩの活用を進めてまいりますが、いずれにしても、こういった点についてはしっかり政府が目配りして、変な社会にならないようにしっかり取り組んでまいる考えでございます。
○上村委員 確認いただけたかなというふうに思いますので、ありがとうございました。
もう時間がないので次の質問で終わりたいと思うんですけれども、報道によれば、ＡＩに関して、新しい科学技術と社会の間に生まれたギャップを考えるＥＬＳＩという活動があるんですけれども、こういうものが大学などでも始まっていると言われています。
特に、ＡＧＩのシンギュラリティーの可能性とか、本当に市民的な、あるいは国民的な議論が不可欠という状況の中で、この内閣委員会、衆議院だけですけれども、十時間余りの法案審議で終わっていいのかということがございますし、今後、ＡＩの基本計画、あるいは本部の、成立の中で、もう少し今後の国民的あるいは市民的な議論を広げて、基本法に向かってどういうステップを踏むべきかということに対して、簡単で構いませんので、大臣の御見解を伺いたいと思います。
○城内国務大臣 今回の法案に限るわけではありませんけれども、やはり政府が重要な政策を進める際には、また、特に今回のＡＩ分野のような大変変化の速い、そしてまた、先の見えない、予測がなかなかできない課題、これに挑戦する際には、様々な立場の方々からの意見をしっかり伺い、政策に反映させていくことが重要であると考えております。
本法案が成立した暁には、ＡＩ基本計画や指針を策定していくことになりますけれども、その際には、有識者の方々から意見を伺うことはもちろんのこと、ＡＩの研究開発や活用の現場を訪問することや、幅広く国民、市民の皆様の意見を、例えばアンケートをしょっちゅうするとか、現場に行って国民、市民の皆様の声を聞くとか、そういった取組をやはりしっかりと進めることが私も重要だと思っておりますので、ＡＩ政策の推進をそういった形で市民目線で取り組んでまいる考えであります。
○上村委員 どうもありがとうございました。
○大岡委員長 これにて本案に対する質疑は終局いたしました。
―――――――――――――
○大岡委員長 この際、本案に対し、今井雅人君外二名から、立憲民主党・無所属及び有志の会の共同提案による修正案が提出されております。
提出者から趣旨の説明を聴取いたします。梅谷守君。
―――――――――――――
人工知能関連技術の研究開発及び活用の推進に関する法律案に対する修正案
〔本号末尾に掲載〕
―――――――――――――
○梅谷委員 ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案に対する修正案につきまして、提出者を代表して、その趣旨及び内容を御説明申し上げます。
本法律案の第八条は、国民が人工知能関連技術に対する理解と関心を深めるとともに、国及び地方公共団体が実施する施策に協力するよう「努める」ものとしていますが、その見出しが「国民の責務」となっています。国民が国及び地方公共団体の施策に協力しなければならないかのような表現は、国民の間に無用の懸念を生じかねません。
そこで、本修正案では、第八条の見出しを「国民の努力」に改めることとしております。
以上が、この修正案の趣旨及び内容であります。
何とぞ委員各位の御賛同をお願い申し上げます。
○大岡委員長 これにて趣旨の説明は終わりました。
―――――――――――――
○大岡委員長 これより原案及び修正案を一括して討論に入ります。
討論の申出がありますので、順次これを許します。橋本慧悟君。
○橋本（慧）委員 立憲民主党・無所属の橋本慧悟です。
私は、会派を代表して、人工知能関連技術の研究開発及び活用の推進に関する法律案に関し、立憲民主党・無所属及び有志の会提出の修正案に賛成、政府原案に、その課題や懸念を指摘しつつ、賛成の立場から討論をいたします。
私たち立憲民主党は、ＡＩ技術が我が国の経済社会の発展の基盤となること、国際競争力を向上させること、そして防衛等の安全保障上の観点からも重要であり、関連産業や日本経済の発展を促進し、国民生活の向上に寄与するものであると、その必要性と重要性を十分認識しております。
我が党は、法案審議に当たっては、有識者や関係者の御意見もお聞きし、個人情報の取扱いや著作権の問題、ディープフェイクへの対策、海外事業者の協力の実効性等の観点から問題点を指摘してまいりました。
その中で、本法案八条の「国民の責務」については、他の法律の例を見ても、責務という表現は行き過ぎた文言ではないかと考え、ＡＩ技術の理解や国及び地方公共団体の施策への協力について、国民に責務を課す条文ではなく、「国民の努力」へ改める修正案を提出した次第です。丁寧に国民の理解を求めていく観点からも、是非委員各位の御賛同をお願いいたします。
その上で、他国に大きく後れを取る我が国のＡＩ関連技術の研究開発や利活用の推進は待ったなしの課題です。政府原案には確かに、ディープフェイクへの対策、日本が世界に誇る様々なクリエーターやコンテンツの著作権など知的財産権への侵害、事案が生じた際の海外事業者の協力体制、またリスクベースアプローチの採用など、様々な懸念点や改善すべき点も残っております。しかしながら、重要なのは、人間中心のＡＩ社会原則に基づき、人間の尊厳を損なわないようにＡＩの利活用を推進することであります。
これまでの質疑の中で、私たち立憲民主党の指摘や提案も含め、質疑と答弁を丁寧に積み上げてまいりました。そして、本法案はその第一歩になると判断するに至りました。これらの議論や、この後提出される附帯決議案も踏まえ、また、本法案成立後の基本計画や指針の制定、制度の運用において、政府が国民の権利や財産を守り、人間中心のＡＩ社会原則にのっとった対応を行うことを前提に、私たち立憲民主党は政府原案に賛成することといたしました。
以上で私の討論を終わります。ありがとうございました。（拍手）
○大岡委員長 次に、市村浩一郎君。
○市村委員 日本維新の会、市村浩一郎です。
会派を代表し、人工知能関連技術の研究開発及び活用の推進に関する法律案について、政府案について賛成、そして立憲民主党及び有志の会提出の修正案に対し反対の立場から討論いたします。
世界でＡＩの開発技術が急速に進展している中、日本は法整備において著しく後れを取っており、数多くのチャンスを逃しております。本法案により、イノベーションを推進するとともに、リスクへの対応が早急に求められております。
委員会では、期待のほかに、起こり得るリスク、脅威から本法が本当に国民の財産や安心、安全を守り得るものなのか議論されました。その中で、大きく次の三点が評価できたと考えます。
一つ目は、何より、ＡＩの推進によって業務の効率化が図られ、人口減少問題といった働き手不足の課題解決に大いに期待できる点です。特に、地方公共団体で事務効率化が期待できる点は、地方の存続といった観点からも非常に重要となります。
二つ目に、ＡＩ人材育成に対して、学際的見地からしっかりと教育プログラムが計画、実施される点です。
既に、生成ＡＩ利活用に関するガイドラインが策定され、生成ＡＩパイロット校の小中学校に対して、ＡＩに関する正しい知識習得、実践の教育が始まっております。また、教育訓練等においても、ＡＩを含むデジタル人材育成が進んでおり、リスキリングといった施策もあり、官民を挙げた施策が進んでいます。
そして、人材育成と並んで、日本の心を取り入れた国産ＡＩの開発に前向きに取り組む決意を大臣が表明された点も評価できます。
三つ目は、本法案が人間中心主義を大原則として掲げている点です。
ＳＦ映画ではありませんが、知識をつけたＡＩが、人間をおとしめる、国益を損ねる情報を流布することは現実的に起こり得ます。
人間中心主義とは、人間がＡＩに依存又はＡＩに利用されるのではなく、人間がＡＩを道具として使いこなすことで物質的、精神的にも豊かな生活を送れる社会を構築していくと考えるもので、この人間中心主義を大原則としてＡＩ基本計画も作成されていくことは、将来においても安心できる点であると考えます。
具体性と実効性に富んだ、以上三点を評価し、政府原案に賛成とさせていただきます。
最後に、米国の法とＥＵの法の両方の教訓を組み入れ、臨機応変な対応ができるこの法案は、非常に日本らしい法案となりました。今回はＡＩ推進の第一歩であり、これからも継続して、技術の進歩に合わせて本法案の改正を検討していくことが必要です。
日本維新の会は、これからも積極的にＡＩ活用のための議論を進めていくことをお約束し、私の討論とさせていただきます。
御清聴ありがとうございました。（拍手）
○大岡委員長 次に、上村英明君。
○上村委員 れいわ新選組の上村英明です。
私は、人工知能関連技術の研究開発及び活用の推進に関する法律案及び修正案について、会派を代表して、残念ながら反対の立場から討論いたします。
ＡＩを始めとするデジタル技術の加速度的な進化、発展は、私たちの生活に様々な利便性を提供しています。特に、二〇二二年、生成ＡＩが導入されるとこの可能性は飛躍的に拡大し、国産のＬＬＭ開発などを土台に、我が国のデジタル技術もこれに追いつくチャンスを迎えました。反面、プライバシー権や表現の自由など基本的人権の侵害、選挙妨害など民主主義を含む普遍的価値を脅かす危険性を格段に増大させています。また、生産性の向上などの考え方も問い直されています。
そのため、ＡＩの研究開発や活用の推進は、広くＡＩの負の影響や効果を知り、その対策についての方向性を明示したバランスの取れたものでなければなりません。特に、今後国民的な理解を広めるための議論の必要性などを考え、また、今回のＡＩ法案及び修正案が我が国におけるＡＩに関する最初の法律であるとすれば、その責任は軽くありません。
しかし、本法案は、今後、ＡＩ戦略本部を置き、ＡＩ基本計画を策定し、その推進を図るという枠組み法でしかありません。
政府は、我が国のＡＩ研究開発や活用が遅れている理由として、多くの国民がＡＩに対して不安であることを挙げていますが、そもそもＡＩ空間の全体像が示されず、包括的な法規制がないとすれば、当然のことであると言わざるを得ません。言い換えれば、ＡＩに対する国民の不安に応えるためにも、一般的には分かりにくい個別法やガイドラインではなく、ＥＵのＡＩ法のような包括的な法律が不可欠です。
近い将来、量子コンピューターが実用化されると予想される中、ＡＩが人間の知能を超える瞬間であるシンギュラリティーの到来についても、ＳＦ映画のような絵空事あるいは遠い未来のことと言ってはいられない段階に来ているという認識からも、こうした包括的な法律が必要です。
こうした未来に今から備えるためにも、やはり、ＡＩに関する倫理的、法的、社会的課題、ＥＬＳＩ活動などを積極的に取り入れ、具体的には、デジタル時代の民主主義、立憲主義の在り方、プライバシーの保護や内心の自由等の普遍的価値をどのように実現するかについて、この国に住む全ての人々が議論を行い、得られた方向性や結論を、規制を含めたＡＩ基本法として国民に分かりやすく示すべきことを重ねて強く申し上げ、れいわ新選組を代表しての反対討論といたします。
ありがとうございました。
○大岡委員長 次に、辰巳孝太郎君。
○辰巳委員 私は、日本共産党を代表して、ＡＩ推進法に反対の討論を行います。
急速に発展するＡＩは、多分野で深刻な問題を引き起こしています。大量の個人情報の収集、漏えいによるプライバシー権の侵害、ブラックボックスであるＡＩが人を評価、選別するプロファイリングやスコアリングによる差別や不利益、著作権などの知的財産の侵害、軍事利用、偽情報、誤情報を用いた選挙への介入、開発、運用に必要な大量の電力消費による地球温暖化への悪影響などです。企業の利益追求のＡＩ開発、活用によって、市民の権利が侵害されているのが現状です。
今必要なのは、ＡＩの発展に遅れることなく、予防的な観点も含めて、権利保護の強化やリスクに応じた規制を行うことです。ＡＩに関する意識調査を見ても、現状はＡＩを安心して利用できる環境にない、規制が必要だというのが市民多数の声です。
にもかかわらず、法案はＡＩ推進一辺倒です。法案に基づき国がデータセットとして整備する情報の対象は、国が持つ情報に加え、大学や研究開発法人に及び、オープンデータに限定されず、個人情報も含まれます。自治体の責務規定や大学、国民の努力義務まで盛り込み、行政、学術、国民の広範な情報をＡＩの研究開発、活用のために整備し、提供することを促進するもので、プライバシー権侵害の危険性を高めるものだと言わざるを得ません。
また、国の責務として、行政事務の効率化を図るため、国の行政機関におけるＡＩ技術の積極的な活用を進めると明記しています。ＡＩには、バイアスやブラックボックス化の問題があります。こども家庭庁が開発した児童虐待判定を行うＡＩに正確性の問題が見つかり、導入を見送った事例からも明らかなように、ＡＩに判断を委ねるのは極めて危険であり、慎重な対応が必要です。
さらに、法案が、ＡＩ技術を、安全保障の観点からも重要な技術と位置づけていることは重大です。日米は、次期戦闘機と連動する無人機のＡＩ技術を共同研究することに合意しています。法案は、こうした殺傷兵器につながるデュアルユース技術の研究開発、活用も含め推進するものであり、認められません。
法案の基本理念で、ＡＩ技術の研究開発、活用を、産業の国際競争力を向上させることを旨に行うと掲げているとおり、法案は、ＡＩ技術を、市民の権利を守り、生活や福祉を向上させるためではなく、産業界の利益のために使うことを推進するものです。だから、この法案には実効性ある新たな規制の法整備がないのです。ＡＩ推進一辺倒で、市民の権利を侵害し、社会への悪影響を拡大させる危険を高めるものだと言わざるを得ません。
以上、討論を終わります。
○大岡委員長 これにて討論は終局いたしました。
―――――――――――――
○大岡委員長 これより採決に入ります。
内閣提出、人工知能関連技術の研究開発及び活用の推進に関する法律案及びこれに対する修正案について採決いたします。
まず、今井雅人君外二名提出の修正案について採決いたします。
本修正案に賛成の諸君の起立を求めます。
〔賛成者起立〕
○大岡委員長 起立少数。よって、本修正案は否決されました。
次に、原案について採決いたします。
これに賛成の諸君の起立を求めます。
〔賛成者起立〕
○大岡委員長 起立多数。よって、本案は原案のとおり可決すべきものと決しました。
―――――――――――――
○大岡委員長 この際、ただいま議決いたしました本案に対し、國場幸之助君外六名から、自由民主党・無所属の会、立憲民主党・無所属、日本維新の会、国民民主党・無所属クラブ、公明党及び有志の会の共同提案による附帯決議を付すべしとの動議が提出されております。
提出者から趣旨の説明を聴取いたします。おおたけりえ君。
○おおたけ委員 ただいま議題となりました附帯決議案につきまして、提出者を代表して、その趣旨を御説明いたします。
案文の朗読により趣旨の説明に代えさせていただきます。
人工知能関連技術の研究開発及び活用の推進に関する法律案に対する附帯決議（案）
政府は、本法の施行に当たっては、次の事項に留意し、その運用等について遺漏なきを期すべきである。
一 ＡＩの研究開発及び活用に当たっては、「人間中心のＡＩ社会原則」に基づき、人間の尊厳を損なわないことを大前提とすること。また、ＡＩを人間の倫理観、価値観及び目的に沿って動作させるＡＩアライメントの観点に基づいた研究開発を推進すること。
二 本法に基づくＡＩ基本計画、指針の策定その他のＡＩ政策の実施に当たっては、リスクの最小化のみならず、我が国におけるＡＩの導入促進による便益についても十分考慮すること。
三 生成ＡＩを含むＡＩ技術は、社会や経済に対して便益をもたらすとともに様々なリスクを有していることに鑑み、ＡＩの利活用に際しての留意点やリスクの回避策等について、事業者や国民に対して十分に周知すること。また、リスクの把握を含めたＡＩの適切な利活用の方法について、学校教育や社会教育等の場を活用することにより、ＡＩに関するリテラシー教育を積極的に推進すること。
四 ＡＩ技術を悪用したディープフェイクポルノ、とりわけ児童の画像等を使用したものへの対策については、各種法令の適用による厳正な取締り及び被害者の保護を行うとともに、サイト管理者等への違法な情報の削除依頼を強化すること。また、同対策の実効性を高めるための方策の在り方について検討し、その結果に基づいて必要な措置を講ずること。
五 我が国で利用される生成ＡＩサービスの多くが外国産で占められている一方、日本語での出力に課題がある現状を踏まえ、日本語の大規模言語モデルをベースとした国産の生成ＡＩサービスの実用化に向けた研究開発及びデータ整備の一層の推進に官民を挙げて取り組むこと。また、将来において競争力を高めるためにも、ＡＩを国家戦略上の重要分野と位置付けるとともに、ＡＩの基盤的技術やモデルの研究開発を積極的に支援すること。
六 ＡＩ関連産業のイノベーションと健全な競争を促進するため、必要に応じてスタートアップを含む新規参入者に係る障壁を撤廃し、公正で開かれた市場環境を整備すること。
七 ＡＩ技術の研究開発が総合的に行われる必要があることに鑑み、学際的見地からＡＩ人材の育成を強化し、特に次世代の競争力を高めること。また、ＡＩ技術の研究開発や人材の育成・確保に向けた官民の十分な投資を確保するため、財政上の措置その他必要な措置を講ずること。
八 ＡＩの利活用が行政サービスの質の向上、業務の効率化及び社会課題の解決等に資することに鑑み、国、地方公共団体及び地域の民間事業者によるＡＩの積極的な利活用に向けた環境の整備に努めること。また、利活用に際しては、ＡＩが有する様々なリスクを踏まえて、個人情報の保護その他の国民の権利利益の保護を図りつつ、適正性の確保にも十分に留意すること。
九 活用事業者等に対する調査、指導及び助言等に当たっては、当該事業者等の営業秘密や知的財産権の保護に配慮しつつ、過度に重い負担や情報開示を求めないように留意すること。他方で、重大なリスクが生じるおそれのある事項に関し、指導や助言等に応じない活用事業者等に対する実効性ある措置の在り方について検討し、その結果に基づいて必要な措置を講ずること。
十 広島ＡＩプロセス国際行動規範の「報告枠組み」に基づき報告書を提出する活用事業者等に対しては、既存の国内法制度に基づく報告義務に最大限活用することで、報告の重複を軽減する仕組みを導入することなどにより、国際的な整合性や効率性を確保すること。
十一 ＡＩ技術が加速度的に進展している現状を踏まえ、ＡＩの利活用が国民生活の向上及び国民経済の健全な発展に資するものとなるよう、また、新たなリスクに適時に対応するためにも、本法その他の関連規定、ＡＩ基本計画及び指針について不断の見直しを行うこと。
十二 ＡＩ戦略本部の組織体制については、同本部がＡＩ技術の研究開発及び活用に係る一体的な施策を推進する政府の司令塔機能を十分に発揮できるよう、各省庁の縦割りを可能な限り排除するとともに、事務局に民間のＡＩ人材の積極的な登用を図ること。
十三 ＡＩ戦略本部に対して専門的見地から助言を行えるようにするため、有識者から構成される会議体を早期に設置すること。また、有識者の人選については、ＡＩの倫理的、法的及び社会的課題について知見を有する者など多様な主体の参画を図ること。
十四 ＡＩのリスクへの対応について、常に最新の知見の情報収集に努め、必要な対応について不断の検討を行うこと。また、既存の法令やガイドライン等によっては対応が困難な新たなリスクが顕在化した場合においては、そのリスクの程度に応じて規制の度合いを変えるリスクベースアプローチに基づいた規制的措置の導入も含め検討し、その結果に応じて必要な措置を講ずること。
十五 ＡＩの利用に伴う知的財産権、パブリシティ権等の権利侵害に対応するため、諸外国における検討状況等を踏まえ、必要に応じ関連法制の整備を含めた対応の在り方について検討し、その結果に基づいて必要な措置を講ずること。
以上であります。
何とぞ委員各位の御賛同をお願いいたします。
○大岡委員長 これにて趣旨の説明は終わりました。
採決いたします。
本動議に賛成の諸君の起立を求めます。
〔賛成者起立〕
○大岡委員長 起立多数。よって、本案に対し附帯決議を付することに決しました。
この際、本附帯決議に対し、政府から発言を求められておりますので、これを許します。城内国務大臣。
○城内国務大臣 ただいま御決議のありました事項につきましては、その趣旨を十分に尊重してまいります。
―――――――――――――
○大岡委員長 お諮りいたします。
ただいま議決いたしました本案に関する委員会報告書の作成につきましては、委員長に御一任願いたいと存じますが、御異議ありませんか。
〔「異議なし」と呼ぶ者あり〕
○大岡委員長 御異議なしと認めます。よって、そのように決しました。
―――――――――――――
〔報告書は附録に掲載〕
―――――――――――――
○大岡委員長 次回は、来る二十三日水曜日午前八時五十分理事会、午前九時委員会を開会することとし、本日は、これにて散会いたします。
午前十一時二十八分散会