子どもの保護判定ＡＩよりも児童福祉司の育成、増員を

議事録

○本村伸子

日本共産党の本村伸子でございます。どうぞよろしくお願いを申し上げます。
まず最初に、虐待が疑われる子供の保護判定、ＡＩの導入見送りについて質問させていただきたいと思います。
二〇二三年から、みえ施設内暴力と性暴力をなくす会の皆さんと、この児童虐待の一時保護判定に関するＡＩの活用に関し、こども家庭庁から聞き取りを行ってまいりました。きっかけは、ＡＩを利用していた三重県で、実の母親から命を奪われた四歳の子供さんの事件があったからです。
当時、ＡＩでは保護率三九％と出ていたと報道がありました。その後、この事件の際はＡＩはほとんど使われていなかった、活用されていなかったというふうに、二〇二四年三月の三重県の検証委員会の報告書にはあります。しかし、保護率三九％と出ていた、それでお亡くなりに、命を奪われてしまったということがありまして、やはりＡＩに頼ることのリスクについても痛感をしてまいりました。
実際、児童虐待に関するＡＩの開発者の方が、報道番組の中でこうおっしゃっておりました。ＡＩが一〇〇％正しいというわけではなく、間違った答えが返ってくることもある、ＡＩの結果が逆に子供を危険にさらす可能性もあると、開発者の方がおっしゃっておりました。この開発に関わる方の言葉は、重く受け止めなければならないというふうに思っております。
今回、こども家庭庁が開発をしてきました、虐待が疑われる子供の保護判定、ＡＩの導入に関し、見送り、こども家庭庁は延期というふうに言っていますけれども、見送り、延期の原因と、これまで使った公費についてお示しをいただきたいと思います。

○吉住政府参考人

お答えいたします。
今般のＡＩツールは、令和三年度より国において開発に着手し、令和五年度にプロトタイプが完成し、今年度、協力自治体における試行、検証を行ってきました。
ＡＩツールは、約百項目の情報を入力し、一時保護の必要性を判断するものですが、試行、検証では、項目はあるものの、あざの範囲やけがの部位など、程度や範囲が適切に反映できない等、既存の項目だけでは保護判断に影響する情報を正しく反映できないという課題が見えてまいりました。
その上で、ＡＩ領域の学識経験者や児童相談所職員等から成る検討会で、検証結果の分析や本ツールの活用是非を議論いたしました。検討会では、既存の項目に該当するか否かだけではリスクを算出する情報として十分ではないが、これ以上の項目追加は、緊急を要する一時保護判断の場面では現実的ではない、子供の命に直結するとともに、全国に提供するツールであるため、ツール単独での判定精度が非常に重要になるが、現在の判定精度は十分ではなく、ＡＩ技術の更なる進展を踏まえた更なる改良が必要で、現時点での導入は慎重に判断すべき等の検証結果を得て、今般のＡＩツールは、現時点ではリリースしないことといたしました。
これらの開発に当たり、令和三年度から五年度の三年間で約八・二億円の予算を執行してきたところでございます。

○本村伸子

資料一に契約金額などを出させていただいておりますけれども、八億二千四百四十五万円ということです。野村総研とＮＴＴデータが受注をしております。
報道では、予算額を足し合わせると十億円程度になるというふうに思いますけれども、そうしたものが試行段階で約六割の判定に疑義があった、そういう結果となったと。リスクが低く出てしまうと。これでは子供たちの命を守ることができないということで、リリースを今回は見送り、延期をしたということだというふうに思いますけれども、そもそも、二〇二一年からやってきた事業だというふうに思いますが、この入札の過程というのはそもそも公正だったというふうに大臣はお考えになっておられますでしょうか。

○三原国務大臣

今回の、児童相談所におけるＡＩを活用した緊急性の判断に資する全国統一のツールの開発における令和三年度の仕様書等作成支援業務、令和四年度と令和五年度の設計、開発業務及び工程管理業務は、全て、会計法に基づく一般競争入札、総合評価方式によって調達をしております。
具体的には、ホームページ等により五十日以上公募を行った上で、入札を申し込んできた企業等の提案内容について第三者評価委員会に評価いただくとともに、入札価格についても点数化し、これらの評価に基づき、調達先を決定しております。
こうしたプロセスを経て、公平な競争に基づいて適正に入札が行われたものと考えております。

○本村伸子

資料の二から四を見ていただきますと、今回の入札に関する開札調書というものをつけさせていただきました。入札が一社しかないというのが、五つのうち四つあります。そして、一つ、複数の会社が入札をしているんですけれども、落札をした以外の会社は黒塗りになっております。
私、ほかの省庁にもいろいろこの入札調書ですとかいただくことがあるんですけれども、国交省ですとか、先日は最高裁のデジタルに関する入札調書をいただきましたけれども、そこでは予定価格もちゃんと公表されております、情報開示をされております。そして、入札に参加をした全ての企業の情報も、名前も、きちんと情報開示がされております。もっとほかの省庁は情報開示があるわけです。こども家庭庁は、このように黒塗りの部分がかなり多いというふうな印象がございます。
情報開示というのはやはり国民主権の土台ですから、情報はしっかりと開示をするべきだ、黒塗りを外して出していただきたいというふうに思いますけれども、大臣、いかがでしょうか。

○三原国務大臣

開札調書に係る資料につきましては、こども家庭庁として、行政機関の保有する情報の公開に関する法律の考え方にのっとり、企業の競争上の地位等に関する事項等についての公表を控える必要があるため、三月十一日に、一部黒塗りをして事務方から議員に提出したものと承知をしております。
予定価格や低入札価格につきましては、同種の他の契約の予定価格等を類推されるおそれがあること、落札事業者以外の入札事業者名につきましては、企業の競争上の地位その他正当な利益を害するおそれがあることから、開示できないと考えてございます。

○本村伸子

例えば、最高裁のシステムに関するそうした入札調書を見てみますと、同じようにＮＴＴデータですとか野村総研なども入札をしておりますが、予定価格、そして、どのように入札価格を出したかというところもしっかりと開示をされております。情報開示はしっかりとやっていただきたいということを重ねてお願いを申し上げたいと思います。
委員長、是非、黒塗りを外して資料を出していただくということを委員会として求めていただきたいと思いますが、いかがでしょうか。

○谷委員長

後日、理事会で協議させていただきます。

○本村伸子

よろしくお願いいたします。
資料二、三の、こども家庭庁の、児童相談所におけるＡＩを活用した緊急性の判断に資する全国統一のツール開発に係る仕様書等作成支援業務一式という業務は、野村総研が受注をしております。こうした仕様書などの検討に当たっては、識者の方によれば、開発前に実現可能性を吟味し、綿密に制度設計をしなければうまくいかないという指摘があります。
今回の仕様書等の話なんですけれども、開発前の実現可能性の吟味、そして綿密な制度設計、仕様書など、適切だったのかという疑義もございます。大臣は適切だったとお考えでしょうか。

○三原国務大臣

委員御指摘のとおり、ＡＩツールの開発に当たりましては、開発の構想段階から先行事例や関連する研究等を収集、検討した上で、必要となる機能等を定めて実現可能性を踏まえた開発プロセスを計画しておくこと、これは大変重要だと考えております。
このため、今般のＡＩツールの開発に先立ち、ＡＩ領域や児童福祉分野の有識者や児童相談所職員の参画を得て、一時保護の必要性を判断するための要素であるアセスメント項目や全国の実態調査を基にした幅広く活用が見込めるツールに求められる機能に関して、システム設計を行う上で必要な調査研究等を進めてまいりました。
これらの調査研究結果を基に、仕様、設計においても、各自治体間の運用実態の違い等も踏まえつつ、都道府県等の業務フローやアセスメント項目に対応できるツールとして、実際の活用場面を想定しながら進めてまいりました。
こども家庭庁といたしましては、今回のＡＩツール開発における制度設計、開発工程等については、適切であったものと考えてございます。

○本村伸子

これだけのお金を使っても導入はできなかったというところでありまして、やはり、元々の制度設計ですとか、あるいは仕様書の問題もあるのではないかというふうに思います。
児童虐待対応に関わるＡＩを開発をされた方が、先ほども申し上げましたように、ＡＩの結果が逆に子供を危険にさらす可能性もあるというふうに言っている中で、どこまでお金をつぎ込むのかという問題がございます。
本質的には、ＡＩを使ったとしても、職員の方がしっかり専門性を持って判断しなければならないわけですから、児童福祉司を始め職員体制を増やし、専門性を高めること、職員が定着をしていく、育成をしていくということこそ必要なんだというふうに思いますけれども、大臣、御見解を伺いたいと思います。

○三原国務大臣

児童相談所における一時保護判断に資するＡＩツール、全国に提供するツールであることも踏まえますと、現在の判定精度では十分ではなく、更なる改良が必要と判断をいたしまして、現時点でのリリースを延期したものでございます。
今般のＡＩツールにおきましては、事前に定められた一定の項目に該当するか否かのみで一時保護の判断をすることの難しさゆえに精度が十分でなかったものと考えておりますが、開発を開始した数年前と比較して、ＡＩ技術の大幅な進化もあり、今後、児童に関する記録に記載されている文字情報等を学習できるＡＩ技術が確立されることも期待されるところでございます。
また、令和六年度補正予算においては、ＡＩを活用し、面談等での音声情報をテキスト化するとともに、児童相談所にとって活用しやすい形式に沿って要約を行うことを目指しており、これによって、記録の業務を軽減し、業務の効率化を図られるものと考えております。
このように、ＡＩの活用は、児童相談所で行う複雑なケースワークを多面的に支援するものとして有用であると考えており、今後もＡＩの活用を含めた児童相談所業務におけるデジタル技術の利活用についても検討してまいりたいというふうに考えております。
そして、委員がおっしゃるように、ＡＩのツールはあくまで業務を支援するためのツールであって、過度に頼り過ぎることのないように、そこは徹底してまいりたいと考えております。

○本村伸子

職員の方々の専門性を高めていただく、そして育成、そして増員というものが決定的に大切なのだというふうに考えております。
それで、二〇二二年十二月に策定をいたしました新たな児童虐待防止対策体制総合強化プランでは、二〇二四年度末までに千六十人児童福祉司を増員して六千八百五十人とすることを目標としておりました。しかし、二〇二四年度、最終年度ですけれども、六千四百八十二人という見込みでありまして、目標に達していない現実がございます。その原因は様々ありまして、定年以外で辞める方が多いというふうに伺っております。

資料五を見ていただきますと、今後の目標なども出されておりまして、今度、児童虐待の一時保護に関しまして司法審査が入るということもありまして、今後二年間で九百十人増員を図っていくという計画になっております。しかし、そういう目標を持ってもなかなか目標を達していないというのが今の現実です。どうやって児童福祉司さんを増やしていくか、定着していくかという問題があるというふうに思います。
現場の児童福祉司さんに、何人かの方々にお話も伺ってまいりました。増員というのは基本的に必要なんだけれども、次々と辞めてしまっている現実がある。あるいは、ほかの部署に異動を希望するという方が相次いでいるという現実がある。定着にももっと力を入れてほしいというのが現場の児童福祉司さんのお声でした。
実体験のお話として伺ったんですけれども、ベテランの方に新しく入った方が一、二年同行して、日常的に気軽に相談をでき、コミュニケーションが取れるようにすることが職員の方々が機微にわたっていろいろ理解していくことにもつながりますし、育成にもつながっていく。ベテランの方に同行する、一緒にいるということが職員の育成に効果を発揮して、定着率もそういうケースは上がっているというのが現場の実態であるというふうなお話もお伺いをいたしました。
子供さんからお話を聞くと、同じように心理的な問題とか、お話を聞く職員といえば家庭裁判所の調査官がいるわけですけれども、家庭裁判所の調査官というのは育成に二年かかるというふうに言われております。しかし、児童相談所の児童福祉司の皆さんの育成というのは、私が見るとかなり位置づけられていないな、地元の自治体を見てもなかなか体系的になっていない、現場任せになっているというふうに思っております。
そういう中で、地元の自治体では、入職をして三か月ぐらいは少し手厚いものがあるそうなんですけれども、そして三か月後にはある地域を任されてしまって、全て三か月たった新人の方が判断しなければいけないという現実があるそうです。ベテランの方々もいらっしゃるんだけれども、新人の方には余りケースが少ない、重くない地域というのをお任せになって、そしてベテランの方はやはり重いケースが多い地域を任せられているので、ベテランの皆さんもスーパーバイザーと言われる方々ですけれども、もう本当に忙しい現実がある。そういう中で、相談もできない、心が折れてしまう、そして児童相談所を辞める、こういう現状を改善していかなければならないというふうに思っております。
家庭裁判所の調査官は、先ほども申し上げましたように、二年育成にかかるというふうに言われております。その育成手法も視野に入れながら、児童福祉司の育成計画を国としてもちゃんと体系的につくって進めるべきだというふうに考えますけれども、大臣、御見解を伺いたいと思います。

○谷委員長

三原大臣、時間が経過していますので、簡潔にお願いします。

○三原国務大臣

御提案ありがとうございます。
児童福祉司は各都道府県によって採用された職員であるため、都道府県において児童福祉法に定める児童福祉司任用前の講習ですとか、その後の研修ですとか、法定研修を実施するほか、各児童相談所において計画的な育成を図る観点から、様々な取組が行われております。
こども家庭庁におきましても、今まで職員のメンタルヘルスケア、様々な形で取り組んでまいりましたけれども、加えて、今年度からは、新たに人材確保、定着を強化する観点から、児童福祉司同士が仕事の悩みを相談したり意見交換する場を提供するピアサポート等の人材定着支援事業を始めたところでございます。
この事業に関しまして、大変好評をいただいております。こうしたことを引き続き、現場の声を聞きながら、支援に取り組んでまいりたいと思っております。

○本村伸子

国としても、継続して働けるように体系的な育成計画を立てていただきたいということを強く求め、質問を終わらせていただきます。
ありがとうございました。

すべて表示