【実用化困難】こども家庭庁「虐待判定ＡＩに１０億円かけたけど、ミス６割だから導入断念します。約５０００件のデータじゃ足りなかったよ」→ 批判殺到…

2025年3月3日 2025年3月3日［文・構成＝S編集部］

報道の詳細

【読売新聞】　虐待が疑われる子どもの一時保護を巡り、人工知能（ＡＩ）にその必要性を判定させ …詳細

AIによる児童虐待判定の課題

児童虐待の判断は、単純な数値やデータだけで決められるものではなく、子どもの証言や保護者の態度、家庭環境など多くの要素を考慮する必要があります。

AIは過去のデータを基に判定するため、新たなケースや個別の事情を考慮することが難しく、適切な判断を下せないケースが発生しやすいと指摘されています。

また、虐待の兆候は多様であり、例えば心理的虐待やネグレクト（育児放棄）など、目に見えにくい事例ではAIの判断がより困難になります。

このような複雑な状況を的確に捉えるには、AIだけに頼るのではなく、専門家の経験や判断が不可欠です。

AI技術の進歩に伴い、行政分野でもAIの導入が進んでいます。しかし、今回のように十分な検証が行われないまま導入を進めた結果、失敗に終わるケースも少なくありません。

専門家は「AIを活用する前に、その技術が適用可能かどうかを慎重に検討するべき」と指摘しており、特に人命に関わる分野では慎重な対応が求められます。

ネットユーザーからは以下のような意見が寄せられています。

■じゅん子更迭で。責任者なんだから責任は取らせなければですね(-∀-｀)

■やっぱ子ども家庭庁無駄金多いわ

■ミス6割って… 虐待は無数の変数が絡むのにたった5,000件のデータでまともな判定ができると本気で考えていたなら、開発陣の頭の中を疑うこんなんなら10億円で専門家を雇って調査した方がよっぽど良かった訳で、子ども家庭庁は謝罪ときちんとした説明が必要

■最終的なのは、人間です

■う〜ん。確かにやってみないと成果の程はわからないけど10億円ってどうなのよ。「こんなん出ましたけど〜」”アハハ！使えないね〜”で終わり？

■プログラムだから修正すればいいとは思うけど、１０億かけてこれかと思うと失望の方が強いな。これ修正せずに１０億おじゃんならそれなりの責任を取るべきだよね。「恥を知りなさい」大臣

■その金で人材育成に少しでも使った方が…

児相の人手不足は深刻な問題であり、虐待対応の迅速化が求められています。

AIの導入が難しい場合でも、専門家の判断を補助するシステムや、事務作業の効率化を図るツールの開発など、現場の負担を軽減するための取り組みが必要です。

AI技術は日々進化していますが、導入の際には慎重な検証が不可欠です。

特に、児童虐待のような複雑な問題では、AIの精度だけでなく、倫理的な観点からの検討も求められます。今後も技術の進展を見守りつつ、適切な形での活用が模索されるべきでしょう。