10億円投じた虐待判定AI、こども家庭庁が導入断念　ミス6割で実用化困難

こども家庭庁は、虐待が疑われる子どもの一時保護の必要性を人工知能（AI）で判定するシステムの導入を見送る決定を下した。2021年度から約10億円を投じて開発を進めていたが、テスト段階で判定ミスが約6割に上り、実用化は困難と結論付けた。

AIシステム開発の背景と目的

全国の児童相談所（児相）の慢性的な人手不足を補うため、こども家庭庁はAIを活用した虐待判定システムの開発を進めていた。このシステムは、約5000件の虐待記録を学習させ、傷の有無や部位、保護者の態度など91項目の情報を入力すると、虐待の可能性を0～100の点数で表示する仕組みだった。

テスト結果と導入見送りの決定

試作モデルがほぼ完成し、今年度に10自治体の児相に協力を依頼し、過去の虐待事例100件のリスクを判定する検証を実施。その結果、100件中62件で「著しく低い」などの疑義が生じた。例えば、子どもが「母に半殺し以上のことをされた」と証言し、「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「2～3」だった。これは、あざなどの外傷がなかったためとみられる。

この結果を受け、こども家庭庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留し、導入見送りを決定した。今後はAIの発展状況を見ながら、再開するかどうかも含め検討するという。

専門家の指摘と今後の課題

複数の専門家は、事例ごとに態様が異なる虐待をAIが高精度で判定することの難しさを指摘している。また、AIの学習には膨大な量の記録が必要だが、今回の約5000件では少なかったとも分析している。さらに、重要な項目の抜け落ちや、入力方式の限界も精度低下の要因とされている。

国立情報学研究所の佐藤一郎教授は、「AIは何でもできる『魔法の杖』ではない。開発前に実現可能性を吟味し、綿密に制度設計しなければうまくいかない。AIの活用は官公庁でも進むとみられるが、今回の失敗を他省庁や自治体とも共有し、今後に生かす必要がある」と指摘している。

今回の導入見送りは、AI活用の限界と課題を浮き彫りにした。今後、児童虐待防止のための効果的な支援体制の構築が求められる。