10億円かけた「虐待判定AI」、こども家庭庁が導入断念… ミス6割で精度が低く「実用化困難」⇒ ネットの反応「学習データ少なすぎ」「そもそも子ども家庭庁が必要ないだろ」「子ども家庭庁を解体して水道管直そうぜ」

まずは、クリックのご協力をお願いします
 ↓↓↓m(__)m
 にほんブログ村 政治ブログへ




10億円かけた虐待判定AI、こども家庭庁が導入断念…ミス6割で「実用化困難」

虐待が疑われる子どもの一時保護を巡り、人工知能(AI)にその必要性を判定させるシステムについて、こども家庭庁が導入見送りを決めたことがわかった。国が2021年度から約10億円をかけて開発を進め、最終的な判断を下す児童相談所の職員を補助する役割が期待されていたが、テスト段階で判定ミスが6割に上った。AIは虐待の判断にはなじまず、実用化は困難と結論付けた。

 同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したAIに約5000件の虐待記録を学習させた。傷の有無や部位、保護者の態度など91項目に情報を入力すると、虐待の可能性が0~100の点数で表示される。

 試作モデルがほぼ完成し、今年度に計10自治体の児相に協力してもらい、過去の虐待事例100件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、100件中62件で「著しく低い」などの疑義が生じたという。

 ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「2~3」だった。あざなどがなかったためとみられる。

 同庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留して見送りを決定。AIの発展状況を見ながら、再開するかどうかも含め検討するという。

 開発が頓挫した理由について、複数の専門家は、事例ごとに態様が異なる虐待をAIが高精度で判定することの難しさを指摘する。AIの学習には膨大な量の記録が必要だが、今回の約5000件では少なかったとも分析している。

 同庁関係者は「子どもの体重減少といった重要な項目が抜け落ちていた」と説明。また、91項目には該当の有無を入力するだけで、ケガがあった場合でもその程度や範囲まで記入する仕組みにはなっておらず、精度が低くなったとしている。

 国立情報学研究所の佐藤一郎教授は「AIは何でもできる『魔法の 杖つえ 』ではない。開発前に実現可能性を吟味し、綿密に制度設計しなければうまくいかない。AIの活用は官公庁でも進むとみられるが、今回の失敗を他省庁や自治体とも共有し、今後に生かす必要がある」と指摘する。

 ◆ 一時保護 =児童福祉法に基づき、虐待などが疑われる18歳未満の子どもについて、児童相談所の判断で家庭から引き離す措置。期間は原則2か月以内で、2022年度の虐待による一時保護件数は2万9860件。こども家庭庁によると、同年度に全国の児相が虐待の相談を受けて対応した件数は、過去最多の21万4843件だった。(以下有料版で,残り:529文字)

読売新聞 2025/03/03 05:00
https://news.yahoo.co.jp/articles/2e93e428378fcb71b80fb0aa5bd1d4b5606fe0d7





関連ポスト

管理人
ネットの反応
名無し
データ不足なだけじゃないの?
名無し
センシティブな問題だからねぇ。子供の証言と外観だけで判別に必要なデータが取れるか疑問
1+n=m の等式が成り立つとき、mの値を求めよみたいなもんや
名無し
お前ら知らないかもしれんが
オリンピック用アプリも国を挙げて作ると騒ぎ73億円も注ぎ込むも最終的にアプリの開発は中止。中抜きしすぎて海外なら中学生でも作れるものも作れなかった。
名無し
子供は正直に嘘を付くんですよ
人にしか出来ない事もあるんです
名無し
まぁ無理だよね
AIにみんな期待しすぎてると思う
名無し
実用までいけるかはともかくまともに作れば6割外れなんてことはない
名無し
学習データが少なすぎただけ
名無し
子供家庭庁を解体して水道管直そうぜ
名無し
AIは育てないと
名無し
そもそもこども家庭庁自体が天下りNPOや統一に税金を横流しするためのシステム。男女共同参画のおかわり
名無し
AIを使わずに人が判定しても6割ミスして子供を見殺しにしてるやろw
名無し
そもそも子ども家庭庁が必要ないだろ




楽天市場