虐待は子供たちにとって深刻な身体的、心理的な影響をもたらす問題です。虐待されていることに気づかれず、苦しんでいる子供たちが世の中にまいます。
そんな子供たちを救うため、AI（人工知能）予測が虐待予防に役立てられるとされています。
AIによる虐待予測システムは、過去の虐待事例をもとに、虐待の確率を予測することで、虐待で苦しんでいる子供たちを救うことが目的です。
このシステムにより、虐待の早期発見・早期対応が可能になります。
児童相談所職員は、虐待の有無を判断する際に、多くの情報を収集し、総合的に判断する必要があります。
AIによる虐待予測システムは、過去の事例を基に予測データを出すため、児童相談所職員の判断を支援することができ、判断の一貫性が高まります。
AIにおける虐待の予測の精度を上げるためには、機械学習を繰り返し行うことが重要です。
パターンの同じ事象もあれば、新たな事象も発生する場合もあり、新たな事象が発生した場合は虐待と判断されない可能性もあります。
そのため、機械学習を怠らずに続ける必要があります。
最近のニュースでは、虐待と誤認された事案があります。
こちらは、人の判断によって虐待があるとされていたものですので、AIでも同じことが起きる場合もあります。
たった1回のちょっとした不注意や事故などによってケガをしてしまう場合に、虐待の疑いをかけられると親も子供も不幸になります。
虐待の事例だけではなく、虐待と判断しなかった事例も機械学習することが重要になってきます。
AIはデータをもとに虐待の予測を行うため、人間の感情を絡めた判断はできません。
AIのデータをもとに、人が慎重かつ的確な意思決定を行う必要があります。すべてをAIに任せず適材適所の対応をしていくことが、虐待の被害を減らす1歩になります。
最近でも、AIが導き出した虐待の可能性が低いという情報を鵜呑みにして、対応が遅れてしまった事例があります。
虐待の可能性が低いという予測であっても、虐待がある可能性が少しからずあるということであれば、最低限確認することが大事になります。
三重県の児童相談所では全国に先駆けてAIを活用した虐待対策を行っています。
新規相談を受けた際は、年齢や性別などの基本情報と虐待リスクのアセスメントデータをアプリで入力すると、虐待の重篤度、一時保護の必要性、再発率などの指標を瞬時に予測します。
AI活用の大前提は、最終判断は人が行い丁寧な対応をするということです。
これにより、1つの虐待事案への対応日数が半分の100日程度になるケースも報告され、虐待の早期解決と職員の負担軽減に繋がっているそうです。
三重県の事例から、虐待対策にAI予測が大きく役立っていることが分かります。
ただし、相談を受けてからAIに情報を入力するという流れのため、周りの大人たちが子供たちの異変に気付く必要があります。見逃された子供たちの異変はAIに情報入力されないため感知はできません。
AIのメリットやリスクを把握し、利用する側が予測データをもとに丁寧な対応をしていくことが重要です。
2023年4月に発足した「こども家庭庁」でも虐待防止にAIを活用する方針を決めているため、AIによる虐待対策がより注目されるようになるでしょう。
AIさくらさん（澁谷さくら）
ChatGPTや生成AIなど最新AI技術で、DX推進チームを柔軟にサポート。5分野のAI関連特許、品質保証・クラウドセキュリティISOなどで高品質を約束します。御社の業務内容に合わせて短期間で独自カスタマイズ・個別チューニングしたサービスを納品。登録・チューニングは完全自動対応で、運用時のメンテナンスにも手間が一切かかりません。
