Urban Innovation JAPAN


残り1

締 切

兵庫県警察本部少年課

SNS上に関連した犯罪から子どもたちを守りたい!AIを活用したサイバーパトロール

Point

解決したい課題

SNS上に書き込まれた違法・有害情報についてAIを利用して効率良く抽出する

想定する実証実験

AIを利用した検索ツールで、対象となる書き込みを効率よく発見し、多くの注意喚起を行うことで子供の性被害防止に繋げる

実現したい未来

子供自身の被害防止と、子供の書き込みを見て子供を犯罪に巻き込もうとする大人を止めることで、子供の性被害を減少させ、全ての子供や家族が安心して生活できる環境を作ること

得られるもの

SNS上では、様々な情報が存在しており、必要な情報を自動で検索でき、検索内容をカスタマイズできるツールは、行政機関のみならず各企業においても自社製品の評価等検索にも利用できる

Story

SNS利用に起因した犯罪被害の増加

全国的にSNS利用に起因した犯罪被害児童数の増加傾向が続いている状況の中、令和元年6月からSNS上の児童買春等を誘引する書き込みに対して、兵庫県警少年課の公式アカウントから直接注意喚起のメッセージを送信する取組を開始しました。


SNSに起因した犯罪被害とは、児童福祉法違反、青少年愛護条例違反、児童買春・児童ポルノ法違反、重要犯罪等(殺人、強制性交等、略取誘拐、強制わいせつ、逮捕監禁等)などがあります。

注意喚起をしてもアカウントを変えられ、いたちごっこに・・

こうした背景の中、警察官が端末を利用し、最も被害の多いTwitterで「パパ活、JK、援交」等の用語を用いて検索。児童買春等の犯罪被害に繋がるおそれのある書き込みをしている児童と思われる者や児童の性被害を誘引している者に対して直接メッセージを送り、注意喚起を実施しています。

しかし、注意喚起をしても新しい隠語が次々と出てきたり、アカウントを変えられたりと、いたちごっこの状態になっています。

最新の技術で効率的・正確なパトロールをし、被害を防ぎたい

検索した書き込みの内容を1件1件確認し、注意喚起が必要なものかを判断したのちに送信していますが、検索・内容確認・送信の手順を実施している中で、検索結果から注意喚起メッセージ送信に該当しない内容が多くあったりするため、検索に時間を要することが多々あります。


また、使用できる端末が1台しかなく、検索したアカウントを担当者1人が1件ずつ手作業で入力し確認をし、メッセージを送信するという地道な作業を繰り返しています・・

隠語などキーワード検索をし・・
注意喚起メッセージ送信が必要となるアカウント名を一つずつ書き出し、対象となるメッセージをそれぞれコピペし送信する

この時間的ロスを自動検索システム等の活用により減少させ、より多くの不適切な書き込みに対して注意喚起メッセージの送信を行えないかと考えています。

AI等の技術を使い対象者をリスト化し、注意喚起の件数を伸ばすことができれば、多くの子供たちの被害を未然に防ぐことに繋がります。
子供を犯罪から守る為の新しいご提案をお待ちしております!

READ MORE

Outline

背景

令和元年から子供の性被害防止対策として、SNS上の児童買春等を誘引する書き込みに対する注意喚起メッセージを送信する取組を開始したが、現在は、手作業で検索用語を入力することによるサイバーパトロールで、対象となる書き込みを発見し、メッセージを送信している。
AI等を利用したツールを利用することで、検索に要する時間を短縮し、同じ時間で注意喚起メッセージを送信できる件数が増えれば、性被害に遭う子供の減少に繋げることができ、又は他の業務に割り当てる時間を増やすことができる。

課題(詳細) インターネットやスマートフォンの利用が普及し、SNSを利用する小・中・高校生が増加したことで、SNSを出会いの場として児童買春等を誘引する書き込みが多数見受けられるようになり、SNS利用に起因した子供の性被害が増加傾向にある。

この対策として、児童買春等を誘引する書き込みに対して、県警少年課公式アカウントから注意喚起メッセージを送信しているが、現在は手作業で用語の入力、不適切な投稿の発見のサイバーパトロールを実施している。
この作業についてAI等を利用した検索ツールにより、対象の書き込みを自動検索し、検索された内容を確認した上、注意喚起メッセージ送信の必要性を警察官が判断し、ワンタッチで準備している定型文の注意喚起メッセージを送信できることで、多くの被害防止と他の業務に割り当てる時間の確保が可能となる。

求める解決策 AIを活用した検索システム
・用語のカスタマイズが容易にでき、他の業務にも利用することができる汎用性のあるもの
・検索から発見した不適切な投稿に対して、定型文メッセージの送信作業が可能なもの
・検索結果件数やメッセージ送信件数、アカウント名、対象となる文書抽出等の統計作業が可能なもの
想定する実証実験内容(詳細)

AIの検索システムを活用し、ツイッター上で対象となる書き込みを見つけ出す。
対象となる書き込みとアカウントをリスト化し、警察官による確認を行ったのちに注意喚起メッセージを送信する。
これまでサイバーパトロールに要していた時間で、対象になると思われる書き込みを抽出し、その書き込みが送信対象である割合と送信件数がどれだけ増加するか、AIの学習能力が対応できるかを実証する。

実証実験成功後の発展性

当課で現在運用している児童買春等を誘引する書き込みに対する注意喚起メッセージの送信業務以外にも、特殊詐欺に加担する者を誘引する書き込みに対する注意喚起メッセージの送信業務、その他違法・有害情報に関する検索等に活用することが可能であると考えているほか、同様の取組は他府県警察でも実施しているため、本プロジェクトで有効なシステムが開発されれば導入を検討する府県もあると考えられ、顧客の拡大が想定される。
汎用性のあるものの開発ができれば、行政機関のみならず一般企業においても導入が検討されるシステムである。

提案企業に求める専門性 単純な検索機能ではなく、学習機能(AI)が備わったシステムを構築できること
プロジェクトの進め方打合せ方法 打合せは、できるだけ対面で実施することを希望
提供可能なデータ・環境等 過去の例、対象となる隠語など
プログラム終了後の本格導入

必要なシステムであると考えているため、本格導入については考えている
予算要求は行う予定であるが、予算化される可能性が不透明

企業の方はコチラ

兵庫県の他の課題をみる