SNS上に関連した犯罪から子どもたちを守りたい！AIを活用したサイバーパトロール

採択企業: 株式会社 Spectee

Point

解決したい課題

SNS上に書き込まれた違法・有害情報についてAIを利用して効率良く抽出する

想定する実証実験

AIを利用した検索ツールで、対象となる書き込みを効率よく発見し、多くの注意喚起を行うことで子供の性被害防止に繋げる

Story

SNS利用に起因した犯罪被害の増加

全国的にSNS利用に起因した犯罪被害児童数の増加傾向が続いている状況の中、令和元年6月からSNS上の児童買春等を誘引する書き込みに対して、兵庫県警少年課の公式アカウントから直接注意喚起のメッセージを送信する取組を開始しました。

SNSに起因した犯罪被害とは、児童福祉法違反、青少年愛護条例違反、児童買春・児童ポルノ法違反、重要犯罪等（殺人、強制性交等、略取誘拐、強制わいせつ、逮捕監禁等）などがあります。

注意喚起をしてもアカウントを変えられ、いたちごっこに・・

こうした背景の中、警察官が端末を利用し、最も被害の多いTwitterで「パパ活、JK、援交」等の用語を用いて検索。児童買春等の犯罪被害に繋がるおそれのある書き込みをしている児童と思われる者や児童の性被害を誘引している者に対して直接メッセージを送り、注意喚起を実施しています。

しかし、注意喚起をしても新しい隠語が次々と出てきたり、アカウントを変えられたりと、いたちごっこの状態になっています。

実現したい未来

子供自身の被害防止と、子供の書き込みを見て子供を犯罪に巻き込もうとする大人を止めることで、子供の性被害を減少させ、全ての子供や家族が安心して生活できる環境を作ること

得られるもの

SNS上では、様々な情報が存在しており、必要な情報を自動で検索でき、検索内容をカスタマイズできるツールは、行政機関のみならず各企業においても自社製品の評価等検索にも利用できる

Outline

背景	令和元年から子供の性被害防止対策として、SNS上の児童買春等を誘引する書き込みに対する注意喚起メッセージを送信する取組を開始したが、現在は、手作業で検索用語を入力することによるサイバーパトロールで、対象となる書き込みを発見し、メッセージを送信している。 AI等を利用したツールを利用することで、検索に要する時間を短縮し、同じ時間で注意喚起メッセージを送信できる件数が増えれば、性被害に遭う子供の減少に繋げることができ、又は他の業務に割り当てる時間を増やすことができる。
課題（詳細）	インターネットやスマートフォンの利用が普及し、SNSを利用する小・中・高校生が増加したことで、SNSを出会いの場として児童買春等を誘引する書き込みが多数見受けられるようになり、SNS利用に起因した子供の性被害が増加傾向にある。この対策として、児童買春等を誘引する書き込みに対して、県警少年課公式アカウントから注意喚起メッセージを送信しているが、現在は手作業で用語の入力、不適切な投稿の発見のサイバーパトロールを実施している。この作業についてAI等を利用した検索ツールにより、対象の書き込みを自動検索し、検索された内容を確認した上、注意喚起メッセージ送信の必要性を警察官が判断し、ワンタッチで準備している定型文の注意喚起メッセージを送信できることで、多くの被害防止と他の業務に割り当てる時間の確保が可能となる。
求める解決策	AIを活用した検索システム・用語のカスタマイズが容易にでき、他の業務にも利用することができる汎用性のあるもの・検索から発見した不適切な投稿に対して、定型文メッセージの送信作業が可能なもの・検索結果件数やメッセージ送信件数、アカウント名、対象となる文書抽出等の統計作業が可能なもの
想定する実証実験内容（詳細）	AIの検索システムを活用し、ツイッター上で対象となる書き込みを見つけ出す。対象となる書き込みとアカウントをリスト化し、警察官による確認を行ったのちに注意喚起メッセージを送信する。これまでサイバーパトロールに要していた時間で、対象になると思われる書き込みを抽出し、その書き込みが送信対象である割合と送信件数がどれだけ増加するか、AIの学習能力が対応できるかを実証する。
実証実験成功後の発展性	当課で現在運用している児童買春等を誘引する書き込みに対する注意喚起メッセージの送信業務以外にも、特殊詐欺に加担する者を誘引する書き込みに対する注意喚起メッセージの送信業務、その他違法・有害情報に関する検索等に活用することが可能であると考えているほか、同様の取組は他府県警察でも実施しているため、本プロジェクトで有効なシステムが開発されれば導入を検討する府県もあると考えられ、顧客の拡大が想定される。汎用性のあるものの開発ができれば、行政機関のみならず一般企業においても導入が検討されるシステムである。
提案企業に求める専門性	単純な検索機能ではなく、学習機能（ＡＩ）が備わったシステムを構築できること
プロジェクトの進め方打合せ方法	打合せは、できるだけ対面で実施することを希望
提供可能なデータ・環境等	過去の例、対象となる隠語など
プログラム終了後の本格導入	必要なシステムであると考えているため、本格導入については考えている予算要求は行う予定であるが、予算化される可能性が不透明