メディア運営における「児童ポルノ」対策について

少し前にGoogleがGmailの中身をチェックしているのでは、というニュースが国内でも報道されました。

 

Gmailで児童ポルノを送信したと判断してGoogleが当局に通報、送信者逮捕(2014年8月5日:gigazine)

http://gigazine.net/news/20140805-google-cyber-tip/

 

Gmail,児童ポルノ,Google,通報,逮捕

記事の内容をシンプルにまとめると、Gmailを利用して児童ポルノに該当する「画像」を送ったことを検知したGoogleが関連機関に通報した、ということのようです。GoogleがGmailの中身を解析しているのは結構知られたことだとは思いますが、児童ポルノのパトロールの仕組みを取り入れていたことには驚きました。

どのような技術で解析しているのか、詳細は報道されていませんが、恐らく何らかの画像識別技術、画像アノテーション技術などの組み合わせだと思います。

今回は「メールの中身を解析する」と法的にもユーザー心理的にもナイーブな箇所ではありますが、インターネットメディア(特にユーザーが何かしら投稿できる機能のあるメディア)では、コンテンツの中にそういったものが含まれていないか、という観点でのパトロールは長年行われてきました。

弊社でも10年以上そこに取り組んでおり、最近、人工知能を活用した自動画像・動画フィルタをリリースしたところです。

 

イー・ガーディアンと東京大学が産学連携 ~児童ポルノ、著作権侵害などの問題画像を自動で 発見できるシステムを監視業界初、提供開始~

 

技術的には「メール」に添付された画像の解析も可能です。8月以降、順次、導入実績等を発表できればと思っています。もし、インターネットメディア運営会社様でご興味のある方がいらっしゃいましたらぜひお問い合わせください。

 

-----

著者プロフィール:取締役 小田 志門  
小田 志門 イー・ガーディアン
Facebook : https://www.facebook.com/shimon.odaa
2003年関西大学社会学部卒。2003年よりイー・ガーディアンの前身の会社にて営業に従事。2013年10月より新しく発足した事業企画部にて、事業開発・サービス開発部門と、イー・ガーディアン自身のマーケティング部門のディレクションを実施。実際に新規事業に繋がる案件や協業先の発掘から、独自サービスの開発・マーケティングをメインに担当。 

 

Topics: お知らせ, 事例, リベンジポルノ

お問い合わせ・お見積もりはこちらからどうぞ

  • TEL
  • 0120-665-046
  • FAX
  • 03-5575-0621
[受付時間]
平日 10:00〜18:00

各種サービス資料の入手、
依頼内容などをご相談したい方

 資料請求

各種サービスの導入・提案を
ご希望の方

 見積依頼

広報・IR・採用・その他に
関するご相談

 お問い合わせ