少し前にGoogleがGmailの中身をチェックしているのでは、というニュースが国内でも報道されました。

 

Gmailで児童ポルノを送信したと判断してGoogleが当局に通報、送信者逮捕(2014年8月5日:gigazine)

http://gigazine.net/news/20140805-google-cyber-tip/

 

Gmail,児童ポルノ,Google,通報,逮捕

記事の内容をシンプルにまとめると、Gmailを利用して児童ポルノに該当する「画像」を送ったことを検知したGoogleが関連機関に通報した、ということのようです。GoogleがGmailの中身を解析しているのは結構知られたことだとは思いますが、児童ポルノのパトロールの仕組みを取り入れていたことには驚きました。

どのような技術で解析しているのか、詳細は報道されていませんが、恐らく何らかの画像識別技術、画像アノテーション技術などの組み合わせだと思います。

今回は「メールの中身を解析する」と法的にもユーザー心理的にもナイーブな箇所ではありますが、インターネットメディア(特にユーザーが何かしら投稿できる機能のあるメディア)では、コンテンツの中にそういったものが含まれていないか、という観点でのパトロールは長年行われてきました。

弊社でも10年以上そこに取り組んでおり、最近、人工知能を活用した自動画像・動画フィルタをリリースしたところです。

 

イー・ガーディアンと東京大学が産学連携 ~児童ポルノ、著作権侵害などの問題画像を自動で 発見できるシステムを監視業界初、提供開始~

 

技術的には「メール」に添付された画像の解析も可能です。8月以降、順次、導入実績等を発表できればと思っています。もし、インターネットメディア運営会社様でご興味のある方がいらっしゃいましたらぜひお問い合わせください。