人工知能で"荒れない"コメント欄--「議論の場」醸成めざしメディアに無料提供（CNET Japan） - Yahoo!ニュース http://t.co/owQlu2ad4n
— 不破雷蔵(懐中時計) (@Fuwarin) 2015, 7月 7クーロン、世界初の人工知能を搭載したコメントシステム 「QuACS」のリリースを開始 http://t.co/PFuIxieTVK pic.twitter.com/46SZBEFeGR
— 不破雷蔵(懐中時計) (@Fuwarin) 2015, 7月 7
ウェブサイトに数行のJavaScriptコードを埋め込むことで、読者が記事の内容に対して意見や感想を匿名でコメントできるようになる。コメントに含まれる言葉や文章の意味を人工知能が解析し、誹謗（ひぼう）中傷や罵詈（ばり）雑言、差別用語、違法取り引き、人権侵害、出会い目的、公序良俗に反する内容である場合に、自動でフィルタリングして表示しないようにする。
ブログサービスで提供されるコメント機能では、システム側による強制的、あるいは管理者によって設定できるNGワードのようなフィルタリング機能が設けられている。コメントにはどうしても内容的に掲載してはいけないもの、雰囲気として好まれないもの、そして自動的に送り込まれるスパム的な書込みなどがあるため、それを逐次処理していかないと、あっという間に回収車がやってこないゴミ集積場のような状態となってしまう。
他方、単純なNGワードによるコメントの制限では、その制限ワードが利用者、あるいは管理者にも分からないこともあるので不自由さを覚えたり(こんなものが制限されてるの? 的なものも多いし、何の関係も無い言葉の中にキーワードが含まれているため投稿できないこともある)、NGワードを避ける形での暗号的な言葉が使われるのでいたちごっことなってしまうこともある。
で、今件の機能では、文脈までを精査してNGとすべきか否かを判断しているという。恐らくはベイズ理論的なものを使って、逐次結果に対してシステム側が精査して教育を行わせ、賢いものとしていくのだろう。さすがに完全自動による教育学習は難しいんじゃないかな。
一方で、NG判定がされても書込みした本人には見えるけれど、第三者には見えなくするって仕組みは実に賢い。ああ、その発想は無かったわ的な感がある。前後の流れを読めば「自分の投稿はオープンにされていない」ってが分かってしまうかもしれないけれど、粘着系の荒らしで無い限り、そこまでは判断できないはず。
問題はビジネスモデル。説明では広告収入によるものとしているようだけど、それで採算が採れるのかな。精度が高ければ導入するところも増えてきそうだけど......。また、このタイプの仕組みってグーグルあたりが好きそうだよね。
執筆:
コメントする