人工知能（AI）はSNS炎上の有効な防護壁になるかもしれない
自動運転技術や人工知能（AI）を用いたビッグデータ活用など、ここ2、3年で人工知能（AI）が本格的にビジネスソリューションに活用される機会が増えています。ことSNSでは、炎上に対する有効な対策ができるとして、開発・普及が進められています。
従来の炎上対策では、全てのスパムコメントをブロックしきれない
SNSやサイトで発生した炎上を鎮火させるのは現在でも根本的解決が難しく、運用担当者が頭を悩ませる問題の一つといえるでしょう。一般的に炎上対策として使われる方法が、批判的なコメントを自動フィルタリングで非表示あるいは削除するというもの。しかし、この方法ではフィルタリングの条件に該当しない中傷・スパムコメントは弾かれることなく、残ってしまいます。
フィルタリングをするのも加減が難しく、文脈を汲まずにただネガティブワードを弾いてしまうと、ユーザーからは「言論の自由を制限している」と叩かれる原因となり、反対に炎上の火種を作ってしまいます。文脈を読んだ上で、本当に非表示あるいは削除すべきコメントか判断しないといけません。そうなると、必然的に目視チェックが必要になるのですが、到底、人力では追いつかないのが現状です。
議論の流れを汲みつつ、コメントの質を判別できる人工知能（AI）が登場
実は、SNSの炎上を監視する人工知能（AI）は、すでに存在しています。ITベンチャー企業の「クーロン」が開発した「QuACS（クアックス）」です。「QuACS（クアックス）」は、文脈から誹謗中傷や名誉を毀損する悪意のあるコメントがどうかを判断することが可能です。さらに情報を吸収し、パターンを学習します。これが広く普及していけば、導入企業にとっては不必要なイメージダウンを避けることができますし、炎上対策に時間を割くことなく、本丸の業務に注力できるようになるでしょう。
「管理しすぎる」ことに注意すべき
確かに、企業にとって不要な炎上は避けたいもの。
だからといって、人工知能（AI）で批判的なコメントを管理しすぎることは、批判的なユーザーの生の声を聞けなくなるという弊害もあります。厳しく取り締まりすぎると、事業やサービスにおける問題点、課題点に気づけずに、独りよがりになってしまうかもしれません。
