「ハンナムチュン」削除して「キムチニョ」は置く理由?フェイスブック、AIを活用したコミュニティ政策の紹介
嫌悪発言、AI活用して1次削除…曖昧な場合、人が判断
特定国家の嫌悪が明白な「ハンナムチュン・チョッパリ」は削除…「キムチニョ」は私見が混じって判断が難しい

양정미 기자

登録 : 2019-11-29 17:47 | 修正 : 2019-11-29 17:47

[写真=Facebook提供(フェイスブックコリアのユ・ドンヨン コンテンツ政策マネージャー)]


フェイスブックが人工知能(AI)技術を活用して、テロ、不法武器取引、薬品取引、嫌悪発言を自動検出・削除していると強調した。

29日、業界によると、フェイスブックは28日、ソウル江南区駅三洞フェイスブックコリア社屋で記者懇談会を開催し、第2〜3四半期のコミュニティ規定執行報告書」に関連する内容を説明した。

これによると、フェイスブックは過去5年間AI技術の継続的な投資を断行し、違法コンテンツ感知と削除率を高めた。特に嫌悪発言の検出能力を集中向上し、前四半期の削除率68%に比べ大幅に改善された80%を記録した。これはAIが嫌悪発言で共通的に発見される文字列やイメージを学習した後、利用者が掲載したすべての掲示物をモニタリングする方式で進められる。

しかし、AIが嫌悪発言かどうかを判断するのが難しい場合が多く、人が直接判断を下す場合も多い。

代表的な事例が「ハンナムチュン(韓男虫)」と「キムチニョ(キムチ女)」だ。過去フェイスブックではハンナムチュンは自動的に削除されたが、キムチニョは残っていて論議を呼んだりもした。

フェイスブックコリアのユ・ドンヨン コンテンツ政策マネージャーは、「嫌悪発言は掲示物のニュアンスと脈絡を把握することが重要であるため、全面的にAIだけを依存することはできない」とし、「ハンナムチュンは、韓国という国籍を土台にした嫌悪発言であるため規定に基づいて削除措置し、キムチニョは掲示者の主観的な意見によって定義された概念なので削除しなかった」と説明した。類似の事例で「チョッパリ」のように、日本国籍を非難することをフェイスブックが削除したケースがある。

続いてユマネージャーは「フェイスブックはAIを活用して児童ポルノ、違法な武器、麻薬取引など反人倫的な犯罪を95%以上の高い事前感知率で遮断している」とし、「全世界で1万5000人余りのモニタリング担当者がAIとともに不法掲示物を365日24時間モニタリングしている」と伝えた。
top