ソーシャルメディアなどに投稿された文章から、ヘイトスピーチや暴言を検出する機械学習メソッドが開発されている。ソーシャルメディアへの反社会的な書き込みは、時に争いに発展したり、極端な場合にはテロリストの犯行予告の場所にもなり得る。
このメソッドでは、自然言語プロセシングをベースにコンピュータが話し言葉や書き言葉の理解能力を高め、プラットフォームに組み込むと、自動または半自動的に対象となり得る投稿やユーザーに対し警告を発することができる。