Мова ворожнечі, яка колись поширювалася лише під час особистого спілкування, сьогодні набула безпрецедентних масштабів завдяки анонімним онлайн-акаунтам, що ховаються за екранами комп’ютерів. В умовах, коли соціальні платформи лише підсилюють цю загрозу, Організація Об’єднаних Націй напередодні Міжнародного дня боротьби з розпалюванням ненависті, що відзначається 18 червня, наголошує на необхідності нових підходів. За визначенням ООН, розпалювання ненависті — це будь-яка комунікація, яка дискримінує людину чи групу осіб або закликає до насильства щодо них за ознаками раси, етнічного походження, релігії, статі, сексуальної орієнтації чи інвалідності. Це явище не обмежується лише словами: воно може проявлятися через зображення, карикатури, жести та навіть певні предмети.
Масштаби проблеми вражають: згідно зі спільним опитуванням 8000 респондентів у 16 країнах, проведеним у 2023 році, понад дві третини користувачів інтернету стикалися з мовою ворожнечі в мережі. Найчастіше мішенню стають представники ЛГБТКІ±спільноти, етнічні та расові меншини, а також жінки. Технологічні гіганти намагаються вирішувати цю проблему по-різному. Наприклад, компанія Meta наприкінці 2025 року почала видаляти значно менше дописів з ознаками ненависті порівняно з попереднім роком, відмовившись від активного автоматичного виявлення на користь скарг самих користувачів. Водночас TikTok звітує про високу ефективність, стверджуючи, що видаляє понад 96 відсотків такого контенту ще до отримання офіційних скарг.
Для фільтрації мільярдів повідомлень соціальні мережі дедалі частіше покладаються на великі мовні моделі та системи модерації на базі штучного інтелекту, які навчаються на попередньо розмічених наборах даних. Проте дослідження 2025 року, проведене вченими Пенсільванського університету, виявило суттєві недоліки цього підходу. Експерти оцінили сім популярних систем модерації від провідних розробників і з’ясували, що вони вкрай непослідовно виявляють та класифікують мову ворожнечі. Деякі моделі схильні позначати майже будь-який контент як вкрай ворожий, тоді як інші часто занижують рівень загрози, іноді видаючи оцінки, що вдвічі менші за показники конкурентів. Така різниця у результатах для одного й того самого тексту серйозно підриває довіру до об’єктивності та легітимності процесів модерації, викликаючи занепокоєння щодо упередженості алгоритмів.
Попри здатність розпізнавати відверті образи та нецензурну лексику, штучний інтелект залишається безсилим перед тонкими та прихованими формами ненависті. Аркайц Зубіага, доцент Університету королеви Марії в Лондоні, пояснює, що алгоритми часто не розуміють контексту. Наприклад, повідомлення може починатися з позитивних слів, а завершуватися принизливим висловлюванням на адресу певної групи, через що система фокусується лише на першій частині й пропускає токсичний посил. Існує й зворотна проблема: штучний інтелект не здатен розрізнити реальну образу та переосмислення мови, коли маргіналізовані спільноти використовують історично образливі слова між собою в нейтральному чи навіть позитивному ключі. Через нерозуміння цих культурних та соціальних нюансів алгоритми помилково блокують цілком безпечний контент, демонструючи, що наразі жодна модель не може повністю замінити людське розуміння контексту.
