Як OLX запобігають фейковим оголошенням

Розповідає керівник відділу бізнес-аналітики OLX Україна та Центральної Азії Віктор Нобіуз.

Попри воєнні дії в країні, боротьбу з шахрайством зі сторони правоохоронних органів та освітніх кампаній для населення факти привласнення зловмисниками чужих коштів – не рідкість. Часто, на жаль, йдеться про великі суми, до того ж шахраї можуть також викрадати гроші із кредитних карток, залишаючи жертві не лише матеріальну й моральну шкоду, а й борги у банку.

Один зі способів, як зловмисники знаходять своїх жертв, є оголошення на інтернет-ресурсах, в соціальних мережах, месенджерах тощо. Зі свого боку ми в OLX постійно працюємо над тим, щоб робити покупки та продажі на платформі безпечними для користувачів. Проте, на жаль, серед понад 14 мільйонів пропозицій на OLX знаходяться оголошення від шахраїв. Один зі способів, які ми використовуємо, щоб зменшити їх кількість – це модерація оголошень та застосування моделей машинного навчання. 

Для запобігання розміщення пропозицій від шахраїв та контролю якості контенту всі оголошення на платформі OLX проходять декілька етапів перевірки. Або ж називаємо це модерацією (автоматична, ручна та постмодерація). 

Оскільки на OLX йдеться про велику кількість даних, крім допомоги фахівців, виявленню підозрілих оголошень сприяє ще й запровадження спеціальних моделей та алгоритмів. Завдяки їм ми можемо проаналізувати велику кількість критеріїв за менший проміжок часу та, відповідно, запобігати більшим випадкам шахрайства. 

Впровадити такі способи запобігання діяльності зловмисників на OLX ми вирішили, коли кількість оголошень почала динамічно збільшуватись, а ресурси для їх перевірки були обмеженими.  

Системи машинного навчання працюють наступним чином: спеціальні моделі та алгоритми для своєї роботи беруть до уваги контент, який генерують користувачі, та їхню поведінку (чи не було виявлено від одного й того самого користувача спаму в чати, чи великої кількості однакових або схожих оголошень). Провівши оцінку, моделі визначають, чи не перевищує сукупність критеріїв допустиме значення, і за потреби проводять додаткову перевірку користувача. Якщо факт шахрайського оголошення підтверджується, його автора заблоковують без подальшої змоги розміщувати оголошення на платформі OLX. 

Запровадження систем машинного навчання та триетапної модерації контенту вже дозволило зменшити кількість фейкових оголошень у декілька разів. Також важливим результатом є те, що команда OLX має можливість, оперуючи великими даними, швидко відфільтровувати неякісний контент і фокусувати увагу фахівців на пропозиціях, що потребують глибшого аналізу та додаткової перевірки.

Наразі ми знаходимося на початку впровадження просунутих моделей модерації контенту, які дозволяють точно та швидко виявляти підозрілі пропозиції. Це своєю чергою дає нам можливість запобігати випадкам шахрайства та забезпечувати користувачам OLX безпечний шопінг та загалом користування платформою. 

Щомісячно ми видаляємо десятки тисяч оголошень, що можуть потенційно зашкодити користувачам. При цьому 90% таких оголошень навіть не активуються і користувачі їх просто не бачать. Наші моделі постійно вдосконалюються, й одним із вагомих інструментів для цього є зворотний зв’язок користувачів і використання скарг на оголошення. 

Шлях до перемоги над шахрайством – в єдності та співпраці між платформою та користувачами.