Розробка месенджера з інтеграцією AI для виявлення спаму та токсичних повідомлень у чатах

Abstract

Метою кваліфікаційної роботи є розробка сучасного клієнт-серверного месенджера з інтеграцією підсистеми штучного інтелекту для виявлення спаму та токсичних повідомлень у чатах. Основним завданням при розробці системи стало поєднання інструментів реального часу з можливістю автоматичної модерації вмісту повідомлень. Для досягнення поставленої мети було проведено аналіз популярних месенджерів та методів боротьби з небажаним контентом. Оцінено роль штучного інтелекту в сучасних комунікаційних платформах. У ході роботи створено архітектуру клієнт-серверного застосунку з використанням Angular, Node.js, Firebase, а також інтегровано Perspective API – хмарний сервіс для аналізу текстів на наявність токсичності та спаму. Повідомлення проходять модерацію перед збереженням у базі даних. За результатами аналізу їм присвоюється статус: «ok» або «blocked». Отриманий програмний комплекс дозволяє здійснювати безпечне спілкування в режимі реального часу, автоматично виявляючи небажаний контент. Система легко масштабується, підтримує гнучке розширення та демонструє ефективність під час інтеграції зі сторонніми AI-рішеннями.