Розробка сервісів для академічного форуму F7 (комп'ютерна інженерія) з застосуванням ШІ для модерації

Abstract

У ХХІ столітті цифрова трансформація суспільства суттєво змінила підходи до організації освітнього процесу, комунікації та обміну знаннями. Інформаційні технології стали невід’ємною складовою сучасної освіти, а онлайн-платформи — ключовим інструментом взаємодії між учасниками навчального процесу. Серед таких платформ важливе місце займають академічні форуми, що забезпечують можливість організації структурованих обговорень, постановки запитань, спільного вирішення задач та підтримки наукових дискусій. Академічний форум є спеціалізованою інформаційною системою, яка поєднує функції соціальної мережі, системи управління знаннями та платформи для професійної комунікації. Його призначення полягає у створенні безпечного, структурованого та зручного середовища для обміну інформацією в межах освітньої або наукової спільноти. Разом із розвитком онлайн-комунікації виникає проблема контролю якості контенту. Збільшення кількості користувачів та обсягів інформації ускладнює процес модерації. На форумах можуть з’являтися повідомлення, що містять спам, некоректні висловлювання, токсичний або образливий контент, порушення академічної доброчесності, а також нерелевантну інформацію. Наявність таких повідомлень негативно впливає на якість освітнього середовища, знижує довіру до платформи та створює додаткове навантаження на адміністраторів. Традиційний підхід до модерації передбачає ручну перевірку повідомлень модераторами. Однак цей метод має низку суттєвих недоліків: ● значні часові витрати;

● необхідність залучення людських ресурсів; ● суб’єктивність прийняття рішень; 5 ● затримки у реагуванні на порушення;

● низька масштабованість при зростанні аудиторії. З огляду на це актуальним є впровадження автоматизованих систем модерації, здатних аналізувати текстовий контент у реальному часі та приймати рішення щодо його публікації або блокування. Сучасні досягнення у сфері штучного інтелекту, машинного навчання та обробки природної мови дозволяють створювати ефективні алгоритми класифікації тексту, виявлення спаму та визначення рівня токсичності повідомлень. Застосування штучного інтелекту в системах модерації дає змогу: ● автоматично аналізувати великий обсяг текстових даних; ● визначати семантичний зміст повідомлення; ● виявляти приховані образливі або маніпулятивні висловлювання; ● зменшувати вплив людського фактору; ● забезпечувати масштабованість системи. Таким чином, розробка академічного форуму із вбудованою системою автоматичної модерації на основі ШІ є актуальною науково-технічною задачею, що поєднує аспекти комп’ютерної інженерії, програмної інженерії та інтелектуальних систем. Метою кваліфікаційної роботи є розробка сервісів для академічного форуму F7 із застосуванням методів штучного інтелекту для автоматичної модерації користувацького контенту. Для досягнення поставленої мети необхідно вирішити такі задачі: 1. Проаналізувати сучасні підходи до організації академічних форумів. 2. Дослідити методи автоматичної модерації текстового контенту. 3. Розробити архітектуру програмної системи форуму. 4. Спроєктувати структуру бази даних. 6 5. Реалізувати AI-модуль модерації на основі методів машинного навчання. 6. Провести тестування та оцінити ефективність системи. Об’єкт дослідження — процес автоматизованої модерації текстового контенту в інформаційних системах. Предмет дослідження — методи та алгоритми обробки природної мови та машинного навчання для класифікації повідомлень. Наукова новизна полягає у комплексному підході до інтеграції AI-модуля в архітектуру академічного форуму з урахуванням вимог продуктивності, безпеки та масштабованості. Практичне значення роботи полягає у створенні прототипу системи, який може бути впроваджений у навчальних закладах або корпоративних освітніх середовищах. У роботі використано комплекс методів комп’ютерної інженерії та програмної інженерії. Застосовано системний підхід для аналізу предметної області та формування вимог до інформаційної системи, методи моделювання (UML, DFD) для опису структури та потоків даних, а також методи проєктування баз даних для визначення сутностей і зв’язків. Для реалізації програмного забезпечення використано підхід клієнт-серверної архітектури та принципи модульності. Для AI-модуля застосовано методи обробки природної мови (NLP), зокрема токенізацію та нормалізацію тексту, а також класифікацію на основі трансформерних моделей. Оцінювання якості моделі виконано із застосуванням метрик Accuracy, Precision, Recall, F1-score та матриці невідповідностей (Confusion Matrix). Інформаційну базу дослідження склали приклади реальних текстових повідомлень, сформовані як тестовий набір для трьох категорій: нормальні 7 повідомлення, спам та токсичні повідомлення. Розмітка набору виконувалася вручну для забезпечення коректної оцінки точності класифікації.