Команда разработчиков «ВКонткакте» работает над созданием специальной нейросети, которая позволит минимизировать количество негативных и агрессивных высказываний в социальной сети.

Нейросеть должна научиться опознавать несколько категорий угроз и оскорблений в материалах «ВК», что в будущем ускорит обработку жалоб и в конечном счете приведет к миру и позитиву в социальной сети. Разумеется, насколько это вообще возможно. В частности, нейросеть обучают распознавать проявления расизма, ксенофобии и прочих неприятных проявлений человеческой глупости или вредности.

Для того, чтобы помочь нейросети обучиться, разработчики добавили в категории жалоб новый вид – «Враждебные высказывания». На основании жалоб сеть и составит свое представление о хейте.

«Эта категория позволит точнее откалибровать уже существующие инструменты и собрать датасет для новых решений на основе нейросетей. При этом команды Модерации и Поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг», – говорится в пресс-релизе компании.