Как Мегамаркет борется с фейковыми отзывами от ИИ

Новая модель Мегамаркета исключает фальшивые отзывы, созданные нейросетью.

Внедрение технологии Мегамаркетом позволяет практически на 100% устранить отзывы, написанные ботами и нейросетями. Она фильтрует как позитивные, так и негативные отзывы, не содержащие конкретных деталей, которые можно разместить под любым товаром. Модель обучена так, что вероятность принять комментарий реального пользователя за текст, сгенерированный AI, сведена к минимуму.

Теперь пользователи могут быть уверены, что читают отзывы от реальных покупателей: алгоритм блокирует AI-комментарии и удаляет те, которые были написаны ранее. Продавцы смогут назначать повышенные бонусы за отзывы, зная, что их напишут осознанно, без применения нейросетей. Это позволит быстрее наполнить карточки товаров качественными отзывами, повысить конверсию и получить полезную обратную связь для улучшения продуктов и процессов.

Анализ и Обучение Модели

Для создания модели Мегамаркет проанализировал жалобы продавцов на комментарии от ботов и выявил паттерны AI-контента. ИТ-специалисты и специалисты по пользовательскому контенту рассмотрели отзывы с большим количеством лайков и дизлайков. Затем они усовершенствовали существующий каскад текстовых моделей, обучив его на сотнях тысяч решений “живых” модераторов, которые проверяли комментарии на соответствие правилам Мегамаркета: удаляли нецензурные выражения, оскорбления и комментарии, не относящиеся к товару или продавцу. В результате был создан датасет, на котором обучили модель детекции AI-отзывов.

Проверка и Публикация Отзывов

Каждый текст отзыва на Мегамаркете теперь оценивает несколько моделей. В зависимости от предварительной оценки, он отправляется на дополнительную проверку к людям или публикуется на сайте. Даниил Болдин, менеджер продукта карточки товара Мегамаркета, отметил, что в результате внедрения новой технологии были выявлены и удалены отзывы, оставленные с 2020 года по настоящее время, сгенерированные с применением AI-технологий.

Планы на Будущее

Мегамаркет планирует итерационно улучшать качество работы модели. Согласно данным компании, 87% людей принимают решение о выборе товара на маркетплейсе с помощью отзывов. В условиях растущей популярности чат-ботов с генеративным искусственным интеллектом, выявление AI-отзывов стало проблематичным, но критически важным для поддержания качества и надежности. Поэтому Мегамаркет разработал новый алгоритм для минимизации количества фейковых комментариев и улучшения пользовательского опыта.

Дальнейшие Усилия

Артем Герасимович, руководитель отдела контент-маркетинга Мегамаркета, подчеркнул, что компания продолжит поддерживать высокие стандарты качества оставляемых отзывов и совершенствовать алгоритмы в соответствии с современными вызовами.

С уважением к Вашему делу, Ника Виноградова

Источник: New Retail