У спамеров, кажется, есть особый талант появляться в самый неподходящий момент. Люди спокойно обсуждают ремонт, работу или очередную коммунальную аварию, а тут внезапно приходит незнакомец с предложением заработать миллион без вложений. И ведь не лень человеку! Хотя, скорее всего, никакого человека там вообще нет. Недавно наткнулась на интересную инструкцию по созданию антиспам-бота с искусственным интеллектом: https://domino-crm.ru/blog-detail/sozdaem-anti-spam-bota-dlya-telegram-chatov-s-domino-crm. Стало любопытно, насколько хорошо современные инструменты справляются с рекламным мусором и можно ли настроить защиту так, чтобы под блокировку случайно не попадали обычные участники.
Главное преимущество Telegram — возможность создавать большие сообщества, в которых люди свободно общаются и делятся информацией. Но именно эта открытость привлекает рекламщиков. Достаточно найти ссылку на популярную группу, подключить несколько аккаунтов и начать рассылку сообщений.
В небольшом чате на двадцать человек проблема обычно решается быстро. Администратор замечает подозрительного участника, удаляет рекламу и блокирует нарушителя. Однако если в группе несколько тысяч человек, а новые сообщения появляются практически каждую минуту, следить за всем вручную становится сложно.
Причём современный спам далеко не всегда выглядит как огромная рекламная простыня с десятком ссылок. Иногда всё начинается с невинного вопроса: «Девочки, а кто-нибудь пробовал один интересный способ заработка?» Через пару сообщений выясняется, что способ действительно интересный. Особенно для того, кто его рекламирует.
Отдельная проблема — мошеннические ссылки. Под видом подарков, скидок и розыгрышей пользователям предлагают перейти на сторонние сайты, авторизоваться или указать личные данные. Поэтому спам в группе — не просто раздражающий мусор, а потенциальная угроза безопасности участников.
Самые простые инструменты модерации работают по понятному принципу: находят запрещённые слова и удаляют сообщения. Например, администратор может запретить фразы «гарантированный доход», «быстрый заработок» и «ставки на спорт».
Пока спамеры используют стандартные объявления, такая система действительно помогает. Но стоит заменить несколько букв символами, добавить пробелы или переформулировать предложение, и фильтр перестаёт узнавать знакомые выражения.
Есть и обратная проблема. Представьте, что участник пишет: «Осторожно, мошенники снова рассылают рекламу казино». Если слово «казино» находится в чёрном списке, сообщение может быть автоматически удалено. Человек пытался предупредить остальных, а в результате сам получил наказание.
Ещё сложнее отличать рекламу от обычных рекомендаций. Например, в чате любителей комнатных растений вполне уместно обсуждать удобрения, грунт и магазины. Но когда один участник настойчиво советует исключительно один бренд, а под каждым вопросом оставляет одинаковую ссылку, это уже больше напоминает рекламную кампанию.
Именно здесь становится интересной модерация с искусственным интеллектом. Она может учитывать содержание сообщения, а не только отдельные слова.
В отличие от обычного фильтра, ИИ пытается определить смысл написанного. Например, обсуждение футбольного матча и реклама букмекерской конторы могут содержать похожие слова, но преследовать совершенно разные цели.
Это не означает, что нейросеть никогда не ошибается. Она вполне способна неправильно понять шутку, сарказм или сообщение с двойным смыслом. Поэтому автоматическую модерацию лучше воспринимать как помощника администратора, а не как безупречного цифрового судью.
В Domino CRM для такой задачи предусмотрен инструмент «Антиспам ИИ». Он позволяет указать до двадцати запрещённых тематик, настроить реакцию на нарушения и создать исключения для определённых пользователей или ссылок.
Допустим, существует Telegram-чат жителей многоквартирного дома. В нём разрешено обсуждать магазины, доставку продуктов и услуги мастеров, но запрещены реклама азартных игр, финансовые пирамиды и массовые приглашения в сторонние каналы. Вместо запрета вообще всех коммерческих сообщений администратор может ограничить конкретные нежелательные темы.
На мой взгляд, это гораздо разумнее тотальной блокировки ссылок. В конце концов, если человек не может отправить соседям адрес хорошего сантехника, зачем вообще нужен такой чат?
Первое, с чего я бы начала, — понятные правила. Не нужно составлять документ на десять страниц с юридическими формулировками. Достаточно объяснить участникам, какие сообщения считаются рекламой, разрешены ли сторонние ссылки и что происходит при нарушении.
Следующий момент — система наказаний. Не каждое нежелательное сообщение заслуживает немедленной блокировки. Иногда человек просто не прочитал закреплённые правила или случайно отправил ссылку не в ту группу.
В Domino предусмотрено до пяти последовательных наказаний. Например, первые два нарушения могут сопровождаться предупреждениями, следующие — временным ограничением возможности писать, а последнее — окончательной блокировкой.
Для обычного сообщества я бы выбрала примерно такую схему:
Разумеется, для очевидного мошенничества подход должен быть строже. Если новый участник рассылает фишинговые ссылки, ждать пятого предупреждения совершенно незачем.
Ещё одна полезная функция — белые списки. Например, представитель управляющей компании регулярно размещает в домовом чате ссылки на официальные объявления. Чтобы его сообщения не попадали под автоматические ограничения, аккаунт можно добавить в исключения.
Но злоупотреблять этим не стоит. Если половина участников окажется в белом списке, эффективность защиты заметно снизится. К тому же доверенные аккаунты тоже могут быть взломаны.
Отдельно мне понравилась возможность скрытого удаления. Некоторые модерационные боты после каждого нарушения публикуют сообщение о том, что кого-то заблокировали. Получается забавно: сам спам удалён, зато чат заполнен отчётами о борьбе с ним. При большом количестве нарушителей это ненамного лучше первоначальной проблемы.
Гораздо удобнее тихо удалять очевидную рекламу, а уведомления о нарушениях отправлять администраторам.
Самая большая ошибка — настроить строгую модерацию и сразу включить её в активном сообществе. Особенно если до этого никто не проверял, как система реагирует на неоднозначные сообщения.
Я бы сначала создала отдельную тестовую группу, подключила туда антиспам и попробовала несколько сценариев. Это займёт немного времени, зато поможет избежать неприятных сюрпризов.
Для проверки подойдут следующие сообщения:
Важно проверить не только удаление сообщений, но и наказания. Например, действительно ли временное ограничение заканчивается через заданное время? Не блокируются ли пользователи из белого списка? Получают ли администраторы уведомления?
Отдельного внимания заслуживают права самого бота. Чтобы удалять сообщения и ограничивать участников, его необходимо назначить администратором Telegram-группы с соответствующими разрешениями. Но давать ему полномочия, которые не нужны для модерации, не стоит.
И ещё я бы обязательно предусмотрела возможность обжалования блокировки. Искусственный интеллект может ошибаться, а нормальный участник не должен терять доступ к сообществу только потому, что система неправильно поняла его сообщение.
Хотелось бы, конечно. Настроил бота, закрыл ноутбук и отправился пить чай, пока искусственный интеллект самостоятельно воспитывает нарушителей. Но в действительности даже хорошая автоматическая модерация нуждается в периодическом контроле.
Спамеры постоянно меняют способы рассылки. Сегодня они публикуют прямые ссылки, завтра используют изображения, послезавтра начинают приглашать участников в личные сообщения. Поэтому настройки, которые прекрасно работали месяц назад, со временем могут потребовать корректировки.
Я бы раз в неделю просматривала жалобы участников и проверяла, какие сообщения антиспам удаляет ошибочно. Если выясняется, что под блокировку регулярно попадают совершенно нормальные обсуждения, правила лучше смягчить. Если же реклама продолжает просачиваться, стоит пересмотреть запрещённые темы.
И главное — не пытаться добиться абсолютной стерильности. Telegram-чаты существуют для общения, а живое общение невозможно загнать в идеально предсказуемые рамки. Люди шутят, спорят, рекомендуют товары, делятся ссылками и иногда пишут совершенно не по теме.
Поэтому хороший антиспам для меня — не тот, который удаляет максимальное количество сообщений. А тот, который убирает действительно нежелательный контент, практически не мешая обычным участникам.
Ведь конечная цель всей этой автоматизации довольно простая: чтобы администратор мог спокойно заниматься своими делами, а люди в чате — обсуждать то, ради чего они туда пришли. Желательно без внезапных предложений стать миллионерами к следующему вторнику.))