Я попробовал перевести заголовок на русский, исконный. Получилось вот так:
Созидаем службу доверия и охраны, людское писание блюдем, бесчинства отсекаем, машинный разум с опаскою примеряем.
Зачем вообще это нужно
Потому что пользовательского контента на Клерке стало очень много.Сейчас у нас выходит больше 100 статей в день в Трибуне. И это не считая комментариев, отзывов и обсуждений. А где много контента, там всегда много спама, мусора, скрытой рекламы, странных вбросов и попыток использовать площадку не по назначению.
В такой ситуации модерация уже не может быть побочной задачей редакции, продаж или кого-то еще по остаточному принципу. Это создает конфликт интересов. Редакция должна заниматься контентом, отдел продаж — продажами, а не принимать решения о том, что удалять, что оставлять и кого ограничивать. Иначе одинаковые ситуации начинают разбираться по-разному, а доверие к правилам быстро исчезает.
Поэтому логика простая: за модерацию должна отвечать отдельная команда и никто больше. Ее задача — следить за тем, чтобы на Клерке сохранялась нормальная профессиональная среда. Не стерильная и не выхолощенная, а именно нормальная. Без спама, травли, мусорных вбросов, публикации чужих персональных данных, откровенной токсичности и прочего контента, который превращает профессиональное сообщество в свалку.
Отдельно думаем про ИИ
Мы уже много где его внедрили (например, в консультациях) и теперь смотрим, стоит ли аккуратно добавлять его и в модерацию.
ИИ может: находить спам, замечать подозрительные комментарии и отзывы, поднимать наверх рискованные кейсы и помогать разбирать большой поток контента. Но финальные решения по спорным случаям, жалобам и ограничениям в любом случае должны оставаться за людьми. Хотя уже не факт!
Для пользователей это должно означать одну простую вещь: меньше мусора, меньше хаоса, меньше спама и понятнее правила игры.
Внимание вакансия!
Ищем руководителя функции Trust & Safety на Клерке — человека, который с нуля выстроит модерацию UGC, жалоб, спама и abuse-кейсов, соберет команду, задаст правила и процессы и аккуратно внедрит ИИ в модерацию. По сути, это будет владелец всей системы пользовательской безопасности и порядка на площадке. Пиши в комментариях, если это ты.
И нам важен ваш совет
На что новой функции Trust & Safety на Клерке нужно обратить внимание в первую очередь? Что раздражает вас сильнее всего: спам, хамство в комментариях, странные отзывы, скрытая реклама, неравномерность решений или что-то еще? Напишите. Не хочется строить эту систему в вакууме.
Disclaimer
Да, я понимаю, что на фоне нового закона про англицизмы это звучит почти вызывающе. Прошу понять и простить: пока это рабочие термины и мои размышления. Исконно-сермяжные русские названия тоже придумаю. Чуть позже.
Комментарии
20Кто готов возглавить этот отдел?
Интересно как назвать должность руководителя отдела. )
Меня больше всего раздражает красный цвет в дизайне, зеленый был умиротворяющим, комментарии от этого были дружелюбнее)
Еще раз. Это вот это красный дизайн? )))