emergency
04:38 11-08-2020 Можно ли сделать систему автомодерации контента?
Предположим есть некий чат, куда кто угодно может скидывать сообщения, но при этом сам чат показывает только небольшую долю этих сообщений, предположим пять штук в минуту. А скидывают в него поток в 2000 в секунду.
Этот чат подключается к системе автомодерации, и у любого из зрителей появляется кнопка "стать модератором". Причем над кнопкой стоит прогрессбар, показывающий достаточно ли вообще в принципе модераторов или нехватка.

Когда человек нажал на кнопку, система передает ему небольшой кусочек потока, из которого он должен выбрать, условно, десятую часть, которую считает более важной. Причем этот кусочек потока передается не только ему, но еще одному-двум таким же модераторам. Из того, что выбрали - передается выше модераторам второго уровня, из чего они тоже должны выбрать одну десятую. Если человек активен и его результаты дублируются другими людьми и тем более проходят апрув вышестоящих модератров - его рейтинг растет. Причем сам он может даже не узнать, что стал модератором второго или третьего уровня. Хотя он может получать какой-то условный рейтинг если его сообщения попадают в выдачу на самом "верху".
Если человек направляет модераторам сверху сообщения, которые отфильтровываются как спам - его рейтинг падает и более того его вообще может выкинуть из модераторов, причем ему не сообщив. Он может думать что до сих пор участвует в процессе.

Причем модераторы высших уровней тоже дублируются, если что-то важное пропустил один - не пропустит другой.

На самом верхнем уровне стоит владелец канала и люди, которых он назначил. Они получают выборку модеров ниже с той скоростью, которую указали, система сама следит, чтобы скорость была нужная.
Они из своей выборки помечают сообщения, которые попадают в общую ленту. Так же, если у них есть ощущение что какая-то ветка модераторов саботирует систему - они так же могут отметить сообщения, и авомодератор автоматически резко скинет рейтинг всех, кто причастен к появлению этих сообщений наверху.

И что-то такое можно делать к любой совершенно системе. К примеру людям интересен поток новостей по теме, а новостей очень много. Они подключают автомодератора к фиду, куда падают вообще все новости и автомодератор выдает разным людям разные куски этого фида, так что они совместными усилиями генерят приличную ленту по вопросу. Каждый не занимается обработкой всего, но берет кусочек.

Или например в городе беспорядки и надо быстро вычислить всех преступников. Есть опять же фид с камер, или сами же обеспокоенные граждане подключают мобилы и снимают улицы. Далее весь этот поток видео попадает к системе автомодерации, она делит видео на куски, отсеивая заодно нерелевантные, и прогоняет через толпу людей.
Комментарии:
голоса в моей голове
14:06 11-08-2020
Добавь по несколько правил обработки информации для разных уровней, и получишь свёрточную нейросеть.
emergency
14:47 11-08-2020
Здесь важно, что обработку производит не нейросеть а люди. А система их только менеджит