Категоризатор включает в себя четыре блока. Первый блок дает представление о запрещенном к распространению контенте. На основе анализа федеральных законов №№149 и 436 специалисты РОЦИТ выделили 11 категорий такой информации. К ней относится пропаганда сексуального насилия и нетрадиционных сексуальных отношений, оскорбление человеческого достоинства, явное неуважение к обществу, государству и т. д.
Второй блок ориентирован на ограничения к распространению контента. Категории также определялись на основе указанных федеральных законов. В частности, эксперты отнесли к этому блоку такие виды информации, как представляемая в виде изображения или описания жестокости, физического и (или) психического насилия (кроме сексуального насилия), преступления или иного антиобщественного деяния; вызывающая у детей страх, ужас или панику; представляемая в виде изображения или описания половых отношений между мужчиной и женщиной, а также содержащая бранные слова и выражения, которые не относятся к нецензурной брани.
К третьему блоку категоризатора эксперты отнесли контент, втягивающий людей в противоправную деятельность. Этот раздел составлялся на основе анализа статей 6.11 и 13.15 Кодекса об административных правонарушениях, а также статей 244 и 245 Уголовного кодекса РФ. К данному контенту относятся материалы, рекламирующие “заработок сексом”; направленные на злоупотребление свободой массовой информации; демонстрирующие акты надругательств над умершими и местами их захоронений; информация, побуждающая несовершеннолетних к противоправным действиям, создающим угрозу жизни и здоровью, а также контент, иллюстрирующий жестокое обращение с животными.
Контент, нарушающий нормы морали и нравственности, эксперты отнесли к четвертому блоку. В РОЦИТ отмечают, что именно этот раздел является самым объемным и многообразным. Он охватывает информацию, направленную на популяризацию киберунижений, в том числе среди несовершеннолетних, а также связанную с организацией кампаний по сетевой траве.
Также к этому разделу отнесли информацию, которая иллюстрирует расстройства пищевого поведения как норму, и сведения, побуждающие к нанесению себе вреда; материалы, популяризирующие оккультные услуги, направленные на реальное или воображаемое причинение вреда жизни, здоровью, репутации и имуществу. Помимо этого, в четвертый раздел вошли пропаганда алкоголизма и бездетности, популяризация конфликтности между учениками и педагогами и деструктивного поведения в семье, а также сексуальные сцены с нарисованными персонажами, имеющими сходство с несовершеннолетними.
Категоризатор описывает и возможные исключения. В частности, контент, представляемый в виде изображения или описания физического насилия, связанный в первую очередь с ненормированной агрессией. Поэтому к данной категории невозможно отнести материалы, связанные со спортом или социально приемлемыми художественными практиками в кинематографе, театре или графических романах.
По словам директора РОЦИТ Рустама Сагдатулина, категоризатор стал итогом масштабной работы, которую компания проводила с привлечением десятков экспертов, представителей общественных организаций, родительского сообщества, психологов, а также онлайн-площадок.
“Нашей основной целью было создать максимально полный, понятный и доступный рабочий инструмент, с помощью которого цифровые платформы смогут оказывать действенное влияние на ограничение распространения деструктивной информации. Мы также сформулировали ряд предложений по пессимизации таких материалов. - отметил Сагдатулин. - В частности, необходимо более активно вовлекать в модерацию самих пользователей, в том числе через форму жалоб. Материалы при этом могут не просто удаляться на основании решений владельцев онлайн-площадок, но и включать запрет на дальнейшую рекламу и взаимодействие с таким контентом. Кроме того, предложенная категоризация может быть встроена в правила социальных сетей с обязательным ознакомлением с ними перед регистрацией новых пользователей”.