Социальная сеть Instagram начнет автоматически уведомлять пользователей, если те попытаются написать в подписи к фотографии или видеоролику что-либо оскорбительное для других людей. Прямо так уведомление и выглядит: мол, вы собираетесь запостить контент, похожий на тот, на который другие пользователи обычно жалуются.
В чем именно проблема, система не сообщает, да и не может, поскольку реализовано все на базе нейросети, которую обучили на постах, на которые было много жалоб. На этом все. Однако очевидно, что для обнаружения потенциально неугодного контента проверяется вхождение в текст определенных слов и их форм в определенном контексте.
После предупреждения Instagram предложит отредактировать пост, однако позволит опубликовать его и без редактирования.
Искусственный интеллект использует те же механизмы, что и для комментариев: о потенциально обидных комментах Instagram начал предупреждать в июле. А в октябре появился теневой бан: можно забанить агрессивных троллей таким образом, что их комментарии будут видны только им самим, но они об этом даже не узнают.
Кроме того, в конце октября стало известно об очередном методе корректировки контента. Соцсеть сообщила, что будет удалять рисунки, комиксы, фрагменты фильмов и мемы, на которых изображены самоубийства или способы суицида и нанесения другого вреда самому себе. Аккаунты, которые распространяют такой контент, не будут появляться в рекомендациях при поиске и во вкладке «Интересное», пояснили в компании.