Meta Platforms* запустила систему ИИ-анализа фотографий и видео для поиска пользователей младше 13 лет в своих соцсетях. Система анализирует визуальные признаки — в частности рост и костную структуру человека на изображении, — а затем сопоставляет эти данные с текстом публикаций и поведением аккаунта. Технология уже работает в ряде стран, и в будущем список будут расширять.
Компания отдельно подчеркивает, что новый инструмент не относится к системам распознавания лиц. «Наш ИИ анализирует общие темы и визуальные признаки, например рост или костную структуру, чтобы оценить приблизительный возраст; он не идентифицирует конкретного человека на изображении», — говорится в официальном блоге Meta*. Помимо визуального анализа система изучает публикации, комментарии, описания профилей и подписи к фото в поисках косвенных признаков несовершеннолетия — например упоминаний дня рождения или школьных оценок.
Если алгоритм решит, что аккаунт принадлежит несовершеннолетнему, учетную запись деактивируют. Чтобы восстановить аккаунт или избежать его удаления, пользователю придется пройти проверку возраста по правилам Meta*.
Анонс состоялся спустя несколько недель после того, как суд присяжных в штате Нью-Мексико обязал Meta* выплатить $375 млн в качестве гражданских штрафов. Компанию признали виновной в том, что она вводила пользователей в заблуждение относительно безопасности своих платформ для детей, и обязали изменить подход к защите несовершеннолетних. В ответ Meta* пригрозила прекратить работу своих социальных сетей на территории штата. Это лишь один из множества исков к крупным IT-компаниям из-за безопасности детей в интернете.
Одновременно Meta* объявила о расширении программы Teen Accounts — режима с ограниченными функциями для подростков — на 27 стран ЕС и Бразилию. В этом режиме аккаунты подростков по умолчанию становятся закрытыми, входящие сообщения можно получать только от ограниченного круга пользователей, а потенциально вредоносные комментарии автоматически скрываются. В США аналогичный режим впервые будет введен для Facebook**, а в июне распространится на Великобританию и страны ЕС.
*экстремистская организация, запрещенная на территории РФ
**продукт экстремистской организации, запрещенной на территории РФ