Meta будет использовать ИИ для анализа, чтобы определить, являются ли пользователи несовершеннолетними

Компания Meta начнет использовать искусственный интеллект для сканирования фотографий и видео в поисках визуальных подсказок, чтобы определить, моложе ли пользователь 13 лет и следует ли его удалить из Facebook и Instagram. Эти визуальные подсказки включают рост человека или его структуру костей.

«Мы хотим четко прояснить: это не распознавание лица», — объяснила Meta в своем блоге. «Наш искусственный интеллект рассматривает общие темы и визуальные подсказки, например, рост или структуру костей, чтобы оценить общий возраст человека; он не идентифицирует конкретного человека на изображении. Совмещая эти визуальные данные с нашим анализом текста и взаимодействий, мы можем значительно увеличить количество аккаунтов несовершеннолетних, которые мы идентифицируем и удаляем».

Система визуального анализа сейчас работает в отдельных странах, но Meta говорит, что работает над более широким внедрением.

Meta утверждает, что эта система является частью их усилий, направленных на то, чтобы дети младше 13 лет не заходили на их платформы. Эти усилия включают использование искусственного интеллекта для анализа целых профилей на наличие контекстуальных подсказок, таких как празднование дней рождения или упоминания о школьных оценках. Компания ищет эти сигналы в разных форматах, таких как публикации, комментарии, биографии, подписи и тому подобное. Meta планирует расширить эту технологию на большее количество частей своих приложений, включая Instagram Live и группы Facebook, в будущем.

Если Meta определит, что лицо может быть несовершеннолетним, его учетная запись будет деактивирована, и пользователю нужно будет подтвердить свой возраст с помощью процесса проверки возраста компании, чтобы предотвратить удаление учетной записи.