Meta в четверг объявила, что начинает развертывание более продвинутых систем ИИ для модерации контента, планируя сократить зависимость от внешних подрядчиков. К задачам модерации контента относятся выявление и удаление материалов о терроризме, эксплуатации детей, наркотиках, мошенничестве и аферах.
Компания заявляет, что развернет эти более продвинутые системы ИИ на своих приложениях после того, как они будут стабильно превосходить текущие методы модерации контента. При этом компания сократит зависимость от внешних подрядчиков для модерации контента.
«Хотя люди по-прежнему будут проверять контент, эти системы смогут взять на себя работу, которая лучше подходит для технологий, такую как повторная проверка графического контента или области, где злоумышленники постоянно меняют тактику, например при продаже запрещенных наркотиков или в афёрах», — объяснила Meta в блог-посте.
Meta считает, что эти системы ИИ могут выявлять больше нарушений с большей точностью, лучше предотвращать мошенничество, быстрее реагировать на события в реальном мире и снижать число ошибочных блокировок.
Компания заявляет, что первые испытания систем ИИ были многообещающими, поскольку они могут выявлять в два раза больше контента с сексуальной провокацией взрослых, чем команды её модераторов, а также снижают коэффициент ошибок более чем на 60%. Кроме того, системы могут выявлять и предотвращать больше фальшивых аккаунтов знаменитостей и других известных личностей, а также помогают предотвратить взлом аккаунтов путем выявления таких сигналов, как входы с новых местоположений, изменения пароля или редактирование профиля.
Кроме того, Meta заявляет, что системы могут выявлять и предотвращать около 5000 попыток мошенничества в день, при которых мошенники пытаются заставить людей раскрыть свои данные для входа.
«Эксперты будут проектировать, обучать, контролировать и оценивать наши системы ИИ, измеряя производительность и принимая наиболее сложные решения с высоким воздействием», — написала Meta в блог-посте. «Например, люди будут продолжать играть ключевую роль в том, как мы принимаем наиболее рискованные и критически важные решения, такие как рассмотрение жалоб на отключение аккаунта или сообщения правоохранительным органам».
Такой шаг происходит на фоне того, что Meta смягчала правила модерации контента в течение последнего года, когда президент Дональд Трамп вступил в должность во второй раз. В прошлом году компания прекратила программу проверки фактов третьих сторон в пользу модели Community Notes, подобной X. Она также сняла ограничения на «темы, которые являются частью мейнстримного дискурса», и заявила, что пользователи будут поощряться к «персонализированному» подходу к политическому контенту.
Это происходит и на фоне того, что Meta и другие крупные технологические компании в настоящее время столкнулись с несколькими исками, направленными на то, чтобы привлечь гигантов социальных сетей к ответственности за вред, наносимый детям и молодым пользователям.
Meta также объявила в четверг о запуске ассистента поддержки Meta AI, который обеспечит пользователям доступ к 24/7 поддержке. Ассистент развертывается по всему миру в приложениях Facebook и Instagram для iOS и Android, а также в Центре справки на Facebook и Instagram на рабочем столе.
Темы
ИИ, Приложения, Facebook, Instagram, Meta, Социальные сети