Crypto Currency Tracker logo Crypto Currency Tracker logo
Forklog 2025-08-25 15:13:37

Модераторы контента заявили о 80% ошибок ИИ-систем

Искусственный интеллект усложняет, а не упрощает работу модераторов контента. Он не может надежно распознавать жестокость и зло, пишет Bloomberg со ссылкой на 13 профессиональных фильтраторов онлайн-материалов. Один из сотрудников TikTok под псевдонимом Кевин заявил, что более года назад ему поручили использовать ИИ-программу в своей работе. Он оценил количество ошибок примерно в 70%. Например, искусственный интеллект может сообщить о низком уровне топлива на приборной панели автомобиля на видео, хотя должен проанализировать спидометр, показывающий 200 км/ч. Кевин считает, что, несмотря на возникающие трудности, работодатели продолжат заменять людей машинами. Профессиональные модераторы подтвердили утверждение — ИИ начинают применять быстрее, чем он учится качественно отсеивать вредоносный контент. Эксперты опасаются возникновения контролируемой искусственным интеллектом интернет-среды, в которой ненависть, пропаганда, совращение детей и другие формы онлайн-угроз будут свободно распространяться. «Если встать на путь внедрения ИИ, чтобы сократить количество специалистов по безопасности, это приведет к ее снижению. Нужны живые люди», — заявил директор по технологиям Канадского центра защиты детей Ллойд Ричардсон. Работа модератора контента наносит эмоциональные травмы, а наем достаточного количества людей — сложная задача. Пользователи только на YouTube загружают более 20 млн видео в день. Компании делают ставку на искусственный интеллект, однако он лишь мешает. Из 13 модераторов, с которыми поговорили журналисты Bloomberg, 12 заявили об усложнении работы после интеграции нейросетей. «Мы не можем полагаться на подсказки ИИ. В 80% случаев он ошибается. Мы даже не смотрим на его предложения», — заявила 36-летняя сотрудница казахстанской фирмы по модерации контента Жанерке Каиденова. Кевин тратит время на исправление ошибок, вручную проставляя сверхточные метки для всего увиденного. Эта работа только увеличивает нагрузку и отнимает время, которое можно было бы потратить на более срочные задачи. Он уверен, что его дотошные исправления фактически обучают систему, и в итоге она заменит его, хотя руководство прямо об этом не говорит. Напомним, в мае 2024 года Reddit объявила о партнерстве с OpenAI, которое предоставило реддиторам и модераторам новые функции на базе ИИ.

Прочтите Отказ от ответственности : Весь контент, представленный на нашем сайте, гиперссылки, связанные приложения, форумы, блоги, учетные записи социальных сетей и другие платформы («Сайт») предназначен только для вашей общей информации, приобретенной у сторонних источников. Мы не предоставляем никаких гарантий в отношении нашего контента, включая, но не ограничиваясь, точность и обновление. Никакая часть содержания, которое мы предоставляем, представляет собой финансовый совет, юридическую консультацию или любую другую форму совета, предназначенную для вашей конкретной опоры для любых целей. Любое использование или доверие к нашему контенту осуществляется исключительно на свой страх и риск. Вы должны провести собственное исследование, просмотреть, проанализировать и проверить наш контент, прежде чем полагаться на них. Торговля - очень рискованная деятельность, которая может привести к серьезным потерям, поэтому проконсультируйтесь с вашим финансовым консультантом, прежде чем принимать какие-либо решения. Никакое содержание на нашем Сайте не предназначено для запроса или предложения