Forklog 2024-04-24 11:46:14

Ведущие ИИ-компании обязались проверять датасеты на наличие материалов CSAM

Техгиганты вроде Google, Meta, OpenAI, Microsoft и Amazon согласились принять меры по предотвращению использования материалов о сексуальном насилии над детьми (CSAM) в обучающих наборах данных для искусственного интеллекта. Компании подписали новый набор принципов, призванных ограничить распространение подобного контента. Они пообещали: гарантировать, что обучающие наборы данных не содержат CSAM; избегать датасеты с высоким риском включения вредных материалов; удалять изображения CSAM или ссылки на них из источников данных. Компании также обязались проводить «стресс-тестирование» моделей ИИ. Это позволит убедиться, что они не генерируют изображения CSAM. Выпускать новые модели разработчики смогут лишь в том случае, если они прошли оценку на предмет детской безопасности. В число подписавших соглашение входят также Anthropic, Civitai, Metaphysic, Mistral AI и Stability AI. ИИ усугубил проблему распространения CSAM Генеративный ИИ способствовал росту обеспокоенности по поводу дипфейков, в том числе распространению в сети поддельных фотографий CSAM. В декабре 2023 года исследователи Стэнфорда опубликовали доклад, в котором обнаружили, что популярный набор данных для обучения ИИ содержит ссылки на подобные изображения. Они также выяснили, что телефонная линия Национального центра помощи пропавшим и эксплуатируемым детям (NCMEC) оказалась перегруженной изображениями CSAM, созданными искусственным интеллектом. Некоммерческая организация Thorn утверждает, что ИИ-изображения помешают усилиям по выявлению жертв. Также это может создать дополнительный спрос на материалы CSAM, способствовать виктимизации детей, а также облегчить поиск информации о том, как делиться проблемными материалами. Помимо принятия новых обязательств, Google также пообещала увеличить рекламные гранты для NCMEC. Вице-президентка компании по решениям в области доверия и безопасности Сьюзан Джаспер отметила, что поддержка этих инициатив повышает осведомленность общественности и дает людям инструменты для выявления и сообщения о злоупотреблениях. Напомним, в октябре 2023 года британские эксперты сообщили о быстром распространении материалов CSAM, созданных с помощью искусственного интеллекта. https://forklog.com/exclusive/ai/temnaya-era-ii-pochemu-etika-iskusstvennogo-intellekta-vazhna

Наиболее читаемые новости

XRP News: New Twist Emerges In Ripple-SEC Cas...
2025-04-04
Bitcoin & Ethereum ETFs See Major Outflows—Bl...
2025-04-04
Bitcoin ETFs Bleed $100M as Trump’s Tariffs S...
2025-04-04
Ethereum (ETH) Price Prediction for April 202...
2025-04-04
Ripple Releases 1 Billion XRP—Again, Is Somet...
2025-04-03
Crypto Fear and Greed Index Hits Multi-Month...
2025-04-03
Pi Coin Price Crashes 78%: Is This the End fo...
2025-04-03
Metaplanet Boosts Bitcoin Holdings with ¥2.63...
2025-04-03

Связанные новости

Прочтите Отказ от ответственности : Весь контент, представленный на нашем сайте, гиперссылки, связанные приложения, форумы, блоги, учетные записи социальных сетей и другие платформы («Сайт») предназначен только для вашей общей информации, приобретенной у сторонних источников. Мы не предоставляем никаких гарантий в отношении нашего контента, включая, но не ограничиваясь, точность и обновление. Никакая часть содержания, которое мы предоставляем, представляет собой финансовый совет, юридическую консультацию или любую другую форму совета, предназначенную для вашей конкретной опоры для любых целей. Любое использование или доверие к нашему контенту осуществляется исключительно на свой страх и риск. Вы должны провести собственное исследование, просмотреть, проанализировать и проверить наш контент, прежде чем полагаться на них. Торговля - очень рискованная деятельность, которая может привести к серьезным потерям, поэтому проконсультируйтесь с вашим финансовым консультантом, прежде чем принимать какие-либо решения. Никакое содержание на нашем Сайте не предназначено для запроса или предложения