Компания OpenAI представила план, направленный укрепление системы безопасности детей во времена повсеместного распространения искусственного интеллекта и злоупотребления технологией.
Инициатива сосредоточена на трех ключевых приоритетах:
модернизация законодательства для решения проблемы эксплуатации и насилия над детьми, создаваемого и изменяемого с помощью ИИ;
улучшение отчетности и координации действий поставщиков услуг для поддержки более эффективных расследований;
внедрение мер безопасности напрямую в ИИ-системы на этапе проектирования для предотвращения и выявления злоупотреблений.
«Не получится решить проблему с помощью точечных вмешательств. Данная концепция объединяет правовые, оперативные и технические подходы для более эффективного выявления рисков, ускорения реагирования и обеспечения подотчетности, одновременно гарантируя возможности для правоохранительных органов», — отметили в OpenAI.
По мнению представителей компании, эти шаги позволят отрасли решать проблемы безопасности на более ранних этапах.
План учитывает отзывы ряда ведущих американских организаций и экспертов в области защиты несовершеннолетних, включая NCMEC и прокуратуры различных юрисдикций.
«Сексуальная эксплуатация детей — одна из самых актуальных проблем цифровой эпохи. Искусственный интеллект быстро меняет как способы возникновения подобных преступлений в отрасли, так и методы борьбы с ними в масштабах всей страны», — подчеркнули в компании.
С середины 2025 года OpenAI делает шаги в этом направлении. Стартап уже внедрил меры родительского контроля, которые отслеживают и оповещают об опасных сигналах в поведении ребенка.
https://forklog.com/news/ai/openai-usilit-bezopasnost-chatgpt-posle-tragedii-s-podrostkom
Компания также ввела новые правила использования сервисов, которые запрещают эксплуатацию детских образов.
Напомним, в сентябре FTC начала расследования в отношении семи технологических фирм, выпускающих чат-боты для несовершеннолетних. В их числе Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap и xAI.
