ИИ-стартап xAI Илона Маска намеренно разрешил генерацию сексуализированного контента в Grok ради роста популярности. Об этом пишет The Washington Post со ссылкой на источники.
По информации газеты, весной 2025 года сотрудников компании призвали дать согласие на работу с материалами «для взрослых».
«Деятельность связана с деликатным, насильственным, сексуальным и/или другим оскорбительным или тревожным контентом, который может вызывать беспокойство, психологический стресс и/или травмировать», — говорилось в соглашении.
Документ вызвал тревогу у специалистов, нанятых для настройки ответов Grok. Сотрудников смутило, что xAI, декларирующая целью «ускорение научных открытий», готова генерировать любые материалы ради внимания аудитории.
В последующие месяцы персонал столкнулся с потоком аудиозаписей сексуального характера. В выборку для обучения нейросетей попали как интимные диалоги пользователей с Grok, так и откровенные разговоры пассажиров Tesla с бортовым компьютером.
The Washington Post пишет, что после ухода из DOGE Маск начал регулярно посещать офис xAI, иногда даже ночуя там. Он требовал повысить популярность чат-бота, внедрив новый KPI — «секунды активности пользователя».
В итоге компания решила развивать направление NSFW-контента и ИИ-компаньонов, проигнорировав предупреждения о юридических и этических рисках, отметили журналисты.
https://forklog.com/news/ai/xai-vypustil-anime-kompanonov
Команда по безопасности X неоднократно предупреждала руководство о том, что ИИ-инструменты позволяют создавать сексуальные изображения детей или знаменитостей. При этом в xAI работало всего два или три человека, которые отвечали за предотвращение нанесения серьезного ущерба вроде создания кибероружия. У конкурентов масштаба OpenAI штат подобных специалистов исчисляется десятками.
В декабре стартап Маска встроил инструменты редактирования изображений и видео в X, дав возможность любому пользователю соцсети создавать картинки с сексуальным подтекстом. Подобный контент начал распространяться с беспрецедентной скоростью.
Ситуация привлекла внимание правоохранительных органов ряда стран, начались расследования и блокировки Grok. Вскоре xAI отключила функцию генерации откровенных изображений реальных людей. Маск сообщил, что ему неизвестно ни об одном случае применения чат-бота для создания детской порнографии.
Несмотря на скандалы, стратегия сработала. Если раньше Grok значительно отставал от лидеров в App Store, то после обновления ворвался в топ-10, приблизившись к продуктам OpenAI и Google. С 1 по 19 января число ежедневных загрузок приложения выросло на 72% по сравнению с аналогичным периодом декабря.
OpenAI идет на жертвы
OpenAI также идет на крайние меры ради удержания лидерства. По информации Financial Times, компания сосредоточилась на развитии ChatGPT в ущерб долгосрочным исследованиям.
Смена курса уже привела к оттоку кадров: стартап покинули вице-президент по исследованиям Джерри Творек, исследователь политики моделирования Андреа Валлоне и экономист Том Каннингем.
Директор по исследованиям OpenAI Марк Чен опроверг данное утверждение. По его словам, фундаментальная наука остается в приоритете и получает большую часть инвестиций.
«Сочетание исследований с реальным внедрением укрепляет нашу науку, ускоряя обратную связь, циклы обучения и строгость. Мы никогда не были так уверены в долгосрочной дорожной карте по созданию автоматизированного исследователя», — добавил он.
Financial Times пишет, что в последние месяцы эксперты, не работающие над большими языковыми моделями, часто получали отказ в запросах на выделение ресурсов для их работы. Проекты вроде Sora и DALL-E считаются менее приоритетными.
За последний год были свернуты и другие инициативы, не связанные с языковыми моделями. В компании произошла реорганизация команд.
В декабре OpenAI объявила «красный код» — Альтман призвал сотрудников отложить работу над различными проектами вроде автономных ИИ-агентов и рекламы для направления максимальных ресурсов в улучшение ChatGPT.
Напомним, в январе 2026 года известный инвестор Джордж Нобл предсказал крах OpenAI.
