OpenAI заблокировала доступ прогосударственным хакерам к ChatGPT

Разработчики компании OpenAI пресекли возможность использования своих продуктов киберпреступниками, связанными с правительствами различных стран. We disrupted five state-affiliated malicious cyber actors’ use of our platform.Work done in collaboration with Microsoft Threat Intelligence Center. https://t.co/xpEeQDYjrQ— OpenAI (@OpenAI) February 14, 2024 Совместно с Microsoft Threat Intelligence они обнаружили и удалили пять принадлежащих злоумышленникам аккаунтов. В их числе: связанные с правительством КНР хакеры Charcoal Typhoon и Salmon Typhoon; Crimson Sandstorm (Иран); Emerald Sleet (КНДР); Forest Blizzard (РФ). В ходе расследования установлено, что Charcoal Typhoon с помощью ИИ исследовали различные инструменты кибербезопасности, отладку кода и создание контента для фишинговых кампаний. Salmon Typhoon переводили технические документы, изучали деятельность спецслужб и региональных субъектов угроз, а также выясняли способы сокрытия вредоносных процессов в системе. Crimson Sandstorm посредством ChatGPT создавали фишинговые приложения и сайты. Emerald Sleet, помимо написания вредоносного кода, разыскивали экспертов и организации, занимающихся вопросами обороны в Азиатско-Тихоокеанском регионе. Forest Blizzard запрашивали информацию о протоколах спутниковой связи и технологии радиолокационной визуализации. Microsoft, in collaboration with OpenAI, is publishing research on emerging threats in the age of AI, focusing on identified activity associated with known threat actors Forest Blizzard, Emerald Sleet, Crimson Sandstorm, and others. Learn more: https://t.co/y68MDypDXM— Microsoft Threat Intelligence (@MsftSecIntel) February 14, 2024 В результате внутреннего расследования OpenAI выяснили, что версия чат-бота GPT-4 предлагает лишь ограниченные возможности для выполнения злонамеренных задач. Тем не менее разработчики намерены улучшать безопасность своих продуктов, изучая реальный опыт их использования в киберпреступной деятельности и вводя усиленный мониторинг пользовательского взаимодействия с платформой.  Ранее ForkLog сообщал, что OpenAI представила функцию «памяти» для ChatGPT.