Отчет: после запуска ChatGPT число фишинговых атак выросло на 1265%

С момента запуска чат-бота ChatGPT количество электронных писем с фишингом подскочило на 1265%. Такие расчеты привели аналитики SlashNext, пишет Decrypt. «Из наших исследований мы знаем, что субъекты угроз используют инструменты вроде ChatGPT для написания сложных, целенаправленных, компрометирующих бизнес-писем и других фишинговых сообщений», — указал CEO фирмы Патрик Харр. Специалист заявил, что потенциальные жертвы «должны перейти в наступление» и «бороться с ИИ с помощью ИИ». «Компании должны внедрять искусственный интеллект непосредственно в программы безопасности для постоянного мониторинга всех каналов обмена сообщениями для устранения угроз. Мы используем технологию в наборах инструментов для обнаружения […] и прогнозирования», — пояснил эксперт. Харр с оптимизмом смотрит на способность искусственного интеллекта ловить мошеннических ИИ. Однако специалист признает, что потребуется нечто большее, чем просто сообщить ChatGPT о киберугрозах. «Поверх этого у вас должен быть эквивалент частного приложения с большой языковой моделью», — подчеркнул он. Напомним, стартап Anthropic, разрабатывающий большие языковые модели, представил «конституции» для ответственного создания ИИ-алгоритмов.  Ранее отчет Gartner показал, что 66% риск-менеджеров считают генеративный искусственный интеллект угрозой для организаций. Аналитики выделили три сегмента, которые нужно держать под контролем с точки зрения управления корпоративными рисками: интеллектуальная собственность, конфиденциальность данных и кибербезопасность.