Пентагон тайно утвердил обновленную доктрину использования ИИ для выбора целей на поле боя, узнали журналисты Bloomberg. Подписанный в апреле документ не засекречен, но его не публиковали для общественности.
В новой формулировке прописаны «боевые системы, в которых искусственный интеллект инициирует действия при человеческом мониторинге».
Согласно документу, скорость войн и прогресс противников в ИИ могут потребовать от военных сил США создания «полностью автономных систем». Утверждается, что новая технология должна сокращать цикл «от датчика до поражения цели» и увеличивать темп операций.
Доктрина расширяет задачи ИИ в обработке разведданных. В частности, системы должны быстрее сопоставлять информацию о целях с нескольких платформ, создавая более полную картину происходящего. Командующим предлагается активнее использовать нейросети для анализа, принятия решений и управления рисками.
В документе также содержатся положения о «снижении ущерба гражданскому населению».
При этом Пентагон предупреждает о последствиях чрезмерной зависимости от алгоритмов. В тексте говорится о «серьезных моральных и юридических дилеммах» и необходимости четких этических правил для решений, принятых ИИ. В приложении об интеграции автоматизации отдельно подчеркивается: она не заменяет человеческое мышление и проактивную коммуникацию.
В ведомстве назвали пересмотр доктрины итогом многолетней работы с учетом учений, военных игр и оценки будущей среды безопасности.
«Военное министерство следит за тем, чтобы человек всегда был в курсе важных оперативных решений. ИИ-технологии департамента не позволяют автономно выбирать цели или наносить по ним удары. Это гарантирует, что командиры остаются ответственными за каждое решение, позволяя им действовать в соответствии с максимально актуальной и точной оперативной картиной», — заявил представитель Пентагона в комментарии журналистам.
В один день с публикацией статьи Bloomberg министерство обнародовало отдельный пресс-релиз — о «запуске сети агентов для преобразования систем управления боем и выбора целей».
«Мы создаем совместимую сеть ИИ-агентов, которая предоставляет командирам более быстрый доступ к более качественной информации, сохраняя при этом человеческое суждение в центре каждого решения о выборе цели», — отметил главный специалист Пентагона по цифровым технологиям Кэмерон Стэнли.
Журналисты подчеркнули, что еще в 2023 году генеральный секретарь ООН Антониу Гутерриш призывал к запрету летальных автономных систем вооружения, называя их «политически неприемлемыми» и «морально отвратительными».
Напомним, в июне Пентагон отчитался о росте внедрения ИИ среди сотрудников на 1775%.
https://forklog.com/news/ai/smi-pentagon-sozdal-gruppu-dlya-vnedreniya-hakerskih-ii-modelej
