Представьте сидящего в грузовике водителя службы доставки, где ИИ следит за всеми его действиями, диктует маршрут и штрафует за любое «неправильное» движение. В такой ситуации человек не управляет машиной — машина управляет им.
В книге The Reverse Centaur's Guide to Life After AI писатель Кори Доктороу назвал это «проблемой обратного кентавра». Рассказываем, как устроен этот перевернутый миф и кому выгодно превращение людей в химер.
Классификация кентавров
В основе книги Доктороу лежит дихотомия, разделяющая взаимодействие человека и машины на две модели — «кентавр» и «обратный кентавр».
Кентавр — человек, усиленный технологией. В теории автоматизации так называют симбиоз, в котором машина помогает стать лучше, продуктивнее, эффективнее. В качестве более широких примеров автор приводит велосипед, слуховой аппарат и автозаполнение в текстовом редакторе.
Человек в этой структуре остается головой — принимает решения, а машина служит телом, выполняющим поручения. По мнению Доктороу, кентавр представляет собой благо для людей.
Обратный кентавр представляет собой полную инверсию: «механическая голова на человеческом теле». В такой системе человек служит дополнением для технологии, теряя управление.
Доктороу определяет обратного кентавра как человека, «призванного на службу в качестве помощника для машины, в нечеловеческом, машинном темпе».
Обложка книги «Путеводитель обратного кентавра по жизни после ИИ». Источник: Cory Doctorow's craphound.
Писатель позаимствовал термин «кентавр» у гроссмейстера Гарри Каспарова, который после поражения от суперкомпьютера Deep Blue в 1997 году предложил новый формат «продвинутых шахмат», в котором человек и искусственный интеллект выступают как команда против другой такой же пары. Мифологическое существо выбрали для обозначения совместной работы игрока и машины.
При этом Каспаров обнаружил, что гроссмейстер, поддерживаемый искусственным интеллектом, неизменно обыгрывал одиночных ИИ и людей. Кентавр оказался сильнее и человека, и машины по отдельности.
С развитием технологии закономерно проявились риски негативного воздействия такого «сотрудничества», на что и обращает внимание Доктороу. Вопрос уже не в том, может ли машина повысить эффективность, а в том, кому она подчиняется.
«Будущее может принадлежать людям, если мы никогда не перестанем помнить: самое важное в технологии — не то, что она делает, а то, для кого и с какой целью она это делает», — отмечает писатель.
Обратные кентавры среди нас
От определений Доктороу переходит к примерам «паразитирования» ИИ-технологий, основываясь на собственных наблюдениях. Он подчеркнул, что обратные кентавры становятся не просто абстрактной фигурой из темного будущего, а реальностью современной экономики.
Водители и работники складов
Наиболее наглядный пример — сотрудники ручной сферы труда, которые работают под контролем алгоритмических систем.
В книге Доктороу упоминается случай водителя Amazon, чей фургон оснащен камерами с ИИ, отслеживающими каждое действие водителя. Например, не отвлекается ли он на телефон или не поет ли за рулем (запрещено корпоративными правилами).
Алгоритм выстраивает маршрут и устанавливает временные нормативы. Как отмечает Доктороу, иногда запросы системы «требуют сверхчеловеческой выносливости». Водители вынуждены пропускать перерывы на еду и туалет, чтобы уложиться в график. Здесь человек выполняет функцию, которую машина не может реализовать самостоятельно, но все «административные» решения принимает ИИ.
Интерьер фургона доставки Amazon. Источник: Reddit.
Аналогичная ситуация наблюдается на складах, где алгоритмы распределяют задачи, отслеживают скорость выполнения и нарушения. Сотрудники вынуждены подстраиваться под ритм, заданный машиной, а не работать в собственном.
«Автоматизация не обязательно является врагом складской работы: в погрузчике нет ничего плохого! Разница между автоматизацией, которая помогает работнику склада, и автоматизацией, которая его мучает, заключается в том, может ли сотрудник выбирать, где, когда и как использовать эту автоматизацию. В этом разница между кентавром и обратным кентавром», — подчеркивает Доктороу.
Программисты и разработчики
В сфере разработки ПО внедрение инструментов автоматического написания кода (таких как GitHub Copilot или Codex) создает новый тип обратного кентавра. Доктороу приводит пример, когда программистов заставляют «выдавать невозможные объемы кода» с помощью ИИ-ассистентов.
При этом разработчики не столько управляют процессом создания, сколько проверяют и корректируют сгенерированный код. Из создателей они превращаются в контролеров, а темп и объем задач зачастую определяются производительностью ИИ-инструментов, а не человеческими возможностями.
https://forklog.com/exclusive/ai/polzuemsya-no-ekonomno
«Человек в цикле» (human-in-the-loop)
Наиболее системный случай, который Доктороу выделяет особо. Речь идет о работниках, чья задача — верифицировать результаты работы ИИ.
В юридических конторах, медицинских учреждениях, финансовых компаниях все чаще практикуется система, в которой искусственный интеллект генерирует проект решения или документа, а эксперт должен его проверить и утвердить. На практике это означает, что специалисту приходится обрабатывать большие объемы контента на «сверхчеловеческой скорости».
При этом он несет полную ответственность за ошибки ИИ. В такой ситуации обратный кентавр «впитывает трение и берет на себя ответственность, когда что-то идет не так», объясняет автор.
Верификация становится работой, которая по трудоемкости может не уступать самостоятельному выполнению задачи, но при этом лишена творческой составляющей и сопряжена с постоянным стрессом из-за непредсказуемости алгоритмов.
Медиа и творческие специалисты
В современной медиаиндустрии Доктороу наблюдает следующую тенденцию: три условных журналиста с ИИ-инструментами должны производить объем контента, который раньше создавали десять сотрудников.
ИИ генерирует черновики новостей, статей, заголовков, а журналисты выступают в роли редакторов-верификаторов. Их работа — не создавать, а фильтровать и исправлять. При этом нормативы по объему и скорости остаются машинными.
«Любой редактор, который поручает фрилансеру „написать“ большую часть 64-страничного летнего путеводителя, либо молчаливо, либо явно указывает этому автору ограничить свои усилия тем, чтобы побудить чат-бота извергнуть кучу правдоподобных словечек и придать им форму», — добавил Доктороу.
Все описанные примеры объединяет «асимметрия власти». Человек по-прежнему несет ответственность за результат, но теряет контроль над процессом. Технология не освобождает его от труда, а лишь переопределяет механизм работы (часто в сторону большей интенсивности и меньшей автономии).
Экономика и этика
Доктороу утверждает, что распространение обратных кентавров — системное следствие экономических стимулов. Работодатель сталкивается с «веселой арифметикой»: десять сотрудников можно заменить тремя с ИИ-инструментами.
Оставшиеся вынуждены решать объем задач, сопоставимый с прежним, но при этом добавляется функция верификации результатов, сгенерированных машиной. Экономия достигается не за счет фактического повышения эффективности труда, а благодаря перераспределению нагрузки на оставшийся персонал и перекладыванию на них рисков и ответственности.
«Ваш начальник почти наверняка любит ИИ», — утверждает писатель.
Те, кто принимает решения о внедрении технологий, редко сами становятся обратными кентаврами, поскольку находятся выше остальных в корпоративной иерархии. ИИ для них — инструмент управления, а не подчинения. Таким образом Доктороу пытается объяснить, почему внедрение искусственного интеллекта встречает сопротивление на нижних уровнях и энтузиазм на верхних.
Гигантские ИИ-корпорации тоже подстегивают распространение обратных кентавров. Доктороу предупреждает о финансовом пузыре вокруг искусственного интеллекта, оценивая его в $1,4 трлн.
Семь крупнейших ИИ-компаний составляют более трети фондового рынка, при этом их бизнес-модели во многом держатся на взаимных обязательствах и ожиданиях будущих доходов.
Крупнейшие компании, занимающиеся ИИ. Источник: CompaniesMarketCap.
По мнению писателя, пузырь неизбежно лопнет, оставив после себя лишь «полезный остаток» — дешевые открытые модели, работающие на персональных компьютерах, которые пригодны для локальных задач вроде транскрипции или обработки изображений.
«Даже если вы в конечном итоге отвергнете искусственный интеллект так радикально, что инвестиционный пузырь лопнет, определяющие повестку дня для своих компаний люди либо уже давно уйдут (с таким количеством денег на руках, что смогут создать династическое наследие, которое сохранится на века), либо найдут другой пузырь для раздувания», — считает Доктороу.
Ключевой экономический парадокс, который разбирает автор, касается верификации. Если каждый результат работы ИИ требует проверки человеком, а ошибки непредсказуемы и распределены неравномерно, то стоимость такого труда может оказаться сопоставимой со стоимостью самостоятельного выполнения.
Экономия возникает только тогда, когда работодатель перекладывает затраты на проверку на сотрудника, заставляя его работать быстрее и дольше, не оплачивая дополнительное время. Именно в этот момент обратный кентавр становится источником прибыли.
Социальные последствия
Превращение в обратного кентавра влечет за собой не только физические и психологические перегрузки, но и более страшные для человека в целом эффекты.
Доктороу говорит об этом как об «отречении от нашей человечности». Люди теряют автономию в принятии решений, лишаются творческого начала и становятся исполнителями алгоритмических команд, а не субъектами профессиональной деятельности.
Ответственность за ошибки ИИ — тоже важный аспект. Кто понесет наказание в случае более серьезного промаха машины, нежели обычный пропуск дедлайна? Такое давление на сотрудника приведет к хроническому стрессу и быстрому выгоранию.
При этом Доктороу отмечает, что восприятие полезности искусственного интеллекта напрямую зависит от того, добровольно используется инструмент или его навязывают. Сторонники ИИ, как правило, сами решают, когда и как его применять. Те, кто считают его бесполезным или вредным, вынуждены по приказу прибегать к его использованию.
Все в наших руках
Доктороу не пытается вдаваться в крайности, обходясь без антиутопических сценариев. Однако он подчеркивает важность правильного обращения с технологией и обозначил два уровня противодействия негативным последствиям.
Первый — индивидуальный. Идея подразумевает сознательное использование ИИ как инструмента, а не подчинение ему. Необходимо сохранять критическое мышление, не принимать результаты алгоритма без проверки и отстаивать свои трудовые права.
На политическом уровне нужны регуляторные инициативы, которые учитывают не только безопасность ИИ, но и цели его применения. Европейский подход, по мнению Доктороу, пока сосредоточен на рисках, но упускает из виду вопрос распределения власти. Необходимо, чтобы работники имели право голоса при внедрении систем автоматизации, а не только право на денежную компенсацию при сокращении.
Согласно прогнозу писателя, после краха ИИ-пузыря откроется реальная возможность для модели «кентавра» — человека, который использует технологию в качестве инструмента.
«Вот в чем суть: будущее за нами. Оно не является неизбежным. Искусственный интеллект — не джинн, которого нельзя загнать обратно в бутылку. Как мы будем использовать ИИ, зависит только от нас», — завершает Доктороу.
https://forklog.com/exclusive/prikladnoj-intellekt-gde-ii-v-svyazke-s-blokchejnom-okazalsya-realno-polezen
