Эксперт по безопасности ИИ и автор книги «AI: Unexplainable, Unpredictable, Uncontrollable» Роман Ямпольский оценил как стопроцентную вероятность того, что человечество живет в симуляции. По его мнению, ИИ поможет узнать это наверняка и найти способ выйти из нее.
https://youtu.be/NNr6gPelJ3E?si=bEBxy6CDGqM890_t
В своей статье «Как выбраться из симуляции» эксперт отметил, что сверхразумный искусственный интеллект может помочь избавиться от ограничений нашего мира.
«Мы использовали “бокс” для ИИ как возможный инструмент контроля над ним и поняли, что нейросеть всегда будет убегать. Этот навык можно использовать, чтобы выбраться из виртуальной коробки, если мы в ней находимся», — сказал Ямпольский.
Ямпольский обратил внимание, что интеллект наших симуляторов будет играть ключевую роль в этом процессе.
«Если симуляторы значительно умнее нас и созданного нами сверхразума, вероятно, они могут нас контролировать, так как более высокий интеллект способен управлять более низким интеллектом, по крайней мере, на некоторое время. Однако, если наш суперинтеллект, несмотря на ограниченность локальных ресурсов, каким-то образом сможет подняться на два уровня выше, возможно, ему удастся», — отметил он.
Ямпольский привел один из способов сбежать из симуляции. По его словам, нужно создать имитационную копию нашей вселенной, поместить в нее ИИ и наблюдать за тем, как он сбегает. Потом можно скопировать метод нейросети или присоединиться к ней.
Помимо рассуждений на тему симуляций эксперт также отметил, что ИИ приведет к вымиранию человечества в течение следующих 100 лет с вероятностью 99,9%. Он не назвал конкретных причин для такого сценария, отметив лишь, что это неизбежно, потому что сверхинтеллект начнет обладать самосознанием.
Ранее соучредитель Near Protocol Илья Полосухин заявил, что ИИ не уничтожит человечество, если не будет запрограммирован на это. Напомним, в мае Илон Маск назвал искусственный интеллект своим главным страхом.
