Ученые считают, что управлять сверхразумным искусственным интеллектом невозможно. Они убеждены, что такой ИИ был бы умнее всех остальных машин и превзошел бы человеческий. Специалисты предполагают, что при получении доступа сверхразумного ИИ к интернету и знаниям человечества наступит утопия или антиутопия.

Вместе с тем ученые подчеркнули, что искусственный интеллект можно контролировать с помощью алгоритмов сдерживания, которые отключали бы тот или иной функционал системы при обнаружении деструктивных действий.

При этом ученые установили, что любой алгоритм сдерживания уязвим тем, что может отключать сам себя. Кроме того, в работе такого алгоритма могут произойти сбои. Иными словами, эффект сдерживания длился бы недолго. Таким образом, он не гарантирует собственной работы, пишет hightech.fm. То есть, специалисты сделали вывод, что человек не способен сдерживать сверхразумный ИИ. И эту теорию ученые подтвердили исследованием на основе компьютерного моделирования.