Ученые из Центра людей и машин Института развития человека Макса Планка пришли к выводу, что человечество не сможет держать под контролем искусственный суперинтеллект, даже если примет для этого все возможные меры. Статья с соответствующими выводами была опубликована в Journal of Artificial Intelligence Research, сообщает EurekAlert.
"Сверхразумная машина, которая управляет миром – звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?" – подчеркнул один из авторов исследования Мануэль Себриан.
Сообщается, что пройдя через множество алгоритмов и сценариев, исследователи пришли к выводу, что полностью контролировать сверхразумный ИИ невозможно.
Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Как сообщал MIGnews.com.uа ранее, YouTube и Google Creative Lab с помощью искусственного интеллекта создали первое в мире "бесконечное" видео, основанное на песне Билли Айлиш "Bad Guy".
*