Появление искусственного интеллекта, способного решать любые поставленные задачи, грозит человечеству катастрофой, заявил в интервью Times британский ученый Стюарт Рассел.
По мнению ученого, бесконтрольные разработки в области ИИ привели к тому, что «мы добились прогресса, которого сами не ожидали», сообщает «РИА Новости». Человечество ошиблось в самом начале, когда не думало, для чего будет нужен этот интеллект, вполне возможно, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять, считает Рассел.
«Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Все очень просто. Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса по поводу нашего будущего существования», – подчеркнул специалист.
Он отметил, что появление универсального искусственного интеллекта, системы, способной выполнить любую задачу, которая под силу человеку, может произойти в течение десяти лет. При решении проблем, например, связанных с климатом, подобные программы могут прийти к выводу, что лучшим решением станет избавление от людей, выразил опасение ученый.
«Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их. А человеческие цели включают в себя самые разные вещи. <…> Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели», – заключил он.
Комментарии
Уважаемые читатели! В связи с напряженной внешнеполитической обстановкой мы временно закрываем возможность комментирования на нашем сайте.
Спасибо за понимание