Искусственный интеллект против людей

Сумасшедший, идущий по улице города с табличкой с надписью «Конец близок», возможно, что-то знает.

Команда математиков, философов и ученых из Оксфордского Института Будущего Человечества говорят, что появляется все больше доказательств того, что опора человеческой расы на технологии может, по сути, привести ее к гибели.

Группа намеревается выпустить трактат под названием «Предотвращение экзистенциального риска как глобальный приоритет», утверждая, что перед нами существует реальная угроза нашего собственного существования. И это не медленная смерть в каком-то далеком возможном будущем. Конец может наступить уже в следующем столетии.

«Существует необузданная гонка между технологическими силами человечества и нашей мудростью правильного использования этих возможностей», — сообщил директор Института Ник Бостром.

Есть угроза конца света, на который мы просто не сможем повлиять. Даже после паранойи пророчества майя 2012, люди по-прежнему остаются очарованы теориями о конце света. И массовая культура с радостью предается нашим тревогам. Только в этом году выйдет два фильма на эту тему.

НАСА, со своей стороны, в 2012 году выпустила серию ответов на часто задаваемые вопросы о конце света.

Хорошо известные угрозы, такие как астероиды, извержение вулканов и землетрясения, вероятно, не угрожают человечеству в ближайшем будущем. Даже ядерный взрыв, скорее всего, не уничтожит всего населения; достаточно людей смогут выжить, чтобы восстановить популяцию.

Однако, неизвестные факторы, такие как инновационные технологии, представляют большой риск развития, сообщил Бостром.

Другими словами, машины, синтетическая биология, нанотехнологии и искусственный интеллект могут стать нашим собственным злейшим врагом, если они еще этого не сделали.

«Мы разрабатываем вещи, которые могут обернуться против нас», — сообщил ученый. «Разрабатывая любую новую мощную технологию, мы должны тщательно продумать, что мы знаем, но гораздо более важно понимать, что при этом мы о многом и понятия не имеем», — сказал Бостром, имея ввиду замедление развития человека как вида.

Однако есть и хорошие новости. По словам ученых, «Земля будет оставаться населенной еще как минимум миллиард лет. Развитие нашей цивилизации началось лишь несколько тысяч лет назад. Если мы не уничтожим человечество, эти несколько тысяч лет могут быть только крошечной частью всей цивилизованной человеческой истории», — пишет ученый.