Объявление

Осуществляется переход на новую версию движка (регистрация новых пользователей пока закрыта), свои пожелания и вопросы оставляйте в ветке: Технический раздел -> Форум

#1 2010-02-25 21:47:47

turchin
Участник
Зарегистрирован: 2007-02-25
Сообщений: 261

Вернор Виндж. А что, если Сингулярность не наступит?

Вернор Виндж. А что, если Сингулярность не наступит?
http://www.kurzweilai.net/meme/frame.html?....html?m=1%23696
Конспект.
Виндж всё ещё 2007 году полагает Сингулярность наиболее вероятным исходом, однако научная честность побуждает его изучить альтернативные сценарии. Представим, что мы находимся в 2045 году и обнаруживаем, что Сингулярность не произошла. Почему это может быть? Возможно, включился в действие закон падающей отдачи от усложнения компьютерных программ. Сложность программ растёт настолько, что никакими вложениями денег невозможно избавить их от багов, которые приводят ко всё более и более впечатляющим провалам: например, система автоматического управления самолётами сводит все самолёты в одной точке пространства-времени. Эти провалы приводят к снижения спроса на продвинутое компьютерное оборудование, в результате чего закон Мура прекращает действовать, хотя до физических пределов миниатюризации ещё далеко. Фундаментальные исследования в области материаловедения стагнируют, в частности, из-за отсутствия сверхмощных компьютеров. Прогресс продолжается только в таких простых областях, как компьютерная память. В результате у нас есть супер-пупер аудивидеоосистемы и огромные базы данных, но нет гениальных программ, чтобы с ними работать. В результате нет ничего удивительного, в том, что ИИ не развивается, а без него невозможны и нанороботы. Эта эпоха получает название «Эра разбитых надежд». Действует закон Эдельсона: «Число важный открытий, которые не были сделаны, экспоненциально растёт с течением времени». Это связано с тем, что при быстром прогрессе мы просто не успеваем проанализировать и связать воедино все открывшиеся возможности. (От себя – другие возможные причины неудачи: Пенроуз прав, и мозг человека нельзя смоделировать на компьютере; интеллект зависит от неких непознаваемых процессов, например, предугадывания своих собственных будущих состояний через локальную машину времени; или есть пределы в создании интеллекта, он не может стать сверхчеловеческим, например, потому что идея об «интеллекте» оказывается ложным обобщением или из-за кризиса сложности. То есть, есть верхний предел сложности интеллекта и именно биологически человек наиболее оптимально приближается к этому пределу.)
Однако перспективы глобальной катастрофы никуда не делись – растут проблемы окружающей среды, и снова началась гонка вооружений и ожила концепция взаимного гарантированного уничтожения. Представим, что человечество пережило «эру разбитых надежд» и перед ним открылись перспективы Долгого настоящего (Long Now). Возможны три сценария:
1.    Возвращение к гарантированному взаимному уничтожению. Виндж иллюстрирует каждый сценарий графиком, который связывает население и максимальный доступный ему источник энергии. Рано или поздно происходит катастрофа.
2.    Золотой век. Стабилизируется большая продолжительность жизни большое население и высокий уровень доходов.
3.    Колесо времени. Цивилизация переживает циклы спадов и подъёмов разной амплитуды. (Бостром пишет, что такая ситуация не может продолжаться вечно: она вырождается или в сингулярность или в полное вымирание). Этот сценарий кажется Винджу наиболее вероятным.
Далее Виндж рассуждает о необходимости освоения космоса как о защите от глобальных рисков.


STRUCTURE OF THE GLOBAL CATASTROPHE Risks of human extinction in the XXI century
http://www.scribd.com/doc/6250354/

Offline

Подвал раздела

Под управлением FluxBB