С компьютерами может быть так же. Мы бы оставляли им механические работы по сухим, как пыль, расчетам, ведение документации, поиск информации, хранение данных, позволяя тем самым освободить свою голову для истинно творческой работы – так, чтобы мы могли построить Тадж Махал вместо глиняных хаток.
Это, безусловно, предполагает, что компьютеры никогда не будут служить ни для чего более, как для рутины и повтора. А что если компьютеры продолжат бесконечно развиваться и будут следовать за нами до последней твердыни нашего разума? Что если компьютеры тоже научатся строить Тадж Махал, писать симфонии и совершать новые великие открытия в науке? Что если они научатся подделывать все умственные способности, какие есть у людей? Что, в самом деле, если компьютеры смогут использоваться как мозги роботов, которые будут искусственными аналогами человека, делая все, что делает человек, только, изготовленные из более прочного и более долговечного материала, лучше переносящие суровую окружающую среду? Не станет ли человечество устаревшим? Не смогут ли компьютеры «взять верх»? Не станет ли это катастрофой четвертого класса (именно не пятого), которая уничтожит людей и оставит за собой наследников людей, созданных ими самими?
Если поразмыслить над этим, то можно задать себе довольно циничный вопрос: а почему бы нет? История эволюции жизни является историей медленного изменения видов или физической заменой одних видов совершенно другими, когда это изменение или замена приводят к лучшей подгонке к определенной нише в окружающей среде. Эта длительная, петляющая история несколько сотен тысяч лет назад пришла наконец к Homo sapiens, но почему это должен быть окончательный шаг?
Надо ли считать, что пьеса закончена? Собственно, если бы мы были способны отстраненно взглянуть на весь сложный путь эволюции в мире эпоха за эпохой, как медленно, по пути проб и ошибок, успехов и промахов эволюционировала жизнь, прежде чем появились известные нам виды, нам бы могло показаться, что разумно взять процесс эволюции в собственные, направляющие руки. Нам бы могло показаться, что в эволюции произошел бы реальный прогресс, если бы появился искусственный интеллект – лучшее из того, что до сих пор было придумано.
В таком случае замена человечества компьютерами была бы естественным явлением, объективно приветствуемым, как мы сами приветствовали смену рептилий млекопитающими, и чему мы могли бы возразить только из самолюбия по причине, которая в сущности легкомысленна и к делу не относится. Если быть еще более циничным, то стоит ли доказывать, что замена человечества – это отнюдь не зло, а истинное добро?
В самом деле, в предыдущих главах я предположил, что человечество предпримет разумные меры, которые предотвратят войны, ограничат население и установят гуманный порядок в обществе. Но сделает ли оно это? Хотелось бы думать, что да, но история человечества не очень-то воодушевляет в этом отношении. Что если люди не оставят свою вечную подозрительность и насилие друг против друга? Что если они не смогут ограничить население? Что если не существует пути, чтобы человеческая порядочность создала открытое общество? В таком случае как мы сможем избежать уничтожения цивилизации и, быть может, даже самого человечества?
Может быть, единственное спасение в замене видов, которые совершенно никуда не годятся, лучшими. С этой точки зрения следует бояться не того, что человечество будет заменено компьютерами, а того, что человечество не сможет развивать компьютеры достаточно быстро, чтобы подготовить себе наследников, которые бы взяли все в свои руки ко времени неизбежного крушения цивилизации в течение следующего века.
А все же что если люди все-таки решат проблемы, с которыми они сталкиваются сегодня, и создадут порядочное общество, основанное на мире, сотрудничестве и мудром техническом развитии? Что если это будет сделано с бесценной помощью совершенствующихся компьютеров? Несмотря на успех человека, есть ли у людей гарантия того, что их не вытеснят вещи, которые они сами создали, и не станет ли это настоящей катастрофой?
Но тогда мы можем задать вопрос: что имеется в виду под высшим разумом?
Это уж слишком упрощенно – сравнивать качества, как будто мы замеряем длину линейкой. Мы привыкли к одномерным сравнениям и прекрасно понимаем, что имеется в виду, когда мы говорим, что одна величина больше другой, или одна масса больше, чем другая, или одна длительность больше другой. У нас вырабатывается привычка считать, что все можно так же просто сравнивать.
Например, зебра может достичь удаленной точки раньше, чем это сможет сделать пчела, если обе стартуют в одно время и с одного места. Мы рассуждаем тогда, что, по-видимому, зебра быстрее пчелы. Однако пчела намного меньше зебры и, в отличие от зебры она может летать. Обе эти особенности важны при определении этого «быстрее».
Пчела может вылететь из ямы, из которой зебре не выбраться; она может пролететь сквозь прутья клетки, которая держит зебру в заключении. Что же тогда значит это «быстрее»? Если А превосходит Б в одном качестве, Б может превосходить А в другом качестве. Если условия изменятся, то или иное качество может приобрести большее значение.
Человек в аэроплане летит быстрее, чем птица, но он не может лететь в нем так же медленно, как птица, а временами медлительность может понадобиться для выживания. Человек в вертолете может летать так же медленно, как птица, но не так бесшумно, как птица, а иногда бесшумность может потребоваться для выживания. Короче, выживание требует комплекса характеристик, и никакие виды не могут быть заменены другими только из-за различия в одном качестве, даже если этим качеством является разум.
Мы видим это в человеческих делах достаточно часто. В критическом положении не обязательно выиграет человек с самым высоким коэффициентом умственного развития, может выиграть более решительный, или самый сильный, или самый выносливый, самый состоятельный, самый влиятельный. Да, разум важен, но это еще не все, что важно.
Одним словом, разум не просто определяемое качество, он проявляется по-разному. Суперобразованный ученый, профессор, и вместе с тем – ребенок в отношении вещей, далеких от его специальности, является стереотипной фигурой современного фольклора. Мы можем не удивиться, встретив искушенного бизнесмена, который достаточно разумен, чтобы уверенно руководить предприятием в миллионы долларов, и который не способен говорить грамматически правильно. Так как же мы тогда можем сравнить человеческий разум и разум компьютера, и что же мы можем иметь в виду под «высшим разумом»?
Уже теперь компьютеры способны на такие фокусы, которые человеку не под силу, но это не заставляет нас говорить, что компьютер разумнее нас.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127