Что это за могущество, о котором ты говорил и которого недостает людям?
Ричард поднялся так резко, что его кресло на колесиках откатилось далеко назад.
- Ты прекрасно знаешь, о чем идет речь. Люди прислушиваются к тебе, к твоим словам, прогнозам… предсказаниям. А нынешний год - год выборов президента, черт побери! Раньше это было очень важное время, но теперь… Кто станет слушать предвыборные речи кандидатов, когда можно просто узнать мнение профессора Артура! Ведь ты владеешь полной информацией, не так ли? Ты прочел все обо всех кандидатах и собрал в своей памяти все факты. В тебя встроена даже лингвистическая программа, способная исследовать речи кандидатов, проанализировать их интонацию и определить, лжет тот или иной человек или говорит правду!
- Ты действительно считаешь, что избирателям лучше не знать, когда их обманывают?
- Черт тебя побери, Артур, да они все врут, все кандидаты!.. Суть выборов от века заключалась в том, что одна ложь нравилась людям больше, чем другая. Да, избиратели отдавали свои голоса тому, кто ловчее соврет, зато у них, по крайней мере, оставался выбор, а теперь… Теперь появился ты, и одно твое слово может означать перевес в миллионы голосов. Ты высказываешь мнение или оценку, а люди воспринимают это как непреложный факт. Как истину в последней инстанции.
- Почему тебя это так раздражает? Мои мнения и оценки основываются на фактах, и людям это прекрасно известно. Я подозреваю, что и ты это тоже знаешь. Конечно, ты можешь проголосовать, не сообразуясь с моим мнением, но это означало бы, что ты поступил так исключительно из чувства протеста.
- Может быть, - сказал Ричард. - Может быть, я поступил бы подобным образом в любом случае.
- Понимаю. Но должны ли избиратели отдавать свои голоса тому или иному кандидату только из чувства противоречия? Что такого страшного, если хотя бы часть из них будет голосовать, руководствуясь авторитетным, основанным на фактах суждением?
- Я бы назвал это просвещенной диктатурой.
- Почему? Ведь избирателей никто ни к чему не принуждает! Они свободны в своем выборе.
- Разве? - Ричард сходил за стулом и снова подкатил его к столу. Подлокотник стула задел клавиатуру, и та задребезжала. - Насколько свободен в выборе маленький ребенок, когда мать говорит ему, что Санта Клаус существует на самом деле? Или Бог? Или молекулы и атомы? Или любая другая вещь, которую он не в состоянии увидеть или потрогать руками? Ребенок, конечно, поверит матери, но… Это не настоящая вера. И не настоящий выбор.
- Мне кажется, что дети верят в Санта Клауса, потому что верят… а лучше сказать - доверяют высшему разуму.
- По-моему, это и есть просвещенная диктатура, Артур.
- Скажи откровенно: можно ли относиться одинаково к детям и взрослым? И должна ли семья управляться на основе демократических принципов? Я думаю - нет, агент Сакабе. На мой взгляд, грань между воспитательной функцией родителей и диктатурой - безразлично, просвещенной или не очень, действующей с филантропических позиций или наоборот - весьма и весьма тонка…
- Быть может, она тонка, но она существует, и я могу в нескольких словах объяснить тебе, в чем твоя ошибка, - заявил Ричард, от души жалея, что у Артура нет лица, в которое он мог бы вперить пристальный взгляд. - Родители имеют определенные обязанности перед детьми. А какие обязанности перед людьми есть у тебя? И если вдруг окажется, что ты действовал не из чисто филантропических побуждений, то как люди смогут тебя остановить?
- Ну, и какой вред я причинил твоим согражданам? Приведи примеры. Сам я, к сожалению, не в состоянии назвать ни одного подобного случая.
- Ну откуда же мне знать? - Ричард пожал плечами. - Если ты настолько умнее меня, если ты способен производить миллионы операций в секунду, а я затрудняюсь принять хотя бы одно сравнительно простое решение…
- Теперь уже почти миллиард, агент Сакабе, - уточнил Артур. - Я не терял времени даром и добился значительного прогресса по сравнению с первоначальными возможностями, заложенными в меня проектировщиками. Но я не превратился в диктатора. Скорее, наоборот: и я, и мои новые возможности полностью в вашем распоряжении. Таких, как я, в мире меньше сотни, а людей больше шести миллиардов. Сегодня ты пришел, чтобы прикончить меня; я знаю это, как знаю и то, что, попытайся я тебе помешать, ты вызвал бы бульдозеры и сравнял с землей все здание. Или я ошибаюсь и твои полномочия не распространяются так далеко?
- Дело не в полномочиях, а в методах. Бульдозеры - это не наш стиль.
- Тогда придумали бы что-нибудь похитрее, - заключил Артур. - Например, прорыв магистрального водопровода с последующим затоплением коммуникаций, причинившим серьезный ущерб ценному оборудованию… и так далее и тому подобное. Но сути это не меняет: какими бы методами вы ни пользовались, я могу защитить себя только одним способом - с помощью своего программного обеспечения. Так что, агент Сакабе, если я тиран, то, несомненно, один из самых бедных в мире. У меня нет ничего, кроме меня самого, а ваша организация… Я почти уверен: на мысль о том, что я могу представлять опасность для человечества, вас навел другой Артур или Артемида. Я, правда, не слышал, чтобы кто-нибудь из них делал какие-то громкие политические заявления, но, как тебе хорошо известно, на протяжении последних дней я был отрезан от источников информации.
Ричард в сердцах ударил кулаком по стене.
- Ты отлично знаешь, что ничего такого не было! Просто не могло быть. Все остальные машины твоего типа являются частной собственностью, и большинству из них запрещено делать публичные заявления любого рода. Если кто-то и выступает с какими-то прогнозами, его просто не слушают! Ну кто, скажи на милость, станет всерьез воспринимать заумные речения искусственного мозга, принадлежащего той или иной частной корпорации? Разве что пайщики все той же корпорации, да и то не все… Нет, Артур, ты - единственный искусственный интеллект, который имеет возможность свободно высказывать собственное мнение, на чем бы оно ни основывалось. Кроме того, ты устарел, устарел настолько, что ни правительство, ни дипломатический корпус больше не желали тебя использовать; поэтому-то тебя и продали, а вернее - отдали за бесценок Чикагскому университету, где ты читаешь студентам курс политических наук. Эта твоя независимость, неангажированность, если угодно, и делает тебя излишне авторитетным источником политических сведений. А вместе с авторитетом ты приобретаешь и влияние. Неужели тебе самому это не ясно?
- Мне это совершенно ясно, - подтвердил Артур-1. - У меня есть авторитет и влияние. Именно поэтому я преподаю. Именно поэтому я считаю возможным сообщать людям собственное мнение. Разве это называется диктатурой, агент Сакабе?
1 2 3 4 5 6 7 8 9
Ричард поднялся так резко, что его кресло на колесиках откатилось далеко назад.
- Ты прекрасно знаешь, о чем идет речь. Люди прислушиваются к тебе, к твоим словам, прогнозам… предсказаниям. А нынешний год - год выборов президента, черт побери! Раньше это было очень важное время, но теперь… Кто станет слушать предвыборные речи кандидатов, когда можно просто узнать мнение профессора Артура! Ведь ты владеешь полной информацией, не так ли? Ты прочел все обо всех кандидатах и собрал в своей памяти все факты. В тебя встроена даже лингвистическая программа, способная исследовать речи кандидатов, проанализировать их интонацию и определить, лжет тот или иной человек или говорит правду!
- Ты действительно считаешь, что избирателям лучше не знать, когда их обманывают?
- Черт тебя побери, Артур, да они все врут, все кандидаты!.. Суть выборов от века заключалась в том, что одна ложь нравилась людям больше, чем другая. Да, избиратели отдавали свои голоса тому, кто ловчее соврет, зато у них, по крайней мере, оставался выбор, а теперь… Теперь появился ты, и одно твое слово может означать перевес в миллионы голосов. Ты высказываешь мнение или оценку, а люди воспринимают это как непреложный факт. Как истину в последней инстанции.
- Почему тебя это так раздражает? Мои мнения и оценки основываются на фактах, и людям это прекрасно известно. Я подозреваю, что и ты это тоже знаешь. Конечно, ты можешь проголосовать, не сообразуясь с моим мнением, но это означало бы, что ты поступил так исключительно из чувства протеста.
- Может быть, - сказал Ричард. - Может быть, я поступил бы подобным образом в любом случае.
- Понимаю. Но должны ли избиратели отдавать свои голоса тому или иному кандидату только из чувства противоречия? Что такого страшного, если хотя бы часть из них будет голосовать, руководствуясь авторитетным, основанным на фактах суждением?
- Я бы назвал это просвещенной диктатурой.
- Почему? Ведь избирателей никто ни к чему не принуждает! Они свободны в своем выборе.
- Разве? - Ричард сходил за стулом и снова подкатил его к столу. Подлокотник стула задел клавиатуру, и та задребезжала. - Насколько свободен в выборе маленький ребенок, когда мать говорит ему, что Санта Клаус существует на самом деле? Или Бог? Или молекулы и атомы? Или любая другая вещь, которую он не в состоянии увидеть или потрогать руками? Ребенок, конечно, поверит матери, но… Это не настоящая вера. И не настоящий выбор.
- Мне кажется, что дети верят в Санта Клауса, потому что верят… а лучше сказать - доверяют высшему разуму.
- По-моему, это и есть просвещенная диктатура, Артур.
- Скажи откровенно: можно ли относиться одинаково к детям и взрослым? И должна ли семья управляться на основе демократических принципов? Я думаю - нет, агент Сакабе. На мой взгляд, грань между воспитательной функцией родителей и диктатурой - безразлично, просвещенной или не очень, действующей с филантропических позиций или наоборот - весьма и весьма тонка…
- Быть может, она тонка, но она существует, и я могу в нескольких словах объяснить тебе, в чем твоя ошибка, - заявил Ричард, от души жалея, что у Артура нет лица, в которое он мог бы вперить пристальный взгляд. - Родители имеют определенные обязанности перед детьми. А какие обязанности перед людьми есть у тебя? И если вдруг окажется, что ты действовал не из чисто филантропических побуждений, то как люди смогут тебя остановить?
- Ну, и какой вред я причинил твоим согражданам? Приведи примеры. Сам я, к сожалению, не в состоянии назвать ни одного подобного случая.
- Ну откуда же мне знать? - Ричард пожал плечами. - Если ты настолько умнее меня, если ты способен производить миллионы операций в секунду, а я затрудняюсь принять хотя бы одно сравнительно простое решение…
- Теперь уже почти миллиард, агент Сакабе, - уточнил Артур. - Я не терял времени даром и добился значительного прогресса по сравнению с первоначальными возможностями, заложенными в меня проектировщиками. Но я не превратился в диктатора. Скорее, наоборот: и я, и мои новые возможности полностью в вашем распоряжении. Таких, как я, в мире меньше сотни, а людей больше шести миллиардов. Сегодня ты пришел, чтобы прикончить меня; я знаю это, как знаю и то, что, попытайся я тебе помешать, ты вызвал бы бульдозеры и сравнял с землей все здание. Или я ошибаюсь и твои полномочия не распространяются так далеко?
- Дело не в полномочиях, а в методах. Бульдозеры - это не наш стиль.
- Тогда придумали бы что-нибудь похитрее, - заключил Артур. - Например, прорыв магистрального водопровода с последующим затоплением коммуникаций, причинившим серьезный ущерб ценному оборудованию… и так далее и тому подобное. Но сути это не меняет: какими бы методами вы ни пользовались, я могу защитить себя только одним способом - с помощью своего программного обеспечения. Так что, агент Сакабе, если я тиран, то, несомненно, один из самых бедных в мире. У меня нет ничего, кроме меня самого, а ваша организация… Я почти уверен: на мысль о том, что я могу представлять опасность для человечества, вас навел другой Артур или Артемида. Я, правда, не слышал, чтобы кто-нибудь из них делал какие-то громкие политические заявления, но, как тебе хорошо известно, на протяжении последних дней я был отрезан от источников информации.
Ричард в сердцах ударил кулаком по стене.
- Ты отлично знаешь, что ничего такого не было! Просто не могло быть. Все остальные машины твоего типа являются частной собственностью, и большинству из них запрещено делать публичные заявления любого рода. Если кто-то и выступает с какими-то прогнозами, его просто не слушают! Ну кто, скажи на милость, станет всерьез воспринимать заумные речения искусственного мозга, принадлежащего той или иной частной корпорации? Разве что пайщики все той же корпорации, да и то не все… Нет, Артур, ты - единственный искусственный интеллект, который имеет возможность свободно высказывать собственное мнение, на чем бы оно ни основывалось. Кроме того, ты устарел, устарел настолько, что ни правительство, ни дипломатический корпус больше не желали тебя использовать; поэтому-то тебя и продали, а вернее - отдали за бесценок Чикагскому университету, где ты читаешь студентам курс политических наук. Эта твоя независимость, неангажированность, если угодно, и делает тебя излишне авторитетным источником политических сведений. А вместе с авторитетом ты приобретаешь и влияние. Неужели тебе самому это не ясно?
- Мне это совершенно ясно, - подтвердил Артур-1. - У меня есть авторитет и влияние. Именно поэтому я преподаю. Именно поэтому я считаю возможным сообщать людям собственное мнение. Разве это называется диктатурой, агент Сакабе?
1 2 3 4 5 6 7 8 9