[Аглая]

Норберт Винер "Корпорация "Бог и голем". Согласно аннотации обещано рассмотреть в контексте религиозного мировоззрения проблемы, с которыми может столкнуться человечество по мере развития интеллектуальных машин. Не знаю, как насчет религиозного мировоззрения, которое тут "в контексте", в общем, всемирно известный ученый размышляет на тему искусственного интеллекта и вообще роботизации... Размышляет он об этом еще на заре компьютерной эры - в 1952 году. Так что можно посмотреть, какую эволюцию за прошедшее время прошло общественное восприятие - это я про позорную книжку Баррата сейчас имею в виду.
Собственно говоря, Винер размышляет не столько об ИИ, сколько о человеке. Наверно, в этом и разница.
В то же время - рискуя погибнуть под тапками - не могу не побурчать... Все-таки мне кажется, что или книжка плохо написана - ну там, автор не обладает даром популяризатора, или что еще... что он ее не доработал толком, раз это "последняя работа" (согласно все той же аннотации)... или что она плохо издана, в конце концов. Может, это изначально издавалось, как дань памяти, ну, вы понимаете - любой материал, вплоть до черновиков - просто для сведения и информации. А то можно подумать, что это полноценный научный труд.
То есть, я имею в виду: книжка объемом на 120 страниц. Учитывая детсадовский шрифт и карманный формат, то смело можно сократить вдвое - 60 страниц (и это еще в лучшем случае!). Из этого объема вычесть предисловия и введения - ну, вот это любимое у американцев "в своей книге я расскажу о том, и о том, конкретно, в первой главе я расскажу о том и покажу то-то, во второй главе, расскажу об этом-то и покажу..." Лично я этого терпеть не могу - пустое разливание воды. Автор, не говори, что ты скажешь и покажешь, просто говори и все! В общем, вычесть еще 10 страниц.
Из оставшегося почти половина исписана наверняка очень научно-математически значимой, но совершенно нечитаемой китайской грамотой. Я понимаю, что автор гениальный математик! а я совсем не. И если бы это была брошюра для математиков, я бы к ней и не прикасалась! Но автор сам указал, что это он написал для среднего читателя. Ну так он как-то странно думает о среднем читателе, как по мне вот это вот никак не может быть рассчитано на среднего читателя... Вот просто открою наугад и выпишу...
"Импеданс, проводимость, коэффициент суть понятия, которые корректно использовать только при работе с линейными цепями, то есть, цепями, для которых сумма последовательности входных сигналов за определенное время соответствует сумме соответствующих выходных сигналов. В этих цепях соответствующий входной сигнал, посредством которого испытывается данная схема, является тригонометрически варьируемым входным потенциалом с различной частотой; для последней задана амплитуда и фаза."
Все понятно, да?
И главное - какой смысл в этой физико-математической писанине, если автор взялся размышлять о проблемах философского характера... даже в религиозном контексте... И он даже размышляет, например, высказывая мысль, что человек мечтает о приходе ИИ, чтобы самому не принимать решений, а переложить их на кого-то - что-то - еще. Глубокая мысль! Но для того чтобы ее сформулировать, автору ведь не понадобились математические формулы и прочая абракадабра? Так на фига тогда... Или это что - было испытание, проверка читателя? Что если он сможет пробиться через этот дремучий лес, то ему станут доступны некоторые мысли автора... Теряюсь в догадках.

"Существуют по меньшей мере три кибернетические проблемы, которые, как мне кажется, имеют непосредственное отношение к сфере религии. Первая проблема касается машин, способных к обучению; вторая - машин, способных к самовоспроизведению; третья же - проблема взаимодействия машины и человека."

"Всемогущество, которое мечет с небес молнии, вовсе не всемогущество, а лишь некая могучая сила, следовательно, мятеж ангелов мог бы закончиться восхождением Сатаны на небесный трон и низвержением Бога в тьму вечного проклятия."

"Машина способна генерировать сообщения, а сообщение может создавать другую машину. Я уже пытался раньше донести эту мысль до общества - говорил, что теоретически возможно переслать человеческое существо по телефону. Позвольте сразу уточнить, что возникающие при этом трудности намного превосходят мои способности справиться с ними... Сегодня эта идея кажется неосуществимой практически, но отсюда вовсе не следует, что она недоступна пониманию."

"Даже живые системы не являются по всей видимости живыми на уровнях ниже молекулярного."

"Если нашу гордость сильно уязвило сравнение человека с обезьяной... еще большим оскорблением видится нам сравнение с машиной."

"Возможно, силы "машинного века" нельзя считать по-настоящему сверхъестественными, но, как представляется, они воспринимаются как лежащие за пределами постижения простого смертного, как не соответствующие естественному порядку вещей.Быть может, мы больше не чувствуем себя обязанными посвящать эти великие силы вящей славе Божьей, однако нам до сих пор видится неприемлемым обращать их на достижение суетных или корыстных целей."

"Не считая того, что машинопоклонник находит повод для преклонения перед машиной в ее свободе от человеческих ограничений скорости и точности, имеется и другой мотив, который труднее выявить, но который должен, по-моему, играть весьма важную роль. Это стремление избегать личной ответственности за опасное или гибельное решение и возлагать такую ответственность на кого-то еще - на случай, на начальство и его политику, которую не положено оспаривать, или на механическое устройство, которое якобы невозможно понять до конца, но которое наделено бесспорной объективностью."

"... Едва такой повелитель осознает, что отдельные функции его рабов-людей могут быть препоручены машинам, он приходит в восторг. Наконец-то он нашел себе нового подчиненного - энергичного, услужливого, надежного, никогда не возражающего, действующего быстро и не требующего никакой личной заботы и опеки!"

"Если играешь в игру по определенным правилам и настраиваешь машину играть на победу, результат будет достигнут, но машина не будет обращать ни малейшего внимания на любые соображения, помимо соблюдения правил, ведущих к победе."

"Достаточно легко защищать добро и сражаться со злом, когда добро и зло четко противопоставлены друг другу разграничительными линиями и когда те, кто находится по другую сторону, являются нашими заклятыми врагами, а те, кто по эту сторону, - наши верные союзники. Но что, если нам в любой ситуации придется спрашивать себя, кто друг, кто враг? Как быть, если, вдобавок, мы препоручили решение важнейших вопросов неумолимой машине, которой следует задавать правильные вопросы заблаговременно, еще не разобравшись полностью в сути процесса, чьим посредством добываются ответы?"

"Будущее сулит мало надежд тем, кто ожидает, что наши новые механические рабы построят для нас мир, где мы будем наконец-то освобождены от необходимости мыслить."

"Главным среди преимуществ выглядит способность мозга оперировать наметками идей, которые еще не получили четкого оформления. В подобных обстоятельствах механические вычислители (по крайней мере, механические вычислители наших дней) почти не в состоянии самопрограммироваться. А между тем в стихах, романах и картинах наш мозг как будто успешно обрабатывает материал, который любая вычислительная машина отвергнет как лишенный формы."

"С точки зрения последующего использования любое изобретение следует оценивать не только по его сути (что именно изобретено), но и по тому, как оно может и будет служить человеку. Вторая часть указанной задачи зачастую куда сложнее первой."

"Следует помнить, что в играх ядерных войн экспертов вообще нет и быть не может."

@темы: Книги