[Аглая]

Джеймс Баррат "Последнее изобретение человечества". Уфф... Что за адский трэш. А ведь, казалось бы, издано в научно-популярной серии Альпины, так должен быть какой-то определенный качественный уровень!
О чем: буквально в двух словах. Автор усердно задвигает тему про искусственный интеллект, который вот-вот уже будет создан безответственными учеными и компьютерщиками, и это будет означать гибель для человечества! Потому что ИИ будет людей превосходить в каких-то чудовищных степенях! И люди не смогут его контролировать! И конечно, он будет враждебным к расе людей и постарается ее уничтожить, а что люди будут делать, если ИИ настолько их превосходит и они не могут его контролировать, и никогда не смогут - так, все, пошли по кругу.
И ради этой единственной мысли автор не поленился исписать триста страниц.
Сразу скажу - я не компьютерщик и в во всей этой информатике, в программировании ничего не понимаю! (автор, правда, тоже не компьютерщик, не программист и даже не ученый, как я поняла, а чисто деятель СМИ) Но, лично на мой взгляд, создается впечатление, что либо у автора серьезные психические проблемы на почве компьютеров и компьютерных технологий - либо он отрабатывает чей-то конкретный заказ. И то, и другое отвратительно.
Касательно психиатрии - это, условно говоря, первая половина книги. Где автор многословно, не стесняясь повторений, рассуждает об опасности ИИ, о том, как он будет враждебен... основываясь при этом большей частью на материале научной, и псевдо, и околонаучной фантастики! Законы робототехники Азимова, например, ага. Но, извините, какими бы прекрасными и удивительными не были НФ-книги, какие бы гранды их не писали - это все-таки беллетристика. Это никоим образом не научные исследования. Да, это перебор различных вариантов, моделирование с учетом того фактора или этого - в лучшем варианте. Но это не дает какой-либо твердой определенности! как мне кажется. В смысле, на каждого автора, пишущего об опасности и враждебности ИИ можно найти автора, который пишет об их полезности и, скажем так, спокойном с ними сосуществовании. Да у того же Азимова есть рассказы с враждебными ИИ, с дружественными ИИ, начисто безразличными ИИ, что угодно.
Вот тут и засада - автор заявляет острую, проблемную тему, но он не пытается в ней разобраться! Заслушать (представить аудитории) мнения за, мнения против, все такое. Он уже все для себя решил. Поэтому упорно бьет в одну точку. Он тут собрал, так сказать, список авторитетов, но - подробно описывает и рассказывает только о тех, кто поддерживает тему опасности ИИ. Если кто-то пытается смотреть на вопрос с разных сторон - автор будет приводить только те моменты, когда его точка зрения подтверждается. Про остальное будет сказано мельком и в таком ключе "но несмотря на это, он все же отметил, что..." и пошло-поехало. Если же кто последовательно отстаивает идею невраждебного ИИ, автор будет его слова помещать в свой контекст, всячески демонстрируя читателю, что это неправильное и совершенно безответственное мнение! Больше всего в этом плане достается злосчастному Курцвейлу, который осмеливается смотреть в будущее с оптимизмом и верить в НТП. Я этого Курцвейла не знаю (если не считать упоминаний в Коте Шредингера ), но тут прониклась к нему сочувствием.
Лично я, будучи махровым чайником и гуманитарием, продираясь через все эти панические изложения крутости ИИ и невозможности его одолеть, все ожидала, когда автор осветит мне элементарный вопрос, просто таки напрашивающийся. Имею в виду - как, в его понимании, ИИ будет грозить человечеству, захватывать и порабощать, если его существование зависит от кнопки выключения электричества? Первое, что приходит в голову. Не говоря уж о тупо производстве комплектующих, добыче нужных для этого полезных ископаемых... что происходит отнюдь не в виртуальности... То есть, почему вместо этих сложностей, угрожаемое человечество просто не вырубит компьютер? Ну, я этого так и не дождалась.
Ну вот, а вторая половина книги уже вызывает подозрение в наличии варианта заказа. Начинают невзначай проскальзывать какие-то моменты, которые производят неоднозначное впечатление. Как, например, автор восклицает, что ах, военные в своих целях продолжают разрабатывать все более мощные компьютеры и программы, но самое ужасное, что эти же разработки могут производиться и нехорошими организациями и государствами, несущими миру зло и угрозу, и вообще не проверишь, чего они там у себя делают! В числе таких жутких государств называются - ясное дело - Россия, Китай, Северная Корея, Иран... Ага. Не тут ли собака порылась... Дело просто все в том же старом добром классовом принципе... в современном исполнении. То есть, западноевропейская цивилизация вообще, и анлосаксы в частности, или там, скажем, пресловутый золотой миллиард, претендуют на то, чтобы определять допуск не только к ядерным программам, но и к компьютерным, информационным технологиям. Контролировать их.
Это, товарищи, бесит. С какой стати какие-то белые господа должны решать, что в том же Иране могут пользоваться благами НТП и современными технологиями или должны находиться на уровне позапрошлого века.
О да, если эти страшные государства (вышеперечисленные) не контролировать, так они несомненно, само собой, будут нести угрозу благословенным США. Ну и Западу вообще. Точно так же как гипотетически в скором времени ожидающийся ИИ.
Возникает вопрос - а может, дело не в ИИ и его враждебности, а во враждебности и нетерпимости одной определенной цивилизации? Как говорится, каждый судит по себе и т.д.
О России (также СССР) автор несколько раз изложил, что - вот всем известно, что русские не разработали свое ядерное оружие с нуля, а украли его у американцев! Да, ну и что? Надо же, зайки какие. Вообще-то также известно, что и американцы не разрабатывали ядерное оружие прямо с нуля, а в значительной степени воспользовались разработками нацистской Германии, присвоив их вместе с соответствующими специалистами (среди которых, однако, были и военные преступники) и подмяв все под себя. Дальше что?
А вот еще совершенно прелестный эпизод, прямо таки иллюстрирующий известный анекдот "а нас-то за шо?" В общем, короче говоря, после всех этих авторских стенаний об ужасных государствах, несущих угрозу мировому сообществу, вдруг оказывается, что это, например, не страшный Иран, а именно просветленные США разработали вирусную программу и совершили масштабную кибер-атаку на иранские компьютерные сети, в результате чего было почти полностью разрушено производство... что-то там по ядерным реакторам... ядерная программа Ирана была сильно отброшена назад... Ну, я тут даже комментировать ничего не буду. Автор, правда, высказывает порицание. Но не за то, что США грубо вмешались во внутренние дела другого государства, причинили колоссальный ущерб, уничтожили производство. А за то, что они не до конца продумали последствия, и что эта самая вирусная программа сейчас попала в руки мало ли кому. Оказывается, что не только американские военные ведомства и ЦРУ могут разрабатывать кибер-оружие и планировать вирусные атаки, но и другие тоже.
Дальше автор принялся во всех подробностях излагать, куда эти хакеры враждебных государств могут наиболее эффективно нанести удар на территории США, чтобы причинить как можно больший ущерб экономике, финансам и людским жизням вообще. Это мне вообще совершенно не понравилось. Не говоря уж о том, что публиковать такие чуть ли не инструкции в общем доступе по меньшей мере безответственно... в чем автор только что обвинял кибер-специалистов ЦРУ и Пентагона... Но и как-то в свете всего этого - а вот завтра, скажем, те же кибер-специалисты ЦРУ и Пентагона таки устроят обвал вот в этом самом звене. И обвинят в этом Россию, Китай и т.д. Северную Корею. Кто их проверять будет - вот, скажут, и книжка даже есть с предупреждениями! И эта самая их представитель в ООН будет стучать книжкой автора по трибуне, и все такое прочее. Они же так работают.
В общем, очень как-то тревожно от всего этого.

@темы: Книги

Comments

[Линдвурм]

Автор усердно задвигает тему про искусственный интеллект, который вот-вот уже будет создан безответственными учеными и компьютерщиками, и это будет означать гибель для человечества!

Автор, возможно, неосознанно, опирается на труды Марселя Энаффа, французского философа, антрополога и культуролога и , соответственно, на структурализм, строя свою теоретическую модель.
Цитата в тему: «Человек-машина Ламетри (произведения которого Сад с увлечением читал) представляет собой идеальную модель механизма из хорошо пригнанных друг к другу органов, которым является тело, лишенное души. Превращение тела либертена в машину для наслаждения имеет по крайней мере четыре преимущества. Тело, понимаемое как машина, уже не подотчетно никакой трансцендирующей его инстанции (совести, душе): «Мы встречаем возражение, что материализм видит в человеке не более чем машину и что поэтому он бесчестит человеческий род, но к чести ли человека будет сказано, что он подчиняется таинственным импульсам духа или даже не знаю чего именно, что требуется для того, чтобы вдохнуть в него жизнь непонятно каким образом?»8 Освобождаясь от души, машина также избавляется от предрассудков морали; недоступная угрызениям совести и жалости, недосягаемая для сознания вины, она в конечном итоге утверждает, что если души не существует, то все позволено.»
Цитируя Энаффа, замечу, что параноидальный страх Джеймса Баррата опирается ,собственно , на то, что свободный разум (см. философию либертинизма и либертинов (либертенов) , где слово «либертин» стало означать свободу от ограничений, в частности социальных, моральных и религиозных норм) свободен и никому ничем не обязан, но страшиться того, что к нему подойдут с той же мерой. Говоря проще, страх элоя-гедониста будущего перед механическими морлоками.

[Аглая]

Линдвурм, ну да, оно самое - "а нас-то за шо".
Или, в ту же тему - цивилизация, последовательно уничтожающая даже не врагов, а просто потенциальных соперников/конкурентов не может представить себе, что кто-то другой не будет действовать точно так же.

(хотя в первую очередь автор опирается на фантастику из которой вычитывает то, что ему нужно )

[Линдвурм]

автор опирается на фантастику

Уэллс очень прочувствованно описал. До сих пор кошмары видятся, видимо.

[Аглая]

Линдвурм, что уж тогда про СССР говорить!

[Линдвурм]

что уж тогда про СССР говорить!

А это сами лаймы виноваты — нехрен было у себя Первый Интернационал разводить: 28 сентября 1864 года в Лондоне собрался митинг в поддержку польского национально-освободительного восстания. Присутствовало не менее двух тысяч человек. Здесь были рабочие Англии, Франции, Германии и других стран, революционеры-эмигранты, жившие в Лондоне. Участники митинга приняли решение создать международную рабочую организацию, названную вскоре Международным товариществом рабочих. На митинге присутствовал Карл Маркс. По просьбе Генерального совета Маркс подготовил Учредительный манифест и Временный устав товарищества, утверждённые 1 ноября того же года.«Завоевание политической власти стало, следовательно, великой обязанностью рабочего класса», — указывал Маркс.
А потом — что выросло, то выросло...

[Аглая]

Линдвурм, ну вот, мало еще росло.