Станислав Лем «Ананке»

Наряду с «Дознанием» эту повесть, бесспорно, следует считать лучшим из «малых» (без романа «Фиаско») произведений цикла о пилоте Пирксе. Возможно, ввиду их большого по сравнению с рассказами объёма — такая форма, конечно, даёт возможность полнее выразить научно-фантастическую идею (и не одну, кстати). А возможно потому, что Лем тут вновь блестяще реализует замысел за счёт ситуации, созданной под идею просто блестящим образом.

Лучшее — враг хорошего. Гипертрофированный педантизм — это плохо, а в отношении самообучающегося разума — ещё хуже. В отзывах тут пишут, что Лем ещё пятьдесят лет назад спрогнозировал проблему, которая перед программистами встала только сегодня. Избыточное переобучение современных нейронных сетей, муштра по теории, становящаяся самоцелью — таковы поднятые в повести проблемы. Человеческий фактор даже в таком вопросе может оказывать своё пагубное влияние, вылившееся в итоге в катастрофу. Подобие вычислительной машины человеку, быть может, не всегда хорошо. В погоне за созданием совершенного искусственного интеллекта человек может впасть в одержимость и наградить машину и своими отрицательными качествами.

Механика описанного Лемом машинного обучения, конечно, отличается от алгоритмов, принятых на вооружение сегодня, однако дело-то ведь всего лишь в деталях. Во времена написания повести объединения компьютеров в сети ещё, можно сказать, не существовало, поэтому в повести описано взаимодействие одного компьютера с другим, что в контексте поставленной задачи, между прочим, и можно считать объединением отдельных узлов в сеть. Не было также и всемирной файлопомойки под названием интернет, поэтому людскому опыту машину обучает непосредственно человек-тестировщик. Следует признать, что приведённые отличия принципиальными признать сложно, что делает футурологическое предвидение Лема просто гениальным.

Ну, и разумеется, нельзя не упомянуть подкупающую реалистичность составляющих повести: расследование крушения космического корабля, этапы освоения Марса, психологические портреты героев.

А ещё тут есть исторический обзор заблуждений, нагороженных вокруг Марса, лирические рассуждения Пиркса о кризисе среднего возраста с проекцией на профессию космонавта и многое другое — в общем, целая коллекция драгоценностей для любителя по-настоящему умной научной фантастики.

Ужас от произошедшей катастрофы возвращается и нарастает новой волной по мере раскрытия её причин.

Эту вещь должен прочесть любой, кто даёт жизнь самостоятельным системам, будь то механический автомат, компьютерная программа или человек. Трагедия инженера-создателя — это суровое предупреждение: как важно сохранять баланс намерений и целей. Там, где не помогает накопленный опыт, как важно чувствовать напряжённость усилий, чтобы не сорвать резьбу, не наделать беды.

Сериал о Пирксе заслуживает высшей оценки весь, без исключений. Так как дает очень разностороннюю и глубокую проработку ряда идей, которые и фантастическими-то не назовешь — это просто проблемы, с которыми люди неминуемо столкнутся в будущем. Это уже хорошо, но — тут все эти строгие выкладки заключены в отличную художественную форму.

В частности, этот рассказ, заставляющий думать о том, что на определенном этапе развития техники на первую роль выйдет не эрудиция и интеллект работающих с нею людей, а их характер и прочие чисто человеческие свойства.

Марс — безжизненная красная планета, где никогда не стихают пронзительные ураганные ветра, где нет ни малейших проявлений жизни, даже руин, оставленных некогда могущественной неземной цивилизацией, здесь их тоже нет. Именно таким предстает наш ближайший сосед по Солнечной системе в повести С. Лема «Ананке», предпоследнем произведении из цикла, посвященного пилоту Пирксу.

По сюжету повести во время пребывания Пиркса на Марсе во время посадки гигантского земного звездолета происходит сбой в системе бортового компьютера, в результате страшной катастрофы не выжил никто. В ходе служебного расследования трагедии Пиркс понимает, что докопаться до причины случившегося под силу только ему, и он должен это сделать любой ценой в сжатые сроки, ведь вслед за первым кораблем на Марс направляются два аналогичных звездолета, которые могут разделить печальную участь первого.

Повесть типично мужская, я бы сказал даже с легким запахом «Шипра». В первую очередь хотелось бы отметить образ главного героя, который предстает перед нами здесь уже далеко не зеленым новобранцем, но опытным космическим волком. Пиркс подкупает своей честностью и прямотой, готовностью поступать согласно своим убеждениям, невзирая на угрозу репутации. Он не привык следовать установленным правилам, не признает авторитетов — опытный профессионал, влюбленный в свое дело, болеющий космосом, ему хочется подражать, на таких людей нужно равняться.

Отдельной строкой хотелось бы упомянуть чудесные философские отступления автора, которые задевают за живое. За полной надежд и радостей юностью неизбежно приходит зрелость — время когда человек понимает, что лучшие годы уже позади. Каждый человек справляется с этим знанием по-своему, но выбор придется делать каждому. Когда тебе восемнадцать — весь мир лежит у твоих ног, и кажется, что за каждым поворотом поджидает чудо, старость кажется чем-то нереальным, неизмеримо далеким. Меняемся мы, меняется мир вокруг нас, но вопреки всему человек должен продолжать жить, нельзя сдаваться и уходить в мир иллюзий. Благодаря вкраплению в текст этих размышлений автора повесть приобретает глубину, задумчиво философский характер.

Талант С. Лема проявляется и в описаниях марсианских пейзажей. Казалось бы — что здесь описывать — безжизненная равнина, мрачная однотонная и угнетающая дух даже самых отъявленных оптимистов. Тем не менее, автор сумел отыскать в этом мире собственную поэзию, красоту неизменности и светлой грусти. В начале Пиркс признается, что ему не нравится Марс, но по ходу сюжета его отношение к красной планете меняется, он чувствует гармонию между этим миром и собственным психологическим возрастом, состоянием души. Реальность во многом зависит от взгляда наблюдателя — мы можем видеть марсианские каналы, хотя на самом деле их не существует или же наоборот не замечать их, ведь возможно эти каналы на Марсе всё же есть?

В центре НФ-компоненты повести — проблема взаимодействия человека и машины. Чем дальше идет технический прогресс, тем больше люди начинают доверять автоматике, но эта инфантильность не всегда оправданна, в критической ситуации никакой механизм не сможет действовать лучше живого человека. Этот момент лежит почти что на поверхности, чуть глубже зарыта проблема взаимоотношений ученика и учителя. Автор стремится обратить внимание читателя насколько важную миссию берет на себя наставник, формирующий умы. Учитель должен отбросить личные амбиции, вкусы и пристрастия, ставить во главу угла передачу объективного знания, не нагружая его отпечатком собственной личности.

Как видим, повесть получилась довольно разноплановой, здесь каждый может найти что-то свое. Особо советую это произведение тем, кто уже перешагнул рубеж тридцати лет, но еще не достиг сорока, именно в этом возрасте эффект от чтения будет максимальным, хотя здесь немалое значение играет и психологический возраст, ведь некоторые не вырастают из коротких штанишек до самой старости. Это настоящая фантастика, которая заставляет думать и ломать голову не только над решением сюжетной задачи, но и над вечными вопросами жизни и смерти, взросления и старости. Как часто нам в жизни приходится делать нелегкий моральный выбор — дойдете до финала и узнаете, какое из двух зол выбрал Пиркс...

Рассказ одновременно ужасает и интригует. Пирксу всегда доставались не простые ситуации и сложные задачи. И этот раз не стал исключением. Марс давно потерял привлекательность для колонизации Землянами, и разрушил многие надежды, но всё-таки освоение продолжалось. На этот раз Пиркс стал свидетелем крушения космического корабля «Ариэль».

Но что послужило причиной трагедии, если посадка, казалось бы, проходила гладко? Для ответа на этот вопрос создаётся специальная комиссия, но существует множество версий. Какая же из них правильная? И только Пиркс благодаря своему шестому чувству находит верный ответ!

Чувства, вызванные перечитыванием этого рассказа, можно охарактеризовать просто: удовлетворение и восхищение. При всей кажущейся легкости сюжета, произведение достаточно глубокое, только глубина его, в отличие от «Дознания», лежит по большей части не в плоскости философии, а в области психологии. Не случайно название рассказа: Ананке (ударение на второй слог) – имя древнегреческой богини необходимости, неизбежности. По имени этой богини Фрейд назвал своеобразное психическое расстройство, болезнь. И именно этим расстройством болен один из «программистов», который занимался окончательной настройкой и проверкой компьютерного «мозга» космического челнока… Замечательный рассказ, лишь немногим уступающий эталонному «Дознанию».

В этой повести эффект достоверности создаётся марсианскими реминисценциями главного героя, — размышлениями о р е а л ь н о м Марсе в соотнесении его с марсианской мифологией НФ. Если на Марсе и создадут поселения, то первым делом там откроют библиотечку фантастических «марсианских» книг...

Как всегда Пиркс на высоте. Но это ему нелегко даётся. Множество факторов, огромное количество версий, которые вертятся в голове, каждая из них может оказаться истинной и каждой чего-то не хватает. Но самое ужасное — это будущее людей на Марсе — летящие к планете корабли либо смогут удачно приземлиться, либо должны отказаться от посадки на Марс. А как же необходимые «марсианам» грузы? Перевозить их на крохотных корабликах, у которых нет проблем?

В общем проблема выглядит нерешаемой. И только Пирксу приходит в голову решение, именно потому, что он с одной стороны не верит вычислительным машинам, а с другой — напротив, слишком хорошо их знает. А машины, компьютеры, обладая колоссальными преимуществами перед людьми в быстродействии, с другой стороны обладали и кошмарными

недостатками — не мог компьютер сопротивляться человеку, если его именно на это заранее не запрограммировали.

В общем ответ найден, задача решена, а чего это стоило герою — читайте.

Совсем не показался скучным, пожалуй после «Дознания» самый сильный рассказ в серии.

эффект ананке стоит рассмотреть современным коновалам поподробнее. одна из книг, навевающих ужас

Прекрасный пример гениального НФ-предвидения. Прямо-таки — классический пример. Потому как Лем умер в 2006-ом. И в том же — 2006-ом впервые, фактически, был опробован принцип «практического создания» искусственного интеллекта.

Цитата: «...в 2006 году было предложено несколько неконтролируемых процедур обучения нейронных сетей с одним или несколькими слоями с использованием так называемых алгоритмов глубокого обучения. Эти алгоритмы могут быть использованы для изучения промежуточных представлений, как с выходным сигналом, так и без него, чтобы понять основные особенности распределения сенсорных сигналов, поступающих на каждый слой нейронной сети...».

Перевод на русский язык в начале января «гоняли» многократно на телеканале «Наука». Цитату оттуда не приведу, но — по памяти: «...программисты могут гарантировать строгое соблюдение принципов обучения нейронной сети, но гарантировать, хотя бы даже в общих чератах, ВЫВОДЫ, которые — в итоге — искусственный интеллект будет использовать в своей работе... Увы, но регулировать в полном объеме РЕЗУЛЬТАТ ОБУЧЕНИЯ нейронной сети — на сегодняшний день развития технологии ИИ пока НЕВОЗМОЖНО.

Вот такие дела. Так что рассказ — шедеврален. По меркам НФ — просто шедеврален

Сильная вещь. Может быть, не очень увлекательная для любителей динамичных ярких сюжетов, но настоящая находка для любителей логичного психологического чтения.

А лично мне здесь очень нравятся рассуждения о возрасте, о старении. Казалось бы, не имеющие отношения к сюжету.

Сравнение бортового компьютера в рассказе с современными компьютерами неверно, сравнивать нужно с современными искуственными интелектами. Психоз искустенного интелекта описанный в произведении вполне возможен. Выявление подобного психоза через тесты будет задачей далеко нетривиальной. Можно конечно поспорить, что психотерапевт, разрешивший работу над проектом, виноват не меньше Корнелиуса.

Рассказ в первую очередь произвел впечатление на меня своим описанием Марса. По мне — самое реалистичное описание из всех читанных мной на данный момент. Марс — скучная песчаная безжизненная пустыня — по-моему наиболее соответствует современной действительности, в отличии от многочисленных фантазий других авторов. Сам рассказ тоже добротный и равномерный, почти отличный, но вот до высших оценок чего-то ему постоянно немного и неуловимо не хватало и так, к сожалению, все произведение.

Другим сильным моментом были размышления о возрасте, которые ярко смотрятся относительно космолетчика, но легко могут быть перенесены и на большинство других профессий и занятий. А вот размышления про каналы Марса, их причастность к катастрофе, найденная библиотека, пример творчества По и другие некоторые сюжеты, какое-то время интригуют, поднимают накал, но ничем особенным не заканчиваются и несколько не оправдывали моих ожиданий. Описания создания и натаскивания компьютеров, с одной стороны не совсем оторваны от реальности, но меня, тоже не впечатлили и вызвали больше вопросов «зачем?». Автор описывает элементы нейронного программирования (обучение) в паре с обычными программами и алгоритмами плюс команда, которая безвольно наблюдает за конфликтом между этими двумя подходами, результатом которого становится катастрофа. Кроме того, сомнительна возможность компьютера «захлебнуться избытком данных» от своих датчиков, и это не зависит от его «мощности». Алгоритм берет показания своих датчиков пускай 10 раз в секунду и корректирует свои параметры, более мощный компьютер будет это делать скажем 100 раз в секунду (если в такой точности вообще есть смысл) и ни тот вариант ни другой его не захлебнет и не перегрузит, эта точность обработки будет просто достаточна или не достаточна применительно к данной конкретной ситуации и все, и никаких сенсаций с влиянием чьего-то подсознания.

Что же касаемо ужаса самой произошедшей трагедии, то, к сожалению, я его просто пропустил и не заметил, благо комментарии натолкнули меня на мысль о нем. Просто современный мир настолько кровав, насколько и безразличен к этому ужасу, что его восприятие уже атрофировалось. Я имею в виду и беженцев-переселенцев плывущих на каких-то корытах из голодной Африки в сытую Европу, гибнущих тысячами ежегодно, и какую-то исламскую державу творящую десятки терактов, истребляющую людей налево и направо не глядя, и войну под боком, которую стыдливо не замечают, и мирный боинг сбитый не так давно ракетой, чью страну принадлежности здесь упоминать нельзя и над которым один комик «удачно» пошутил, что он и его 300 пассажиров упали и разбились, так как были тяжелее воздуха, и много чего еще.

После рассказа «Дознание» здесь можно увидеть совершенно закономерную судьбу искусственного интеллекта, первоначально воплощённого в виде человекоподобных роботов. Искусственный интеллект помещён в бортовой компьютёр космического корабля, что сводит на нет конфликт роботов и людей из-за рабочих мест.

В наше время в сфере информационных технологий происходит бум по двум направлениям: так называемые «большие данные» и нейронные сети. Одна из проблем, с которой сталкиваются специалисты в области нейронных сетей — это явление «переобученности». Нейронную сеть тренируют учебными примерами, по мере чего её способности к узнаванию растут. Однако при большом количестве обучающих примеров нейронная сеть настолько приспосабливается к работе с учебными примерами, что начинает хуже справляться с реальными задачами, для решения которых её тренируют. Можно с уверенностью сказать, что Станиславу Лему этот факт был не известен, однако догадка была гениальной. Компьютер Ариэля был обучен Корнелиусом сверх меры, из-за чего в каждой реальной задаче компьютер угадывал сразу несколько учебных примеров с диаметрально противоположными решениями.

Стоит также учесть, что нейронная сеть работает не по заранее заданному алгоритму, а по неизвестному заранее алгоритму, который она формирует сама в процессе обучения. Если Уоррен Корнелиус обучал компьютер каждого из кораблей индивидуально, отдельно от остальных, то каждый раз получалась новая нейронная сеть с новым алгоритмом, который мог отличаться от алгоритмов других компьютеров, пусть и обученных тем же учителем. Да, конечно все компьютеры, обученные одним учителем, должны были вести себя очень похоже, но не совсем одинаково. Поэтому, возможно, только компьютер Ариэля был самым пугливым, а компьютеры остальных кораблей смогли бы справиться с посадкой на Марс с трудом, но без таких катастрофических последствий.

Поступок пилота Пиркса неоднозначен. Налицо разглашение врачебной тайны и доведение до самоубийства. Расследование по факту катастрофы ещё не завершено, а Пиркс уже сделал выводы и оказал психологическое давление на назначенного им самим подозреваемого. Это непрофессионально и не этично. Понятно, что если бы расследование шло своим порядком, то марсианский город Агатодемон остался бы без провизии. Но не Пиркс отвечает за снабжение города. Если снабжение города полностью зависело от использования кораблей, которые никогда до этого не садились на Марс, значит виноват в сложившейся ситуации не Корнелиус, который добросовестно обучал компьютеры кораблей, а один из управленцев, который не предусмотрел запасных вариантов снабжения, не планирует опережающее снабжение города. Допустим, на этот раз Пиркс спас город от безвыходной ситуации, но кто спасёт город в следующей непредвиденной ситуации?

В общем, прежде чем обучать искусственный интеллект, лучше людям для начала было бы обучить собственный. На мой взгляд, нейронные сети — это такой шулерский трюк, который позволяет получить правильное решение задачи в большинстве случаев, а не во всех. Используют этот шулерский трюк тогда, когда задача настолько трудна, что её решение находится за пределами возможностей человеческого мозга, но когда неправильное решение нейронной сети не влечёт катастрофических последствий. В случае с космическими кораблями из этого рассказа применение нейронных сетей недопустимо. Но в то же время я охотно верю, что нейронные сети в этих кораблях стали использовать по указанию менеджеров, которым нужно было опередить конкурентов и получить хорошее решение, но уже сейчас вместо безупречного, но потом. Что-то подобное случилось с автопилотом Boeing 737 MAX.