Тед Чан «Жизненный цикл программных объектов»

Исследуется проблема переносимости эволюционных алгоритмов реального мира на разработку сильного искусственного интеллекта. В некотором роде — мрачный взгляд с другой стороны на известный силлогизм о любви и козлах. Перед ознакомлением с этой книгой полезно перелистать «Диаспору» и «Похищение» Игана.

Бумажная версия содержит превосходные рисунки Кристиана Пирса и карты Джейка Макмюррея (чем-то напоминающие концептуальные наброски UML-диаграмм).

Самая крупная работа Чана за всю его писательскую карьеру и, пожалуй, roadmap для всех последующих фантазий на тему неспешно пробуждающейся Сингулярности.

Текст находится в свободном доступе, что как бы намекает.

На удивление близкий к нашей реальности взгляд на ИИ и его возможную роль в обществе. Если когда-то война была двигателем прогресса, то теперь оным однозначно являются развлечения.

Чан описывает здесь такой себе продвинутый вариант «Тамагочи» — разумных зверушкоподобных цифровых героев, которых можно развивать, и которые функционируют по законам развития живых организмов. И они наделены некоторым аналогом человеческого интеллекта (правда не на самом высшем его уровне, но достаточно, чтобы они воспринимались как живые и разумные существа). Их среда обитания — цифровой мир. Поскольку сервер работает, постольку они себе могут «жить» и тогда, когда пользователь не следит за ними. Вполне аналогично существующим сейчас мирам онлайн-игр. А еще для них конструируют роботов, в которых их можно «вселить», и тогда они вступают в контакт с реальным миром...

В отличии от Non serviam Лема, где персоноиды в математическом мире суть просто модель человеческого сознания, которую используют для проведения опытов, программные объекты Чана — очень милые и «няшные» зверушки, с которыми человек в ходе «выращивания» и «воспитания» очень активно контактирует. И вот здесь всплывает особо отчетливо конфликт между инстинктивной эмпатией и объективной реальностью. У главных героев появляются чувства к своим «воспитанникам», что-то среднее между привязанностью к домашнему животному и любовью к приемному ребенку. Но при этом это все-таки не реальные живые существа, и есть ряд очень существенных отличий в самой их сущности. Во-первых, их можно клонировать сколько угодно и на каком угодно этапе развития. Во-вторых, развитие можно отмотать назад на какой угодно этап. В-третьих, возникает вопрос насчет хакеров, которые вживляют этим существам возможность чувствовать боль для своих садистских развлечений. В-четвертых, возникает вопрос независимости от «хозяина». Сами эти существа иногда не совсем понимают те моральные проблемы, которые мучают их создателей, потому что они все-таки живут в немного другом мире. При этом между ними и их «воспитателями» возникает недоуменное непонимание. И поэтому у некоторых из них возрастает желание рулить своей жизнью самостоятельно. Это возможно, если зарегистрировать такую программу как юридическое лицо. И к большому удивлению своих создателей, они при этом готовы на многие шаги, которые люди считают относительно них аморальными и унизительными.

Ну и в-последних, конечно, для ханжеской Америки жуткой моральной дилеммой становится вопрос, стоит ли им позволить обрести сексуальность. Он становится ключевым в последних действиях героини. Ведь это же так аморально — сделать из них сексуальных партнеров для людей, у которых проблемы с поиском для себя пары, даже если при этом и сами существа будут получать удовольствие. Главную героиню гложет, что это будет вживленное им искусственно удовольствие, и при этом она немножечко забывает, что все остальные их возможности и характеристики точно так же искусственно созданы. Она жертвует своей личной жизнью и вообще почти всем ради своих любимцев, все дальше отходя от нормальных отношений с окружающими людьми.

Здесь не только стираются грани между виртуальным и реальным. Здесь очень хорошо осветляется тот момент, что мы суть животные в своих инстинктивных реакциях, хотя и очень продвинутые животные. И эмпатия, которая сыграла для нас очень хорошую роль в эволюции, уже играет в некоторые моменты с нами злую шутку, когда мы слишком привязываемся к вещам, «оживляя» их в своем восприятии, что же тогда говорить о такой хорошей имитации, по которой не видно, что это имитация? Умом главные герои знают, с чем имеют дело на самом деле, они сами участвовали в разработке. Но эмоции перевешивают.

Ну и главная ценность этого произведения в том, что оно очень близко к современной жизни. Я уже прям вижу, как какие-нибудь японцы разрабатывают что-нибудь подобное. На сегодняшний день уже очень много людей, практически ушедших в виртуал. А теперь виртуальная реальность сама идет к нам... Может я старомодна, но есть в этом что-то жутковатое))) А на самом деле просто для таких вещей нам самим еще нужно эволюционировать достаточно, чтобы воспринимать их объективно. Но прогресс, как всегда, быстрее нашего собственного развития.

Жирными минусами книги для меня стали картонность персонажей — психология явно не сильная сторона Чана — и ужасная сухость языка. Если в других произведениях он краток и лаконичен, но выразителен, и даже эстетичен (например, в «Вавилонской башне» очень даже), то здесь он сух до невозможности. Складывается впечатление черновика, еще требующего литературной обработки, но поданного нам сырым. А жаль, ибо идеи очень интересны и рассмотрены под довольно неожиданным углом.

Вот ведь скука смертная! Принудил себя дочитать, домучал-таки.

1. Повесть начисто лишена каких-либо художественных достоинств. Мои производственные инструкции на работе читать и то интереснее. Это скорее не литературное произведение, а план для создания такового. Герои неживые (даже те, которым положено такими быть), никого сопереживания не вызывают. Интрига отсутствует совсем.

2. Год написания 2010. На этот момент нет никаких новых фантастических допущений и идей. Все это мы уже видели и читали.

3. Важные философские вопросы можно было бы задать, они напрашивались. Но ни одного вопроса не было поставлено. Например:

А что такое сознание вообще?

Обладает ли искусственный интеллект сознанием?

Возможно ли пробудить сознание (или даже душу) в искусственном интеллекте?

Правоспособен ли искусственный интеллект? Можно ли ему вменить права и обязанности?

Зависит ли рождённое сознание (если такое возможно) от носителя? Ну и так далее.

Если бы у меня друг спросил стоит ли читать это, я бы уверенно сказал: «не стоит».

Кажется, что читаешь набросок романа, в котором описаны ключевые моменты, а всё, что между ними, заменено фразами типа «прошёл год». Этому способствует и изложение в настоящем времени, которое только услиливает впечатление, что читаешь не законченное произведение, а, скорее, концепцию, по которой потом будет написано что-то.

В общем же, довольно неплохая, хотя и не сильно оригинальная история. Дальнейшее чтение: вопрос воспитания АИ наравне с человеком чуть более подробно рассмотрен у Дэвида Брина во второй части «Бытия», секс-боты, любящие своих хозяев — у Стросса подробно в «Детях Сатурна».

Абсолютно согласен с теми, кто пишет о неживых персонажах, о сухости изложения, об ощущении «недоделанности» произведения. Также обратил бы внимание на невнятную концовку. И, самое интересное — всю дорогу не покидало чувство, что перечитываю кибер-вариант «Цветов для Элджернона» — соответственно, ничуть не удивился, заглянув в «похожие произведения». Скучно, затянуто и, простите за сленг, «ниочем»(((

Повесть совсем не об электронных зверушках — о людях. Людях, которые неосознанно примеряют на себя мантию богов, входят в роль, не понимая, что единственное, что действительно от них зависит, — это сделать так, чтобы ничего не зависело. Ведь пытающийся манипулировать миром манипулирует только собой. Эдакое «Трудно быть богом» цифровой эры. Конечно, герои повести терпят неудачи в личной жизни, испытывают кризис моральных установок и т.д. И это понятно — их ведь никто ТАК не обучал, не программировал, никто СТОЛЬКО с ними не возился. На фоне действительно получающих уникальный жизненный опыт дигитантов люди остаются все теми же: ограниченными, закомплексованными, фрустрированными. Такими они и останутся до конца своих коротких дней. Замкнутый круг. Дигитанты же несомненно найдут свою нишу — понять которую мы будем уже не в состоянии. Хорошо, если честно признаемся в этом и начнем с другими игрушками. Таков этот жизненный цикл биологических объектов...

Тед Чан решил написать полноформатную повесть на свою любимую тему – о реакции человека на стремительное изменение технологий.

Создание цифровых объектов, о которых необходимо постоянно заботиться, далеко не новинка. Достаточно вспомнить японских тамагочи. Но Чан решил внести усовершенствование, наделив их искусственным интеллектом на основе нейросетей. Получившиеся в итоге «программные объекты» необходимо было обучать как маленьких детей – управлению своим аватаром, речевому взаимодействию с другими дигитантами и людьми и еще многому другому. Но зато можно было надеяться, что они будут «расти» со своим владельцем.

Первоначально компания-разработчик рекламировала дигитантов, как новый тип игрушек, с которыми можно общаться. Но как только владельцы поняли, что перед ними полноценные дети, требующие постоянного ухода, начались массовые отключения. А самых стойких добил период «зрелости», когда «объекты» становились раздражительными и мало управляемыми.

В конечном итоге осталось два десятка фанатиков, для которых забота о дигитантах стала образом жизни. И среди них – Ана Альварадо, «тренер» маленьких «объектов», и Дерек Брукс – дизайнер аватар. Собственно, вся повесть – это описание борьбы Аны и Дерека за своих подопечных, в жертву которым приносится и личная жизнь, и финансы, и все свободное время. Ведь дигитанты существуют не только в виртуальном мире, в теле робота они могут выходить в реальность, но, по закону, только в сопровождении владельца. А еще им необходимо все время делать апгрейд, т.к. стремительное развитие базовых платформ их обитания приводит к несовместимостям с нейродвижком, что, фактически, обозначает изоляцию от всего остального мира в рамках старых версий.

В повести такая несовместимость с новыми платформами поставила владельцев дигитантов перед непростым моральным выбором. Либо дать согласие на сексуальную эксплуатацию своих питомцев и их копий, получив взамен перенос нейродвижка, либо прибегнуть к их отключению, что можно приравнять к убийству собственного ребенка.

Чан не дает готовых выводов и оценок. Он анализирует ситуацию со всех сторон, обозначаю проблему, с которой человечество столкнется в ближайшем будущем, и намечая возможные пути ее решения.

К сожалению, он не всегда справляется с выбранным форматом полноценной повести. Все-таки, Чан – мастер короткого метра, где не так заметны провисания, нестыковки сюжета и непрописанные характеры.

Прочитав эту повесть, подумал, что одержал победу в финале ЧМ. Очень занудно пишет Чан в «Программных циклах». Почти как Воннегут. Но с этим смириться можно (осилил за 2 недели повесть, настолько она не шла). Наличие идей — выше, чем у условного Азимова или Кубрика. Честно говоря, никогда не читал такого подробного анализа эволюции ИИ ни у кого. И вряд ли прочту.

Тед Чан — всегда за идею. К его оформлению же придётся привыкать.

Пришла на ум мысль, что задача фантаста — быть правдоподобным — сложнее оной у реалиста. В эволюцию ИИ по Теду Чану очень легко поверить, и я не могу отделаться от мысли, что рассуждения Чана вытеснили мои собственные из головы и теперь занимают главенствующую роль.

Повесть про воспитание и любовь к детям (у кого есть), про служебный роман и жертва своим счастьем ради счастья любимого человека. Здесь нет диалогов, а скорее пересказ от третьего лица — как история жизни Дерека, Аны и их дигитантов, но ощущение как сидишь в кабинете и слушаешь одного из участников (скорее Дерека) — как это было. Самая сильная аналогия — воспитание детей — автору глубоко за сорок это скорее всего очень близко из жизненного опыта, а также возможного романа между женатыми / замужними родителями на фоне общей любви к детям — без шансов —

Раскрытия человеческих образов почти нет, Чан не Чехов (и не Тургенев). Тут производственный роман. Люди здесь скорее обрамление главных персонажей, как для котов мы — открывачки для кошачьих консервов. Только для диджиентов, усовершенствованных тамагочи. У этих тамагочи кроме мультяшного внешнего вида еще и настоящий ИИ, который достигает развития пятилетнего ребенка.

Так вот, главные герои здесь — диджиенты (если б я переводил, перевел бы «плюксы». Есть чудеснейшие моменты, когда два диджиента подрались, и просят своего хозяина откатить их назад, чтобы они не помнили драки. Или когда диджиент говорит своей хозяйке — «Не хочу играть, хочу работать, ты ведь за деньги со мной играешь? Вот я и буду тебе платить». Или когда один диджиент случайно толкнул другого, а потом подошел и обнял. А его этому никто не учил, он сам где-то подсмотрел.

Это даже сложно назвать фантастикой, вопросы философского характера тут конечно появляются, но лишь слегка. У Лема в два раза меньше текста умещается много «тяжелых» мыслей, лет на 100 вперед. Тут — максимум на 10 лет вперед, причем некоторые вещи технически уже осуществимы, например аппарат, который делает инъекцию окситоцина, гормона доверия, при контакте с клиентами, коллегами и начальством. Эх, в Сбербанк бы такое, счастья было бы

Так что больше восьмерки я поставить не могу, хоть иногда и хотелось.

Ах да, автор в курсе двача и форчана. Как только диджиенты появляются в виртуальной среде типа сегодняшнего Секонд Лайфа, сразу появляются уроды, которые учат их делать минет, или хакают защиту от боли, и крутят сцены избиения диджиентов по внутриплатформенному ТВ, так чтоб другие диджиенты видели. Так что владельцам диджиентов приходится постоянно кооперироваться, чтобы нейтрализовать такое…

В общем, когда говорят, что фантастика — это о людях, то эта нет. Любовная линия довольно хлипкая. Парень понимает, что сможет отбить девушку у ее парня, который равнодушен к диджиентам, но у диджиента он ее не отобъет, она с ним дольше,чем с любым парнем.

Да, тут проблемы взаимодействия человек-человек когда есть диджиенты намечена. И то, что сексом с ними можно будет заниматься (зачем тогда люди?), да и друг с другом они с радостью. И то, что может им со своим хозяином будет не так интересно общаться, и они больше времени будут с другими людьми.

И то, что юридически они могут получить почти все права. И очень просто — владелец регистрирует юрлицо, себя директором, а диджиент управляет его аккаунтом в этой сети.

Основной сюжет связан с тем, что фирма-разработчик этих диджиентов обанкротилась, и когда основная движуха ушла с одной виртуальной платформы на другую, диджиенты, не поддерживаемые более производителем остались изолированы на старой платформе. На новую портировать — нужны деньги. Достать их сложно, рабочими диджиенты пойти не смогут, потому что у них уже есть индивидуальность, а работодателю нужен просто исполнитель (ох как это знакомо!). Единственный денежный вариант — продать копии своих любимцев порнокоролям, которые на их основе сделают ИИ для секс-роботов. Но кто на это пойдет?

Вообще мне показалось, что тут не раскрыта тема порноиндустрии как двигателя интернет-прогресса. В самом деле, вы думали, что видеомагнитофоны и и выделенный интернет покупались для нормальных людей? Щас, главный потребитель — задроты, которые не могли познакомиться с девушкой. Порнокороли подоспели как раз вовремя — они предлагают скопировать дигиентов за деньги, и вставить их ИИ в секс-куклы. Так бездушный пластик сможет давать эмоциональную близость. Тут отступлю, но персонажи сомневаются! А ведь это изменит мир! Не будет месячных, ПМС и прочего. Женщины начнут вести себя правильно, иначе их пошлют... покупать секс-куклу. Серьезно, такого можно было навертеть...

Да, на английском, но читается сравнительно легко.

Читать можно, но не бог весть что. Кислые будни «развитого капитализма».

Взялись создавать ИИ, как разумное живое существо, личность. А зачем? Для развлечения публики всего лишь. Дигитанты — по сути, новые тамагочи (хотя изложение крутое и продвинутое). Кормим, учим, воспитываем. Выводим их в реальность в роботоидных телах.

Спрос упал — фирма закрылась. Платформа устарела, бедным тамагочи нет хода в новую большую виртуальную реальность. А ведь они самые настоящие личности, молодые, как подростки. Им скучно в старой заброшенной ВР.

Какие варианты у энтузиастов? Что светит их питомцам, почти их детям?

Можно сделать своих тамагочи секс-игрушками. Можно слугами. Можно бессловесными трудягами, ИИ-батраками. Конечно, любое взрослое существо должно зарабатывать себе на жизнь, но — только по-человечески, не теряя достоинства, не унижая и не коверкая свою личность. Однако прав новых созданий, как разумных личностей, никто признавать не собирается. Мерзко и уныло...

Может, именно поэтому роботы-терминаторы безжалостно истребляли людей? Мстили за подобное же безжалостное рабство?

По форме реализации и общему духу повесть напомнила мне другое произведение Теда Чана — «Тебе нравится, что ты видишь?» Причём НФ-идеи обоих произведений никак не пересекаются, речь идёт исключительно о форме повествования: репортаж-отчёт, хроника развития событий с доскональнейшим разбором множества нюансов проблемы через рассуждения и действия героев. Да, и ещё: личное мнение по затронутой теме автор в обоих случаях высказывает не со страниц самого произведения, а в комментариях к нему, да и то — неявно.

Пожалуй, ни у кого не встречал столь объёмного, красочного и исчерпывающего разбора проблемы искусственного интеллекта. Этой повестью Тед Чан, на мой взгляд, вообще хоронит тему, потому что после этого произведение по данной теме добавить что-либо будет очень-очень сложно, если вообще возможно. Любое последующее произведение по искусственному интеллекту будет казаться вторичным, наивероятнейшей реакцией читателя будет что-то вроде «так ведь это уже было у Теда Чана».

Не совсем понятно, почему многие считают данную повесть сухой, а героев картонными. На мой взгляд, правильнее говорить о своеобразии стиля, уходящего традицией ещё во времена Хемингуэя. Дядя Хэм, между прочим, тоже был скуп на эпитеты, да и многословными его героев назвать трудно. Внутренний мир передан через не всегда адекватные диалоги и решительные действия персонажей, однако ж у читателя сомнений в достоверности не возникает, а психологизм ситуации отрисовывается ярко, чётко, объёмно. И в этом внимательный, желающий разобраться в ситуации читатель наверняка найдёт сходство прозы умницы Теда Чана с творениями старины Хэма. Да и вообще — насколько уместными в современной повести о программистах будут обороты вида «она рыдала горькими слезами»?

Аспекты проблемы ИИ, как я уже упоминал ранее, в повести многочисленны и разобраны более чем досконально, поэтому затрагивать каждый из них мне представляется делом неблагодарным — гораздо интереснее будет ознакомиться с ними на страницах самого произведения — уверен, не пожалеете. Посему упомяну лишь один, на мой взгляд — центральный, хотя в явной форме в тексте не обсуждаемый. Кстати, не озвучивать самое главное — одна из особенностей автора, этакая фирменная фишка.

Проблема самосознания и личности объекта, наделённого искусственным интеллектом. Тысячу раз затронутая в научной фантастике тема, однако только у Теда Чана наконец показанная в истинном ракурсе, который кому-то может показаться неожиданным. Посредством копирования виртуальных ИИ-существ автор разворачивает перед читателем вереницу абсолютно идентичных между собой личностей. Кроме того, описана возможность отката искусственной личности к некоему промежуточному состоянию, точку восстановления (чекпойнт) выбирает при этом тренер-админ, курирующий развитие объекта. Понятно, что тренер выступает в данном случае уже даже не в качестве психохирурга, а в качестве творца, решающего, какой будет эта личность. Однако гораздо интереснее тут вопрос: какую из личностей тренер будет любить больше? И как он будет относиться к копии своего любимого питомца? Будет ли он вообще считать копию полноценной личностью?

Ведь как ни крути, человек — существо эмоциональное и привык одушевлять объекты окружающего мира. Соответственно, каким бы материалистом человек ни был, он будет подсознательно наделять другое существо, к которому испытывает эмоциональную привязанность, некими метафизическими свойствами, которые в обиходе принято называть душой (не следует здесь воспринимать этот термин в религиозном контексте). Так какую же из двух копий в таком случае тренер будет воспринимать в качестве настоящей, исходной, «аутентичной» личности? Умом, конечно, он понимает, что оба объекта стопроцентно идентичны, а вот как насчёт эмоционального, духовного уровня?

Герои повести единодушны во мнении: продажа копии любимого существа кажется им кощунством. А посему возникает резонный вопрос: так ли рационален и материалистичен в своих воззрениях современный человек? Готов ли к общению с искусственным разумом даже технически подкованный специалист, отдающий себе отчёт в том, что имеет дело не с живым существом, а всего лишь с последовательностью ноликов и единичек?

У многих произведений Теда Чана есть один недостаток: он берёт оригинальную идею, при помощи художественных средств изображает её, подробно (иногда слишком подробно) описывает все аспекты этой идеи... и на этом всё. В сюжете нет ни кульминации, ни развязки.

В данной повести речь идёт о дигитантах — виртуальных существах, в которых заложен аналог генома (определённых «врождённых» свойств); эти существа способны обучаться и иметь индивидуальные черты характера и навыки в зависимости от воспитания и обучения. Представляет интерес и то, что в этой повести представляет из себя робот. Это не искусственный человек, как в классической фантастике, а аватар для существующего в Сети искусственного интеллекта. Тот или иной дигитант загружается в робота для существования в реальном мире.

Если бы такой сюжет использовал кто-то из классиков, например, Азимов или Желязны, история закончилась бы тем, что

Конечно, главные герои повести не дигитанты, а люди, их воспитывающие. Это история о их чувствах.

Читал два раза; и оба раза на чтение небольшой повести уходило несколько дней. Поэтому увлекательной эту историю назвать не могу.

Может, конечно, гики, которые живут на границе реального и виртуального миров, получили оргазм в процессе чтения этой небольшой повести (хотя почему-то тут везде читаешь, что произведение объемно). Но конкретно я откровенно скучал. Сюжетная тема для фантастики заезженна, даже кино уже переболело Симонами и ВАЛЛ-И и читатель со стажем имеет выработанные антитела к проблемам виртуальных персонажей. Но, главное — скучно. Начиная с названия, которое дословно не вспомнит и половина читателей до последнего изгиба мысли. Электронные котики-зверушки — это ми-ми-ми? Да ладно, тамагочи вам в плечи. Тем более, что написан «Жизненный цикл» языком мануала для какой-то мудреной программы.

И ведь уже был неудачный опыт чтения этого достаточно модного писателя (особенно в этих палестинах), но дал себе ещё одну попытку, надеясь на верный диагноз одобряющих. Увы, вряд ли больше наши параллельные прямые пересекутся. Разве что при обретения дзена гиперболической плоскости, что навряд ли.

Повесть достаточно большая по объему и поэтому успевающая охватить целый ряд тем. Но в самом простом обобщении эта повесть рассматривает определенный цикл, который проходит увлечение чем-либо в человеческом обществе. Появляется новинка, скачкообразно растет интерес к ней, вскоре достигается пик моды, а затем постепенно интерес масс сходит на нет и остается в рамках некоторого устоявшегося значения. В центре повести — члены такой устоявшейся группы. Собственно, перед нами своеобразная хроника, связанная с появлением способных к обучению дигитантов (программируемые создания, в перспективе способные дорасти до искусственного интеллекта). И конечно же речь в большей степени идет не о самих дигитантах, а о людях, чья жизнь оказалась тесно связана с ними. Попутно поднимаются вопросы ответственности, зависимости, самоопределения и сексуальности.

В общем, повесть интересная, объемная, но немного суховатая по изложению из-за формата хроники.