Тед Чан «Жизненный цикл программных объектов»

По форме реализации и общему духу повесть напомнила мне другое произведение Теда Чана — «Тебе нравится, что ты видишь?» Причём НФ-идеи обоих произведений никак не пересекаются, речь идёт исключительно о форме повествования: репортаж-отчёт, хроника развития событий с доскональнейшим разбором множества нюансов проблемы через рассуждения и действия героев. Да, и ещё: личное мнение по затронутой теме автор в обоих случаях высказывает не со страниц самого произведения, а в комментариях к нему, да и то — неявно.

Пожалуй, ни у кого не встречал столь объёмного, красочного и исчерпывающего разбора проблемы искусственного интеллекта. Этой повестью Тед Чан, на мой взгляд, вообще хоронит тему, потому что после этого произведение по данной теме добавить что-либо будет очень-очень сложно, если вообще возможно. Любое последующее произведение по искусственному интеллекту будет казаться вторичным, наивероятнейшей реакцией читателя будет что-то вроде «так ведь это уже было у Теда Чана».

Не совсем понятно, почему многие считают данную повесть сухой, а героев картонными. На мой взгляд, правильнее говорить о своеобразии стиля, уходящего традицией ещё во времена Хемингуэя. Дядя Хэм, между прочим, тоже был скуп на эпитеты, да и многословными его героев назвать трудно. Внутренний мир передан через не всегда адекватные диалоги и решительные действия персонажей, однако ж у читателя сомнений в достоверности не возникает, а психологизм ситуации отрисовывается ярко, чётко, объёмно. И в этом внимательный, желающий разобраться в ситуации читатель наверняка найдёт сходство прозы умницы Теда Чана с творениями старины Хэма. Да и вообще — насколько уместными в современной повести о программистах будут обороты вида «она рыдала горькими слезами»?

Аспекты проблемы ИИ, как я уже упоминал ранее, в повести многочисленны и разобраны более чем досконально, поэтому затрагивать каждый из них мне представляется делом неблагодарным — гораздо интереснее будет ознакомиться с ними на страницах самого произведения — уверен, не пожалеете. Посему упомяну лишь один, на мой взгляд — центральный, хотя в явной форме в тексте не обсуждаемый. Кстати, не озвучивать самое главное — одна из особенностей автора, этакая фирменная фишка.

Проблема самосознания и личности объекта, наделённого искусственным интеллектом. Тысячу раз затронутая в научной фантастике тема, однако только у Теда Чана наконец показанная в истинном ракурсе, который кому-то может показаться неожиданным. Посредством копирования виртуальных ИИ-существ автор разворачивает перед читателем вереницу абсолютно идентичных между собой личностей. Кроме того, описана возможность отката искусственной личности к некоему промежуточному состоянию, точку восстановления (чекпойнт) выбирает при этом тренер-админ, курирующий развитие объекта. Понятно, что тренер выступает в данном случае уже даже не в качестве психохирурга, а в качестве творца, решающего, какой будет эта личность. Однако гораздо интереснее тут вопрос: какую из личностей тренер будет любить больше? И как он будет относиться к копии своего любимого питомца? Будет ли он вообще считать копию полноценной личностью?

Ведь как ни крути, человек — существо эмоциональное и привык одушевлять объекты окружающего мира. Соответственно, каким бы материалистом человек ни был, он будет подсознательно наделять другое существо, к которому испытывает эмоциональную привязанность, некими метафизическими свойствами, которые в обиходе принято называть душой (не следует здесь воспринимать этот термин в религиозном контексте). Так какую же из двух копий в таком случае тренер будет воспринимать в качестве настоящей, исходной, «аутентичной» личности? Умом, конечно, он понимает, что оба объекта стопроцентно идентичны, а вот как насчёт эмоционального, духовного уровня?

Герои повести единодушны во мнении: продажа копии любимого существа кажется им кощунством. А посему возникает резонный вопрос: так ли рационален и материалистичен в своих воззрениях современный человек? Готов ли к общению с искусственным разумом даже технически подкованный специалист, отдающий себе отчёт в том, что имеет дело не с живым существом, а всего лишь с последовательностью ноликов и единичек?

редкое явление — фантастика, от которой могут слёзы потечь. высококлассная литература, препарировать её отзывами просто кощунственно: автор отлично владеет приёмами написания книг, ничего лишнего, все элементы на своих местах, недостачи деталей нет. возможно, не вызовет сильных эмоций у тех, кто пока не имеет детей.

Исследуется проблема переносимости эволюционных алгоритмов реального мира на разработку сильного искусственного интеллекта. В некотором роде — мрачный взгляд с другой стороны на известный силлогизм о любви и козлах. Перед ознакомлением с этой книгой полезно перелистать «Диаспору» и «Похищение» Игана.

Бумажная версия содержит превосходные рисунки Кристиана Пирса и карты Джейка Макмюррея (чем-то напоминающие концептуальные наброски UML-диаграмм).

Самая крупная работа Чана за всю его писательскую карьеру и, пожалуй, roadmap для всех последующих фантазий на тему неспешно пробуждающейся Сингулярности.

Текст находится в свободном доступе, что как бы намекает.

На удивление близкий к нашей реальности взгляд на ИИ и его возможную роль в обществе. Если когда-то война была двигателем прогресса, то теперь оным однозначно являются развлечения.

Чан описывает здесь такой себе продвинутый вариант «Тамагочи» — разумных зверушкоподобных цифровых героев, которых можно развивать, и которые функционируют по законам развития живых организмов. И они наделены некоторым аналогом человеческого интеллекта (правда не на самом высшем его уровне, но достаточно, чтобы они воспринимались как живые и разумные существа). Их среда обитания — цифровой мир. Поскольку сервер работает, постольку они себе могут «жить» и тогда, когда пользователь не следит за ними. Вполне аналогично существующим сейчас мирам онлайн-игр. А еще для них конструируют роботов, в которых их можно «вселить», и тогда они вступают в контакт с реальным миром...

В отличии от Non serviam Лема, где персоноиды в математическом мире суть просто модель человеческого сознания, которую используют для проведения опытов, программные объекты Чана — очень милые и «няшные» зверушки, с которыми человек в ходе «выращивания» и «воспитания» очень активно контактирует. И вот здесь всплывает особо отчетливо конфликт между инстинктивной эмпатией и объективной реальностью. У главных героев появляются чувства к своим «воспитанникам», что-то среднее между привязанностью к домашнему животному и любовью к приемному ребенку. Но при этом это все-таки не реальные живые существа, и есть ряд очень существенных отличий в самой их сущности. Во-первых, их можно клонировать сколько угодно и на каком угодно этапе развития. Во-вторых, развитие можно отмотать назад на какой угодно этап. В-третьих, возникает вопрос насчет хакеров, которые вживляют этим существам возможность чувствовать боль для своих садистских развлечений. В-четвертых, возникает вопрос независимости от «хозяина». Сами эти существа иногда не совсем понимают те моральные проблемы, которые мучают их создателей, потому что они все-таки живут в немного другом мире. При этом между ними и их «воспитателями» возникает недоуменное непонимание. И поэтому у некоторых из них возрастает желание рулить своей жизнью самостоятельно. Это возможно, если зарегистрировать такую программу как юридическое лицо. И к большому удивлению своих создателей, они при этом готовы на многие шаги, которые люди считают относительно них аморальными и унизительными.

Ну и в-последних, конечно, для ханжеской Америки жуткой моральной дилеммой становится вопрос, стоит ли им позволить обрести сексуальность. Он становится ключевым в последних действиях героини. Ведь это же так аморально — сделать из них сексуальных партнеров для людей, у которых проблемы с поиском для себя пары, даже если при этом и сами существа будут получать удовольствие. Главную героиню гложет, что это будет вживленное им искусственно удовольствие, и при этом она немножечко забывает, что все остальные их возможности и характеристики точно так же искусственно созданы. Она жертвует своей личной жизнью и вообще почти всем ради своих любимцев, все дальше отходя от нормальных отношений с окружающими людьми.

Здесь не только стираются грани между виртуальным и реальным. Здесь очень хорошо осветляется тот момент, что мы суть животные в своих инстинктивных реакциях, хотя и очень продвинутые животные. И эмпатия, которая сыграла для нас очень хорошую роль в эволюции, уже играет в некоторые моменты с нами злую шутку, когда мы слишком привязываемся к вещам, «оживляя» их в своем восприятии, что же тогда говорить о такой хорошей имитации, по которой не видно, что это имитация? Умом главные герои знают, с чем имеют дело на самом деле, они сами участвовали в разработке. Но эмоции перевешивают.

Ну и главная ценность этого произведения в том, что оно очень близко к современной жизни. Я уже прям вижу, как какие-нибудь японцы разрабатывают что-нибудь подобное. На сегодняшний день уже очень много людей, практически ушедших в виртуал. А теперь виртуальная реальность сама идет к нам... Может я старомодна, но есть в этом что-то жутковатое))) А на самом деле просто для таких вещей нам самим еще нужно эволюционировать достаточно, чтобы воспринимать их объективно. Но прогресс, как всегда, быстрее нашего собственного развития.

Жирными минусами книги для меня стали картонность персонажей — психология явно не сильная сторона Чана — и ужасная сухость языка. Если в других произведениях он краток и лаконичен, но выразителен, и даже эстетичен (например, в «Вавилонской башне» очень даже), то здесь он сух до невозможности. Складывается впечатление черновика, еще требующего литературной обработки, но поданного нам сырым. А жаль, ибо идеи очень интересны и рассмотрены под довольно неожиданным углом.

Повесть совсем не об электронных зверушках — о людях. Людях, которые неосознанно примеряют на себя мантию богов, входят в роль, не понимая, что единственное, что действительно от них зависит, — это сделать так, чтобы ничего не зависело. Ведь пытающийся манипулировать миром манипулирует только собой. Эдакое «Трудно быть богом» цифровой эры. Конечно, герои повести терпят неудачи в личной жизни, испытывают кризис моральных установок и т.д. И это понятно — их ведь никто ТАК не обучал, не программировал, никто СТОЛЬКО с ними не возился. На фоне действительно получающих уникальный жизненный опыт дигитантов люди остаются все теми же: ограниченными, закомплексованными, фрустрированными. Такими они и останутся до конца своих коротких дней. Замкнутый круг. Дигитанты же несомненно найдут свою нишу — понять которую мы будем уже не в состоянии. Хорошо, если честно признаемся в этом и начнем с другими игрушками. Таков этот жизненный цикл биологических объектов...

Тед Чан решил написать полноформатную повесть на свою любимую тему – о реакции человека на стремительное изменение технологий.

Создание цифровых объектов, о которых необходимо постоянно заботиться, далеко не новинка. Достаточно вспомнить японских тамагочи. Но Чан решил внести усовершенствование, наделив их искусственным интеллектом на основе нейросетей. Получившиеся в итоге «программные объекты» необходимо было обучать как маленьких детей – управлению своим аватаром, речевому взаимодействию с другими дигитантами и людьми и еще многому другому. Но зато можно было надеяться, что они будут «расти» со своим владельцем.

Первоначально компания-разработчик рекламировала дигитантов, как новый тип игрушек, с которыми можно общаться. Но как только владельцы поняли, что перед ними полноценные дети, требующие постоянного ухода, начались массовые отключения. А самых стойких добил период «зрелости», когда «объекты» становились раздражительными и мало управляемыми.

В конечном итоге осталось два десятка фанатиков, для которых забота о дигитантах стала образом жизни. И среди них – Ана Альварадо, «тренер» маленьких «объектов», и Дерек Брукс – дизайнер аватар. Собственно, вся повесть – это описание борьбы Аны и Дерека за своих подопечных, в жертву которым приносится и личная жизнь, и финансы, и все свободное время. Ведь дигитанты существуют не только в виртуальном мире, в теле робота они могут выходить в реальность, но, по закону, только в сопровождении владельца. А еще им необходимо все время делать апгрейд, т.к. стремительное развитие базовых платформ их обитания приводит к несовместимостям с нейродвижком, что, фактически, обозначает изоляцию от всего остального мира в рамках старых версий.

В повести такая несовместимость с новыми платформами поставила владельцев дигитантов перед непростым моральным выбором. Либо дать согласие на сексуальную эксплуатацию своих питомцев и их копий, получив взамен перенос нейродвижка, либо прибегнуть к их отключению, что можно приравнять к убийству собственного ребенка.

Чан не дает готовых выводов и оценок. Он анализирует ситуацию со всех сторон, обозначаю проблему, с которой человечество столкнется в ближайшем будущем, и намечая возможные пути ее решения.

К сожалению, он не всегда справляется с выбранным форматом полноценной повести. Все-таки, Чан – мастер короткого метра, где не так заметны провисания, нестыковки сюжета и непрописанные характеры.

Прочитав эту повесть, подумал, что одержал победу в финале ЧМ. Очень занудно пишет Чан в «Программных циклах». Почти как Воннегут. Но с этим смириться можно (осилил за 2 недели повесть, настолько она не шла). Наличие идей — выше, чем у условного Азимова или Кубрика. Честно говоря, никогда не читал такого подробного анализа эволюции ИИ ни у кого. И вряд ли прочту.

Тед Чан — всегда за идею. К его оформлению же придётся привыкать.

Пришла на ум мысль, что задача фантаста — быть правдоподобным — сложнее оной у реалиста. В эволюцию ИИ по Теду Чану очень легко поверить, и я не могу отделаться от мысли, что рассуждения Чана вытеснили мои собственные из головы и теперь занимают главенствующую роль.

Повесть про воспитание и любовь к детям (у кого есть), про служебный роман и жертва своим счастьем ради счастья любимого человека. Здесь нет диалогов, а скорее пересказ от третьего лица — как история жизни Дерека, Аны и их дигитантов, но ощущение как сидишь в кабинете и слушаешь одного из участников (скорее Дерека) — как это было. Самая сильная аналогия — воспитание детей — автору глубоко за сорок это скорее всего очень близко из жизненного опыта, а также возможного романа между женатыми / замужними родителями на фоне общей любви к детям — без шансов —

Раскрытия человеческих образов почти нет, Чан не Чехов (и не Тургенев). Тут производственный роман. Люди здесь скорее обрамление главных персонажей, как для котов мы — открывачки для кошачьих консервов. Только для диджиентов, усовершенствованных тамагочи. У этих тамагочи кроме мультяшного внешнего вида еще и настоящий ИИ, который достигает развития пятилетнего ребенка.

Так вот, главные герои здесь — диджиенты (если б я переводил, перевел бы «плюксы». Есть чудеснейшие моменты, когда два диджиента подрались, и просят своего хозяина откатить их назад, чтобы они не помнили драки. Или когда диджиент говорит своей хозяйке — «Не хочу играть, хочу работать, ты ведь за деньги со мной играешь? Вот я и буду тебе платить». Или когда один диджиент случайно толкнул другого, а потом подошел и обнял. А его этому никто не учил, он сам где-то подсмотрел.

Это даже сложно назвать фантастикой, вопросы философского характера тут конечно появляются, но лишь слегка. У Лема в два раза меньше текста умещается много «тяжелых» мыслей, лет на 100 вперед. Тут — максимум на 10 лет вперед, причем некоторые вещи технически уже осуществимы, например аппарат, который делает инъекцию окситоцина, гормона доверия, при контакте с клиентами, коллегами и начальством. Эх, в Сбербанк бы такое, счастья было бы

Так что больше восьмерки я поставить не могу, хоть иногда и хотелось.

Ах да, автор в курсе двача и форчана. Как только диджиенты появляются в виртуальной среде типа сегодняшнего Секонд Лайфа, сразу появляются уроды, которые учат их делать минет, или хакают защиту от боли, и крутят сцены избиения диджиентов по внутриплатформенному ТВ, так чтоб другие диджиенты видели. Так что владельцам диджиентов приходится постоянно кооперироваться, чтобы нейтрализовать такое…

В общем, когда говорят, что фантастика — это о людях, то эта нет. Любовная линия довольно хлипкая. Парень понимает, что сможет отбить девушку у ее парня, который равнодушен к диджиентам, но у диджиента он ее не отобъет, она с ним дольше,чем с любым парнем.

Да, тут проблемы взаимодействия человек-человек когда есть диджиенты намечена. И то, что сексом с ними можно будет заниматься (зачем тогда люди?), да и друг с другом они с радостью. И то, что может им со своим хозяином будет не так интересно общаться, и они больше времени будут с другими людьми.

И то, что юридически они могут получить почти все права. И очень просто — владелец регистрирует юрлицо, себя директором, а диджиент управляет его аккаунтом в этой сети.

Основной сюжет связан с тем, что фирма-разработчик этих диджиентов обанкротилась, и когда основная движуха ушла с одной виртуальной платформы на другую, диджиенты, не поддерживаемые более производителем остались изолированы на старой платформе. На новую портировать — нужны деньги. Достать их сложно, рабочими диджиенты пойти не смогут, потому что у них уже есть индивидуальность, а работодателю нужен просто исполнитель (ох как это знакомо!). Единственный денежный вариант — продать копии своих любимцев порнокоролям, которые на их основе сделают ИИ для секс-роботов. Но кто на это пойдет?

Вообще мне показалось, что тут не раскрыта тема порноиндустрии как двигателя интернет-прогресса. В самом деле, вы думали, что видеомагнитофоны и и выделенный интернет покупались для нормальных людей? Щас, главный потребитель — задроты, которые не могли познакомиться с девушкой. Порнокороли подоспели как раз вовремя — они предлагают скопировать дигиентов за деньги, и вставить их ИИ в секс-куклы. Так бездушный пластик сможет давать эмоциональную близость. Тут отступлю, но персонажи сомневаются! А ведь это изменит мир! Не будет месячных, ПМС и прочего. Женщины начнут вести себя правильно, иначе их пошлют... покупать секс-куклу. Серьезно, такого можно было навертеть...

Да, на английском, но читается сравнительно легко.

Повесть достаточно большая по объему и поэтому успевающая охватить целый ряд тем. Но в самом простом обобщении эта повесть рассматривает определенный цикл, который проходит увлечение чем-либо в человеческом обществе. Появляется новинка, скачкообразно растет интерес к ней, вскоре достигается пик моды, а затем постепенно интерес масс сходит на нет и остается в рамках некоторого устоявшегося значения. В центре повести — члены такой устоявшейся группы. Собственно, перед нами своеобразная хроника, связанная с появлением способных к обучению дигитантов (программируемые создания, в перспективе способные дорасти до искусственного интеллекта). И конечно же речь в большей степени идет не о самих дигитантах, а о людях, чья жизнь оказалась тесно связана с ними. Попутно поднимаются вопросы ответственности, зависимости, самоопределения и сексуальности.

В общем, повесть интересная, объемная, но немного суховатая по изложению из-за формата хроники.

Мне понравилось, долго не верил что дочитал до конца, настолько внезапный финал. Подняты интересные вопросы, после взрывного роста нейсросетевых движков повесь стала актуальней. Интересно, не скучно. Был бы рад продолжению:), хотя оно явно не нужно

О Теде Чане и его творчестве я слышал/читал очень много. И о том, что он весьма «титулован» в плане профессиональных наград и о том, что по факту его творчество «заходит» далеко не всем. Мол, идеи у него частенько просто отличные, а вот их реализация — страдает.

Наконец-то начал по чуть-чуть проверять как его творчество понравится мне.

В «Жизненном цикле...» Чан затрагивает множество этических тем, связанных с ИИ. От «мы в ответе за тех кого приручили» до предположений о том, что развитие роботов и ИИ может привезти к весьма неожиданным изменениям в сфере сексуальных отношений/развлечений. Многие одну из этих тем растянули бы на длииииный роман, Чан же затронул несколько тем в короткой повести.

При этом стиль изложения и правда довольно неожиданный. В какой-то момент поймал себя на мысли что текст похож на сценарий (пседо)документального фильма. Фильма, который повествует об истории некой технологии и/или компании. Где часть инфы даёт закадровый голос, часть в интервью героев, а часть истории «разыгрывают» актёры. Надеюсь, понятно объяснил.

Пока вывод такой — творчества Чана лично мне кажется интересным!

Интересный взгляд на природу и смысл искусственного интеллекта. Герои Чана воспитывают искусственных существ — дигитантов от младенчества до подросткового возраста как собственных детей, точнее — вместо собственных детей, уделяя им сначала служебное, а затем и всё свободное время, получая от процесса определённое удовольствие и лелея скромную надежду вырастить «цифрового Алана Тьюринга» или ещё какого гения.

Полагаю, прежде чем создавать искусственный интеллект, стоит в масштабах планеты договориться о том, зачем он нам нужен, для каких задач может использоваться (тут речь не только о том, с чем он сможет справиться, но и о том, что ему можно доверить), какими правами мы готовы наделить его и какие обязанности готовы по отношению к нему на себя принять. Понятно, что речь далеко не о ближайшем будущем, хотя вот разнообразные художники-дизайнеры с этим могут и не согласиться, но о правилах всегда стоит договариваться на берегу, тем более, что река обещает быть быстрой и порожистой.

В годы моего детства считалось, что роботы вот-вот заменят людей на изнурительных отупляющих физических работах типа сбора клубники. Но внезапно оказалось, что проще заменить юристов, бухгалтеров и дизайнеров программными продуктами, а простой труд слишком дёшев, чтобы заморачиваться. Так что Тед Чан и тут молодец — заглядывает далеко вперёд, как и должно настоящему научному фантасту.

Недавно Марк Цукерберг объявил о том, что на смену Facebook придут Метавселенные. Метавселенные будут трёхмерными, в них можно будет погружаться с помощью очков виртуальной реальности. Само собой, там будут аватары и возможность совместной деятельности. Надо думать, что частью аватаров будут разнообразные боты. Наверняка среди них со временем появятся и самообучающиеся боты...

Повесть написана мастерски: достоверно и в деталях описан не только сам мир, но и чувства главных героев — людей и их питомцев. По мере чтения готовишься к обстоятельному и неторопливому развитию событий, но конец оказывается внезапным и оборванным. По внезапности концовки мне эта повесть напомнила роман Станислава Лема «Непобедимый». Складывается такое ощущение, что автор замахивался на роман, но потом потерял вдохновение, устал, взял паузу и отложил написание романа на некоторое время. По прошествии некоторого, возможно значительного, времени не смог продолжить работу над ним и решил наспех дописать хоть какую-нибудь концовку, чтобы плод долгих усилий не пропал даром и мог быть опубликован хоть в каком-то виде.

Открытое письмо к скептикам ИИ.

В произведении много художественных минусов: слабые персонажи, ощущение незаконченности, странные (хоть и обоснованные) временные скачки между эпизодами и «никакой» финал.

Все это не так важно. Тед Чан хочет сказать: сильный ИИ будет отличаться от человеческого разума лишь в деталях (иначе невозможно). Любители «взбунтовавшегося ИИ» против, но в реальности все куда прозаичнее.

Для этого автор рассматривает различные этапы жизни искусственных дигитантов, изначально созданных для развлечения. Каждый этап легко проецируется на процесс взросления человека. Да, по отдельности вопросы на каждом этапе уже давно имеют ответ (например, вопросы самосознания, чувств и эмоций в ИИ), но Чан выступает в роли философа, показывая общую картину различия (или неразличия) биологического и искусственного разумов.

Произведение отлично отражает современное понимание ИИ. Здесь все повествование работает только на создание нужной автору ситуации. Все персонажи действуют так, как того желает Чан в поисках ответа на очередной вопрос. Но это того стоит.