Блог


Вы здесь: Авторские колонки FantLab > Авторская колонка «osipdark» облако тэгов
Поиск статьи:
   расширенный поиск »


Статья написана 20 сентября 2023 г. 15:33

Почему компьютеры не смогут сделать себя умнее

Мы боимся и стремимся к «сингулярности». Но она, похоже, никогда не наступит

Источник:

https://www.newyorker.com/tech/annals-of-...

Предисловие (от меня):

От прочтения заметки Теда Чана «ChatGPT Is a Blurry JPEG of the Web» я загорелся идеей написать статью с прицелом на академическую публикацию, где бы изобразил различные модификации аргумента «китайской комнаты» Джона Серла. Правда, написать ее, по разным причинам, выйдет не скоро, а тем более опубликовать. Тем не менее поиск источников успел дать побочные, но приятные следствия. Я обнаружил сразу два очерка Теда Чана в «The New Yorker», помимо эссе о ChatGPT, так или иначе связанных с вопросами ИИ: «Will A.I. Become the New McKinsey?» и «Why Computers Won’t Make Themselves Smarter». Ниже я предлагаю свою версию (с корректировками от сестры-филолога) перевода второй из этих заметок.

Эссе «Почему компьютеры не смогут сделать себя умнее» опубликовано 30 марта 2021 г. – примерно за полтора года до шумихи вокруг ChatGPT. Но рассуждение в нем косвенно связано и с умными чат-ботами, и со ставшим легендарным письмом с не менее легендарными подписантами против продолжения разработок нейросетей. Да, речь о нашей любимой Технологической Сингулярности – о том, насколько она возможна.




Статья написана 4 августа 2023 г. 23:05

Деконструкция патриотического романа,

или углубленная романная версия анекдотического, но не сбывшегося пророчества одного рабби* в амплуа политика из наших времен

«Привет, Америка!» Джеймса Балларда можно сравнить с «Почтальоном» Дэвида Брина (помимо того, общие мотивы и черты можно найти и с романами Рида Кинга, Паоло Бачигалупи, Роберта Ч. Уилсона и т. д.). Такое сходство бросается в глаза сразу, сравнивая хотя бы жанровую характеристику, аннотацию и описание романных событий. Но есть и разительное отличие, которое придает интеллектуальную силу и литературную грандиозность творению Балларда. И притом оставляет в тени вышедшею несколькими годами позже бриновскую книжку. Об этом чуть ниже, а пока, к последней веренице слов во вступлении.

Ведь именно из-за нее, по сути, я и решил написать о романе британского «нововолнового» писателя. Или, точнее, отзыв на отзывы с низкими оценками «Привет, Америке!». Ведь совокупный сумбур во мнениях, скорее с преобладанием отрицательного отношения к роману у русскоязычной публики, напоминает гораздо более негативную встречу американскими критиками и зрителями экранизации «Почтальона» (1997). И последний «радушный» прием в разы к месту, чем первый...

Но пойдем далее. Джеймс Баллард, как известно, один из основных авторов «новой волны», наравне с Майклом Муркоком и Баррингтоном Бейли. Их не только объединяет внедрение в традиционные фантастические сюжеты новых приемов и тем (хотя куда без этого, к примеру, без баллардианских экологических катастроф). Но этих же писателей собирает в одно литературное явление то, что можно обозвать «деконструкцией». Я уже писал об этом в отзывах на романы «Берег динозавров» и «Дом в ноябре» Кейта Лаумера и на «Дзен-пушку» того же Бейли. Подобный род деконструкторской политики в литературе, в ее фантастических жанрах — это предложение пересмотра старых оснований и решений, включая системы клише, наборы образов, способы повествования, инструменты воздействия на читателя и т. д. И как Муркок своим творчеством во многом воюет с классическим толкиеновским фэнтези (во всяком, такое впечатление у меня сложилось после прочтения его литературоведческой работы «Волшебство и дивный роман»), так и Баллард тоже производит необычную деконструкцию, выходящую даже за пределы «фантастического гетто».

Ведь «Привет, Америка!» — это не критика общества потребления, не стеб ради стеба, не пародия на приключенческие романы первой половины прошлого и второй половины позапрошлого столетия (хотя, вновь, куда без этого: «языковые игры» Джеймса Балларда захватывают и эти детальки для построения собственной хитро сложенной мозаики). Но прежде всего этот роман — деконструкция патриотизма. Т. е. деконструкция патриотического кино, литературы прославления былого и всяческих абстрактных лозунгов для мумификации в настоящем уходящей или вовсе ушедшей старины.

Все остальное — обилие юмора, гротескные поступки персонажей и сами их образы, американский пейзаж с руинами прошлого и трайболизмом пустынного настоящего — все это лишь («лишь») строительные леса, за которыми виден собор чистой критики, направленный в сторону огульного патриотического пафоса и слез о величии всех былых дней. Притом этот патриотический нарратив плетется без всякой оглядки на чаяния настоящих, живых людей в удручающей современности, посреди умирающего мира, в котором простые люди и фанатичные патриоты обитают. И погибают, порой быстро, а чаще медленнее. И большой вопрос, что из этого хуже.

Конечно, здесь есть место, как и заметил bvelvet, для пародирования и отсылок на «Симулякров» Филипа Дика, а также для продолжения дел в любимой вотчине Балларда — в субжанре эко-катастрофической беллетристики. Вообще юмористический, гротескный, отсылочный пласт в книге производит должное впечатление. Прямо как на старой восточной картинке со сказочным мотивом, в повествовательный каркас «Привет, Америка» вплетено множество изящных и интересных деталей. Среди них: забавная борьба за президентство в несуществующей стране; различные социальные и профессиональные группы (Разведенки или Бюрократы), ставшие американскими бедуинами; представление о затонувшей Статуе Свободы, о древнем фильме «Челюсти» и о еще более древней книге «Моби Дик» как о морской хтонический мифологии исчезнувших американцев; последний американский президент-буддист; Оруэлл-Орловский, а также другие чудесные и веселые образы из вязи слов и смыслов. Есть и просто отдельные красивые места, без пародии и трагикомедии, вроде сравнения пустыни и ее путников с разумом. И не только. Поэтому я и не согласен, например, с nworm, который принижает героев романа через сравнение с детализированными уродами с полотен Босха. При всей моей любви к Босху, скорее всю «новую волну» и Балларда в частности — в плане проработки мира и персонажей, а также способа работать с ними — скорее нужно сравнить с импрессионистами в живописи. Ведь и у «нововолновых» писателей множество мазков складываются в причудливые узоры внутри гипнотического рисунка.

Не обходится если и не без минусов, то без некоторых странных неточностью и огульной смелостью штрихов. Например, идея о ядерном разоружении после ресурсного кризиса таких стран, как Советский Союз (ну или того, что после него осталось). Да ладно, кто бы от такого отказался в мире постоянных поисков угля и здоровых почв. Потом глобальный геоархитектурный проект по изменению течения Гольфстрима выглядит как-то странно для мира, который не только от недостатка энергетических мощностей страдает, но и от упомянутой несколько раз выше экологической катастрофы. Ясное дело, что для восстановления баланса потребуются и в нашей реальности точечные, а порой и планетарные целенаправленные воздействия человека на среду. Но уж точно не с таким радикальным планом терраформирования Старой Терры, который сопоставим только с чрезмерной утопичностью советских проектов по изменению направления течения сибирских рек. Ну и, напоследок, сюжетный ход, сопоставимый с «Янки из Коннектикута...», где один инженер может изменить весь мир своими руками, тоже выглядит ну слишком уж оптимистичным. Точнее, если в случае с героем Твена, у того были энциклопедические знания вместе с предпринимательской волей вкупе с сотнями рабочих рук для постройки вестерно-около-индустриальной копии старой Америки в раннесредневеково-артурианской сказочной Англии, то у Балларда один или три инженера способны собственными руками возродить почти постиндустриальный антураж в захваченном природой городе-казино. Верится в такое слабо, но все подобные ходы можно приравнять к возведению гротескных сводов для критического собора.

Подходя к концу, вернусь к тому смыслу и деконструкторскому мотиву, который я углядел в романе (иначе зачем такое многобуковье?). Вполне возможно, что такая интерпретация — лишь мое неверное видение не самого лучшего произведения Джеймса Балларда. Всего-навсего попытка разглядеть что-то большее за чем-то меньшим. Но именно критика патриотизма вообще и многочисленных (около-/пара-)художественных форм его выражения становятся неплохим каркасом и формой, в которой можно отлить в единое целое множественное покрывало из образов, поступков, мыслей и речей героев в этой книге. Благодаря этому все становится на свои места, а сам роман «Привет, Америка!» преображается в роман взросление через разочарование в идеологических клише главного его героев, Уэйна.

Ведь его юношеский максимализм и безмерная вера в картинки из отсыревших журналов в дни трудного детства сделала из него человека, способного использовать других как инструменты для достижения якобы общих для всех целей, а также заставляла его до конца следовать за сумасшедшим диктатором, чуть ли не уничтожившим мир. Ну или значительную часть этого мира. Эти старые образы, возможно, и вправду великой и свободной Америки, не позволяют выходцам из Старого Света (потомкам выходцев из Света Нового) вновь стать американцами. Ведь быть американцем — это не бомбить ядерными зарядами собственные города, равно как и чужие. И не возрождать индустрию фастфуда или попсового кино. И не заставлять себя слушать надоевший джаз из бог весть какой эпохи. Быть американцем — это быть свободным и от самой Америки. От ее старых воплощений. А быть свободным — это быть в пути, творить новое вокруг себя и нового себя же. Так что нет, Орловский не прав, конечно, говоря о свободе как об одной из старых и позабытых идей, погубивших мир. Нет, свобода — это идея, которая может мир возродить. Возможно, удивительные летательные аппараты Флеминга — это как раз то новое воплощение свободы, которое преобразит увядающую Землю из «Привет, Америка!». Но никак не реконструкторский запал Уэйна из начала романа.

*Весь предыдущий абзац, если что, написан в рамках происходящего в книге и как бы изнутри ее, в т. ч. и фразы по типу «быть американцем — быть свободным», ну и все про патриотизм — тоже; а то мало ли, может, кто-то подумает, что я не патриотичен? Но все-таки оглянитесь вокруг, и почувствуйте ту же тоску, что и персонажи романа — волнения патриотического характера о временах великой Америки. Но только попробуйте обратить эту тоску на то время, когда термин «патриотизм» звучал реже и не превратился в том, во что... Впрочем, это уже совершенно другая история, для иной деконструкции. Или реконструкции?..*

* — ни в коей мере не антисемитская отсылка на вполне антисемитского квазиполитика не титульного ("титульного") рода, уже почившего, но живущего в притчах во языцех. К сожалению, а для кого-то к счастью, другие его пророчества оказались либо прогнозами удачными, либо самосбывающимися пророческими угрозами. А вообще, т. к. в начале романа читатель заметит выстоявшие экологическую катастрофу и ресурсный кризис башни-близнецы, уже не говоря про хронологию катастрофических событий в книге Балларда, перед нами уже не футуристическая, а альтернативно-историческая фантастика.

"Привет, Америка!" на фантлабе


Статья написана 27 марта 2023 г. 00:32

Вечный вопрос "быть или не быть понимающим машинам",

или новая версия "китайской комнаты" от американского фантаста и программиста

*публикую заметку не только в своей колонке, но и в "Рецензиях на фантастические книги", понимая, что создаю не рецензию, а эссе, притом на нефантастическое эссе, но на фантастического автора*

Не так давно, 9 февраля сего года, в "The New Yorker" появилась заметка прекрасно известного русскоязычному читателю умной и красивой научной фантастики писателя и программиста Теда Чана под названием "ChatGPT Is a Blurry JPEG of the Web" с подзаголовком "OpenAI’s chatbot offers paraphrases, whereas Google offers quotes. Which do we prefer?". Об эссе автора я узнал только из перевода (под заголовком "ChatGPT это лишь сжатое изображение всемирной сети") на портале syg.ma (ссылки на все будут в конце этого текста). Далее я хотел бы помимо того, чтобы просто сообщить о существовании что оригинала, что переводной версии очень интересной и донельзя актуальной нехудожественной работы Теда Чана, но и вкратце раскрыть ее основные тезисы, а также сравнить их с неоднозначным, но очень известным (по слухам, ставшим причиной закрытия ряда проектов по разработке ИИ — отсылаю к интервью "Финикового компота" с Серлом, а также послужившим идейной почвой для институционального оформления когнитивистики как науки) мысленным экспериментом американского аналитического философа языка и сознания Джона Серла. С "китайской комнатой" из культовой статьи "Сознание, мозг и программы".

Итак, если вкратце, то Тед Чан на пальцах и путем аналогий-метафор старается донести до массового нетехнического читателя простую истину — чат-GPT не есть т. н. "сильный ИИ". Это очередное, новаторское и интересное, но все-таки звено в цепи усовершенствований и изобретательских итераций в цепи прогресса "слабых ИИ". Притом дальнейшие усилия в этом конкретном процессе совсем не точно приведут к выполнению истматовского "перехода количество в качество". Т. е. совсем не факт, что из очень-очень-очень сильного "слабого ИИ" получится "ИИ сильный". Но обо всем по порядку.

Начиная с небольшой исторической ремарки из области программирования, Тед Чан напоминает о двух путях в процессе сжатия данных — с потерями и без:

"Сжатие данных подразумевает два процесса: кодировка, когда данные компрессуются в более компактный формат, и декодирование — обратный процесс. Если восстановленный файл идентичен оригиналу, то использовалось сжатие без потерь: не было утеряно никаких данных. Если же, напротив, востановленный файл лишь приблизительно тождественнен оригиналу, то применялось сжатие с потерями: некоторые данные были утеряны и теперь не подлежат восстановлению. Сжатие без потерь обычно используется для текстовых файлов и компьютерных программ, потому что в этих форматах утрата даже единственного символа может повлечь серьезные последствия. Сжатие с потерями зачастую используется для фото, аудио и видео — там, где абсолютная точность не критична"

Неразличение двух этих подходов — по недосмотру, случайности или продуманно — порой приводит к неприятным ситуациям. А именно к случаю с ксероксом одной немецкой компании, который при копировании (которое, как отмечает Чан, давно уже "не то, что раньше", ведь "...для решения проблемы понадобился именно информатик, потому что современный ксерокс уже не использует физический ксерографический процесс как в 60-х годах — вместо этого изображение сканируется дигитально, а затем распечатывается") допускал странные ошибки — заменял различные записанные числа на планах на одно и то же число:

"Главной проблемой в этой истории стало не то, что в копировальном аппарате использовался метод сжатия с потерями, а то, что аппарат искажал копию незаметно, и артефакты сжатия не сразу бросались в глаза. Если бы на выходе получались размытые изображения, всем стало бы ясно, что копии не соответствуют в точности оригиналу. Но копии казались точными — данные на них были ясно читаемыми, будучи неверными. В 2014 году Xerox выпустили патч, исправляющий эту проблему с их копировальными аппаратами"

Запомним это на будущее. И вот, ознакомившись с базовым и тривиальным программистским знанием, мы можем прийти к более сложным материям, которые талантливый писатель объясняет элегантно и просто. А именно для понимания сути чатаGPT, почему он не обладает пониманием и возможностью создать что-то действительно новое (ну и почему он не есть "сильный ИИ", как бы то не хотелось его технофобным или всего лишь грамотных в маркетинге создателям), американский писатель и программист предлагает нам поучаствовать в мысленном эксперименте. Сравнить чат-GPT с помянутым выше копировальным аппаратом, который тоже сжимает данные с потерями. Только здесь он старается копировать (подчеркнем этот термин) не просто какой-то текстовый документ, а всю мировую паутину:

"Мне кажется, что этот случай особенно актуален сегодня, когда речь заходит о ChatGPT и подобных программах, известных в кругах исследователей ИИ как большие языковые модели. Конечно, сходство между копировальным аппаратом и большой языковой моделью не сразу может показаться очевидным, но представьте, что вы вот-вот потеряете доступ к интернету навсегда. Вы решаете создать сжатую копию всех текстовых данных в сети, чтобы хранить ее затем на своем локальном сервере. К сожалению, объем вашего сервера лишь 1% от объема всех данных, поэтому вы не можете использовать алгоритмы для сжатия данных без потерь. Вместо этого, вы пишете алгоритм сжатия с потерями — он будет распознавать статистические закономерности в тексте и сохранять их в собственном формате. Добавим неограниченную вычислительную мощность вашего компьютера, так что даже малейшие закономерности в тексте не ускользают от вашего алгоритма, и вам удается достичь необходимого уровня сжатия сто к одному.

Теперь потеря доступа в интернет не кажется столь катастрофичным событием, ведь у вас есть копия всей информации в сети на собственном сервере. Проблема лишь в том, что из–за столь плотного уровня сжатия, вы не сможете искать нужную информацию, пользуясь точными цитатами — вы не найдете совпадений. Для решения проблемы вы создаете интерфейс, принимающий запросы в формате прямых вопросов, и дающий ответы, передающие суть информации, сохраненной на вашем сервере"

И эта странная, на первый взгляд, аналогия оказывается очень рабочей и позволяющей через то самое "размытие" объяснить феномен "бреда" (или "вранья", как говорит уже российский специалист по машинному обучению на стриме канала "Рабкор" — тоже ссылку прикреплю ниже):

"Эта аналогия не только помогает понять каким образом ChatGPT парафразирует информацию, найденную в интернете, но также и объясняет «бред» или нелепые ответы на конкретные вопросы, столь часто наблюдаемые в поведении ChatGPT и прочих больших языковых моделей. Этот бред — это артефакты сжатия, только как и в истории с ксероксом, они настолько «читаемы», что их не распознать без скрупулезного сравнения с оригиналом. Оригинал в нашем случае — либо интернет, либо наши собственные знания о мире. Когда мы рассматриваем такой бред сквозь данную призму, он становится вполне ожидаемым: если при сжатии 99% оригинальной информации было утеряно, закономерно ожидать, что существенные доли реконструкции при декодировании будут полностью сфабрикованы"

Все это — результат интерполяции, процедуры, проделываемой программы для восстановления утерянных данных по аналогию, за счет сравнения с сохранившимися. И пока что чаты-GPT плохо справляются с этими потерями, по замечанию Чана. Именно этим писатель объясняет, почему создатели этих программ пока не смогли взять и, видимо, не претендуют в ближайшее время на становление лауреатами премии "Приз Хаттера" ("...с 2006 года исследователь ИИ Маркус Хаттер вручает денежную награду тому, кто сможет без потери данных сжать конкретный текстовый файл объемом в 1ГБ компактнее, чем предыдущий рекордсмен. Премия известна как Приз Хаттера или Премия за сжатие человеческих знаний"):

"Большие языковые модели распознают статистические закономерности в тексте. Любой анализ текста в сети покажет, что такие фразы как «низкое предложение» часто соседствуют с такими фразами как «повышение цен». Чатбот, уловивший данную корреляцию, способен ответить про повышение цен на вопрос об эффекте недостаточных поставок товаров на прилавки. Если большая языковая модель уловила огромное количество текстовых корреляций между экономическими терминами (причем настолько огромное, что способна правдоподобно отвечать на широкий спектр вопросов), можем ли мы сказать, что она на самом деле понимает экономическую теорию? Модели на подобие ChatGPT не становятся лауреатами Премии Хаттера, среди прочего, потому что не способны в точности воссоздать оригинальный текст — иными словами, они не сжимают данные без потерь. Но может быть их способ сжатия с потерями все–таки показывает на скромные начала в понимании концепций, на которое так рассчитывают исследователи ИИ?"

Далее следуют примеры с арифметикой. И они ярче всего показывают неудачи в области понимания (как бы сказал Серл, семантики), ведь чат-GPT в поисках ответов, например, на пример "245 + 821". В Сети просто-напросто крайне мало идентичных трехзначных сложений, вычетаний и т. д., а, значит, мало соответствующих корреляций. Отчего чатбот показывает всяческое отсутствие математических компетенций из стандартов начальной школы. Но далее (и я приближаюсь к финалу как цитирований из эссе, так и своего эссе об эссе) Чан предлагает представить себе таковой "мыслящий" чат как программу сжатия без потери данных. Может, таковой механизм способен понимать, производить новое и думать? И снова нет:

"Представьте, что было бы если бы ChatGPT была алгоритмом сжатия без потерь? В таком случае, она бы всегда отвечала на вопросы точными цитатами соответствующих страниц в интернете. Нас бы вряд ли сильно впечатлила такая технология — не особо существенное улучшение обычных поисковых движков. То, что ChatGPT парафразирует текст из интернета, а не цитирует его, делает модель похожей на ученицу, способную выражать мысли собственными словами, а не только «зубрить» фразы из учебника. Это создает иллюзию понимания. В человеческом обучении механическое запоминание не является показателем понимания, поэтому неспособность ChatGPT цитировать информацию из источников — это именно то, что создает впечатление ее обучаемости. Когда речь идет о последовательности слов, сжатие с потерями впечатляет больше, чем сжатие без потерь"

Идем к завершению пересказа и, наконец-то, к сравнению. В заключении американский писатель отмечает, что, вполне возможно, чуть позднее чатботы смогут — при некоторых "но" — заменить поисковики. Феномен "размытия" так вообще может сослужить полезную службу т. н. "контент-фермам". Но такая виртуальная машинерия вряд ли сможет помочь в работе писателя. Если мы говорим просто о контенте (уж простите за намек о дихотомии, при которой есть "высокое" и "большая литература"), то его умножение методом чатботов может привести к "искривлению" Интернета и осложнению поиска информации в нем для пользователей ("Расцвет такого типа пересказа контента усложняет поиск нужных данных уже сегодня — чем больше текста, сгенерированного большими языковыми моделями, будет публиковаться в сети, тем больше интернет станет походить на все более и более размытую версию самого себя"). Но все равно — может, чатбот хотя бы позволит "настругать" некий шаблон, материал для облегчения "технических" задач писателя и любого другого создателя самого различного текста? Но ведь именно через движение через ошибки, через писание неудачных, вторичных и пошлых вещей, выбрасывание их не в стол, а в окно, и получается действительно сильная вещь. Только так и не иначе ("Если вы писатель, вы напишете множество вторичных вещей прежде, чем удастся написать что-нибудь оригинальное. При этом, время и усилия, вложенные во вторичные тексты никоим образом не тратятся зря — напротив, именно они и позволяют вам в итоге создать нечто неповторимое. Мучительный выбор верного слова и бесконечная перестановка предложений в инстинктивном поиске наиболее приятного течения текста — этим и познается проза").

Но это я все к чему? Как по мне, Тед Чан (наверняка зная, как мне кажется, об аргументе "китайской комнаты") оформляет второе издание, так сказать, дополненное, исправленное и сжатое — без потери данных! — "китайской комнаты" Джона Серла. Я говорю именно об отдельно взятом мысленном эксперименте из статьи "Сознание, мозг и программы", без привлечения работ философа по его собственной теории сознания, социальных институтах и устройства языка. Ведь, так скажем, негативная программа (проект) Серла, его скептические и критические нападки на современные проекты, громогласно заявляющие о создании чего-то близкого к "сильному ИИ", т. е. сознающему и разумному искусственному существу, до сих пор актуальна хотя бы своим запалом.

Я не стану цитировать Серла — и так превысил объемы для быстрого чтения. Просто скажу, что у обоих авторов совпадают не только цели текстов (у Чана, кстати: "Учитывая, что большие языковые модели как ChatGPT зачастую превозносятся чуть ли не как прорыв в сфере искусственного интеллекта, может показаться пренебрежительным или уничижительным описывать их как алгоритмы сжатия текста с потерями. Я на самом деле считаю, что рассматривать большие языковые модели в данной перспективе полезно для усмирения тенденции их очеловечивания"), но и средства. И Чан, и Серл прибегают к мысленному эксперименту для сокрушения спеси проектировщиков якобы "сильных ИИ". Оба различают синтаксическое и семантическое, т. е. то, что кандидаты в разумные машины не обладают пониманием, а просто оперируют рядом формальных правил (Джон Серл в указанной статье четко проводит это различение — между синтаксисом и семантикой языка — для ликвидации лишь поверхностной адекватности метафоры человеческого сознания как компьютерной программы). А из последних напрямую не проистекает, не создается и не формируется понимание, т. е. человеческий разум, настоящее сознание и ментальные состояния с убеждениями и прочим человеческим, слишком человеческим. Притом и писатель, и философ не считают, что "сильный ИИ" принципиально невозможен. И критикуемые философом программы, и писателем нейросети если и проходят тесты Тьюринга, то только потому, что это неудовлетворительный тест на определение у собеседника ментальных состояний и разумности. Т. е. (выше я говорил запомнить момент с термином "копировать") копирование (имитация) работы сознания современными машинами происходит с такой потерей содержания и качества процесса, что дубликат не идет ни в какое сравнение с оригиналом. Серл настаивает на смещении внимания с "софта" на "хард", а Чан скорее говорит о том, что стоит затянуть пояса скорых и завышенных ожиданий. В любом случае, при всех прочих равных, фантаст-программист справляется с созданием четкого, понятного, приятного для чтения и вместе с тем сильного с аргументационной точки зрения текста с критикой реализации в настоящее время "сильного ИИ" лучше, чем философ-лингвист-когнитивист. При всей моей симпатии как к фигуре Серла, так и к этой его статье и другим произведениям. Притом "подкопаться" к эссеистскому эксперименту Чана сложнее, чем к мысленному эксперименту Джона Серла. Как ни крути, при всей изящности "китайской комнаты", в самой ее основе есть родовая травма, слабое место: вопрос "который сейчас час?" и иже с ними. Да, можно вводить модификации "...комнаты" для преодоления набегов секты "ИИ здесь-и-сейчас", но чем статья Чана — не такая идеальная, преодолевшая слабости прародителя, версия критики от Серла? Это тот из немногих случаев, когда ремейк лучше оригинала.

Примечания:

1. Оригинал статьи Теда Чана

2. Перевод статьи Теда Чана №1

3. Нейросети учатся врать? (Сергей Марков, Борис Кагарлицкий)

5. Джон Серл. Сознание, мозг и программы

6. Создатель ChatGPT "опасается своего творения"

7. Истина это здравый смысл, а не наоборот (интервью с Джоном Серлом)

8. Наверное, даже более верное сравнение аналогии Чана не с "китайской комнатой" Серла, а с "китайской нацией" Блока (которого и Серл упоминает, кстати), как заметил при обсуждении эссе фантаста FixedGrin.

9. Это сотая, юбилейная публикация в моей колонке. Спасибо всем тем, кто читает мое многословие и многобуковие!


Статья написана 17 февраля 2023 г. 19:53

Рассказ уже не только о (и от) служанке,

или как трикстер, спасая мир, спасает и сериал

В свое время я уже писал про сериал "Рассказ служанки", который до сих пор выходит на канале Hulu. В этом, 2023, году проект наконец-то должен завершиться последним, шестым по счету сезоном. После просмотра третьего сезона пару лет назад я успел несколько устать от интересного, но все-таки противоречивого сериального произведения. О некоторых преувеличениях мира, диалогах персонажей и некоторых иных если не минусах, то специфических характеристик сериала я писал в уже указанной заметке. Здесь же я хотел бы рассмотреть в паре абзацах буквально одного единственного персонажа, сыгранного актером Брэдли Уитфордом, который появился еще в далеком втором сезоне, но наиболее активно проявил себя в последних двух. В общем, эссе посвящается командору Джозефу Лоуренсу.

Второй и третий сезон, особенно третий, конечно, стал выводить этого героя на все более важные сюжетные тропинки. Например, самолетного бегства нескольких десятков детей в Канаду не было бы без Лоуренса. Тем не менее особо он никак не светился, и отношения между персонажами Элизабет Мосс, Джозефа Файнса, Ивонн Страховски и Энн Дауд теснят роль и развитие этого героя. Но с первой же серии четвертого сезона все меняется.

Джозеф Лоуренс с первого появления на экране привлекает внимание зрителя, привыкшего к постепенной "картонизации" и рутинизации действий, диалогов и взглядов командоров, Служанок, Жен, Теток... Да, поначалу Лоуренс кажется лишь функциональным трамплином для нескольких спасений Фердовой / Джун, но четвертый и пятый сезон все меняют. Персонаж, который даже не присутствовал в книге, начинает вытаскивать с картонного дна весь проект. Уже не только на одной красавице Мосс лежит бремя волоков сериала (в моих глазах, во всяком случае).

Почти сразу намеками нам показывают, что с Лоуренсом далеко не все так просто. Это не обычный двуличный и лицемерный командор. Он любит свою несчастную больную Жену, тяготится судьбой Служанок и других несчастных обитателей Галаада, не занимается освященным изнасилованием над женщинами, а вообще являет собой фигуру скрытого в тоталитарных одеяниях интеллигента, любителя запрещенных книг, произведений искусства и т. д. Ну и одним кадром третьего сезона нам дают понять, что командор Лоуренс участвовал в создании экономического фундамента государства религиозных фундаменталистов.

Но в предпоследних двух сезонах Джозеф Лоуренс раскрывается в полной мере. Во-первых, появляется новая арка / повествование — политическое возвышение нетипичного командора до практического главы Галаада. Во-вторых, персонажу добавляют экранного времени и его диалоги со всеми героями — самое главное достижение сценаристов. Ерничанье, открытый сарказм, в чем-то снобистская интеллектуальная речь Лоуренса, порой чрезмерно вызывающее и рискованное поведение героя Уитфорда — все выдает в нем трикстера.

Лоуренс как бы находится между двух миров. Между, с одной стороны, мирским, светским, интеллектуально и по духу близким ему западным цивилизованным обществом, а, с другой стороны, традиционалистским, тоталитарным, политиканским, жестоким бытом Галаада. Да, в чем-то внутри он близок к первому миру, а внешне старается хамелеонски встроится во второй. Но все, разумеется, сложнее. Лоуренс, как выясняется, настоящий серый кардинал, подлинный творец псевдохристианской республики. В проникновенном диалоге с Джун в одной из последних серий пятого сезона (начатого по телефону, а продолженному при личной встрече), он говорит, что видел угрозу полного вымирания человечества и исчезновения цивилизации. Лоуренс был экономистом, утилитаристом, и при помощи фундаменталистов, "Сынов Иакова", думал решить глобальную проблему с "минимальными издержками" (начало восьмой серии). Но эксперимент, как водится, вышел из-под контроля, и в пламя демографической фабрики под именем "Галаад" полетело слишком много щепок и поленьев в виде человеческих жизней и столь близких Лоуренсу достижений цивилизации. Правда, в весьма пафосном монологе, он клеймит "потребительский поздний капитализм", который и привел мир к проблеме снижения фертильности.

Брэдли Уитфорд отлично отыгрывает такого сложного и необычного персонажа, вовремя сдерживая, и столь же вовремя не сдерживая эмоции, горестные слезы по понимаю того, что он натворил. Но Лоуренс все равно считает, что делает необходимое зло длиною в пару-тройку поколений, после которых Галаад изменится и станет "традиционализмом с человеческим лицом". Его даже иронично связывают с Горбачевым, который проектом "Нового Вифлеема" старается преобразить тираническую сущность своего детища. Но экс-Фредова, Джун, не согласна с антигероем / антизлодеем или просто трикстером, вынужденно, перед лицом демографического рагнарека, старется быть героем. Так что весь шестой сезон будет конфликтом между героями Мосс и Уитфорда. Двумя единственными оставшимися интересными персонажами всего проекта. Тетя Лидия откровенно выдохлась, ее внутренние демоны, потуги стать духовной матерью для Джанин уже наскучили. Переменчивые отношения четы Уотерфордов себя исчерпали, да и Фред все равно почил в конце четвертого сезона. Оставшаяся живой Серена тоже порастеряла свой глянец и интересность, разве что поначалу привлекала более-менее предсказуемая линия преображения овдовевшей, но беременной героини в квази-Служанку. Конфликт оформен, ждем ценностной, идейной дуэли между архитектором жестокого спасения человечества в лице саркастического интеллектуала-трикстера Лоуренса и второй раз ставшей вынужденно беглянкой Джун. Самое главное, чтобы создатели "Рассказа служанки" не пошли по пути шоураннеров "Атаки титанов", и не множили последний сезон до бесконечности.


Статья написана 5 февраля 2023 г. 22:49

Лиготти versus Борхес,

или как гносеологический (и экзистенциальный) пессимизм приводит к спорной литературе

*больше полугода ничего не писал в колонке — думаю, можно начать / возобновить с помещения сюда отзыва на рассказ Томаса Лиготти*

Наверное, некоторым мои попытки читать Лавкрафта, а теперь и Лиготти покажутся своеобразным мазохизмом.

Ну правда, есть же не только литературоведение, социологический, философский, биографический и прочий анализ(ы) художественных произведений. Есть область чистого субъективизма. Вкусовщины, говоря начистоту. И зачем, в таком случае, подверстывать свое «нравится» / «не нравится» к каким-то сложным концептуальным подходам, детализирующим обзорам и т. д. Если не нравится способ письма и ценностные ряды того же Томаса Лиготти — то именно что этот автор и его творчество просто не нравятся. Нечего тут додумывать. Живем в мире постмодерна, где все жанры, виды искусства, школы мысли и далее по списку полностью уравнены и включены в единый рынок потребления. Потребляй, в данном случае читай, что угодно, пиши отзывы об этом да и все. Не усложняй.

Но я все-таки чуть усложню.

Почему мне нравятся авторы по типу Лафкрафта или Лиготти? Потому что они, по идее, пишут ужасы. Да, в стилистике «странного реализма», «новых странных», «необычного хоррора» и т. д. Но их произведения ведь НЕ ПУГАЮТ. Тут, конечно, можно ответить — «угомонись, мы испорчены тучей фильмов ужасов, развращены скримерами, позабыли саспенс Хичкока». Не спорю. Потому и в последнее полугодие почти не смотрю современные фильмы. Переключился на того же Хичкока. И даже могу сказать, что в некоторых эпизодах большая проза Кинга может пугать. Да и экранизации по его произведениям, такие как «Сияние» или «Мизери», тоже. Но ни Лавкрафт, ни Лиготти не пугают. Не страшат. Не наводят мурашек или хотя бы эффект омерзения. Почему?

Одна из проблем — выбор повествовательной конструкции. Это, преимущественно, доминирование описаний, а не диалогов, эпистолярность вместо обычного живого повествования. Даже в чем-то преобладание публицистического над художественным в тексте. На мой взгляд, такой подход не позволяет создать ощущение ужаса у читателя. Действия, общение, обсуждения, внутренние монологи, а не голые описания — вот ключ к ужасному и пугающему. Конечно, это сложно осуществить что на экране, что в книге. На бумаге, разумеется, еще сложнее. Об этом и Быков в интервью Гордону когда-то очень верно заметил. И с помощью эпистолярных и иже с ними техник повествования ну не получается, и все тут, и у лавкрафтианца Лиготти всеми этими вихрями фраз по типу«то было неописуемо» напугать меня.

А ведь еще важнее — удивить. Ведь ставка в таких произведениях делается и на упомянутую выше странность, чуждость, ирреальность, непонятность. И гораздо лучше с этим справлялся, по пути пугая, а также используя, казалось бы, совершенно неприменимые для этого и неповоротливые для этого описательно-публицистическо-эпистолярные инструменты, кто бы вы думали? Правильно, Хорхе Луис Борхес.

А ведь правда, сравните с лиготтивским рассказом «Вастариен» такие три полу-эссе, полу-художественные миниатюры, как: «Бессмертный», «Тлён, Укбар, Орбис Терциус» и «Книга песка». Все три эти вещи создают не просто эффект странности указанными литературными приемами, но и даже что-то вроде легкого саспенса. Ужаса. Удивления. Специфического катарсиса, чтобы это слово не означало у Аристотеля. Так, например, как и в «Вастариене» (кстати, наиболее походящие друг на друга тексты), в «Книге песка» герой сталкивается с необычной, бесконечной, оттого пугающей книгой. Очень текстоцентричная книга, необычная, в лучшем духе выполненное Борхесом полу-эссе, полу-рассказ. Но эффект, реакция и ощущение после его прочтения (прослушивания) куда сильнее, чем от работы Лиготти. И понимание безумие героя более обоснованное от контакта с книгой. «Тлен...» и «Бессмертный» также эксплуатируют сюжет с найденными книгами, которые стирают грань между реальностью и написанным миром, привнося в первый второй. И опять же, несмотря на неплохую «монтажную склейку» у Томаса Лиготти в рассказе между пребыванием героя в книжно-странном мире и его в финале попаданием (видением со стороны) в мире обычном, все-таки переходы между реальным и полу-иллюзорным круче сделаны именно у Борхеса.

Так что да простят меня фанаты Лиготти, Лавкрафта и компании, но Борхес своими жизнелюбивыми и изящными историями показывает и больший эффект странности, и больший саспенс. Притом при помощи тех же литературных практик.

Но вопрос ваш ко мне может быть такой — «ну окей, тот же Борхес техничнее, больший мастер, и что? Зачем ты читаешь субъективно не впечатляющих тебя Лиготти и т. д. и в чем нас пытаешься убедить или разубедить?». А в очень простой вещи. Почему, помимо техничности и таланта (вполне предполагаю, что и Лиготти очень даже талантливый писатель) ощущение странного в «Книге песка» лучше чувствуется при прочтении, чем в «Вастариене»? По-моему, тут все просто. Борхес — гносеологический оптимист. Он, хоть и несколько консервативен, но верит, признает, убежден в ценности знания, в красоте познания, в счастье от прикосновения к глубинам бытия. Ребята же по типу самого Лиготти (не забываем про его «Заговор против человеческой расы»), Цапффе, Шопенгауэра в некотором смысле, Лавкрафта, Бенатара принадлежат к направлению культивирования ущербности человека и его культуры, нашей изначальной дефектности, и все в этом духе. И вся суть «Вастариена» в гераклитовском «многознание уму не научает», а точнее, в контексте рассказа, «процесс познания делает человеку больно». А дилемма дикобраза от Артура Шопенгауэра у Лиготти преобразуется в «без познания человек не может, но при его осуществлении он познает свою бренность, ничтожность и оттого страдает». Я с этим кардинально не согласен, стараюсь откапывать эту литературно-философско-идеологическую линию и бороться с ней. Как бы пафосно это не звучало.

П.С. Потом в биографии Лиготти на фантлабе все-таки вычитал, что не зря мне виделось сходство с Борхесом.

П.П.С. О влиянии Бенатара не в известном таковой связью сериале "Настоящий детектив", а в сай-файной "Тьме" — в рецензии на этот сериал от меня.

"Вастариен" на фантлабе





  Подписка

Количество подписчиков: 91

⇑ Наверх