Анатолий Днепров «Игра»

Казалось бы, дежурный рассказ, написанный «на заказ» для какого-то сборника. Но заключенная в нем идея отнюдь не дежурная — может ли машина мыслить? Автор отвечает на этот вопрос весьма необычно: если разбить весь процесс на отдельные операции, то каждая из них по отдельности покажется сущей бессмыслицей. Студенты, моделирующие процесс «вживую», даже не задумываются о том, что они, собственно говоря, делают. Кто-то считает это своеобразным экзаменом по двоичной системе, кто-то — проверкой на внимание, наименее дотошные — причудливой игрой с неясным результатом. А оказалось, что все они служили моделью исполнительных устройств вычислительной машины, занятой переводом фразы с португальского на русский! Раз никто из них не догадался об истинной сути выполняемой ими работы, то и машина тоже не задумывалась. А, значит, мыслить она не умеет, а только всего лишь прилежно исполняет данные ей инструкции. Просто и доходчиво! Вот из-за этой заложенной в рассказ мысли я и решил оценить его на твердую «семерку», хотя с литературной точки зрения он слаб и имеет кучу недостатков. Но в качестве аргумента против машинного мышления подходит почти идеально — я сам часто использую его в качестве иллюстрации на уроках информатики. Казалось бы, всё чудесно. Но... Как всегда в таких случаях приходит одна неудобная мысль: если принять вышесказанное за истину, получается, что и наш мозг с его нейронными связями тоже не мыслит! Можно ли тогда и человека назвать разумным?

------------

РЕЗЮМЕ: необычный взгляд писателя-физика на вопрос о машинном разуме. По своим следствиям напоминает известный анекдот о многоножке, которая не смогла сделать и шага, как только задумалась о том, с какой ноги она его начинает.

Не уверен, что Лю Цысинь читал этот рассказ, но вполне мог, если Днепрова переводили в Китае: параллели с «Окружностью» (圆) весьма занимательны, с тем небольшим отличием, что действие рассказа Лю происходит в период Сражающихся царств (около 225 года до н.э.), а не в Золотом веке СССР.

В принципе, и Днепров, и Лю описывают эксперименты, идентичные известному мысленному опыту теории познания («мозг Китая», 中國腦), но есть нюанс: рассказ Днепрова вышел за 17 лет до того, как Нед Блок предложил его. Более того, при некотором порыве фантазии модель Днепрова можно трактовать и как независимую реализацию принципа китайской комнаты Серля, которым так тяжело, до ложной слепоты и эхопраксии, ушибло по голове Уоттса: аудитория профессора Зарубина и есть такая комната, лишенная, по замечанию Хофштадтера, «каузальной силы мозга», но обладающая интеллектом (точнее, демонстрирующая ожидаемое от него поведение) вместе с самим профессором и правилами игры, им инициированной.

Художественных достоинств здесь искать бесполезно, однако это типично почти для всех произведений, где впервые разыгрывается некая плодотворная дебютная идея. К примеру, о «Последних и первых людях» Стэплдона Лем писал, что тот для удобства фантастов грядущего каталогизировал и снабдил ярлычками все сюжеты, с которыми предстояло тем возиться в ХХ веке, а сборники Днепрова «Уравнение Максвелла» и «Мир, в котором я исчез» спустя шестьдесят лет кажутся аналогичными конструкторскими наборами киберпанка и трансгуманизма.

Весьма познавательный рассказ, который следует прочитать любому представителю подрастающего поколения, привыкшему к махровой фентезятине, не имеющей под собой никакого реалистического, технического обоснования.

В рассказе очень просто, буквально на пальцах разъясняются принципы действия электронно-вычислительной машины, обмен данными между блоками её памяти, процесс, подчинённый особому алгоритму, то есть программе, которую выполняет центральный процессор.

Действительно, тут уже замечали, что при ошибке в выполнении программы, когда одна из ячеек памяти «ушла домой», результатом должно было быть какое-либо слово из русского языка, пусть и не подходящее по значению, а вовсе не набор букв, не образующий слово. Ведь программа осуществляла перевод фразы с одного языка на другой, а не подбор букв, как это было бы, например, при расшифровке кода. В этом, на мой взгляд, принципиальная техническая ошибка автора.

Что же касается основного вопроса, обсуждаемого в рассказе, а именно «способна ли машина мыслить?», то контекст рассказа не позволяет дать на него какой-либо ответ. Ведь отдельно взятый человек выполнял здесь роль отдельно взятой ячейки памяти, а если проводить аналогию с живым мозгом, то — роль отдельно взятого нейрона или синапса. Количество здесь не переросло в качество, иначе нам действительно пришлось бы вводить в уравнение некую величину вроде «надсознания» или «коллективного сознания», а это уже вопрос не технический.

Интересное иллюстрирование работы ЭВМ. К сожалению читал его в середине 80х и неотвязно преследовала при прочтении этого рассказа мысль — так работает китайский компьютер (на тот момент КНР ассоциировалась с доменными печами во дворах, истреблением воробьев и проч)

Сама по себе идея проведения эксперимента по работе ЭВМ довольно интересна и, как мне кажется, служила всего лишь одной цели дать молодому читателю первичные познания в этой области. Сам же вывод автора очень и очень спорен. Ведь, если следовать его теории, то головной мозг человека это простая передача электрического импульса, а значит, человек мыслить не может. Во как! А посему сегодня рассказ утерял всякую актуальность.

В 1961-м я был ещё достаточно мал, но в 1966-м мне самому уже довелось работать на ЭВМ «Урал-1». И, насколько я помню устройство этой довольно объёмной машины (она занимала огромный зал, около сотни квадратных метров), количество студентов для перевода фразы с португальского языка было явно недостаточным. Или же программа была составлена так, что можно было бы перевести лишь ограниченное количество португальских фраз, комбинируя ограниченное же количество элементов русского языка. И ошибка должна была бы являться осмысленным словом, хоть и не подходящим по смыслу, а не набором букв. Так что в этом моменте я усматриваю явную фантастику (вымысел).

Что же касается самого утверждения о том, может ли машина мыслить — я склонен ответить утвердительно.

Дело в том, что в финальном утверждении про «само мышление — высшую форму движения живой материи» автор допускает присущую вульгарному материализму типичную ошибку — ведь все живые существа состоят из атомов, а может ли мыслить отдельный атом? Значит не должна мыслить и любая комбинация оных атомов, значит и живые существа тоже. В общем вопрос сложен, построение думающих машин сейчас идёт вовсю, а вот насколько они, эти машины реально способны мыслить — к единой точке зрения человечество ещё не пришло.

Рассказ поучителен, но представляет интерес лишь для отдельных специалистов. А обычному читателю должен (по-моему) показаться скучным. А учитывая ещё и явную ошибочность вывода — то и вообще неудачным.

Во время своего написания этот рассказ был, конечно, намного актуальнее, чем сейчас. В наше время любой сразу же догадается, в чем заключался смысл этой странной игры, но в те времена люди мыслили еще по другому, да и собственно сам компьютер, в том виде к которому мы с вами уже давно привыкли, для людей того времени был настоящей научной фантастикой.

Но что самое главное — можем ли мы теперь дать ответ на поставленный автором почти пол века назад вопрос — а может ли машина мыслить? Лично я не могу дать однозначного ответа, сомневаюсь.

Удивительно, что никто из студентов, а ведь их было более тысячи, не догадался в каком эксперименте он участвовал. Сам рассказ кажется уже устаревшим, но проблема искусственного интеллекта актуальна и сейчас, но далеко не факт, что автор прав в своем утверждении.