Тема «Религия искусственного интеллекта»

Вы здесь: Форумы fantlab.ru > Форум «Трёп на разные темы» > Тема «Религия искусственного интеллекта»

Религия искусственного интеллекта

Страницы: 1 2 3...13 14 15 16 17...30 31 32 🔍 поиск написать сообщение

автор

сообщение

активист

18 февраля 2019 г. 12:51

цитировать | [ ]

цитата Ursin
Вполне вероятно, уже для такой "простой" задачки требуются какие-то малопонятные и фантастические (для технического воплощения) качества, вроде сознания и понимания.

По поводу работы переводчика, мне импонирует мнение Станислава Лема: "...описанная в эксперименте Сёрла работа вообще всегда асемантично формальна, следовательно, «понимание» в самих текстах не участвует и тем более «сознание» (в т.ч. в системе «Сёрл—инструкции»), — тем самым идея доводится до абсурда, не имея отношения к реальной проблематике ИИ"

магистр

18 февраля 2019 г. 12:57

цитировать | [ ]

цитата Ursin
Задачу качественного машинного перевода, к примеру, пытаются поставить еще с 1950-х годов. В США на это из практических соображений выделялись немалые средства. Кто-то из тамошних специалистов обещал управиться за три года. Причем с тривиальными, формализованными текстами, вроде сухой сводки погоды, машины справлялись и тогда

За те несколько лет, что я активно юзаю всякие плагины, основанные на гугл транслейте, качество машинного уже перевода заметно выросло. Так это ещё ИИ за это дело не брался — за покамест отсутствием такового, да и нейросети ещё к процессу не подключали — по причине некоторой незрелости технологии.

–––
"Мир идет прахом в той стороне, мальчик"

философ

18 февраля 2019 г. 17:17

цитировать | [ ]

цитата viantin
"...описанная в эксперименте Сёрла работа вообще всегда асемантично формальна, следовательно, «понимание» в самих текстах не участвует и тем более «сознание» (в т.ч. в системе «Сёрл—инструкции»), — тем самым идея доводится до абсурда, не имея отношения к реальной проблематике ИИ"

В итоге, каждый видит в ИИ нечто свое. Одним подавай понимание и сознание с самосознанием, другие говорят — эй, ребята, погодите вы с сознанием, тут бы тупо понять возможности ИИ в самых простых, линейных или планарных задачах с имитацией обучения(т.е.машинное обучение, как оно имеет быть сейчас), а вам подавай по максимуму.
Думаю, и нам, надо бы определиться с ИИ, иначе этот тред превратится в разбор художественной ценности текстов viantin или в религиозные/контррелигиозные диспуты.

Вот, давайте попробуем начать с "простого" и поговорим о том, что такое "понимание", какие проблемы с этим имеются на уровне человека, есть ли у этого понятия тривиальное определение, а если нет, то можно ли его приемлемо(для формализации и "усвоения" машиной) сузить.
А потом решим, по силам ли это качество сейчас это ИИ, имеет ли нам смысл рассматривать в данной теме про ИИ, наделенном "пониманием" или оставить эту тему пока фантастам и серьёзнм учёным.

К семантике глагола "понимать", употребленного в разных речевых конструктах, в разном контексте, есть масса вопросов. Ведь слово вне контекста мало что само по себе означает. Рассмотрим часть семантической палитры "ПОНИМАТЬ":
— понимать, что происходит Вне меня и меру причастности к происходящему(непосредственно наблюдаемую реальность, сейчас или некоторое время после того)
— понимать, что происходит Внутри меня и меру влияния этого на личную жизнь и окружающий мир(оценивать внутренние состояния: физическое самочувствие, колебания эмоциональной сферы, доминирование каких-то тем в актуальном процессе мышлении)
— поминать речь устную(разделение здесь оправдано существенной разностью восприятия речи)
— понимать речь письменную
— понимать значение термина изолированно
— понимать значение термина в контексте
— понимать сложный предмет и явление как целое(понимать о чем речь, мысль; узнавать/воспроизводить в памяти)
— то же, только в i-ом аспекте(понимать что это такое сущностно)
— понимать меру отвлеченности/реальности объекта(в спектре реальное/фиктивное, абстрактное)
— понимать меру достоверности(в спектре "абсолютно достоверное" до "неопределенное")
и так далее и т.п..

Очевидно, что все эти "понимать" очень разные ментальные состояния. Т.е. ПОНИМАНИЕ(постижение, мыслительная работа) это сильно не одномерный процесс, и ПОНИМАТЬ как состояние интеллекта, как результат постижения, так же не одномерно.

Если ЗНАТЬ(просто обладать информацией, сведениями/помнить что-то) в какой-то мере, можно сымитировать машиной путем записи данных в память, то ЗНАТЬ как метальное состояние, как состояние интеллекта, т.е. ЗНАТЬ в вышеприведенном значении "понимать" будет иметь большой набор "координат" и куда сложнее отражаться в структурах памяти.
Грубо говоря, знать теорему Пифагора и знать её доказательство — это разный уровень знания одного и того же свойства отношений сторон в прямог.треугольнике.
Чуток позже предложу иллюстрацию проблемы "понимания" и предложу вместе поразмышлять.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

активист

18 февраля 2019 г. 18:34

цитировать | [ ]

цитата cianid
что такое "понимание"

cianid, у меня тогда к Вам встречный вопрос. Представьте себе, что Вы попали в мир как типа в сюжете, ну или какой Вам угодно. И вот Вы ходите туда-сюда и общаетесь с андроидами. При этом Вы вообще не видите разницы между ними и людьми. Они также смеются, шутят, рассуждают и тд. Так вот вопрос, лично для Вас будет ли иметь значение, понимают ли машины внутри себя всё, либо просто функционируют по принципу Китайской комнаты Сёрла? А я Вам потом свой ответ дам.

философ

18 февраля 2019 г. 19:24

цитировать | [ ]

Теперь иллюстрация для коллективных размышлений: сузим, для простоты, этот набор "координат" процесса "понимание" до "понимание речи" в коммуникациях человеков.
Я уже намекал viantin на сложности даже во взаимопонимании людей, на неизбежный коммуникационный дефицит в общении, предложив представить, например, куб.
viantin, я не спрашиваю можете ли вы представить произвольный куб. Очевидно, что вы это можете. А можете описать образ, который возник у вас в уме, в ответ на мою просьбу? Т.е. как вы его видели?
Ну, чтобы сэкономить время на "ответ-вопрос", приведу изображения: наверное, как-то так вы себе и представляли

или анимированный образ

Т.е. вы и я, как субъеты и объекты коммуникации могли видеть простейший куб очень по разному: и как проекцию, и как псевдообъемный объект, в движении и статично, полнотелый и пустой, с ирой теней и света, с глухими гранями и прозрачными и так далее.

Можно, не дожидаясь ответа поверхностно проанализировать происходящее:
Я обращаюсь к вам с просьбой. Устно или на письме. Сама речь выступает аудиальным или визуальным раздражителем, или дистальным стимулом, как говорят. Сенсорная система, рецепторы преобразуют физические факторы в некий чувственный слепок, отпечаток — проксимальный стимул. Мозг, каким-то магическим способом превращает это в образы и в то самое понимание передаваемого мной сообщения.

скрытый текст (кликните по нему, чтобы увидеть)

Собственно, сама магия остается за скобками нашей дискуссии, поскольку и самые серьёзные научные коллективы не могут к этому подступиться. Обсуждать это не имеет практического смыла на нашей площадке.

Процесс собственно восприятия(перцепции) моей просьбы финишировал, пересекшись с процессом понимания, в значении "узнавания и презентации образа"
Далее, вы ПОНИМАЕТЕ мою речь: т.е.понимаете смысл просьбы. Потом обращаетесь к памяти и презентуете в мысленный образ, который может существенно отличаться от моего.

Какие тут возникают аспекты многомерного состояния "понимать" и насколько многоэтапным и каскадным является процесс понимания для одной, наипримитивнейшей просьбы:

1. Вы понимаете, что с вами говорят, т.е. отличаете речь от других стимулов, выступающих фоном(это реализуется механизмом внимания).
2. Вы понимаете и отдельные слова и тыскыть "семантический интеграл" сообщения — его прямой смысл: "представьте произвольный куб".
3. Вы понимаете, что такое куб(узнаете в речи центральный предмет просьбы) и презентуете его из памяти, наделяя какими-то своими чертами, необязательно совпадающими с моим представлением.

Теперь дополнительные замечания, пояснения:
Понимание что с вами говорят и понимание речи — не одно и то же.
Речь воспринимается сама по себе даже если она не понятна вам в языковом смысле. Вы понимаете, что с вами говорят на испанском, но не знаете его.
С другой стороны, шизофазия психически больных может выражаться в понятных вам словах и иметь стройную форму, но, при этом, быть абсолютно бессмысленной. В третьих, речеподобные конструкции, в которых, благодаря грамматическим признакам частей речи и строю может интуитивно угадываться смысл, но, при этом, использованные слова вам совершенно непонятны. Как иллюстрация знаменитый кэрроловский Бармаглот:
"Варкалось. Хлившие шарьки...".
Думаю достаточно, и вы поняли что я хотел показать.

Следующая просьба: "А что такое куб,viantin?"
При ближайшем рассмотрении окажется сильно отличающейся от просьбы его представить в уме, хотя последняя, вроде бы, предполагала, что вы знаете, что это такое.

И это еще далеко не всё.
Пардон за картинки, раздувающие и без того большой пост.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

18 февраля 2019 г. 19:31

цитировать | [ ]

цитата viantin
cianid, у меня тогда к Вам встречный вопрос.

цитата viantin
А я Вам потом свой ответ дам.

Вообще-то, это не очень тактично — обусловливать свои ответы ответами других. Знаете же, наверно, про еврейский стиль беседы — вопросом на вопрос? ;-)

К тому же, я вот предлагал вам прочесть мои мысли в другом треде, но вы этого не сделали, поэтому задаете теперь мне вопросы о Китайской комнате. А я, почему-то, должен быть достаточно учтивым, чтобы все это проигнорировать и продолжать играть по вашим правилам. :-[

Но, хорошо, я отвечу еще раз :-)

цитата viantin
При этом Вы вообще не видите разницы между ними и людьми. Они также смеются, шутят, рассуждают и тд. Так вот вопрос, лично для Вас будет ли иметь значение, понимают ли машины внутри себя всё, либо просто функционируют по принципу Китайской комнаты Сёрла?

Да, несомненно будет. Потому что я человек. Неотличимые от нас андроиды и Скайнеты не в счет, в силу того, что они болванки бесчувственные, жалкие механические тела.

Для того, чтобы избежать вопросов "почему?", ответьте не мне, а самому себе: имеет ли для вас значение имитирует ли ваша жена/подруга оргазм или действительно его переживает? И таких вопросов о "значении" можно задать десятки.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

активист

18 февраля 2019 г. 20:04

цитировать | [ ]

цитата cianid
А можете описать образ, который возник у вас в уме, в ответ на мою просьбу? Т.е. как вы его видели?

Всё верно! Любой образ, который возникнет будет выводом из памяти уже существующего. То есть, наше понимание зависит от тех образов и ощущений которые мы уже знаем или переживали, чувствовали. Работает функция ассоциативного мышления. К, примеру, у ребёнка будет одна ассоциация, у взрослого — другая.

активист

18 февраля 2019 г. 20:07

цитировать | [ ]

цитата cianid
имеет ли для вас значение имитирует ли ваша жена/подруга оргазм или действительно его переживает?

Простой вопрос! Работает принцип: "«кесарю кесарево , а Богу Божие». Иными словами, от человека я жду человеческого, от андроида — андроидное.

активист

18 февраля 2019 г. 20:12

цитировать | [ ]

цитата cianid
Вообще-то, это не очень тактично — обусловливать свои ответы ответами других.

Это не для данного диалога! Я задал вопрос, чтоб перевести к Вашей теме, но с другой стороны. А именно : насколько релевантными для конструкции ИИ являются вопросы самопонимания и самосознания ИИ

активист

18 февраля 2019 г. 20:14

цитировать | [ ]

цитата cianid
Да, несомненно будет.

Мой ответ: нет, для меня не играет роли)

философ

18 февраля 2019 г. 20:22

цитировать | [ ]

цитата viantin
При этом Вы вообще не видите разницы между ними и людьми.

Считать ли нам Гианею человеком? Тут еще вопросы, что такое человек и кого мы должны (или можем) считать если не человеком, то полностью ему эквивалентным.

Не любит слово «синтет», предпочитает, чтобы его называли «искусственный человек».
Болезненно переживает то, что люди не доверяют андроидам, и пытается доказать, что достоин доверия.

–––
Где здесь пропасть для свободных людей?

активист

18 февраля 2019 г. 20:25

цитировать | [ ]

цитата cianid
Потому что я человек.

Дополню своё мнение, считаю, что если при конструкции ИИ убрать ДЛЯ НАЧАЛА вопросы самопонимания и самосознания, то тем самым мы скидываем с себя гигантскую глыбу "Философии сознания" : Интеракционизм, Монизм, Эпифеноменализм, бихевиоризм, Интенциональность, ну и конечно же нашего пресловутого друга КВАЛИА)

философ

18 февраля 2019 г. 20:31

цитировать | [ ]

цитата viantin
Простой вопрос! Работает принцип: "«кесарю кесарево , а Богу Божие». Иными словами, от человека я жду человеческого, от андроида — андроидное.

Так у вас всё и всегда просто. Нет, это не такой простой вопрос, и поэтому вы на него сущностно не отвели.

Из указанного вами принципа "кесарю кесарево" выводится только то, что Ваше утверждение

цитата viantin
При этом Вы вообще не видите разницы между ними и людьми.

открывает ваш упрощенный взгляд на человека. Отсюда и эти, в общем-то, странные, нечеловеческие вопросы.

Человек может многое не видеть, но догадываться, подозревать, самообманываться: уважает ли его друг или заискивает; ценят ли меня на работе или не хотят обидеть критикой; нужен ли я семье или только мешаю всем.
Всё это не вызовет никаких волнений у машины, хотя она может имитировать эти чувства, не переживая их в действительности. У человека эти неформализуемые и нететерминированные рефлексии будут служить основой мотивации/демотивации, т.е. скажутся на его поведении, при этом скорее случайным, а не детерминированным образом.

От Вас ускользают самые банальные человеческие побуждения. Почему-то. 8:-0

Т.е. то, что во многом, делает человека человеком.

Кроме того, человечность воспринимается нами не из фантастики, а из реальности. А она не техническая, а биологическая, физиологическая. И в ней человечность воспринимается не как совершенство поведения и внешности, а через индивидуальность, и как раз через отступления, эксцессы, аномалии. И те проявления, которые связаны с тем, что человек живое существо — он ест, пьёт, писает и какает, рыгает и чешет зад. И при этом все это делает характерно.
Мы же тут в рассуждениях всегда сваливаемся к продукту крупносерийного и массового производства, когда типовое изделие имеет лишь индивидуальную соматическую и психическую конфигурацию.

Но человеку будет достаточно знать, что он имеет дело с машиной. Даже если "научить" ее какать, чавкать, покусывать губы и оглаживать волосы характерным движением. И всё. Вам не нужно больше ничего знать, вы и так уже знаете, что машина не переживает с вами и за вас, что она не способна к эмпатии, что она не переживает этот самый оргазм, что она не беспокоится простыли ли вы или нет, а лишь беспрерывно отыскивает и исполняет инструкции. Может быть творчески их исполняет, где-то с элементами стохастики, но не переживает, не способна к эмпатии.

Блин. Хотел написать пару строчек на эту тему. :-D

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

гранд-мастер

18 февраля 2019 г. 20:35

цитировать | [ ]

А зачем ИИ религия?

философ

18 февраля 2019 г. 20:41

цитировать | [ ]

цитата viantin
Мой ответ: нет, для меня не играет роли)

Тогда нам нечего и обсуждать. Вы снова фантазируете об андроидах, я пошел вам навстречу и объяснил разницу между человеком и андроидом как мог. Если Вы это до сих пор не поняли, то я, скорее всего, бессилен пробить эту стену.
И я хотел бы вернуться к тому, о чем написал в двух постах о "понимании", и на что потратил некоторое свое время, и что на порядки проще и реальнее, чем наделение андроида полноценной личностью, которое остается только очень призрачной и очень вольной фантазией, не хуже эльфийских миров.

цитата viantin
Это не для данного диалога!

Для данного. Не надо злоупотреблять положением топикстартера. 8:-0

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

активист

18 февраля 2019 г. 20:44

цитировать | [ ]

цитата cianid
Т.е. то, что во многом, делает человека человеком.

cianid, такое впечатление, что за род человеческий, Вы как Моисей героически встали в проломе от неистовой орды беспощадных машин :cool!:

активист

18 февраля 2019 г. 20:56

цитировать | [ ]

цитата cianid
я пошел вам навстречу и объяснил разницу между человеком и андроидом как мог.

Вы объяснили разницу, но не ответили на главный вопрос: Если будет нарастать конфликт между Человеком и ИИ, то как его решить?

философ

18 февраля 2019 г. 21:01

цитировать | [ ]

цитата viantin
Всё верно! Любой образ, который возникнет будет выводом из памяти уже существующего. То есть, наше понимание зависит от тех образов и ощущений которые мы уже знаем или переживали, чувствовали. Работает функция ассоциативного мышления. К, примеру, у ребёнка будет одна ассоциация, у взрослого — другая.

Спасибо, но я не спрашивал — верно или нет. Я сразу же и ответил на свой вопрос.

Кроме того, я имел в виду не разницу в понимании из-за разного чувственного опыта, а разницу фундаментальную, связанную с объемом некоторого понятия Х и тем фактом, что при будничных коммуникациях людей объем понятий сильно сокращается.

И куб был выбран мной не с бухты-барахты. В качестве воображаемого предмета был выбран примитивный и НЕРЕАЛЬНЫЙ объект.
Кубов в природе не существует. Как и точек — "мест без размера", как линий — "длин без толщины". Это чистая математическая абстракция. Какие, к черту, ощущения и переживания?!

Я хотел показать, как на примере совершенно примитивных и нереальных объектов, возникают сложности с "пониманием". Иначе бы я выбрал томат, к примеру. Это реальный объект, который и атрибутивно и ассоциативно на порядки сложнее куба.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

18 февраля 2019 г. 21:12

цитировать | [ ]

цитата viantin
Вы объяснили разницу, но не ответили на главный вопрос:

Я и не должен. Я лишь предлагаю дискуссию на интересные мне вопросы по ИИ, пусть бы они и были лишь частично сопряжены с "религией ИИ".
Хотите — участвуйте в ней, не хотите — что я могу сделать? 8-)

А вот когда мы поймём, что на самом базовом уровне невероятно сложно воссоздать мотивы человеческие, тогда и вопрос религии ИИ рассосется сам собой.
А Ваши андроиды, человекоподобные до степени смешения — это всего лишь красивый мультик, имплантированный масс-медиа и с которым вы не хотите расставаться, потому что...потому что у вас сюжет. Меня интересуют принципиальные возможности реализации высших психических функций, в вашей фантазии они уже каким-то образом существуют и вы лишь хотите решить конфликт между людьми и роботами, или ИИ причем средствами, котрые эти самые высшие психические функции подразумевают.

цитата viantin
cianid, такое впечатление,

Это впечатление. К тому же, не относящееся к обсуждаемому. Я не волен как-то произвольно влиять на впечатление обо мне, потому предоставляю Вам полнейшую свободу относительно этого предмета.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

активист

18 февраля 2019 г. 21:28

цитировать | [ ]