Искусственный интеллект и


Вы здесь: Авторские колонки FantLab.ru > Авторская колонка «beskarss78» > "Искусственный интеллект и будущее человечества" Марк О
Поиск статьи:
   расширенный поиск »

«Искусственный интеллект и будущее человечества» Марк О

Статья написана 8 октября 17:45
Размещена:

Хороший журналистский очерк из среды трансгуманистов, который разросся до величины книги...

Если у журналиста есть деньги просто для того, чтобы посетить несколько конференций по всему миру, поговорить с парой сотен людей и потратить на все это несколько месяцев — весьма вероятно получится неплохая "обзорно-иронизирующая" книга.

Тут именно этот случай.

С одной стороны автор вполне серьезен. Он хорошо рассматривает историю трансгуманистического движения последних десятилетий.

Вот первоисточники — начиная с Декарта и Ламетри, "живых автоматов" авторства часовых дел мастеров.

Вот идеологические обоснования еще 19-го века — довольно неловкие (тут очень хорошо заметно, что автор ничего не читал из российского космизма). Вот уже более серьезные подходы века 20-го, и, наконец, формирование кружков, групп и сообществ людей, которые напряженно следят за развитием техники, подталкивают изобретательство в нужном направлении и верят, что доживут до лучших времен.

Типажи этих людей — характерны для любого начинания. Очень хорошо, что автор не взял только самых модных персонажей, а поговорил "почти со всем". Из хаоса коротких заметок, которые вываливает на нас Интернет, показалась история движения трансгуманистов.

И тут проявляется другая сторона книги-очерка. При известной добросовестности проделанной работы, автор частенько отягощен кукишами, которые он держит в своих карманах. Ему не нужно врать или преувеличивать — просто цитировать поток сознания отдельных персонажей и описывать атмосферу их собраний. Когда у человек на выставке спрашивают — зачем он вживил такой большой прибор в свою грудную клетку, и нельзя было бы сделать устройство миниатюрнее — тот отвечает, что вопрос был не в его удобстве или функциональности, но в самой возможности пересаживать именно эту модель... И люди, которые подсаживают себе сложные импланты, чтобы иметь возможность перекрестив руль машины, включить в ней зажигание, не будут казаться самыми адекватными.

Но самое важное — рассказанная история идей и увлечений, сплетенная с биографиями фанатов-сторонников.

.

В первую голову — идёт заморозка трупов людей, которые рассчитывают восстать из мертвых несколько позднее. Замораживают как раз головы, это дешевле. Вот серебряный кулон, который носит человек, подписавший документы на заморозку. Вот уже пожилая барышня — журналистка — которая была женой человека, в 1980-х поменявшего себя имя на "FM 2030", чтобы выразить убежденность — к этому году будут побеждены болезни. Его голова — тоже в баке. У барышни теперь более молодой супруг и она сохраняет свой оптимизм по поводу крионики. Тут технологическая ставка сделана, но карты будут вскрыты много, много лет спустя. Мода на крионику схлынула, и теперь это скорее один из полузабытых культов, редкие сторонники которого не дают угаснуть самой идее, но не рассчитывают перевернуть мир. Хотя расчеты величины емкостей, в которых надо хранить головы всех умерших, и таким образом сохранять шанс на их воскрешение — впечатляют.

.

Вторым номером идет оцифровка человеческого сознания — и помещение его в компьютер. Тут автор окунулся не только в среду разнообразных фриков, думающих срубить на модной идее сколько-то денежек, но и в поток серьезных изобретений, равно и как и в сообщество компетентных людей. Общение нервной системы с компьютером без помощи речи и жестов — частично уже решенная задача. Есть помощь инвалидам. Но, понятно, энтузиастам этого мало. Хочется "эмуляции мозга". Есть люди, которые много чего добились в современной IT отрасли — с деньгами, связями, идеями. Там, правда, фигурируют несколько иные цифры успеха, чем в случае с оптимистом из 80-х — уже 2045-й год. Есть деятели, специализирующиеся на именно эмуляции наших нервных тканей, которые, правда, скорее занимаются накоплением проверенных данных. Они подбираю некую сумму открытий и изобретений, могущих стать "технологическим пакетом", гарантирующим перенос сознания. Исследовательские и конструкторские работы сейчас преследуют совершенно другие цели, строго утилитарные в смысле рыночной отдачи.

Автор описывает свою временную увлеченность этой концепцией, но не отказывает себе в удовольствии рассказать, как страдая похмельем, он понял, что сознание человека не может существовать отдельно от тела :)

.

Третьим номером идёт стремление создать искусственный интеллект и опасения по поводу его могущества. При том, что автор взял несколько интервью и погрузился в историю вопроса — очень хорошо заметно, что ему недостает собственно философской базы. Он пересказывает какие-то элементарные, показушные примеры, находит людей, которые боятся, что ИИ убьет их (один уволился из Googla). Да, он достаточно четко указывает на главный "постулат веры" сторонников развития ИИ: "Как только мы сможем автоматизировать исследования в области компьютерных наук и искусственного интеллекта, цикл замкнется, и мы получим системы, способные без нашей помощи создавать более совершенные системы." — но дьявол прячется в деталях, а с деталями новейших исследований у него сложно. Зато хорошо описаны организации, которые начинают исследовать опасность ИИ, готовы препятствовать экзистенциальному риску его развития. Тут нужна цитата:

"Об этом я узнал от Виктории Краковны, математика, аспирантки Гарварда – вместе с космологом Массачусетского технологического института Максом Тегмарком и основателем скайпа Яаном Таллинном она была учредителем Института будущей жизни, который в начале 2015 года получил от Илона Маска 10 миллионов долларов на создание глобальной исследовательской инициативы, направленной на предотвращение катастрофы, связанной с искусственным интеллектом.

– Речь идет о том, что вы получите за свой доллар, – сказала она. Американская идиома с украинским акцентом звучала довольно странно. Я, Виктория и ее муж Янос, венгерско-канадский математик и бывший научный сотрудник МИРИ, были единственными посетителями индийского ресторана на Шаттак-авеню в Беркли – своего рода глухой невообразимой пещеры, где, по-видимому, обслуживали пьяных магистрантов. Виктория говорила, чрезвычайно быстро поедая очень острое блюдо с курицей. Она вела себя вполне уверенно, но слегка отстранено, и, как и Нейт, практически не смотрела в глаза.

Виктория с Яносом приехали в область залива Сан-Франциско на конференцию, посвященную «эффективному альтруизму». Они встретились десять лет назад в математическом лагере средней школы и с тех пор были вместе и жили в своего рода рационалистической коммуне «Цитадель» в Бостоне.

– Проблемы экзистенциального риска вписываются в эту ценностную метрику, – уточнила Виктория. – Если рассмотреть возможность уравновешивания интересов будущих людей и интересов уже живущих людей, то снижение вероятности серьезной катастрофы в будущем может стать верным стратегическим решением. Если вы преуспеете в деле спасения человечества от того, что может его уничтожить, это явно превзойдет любую пользу, которую вы могли бы сделать для людей, живущих в настоящее время."

Я затрудняюсь измерить уровень авторской иронии :)

Но, в отличии от него, я стал бы искать людей, которые реально ограничивают возможности ИИ — среди специалистов по компьютерной безопасности. Возможно, многие из них не хотят даже слышать про ИИ, но специфика противостояния с мощными программами, а сейчас уже и с нейросетями, куда больше расскажет об этой проблеме...

.

Четвертая разновидность — сторонники киборгизации тела. И тут все довольно мрачно. При том, что технические успехи в этой области самые очевидные — ножные протезы, импланты, искусственная роговица глаза, да чего только нет! — желание людей стать кем-то другим прямо сейчас толкает их на всякие глупости. Вот неудачливый самоубийца, который стал на путь радикальной перестройки своего тела (ест слона частями?). Вот рассуждения человека, который говорит, что готов стать хоть марсоходом, родные смирились с этим, только его одиннадцатилетняя дочь просит сохранить лицо, к которому она привыкла.

Я бы сказал, что тут автор слишком радикализировал ту выборку, настроения которой отразил в книге. Технологии стали доступны фрикам. Где-то рядом — витают образы радикальной пластической хирургии, когда люди имплантируют себе рога в тщетной попытке обрести дьявольское очарование. А искать надо среди слепых, мечтающих снова увидеть солнце, среди безруких, примеряющих новые протезы. Вот если бы он подробно рассказал об инвалиде, который колеблется между перемещением на коляске и ходьбой на ножных протезах — при том, что на "ногах" он мало отличим от здорового человека, но на коляске ему удобнее в приспособленной для инвалидов среде — в этом было бы куда больше трансгуманизма, чем в болезненной психике "киборгов".

.

Автор описывает еще пригоршню разных чудаков, равно как и некую юную особу, которая как примеряет на себя образ медико-техно спасительницы человечества — пока же она получила грант, учредитель которого требует на два года бросить колледж и заняться предпринимательской деятельностью (книга написана в 2016-м, это точно не Грета Тунберг :) ) Но выводы его достаточно предсказуемы. Он хочет жить в настоящем и не станет трансгуманистом, чтобы жить в будущем.

.

Чем действительно ценна книга — это иллюстрацией смены поколений техно-тусовки. В достаточно богатой среде люди десятилетиями могут использовать созданный артистический образ, несколько броских лозунгов, единственную удачную статью, и все каким-то образом оставаться на плаву. Видны "конкурсы", когда из нескольких типажей будут выбирать кого-то одного, чтобы создать культового персонажа. Есть почти отошедшие от дел люди, которые только и могут, что вспоминать сенсации 80-х. Где тут убеждения, а где способ заработка и привычный образ жизни — можно лишь догадываться.

В бедной среде постсоветского пространства многим приходиться "переобуваться в прыжке", чтобы сохранить поток наличности.

Но парадокс в том, что такая тусовка — нужна. Еще Лем в "Футурологическом конгрессе" пошутил, что ученые делятся на тех, кто сидит по лабораториям, и тех, кто ездит по конгрессам — а на два занятия времени недостаточно. И это ученые, люди со степенями. Среди трансгуманистов очень много пены, но продравшись через неё, люди приходят к серьезным вопросам, кто-то начинает заниматься именно техникой и наукой, а не разговорами про них.

И прочитав эту книгу, вам проще будет оценивать популярные статьи об искусственном интеллекте — вы будете представлять, насколько серьезны их авторы, а насколько "участвуют в кампании против смерти"...





742
просмотры





  Комментарии


Ссылка на сообщение8 октября 21:02 цитировать
«человечествО» в заголовке у вас
свернуть ветку
 


Ссылка на сообщение8 октября 21:32 цитировать
Благодарю, поправил.

Заголовки — моя слабость




Внимание! Администрация Лаборатории Фантастики не имеет отношения к частным мнениям и высказываниям, публикуемым посетителями сайта в авторских колонках.
⇑ Наверх