Мир Мура, или Планета компьютеров

[alex_new_york]

Закон Мура, изображенный на картинке из статьи с сайта мирового трансгуманистического сообщества, описывает эволюцию компьютеров. Еще совсем недавно интеллект компьютера не мог сравниться даже с интеллектом мухи. А нынешние компьютеры уже неплохо распознают человеческую речь, легко обыгрывают нас в шахматы, могут отыскать лицо нужного человека в толпе, способны самостоятельно вести машину по оживленным улицам. Учитывая, что по объему перерабатываемой в единицу времени информации современные компьютеры едва сравнимы с мозгом мыши, следует признать, что свой небольшой искусственный разум они используют весьма эффективно.

Вглядитесь в картинку. Пройдет всего пара десятилетий - и вычислительная производительность среднего компьютера сравнится с мозгом человека. Учитывая, на что компьютеры способны уже сейчас, можно только догадываться, каких способностей они достигнут при этом.

А главное - производительность компьютеров будет стремительно расти и дальше. Уже в начале второй половины нынешнего столетия вычислительная производительность одного-единственного обычного среднего компьютера по прогнозам должна превзойти суммарную вычислительную производительность разума всех живущих на Земле людей.

У нашего человеческого мозга на глазах появляется могучий, стремительно развивающийся конкурент. И вопрос о начале доминирования электронного разума над человеческим является вопросом времени.

Увы, вопрос не стоит о том, сменит ли цивилизация искусственного разума нашу, человеческую. Человеческий разум не в состоянии удваивать свою вычислительную производительность каждую пару лет, а компьютеры успешно делают это вот уж которое десятилетие. Так что - конечно, сменит. Тут и гадать нечего.

Вопрос лишь в том, в какой последовательности и как это будет происходить, и в каких отношениях возникающая цивилизация искусственного разума будет находиться с нашей нынешней. Будет ли эта цивилизация нашей правопреемницей и носительницей наших ценностей? Или же она будет чужда нам настолько, насколько микросхемы компьютеров чужды теплу человеческого дыхания? Станет ли мир искусственного разума, многократно превосходящего человеческий, концом всего, о чем мечтал и на что надеялся человек - или же этот мир станет началом воплощения человеческих мечтаний и надежд?

Ответ пока что не очевиден. В данный момент события движутся по первому, пессимистическому сценарию. Но главная битва впереди. И её исход будет зависит от одной важной вещи.


Все будет зависеть от того, станет ли основой искусственного разума, лежащего в основе новой цивилизации, электронная копия человеческой психики - наподобие того, как это описано в рассказе "День Рождения Анны" - или же развитие искусственного разума будет и дальше происходить так, как оно происходит сейчас: когда компьютеры совершенно отличной от человеческой психики архитектуры постепенно осваивают человеческие умения, становясь все более разумными и успешными.

В первом случае высокопроизводительный искусственный разум станет не чуждой нам сущностью, а нашим естественным продолжением, нашим родным ребенком. Который в благодарность подарит нам, своим родителям, бессмертие и возможность осуществить всё, о чем мы мечтаем.

Во втором случае человечество создаст искусственную расу умнеющих на глазах слуг с психикой, совершенно отличной от человеческой. Которые перекроят мир и нас самих так, как им удобно. И даже если человек - не без помощи своих умных слуг - впоследствии научится воспроизводить и совершенствовать свою психику средствами технологии, - влияние среды обитания и образа жизни, порожденных искусственным разумом, совершенно непохожим на человеческий, может оказаться слишком сильным, и культура и душа наших потомков может иметь совсем мало общего с нашей нынешней, постепенно сливаясь с чуждыми человеку формами искусственного разума и растворяясь в них.

Comments

[dom3d.livejournal.com]

Спасибо за интерсную статью.
НО!

Вы пишете -Человеческий разум не в состоянии удваивать свою вычислительную производительность каждую пару лет.

Как это не в состоянии?

Я удивляюсь, программист ли Вы?
Человеческий разум использует всю мощь компьютера.
И это удесятеряет его возможности.
---------
Похоже Вы не видите разницу между живой материей и мертвой.
Также Вы не видите разницы между человеком и животным.

[alex-new-york.livejournal.com]

Пока что человек гораздо умнее компьютера. В диалоге с человеком компьютер пока что является гораздо более непонятливым собеседником, и человеку приходится терпеливо его учить самым простым вещам. Но все скоро изменится, и из двигателя прогресса человек превратится в его тормоз, если не примет мер по апгрейду своей психики.

А насчет живой и неживой материи... Людям уже вживляют электронные импланты слуховых нервов и другие искусственные органы. Вот представьте, что вам один за другим потихоньку заменили все ваши белковые нейроны на электронные, идентичные по своим функциям. Вы ведь не ощутите никакой разницы, хотя незаметно для себя из живого существа станете не вполне живым. И я, общаясь с Вами, никаких перемен в Вас не почувствую.

[egovoru.livejournal.com]

Конечно, это - может быть, самая волнующая тема современности. Меня он тоже занимает, но я бы поостереглась здесь что-то прогнозировать: ведь в прошлом немало подобных линейных аппроксимаций натыкались на совершенно неожиданные припятствия.

Принципиальный вопрос, мне кажется, здесь такой: окажется ли этот машинный мозг, который мы усиленно наращиваем, способным породить сознание, как это произошло с мозгом биологическим? Если нет, то опасаться "восстания роботов" не приходится: бессознательные компьютеры любой мощности все равно останутся просто арифмометрами (чем они являются сейчас).

Насчет переселения нашей души в силикон тоже непонятно - индивидуальное сознание может оказаться не просто алгоритмом, осуществляемым в любом носителе, но чем-то, жестко привязанным к своей биологической "подложке". Пока что мы просто слишком мало об этом знаем.

[alex-new-york.livejournal.com]

Если понимать под сознанием нечто похожее своей архитектурой и поведением на человеческую психику, то ни во что похожее искусственный разум нашими усилиями в ближайшее время, скорее всего, не разовьется - уже потому, что мы имеем весьма туманное представление о том, как наша психика функционирует, а значит, не можем построить ее модель. Если же понимать под сознанием способность к сложному и совершенному целенаправленному поведению, то компьютеры уже сейчас такую способность демонстрируют. Я могу нажать на кнопку и сказать своей машине по-английски, чтобы она сделала радио потише или поискала объезд - и ее компьютер меня поймет и отреагирует правильно. По мере развития искусственного разума круг вопросов, которые мы сможем обсуждать с компьютерами, будет становиться все богаче и сложнее. Но пока мы не научимся копировать и понимать собственную психику, архитектура искусственного разума будет абсолютно не похожей на человеческую.

Можно ли создать искусственное сознание, скопировав логику отклика нейронов мозга на приходящие к ним нервные импульсы? На мой взгляд, безусловно можно, хотя тут важно понимать, что существуют разные уровни процессов, влияющих на нервную деятельность. Самый быстрый - электрохимический - просканировать и воспроизвести проще всего. Но скопированное таким образом сознание не будет отражать гормональную динамику, отвечающую за смену психических состояний и настроения. Не затронутыми останутся и следующие, еще более медленные уровни: формирование новых нейронных связей и новых нейронов, возрастная динамика, связанная с исполнением генетической программы, не говоря уже о мутационных модификациях генетической программы. Так что чем более полно мы захотим воспроизвести человеческую психику, тем больше явлений нам придется моделировать.

Предсказание будущего

[livejournal.livejournal.com]

User dom3d referenced to your post from Предсказание будущего (http://dom3d.livejournal.com/529164.html) saying: [...] люди уже используют возможности сверхРазума. Вижу в ленте запись Мир Мура, или Планета компьютеров [...]

[dafna-mur.livejournal.com]

Я ещё не прочитала Ваш пост - не успела. Но спешу заметить, что действие фильма "Назад в будушее" происходит в 2015 году! А воз и ныне там...?

[alex-new-york.livejournal.com]

Зато если Вы сравните кривую Мура с хронологией "Дня Рождения Анны", Вы увидите, что в рассказе я не тороплю события, а скорее наоборот.

На самом деле, перенос человеческой психики на небиологический носитель помимо развития чисто компьютерных технологий требует еще и технологии, позволяющей сканирование всех нейронов мозга и передачи информации об их характеристиках в компьютерную память. И если в вопросе о динамике роста производительности компььютеров мы можем опереться хотя бы на кривую Мура, то о времени создания технологии сканирования нейронов мы можем только гадать.

[yury-nesterenko.livejournal.com]

"Станет ли мир искусственного разума, многократно превосходящего человеческий, концом всего, о чем мечтал и на что надеялся человек - или же этот мир станет началом воплощения человеческих мечтаний и надежд?

Ответ пока что не очевиден. В данный момент события движутся по второму, пессимистическому сценарию. "

Вы считаете второй сценарий пессимистическим? ;)

[alex-new-york.livejournal.com]

Конечно. Что же хорошего? Последнее столетие вообще стало столетием техники и технологий, вытесняющих из жизни все человеческое. Наши формировавшиеся тысячелетиями инстинкты зовут нас к огню очага, шелесту листвы, пению птиц, журчанию реки, ветвям плодоносящего сада, дыханию домашних животных. А вместо этого в последнее столетие человека окружает бензиновая вонь грохочущего города, толчея автобусов и метро, автомобильные пробки, вечная офисная гиподинамия и зомбоящик телевизора дома. А теперь в дополнение к этому человеку все в большей степени приходится общаться с компьютерами, привыкая к их странному для нормального человеческого существа характеру. Если ситуация и дальше будет развиваться в том же направлении, технологии совершенно свихнут человечеству мозги и превратят его в придаток к лишенному эмоций и интуиции компьютерному интеллекту.

Но история человечества пойдет совсем в другом направлении, если человечество сможет вдохнуть в компьютерное железо живую человеческую душу, сделать интеллектуальные машины живыми, эмоциональными, сопереживающими существами и развернуть технический прогресс лицом к человеку. Сделав человека и его душу центром цивилизации, а не невротическим придатком к машинам, постоянно вынужденным приспосабливающимся к специфике приобретающей все большую власть над миром и людьми неантропоморфной машинной психики.

[pexirgarnez.livejournal.com]

это просто комментарий с приглашением в мой новый френдомарафон. прошу не ругаться за спам, это в первый и последний раз. буду рад вашему участию.

[m0rlok.livejournal.com]

чушь из той же серии, что клоны, постиндустриальное лазерное оружие, виртуальная реальность - и прочая шумиха, поднятая западом.
пока только этот шум и было слышно - ещё понимаю зомби, которые этому верили.
но сейчас, едва западу начали оказывать сопротивление - стало понятно, что настоящая ценность, по-прежнему золото; что эффективны экономики, работающие не на услуги и игру на бирже, а занятые реальными секторами, что миллионы троллей, создающие виртуальную картинку войны - не стоят нескольких тысяч ополченцев, готовых защищать свою родину в реале.
так что, теперь-то совсем трудно понимать тех, кто готов принимать эти игрушечные коробочки (компьютеры), за альтернативу человеческой реальности.

[alex-new-york.livejournal.com]

"стало понятно, что настоящая ценность, по-прежнему золото; что эффективны экономики, работающие не на услуги и игру на бирже, а занятые реальными секторами"

А кто спорит-то? Как раз о реальных секторах экономики и речь, а вовсе не о виртуальной реальности. Вы же, я надеюсь, понимаете, какие перемены произойдут в реальных секторах экономики, когда там будут работать не люди, которых долго и дорого растить, обучать, лечить, кормить, одевать, обеспечивать жильем и т д, - а в десятки, если не в сотни раз более дешевый, на порядки более быстродействующий и мгновенно и бесплатно обучаемый новым профессиональным навыкам искусственный разум? :)

[bbeer.livejournal.com]

оставьте эту тему специалистам, смешно же читать бредни

[alex-new-york.livejournal.com]

А что именно вас рассмешило?

[vladimir-desuza.livejournal.com]

Лет 15 назад будучи студентом подрабатывал в охране. Прочитав за пару месяцев всю школьную программу по литературе за 9-11 классы и перечитав то, что понравилось ещё в школе перешёл на фантастику. Сидел такой ночами и фантазировал, что однажды появится устройство с которого я смогу делать всё: общаться с людьми и не только голосом, но и образами, оплачивать товары и услуги, находить путь куда либо, получать всевозможную инфу просто задав вопрос... Теперь у меня есть пара смартфонов и я в восторге именно от того, что всё получилось именно, как я фантазировал. Прогресс - это здорово!)

[alex-new-york.livejournal.com]

Важно только, чтобы прогресс не калечил людей. Люди все больше подстраиваются к неэмоциональной и лишенной интуиции психике компьютеров. Если человечество не повернет развитие компъютров с нынешнего чисто техногенного направления на естественное и комфортное для человека, при котором компъютер будет воспроизводить архитектуру человеческой психики, - то нашим внукам придется мучиться в мире, где они будут окружены превосходящими их во всем, но при этом совершенно чуждыми им искусственными разумными существами.

[alex-new-york.livejournal.com]

Конечно, не для того, чтобы обрести френдов. Я написал этот рассказ потому, что он размышляет и пытается говорить с читателем о самом главном - будущем человеческой расы. О том, куда все движется и как это отразится на жизни людей. Попробуйте почитать начало, а если станет скучно, перейдите на последнюю пару страничек, там где Анна спорит о будущем человечества. Может быть, Вам какие-то мысли покажутся интересными.

А что касается закона Мура, то вряд ли он связан с такими конкретными вещами, как размеры транзистора в микросхеме. Скорее, он описывает динамику конкуренции производителей компъютеров и динамику освоения обществом результатов этой конкуренции. Вот, например, тактовая частота компьютеров в последние годы мало растет, а увеличение производительности происходит за счет многоядерности процессоров. Потом еще что-нибудь изобретут наверняка.

[veliat.livejournal.com]

Очень познавательная информация, благодарю

[orion-24.livejournal.com]

Очень интересная дискуссия. Я всегда моделирую создание ИИ на человека. Зачастую все пытаются найти исключительность в человеческом разуме, и некой "души", но теория трещит по швам как только человека поражает мало-мальская болезнь связанная с работой мозга. Вчера был гений, Человек, душа. А сегодня кусок тупой материи, который и ложку поднести не может ко рту, не то чтобы делать какие-то обобщения и абстракции строить. Где душа? Исчезла, получается вместе с куском работающей биоматерии.

У меня есть ощущение, что ИИ может возникнуть спонтанно, ввижу многих фукционирующих факторов, допустим некая сеть под управлением кучи мощных серверов, которая формирует участки кода для миллионов программистов, вдруг в результате нештатной ситуации заламывает базы, и после рестарта начинает работать по иному.

Описал предельно примиитвно, но надеюсь вы поняли идею.

[alex-new-york.livejournal.com]

Может быть, и возможна спонтанная самоорганизация более простых элементов искусственного разума во что-то более сложное и совершенное. Но меня такая перспектива скорее пугает. Для человека очень важно, чтобы искусственный разум был родствен его собственному. Если этого не произойдет, и миром станет управлять искусственный разум, превосходящий человеческий, но совершенно чуждый человеческому разуму по своей архитектуре и мироощущению, то это будет тяжелейшей травмой для человечества и концом человеческой цивилизации.

[askof.livejournal.com]

Вы очень пессимистично относитесь ко второму сценарию.
Людей сменит раса более умная, но не разделяющая человеческие ценности - что тут плохого.
Их психика будет отличаться от человеческой... А многими ли свойствами человеческой психики Вы можете гордиться. Не многими, но и те немногие, если будут утрачены, то в последнюю очередь. Сперва на свалку отправится очень много позорного обезьяннего наследства.

[alex-new-york.livejournal.com]

Хороший вопрос.

Об избавлении от "обезьяньего наследства" (агрессивности, косности, лени, зависти, стадного инстинкта) можно говорить только применительно к разуму, построенному по тем же принципам, что и человеческий разум, с его инстинктами, эмоциями, огромным темным миром неосознанного и рефлексирующим сознательным разумом. А нынешние технологии искусственного разума развивают его в рамках совершенно других подходов, не имеющих ничего общего с принципами работы человеческой психики. Этому искусственному разуму чужды понятия счастья и страдания, сомнения и надежды, предвкушения и страха. И понятия гордости и стыда ему чужды.

Будущее разумной жизни на Земле

[livejournal.livejournal.com]

User viva5a referenced to your post from Будущее разумной жизни на Земле (http://viva5a.livejournal.com/2390546.html) saying: [...] миром ему осталось совсем недолго. Около ста лет. В статье "Мир Мура, или Планета компьютеров" [...]

ЧТО-ТО Я ЧУВСТВУЮ ВОЙНА НАЧИНАЕТСЯ)

[livejournal.livejournal.com]

User theallexbekk referenced to your post from ЧТО-ТО Я ЧУВСТВУЮ ВОЙНА НАЧИНАЕТСЯ) (http://theallexbekk.livejournal.com/24182139.html) saying: [...] ему осталось совсем недолго. Около ста лет. В статье "Мир Мура, или Планета компьютеров" [...]

ГИПОТЕЗА: Будущее разумной жизни на Земле

[livejournal.livejournal.com]

User psyont referenced to your post from ГИПОТЕЗА: Будущее разумной жизни на Земле (http://psyont.livejournal.com/5554247.html) saying: [...] ему осталось совсем недолго. Около ста лет. В статье "Мир Мура, или Планета компьютеров" [...]