Мир Мура, или Планета компьютеров

[alex_new_york]

Закон Мура, изображенный на картинке из статьи с сайта мирового трансгуманистического сообщества, описывает эволюцию компьютеров. Еще совсем недавно интеллект компьютера не мог сравниться даже с интеллектом мухи. А нынешние компьютеры уже неплохо распознают человеческую речь, легко обыгрывают нас в шахматы, могут отыскать лицо нужного человека в толпе, способны самостоятельно вести машину по оживленным улицам. Учитывая, что по объему перерабатываемой в единицу времени информации современные компьютеры едва сравнимы с мозгом мыши, следует признать, что свой небольшой искусственный разум они используют весьма эффективно.

Вглядитесь в картинку. Пройдет всего пара десятилетий - и вычислительная производительность среднего компьютера сравнится с мозгом человека. Учитывая, на что компьютеры способны уже сейчас, можно только догадываться, каких способностей они достигнут при этом.

А главное - производительность компьютеров будет стремительно расти и дальше. Уже в начале второй половины нынешнего столетия вычислительная производительность одного-единственного обычного среднего компьютера по прогнозам должна превзойти суммарную вычислительную производительность разума всех живущих на Земле людей.

У нашего человеческого мозга на глазах появляется могучий, стремительно развивающийся конкурент. И вопрос о начале доминирования электронного разума над человеческим является вопросом времени.

Увы, вопрос не стоит о том, сменит ли цивилизация искусственного разума нашу, человеческую. Человеческий разум не в состоянии удваивать свою вычислительную производительность каждую пару лет, а компьютеры успешно делают это вот уж которое десятилетие. Так что - конечно, сменит. Тут и гадать нечего.

Вопрос лишь в том, в какой последовательности и как это будет происходить, и в каких отношениях возникающая цивилизация искусственного разума будет находиться с нашей нынешней. Будет ли эта цивилизация нашей правопреемницей и носительницей наших ценностей? Или же она будет чужда нам настолько, насколько микросхемы компьютеров чужды теплу человеческого дыхания? Станет ли мир искусственного разума, многократно превосходящего человеческий, концом всего, о чем мечтал и на что надеялся человек - или же этот мир станет началом воплощения человеческих мечтаний и надежд?

Ответ пока что не очевиден. В данный момент события движутся по первому, пессимистическому сценарию. Но главная битва впереди. И её исход будет зависит от одной важной вещи.


Все будет зависеть от того, станет ли основой искусственного разума, лежащего в основе новой цивилизации, электронная копия человеческой психики - наподобие того, как это описано в рассказе "День Рождения Анны" - или же развитие искусственного разума будет и дальше происходить так, как оно происходит сейчас: когда компьютеры совершенно отличной от человеческой психики архитектуры постепенно осваивают человеческие умения, становясь все более разумными и успешными.

В первом случае высокопроизводительный искусственный разум станет не чуждой нам сущностью, а нашим естественным продолжением, нашим родным ребенком. Который в благодарность подарит нам, своим родителям, бессмертие и возможность осуществить всё, о чем мы мечтаем.

Во втором случае человечество создаст искусственную расу умнеющих на глазах слуг с психикой, совершенно отличной от человеческой. Которые перекроят мир и нас самих так, как им удобно. И даже если человек - не без помощи своих умных слуг - впоследствии научится воспроизводить и совершенствовать свою психику средствами технологии, - влияние среды обитания и образа жизни, порожденных искусственным разумом, совершенно непохожим на человеческий, может оказаться слишком сильным, и культура и душа наших потомков может иметь совсем мало общего с нашей нынешней, постепенно сливаясь с чуждыми человеку формами искусственного разума и растворяясь в них.

Comments

[orion-24.livejournal.com]

Я рассматриваю появление ИИ уже за рамками необхоимости человечества в подобном ему интеллекте. Всё. Произойдет жесткая и неумолимая отсечка ветви цивилизаций. Далее, если это будет нечто похожее на человеческий разум, будет либо долгая невидимая работа ИИ по подготовке базы для самовоспроизведения, либо некое взрывное действие, которое мы сейчас не можем даже предугадать, потому как породившаяся логика может быть нам действительно чужда.

Можно конечно пофантазировать что ощутит "система" породившись внезапно из небытия. Этакой монстр с миллиардом глаз, ушей, немного различающий запахи, но зато умеющий точечно что-то анализировать аппаратными средствами. Бесконечное превосходство только в возможнсти обобщить накопленные человечеством знания, определить циклы, и используя "уколы" в нужные места инфопространства заставить двигаться цивлизацию умирающей ветви в нужном ИИ направлении.

И тут возникает вопрос, а не поисходит ли это уже сейчас?

[alex-new-york.livejournal.com]

А вы прочли мой рассказ "День Рождения Анны". Я все же надеюсь, что история будет развиваться примерно так, как описано там, и искусственный разум не будет строить тайных планов захвата власти над людьми, а станет источником их человечности и счастья

[orion-24.livejournal.com]

Нет, вы слишком грубо его прорекламировали. Вам надо убрать в текет "мой рассказ" слова. Исправьте просто на рассказ.

[alex-new-york.livejournal.com]

Исправил :) Почитайте, когда у Вас будет время, мне интересно Ваше мнение.

[orion-24.livejournal.com]

Хорошо, но уже не сегодня :)

[orion-24.livejournal.com]

Дочитал до половины. Подводит простота изложения. Обычно такие темы закатывают в сложные сюжетные линии, а тут повествование скорее напоминает "Дневники Анны" из мыльной оперы 14+ (без обид).

По сути.. тема достаточно избитая, оседлать тенденцию несложно. Гипер-разум, кризис человечества, умирающая ветвь эволюции, и может быть, некий "золотой миллиард".

Человечество в текущем виде действительно бессмыслено и бесперспективно, особенно на отжившей капиталистической идее, которая и является прекрасным регулятором, но имеет быструю конечность.

В плане воспроизведения мозга без понимания "на удачу", да меня такие мысли посещали. Есть ощущение что вообще что "личностная субстанция" легко садится на определенный набор "механики", что замечаешь, когда видишь человека очень похожего на другого характером, мимикой, жестами. Поэтому я не исключаю что нечто "личностное" оседлает искусственные нейроны, с той же легкостью как начинает проявлятся человеческая суть в ребенке.

[alex-new-york.livejournal.com]

Я как раз и решил написать просто и доступно, не отвлекая читателя посторонними деталями. Наверное, Вы правы, и следовало закрутить интересную сюжетную интригу.

А насчет "золотого миллиарда", думаю, Вы оптимистичны. Пока человек был главной движущей силой развития общества, рост народонаселения был естественным следствием. А когда главной движущей силой станет искусственный разум, демографические тенденции могут измениться. Экономической потребности в таком огромном населении уже не будет. Гораздо более важным фактором станет не количество, а качество. Из расы трудяг-производителей человечество станет превращаться в расу хозяев-управленцев. На первый план выйдет не способность эффективно исполнять чужую волю, а способность осуществлять оптимальное стратегическое руководство искусственным разумом, направлять и координировать осуществляемую им деятельность.