Мир Мура, или Планета компьютеров

[alex_new_york]

Закон Мура, изображенный на картинке из статьи с сайта мирового трансгуманистического сообщества, описывает эволюцию компьютеров. Еще совсем недавно интеллект компьютера не мог сравниться даже с интеллектом мухи. А нынешние компьютеры уже неплохо распознают человеческую речь, легко обыгрывают нас в шахматы, могут отыскать лицо нужного человека в толпе, способны самостоятельно вести машину по оживленным улицам. Учитывая, что по объему перерабатываемой в единицу времени информации современные компьютеры едва сравнимы с мозгом мыши, следует признать, что свой небольшой искусственный разум они используют весьма эффективно.

Вглядитесь в картинку. Пройдет всего пара десятилетий - и вычислительная производительность среднего компьютера сравнится с мозгом человека. Учитывая, на что компьютеры способны уже сейчас, можно только догадываться, каких способностей они достигнут при этом.

А главное - производительность компьютеров будет стремительно расти и дальше. Уже в начале второй половины нынешнего столетия вычислительная производительность одного-единственного обычного среднего компьютера по прогнозам должна превзойти суммарную вычислительную производительность разума всех живущих на Земле людей.

У нашего человеческого мозга на глазах появляется могучий, стремительно развивающийся конкурент. И вопрос о начале доминирования электронного разума над человеческим является вопросом времени.

Увы, вопрос не стоит о том, сменит ли цивилизация искусственного разума нашу, человеческую. Человеческий разум не в состоянии удваивать свою вычислительную производительность каждую пару лет, а компьютеры успешно делают это вот уж которое десятилетие. Так что - конечно, сменит. Тут и гадать нечего.

Вопрос лишь в том, в какой последовательности и как это будет происходить, и в каких отношениях возникающая цивилизация искусственного разума будет находиться с нашей нынешней. Будет ли эта цивилизация нашей правопреемницей и носительницей наших ценностей? Или же она будет чужда нам настолько, насколько микросхемы компьютеров чужды теплу человеческого дыхания? Станет ли мир искусственного разума, многократно превосходящего человеческий, концом всего, о чем мечтал и на что надеялся человек - или же этот мир станет началом воплощения человеческих мечтаний и надежд?

Ответ пока что не очевиден. В данный момент события движутся по первому, пессимистическому сценарию. Но главная битва впереди. И её исход будет зависит от одной важной вещи.


Все будет зависеть от того, станет ли основой искусственного разума, лежащего в основе новой цивилизации, электронная копия человеческой психики - наподобие того, как это описано в рассказе "День Рождения Анны" - или же развитие искусственного разума будет и дальше происходить так, как оно происходит сейчас: когда компьютеры совершенно отличной от человеческой психики архитектуры постепенно осваивают человеческие умения, становясь все более разумными и успешными.

В первом случае высокопроизводительный искусственный разум станет не чуждой нам сущностью, а нашим естественным продолжением, нашим родным ребенком. Который в благодарность подарит нам, своим родителям, бессмертие и возможность осуществить всё, о чем мы мечтаем.

Во втором случае человечество создаст искусственную расу умнеющих на глазах слуг с психикой, совершенно отличной от человеческой. Которые перекроят мир и нас самих так, как им удобно. И даже если человек - не без помощи своих умных слуг - впоследствии научится воспроизводить и совершенствовать свою психику средствами технологии, - влияние среды обитания и образа жизни, порожденных искусственным разумом, совершенно непохожим на человеческий, может оказаться слишком сильным, и культура и душа наших потомков может иметь совсем мало общего с нашей нынешней, постепенно сливаясь с чуждыми человеку формами искусственного разума и растворяясь в них.

Comments

[egovoru.livejournal.com]

"А над чем именно Вы работате?"

Лучше один раз увидеть, чем сто раз услышать ;)

[alex-new-york.livejournal.com]

Да, я даже что-то читал на жту тему не так давно. Очень интересное направление. А в чем Ваша работа состоит?

[egovoru.livejournal.com]

Мы ищем новые варианты этих светочувствительных белков и пытаемся понять механизм их работы.

[alex-new-york.livejournal.com]

Интересно бы научиться активизировать их на уровне отдельного аксона, чтобы прозванивать конкретные точки нейронных сетей

[egovoru.livejournal.com]

Вроде бы уже научились.

[pexirgarnez.livejournal.com]

это просто комментарий с приглашением в мой новый френдомарафон. прошу не ругаться за спам, это в первый и последний раз. буду рад вашему участию.

[m0rlok.livejournal.com]

чушь из той же серии, что клоны, постиндустриальное лазерное оружие, виртуальная реальность - и прочая шумиха, поднятая западом.
пока только этот шум и было слышно - ещё понимаю зомби, которые этому верили.
но сейчас, едва западу начали оказывать сопротивление - стало понятно, что настоящая ценность, по-прежнему золото; что эффективны экономики, работающие не на услуги и игру на бирже, а занятые реальными секторами, что миллионы троллей, создающие виртуальную картинку войны - не стоят нескольких тысяч ополченцев, готовых защищать свою родину в реале.
так что, теперь-то совсем трудно понимать тех, кто готов принимать эти игрушечные коробочки (компьютеры), за альтернативу человеческой реальности.

[alex-new-york.livejournal.com]

"стало понятно, что настоящая ценность, по-прежнему золото; что эффективны экономики, работающие не на услуги и игру на бирже, а занятые реальными секторами"

А кто спорит-то? Как раз о реальных секторах экономики и речь, а вовсе не о виртуальной реальности. Вы же, я надеюсь, понимаете, какие перемены произойдут в реальных секторах экономики, когда там будут работать не люди, которых долго и дорого растить, обучать, лечить, кормить, одевать, обеспечивать жильем и т д, - а в десятки, если не в сотни раз более дешевый, на порядки более быстродействующий и мгновенно и бесплатно обучаемый новым профессиональным навыкам искусственный разум? :)

[m0rlok.livejournal.com]

пока что практики в этом плане не было.
зато полно практики в областях "вы же понимаете", заканчивающихся пшиком.
сланцевый газ, например (помимо вышеперечисленного).
впрочем, в некотором роде, практика (практика пшика) уже есть. Оружие давно напичкали электроникой, но, как показало множество экспериментов, она работает, при условии нападений на в сотни раз более слабого противника. Против Ливии (которая была слабее, всего лишь, раз в десять, уже не работало, пришлось задействовать ряд других мер.

[alex-new-york.livejournal.com]

Вы снова ломитесь в открытую дверь. Я же как раз и начал с того, что по объему обрабатываемой в единицу времени информации современные компьютеры едва дотягивают до мозга мыши, и с человеком пока конкурировать не могут.

Но вслед за этим я предложил посмотреть на картинку и убедиться, что всего через пару десятилетий ситуация кардинально изменится. А во второй половине нынешнего столетия компьютеры будут многократно превосходить людей во всех сферах деятельности.

И будущее будет за теми странами, которые вовремя это поймут и успеют развить у себя соответствующую науку, технологии и индустрию.

[m0rlok.livejournal.com]

то есть, вы полагаете, что военную технику пичкали электроникой, заведомо зная, что она не дотягивает до человека?
лично мне это кажется смелым предположением; с гораздо большей лёгкостью я могу поверить, что пару десятилетий назад, кто-то уже рассуждал точно так же.

[bbeer.livejournal.com]

оставьте эту тему специалистам, смешно же читать бредни

[alex-new-york.livejournal.com]

Конечно. Рынок ведь. Главная цель западных разработчиков и производителей - получить от государства заказ. Кто навешает покупателю больше лапши на уши, тот заказ и получит.

[alex-new-york.livejournal.com]

А что именно вас рассмешило?

[m0rlok.livejournal.com]

о чём я и говорю)
сланцевый газ, лазерное оружие, искусственный интеллект, фиатные деньги - всё это, таки да - рынок.

[vladimir-desuza.livejournal.com]

Лет 15 назад будучи студентом подрабатывал в охране. Прочитав за пару месяцев всю школьную программу по литературе за 9-11 классы и перечитав то, что понравилось ещё в школе перешёл на фантастику. Сидел такой ночами и фантазировал, что однажды появится устройство с которого я смогу делать всё: общаться с людьми и не только голосом, но и образами, оплачивать товары и услуги, находить путь куда либо, получать всевозможную инфу просто задав вопрос... Теперь у меня есть пара смартфонов и я в восторге именно от того, что всё получилось именно, как я фантазировал. Прогресс - это здорово!)

[veliat.livejournal.com]

Очень познавательная информация, благодарю

[alex-new-york.livejournal.com]

Важно только, чтобы прогресс не калечил людей. Люди все больше подстраиваются к неэмоциональной и лишенной интуиции психике компьютеров. Если человечество не повернет развитие компъютров с нынешнего чисто техногенного направления на естественное и комфортное для человека, при котором компъютер будет воспроизводить архитектуру человеческой психики, - то нашим внукам придется мучиться в мире, где они будут окружены превосходящими их во всем, но при этом совершенно чуждыми им искусственными разумными существами.

[vladimir-desuza.livejournal.com]

Есть одно важное различие между машиной и человеком. Машина должна работать, человек - думать. Даже ребята сделавшие и развивающие квантовый комп (из Гугла по моему) говорят о том, что это прорыв, но исключительно в вычислительной мощности. Мыслительные процессы изучены чуть более, чем ни как. Всё будет хорошо.. я надеюсь)

[orion-24.livejournal.com]

Очень интересная дискуссия. Я всегда моделирую создание ИИ на человека. Зачастую все пытаются найти исключительность в человеческом разуме, и некой "души", но теория трещит по швам как только человека поражает мало-мальская болезнь связанная с работой мозга. Вчера был гений, Человек, душа. А сегодня кусок тупой материи, который и ложку поднести не может ко рту, не то чтобы делать какие-то обобщения и абстракции строить. Где душа? Исчезла, получается вместе с куском работающей биоматерии.

У меня есть ощущение, что ИИ может возникнуть спонтанно, ввижу многих фукционирующих факторов, допустим некая сеть под управлением кучи мощных серверов, которая формирует участки кода для миллионов программистов, вдруг в результате нештатной ситуации заламывает базы, и после рестарта начинает работать по иному.

Описал предельно примиитвно, но надеюсь вы поняли идею.

[alex-new-york.livejournal.com]

Конечно, не для того, чтобы обрести френдов. Я написал этот рассказ потому, что он размышляет и пытается говорить с читателем о самом главном - будущем человеческой расы. О том, куда все движется и как это отразится на жизни людей. Попробуйте почитать начало, а если станет скучно, перейдите на последнюю пару страничек, там где Анна спорит о будущем человечества. Может быть, Вам какие-то мысли покажутся интересными.

А что касается закона Мура, то вряд ли он связан с такими конкретными вещами, как размеры транзистора в микросхеме. Скорее, он описывает динамику конкуренции производителей компъютеров и динамику освоения обществом результатов этой конкуренции. Вот, например, тактовая частота компьютеров в последние годы мало растет, а увеличение производительности происходит за счет многоядерности процессоров. Потом еще что-нибудь изобретут наверняка.

[alex-new-york.livejournal.com]

Мой рассказ "День Рождения Анны" как раз на эту тему. Почитайте, думаю, вам будет интересно.

[askof.livejournal.com]

Вы очень пессимистично относитесь ко второму сценарию.
Людей сменит раса более умная, но не разделяющая человеческие ценности - что тут плохого.
Их психика будет отличаться от человеческой... А многими ли свойствами человеческой психики Вы можете гордиться. Не многими, но и те немногие, если будут утрачены, то в последнюю очередь. Сперва на свалку отправится очень много позорного обезьяннего наследства.

[alex-new-york.livejournal.com]

Может быть, и возможна спонтанная самоорганизация более простых элементов искусственного разума во что-то более сложное и совершенное. Но меня такая перспектива скорее пугает. Для человека очень важно, чтобы искусственный разум был родствен его собственному. Если этого не произойдет, и миром станет управлять искусственный разум, превосходящий человеческий, но совершенно чуждый человеческому разуму по своей архитектуре и мироощущению, то это будет тяжелейшей травмой для человечества и концом человеческой цивилизации.

[alex-new-york.livejournal.com]

Хороший вопрос.

Об избавлении от "обезьяньего наследства" (агрессивности, косности, лени, зависти, стадного инстинкта) можно говорить только применительно к разуму, построенному по тем же принципам, что и человеческий разум, с его инстинктами, эмоциями, огромным темным миром неосознанного и рефлексирующим сознательным разумом. А нынешние технологии искусственного разума развивают его в рамках совершенно других подходов, не имеющих ничего общего с принципами работы человеческой психики. Этому искусственному разуму чужды понятия счастья и страдания, сомнения и надежды, предвкушения и страха. И понятия гордости и стыда ему чужды.