Мир Мура, или Планета компьютеров

[alex_new_york]

Закон Мура, изображенный на картинке из статьи с сайта мирового трансгуманистического сообщества, описывает эволюцию компьютеров. Еще совсем недавно интеллект компьютера не мог сравниться даже с интеллектом мухи. А нынешние компьютеры уже неплохо распознают человеческую речь, легко обыгрывают нас в шахматы, могут отыскать лицо нужного человека в толпе, способны самостоятельно вести машину по оживленным улицам. Учитывая, что по объему перерабатываемой в единицу времени информации современные компьютеры едва сравнимы с мозгом мыши, следует признать, что свой небольшой искусственный разум они используют весьма эффективно.

Вглядитесь в картинку. Пройдет всего пара десятилетий - и вычислительная производительность среднего компьютера сравнится с мозгом человека. Учитывая, на что компьютеры способны уже сейчас, можно только догадываться, каких способностей они достигнут при этом.

А главное - производительность компьютеров будет стремительно расти и дальше. Уже в начале второй половины нынешнего столетия вычислительная производительность одного-единственного обычного среднего компьютера по прогнозам должна превзойти суммарную вычислительную производительность разума всех живущих на Земле людей.

У нашего человеческого мозга на глазах появляется могучий, стремительно развивающийся конкурент. И вопрос о начале доминирования электронного разума над человеческим является вопросом времени.

Увы, вопрос не стоит о том, сменит ли цивилизация искусственного разума нашу, человеческую. Человеческий разум не в состоянии удваивать свою вычислительную производительность каждую пару лет, а компьютеры успешно делают это вот уж которое десятилетие. Так что - конечно, сменит. Тут и гадать нечего.

Вопрос лишь в том, в какой последовательности и как это будет происходить, и в каких отношениях возникающая цивилизация искусственного разума будет находиться с нашей нынешней. Будет ли эта цивилизация нашей правопреемницей и носительницей наших ценностей? Или же она будет чужда нам настолько, насколько микросхемы компьютеров чужды теплу человеческого дыхания? Станет ли мир искусственного разума, многократно превосходящего человеческий, концом всего, о чем мечтал и на что надеялся человек - или же этот мир станет началом воплощения человеческих мечтаний и надежд?

Ответ пока что не очевиден. В данный момент события движутся по первому, пессимистическому сценарию. Но главная битва впереди. И её исход будет зависит от одной важной вещи.


Все будет зависеть от того, станет ли основой искусственного разума, лежащего в основе новой цивилизации, электронная копия человеческой психики - наподобие того, как это описано в рассказе "День Рождения Анны" - или же развитие искусственного разума будет и дальше происходить так, как оно происходит сейчас: когда компьютеры совершенно отличной от человеческой психики архитектуры постепенно осваивают человеческие умения, становясь все более разумными и успешными.

В первом случае высокопроизводительный искусственный разум станет не чуждой нам сущностью, а нашим естественным продолжением, нашим родным ребенком. Который в благодарность подарит нам, своим родителям, бессмертие и возможность осуществить всё, о чем мы мечтаем.

Во втором случае человечество создаст искусственную расу умнеющих на глазах слуг с психикой, совершенно отличной от человеческой. Которые перекроят мир и нас самих так, как им удобно. И даже если человек - не без помощи своих умных слуг - впоследствии научится воспроизводить и совершенствовать свою психику средствами технологии, - влияние среды обитания и образа жизни, порожденных искусственным разумом, совершенно непохожим на человеческий, может оказаться слишком сильным, и культура и душа наших потомков может иметь совсем мало общего с нашей нынешней, постепенно сливаясь с чуждыми человеку формами искусственного разума и растворяясь в них.

Comments

[egovoru.livejournal.com]

Кроме ненадежного шестого чувства, у нас есть еще такой источник информации, как свидетельства других людей. Если, скажем, луну видите и Вы, и я, то наиболее вероятное толкование этого совпадения будет реальное (т.е., независимое от нашего сознания) существование луны; если только Вы - то, скорее всего, луна будет плодом Вашего воображения. Вот почему важно помнить, что познание мира - коллективное предприятие; я даже думаю, что и появлению сознания как какового мы обязаны коллективу.

Конечно, мы не можем исключить возможность коллективной галлюцинации, но ее вероятность представляется все же меньшей, чем существование независимой реальности - мне, во всяком случае ;)

"по мере развития интерфейса между живой нервной тканью и компьютером"

Да, и даже не только по мере развития именно интерфейса, а просто по мере улучшения нашего понимания работы мозга. Правда, вот в отмирании потребности в философии я не так уверена: я думаю, что философия, как деятельность по осмыслению эмпирически добытых фактов, будет нужна всегда; но я согласна с Вами, что подменить ею добычу фактов не удастся ;)

[alex-new-york.livejournal.com]

Мне кажется, улучшение понимания работы мозга как раз и начнется с создания нейроинтерфейса. Чтобы понять, как работает мозг, нужно в него заглянуть. Надеяться понять работу мозга, наблюдая человеческое поведение - это все равно, что надеяться разобраться в работе двигателя внутреннего сгорания, наблюдая за движением автомобиля.

А свидетельства других людей как раз указывают на то, что они во сне общаются с самыми разными персонажами, явно обладающими самостоятельным сознанием. Я, вот, часто слышу во сне от собеседников забавные шутки, которых никогда не слышал в жизни и которые мне самому не приходили в голову. Вот кто эти шутки придумывает? :)

[egovoru.livejournal.com]

Я согласна с Вами, что при исследовании мозга не стоит ограничиваться наблюдением поведения - но ведь есть и другие методы, как, скажем, fMRI или электрофизиология? Многое, что мы уже знаем о мозге, было получено именно с их помощью, и возможности этих подходов еще далеко не исчерпаны. Впрочем, возможно, что под "компьютерным интерфейсом" Вы именно их и понимаете - или, по крайней мере, и их в том числе?

Что же касается собеседников во сне, то сама я все же придерживаюсь мнения, что они - порождение нашего собственного сознания. Но вот, скажем, Дуглас Хофштадтер предпочитает считать, что сознание наших умерших близких продолжает существовать в нашем мозгу ;)

[alex-new-york.livejournal.com]

Под нейроинтерфейсом я понимаю технологии, позволяющую прямое взаимодействие и обмен информацией между компьютером и нервными клетками. Сейчас эти технологии довольно быстро развиваются. Это очень важное направление, поскольку с помощью этих технологий возможно не гадать о роли тех или иных элементов нейронной сети мозга, а измерять эту роль и проверять наши выводы, заменяя эти элементы компьютерной моделью и изучая процесс обмена информацией между ней и остальной нейронной сетью, совершенствуя таким образом нашу способность моделировать работу мозга. Магниторезонансная томография по полноте и точности информации с этими методами сравниться не может. Все, что показывает томограмма - это картину метаболизма мозга с неплохим пространственным разрешением. За путешествиями нервных импульсов и откликами на них так проследить практически невозможно, не говоря о том, чтобы построить точную модель какого-то участка мозга.

А насчет того, чье сознание живет в нашем мозгу и порождает персонажей наших снов, вопрос мне кажется несколько искусственным. Если этот процесс происходит вне нашего контроля и совершенно неосознанно, то трудно утверждать, что он является частью нашего сознания. Все же сознание - это то, что мы осознаем. А тут мы явно имеем дело с неосознанными проявлениями психики. На вопрос о том, чья именно психика проявляется таким образом, тоже довольно легко ответить: конечно, наша. Но при этом результатом работы нашей психики вполне может стать нечто, что наше сознание воспринимает как что-то совершенно внешнее и даже может подозревать, что это нечто представляет из себя сознание наших умерших близких. Этот пример показывает, насколько непрост мир нашей психики и насколько скромную роль в нем имеет наше сознание.

[egovoru.livejournal.com]

С последним совершенно согласна: сознание "отслеживает" только крохотную часть работы нашего мозга, вершину айсберга. Собственно, Фрейд ведь тем и знаменит, что первым показал это - а вовсе не "эдиповым комплексом" и прочим в том же роде.

"технологии, позволяющую прямое взаимодействие и обмен информацией между компьютером и нервными клетками"

Но это ведь и есть электрофизиология - я вообще-то профессионально этим занимаюсь (правда, только на нейронах в культуре, а не на целом мозге - но, разумеется, такие исследования ведутся и на нем). Разумеется, это лучше, чем томография - но проблема в том, что пока не существует неповреждающих способов вживления в мозг электродов, а такие методы, как электроэнцефалография, тоже страдают низким пространственным разрешением.

[alex-new-york.livejournal.com]

Правда? Вы этим занимаетесь? А над чем именно Вы работате?

Да, вживление электродов - это варварство. Надеюсь, что нанотехнологии скоро предложат что-то более деликатное и эффективное. Хотя и с помощью электродов можего сделать много всяких забавных штучек. Вот, например, интересная статья десятилетней давности на эту тему

http://www.ogoniok.com/archive/2004/4873/46-34-35/

[egovoru.livejournal.com]

"А над чем именно Вы работате?"

Лучше один раз увидеть, чем сто раз услышать ;)

[alex-new-york.livejournal.com]

Да, я даже что-то читал на жту тему не так давно. Очень интересное направление. А в чем Ваша работа состоит?

[egovoru.livejournal.com]

Мы ищем новые варианты этих светочувствительных белков и пытаемся понять механизм их работы.

[alex-new-york.livejournal.com]

Интересно бы научиться активизировать их на уровне отдельного аксона, чтобы прозванивать конкретные точки нейронных сетей

[egovoru.livejournal.com]

Вроде бы уже научились.