Мир Мура, или Планета компьютеров

[alex_new_york]

Закон Мура, изображенный на картинке из статьи с сайта мирового трансгуманистического сообщества, описывает эволюцию компьютеров. Еще совсем недавно интеллект компьютера не мог сравниться даже с интеллектом мухи. А нынешние компьютеры уже неплохо распознают человеческую речь, легко обыгрывают нас в шахматы, могут отыскать лицо нужного человека в толпе, способны самостоятельно вести машину по оживленным улицам. Учитывая, что по объему перерабатываемой в единицу времени информации современные компьютеры едва сравнимы с мозгом мыши, следует признать, что свой небольшой искусственный разум они используют весьма эффективно.

Вглядитесь в картинку. Пройдет всего пара десятилетий - и вычислительная производительность среднего компьютера сравнится с мозгом человека. Учитывая, на что компьютеры способны уже сейчас, можно только догадываться, каких способностей они достигнут при этом.

А главное - производительность компьютеров будет стремительно расти и дальше. Уже в начале второй половины нынешнего столетия вычислительная производительность одного-единственного обычного среднего компьютера по прогнозам должна превзойти суммарную вычислительную производительность разума всех живущих на Земле людей.

У нашего человеческого мозга на глазах появляется могучий, стремительно развивающийся конкурент. И вопрос о начале доминирования электронного разума над человеческим является вопросом времени.

Увы, вопрос не стоит о том, сменит ли цивилизация искусственного разума нашу, человеческую. Человеческий разум не в состоянии удваивать свою вычислительную производительность каждую пару лет, а компьютеры успешно делают это вот уж которое десятилетие. Так что - конечно, сменит. Тут и гадать нечего.

Вопрос лишь в том, в какой последовательности и как это будет происходить, и в каких отношениях возникающая цивилизация искусственного разума будет находиться с нашей нынешней. Будет ли эта цивилизация нашей правопреемницей и носительницей наших ценностей? Или же она будет чужда нам настолько, насколько микросхемы компьютеров чужды теплу человеческого дыхания? Станет ли мир искусственного разума, многократно превосходящего человеческий, концом всего, о чем мечтал и на что надеялся человек - или же этот мир станет началом воплощения человеческих мечтаний и надежд?

Ответ пока что не очевиден. В данный момент события движутся по первому, пессимистическому сценарию. Но главная битва впереди. И её исход будет зависит от одной важной вещи.


Все будет зависеть от того, станет ли основой искусственного разума, лежащего в основе новой цивилизации, электронная копия человеческой психики - наподобие того, как это описано в рассказе "День Рождения Анны" - или же развитие искусственного разума будет и дальше происходить так, как оно происходит сейчас: когда компьютеры совершенно отличной от человеческой психики архитектуры постепенно осваивают человеческие умения, становясь все более разумными и успешными.

В первом случае высокопроизводительный искусственный разум станет не чуждой нам сущностью, а нашим естественным продолжением, нашим родным ребенком. Который в благодарность подарит нам, своим родителям, бессмертие и возможность осуществить всё, о чем мы мечтаем.

Во втором случае человечество создаст искусственную расу умнеющих на глазах слуг с психикой, совершенно отличной от человеческой. Которые перекроят мир и нас самих так, как им удобно. И даже если человек - не без помощи своих умных слуг - впоследствии научится воспроизводить и совершенствовать свою психику средствами технологии, - влияние среды обитания и образа жизни, порожденных искусственным разумом, совершенно непохожим на человеческий, может оказаться слишком сильным, и культура и душа наших потомков может иметь совсем мало общего с нашей нынешней, постепенно сливаясь с чуждыми человеку формами искусственного разума и растворяясь в них.

Comments

[dom3d.livejournal.com]

Спасибо за интерсную статью.
НО!

Вы пишете -Человеческий разум не в состоянии удваивать свою вычислительную производительность каждую пару лет.

Как это не в состоянии?

Я удивляюсь, программист ли Вы?
Человеческий разум использует всю мощь компьютера.
И это удесятеряет его возможности.
---------
Похоже Вы не видите разницу между живой материей и мертвой.
Также Вы не видите разницы между человеком и животным.

[egovoru.livejournal.com]

Конечно, это - может быть, самая волнующая тема современности. Меня он тоже занимает, но я бы поостереглась здесь что-то прогнозировать: ведь в прошлом немало подобных линейных аппроксимаций натыкались на совершенно неожиданные припятствия.

Принципиальный вопрос, мне кажется, здесь такой: окажется ли этот машинный мозг, который мы усиленно наращиваем, способным породить сознание, как это произошло с мозгом биологическим? Если нет, то опасаться "восстания роботов" не приходится: бессознательные компьютеры любой мощности все равно останутся просто арифмометрами (чем они являются сейчас).

Насчет переселения нашей души в силикон тоже непонятно - индивидуальное сознание может оказаться не просто алгоритмом, осуществляемым в любом носителе, но чем-то, жестко привязанным к своей биологической "подложке". Пока что мы просто слишком мало об этом знаем.

[alex-new-york.livejournal.com]

Пока что человек гораздо умнее компьютера. В диалоге с человеком компьютер пока что является гораздо более непонятливым собеседником, и человеку приходится терпеливо его учить самым простым вещам. Но все скоро изменится, и из двигателя прогресса человек превратится в его тормоз, если не примет мер по апгрейду своей психики.

А насчет живой и неживой материи... Людям уже вживляют электронные импланты слуховых нервов и другие искусственные органы. Вот представьте, что вам один за другим потихоньку заменили все ваши белковые нейроны на электронные, идентичные по своим функциям. Вы ведь не ощутите никакой разницы, хотя незаметно для себя из живого существа станете не вполне живым. И я, общаясь с Вами, никаких перемен в Вас не почувствую.

[dom3d.livejournal.com]

Компьютер - это железяка с программами.
Программы решают задачи, которые ему ставит человек.

Программист может быть тормозом, если он делает плохие программы и это бесят пользователей.

Не понимаю, каким образом человек может быть тормозом для компьютера.

[alex-new-york.livejournal.com]

Пока что компьютеры слишком примитивны, чтобы самим себе ставить задачи и самим себе создавать программное обеспечение. Хотя первые маленькие шаги в этом направлении уже делаются. Современная коллективная среда разработки программного обеспечения способна к значительной степени самоконтроля, автоматической генерации несложных однотипных кусков программ, автоматическому исправлению простых ошибок и т д. Я уж не говорю о том, что всю низкоруровневую работу генерации машинного кода берет на себя компьютер.

По мере развития искусственного интеллекта компьютеры будут брать на себя все более высокоуровневое программирование, постепенно приобретая способность ставить перед собой все более сложные и творческие задачи. И когда искусственный разум станет способен осознавать более сложные вещи и ставить более сложные задачи, чем человек, человек станет не двигателем, а тормозом прогресса.

Предсказание будущего

[livejournal.livejournal.com]

User dom3d referenced to your post from Предсказание будущего (http://dom3d.livejournal.com/529164.html) saying: [...] люди уже используют возможности сверхРазума. Вижу в ленте запись Мир Мура, или Планета компьютеров [...]

[alex-new-york.livejournal.com]

Если понимать под сознанием нечто похожее своей архитектурой и поведением на человеческую психику, то ни во что похожее искусственный разум нашими усилиями в ближайшее время, скорее всего, не разовьется - уже потому, что мы имеем весьма туманное представление о том, как наша психика функционирует, а значит, не можем построить ее модель. Если же понимать под сознанием способность к сложному и совершенному целенаправленному поведению, то компьютеры уже сейчас такую способность демонстрируют. Я могу нажать на кнопку и сказать своей машине по-английски, чтобы она сделала радио потише или поискала объезд - и ее компьютер меня поймет и отреагирует правильно. По мере развития искусственного разума круг вопросов, которые мы сможем обсуждать с компьютерами, будет становиться все богаче и сложнее. Но пока мы не научимся копировать и понимать собственную психику, архитектура искусственного разума будет абсолютно не похожей на человеческую.

Можно ли создать искусственное сознание, скопировав логику отклика нейронов мозга на приходящие к ним нервные импульсы? На мой взгляд, безусловно можно, хотя тут важно понимать, что существуют разные уровни процессов, влияющих на нервную деятельность. Самый быстрый - электрохимический - просканировать и воспроизвести проще всего. Но скопированное таким образом сознание не будет отражать гормональную динамику, отвечающую за смену психических состояний и настроения. Не затронутыми останутся и следующие, еще более медленные уровни: формирование новых нейронных связей и новых нейронов, возрастная динамика, связанная с исполнением генетической программы, не говоря уже о мутационных модификациях генетической программы. Так что чем более полно мы захотим воспроизвести человеческую психику, тем больше явлений нам придется моделировать.

[dom3d.livejournal.com]

Я знаком с автоматической генерацией несложных однотипных кусков программ.
Даже как то писал, что занимаюсь автоматизацией труда инженера, а кто то занимается автоматизацией труда программиста.

Пока что до творчества компьютерных программ далеко.
Гораздо больше опасности для человечества представляют собой ошибки программистов. Нужно их блокировать многократно.

[dafna-mur.livejournal.com]

Я ещё не прочитала Ваш пост - не успела. Но спешу заметить, что действие фильма "Назад в будушее" происходит в 2015 году! А воз и ныне там...?

[alex-new-york.livejournal.com]

Зато если Вы сравните кривую Мура с хронологией "Дня Рождения Анны", Вы увидите, что в рассказе я не тороплю события, а скорее наоборот.

На самом деле, перенос человеческой психики на небиологический носитель помимо развития чисто компьютерных технологий требует еще и технологии, позволяющей сканирование всех нейронов мозга и передачи информации об их характеристиках в компьютерную память. И если в вопросе о динамике роста производительности компььютеров мы можем опереться хотя бы на кривую Мура, то о времени создания технологии сканирования нейронов мы можем только гадать.

[yury-nesterenko.livejournal.com]

"Станет ли мир искусственного разума, многократно превосходящего человеческий, концом всего, о чем мечтал и на что надеялся человек - или же этот мир станет началом воплощения человеческих мечтаний и надежд?

Ответ пока что не очевиден. В данный момент события движутся по второму, пессимистическому сценарию. "

Вы считаете второй сценарий пессимистическим? ;)

[alex-new-york.livejournal.com]

Конечно. Что же хорошего? Последнее столетие вообще стало столетием техники и технологий, вытесняющих из жизни все человеческое. Наши формировавшиеся тысячелетиями инстинкты зовут нас к огню очага, шелесту листвы, пению птиц, журчанию реки, ветвям плодоносящего сада, дыханию домашних животных. А вместо этого в последнее столетие человека окружает бензиновая вонь грохочущего города, толчея автобусов и метро, автомобильные пробки, вечная офисная гиподинамия и зомбоящик телевизора дома. А теперь в дополнение к этому человеку все в большей степени приходится общаться с компьютерами, привыкая к их странному для нормального человеческого существа характеру. Если ситуация и дальше будет развиваться в том же направлении, технологии совершенно свихнут человечеству мозги и превратят его в придаток к лишенному эмоций и интуиции компьютерному интеллекту.

Но история человечества пойдет совсем в другом направлении, если человечество сможет вдохнуть в компьютерное железо живую человеческую душу, сделать интеллектуальные машины живыми, эмоциональными, сопереживающими существами и развернуть технический прогресс лицом к человеку. Сделав человека и его душу центром цивилизации, а не невротическим придатком к машинам, постоянно вынужденным приспосабливающимся к специфике приобретающей все большую власть над миром и людьми неантропоморфной машинной психики.

[yury-nesterenko.livejournal.com]

Вас не возьмут в киборги - вы совершенно не следите за логикой. Перечитайте мой коммент - а точнее, свою собственную цитату - ЕЩЕ РАЗ.

[alex-new-york.livejournal.com]

А, да, действительно, опечатка. Это первый сценарий пессимистический, а второй - хороший. Приятно, что кто-то внимательно читает мои опусы :)

[dafna-mur.livejournal.com]

Но вычислительная способность компьютера удваивается, исключительно, благодаря возможностям человеческого мозга некоторых особей. Остальные под действием компьютерного бума успешно тупеют. Мне кажется, этот процесс строго регулируем и компьютер всегда будет только слугой. Вот мой "тупица" соображает быстрее меня, но стоит задать ему ошибочное указание и он "садится в лужу". Это примитивный пример, но вечный, как закон Ома.
Перенос человеческой психики на небиологический носитель вещь бесполезная, так это всего лишь усложненный калькулятор. И одна и та же копия в разных биологических оболочках будет функционировать по разному.

[egovoru.livejournal.com]

"Если понимать под сознанием нечто похожее своей архитектурой и поведением на человеческую психику"

Я думаю, что у нас просто нет другого выхода, потому что ведь человеческое сознание - это единственное, что у нас есть "под рукой" ;) (Справедливости ради надо сказать, что далеко не все согласны, что сознание - это чисто человеческое свойство: некоторые думают, что сознанием обладают даже и атомы. Насколько я понимаю, привлекательность таких абсурдных на первый взгляд воззрений в том, что они помогают закрыть непреодолимый в противном случае "разрыв" между материей и духом).

"Самый быстрый - электрохимический - просканировать и воспроизвести проще всего".

В том-то и дело, что работа одного синапса - это еще далеко не сознание (хотя и ее нам пока что не удается воспроизвести на другом носителе, потому что транзистор - это еще далеко не синапс!). Даже 100,000 нейронов в мозгу мухи еще, судя по всему, недостаточно, чтобы породить сознание; и даже 70 млн. в мозгу мыши. И, конечно, не только число нейронов играет роль - как известно, даже девять беременных женщин не родят ребенка через месяц.

Я согласна с Вами, что даже нынешние компьютеры уже иногда ведут себя весьма своевольно (скажем, когда сами устанавливают какие-то апгрейды, которые рушат к чертовом бабушке все до того работавшие настройки ;) но все-таки такое ощущение - это наша иллюзия; мы ведь, как известно, склонны видеть проявление сознания и в громе небесном ;)

[alex-new-york.livejournal.com]

Давайте, я Вас развлеку примером из жизни. Вот, представьте, что Вы разговариваете с человеком. Спорите с ним о чем-то, о чем-то шутите, о чем-то вместе размышляете. Он то удивляет Вас точными и глубокими наблюдениями, то вызывает у Вас сопереживание, то задевает Вас колкостями в Ваш адрес. А потом звонит будильник, и Вы осознаете, что видели сон, и на самом деле никакой беседы в реальности не было. Вот как Вы полагаете, обладал ли приснившийся Вам собеседник собственной психикой? (Я не употребляю термин "сознание", поскольку сознание - гораздо более узкое понятие) И если обладал, то что было материальным носителем этой психики? А если он не обладал самостоятельной психикой, то означает ли это, что Вы способны воспринимать Вашу собственную психику как что-то настолько внешнее по отношению к Вам самой? И еще: можно ли, наблюдая чье-то поведение, сделвть вывод о том, что этот кто-то (или что-то) обладает человеческой психикой или человеческим сознанием?

[egovoru.livejournal.com]

Что касается созданий нашего воображения - включая сны - то, мне думается, не стоит наделять их собственной психикой ;) Хотя иные из этих созданий и кажутся нам "живее всех живых", каким-то шестым чувством мы все-таки понимаем, что они - только фантомы (если, конечно, мы находимся в здравом уме - собственно, это и есть критерий нахождения в здравом уме ;)

А вот вопрос о том, "можно ли, наблюдая чье-то поведение, сделать вывод о том, что этот кто-то (или что-то) обладает человеческой психикой или человеческим сознанием" кажется мне чуть ли не единственно содержательным во всей философии сознания ;)

[alex-new-york.livejournal.com]

Ну, если шестое чувство - это единственное, что удерживает нас от признания за персонажами наших сновидений самостоятельной психики, - то мы не можем похвастаться большой ясностью в данном вопросе :)

Думаю что по мере развития интерфеса между живой нервной тканью и компьютером, люди начнут смотреть на эти вопросы менее отвлеченно и более практически. Психика перестанет быть чем-то загадочным и станет практическим объектом, вроде ДНК, работа с которым будет требовать специальных знаний и технологий. Люди все меньше будут задаваться философскими вопросами и все больше фокусироваться на вопросах технических.

[egovoru.livejournal.com]

Кроме ненадежного шестого чувства, у нас есть еще такой источник информации, как свидетельства других людей. Если, скажем, луну видите и Вы, и я, то наиболее вероятное толкование этого совпадения будет реальное (т.е., независимое от нашего сознания) существование луны; если только Вы - то, скорее всего, луна будет плодом Вашего воображения. Вот почему важно помнить, что познание мира - коллективное предприятие; я даже думаю, что и появлению сознания как какового мы обязаны коллективу.

Конечно, мы не можем исключить возможность коллективной галлюцинации, но ее вероятность представляется все же меньшей, чем существование независимой реальности - мне, во всяком случае ;)

"по мере развития интерфейса между живой нервной тканью и компьютером"

Да, и даже не только по мере развития именно интерфейса, а просто по мере улучшения нашего понимания работы мозга. Правда, вот в отмирании потребности в философии я не так уверена: я думаю, что философия, как деятельность по осмыслению эмпирически добытых фактов, будет нужна всегда; но я согласна с Вами, что подменить ею добычу фактов не удастся ;)

[alex-new-york.livejournal.com]

Мне кажется, улучшение понимания работы мозга как раз и начнется с создания нейроинтерфейса. Чтобы понять, как работает мозг, нужно в него заглянуть. Надеяться понять работу мозга, наблюдая человеческое поведение - это все равно, что надеяться разобраться в работе двигателя внутреннего сгорания, наблюдая за движением автомобиля.

А свидетельства других людей как раз указывают на то, что они во сне общаются с самыми разными персонажами, явно обладающими самостоятельным сознанием. Я, вот, часто слышу во сне от собеседников забавные шутки, которых никогда не слышал в жизни и которые мне самому не приходили в голову. Вот кто эти шутки придумывает? :)

[egovoru.livejournal.com]

Я согласна с Вами, что при исследовании мозга не стоит ограничиваться наблюдением поведения - но ведь есть и другие методы, как, скажем, fMRI или электрофизиология? Многое, что мы уже знаем о мозге, было получено именно с их помощью, и возможности этих подходов еще далеко не исчерпаны. Впрочем, возможно, что под "компьютерным интерфейсом" Вы именно их и понимаете - или, по крайней мере, и их в том числе?

Что же касается собеседников во сне, то сама я все же придерживаюсь мнения, что они - порождение нашего собственного сознания. Но вот, скажем, Дуглас Хофштадтер предпочитает считать, что сознание наших умерших близких продолжает существовать в нашем мозгу ;)

[alex-new-york.livejournal.com]

Под нейроинтерфейсом я понимаю технологии, позволяющую прямое взаимодействие и обмен информацией между компьютером и нервными клетками. Сейчас эти технологии довольно быстро развиваются. Это очень важное направление, поскольку с помощью этих технологий возможно не гадать о роли тех или иных элементов нейронной сети мозга, а измерять эту роль и проверять наши выводы, заменяя эти элементы компьютерной моделью и изучая процесс обмена информацией между ней и остальной нейронной сетью, совершенствуя таким образом нашу способность моделировать работу мозга. Магниторезонансная томография по полноте и точности информации с этими методами сравниться не может. Все, что показывает томограмма - это картину метаболизма мозга с неплохим пространственным разрешением. За путешествиями нервных импульсов и откликами на них так проследить практически невозможно, не говоря о том, чтобы построить точную модель какого-то участка мозга.

А насчет того, чье сознание живет в нашем мозгу и порождает персонажей наших снов, вопрос мне кажется несколько искусственным. Если этот процесс происходит вне нашего контроля и совершенно неосознанно, то трудно утверждать, что он является частью нашего сознания. Все же сознание - это то, что мы осознаем. А тут мы явно имеем дело с неосознанными проявлениями психики. На вопрос о том, чья именно психика проявляется таким образом, тоже довольно легко ответить: конечно, наша. Но при этом результатом работы нашей психики вполне может стать нечто, что наше сознание воспринимает как что-то совершенно внешнее и даже может подозревать, что это нечто представляет из себя сознание наших умерших близких. Этот пример показывает, насколько непрост мир нашей психики и насколько скромную роль в нем имеет наше сознание.

[egovoru.livejournal.com]

С последним совершенно согласна: сознание "отслеживает" только крохотную часть работы нашего мозга, вершину айсберга. Собственно, Фрейд ведь тем и знаменит, что первым показал это - а вовсе не "эдиповым комплексом" и прочим в том же роде.

"технологии, позволяющую прямое взаимодействие и обмен информацией между компьютером и нервными клетками"

Но это ведь и есть электрофизиология - я вообще-то профессионально этим занимаюсь (правда, только на нейронах в культуре, а не на целом мозге - но, разумеется, такие исследования ведутся и на нем). Разумеется, это лучше, чем томография - но проблема в том, что пока не существует неповреждающих способов вживления в мозг электродов, а такие методы, как электроэнцефалография, тоже страдают низким пространственным разрешением.

[alex-new-york.livejournal.com]

Правда? Вы этим занимаетесь? А над чем именно Вы работате?

Да, вживление электродов - это варварство. Надеюсь, что нанотехнологии скоро предложат что-то более деликатное и эффективное. Хотя и с помощью электродов можего сделать много всяких забавных штучек. Вот, например, интересная статья десятилетней давности на эту тему

http://www.ogoniok.com/archive/2004/4873/46-34-35/