О разуме и чувствах
Dec. 6th, 2016 08:36 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
alex_new_york
Искусственный интеллект развивается гораздо стремительнее, чем можно было ожидать еще пару лет назад. Став за эту пару лет многократно эффективнее, проще и дешевле, он уже делает многие "сугубо человеческие" вещи намного лучше, чем человек: читает слова по губам, ставит диагноз по рентгеновскому снимку и т д.
Нет сомнений, что вследствие этих впечатляющих успехов инвестиции в развитие искусственного интеллекта многократно увеличатся, и он превзойдет нас в большинстве видов деятельности не через 30-40 лет, как представлялось еще совсем недавно, а уже лет через 10-15.
Означает ли это, что к середине 2020-х годов появится синтетический эквивалент человеческой психики?
Не означает.
Прежде всего - потому, что у развиваемого сегодня искусственного интеллекта отсутствует то, что делает нас людьми.
У него отсутствуют чувства.
Мир наших чувств необъятен. Слушаем ли мы музыку, беседуем со знакомым, любуемся нарядами, гладим котенка или просто смотрим в окно, мы испытываем непрерывный поток чувств самого разного характера и степени сложности. Подобно ветру, дующему в паруса корабля и приводящему его в движение, наши чувства заставляют нас стремиться к множеству вещей или, наоборот, избегать их, заниматься множеством дел или, наоборот, уклоняться от них. Чувства могут быть простыми, как зубная боль или вкус сахара - или глубокими и сложными, как те, что просыпаются в нас при звуках любимой музыки или в общении с любимым человеком.
Человек, в отличие от искусственного интеллекта, - это не просто калькулятор, способный по команде извне быстро решать сложные интеллектуальные задачи, но прежде всего - личность, наделенная самостоятельными чувствами, побуждающими её к самостоятельным действиям.
Сегодняшний же искусственный интеллект - лишь бесстрастный логический инструмент в наших руках.
Вместе с тем, очевидно, что со временем начнет возникать все больше сфер деятельности, в которых необходимость согласования решений с человеческим пользователем будет основным фактором, сдерживающим эффективность искусственного интеллекта. По мере роста сложности и многоплановости решаемых искусственным интеллектом задач объективная потребность в наделении искусственного интеллекта качествами не пассивного инструмента нашей воли - но самостоятельной зрелой личности - будет все больше возрастать.
На сегодняшний день вообще непонятно, как к подступиться к моделированию человеческих чувств. Ведь их субъективное переживание глубоко уходит корнями в психофизиологию - дыхание, кровообращение, сердцебиение, терморегуляцию, двигательную активность, сокращения гладких мышц, сужение и расширение сосудов и капилляров, болевых ощущений. В отличие от чисто логических понятий, реализованных на уровне нейронных связей, в реализацию мира наших чувств активно вовлечены гормоны, являющиеся естественными психотропными веществами. Вдобавок, мы не можем наблюдать чьи-то чувства напрямую. Наблюдению доступны лишь внешние их проявления.
Всё, чему мы можем попытаться в подобной ситуации - это попробовать обучить компьютер имитации внешних проявлений чувств там, где это возможно (например, имитация эмоционально окрашенного речевого поведения). Но вполне очевидно, что подобная имитация будет к реальному миру человеческих чувств минимальное отношение.
Это означает, что развитие искусственного интеллекта как личности, а не только как бесстрастного орудия чужой воли, в ближайшие годы будет неизбежно идти по пути, абсолютно отличному от человеческого. И результатом этого развития будет искусственная психика, кардинально отличающаяся от нашей. Вероятнее всего, она будет значительно превосходить человеческую по эффективности - ведь она будет свободна от множества архаичных архитектурных особенностей, унаследованных нами от далеких предков, живших десятки и сотни миллионы лет назад. Но в силу этого же обстоятельства она будет в своей основе совершенно чужой. И большей части того, что составляет нашу культуру, в ней не найдется естественного места.
Если мы хотим избежать такого печального результата, нам необходимо начать всерьез задумываться над проблемами моделирования не только мира разума, но и мира чувств.
no subject
Date: 2016-12-07 05:32 am (UTC)Механизм этот весьма прост (не зря привёл фотоаппарат в качестве аналогии). Но для успешной его работы требуется длительное обучение. И человек учится несколько лет - от узнавания образа мамы до всех окружающих предметов. К моменту "проявления чувств" он должен иметь достаточный опыт, чтобы узнавать розу, небо, знать принятые в обществе стандарты красоты и т.д. и т.п. Если ему никто никогда не говорил, что "роза - это красиво" (а до этого - что "красиво - это приятно"), то в этом предмете он будет видеть бесполезную колючку (или, например, еду - если в его обществе розу едят). И никаких "чувств", естественно, не возникнет. Потому что нейросеть не обучена выдавать такой результат.
no subject
Date: 2016-12-07 10:36 am (UTC)no subject
Date: 2016-12-07 10:55 am (UTC)Но не надо валить в одну кучу разные процессы.
Простые цепочки ощущений ("приятно или нет") реализованы, можно сказать, на аппаратном уровне. Но без обучения и тут не обошлось. Только для него потребовались миллионы лет. И теперь сама конструкция организма обучилась реагировать на то, что может быть едой или, наоборот, ядом. То же касается запахов и связанного с ними полового влечения.
Но вот уже на запах розы специфической реакции нет. Запах цветов не на человека рассчитан, а на насекомых-опылителей. И есть множество цветов, запах которых человек найдёт отталкивающим, несмотря на красоту самого цветка.
А такие понятия, как "красота заката", вообще существуют только в сознании человека и воспитываются только в обществе. Что, естественно, требует обучения.
no subject
Date: 2016-12-07 11:34 am (UTC)no subject
Date: 2016-12-07 11:38 am (UTC)И опять путаница инстинктивного с разумным познанием окружающего мира.
no subject
Date: 2016-12-07 11:53 am (UTC)no subject
Date: 2016-12-07 12:31 pm (UTC)Потому как "любование закатом" (тем более с целью предсказания погоды) существенно выходит за рамки и возможности генетически обусловленного инстинкта.
no subject
Date: 2016-12-07 11:41 pm (UTC)no subject
Date: 2016-12-08 06:45 pm (UTC)Известный этолог, д-р биол. наук Евгений Панов считает, что В. Р. Дольник вообще не обладает должной компетентностью в сфере поведения человека.
«Итог размышлений Дольника в этой области – создание мифа, не имеющего ничего общего с серьезным взглядом на сущность социального поведения человека.
Е. Н. Панов, Мифология в этологии»
Историк науки, канд. биол. наук Алексей Куприянов называет книгу В. Р. Дольника вредной[6].
«Я считаю, что книга В.Р. Дольника «Непослушное дитя биосферы», безусловно, вредная, её дальнейшее бездумное тиражирование и популяризация наносят прямой ущерб как самой науке, так и тому, что называют public understanding of science, а то, что она оказалась в коротком листе премии «Просветитель», не говорит ничего хорошего о состоянии российской научно-популярной литературы.
А. Куприянов»
Очень критически о книге отзывается канд. психол. наук Александр Невеев[7].
«В общем, случай Дольника – это какая-то осложненная форма биологизаторства, биологического редукционизма. Дольник не только объявляет осмысленное, целенаправленное, культурно-обусловленное поведение инстинктивным, он объявляет плодами инстинкта и культурные объекты.
А. Невеев»
no subject
Date: 2016-12-08 06:57 pm (UTC)no subject
Date: 2016-12-08 07:14 pm (UTC)И, кстати, вполне естественно, что книга увидела свет в 90-е, когда до науки уже никому не было дела...
no subject
Date: 2016-12-08 07:31 pm (UTC)no subject
Date: 2016-12-08 07:48 pm (UTC)В двух словах трудно, хотя бы потому, что непонятно, до какой степени надо разжёвывать и на что опираться...
Но если совсем коротко, то здесь имеет место сложный, высокоорганизованный процесс, включающий абстрагирование и понимание причинно-следственных связей - что является прерогативой сознания, но никак не природным инстинктом.
no subject
Date: 2016-12-08 08:04 pm (UTC)no subject
Date: 2016-12-08 08:27 pm (UTC)И да, если вы склонны к философствованию (вроде того, что "разум - это инстинкт, который просто ещё не успел сформироваться", как у Стругацких), то в принципе вообще никакой разницы нет - и то, и другое есть естественное движение материи.
Но с информационной точки зрения разница велика. Повторю, что в данном случае важны: память, абстракция, анализ причинно-следственных связей. Осознанный анализ. Неосознанный не может закрепиться даже в качестве условного инстинкта (по причине отсутствия прямого действия, например).
Да, собственно говоря, вообще вид закатного неба не может предсказать погоду с достаточной точностью, так что, как ни крути, даже обучение этому действию проблематично, не говоря уже о закреплении в качестве врождённого инстинкта. ;)
no subject
Date: 2016-12-08 08:51 pm (UTC)no subject
Date: 2016-12-08 09:09 pm (UTC)no subject
Date: 2016-12-08 10:10 pm (UTC)no subject
Date: 2016-12-09 10:42 am (UTC)Инопланетян куда легче притянуть, чем доказать тут статистическую значимость.
Тем более, что предки человека в течение этих десятков и сотен тысяч лет отнюдь не вели кочевой образ жизни.
И да, что он вообще (без наличия сознания) мог сделать, "обратив внимание на вероятную непогоду"? ;)
no subject
Date: 2016-12-09 11:16 am (UTC)Да и не одну только погоду рассветы и закаты помогают предсказывать. Но и увидеть, например, дым пока еще далекого лесного пожара. Вовремя заметить который и понять, откуда он приближается - значит, спасти свою жизнь.
no subject
Date: 2016-12-09 11:46 am (UTC)Обратите, кстати, внимание, что всё время говорите о человеке как о разумном субъекте: "заметил дым и понял откуда приближается"? И сделайте уже выводы, как это "понял" соотносится с механизмом врождённых инстинктов!
no subject
Date: 2016-12-09 12:13 pm (UTC)"...Дольник не говорит об инстинктивном характере прогноза. Он лишь указывает на то, что наше внимание к закатам и рассветам инстинктивно по своей природе и призвано способствовать развитию соответствующей полезной специфической наблюдательности"
no subject
Date: 2016-12-09 12:28 pm (UTC)Хороший, кстати, маркёр в цитате: "призвано способствовать". Это сразу выдаёт ненаучную позицию автора, которая отчётливо попахивает религиозностью.
no subject
Date: 2016-12-09 12:49 pm (UTC)