О разуме и чувствах
Dec. 6th, 2016 08:36 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
alex_new_york
Искусственный интеллект развивается гораздо стремительнее, чем можно было ожидать еще пару лет назад. Став за эту пару лет многократно эффективнее, проще и дешевле, он уже делает многие "сугубо человеческие" вещи намного лучше, чем человек: читает слова по губам, ставит диагноз по рентгеновскому снимку и т д.
Нет сомнений, что вследствие этих впечатляющих успехов инвестиции в развитие искусственного интеллекта многократно увеличатся, и он превзойдет нас в большинстве видов деятельности не через 30-40 лет, как представлялось еще совсем недавно, а уже лет через 10-15.
Означает ли это, что к середине 2020-х годов появится синтетический эквивалент человеческой психики?
Не означает.
Прежде всего - потому, что у развиваемого сегодня искусственного интеллекта отсутствует то, что делает нас людьми.
У него отсутствуют чувства.
Мир наших чувств необъятен. Слушаем ли мы музыку, беседуем со знакомым, любуемся нарядами, гладим котенка или просто смотрим в окно, мы испытываем непрерывный поток чувств самого разного характера и степени сложности. Подобно ветру, дующему в паруса корабля и приводящему его в движение, наши чувства заставляют нас стремиться к множеству вещей или, наоборот, избегать их, заниматься множеством дел или, наоборот, уклоняться от них. Чувства могут быть простыми, как зубная боль или вкус сахара - или глубокими и сложными, как те, что просыпаются в нас при звуках любимой музыки или в общении с любимым человеком.
Человек, в отличие от искусственного интеллекта, - это не просто калькулятор, способный по команде извне быстро решать сложные интеллектуальные задачи, но прежде всего - личность, наделенная самостоятельными чувствами, побуждающими её к самостоятельным действиям.
Сегодняшний же искусственный интеллект - лишь бесстрастный логический инструмент в наших руках.
Вместе с тем, очевидно, что со временем начнет возникать все больше сфер деятельности, в которых необходимость согласования решений с человеческим пользователем будет основным фактором, сдерживающим эффективность искусственного интеллекта. По мере роста сложности и многоплановости решаемых искусственным интеллектом задач объективная потребность в наделении искусственного интеллекта качествами не пассивного инструмента нашей воли - но самостоятельной зрелой личности - будет все больше возрастать.
На сегодняшний день вообще непонятно, как к подступиться к моделированию человеческих чувств. Ведь их субъективное переживание глубоко уходит корнями в психофизиологию - дыхание, кровообращение, сердцебиение, терморегуляцию, двигательную активность, сокращения гладких мышц, сужение и расширение сосудов и капилляров, болевых ощущений. В отличие от чисто логических понятий, реализованных на уровне нейронных связей, в реализацию мира наших чувств активно вовлечены гормоны, являющиеся естественными психотропными веществами. Вдобавок, мы не можем наблюдать чьи-то чувства напрямую. Наблюдению доступны лишь внешние их проявления.
Всё, чему мы можем попытаться в подобной ситуации - это попробовать обучить компьютер имитации внешних проявлений чувств там, где это возможно (например, имитация эмоционально окрашенного речевого поведения). Но вполне очевидно, что подобная имитация будет к реальному миру человеческих чувств минимальное отношение.
Это означает, что развитие искусственного интеллекта как личности, а не только как бесстрастного орудия чужой воли, в ближайшие годы будет неизбежно идти по пути, абсолютно отличному от человеческого. И результатом этого развития будет искусственная психика, кардинально отличающаяся от нашей. Вероятнее всего, она будет значительно превосходить человеческую по эффективности - ведь она будет свободна от множества архаичных архитектурных особенностей, унаследованных нами от далеких предков, живших десятки и сотни миллионы лет назад. Но в силу этого же обстоятельства она будет в своей основе совершенно чужой. И большей части того, что составляет нашу культуру, в ней не найдется естественного места.
Если мы хотим избежать такого печального результата, нам необходимо начать всерьез задумываться над проблемами моделирования не только мира разума, но и мира чувств.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2016-12-08 07:31 pm (UTC)no subject
Date: 2016-12-08 07:48 pm (UTC)В двух словах трудно, хотя бы потому, что непонятно, до какой степени надо разжёвывать и на что опираться...
Но если совсем коротко, то здесь имеет место сложный, высокоорганизованный процесс, включающий абстрагирование и понимание причинно-следственных связей - что является прерогативой сознания, но никак не природным инстинктом.
no subject
Date: 2016-12-08 08:04 pm (UTC)no subject
Date: 2016-12-08 08:27 pm (UTC)И да, если вы склонны к философствованию (вроде того, что "разум - это инстинкт, который просто ещё не успел сформироваться", как у Стругацких), то в принципе вообще никакой разницы нет - и то, и другое есть естественное движение материи.
Но с информационной точки зрения разница велика. Повторю, что в данном случае важны: память, абстракция, анализ причинно-следственных связей. Осознанный анализ. Неосознанный не может закрепиться даже в качестве условного инстинкта (по причине отсутствия прямого действия, например).
Да, собственно говоря, вообще вид закатного неба не может предсказать погоду с достаточной точностью, так что, как ни крути, даже обучение этому действию проблематично, не говоря уже о закреплении в качестве врождённого инстинкта. ;)
no subject
Date: 2016-12-08 08:51 pm (UTC)no subject
Date: 2016-12-08 09:09 pm (UTC)no subject
Date: 2016-12-08 10:10 pm (UTC)no subject
Date: 2016-12-09 10:42 am (UTC)Инопланетян куда легче притянуть, чем доказать тут статистическую значимость.
Тем более, что предки человека в течение этих десятков и сотен тысяч лет отнюдь не вели кочевой образ жизни.
И да, что он вообще (без наличия сознания) мог сделать, "обратив внимание на вероятную непогоду"? ;)
no subject
Date: 2016-12-09 11:16 am (UTC)Да и не одну только погоду рассветы и закаты помогают предсказывать. Но и увидеть, например, дым пока еще далекого лесного пожара. Вовремя заметить который и понять, откуда он приближается - значит, спасти свою жизнь.
no subject
Date: 2016-12-09 11:46 am (UTC)Обратите, кстати, внимание, что всё время говорите о человеке как о разумном субъекте: "заметил дым и понял откуда приближается"? И сделайте уже выводы, как это "понял" соотносится с механизмом врождённых инстинктов!
no subject
Date: 2016-12-09 12:13 pm (UTC)"...Дольник не говорит об инстинктивном характере прогноза. Он лишь указывает на то, что наше внимание к закатам и рассветам инстинктивно по своей природе и призвано способствовать развитию соответствующей полезной специфической наблюдательности"
no subject
Date: 2016-12-09 12:28 pm (UTC)Хороший, кстати, маркёр в цитате: "призвано способствовать". Это сразу выдаёт ненаучную позицию автора, которая отчётливо попахивает религиозностью.
no subject
Date: 2016-12-09 12:49 pm (UTC)