О разуме и чувствах

[alex_new_york]

Искусственный интеллект развивается гораздо стремительнее, чем можно было ожидать еще пару лет назад. Став за эту пару лет многократно эффективнее, проще и дешевле, он уже делает многие "сугубо человеческие" вещи намного лучше, чем человек: читает слова по губам, ставит диагноз по рентгеновскому снимку и т д.

Нет сомнений, что вследствие этих впечатляющих успехов инвестиции в развитие искусственного интеллекта многократно увеличатся, и он превзойдет нас в большинстве видов деятельности не через 30-40 лет, как представлялось еще совсем недавно, а уже лет через 10-15.

Означает ли это, что к середине 2020-х годов появится синтетический эквивалент человеческой психики?



Не означает.

Прежде всего - потому, что у развиваемого сегодня искусственного интеллекта отсутствует то, что делает нас людьми.

У него отсутствуют чувства.

Мир наших чувств необъятен. Слушаем ли мы музыку, беседуем со знакомым, любуемся нарядами, гладим котенка или просто смотрим в окно, мы испытываем непрерывный поток чувств самого разного характера и степени сложности. Подобно ветру, дующему в паруса корабля и приводящему его в движение, наши чувства заставляют нас стремиться к множеству вещей или, наоборот, избегать их, заниматься множеством дел или, наоборот, уклоняться от них. Чувства могут быть простыми, как зубная боль или вкус сахара - или глубокими и сложными, как те, что просыпаются в нас при звуках любимой музыки или в общении с любимым человеком.

Человек, в отличие от искусственного интеллекта, - это не просто калькулятор, способный по команде извне быстро решать сложные интеллектуальные задачи, но прежде всего - личность, наделенная самостоятельными чувствами, побуждающими её к самостоятельным действиям.

Сегодняшний же искусственный интеллект - лишь бесстрастный логический инструмент в наших руках.

Вместе с тем, очевидно, что со временем начнет возникать все больше сфер деятельности, в которых необходимость согласования решений с человеческим пользователем будет основным фактором, сдерживающим эффективность искусственного интеллекта. По мере роста сложности и многоплановости решаемых искусственным интеллектом задач объективная потребность в наделении искусственного интеллекта качествами не пассивного инструмента нашей воли - но самостоятельной зрелой личности - будет все больше возрастать.

На сегодняшний день вообще непонятно, как к подступиться к моделированию человеческих чувств. Ведь их субъективное переживание глубоко уходит корнями в психофизиологию - дыхание, кровообращение, сердцебиение, терморегуляцию, двигательную активность, сокращения гладких мышц, сужение и расширение сосудов и капилляров, болевых ощущений. В отличие от чисто логических понятий, реализованных на уровне нейронных связей, в реализацию мира наших чувств активно вовлечены гормоны, являющиеся естественными психотропными веществами. Вдобавок, мы не можем наблюдать чьи-то чувства напрямую. Наблюдению доступны лишь внешние их проявления.

Всё, чему мы можем попытаться в подобной ситуации - это попробовать обучить компьютер имитации внешних проявлений чувств там, где это возможно (например, имитация эмоционально окрашенного речевого поведения). Но вполне очевидно, что подобная имитация будет к реальному миру человеческих чувств минимальное отношение.

Это означает, что развитие искусственного интеллекта как личности, а не только как бесстрастного орудия чужой воли, в ближайшие годы будет неизбежно идти по пути, абсолютно отличному от человеческого. И результатом этого развития будет искусственная психика, кардинально отличающаяся от нашей. Вероятнее всего, она будет значительно превосходить человеческую по эффективности - ведь она будет свободна от множества архаичных архитектурных особенностей, унаследованных нами от далеких предков, живших десятки и сотни миллионы лет назад. Но в силу этого же обстоятельства она будет в своей основе совершенно чужой. И большей части того, что составляет нашу культуру, в ней не найдется естественного места.

Если мы хотим избежать такого печального результата, нам необходимо начать всерьез задумываться над проблемами моделирования не только мира разума, но и мира чувств.

Comments

[alex-new-york.livejournal.com]

А как бы Вы попытались моделировать ту гамму чувств, которая пробуждается в нас, когда мы вдыхаем запах розы в утреннем саду или любуемся красками заката?

[iv-an-ru.livejournal.com]

А никак. Пусть нейросеть обучится, испытывая последствия тех или иных событий, тогде сочетание раздражителей, каждяй из которых уже встречался при обучении, даст какой-то результат. Какой --- будет зависеть от параметров сети и от истории обучения. Вполне возможно, что краски заката будут вызывать у модели только "сонливость", потому что всю неделю перед этим ней проверяли запах розы с четырёх до восьми утра, а потом спать не давали :)

[alex-new-york.livejournal.com]

Последствия той или иной эмоциональной реакции на многие вещи начинают проступать лишь на эволюционных масштабах времени в несколько десятков поколений. Поэтому эти реакции закрепляются не на уровне нейронных связей, а на генно-эндокринном уровне.

[iv-an-ru.livejournal.com]

Разумеется. К счастью, у нас под рукой большой корпус текстов, которые люди написали о людях, и в них описывали, среди прочего, эмоциональные реакции на события и действия. Если б мы должны были обучить систему эмоциям носорога, который плохо описан в человечьей литературе и тем более не имеет собственной письменности, то работёнка была бы потруднее.

[alex-new-york.livejournal.com]

Если человек от рождения лишен половых гормонов, то он может прочесть всё, что написано человечеством о любви между мужчиной и женщиной, и так толком и не поймет, что же это за чувство. А компьютер этих гормонов как раз лишен.

[iv-an-ru.livejournal.com]

Если этого человека привязать к стулу, читать ему о любви и не только, и в нужные любовные моменты вводить расчётные дозы допамина, серотонина и т.п., то он всё замечательно поймёт. Не факт, что ему понравится процесс, но поймёт.

Тренировка сети по корпусу будет больше похожа на вот этот вариант, со стулом и шприцем --- контролируемая извне загрузка стимулов и сопутствующая загрузка ожидаемых ("правильных") реакций.

[alex-new-york.livejournal.com]

Компьютер можно привязать к стулу, но совершенно непонятно, как ему объяснить, что такое страстное влечение противоположных полов друг к другу. Трудно даже объяснить, что такое боль или, скажем, чем соленое с точки зрения нашего мироощущения отличается от сладкого.

[iv-an-ru.livejournal.com]

Ну и не объясняйте. Достаточно будет, если комп будет выдавать более-менее человекоподобные реакции на то, что мы считаем сладким или солёным. Собственно, люди такой трюк уже сейчас успешно проделывают с людьми, обучая слепого "видеть" через пластинку с электродами на языке.

[alex-new-york.livejournal.com]

Мне кажется, от Вас ускользает разница между развитием искусственного интеллекта и развитием искусственных чувств. Пищей для развития искусственного интеллекта служат интеллектуальные тесты разной степени сложности (распознавание предметов на фотографиях, вождение реального или виртуального автомобиля и т д), степень правильности ответа на которые мы легко можем проверить. Мы легко можем синтезировать миллиарды таких тестов самого разного свойства.

А когда речь идет об обучению компьютера эмоциям, мы не можем так же легко предьявить компьютеру подобные тесты. Во-первых, потому, что чувства как психофизиологический процесс по большей части скрыты от постороннего наблюдателя. А во вторых, потому, что мы сами не можем толком сформулировать, чем отличается переживание чувства нежности от переживания чувства сопереживания и желания заботиться. Или чем переживания человека, вдыхающего аромат розы, отличаются от переживания человека, нюхающего одуванчик.

[iv-an-ru.livejournal.com]

> А когда речь идет об обучению компьютера эмоциям, мы не можем так же легко предьявить компьютеру подобные тесты.

Ещё как можем. У нас есть прорва художественной литературы, некоторая её часть даже описывает людей относительно адекватно. Вопрос будет в выборе между полнотой и вариативностью. Если запах напалма по утрам упоминается только в одном произведении, то вносить ли его в корпус, нужен ли вам среди прочих вариантов робот, которому этот запах нравится? Или он всем роботам должен нравиться? Или мы заставим роботов ассоциировать себя с положительными персонажами, а эмоции остальных пусть формируют "справочник" для рефлексивных рассуждений? (тогда человекоподобие пострадает, слишком святые роботы получатся).

[alex-new-york.livejournal.com]

Вся художественная литература мира легко уместится на одном терабайтном диске. Даже для обучения компьютера такой простой вещи, как распознавание речи или объектов на фотографиях, требуются намного большие объемы входных данных

[iv-an-ru.livejournal.com]

Сравнили тоже --- речь и эмоции. С эмоциями легко справляется и чихуахуа.

[alex-new-york.livejournal.com]

Потому, что и в нас, и в чихуахуа вложены более или менее одни и те же эмоции. Зато даже чрезвычайно умному аутисту мир человеческих эмоций бывает очень трудно понять, поскольку мир его собственных эмоций совсем другой

[iv-an-ru.livejournal.com]

У аутиста проблема с эмоциями не в обучении, а в поломке механизма управления гормонами. Я не уверен, что исследуя обучение эмоциям на примере аутиста, мы не сделаем вывод, что "слух у таракана в ногах".