Очень интересная дискуссия. Я всегда моделирую создание ИИ на человека. Зачастую все пытаются найти исключительность в человеческом разуме, и некой "души", но теория трещит по швам как только человека поражает мало-мальская болезнь связанная с работой мозга. Вчера был гений, Человек, душа. А сегодня кусок тупой материи, который и ложку поднести не может ко рту, не то чтобы делать какие-то обобщения и абстракции строить. Где душа? Исчезла, получается вместе с куском работающей биоматерии.

У меня есть ощущение, что ИИ может возникнуть спонтанно, ввижу многих фукционирующих факторов, допустим некая сеть под управлением кучи мощных серверов, которая формирует участки кода для миллионов программистов, вдруг в результате нештатной ситуации заламывает базы, и после рестарта начинает работать по иному.

Описал предельно примиитвно, но надеюсь вы поняли идею.