То есть, я вполне уверен, что у меня есть душа (она же "субъективность"), я только ничего не знаю про ее природу или бессмертие...

Рада за Вас... :-)
Возможно, такая уверенность даёт какие-то преимущества в жизни...
А вот у меня никаких таких ощущений соьственной души не возникает...вероятно, это оттого, что я до глубины проедена материализмом с детских лет. Мне легче представить себя интеллектуальным автоматом, чем вводить некое, кажущееся совершенно излишним понятие души.
И главное, я решительно не понимаю, что бы эта самая душа могла делать...даже то, что Вы именуете субъективностью вполне моделируется в рамках AI, достаточно встроить в него блок, отслеживающий собственную "психическую деятельность", то есть, все остальные процессы. А можно добавить и ещё блок, следящий за следящим - таким образом мы повысим уровень рефлексии AI на единичку.

Ах!...а может быть я так рассуждаю только потому, что мою собственную субъективность можно смоделировать таким образом...а Вашу-то, Вашу - нельзя?
В таком случае спор лищён всякого смысла....если в наших психических процессах нет сходства, то мы и вовсе беспомощны... :-( lol


P.S. Прежде, чем полагаться на свою уверенность в чём-либо, неплохо бы исследовать механизм возникновения этой уверенности (можно в рамках "компьютерной метафоры", например).

Я к тому, что Вы можете называть субъективность душою - воля Ваша, вот только какая у субъективности природа и тем более бессмертие, если это нематериальный объект, а если материальный, то мы возвращаемся к детерминизму, поскольку, если этот материальный объект контролирует наше поведение, то значит наше ссстояние детерминировано состоянием этой самой души.
И хде свобода воли?!