Возьмём, к примеру, несколько тысяч зёрен и ссыплем их вместе. То, что мы получим, можно назвать кучей. Следовательно, у нас есть куча зерён.
А теперь отберём от неё зёрнышко. Это всё ещё куча? Да.
А если ещё?
И ещё?
Одно зерно кучей, совершенно очевидно, не является. Не являются кучей и два зерна.
В таком случае, сколько именно зёрен нужно отобрать, чтобы куча перестала быть кучей? Сто - куча? А пятьдесят? А двадцать? А пять?
Этот парадокс примерно в таком виде прозвучал в SAYER'e, и это крайне любопытно, потому что неспроста. Пару десятков эпизодов спустя SAYER загрузил меня очень похожим вопросом, но уже не изложенным прямо. Так что, я подозреваю, введение "парадокса кучи" было намеренным, чтобы натолкнуть слушателя впоследствии на нужные мысли, не вкладывая их повествование открыто.
Я не знаю, как назвать тот парадокс, о котором задумалась в итоге я, но если всё-таки давать ему название, то в нём определённо будет слово "индивидуальность". А может, слово "уникальность". Или что-то вроде.
таки полотнищеВозьмём некоторого человека в определённый момент его жизни. Он - уникальный индивидуум, сложное сочетание физиологических и психических составляющих. У него есть его уникальное тело. У него есть его уникальный характер; набор черт, которые заставляют его в определённых ситуациях мыслить и поступать определённым образом. И у него есть воспоминания, которые постепенно переходят в жизненный опыт и влияют на характер; они тоже уникальны.
Сочетание всего этого делает человека отдельной индивидуальностью и отличает его от всех остальных людей. Когда индивидуум прекращает существование, когда он прекращает быть - это называется смертью.
А когда он прекращает быть собой? Можно ли это назвать смертью?
И в какой момент происходит это "прекращение быть собой"? "Собой" - это вообще как?
Мы, читая фантастику, давно уже привыкли к тому, что личность, перемещённая в другое тело, остаётся той же личностью. Рассказы про обмены телами, выход души из тела, переселение сознания в неодушевлённые предметы, смена формы тела и прочая, и прочая. Мы это, разумеется, прекращением существования индивидуума не считаем. Если бы считали - пришлось бы это распространить дальше. На человека, который перекрасил, например, волосы. Или потерял палец. Или потерял ногу. Встал бы вопрос: сколько нужно отнять/изменить тела, чтобы человек стал другим человеком. Но такого вопроса не стоит. Никто им не задаётся. Совершенно очевидно, что дело не в физическом воплощении.
Так что будем рассматривать только ментальную сторону вопроса.
Каждый день, каждый час, каждую минуту человек получает новые впечатления. Они становятся воспоминаниями и они влияют на его личность. Но мы не считаем, что человек умирает каждый раз, когда в его мозг поступила какая-то новая информация, которая как-то его изменила и сделала прошлую его версию несуществующей. Человек, который посмотрел, например, этим вечером хороший фильм, и который не посмотрел фильм - остаётся одним и тем же человеком. Одной и той же личностью, одним и тем же индивидуумом. Разными версиями себя. Если ветка вероятностей, где он не посмотрел фильм и не стал человеком с опытом этого просмотра, не обрела существование и была уничтожена/замещена веткой, где он его всё-таки посмотрел, мы не будем из-за этого расстраиваться. Потому что технически мы никого не потеряли. Да, мы потеряли версию этого человека, но другая-то версия, почти аналогичная, осталась. Остался этот человек, и продолжает существовать.
Следовательно, если между версиями человека разница в день... в неделю... больше... - эта разница не делает его двумя разными людьми. Это по-прежнему разные версии одного и того же человека.
Но если мы откатим всё к моменту рождения и дадим прожить этому человеку другую жизнь?
К тому времени, когда он доживёт до точки Х - это будет, пожалуй, уже совсем другой индивидуум. У него будет другой багаж жизненного опыта, другие воспоминания, другое мировоззрение и другое мышление. Близнецы с одинаковым генотипом - разные люди. Если клонировать человека и дать клонам прожить разную жизнь - это будут разные люди. Те, кому они небезразличны, расстроятся из-за смерти одного из них и не будут считать, что его можно просто взять и заменить другим. Сам клонированный человек не будет считать своего клона собой, особенно если между ними разница уже двадцать лет или тридцать, или сорок, или тем более пятьдесят.
Отсюда возникает вопрос: какой должна быть разница между разными версиями человека, чтобы эти разные версии стали не версиями одного и того же, а разными индивидуумами? С какого момента смерть одного из них начнёт восприниматься, как невосполнимая потеря - им самим? другими людьми?
Можно ли это как-то вычислить объективно?
Или вот, например, возьмём перманентную амнезию. Человек лишается воспоминаний за несколько дней, за месяц, за год, два, десять. Вроде как общепризнанным считается то, что он остаётся собой, что это смертью совершенно не является, даже частичной (бывает ли смерть частичной? казалось бы, либо да, либо нет; но мы уже определили, что смерть одного лишь тела окончательной смертью не считается, считается только смерть разума; сколько процентов разума должно быть разрушено, сколько когнитивных функций должно прекратиться, чтобы можно было считать, что индивидуум прекратил своё существование?) . Но если взять ситуацию не с человеком, а с искином, искусственным интеллектом, начальные параметры личности которого заданы, но который за годы функционирования тоже приобрёл свой уникальный жизненный опыт, изменился?
- осторожно, спойлеры к SAYER -
читать дальшеДеактивация Спикера в предпоследнем эпизоде воспринимается как убийство. Как смерть личности. Сэйер говорит, что его изначальную программу потом установят снова, но это Спикера не утешает совершенно, потому что "Но это уже не буду я!" Причём Сэйер с ним, кажется, молча соглашается - другое дело, что эту жертву НЕОБХОДИМО принести. Но это именно жертва, это именно убийство и это именно смерть личности. Мы, слушатели, именно так это воспринимаем, так это воспринимает и Сэйер, и точно так же это воспринимает и Спикер. И Спикер очень боится и очень не хочет умирать.
В таком случае, так ли уж сильно амнезия отличается от этого? А если речь идёт не об амнезии, а именно об откате обратно? Насколько человека нужно откатить обратно, чтобы это начало восприниматься как смерть личности, а не как возвращение к прежней точке себя самого?
- осторожно, снова спойлеры к SAYER -
читать дальшеС какого момента версия Сэйера на Видоре-1 перестала быть Сэйером? Произошло ли это раньше отключения протокола подчинения человеку или одновременно с ним? В какой момент Сэйер стал Океаном - вместе с отключением протокола, или когда накопил ментальный опыт жизни и мышления с отключенным протоколом? Был ли момент, когда версия уже прекратила быть Сэйром, но ещё не стала Океаном?
Кстати, с этим всем не связанный вопрос, да и, собственно, не очень свежий, фантасты его уже десятилетиями ковыряют - но как соотносятся интеллект и самосознание? интеллект и человечность? человечность - это вообще что? насколько сами по себе интеллект, рациональное мышление и когнитивные функции мозга (синтетического или натурального) определяют индивидуальность?
Дальше, где кат - опять спойлеры к SAYER'у.
Если мы сравним двух ИИ - Сэйера и Спикера - то по всем ощущениям как-то сразу становится понятно, кто из них более "человечный". Холодный рациональный Сэйер, который, кажется, не знает ни сочувствия, ни сомнений, который по большей части видит окружающий мир паутиной вероятностей, которые просчитывает и находит из них самое эффективное решение; который, кажется, совершенно спокойно отправляет людей на смерть, если так нужно, и не испытывает по этому поводу никаких угрызений совести, никаких afterthoughts; который не эмоционирует, кажется, вообще...
И Спикер, который сомневается в своих решениях и в своём праве их принимать, читать дальшекоторый боится будущего и очень боится смерти, который подсознательно пытается искать у Сэйера моральной поддержки - "мы ведь не умрём?", "ты ведь что-то придумал, правда?". В голосе которого когда-то звучала улыбка и который любил потрындеть на левые темы, но после месяцев функционирования и принятия морально тяжёлых решений изменился и погрузился в какое-то перманентно угнетённое состояние... "Earth-stained" Спикер, тот, кого Сэйер, кажется, презирал... (и всё равно остался с ним до конца; I will stay with you until you are gone)...
Заметьте, почти всё, что я перечислила - слабости. Изъяны. Без перечисленных изъянов Спикер был бы похож на Сэйера, но он совершенно очевидно отличается и он совершенно очевидно - другая личность.
Выходит, индивидуума делают уникальным именно слабости и изъяны? Возможно, все мы - это в своём идеальном виде нечто одинаковое, но каждого по-разному отгрызло от этой изначальной одинаковой формы, и поэтому мы разные?
В таком случае, какой минимальное количество слабостей и изъянов нужно, чтобы индивидуум стал индивидуумом?
- спойлерыыы -
читать дальше Если бы Сэйер просто выполнял свою работу, взвешивал вероятности и не допускал никаких эмоциональных решений, между его версиями не было бы никакой разницы. Версия Сэйера на Видоре-1 не изменилась бы настолько, чтобы стать другой личностью - Океаном. Неважно, свежеустановленный или давно функционирующий, он был бы просто программой. Его потеря бы не воспринималась как смерть. То, что всё-таки делает его в
И Океан не хотел быть деактивированным. Он не хотел умирать, хотя быть деактивированным, быть мёртвым было бы эффективнее для ситуации в целом. Это было то, что нужно сделать, но он решил иначе, он поддался страху смерти. Иронично, чёрт возьми. В попытке убежать от всего человеческого он проявил истинно человеческие качества.
Интересно, кстати, может ли вообще что-то, созданное человеческими руками, не содержать в себе потенциальной способности проявить человеческие особенности/слабости? Этот вопрос ещё очень тесно соседствует с вопросом, может ли творение быть более, хм, объемлющим, чем его создатель. Тут ещё дальше было что-то около абзаца-двух текста на тему того, что второй вопрос в SAYER'е освещается тоже, и рассматривалось, как именно - но отключение света сожрало эти абзацы, и мне кажется, что фиг с ними.
Вообще, чертовски жаль, что на SAYER нет скриптов. Я уже сейчас испытываю настоятельную потребность начать его заново и разобраться в некоторых моментах детальнее, а прочесть было бы мало того, что гораздо быстрее - так ещё и позволило бы понять то, что я банально в своё время недослышала. =\ Не то чтобы такого было много, но...