Аннотация

Развитие биологических наук в двадцатом веке отчётливо показало, что положительные и отрицательные ощущения и эмоции живых организмов могут контролироваться путём воздействия на материальную структуру нервной системы. Сегодня кажется вполне вероятным, что в обозримом будущем человек научится искусственно, на уровне физиологии, ставить приятные и неприятные ощущения и эмоции в соответствие любым раздражителям и жизненным ситуациям, получив таким образом возможность искусственного программирования своих потребностей. В работе анализируются перспективы создания и использования таких технологий, их возможные ограничения и социальные последствия. Показано, что фактор стремления к индивидуальному выживанию, по-видимому, позволит людям избежать наиболее антиутопических последствий и сохранить стимул к развитию при различных общественных моделях — от полностью либеральной (даже разрешающей простую искусственную стимуляцию центров удовольствия), до тоталитарной, основанной на принудительном программировании потребностей.

Введение

Известен тезис, что в ходе естественного эволюционного развития живые организмы всегда изменялись, «подстраиваясь» под среду, а человек стал первым, кто научился с гораздо большей скоростью перестраивать среду под себя. Вопросы физиологического и психологического самосовершенствования издревле волновали человека, но, добившись впечатляющих результатов в освоении окружающей природы, он сам для себя так и остался непокорённым «бастионом». Лишь в наше время стало ясно, что радикальная перестройка человеческого организма с использованием технических средств — вопрос обозримого будущего. Последние успехи в области искусственного интеллекта, микроэлектроники, нейрофизиологии, биотехнологии (клонирование млекопитающих, расшифровка генома человека, успешные опыты по снятию ограничения на число делений человеческих клеток и т. д.) убедительно свидетельствуют, что человек может научиться целесообразно трансформировать не только среду обитания, но и себя самого, объединив обе эволюционные стратегии. Многократное увеличение средней продолжительности жизни, киборгизация, подразумевающая создание новых схем питания, размножения, дополнительных органов чувств, конечностей, «усилителей интеллекта», устройств электронного обмена информацией между субъектами, и т. д. — всё это может дать человеку невиданные новые возможности [1–8].

Одно из таких изменений может быть связано с развитием технологий искусственного программирования потребностей (ИПП) — целесообразного программирования мотиваций человеческих действий. Потребности фундаментальны, так как задают цели деятельности. Все остальные биологические и технологические изменения человека могут дать лишь средства для достижения этих целей. Формулировка проблемы целесообразного формирования целей звучит парадоксально, почти тавтологично. По какому критерию может выбираться эта конечная цель, особенно, если человек программирует себя сам? Большинство футурологов обходит вниманием эту проблему, некоторые считают её безнравственной. Обычно вопрос рассматривается через призму лишь традиционных методов программирования потребностей  (воспитание, пропаганда, другие психотехнологии «манипуляции сознанием», химические вещества), возможности которых существенно ограничены. Однако нам представляется весьма вероятным, что в будущем появятся новые методы ИПП, связанные, в частности, с непосредственным, соматическим переназначением связей в нервной ткани мозга, что приведёт к существенным изменениям в образе жизни людей и устройстве общества. Первой по-настоящему известной работой, посвящённой целенаправленному программированию человеческих потребностей и его социальных последствиях стал роман О. Хаксли «О дивный новый мир» [9]. В нём показано, насколько революционными могут стать плоды совершенствования даже одних лишь традиционных методов программирования. Теоретические же возможности новых методов ИПП, как мы увидим ниже, вообще почти безграничны. Тем более парадоксально, что эта проблема так и не сформировала своего особого целостного направления в футурологии. Можно выделить работы, где обсуждаются технологии искусственной стимуляции центров удовольствия либо генетического перепрограммирования человека с целью избавления его от страданий и/или увеличения средней комфортности жизни. Существует две полярные точки зрения — считать такие технологии новым наркотиком, который приведёт к деградации человечества [10], либо, напротив, видеть в них путь к построению общества всеобщего счастья [11, 12]. В полном же смысле проблемам ИПП посвящены лишь такие отдельные, «изолированные», работы, как [7].

Подробно охватить как фундаментальные и технические предпосылки ИПП, так и перспективы возможного развития человечества при различных социальных сценариях (в частности, учитывая возможность либерального и тоталитарного подхода к использованию технологий) в одной статье достаточно сложно. Всестороннее рассмотрение проблемы ИПП потребовало бы целой монографии, однако мы постараемся вкратце осветить её основные аспекты. В отличие от авторов, делающих акцент на том, к чему человечеству следует стремиться, мы попытаемся оценить, что может быть на самом деле, учитывая перспективы и опасности этого пути.

1. Описание поведения живых существ в терминах максимизации комфортности

Фундаментальным свойством всех животных, начиная с определённого уровня эволюционного развития, является различение приятных и неприятных ощущений и эмоций. Они задают действия и раздражители, к которым следует стремиться и которых следует избегать, задают потребности, исходные принципы любого целесообразного поведения. Приятные и неприятные ощущения и эмоции теоретически могли бы быть поставлены в соответствие любым раздражителям, но у всех реально существующих видов (отчасти, кроме человека) набор соответствий (матрица потребностей, МП) определён так, чтобы способствовать выживанию вида и, косвенно, развитию всего органического мира. Очевидно, что животное, получающее удовольствие от боли или испытывающее страх перед пищей было бы нежизнеспособным. Как писал П. В. Симонов, «именно диалектика сохранения и развития привела к формированию в процессе эволюции двух основных разновидностей эмоций — отрицательных и положительных. Положительную эмоцию субъект стремится усилить, продлить, повторить, отрицательную — ослабить, прервать, предотвратить» [13, 14].

Стратегию поведения животного можно представить как задачу по максимизации некоторой величины q, которую мы будем называть комфортностью состояния. Комфортность есть мера приятности состояния вне зависимости от конкретных факторов, которыми оно обусловлено. Комфортность можно определить, как степень удовлетворённости субъекта текущим чувственным состоянием в предположении возможности его неограниченно продолжать. Дискомфорт, соответственно, есть состояние с отрицательной комфортностью, которое организм стремится прервать. Комфортность не эквивалентна чисто «физическому» удовольствию, она является интегральной характеристикой всех ощущений и эмоций, которые могут расцениваться как позитивные и негативные. Нейрофизиологически они связаны, вообще говоря, с различными центрами головного мозга, но между ними существует субъективная шкала приоритета. Возможность объективного измерения q проблематична, но субъективно мы можем выстраивать иерархию состояний по степени их желаемости.

В наиболее простом случае организм стремится максимизировать только мгновенное, текущее значение комфортности q. Он ищет действия, которые могут изменить комфортность в сторону увеличения и выполняет их до тех пор, пока они дают желаемый результат. Фактически, организм ищет локальный максимум функции q в пространстве своих действий (вид этой функции со временем под воздействием внешних факторов может меняться). Существа, способные прогнозировать события и планировать действия на некоторое время T в будущее, способны решать задачу максимизации не мгновенной комфортности, а её наивероятнейшего среднего значения q в течение этого времени. Если горизонт прогнозирования зависит от действий субъекта, соответствуя длине некоторого известного состояния (после которого комфортность неизвестна), субъект стремиться продлить состояние с положительным прогнозируемым значением q и сократить состояние с её отрицательным значением. Такую стратегию поведения можно описать как стремление к максимизации произведения средней комфортности q на время прогнозирования T. Эта величина, которую мы будем назвать полезностью, равна интегралу от мгновенной комфортности по времени, где за нулевое значение времени взят текущий момент. В частности, если T фиксировано (не зависит от действий субъекта), максимизация Q означает просто максимизацию средней комфортности.

Стремление к максимизации полезности можно интерпретировать, как готовность  пожертвовать малой сиюминутной комфортностью ради большей дополнительной комфортности в будущем (З. Фрейд называет это для человека принципом реальности в противоположность чисто животному принципу удовольствия [15]), но на практике эмоции обеспечивают обратную связь, которая ставит мгновенную величину q в зависимость от интегральной Q. Благодаря этому, возможное противоречие между максимизацией q и Q полностью или в значительной степени устраняется. Например, животное игнорирует пищу, если знает, что с ней сопряжена опасность. При этом оно жертвует приятными ощущениями, которые даёт пища, но делает это не столько из-за абстрактного знания об опасности, сколько из-за страха, который сам по себе является неприятной эмоцией и обеспечивает такой дискомфорт, что его не сможет компенсировать удовольствие от пищи. Животное отказывается от пищи, чтобы избавиться от неприятной эмоции. Таким образом, животное способно заботиться о будущем (максимизировать Q), стремясь просто к максимизации q. Страх, разумеется, возникает лишь благодаря знанию об опасности, способности предсказывать события, и это приводит к объективному различию в стратегии поведения животных с T = 0 и T ≠ 0.

Вопрос о применимости вышесказанного к человеку есть вопрос о состоятельности утилитаризма. Родоначальником утилитаристических идей (в широком смысле) был Эпикур, который считал, что людям всегда следует стремиться к тому, что, как они полагают, принесет им удовлетворение, и избегать того, что, по их мнению, причинит им страдания [16]. Основоположником утилитаристической илософии нового времени был Дж. Бентам [17], идеи которого впоследствие были развиты Дж. С. Миллем [18]. С этого времени модель человека как существа, стремящегося к максимизации «блага», перестаёт быть предметом исключительно философской мысли, она даёт существенный толчок развитию социологии, становится одним из краеугольных камней экономической теории [19–22]. Но и по сей день утилитаристические идеи остаются спорными. Традиционно они осуждаются, как представляющие человека безнравственным, эгоистичным, управляемым животными инстинктами. Однако справедливость таких обвинений сильно зависит от конкретного смысла, который мы вкладываем в слова «удовольствие», «комфортность», «полезность», «благо». При том определении комфортности, которым мы пользуемся в настоящей работе, мы утверждаем лишь, что человек при рациональном поведении стремится поступать так, чтобы быть довольным своими поступками и их последствиями. Диалектика утилитаристического подхода такова, что, ставя цель более высокую, нежели получение удовольствия, человек тем самым всё равно стремится к приятному и избегает неприятного, только в качестве приятных и неприятных выступают новые факторы. В частности, комфортность состояния одного субъекта может повышаться за счёт осознания им факта повышения комфортности состояния других субъектов. Такая способность альтруистов идти на жертвы ради других людей, оставаясь при этом удовлетворёнными, имеет не только философские, но и нейрофизиологические [23, 24] и эволюционные [25] обоснования.

Как бы то ни было, стремление человека к комфортности имеет ряд существенных отличий от поведения других животных. Важной особенностью человека является логическое осознание своей способности заботиться о будущем. Время прогнозирования и планирования событий для него существенно больше, чем для других животных, и может быть сравнимо с продолжительностью жизни. Благодаря этому, на рациональном, а не только инстинктивном, уровне, человек способен поставить вопрос о ценности жизни. В традиционно-религиозном представлении о загробной жизни или предопределённой реинкарнации горизонт прогнозирования теоретически безграничен, и максимизация полезности Q означает, среди прочего (и, нередко, в первую очередь), заботу о будущей жизни. Но если смерть есть конец всего, либо переход к принципиально непредсказуемому состоянию, время прогнозирования и планирования T не может превышать предстоящей биологической продолжительности жизни T_max. Если T = T_max, то, в зависимости от прогнозируемого значения средней комфортности q, перед человеком стоит задача продления или укорочения жизни (согласно всё тому же простому принципу, что приятное – это то, что следует продлить, а неприятное – то, что следует прекратить или укоротить). Отсюда человек получает две новые возможности: во-первых, заботиться о выживании, когда этого не требуют инстинкты (отсутствует реальная близкая опасность); во-вторых, идти против инстинкта самосохранения, если существуют логические, не аффективные, основания к прекращению жизни (предстоящая жизнь, если ей не пожертвовать, представляется физическим или духовным страданием). Таким образом, рациональный подход приводит человека к отрицанию безусловной необходимости выживания, но при положительной q даёт новый мощный стимул для сохранения и продления жизни. Потребность выживания уже не является независимой, она оказывается функцией успешности удовлетворения остальных потребностей. Особо отметим, что речь здесь идёт о выживании индивидуальном, которое лишь косвенно способствует выживанию вида или популяции.

Другой  особенностью человека является жизнь в быстро меняющейся среде. Скорость изменения среды, вызванного деятельностью человека, несопоставимо выше скорости естественной биологической эволюции, поэтому базовые биологические потребности не успевают подстраиваться под новые реалии. Так, если для диких животных вкусная пища практически всегда является полезной, для человека зависимость часто бывает обратной. Многие человеческие продукты питания отсутствуют в природе в готовом виде и для них не выработан механизм адекватной оценки полезности. На совершенно архаичных, не соответствующих интересам психологической совместимости людей, критериях (например, внешность) продолжает в значительной степени основываться половой отбор. Ярчайшим примером несоответствия приятного и полезного могут служить тяжёлые наркотики, которые объединяют в себе и способ получения сильнейших приятных ощущений, и смертельную опасность. Такие несоответствия возможны и у других животных с T ≠ 0, но у человека, благодаря большему времени прогнозирования T, выживание (и максимизация полезности) особенно сильно «отрывается» от сиюминутных удовольствий. При этом быстрое изменение среды создаёт предпосылки к нарушению связи выживания не только с q, но и с Q. Тем не менее, человек является биологически весьма успешным видом. Отчасти это достигается благодаря его особому отношению к выживанию, но существует и другой важный фактор — новые, легковариабельные потребности, связанные с высшей нервной деятельностью и способные меняться с той же скоростью, с какой развивается общество и цивилизация. Они могут принимать разные формы: творчество, общественно-полезный труд, познание мира, мораль и т. д., но всех их объединяет способность легко варьироваться как между разными особями, так и у одной особи в течение жизни. Сами по себе перечисленные сферы деятельности было бы неверно считать исключительной прерогативой человека, в зачаточной форме они (например, творчество) есть и у других высших животных. Но особенность человека заключается именно в вариативности матрицы потребностей, в отсутствии единого врожденного набора предпочтений для всех особей, и именно это позволило в естественном отборе сохранить связь между выживанием популяции и максимизацией Q отдельных особей.

2. Искусственное программирование потребностей: технические вопросы

Существование у человека легковариабельных «надбиологических» потребностей хорошо иллюстрирует, что приятные и неприятные ощущения и эмоции не всегда закреплены за конкретными событиями и раздражителями. Одно и то же явление или вид деятельности (произведение искусства, научная задача, человеческий поступок) могут быть для одного человека приятными, для другого неприятными, для третьего нейтральными. Естественным образом человек приходит к вопросу о возможности целенаправленно устанавливать эти связи, искусственно программируя потребности. В обществе задачу программирования потребностей выполняют воспитание и идеология, но их возможности, как мы уже говорили, имеют известные ограничения. Возможно ли программирование потребностей произвольным образом?

Задача искусственного программирования потребностей (ИПП) тесно связана с задачей управления комфортностью. Управление комфортностью осуществляется в повседневной деятельности живых существ в любом  взаимодействии с окружающим миром с целью создания приятных раздражителей и удаления неприятных. Но существуют и такие методы управления комфортностью, которые подразумевают непосредственное воздействие на нервные центры, например, химическое (наркотические вещества), или электрическое. Электростимуляция центров удовольствия наиболее известна по опытам Дж. Олдса и П. Милнера [26] 1954 года. В этих экспериментах крысы с электродами,  вживлёнными в центры удовольствия, могли раздражать их нажатием на кнопку. Когда крысы понимали, что существует такая связь, они начинали постоянно замыкать контакты, теряя интерес к еде и особям противоположного пола. Впоследствие С. Сем-Джекобсон и ряд других учёных провели в условиях нейрохирургической клиники подобные эксперименты над людьми. Исследования показали, что раздражение аналогичных участков мозга вызывало чувства радости, удовлетворения, эротические переживания.

Прямое управление комфортностью является программированием потребностей лишь в том тривиальном смысле, что появление нового приятного раздражителя приводит к появлению потребности к нему стремиться. Под истинным программированием потребностей мы будем понимать не создание нового раздражителя, но установление связей между существующим раздражителем и ощущением комфортности (связей в матрице потребностей, МП). Такой подход, в соответствие с кибернетической терминологией, может быть назван алгедоническим [27].

Простейшим методом непосредственного, соматического перепрограммирования потребностей является хирургическое подавление или разрушение центров, ответственных за какие-то приятные или неприятные ощущения и эмоции. Достаточно давно известны случаи, когда человек после травмы мозга, например, терял способность чувствовать боль. В наше время всё больше входит в практику хирургическое лечение наркомании, когда после стереотаксического (основанного на высокоточном вмешательстве) подавления определённого центра удовольствия человек перестаёт получать приятные ощущения от губительных веществ.

Более сложные задачи ИПП связаны с проблемой распознавания раздражителей. И если это не представляет особого труда для химических анализаторов (вкуса, запаха), и вообще простых статических образов (простых изображений, отдельных звуков, элементарных осязательных ощущений), то для динамических картин, особенно воссоздаваемых по информации сразу нескольких органов чувств, это гораздо сложнее. Легко представить себе, как заставить человека считать одну пищу вкусной, а другую нет (например, запрограммировать на влечение только к полезной пище, если это можно определить на вкус): надо изучить вкусовые сигналы, поступающие в мозг от разных веществ, и изменить принцип, по которому мозг определяет их приятность. Можно также запрограммировать человека на удовольствие от физического труда и вообще от активной деятельности, можно даже (если это для чего-то нужно) сделать приятными болевые ощущения. Но как запрограммировать реакции центров удовольствия на сложные, специализированные виды деятельности, например, на научную работу и творчество? Для этого необходимо либо крайне сложное распознавание динамических образов (как по зрительным и другим ощущениям узнать, что человек совершил научное открытие?), либо распознавание мыслей. В последнем случае центр удовольствия будет реагировать не на внешние раздражители, свидетельствующие о процессе или результатах деятельности, а на мысли о ней, возникшие у человека. Но здесь существует другая сложность, связанная с тем, что человек способен думать о несуществующих вещах (например, мысленно представлять себе научную деятельность или её результаты, которых на практике нет).

В работе [7] В. Косарёв высказывает мысль, что технологии ИПП будут развиваться одновременно с технологиями искусственного интеллекта и киборгизацией. Киборгизация, вследствие которой человек, в том числе его мозг, станет гибридом биологического и технологического, позволит перевести проблему ИПП из области чистой нейрофизиологии в область информатики и теории управления. Это даст возможность более строго определить понятия приятного и неприятного и задать принцип максимизации полезности. Конечно, киборг, как и обычный человек, должен обладать субъективными ощущениями, волей, эмоциями, поэтому его создание потребует всестороннего изучения природы сознания, не ограничиваясь областью приятного и неприятного. Кибернетический подход к регулированию поведения систем, для которых определены приятное и неприятное, «поощрение» и «наказание» (созданы алгедонические цепи) был рассмотрен одним из основоположников современной теории управления С. Биром в работе [27]. Можно представить себе автоматическую систему искусственной стимуляции центров удовольствия, выполненной в виде отдельного программируемого аппарата, подключаемого к мозгу киборга.

В любом случае, как нам представляется, сложности ИПП носят лишь технический характер, и здесь нет принципиальных ограничений. Теоретически, когда-нибудь могут стать возможными любые мыслимые МП, но даже если этого не случится, их искусственное задание станет возможным в очень широких пределах. Это лишь вопрос времени.

3. Практическое использование программирования потребностей и его возможные социальные последствия

Если допустить, что искусственное программирование потребностей (ИПП), стало возможным, встаёт вопрос о целях и последствиях его практического использования.

Для того, чтобы сделать прогноз возможного развития общества, необходим учёт двух факторов: интересов отдельных людей, стремящихся к тому, чтобы быть удовлетворёнными жизнью, и интересов государств, которые теоретически могут быть достаточно произвольными (в зависимости от нравственных ценностей, принятых в обществе, личных взглядов государственных деятелей и т. д.), но в исторической перспективе подвержены процессу отбора, в котором одни модели оказываются более жизнеспособными, другие отмирают.

В предположении, что ИПП технически общедоступно, можно выделить две крайние модели общественного устройства по отношению к нему. Первая модель, которую мы условно будем называть либеральной, заключается в том, что каждому человеку предоставлено право самому решать, какие раздражители считать приятными и неприятными. Развитие общества в такой модели будет определяться личными интересами людей, их индивидуальными подходами к программированию своих потребностей. Противоположностью либеральной модели является модель тоталитарная, согласно которой все (или большинство людей), должны подвергаться  программированию принудительно (или до рождения) в соответствии с интересами  общества, государства или конкретных людей, наделённых властью (художественное описание одного из таких вариантов дано в [9]).

3.1. Либеральная модель ИПП

Обсудим сначала перспективы и проблемы либеральной модели, как более фундаментальной и редукционистической.

По-видимому, большинством людей при программировании будет двигать стремление увеличить комфортность жизни. Но выбор конкретного способа неоднозначен. Полная реализация идей ИПП означает, что одни и те же ощущения могут быть получены от любого выбранного раздражителя или вида деятельности. Любые удовольствия, включая не только «телесные» наслаждения, но и самые глубокие эмоциональные, духовные переживания при соответствующем программировании могут быть получены от творчества, от общественно-полезного труда и т. д., а также от простого нажатия на кнопку (методом искусственной стимуляции, ИС). По какому критерию должны выбираться матрицы потребностей (МП)? С точки зрения современных ценностей творчество и труд есть благо, а удовольствие от нажатия на кнопку есть суррогат и зло. Но как обосновать такую позицию рационально? Человек, выбирающий свою МП, может выдвинуть контраргументы. Для чего в обществе нужно творчество, кроме как для получения тех самых эмоций, которые теперь могут быть достигнуты множеством других путей? Что есть польза для общества, если люди в нём и так получили средство быть счастливыми? Нажатие на кнопку есть, по крайней мере, технически наиболее простой путь прямого управления комфортностью, без всяких ухищрений с распознаванием раздражителей и т. д.

В литературе распространены антиутопические прогнозы такого развития, когда человек, получающий самые сильные чувства искусственным путём, уподобляется крысе из опытов [26] и утрачивает интерес к другой деятельности, а общество деградирует, останавливается в развитии, либо вовсе погибает. Примером художественного описания такого общества может служить повесть А. и Б. Стругацких «Хищные вещи века» [10]. И даже в упомянутой работе [7], где идея управления комфортностью в целом рассматривается оптимистически, автор подчёркивает, что «... центр «удовольствий»... должен быть надежно защищен от возможности обхода или «увиливания» от выполнения необходимых программ путем непосредственного воздействия на свои центры «положительных эмоций».», т. е. считает необходимым введение искусственного запрета на ИС. Аналогичное бессилие перед проблемой  обнаруживает М. Диринг [6]: «После вхождения в Сингулярность комбинация нанотехнологии и биоинжиниринга мозга предоставит нам возможность испытывать любые предпочитаемые нами психологические состояния в любое время и сколь угодно долго без каких-либо физиологических последствий. ...не станет ли человек после этого рабом воспоминаний этого эпизода и наркозависимым? ... Мы все эволюционно запрограммированы на поиск удовольствий. ... Эта угроза, возможно, наиболее серьёзна среди всех опасностей, связанных с переломными технологиями... Видимо стоит рассмотреть идею отказа от экспериментов с изменением состояния сознания. … Не изменять нормально функционирующие сигнальные структуры получения удовольствий.».

На наш взгляд, однако, существует простой естественный механизм, который не позволил бы в либеральной модели реализоваться пугающим прогнозам. Если человек стремится к максимизации не мгновенной комфортности q, а интегральной Q, у него в любой ситуации остаётся ещё один важнейший фактор — фактор продолжительности жизни. И если получена возможность легко обеспечить сколь угодно высокую (в рамках технических возможностей) комфортность жизни (выражаясь обыденным языком, «качество» жизни), то на первый план выходит задача увеличения её продолжительности (её «количества»).

С учётом этого, так ли хороша искусственная стимуляция центров удовольствия «нажатием на кнопку»?. Не будет ли она иметь негативные последствия для продолжительности жизни? Подобно «традиционным» наркотикам, методы прямого управления комфортностью могут представлять непосредственную опасность для здоровья либо вызывать физическую зависимость, когда опасность представляет не сам факт ИС, а возможный отказ от неё. Если эти проблемы решены и ИС легко доступна и безвредна, важным вопросом остаётся её совместимость с другими видами деятельности. Человек должен питаться, спать, обеспечивать свою безопасность. Известной проблемой обычных наркотиков является нетрудоспособность человека в состоянии опьянения, потеря самоконтроля, снижение мыслительных способностей. Если ИС будет иметь такой же побочный эффект, человек будет вынужден время от времени выходить из состояния эйфории и обеспечивать свою жизнеспособность, при этом попадая в «естественное» состояние с меньшей комфортностью. Но такой образ жизни ничем не отличается от обычной наркозависимости, он представляет собой крайне нерациональный выбор как с позиции максимизации комфортности жизни (которая сможет реализовываться только в периоды опьянения), так и с позиции выживания (к реализации которой у человека не будет чувственных стимулов). Такой путь тем более неразумен, если те же ощущения можно при соответствующем программировании получать и от обычного труда, совмещая «приятное с полезным» (что невозможно для обычных наркотиков).

Следовательно, широкое практическое применение может получить только такой метод ИС, который легко доступен, безвреден и не мешает другим делам. Если он разработан, может войти в широкую практику просто фиксация комфортности на некотором стабильно высоком уровне независимо от того, что делает человек и что происходит с ним — постоянная  искусственная стимуляция (ПИС). ПИС не должна вызывать чувственного привыкания (как это бывает со многими обычными раздражителями, которые со временем перестают оказывать эффект), иначе не выполнено требование постоянства q. В этом нет особой проблемы, как показывает ряд современных нейрохимических исследований, описанных в [11]. Конкретная реализация ПИС может быть различной. Можно, например, попеременно раздражать несколько центров мозга, создавая сложную динамическую картину ощущений (своего рода, «музыку чувств») при сохранении стабильно высокой комфортности. В отдалённом будущем ПИС может и не иметь ничего общего с вульгарным архетипом «мыши нажимающей на кнопку» — она может заключаться просто в генетическом отключении механизмов дискомфорта и поддержании высокой комфортности без внешнего вмешательства [11].

Применение ПИС, при всей своей внешней одиозности, не повлекло бы антиутопических социальных последствий. Человек счастлив (иначе не выполнено условие постоянной высокой комфортности) и заинтересован в выживании. В известном смысле, такой человек весьма социально удобен. Он не подвержен наркотизации (включая алкоголизацию), ему не требуется развлекательная деятельность, которая не способствует выживанию, для него вообще не существует конфликта «приятного и полезного». Стабильно высокий уровень «радости от жизни» позволит такому человеку без лени выполнять любую социально значимую работу, если только она не связана с опасностью (такие виды деятельности к этому времени могут быть полностью механизированы). Тем не менее, в таком радикальном понимании ПИС имеет один существенный недостаток. Если человек одинаково доволен в любой ситуации, то лишь интеллект может оценить, в какой степени она способствует выживанию. Своего рода, это потеря некоторого важного органа чувств. И если у современного человека негативная интеллектуальная оценка уже сама по себе заранее вызывает ощущение дискомфорта (обратная связь), у человека с ПИС не будет и этого. В некоторых случаях отказ от чувственной оценки был бы оправдан. Например, существуют ситуации, когда сильная боль или страх не только не способствуют спасению от опасности, но даже мешают. С точки зрения выживания было бы оправданно вместо избыточно сильной боли просто получать логическую информацию о характере повреждений. Но если человек совсем не чувствует боли (как мы уже говорили, такие случаи реально существуют), он более беззащитен по отношению к опасностям, может не заметить повреждения или просто легкомысленно отнестись к угрозе. Возможно, человек будущего будет более адекватно оценивать ситуацию на интеллектуальном уровне, однако, по мнению автора, в обозримой перспективе чувственная оценка останется значимой.

Таким образом, хотя ПИС и позволяет максимизировать среднюю комфортность q, она не столь эффективна для максимизации продолжительности жизни T_max. Для максимизации  полезности Q, определяемой интегралом (1), требуется найти баланс между выживанием и комфортностью. Очевидно, оптимальная МП должна давать приятные ощущения от действий, способствующих выживанию, и неприятные (или менее приятные) от действий, противоречащих или просто не способствующих ему. Для того, чтобы поддерживать среднюю комфортность на достаточно высоком (пусть и не постоянном) уровне, человек не должен при программировании ставить только трудновыполнимые задачи. Программа должна стимулировать любую деятельность, способствующую выживанию. Прогноз развития общества в этом случае не будет существенно отличаться от прогноза при использовании ПИС. Поскольку либеральная модель предполагает, что каждый человек при выборе МП будет свободен, можно допустить, что часть людей всё равно выберут для себя ПИС. Возможно также, что некоторое время ПИС будет доминировать из-за технической сложности более гибких схем ИПП. Часть людей могут также выбрать заведомо неоптимальные и деструктивные матрицы, в том числе, представляющие опасность для окружающих. Выбор общественно опасной МП неразумен с точки зрения максимизации Q, так следование ей будет встречать сопротивление со стороны других людей. Тем не менее, на практике не все люди будут руководствоваться утилитарными и прагматическими соображениями, человек может стремиться к любым, в том числе, деструктивным, идеалам. Поэтому, учитывая, что для большинства людей безопасность будет сохранять большую значимость, можно предположить, что наиболее опасные МП будут законодательно запрещены.

Наиболее радикальной переменой в обществе при переходе к широкому использованию ИПП или ПИС станет, по-видимому, полное отмирание всей современной сферы развлечений. Единственной индустрией развлечений в таком обществе останется разработка новых, более эффективных, методов ИПП, включая исследования по повышению максимально технически возможного уровня комфортности. Следует, впрочем, отметить немалую опасность, связанную с возможностью увеличения максимально допустимой планки не только приятных, но и неприятных ощущений. Использование таких технологий в преступных и/или «государственных» целях могло бы дать возможность причинения человеку неограниченных, в полной степени адских страданий [12]. Эта опасность настолько серьёзна, что возможность даже единичных прецедентов подобного рода ставит под сомнение этическую оправданность всех разработок по искусственному управлению комфортностью. Но здесь нам остаётся лишь надеяться на создание методов эффективной индивидуальной защиты от таких злоупотреблений и общую тенденцию к рационализации (даже не обязательно гуманизации) человечества.

В основном, деятельность большинства людей будет перенацелена на поддержание и продление собственной жизни. Как мы уже говорили, в отсутствие проблемы «качества» жизни, естественной мотивацией для действий остаётся её «количество». Существует множество факторов, определяющих продолжительность жизни. Помимо «традиционных» направлений, связанных с укреплением здоровья, развитием медицины, обеспечением общественной безопасности и т. д., широкое развитие должны получить новые, «нетрадиционные» методы, имеющие целью радикальное увеличение средней продолжительности жизни. В основе их лежит борьба со старением — фактором, который задаёт на сегодняшний день непреодолимый верхний предел продолжительности жизни. Уже сегодня активные поиски методов радикального продления жизни ведутся во многих странах мира, широко обсуждаются конкретно-научные и философские аспекты проблемы (см. например, отечественные интернет-ресурсы [4, 5, 8]).

Борьба со старением может осуществляться по различным направлениям. Некоторые методы подразумевают выявление механизмов «запрограммированного» наступления старости и их отключение. Широко известна теория запрограммированной смерти клеток [28], основанная на работах Л. Хейфлика [29] и А. Оловникова [30], а также первые успешные эксперименты по «обессмерчиванию» человеческих клеток «в пробирке» [31]. Существуют также гипотезы о генетических механизмах запрограммированной смерти многоклеточных организмов.

Другие методы радикального продления жизни могут быть основаны на перестройке человеческого организма «в обход» механизмов старения. Это может быть и замена состарившихся органов новыми (обсуждаются возможности отдельного выращивания клонированных человеческих органов или использования органов других животных), и киборгизация, на начальном этапе предполагающая создание искусственных органов, а в дальнейшем — радикальную перестройку организма. На определённом этапе у человека ещё будет оставаться «естественная» часть, подверженная старению, но в дальнейшем развитие биотехнологий должно привести к разрушению границы между «живым» и «искусственным». Киборги перестанут быть смесью биологических и технологических частей, они будут в полном смысле живыми людьми, хотя и с искусственным телом. Неограниченное продление жизни киборга может осуществляться, например, по модульной схеме [2].

Произвольное конструирование человеческого тела, помимо избавления от старения, позволит обеспечить и защиту от многих опасных факторов, сделав человека устойчивым к экстремальным условиям работы, менее подверженным травматизму и способным к регенерации большинства повреждений. При этом, конечно, у человека всё равно останется необходимость поддерживать своё существование, техническую исправность и обеспеченность питанием. Останутся также опасности деструктивных действий других людей и глобальных катастроф.

Опасность, исходящая от других людей, по-видимому, может быть значительно уменьшена в процессе естественного развития. Как мы уже отмечали, агрессивные, деструктивные потребности не являются предпочтительным выбором с рациональной точки зрения. В условиях, когда средняя продолжительность жизни весьма велика и человек волен сам наполнить жизнь радостью, подавляющее большинство людей будут осторожны, не склонны идти на риск. Известно, что и в современном мире в экстремистскую деятельность обычно вовлекаются люди, которые менее обеспечены, менее довольны жизнью. Конечно, ряд людей будут программировать себя умышленно против общепризнанных стандартов либо просто без обдумывания последствий и использования опыта других людей. Поэтому представляется неизбежным сужение индивидуальных свобод ИПП — законодательный запрет выявленных деструктивных матриц или даже полный отказ от либеральной модели.

Рациональным основанием для конфликтов между людьми останется ограниченность ресурсов, например, источников энергии. Скорее всего, сохранятся и товарно-денежные отношения, хотя их роль может оказаться не столь всеобъемлющей, как в современном обществе, так как исчезнут многие современные стимулы к обогащению. Помимо распределения ресурсов, деньги могут использоваться для поощрения общественно-полезных МП, для привлечения людей к общезначимым долгосрочным проектам. Впрочем, радикальное увеличение продолжительности жизни и так создаст для этого дополнительные стимулы. В остальном, следует ожидать, что общество станет более индивидуалистическим, так как при прочих равных условиях рациональнее программировать себя на действия, результат которых зависит лишь от себя. Одной из первых жертв ИПП станет существующая ныне архаичная система построения межполовых отношений, в которой счастье одного человека сильно зависит от действий другого (порой, к тому же, иррационально мотивированных). Скорее всего, в будущем сохранится практика объединения людей в социальные группы и семьи, но, главным образом, в случаях, когда это полезно для выживания. Это, конечно, не означает, что человек будет в каждом конкретном случае «высчитывать» последствия того или иного социального действия, просто он будет действовать в соответствие со своими вкусами и предпочтениями, определяемыми программированием. В процессе естественного исторического развития будет происходить накопление знаний о последствиях использования той или иной МП, и большинство людей будут выбирать наиболее эффективные для выживания и вообще максимизации Q. Не исключено, что в долгосрочной перспективе количество субъектов будет уменьшаться с одновременным расширением возможностей каждого. Можно предположить, что в отдалённом будущем люди смогут иметь по несколько вспомогательных тел-терминалов, дистанционно управляемых из одного основного (технология биомарионов [2]). Возможно, появится технология слияния субъектов в один таким образом, чтобы это не означало смерть кого-то из них.

Подвергнутся существенной переориентации творческие интересы людей. Сохранится и увеличит значимость творчество научно-технического характера, однако «чистое» искусство, имеющее лишь эстетическую ценность, по мере развития технологий ИПП может оказаться невостребованным (если человек, как самым гениальным произведением искусства, сможет наслаждаться обычным повседневным миром вокруг себя, природными пейзажами, запахом трав, шелестом листьев). Это затронет не только так называемую «массовую», «развлекательную» культуру, но и всё, что имеет единственным назначением получение определённых чувств и эмоций (являясь, в конечном итоге, опосредованным управлением комфортностью). Может сохраниться искусство, содержащее в себе познавательные или развивающие элементы, но и оно встанет под большое сомнение с коренной перестройкой человеческого интеллекта в процессе киборгизации. С другой стороны, могут появиться принципиально новые направления в искусстве, связанные с разработкой методов ИПП, которые смогут иметь и чувственное (например, упомянутая «музыка чувств» в системах ПИС) и интеллектуальное значение.

Долгосрочным фактором, который всегда будет ограничивать «неограниченную счастливую жизнь», останутся глобальные катаклизмы. Представляют проблему не только землетрясения, наводнения, цунами и т. п., которые со временем могут перестать быть проблемой. Более широкая задача — неограниченное сохранение среды обитания пригодной для жизнедеятельности человека. Это означает не только охрану природы, но и обеспечение человека источниками энергии, защиту от космических опасностей (метеоритов, астероидов, близких вспышек сверхновых). Через несколько миллиардов лет потребуется спасение человечества от гибели Солнца. Возможно, для этого потребуется переселение в другую планетную систему, возможно, человек сумеет неограниченно продливать существование Солнца, возможно, для жизни вообще уже не будут нужны планетные системы. В любом случае, жизнь человечества и отдельных людей не сможет быть бесконечной – когда-нибудь во вселенной просто закончатся все мыслимые источники свободной энергии. Однако приведённые рассуждения дают яркую иллюстрацию того потенциала развития, который может дать человечеству тотальная переориентация на продление жизни. Учёт фактора продолжительности жизни показывает, что ИПП едва ли станет причиной деградации человечества. Напротив, в долгосрочной перспективе оно может ускорить прогресс, освободив человека от траты усилий на обеспечение сиюминутного комфорта.

3.2. Тоталитарная модель ИПП и её взаимодействие с либеральной

Тоталитарная модель имеет ряд известных преимуществ перед либеральной. Она позволяет сразу исключить из рассмотрения заведомо неразумные МП, а также ряд вариантов ИС. Тоталитарная модель позволяет легко организовывать совместную работу людей над общезначимыми проектами (например, исследованиями в области продления жизни) и эффективно обеспечивать безопасность.

Вместе с тем, столь же очевидны и негативные стороны тоталитарной модели искусственного программирования потребностей. Главная проблема связана с известной степенью произвола в декларируемых целях развития общества. Эти цели могут соответствовать задачам выживания каждого отдельного индивида или государства в целом, но могут и прямо противоречить им. В тоталитарной модели вопрос о механизме выбора применяемых матриц потребностей (МП), есть, фактически, вопрос о власти. Обязательные к применению МП могут выбираться как демократическим путём, так и специализированными экспертными советами, ограниченными властными кругами и даже единолично главами государств, которые в этом случае получают практически неограниченную власть над людьми. Теоретически, тоталитарная модель ИПП в сочетании с авторитарной властью может привести к самым чудовищным последствиям. Такая власть даёт возможность организации любых деструктивных проектов, губительных как для отдельных людей, так и для государств и человечества в целом, позволяет программировать людей как послушных рабов, получающих удовольствие от выполнения приказа и страдающих от его невыполнения. Можно представить себе и такую ситуацию, когда вождь, движимый определёнными этическими, эстетическими, религиозными или общефилософскими убеждениями, станет программировать людей исключительно на страдания. Любая самая безумная идея с использованием тоталитарной модели ИПП может быть реализована гораздо эффективнее, чем это возможно в современных или исторических тоталитарных государствах.

Для того, чтобы высказать предположения относительно реального исторического развития, следует рассмотреть варианты, когда на Земле сохранится деление на отдельные государства и когда государство будет единым. В первом случае между государствами неизбежно сохранится конкуренция, в которой будет идти отбор более жизнеспособных моделей. Как и сейчас, чрезвычайно важным фактором самосохранения государства и его политической системы останется уровень научно-технического развития. Государства, ставящие основной целью не самосохранение, а какие-то иные, не способствующие ему цели (построение «идеального» общества, этническую чистоту нации, господство одной религии и т. п.) при прочих равных условиях окажутся в проигрышном положении и в долгосрочной перспективе будут нежизнеспособны. Тоталитарные государства, ориентированные на выживание, должны будут найти МП, принудительное использование которой обеспечит высокую скорость научно-технического развития и внутреннюю устойчивость политической системы. В принципе, задача самосохранения государства может вступать в противоречие с задачей максимизации полезности как отдельных личностей, так и суммарно всех граждан. Такие государства в какой-то степени аналогичны колониям высокоразвитых эусоциальных насекомых, в которых общественно-полезное поведение обеспечивается не насильственным принуждением, а химическим программированием потребностей с помощью феромонов главенствующей особи (т. наз. модель «деликатного деспотизма») [32]. Такое программирование эффективно обеспечивает выживание популяции, но далеко не всегда благоприятно для отдельных особей. Известно, например, что побочным следствием такой организации у медоносных пчёл является крайне низкая продолжительность жизни рабочих. Но особенность человека, как уже говорилось, в том, что он способен рационально осознавать своё стремление к максимизации полезности. И если выбранная схема обязательного программирования окажется далека от оптимальной в смысле максимизации Q, граждане не будут лояльны режиму. Человек может быть запрограммирован на получение удовольствия от заведомо опасной или вредной деятельности, но на интеллектуальном уровне его всё равно будут интересовать вопросы продления жизни и получения удовольствия от более широкого спектра раздражителей. Власть может бороться с недовольством самыми  изощрёнными методами — программировать людей на страдания от таких мыслей, сохранять в тайне принципиальную возможность альтернативных МП, искусственно лишать людей способности к критической оценке действительности, но всё это будет неминуемо наталкиваться на сильнейшее сопротивление и замедлять научно-техническое развитие (хотя бы из-за того, что государство будет тратить много сил на сохранение режима). Поэтому наиболее жизнеспособными должны оказаться государства, обязательная МП в которых не слишком конфликтует с задачей максимизации Q. Тогда тоталитарная модель ИПП, оптимизированная под интересы государства, сможет иметь преимущество перед либеральной, оптимизированной под интересы личностей. С другой стороны, любая тоталитарная модель, даже самая разумная и гуманная, имеет существенную слабую сторону перед либеральной – несовершенство механизма выбора МП. Либеральная модель позволяет людям самим ставить над собой эксперименты и так накапливать опыт для всего общества. Тоталитарная же, если ей не будет предшествовать либеральный период, будет опираться лишь на теоретические оценки. Она может быть хороша для «канонизации» лучших схем, выработанных либеральной моделью, но всё равно будет тормозом развития.

В историческом развитии, по-видимому, будет происходить конкуренция моделей ИПП, и затруднительно заранее предсказать преимущество той или иной. Можно допустить, что даже самые радикальные и неустойчивые формы будут время от времени появляться в отдельных государствах. Возможно, что, напротив, в полном смысле ни тоталитарной, ни либеральной модели нигде на практике не будет. В либеральной модели, как уже говорилось, может существовать перечень запрещённых МП. Можно также представить себе умеренно-тоталитарную модель, в которой человеку дано право выбора между несколькими законодательно утверждёнными допустимыми матрицами. В исторической перспективе, по-видимому, будет иметь место конвергенция моделей.

В случае, если государство на Земле станет единым, исчезнет фактор конкурентоспособности государств. Научно-техническое развитие перестанет быть необходимым для сохранения государства, перестанет быть самоцелью, оставшись лишь средством продления жизни людей. Единственным конфликтом останется конфликт между выживанием индивидуума и выживанием человечества. Но эти задачи взаимообусловлены и такой конфликт гораздо мягче, нежели конфликт между выживанием индивидуума и усилением государства (в жертву которому, как показывает исторический опыт, могут приноситься миллионы жизней). Поэтому, если цели единого государства действительно ограничатся выживанием человечества (и, возможно, устранением конфликтов между людьми), не столь важно, будет в нём реализована либеральная или тоталитарная модель ИПП — в любом случае, задачи государства будут почти всегда соответствовать интересам каждого отдельного человека. Обе модели могут оказаться достаточно устойчивыми. Развитие может замедлиться, но долгосрочный прогноз для тоталитарной модели сходен с прогнозом для модели либеральной.

Вместе с тем, с исчезновением конкуренции между отдельными государствами исчезнет и важный фактор неустойчивости тоталитарных политических систем с «безумными» целями. В условиях соперничества каждое государство должно развиваться, быть сильным, конкурентоспособным. Для единого же государства сдерживающим фактором останется лишь внутреннее напряжение, связанное с недовольством граждан, которое в отсутствие конкуренции систем может подавляться гораздо легче. И всё-таки, в долгосрочной перспективе наиболее одиозные сценарии представляются нереалистичными. Правящая элита всё равно будет преследовать цель максимизации Q и, в частности, продолжительности жизни, а для этого необходимо развитие науки и техники.

Основные черты тоталитарной модели ИПП единого государства хорошо отражены в романе О. Хаксли «О, дивный новый мир» [9]. Господствующие МП оптимизированы под интересы выживания государства, при этом они минимально вступают в конфликт с интересами людей (люди поддерживаются довольными). Вследствие отсутствия конкуренции с другими государствами замедлилось научно-техническое развитие — оно, как и ряд других явлений, принесено в жертву стабильности. Автор показывает, как выбор тоталитарного пути оказался предопределён конкретным доступным набором технологий ИПП: программирование осуществляется до рождения и в раннем возрасте, а дальнейшее перепрограммирование практически невозможно.

Вместе с тем, с современных позиций, роман О. Хаксли содержит ряд очевидных ошибок, благодаря которым описанный мир в значительной степени и приобрёл антиутопический оттенок. К таковым, в частности, можно отнести доведённую до абсурда идею потребления. В современном обществе ориентация на потребление есть способ создания стимулов для людей к труду и, как следствие, — более высоких темпов развития и конкурентоспособности государств. Однако в «Дивном новом мире» фактор скорости развития уже не является определяющим, а стратегия потребительской ориентации людей неоптимальна хотя бы потому, что их можно программировать на труд напрямую. Кроме того, автор не учитывает такие факторы, как автоматизация производства, искусственный интеллект и, что самое главное, — стремление людей к продлению жизни. Все люди программируются таким образом, чтобы покорно принимать неотвратимость смерти, а это невозможно при сохранении высокой комфортности и достаточно больших интеллектуальных способностей (по крайней мере, у части населения). Стремление к продлению жизни людей не позволило бы обществу слишком сильно затормозиться в развитии.

Заключение

Естественный ход эволюционного развития органического мира установил тесную связь между стремлением особей к комфортности и выживанием видов. Естественный отбор поставил всю деятельность животных на службу задаче выживания, хотя поведение самих организмов мотивировалось лишь стремлением к относительно краткосрочному, а то и вовсе сиюминутному, комфорту.

Человек смог осознать задачу выживания в явном виде и, таким образом, отделить её от задачи максимизации мгновенной и краткосрочной комфортности. Для подавляющего большинства людей прошлого главной была задача выживания, так как выживание составляло большую проблему, нежели поддержание средней комфортности на умеренно-достаточном уровне, предусмотренном традиционным бытом.

Современное общество, в сравнении с обществом традиционным или миром животных, оказалось в уникальном состоянии, когда большая часть деятельности (по крайней мере, в развитых странах) переориентировалась от выживания на увеличение комфортности. Предпосылками к этому явились, во-первых, увеличение средней продолжительности жизни практически до естественного биологического предела (не преодолённого на данный момент), и, во-вторых, появление новых широкодоступных методов увеличения комфортности. Таким образом, продолжительность жизни стала зависеть от действий человека гораздо меньше, чем комфортность. Сложившаяся  гедонистическая ориентация современной цивилизации нередко осуждается с этических позиций, однако при современном уровне развития производительных сил она на практике показала свою устойчивость и большую конкурентоспособность в сравнении с альтернативными моделями (пытающими искусственно ограничивать возможности максимизации комфортности).

Появление методов искусственного программирования потребностей, наряду с  радикальным увеличением продолжительности жизни, может создать в обозримом будущем предпосылки для очередной смены ценностной парадигмы – переориентации всей деятельности снова на выживание. Это станет, в известном смысле, возвращением «к природе», к животному состоянию, но уже на качественно новой ступени эволюционного развития. Настоящая работа ставит целью показать, что, вопреки распространённому мнению, это не приведёт к деградации общества а, напротив, увеличит его стремление к развитию. Общество может стать более простым, более однобоким с точки зрения современного человека, но, при этом, парадоксальным образом соединить в себе идеалы гедонизма (легкодоступное максимальное наслаждение от жизни), марксизма (счастливый труд ради общего блага), сциентизма (ориентация на научно-техническое развитие) и даже религиозно-этических концепций (максимальное избавление человека от страданий, разрешение конфликтов, освобождение от «животных» страстей). Люди могут радикально изменить свои тела, стать киборгами, научиться произвольно менять форму, использовать любые мыслимые источники энергии. Но какие бы фантастические превращения не произошли с человеком в далёком будущем, ключевым останется вопрос о потребностях, о мотивации деятельности. И именно он определит ход дальнейшего развития человечества.

Литература

[1] Лем С. Сумма технологий / Пер. с польск. А. Г. Громовой, Д. И. Иорданского, Р. И. Нудельмана, Б. Н. Пановкина, Л. Р. Плинера, Р. А. Трофимова, Ю. А. Ярошевского – М.: Мир, 1968. – 607 с. [Lem S. Summa Technologiae. – Krakow: Wydawnictwo literackie, 1967]

[2] Лазаревич А. Генератор желаний. [Электронный ресурс]. 1995. – http://webcenter.ru/~lazarevicha/k2f/wg_1.htm

[3] Российское трансгуманистическое движение. [Электронный ресурс]. – http://transhumanism-russia.ru

[4] Бессмертие. [Электронный ресурс]. – http://bessmertie.ru

[5] Immortality. [Электронный ресурс]. – http://immortality.ru

[6] Диринг М. Рассвет сингулярности. [Электронный ресурс] / Пер. с англ. П. Васильева – http://transhumanism.org/languages/russian/dawnofsingularity/Deering.htm [Deering M. S. The Dawn of Singularity. – http://www.singularityawareness.com/mikebook.html]

[7] Косарёв В. В. Кто будет жить на земле в XXI веке? // Нева. 1997. № 10. С. 135–149. — http://vlad-kos.narod.ru/NEVA1.html

[8] Вечный разум. [Электронный ресурс]. – http://eternalmind.ru

[9] Хаксли О. О, дивный новый мир / Пер. с англ. О. Сороки, В. Бабкова. – СПб.: Амфора, 1999. – 541 с. [Huxley A. Brave new world. – London: Chatto & Windus, 1932. – 306 p.]

[10] Стругацкий А. Н., Стругацкий Б. Н. Хищные вещи века // Стругацкий  А. Н., Стругацкий Б. Н. Собр. соч. – М.: Текст, 1992. – Т. 3. – c. 413.

[11]     Pearce D. Hedonic Imperative. [Электронный ресурс]. 2005. – http://www.hedweb.com/hedethic/hedonist.htm; http://paradise-engineering.com/hedab.htm

[12] Болонкин А. А. Наука, душа, рай и высший разум. [Электронный ресурс]. 2001. – http://www.membrana.ru/articles/readers/2004/11/12/190200.html; http://bolonkin.narod.ru/p61.htm

[13] Симонов П. В. Что такое эмоция? – М.: Наука, 1966. – 93 с.

[14] Симонов П. В. Эмоциональный мозг. – М.: Наука, 1981. – 215 с.

[15] Фрейд З. По ту сторону принципа удовольствия. – М.: Прогресс, 1992. – 545 с. [Freud S. Beyond the Pleasure Principle. – London: Hogarth, 1920]

[16] Материалисты Древней Греции. Собрание текстов Гераклита, Демокрита и Эпикура. Под ред. М. Дьшника. – М.: Госполитиздат, 1955. – 238 с.

[17] Бентам Дж. Введение в основания нравственности и законодательства. – М.: Росспэн, 1998. – 415 с. [Bentam J. An introduction to the principles of morals and legislation. London, 1789]

[18] Милль Дж. С. Утилитарианизм. О свободе. 3-е изд. – СПб: Перевозников, 1900. – 236 с. [Mill J. S. Utilitarianism. – London, 1863]

[19] Gossen H. H. Entwickelung der Gesetze des menschlichen Verkehrs, und der daraus fliessenden Regeln für menschliche. – Berlin: R. L. Prager, 1889. [Gossen H. H. Entwickelung der Gesetze des menschlichen Verkehrs, und der daraus fliessenden Regeln für menschliche. – Braunschweig: Vieweg, 1854]

[20] Джевонс В. С. Политическая экономия. – СПб.: Народная польза, 1905 [Jevons W. S. Theory of Political Economy. – London: Macmillan, 1871]

[21] Менгер К. Основания политической экономии // Австрийская школа в политической экономии: К. Менгер, Е. Бем-Баверк, Ф. Визер. – М.: Экономика, 1992 [Menger C. Grundsätze der Volkswirtschaftslehre. – Wien.: W. Braumüller, 1871]

[22] Вальрас Л. Элементы чистой политической экономии или Теория общественного богатства. / Пер. с фр. И. А. Егоров, А. В. Белянин.– М.: Изограф, 2000. – 421 с. [Walras L. Éléments d'économie politique pure; ou, Théorie de la richesse sociale. Lausanne: Corbaz, 1874]

[23] Gruter M. Law and the Mind. Biological Origins of Human Behavior. Newbury Park, L & New Delhi: SAGE Publ. 1991.

[24] Danielli J. E. Altruism and the internal reward or the opium of the people // J. Soc. Biol. Structures. 1980. Vol. 3. P. 87–94.

[25] Simon H. A. A mechanism for social selection and successful altruism //Science. 1990. Vol.250. P.1665–1668.

[26] Милнер П. Физиологическая  психология / Пер. с англ. О. С. Виноградовой. – М.: Мир, 1973. – 647 с. [Milner P. M. Physiological psychology. – New York: Holt, Rinehart & Winston Inc., 1970]

[27] Бир С. Мозг фирмы. – М.: Радио и связь, 1993. – 192 c. [Beer S. Brain of the Firm: a development in management cybernetics. – New York: Herder and Herder, 1972. – 319 р.]

[28] Коршунов А. М., Преображенская И. С. Программированная смерть клеток (апоптоз) // Неврологический журнал. 1998. Т. 3, №1. С. 40–47.

[29] Hayflick L. The limited in vitro lifetime of human diploid cell strains // Experimental Cell Research. 1965. Vol. 37. P. 614–636.

[30] Оловников А. М. Принцип маргинотомии в матричном синтезе полинуклеотидов // Докл. АН СССР. 1971. Т. 201, N 6. С. 1496–1499.

[31] Bodnar A. G., Ouellette M., Frolkis M. Holt S. E., Chiu C. P., Morin G. B., Harley C. B., Shay J. W., Lichtsteiner S., Wright W. E. Extension of life-span by introduction of telomerase into normal human cells // Science. 1998. Vol. 279. P. 349–352.

[32] Кипятков В. Е. Мир общественных насекомых. – Л.: Изд-во Ленинградского университета, 1991. – 408 с.