Сингулярность
Закон Мура утверждает: мощность компьютеров удваивается примерно каждые полтора года. А теперь вообразите, что этот экспоненциальный рост становится экспоненциальным сам по себе. Таково потенциальное следствие явления, которое технари-головастики называют «сингулярностью», — компьютеры, способные создать сильный искусственный интеллект (сильный ИИ), мощнее человеческого.
Сторонники сингулярности — особенно изобретатель и футуролог Рей Курцвейл — утверждают: если компьютеры продолжат развиваться с текущей скоростью, сингулярность грянет в ближайшие 20-30 лет или даже раньше, если будут разработаны прикладные квантовые компьютеры. «Интел» уже переизобрел скромный транзистор — фотонами и усилением квантовых свойств увеличил вычислительную мощность, а Курцвейл основал так называемый Университет сингулярности, поддержанный «Гуглом» и НАСА, где к воплощению сингулярности в жизнь готовят новое поколение. Даже британское научное светило Стивен Хокинг допускает возможность сингулярности.
Это может произойти внезапно или постепенно, однако наши машины станут все более сложны и способны делать большую часть работы за нас. Один комментатор заявляет: «Наши машины все больше похожи на нас, ну а мы — на них». Вероятно, машины станут умнее и подвижнее, а вот люди подрастеряют интеллект и станут в результате все более привязанными к дому.
Любой настоящий сильный ИИ, чтобы стать, как мы, должен обладать четырьмя свойствами: распознавать объекты, поддерживать сложную беседу, проявлять изобретательность и уметь видеть социальные ситуации с чужой точки зрения. Дети учатся этим навыкам довольно долго — лет до восьми, покуда все четыре умения не проявятся в полной мере. Нет никаких оснований считать, что роботы не смогут выполнять любую порученную им задачу, от раскладывания продуктов из магазина до присмотра за детьми. Однако смогут ли они влюбляться или по-настоящему сопереживать человеку, мучающемуся от физической боли или снедаемому беспокойством?
«А что, если не всем хочется на это соглашаться?» Рей Курцвейл, писатель, изобретатель, футуролог
Сомневаюсь. Многие наши эмоции коренятся в биологических императивах, вшитых нам в гены тысячи лет назад. Заставить машины вести себя похожим манером потребует программирования их на такое же иррациональное поведение.
Движущие силы экономики
Говорят, сельскохозяйственные и промышленные революции — сингулярности, потому что при них изменения происходят гораздо быстрее, чем прежде. За последние 7000 лет производительность экономики удваивалась каждые 900 лет.
Сейчас она удваивается примерно каждые 15 лет, т. е. в 60 раз быстрее, чем в предыдущие семь тысячелетий. Следующий мощный скачок произойдет из-за дефицитности нашей экономики: сначала ресурсов, а потом, вероятно, человеческого времени и внимания. Если роботы смогут выполнять за людей их задачи (а две трети национального дохода выплачивается непосредственно в виде зарплат), произойдет огромный скачок производительности, который освободит людей для более вдохновляющих видов деятельности.
«Я уже заявлял, что мы не сможем предотвратить сингулярность — она наступает и есть неизбежное следствие естественной человеческой азартности и возможностей, заложенных в технологиях» Вернор Винджи (р. 1944), американский ученый-компьютерщик, профессор математики, фантаст
Или нет. Вообще-то всякий раз, когда возникает прибор, уменьшающий трудозатраты, свободного времени у нас отчего-то становится не больше, а меньше. Почему так? Вероятно, потому, что мы постоянно повышаем ожидания того, что мы сами и другие люди смогут сделать или произвести. Есть также соображение, что увеличение автоматизации приведет к массовой безработице и очередному восстанию луддитов.
Дешевле сконструировать робота, нежели всю жизнь платить кому-то за работу. Роботам не нужно спать, им не требуется отпуск. Но ценность человеческой работы может все равно расти и дальше — особенно если кому-то из нас больше нравится человеческое обслуживание и мы готовы за это доплачивать. Мы уже имеем некоторое представление об этом: покупая что-нибудь в супермаркете, вы можете выбрать машинное «обслуживание», а можете человеческое. Автоматическое сканирование и взаиморасчеты на кассе одним нравятся, другим — нет. Похожие «роботы без голов, рук и ног» уже обживают почтовые отделения и стойки регистрации аэропортов. Мы уже попали в окружение роботов, и интересно задуматься не над тем, станет ли их больше (станет), а что мы будем делать с их высокоумными (и технически беспристрастными) двоюродными братьями? Заменят ли они исполнительную власть, учителей, судей и т. д.?
Человеческое измерение
Роботы, занятые исключительно мыслительной деятельностью, могут обитать в виртуальном пространстве и быть, по сути, невидимыми, тогда как другие живут вместе с людьми и больше на них похожи. Курцвейл предлагает нечто еще более радикальное: «слияние биологического и небиологического разумов» с кульминацией в виде «бессмертных людей с программным обеспечением». Но в какой момент машину можно объявить человеком и, получи машина подобный статус, не заслужит ли она и человеческих прав?
Пугающая перспектива: машины, которые умнее нас. Но она же и позволит, видимо, оценить глубину человеческого разума и произвести нечто получше. Мыслимо ли проанализировать каждый дендрит, аксон и синапс человеческого мозга и осилить его воспроизведение? Не наивный и редукционистский ли это подход к человеческой жизни, пригодный при конструировании компьютеров, но фундаментально ущербный для создания человеческой жизни? Более того, интеллекту не нужно быть человеческим, чтобы с ним считались. Нам может выйти боком, если он человеческим не будет: совершенно реально, что с таким интеллектом окажется невозможно договариваться, применяя человеческую логику или эмоции.
Если можем делать, можем мы не делать?
Есть два способа смотреть на сингулярность. Первый — как на неизбежность. Наши мозги суть атомы, и мы однажды разберемся, как же они работают, и скопируем их искусственно. Вопрос только «когда?» и «как?», а не «если» или «да как мы смеем?». Другой — как на невозможность, и не стоит даже пытаться, потому что, если у нас случайно получится, нам придется перевернуть с ног на голову некоторые наши глубинные верования и взглянуть в глаза нашим величайшим страхам. Но вероятно, это все наше человеческое беспокойство. Быть может, в будущем мы просто примем тот факт, что технология существует, извлечем из нее все полезное и попросим философов обновить понятие «человек».
Цифровое бессмертие
Смахивает на научную фантастику, однако вся история компьютеров была ею с самого начала. Реймонд Курцвейл — большая шишка в мире сингулярности, и безумец он или гений — это как поглядеть. Он утверждает, что закон Мура — лишь начало. Комбинация увеличивающейся компьютерной мощности и создание кибернетических людей приведут к беспрецедентной возможности «внимательнее присмотреться к величайшим целям человечества». Он заявляет, что в один прекрасный день станет возможным выгрузить содержимое наших мозгов в компьютер и создать таким образом некоторое подобие человеческого бессмертия, в котором отважный муж (скорее всего, это будет мужчина!) сольется с машиной.