Сингулярность

Закон Мура — не физический закон и не утверждение о том, что «мощность компьютеров» обязана удваиваться каждые полтора года. Первоначально Гордон Мур описывал рост числа компонентов на интегральных схемах, а позднее наблюдение часто связывали с удвоением числа транзисторов примерно раз в два года. В XXI веке рост вычислительных возможностей продолжается, но всё сильнее зависит от архитектуры, параллельных вычислений, специализированных ускорителей и программного обеспечения.

Технологической сингулярностью называют гипотетический момент, после которого развитие искусственного интеллекта станет настолько быстрым, что привычное прогнозирование потеряет смысл. Рей Курцвейл и другие футурологи предлагали конкретные сроки, однако научного консенсуса о неизбежности или дате сингулярности нет. Быстрый прогресс генеративного ИИ в 2020-х сделал дискуссию заметнее, но сам по себе не доказывает наступление сильного искусственного интеллекта.

Рей Курцвейл

Стивен Хокинг

Это может произойти внезапно или постепенно, однако наши машины станут все более сложны и способны делать большую часть работы за нас. Один комментатор заявляет: «Наши машины все больше похожи на нас, ну а мы — на них». Вероятно, машины станут умнее и подвижнее, а вот люди подрастеряют интеллект и станут в результате все более привязанными к дому.

Не существует общепринятого списка из четырёх свойств, который позволял бы однозначно объявить систему «сильным ИИ». Исследователи оценивают множество способностей: обучение, перенос навыков на новые задачи, планирование, восприятие, язык, социальное понимание и устойчивость к новым условиям. Машина при этом вовсе не обязана мыслить или чувствовать точно так же, как человек.

«А что, если не всем хочется на это соглашаться?» Рей Курцвейл, писатель, изобретатель, футуролог

Сомневаюсь. Многие наши эмоции коренятся в биологических императивах, вшитых нам в гены тысячи лет назад. Заставить машины вести себя похожим манером потребует программирования их на такое же иррациональное поведение.

Движущие силы экономики

Говорят, сельскохозяйственные и промышленные революции — сингулярности, потому что при них изменения происходят гораздо быстрее, чем прежде. За последние 7000 лет производительность экономики удваивалась каждые 900 лет.

Сейчас она удваивается примерно каждые 15 лет, т. е. в 60 раз быстрее, чем в предыдущие семь тысячелетий. Следующий мощный скачок произойдет из-за дефицитности нашей экономики: сначала ресурсов, а потом, вероятно, человеческого времени и внимания. Если роботы смогут выполнять за людей их задачи (а две трети национального дохода выплачивается непосредственно в виде зарплат), произойдет огромный скачок производительности, который освободит людей для более вдохновляющих видов деятельности.

«Я уже заявлял, что мы не сможем предотвратить сингулярность — она наступает и есть неизбежное следствие естественной человеческой азартности и возможностей, заложенных в технологиях» Вернор Винджи (р. 1944), американский ученый-компьютерщик, профессор математики, фантаст

Или нет. Вообще-то всякий раз, когда возникает прибор, уменьшающий трудозатраты, свободного времени у нас отчего-то становится не больше, а меньше. Почему так? Вероятно, потому, что мы постоянно повышаем ожидания того, что мы сами и другие люди смогут сделать или произвести. Есть также соображение, что увеличение автоматизации приведет к массовой безработице и очередному восстанию луддитов.

Дешевле сконструировать робота, нежели всю жизнь платить кому-то за работу. Роботам не нужно спать, им не требуется отпуск. Но ценность человеческой работы может все равно расти и дальше — особенно если кому-то из нас больше нравится человеческое обслуживание и мы готовы за это доплачивать. Мы уже имеем некоторое представление об этом: покупая что-нибудь в супермаркете, вы можете выбрать машинное «обслуживание», а можете человеческое. Автоматическое сканирование и взаиморасчеты на кассе одним нравятся, другим — нет. Похожие «роботы без голов, рук и ног» уже обживают почтовые отделения и стойки регистрации аэропортов. Мы уже попали в окружение роботов, и интересно задуматься не над тем, станет ли их больше (станет), а что мы будем делать с их высокоумными (и технически беспристрастными) двоюродными братьями? Заменят ли они исполнительную власть, учителей, судей и т. д.?

Человеческое измерение

Роботы, занятые исключительно мыслительной деятельностью, могут обитать в виртуальном пространстве и быть, по сути, невидимыми, тогда как другие живут вместе с людьми и больше на них похожи. Курцвейл предлагает нечто еще более радикальное: «слияние биологического и небиологического разумов» с кульминацией в виде «бессмертных людей с программным обеспечением». Но в какой момент машину можно объявить человеком и, получи машина подобный статус, не заслужит ли она и человеческих прав?

Пугающая перспектива: машины, которые умнее нас. Но она же и позволит, видимо, оценить глубину человеческого разума и произвести нечто получше. Мыслимо ли проанализировать каждый дендрит, аксон и синапс человеческого мозга и осилить его воспроизведение? Не наивный и редукционистский ли это подход к человеческой жизни, пригодный при конструировании компьютеров, но фундаментально ущербный для создания человеческой жизни? Более того, интеллекту не нужно быть человеческим, чтобы с ним считались. Нам может выйти боком, если он человеческим не будет: совершенно реально, что с таким интеллектом окажется невозможно договариваться, применяя человеческую логику или эмоции.

Если можем делать, можем мы не делать?

Отношение к сингулярности не сводится к выбору между «неизбежна» и «невозможна». Есть множество промежуточных сценариев: ИИ может становиться значительно мощнее без резкого скачка, автоматизация может упираться в экономические и физические ограничения, а возможности систем — расти неравномерно. Поэтому сингулярность полезнее рассматривать как футурологическую гипотезу, а не как предсказанное событие.

Цифровое бессмертие

«Загрузка сознания» и цифровое бессмертие остаются ещё более спекулятивными идеями. Современная нейронаука не умеет считывать все состояния человеческого мозга и воспроизводить личность как работающую цифровую копию. Даже если в будущем станет возможно моделировать мозг значительно точнее, останутся отдельные научные и философские вопросы о памяти, сознании и тождестве личности.