Тест Тьюринга

Английского математика Алана Тьюринга считают отцом компьютеров. Он придумал воображаемое устройство, которое способно следовать заложенным инструкциям. Но сможет ли такое устройство думать, как человек?

Машина Тьюринга — абстрактная математическая модель вычисления, которую Тьюринг описал в работе 1936 года о вычислимых числах. Она была создана не как схема конкретного будущего компьютера и не как прямое следствие теорем Гёделя, а как строгий способ рассуждать о том, какие операции вообще могут быть выполнены алгоритмом. Электронные компьютеры, появившиеся позднее, реализовывали вычисления иным физическим способом. Машина Тьюринга должна была работать, считывая инструкции с ленты бесконечной длины, и выполнять их в соответствии с заложенными в нее правилами или алгоритмами.

Алан Тьюринг

Когда же электронная эра началась на самом деле, люди стали задумываться: если мы тоже думаем именно таким образом, то может быть написан алгоритм, повторяющий работу человеческого разума. И если это верно, то может ли на самом деле компьютер думать?

В изложении Stanford Encyclopedia of Philosophy Тьюринг предложил определять не то, как именно работает разум, а то, насколько он умен. Ученый предложил тест, в котором человеку предстояло общаться с двумя невидимыми собеседниками в других комнатах. Одним из этих собеседников был бы человек, а другим — компьютер. И если испытуемый не сможет, задавая вопросы и получая на них ответы, определить, кто из его собеседников является человеком, то это будет означать, что компьютер обладает искусственным интеллектом (ИИ).

В последующие десятилетия многие программы пытались пройти различные версии теста. Современные языковые модели уже способны в некоторых коротких текстовых экспериментах убедить часть собеседников, что перед ними человек. Однако единого официального «экзамена Тьюринга» с обязательными правилами не существует, а успешная имитация человеческого разговора сама по себе не доказывает наличие сознания, понимания или человеческого типа мышления.

Тест Тьюринга обычно проходит в  виде обмена вопросами и  ответами на экране монитора. Человеку дается пять минут на то, чтобы определить, с  кем именно он общается.

Китайская комната

Наиболее серьезный аргумент против теста Тьюринга выдвинул в 1980-м американский философ Джон Серль, поставив мысленный эксперимент «китайская комната». Он представил, что находится в комнате, полной табличек с китайскими иероглифами, — при этом сам исследователь не знает ни слова по-китайски. Вдобавок у него есть учебник, написанный по-английски, объясняющий правила сочетания символов. Используя эти правила, можно, получая извне некоторый набор символов, передавать обратно другой набор, соответствующий правилам китайского языка.

Джон Серль

Со временем достигается такой уровень сноровки, что на взгляд стороннего наблюдателя ответы демонстрируют знание испытуемым китайского. Другими словами, вопросы и ответы выглядят так, словно диалог ведут люди, прекрасно говорящие по-китайски. Но на самом деле человек в комнате не понимает ни единого символа из тех, которыми пользуется, он лишь манипулирует ими.

«Современные попытки понять сознание по аналогии с компьютером, который может блестяще продемонстрировать внешние признаки сознательного существа, можно расценивать как грандиозную бессмысленную трату времени» Томас Нагель, 1986

По мысли Серля, компьютерная программа действует подобно человеку в «китайской комнате»: манипулирует символами по правилам, не обязательно понимая их смысл. Из этого Серль делал вывод, что одного правильного поведения программы недостаточно, чтобы доказать понимание. Это философский аргумент, а не экспериментально установленный факт: сторонники функционализма и других подходов оспаривают вывод Серля и само сравнение программы с человеком в комнате.

Если «пройти тест Тьюринга» означает подобрать подходящие ответы на вопросы, то «китайская комната» перечеркивает его претензии на способность определить машинный разум. Если же тест Тьюринга работает, то правомерна основная идея сторонников искусственного интеллекта. Но это не единственная закавыка. Если мы принимаем выводы, полученные в эксперименте с «китайской комнатой», то тем самым подрываем устои двух важнейших подходов в философии сознания.

Проблема бихевиоризма и функционализма

Центральная идея бихевиоризма заключается в том, что ментальные явления могут быть переведены, без потери смысла, на язык поведения. Например, если человеку больно, об этом можно сообщить особыми жестами, гримасами и т. п. Иными словами, бихевиористские подходы связывают разговор о ментальных состояниях с наблюдаемым поведением. «Китайская комната» Серля стала одним из известных возражений против идеи, что правильно организованного поведения достаточно для понимания, однако она не считается окончательным опровержением бихевиоризма или функционализма. Функционализм остаётся влиятельным направлением философии сознания, но наряду с ним существуют и конкурирующие подходы.

Прикрывая многие изъяны бихевиоризма, функционализм утверждает, что ментальные состояния функциональны: состояние сознания определяется как функция, зависящая от различных входных параметров (причин, вызывающих эту функцию) и воздействующая на выходные параметры (обычно проявляющиеся в поведении). Используя компьютерные аналогии, функционализм (как и бихевиоризм) можно считать «программным обеспечением» теории сознания: он определяет мыслительные явления в категориях «вход» и «выход», не обращая внимания на «железо» (в отличие от дуалистов, физикалистов и прочих). Проблема заключается в том, что, сосредоточившись на «входных данных» и «выходных данных», мы рискуем вновь очутиться в «китайской комнате».

«Турок»

В 1770-м венгерский изобретатель Вольфганг фон Кемпелен представил механического игрока в  шахматы, которого он назвал «Турок». Фон Кемпелен объехал королевские дворы Европы, и  на глазах у  монархов его механический робот регулярно обыгрывал людей. Многие поверили, что Кемпелену удалось создать мыслящую машину в  форме сундука, на котором сверху помещался манекен, одетый в  турецком стиле, двигавший фигуры механической рукой. Перед каждой игрой Кемпелен демонстрировал механизмы и  пустое пространство внутри сундука. Разумеется, это был трюк. В  замаскированном пространстве находился искусный шахматист-человек небольшого роста, который прятался во время проверок.