Грозит ли нам восстание роботов: искусственный интеллект
«Опасностью прошлого было, что люди станут рабами. Опасность будущего — что люди станут роботами.»
Эрих Фромм
О том, что «поумневшие» роботы могут захотеть самостоятельности, выйти из-под контроля и даже поработить человечество, написано немало книг и снято множество фантастических фильмов. Существует ли такая угроза в реальности?
Каких роботов не стоит бояться
В середине XX века появились первые промышленные роботы, заменившие человека в выполнении простых технологических манипуляций или в работе с опасными веществами. В них не было ничего от людей. В большинстве случаев такой робот представлял собой железную «руку», которая умела завинтить гайку, отрезать кусок стального листа или шлифовать поверхность детали.
Вряд ли такие устройства были способны на восстание, но об опасности неповиновения развивающегося искусственного интеллекта заговорили уже тогда. Хотя на самом деле те роботы не обладали даже зачатками интеллекта. Они были способны лишь выполнять несложные алгоритмы — последовательные действия. Риски, связанные с искусственным интеллектом, не сводятся к сценарию «мыслящего робота», вышедшего из-под контроля. Они могут возникать и у систем, которые не обладают сознанием: из-за ошибок, предвзятости данных, неверного применения, уязвимостей, автоматизации важных решений или использования ИИ людьми во вредных целях.
Что же такое искусственный интеллект? На этот вопрос не могут точно ответить даже те, кто занимается его созданием. Вернее, ответов у них слишком много, и о том, какой из них верный, есть разные мнения. Проблема прежде всего в том, что механизм человеческого интеллекта еще не до конца изучен психологами. Кроме того, между учеными нет единства в вопросе о том, какие функции и способности компьютера считать интеллектуальными.
Единого перечня способностей, который автоматически превращал бы программу в «настоящий ИИ», нет. В современной практике этим термином называют широкий класс систем, способных выполнять задачи, обычно требующие человеческих когнитивных способностей: распознавать закономерности, работать с языком и изображениями, делать прогнозы, планировать или генерировать новый контент. Такие системы могут быть очень сильны в отдельных задачах и при этом не обладать человеческим сознанием или универсальным пониманием мира.
Мы живем в обществе, которое полностью зависит от науки и технологии и в котором мало кто знает хоть чтонибудь о науке и технологии» (К. Саган)
Робот-собака, робот-хирург и другие
Промышленные роботы широко применяются для автоматизации повторяющихся и опасных операций
Сегодня робототехника продвинулась далеко вперед. К примеру, японцы, признанные лидеры в этой сфере, создали собаку-робота, которая умеет распознавать лица, понимать значение некоторых фраз, выполнять известные команды и даже обучаться новым. Американская корпорация IBM сконструировала суперкомпьютер, умеющий играть в шахматы. Этой машине удалось обыграть чемпиона мира Гарри Каспарова. Роботы даже проводят (конечно же, с помощью людей) собственные чемпионаты по футболу.
Значит ли это, что пора начинать волноваться? Что не за горами время, когда думающие машины станут умнее нас с вами и больше не захотят находиться в подчинении? Современные системы уже способны писать и анализировать тексты, распознавать изображения, программировать, помогать в научных задачах и выполнять множество других интеллектуальных операций. Но это не означает, что они эквивалентны человеческому разуму: вопрос о создании общего искусственного интеллекта и о наличии сознания у машин остаётся открытым. Поэтому разработчики и исследователи уделяют большое внимание безопасности, надёжности и управлению рисками ИИ.
Автоматизация действительно меняет рынок труда, но её последствия неодинаковы для разных профессий: одни задачи исчезают, другие меняются, появляются новые специальности. Медицинские роботизированные системы, например, обычно не «работают вместо хирурга», а управляются врачом и служат его инструментом. Поэтому корректнее говорить не о неизбежном исчезновении большинства профессий, а о перераспределении задач между людьми и автоматизированными системами.
В фантастике принято считать машину мыслящей и разумной, если она приобретает способность творить и чувствовать. Правда, с этими критериями не совсем согласны ученые…