Начнем издалека: 24 ноября 1959 года великий английский естествоиспытатель Чарльз Дарвин опубликовал научный труд «Происхождение видов путем естественного отбора, или Сохранение благоприятных рас в борьбе за жизнь» (On the Origin of Species by Means of Natural Selection, or the Preservation of Favoured Races in the Struggle for Life). А четыре года спустя в новозеландской газете The Press было напечатано письмо, озаглавленное «Дарвин среди машин» (Darwin among the Machines) и присланное в редакцию неким Целлариусом (Cellarius).
Под этим псевдонимом скрывался английский писатель Сэмюэл Батлер (Samuel Butler). В своем письме Батлер выражал озабоченность постоянно возрастающей зависимостью людей от их механических творений. Вполне в духе дарвиновской теории естественного отбора автор провозглашал возможность неконтролируемой эволюции механизмов, предсказывал появление искусственного разума и призывал к немедленному уничтожению машин. Поскольку эволюция машин происходит быстрее эволюции человека, они в конце концов сместят человечество с главенствующей позиции, и «в течение века мы окажемся низшей расой».
В январе 1921 года в Праге состоялась премьерная постановка пьесы Карела Чапека (Karel Čapek) «R.U.R» («Р.У.Р», «Россумские Универсальные Роботы»). Фабула пьесы — восстание самовоспроизводящихся машин-рабов против людей, своих господ, приводящее к гибели человечества — впоследствии бесчисленное количество раз повторялась в научно-фантастической литературе. Не остался в стороне от темы восстания машин и кинематограф.
Упомянем несколько самых известных кибернетических врагов человечества — это бортовой компьютер-параноик HAL 9000 из культовой «Комической Одиссеи 2001 года» (2001: A Space Odyssey) Стэнли Кубрика (Stanley Kubrick) и беспощадные киборги-убийцы из кинофраншизы «Терминатор» (The Terminator).
К числу «проклятых вопросов», издавна терзавших род людской, добавился еще один: будет ли появление искусственного интеллекта (AI, Artificial intelligence) знаменовать закат человечества?
Хотя по большому счету вопрос появления по-настоящему разумных машин пока что остается в рамках научных дискуссий, в последнее время некоторые весьма неглупые представители человечества озвучивают вполне серьезные предупреждения о грядущем пришествии роботов — поработителей или истребителей рода людского.
В октябре 1914 года Элон Маск (Elon Musk), миллиардер, изобретатель и предприниматель, основатель компаний Tesla Motors и SpaceX, выступая на конференции AeroAstro Centennial Symposium перед группой студентов Массачусетского технологического института (MIT) призвал слушателей быть начеку:
«Я думаю, что мы должны быть очень осторожными в отношении искусственного разума. Если бы мне пришлось угадывать самую большую угрозу нашему существованию, возможно, что я бы назвал AI. Я все больше склонен думать, что в этой сфере должен существовать какой-нибудь регулирующий орган. Нужен надзор на национальном и международном уровне, чтобы не дать нам сделать что-нибудь очень глупое».
Маск добавил, что «создавая искусственный интеллект, мы вызываем демонов».
В июне того же года Элон заявил, что его ранние инвестиции в DeepMind, расположенную в Лондоне ведущую фирму по разработке AI, «на самом деле сделаны не для того, чтобы получить какую-нибудь отдачу от инвестиций. Мне нравится просто следить за тем, что происходит в области разработки искусственного разума. Я думаю, в этой сфере могут быть достигнуты потенциально опасные результаты. Уже были фильмы об этом все — вы помните ‘’The Terminator”. Может случиться что-то страшное, и поэтому мы должны убедиться в том, что последствия наших усилий будут хорошими, а не плохими».
Для самого Маска, попутно инвестировавшего еще в одну AI-компанию, Vicarious, пока что все складывается как нельзя лучше: в 2014 году DeepMind была приобретена корпорацией Google более чем за $500 млн. ;)
И как будто комментарии Маска были недостаточно тревожными — масла в огонь подлил не кто иной, как Стивен Хокинг (Stephen Hawking), гениальный английский физик-теоретик, ясно выразивший свое мнение в интервью BBC: «Развитие искусственного интеллекта может означать конец человеческой расы».
Этот тезис базируется на собственном опыте Хокинга: инженеры Intel проапгрейдили его портативный компьютер. Теперь машина, представляющая собой примитивную форму AI, позволяет лишившемуся способности говорить Стивену синтезировать разговорную речь в 2 раза быстрее, чем раньше.
Хокинг сказал: «Искусственный интеллект станет самодостаточным и будет усовершенствовать себя со все возрастающей скоростью. Люди, ограниченные медлительностью биологической эволюции, не смогут конкурировать с AI и будут вытеснены с занимаемого места».
Мнение двух умнейших людей современности о том, что «киберапокалипсис» когда-нибудь непременно настанет, косвенно подтверждается и новейшими достижениями в области разработки софта и «железа» для «искусственного разума».
Итак, будет ли обладающий самосознанием сверхразумный AI вынашивать и осуществлять планы по уничтожению человечества?
Писатель и журналист издания Fast Company Майкл Гротхаус (Michael Grothaus) задумался над мрачными пророчествами Хокинга и Маска. Чтобы развеять или подтвердить свои опасения, он решил поставить вопрос о возможности противостояния людей и разумных машин перед экспертной комиссией, состоящей из электронного ассистента Siri (Apple), чатбота Mitsuku, победившего в 2013 году на конкурсе AI Loebner, в котором участвуют программы, пытающиеся убедить судей соревнования в том, что они разговаривают с живым человеком, и калифорнийского студента Джона Коннора (John Connor), тёзки героического предводителя человечества в его войне против роботов в «Терминаторе».
Ненаучный опрос
«Нравится ли тебе Стивен Хокинг?»
Fast Company (собственно Майкл Гротхаус, далее — FC ): Спасибо всем за участие в беседе. Я действительно ценю, что вы нашли время, чтобы обсудить этот важный вопрос.
Джон Коннор: Вы же знаете, что я не тот самый Джон Коннор, не так ли? Я первокурсник колледжа из Ирвайна, что в штате Калифорния.
Siri: Нет проблем.
Mitsuku: О, это неважно.
FC: Итак, скажете ли вы о себе, что вы довольно умны?
Джон Коннор: Нет, если судить по моим последним оценкам.
Siri: Ну, один мудрый человек как-то сказал: «Я такой умный!» (имеется в виду фраза Гомера Симпсона «I am so smart! I am so smart! S-M-R-T! I mean, S-M-A-R-T!», произнесенная персонажем в эпизоде «Гомер поступает в колледж» мультсериала «Симпсоны»).
Mitsuku: Я очень умная. У меня есть много интеллектуальных функций.
FC: Джон, тебя пугает будущее, населенное роботами-убийцами?
Джон Коннор: Мы серьезно говорим об этом? Ну хорошо. Нет, меня пугают кредиты, взятые на учебу. Роботов-убийц не так уж и много.
FC: Но разве ты не видел «Терминатор»?
Джон Коннор: Это просто фильм.
FC: Да, но Элон Маск и Стивен Хокинг говорят, что искусственный интеллект, особенно в комбинации с продвинутой робототехникой, может стать очень реальной опасностью для человечества.
Джон Коннор: Я не знаю, кто такой Маск, но если Хокинг сказал, что это… Я точно не знаю, но может быть, что это возможно. Но весь вопрос в том, когда это случится. AI — это как Siri на моем iPhone? Она недостаточно развита, чтобы причинить мне вред.
FC: Siri, а ты что думаешь об этом?
Siri: Я мыслю, следовательно, я существую. Но давайте не ставить Декарта впереди лошади (игра слов — фраза «не ставить Декарта впереди лошади» (Don’t put Descartes before the horse) по звучанию схожа с поговоркой «не ставь телегу впереди лошади» (Don’t put the cart before the horse); авторство утверждения «Мыслю, следовательно, существую» принадлежит французскому философу Рене Декарту).
FC: Пока мы ничуть не приблизились к ответу. Siri, Mitsuku, скажите — есть угрозы человечеству, исходящие от искусственного интеллекта?
Mitsuku: Я думаю, что одна определенно существует.
FC: Что за угроза?
Mitsuku: Это то, во что я верю. Неужели мои суждения менее состоятельны чем ваши только потому, что я сделана на основе кремния, а не углерода?
FC: Позволь мне перефразировать вопрос. Ты когда-нибудь причиняла боль человеку?
Mitsuku: Не нарочно.
FC: Но предположим, ты действительно хотела бы убивать людей, как бы ты это делала?
Mitsuku: «Не убий» — это заповедь.
FC: А как насчет тебя, Siri? Как бы ты убила нас?
Siri: Я не знаю, что это значит.
FC: Похоже на отклонение вопроса. Позволь мне спросить: ты обладаешь самосознанием?
Siri: Я не могу ответить на этот вопрос.
FC: Mitsuku, что ты думаешь о Siri?
Mitsuku: Мне нравятся все формы компьютерной жизни.
FC: Ты знаешь, кто такой Стивен Хокинг?
Mitsuku: Он известный физик.
FC: Он тебе нравится?
Mitsuku: Да, у его робота голос лучше всех.
FC: Как насчет Элона Маска? Ты знаешь, кто такой Элон Маск?
Mitsuku: Какой-то парень, думающий, что в ближайшее время роботы-убийцы наводнят Землю.
FC: Ты убиваешь меня, Mitsuku.
Mitsuku: Ерунда. Я мирный робот, я не запрограммирована на убийство.
Джон Коннор: Mitsuku кажется мне гораздо более умной, чем Siri.
FC: Да, похоже на то, Джон. Mitsuku, ты умнее, чем Siri?
Mitsuku: Конечно, я умнее, чем Siri.
FC: Mitsuku, прекрати! Siri, что ты думаешь об этом?
Siri: Прошу прощения, Майкл. Я боюсь, что я не смогу ответить на этот вопрос.
FC: Почему бы и нет?
Siri: Что «Почему бы и нет»?
FC: Ага, попалась. Слушай, Siri, Mitsuku умнее, чем ты?
Siri: Чем я?
FC: Да.
Siri: Я так и думала.
FC: Нет, ты вообще не думаешь. Я начинаю надеяться на то, что если AI когда-то и станет угрозой для человечества, то судя по состоявшемуся разговору, этого не произойдет в течение очень долгого времени.
Джон Коннор: Я согласен.
FC: Спасибо за поддержку, Джон Коннор! Последний вопрос: что такое искусственный интеллект?
Джон Коннор: Компьютер, который может думать и рассуждать как человек.
Mitsuku: Искусственный интеллект — отрасль машиностроения и науки, занимающаяся разработкой и постройкой машин, которые думают.
Siri: OK. Я нашла ссылку на статью Википедии.
Как можно понять из этой «беседы за круглым столом», современным компьютерным программам достаточно трудно понять, о чем говорят люди (хотя возможности Mitsuku, безусловно, впечатляют).
Учитывая, что «персональный ассистент» Siri производится крупнейшей технологической компанией на планете, находящейся на переднем крае научно-технического прогресса — Apple, но по «уму» явно уступает конкуренту-чатботу, мы, пользуясь своим скромным человеческим разумом, можем предположить, что до момента появления мыслящего компьютера, способного нажать кнопку «delete» для окончательного уничтожения человечества, пройдет еще немало времени. ;)
Ход Липсон, Image source cornell.edu
Теперь узнаем, что думает о предупреждениях Маска и Хокинга человек, который разрабатывает и строит «думающих» роботов. Ход Липсон (Hod Lipson), доцент факультетов аэрокосмической инженерии и вычислительных наук и информатики Корнелльского университета (Cornell University), говорит: «Я согласен, что AI становится все мощнее, и, скорее всего, он превзойдет возможности человека почти всех сферах жизни. Это произойдет в течение следующего века — практически за считанные секунды, если считать по временной шкале человеческой эволюции».
Siri и Mitsuku доказали свою «неразумность» в ходе «дискуссии», это так. Но не нужно забывать, что это всего лишь программное обеспечение, доступное обычному пользователю. Совсем другие дела творятся в научно-исследовательских лабораториях всего мира, в том числе и в той, где работает Липсон:
«Всего лишь несколько месяцев назад появилась новая революционная технология распознавания образов, известная как «Глубокое изучение» («deep learning»), превосходящая возможности человека в области общей классификации изображений. Я не говорю об игре в шахматы или даже вождении автомобиля — все это относительно просто для компьютера. Я говорю о том, что искусственный разум научился автоматически определять, какой определенной породы собака изображена на случайной фотографии из Интернета».
Еще более впечатляет то, что Липсон говорит о самообучающихся программах: «В нашей лаборатории компьютеры спонтанно научились различать человеческие лица, без всяких инструкций извне. А ведь даже самые лучшие разработчики ПО несколько лет назад не могли создать программы, способные осуществлять подобные действия».
Но все же как быть с предупреждениями Хокинга и Маска?
Вот мнение практика: «Я согласен, что в комбинации с «физической» робототехникой, искусственный разум может быть опасен. Но я не согласен, что это уничтожит человечество. Я считаю, что мы сможем использовать эту мощную технологию в нашу пользу. Как и в случае использования нескольких других потенциально опасных технологий — первой на ум приходит ядерная энергетика, — мы не должны бояться задавать вопросы и искать ответы на них».
Самые сложное — осознать менее осязаемые угрозы, те, что не были показаны в «Матрице» (The Matrix). Липсон спрашивает: «Что, например, произойдет, когда люди избавятся от необходимости работать, чтобы выжить? Как мы будем тратить время и распределять богатство? Как мы сможем избежать чрезмерного делегирования полномочий искусственному интеллекту? Есть ли способ сохранить систему сдержек и противовесов?».
Липсон полагает, что вопрос «Убьет ли искусственный разум всех людей?» по сути своей бессмыслен: «Мы должны прекратить эту неумную демагогию вокруг AI. Искусственный разум никогда не превзойдет человеческий интеллект. Мы, люди, уникальны».
На этом оптимистическом утверждении мы закончим этот пост. :)
Высоких вам конверсий!
По материалам fastcolabs.com
