Большое собрание ученых, лидеров отрасли и НПО начали кампанию, чтобы остановить роботов-убийц, посвященную предотвращению развития боевых автономных систем вооружения. Среди тех, кто подписался были: Стивен Хокинг, Ноам Хомский, Элон Маск и Стив Возняк.
Эти громкие имена вызывают много внимания и придают законность тому, что роботы-убийцы, когда-то считавшиеся научной фантастикой, на самом деле быстро приближаются к реальности.
Интересное исследование, опубликованное в Международном журнале исследований культуры используют другой подход к идее «роботов-убийц» как культурного концепта. Исследователи утверждают, что даже самые продвинутые роботы — это просто машины, как и все остальное когда либо сдеаланное человечеством.
«Дело в том, что убийца робот’ как идея возникла не из воздуха», — сказал соавтор Теро Karppi, доцент кафедры теории СМИ в университете Буффало. «Этому предшествовали методы и технологии, позволяющие сделать мышление и развитие этих систем возможными».
Другими словами, мы беспокоимся о роботах-убийцах. Авторы раскрывают тему роботов — убийц в таких фильмах, как «Терминатор» или «Я, робот», в котором они предположили, что далеко в будущем роботы будут в конечном итоге порабощать человеческую расу.
«За последние десятилетия, расширенное использование беспилотных вооружений резко изменило войны, принося новые гуманитарные и правовые проблемы. Сейчас возрос стремительный прогресс в технологии, в результате усилий по разработке полностью автономного оружия. Эти роботизированные оружия будут иметь возможность выбирать огонь по цели самостоятельно, без какого-либо вмешательства человека.»
Исследователи отвечают, что эти алармистские сценарии антиутопии отражают «технико-детерминистское» мировоззрение, где технологическим системам дают слишком много автономии, что может стать разрушительными не только для общества, но и для всей человеческой расы.
Но что, если мы закодируем машинный интеллект таким образом, что роботы даже не смогут найти различия между человеком и машиной? Это интригующая идея: если нет никаких «нас» и «них» не может быть никакого «мы против них».
Действительно, Karppi предположил, что мы можем быть в состоянии управлять, как будущие машины будут думать о людях на фундаментальном уровне.
Если мы хотим внести изменения в разработки этих систем, сейчас самое время. Просто запретить смертельное автономное оружие и устранить коренные причины этой дилеммы. Чтобы действительно избежать развития автономных машин для убийства.
Компания Clearpath Robotics была основана шесть лет назад тремя друзьями по колледжу, которых объединила страсть делать всякие штуки. 80 специалистов компании испытывают роботов для движения по пересеченной местности вроде Husky, четырехколесного робота, используемого минобороны США.
Также они делают дронов и даже построили роботизированную лодку Kingfisher. Однако одного они точно никогда не построят: робота, который может убивать.
Clearpath является первой и пока единственной компанией по производству роботов, которая пообещала не создавать роботов-убийц. Решение было принято в прошлом году соучредителем и CTO компании Райаном Гарипаем и по факту даже привлекло в компанию экспертов, которым понравилась уникальная этическая позиция Clearpath.
Husky
Этика компаний, производящих роботов, в последнее время выходит на передние позиции. Видите ли, мы одной ногой в будущем, в котором будут существовать роботы-убийцы. И мы пока совершенно не готовы к ним.
Конечно, впереди еще длинный путь. Корейская Dodam systems, например, строит автономную роботизированную турель под названием Super aEgis II. Она использует тепловизионные камеры и лазерные дальномеры для выявления и атаки целей на расстоянии до 3 километров. США, судя по сообщениям, тоже экспериментируют с автономными ракетными системами.
В двух шагах от «терминаторов»
Военные беспилотники вроде Predator в настоящее время управляются людьми, но Гарипай говорит, что очень скоро они станут полностью автоматическими и автономными. И это беспокоит его. Очень. «Смертоносные автономные системы оружия могут сойти с конвейера уже сейчас. Но смертоносные оружейные системы, которые будут делаться в соответствии с этическими нормами, — их нет даже в планах».
Для Гарипая проблема заключается в международных правах. На войне всегда бывают ситуации, в которых применение силы кажется необходимым, но оно также может подвергнуть опасности невинных прохожих. Как создать роботов-убийц, которые будут принимать правильные решения в любой ситуации? Как нам определить самостоятельно, каким должно быть правильное решение?
Подобные проблемы мы уже наблюдаем на примере автономного транспорта. Допустим, собака перебегает дорогу. Должен ли робот-автомобиль свернуть, чтобы не сбить собаку, но подвергнуть риску своих пассажиров? А если это не собака, а ребенок? Или автобус? Теперь представьте зону боевых действий.
«Мы не можем договориться о том, как написать руководство по эксплуатации такого автомобиля, — говорит Гарипай. — А теперь мы еще и хотим перейти к системе, которая должна самостоятельно решать, применять ей смертоносную силу или нет».
Делайте крутые штуки, а не оружие
Питер Асаро провел последние несколько лет, лоббируя запрет на роботов-убийц в международном сообществе, будучи основателем Международного комитета по контролю роботизированных армий. Он считает, что пришло время для «четкого международного запрета на их развитие и использование». По его словам, это позволит компаниям вроде Clearpath продолжать делать классные штуки, «не переживая, что их продукты могут быть использованы для нарушения прав людей и угроз мирным жителям».
Автономные ракеты интересны военным, потому что они решают тактическую задачу. Когда беспилотники с дистанционным управлением, например, работают в боевых условиях, противник нередко заглушает датчики или сетевое соединение, чтобы человек-оператор не мог видеть, что происходит, или управлять дроном.
Гарипай говорит, что вместо разработки ракет или дронов, которые могут самостоятельно решать, какую цель атаковать, военным нужно тратить деньги на улучшение датчиков и защиты от заглушения технологий.
«Почему бы нам не взять инвестиции, которые люди хотели бы вложить для постройки автономных роботов-убийц, и не вложить их в повышение эффективности существующих технологий? — говорит он. — Если мы поставим задачу и преодолеем этот барьер, мы сможем заставить эту технологию работать на благо людей, не только военных».
В последнее время также участились разговоры об опасности искусственного интеллекта. Элон Маск беспокоится, что вышедший из-под контроля ИИ может уничтожить жизнь, какой мы ее знаем. В прошлом месяце Маск пожертвовал 10 миллионов долларов на исследования в области искусственного интеллекта.
Один из важных вопросов о том, как ИИ повлияет на наш мир, заключается в том, как он сольется с робототехникой. Некоторые вроде исследователя из Baidu Эндрю Нг беспокоятся, что грядущая революция ИИ отнимет у людей работы. Другие вроде Гарипая опасаются, что может отнять и жизни.
Гарипай надеется, что его коллеги, ученые и строители машин задумаются о том, что делают. Потому и Clearpath Robotics приняла сторону людей. «Хотя мы, как компания, не можем поставить на это 10 миллионов долларов, но мы можем поставить нашу репутацию».
Илон Маск не так давно высказался в том духе, что он выступает резко против того, чтобы ИИ использовался для создания роботов-убийц. Речь пока не о «Терминаторах», а о роботизированных системах, способных выполнять какие-то задачи, обычно являющиеся обязанностью солдат. Интерес военных к этой теме понятен, но их далеко идущие планы пугают многих.
Но не только современные вояки спят и видят автоматы, которые могут заменить десять, а то и сто солдат одновременно. Эти мысли посещали головы деятелей разных эпох. Иногда некоторые задумки реализовывались, и выглядели они весьма неплохо.
Робот-рыцарь Да Винчи
Леонардо был гением практически во всех сферах. Ему удавалось достигать успеха практически во всех областях, к которым он проявлял интерес. В 15-м веке он создал робота-рыцаря (конечно, тогда слова «робот» в обиходе не было).
Автомат был способен сидеть, стоять, гулять, двигать головой и руками. Всего этого создатель механического рыцаря достиг при помощи системы рычагов, шестеренок и передач.
Рыцаря повторно создали уже в нашу эпоху - рабочий прототип был построен в 2002 году. Его создал «по мотивам» проекта Да Винчи Марк Рошейм.
Радиоуправляемая лодка Тесла
В 1898 году изобретатель Никола Теста показал миру первое в своем роде изобретение - контролируемое удаленно транспортное средство (небольшая лодка). Демонстрация была проведена в Нью-Йорке. Тесла управлял лодкой, а та маневрировала, выполняя различные действия как по волшебству.
Позже Тесла попытался продать военным США свое другое изобретение - нечто вроде радиоуправляемой торпеды. Но военные по какой-то причине отказались. Правда, описал свое создание он не как торпеду, а как робота, механического человека, который способен выполнять сложную работу вместо своих создателей.
Радиоуправляемые танки СССР
Да, инженеры Советского Союза были не лыком шиты. В 1940 году они создали радиоуправляемые боевые машины на базе легкого танка Т-26. Дальность действия пульта управления - более километра.
Операторы этих военных терминаторов могли открывать огонь из пулеметов, задействовать пушку и огнемет. Правда, минусом этой технологии было то, что обратная связь отсутствовала. То есть оператор мог лишь непосредственно наблюдать за действиями танка на удалении. Естественно, эффективность действий оператора в этом случае была относительно низкой.
Это первый пример военного робота в действии.
Голиаф
Нацисты создали нечто похожее, только вместо оснащения радиуправлением обычных танков, они создали миниатюрные гусеничные системы. Ими можно было управлять удаленно. Начинали «Голиафов» взрывчаткой. Задумка была следующей: юркий малыш пробирался к «взрослому» танку противника и оказавшись рядом, выполнял команду оператора уничтожить все взрывом. Немцы создали как электрическую версию системы, так и мини-танк с двигателем внутреннего сгорания. Всего таких систем было произведено около 7000.
Полуавтоматические зенитки
Эти системы также были разработаны во время Второй Мировой. К их созданию приложил руку основатель кибернетики Норберт Винер. Он со своей командой смог создать зенитные системы, которые корректировали точность огня сами. Они были оснащены технологией, которая позволяла предсказывать, где в следующий момент покажется самолет противника.
Умное оружие нашего времени
В 1950-х годах военные США, стремясь победить во Вьетнамской войне, впервые создали оружие с лазерным наведением, а также автономные летательные устройства, фактически, беспилотники.
Правда, они требовали помощи человека при выборе цели. Но это уже было близко к тому, что есть сейчас.
Predator
Об этих беспилотниках слышали, наверное, все. MQ-1 Predator были представлены военными США через месяц после событий 9/11. Сейчас Predator - самые распространенные в мире военные беспилотники. У них есть и старшие родственники - БПЛА Reaper.
Саперы
Да, кроме роботов-убийц есть и роботы-саперы. Сейчас они очень распространены, использовать их стали несколько лет назад, в Афганистане и других горячих точках. Кстати, этих роботов разработала компания iRobot - именно она создает самых популярных роботов-уборщиков в мире. Речь, конечно, о Roomba и Scooba. В 2004 году было произведено 150 таких роботов (не пылесосов, а саперов), а четыре года спустя - уже 12000.
Сейчас же военные и вовсе разошлись. Искусственный интеллект (слабая его форма) сулит большие возможности. В США этими возможностями собираются воспользоваться по полной. Здесь идет создание роботов-убийц нового поколения, с камерами, радарами, лидарами и оружием.
Вот они-то как раз и пугают Илона Маска, а с ним - и многие другие светлые умы из самых разных сфер деятельности.
Clearpath Robotics была основана шесть лет назад тремя друзьями по колледжу, которых объединила страсть делать всякие штуки. 80 специалистов компании испытывают роботов для движения по пересеченной местности вроде Husky, четырехколесного робота, используемого минобороны США. Также они делают дронов и даже построили роботизированную лодку Kingfisher. Однако одного они точно никогда не построят: робота, который может убивать.
Clearpath является первой и пока единственной компанией по производству роботов, которая пообещала не создавать роботов-убийц. Решение было принято в прошлом году соучредителем и CTO компании Райаном Гарипаем и по факту даже привлекло в компанию экспертов, которым понравилась уникальная этическая позиция Clearpath. Этика компаний, производящих роботов, в последнее время выходит на передние позиции. Видите ли, мы одной ногой в будущем, в котором будут существовать роботы-убийцы. И мы пока совершенно не готовы к ним.
Конечно, впереди еще длинный путь. Корейская Dodam systems, например, строит автономную роботизированную турель под названием Super aEgis II. Она использует тепловизионные камеры и лазерные дальномеры для выявления и атаки целей на расстоянии до 3 километров. США, судя по сообщениям, тоже экспериментируют с автономными ракетными системами.
В двух шагах от «терминаторов»
Военные беспилотники вроде Predator в настоящее время управляются людьми, но Гарипай говорит, что очень скоро они станут полностью автоматическими и автономными. И это беспокоит его. Очень. «Смертоносные автономные системы оружия могут сойти с конвейера уже сейчас. Но смертоносные оружейные системы, которые будут делаться в соответствии с этическими нормами, — их нет даже в планах».
Для Гарипая проблема заключается в международных правах. На войне всегда бывают ситуации, в которых применение силы кажется необходимым, но оно также может подвергнуть опасности невинных прохожих. Как создать роботов-убийц, которые будут принимать правильные решения в любой ситуации? Как нам определить самостоятельно, каким должно быть правильное решение?
Подобные проблемы мы уже наблюдаем на примере автономного транспорта. Допустим, собака перебегает дорогу. Должен ли робот-автомобиль свернуть, чтобы не сбить собаку, но подвергнуть риску своих пассажиров? А если это не собака, а ребенок? Или автобус? Теперь представьте зону боевых действий.
«Мы не можем договориться о том, как написать руководство по эксплуатации такого автомобиля, - говорит Гарипай. - А теперь мы еще и хотим перейти к системе, которая должна самостоятельно решать, применять ей смертоносную силу или нет».
Делайте крутые штуки, а не оружие
Питер Асаро провел последние несколько лет, лоббируя запрет на роботов-убийц в международном сообществе, будучи основателем Международного комитета по контролю роботизированных армий. Он считает, что пришло время для «четкого международного запрета на их развитие и использование». По его словам, это позволит компаниям вроде Clearpath продолжать делать классные штуки, «не переживая, что их продукты могут быть использованы для нарушения прав людей и угроз мирным жителям».
Автономные ракеты интересны военным, потому что они решают тактическую задачу. Когда беспилотники с дистанционным управлением, например, работают в боевых условиях, противник нередко заглушает датчики или сетевое соединение, чтобы человек-оператор не мог видеть, что происходит, или управлять дроном.
Гарипай говорит, что вместо разработки ракет или дронов, которые могут самостоятельно решать, какую цель атаковать, военным нужно тратить деньги на улучшение датчиков и защиты от заглушения технологий.
«Почему бы нам не взять инвестиции, которые люди хотели бы вложить для постройки автономных роботов-убийц, и не вложить их в повышение эффективности существующих технологий? - говорит он. - Если мы поставим задачу и преодолеем этот барьер, мы сможем заставить эту технологию работать на благо людей, не только военных».
В последнее время также участились разговоры об опасности искусственного интеллекта. беспокоится, что вышедший из-под контроля ИИ может уничтожить жизнь, какой мы ее знаем. В прошлом месяце Маск пожертвовал 10 миллионов долларов на исследования в области искусственного интеллекта. Один из важных вопросов о том, как ИИ , заключается в том, как он сольется с робототехникой. Некоторые вроде исследователя из Baidu Эндрю Нг беспокоятся, что грядущая революция ИИ отнимет у людей работы. Другие вроде Гарипая опасаются, что может отнять и жизни.
Гарипай надеется, что его коллеги, ученые и строители машин задумаются о том, что делают. Потому и Clearpath Robotics приняла сторону людей. «Хотя мы, как компания, не можем поставить на это 10 миллионов долларов, но мы можем поставить нашу репутацию».
У Дмитрия Мелькина и Павла и Бориса Лонкиных вопросов о том, кого взять в команду для участия в боях роботов, не было. Ребята знали друг друга еще по «Бауманке», потом вместе собирали и устанавливали электростанции на солнечных батареях. Однажды Дмитрий увидел объявление о соревнованиях по робототехнике и подал заявку. Друзья поддержали инициативу, и через месяц в гараже стоял первый боевой робот команды Solarbot — Бронтозавр.
Первый робот комом
Весил Бронтозавр целый центнер и, как сейчас признаются его создатели, не отличался ни надежностью, ни гениальными конструктивными решениями. Неудивительно: собирали его отчасти по наитию, отчасти по нечетким скриншотам с видео с английских соревнований Robot Wars.
После Бронтозавра, по несколько раз пересчитав и переделав основные узлы, Дмитрий, Борис и Павел собрали своего второго робота. За внешнее сходство с ракушкой его назвали Shelby, от английского shell — «ракушка». Shelby, сын ошибок трудных, сначала победил всех на «Битве роботов — 2016» в Перми, организованной Московским технологическим институтом (МТИ) и компанией Promobot, а потом вместе с машинами двух других российских команд стал участником международных соревнований в Китае. Как устроен робот-победитель и чего стоило его сделать, рассказывают его создатели.
Дмитрий, идейный вдохновитель и мастер на все руки:
«Наша большая гордость — это ходовая часть Shelby. С ходовой его предшественника мы возились буквально после каждого боя. Когда мы делали Shelby, ходовую вытачивали, перебирали и собирали заново много раз, зато теперь про нее можно вообще забыть. В будущих проектах нам останется работать только над сохранением надежности и увеличением мощности. Было бы неплохо, например, чтобы наш новый робот мог сдвинуть с места не одного, а сразу двух роботов противника».
Цепи у Shelby от мопедов, колеса — от гоночного карта, а электромоторы — от радиоуправляемых моделей машин. Для боевых роботов детали не производят, поэтому искать их приходится на блошиных рынках и в интернете. Хорошие детали очень дороги, и конструкторы, как правило, делают их самостоятельно.
Борис, конструктор, прочнист:
«Shelby относится к типу флиппер, «переворачиватель». Он оснащен пневмосистемой, которая с силой выталкивает крышку наверх. Это главное оружие робота и его способ стабилизации: опрокинувшись, он может одним рывком перевернуться и встать на колеса. Но создать высокое давление в пневмоцилиндре, чтобы сделать удар крышки мощным, мы не могли — не было нужных клапанов. Оставалось одно: заставить систему срабатывать как можно быстрее. Решение оказалось простым: мы избавились от лишнего гидравлического сопротивления и доработали заводские клапаны. В будущем, конечно, понадобится клапан высокого давления. Готовый стоит дорого, около 200 тысяч рублей, поэтому сейчас мы думаем над собственной конструкцией».
Боевые роботы — хобби не из дешевых: нужно минимум 200−300 тысяч рублей плюс расходные материалы, запасные колеса и все, что ломается и заменяется в бою. И это без учета затраченного времени и труда. «Чтобы собрать робота, команде из трех человек нужно месяца на два перестать ходить на работу», — смеются инженеры Solarbot. Сэкономить не удастся даже на электронной начинке.
Павел, программист:
«Главное достоинство электроники Shelby в том, что ее очень мало. Чтобы не брать в руки паяльник после каждого боя, нужно обеспечить роботу необходимый минимум «мозгов». У Shelby простые заводские контроллеры, и только клапанами управляет маленькая плата. Вывести его из строя очень сложно. Даже когда в Китае вместо привычных свинцовых аккумуляторов нам выдали мощные литиевые и провода через пару минут не выдержали, электроника робота не пострадала».
Боевой робот Shelby
Скорость до 25 км/ч
Усилие на штоке
пневмоцилиндра 2 т
Мощность двигателя 2,2 кВт
Запас пневмоударов без смены баллона 30−35
Управление дистанционное
Правилами «Битвы роботов» запрещены любые отделяемые части и листовое железо, поэтому Shelby ничем не стреляет и не размахивает, а его корпус сделан только из металлического профиля.
Команда Solarbot построила выносливого железного солдата, но и у него есть предел прочности. В Китае он пострадал от вращающихся ножей китайских спиннеров, в Перми — от клешней робота-матанги, который восьмитонным усилием режет металлический профиль, как масло. На его железных ребрах — рваные раны. Создатели готовят ему судьбу экспоната: он будет участвовать в фестивалях (в ближайших планах — летний Geek Picnic), а на арене на смену ему придет новый боец — тоже флиппер, только быстрее, мощнее и еще надежнее. Усилие подъема крышки станет вдвое больше, чем у Shelby, мощность мотора увеличится с 2,2 до 2,8 кВт, вырастет скорость. С новым роботом российская команда мечтает попасть на Robot Wars в Англию.
Но будущий флиппер не предел мечтаний Solarbot. Сейчас Дмитрий ведет переговоры с другими командами и ищет спонсоров: если все сложится, то в России появится первый «мегабот» — такой же большой и грозный, как японские, американские и китайские многотонные монстры.
Благодаря поддержке Московского технологического института россияне впервые попали на международный турнир боевых роботов FMB Championship 2017 в Китае. Бой приняли Shelby, казанский Деструктор и петербургский Energy, который прошел в полуфинал.
