/ Новости
Беззаконие роботехники
В декабрьском номере американского журнала The Atlantic опубликована большая аналитическая статья под названием "Доклад об этике для дронов: что рассказал ЦРУ ведущий эксперт по роботам" ("Drone-Ethics Briefing: What a Leading Robot Expert Told the CIA"). То, что публикации подобного рода уже определённо необходимы и своевременны, разъяснять, вероятно, уже не требуется.
Несмотря на то что количество роботов, применяемых в военных конфликтах армиями и спецслужбами разных стран, исчисляется десятками (если не сотнями) тысяч штук, никаких законов или международных соглашений, регулирующих их использование, пока не видно.
Когда речь заходит о робоэтике, невозможно не вспомнить знаменитые "Три закона роботехники" из цикла фантастических рассказов Айзека Азимова "Я, робот":
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Сопоставляя эти принципы, сформулированные почти семьдесят лет назад, с тем, что происходит в действительности, приходится констатировать, что создателям настоящих роботов неинтересны "утопические и наивные" азимовские идеи. В докладе, который подготовил для ЦРУ Патрик Лин, считающийся одним из ведущих теоретиков в области этичного применения новых технологий, три закона роботехники не упомянуты ни разу.
Зато Лин описал множество примечательных (и вызывающих понятное беспокойство) сценариев и задач, которые подходят для того, чтобы переложить их на плечи роботов.
Три D вместо трёх законов роботехники
В отличие от людей, машины прекрасно работают в условиях, которые известны как "три D". Именно это делает их настолько привлекательными для военных и шпионов.
Первое D - из английского слова Dull, то есть "скучная работа". Такая, к примеру, как продолжительное наблюдение, рекогносцировка на местности, патрулирование территории или охрана периметра в течение длительного времени.
Второе D – от Dirty, "грязная работа". Роботам, как правило, не страшны ядовитые и опасные для человека материалы. Они способны работать в средах, которые не подходят для людей, вроде подводного мира или открытого космоса. Их можно использовать для борьбы с последствиями ядерных или биохимических аварий и атак.
Третье D – от Dangerous, то есть "опасная работа". Типичный пример такого рода задач - обследование туннелей в системах пещер, где прячется противник, контроль над поведением враждебно настроенной толпы или обезвреживание взрывных устройств.
Кроме того, отмечает Лин, ныне в этот комплекс всё чаще добавляют ещё одно "четвёртое D" - Dispassion, то есть способность роботов сохранять бесстрастность. Это, правда, спорный момент (оспаривается не отсутствие у робота эмоций, конечно, а стремление рассматривать этот аспект как важный плюс в работе).
Для себя Лин уже решил, на чьей стороне в этом споре правда. Очевидно, что роботы никогда не будут действовать со зла или из ненависти. Им чужды эмоции, приводящие к совершению военных преступлений вроде резни мирного населения или массовых изнасилований. Суждения машины не искажают адреналин и голод. Они не страдают от недосыпа, низкого морального духа и сомнений, которые влияют на то, как люди оценивают ситуацию. Это, по мнению Лина, означает, что роботы способны воевать не только лучше людей, но и этичнее.
Сценарий: пытки
В многочисленных приложениях роботехники, связанных с пленными и заключёнными, роботов можно было бы использовать не только для охраны зданий, но и для охраны людей. Например, полагает Лин, одним из преимуществ этого стало бы прекращение тюремных издевательств над заключёнными, вроде тех, что имели место в тюрьмах Гуантанамо на Кубе и Абу Граиб в Ираке.
И уж коли речь зашла о пленных и заключённых, то следует упомянуть ещё один близко связанный с этой темой сценарий, касающийся применения роботов во время допросов и пыток. (Тут Патрик Лин на всякий случай объявляет, что сам он не является сторонником применения пыток, однако не видит ничего дурного в том, чтобы порассуждать на эту тему "теоретически").
Большой плюс от применения роботов в этом непростом деле, по мнению эксперта, – это разрешение дилеммы, касающейся использования врачей при допросах с пристрастием и пытках. Совершенно очевидно, что такого рода деятельность заведомо конфликтует с обязанностью врача заботиться о здоровье людей и с клятвой Гиппократа.
Ну а роботы уже сегодня способны отслеживать признаки жизнедеятельности в допрашиваемых подозреваемых так же хорошо, как это могут делать доктора-люди. Кроме того, на роботов можно возлагать и такие задачи, как управление вводом инъекций в тело допрашиваемых. Наконец, роботы по своей природе "могут вызывать у допрашиваемого болевые ощущения более контролируемым способом, избавленным от озлобленности и предрассудков, которые способны завести дело слишком далеко" (цитируя доводы эксперта дословно).
В этом месте всякий трезвомыслящий человек способен отчётливо осознать, в какие бездны может скатиться роботехника под руководством политиков и государственных спецслужб - причём даже не в тоталитарных, а во вполне себе демократических странах.
Однако на этом интересные области применения роботов отнюдь не заканчиваются. Вот как, к примеру, представляется теоретикам роботехники ещё один перспективный вариант приложений: «роботы как троянские кони или дары со скрытым сюрпризом».
Сценарий: обман
Предлагается рассмотреть такую модификацию хорошо известной по жизни ситуации. На сегодняшний день не являются секретом случаи, когда в Афганистане при расчётах с местными полевыми командирами расплачиваются не деньгами, что слишком уж похоже на подкуп, а пачками, скажем, упаковок с виагрой.
Наряду с деньгами секс, как известно, - это один из основополагающих стимулов в поведении людей. В будущем вполне возможна ситуация, когда один из таких местных вождей или информаторов аборигенов в качестве оплаты за свои услуги захочет получить секс-робота.
Сконцентрировавшись на широких - в потенциале - возможностях секс-роботов, в интересах спецслужб можно выделить тот аспект, что подобные роботы вполне могут также иметь в себе встроенные функции слежки и возможности для нанесения удара. В каком-то смысле это может быть троянский конь в виде "роковой женщины", пусть и механической.
Тот же самый, в сущности, сценарий обмана может работать и с другими роботами, не только моделями для секс-удовольствий. Это может быть и автомобиль, и другая бытовая техника.
Продолжение следует
Источник: http://www.computerra.ru/own/kiwi/653032/
Поделиться в Живом Журнале
Стать расой бессмертных – главная эволюционно-историческая задача человечества в III тысячелетии
Имея мышление бессмертных, парадигму бессмертных в качестве мировоззренческой основы, такие люди обязательно реализуют подобные технологии, и мир радикально изменится. Эволюционная ветвь гомо сапиенс в очередной раз сделает крутой вираж и вынесет человечество к невообразимым высотам, туда, где раньше парили только избранные одиночки – бессмертные и боги.
ПодробнееРобот открыл холодильник и принес оттуда пиво
Немецкие разработчики научили гуманоидного робота-помощника TIAGo самостоятельно искать путь к холодильнику, открывать его и приносить пиво. Модульный суперкомпьютер NVIDIA Jetson TX2, служащий зрительным центром робота, позволил ему не только эффективно проложить путь, но и найти пиво запрошенной марки по этикетке.
ПодробнееВ Швеции попытаются создать электронные копии умерших людей
Руководство крупной сети шведских похоронных бюро «Феникс» поставило перед собой амбициозную цель: попытаться создать максимально правдоподобные электронные копии усопших людей.
ПодробнееУчёные из США разработали искусственный аналог глаза
Новое изобретение представили учёные из Школы инженерных и прикладных наук при Гарвардском университете — они создали искусственный глаз, работающий по принципу человеческого.
ПодробнееАмериканцы занялись разработкой реактивных дронов для истребителей
Массачусетский технологический институт по заказу ВВС США занялся разработкой компактных реактивных беспилотных летательных аппаратов, которые можно было бы запускать со стандартного подвеса для ракет под крылом истребителя. Новая разработка получила название Firefly.
ПодробнееToyota представила гуманоидного робота с экзоскелетным управлением
Компания Toyota представила гуманоидного робота T-HR3, управляемого с помощью экзоскелетного контроллера с шлемом виртуальной реальности. Система позволяет оператору управлять движениями робота на месте или передвигать его, а также чувствовать отдачу при взаимодействии с объектами.
ПодробнееЧеловекоподобный робот научился делать сальто
Специалисты Boston Dynamics научили прямоходящего робота Atlas выполнять сальто. Ролик с демонстрацией его новых способностей опубликован на YouTube-канале компании.
ПодробнееРобот-спасатель от Honda: пять «глаз» и 33 степени подвижности
На Конференции по робототехнике в Ванкувере компания Honda представила прототип робота-спасателя E2-DR. У новинки 33 степени подвижности, пять «глаз» и защищенный от пыли и влаги корпус.
ПодробнееToyota представила автомобиль-робот, в салоне которого сразу 2 водительских места
Казалось бы, суть самоуправляемых автомобилей заключается в том, чтобы максимально обеспечить удобство пассажиров и «убрать» из салона водителя, доверив контроль за ситуацией роботу. Вроде бы логичное решение, но вот автоконцерн Toyota думает иначе. Недавно они представили крайне продвинутую версию самоуправляемого авто. Только вот водительских мест в нем аж целых два.
ПодробнееRHP2 - гуманоидный робот, созданный для того, чтобы падать, подниматься и снова падать
Исследователи-робототехники во всем мире тратят безумно большое количество времени и усилий для того, чтобы предотвратить или уменьшить вероятность падения создаваемых ими роботов.
ПодробнееМифы и факты о сверхумном искусственном интеллекте
Станет ли искусственный интеллект лучшим изобретением человечества или же, наоборот, его худшей ошибкой?
Подробнее/ мнения экспертов и членов инициативной группы
- Михаил ЮрьевичКандидат физико-математических наук, старший научный сотрудник лаборатории термостойких термопластов ИСПМ РАН, создатель наносенсорной нейроподобной системы «Электронный нос»
ЯблоковЧлен инициативной группы«При создании искусственного человека к робото-техническому направлению, которое сейчас преобладает, надо добавить эмоциональное. На самом деле, эта идея комплексная, она витает в воздухе...»
- Марат СеменовичРазработчик инновационных технологий, изобретатель, мастер ТРИЗ (теория решения изобретательских задач), кандидат педагогических наук
Гафитулин«...В моем понимании слияние человека и машины началось сразу же, как только человек целенаправленно взял в руки предмет своего труда».
- Виталий ЛьвовичДоктор физико-математических наук, профессор, заведующий отделом нейроинформатики Центра оптико-нейронных технологий НИИСИ РАН
Дунин-Барковский«Для создания искусственного тела нужен хороший мозг, интеллект. А он может быть и искусственным. Воссоздание органов — очень сложная и ресурсоемкая задача. При работе над искусственным интеллектом затраты минимальны, а результаты колоссальны...»
- ХиросиДоцент кафедры информационных технологий Киотского университета и профессор Университета Осаки (Osaka University), двадцать восьмой гений из списка «Сто гениев современности», создатель антропоморфного робота «Геминоид» HI-1 (Geminoid)
Исигуро«...Однажды мы сможем добиться появления аватаров и воспроизведем функции человеческого мозга внутри этого робота. И тогда люди смогут устремиться к бессмертию...»
- Лев АлександровичДоцент, кандидат технических наук, профессор кафедры САиУ
СтанкевичПервый этап решения проблем бессмертия человека имеет своей главной целью создание нейроуправляемого аватара – гуманоидного робота с человекоподобным скелетом, набором технических мышц и сенсоров.
- Сергей ВасильевичДоктор физико-математических наук, профессор, заведующий кафедрой биомедицинских систем Московского государственного института электронной техники, главный редактор журнала «Медицинская техника»
СелищевЧлен инициативной группы«Глобальных и неразрешимых технических проблем для создания полностью искусственного тела не существует. Все задачи понятны и потенциально решаемы...»
- Сергей АлександровичРуководитель Кластера космических технологий и телекоммуникаций Фонда Сколково, космонавт-испытатель, член Российской академии космонавтики
Жуков«Я абсолютно убежден в том, что движение «2045» появилось в нужное время в абсолютно нужном месте, потому что верю в великое будущее России, ее подъем после временных трудностей».
- Александр АлексеевичДоктор биологических наук, профессор, заведующий лабораторией математической нейробиологии Института высшей нервной деятельности и нейрофизиологии РАН
Фролов«Проблема создания искусственной памяти, сохраняющей содержимое естественной памяти индивидуального человека, хотя и является сложной, но представляется разрешимой...»
- Акоп ПогосовичДоктор философских наук, канд. психологических наук, главный редактор журнала «Историческая психология и социология истории», профессор МГУ.
Назаретян«Интеллект современного человека – это искусственный интеллект. Естественным осталось только то, что он на белковом носителе, т.е. естествен не интеллект, а мозг...»
- Сергей ВладимировичДоктор философских наук, профессор
Кричевский«...В таком теле, как бы там медицина ни боролась, увы, есть масса рисков, радиационных и прочих, которые пока непреодолимы. И мы не можем существовать вне Земли, в этой враждебной среде, не решив эти вопросы».
- Борис КарповичДоктор медицинских наук, профессор, заведующий лабораторией роста клеток и тканей Института теоретической и экспериментальной биофизики РАН
Гаврилюк«Для кожи киборга нужно просто сделать систему питания. А вообще... мы ведь несложно устроены! Есть всего несколько систем: кровеносная разносит кислород и питательные вещества, выделительная выводит отходы. Остальное — рабочие органы. Вначале можно сделать простейший живой организм. А потом более сложные системы...»
- Владимир НиколаевичДиректор Филиала РГМУ «НКЦ геронтологии» Минздравсоцразвития РФ, академик РАМН, доктор медицинских наук, профессор
Шабалин«Россия была и остаётся богатой интеллектуалами, несмотря на значительную утечку мозгов за рубеж. А когда будут первые результаты, с удовольствием вернутся и наши специалисты и потянутся иностранные...»
- МаксимРоссийский писатель-футуролог, журналист
КалашниковЧлен инициативной группы«Это то, что еще никто в мире не решился делать. Создание сверх- и постлюдей считаю спасением нас от вырождения и вымирания, обретением новой силы. Именно это может сделать Россию мировым лидером....»
- Вячеслав ЕвгеньевичДоктор биологических наук, профессор, изобретатель аппарата «Биоискусственная печень»
РябининЧлен инициативной группы«Вся тенденция развития науки показывает: то, что мы считали невозможным, становится возможным. Кто мог представить, что руки и ноги начнут ходить под влиянием соответствующих импульсов? Прогресс движется не в арифметической, а в геометрической прогрессии...»
- Сергей БорисовичИсследователь и теоретик фантастики и альтернативной истории, литературный критик и публицист, социолог, соционик и военный историк
Переслегин«... Проект «2045» требует немереного инженерного обеспечения. И я утверждаю, что и для России, и для всего мира единственная возможность преодолеть фазовый барьер – это решить не биологические задачи, не биотех, а решить задачу на удержание инженерии на критические 20 лет...»