/ Новости
Ник Бостром: будет трагедия, если искусственный сверхинтеллект никогда не появится
Известный философ Ник Бостром считает, что будет «большая трагедия», если искусственный интеллект человеческого уровня никогда не будет разработан, хотя раньше этот человек предупреждал больше о катастрофических рисках для человечества, которыми грозит появление такой технологии.
Бостром, возглавляющий Институт будущего человечества при Оксфордском университете, привлек всемирное внимание в прошлом году, представив свою плодотворную работу «Сверхинтеллект: пути, опасности, стратегии». После этой публикации Стивен Хокинг, Билл Гейтс и Элон Маск выразили свою обеспокоенность проблемами, поднятыми в книге.
По мнению Маска, продвинутый ИИ может быть «опаснее ядерного оружия», а Хокинг не мелочась сообщил, что его появление приведет к концу человеческой эпохи.
В разговоре с IBTimes UK во время недавней конференции Silicon Valley Comes To Oxford, Бостром сообщил, что хотя угроза безусловно присутствует, он приветствует развитие сферы ИИ и надеется, что искусственный сверхинтеллект появится.
«Я думаю, что путь в самое лучшее будущее из возможных будет пролегать через создание машинного интеллекта в определенной точке, — говорит Бостром. — Я думаю, будет большая трагедия, если он никогда не будет разработан».
«Думаю, что, хотя было бы желательно приложить некоторые усилия по решению вопроса управления этой проблемой, определение начальных условий взрыва сверхинтеллекта будет наилучшим из возможных путей по повышению шансов на сохранение будущего в соответствии с общечеловеческими ценностями».
Для определения начальных условий Бостром предлагает выяснить желаемую последовательность технологического развития развивающихся областей вроде нанотехнологий и передовой синтетической биологии.
«Мы хотим решить проблемы с безопасностью еще до того, как кто-нибудь решит проблему самого ИИ», — говорит Бостром.
Последовательность, с которой разрабатываются различные технологии вроде этих, скорее всего, повлияет на общий риск траектории развития искусственного интеллекта. Бостром считает, что дальнейший прогресс должен быть сосредоточен на «проблемах контроля» путем увеличения инвестиций в талант и исследования.
Когда именно будет создан ИИ человеческого уровня, пока непонятно, хотя теоретики ИИ определяют сроки в 30-100 лет с нынешнего момента. Также непонятно, будет ли развитие передовых форм ИИ полезно для общества в целом или выгоду получат только отдельные лица и корпорации, контролирующие технологию.
В краткосрочной перспективе, Бостром говорит, что технологии ИИ вроде самоуправляемых автомобилей помогут обществу, повысив эффективность и безопасность. Его опасения сконцентрированы на более удаленных точках в будущем, когда машины перестанут быть просто инструментами и начнут подменять людей в широком спектре задач — а также смогут планировать и составлять стратегии на уровне с людьми.
Тем не менее, несмотря на мрачные возможности, которые открывает Бостром и его книга, философ не считает себя прорицателем конца света.
«Я пытаюсь узнать больше о том, на что будет похож ланшдафт будущих перспектив человечества, узнать, где будут коварные течения и как их можно будет обогнуть, — говорит Бостром. — Так что я больше заинтересован в выяснении того, что мы можем сделать сейчас, чтобы оказать наибольшее положительное влияние на наше будущее в долгосрочной перспективе. Мне больше интересно это, нежели определять абсолютный уровень риска или надеяться, что нам повезет в будущем. Я не настроен оптимистично или пессимистично — я откалибровал себя как только смог, чтобы опираться только на факты».
Источник: http://hi-news.ru/technology/nik-bostrom-budet-tragediya-esli-iskusstvennyj-sverxintellekt-nikogda-ne-poyavitsya.html
Поделиться в Живом Журнале
Стать расой бессмертных – главная эволюционно-историческая задача человечества в III тысячелетии
Имея мышление бессмертных, парадигму бессмертных в качестве мировоззренческой основы, такие люди обязательно реализуют подобные технологии, и мир радикально изменится. Эволюционная ветвь гомо сапиенс в очередной раз сделает крутой вираж и вынесет человечество к невообразимым высотам, туда, где раньше парили только избранные одиночки – бессмертные и боги.
ПодробнееРобот открыл холодильник и принес оттуда пиво
Немецкие разработчики научили гуманоидного робота-помощника TIAGo самостоятельно искать путь к холодильнику, открывать его и приносить пиво. Модульный суперкомпьютер NVIDIA Jetson TX2, служащий зрительным центром робота, позволил ему не только эффективно проложить путь, но и найти пиво запрошенной марки по этикетке.
ПодробнееВ Швеции попытаются создать электронные копии умерших людей
Руководство крупной сети шведских похоронных бюро «Феникс» поставило перед собой амбициозную цель: попытаться создать максимально правдоподобные электронные копии усопших людей.
ПодробнееУчёные из США разработали искусственный аналог глаза
Новое изобретение представили учёные из Школы инженерных и прикладных наук при Гарвардском университете — они создали искусственный глаз, работающий по принципу человеческого.
ПодробнееАмериканцы занялись разработкой реактивных дронов для истребителей
Массачусетский технологический институт по заказу ВВС США занялся разработкой компактных реактивных беспилотных летательных аппаратов, которые можно было бы запускать со стандартного подвеса для ракет под крылом истребителя. Новая разработка получила название Firefly.
ПодробнееToyota представила гуманоидного робота с экзоскелетным управлением
Компания Toyota представила гуманоидного робота T-HR3, управляемого с помощью экзоскелетного контроллера с шлемом виртуальной реальности. Система позволяет оператору управлять движениями робота на месте или передвигать его, а также чувствовать отдачу при взаимодействии с объектами.
ПодробнееЧеловекоподобный робот научился делать сальто
Специалисты Boston Dynamics научили прямоходящего робота Atlas выполнять сальто. Ролик с демонстрацией его новых способностей опубликован на YouTube-канале компании.
ПодробнееРобот-спасатель от Honda: пять «глаз» и 33 степени подвижности
На Конференции по робототехнике в Ванкувере компания Honda представила прототип робота-спасателя E2-DR. У новинки 33 степени подвижности, пять «глаз» и защищенный от пыли и влаги корпус.
ПодробнееToyota представила автомобиль-робот, в салоне которого сразу 2 водительских места
Казалось бы, суть самоуправляемых автомобилей заключается в том, чтобы максимально обеспечить удобство пассажиров и «убрать» из салона водителя, доверив контроль за ситуацией роботу. Вроде бы логичное решение, но вот автоконцерн Toyota думает иначе. Недавно они представили крайне продвинутую версию самоуправляемого авто. Только вот водительских мест в нем аж целых два.
ПодробнееRHP2 - гуманоидный робот, созданный для того, чтобы падать, подниматься и снова падать
Исследователи-робототехники во всем мире тратят безумно большое количество времени и усилий для того, чтобы предотвратить или уменьшить вероятность падения создаваемых ими роботов.
ПодробнееМифы и факты о сверхумном искусственном интеллекте
Станет ли искусственный интеллект лучшим изобретением человечества или же, наоборот, его худшей ошибкой?
Подробнее/ мнения экспертов и членов инициативной группы
- Доктор медицинских наук, профессор, заведующий лабораторией роста клеток и тканей Института теоретической и экспериментальной биофизики РАН
Борис Карпович
Гаврилюк«Для кожи киборга нужно просто сделать систему питания. А вообще... мы ведь несложно устроены! Есть всего несколько систем: кровеносная разносит кислород и питательные вещества, выделительная выводит отходы. Остальное — рабочие органы. Вначале можно сделать простейший живой организм. А потом более сложные системы...»
- Историк и теоретик культуры, культуролог, консультант по культурному развитию. Доцент Института искусств и культуры и Философского факультета ТГУ
Дмитрий Владимирович
Галкин«Искусство – уникальный ресурс для фабрики инноваций. Только в искусстве креативная мощь так тесно связана с порождением смыслов и гуманизацией технологий...»
- Доцент кафедры информационных технологий Киотского университета и профессор Университета Осаки (Osaka University), двадцать восьмой гений из списка «Сто гениев современности», создатель антропоморфного робота «Геминоид» HI-1 (Geminoid)
Хироси
Исигуро«...Однажды мы сможем добиться появления аватаров и воспроизведем функции человеческого мозга внутри этого робота. И тогда люди смогут устремиться к бессмертию...»
- Доктор биологических наук, заведующая лабораторией липидного обмена РНИИ геронтологии
Елена Владимировна
ТерёшинаЧлен инициативной группы«И не нужно бояться. Проект по созданию носителя для бессмертного разума очень нужен. Конечно, природа рождает умных, талантливых, гениальных людей, но они смертны. Человечество выходит из этого положения — создает книги. И знания так или иначе передаются потомкам. А представьте, гений будет работать вечно!..»
- Художник, теоретик искусства, куратор Государственного центра современного искусства (Калининградский филиал)
Дмитрий Хаметович
БулатовЧлен инициативной группы«В ближайшем будущем гибридные схемы из комбинаций живых и неживых элементов позволят вернуть утраченные или изначально отсутствующие функции. И конечно, заметно усилить их по сравнению с обычными...»
- Директор Филиала РГМУ «НКЦ геронтологии» Минздравсоцразвития РФ, академик РАМН, доктор медицинских наук, профессор
Владимир Николаевич
Шабалин«Россия была и остаётся богатой интеллектуалами, несмотря на значительную утечку мозгов за рубеж. А когда будут первые результаты, с удовольствием вернутся и наши специалисты и потянутся иностранные...»
- Доктор физико-математических наук, профессор, заведующий отделом нейроинформатики Центра оптико-нейронных технологий НИИСИ РАН
Виталий Львович
Дунин-Барковский«Для создания искусственного тела нужен хороший мозг, интеллект. А он может быть и искусственным. Воссоздание органов — очень сложная и ресурсоемкая задача. При работе над искусственным интеллектом затраты минимальны, а результаты колоссальны...»
- Доктор химических наук, профессор, заведующий кафедрой химической энзимологии МГУ, член-корреспондент Российской Академии наук, директор Института биохимической физики РАН
Сергей Дмитриевич
ВарфоломеевЧлен инициативной группы«Нужно иметь электронный вариант мозга. Физический мозг, на мой взгляд, не может являться предметом интереса, так как он очень субтилен. Но вот создание электронного аналога с полным рецепторным оснащением, которое имело бы ту же историю, стимулы, мотивации, — это может оказаться очень интересно...»
- Доктор философских наук, профессор
Сергей Владимирович
Кричевский«...В таком теле, как бы там медицина ни боролась, увы, есть масса рисков, радиационных и прочих, которые пока непреодолимы. И мы не можем существовать вне Земли, в этой враждебной среде, не решив эти вопросы».
- Профессор практики Московской школы управления СКОЛКОВО, к.э.н., партнер группы "Метавер"
Павел Олегович
Лукша«Развитие интерфейсов позволяет принципиально по-другому взаимодействовать не только с локальным пространством, но и с глобальным пространством, т.е. продолжая «мозг – компьютер – Сеть», мы можем получать системы принципиально нового способа организации».
- Международный координатор Ассоциации Всемирной Истории, сопредседатель Оргкомитета GF2045
Барри
Родриг«Инновации нужно направить на экологическое равновесие видов и разрушение неорганической среды обитания. Нужно найти альтернативы войне и оружейной промышленности. То есть инновация – это процесс, который должен быть применен ко всему существующему...»
- Доктор технических наук, профессор
Александр Александрович
БолонкинЧлен инициативной группы«Искусственное механическое тело будет обладать огромной силой и переносить экстремальные внешние условия: высокие температуры, давление, радиацию, космос...»
- Председатель оргкомитета политической партии «Эволюция 2045», основатель движения «Россия 2045», президент конгресса GF2045
Дмитрий
ИцковСтрах перед умиранием, на которое запрограммированы наши биологические тела, словно сковал волю руководителей человечества и сформировал непреодолимое табу на публичное обсуждение и принятие решений по борьбе со смертью.
- Исследователь и теоретик фантастики и альтернативной истории, литературный критик и публицист, социолог, соционик и военный историк
Сергей Борисович
Переслегин«... Проект «2045» требует немереного инженерного обеспечения. И я утверждаю, что и для России, и для всего мира единственная возможность преодолеть фазовый барьер – это решить не биологические задачи, не биотех, а решить задачу на удержание инженерии на критические 20 лет...»
- Доктор биологических наук, профессор, изобретатель аппарата «Биоискусственная печень»
Вячеслав Евгеньевич
РябининЧлен инициативной группы«Вся тенденция развития науки показывает: то, что мы считали невозможным, становится возможным. Кто мог представить, что руки и ноги начнут ходить под влиянием соответствующих импульсов? Прогресс движется не в арифметической, а в геометрической прогрессии...»
/ Мы в социальных сетях:
/ Сотрудничество:
По вопросам сотрудничества пишите по адресу:
russia@2045.ru
Контакты для СМИ PR@2045.com
LinkedIn
LiveJournal
Google
Я.ру
Twitter
Facebook
ВКонтакте
Mail.ru