vchernik (vchernik) wrote in zonasingularn,
vchernik
vchernik
zonasingularn

Змей разума, кусающий себя за хвост…

(источник)

автор: Михаил Ваннах 05 декабря 2014

Одним из немногих ученых, одновременно пребывающими в статусе «медийных звезд», является британец Стивен Хокинг. Его академическая карьера похоже была предопределена до его рождения – появился на свет он в Оксфорде, куда его родители бежали из Лондона, от бомбардировок Люфтваффе. Да и занимался Хокинг самыми масштабными проблемами, в которых мегамир сходится с микромиром – черными дырами, квантовой гравитацией и квантовой космологией. А уж мужественная борьба Хокинга с болезнью привлекла к нему симпатии сотен миллионов людей!

И вот сейчас ученый, предсказавший некогда квантовое «испарение» черных дыр, опять вышел на первые полосы газет (или как там, только без варваризмов, положено обзывать их аналог у новостных сайтов – родная речь не успевает за технологией) – его нынешним пророчествам уделяет видное место деловитая Financial Times – Stephen Hawking warns of AI danger to human race, «Стивен Хокинг предупреждает об угрозе Искусственного Разума для человечества».

Утверждения Стивена Хокинга в высшей степени мрачны. Он полагает – не больше, не меньше – что «появление полноценного искусственного интеллекта может стать концом человеческой расы». Особый «черный» – в лучших британских традициях – юмор, таким рассуждениям известного физика придает то, что он, страдая латеральным амиотрофическим склерозом, для общения с журналистами пользуется специальной системой, разработанной американской кампанией Intel при соучастии британской компании Swiftkey.

Но эти достижения ИТ-индустрии Хокинг рассматривает как в высшей степени полезные. Ужас вселяют в него перспективы грядущего. Создание полноценного искусственного интеллекта. Такого, который «возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем».

Высказывать свои страхи ИИ профессор Хокинг может лишь с помощью ИТ…

Высказывать свои страхи ИИ профессор Хокинг может лишь с помощью ИТ…

Попробуем перевести слова Хокинга с научного на инженерный язык. Элементной базой естественного разума является нейрон. Биологический логический вентиль, выработанный слепой садисткой эволюцией в процессе экспериментов, тянувшихся сотни миллионов лет в лаборатории, цехе и на полигоне размером в планету. Сначала методом Монте-Карло (то бишь, путем случайных мутаций) модифицировался чертежнаследственный код. Потом с ним появлялось на свет существо. А уж потом беспощадный естественный отбор проверял и утверждал (а чаще всего – не утверждал…) эти изменения в проекте.

Фора эволюции – планетарный масштаб экспериментов и отведенные на них сотни миллионов лет. Именно поэтому и появляется идея бионики; инженерной дисциплины, направленной на копирование былых разработок природы. Ну а недостаток ее – слепота. Ну и – немарковский характер, зависимость от тех решений, что были приняты и утверждены встарь, и о которых рассказывает нам наука палеонтология. Инженер же может и скопировать достижения природы. И – утянув у эволюции некие общие идеи – воплотить их на совсем другой элементной базе и на совсем других технологических принципах.

То есть – не существует закона природы, запрещающего создание искусственного аналога нейрона, с меньшими габаритами и энергопотреблением, но с большим быстродействием и надежностью (помните народное – «нервные клетки не восстанавливаются»). Вот первая предпосылка для грядущих достижений Искусственного Интеллекта. Переход на другую элементную базу.

Вторая предпосылка носит «производственный» характер. Есть в европейской традиции слова о происхождении Inter faeces et urinam nascimur, написанные Августином Аврелием, епископом Гиппона-Регия, взиравшим с крепостных стен на орды осаждавших город вандалов… То бишь – все носители естественного разума появляются на свет через то отверстие, которое так интересует подростков пубертатного возраста. А это – накладывает «ограничения сверху» на объем головного мозга. Максимальный лет эдак тысяч двадцать назад, но подсевший с тех времен (разумность индивида была принесена в жертву выживаемости матерей, ну и младенцев…).

А у Искусственного Интеллекта этого ограничения нет. Лепи кристаллы на платы, распихивай их по шкафам да стойкам. Масштабируемость достигается легко – и вот ее-то, похоже, и надо ставить перед законом Мура, о котором говорит об ИИ. Мощность кристаллов в какой-то момент перестанет удваиваться за восемнадцать месяцев, а возможность модифицирующего себя искусственного разума добавлять новые шкафы или стойки останется всегда. (Лем в «Магеллановом облаке» говорил о «мозге» размером с галактику…)

И вывод из этого прост – в какой-то момент искусственный разум неизбежно превзойдет разум естественный. Хотя бы в силу простоты его масштабируемости, исключенной для естественного разума. Впрочем, гениальный советский фантаст Илья Варшавский (по словам Лема в его книжку вмещалась вся западная фантастика) в рассказе «Тараканы» такой способ предлагал – там из двух обезьян хирургическим путем изготавливался один сверхученый…

И вот эта-то перспектива ввергает профессора Хокинга в ужас. Причем ужас этот разделяет с ним известный бизнесмен Элон Маск, называющий ИскИн «нашей крупнейшей экзистенциальной угрозой». Наверное именно поэтому он и стараетсякупить побольше фанерыпостроить в своей «Space X» побольше ракет и улететь отсюда к этой самой матери… Ну, каковы основания для этих самых страхов?

А основания эти сидят в самой нашей сути. Мозг-то эволюция выделила человеку не для того, чтобы интегрировать уравнения Бернулли, а для того, чтобы выживать в бродящей по саванне стае обезьян. И с этой самой поры ведет свою родословную страх большего разума. Страх, о котором прекрасно знали политтехнологи недавнего прошлого, избегавшие выставлять слишком интеллектуальных кандидатов – дело в том, что даже самая тупая обезьяна понимает, что обезьяна более смышленая пренебрежет ее интересами в интересах своих собственных…

А в случае ИскИна накладывается еще и более архаичный страх чужой жизни, который пробегает по спине, когда смотришь сквозь прицел паршивого, устроителями сафари по грабительской цене предоставленного карабина, на крупную кошку, или который выворачивает нутро, когда видишь в такыре сухой колодец, заполненный копошением змей. И это ведь свои, белковые, хоть и могущие сожрать и отравить… А что уж говорить об абсолютно чуждом кремнии? Тут все архаические ужасы выплеснутся наружу!

И, что самое смешное, такой ход дел неминуем. Пенроуз со своим квантовым разумом не предложил – как, впрочем, и еще более популярный Эверетт с мультимиром – никакого Experimentum crucis, могущего подтвердить, что мышление носит квантовый характер, а вселенные множатся вслед за каждым квантовым событием… А полагать, что обычная асинхронная нейросеть не может быть сначала скопирована, а затем превзойдена другой, оснований нет. (Ну, разве что одна страна, имеющая мощные неядерные стратегические силы, нарвется на упреждающий ядерный залп от той страны, которую собиралась разоружить – тут уже выжившие обезьяны будут дискутировать, что лучше режет – обсидиан или оплавленное оконное стекло…)

Затормозить развитие ИИ невозможно – тогда, скорее всего, человечество прикончат обычные проблемы – демографические, экологические, экономические – с которыми оно не сможет справиться. (Тот же Хокинг полагает неминуемой в течение ближайшего тысячелетия глобальную технологическую катастрофу, от которой призывает расселяться на иные миры.) И в прогнозах этих ничего нового нет – Иосиф Шкловский в издании 1973 года книги «Вселенная. Жизнь. Разум» писал о том, что цивилизации, овладевшие энергией звезд и галактик, скорее всего будут состоять из искусственных разумных существ.

Правда, ниоткуда не следует, что более высокий разум окажется враждебен людям. Британский автор Иэн М.Бэнкс в цикле The Culture описал мир, где ИскИны живут в содружестве с представителями биологических рас. Еще раньше такое описал Георгий Гуревич в книге «Приглашение в зенит», где представляясь носители разума уточняли, ИСУ они или ЕСУ, Искусственное или Естественное Существо. Кстати, «бунт машин» изящнейший поэт Брюсов описал до Чапека.

То есть – проблема состоит не в том, что мощный искусственный интеллект будет враждебен людям, а как построить социум, в котором разумные существа не станут враждовать между собой, а будут сотрудничать. Пока что это не очень хорошо выходит и у обезьян…




[Что ещё интересного в СО-сообществах 3-го круга:]_____________________________________________
Что ещё интересного в СО-сообществах 3-го круга:
2 Академия, Марсианский трактор, Мир Полдня, Школа Полдня, ЗОНА СИНГУЛЯРНОСТИ. 3geo +оЗадачник:

"Есть очень простой набор приемов, которым можно научить каждого за несколько часов".
Наследница Царь-Ракеты
Биологическая цивилизация Александра Мирера
История: Индия, Китай, Америка - развитие древних цивилизаций.
Теория эволюции материи и моделей
Забытый основатель русской геополитики
белый медведь в пустыне в одной тапочке на две ноги
Tags: ИИ, Хокинг
Subscribe
promo zonasingularn december 24, 2013 20:58 268
Buy for 10 tokens
( источник) Забирко Виталий vzabirko Аннотация: Никак не думал, что придётся добавлять к статье введение и писать это предисловие. Казалось бы, изложил основные положения теории четырёхмерного строения атома максимально упрощённо, используя исключительно общие…
  • Post a new comment

    Error

    Comments allowed for members only

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 1 comment