vchernik (vchernik) wrote in zonasingularn,
vchernik
vchernik
zonasingularn

Categories:

Эйфория искусственного интеллекта захлестнула просторы нашей планеты

Действительно, сообщений об ИИ - множество. Сперва я выбирал, какое из них стоит сюда поместить. Потом выбирать уже стало невозможно, надо было или помещать все или делать обзор. Дмитрий решил проблему.


(источник, )

Эйфория искусственного интеллекта захлестнула просторы нашей планеты. Ожидание, что великий и могучий ИИ решит все проблемы человечества уже граничит с шизофренией. Эксперты разделились во мнениях - одни считают, что автоэнкодеры в сочетании с нейронными сетями поработят мир, другие придерживаются еще более идиотской точки зрения - оптимистично-восторженной.

Увы.
Шары не будет.

В конце 90-х и начале нулевых я делал трейдинговые системы на генетическом программировании. Нейронки тогда были убоги и тормознуты, deep технологий не существовало, потому в кластере из четырех компов с водяным охлаждением фрагменты программ просто размножались и спаривались - пропорционально прибыли наторгованой на виртуальном рынке. No money - no honey, потому лузеры к размножению не допускались, а то и вообще репрессировались тираническим супервайзором по кличке “darwin”.

А виннеры, после тщательного противоестественного отбора, уже допускались на рынок реальный, где и зарабатывали деньги своему владельцу - как рабы на хлопковых плантациях.


Для понимания процесса отмечу две детали.

В код получившихся программ люди-аналитики особо не лезли - он был достаточно запутан, как и любой биологический объект. Если фрагмент считал X^2 то это никогда не выглядело как X^2, а, например как (X+1)*(X+1-2)+2-1+0.

Т.е. разобраться в принципе можно было, но время - деньги и ресурсы экономили.

Вторая деталь была связана с архитектурой системы.

Отдельно писался симулятор рынка, отдельно писался “вивариум”. Эволюционирующие программы имели доступ к симулятору рынка и к истории котировок (read-only) и доступ этот был тщательно регламентирован.


В какой-то момент на тестовом запуске системы несколько виннеров показали сумасшедшую профитность. Они заработали столько бабла (виртуального), что акционеры бухали на радостях неделю подсчитывая будущие профиты.

Когда бриллиантовый дым рассеялся, выяснилось что в симуляторе рынка был баг. При некорректном значении аргумента функции запроса симулятор возвращал котировки будущего, которые эволюционирующие программы видеть не были должны.

Но поскольку они все таки эволюционировали - то в процессе эволюции они этот баг вскрыли и использовали себе в пользу.

Ну программам ведь была поставлена задача - заработать максимум бабла?

Они это и сделали - трахнув систему.


И вот такой простой вопрос - если завтра кто-то поставит задачу IBM Watson сделать счастливым население отдельно взятой страны - почему все так уверены, что он не найдет решение формально соответствующее задаче, но совершенно неприемлимое? Ну, к примеру не закупит на весь GDP синтетических эндорфинов и не введет их в водопровод?

Такое действие выглядело бы вполне логично и обосновано с точки зрения ИИ.


И получается, что кто-то должен отсеивать неформально неверные решения. И либо это будет человек, либо машина.

В первом случае мы получаем ограничение сложности выполняемых задач. Человек не в состоянии проверить решение, если его сложность такова, что чтение решения вслух займет сто лет. Люди ограничены по очень многим параметрам.

Во втором случае мы имеем другую проблему - человеческая этика (точнее Хаузеровская этика) неформализуема и противоречива. Хотя ей можно научить машину и она будет сожалеть о слезинке ребенка. И эта машина будет проверять действия другой машины, как бы смешно это не звучало.

Такой вариант более реалистичен в дальней перспективе. Однако даже для постановки задач и для контроля этой иерархии в конце все равно потребуется человек, причем с очень высокой квалификацией.


Поэтому шары не будет. Думать придется всегда и интеллектуальные профессии выродятся во что-то новое, но останутся дольше всех.


Потому что настоящий интеллект всегда ленив.
Даже если он искусственный.
И кто будет ленивей - люди или машины, большой и интересный вопрос.



[Что ещё интересного в СО-сообществах 3-го круга:]_____________________________________________
Что ещё интересного в СО-сообществах 3-го круга:
2 Академия, Марсианский трактор, Мир Полдня, Школа Полдня, ЗОНА СИНГУЛЯРНОСТИ. 3geo +оЗадачник:

субъект "умный" очень легко поддаётся "магии толпы"
Экранизация проекта по использованию лунного ракетного топлива для вывода грузов с Земли и Марса
Картинка из будущего трансгуманизма от трансгуманиста
Оптическая иллюзия с восемью тираннозаврами
Основные положения теории четырёхмерного строения атома
"Точка G" мировой экономики
Шифрование в условиях древности
Tags: ИИ
Subscribe
promo zonasingularn december 24, 2013 20:58 268
Buy for 10 tokens
( источник) Забирко Виталий vzabirko Аннотация: Никак не думал, что придётся добавлять к статье введение и писать это предисловие. Казалось бы, изложил основные положения теории четырёхмерного строения атома максимально упрощённо, используя исключительно общие…
  • Post a new comment

    Error

    Comments allowed for members only

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments