(источник, Dmitry Lobashevsky)
Эйфория искусственного интеллекта захлестнула просторы нашей планеты. Ожидание, что великий и могучий ИИ решит все проблемы человечества уже граничит с шизофренией. Эксперты разделились во мнениях - одни считают, что автоэнкодеры в сочетании с нейронными сетями поработят мир, другие придерживаются еще более идиотской точки зрения - оптимистично-восторженной.
Увы.
Шары не будет.
В конце 90-х и начале нулевых я делал трейдинговые системы на генетическом программировании. Нейронки тогда были убоги и тормознуты, deep технологий не существовало, потому в кластере из четырех компов с водяным охлаждением фрагменты программ просто размножались и спаривались - пропорционально прибыли наторгованой на виртуальном рынке. No money - no honey, потому лузеры к размножению не допускались, а то и вообще репрессировались тираническим супервайзором по кличке “darwin”.
А виннеры, после тщательного противоестественного отбора, уже допускались на рынок реальный, где и зарабатывали деньги своему владельцу - как рабы на хлопковых плантациях.
Для понимания процесса отмечу две детали.
В код получившихся программ люди-аналитики особо не лезли - он был достаточно запутан, как и любой биологический объект. Если фрагмент считал X^2 то это никогда не выглядело как X^2, а, например как (X+1)*(X+1-2)+2-1+0.
Т.е. разобраться в принципе можно было, но время - деньги и ресурсы экономили.
Вторая деталь была связана с архитектурой системы.
Отдельно писался симулятор рынка, отдельно писался “вивариум”. Эволюционирующие программы имели доступ к симулятору рынка и к истории котировок (read-only) и доступ этот был тщательно регламентирован.
В какой-то момент на тестовом запуске системы несколько виннеров показали сумасшедшую профитность. Они заработали столько бабла (виртуального), что акционеры бухали на радостях неделю подсчитывая будущие профиты.
Когда бриллиантовый дым рассеялся, выяснилось что в симуляторе рынка был баг. При некорректном значении аргумента функции запроса симулятор возвращал котировки будущего, которые эволюционирующие программы видеть не были должны.
Но поскольку они все таки эволюционировали - то в процессе эволюции они этот баг вскрыли и использовали себе в пользу.
Ну программам ведь была поставлена задача - заработать максимум бабла?
Они это и сделали - трахнув систему.
И вот такой простой вопрос - если завтра кто-то поставит задачу IBM Watson сделать счастливым население отдельно взятой страны - почему все так уверены, что он не найдет решение формально соответствующее задаче, но совершенно неприемлимое? Ну, к примеру не закупит на весь GDP синтетических эндорфинов и не введет их в водопровод?
Такое действие выглядело бы вполне логично и обосновано с точки зрения ИИ.
И получается, что кто-то должен отсеивать неформально неверные решения. И либо это будет человек, либо машина.
В первом случае мы получаем ограничение сложности выполняемых задач. Человек не в состоянии проверить решение, если его сложность такова, что чтение решения вслух займет сто лет. Люди ограничены по очень многим параметрам.
Во втором случае мы имеем другую проблему - человеческая этика (точнее Хаузеровская этика) неформализуема и противоречива. Хотя ей можно научить машину и она будет сожалеть о слезинке ребенка. И эта машина будет проверять действия другой машины, как бы смешно это не звучало.
Такой вариант более реалистичен в дальней перспективе. Однако даже для постановки задач и для контроля этой иерархии в конце все равно потребуется человек, причем с очень высокой квалификацией.
Поэтому шары не будет. Думать придется всегда и интеллектуальные профессии выродятся во что-то новое, но останутся дольше всех.
Потому что настоящий интеллект всегда ленив.
Даже если он искусственный.
И кто будет ленивей - люди или машины, большой и интересный вопрос.
[Что ещё интересного в СО-сообществах 3-го круга:]________________________________________
Что ещё интересного в СО-сообществах 3-го круга:
2 Академия, Марсианский трактор, Мир Полдня, Школа Полдня, ЗОНА СИНГУЛЯРНОСТИ. 3geo +оЗадачник:
субъект "умный" очень легко поддаётся "магии толпы"
Экранизация проекта по использованию лунного ракетного топлива для вывода грузов с Земли и Марса
Картинка из будущего трансгуманизма от трансгуманиста
Оптическая иллюзия с восемью тираннозаврами
Основные положения теории четырёхмерного строения атома
"Точка G" мировой экономики
Шифрование в условиях древности
Community Info