Искусственный интеллект и все, что с ним связано, таит в себе много угроз для человечества. Чтобы снизить риски, требуется колоссальная координация между всеми технологически продвинутыми странами. Без этого в лабораториях родится такое, что сибирская язва и нейтронная бомба в дипломате покажутся мелочью. Интервью с Сергеем Кареловым
Главная героиня «Пятого элемента», считывавшая миллионы страниц текстов за несколько минут, пришла на Землю, чтобы спасти человечество. Она была поражена дефицитом любви к ближнему на Земле и, если бы не личная привязанность к герою Брюса Уиллиса, не отдала бы она в руки человека спасительный пятый элемент. Но этот фильм был снят в еще гуманные 1990-е. Сегодня же, похоронив идеи гуманизма на рубеже веков, человечество просто бредит прорывом в будущее, которое сулят технологии, скрывающиеся под единым брендом — «искусственный интеллект». Бредит, в общем-то, не очень понимая, что за этим названием стоит, и не осознавая ни реальных возможностей, ни реальных угроз, которые таит в себе очередной виток технологического прогресса. А ведь некоторые полагают, что этот виток может оказаться последним для человечества в том виде, в котором мы привыкли себя осознавать.
О том, что такое ИИ, что он умеет сегодня и что будет уметь очень скоро, есть ли для него моральные ограничения и нужны ли они, мы поговорили с Сергеем Кареловым, экс-топ-менеджером международных IT-компаний IBM, SGI, Cray, независимым экспертом, ведущим авторского научно-популярного канала «Малоизвестное интересное».
Действительно, сообщений об ИИ - множество. Сперва я выбирал, какое из них стоит сюда поместить. Потом выбирать уже стало невозможно, надо было или помещать все или делать обзор. Дмитрий решил проблему.
Эйфория искусственного интеллекта захлестнула просторы нашей планеты. Ожидание, что великий и могучий ИИ решит все проблемы человечества уже граничит с шизофренией. Эксперты разделились во мнениях - одни считают, что автоэнкодеры в сочетании с нейронными сетями поработят мир, другие придерживаются еще более идиотской точки зрения - оптимистично-восторженной.
Увы. Шары не будет.
В конце 90-х и начале нулевых я делал трейдинговые системы на генетическом программировании. Нейронки тогда были убоги и тормознуты, deep технологий не существовало, потому в кластере из четырех компов с водяным охлаждением фрагменты программ просто размножались и спаривались - пропорционально прибыли наторгованой на виртуальном рынке. No money - no honey, потому лузеры к размножению не допускались, а то и вообще репрессировались тираническим супервайзором по кличке “darwin”.
А виннеры, после тщательного противоестественного отбора, уже допускались на рынок реальный, где и зарабатывали деньги своему владельцу - как рабы на хлопковых плантациях.
