vchernik (vchernik) wrote in zonasingularn,
vchernik
vchernik
zonasingularn

сингулярность мышления?

(источник)

Законы мышления

Если кто-то не согласен со мной в отношении законов логики, теории вероятностей и теории принятия решений, то далеко в обсуждении сингулярности мы не уйдем, потому что все закончится спорами о том, работает ли человеческий разум на магии. Или о том, может ли машина стать добродушнее лишь благодаря большей разумности. Или о том, что четко определить желания человека, наверное, не так уж и сложно. Или относительно любой другой ерунды. Так что давайте убедимся, что мы согласны на счет основ, перед тем как переходить к более сложным материям.

Логика

К счастью, мало кто спорит по поводу законов логики. Как в случае с математикой: мы можем делать ошибки по незнанию, однако как только кто-нибудь продемонстрирует нам доказательство теоремы Пифагора или несостоятельностиподтверждения следствием, мы будем убеждены. Математика и логика —дедуктивные системы, в которых вывод из состоятельного аргумента неизбежно следует из исходных условий, учитывающих аксиомы используемой науки: теории чисел, геометрии, логики предикатов и т.п. (Конечно же, полностью избежать возможности ошибки нельзя: известное доказательство Великой теоремы Ферма Эндрю Уайлсанасчитывает больше сотни страниц, так что даже если бы я сам прописал его от начала до конца, я не был бы уверен, что не допустил где-то ошибку).

Почему же следует позволять логике навязывать нам способ мышления? Не стоит этого пугаться. Законы логики крепко впечатаны в нашу систему коммуникации. Если кто-то говорит мне, что стоящая передо мной машина на сто процентов красная и одновременно — на сто процентов синяя, то проблема скорее не в использовании разных логических систем, а в разговоре на разных языках. Если я говорю, что машина на сто процентов красная, это подразумевает, что она не может быть на сто процентов синей. Если кто-то со мной не соглашается, значит, мы говорим на разных языках, и этот кто-то использует наречие, во многом сходное с моим в написании и произношении, но различающееся в значениях.

Но логика — наука достоверности, а в нашем мире нельзя быть уверенным ни в чем. Так что нам следует говорить не о достоверности, но о вероятности.

Теория вероятностей

Сперва познакомьте ребенка с религией — и ему будет трудно избавиться от нее даже при столкновении с наукой. Сперва познакомьте ребенка с наукой — и при встрече с религиозными догмами они покажутся ему глупыми.

Поэтому я сперва объясню верную теорию вероятностей, и лишь после этого упомяну неверную.

Что есть вероятность? Это учитывающий все ваши убеждения показатель того, насколько велик шанс утверждения оказаться верным. И чем бы ни являлась наша теория вероятностей, она должна соответствовать здравому смыслу (к примеру, логике) и самой себе (если вы можете просчитать вероятность двумя разными способами, они оба должны дать один ответ).

Несколько авторов продемонстрировали, что аксиомы теории вероятностей могут быть выведены из этих предположений и логики. Другими словами, теория вероятностей — это всего лишь ответвление логики. Если вы принимаете и логику, и указанные выше (хоть и очень коротко) предположения, то, знаете вы об этом или нет, но вы принимаете теорию вероятностей.

Другой причиной принять теорию вероятностей может послужить вот что: если вы до сих пор ее не приняли, и готовы поставить деньги на ваши убеждения, то кто-то, в теорию вероятностей уже уверовавший, оставит вас банкротом. (За доказательством обращайтесь сюда: Dutch Book arguments).

Пожалуй, самым полезным правилом, выведенным из аксиом теории вероятностей, будет теорема Байеса, которая точно указывает, как будет изменяться вероятность утверждения с введением новой информации. (В когнитивной науке рациональностимногие ошибки мышления определяются либо нарушением законов логики, либо нарушением теоремы Байеса). Если вы не включаете теорему Байеса в свою систему убеждений, вы не приемлете теорию вероятностей, являющуюся частью логики.

Конечно, человеческий мозг работает слишком медленно, чтобы весь день держать в уме байесовские вычисления. Однако, вы можете выработать способность мыслить так, чтобы производить примерные байесовские вычисления точней, чем при использовании тех стандартных способов мышления, которые были даны нам эволюцией.

Но здесь не к месту выкладывать полное руководство по логике, теории вероятностейили рациональному мышлению. Я только хочу познакомить вас с основными инструментами, которыми мы будем пользоваться, чтобы в дальнейшем иметь возможность объяснить, почему я пришел к одному, а не к другому выводу относительно сингулярности. Тем не менее, перед тем, как продолжать, вам стоит прочесть по меньшей мере это небольшое пояснение к байесовской теореме.

Наконец, я обещал вам пояснение: почему же частотная вероятность, которой, возможно, вас учили в школе — так же, как и меня — ошибочна. В то время как байесовская теория рассматривает вероятность как меру неуверенности, частотная вероятность рассматривает вероятность как «относительную частоту появления случайного события при достаточно длительных наблюдениях». Я назову лишь две проблемы из по меньшей мере пятнадцати, связанных с этой точкой зрения:


  1. Частотная вероятность не является выведенной из законов логики и не согласуется сама с собой. Рассчитывая частотную вероятность, довольно часто мы можем, используя разные методы, прийти к разным выводам.


  2. Частотная теория оценивает вероятность, основываясь не только на заданной нами информации, но и на длинном списке гипотетических «экспериментов», которые обрисованы лишь очень грубо и которых мы, скорее всего, никогда не пронаблюдаем. Таким образом, частотная вероятность отвергает эмпиризм.


Если частотная вероятность ошибочна, почему же она так популярна? Тому существует множество причин, описанных в этой книге об истории теоремы Байеса. В общем, знайте: когда я говорю о теории вероятностей, я ссылаюсь на вероятность Байеса.

Теория принятия решений

Я уже объяснил, зачем в эпистемической рациональности нужны законы мышления (формирование подтвержденных убеждений), и я указал несколько подробных учебников. Но как законы мышления могут быть применены в инструментальной рациональности (максимальное увеличение шансов на получение делаемого)? Разве наши желания не субъективны, а потому не попадают ни под какие правила?

Да, у нас может быть множество целей. Но когда мы говорим о максимальном увеличении шансов на достижение этих целей, правила существуют. Если вы об этом поразмышляете, это станет для вас очевидным. Какими бы ни были ваши цели, всегда есть множество глупейших способов пытаться их достигнуть. Если вы хотите познать мир, не стоит прятать голову в песок и отказываться смотреть на этот мир. Если вы хотите достичь своих целей, вам, пожалуй, не стоит обездвиживать все свое тело, если только паралич — не ваша единственная цель.

Поговорим конкретней. Суть теории принятия решений — в выборе из ряда возможных действий, основанном на том, как сильно для вас важны последствия этих действий.

Как это работает? Мы можем описать ваши желания с помощью так называемойфункции полезности, определяющей число, выражающее силу вашего стремления к каждому из возможных последствий (иными словами, «полное описание возможного будущего»). К примеру, шарик мороженного для вас имеет ценность в 40 единиц блага, смерть вашей дочери — -274 000 единицы блага, и т.п. Это численное представление всех ваших желаний и составляет вашу функцию полезности.

Для того, чтобы рассчитать ожидаемую полезность для каждого рассматриваемого варианта действия, мы можем совместить ваши вероятностные убеждения и вашу функцию полезности. Ожидаемая полезность действия — это средняя полезность всех возможных последствий, взвешенных с учетом вероятностей того или иного последствия.
Предположим, вы с дочерью гуляете вдоль скоростного шоссе. На противоположной стороне шоссе вы видите ларек с мороженым, однако недавно вы повредили ногу и не можете передвигаться достаточно быстро, чтобы перейти дорогу. Если вы пошлете к ларьку свою дочь, то, основываясь на известной информации, существует шестидесятипроцентная вероятность того, что вы получите мороженное, пятипроцентная вероятность того, что вашу дочь собьет машина, и другие вероятностей для других последствий.

Дабы рассчитать ожидаемую полезность того, чтобы послать вашу дочь за мороженым через скоростное шоссе, мы умножаем полезность первого последствия на его вероятность: 0.6 × 40 = 24. К этому мы добавляем произведение полезности и вероятности второго действия: 24 + (0.05 × -⁠274,000) = -⁠13,676. Предположим, что сумма произведений полезности и вероятности всех остальных последствий равняется нулю. Таким образом, ожидаемая полезность того, чтобы отправить вашу дочь за мороженным, очень, очень низка (что вполне соответствует здравому смыслу). Возможно, вам следует действовать каким-нибудь другим возможным способом, не включающим в себя посылание вашей дочери через скоростное шоссе — иными словами, способом с большей ожидаемой полезностью.

Рациональный субъект стремится довести до максимума ожидаемую полезность, потому как субъект, поступающий подобным образом, в среднем будет достигатьсамых осуществимых своих целей.

Кажется очевидным, что рациональный субъект должен стремиться довести до максимума ожидаемую полезность, но почему это — единственный рациональным образ действий? Почему бы не попытаться довести до минимума возможный ущерб? Почему не попытаться довести до максимума сумму кубов возможных полезностей?

Обоснование для принципа «достижения максимальной ожидаемой полезности» было приведено в сороковых годах Фон Ньюманом и Моргенштерном. В двух словах, они доказали, что если принять несколько аксиом о предпочтениях, то субъект может поступать в соответствии со своими предпочтениями только выбирая то действие, которое доведет до максимума ожидаемую полезность

Что это за аксиомы? Как и аксиомы теории вероятностей, они просты и понятны на интуитивном уровне. Например, одна из них — аксиома транзитивности, утверждающая, что если субъект предпочитает А в большей степени, чем В, а В — в большей степени, чем С, что он должен предпочитать А в большей степени, чем С. Существование этой аксиомы обусловлено тем, что субъект с нетранзитивными предпочтениями может стать жертвой мошенников и лишиться денег, даже если он будет принимать только предпочтительные для него решения.

Я не буду здесь вдаваться в детали, потому как этот вывод и так получил широкое признание: рациональный субъект стремится довести до максимума ожидаемую полезность.

К сожалению, люди не рациональны. Как мы увидим с следующей главе, людибезумны.

__________________________________
Правила ИГРЫ СО-сообществ 3-го круга: 2 Академия, Марсианский трактор, Мир Полдня, Школа 3.0, ЗОНА СИНГУЛЯРНОСТИ. +оЗадачник.
Tags: мышление, сингулярность
Subscribe
promo zonasingularn december 24, 2013 20:58 268
Buy for 10 tokens
( источник) Забирко Виталий vzabirko Аннотация: Никак не думал, что придётся добавлять к статье введение и писать это предисловие. Казалось бы, изложил основные положения теории четырёхмерного строения атома максимально упрощённо, используя исключительно общие…
  • Post a new comment

    Error

    Comments allowed for members only

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 2 comments