anhinga_anhinga: (Default)
anhinga_anhinga ([personal profile] anhinga_anhinga) wrote2005-05-09 02:28 pm

(no subject)

Let's try to reopen the discussion related to strong AI, theory of consciousness, whether there is a relation to quantum physics or not, etc. We might discuss texts written by Roger Penrose in connection with these topics, because these texts often serve as a good starting point, or we might want to discuss these topics directly without referring to Penrose...

Каверзный вопрос.

[identity profile] faceless-lady.livejournal.com 2005-05-10 10:22 pm (UTC)(link)
Объясните провинциалке...что такое Пенроуз называет сознанием? Интуитивное усмотрение математической истины? По крайней мере, в другом смысле я у него этот термин не усмотрела. ;)

Re: Каверзный вопрос.

[identity profile] anhinga-anhinga.livejournal.com 2005-05-10 10:32 pm (UTC)(link)
По моему, в первом приближении, он вводит аксиому, что сознание обладает математической интуицией, и пытается проводить рассуждения, исходя из этой аксиомы...

Да, да...

[identity profile] faceless-lady.livejournal.com 2005-05-11 03:44 am (UTC)(link)
именно эта аксиома не подкреплена никаким рассуждением...и производит поэтому впечатление не безумной, а просто неудачной.

Re: Да, да...

[identity profile] anhinga-anhinga.livejournal.com 2005-05-11 07:33 pm (UTC)(link)
Как и большинство работ по AI, эта аксиома отражает то, как автор думает про самого себя...

Re: Да, да...

[identity profile] faceless-lady.livejournal.com 2005-05-11 08:03 pm (UTC)(link)
Во-о-от!
Согласитесь, что это...ммм....ненаучно, как бы, а?
Удиивтельно то, что он ведь не сам по себе за эту тему взялся, а на пару с известным нейрофизиологом Hammerof (если не напутала). И как-то они "забыли" внятно описать, что же именно понимают под сознанием, а главное - почему понимают это, а не то....

Тут мысль бродит...крамольная немного..математики избалованы непротиворечивостью и выводимостью своих моделей, и , поэтому, немного, как бы сказать...утратили искусство ставить вопросы, а также искусство наблюдать и описывать явление, прежде, чем анализировать его.

Чистейшее IMHO, разумеется...

Re: Да, да...

[identity profile] anhinga-anhinga.livejournal.com 2005-05-11 08:27 pm (UTC)(link)
> Согласитесь, что это...ммм....ненаучно, как бы, а?

Может и так. Но, по моему, весь AI так устроен, - люди просто экстраполируют свою интроспекцию и интуицию. Так что, авторы вполне в рамках "the standard of the field of study" ;-)

Re: Каверзный вопрос.

[identity profile] anhinga-anhinga.livejournal.com 2005-05-10 11:56 pm (UTC)(link)
И, на самом деле, это как раз правильно методологически: не заниматься безнадежными попытками определять, что такое сознание, а вместо этого вводить постулаты, причем минимальный набор, необходимый для конкретного исследования...

В таком случае....

[identity profile] faceless-lady.livejournal.com 2005-05-11 03:41 am (UTC)(link)
...не будете ли Вы любезны напомнить, какие именно постулаты ввёл Пенроуз, а самое главное - каково их обоснование.
(По секрету: imho, рассуждения Пенроуза на тему сознания ненаучны...и даже не научно-популярны...популярно (и неудачно) его изложение теоремы Гёделя о неполноте, тезиса Черча-Тьюринга. Более удачной можно считать часть, описывающую модели, доминирующие в физике.Последние главы, посвященные собственно предмету, то есть, работе мозга и сознанию, уж совсем популярны.

Я так и не понимаю, на основании чего он связал сознание и математическую интуицию. Где мостик между утверждением, что существо, обладающее сознанием, обладает и мат.интуицией и наоборот...
и , кстати, тут же возникает сразу новый вопрос: как связать мат.интуицию с редукцией вектора состояния? (у него это как-то замолчено lol )
Вы бы смогли объяснить это мне "на пальцах"? :-)

Re: В таком случае....

[identity profile] anhinga-anhinga.livejournal.com 2005-05-11 07:58 pm (UTC)(link)
Единственный постулат у него, по-моему, что люди обладают способностью "в пределе правильно познать всю математику", чтобы это не значило. Обоснование довольно жалобное, по сути читателю предлагается самому подумать над этим вопросом и решить так это, или нет...

В первом приближении можно считать, что он адресуется только к читателям, готовым до некоторой степени поверить в этот постулат...

to be continued

Re: В таком случае....

[identity profile] faceless-lady.livejournal.com 2005-05-11 08:07 pm (UTC)(link)
люди обладают способностью "в пределе правильно познать всю математику"

все люди?! 8-о
А как быть с совершенно неспособными к математике? у них и сознание не водится, надо полагать? :-))))))
Возможно, он и не догадывается о существовании таковых? ;-)

Re: В таком случае....

[identity profile] anhinga-anhinga.livejournal.com 2005-05-11 08:33 pm (UTC)(link)
А он считает, что если нельзя сделать математиков, то не играет роли, можно ли сделать всех прочих... Что AI project, который не может сделать математика, по большому счету интереса не представляет...

Надо сказать, что я склонен с этим согласиться...

[identity profile] cema.livejournal.com 2005-05-15 06:41 am (UTC)(link)
Мне кажется, что AI project, который сумеет сделать полноценную собаку, значительно интереснее, чем проект, который сможет сделать математика — и только.

[identity profile] anhinga-anhinga.livejournal.com 2005-05-15 07:18 pm (UTC)(link)
Легко сообразить, что не бывает математика (или программиста) "и только", хотя бы потому, что они, скорее всего, смогут принять участие в дальнейшем изменении "самих себя"...

Потом, что ты понимаешь под "полноценной собакой"?

[identity profile] cema.livejournal.com 2005-05-21 06:36 am (UTC)(link)
Математик "и только" напоминает шахматиста "и только" в виде известной шахматной программы, победившей известного человеческого гроссмейстера.

что ты понимаешь под "полноценной собакой"?

Которую другие собаки будут готовы принять как собаку.

Собачий Тьюринг-тест!...Здорово!

[identity profile] faceless-lady.livejournal.com 2005-05-21 04:11 pm (UTC)(link)
subj

(no subject)

[identity profile] cema.livejournal.com - 2005-05-26 01:21 (UTC) - Expand

(no subject)

[identity profile] cema.livejournal.com - 2005-05-27 06:01 (UTC) - Expand

Это уже детали...

[identity profile] faceless-lady.livejournal.com 2005-05-16 03:15 pm (UTC)(link)
Если создавать from scratch , то это практически одно и то же. у собаки зачатки абстрактного мышления тоже имеются....а уж все остальные психические функции - эта подводная часть айсберга - и подавно.

[identity profile] cema.livejournal.com 2005-05-21 06:38 am (UTC)(link)
У собак всё-таки здравый смысл развит сильнее абстрактного мышления, в отличие от многих известных мне людей, и заставить их принять в качестве собаки типичную игрушку будет непросто.

:-)))

[identity profile] faceless-lady.livejournal.com - 2005-05-21 17:10 (UTC) - Expand

(no subject)

[identity profile] cema.livejournal.com - 2005-05-21 20:23 (UTC) - Expand

(no subject)

[identity profile] cema.livejournal.com - 2005-05-26 02:20 (UTC) - Expand

Re: В таком случае....

[identity profile] anhinga-anhinga.livejournal.com 2005-05-11 08:20 pm (UTC)(link)
Далее, это все применимо лишь к первой части (про теорему Геделя). Посылка, которую он, по-моему, использует в части про физику - это утверждение, что сознание не может быть реализовано классическим устройством. Ему кажется, что он это доказал, но те, кто как я, считают, что "доказательство" никуда не годится, могут считать, что это - один из постулатов. Другой постулат - физическая природа сознания...

Далее мне кажется, что "the second main argument of Penrose is that the phenomenon of quantum collapse is the only source of incomputability in the world and the only place to hide the freedom of will." И это, на мой взгляд, само по себе кажется правильным.

Хотя как именно была устроена его попытка связать это все с его представлением о том, что есть еще Платоновская реальность, содержащая, среди прочего, математические истины, я уже не помню. И, наверное, эту часть мне стоит перечитать...

Re: В таком случае....

[identity profile] faceless-lady.livejournal.com 2005-05-12 09:43 pm (UTC)(link)
the second main argument of Penrose is that the phenomenon of quantum collapse is the only source of incomputability in the world and the only place to hide the freedom of will

Уже когда-то говорила...это именно источник невычислимости (в бытовой интерпретации - непредсказукмости), но никак не свободы воли....идея свободной воли состоит не в том, чтобы непременно ввести эту самую непредсказуемость, а, всего лишь в том, чтобы иметь вполне приземлённый и понятный выбор в своих поступках. Обоснованный выбор...а тут предлагается как раз отсутствие воли...в человеческом понимании. И
Иными словами, предполагается наличие некоторого недоступного непосредственному наблюдению и анализу фактора, который, в конечном счёте и определяет поведение. И это, почему-то именуется последним прибежищем свободной воли.

Re: В таком случае....

[identity profile] anhinga-anhinga.livejournal.com 2005-05-13 12:11 am (UTC)(link)
> а тут предлагается как раз отсутствие воли

Это, как раз, вопрос открытый... Природа этого явления не ясна; конечно, если считать, что при этом активируется некий загадочный "идеальный генератор случайных 'чисел'", как обычно принято считать в современной физике, то никакой "свободы воли" там нет...

Но никаких причин, для того, чтобы считать, что эта физическая модель "идеальной случайности" верна, мне не известно.

> предполагается наличие некоторого недоступного непосредственному наблюдению и анализу фактора

Я никакой такой недоступности для наблюдения и анализа вовсе не предполагаю - может доступен, а может и нет. Я очень надеюсь, что он окажется доступен со временем...

> И это, почему-то именуется последним прибежищем свободной воли

Потому что, когда смотришь на дифракционную картину электронов, например, почему-то вспоминается, что вот есть простые статистические модели, описывающие долю людей, которые больше любят "Пепси", и как эта доля меняется в зависимости от разных макроскопических факторов... Ну, то есть, не всем вспоминается, но мне вот вспоминается...

Понятно, что эти модели игнорируют индивидуальный выбор, моделируя его случайным действием; с другой стороны, индивидуальный выбор действительно зависит от внешних факторов... В частности, зависит от того, популярна ли "Пепси" в тусовке данного человека...

Эта аналогия может не иметь никакого отношения к делу, но я бы не сказал, что гипотеза, что дело обстоит похожим образом и на микроуровне, менее правдоподобна, чем гипотеза идеальной случайности...

[identity profile] cema.livejournal.com 2005-05-15 06:47 am (UTC)(link)
Свобода воли как раз может прятаться не в придуманных нами физических законах (которые являются нашей моделью мира, описанием мира), а находиться в щелях между ними. Пока я начинал писать эту фразу, я понимал, что имел в виду, но теперь уже нет.

Поскольку мир принципиально непознаваем в абсолютном смысле, то вопрос о наличии свободы воли, если я его правильно понимаю, остаётся недоказуемым, а следовательно, это не предмет изучения науки, а скорее религии и философии.

[identity profile] anhinga-anhinga.livejournal.com 2005-05-15 08:33 pm (UTC)(link)
> Свобода воли как раз может прятаться не в придуманных нами физических законах (которые являются нашей моделью мира, описанием мира), а находиться в щелях между ними

может...

> Пока я начинал писать эту фразу, я понимал, что имел в виду, но теперь уже нет

вспоминай :-) а то единственный плод всей этой дискуссии будет утерян :-)

> Поскольку мир принципиально непознаваем в абсолютном смысле

Это никому не известно. Но даже если это правда, все равно

> вопрос о наличии свободы воли... остаётся недоказуемым

не следует, и, тем более,

> это не предмет изучения науки

не следует...

[identity profile] faceless-lady.livejournal.com 2005-05-16 03:58 pm (UTC)(link)
Свобода воли как раз может прятаться не в придуманных нами физических законах (которые являются нашей моделью мира, описанием мира), а находиться в щелях между ними. Пока я начинал писать эту фразу, я понимал, что имел в виду, но теперь уже нет.

Вероятно, :-) Вы имели в виду, что не существует понятий, а , как следствие, и слов, в терминах которых можно выразить свободу воли.
Очевидно, что это не совсем так...слова "свобода" и "воля" существуют, и мы прекрасно выражаем то, что понимаем под свободой воли при помоци этих двух слов.
Мне вообще преблема свободы воли представояется одной их величайших иллюзий человечества. В том смысле, что мы имеем свободу воли, если приписывать этому словосочетанию именнон тот смысл, который в него закладывался нашими предками изначально, а именно, возможность принимать решения не только на основе инстинктов, но и руководствуясь разумом и развившимися у человека экстраинстинктивными эмоциями, то есть, разумом в обобщённом смысле.
Ясно, что такую свободу воли мы имеем.

Поскольку мир принципиально непознаваем в абсолютном смысле, то вопрос о наличии свободы воли, если я его правильно понимаю, остаётся недоказуемым

Познаваемость мира упирается в смысл слова "познание"... если познание подразумевает создание полной копии объекта познания, то мир непознаваем...если познание понимать как построение модели мира, то мир познаваем вполне.
Но даже учитывая это замечание, непонятно, почему абсолютная познаваемость мира , по-вашему, так жёстко связана именно с вопросом свободы воли. ?

[identity profile] cema.livejournal.com 2005-05-21 06:49 am (UTC)(link)
Я не имел в виду проблему терминов, а проблему мироописания.

Да, полную копию мира создать нельзя. Да, модели мира создаются и будут создаваться, описывая нашу практику в этом мире всё точнее и точнее. Но никогда нельзя будет достоверно утверждать, что модель точна, и более того: нельзя будет достоверно утверждать, насколько она неточна.

Следовательно, свести мотивацию человеческих поступков к "первым принципам" (отрицая таким образом свободу воли) будет невозможно, поскольку оппонент всегда сможет возразить, что физические обоснования свободы воли кроются в ещё не описанных законах, т.е. за пределами имеющихся моделей, "в щелях между ними" (вот). Это означает, что фальсификация, в методологическом смысле, гипотезы о свободе воли невозможна. Значит, эта гипотеза лежит за пределами науки.

(Речь идёт о свободе воли в философском её понимании.)

(no subject)

[identity profile] cema.livejournal.com - 2005-05-26 02:18 (UTC) - Expand