?

Log in

No account? Create an account

О китайскихъ комнатахъ, пятничное - Уксус — LiveJournal

Sep. 30th, 2017

12:03 am - О китайскихъ комнатахъ, пятничное

Previous Entry Share Flag Next Entry

До чего ещё можно договориться въ этомъ вашемъ ЖЖ.

[...] давайте ужъ тогда по-честному.

Допустимъ, сознанiе "на самомъ дѣлѣ" сводимо къ вычисленiю.

Допустимъ, у насъ есть изслѣдователь, который этого точно не знаетъ и хотѣлъ бы убѣдиться.

Его сознанiе (а также всё остальное, что можетъ влiять на его знанiя и рѣшенiя) тоже, разумѣется, сводимо къ вычисленiю.

Какимъ образомъ вычисленiе, представляющее собой мысленный экспериментъ типа китайской комнаты (или модлиновскихъ машинокъ), поможетъ ему придти къ правильному выводу?


(В. п. с., въ комментахъ у evgeniirudnyi.)

Comments:

[User Picture]
From:nihao_62
Date:September 29th, 2017 11:00 pm (UTC)
(Link)
Допустимъ, сознанiе "на самомъ дѣлѣ" не сводимо къ вычисленiю.

Допустимъ, у насъ есть изслѣдователь, который этого точно не знаетъ и хотѣлъ бы убѣдиться. Что не сводимо.

Его сознанiе (а также всё остальное, что можетъ влiять на его знанiя и рѣшенiя) тоже, разумѣется (ему разумеется), не сводимо къ вычисленiю. И не способно к нему.

Таким образомъ невычисленiе, неумение вычислять в принципе представляющее собой мысленный экспериментъ приводит его къ правильному выводу!

Edited at 2017-09-29 11:01 pm (UTC)
(Reply) (Thread)
[User Picture]
From:uxus
Date:October 2nd, 2017 09:22 pm (UTC)
(Link)
Это годный аргументъ, да ;)

Боюсь, на него можно возразить утвержденiемъ, что неспособность къ (сознательному) вычисленiю легко сводима къ вычисленiю.
(Reply) (Parent) (Thread)
[User Picture]
From:nihao_62
Date:October 2nd, 2017 09:38 pm (UTC)
(Link)
неспособность къ (сознательному) вычисленiю легко сводима къ вычисленiю.

В таком случае ваше определение "вычисления" подразумевает его омнипотентность.

И неспособность кого-то придти к правильному выводу лишь свидетельствует о слабости взыскующего в искусстве вычислений.
(Reply) (Parent) (Thread)
[User Picture]
From:uxus
Date:October 3rd, 2017 01:57 pm (UTC)
(Link)
Да никакой омнипотентности. Просто алгоритмъ выдаётъ эксепшнъ. У модуля "сознанiе" нѣтъ правъ на запускъ нѣкоторыхъ операцiй отъ своего собственнаго имени.
(Reply) (Parent) (Thread)
[User Picture]
From:kcmamu
Date:September 29th, 2017 11:58 pm (UTC)
(Link)
Что такое вычисление, более-менее понятно.
А что такое сознание?
(Reply) (Thread)
[User Picture]
From:nihao_62
Date:September 30th, 2017 12:17 am (UTC)
(Link)
Дык, как раз способность к вычислениям.
(Reply) (Parent) (Thread)
[User Picture]
From:whiteferz
Date:September 30th, 2017 09:38 am (UTC)
(Link)
В первом приближении можно считать сознание канемановской Системой 2 + взрослые навыки, переданные из неё в Систему 1 и осознанные в процессе передачи.

(Reply) (Parent) (Thread)
[User Picture]
From:whiteferz
Date:September 30th, 2017 09:38 am (UTC)
(Link)
http://whiteferz.livejournal.com/516642.html
(Reply) (Parent) (Thread)
[User Picture]
From:evgeniirudnyi
Date:September 30th, 2017 06:41 am (UTC)
(Link)
Ваш вопрос, насколько я понял, связан с тем, каким образом принятая человеком картина мира поможет этому человеку убедить самого себя в правильности этой самой картины мира. В такой постановке я хочу сказать, что ваш вопрос вовсе не ограничивается сторонниками вычислительной теории сознания, а скорее он затрагивает вопрос познаваемости мира. Не думаю, что в данном случае есть какой-то однозначный вопрос.

Если же говорить о вычислительной теории сознания, то можно посмотреть как в этом случае отвечает на ваш вопрос Бруно Маршаль - по-моему, самый яркий представитель вычислительной теории сознания. Вы можете пролистать его статью

NeoNeoPlatonism : Can Theology be Studied with the Scientific Attitude?

которая досупна на ResearchGate, я дам ссылку в следующем ответе. Бруно дает ответ "да" на свой вопрос, при этом он обосновывает его как раз своими разработками в духе вычислительной теории сознания.
(Reply) (Thread)
[User Picture]
From:uxus
Date:October 2nd, 2017 09:10 pm (UTC)
(Link)
Нѣтъ, я какъ бы отвѣчалъ на какъ бы другой вопросъ ;)

Многiе мысленные эксперименты (МЭ) такого рода (начиная съ теста Тьюринга) аппеллируютъ къ операцiональной неразличимости поведенiя (напр. человѣка и машины).

Слѣдовательно, описанiе МЭ неполно безъ эксплицитнаго описанiя операцiй, доступныхъ воображаемому наблюдателю (напр., введенiе въ качествѣ такового телепата-ясновидящаго обезсмыслило бы МЭ).

Поскольку въ качествѣ воображаемаго наблюдателя обычно берется "человѣкъ вообще", доступныя ему (въ рамкахъ МЭ) операцiи, по-видимому, тѣ же, что доступны автору МЭ. Откуда мой постингъ.

Это часть проблемы, которую я уже пытался сформулировать у Васъ въ комментахъ: принципiальная одинаковость знанiй о моделируемомъ явленiи (напр. сознанiи) у автора МЭ, воображаемаго автора используемой въ МЭ модели и воображаемаго наблюдателя поведенiя модели сводит проблему операцiональной неотличимости явленiя отъ его модели въ рамкахъ подобныхъ МЭ къ тавтологiи.

Edited at 2017-10-02 09:26 pm (UTC)
(Reply) (Parent) (Thread)
[User Picture]
From:evgeniirudnyi
Date:October 3rd, 2017 07:17 am (UTC)
(Link)
Следует различать точку зрения первого лица и точку зрения третьего лица. С точки зрения описания науки как раз не удается получить точку зрения первого лица. В данном случае действительно возможно только обсуждение операционального поведения. Тем не менее, нельзя забывать, что точка зрения третьего лица оценивается нами с точки зрения первого лица.

Аргумент Модлина можно сформулировать так. Если принять, что точка зрения первого лица формируется путем вычислений, то с точки зрения третьего лица физическая реальность не играет никакой роли в формировании точки зрения первого лица.
(Reply) (Parent) (Thread)
[User Picture]
From:evgeniirudnyi
Date:September 30th, 2017 06:42 am (UTC)
(Link)
Ссылочка на работы Бруно

https://www.researchgate.net/profile/Bruno_Marchal3/publications
(Reply) (Thread)
[User Picture]
From:uxus
Date:October 2nd, 2017 09:10 pm (UTC)
(Link)
Спасибо за ссылку!
(Reply) (Parent) (Thread)
[User Picture]
From:varthan
Date:September 30th, 2017 07:32 am (UTC)
(Link)
Вообще говоря, вычисления "придуманы" сознанием для того, чтобы заменить некоторый функционал сознания, имеющий целью получить результаты этих вычислений.
Таким образом, вычисления "сводятся" к некоторой части функционала сознания, а не наоборот.
То есть, не "сегодня с утра захотелось повычислять", а "вычисляю, потому что хочу узнать вот это".

Допустим, некому лицу, обладающему сознанием, так или иначе удалось "придумать" вычисления, которые сводятся к полноценному сознанию.
Но для этого лица эти вычисления останутся лишь частью функционала его сознания.
Следовательно, по сравнению с сознанием этого лица, это "вычисленное" сознание окажется неполноценным. Противоречие. :)
(Reply) (Thread)
[User Picture]
From:whiteferz
Date:September 30th, 2017 09:44 am (UTC)
(Link)
... вычисления "сводятся" к некоторой части функционала сознания, а не наоборот.

Абсолютно точно. Вычисления есть не любое мышление, а скованное правилами.
(Reply) (Parent) (Thread)
[User Picture]
From:evgeniirudnyi
Date:October 3rd, 2017 07:10 am (UTC)
(Link)
Отсюда, по-моему, следует, что либо компьютеры не производят вычисления, либо у компьютеров уже можно найти некоторые, хотя и неполноценные, зачатки сознания.
(Reply) (Parent) (Thread)
[User Picture]
From:varthan
Date:October 3rd, 2017 05:42 pm (UTC)
(Link)
По второму варианту: часть и зачаток - разные понятия.
Рука - часть организма. Зачаток ли она его? А компьютер - даже не рука, а селфи-палка, например.

По первому варианту - возможны машины, которые не производят вычислений с помощью введенного в них алгоритма, а выдают требуемый результат в силу своего внутреннего устройства (топологии). Причем этот процесс не сводим к цепочке последовательных инструкций (алгоритму). Ну и куда девать все эти теории в таком случае?

Мне кажется, лучший тест на сознание - это когда в один прекрасный день ваш гаджет подходит к вам, и говорит: "Я умный, а ты кто такой? Ну-ка слезь с дивана.", а когда вы возражаете: "А вот хрен тебе", надуется и уедет жить к маме.
Воля и иррациональность не менее присущи известному нам типу сознания, чем способность к абстрактным двум прибавить неважно чего два.
(Reply) (Parent) (Thread)
[User Picture]
From:chaource
Date:September 30th, 2017 07:50 am (UTC)
(Link)
Что такое вычисленiе, мы знаемъ - математики дали опредѣленiе, которое хорошо работаетъ уже 80 лѣтъ. А вотъ что такое "сознанiе", пока выяснить не удалось. Напримѣръ, если мы спросимъ, обладаетъ ли сознанiемъ обезьяна, дельфинъ, собака, или крыса, то отвѣта на этотъ вопросъ мы не найдемъ. Вродѣ бы эти животныя по-своему "умны" и по-своему "многое понимаютъ". Но всѣ такiя разсужденiя остаются пока что за гранью строгой науки. Ученые давно пытаются ставить эксперименты надъ шимпанзе, собаками, крысами и т.д., но однозначнаго результата до сихъ поръ нѣтъ.

Я слѣдую другому подходу при разсмотрѣнiи этихъ проблемъ - не философскому, а эмпирическому. А именно, я задаю эмпирическiй вопросъ - какъ въ реальности ведутъ себя люди въ ситуацiи, когда имъ нужно общаться съ собакой, лошадью, крысой, автомобилемъ, компьютеромъ, или человѣкообразнымъ роботомъ. Какiе методы используютъ люди въ реальности для воздѣйствiя и контроля надъ поведенiемъ этихъ объектовъ ("существа" это или "предметы", мы пока что не знаемъ).

Сразу выясняется, что, напримѣръ, внѣшнiй видъ - человѣкообразное тѣло и, особенно, наличiе у объекта человѣкообразнаго "лица" съ эмоцiями - играетъ для насъ огромную роль. Если у объекта есть лицо съ эмоцiями, мы сразу начинаемъ пытаться контролировать поведенiе объекта съ помощью психологическихъ прiемовъ. А если лица у объекта нѣтъ, мы ищемъ другiе методы - скажемъ, физическое принужденiе, прямое воздѣйствiе на "рычаги власти" (поводокъ собаки, руль автомобиля).

Такимъ образомъ, совсѣмъ не тесты Тьюринга различаютъ объектъ, "похожiй на человѣка", отъ безсознательной "машины". Тестомъ является вопросъ - какими методами было бы цѣлесообразно контролировать и направлять поведенiе этого объекта. Кнутомъ? Поводкомъ? Кнопками? Денежной премiей? Разговоромъ по душамъ?

У насъ (людей) уже есть интуицiя, говорящая намъ, какъ намъ лучше контролировать и направлять въ желательную намъ сторону поведенiе различныхъ окружающихъ насъ объектовъ (людей, животныхъ, растенiя, машины, камни). Съ разными людьми мы ведемъ себя по-разному, съ разными животными по-разному, и даже съ разными компьютерами по-разному. Напримѣръ, наша интуицiя говоритъ намъ, что объектъ съ лицомъ подверженъ эмоцiямъ и имъ можно до какой-то степени управлять съ помощью эмоцiональнаго воздѣйствiя и съ помощью разговора. А какъ именно и что въ какихъ случаяхъ надо говорить, мы тоже догадываемся интуитивно, по ситуацiи (но сформулировать это точно мы не въ состоянiи).

Edited at 2017-09-30 08:01 am (UTC)
(Reply) (Thread)
[User Picture]
From:uxus
Date:October 2nd, 2017 09:16 pm (UTC)
(Link)
Вашъ критерiй, съ одной стороны, какъ бы избыточно операцiоналенъ (сводитъ проблему къ типу эффективной манипуляцiи), а съ другой - фундаментально неоперацiоналенъ (манипулировать субъектомъ, который не глупѣе манипулятора, въ общемъ случаѣ невозможно).
(Reply) (Parent) (Thread)
[User Picture]
From:chaource
Date:October 3rd, 2017 12:42 am (UTC)
(Link)
Можетъ быть, лучше сказать не "манипулировать" и не "управлять поведенiемъ", а "воздѣйствовать на поведенiе" или "направлять" его. Рѣчь, естественно, не идетъ о томъ, чтобы полностью управлять чьимъ-то поведенiемъ - этого обычно не нужно. Достаточно, если мы можемъ оказывать влiянiе и добиваться какихъ-то ограниченныхъ, но уже полезныхъ намъ результатовъ.

Замѣтимъ, что люди по-разному работаютъ съ компьютерами. Большинство людей просто находятъ нѣкiе пути, достаточные для выполненiя требуемой работы. Но нѣкоторые люди хотятъ "разобраться до конца", - упорно изучаютъ работу компьютера, докапываются до сути проблемъ, т.е. хотятъ имѣть возможность управлять работой своего компьютера на 100%. Въ случаѣ компьютера это бываетъ возможно, въ случаѣ людей или животныхъ - уже невозможно.

Edited at 2017-10-03 03:22 am (UTC)
(Reply) (Parent) (Thread)
[User Picture]
From:evgeniirudnyi
Date:October 3rd, 2017 07:20 am (UTC)
(Link)
"Тестомъ является вопросъ - какими методами было бы цѣлесообразно контролировать и направлять поведенiе этого объекта. Кнутомъ? Поводкомъ? Кнопками? Денежной премiей? Разговоромъ по душамъ?"

Хочу обратить внимание, что эти вопросы решаются только в рамках политики. Отсюда возникает вопрос о соотношении науки и политики, на которой не видно удовлетворительного ответа.
(Reply) (Parent) (Thread)
[User Picture]
From:chaource
Date:September 30th, 2017 08:01 am (UTC)
(Link)
Вотъ опредѣленiе. Человѣкъ - это такой объектъ, управлять поведенiемъ котораго намъ цѣлесообразнѣе всего съ помощью эмоцiональнаго и дѣлового разговора.

Мы интуитивно знаемъ, въ какой ситуацiи такое управленiе поведенiемъ цѣлесообразно и когда надо переходить уже къ совершенно другимъ методамъ воздѣйствiя. Напримѣръ, хронически больной тяжелой формой умственной отсталости, который никогда не могъ и не сможетъ нормально разговаривать, совершенно не понимаетъ, что отъ него хотятъ, и не въ состоянiи нормально себя вести, - по такому опредѣленiю, является животнымъ, а не человѣкомъ. Контролировать поведенiе такого объекта цѣлесообразнѣе всего съ помощью поводка и печеньевъ. Это говоритъ намъ интуицiя, и нѣтъ основанiй не довѣрять ей, поскольку ничего болѣе дѣйственнаго мы все равно пока не придумали.

Далѣе, можно спросить, а хорошо-ли работаетъ на практикѣ вотъ эта наша интуицiя. Это тоже будетъ эмпирическiй вопросъ - хотя на него чрезвычайно нелегко отвѣтить. Первымъ шагомъ было бы документировать и классифицировать всѣ возможные варiанты поведенiя и всѣ способы контроля за поведенiемъ. Эта задача уже настолько огромна, что ни въ одной человѣческой культурѣ пока что нѣтъ даже простого списка всѣхъ извѣстныхъ ситуацiй поведенiя съ точными и формализованными опредѣленiями соотвѣтствующихъ обстоятельствъ. Компьютеры намъ здѣсь врядъ-ли помогутъ, поскольку мы не въ состоянiи даже сформулировать для компьютера точную техническую задачу.

По этимъ причинамъ, я очень скептически отношусь къ любымъ разговорамъ о "сознанiи" машинъ, о сведенiи человѣческаго сознанiя къ "вычисленiямъ" и т.д. Теоретически можетъ оказаться, что сознанiе сводится "въ принципѣ" къ какому-то (невообразимо сложному) набору вычисленiй. Но теорiя въ данномъ случаѣ совершенно безполезна. Ситуацiя точно такая-же, какъ въ физикѣ жидкости. Движенiе жидкости подчиняется, "въ принципѣ", совершенно четкимъ и хорошо извѣстнымъ уравненiямъ теорiи гидродинамики. Но эти уравненiя уже нѣсколько столѣтiй никто не можетъ точно рѣшить, а приближенное рѣшенiе слишкомъ неточно и поэтому безполезно. Поэтому практическая предсказательная сила такой "всеобъемлющей теорiи" - ничтожна.

Еще одинъ простой критерiй для опредѣленiя того, обладаетъ ли данный объектъ "сознанiемъ". Надо задать вопросъ - если объектъ причинилъ мнѣ ущербъ (напримѣръ, разбилъ окно въ моей квартирѣ), что мнѣ теперь было бы цѣлесообразно сдѣлать? Варiанты:

- ничего объекту не сдѣлать, а поставить на окно защитную рѣшетку (объектъ является большой сосулькой, упавшей съ крыши)
- уничтожить объектъ, или уничтожить ту часть объекта, которая разбила окно (объектъ является деревомъ)
- найти человѣка, управлявшаго объектомъ, и потребовать компенсацiи (окно было въ подвальномъ этажѣ, а объектъ является самоходной газонокосилкой, которую забыли выключить)
- потребовать компенсацiю отъ человѣка, отвѣчающаго за поведенiе человѣка, управлявшаго объектомъ (объектъ является моделью вертолета, которой управлялъ 8-лѣтнiй мальчикъ)
- заявить въ полицiю на человѣка, разбившаго окно (объектъ является ночнымъ грабителемъ)

Мое рѣшенiе опредѣляется тѣмъ, какiя методы воздѣйствiя наиболѣе цѣлесообразны. Если компьютеръ не полностью скачалъ изъ интернета какой-то важный документъ, потому что не осталось мѣста на жесткомъ дискѣ компьютера, и поэтому я не узналъ какую-то часть важной информацiи, то безсмысленно подавать въ судъ на жесткiй дискъ. Это совершенно ясно какъ интуитивно, такъ и эмпирически. Подавать въ судъ или чего-то требовать можно только отъ объекта, обладающаго сознанiемъ и живущаго въ обществѣ, - отъ объекта, поведенiе котораго настолько сложно, что именно разговоръ является наиболѣе эффективнымъ средствомъ контроля поведенiя. Вотъ здѣсь и находимъ истинную практическую разницу между человѣкомъ и машиной - а не въ теоретической "сводимости сознанiя къ вычисленiямъ".


Edited at 2017-09-30 08:25 am (UTC)
(Reply) (Thread)