Самосознание

[Куку]

самосознание у роботов

Трое роботов были проинформированы о существовании так называемой «таблетки немоты», которая делает процесс разговора невозможным. Затем им сообщили, что таблетку получили только двое из них (на самом же деле ученые просто нажали на кнопку, отвечающую за их речевой центр). А затем на вопрос: «Кто получил таблетку?» каждый попытался ответить: «Я не знаю».

Удалось это только одному из устройств. Робот, услышавший собственный голос, опознал его, проанализировал ситуацию и продолжил монолог. Подняв для ответа руку, он заявил: «Прошу прощения, сейчас я знаю. Я смог доказать, что мне не выдали таблетку». Таким образом, в ходе теста роботы продемонстрировали способность к самоопределению и самосознанию.

[swarm]

Таким образом, в ходе теста роботы продемонстрировали способность к самоопределению и самосознанию.

Китайская комната же. Манипуляции с символами и формальной логикой. Примерно с тем же результатом можно было просто записать на магнитофон нужные экспериментатору слова.

[Куку]

в смысле? а ты на такой тест если бы отвечал чем то другим манипулировал?

[swarm]

Однозначно ответить сложно. Вообще это сложный философский вопрос, про который пишут научные монографии и т.п. Причем, кстати, начали еще до появления компьютеров.

Грубо говоря, человек руководствуется семантикой, смыслом, значениями. Один смысл качественно отличен от другого, переживается иначе.
Имитация интеллекта машиной реализуется через поток принципиально одинаковых символов, которые подвергаются некоторым логическим операциям. Они никак ей не "переживаются", это просто физические взаимодействия.

Вычисление формальной логики (типа "слышу свой голос, значит не получал "таблетку немоты") можно реализовать (что и делали) даже чисто механически, на пружинах и шестеренках. Никто не стал бы утверждать, что у такой логической машины в виде ящика с ручками появилось самоосознание.
(Или в виде вычислений на листке бумаги; человек тут выступал бы в роли, скажем так, электрического тока на схеме процессора. При этом понятно, что сам листок с вычислениями едва ли обладает осознанием смысла вычислений, которые на нем проводились.)
В данном случае мы просто видим красивую "обертку", затуманивающую восприятие - человекоподобные куклы, слух и речь. Все это не имеет прямого отношения к осознанию и мышлению, и запрограммировано извне.

[fidel]

Однозначно ответить сложно. Вообще это сложный философский вопрос,

они я думаю не способны ответить на очень простой вопрос - есть ли самосознание в них самих ?

припоминается что есть пара фильмов связанных с самосознанием роботов
недавний фильм "Из машины" и старый фильм "Бегун по острию бритвы"
Есть ли в них в образах роботов самосознание ?

[Куку]

сворм, у меня почему то сильные сомнения что поведение человека также не запраграммировано извне

[Куку]

Однозначно ответить сложно. Вообще это сложный философский вопрос,

они я думаю не способны ответить на очень простой вопрос - есть ли самосознание в них самих ?

припоминается что есть пара фильмов связанных с самосознанием роботов
недавний фильм "Из машины" и старый фильм "Бегун по острию бритвы"
Есть ли в них в образах роботов самосознание ?

а ты у ребенка спроси есть ли у него самосознание, интересно что он ответит

в бегущем по лезвию явно есть у них самосознание. по крайней мере они стремятся себя защитить и боятся разрушения

[swarm]

сворм, у меня почему то сильные сомнения что поведение человека также не запраграммировано извне

Поведение и мышление к осознанию имеет весьма косвенное отношение. (Это, в частности, можно заметить в пограничном состоянии или через остановку внутреннего диалога.)
В силу особенностей способов реализации ЭВМ у них нет и не может возникнуть субъективного опыта, квалиа.
Я бы вернулся к аналогии других устройств реализации. Например, те же алгоритмы, которые заставляют няшного робота говорить, что он понял, можно реализовать с помощью листков бумаги с инструкциями, рассылаемых математикам голубиной почтой. Вся система в целом будет производить впечатление мыслящей, и она сможет давать ответы на подобные вопросы, но вряд ли кто-нибудь стал бы утверждать, что она осознает себя.

[Шум]

Куку, абстрагируйся от всего кроме задачи прибавить "128 + 73". вот всё, от чего ты абстрагировалась роботу недоступно. он может только считать, используя элементы логики, которые составляют его суть. ни о каком самосознании такого робота не может идти речи

я не разбираюсь в ИИ, но возможно какая-то критическая масса логических элементов сможет вместить в себя структуры подобные человеческому настроению. как например критическая масса населения земли, чтобы сесть на луну. вот только чтобы собрать рабочие структуры нужно нечто вроде команды орла

[Шум]

кста, наша чел полоска такая же узкая как и это "128 + 73", чтобы засветить все доступные нам полоски надо сгореть изнутри. вот только мы обезьянки как и робот 128+73 никогда не выйдем за свои рамки, ведь мы и есть эти рамки. мы маст дай в любом случае