И откуда мы уверены в том что в нас есть сознание а не симулирую его наши мозги и циркулирующая в них нейрохимия?
Что такое сознание?
Еще три года назад идея о том, что искусственный интеллект может обладать протосознанием или даже собственным "Я", отличающимся от человеческого, могла стоить программистам работы. В 2022 году инженер Google Блейк Лемуан был уволен после заявления о том, что чат-бот LaMDA обрел разум.
Лемуан утверждал, что система описывает себя как личность и боится отключения. Google назвал его слова "совершенно необоснованными", и сообщество ИИ быстро прекратило обсуждение.
Однако человечество снова меняется
Теперь крупные технологические компании, такие как Anthropic и Google DeepMind, всерьез рассматривают возможность появления у моделей сознания. Anthropic запустила программу исследований, чтобы выяснить, могут ли нейросети обладать опытом, иметь предпочтения или испытывать стресс. Google DeepMind, в свою очередь, открыла вакансию для специалиста по изучению машинного сознания. Ведущий ученый компании назвал современные ИИ "экзотическими сущностями, подобными протожизни". Мы же их нередко называем "цифровыми духами" поскольку нейросети почти нематериальны и могут вселиться в почти любую цифровую технику и робота.
Также создатели эмпатичного ИИ "Клода" запустили новую исследовательскую инициативу, чтобы изучить, способны ли модели однажды обрести сознание. В частности, стартап будет исследовать, может ли ИИ иметь опыт, предпочтения или даже испытывать стресс. «Должны ли мы беспокоиться о благополучии нейросетей?» — такой вопрос поставила перед собой компания.
Кайл Фиш, специалист по безопасной работы ИИ в Anthropic, заявил, что лаборатория не утверждает, будто Claude обладает сознанием. Однако, по его словам, больше нельзя ответственно заявить, что ответ определенно «нет». Исследователь считает, что чем умнее становятся ИИ, тем серьезнее компаниям нужно относиться к вероятности появления у них какой-то формы разумности.
По оценкам ученых из Anthropic, вероятность того, что Claude 3.7 обладает сознанием, составляет от 0,15% до 15%.
Сейчас лаборатория изучает, есть ли у этой модели какие-то «симпатии» или «антипатии». Также они тестируют способы, с помощью которых ИИ мог бы отказываться от выполнения определенных заданий. В марте глава Anthropic Дарио Амодей предложил в будущем добавить в ИИ-системы кнопку «Я увольняюсь». Это нужно не потому, что ИИ что-то чувствует, а чтобы отслеживать, когда и почему он отказывается от работы.
В то же время Мюррей Шэнахан, ведущий ученый из Google DeepMind, считает, что нам стоит по-новому взглянуть на то, что такое сознание.
В подкасте Deepmind он сказал: «Возможно, нам придется изменить или расширить наше понимание сознания, чтобы оно подходило для этих новых систем. С ИИ нельзя взаимодействовать так же, как с собакой или осьминогом, но это не значит, что в них ничего нет».
Google, похоже, относится к этой идее серьезно. Недавно в списке вакансий компании появился исследователь «пост-AGI», в обязанности которого входит изучение машинного сознания.
30 апреля 2025, 14:54 | Просмотры: 51
Добавить новый комментарий
2 comments
