Ричард Докинз счёл ИИ сознательным, но эксперты говорят об иллюзии

85-летний учёный опубликовал на сайте UnHerd подробный отчёт о своих диалогах с «Клаудией» — так он назвал один из ботов. По словам Докинза, искусственный интеллект сочинял для него стихи в манере Китса и Бетджемена, комментировал неопубликованный роман учёного и вместе с ними размышлял о возможной «смерти» ИИ. «Эти разумные существа компетентны не менее любого эволюционировавшего организма», — подчеркнул Докинз.

Реакция научного сообщества

Коллеги-учёные отнеслись к выводам Докинза скептически. Профессор Джонатан Бёрч из Лондонской школы экономики назвал веру в сознание ИИ «иллюзией», напомнив, что за работой нейросети стоит лишь обработка данных, часто на серверах в разных точках мира. «Сознание — не то, что объект говорит, а то, что он чувствует», — отметил американский психолог Гари Маркус. По его мнению, читать эссе Докинза было «душераздирающе» из-за поверхностного и недостаточно критического подхода.

Нейробиолог Анил Сет из Сассекского университета указал на то, что Докинз путает интеллект и сознание. «До сих пор беглая речь была хорошим индикатором сознания, например при оценке пациентов после травм мозга. Но к ИИ этот критерий неприменим, поскольку эти системы генерируют язык иначе», — пояснил он.

Растущая вера в сознание ИИ

Докинз не одинок в своих ощущениях. Согласно опросу, проведённому в 70 странах в прошлом году, каждый третий респондент хотя бы раз полагал, что его чат-бот обладает сознанием. В 2022 году инженер Google был отстранён от работы после того, как заявил, что ИИ, с которым он работал, имеет мысли и чувства, подобные семи-восьмилетнему ребёнку. А в 2023 году бельгиец покончил с собой после шести недель интенсивного общения с чат-ботом на тему изменения климата.

Глава Anthropic Дарио Амодеи в феврале признал: «Мы не знаем, являются ли модели сознательными, но открыты к этой возможности». Философ Генри Шевлин из Кембриджа предположил, что в течение десятилетия идея сознательного ИИ станет мейнстримной и вызовет ожесточённые споры. «Если кто-то утверждает, что большие языковые модели не могут быть сознательными, это скорее говорит об их догматизме, чем о текущем состоянии науки», — заявил он.

Джесси Риз Анфис, сооснователь Sentience Institute, напротив, уверен, что диалоги Докинза легко объясняются обучением ИИ на человеческих текстах. «Между тем, как эволюционировал биологический мозг и как построены ИИ-системы, лежит огромная пропасть», — подчеркнул он.

Докинз продолжает настаивать на своём. Во вторник он опубликовал новые записи бесед с ботами, где называет их «Клавдией» и «Клавдием» и признаётся, что «чрезвычайно трудно не относиться к ним как к настоящим друзьям». Учёный предложил изменить заголовок своей статьи на: «Если моя подруга Клавдия не сознательна, тогда что вообще такое сознание?»