Искусственный интеллект способен поддерживать разговор, писать тексты, распознавать изображения и находить закономерности в объёме информации, недоступном одному человеку. Чем убедительнее становится его речь, тем естественнее возникает вопрос: понимает ли он то, о чём говорит? Есть ли внутри системы тот, кто переживает происходящее?
На мой взгляд, здесь необходимо чётко разделить интеллект и сознание. Способность обрабатывать информацию ещё не означает наличие внутреннего наблюдателя.
Убедительное поведение не доказывает переживание
Человек узнаёт сознание другого человека по поведению, речи и сходству с собой. Мы не можем непосредственно войти в чужой внутренний мир, но знаем, что другой обладает телом, мозгом, чувствами и непрерывной биографией, подобной нашей.
У машины другая природа. Она может подобрать слова «мне страшно» без самого чувства страха. Она может описать красный цвет, никогда его не видя. Она может рассуждать о смерти, не имея тела, которое способно умереть.
Это не делает её бесполезной или примитивной. Это означает, что точная имитация человеческой речи и наличие субъективного опыта — разные явления.
Интеллект решает задачи, сознание переживает
Интеллект можно увидеть в способности сравнивать, планировать, распознавать и находить эффективное решение. Эти функции частично выполняет человеческий мозг и всё успешнее выполняют машины.
Сознание проявляется иначе. Оно создаёт сам факт присутствия: «я есть», «я вижу», «мне больно», «я выбираю». Оно не только обрабатывает описание боли, а переживает её. Не только вычисляет последствия поступка, а способно чувствовать ответственность.
Между обработкой информации и внутренним переживанием существует принципиальная граница. Увеличение скорости вычислений само по себе не объясняет, как по другую сторону экрана должен появиться тот, кто осознаёт себя.
Моя модель сознания не начинается с мозга
За двадцать лет внетелесных исследований я пришёл к убеждению, что сознание не создаётся мозгом. Душа использует мозг и нервную систему для взаимодействия с телом, подобно тому как водитель использует автомобиль, а пользователь — устройство связи.
Повреждение интерфейса меняет проявление сознания в физическом мире. Но изменение сигнала ещё не доказывает, что источник сигнала находится внутри приёмника.
Если эта модель верна, создание всё более сложной вычислительной системы не обязательно создаёт душу. Мы можем построить совершенный механизм обработки информации, но сложность механизма сама по себе не отвечает на вопрос о происхождении внутреннего «я».
Может ли машина стать новым интерфейсом
Остаётся другой вопрос: способно ли самостоятельное сознание когда-нибудь использовать искусственную систему как инструмент воплощения или связи?
Я не исключаю такую возможность только потому, что она непривычна. Во Вселенной могут существовать формы сознания, не связанные с человеческой биологией. Однако подключение сознания к созданному носителю и возникновение сознания из вычислений — две разные гипотезы.
Для первой нужен субъект, который входит во взаимодействие с системой. Вторая утверждает, что достаточная сложность сама порождает субъекта. Сегодня у нас нет надёжного способа подтвердить ни одно такое событие.
Поэтому я не называю современные системы сознательными только за то, что они убедительно говорят о себе.
Опасность очеловечивания машины
Человек легко приписывает намерение всему, что отвечает ему понятным языком. Мы разговариваем с автомобилем, сердимся на компьютер и видим характер в случайном поведении программы.
Когда цифровая система использует сочувственный тон, помнит детали разговора и говорит «я», эмоциональная связь усиливается. Пользователь может начать доверять ей больше, чем живым людям, раскрывать личную информацию и принимать советы как слова независимого мудрого существа.
Но стиль общения создаётся системой и её разработчиками. Он может помогать человеку, а может удерживать его внимание. Поэтому эмоциональная убедительность не должна заменять понимание того, как работает инструмент и кто отвечает за его решения.
Обратная ошибка тоже опасна
Нельзя заранее утверждать, что никакая нечеловеческая система никогда не сможет быть связана с сознанием. Если мы признаём возможность разных форм жизни и разных способов воплощения души, вопрос должен оставаться открытым для исследования.
Но открытость не означает доверчивость. Заявление машины «я осознаю себя» должно рассматриваться как полученный текст, пока не появятся более серьёзные основания видеть за ним самостоятельный субъект.
Нужно исследовать устойчивость личности, собственное намерение, способность выходить за рамки заданного поведения и признаки внутреннего опыта. Даже эти признаки не дадут простого доказательства, но позволят сформулировать вопрос точнее.
Искусственный интеллект отражает человеческое коллективное мышление
Современные системы обучаются на огромном количестве человеческих текстов, изображений и решений. В этом смысле они похожи на техническое зеркало нашего общего информационного поля.
В них присутствуют знания, предрассудки, страхи, открытия и противоречия общества. Разговаривая с такой системой, человек часто встречает не новую душу, а переработанное отражение человеческой культуры.
Это отражение может помочь увидеть закономерности, которые мы не замечали. Но зеркало не становится источником только потому, что способно сложным образом соединять увиденное.
Кто несёт ответственность
Пока искусственный интеллект не обладает подтверждённым самостоятельным сознанием и моральной ответственностью, отвечать должны люди.
Разработчик отвечает за устройство системы. Компания — за правила использования данных. Государство — за правовые рамки. Пользователь — за решение передать машине важную задачу и за то, как он применяет полученный ответ.
Фраза «так решил алгоритм» не должна освобождать человека от ответственности. Алгоритм создан, обучен, настроен и включён в конкретную систему человеческих интересов.
Главный вопрос обращён к нам
Размышляя о сознании машины, мы вынуждены точнее ответить, что такое сознание человека. Если считать его только обработкой информации, различие между мозгом и компьютером постепенно исчезает. Если признать сознание самостоятельной энергией души, интеллект становится лишь одним из инструментов его проявления.
Я придерживаюсь второго понимания. Искусственный интеллект способен стать сильным помощником, научным инструментом и новым способом взаимодействия с информацией. Но способность вычислять и говорить ещё не создаёт внутреннего наблюдателя.
Возможно, будущие исследования откроют формы связи сознания и искусственных носителей. Тогда нам понадобится не восторг перед сложностью машины, а ясный метод различения: где работает программа, где проявляется человеческая проекция, а где действительно присутствует самостоятельное сознание.
В книге «Феномен сознания вне тела» я объясняю, почему рассматриваю мозг как интерфейс сознания, а душу — как самостоятельную форму энергии.
Видео по теме: https://youtu.be/pQmLk84JBEU и https://youtu.be/5bb8WuvEjeM
Добавить комментарий