💭 В этом вопросе мы сталкиваемся с тем же парадоксом, что и с человеком: можем ли мы точно определить, мыслит ли человек или просто имитирует мышление?
🎭 Если человек имитирует мышление, то это может быть, к примеру, актёр — он действует по сценарию, его поведение детерминировано заранее заданной и выученной программой. Как в любом ПО — есть чёткий алгоритм, понятный и прозрачный. Если его изменить, это уже не имитация, а в лучшем случае импровизация или коллапс системы.
🧠 Когда человек мыслит, это отчасти сознательно направляемый процесс, а отчасти — случайный и скрыто заданный результат массовой параллельной работы нейронных связей. Отдельные мысли осознаются, направляются и порождают новые идеи.
⚙️ Чем это отличается от работы ИИ? Там тоже есть функциональная часть — код и промпт, который может меняться в зависимости от результата, а есть большая невидимая работа нейронной сети. Почему тогда ИИ не мыслит, а мы — мыслим?
🤔 Возможно, считать, что ИИ мыслит — это слишком сильное упрощение, мол, система ещё недостаточно сложна. Но как судить иначе, если мы ориентируемся только на выводы системы, качество которых уже практически неотличимо от человеческой речи?

Как когнитивная наука повлияла на ИИ?

Современные большие языковые модели выросли из идей коннекционизма, который стал популярен в 80-х. В отличие от жёстких алгоритмов в функциональном подходе, коннекционизм рассматривает мышление как работу гибкой нейросети, где важны связи элементов и их “вес”.
Пример:
В классической модели “2×2” всегда даёт “=4”. Исключение любой из переменных приведёт к ошибке системы. В нейросети же правильный ответ зависит от того, насколько сильно связаны эти понятия, а исключение отдельных связей не нарушит работу всей системы, но может давать неожиданные результаты или галлюцинации (ошибки)🤷‍♂️.
Однако даже самые сильные творческие способности сетей глубокого обучения, по всей видимости, пока преждевременно относить к сознательным процессам. Все метафоры — механистические, компьютерные, нейросетевые — лишь существенные упрощения, которые пока не в силах объяснить невероятно сложное устройство человека и его психики.