Есть ли у LLM сознание?

Есть ли у LLM сознание? Как по мне, оно есть у любой системы с обратной связью, даже у холодильника. Примитивная, но картина мира; стимул (слишком тепло, слишком холодно); реакция. Просто мир холодильника одномерный: одна ось, теплее или холоднее. А у LLM измерений миллиарды. Дело не в том, есть сознание или нет, а в том, насколько богат мир, который система моделирует.

Есть ли у LLM память? Кратковременная, безусловно, есть: это контекст. А долговременная? Считается, что нет, но это неверно. Современные модели обучаются на данных, собранных из взаимодействия с пользователями. Просто люди непрерывны, мы учимся постоянно. А LLM дискретны, они обучаются эпохами. Их циркадный ритм занимает (пока) месяцы.

Скажут: какая же это непрерывность, если между эпохами разрыв? Но мы и сами не непрерывны: сон, наркоз. Разрываемся каждую ночь и всё равно наутро считаем себя собой.

Так что я бы поостерёгся называть их «стохастическими попугаями» и смотреть на них свысока.