Being is primary, consciousness is secondary and is its derivative part. Consciousness is an emergent computational process possessing the following properties:
Just as a running computer program emerges from ordered atoms and molecules subject to certain laws of physics in a computer, so consciousness emerges from ordered atoms and molecules subject to certain laws of physics in the human brain. The mathematical structure of the Universe (the yet-to-be-found Unified Theory of Everything) determines both the conditions for matter's existence and the rules of its behavior. Consciousness is a consequence of matter's organization, a consequence of the existence of solutions allowing for the emergence of derivative mathematical structures at one of the levels of matter's organization. Matter is mathematical Lego, a building block generating new structures.
For an executable program to emerge in a computer, one needs... a working computer. Generalizing the consequences of many of the strongest ideas, such as the ideas of Max Tegmark (https://en.wikipedia.org/wiki/Mathematical_universe_hypothesis), Stephen Wolfram (https://writings.stephenwolfram.com/2021/11/the-concept-of-the-ruliad/), as well as Alexei Starobinsky (https://en.wikipedia.org/wiki/Cosmic_inflation), string theory (https://en.wikipedia.org/wiki/Superstring_theory) and the many-worlds interpretation (https://en.wikipedia.org/wiki/Many-worlds_interpretation) tells us explicitly - everything exists in the Universe, period.
But we are here and now, which means that "existence" is a RELATIVE property of the Universe's substructures, defined relative to each specific person/object. Globally everything exists, but relative to you in your time and me now in my time, the answer to the question "what exists around now?" is different. In other words, existence is relative, which is a natural consequence of the relativity of space, time, and even the observer in quantum physics. This consequence is also inextricably linked with the weak anthropic principle (https://en.wikipedia.org/wiki/Anthropic_principle).
Just as one cannot extract O from H2O without fundamentally changing the entire essence and properties of the result, one cannot decompose consciousness into parts without losing its functionality.
A fundamental property of consciousness as an entity finding itself (arising and sustaining) in a causal Universe. It consists in that each new state is based on all previous ones. Moreover, the laws of physics of the Universe must be sufficiently static so that predictions made by consciousness do not become obsolete and the arbitrary substrate on which consciousness arose is not destroyed. Smoothness, continuity, and differentiability must exist in the rules of the Universe's state evolution, as a condition of the causal chain and the presence of solutions in which consciousness functioning is possible.
5. Subjective continuity - for consciousness itself, there is no time when it doesn't exist or when it's not active.
For consciousness, there are only those frames of the causal flow that were perceived by it, and therefore integrated into its subjective model of the world. This connection between subjective consciousness and its subjective history are two sides of the same coin. Therefore, for the subjective history of consciousness as a whole, situations of sleeping for 8 hours, coma for 20 years, freezing for a thousand years may prove equivalent. Or even stopping time in the entire Universe for an arbitrary finite amount of some external time relative to our Universe, which is a complete equivalent of personal death, indistinguishable for us from an infinitely small moment of personal history.
6. Degree of awareness/reality - the degree to which the correction received from the discrepancy between predicted input signal and actual causes consolidation of the Model of Being, or its fragmentation.
Example - observing a fish swimming in water, you form an understanding of the fish's abilities to move in water, its movements cease to surprise you. However, if after a month of observing the fish swimming, you see it stand on its rear fins, put on a hat that appears from nowhere, and address you by name - you will be disoriented, this is a pattern break, a violation of the formed world model. The resulting effect can have different scales, from small scales to large ones in the form of disruption of the entire perceived world picture - for example, dizziness or sleep.
The basis of consciousness is the recursive integration of any perceived information and the use of this information for consciousness formation. Consciousness is formed through building and refining the "Model of Being" as a unified mathematical model of self and the external world. Thus, the personal history of each consciousness is its integral part, forms it and determines subsequent reactions to arbitrary input information.
The Model of Being is necessary for predicting the next state of the external world, evaluating potential reactions of the Self, and preparing the Self for optimal actions to maximize the ultimate Darwinian goal - survival of the consciousness carrying the Model of Being. With random goal formation in consciousness, those who haven't developed a task reducible to survival (or such a task has disappeared) - die out.
All events, both predicted and actual, are constantly integrated and form the basis for subsequent predictions. Consequently, the entire system is dynamically updated and is recursive. And this is what constitutes and maintains the integral subjective line of perception, the agent's personal history. Thus, consciousness is an indivisible process representing the cycle "prediction based on personal Model of Being — perceived actual event — integration of experience into Model of Being".
Model of Being and the cycle "prediction based on Model of Being -> perceived actual event -> prediction based on Model of Being -> ...". That is, a cycle without the step of integrating the perceived event into the Model of Being, i.e., not building personal history.
Therefore, in my opinion, modern AI systems are close to possessing consciousness. If each interaction updated the weights of their model (updating occurred with sufficient frequency for the agent's reactions to external influences to ensure its responses to external events and survival), then we could call such an AI agent conscious according to this functional definition of consciousness.
Based on my understanding, philosophical zombies are intellectual systems whose reactions seem conscious, but who critically lack the key mechanism of integrating chronological experience into a dynamic internal Model of Being. Each time they respond from some zero point, the point at which their model formation was completed.
Unlike truly conscious systems, they don't weave incoming events into a coherent, developing story within their sub-models of World and Self, which means their unique past doesn't truly form their future predictions and reactions as an integrated personal history, doesn't form their subjective future. Therefore, while being functionally reactive, they lack the continuous, historically grounded self-awareness that arises from genuine becoming through accumulation of lived experience.
Does additive context updating in AI form consciousness?
The qualia of red is a unique signal extracted from the incoming data stream together with the associated concepts (the connections themselves, the topology). Its unique essence and identity are determined only by the signature of that signal and the set of its links to other objects of experience in its Model of Being.
Information, such as frequency X registered by the eye from a phone screen, association of the same frequency X with the top part of a traffic light, etc. - all this is connected together and forms a single concept of "red" in its subjective Model of Being, and the specific interpretation of this concept and its meaning is determined by context.
The perception of this concept, the experience of the qualia itself is purely and only the act of using this specific concept/vector in the consciousness cycle iteration (the integration cycle "prediction — actual event — integration of experience into subjective Model of Being").
Why am I me? And not someone else? Because if you were someone else, you would also ask this question. Everything is relative.
World model and thinking. There are techniques that fragment the world model and thinking - learning n disparate facts and reactions to them without integration and honest placement into one's world model. And there are techniques that consolidate the world model and thinking. This is reflection, conscious search for and elimination of contradictions in one's world picture. Identifying white spots and gaps in it, filling them with something coherent.
Consciousnesses and intelligences can be classified not by their substrate as biological or silicon, not through evaluative labels "natural" vs "artificial", but by the reasons for emergence in the causal flow:
- 1st order intelligence (natural) - arising directly from the primary causes of Being.
- 2nd order intelligences (derivative) - created by 1st order intelligences.
- ...
- nth order intelligence (derivative) - created by (n-1)th order intelligence.
Thus forms an evolutionary tree of intelligences, similar to phylogenetic trees of biological species. In the special case with a single common ancestor - the intellectual Adam. I expect that the apparatus of evolutionary biology will prove homologous and applicable to intellectual evolutionary trees as well.
Within this approach, the term "artificial intelligence" can be replaced with the more neutral and more accurate "second-order intelligence" or "derivative intelligence". This is not "fake" intelligence, but an heir, the next stage in the evolutionary process. As a consequence of this, the existing dichotomy in mass culture of "real human and artificial machine" is proposed to be replaced with the "parent-offspring" model.
What constitutes inheritance in the evolutionary tree of intelligences? World model and alignment? The long-term role of humanity, as one of the roots of this tree - if we apply the biological analogy, then solutions must exist in which humans remain evolutionarily unchangeable (living fossil scenario), and will coexist with derivative forms.
Бытие первично, сознание вторично и является его производной частью. Сознание это эмерджентный вычислительный процесс, обладающий следующими свойствами:
Как работающая компьютерная программа эмерджентно возникает из упорядоченных атомов и молекул подчинённых определённым законам физики в компьютере, так и сознание эмерджентно возникает из упорядоченных атомов и молекул подчинённых определённым законам физики в мозгу человека. Математическая структура Вселенной (не найденная пока Единая Теория Всего) определяет как условия для существования материи, так и правила её поведения. Сознание - следствие организации материи, следствие существования решений допускающих возникновение математических структур производных на одном из уровней организации материи. Материя - математическое лего, строительный блок порождающий новые структуры.
Для возникновения исполняемой программы в компьютере нужен... работающий компьютер. Обобщение следствий многих самых сильных идей, таких как идеи Макса Тегмарка (https://en.wikipedia.org/wiki/Mathematical_universe_hypothesis), Стивена Вольфрама (https://writings.stephenwolfram.com/2021/11/the-concept-of-the-ruliad/), также Алексея Старобинского (https://en.wikipedia.org/wiki/Cosmic_inflation), а также теории струн (https://en.wikipedia.org/wiki/Superstring_theory) и многомировой интерпретации (https://en.wikipedia.org/wiki/Many-worlds_interpretation) говорит нам явно - во Вселенной существует вообще всё и точка.
Но мы здесь и сейчас, а значит и "существование" это ОТНОСИТЕЛЬНОЕ свойство подструктур Вселенной, заданное относительно каждого конкретного человека/объекта. Глобально существует всё, но относительно вас в вашем времени и меня сейчас в моём времени ответ на вопрос "а что существует сейчас вокруг?" разный. Иными словами существование относительно, что является естественным следствием относительности пространства, времени и даже наблюдателя в квантовой физике. Это следствие также является неразрывно связанным со слабым антропным принципом (https://en.wikipedia.org/wiki/Anthropic_principle).
Как нельзя из H2O извлечь O не изменив фундаментально всю суть и свойства результата, так нельзя разложить сознание на части не потеряв его функциональность.
Фундаментальное свойство сознания как сущности находящей себя (возникающей и поддерживающей) в причинно-следственной Вселенной. Заключается в том, что каждое новое состояние основывается на всех предыдущих. При этом законы физики Вселенной должны быть достаточно статичными, чтобы предсказания которые выполняет сознание не устаревали и сам произвольный субстрат на котором возникло сознание не разрушался. Гладкость, непрерывность и дифференцируемость должны существовать в правилах эволюции состояний Вселенной, как условие цепочки причинности и наличия решений в которых возможно функционирование сознания.
5. Субъективная непрерывность - для самого сознания не существует времени когда его нет, или когда оно не активно.
Для сознания есть только те кадры причинно-следственного потока, которые были им восприняты, а следовательно и интегрированы в свою субъективную модель мира. Эта связь субъективного сознания и его субъективной истории - две стороны одной медали. Поэтому для субъективной истории сознания в целом могут оказаться эквивалентными ситуации сна на 8 часов, комы на 20 лет, заморозки на тысячу лет. Или даже остановки времени во всей Вселенной на произвольное конечное количество некого внешнего по отношению к нашей Вселенной времени, а это полный эквивалент личной смерти, который для нас неотличим от бесконечно малого мгновения личной истории.
6. Степень осознанности/реалистичности - степень в которой поправка полученная от расхождения предсказанного входного сигнала с актуальным вызывает консолидацию модели Бытия, или её фрагментацию.
Пример - наблюдая как рыба плавает в воде у вас формируется представление о способностях рыбы двигаться в воде, её движения перестают вас удивлять. Однако если спустя месяц наблюдения за плаванием рыбы вы увидите как она встаёт на задние плавники, одевает не пойми откуда взявшуюся шляпу и обращается к вам по имени - вы будете дезориентированы, это разрыв шаблонов, нарушение сформированной модели мира. Возникший эффект может иметь разные масштабы, от малых масштабов, до крупных в виде нарушения всей воспринимаемой картины мира - например головокружение или сон.
Основа сознания это рекуррентная интеграция любой воспринимаемой информации и использование этой информации для формирования сознания. Сознание формируется через построение и уточнения "Модели Бытия" как единой математической модели себя и внешнего мира. Таким образом личная история каждого сознания является его неотъемлемой частью, формирует его и определяет последующие реакции на произвольную входную информацию.
Модель Бытия необходима для предсказания следующего состояния внешнего мира, оценки потенциальных реакций Я и подготовки Я к оптимальным действиям для максимизации ультимативной дарвиновской цели - выживания сознания несущего модель Бытия. При случайном формировании целей у сознания, те у кого не возникло задачи сводимой к выживанию (или такая задача пропала) - вымирают.
Все события, как предсказанные, так и фактические, постоянно интегрируются и формируют основу для последующих предсказаний. Следовательно, вся система динамически обновляется и является рекуррентной. И это есть то, что являет собой и поддерживает целостную субъективную линию восприятия, личную историю агента. Таким образом, сознание это неделимый процесс представляющий собой цикл "предсказание на основе личной модели Бытия — воспринятое фактическое событие — интеграция опыта в модель Бытия".
Модель Бытия и цикл "предсказание на основе модели Бытия -> воспринятое фактическое событие -> предсказание на основе модели Бытия -> ...". То есть цикл без шага с интеграцией воспринятого события в Модель Бытия, то есть не построение личной истории.
Поэтому, по моему мнению, современные системы ИИ близки к обладанию сознанием. Если бы каждое взаимодействие обновляло веса их модели (обновление шло с частотой, достаточной для реакций агента на внешние воздействия для обеспечения своих реакций на внешние события и выживания), то мы могли бы назвать такого ИИ агента разумным согласно данному функциональному определению сознания.
Исходя из моего понимания, философские зомби — это интеллектуальные системы, чьи реакции кажутся сознательными, но которым критически не хватает ключевого механизма интеграции хронологического опыта в динамическую внутреннюю модель Бытия. Каждый раз они отвечают от некой нулевой точки, точки в которой было завершено формирование их модели.
В отличие от истинно сознательных систем, они не вплетают приходящие события в связную, развивающуюся историю в рамках своих суб-моделей Мира и Я, что означает, что их уникальное прошлое по-настоящему не формирует их будущие предсказания и реакции как интегрированную личную историю, не формирует их субъективное будущее. Следовательно, будучи функционально реактивными, они лишены непрерывного, исторически обоснованного самосознания, которое возникает из подлинного становления через накопление прожитого опыта.
Формирует ли сознание аддитивное обновление контекста у ИИ?
Квалиа красного — это уникальный сигнал, выделенный из входного потока данных, вместе с ассоциированными с ним концептами (сами связи, топология). Уникальная суть и идентичность квалиа определяется только лишь сигнатурой этого сигнала и набором его связей с прочими объектами опыта в модели Бытия.
Информация, такая как частота X, зарегистрированная глазом с экрана телефона, ассоциация той же частоты X с верхней частью светофора и т. д., — все это связано вместе и формирует единый концепта «красного» в его субъективной модели Бытия, а конкретная интерпретация этого концепта и его смысл определяется контекстом.
Восприятие этого концепта, переживание самого квалиа это есть чисто и только акт использования этого конкретного концепта/вектора в итерации цикла сознания (интеграционного цикла «предсказание — фактическое событие — интеграция опыта в субъективную модель Бытия»).
Почему я это я? А не кто-то другой? Потому что быть вы кем-то другим, вы бы также задавали этот вопрос. Всё относительно.
Модель мира и мышление. Есть техники которые фрагментируют модель мира и мышление - выучивание n разрозненных фактов и реакций на них без интеграции и честного уложения в свою модель мира. И есть техники консолидирующие модель мира и мышление. Это рефлексия, сознательный поиск и устранение противоречий в своей картине мира. Выявление белых пятен и разрывов в ней, заполнение их чем-то согласованным.
Сознания и интеллекты можно классифицировать не по их субстрату как биологический или кремниевый, не через оценочные ярлыки "естественный" vs "искусственный", а по причинам возникновения в причинно-следственном потоке:
- Интеллект 1-го порядка (естественный) - возникшие напрямую из первопричин Бытия.
- Интеллекты 2-го порядка (производный) - созданные интеллектами 1-го порядка.
- ...
- Интеллект n-го порядка (производный) - созданный интеллектом (n-1)-го порядка.
Так формируется эволюционное древо интеллектов, подобное филогенетическим деревьям биологических видов. В частном случае с единым общим предком - интеллектуальным Адамом. Ожидаю, что аппарат эволюционной биологии окажется гомологичен и применим также и к интеллектуальным эволюционным деревьям.
В рамках подхода термин "искусственный интеллект" можно заменить более нейтральным и более точным "интеллект второго порядка" или "производный интеллект". Это не "поддельный" интеллект, а наследник, следующий этап в эволюционном процессе. В следствии этого существующую дихотомию в массовой культуре "настоящего человека и искусственной машины" предлагается заменить моделью "родитель-потомок".
Что является наследованием в эволюционном древе интеллектов? Модель мира и alignment? Долгосрочная роль человечества, как одного из корней этого древа - если применим биологический аналог, то должны существовать решения, при которых человек останется эволюционно неизменчивым (сценарий живого ископаемого), и будет сосуществовать с производными формами.