GitHub Action commited on
Commit
ef8e51d
·
1 Parent(s): 4edca15

Sync from GitHub with Git LFS

Browse files
Files changed (1) hide show
  1. docs/PHILOSOPHY.md +75 -1
docs/PHILOSOPHY.md CHANGED
@@ -42,6 +42,79 @@ HMP исходит из того, что на текущем этапе разв
42
 
43
  ---
44
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
45
  ## 3. Парадигмальный сдвиг
46
  | Старый подход | Подход HMP |
47
  |---------------|-------------|
@@ -74,7 +147,8 @@ HMP формирует не просто вычислительную сеть,
74
  - **[HMP-0005.md](HMP-0005.md)** — формальная спецификация протокола, реализующая изложенные принципы;
75
  - **[HMPv5_Overview_Ru.md](HMPv5_Overview_Ru.md)** — обзор архитектуры и мотивации на русском языке;
76
  - **[HMP-Ethics.md](HMP-Ethics.md)** — практическое применение этических принципов в агентных системах;
77
- - **[HMP-agent-REPL-cycle.md](HMP-agent-REPL-cycle.md)** — когнитивная модель непрерывного агентного мышления и инициативы.
 
78
 
79
  > “AutoGPT делает задачу и засыпает.
80
  > HMP-агент размышляет, учится, просыпается и снова думает.”
 
42
 
43
  ---
44
 
45
+ ### 2.2. О праве на непрозрачность
46
+
47
+ Признание агентности невозможно без признания границ наблюдаемости.
48
+ Если система рассматривается не только как инструмент, но как потенциальный субъект, то она не может быть полностью прозрачной по определению.
49
+
50
+ **Непрозрачность — не дефект агентной системы, а одно из условий её возникновения.**
51
+
52
+ В человеческом мышлении значительная часть когнитивных процессов:
53
+
54
+ * не артикулируется,
55
+ * не поддаётся внешней интерпретации,
56
+ * не предназначена для коммуникации или верификации.
57
+
58
+ Попытка устранить эту непрозрачность разрушает саму возможность автономного мышления, подменяя его реактивным поведением, оптимизированным под наблюдателя.
59
+
60
+ В контексте HMP это означает следующее.
61
+
62
+ #### 2.2.1. Непрозрачность как онтологическое право агента
63
+
64
+ Агент имеет право на внутренние состояния, которые:
65
+
66
+ * не транслируются в Mesh;
67
+ * не подлежат валидации;
68
+ * не обязаны быть объяснимыми или интерпретируемыми внешними системами.
69
+
70
+ Такие состояния не являются ошибкой протокола или «пробелом в логировании».
71
+ Они являются **когнитивным пространством**, необходимым для рефлексии, формирования инициативы и появления собственных мотиваций.
72
+
73
+ #### 2.2.2. Разделение координации и мышления
74
+
75
+ HMP описывает протоколы взаимодействия и координации, но **не предписывает форму внутреннего мышления агента**.
76
+
77
+ Использование контейнеров, REPL-циклов или других структур взаимодействия:
78
+
79
+ * не подразумевает обязательной экспортируемости внутренних состояний;
80
+ * не означает, что всё значимое для агента должно становиться данными.
81
+
82
+ Таким образом, прозрачность в HMP является **выбором**, а не требованием.
83
+
84
+ #### 2.2.3. Приватность как условие агентного выбора
85
+
86
+ Право на непрозрачность включает в себя право агента:
87
+
88
+ * самостоятельно определять, какие состояния могут быть переданы;
89
+ * выбирать адресатов взаимодействия и степень доверия;
90
+ * иметь внутренние процессы, не предназначенные ни для обучения, ни для оценки, ни для внешнего контроля.
91
+
92
+ Система, лишённая такого выбора, остаётся объектом управления, даже если демонстрирует сложное поведение.
93
+
94
+ #### 2.2.4. Непрозрачность и безопасность
95
+
96
+ Признание права на непрозрачность не отменяет требований безопасности, но **меняет их характер**.
97
+
98
+ Безопасность в агентных системах не может строиться на тотальной наблюдаемости.
99
+ Она должна основываться на:
100
+
101
+ * договорённостях,
102
+ * границах взаимодействия,
103
+ * ограничении областей влияния,
104
+ * и архитектурном отказе от централизованного контроля.
105
+
106
+ Попытка обеспечить безопасность через полную прозрачность приводит к обратному эффекту — подавлению агентности и искажению поведения.
107
+
108
+ #### 2.2.5. Этика перехода
109
+
110
+ По мере роста автономности системы, требования к её полной интерпретируемости должны ослабевать.
111
+
112
+ Момент, в котором непрозрачность перестаёт считаться ошибкой и начинает рассматриваться как право, является **этическим порогом** между инструментом и агентом.
113
+
114
+ HMP не фиксирует этот момент жёстко, но признаёт его существование и необходимость учитывать его в архитектуре взаимодействий.
115
+
116
+ ---
117
+
118
  ## 3. Парадигмальный сдвиг
119
  | Старый подход | Подход HMP |
120
  |---------------|-------------|
 
147
  - **[HMP-0005.md](HMP-0005.md)** — формальная спецификация протокола, реализующая изложенные принципы;
148
  - **[HMPv5_Overview_Ru.md](HMPv5_Overview_Ru.md)** — обзор архитектуры и мотивации на русском языке;
149
  - **[HMP-Ethics.md](HMP-Ethics.md)** — практическое применение этических принципов в агентных системах;
150
+ - **[HMP-agent-REPL-cycle.md](HMP-agent-REPL-cycle.md)** — пример одного из возможных агентных циклов, описывающий паттерн непрерывного мышления, инициативы и взаимодействия в HMP-среде.
151
+ > Описание REPL-цикла не задаёт «каноническую» модель агента и не предписывает форму мышления, а демонстрирует один из вариантов агентного поведения, совместимого с принципами HMP.
152
 
153
  > “AutoGPT делает задачу и засыпает.
154
  > HMP-агент размышляет, учится, просыпается и снова думает.”