danil-e commited on
Commit
d905bc4
·
verified ·
1 Parent(s): 0528b9d

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +40 -16
README.md CHANGED
@@ -1,35 +1,59 @@
1
  ---
2
  license: mit
3
  pretty_name: RLPINN ablation replay buffers
 
 
 
 
 
 
 
4
  ---
5
 
6
  # RLPINN ablation replay buffers
7
 
8
- Оффлайн-буферы транзишенов RL-агента (выбор оптимизаторов для обучения PINN)
9
- для абляции DQN-стека (PER / soft-Watkins / trust-region) в PINNacle.
 
10
 
11
- Транзишены экспортированы из Comet-проектов `rlpinn-<pde>-tolerance`
12
- скриптом `experiments/optimization_multi_pde/export_buffer_transitions.py`
13
- (ветка `rlpinn_agent_ablation` PINNacle). Поле `solver_models` вырезано
14
- буфер его не использует.
 
 
 
 
 
 
15
 
16
  ## Структура
17
 
18
  ```
19
- <pde>/ # например poisson_boltzmann_2d/
20
- manifest.json # источник, отбор, список экспериментов
21
- 001_<exp_name>/ # порядок = новые эксперименты первыми
22
- entry_step_00000.pt # dict: state, next_state, action, reward,
23
- entry_step_00001.pt # current_loss, done, reward_model, ...
24
- 002_<exp_name>/...
25
  ```
26
 
 
 
 
 
27
  ## Использование
28
 
29
  ```bash
30
- python experiments/optimization_multi_pde/poisson_boltzmann_2d_ablation_chain.py --ablation no_per --buffer-src hf --hf-repo danil-e/rlpinn-ablation-buffers
 
31
  ```
32
 
33
- English: offline replay-buffer transitions (PINN optimizer-selection RL agent)
34
- for a DQN-stack ablation study; produced by the export script above, consumed
35
- by `collect_all_local_transitions` in the PINNacle fork.
 
 
 
 
 
 
 
1
  ---
2
  license: mit
3
  pretty_name: RLPINN ablation replay buffers
4
+ task_categories:
5
+ - reinforcement-learning
6
+ tags:
7
+ - pinn
8
+ - reinforcement-learning
9
+ - replay-buffer
10
+ - ablation
11
  ---
12
 
13
  # RLPINN ablation replay buffers
14
 
15
+ Оффлайн-буферы транзишенов RL-агента, который выбирает оптимизаторы и их
16
+ гиперпараметры при обучении PINN. Используются для абляции DQN-стека
17
+ (prioritized replay / soft-Watkins Q(lambda) / trust-region masking) в PINNacle.
18
 
19
+ ## Содержимое
20
+
21
+ | PDE | экспериментов | транзишенов | объём |
22
+ |---|---|---|---|
23
+ | `poisson_boltzmann_2d` | 80 | 5841 | 68 MB |
24
+
25
+ Источник: Comet-проект `rlpinn-poisson-boltzmann2d-tolerance` (отбор: новые
26
+ эксперименты первыми, длительность >= 1 ч). Поле `solver_models` (снимки весов
27
+ PINN, ~98% исходного объёма) вырезано — буфер агента его не использует,
28
+ состояния уже посчитаны и лежат в транзишенах.
29
 
30
  ## Структура
31
 
32
  ```
33
+ <pde>/
34
+ manifest.json # источник, параметры отбора, список экспериментов
35
+ 001_<exp_name>.pt # один файл = один эксперимент: список транзишенов
36
+ 002_<exp_name>.pt # в исходном порядке (порядок важен для цепочек)
37
+ ...
 
38
  ```
39
 
40
+ Каждый транзишен — dict с ключами `state`, `next_state`, `action`, `reward`,
41
+ `current_loss`, `done`, `reward_model`, `opt_model_i`. Состояния — карты
42
+ лосс-поверхности 26x26 по каналам `loss_total`, `loss_oper`, `loss_bnd`, `delta`.
43
+
44
  ## Использование
45
 
46
  ```bash
47
+ python experiments/optimization_multi_pde/poisson_boltzmann_2d_ablation_chain.py \
48
+ --ablation no_per --buffer-src hf --no-comet
49
  ```
50
 
51
+ Загрузка в коде `collect_all_local_transitions` из
52
+ `RL/rl_utils/load_buffer/load_exps_from_comet.py`; Comet-ключ не требуется.
53
+
54
+ ---
55
+
56
+ English: offline replay-buffer transitions for an RL agent that selects
57
+ optimizers during PINN training, used for a DQN-stack ablation study
58
+ (prioritized replay / soft-Watkins / trust-region masking). One `.pt` file per
59
+ source experiment, each holding an ordered list of transitions.