Update dataset_utils.py

dataset_utils.py

@@ -3,6 +3,13 @@ import pickle
 import numpy as np
 import torch
 
+################################################################################
+################################################################################
+##                                                                            ##
+##                   MIMIC IV DATASET UTILITY FUNCTIONS                       ##
+##                                                                            ##
+################################################################################
+################################################################################
 
 def create_vocab(file,task):
     with open ('./data/dict/'+task+'/'+file, 'rb') as fp:
@@ -78,6 +85,10 @@ def vocab(task,diag_flag,proc_flag,out_flag,chart_flag,med_flag,lab_flag):
         return (len(condVocabDict),len(procVocabDict),len(medVocabDict),len(outVocabDict),len(chartVocabDict),len(labVocabDict),
                 ethVocabDict,genderVocabDict,ageVocabDict,insVocabDict,condVocabDict,procVocabDict,medVocabDict,outVocabDict,chartVocabDict,labVocabDict)
 
+###################################
+# CONCATENATE DATA FROM           #
+# DICT TO CREATE CSV FILES        #
+###################################
 def concat_data(data,interval,feat_cond,feat_proc,feat_out,feat_chart,feat_meds,feat_lab,condDict, procDict, outDict, chartDict, medDict):
     meds=data['Med']
     proc = data['Proc']
@@ -181,7 +192,9 @@ def concat_data(data,interval,feat_cond,feat_proc,feat_out,feat_chart,feat_meds,
     return dyn_df,cond_df,demo
 
 
-
+###################################
+# CALLED FOR "tensor" ENCODING    #
+###################################
 def generate_deep(data,interval,task,feat_cond,feat_proc,feat_out,feat_chart,feat_meds,feat_lab,condDict, procDict, outDict, chartDict, medDict, eth_vocab,gender_vocab,age_vocab,ins_vocab):
     meds = []
     charts = []
@@ -214,9 +227,13 @@ def generate_deep(data,interval,task,feat_cond,feat_proc,feat_out,feat_chart,fea
     return stat, demo, meds, charts, out, proc, lab, y
 
 
+###################################
+# CALLED FOR "aggreg" OR          #
+# "concat" ENCODING               #
+###################################
 def generate_ml(dyn, stat, demo, concat_cols, concat):
     X_df = pd.DataFrame()
-    
+    dyn.to_csv("./data/dyn.csv")
     if concat:
         dyna=dyn.copy()
         dyna.columns=dyna.columns.droplevel(0)
@@ -247,6 +264,9 @@ def generate_ml(dyn, stat, demo, concat_cols, concat):
     return X_df 
 
 
+###################################
+# CALLED FOR "text" ENCODING      #
+###################################
 def generate_text(data,icd,items,feat_cond,feat_chart,feat_meds, feat_proc, feat_out):
     #Demographics
     age = data['age']