identifier
stringlengths 11
32
| pdf_url
stringlengths 17
4.62k
⌀ | lang
stringclasses 120
values | error
stringclasses 1
value | title
stringlengths 2
500
⌀ | source_name
stringlengths 1
435
⌀ | publication_year
float64 1.9k
2.02k
| license
stringclasses 3
values | word_count
int64 0
1.64M
| text
stringlengths 1
9.75M
|
|---|---|---|---|---|---|---|---|---|---|
https://openalex.org/W3093183025
|
https://www.nature.com/articles/s41598-020-74592-x.pdf
|
English
| null |
A novel assay to measure calcification propensity: from laboratory to humans
|
Scientific reports
| 2,020
|
cc-by
| 8,738
|
A novel assay to measure
calcification propensity:
from laboratory to humans Cardiovascular calcification (CVC) contributes to morbidity and mortality in patients undergoing
dialysis. We examined the pharmacodynamic effects of SNF472, a calcification inhibitor, on plasma
calcium phosphate crystallization using spectrometric measurements, and its correlations with effects
on CVC in rats or humans. Rats (N = 38) injected with vitamin D (days 1–3) to induce CVC were infused
with saline or SNF472 (days 1–12). Inhibition of CVC was 50–65% with SNF472 3 mg/kg and ~ 80%
with SNF472 10 or 30 mg/kg. SNF472 dose-dependently inhibited calcium phosphate crystallization,
which correlated with inhibition of CVC (r = 0.628, P = 0.005). In patients with calciphylaxis (N = 14),
infusion of SNF472 (~ 7 mg/kg) during hemodialysis for 12 weeks inhibited calcium phosphate
crystallization by nearly 70%. In patients with CVC (N = 274), infusion of SNF472 during hemodialysis
for 52 weeks inhibited calcium phosphate crystallization (placebo: 15%; 300 mg: 61%; 600 mg: 75%),
which correlated with inhibition of CVC (r = 0.401, P = 0.003). These findings show a direct correlation
between inhibition of calcium phosphate crystallization in plasma and inhibition of CVC both in a
rat model and in humans, supporting the use of the pharmacodynamic assay in clinical trials as a
potentially predictive tool to evaluate the activity of calcification inhibitors. Cardiovascular calcification (CVC) is a major contributor to increased morbidity and mortality in patients
undergoing dialysis1. CVC results in the deposition of calcium in vessel walls and the aortic valve, increasing
the risk of cardiovascular events2. In calciphylaxis, an extreme form of CVC in small peripheral blood vessels
leads to progressive, painful, necrotic skin ulcers resulting from occlusion of microvessels, due to deposition of
calcium in the subcutaneous adipose tissue and dermis3. CVC is also a unique feature of coronary artery disease
(CAD) and peripheral artery disease (PAD) in end stage kidney disease (ESKD). Medial calcification in these
patients is associated with vascular stiffening and arteriosclerosis4. The most common type of medial calcification,
Monckeberg’s sclerosis, occurs with greater frequency in patients undergoing dialysis than in those who are not
undergoing dialysis4. While intimal and medial calcification may each occur independently, patients undergoing
dialysis often exhibit both types5. Numerous complex mechanisms for cardiovascular calcification have been
proposed6. www.nature.com/scientificreports www.nature.com/scientificreports A novel assay to measure
calcification propensity:
from laboratory to humans
OPEN A novel assay to measure
calcification propensity:
from laboratory to humans
M. Mar Perez1, Miguel D. Ferrer1,2, Marta Lazo‑Rodriguez3,4, Ana Zeralda Canals1,
Elisenda Banon‑Maneus3,4, Josep M. Campistol3,4, Stephan Miller5, Rekha Garg5,8,
Alex Gold5,6, Carolina Salcedo1* & Joan Perelló1,7
OPEN A novel assay to measure
calcification propensity:
from laboratory to humans Hyperphosphatemia, hypercalcemia, hyperparathyroidism, and abnormal vitamin D metabolism
are known risk factors7, but the final common pathway is the deposition of hydroxyapatite crystals containing
calcium, phosphate, and hydroxide [Ca10(PO4)6(OH)2]6,8.h p
p
y
[
10(
4)6(
)2]
There are currently no approved therapies to prevent or treat the progression of CVC and CVC related dis-
eases like calciphylaxis or PAD in patients with ESKD. Supportive therapies include phosphate binders to reduce
hyperphosphatemia6 and calcimimetics to address hyperparathyroidism9, thereby reducing hypercalcemia. How-
ever, these treatments do not directly target the formation and growth of hydroxyapatite crystals. SNF472, a
selective calcification inhibitor, is in development to address these unmet medical needs in patients with ESKD
on dialysis. SNF472 is an intravenous formulation of myo-inositol hexaphosphate (IP6 or phytate), which directly
inhibits hydroxyapatite crystallization by binding selectively to the surface of the crystal. By inhibiting the final 1Sanifit Therapeutics, Parc Bit ‑ Europa Building, 2nd Floor, 07121 Palma de Mallorca, Spain. 2Department
of Fundamental Biology and Health Sciences, University of the Balearic Islands, Palma, Spain. 3Laboratori
Experimental de Nefrologia i Trasplantament (LENIT), Fundació Clínic per a la Recerca Biomèdica, Barcelona,
Spain. 4Spanish Kidney Research Network, ISCIII-RETIC REDinREN RD016/0 009, Madrid, Spain. 5Sanifit
Therapeutics, San Diego, CA, USA. 6Department of Medicine, Stanford University, Palo Alto, CA, USA. 7Laboratory
of Renal Lithiasis Research, University of the Balearic Islands, Palma, Spain. 8Present address: PharmaDRS
Consulting, LLC, San Diego, USA. *email: carolina.salcedo@sanifit.com | https://doi.org/10.1038/s41598-020-74592-x Scientific Reports | (2020) 10:17578 www.nature.com/scientificreports/ Figure 1. Animal study: experimental design. N = 10 for 0 mg/kg (saline) and 30 mg/kg groups; N = 9 for 3 and
10 mg/kg groups. IV = intravenous; SC = subcutaneous; PD = pharmacodynamics; PK = pharmacokinetics. Figure 1. Animal study: experimental design. N = 10 for 0 mg/kg (saline) and 30 mg/kg groups; N = 9 for 3 and
10 mg/kg groups. IV = intravenous; SC = subcutaneous; PD = pharmacodynamics; PK = pharmacokinetics. common pathway, the formation and growth of hydroxyapatite crystals, the efficacy of SNF472 is independent
of the etiology of vascular calcification10,11. In vitro studies showed that at a concentration of 30 mg/L (45.5 μM)
or above, SNF472 concentrations increase in blood while infused, reach a plateau, and remain nearly constant
during dialysis12. Results
i
l Animal study. Rats (N = 38) received vitamin D from day 1 to day 3. Each rat received saline (n = 10) or
SNF472 at 3 mg/kg (n = 9), 10 mg/kg (n = 9), or 30 mg/kg (n = 10) over a 4-h infusion period once daily from day
1 to day 12 (Fig. 1). Five animals died before day 12 in the 10 mg/kg (n = 1), 30 mg/kg (n = 3), and saline (n = 1)
groups. We attributed the causes of death to vitamin D intoxication.i g
p
Vitamin D injections for 3 days induced cardiovascular calcification in the heart and aorta. Administering
SNF472 at 3 mg/kg for 12 days significantly (P < 0.05 vs saline) inhibited cardiovascular calcification by 65% in the
aorta (Fig. 2a) and by 44% in the heart (Fig. 2b). Administering the 10 mg/kg and 30 mg/kg doses of SNF472 for
12 days achieved statistically significant (P < 0.05 vs saline), maximum inhibition of calcification (approximately
80%) in both the aorta and heart. Using a non-linear regression model, the mean dose of SNF472 required for
50% inhibition of calcification (ID50) was 1.6 mg/kg for the aorta and 2.7 mg/kg for the heart. i
Pharmacokinetic (PK) analysis at steady state on day 11 showed that SNF472 concentrations corresponded to
the administered dose (Fig. 3a). SNF472 plasma concentrations were below the limit of quantification (LLOQ)
of the validated bioanalytical method (0.76 µM) in rats receiving 3 mg/kg and dose-dependent in rats receiving
10 or 30 mg/kg. Mean Cmax (the concentration at the end of the 4-h infusion) was 21 µM for a dose of 10 mg/kg
and 100 µM for a dose of 30 mg/kg. Using a non-linear regression model, the mean concentration of SNF472
required for 50% inhibition of calcification (IC50) was 4.8 µM for the heart (Fig. 3b). The IC50 was not calculable
for the aorta because of the high activity (65% inhibition of calcification) at the lowest dose of SNF472 tested.i g
yi
Using the PD assay, SNF472 significantly and dose-dependently inhibited the formation of calcium phosphate
crystals (Fig. 4a). Using a non-linear regression model, inhibition of calcium phosphate crystallization had a
concentration–response relationship with SNF472 plasma levels at Cmax, showing an IC50 of 17 μM and an IC80
of 30 µM (Fig. 4b). A novel assay to measure
calcification propensity:
from laboratory to humans Phase 1 and 2a clinical trials also showed that SNF472 was not dialyzable when it was infused
during the dialysis session at doses ranging from 3 to 20 mg/kg13,14.i g
y
g
g
g
g
As described in other publications15,16, previously available tests for calcification, such as the T50 test to fol-
low the transition of primary calciprotein particles (CPP) to secondary CPP or the determination of the levels
of circulating fetuin-A-containing CPP might not be adequate to evaluate the effectiveness of potential thera-
peutic agents such SNF472, which act directly on the hydroxyapatite crystal at the vessel walls. Therefore, as a
translational step from basic science to clinical development, we prepared and validated a pharmacodynamic
(PD) biomarker assay to measure inhibition of calcium phosphate crystallization in plasma samples15. Results
from plasma samples in rats and humans (with or without dialysis) validated the assay to measure inhibition of
crystallization in the presence of polyphosphates, fetuin-A, sodium thiosulfate, and SNF47215. A phase 1b trial
of SNF472 in patients undergoing dialysis provided further evidence supporting the ability of the assay to detect
inhibition of calcium phosphate crystallization14.fi A single-arm, open-label phase 2 trial to evaluate efficacy and safety in 14 patients with calciphylaxis showed
improvement in wound healing and pain during 12 weeks of SNF472 treatment at a dose of approximately 7 mg/
kg17. In a double-blind, placebo-controlled randomized phase 2b trial in patients on hemodialysis, SNF472
treatment for 52 weeks significantly attenuated the progression of coronary artery calcium and aortic valve
calcification18. In this report, we evaluated the correlation between the PD assay and cardiovascular (heart
and aorta) calcification in rats and the association between the PD assay and efficacy measures in patients who
participated in these clinical trials. Results
i
l The phase 2 open-label, single-arm clinical trial enrolled 14 patients with cal-
ciphylaxis lesions, with 11 patients completing 12 weeks of SNF472 treatment, at a dose of approximately 7 mg/
kg, infused during each dialysis session. Efficacy and safety results from this study were reported previously17. One patient’s plasma concentration of SNF472 was below the LLOQ (0.76 µM) at the end of the last infusion
for unknown reasons. This patient’s SNF472 concentration at the end of the first infusion was similar to the
values observed for the other patients in the study. PK and PD results for this patient after the last infusion were
omitted from the summary statistics. The mean Cmax at the end of the first (week 1 day 1) and last (week 12 day
5) infusions were 29 µM and 28 µM, respectively (Table 1). Median Cmax at the end of the first and last infusions
was 24 µM (range 3–62) and 21 µM (range 4–61), respectively. The accumulation factor (Rac Cmax) ranged from
0.2 to 2.5, with a mean value of 1.3 and a coefficient of variation of 69%. F
h PD
h
lli
i
i hibi i
l
i
il
h fi
d l
d
f SNF472 Calciphylaxis clinical trial. The phase 2 open-label, single-arm clinical trial enrolled 14 patients with cal-
ciphylaxis lesions, with 11 patients completing 12 weeks of SNF472 treatment, at a dose of approximately 7 mg/
kg, infused during each dialysis session. Efficacy and safety results from this study were reported previously17. O
ti
t’
l
t
ti
f SNF472
b l
th LLOQ (0 76 M) t th
d f th l
t i f
i fi
One patient’s plasma concentration of SNF472 was below the LLOQ (0.76 µM) at the end of the last infusion
for unknown reasons. This patient’s SNF472 concentration at the end of the first infusion was similar to the
values observed for the other patients in the study. PK and PD results for this patient after the last infusion were
omitted from the summary statistics. The mean Cmax at the end of the first (week 1 day 1) and last (week 12 day
5) infusions were 29 µM and 28 µM, respectively (Table 1). Median Cmax at the end of the first and last infusions
was 24 µM (range 3–62) and 21 µM (range 4–61), respectively. Results
i
l We observed a direct correlation (r = 0.628, P = 0.005) between the PD assay results and the
inhibition of cardiovascular calcification (Fig. 4c). Scientific Reports | (2020) 10:17578 | https://doi.org/10.1038/s41598-020-74592-x www.nature.com/scientificreports/ Figure 2. Inhibition of cardiovascular calcification in (a) aorta and (b) heart with SNF472 treatment in rats. Calcification was induced with daily subcutaneous injections of vitamin D (75,000 IU/kg) on day 1 to day 3. Rats were treated with 4-h intravenous infusions of saline (0 mg/kg) or SNF472 (3, 10, or 30 mg/kg) daily on day
1 to day 12. On day 12, animals were anesthetized, and the aorta and heart were excised for examination. Results
are shown as percent inhibition of cardiovascular calcification relative to the control group that received saline
infusions. Values are plotted as the mean, standard deviation, and individual points. Outlier results are excluded
for two aortas (one each in the 3 mg/kg and 30 mg/kg groups) and five hearts (one in each SNF472 dosing group
and two in the saline group). *P < 0.05 versus saline by one-way ANOVA. Figure 2. Inhibition of cardiovascular calcification in (a) aorta and (b) heart with SNF472 treatment in rats. Calcification was induced with daily subcutaneous injections of vitamin D (75,000 IU/kg) on day 1 to day 3. Rats were treated with 4-h intravenous infusions of saline (0 mg/kg) or SNF472 (3, 10, or 30 mg/kg) daily on day
1 to day 12. On day 12, animals were anesthetized, and the aorta and heart were excised for examination. Results
are shown as percent inhibition of cardiovascular calcification relative to the control group that received saline
infusions. Values are plotted as the mean, standard deviation, and individual points. Outlier results are excluded
for two aortas (one each in the 3 mg/kg and 30 mg/kg groups) and five hearts (one in each SNF472 dosing group
and two in the saline group). *P < 0.05 versus saline by one-way ANOVA. Calciphylaxis clinical trial. The phase 2 open-label, single-arm clinical trial enrolled 14 patients with cal-
ciphylaxis lesions, with 11 patients completing 12 weeks of SNF472 treatment, at a dose of approximately 7 mg/
kg, infused during each dialysis session. Efficacy and safety results from this study were reported previously17. Calciphylaxis clinical trial. Results
i
l The mean
concentration of SNF472 required for 50% inhibition of calcification (IC50) was 4.6 µM for the heart and was
not calculable for the aorta because of the high activity (65%) at the lowest dose of SNF472 tested. Calcification
was induced with daily subcutaneous injections of vitamin D (75,000 IU/kg) on day 1 to day 3. Rats were treated
with 4-h intravenous infusions of saline or SNF472 (3, 10, or 30 mg/kg) daily on day 1 to day 12. Plasma samples
for SNF472 concentrations (mean ± SE) were obtained on day 11 of treatment with saline or SNF472. Plasma
samples with concentrations below 1.5 µM (due to problems in the batch analysis) were not considered to
calculate arithmetic mean. Plasma samples with concentrations below the limit of quantification (0.76 µM) were
considered as zero to calculate the arithmetic mean. f 21 µM (4–61 µM). For individual patients, the change in PD effect from week 1 to week 12 showed a positive
orrelation (r = 0.753) with the change in SNF472 plasma concentrations during the same interval (Fig. 6b).hfi (
)
g
p
g
(
g
)
The relationship between PD results and efficacy measures (changes in wound scores or in pain scores)
could not be explored in this trial due to several limitations: only one dose level was used in a limited number
of patients, there was no placebo group, and plasma concentrations were above the plateau of the PD assay for
most of the samples. The relationship between PD results and efficacy measures (changes in wound scores or in pain scores)
could not be explored in this trial due to several limitations: only one dose level was used in a limited number
of patients, there was no placebo group, and plasma concentrations were above the plateau of the PD assay for
most of the samples. Cardiovascular calcification clinical trial (CaLIPSO Study). The phase 2b randomized, double-blind,
placebo-controlled clinical trial enrolled 274 patients with coronary artery calcification and assigned them to
52 weeks of treatment with placebo (n = 91), SNF472 300 mg (n = 92), or SNF472 600 mg (n = 91). CT Scans to
determine calcium volume scores were conducted at baseline and week 52. Results
i
l The accumulation factor (Rac Cmax) ranged from
0.2 to 2.5, with a mean value of 1.3 and a coefficient of variation of 69%.i fi
For the PD assay, the crystallization inhibition values were similar on the first and last days of SNF472
administration, with a mean of 65% (median, 69%; range 39–80%) after the first infusion and a mean of 68%
(median, 68%; range 49–86%) after the last infusion (Fig. 5 and Table 1). Thus, inhibition of calcium phosphate
crystallization in plasma was consistent across 12 weeks of SNF472 treatment and was in the plateau phase of
the previously described PD effect of this compound13,14,17. f
Because the SNF472 plasma concentrations were higher than the anticipated PD plateau, the PK-PD relation-
ship could not be clearly established (Fig. 6a). Greater than 50% inhibition of calcium phosphate crystallization
was observed in 83% (19 of 23) of end-of-infusion measurements at either visit, with median SNF472 concen-
trations of 22 µM (3–62 µM). At week 12 day 5, 8 of 9 patients with end-of-infusion measurements had greater
than 50% inhibition of calcium phosphate crystallization with median SNF472 end-of-infusion concentrations Scientific Reports | (2020) 10:17578 | https://doi.org/10.1038/s41598-020-74592-x cientificreports/ www.nature.com/scientificreports/ tificreports/
Figure 3. (a) Pharmacokinetics of SNF472 in rats treated with vitamin D to induce cardiovascular calcification. (b) Non-linear regression between calcification inhibition in heart and SN472 plasma levels in rats. The mean
concentration of SNF472 required for 50% inhibition of calcification (IC50) was 4.6 µM for the heart and was
not calculable for the aorta because of the high activity (65%) at the lowest dose of SNF472 tested. Calcification
was induced with daily subcutaneous injections of vitamin D (75,000 IU/kg) on day 1 to day 3. Rats were treated
with 4-h intravenous infusions of saline or SNF472 (3, 10, or 30 mg/kg) daily on day 1 to day 12. Plasma samples
for SNF472 concentrations (mean ± SE) were obtained on day 11 of treatment with saline or SNF472. Plasma
samples with concentrations below 1.5 µM (due to problems in the batch analysis) were not considered to
calculate arithmetic mean. Plasma samples with concentrations below the limit of quantification (0.76 µM) were
considered as zero to calculate the arithmetic mean. Figure 3. (a) Pharmacokinetics of SNF472 in rats treated with vitamin D to induce cardiovascular calcification. (b) Non-linear regression between calcification inhibition in heart and SN472 plasma levels in rats. Results
i
l Efficacy and safety results from this
study were reported previously18.h y
p
p
y
The results of the PD assay for inhibition of calcium phosphate crystallization across the visits at week 1,
10, 22, and 52 were 15% ± 17% for placebo, 61% ± 19% for SNF472 300 mg, and 75% ± 9% for SNF472 600 mg
(mean ± SD). There was an inverse correlation between the results of the PD assay and the primary efficacy
endpoint (percent change from baseline to Week 52 in the coronary artery calcification score by volume [CAC
volume]). Patients with greater inhibition of calcium phosphate crystallization had lower progression of CAC. A
linear model fitted with the experimental data showed r = 0.401 with P = 0.003 and (Fig. 7). The estimated percent
change from baseline to week 52 in CAC volume had an X-axis intercept of 22% (95% CI 11% to 33%) and slope
of -0.238 (95% CI -0.389 to 0.086). Interestingly, the X-axis intercept for no inhibition of crystallization in this
analysis coincided with the observed progression rate in CAC volume for the placebo group in the CaLIPSO
study using either the modified intent-to-treat population (20%) or the per protocol population (24%)18. Scientific Reports | (2020) 10:17578 | https://doi.org/10.1038/s41598-020-74592-x www.nature.com/scientificreports/ Figure 4. Results for inhibition of plasma crystallization and cardiovascular calcification in
vitamin D and SNF472. (a) Percent inhibition of plasma calcium phosphate crystallization
(median, interquartile range, and individual points). (b) Relationship between SNF472 circ
inhibition of plasma calcium phosphate crystallization. Mean (± SEM) of 6 replicates assaye
Correlation between inhibition of cardiovascular calcification and inhibition of plasma calc
crystallization. To measure calcification, rats were treated with daily subcutaneous injection
(75,000 IU/kg) on day 1 to day 3. To measure pharmacodynamic effects, rats were treated w
infusions of saline or SNF472 (3, 10, or 30 mg/kg) daily on day 1 to day 12, then plasma cal
crystallization was induced ex vivo on day 12 by adding ionized calcium (12.5 mM) and ph
plasma samples, followed by spectrophotometric measurements at 550 nm every 3 min for Figure 4. Results for inhibition of plasma crystallization and cardiovascular cal
vitamin D and SNF472. (a) Percent inhibition of plasma calcium phosphate crys
(median, interquartile range, and individual points). (b) Relationship between SN
inhibition of plasma calcium phosphate crystallization. Mean (± SEM) of 6 replic
Correlation between inhibition of cardiovascular calcification and inhibition of p
crystallization. Results
i
l To measure calcification, rats were treated with daily subcutaneo
(75,000 IU/kg) on day 1 to day 3. To measure pharmacodynamic effects, rats wer Figure 4. Results for inhibition of plasma crystallization and cardiovascular calcification in rats treated with
vitamin D and SNF472. (a) Percent inhibition of plasma calcium phosphate crystallization by dose of SNF472
(median, interquartile range, and individual points). (b) Relationship between SNF472 circulating levels and
inhibition of plasma calcium phosphate crystallization. Mean (± SEM) of 6 replicates assayed per sample. (c)
Correlation between inhibition of cardiovascular calcification and inhibition of plasma calcium phosphate
crystallization. To measure calcification, rats were treated with daily subcutaneous injections of vitamin D
(75,000 IU/kg) on day 1 to day 3. To measure pharmacodynamic effects, rats were treated with 4-h intravenous
infusions of saline or SNF472 (3, 10, or 30 mg/kg) daily on day 1 to day 12, then plasma calcium phosphate
crystallization was induced ex vivo on day 12 by adding ionized calcium (12.5 mM) and phosphate (1.5 mM) to
plasma samples, followed by spectrophotometric measurements at 550 nm every 3 min for 30 min. Figure 4. Results for inhibition of plasma crystallization and cardiovascular calcification in rats treated with
vitamin D and SNF472. (a) Percent inhibition of plasma calcium phosphate crystallization by dose of SNF472
(median, interquartile range, and individual points). (b) Relationship between SNF472 circulating levels and
inhibition of plasma calcium phosphate crystallization. Mean (± SEM) of 6 replicates assayed per sample. (c)
Correlation between inhibition of cardiovascular calcification and inhibition of plasma calcium phosphate
crystallization. To measure calcification, rats were treated with daily subcutaneous injections of vitamin D
(75,000 IU/kg) on day 1 to day 3. To measure pharmacodynamic effects, rats were treated with 4-h intravenous
infusions of saline or SNF472 (3, 10, or 30 mg/kg) daily on day 1 to day 12, then plasma calcium phosphate
crystallization was induced ex vivo on day 12 by adding ionized calcium (12.5 mM) and phosphate (1.5 mM) to
plasma samples, followed by spectrophotometric measurements at 550 nm every 3 min for 30 min. Scientific Reports | (2020) 10:17578 | https://doi.org/10.1038/s41598-020-74592-x www.nature.com/scientificreports/ Table 1. Summary of pharmacokinetic and pharmacodynamic results at the end of the first and last infusion
of SNF472 during hemodialysis in the phase 2 clinical trial of patients with calciphylaxis. Discussion
I
d CVC Increased CVC in patients with ESKD undergoing dialysis is associated with higher morbidity and mortality
than the general population19. Therefore, targeting vascular calcification directly could have a beneficial role in
CVC-related diseases including calciphylaxis, PAD, and coronary disease. However, clinical trials to assess the
potential effects of anti-calcification compounds on CVC, and how this translates to decreased risk of events,
require a long period of study. Therefore, new biomarkers are needed to assess the potential activity of new
inhibitors of calcification. i
We previously described our development and validation of a PD assay to measure calcium phosphate
crystallization by spectrophotometry under standard temperature and agitation conditions that simulate
crystallization15. In vitro, the PD assay showed concentration-dependent inhibition of calcium phosphate crystal-
lization by up to 80% with addition of SNF472 to control rat plasma. In healthy rats, subcutaneous administration
of SNF472 inhibited calcium phosphate crystallization in blood with a steep dose–response relationship and a
narrow range between initial evidence of activity and asymptotic maximal inhibition of up to 70%. g
y
y
In a phase 1b clinical study, we previously used the PD assay to show that infusion of SNF472 during hemo-
dialysis dose-dependently inhibited calcium phosphate crystallization14. In that study, one cohort of patients
received SNF472 doses ranging from 3 to 20 mg/kg for 1 week, and another cohort received SNF472 at a fixed
dose of 10 mg/kg for 4 weeks. Mean ID50 and ID80 for SNF472 (doses associated with 50% and 80% inhibition
of calcium phosphate crystallization) were 2.2 and 5.6 mg/kg, respectively.f Each of our previous studies examined the effects of SNF472 on calcium phosphate crystallization in healthy
animals or in human volunteers without calcification disorders at study entry. In this paper, we showed that
effects of SNF472 on the PD assay correlated with reduction in progression of pre-existing CVC. In rats, we
administered vitamin D to induce CVC and showed significant inhibition of plasma calcium phosphate crystal-
lization and heart calcification in a dose-dependent manner when we administered SNF472. Results obtained
in the PD assay correlated directly with inhibition of calcification in the heart. i
We then applied the PD assay in an open-label phase 2 trial, which showed that SNF472 treatment for
12 weeks in 14 patients with calciphylaxis on hemodialysis improved wound healing and pain17. Results
i
l Summary of pharmacokinetic and pharmacodynamic results at the end of the first and last infusion
of SNF472 during hemodialysis in the phase 2 clinical trial of patients with calciphylaxis. < LLOQ, below
limit of quantification (0.76 µM); NA, sample not available; Cmax, maximum concentration; CV, coefficient
of variation; NQ, not quantifiable; PD, pharmacodynamic; Rac Cmax, accumulation factor calculated as
Cmax,week12day5/Cmax,week1day1. a Plasma concentration obtained at the end of infusion. b PD effect = –[inhibition]. c Individual difference between values obtained in week 12 day 5 and week 1 day 1. d Values not considered in
summary statistics because plasma concentration was below the limit of quantification at the end of infusion. Table 1. Summary of pharmacokinetic and pharmacodynamic results at the end of the first and last infusion
of SNF472 during hemodialysis in the phase 2 clinical trial of patients with calciphylaxis. < LLOQ, below
limit of quantification (0.76 µM); NA, sample not available; Cmax, maximum concentration; CV, coefficient
of variation; NQ, not quantifiable; PD, pharmacodynamic; Rac Cmax, accumulation factor calculated as
Cmax,week12day5/Cmax,week1day1. a Plasma concentration obtained at the end of infusion. b PD effect = –[inhibition]. c Individual difference between values obtained in week 12 day 5 and week 1 day 1. d Values not considered in
summary statistics because plasma concentration was below the limit of quantification at the end of infusion. Results
i
l < LLOQ, below
limit of quantification (0.76 µM); NA, sample not available; Cmax, maximum concentration; CV, coefficient
of variation; NQ, not quantifiable; PD, pharmacodynamic; Rac Cmax, accumulation factor calculated as
Cmax,week12day5/Cmax,week1day1. a Plasma concentration obtained at the end of infusion. b PD effect = –[inhibition]. c Individual difference between values obtained in week 12 day 5 and week 1 day 1. d Values not considered in
summary statistics because plasma concentration was below the limit of quantification at the end of infusion. Patient
Week 1 day 1
Week 12 Day 5
Rac Cmax
∆Cmax (µM)c
∆PD effect (%)c
Plasma Cmax
a (µM)
PD effect (%)b
Plasma Cmax
a (µM)
PD effect (%)b
1
14.5
65.1
23.9
86.3
1.6
9.4
21.2
2
2.8
66.9
6.8
65.4
2.5
4.1
-1.5
3
29.0
38.7
NA
NA
NQ
NQ
NQ
4
21.0
79.5
4.3
59.0
0.2
-16.7
-20.5
5
36. 8
51.0
NA
NA
NQ
NQ
NQ
6
9.4
61.7
20.7
75.7
2.2
11.3
14.0
7
15.8
74.5
< LLOQd
− 15.0d
NQ
NQ
NQ
8
12.9
46.7
NA
NA
NQ
NQ
NQ
9
61. 6
80.2
18.8
49.0
0.3
-42.7
-31.2
10
22.1
78.6
48.5
78.8
2.2
26.4
0.2
11
62.4
77.0
15.2
67.7
0.2
-47.3
-9.3
12
42.9
45.2
60.9
56.9
1.4
18.0
11.7
13
25.9
72.2
NA
NA
NQ
NQ
NQ
14
50.8
71.0
54.1
76.4
1.1 s
3.3
5.4
N
14
14
9
9
9
Mean
29
65
28
68
1.3
SD
19
14
21
12
0.9
CV (%)
66
22
75
18
69
Median
24
69
21
68
1.4
Min–Max
3–62
39–80
4–61
49–86
0.2–2.5 Table 1. Summary of pharmacokinetic and pharmacodynamic results at the end of the first and last infusion
of SNF472 during hemodialysis in the phase 2 clinical trial of patients with calciphylaxis. < LLOQ, below
limit of quantification (0.76 µM); NA, sample not available; Cmax, maximum concentration; CV, coefficient
of variation; NQ, not quantifiable; PD, pharmacodynamic; Rac Cmax, accumulation factor calculated as
Cmax,week12day5/Cmax,week1day1. a Plasma concentration obtained at the end of infusion. b PD effect = –[inhibition]. c Individual difference between values obtained in week 12 day 5 and week 1 day 1. d Values not considered in
summary statistics because plasma concentration was below the limit of quantification at the end of infusion. Table 1. Discussion
I
d CVC Pharmacodynamic results in the phase 2 clinical trial of SNF472 treatment during hemodialysis in
patients with calciphylaxis. Values are plotted as the median, interquartile range, and individual points. Patients
with calciphylaxis undergoing hemodialysis (N = 14) received SNF472 at a weight-based dose corresponding to
7 mg/kg during dialysis sessions for 12 weeks. Crystallization inhibition was measured at the end of the infusion
for the first dose (week 1 day 1) and the last dose (week 12 day 5). One value for the last dose was not considered
in summary statistics because the patient’s plasma concentration was below the limit of quantification at the end
of infusion. We overcame this limitation when we applied the PD assay again in a phase 2b, randomized, placebo-con-
trolled trial evaluating the efficacy and safety of SNF472 in 274 patients with CVC on hemodialysis. The primary
report from the CVC study showed that SNF472 administered for 52 weeks was well tolerated and significantly
inhibited progression of CVC18. The PD assay showed at least 50% inhibition of calcium phosphate crystalliza-
tion for most of the patients who received SNF472. The inclusion of a placebo group and two SNF472 treat-
ment groups (300 mg and 600 mg) allowed us to build a model showing a linear relationship between the PD
assay effect and a decrease in CVC progression over 52 weeks in humans18. The correlation between PD effect
and inhibition of CVC (progression of CAC volume) in this clinical trial was similar to the correlation that we
observed in our animal models. In conclusion, in this report we used our previously validated PD assay for calcium phosphate crystallization
to show that SNF472 substantially and consistently inhibits calcium phosphate crystallization with repeated
dosing, and that this PD effect correlates with reduction in CVC progression in rats and in clinical effect in
patients with ESKD on hemodialysis. This translational, noninvasive tool may be used in future research to
assess the potential therapeutic effects of calcification inhibitors such as SNF472 in CVC and related diseases
like calciphylaxis, CAD, or PAD. Discussion
I
d CVC In this study,
the PD assay showed that SNF472 inhibited calcium phosphate crystallization by nearly 70% from the start to the
end of treatment. The study had no placebo group and the PD effect reached the plateau of the dose–response. Therefore, a correlation between PD effect and efficacy measures could not be established in the calciphylaxis
clinical trial. Scientific Reports | (2020) 10:17578 | https://doi.org/10.1038/s41598-020-74592-x www.nature.com/scientificreports/ Figure 5. Pharmacodynamic results in the phase 2 clinical trial of SNF472 treatment during hemodialysis in
patients with calciphylaxis. Values are plotted as the median, interquartile range, and individual points. Patients
with calciphylaxis undergoing hemodialysis (N = 14) received SNF472 at a weight-based dose corresponding to
7 mg/kg during dialysis sessions for 12 weeks. Crystallization inhibition was measured at the end of the infusion
for the first dose (week 1 day 1) and the last dose (week 12 day 5). One value for the last dose was not considered
in summary statistics because the patient’s plasma concentration was below the limit of quantification at the end
of infusion. Figure 5. Pharmacodynamic results in the phase 2 clinical trial of SNF472 treatment during hemodialysis in
patients with calciphylaxis. Values are plotted as the median, interquartile range, and individual points. Patients
with calciphylaxis undergoing hemodialysis (N = 14) received SNF472 at a weight-based dose corresponding to
7 mg/kg during dialysis sessions for 12 weeks. Crystallization inhibition was measured at the end of the infusion
for the first dose (week 1 day 1) and the last dose (week 12 day 5). One value for the last dose was not considered
in summary statistics because the patient’s plasma concentration was below the limit of quantification at the end
of infusion. Figure 5. Pharmacodynamic results in the phase 2 clinical trial of SNF472 treatment during hemodialysis in
patients with calciphylaxis. Values are plotted as the median, interquartile range, and individual points. Patients
with calciphylaxis undergoing hemodialysis (N = 14) received SNF472 at a weight-based dose corresponding to
7 mg/kg during dialysis sessions for 12 weeks. Crystallization inhibition was measured at the end of the infusion
for the first dose (week 1 day 1) and the last dose (week 12 day 5). One value for the last dose was not considered
in summary statistics because the patient’s plasma concentration was below the limit of quantification at the end
of infusion. Figure 5. Methods PD assay. In a previous report we described the development and validation of the PD assay for inhibition
of calcium phosphate crystallization15. For this assay, we added ionized calcium 12.5 mM and phosphate 1.5 mM
to plasma samples ex vivo to induce calcium phosphate crystallization, and agitated the samples at 750 rpm
for 30 min. We obtained spectrophotometric measurements at 550 nm every 3 min and plotted the increase in
absorbance versus the logarithm of time to calculate the slope for the linear interval. Each plasma sample gener-
ated one value for the slope. We calculated inhibition of calcification induction as the percentage change in the
slope for the linear interval between pre-dose and post-dose (end of infusion) samples Eq. (1): (1)
% change (inhibition) = [(slope post-dose −slope pre-dose) ÷ slope pre-dose] × 100. (1) Scientific Reports | (2020) 10:17578 | https://doi.org/10.1038/s41598-020-74592-x www.nature.com/scientificreports/ Figure 6. (a) Pharmacokinetic-pharmacodynamic relationship for SNF472. (b) Individual changes of the
pharmacodynamic effect with plasma concentrations of SNF472 (week 12 vs. week 1). Patients undergoing
hemodialysis with calciphylaxis (N = 14) received SNF472 at a weight-based dose corresponding to 7 mg/kg
during dialysis for 12 weeks. Plasma crystallization inhibition was measured at the end of the infusion for the
first dose (week 1 day 1) and the last dose (week 12 day 5). Plasma samples with concentrations below the limit
of quantification (0.76 µM) were considered zero. Figure 6. (a) Pharmacokinetic-pharmacodynamic relationship for SNF472. (b) Individual changes of the
pharmacodynamic effect with plasma concentrations of SNF472 (week 12 vs. week 1). Patients undergoing
hemodialysis with calciphylaxis (N = 14) received SNF472 at a weight-based dose corresponding to 7 mg/kg
during dialysis for 12 weeks. Plasma crystallization inhibition was measured at the end of the infusion for the
first dose (week 1 day 1) and the last dose (week 12 day 5). Plasma samples with concentrations below the limit
of quantification (0.76 µM) were considered zero. Animal study. Animals were kept at constant temperature, humidity, and on a 12-h light/dark cycle with
free access to water and rat chow. The study was approved by and conducted according to the guidelines of the
local animal ethics committee (Comitè ètic d’experimentació animal, Catalunya, Spain; Decree 214/97). The
experimental design for the animal study is summarized in Fig. 1. We divided 38 Sprague Dawley rats into four
groups of 9 or 10 animals each. Methods Patients undergoing hemodialysis (N = 55) received placebo
or SNF472 at doses of 300 or 600 mg/kg during dialysis, thrice weekly, for 52 weeks. Plasma crystallization
inhibition was measured at the end of the infusion at weeks 1, 10, 22 and 52, and the average % inhibition of
calcium phosphate crystallization found in these 4 sampling times was calculated and used in the model, as
read-out for the entire treatment of 52 weeks. Figure 7. Linear model for the relationship of % change from baseline in coronary artery calcium (CAC)
volume at week 52 versus average PD effect (%). Patients undergoing hemodialysis (N = 55) received placebo
or SNF472 at doses of 300 or 600 mg/kg during dialysis, thrice weekly, for 52 weeks. Plasma crystallization
inhibition was measured at the end of the infusion at weeks 1, 10, 22 and 52, and the average % inhibition of
calcium phosphate crystallization found in these 4 sampling times was calculated and used in the model, as a
read-out for the entire treatment of 52 weeks. femurs for calcium content measurement by inductively coupled plasma optical emission spectrometry after
acidic digestion21. d
b
l
d
l
h h
d
d d f
h
l
l
d
d We used a boxplot assay to detect outliers, which we discarded from the statistical analysis, and summarized
the remaining results by treatment group. Outliers were defined as the observations that were below first quar-
tile minus 3 times the Interquartile range (IQR) or above third quartile plus 3 times the IQR. In each group, we
calculated the mean ID50 and the mean IC50 in the heart and aorta using a non-linear fitting program (Graph-
Pad Prism; GraphPad Software, La Jolla, CA, USA) and semi-logarithmic concentration response curves. We
performed a one-way ANOVA to detect the effect on tissue calcification of each dose of SNF472 compared with
saline. When significant effects were observed (P < 0.05 vs saline), we applied a post-hoc least significant differ-
ence test to identify differences between groups. For PD analysis, we performed a Kruskal–Wallis analysis for
non-normally distributed data. We conducted a bivariate Pearson correlation test between PD assay results and
cardiovascular calcification results and a four-parameter variable slope non-linear regression fixing the top at
65.7% (maximum degree of inhibition obtained in the validation of the method in rat ex vivo samples15) between
PD assay results and SNF472 plasma levels at Cmax. Methods We implanted an intravenous polyurethane catheter (0.62 × 1.02 mm, Instech
Laboratories, Plymouth Meeting, PA, USA) into the jugular vein of each animal during the acclimatization
period, which lasted 6 to 8 days before the start of treatment and calcification induction. We externalized the
catheter through an incision in the interscapular region and attached it to a delivery system via a tether system
with a harness and a swivel joint (Instech Laboratories). We connected this system to an 8-channel infusion
pump (New Era 1800, Farmingdale, NY, USA). Each day we filled the catheter with fresh heparinized saline to
avoid coagulation.i g
We induced cardiovascular calcification in all rats by administering vitamin D 75,000 IU/kg subcutaneously
daily from day 1 to day 3. In the 4 groups, we administered saline or SNF472 at 3, 10, 30 mg/kg daily from day
1 to day 12 by 4-h intravenous infusion. We weighed each animal daily.t On day 11, before infusion and 60 and 240 min after the infusion start, we collected approximately 200 μL of
blood from each animal in a K2EDTA vacuette tube without interrupting the infusion. We quantified SNF472
levels in blood by liquid chromatography-mass spectroscopy20.l On day 12, we anesthetized each animal with isoflurane at the end of the 4-h infusion and performed car-
diac puncture to extract total blood (8–10 mL) into collection tubes for plasma (K3EDTA, 6 mL) and serum
(2–3 mL). We used the PD assay to measure calcium phosphate crystallization in the plasma samples. After
exsanguination, we sacrificed the animals and performed necropsy, collecting the aorta, heart, right kidney, and Scientific Reports | (2020) 10:17578 | https://doi.org/10.1038/s41598-020-74592-x www.nature.com/scientificreports/ Figure 7. Linear model for the relationship of % change from baseline in coronary artery calcium (CAC)
volume at week 52 versus average PD effect (%). Patients undergoing hemodialysis (N = 55) received placebo
or SNF472 at doses of 300 or 600 mg/kg during dialysis, thrice weekly, for 52 weeks. Plasma crystallization
inhibition was measured at the end of the infusion at weeks 1, 10, 22 and 52, and the average % inhibition of
calcium phosphate crystallization found in these 4 sampling times was calculated and used in the model, as a
read-out for the entire treatment of 52 weeks. Figure 7. Linear model for the relationship of % change from baseline in coronary artery calcium (CAC)
volume at week 52 versus average PD effect (%). www.nature.com/scientificreports/ The average PD value for each particular patient was calculated as the mean value of individual PD values
found in weeks 1, 10, 22, and 52 of treatment included in the per protocol population.h i
g
y
jfi
The average PD value for each particular patient was calculated as the mean value of individual PD values
ound in weeks 1, 10, 22, and 52 of treatment included in the per protocol population.h p
p
p p
The study was approved by the research ethics committee of each participating institution and the trial was
conducted according to the principles of the Declaration of Helsinki. The clinical trial was registered at Clini-
calTrials.gov as #NCT02966028. Received: 12 November 2019; Accepted: 10 August 2020 References 1. Mizobuchi, M., Towler, D. & Slatopolsky, E. Vascular calcification: the killer of patients with chronic kidney disease. J. Am. Soc. Nephrol. 20, 1453–1464. https://doi.org/10.1681/ASN.2008070692 (2009).il 1. Mizobuchi, M., Towler, D. & Slatopolsky, E. Vascular calcification: the killer of patients with chronic kidney disease. J. Am. Soc
Nephrol. 20, 1453–1464. https://doi.org/10.1681/ASN.2008070692 (2009).il p
p
g
2. New, S. E. & Aikawa, E. Cardiovascular calcification: an inflammatory disease. Circ. J. 75, 1305–1313. https://doi.org/10.1253/
.cj-11-0395 (2011).h .cj 11 0395 (2011). 3. Nigwekar, S. U., Thadhani, R. & Brandenburg, V. M. Calciphylaxis. N. Engl. J. Med. 378, 1704–1714. https://doi.org/10.1056/NEJMr j
3. Nigwekar, S. U., Thadhani, R. & Brandenburg, V. M. Calciphylaxis. N. Engl. J. Med. 378, 1704–1714. https://doi.org/10.1056/NEJMr
a1505292 (2018).i 4. Lanzer, P. et al. Medial vascular calcification revisited: review and perspectives. Eur. Heart J. 35, 1515–1525. https://doi.org/10.1093/
eurheartj/ehu163 (2014).i j
5. Johnson, R. C., Leopold, J. A. & Loscalzo, J. Vascular calcification: pathobiological mechanisms and clinical implications. Circ
Res. 99, 1044–1059. https://doi.org/10.1161/01.RES.0000249379.55535.21 (2006).i p
g
6. Giachelli, C. M. Vascular calcification mechanisms. J. Am. Soc. Nephrol. 15, 2959–2964. https://doi.org/10.1097/01.ASN.00001
45894.57533.C4 (2004). 7. Mazhar, A. R. et al. Risk factors and mortality associated with calciphylaxis in end-stage renal disease. Kidney Int. 60, 324–332
https://doi.org/10.1046/j.1523-1755.2001.00803.x (2001). p
g
j
8. Joubert, P., Ketteler, M., Salcedo, C. & Perello, J. Hypothesis: Phytate is an important unrecognised nutrient and potential intra-
venous drug for preventing vascular calcification. Med Hypotheses 94, 89–92. https://doi.org/10.1016/j.mehy.2016.07.005 (2016) i
9. Savica, V., Santoro, D., Monardo, P., Mallamace, A. & Bellinghieri, G. Sevelamer carbonate in the treatment of hyperphosphatemia
in patients with chronic kidney disease on hemodialysis. Ther. Clin. Risk Manag. 4, 821–826. https://doi.org/10.2147/tcrm.s3075
(2008).i 0. Grases, F. et al. Phytate inhibits bovine pericardium calcification in vitro. Cardiovasc. Pathol. 17, 139–145. https://doi.org/10.1016/j
carpath.2007.08.005 (2008).il p
1. Grases, F. & Costa-Bauza, A. Phytate (IP6) is a powerful agent for preventing calcifications in biological fluids: usefulness in rena
lithiasis treatment. Anticancer Res. 19, 3717–3722 (1999).i 12. Perelló, J. et al. SNF472, a novel inhibitor of vascular calcification, could be administered during hemodialysis to attain potentially
therapeutic phytate levels. J. Nephrol. 31, 287–296. https://doi.org/10.1007/s40620-018-0471-9 (2018). p
p y
p
p
g
13. Perelló, J. et al. First-time-in-human randomized clinical trial in healthy volunteers and haemodialysis patients with SNF4
novel inhibitor of vascular calcification. Br. J. Clin. Pharmacol. 84, 2867–2876. https://doi.org/10.1111/bcp.13752 (2018). i
p
g
p
14. Salcedo, C. et al. www.nature.com/scientificreports/ correlation if the SNF472 concentration was above the limit of detection. A total of 23 samples met these criteria:
14 samples at week 1 day 1, and 9 samples at week 12 day 5. Patients gave written informed consent to participate. An ethics committee for each site (New England Inde-
pendent Review Board for centers in the USA and the North West—Liverpool Central Research Ethics Commit-
tee for centers in the UK) approved the trial design, which was conducted in accordance with the Declaration of
Helsinki and was consistent with International Council for Harmonisation Guidelines on Good Clinical Practice
and regulatory requirements. The clinical trial was registered at ClinicalTrials.gov as #NCT02790073. Cardiovascular calcification clinical trial (CaLIPSO Study). The design of the cardiovascular cal-
cification trial has been published in detail18. Briefly, we randomized 274 adult patients (18–80 years of age)
on hemodialysis with a baseline CAC Agatston score of 100 to 3500 units on a screening non-contrast multi-
detector computed tomography (MDCT) to receive placebo, SNF472 300 mg, or SNF472 600 mg, infused thrice
weekly during hemodialysis for 52 weeks. MDCT imaging was repeated at week 52. Collection of blood samples
at weeks 1, 10, 22, and 52, and treatment of blood samples to perform the PD assay were as described for the
calciphylaxis clinical trial. A linear model was used to evaluate the relationship between PD and percent change
from baseline to week 52 for CAC volume. This model is described by the formula: Y = b0 + b1X + εi where Y, value of the response; b0, intercept; b1, parameter estimate for variable X; εi, random error term. A
standard assumption, adopted here, is that the εi terms are independent identically distributed with a mean of 0
and variance σ2. An additional standard assumption is that the error terms are normally distributed.ifi where Y, value of the response; b0, intercept; b1, parameter estimate for variable X; εi, random error term. A
standard assumption, adopted here, is that the εi terms are independent identically distributed with a mean of 0
and variance σ2. An additional standard assumption is that the error terms are normally distributed.ifi p
y
Linear model fitting was summarized by the value of the adjusted coefficient of correlation (R).h Linear model fitting was summarized by the value of the adjusted coefficient of correlation (R). Methods Calciphylaxis clinical trial. The design of the calciphylaxis clinical trial has been published in detail17. In
this open-label, single-arm clinical trial, we added SNF472 to standard care for 12 weeks in 14 patients undergo-
ing hemodialysis with calciphylaxis. This report includes the results of PK and PD assessments. Clinical results
for safety and effectiveness (wound healing, pain, and wound-related quality of life), were reported separately17. Eligible patients were ≥ 18 years of age and had clinically diagnosed calciphylaxis, which could include either
newly diagnosed calciphylaxis or recurrent calciphylaxis that had been dormant with no skin lesion involvement
for at least 90 days before study start. We administered SNF472 intravenously three times per week for 2.5 to
4 h, during each dialysis session, using an SNF472 dose of 400, 450, 700 or 900 mg for patients with a dry body
weight of 50 to < 66 kg, 66 to < 81 kg, 81 to < 111 kg, or 111 to 150 kg, respectively, to achieve a weight-based dose
of approximately 7 mg/kg. pp
y
g
g
We collected blood samples (4 mL), using the dialysis tubing so the patient was not disturbed, into polyethyl-
ene terephthalate tubes containing potassium (K3EDTA) before hemodialysis and at the end of SNF472 infusion
for the first dose (baseline; day 1 of week 1) and last dose (day 5 of week 12). We measured SNF472 concentrations
with a validated liquid chromatography-mass spectroscopy method20. We used another aliquot of plasma from
the blood sample for the PD assay to measure calcium phosphate crystallization. p
y
p
p
y
Each patient had two values for the percentage change in calcium phosphate crystallization (ie, percent inhibi-
tion): one at week 1 and one at week 12. We compared percent inhibition at week 1 and week 12 using a Wilcoxon
signed-rank test as a non-parametric statistical hypothesis test, with an alpha level of 0.05 to compare the two
related samples. We used percent inhibition and end-of-infusion plasma levels (Cmax) to evaluate the potential
PK-PD correlation. Available samples were included in the analysis for pharmacokinetic/pharmacodynamic Scientific Reports | (2020) 10:17578 | https://doi.org/10.1038/s41598-020-74592-x www.nature.com/scientificreports/ Received: 12 November 2019; Accepted: 10 August 2020 References A phase 1b randomized, placebo-controlled clinical trial with SNF472 in haemodialysis patients. Br. J. Clin. Pharmacol. 85, 796–806. https://doi.org/10.1111/bcp.13863 (2019).f i
14. Salcedo, C. et al. A phase 1b randomized, placebo-controlled clinical trial w
Pharmacol. 85, 796–806. https://doi.org/10.1111/bcp.13863 (2019).f 15. Ferrer, M. D. et al. A novel pharmacodynamic assay to evaluate the effects of crystallization inhibitors on calcium phosphate
crystallization in human plasma. Sci. Rep. 7, 6858. https://doi.org/10.1038/s41598-017-07203-x (2017).i y
p
p
p
g
6. Pasch, A. Novel assessments of systemic calcification propensity. Curr. Opin. Nephrol. Hypertens 25, 278–284. https://doi
org/10.1097/MNH.0000000000000237 (2016).t 17. Brandenburg, V. M. et al. Improvement in wound healing, pain, and quality of life after 12 weeks of SNF472 treatment: a phase 2
open-label study of patients with calciphylaxis. J. Nephrol. 32, 811–821. https://doi.org/10.1007/s40620-019-00631-0 (2019). l
l
f
d
l
l fi
h
h
d l
l
f
d
d p
y
p
p y
p
p
g
18. Raggi, P. et al. Slowing progression of cardiovascular calcification with SNF472 in patients on hemodialy
Phase 2b study. Circulation 141, 728–739. https://doi.org/10.1161/CIRCULATIONAHA.119.044195 ( 18. Raggi, P. et al. Slowing progression of cardiovascular calcification with SNF472 in patients on hemodialysis: results of a random
Phase 2b study. Circulation 141, 728–739. https://doi.org/10.1161/CIRCULATIONAHA.119.044195 (2020).ff y
p
g
9. Schiffrin, E. L., Lipman, M. L. & Mann, J. F. Chronic kidney disease: effects on the cardiovascular system. Circulation 116, 85–97
https://doi.org/10.1161/CIRCULATIONAHA.106.678342 (2007).i f
p
y
https://doi.org/10.1161/CIRCULATIONAHA.106.678342 (20 p
g
(
)
0. Tur, F. et al. Validation of an LC-MS bioanalytical method for quantification of phytate levels in rat, dog and human plasma. J
Chromatogr. B Anal. Technol. Biomed. Life Sci. 928, 146–154. https://doi.org/10.1016/j.jchromb.2013.03.023 (2013). https://doi.org/10.1038/s41598-020-74592-x Scientific Reports | (2020) 10:17578 | www.nature.com/scientificreports/ 21. Ferrer, M. D. et al. Characterization of SNF472 pharmacokinetics and efficacy in uremic and non-uremic rats models of cardio-
vascular calcification. PLoS ONE 13, e0197061. https://doi.org/10.1371/journal.pone.0197061 (2018). 21. Ferrer, M. D. et al. Characterization of SNF472 pharmacokinetics and efficacy in uremic and non-uremic rats models of cardio-
vascular calcification. PLoS ONE 13, e0197061. https://doi.org/10.1371/journal.pone.0197061 (2018). Acknowledgementsh g
This study was supported by a RETOS COLABORACIÓN: RTC-2014-2460-1 ISCIII grant (Ministerio de
Economía y Competitividad. Government of Spain). Jonathan Latham (PharmaScribe, LLC) provided medical
writing support, with funding from Sanifit Therapeutics. Author contributions M.M. Pérez, M.D. Ferrer, C. Salcedo, A-Z. Canals, A. Gold, R. Garg, and J. Perelló designed the research. M.D. Ferrer, M.M. Pérez, M. Lazo-Rodriguez, A-Z. Canals, and E. Banon-Maneus collected data. M. Lazo-Rodriguez
and E. Banon-Maneus performed the animal model. J.M. Campistol led the animal model study. C. Salcedo, J. Perelló, M.D. Ferrer and M.M. Pérez performed the data analyses. S. Miller, A. Gold, and R. Garg managed the
clinical trial. M.D. Ferrer and C. Salcedo wrote the initial manuscript. All authors contributed to the discussion
of the results, the revision of the manuscript, and approval of the final manuscript. Competing interests p
g
M.D. Ferrer, J.M. Campistol, M. Lazo-Rodriguez, and E. Banon-Maneus received funding from Sanifit Therapeu-
tics to perform this research. The rest of the authors are employees or former employees of Sanifit Therapeutics. M. Mar Perez, Miguel D. Ferrer, Ana Zeralda Canals, Stephan Miller, Alex Gold, Rekha Garg, Carolina Salcedo,
and Joan Perelló are stockholders of Sanifit Therapeutics. Additional information Correspondence and requests for materials should be addressed to C.S. Reprints and permissions information is available at www.nature.com/reprints. Reprints and permissions information is available at www.nature.com/reprints. Publisher’s note Springer Nature remains neutral with regard to jurisdictional claims in published maps and
institutional affiliations. Open Access This article is licensed under a Creative Commons Attribution 4.0 International
License, which permits use, sharing, adaptation, distribution and reproduction in any medium or
format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the
Creative Commons licence, and indicate if changes were made. The images or other third party material in this
article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the
material. If material is not included in the article’s Creative Commons licence and your intended use is not
permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from
the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. © The Author(s) 2020 https://doi.org/10.1038/s41598-020-74592-x Scientific Reports | (2020) 10:17578 |
|
https://openalex.org/W4388100114
|
https://dergipark.org.tr/tr/download/article-file/3296266
|
English
| null |
Designing a Digital Escape Room Game: An Experience of a Digital Learning Tool in Basic Education
|
Journal of educational technology and online learning
| 2,023
|
cc-by
| 11,427
|
Article Info: Research Article Article Info: Research Article Keywords: Digital escape game, Game-based
learning, Technology-enhanced learning, Teacher
training, Turkish teaching. * Corresponding author: Department of Primary Education, Balıkesir University, Türkiye
e-mail addresses: guliz@balikesir.edu.tr
This study was partly presented as a proceeding at the 3rd International Conference on Educational Technology and Online Learning held
between 20-23 June 2023. Journal of Educational Technology Designing a digital escape room game: An experience of a digital learning tool
in basic education a Balıkesir University, Türkiye Suggested citation: Şahin, G. (2023). Designing a digital escape room game: An experience of a digital learning tool in basic education. Journal of Educational Technology & Online Learning, 6(4), 925-946 Abstract •
Digital educational escape room games
eliminate the generation gap between teachers
and students. The study aims to explore the perspectives of primary school teacher
candidates who attend Turkish Language Teaching courses on their
experiences of developing digital educational escape room games
(DEERGs). Phenomenology design, one of the qualitative research
methods, was utilized. The study group comprised 48 primary school
teacher candidates who were reached by the convenience sampling
method. A semi-structured interview form developed by the
researcher and DEERGs designed by the participants were used as
data collection tools. In the 14-week study, interviews were
conducted via Microsoft Teams. The findings were analysed from a
holistic perspective using content analysis. Results indicated that the
participants preferred Google Forms and Genially tools in game
design, and they benefited from Web 2.0 tools. In first language
education, games for reading and writing skills were designed, and
mostly primary school and 4th-grade achievements were selected. It
was observed that they considered areas of interest, individual
differences, and constructs that support cognitive-emotional and skill
development in scripting. It was emphasized that DEERGs
contribute to attention, focus, maintaining and motivating learning,
problem-solving, developing a positive attitude towards the lesson,
and learning while having fun. •
Digital educational escape room games
redefine the concepts of ‘homework’ and
‘school’ from the student's perspective. •
Digital educational escape room games are
valuable as they support not only students'
cognitive development but also their affective
development, skill development, and personal
development. •
Digital educational escape room games are
valuable as they support not only students'
cognitive development but also their affective
development, skill development, and personal
development. Journal of Educational Technology
& Online Learning
Volume 6 │Issue 4│2023
http://dergipark.org.tr/jetol Journal of Educational Technology
& Online Learning
Volume 6 │Issue 4│2023
http://dergipark.org.tr/jetol Doi: http://doi.org/10.31681/jetol.1334912
Received 30 Jul 2023; Revised 15 Oct 2023; Accepted 26 Oct 2023
ISSN: 2618-6586. This is an open Access article under the CC BY license. 1. Introduction During the Coronavirus pandemic, educators worldwide mobilized to ensure the effectiveness of distance
education, leading to the widespread integration of technology in almost every aspect of the educational
system. In Turkey, after the pandemic, the Kahramanmaraş Earthquake, which was coined as the disaster
of the century (Utkucu et al., 2023), brought online education back into the spotlight. As a result, an urgent
shift to remote education was implemented in all higher education institutions to enable uninterrupted
learning for students (Telli & Altun, 2021). Although technology provided a significant tool to ensure
continuous education, the challenges faced during the pandemic's learning process remained apparent. Therefore, educators embarked on a quest for innovation in technology-supported teaching methods, aiming e mail addresses: guliz@balikesir.edu.tr
This study was partly presented as a proceeding at the 3rd International Conference on Educational Technology and Online Learning held
between 20 23 June 2023 Doi: http://doi.org/10.31681/jetol.1334912
Received 30 Jul 2023; Revised 15 Oct 2023; Accepted 26 Oct 2023
ISSN: 2618-6586. This is an open Access article under the CC BY license JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Şahin, G. to motivate students in the learning process, accomplish learning outcomes, and equip them with 21st-
century skills. to motivate students in the learning process, accomplish learning outcomes, and equip them with 21st-
century skills. The innovations in the teaching process have replaced the traditional memorization-based approach
(Hidalgo-Cabrillana & Lopez-Mayan, 2018). Moreover, in the 21st century, the education of the digital
native generation can take place in any environment with internet access, independent of time and place. Therefore, teachers adopting outdated teaching methods may fall short of meeting the interests and needs
of today's students. To address this, educators need to closely monitor the latest developments in
information and communication technology, redesign instructional environments by incorporating
contemporary methods and techniques, and strive to enhance the quality of the education process. The
International Society for Technology in Education (ISTE, 2016) emphasizes the importance of increasing
students' competencies as digital citizens, knowledge producers, innovative designers, computational
thinkers, creative communicators, global collaborators, and empowered learners, considering the growing
role of computers and automation systems in our lives. Although elements such as computers and automation systems, independence of learning from time and
space have an important place in human life, some negativities in the distance education process should not
be ignored. As it is known, distance education is different from face-to-face education. 1. Introduction Therefore, it is very
important to use materials that will attract students' interest, motivate them to learn, facilitate the process
and keep them engaged in front of the screen. When the literature studies are examined, there are opinions
that the number of learners who can complete the programme they are enrolled in the distance education
process is limited (Levy, 2007), that they are ineffective in the learning process and that students have high
dropout rates (Boston & Ice, 2011; Kim & Bonk, 2006; Park & Choi, 2009; Patterson & McFadden, 2009). When distance education studies with high dropout rates are examined; the lack of a good instructional
design, insufficient opportunity for students to socialise in the course, inadequate digital literacy skills of
users, limited interaction of students with peers and instructors are among the reasons that attract attention
(Croxton, 2014; Dempsey & Van Eck, 2012). Considering these reasons, it should not be forgotten that the
interactive teaching process as well as the technological infrastructure (Kim & Bonk, 2006) is important in
increasing efficiency and success in the distance education process. Therefore, there is a need for
instructional designs that encourage interaction, increase motivation level, make learning meaningful and
improve digital literacy skill level. It is crucial to explore innovative ways of learning that involve all students in the education system, to
enable them to experience learning in a natural way and to provide effective learning environments are also
very important in the distance education process. More importantly, it is crucial to understand the
characteristics of the target student population and to discover innovative ways of learning that are
appropriate to these characteristics (Waycott et al., 2010). In this process, digital tools used in the distance
education process have become the biggest collaborators of educators. One of these collaborative tools,
digital educational escape room games, has a scenario that is different from both traditional games and
familiar digital games. The fact that the scenario is designed in a way that is suitable for the age group of
the target students and arouses their interest, attracts their attention, enables them to focus on the game, and
supports the achievement of educational gains by fulfilling the tasks given in the game flow. In this context,
firstly, educational escape games, which are game-based learning applications, some research related to the
subject and the purpose and application process of this research will be given respectively. 2. Literature Implementing sufficient online pedagogical approaches and integrating various digital tools into the
instructional process has become a priority in educational systems. Maintaining students' interest and
persistence in learning is crucial to online education. One possible approach to creating engaging and 926 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Şahin, G. interactive learning environments, using students' energy and enthusiasm for educational purposes, is to
incorporate game-based learning activities and gamify different parts of the educational process. Based on
this, it is possible to say that gamification is defined as the application of game mechanics to make learning
more attractive and increase learner motivation (Moncada & Moncada, 2014, p. 9). Juul (2003) defines
games used in this learning experience process as rule-based systems with measurable outcomes, where
players try to influence the outcome, and their emotional connection is tied to the results. Salen and
Zimmerman (2003) add that games have pre-established rules and measurable outcomes, and players
experience the process by solving a problem or facing a challenge together. Educational games, developed
to impart a learning objective to individuals, support students' motivation in the learning process, providing
them with a flow state (Paras & Bizzocchi, 2005). In this context, Game-Based Learning (GBL) involves students playing physical or digital educational
games to achieve the lesson’s learning outcomes. GBL refers to any learning environment or activity that
uses games to support teaching and learning (Chang et al., 2017). Bondar et al. (2016) state that GBL
enhances cognitive and social skills, and the interactive nature of games serves as a motivating factor for
learning. Furthermore, GBL positively influences participants' motivation and interest, thereby increasing
learning opportunities (Baranowski et al., 2019; Sailer et al., 2017; Uzsen & Basbakkal, 2019). In digital
game-based learning (DGBL), games not only develop students' cognitive skills, but also help them process
much information at the same time. Seng and Yatim (2014) state that digital games, when appropriately
supported, create a self-directed learning environment for students and therefore have a value beyond
entertainment. At the same time, by encouraging visual and auditory learning, it brings the teaching and
learning process to a student-centred position and, in the words of Savaş et al. (2021), enables students to
develop new identity, imagination, creativity, and the opportunity to identify their interests and skills (Savaş
et al., 2021). 2. Literature Educational escape room games, one of the game-based learning applications, is a game based on the
principle of escape rooms, which is played both in physical and digital environments. An escape room is a
game experience that forces participants to escape from a locked room. To achieve this, they must overcome
various challenges, follow certain instructions, and find the key to the exit door. Some experts view this
application as part of a game-based learning methodology, while others see it as a gamification experience
(Moura & Sentos, 2019). In an escape room game, players work as a team to win and not lose. They have
a shared collaborative environment on a game designed to meet predefined learning outcomes. The players'
main objective is to escape from a physically or virtually locked room within a limited time to achieve
educational objectives. During this process, they are presented with puzzles and tasks. The process
facilitates active learning, promotes social interaction, and supports collaborative learning. Players interact
with each other in the context of a narrative-driven story to win the presented challenge and explore
(Nicholson, 2018). Educational escape games, based on game-based learning, positively influence student achievements
(Pernas et al., 2019), contribute to the instructional process, enhance academic performance, and support
subsequent problem-solving processes (Lien et al., 2019). Furthermore, they facilitate memory retention in
learning (Liu et al., 2020). The increasing need for methods that enhance individuals' curiosity, keep
participants in a state of flow, and support active engagement during the educational process justifies the
inclusion of escape rooms among the new generation of educational methods (Yılmaz, 2020, p.111). In
recent years, escape games designed for educational purposes have significantly increased the interest of
researchers and educators. Studies aiming to provide students with the experience of a new game-based
learning approach by breaking away from traditional classroom routines have demonstrated that educational
escape games inspire high levels of motivation and commitment among learners, with many participants
experiencing a state of flow. However, it is also observed that there are relatively few studies on the
educational significance of such activities (Giang et al., 2019). 927 Şahin, G. JETOL 2023, Volume 6, Issue 4, 925-946 When examining the studies related to escape room games, it is observed that they have been investigated
in various fields. Giang et al. (2019) explored whether escape games could be utilized as an educational
tool in robotics education. 2. Literature Yachin and Barak (2019) examined the role of escape games in promoting
knowledge, awareness, and motivation for healthy eating. Clune (2019) researched how a digital escape
game could promote the learning of mathematical concepts. Glavas and Stascik (2017) conducted a study
to cultivate a positive attitude towards mathematics among mathematics and computer science pre-service
teachers. They accomplished this by implementing escape room games as a pedagogical approach. Karageorgiou et al. (2019) implemented a STEAM-focused escape room activity. Şahin and Güneş (2022)
investigated the functionality of educational digital escape room games from teachers' perspectives. Huraj
et al. (2022) aimed to evaluate how students perceived learning using a digital educational escape room. Taraldsen et al. (2022) presented a compilation and analysis of studies related to escape room games. Bezençon et al. (2023) worked on preventing addictive behaviours. Additionally, there is another study
(Büchner et al., 2022) that investigated whether learning with a digital escape room game is more effective
before or after the theoretical teaching process, and they discovered that implementing escape room games
after the theoretical instruction was a more effective teaching approach. Huang et al. (2020) developed an
instructional approach that included a digital escape room (DER) for primary school fourth-grade students
to investigate its impact on learning performance, learning, and problem-solving abilities. In a quasi-
experimental design, they found that students in the experimental group had higher scores in learning
motivation and problem-solving abilities compared to the control group. Students had positive perceptions
of the DER experience and believed that the DER teaching strategy was convincing and effective. The work
of Makri et al. (2021) aimed to provide a systematic literature review on Educational Escape Rooms (EERs)
and focused explicitly on Digital Educational Escape Rooms (DEERs) to explore the current developments
and trends related to DEERs and how they enhanced learning outcomes for online learners. The researchers
mentioned that they could not find any studies related to the pedagogical effects of DEERs and their
research was motivated by identifying and filling the gaps in the existing literature. While this study aims to contribute to the gap in the literature on DEERGs, it also aims to provide some
learning advantages for students who continue their education with distance education and to provide an
alternative experience for primary school teachers who are conducting their courses with distance
education. 3.1. Research Model/Design The research has been designed using phenomenology, one of the qualitative research methods. According
to phenomenology, phenomena are objects, events, and occurrences perceived by consciousness (Cevizci,
1999, p. 341). In this context, phenomenology is an approach that analyses everything experienced by
consciousness and examines how individuals interpret their consciousness and the world they live in (Craib,
1992, p. 98). The phenomenology design focuses on phenomena we know but do not have an in-depth and
detailed understanding. Phenomena can appear daily, such as events, experiences, perceptions, orientations,
concepts, and situations. Although we encounter these phenomena daily, it does not necessarily mean we
fully comprehend them. Phenomenology provides a suitable research framework for studies that aim to
investigate phenomena that are not entirely foreign to us but that we cannot fully comprehend (Yıldırım &
Şimşek, 2018, p. 69, 71). In phenomenology studies, the data sources are individuals who directly
experience the phenomena rather than individuals who have experienced the phenomenon indirectly. This
research’s data sources rely on the participants' 14-week course experiences and online meetings planned
on Microsoft Teams. The participants were introduced to the Breakout Edu, DeckToys, Genially, and
Google Forms tools, which they could use to design DEERGs within the scope of the study. The researcher
prepared an example application and provided training to the participants, enabling them to create their
designs. Outside of class hours, the researcher communicated with the participants to check their game
designs and ensure the progress of the work. 2. Literature At which stage of the learning process did the primary school teacher candidates use the DEERGs
designs? vi. Which are the areas of learning outcomes in mother tongue teaching preferred by primary school teacher
candidates in DEERGs design? vi. Which are the areas of learning outcomes in mother tongue teaching preferred by primary school teacher
candidates in DEERGs design? vii. What are the opinions of primary school teacher candidates about the use of DEERGs designs in the
education process? vii. What are the opinions of primary school teacher candidates about the use of DEERGs designs in the
education process? The study was carried out with primary school teacher candidates undergoing distance education at the
faculty of education and taking the course on Turkish language teaching. These participants received seven
weeks of theoretical subject knowledge training and seven weeks of training on designing physical and
digital educational escape room games (DEERGs), including sample application studies. After 14 weeks
of training, the participants were asked to consider how to transfer the course outcomes and learning outputs
of mother tongue teaching to elementary school students more interactively and efficiently, based on the
acquired knowledge. They were required to plan accordingly. Then, they determined an elementary school
grade level for the game design and selected the learning outcomes from the elementary school curriculum
related to mother tongue teaching (Turkish language teaching) to design DEERGs. 2. Literature Considering the learning advantages for students, DEERGs aims to focus students on the lesson,
make the teaching process interactive, make students enjoy the learning process, support collaborative
learning, and support the ability to follow the instructions while performing the given tasks in distance
education. From the perspective of the classroom teacher, it aims to provide an experience that they can
use in their professional life, to reflect their own evaluations about this experience and to increase their
professional motivation with students who enjoy learning. DEERGs are designed for a specific group of
students with learning goals. Therefore, a high success rate is targeted when the game is completed, and
this level of success provides students with positive learning experiences. The fact that all puzzles have
been solved is an indication that all learning objectives have been achieved. The primary goal in the design
of DEERGs is to ensure that the puzzles are compatible with the curriculum, are not boring for the student
and do not cause frustration. Because these elements are perceived as reasons for players to leave the game
(Hermanns et al., 2018). To end the game, the puzzle results need to be verified by entering numeric or
alphabetically coded passwords. Therefore, the items in the sub-problems of this study also provide the
determination of whether the DEERGs designed by primary school teacher candidates include these main
topics. The research aims to find an answer to the question "What are the perceptions of prospective classroom
teachers about their experiences of designing digital educational escape room games (DEERG)?". To
achieve this aim, answers to the following sub-problems are sought. 928 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. i. What is the application tool preferred by primary school teacher candidates in DEERGs design and the
reason for preference? iii. What is the starting point of the scenario preferred by primary school teacher candidates in DEERGs
design? iii. What is the starting point of the scenario preferred by primary school teacher candidates in DEERGs
design? iv. What are the Web 2.0 tools used by primary school teacher candidates in DEERGs design? iv. What are the Web 2.0 tools used by primary school teacher candidates in DEERGs design? v. At which stage of the learning process did the primary school teacher candidates use the DEERGs
designs? v. 3.4. Data Analysis The data obtained from the interview form were analysed using the content analysis method. Content
analysis is a flexible research tool that can be employed to any form of communication, focusing on the
content of a text (Cavanagh, 1997). It is a method in which the content is systematically summarized by
creating smaller categories through coding according to specific rules (Büyüköztürk et al., 2017). The
content analysis aims to understand the case under study (Downe-Wamboldt, 1992, p. 314). "In content
analysis, the main process involves grouping similar data under specific concepts and themes and
organizing and interpreting them in a way that the reader can understand" (Yıldırım & Şimşek, 2018, p. 227). 3.3. Sampling or Study Group The study group was composed using convenience sampling method. This sampling method was chosen to
expedite the research process (Yıldırım & Şimşek, 2018) and because the researcher could easily access a
group of students due to a recent earthquake disaster. The study included 48 primary school teacher
candidates pursuing their undergraduate education and taking the Turkish Language Teaching course at a
state university in the western region of Turkey. The participants consist of 14 men and 34 women, aged
19, studying in the second year of their undergraduate studies. 3.2. Data Collection Tools Using the characteristics of interaction, flexibility, and probes offered by the researcher during the
interviews is essential to uncover the experiences and meanings related to phenomena. Phenomenology
interviews are generally lengthy because the researcher needs to engage in intense interaction with the 929 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Şahin, G. interviewed individual or individuals to reveal and explain the depth of the experiences (Yıldırım & Şimşek,
2018, p. 71). In this context, the researcher developed a semi-structured interview form consisting of ten
questions as the data collection tool for the DEERG design, which they presented to experts for feedback
before finalization. Seven interview questions, which were finalized after the expert opinions, were directed
to the participants. Additionally, the data collection process involved using the DEERGs designed by the
participants. The research process took place over 7+7 weeks, and the applications and interviews were
conducted using the Microsoft Teams. Of the 51 participants who responded to the interview form and
presented their game design, only the game designs and interview responses of 48 participants were
evaluated within the scope of the research. The games of three participants were excluded from the scope
of the research on the grounds that they were not prepared as a DEERG design. In the preliminary
examination of the designs evaluated as DEERG, attention was paid to whether they included the following
headings. a) Creating a scenario-story, b) Creating puzzles (tasks), c) Preparing clues, d) Adding distractors,
e) Providing instant feedback, f) Providing opportunities for cooperation, g) Providing a reward system. 3.5. Trustworthiness and Credibility To forecast the participants’ experiences with the DEERGs they designed, the researcher initially
administered a semi-structured interview form to three primary school teacher candidates who were not
part of the study group. This step was taken to assess the comprehensibility and suitability of the interview
form. After receiving feedback, the interview questions were revised accordingly. The revised questions
were then presented to a 4th-grade elementary school teacher and three academic experts in the field. Feedback from these individuals led to removing one question and merging two questions, resulting in the
final version of the interview questions. To ensure the credibility of the research, a second researcher
independently re-examined all the data according to the codes that were generated during the data analysis
process. The codes derived from this process were compared, and repetitive or unnecessary coding was
eliminated, while new codes were added where necessary, all while adhering to the research's purpose. The
coding process continued until the researcher and the field expert reached a consensus on transforming the
codes into categories. The research data were analysed using frequencies to demonstrate the quantitative
occurrence of units and comprehend specific elements’ intensity and significance (Tavşancıl & Aslan,
2001). Therefore, by quantifying the qualitative data, data security was enhanced, bias was reduced, and
the opportunity to compare the obtained data was provided (Yıldırım & Şimşek, 2018). Some participants
responded to multiple categories or gave multiple answers, so the frequency numbers may differ from the
normal participant count. Additionally, obtaining in-depth data contributed to the consistency of the 930 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Şahin, G. research while incorporating quotes from the opinions of primary school teacher candidates in the study
group enhanced the reliability and validity of the research findings (P23, P17 format). research while incorporating quotes from the opinions of primary school teacher candidates in the study
group enhanced the reliability and validity of the research findings (P23, P17 format). • Information regarding the procedure: Due to the earthquake disaster, a nationwide state of emergency was declared, and the education process
transitioned to online learning. It was announced that the Turkish Language Teaching Course would be
conducted online via Microsoft Teams for both theoretical and practical aspects over 14 weeks. During the
first seven weeks, it was explained that the theoretical teaching process for Turkish Language Teaching
proficiency would be conducted interactively through various applications. The following seven weeks
would consist of two phases: the first three weeks focused on game-based learning, gamification tools,
technology integration in native language teaching, and examples of educational escape room game
designs. The remaining four weeks would involve participants creating and sharing their designs and in-
class implementation plans. It was emphasized that the completed work would be used in the end-of-term
evaluation. Participants who filled out the voluntary consent form would also form the study group for an
academic research project. Due to the earthquake disaster, a nationwide state of emergency was declared, and the education process
transitioned to online learning. It was announced that the Turkish Language Teaching Course would be
conducted online via Microsoft Teams for both theoretical and practical aspects over 14 weeks. During the
first seven weeks, it was explained that the theoretical teaching process for Turkish Language Teaching
proficiency would be conducted interactively through various applications. The following seven weeks
would consist of two phases: the first three weeks focused on game-based learning, gamification tools,
technology integration in native language teaching, and examples of educational escape room game
designs. The remaining four weeks would involve participants creating and sharing their designs and in-
class implementation plans. It was emphasized that the completed work would be used in the end-of-term
evaluation. Participants who filled out the voluntary consent form would also form the study group for an
academic research project. • Implementation of a rich educational process with both theoretical and practical components: • Implementation of a rich educational process with both theoretical and practical components: • Implementation of a rich educational process with both theoretical and practical components:
During the first seven weeks, the theoretical teaching process for native language teaching proficiency was
conducted through live classes using active teaching methods and interactive applications. The second 7-
week period included presentations on game-based learning, gamification tools, technology integration in
native language teaching, and examples of educational escape room game designs. 3.6. Research Procedures This research was conducted during the 2022-2023 spring semester as a 14-week educational process. Participants were asked to design DEERGs within the scope of the Turkish Language Teaching course,
using the tools Breakout Edu, Deck Toys, Genially, or Google Forms, which were introduced to them. For
the design of DEERGs, participants were allowed to utilize the paid and limited free access options provided
by Breakout Edu, Deck Toys, and Genially. Alternatively, they could also design them entirely for free
using Google Forms. The choice of tool was left to the participant’s preference. The following procedures were followed during the implementation of the research. • Information regarding the procedure: • Information regarding the procedure: Figure 1 and Figure 2
present screenshots of the instructional process. During the first seven weeks, the theoretical teaching process for native language teaching proficiency was
conducted through live classes using active teaching methods and interactive applications. The second 7-
week period included presentations on game-based learning, gamification tools, technology integration in
native language teaching, and examples of educational escape room game designs. Figure 1 and Figure 2
present screenshots of the instructional process. Figure 1. Introductions of Web 2.0 tools that can be used in native language teaching and sample applications related to achievements 931 Şahin, G. JETOL 2023, Volume 6, Issue 4, 925-946 Figure 2. Genially platform, one of the applications for designing DEERGs Figure 2. Genially platform, one of the applications for designing DEERGs Figure 2. Genially platform, one of the applications for designing DEERGs • Volunteer Participant Interviews • Volunteer Participant Interviews Consent forms for academic research were sent to primary school teacher candidates, and information was
shared with the student group (n=53) taking the Turkish Language Teaching course, from which 48
individuals volunteered to participate in the study. Semi-structured interview forms were utilized as data
collection tools during the interviews. Additionally, a WhatsApp group was created to facilitate effective
communication, and it was informed that questions would be promptly answered via Microsoft Teams. The
researcher also created a Padlet link and shared a sample game and lesson activity plan designed for the
participants. The aim was to share the prepared DEERG designs by the participants and provide necessary
feedback through this platform. Figure 3 presents a screenshot of the Padlet tool containing the sample
design, participant designs, and feedback. Figure 3. Feedback on the DEERGs Designed by the Participants Figure 3. Feedback on the DEERGs Designed by the Participants • Completion of Data Collection Tools and Data Analysis In the final week of the research process, participants finalized their DEERGs designs through feedback
and peer collaboration, and they uploaded their final designs to the Padlet platform. The researcher and a
second expert in the field examined the designs of the students who voluntarily provided consent for the 932 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. research and participated in the interviews. Content analysis was utilized for the analysis of the collected
data. Subsequently, the researcher documented the findings in a comprehensive report. research and participated in the interviews. Content analysis was utilized for the analysis of the collected
data. Subsequently, the researcher documented the findings in a comprehensive report. 3.7. Findings and Discussions In the research, a comprehensive analysis was conducted on the data obtained from the semi-structured
interview form and the DEERGs designed by the participants. The findings about the application tool
preferred by the participants in their DEERGs design are presented in Table 1. Table 1. Table 1. Preferred Application Tool and the Reasons for its Selection in DEERGs Design
Theme
Category
Code
(f)
Google Forms
(f=33)
Designer Perspective
(f=14)
Convenience
8
Competence
6
In terms of Application Tool
(f=19)
Providing space for freedom
8
Convenience
5
Functionality of the software
4
Understandability
2
Genially
(f=34)
Designer Perspective
(f=9)
Convenience
9
In terms of Application Tool
(f=25)
Variety of templates
9
Being improvable
4
Variety of games
3
It can be seen Table 1, that participants mostly preferred Google Forms (f=28) as the application tool among
the options provided to them, followed by Genially (f=20). The reasons provided by the participants were
analysed and categorized into two main groups: from the designer's perspective and from the application
tool's perspective. Preferred Application Tool and the Reasons for its Selection in DEERGs Design It can be seen Table 1, that participants mostly preferred Google Forms (f=28) as the application tool among
the options provided to them, followed by Genially (f=20). The reasons provided by the participants were
analysed and categorized into two main groups: from the designer's perspective and from the application
tool's perspective. Regarding Google Forms, the reasons for its preference from the designer's perspective were coded as ease
of use and from the application tool's perspective as providing a space for freedom, user-friendliness, the
functionality of the software, and comprehensibility. On the other hand, for Genially, the reasons for its
preference from the designer's perspective were coded as ease of use and from the application tool's
perspective as variety of templates, modifiability, and diversity of game options. The participants' views
regarding the findings are presented below. P18: I thought it was easy to use, and it was a tool I was already familiar with. P32: I chose it because preparing was more practical. P32: I chose it because preparing was more practical. P28: I preferred it because it has an advanced interface. Since students will be playing both an escape
game and a survey during the activity, I found it more suitable. P28: I preferred it because it has an advanced interface. Since students will be playing both an escape
game and a survey during the activity, I found it more suitable. P29: I wanted it to be more detailed and comprehensive. P24: Google Forms offers the possibility of designing more diverse tasks. P13: I chose Genially because it had various templates. P22: I found it more developer-friendly in terms of use. P22: I found it more developer-friendly in terms of use. The findings regarding the participants' preferences for the primary school grade level in designing
DEERGs are visualized and presented in Figure 4. The findings regarding the participants' preferences for the primary school grade level in designing
DEERGs are visualized and presented in Figure 4. Figure. 4. The Preferred Grade Level in DEERGs Design
Primary school 1st
grade (f=5)
10%
Primary school 2nd
grade (f=8)
17%
Primary school 3rd
grade (f=13)
27%
Primary school 4th
grade (f=22)
46% Figure. 4. The Preferred Grade Level in DEERGs Design It can be seen Figure 4, that participants preferred to design DEERGs for the primary school grade levels
as follows: 46 percent for 4th grade (f=22), 27 percent for 3rd grade (f=13), 17 percent for 2nd grade (f=8),
and 10 percent for 1st grade (f=5). Most of the participants preferred to design games at the 4th grade level
because they thought that their mother tongue teaching achievements were enriched at the 4th grade level
of primary school, and they wanted to add diversity to their games. It can be seen Figure 4, that participants preferred to design DEERGs for the primary school grade levels
as follows: 46 percent for 4th grade (f=22), 27 percent for 3rd grade (f=13), 17 percent for 2nd grade (f=8),
and 10 percent for 1st grade (f=5). Most of the participants preferred to design games at the 4th grade level
because they thought that their mother tongue teaching achievements were enriched at the 4th grade level
of primary school, and they wanted to add diversity to their games. Table 2 presents the data obtained regarding the elements that participants considered as starting points
when creating scenarios in the storytelling aspect of their DEERGs design. Table 1. P8: It has most of the elements needed in a game. P8: It has most of the elements needed in a game. 933 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Şahin, G. Table 2. The Preferred Starting Point for Storytelling in DEERGs Design
Theme
Category
Code
(f)
Player-oriented
(f=102)
Interest area
(f=46)
Living life
14
Travel
8
Animal love
8
Cartoon
7
Adventure
5
Children's book character
4
Cognitive contribution
(f=21)
Supporting learning
8
Rights and freedoms
6
Associating with other courses
3
Motivation towards the lesson
2
Course efficiency
2
Individual Differences
(f=16)
Enabling the use of knowledge
4
Building a reading culture
4
Fostering a sense of responsibility
3 934 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Age-appropriateness
2
Developing intelligence
2
Agility/quickness/speed
1
Skill Development
(f=13)
Fun-oriented
8
Developing problem-solving skills
3
Improving attention skills
1
Enhancing the ability to follow instructions
1
Emotional
Requirements (f=6)
Excitement
1
Happiness
1
Curiosity
1
Healing
1
Confidence
1
Enhancing imagination
1
Scenario Focused
(f=2)
Storytelling
(f=2)
Consistency
2 It can be seen Table 2, that participants paid attention to two main aspects of the design process. Accordingly, the themes of Player-Focused and Story-Focused have been identified. Regarding the participants who approached storytelling from a Player-Focused perspective, their opinions
were gathered under five categories: interest area (f=46), cognitive contribution (f=21), individual
differences (f=16), skill development (f=13), and emotional needs (f=6). In these themes, the most
frequently mentioned codes in order of prevalence were real-life scenarios (f=14), supporting learning
(f=8), encouraging the use of knowledge (f=4), entertainment-oriented (f=8). For the Emotional Needs category, codes such as excitement, delight, curiosity, healing, self-confidence,
developing imagination were mentioned once each. Examples of participant opinions regarding this theme
are provided below: P6: I designed the story intending to improve the student's problem-solving and task-following skills. Additionally, I created a fictional story through a book to emphasize the importance of learning both the
digital world and the significance of reading books. P12: I thought the zoo theme would capture the interest of every child. P12: I thought the zoo theme would capture the interest of every child. P17: To create social responsibility awareness. P37: My focus was on books. The lack of reading habits in the new generation, or their preference for
digital versions rather than direct contact with a physical book. That was the main aspect I focused on. When examining the opinions of the participants who approached storytelling from a Story-Focused
perspective, it was found that the theme of Narrativization (f=2) emerged with the code of consistency
(f=2). Examples of participant opinions related to this theme are presented below: P19: I focused on the consistency of the content while designing the narrative. P19: I focused on the consistency of the content while designing the narrative. P25: It should be interconnected. P19: I focused on the consistency of the content while designing the narrative. P25: It should be interconnected. The visual representation of the Web 2.0 tools preferred by the participants in their DEERGs design can be
found in Figure 5. The visual representation of the Web 2.0 tools preferred by the participants in their DEERGs design can be
found in Figure 5. 935 Şahin, G. Şahin, G. JETOL 2023, Volume 6, Issue 4, 925-946 Figure 5. The Preferred Web 2.0 Tools in DEERGs Design
It can be seen Figure 5, that participants mostly used Wordwall (f=34) as the most preferred Web 2.0 tool
in DEERGs design, while Educandy (f=1) was used the least. Additionally, participants used the following
tools: Learning Apps (f=31), Canva (f=27), Edpuzzle (f=9), Puzzle.org (f=9), and Kahoot (f=3). Below are
the participants' opinions regarding the reasons for their preference for using these Web 2.0 tools: Figure 5. The Preferred Web 2.0 Tools in DEERGs Design Figure 5. The Preferred Web 2.0 Tools in DEERGs Design Figure 5. The Preferred Web 2.0 Tools in DEERGs Design It can be seen Figure 5, that participants mostly used Wordwall (f=34) as the most preferred Web 2.0 tool
in DEERGs design, while Educandy (f=1) was used the least. Additionally, participants used the following
tools: Learning Apps (f=31), Canva (f=27), Edpuzzle (f=9), Puzzle.org (f=9), and Kahoot (f=3). Below are
the participants' opinions regarding the reasons for their preference for using these Web 2.0 tools: It can be seen Figure 5, that participants mostly used Wordwall (f=34) as the most preferred Web 2.0 tool
in DEERGs design, while Educandy (f=1) was used the least. P12: I thought the zoo theme would capture the interest of every child. Additionally, participants used the following
tools: Learning Apps (f=31), Canva (f=27), Edpuzzle (f=9), Puzzle.org (f=9), and Kahoot (f=3). Below are
the participants' opinions regarding the reasons for their preference for using these Web 2.0 tools: 3: LearningApps because it offers activities for every grade level and subject. P3: LearningApps because it offers activities for every grade level and subject. P3: LearningApps because it offers activities for every grade level and subject. P4: I used both Wordwall and LearningApps. They offered more functionality and a variety of game themes. P11: I used LearningApps because the interface is clear and user-friendly. Also, it provided many ready-
made activity templates, making it easier for me to implement my ideas. P26: Canva because it consists of many elements and templates. It provided me with plenty of options to
enrich my content. The participants' responses to when they preferred to use the DEERGs design in the learning process are
visualized and presented in Figure 6. 936 Şahin, G. JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Figure 6. The Preferred Stage of Using DEERGs Design in the Learning Process
Determining the
level of readiness
(f=2)
3%
Draw attention
(f=10)
18%
Motivation (f=15)
27%
Evaluation (f= 29)
52% Figure 6. The Preferred Stage of Using DEERGs Design in the Learning Process
Determining the
level of readiness
(f=2)
3%
Draw attention
(f=10)
18%
Motivation (f=15)
27%
Evaluation (f= 29)
52% Figure 6. The Preferred Stage of Using DEERGs Design in the Learning Process It can be seen Figure 6, that participants prefer to use DEERGs designs in the learning process, mostly
during the Evaluation (f=29) stage. In contrast, they use it the least during the Determining the level of
readiness (f=2) stage. Some participants also prefer to use it during the Motivation (f=15) and Draw
attention (f=10) stages. The findings regarding the learning outcomes that participants aim to achieve for students in their DEERGs
design to support native language learning are presented in Table 3. The findings regarding the learning outcomes that participants aim to achieve for students in their DEERGs
design to support native language learning are presented in Table 3. Table 3. The Preferred Learning Outcomes in Native Language Instruction in DEERGs Design
Skills
Course outcomes related to mother tongue teaching
f
Reading Skill (f=79)
Finding antonyms of words
17
Finding synonyms of words
12
Associating visuals with the content of the text read
10
Understanding the contribution of idioms and proverbs to the meaning of the text
8
Understanding written instructions
7
Answering questions about the text they read
6
Understand the message in short and simple digital texts
4
Identifying literal, figurative, and term-meaningful words in the text they read
3
Understanding the meanings of shapes, symbols, and signs
2
Distinguishing the meanings of homophones
2
Reading texts written in different typefaces
2
Understanding that colored, underlined, bold expressions in the text emphasize
important points
2
Reading texts written in different typefaces
2
Distinguishing text types
2
Writing Skill (f=30)
Spelling rules
9
Appropriate use of capital letters and punctuation marks
9
Using homonyms correctly in text writing according to their meanings
5
Filling out forms in accordance with the instructions
2
Proper use of conjunctions in text writing
2
Correctly writing abbreviations and their corresponding suffixes
2 The Preferred Learning Outcomes in Native Language Instruction in DEERGs Design 937 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Şahin, G. The use of Turkish equivalents for words borrowed from foreign languages, which
have not yet been fully integrated into the language, in written texts It can be seen Table 3, that participants included learning outcomes related to the skill areas of Reading
(f=79) and Writing (f=30) in the context of Turkish Language Teaching. For the development of reading
skills, the three most preferred learning outcomes are associated with the following: Finding antonyms of
words (f=17), Finding synonyms of words (f=12) and relating the content of the text with visuals (f=10). Regarding the development of writing skills, the three most preferred learning outcomes are associated with
the following: Spelling rules (f=9), Using capital letters and punctuation marks appropriately (f=9), and
Using homophones correctly in their writings (f=5). It can be seen Table 3, that participants included learning outcomes related to the skill areas of Reading
(f=79) and Writing (f=30) in the context of Turkish Language Teaching. Table 3. For the development of reading
skills, the three most preferred learning outcomes are associated with the following: Finding antonyms of
words (f=17), Finding synonyms of words (f=12) and relating the content of the text with visuals (f=10). Regarding the development of writing skills, the three most preferred learning outcomes are associated with
the following: Spelling rules (f=9), Using capital letters and punctuation marks appropriately (f=9), and
Using homophones correctly in their writings (f=5). The findings related to using participants' DEERG designs in the teaching and learning process are
presented in Table 4. Table 4. Views on the Use of DEERGs Designs in the Teaching-Learning Process
Theme
Category
Code
(f)
Advantages
(f=135)
Contribution to the
Education Process
(f=48)
Facilitates learning
26
Supports long-term learning
8
Promotes active learning
6
Fosters collaborative learning
3
Facilitates recall
3
Supports interdisciplinary learning
2
Contribution to the
Affective Domain (f=37)
Supports learning through fun and enjoyment
25
Increases learning motivation
6
Awakens curiosity
3
Experiences winning and losing emotions
3
Contribution to Skill
Development (f=27)
Supports the development of attention skills
11
Supports the development of following instructions
4
Supports the development of problem-solving skills
3
Supports the development of creative thinking skills
3
Supports the development of analytical thinking
skills
3
Supports the development of decision-making skills
2
Improves hand-eye coordination
1
Contribution to Personal
Development (f=23)
Eliminates generation gap
7
Supports efficient use of technology
6
Reconstructs the definition of "homework"
4
Reconstructs the definition of "school"
3
Provides different perspectives
3
Disadvantages
(f=51)
In terms of the
Educational Process
(f=22)
Deterioration in focus during class
8
Lack of interest in other activities
6
Excessive time consumption
4
Lack of interest in physical play
2
Reluctance in reading and writing
2
From the student's point
of view (f=16)
Inability to cope with the loss
6
Health problems
5
Causing addiction
4
Distracting from a realistic perspective
1
From the teacher's point
of view (f=13)
Insufficient access to technology
10
Long preparation process
3 Views on the Use of DEERGs Designs in the Teaching-Learning Process 938 Şahin, G. JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. It can be seen Table 4, that participants' views on using DEERGs designs in the teaching-learning process
are grouped under two themes: Advantages and Disadvantages. Under the Advantages theme, four sub-categories are identified: Contribution to the Education Process
(f=48), Contribution to the Affective Domain (f=37), Contribution to Skill Development (f=27),
Contribution to Personal Development (f=23). Considering the order of categories, the most frequently
mentioned codes are: Facilitates learning (f=26), Supports learning with fun (f=25), Supports attention
development (f=11), Eliminates generational differences (f=7). Below are some examples of participants'
views related to this theme: P4: Children are growing up surrounded by technology. Utilizing this aspect of technology to make them
enjoy the lesson is very important to speak their language. P10: It will provide great convenience in motivating the student and making the lesson enjoyable. P14: It breaks the perception of school as boring and rigid and enables students to learn while having fun. P14: It breaks the perception of school as boring and rigid and enables students to learn while having fun. P14: It breaks the perception of school as boring and rigid and enables students to learn while having fun. P18: It offers an education understanding that adapts to the era Table 4. Digital
games can also be used to remind the teacher of the topic or previous subjects. Because children of this
period are not unfamiliar with the digital environment. P13: It has many contributions, such as decision-making, problem-solving, learning to win and lose,
creative thinking, and adherence to rules. It improves hand-eye coordination and reinforces the learned
information. 4. Conclusion and Suggestions Based on the observations, the experience of designing digital educational escape room games was
intriguing, and engaging, directed attention toward the profession, supported collaboration, and facilitated
the review of subject-related learning levels from the participants' perspective. Upon examining the results of the current study, it is observed that the participants prefer to use Google
Forms and Genially, the most popular among the gamification tools provided to them during the DEERGs
design process. While using Google Forms, they stated that the design process provided them with more
ease, offered them a sense of freedom in game design, and made them feel more competent in using this
tool. The main reason for the preference of Genially as a gamification tool was its ease during the design
process and the variety of templates available. Diaz-Garcia et al. (2022) also support this finding. The main
reason for the preference of Genially as a gamification tool was its ease during the design process and the
variety of templates available. Diaz-Garcia et al. (2022) also support this finding. The researchers also
highlight the Genially gamification tool. They point out that this tool makes it easy and quick to create
visual and interactive content. In this study, the participants also stated that they preferred to use the
gamification tool because it was functional and could be improved in terms of software. Sanchez and
Plumettaz-Sieber (2019) also stated that they frequently used digital tools and Genially in their designed
escape games. In this study, the participants also stated that they preferred to use the gamification tool
because it was functional and could be improved in terms of software. Sanchez and Plumettaz-Sieber (2019)
also stated that they frequently used digital tools and Genially in their designed escape games. Themes, one of the core elements of escape room games, can be based on real-world scenarios or
constructed around fantasy elements, creating a different world (Şahin, 2021). Participants have prepared
different scenarios by drawing inspiration from the real world and fantasy elements. These scenarios focus
on the player's interests, cognitive contributions, individual differences, skill development, and emotional
needs. In addition, during the research, participants used ready-made escape room templates and Web 2.0
tools. The most frequently used applications during this process were Wordwall, LearningApps, and Canva. P45: Uncontrolled use can create physical and emotional dependency and lead to health problems. 45: Uncontrolled use can create physical and emotional dependency and lead to health p use can create physical and emotional dependency and lead to health problems. P45: Uncontrolled use can create physical and emotional dependency and lead to health problems. As it can be understood from the participant views, the use of DEERGs in the educational process has some
advantages and disadvantages. For this reason, DEERGs designs should be meticulously designed by the
primary school teacher for student interests and needs at the appropriate learning time. Giving priority to
making the teaching process fun can sometimes lead to ignoring the targeted gains or damaging the social
relations between students. Similarly, it should be kept in mind that too frequent use of gamification in the
learning process may both reduce the effect of gamification (it may cause students to get bored), cause
reluctance in reading and writing, and trigger game addiction in students. P18: It offers an education understanding that adapts to the era. P36: Among the advantages are increasing the permanence of learned information, being familiar with
developing technology, and providing a broad perspective and analytical thinking. P36: Among the advantages are increasing the permanence of learned information, being familiar with
developing technology, and providing a broad perspective and analytical thinking. Under the Disadvantages theme, three sub-categories are identified: From the Perspective of the Teaching-
Learning Process (f=22), From the Perspective of the Student (f=16), From the Perspective of the Teacher
(f=13). Considering the order of categories, the most frequently mentioned codes are: Decrease in focus on
the lesson (f=8), Inability to cope with losing (f=6), Insufficient access to technology (f=10). Below are
some examples of participants' views related to this theme: P5: In some games, there may be competition, and students with a competitive character may not easily
accept losing the game. In such cases, the student may become upset with the lesson or show reluctance
in playing the game. P7: If used too much, it may not gather the same interest. P22: A generation far from writing and reading skills may be formed. P25: It can be a problem in village schools and small places where not every student has a smartboard,
tablet, or computer. P25: It can be a problem in village schools and small places where not every student has a smartboard,
tablet, or computer. P29: Both preparation and gameplay can take much time. P38: Social skill development and friendships may be affected. 939 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. 4. Conclusion and Suggestions The participants preferred these tools due to their ability to create useful interactions, provide a variety of
templates, facilitate the assessment process, and offer user-friendly interfaces. The reasons provided by the
participants align with findings from other researchers' studies. For instance, Maghfiroh (2018) states that
the Wordwall application provides opportunities for beneficial interactions in the educational environment. Sari and Yarza (2021) consider Wordwall an interesting assessment tool for online learning and a platform
that can be used as a learning environment. Moreover, Nissa and Renoningtyas (2021) highlight that Wordwall is an easy-to-use interactive
environment that can enhance students' interest and motivation in thematic learning. In another study by
Muslu et al. (2022) with pre-service teachers, LearningApps and Canva were also identified as the most
preferred Web 2.0 tools for interacting with content during lesson planning. These findings support the idea
presented by Dönmez-Usta et al. (2020) that teaching pre-service teachers about current Web 2.0 tools is
not enough; they need to gain experience using these tools effectively with appropriate teaching approaches. 940 Şahin, G. Şahin, G. JETOL 2023, Volume 6, Issue 4, 925-946 According to the participants, DEERGs contribute significantly to the educational process by facilitating
learning, supporting permanent learning, promoting active learning, encouraging collaborative learning,
aiding in memory recall, and supporting interdisciplinary learning. Moreover, these games are valuable for
the educational process and students' affective domains, skill development, and personal growth. DEERGs
are seen to support enjoyable learning, increase motivation, spark curiosity, and instill a sense of winning
and losing in students. The participants' statements regarding the prepared escape room games align with
descriptive research findings from various studies (Brown et al., 2019; Cain, 2019; Giang et al., 2019;
Gómez-Urquiza et al., 2019; Kinio et al., 2019; Lim & Jacop, 2019). Furthermore, they contribute to skill
development such as attention, following instructions, problem-solving, creative thinking, analytical
thinking, decision-making, and hand-eye coordination. These games are believed to bridge the generation
gap between teachers and students. By doing so, they offer a different perspective, encourage efficient use
of technology, and redefine the concepts of "homework" and "school" from the student's point of view. The participants noted that these games can also have some disadvantages. 4. Conclusion and Suggestions Some of the identified
disadvantages from the perspective of the educational process include a decrease in students' focus on the
lesson, a reluctance to participate in other classroom activities and physical games outside of the escape
room, and the need for excessive time. Additionally, there were concerns about students' lack of interest in
reading and writing. From the student's point of view, the participants mostly focused on the aspect of
winning and losing, which indicates the possibility of experiencing anxiety and negative feelings related to
competition. This finding is consistent with Hermanns's research (2018), where it was reported that players
became increasingly anxious about solving the puzzles as time was running out. From the perspective of
the teachers who design the games, the most significant disadvantage identified was the lack of technology
access. Particularly in rural schools and small towns, class teachers and students may not always have
access to computers, tablets, smartboards, and the internet, which poses a challenge for implementing these
games. Studies by Kuşaksız et al. (2022) and Çapuk and Ünsal (2017) also support these findings, as they
highlight the problems faced by teachers working in rural schools, such as lack of internet access and
insufficient technological resources, especially the absence of computers and tablets. Furthermore, from
the perspective of teachers, it was noted that the pre-preparation process for the game takes considerable
time. This finding is also supported by the research of Huraj et al. (2022). The present study was conducted with the participation of pre-service teachers enrolled in the primary
school teacher education program, specifically focusing on native language instruction. Therefore, this
limitation is considered an aspect of the study. The primary school teacher education program has an
interdisciplinary nature. Hence, one of the recommendations for researchers is to plan similar and more
advanced applications of DEERGs design that also encompass other subject areas. The emergence of new
digital technologies will fundamentally transform formal and informal education regarding educational
objectives, learning goals, learning environments, learning contexts, learning processes, teacher processes,
and educational management and policies (Burbules et al., 2020). This situation necessitates teachers to
change their teaching practices and diversify and enrich their instructional processes. Gutierrez-Garcia
(2020) stated that using digital resources such as escape room games in the educational process is believed
to significantly contribute to pre-service teachers’ professional experiences, personal development, and
social development. 4. Conclusion and Suggestions Creating an enjoyable classroom atmosphere can enhance intrinsic motivation and
students' perceived levels of problem-solving skills (Deci & Ryan, 1985). Research findings on the
educational use of escape rooms, considering their role in instructional activities, demonstrate that escape
room activities can be one of the various didactic tools that teachers can use to fulfil the threefold purposes
of curriculum reform initiatives (school subjects, basic competencies, and implementation of 21st century
skills) in their teaching. Furthermore, using escape rooms as a didactic tool creates a space for social
modelling and applying theoretical and practical knowledge and skills (Taraldsen et al., 2022). In today's world, especially online games and social media are highly popular among students. Considering
this situation, teachers and pre-service teachers need to have the knowledge, experience, and skills to adapt 941 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. to the changing learning habits of students and utilize gamification technologies to enrich learning
environments. Recently, it has been noticed that in-service training programs for teachers and pre-service
teachers mostly focus on introducing Web 2.0 tools (Altıok et al., 2017; Bayrak & Bayrak, 2021). Rather
than introducing Web 2.0 tools, it is thought that in-service trainings should also be provided for game
design that supports collaborative learning in the process of gamification in education, gamification-based
training programmes should be designed in education, educators should be given the ability to use
gamification designs in both physical and digital learning environments and their widespread use should be
encouraged. References Altıok, S., Yükseltürk, E., & Üçgül, M. (2017). Evaluation of a Scientific Activity about Use of Web 2.0
Technologies in Education: The Participants` Views. Journal of Instructional Technologies &
Teacher Education, 6(1), 1-8. Bayrak, N., & Bayrak, G. (2021). The effects of in-service training courses about the use of technology on
teachers' technological pedagogical content knowledge self-confidence. YYU Journal of Education
Faculty, 18(1), 1009-1041. https://doi.org/10.33711/ yyuefd.957385 Baranowski T, Ryan C, Hoyos-Cespedes A, Lu AS. (2019). Nutrition education and dietary behavior
change
games:
a
scoping
review. Games
Health
J. 8:153–76. https://doi.org/10.1089/g4h.2018.0070 Bezençon, V., De Santo, A., Holzer, A., & Lanz, B. (2023). Escape Addict: A digital escape room for the
prevention of addictions and risky behaviors in schools. Computers & Education, 200, 104798. https://doi.org/10.1016/j.compedu.2023.104798 Bondar, C. A., Anastasio, D., Enszer, J. A., & Burkey, D. D. (2016). Engineers at play: Games as teaching
tools for undergraduate engineering students. Journal of Engineering Education, 105, 147-200. https://doi.org/10.1002/jee.20106 Boston, W. E., & Ice, P. (2011). Assessing retention in online learning: An administrative perspective. Online Journal of Distance Learning Administration, 14(2), 1-12. Retrieved from
https://ojdla.com/archive/summer142/boston_ice142.pdf Buchner, J., Rüter, M. & Kerres, M. Learning with a digital escape room game: Before or after
instruction? RPTEL 17, 10 (2022). https://doi.org/10.1186/s41039-022-00187-x Büyüköztürk, Ş., Çakmak, E. K., Akgün, Ö. E., Karadeniz, Ş., & Demirel, F. (2017). Scientific research
methods (23rd edition). Ankara: Pegem Akademi. Cevizci, A. (1999). Dictionary of Philosophy. İstanbul: Paradigma. Cevizci, A. (1999). Dictionary of Philosophy. İstanbul: Paradigma. Chang, C. C., Liang, C., Chou, P. N., & Lin, G. Y. (2017). Is game-based learning better in flow experience
and various types of cognitive load than non-game-based learning? Perspective from multimedia
and
media
richness. Computers
in
Human
Behavior,
71,
218-227. https://doi.org/10.1016/j.chb.2017.01.031 Craib, I. (1992). Modern sociological theory. New York: Harvester Wheatsheaf. Croxton, R. A. (2014). The role of interactivity in student satisfaction and persistence in online learning. Journal
of
Online
Learning
and
Teaching,
10(2),
314-325. Retrieved
from
https://jolt.merlot.org/vol10no2/croxton_0614.pdf Çapuk, S., & Ünsal, M. (2017). The factors affecting the professional development of classroom teachers
working
in
village
schools. Electronic
Turkish
Studies,
12(25). http://dx.doi.org/10.7827/TurkishStudies.12334 942 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Şahin, G. Clune, M. L. (2019). Digital Escape Game: Breaking out of a mathematical medley. Pacific Journal of
Technology Enhanced Learning, 2(1), 4. Cresswell, J. W. (2018). Qualitative research methods: Qualitative research and research design according
to five approaches. (Trans.: M. Bütün & S. B. Demir). References Ankara: Siyasal. Creswell, J. W. (2004). Educational Research: Planning, Conducting, and Evaluating Quantitative and
Qualitative Research. New York: Pearson. Dempsey, J. V., & Van Eck, R. N. (2012). E-learning and instructional design. In R. A. Reiser & J. V. Dempsey (Eds.), Trends and issues in instructional design and technology (3rd ed., pp. 281–289). Saddle River, NJ: Pearson Education. Decı, E. L., & Ryan, R. M. (1985). Intrinsic motivation and self-determination in human behaviour, New
York, NY: Plenum Press. Dickey, M.D. (2007). Game design and learning: a conjectural analysis of how massively multiple online
role-playing games (MMORPGs) foster intrinsic motivation. Education Tech Research Dev, 55,
253–273. https://doi.org/10.1007/s11423-006-9004-7 Díaz-García, A. K., González-Herrera, S. L., Santiago-Roque, I., Hernández-Lozano, M., & Soto-Ojeda,
G. A. (2022). Gamificación a través del uso de la aplicación Genially para innovar procesos de
aprendizaje en la Educación Superior. Revista Eduscientia. Divulgación de la ciencia educativa,
5(10),
129-139. Retrieved
from
https://www.eduscientia.com/index.php/journal/article/download/197/114 Downe-Wamboldt, B. (1992). Content analysis: Method, applications, and issues. Health Care for Women
International, 13, 313-321. https://doi.org/10.1080/07399339209516006 Garrison, D. R., Anderson, T., & Archer, W. (2001). Critical thinking, cognitive presence, and computer
conferencing in distance education. American Journal of distance education, 15(1), 7-23. https://doi.org/10.1080/08923640109527071 Giang, C. et al. (2020). Exploring Escape Games as a Teaching Tool in Educational Robotics. In: Moro,
M., Alimisis, D., Iocchi, L. (eds) Educational Robotics in the Context of the Maker Movement. Edurobotics 2018. Advances in Intelligent Systems and Computing, vol 946. Springer, Cham. https://doi.org/10.1007/978-3-030-18141-3_8 Glavaš, A., & Stašcik, A. (2017). Enhancing positive attitude towards mathematics through introducing
Escape Room games. Mathematics Education as a Science and a Profession, 281, 293. Retrieved
from https://files.eric.ed.gov/fulltext/ED577935.pdf#page=290 Gutiérrez-García, A. G. (2020). Uso de la plataforma educativa en línea Eminus para evaluar aprendizajes
mixtos en estudiantes universitarios. Eduscientia. Divulgación de la ciencia educativa, 3(6), 5-25. Recuperado de https://eduscientia.com/index.php/journal/article/download/72/54 Hermanns M. (2018). Using an “Escape Room” toolbox approach to enhance pharmacology
education. Journal of Nursing Education and Practice, 8(4), 89–95. Retrieved from
http://hdl.handle.net/10950/632 Hidalgo-Cabrillana, A. & Lopez-Mayan,C. (2018). Teaching styles and achievement: Student and teacher
perspectives,
Economics
of
Education
Review,
67,
184-206. https://doi.org/10.1016/j.econedurev.2018.10.009 Huang, S. Y., Kuo, Y. H., & Chen, H. C. (2020). Applying digital escape rooms infused with science
teaching in elementary school: Learning performance, learning motivation, and problem-solving
ability. Thinking Skills and Creativity, 37, 100681. https://doi.org/10.1016/j.tsc.2020.100681. 943 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Şahin, G. Huraj, L., Hrmo, R. & Sejutová Hudáková, M. (2022). References The Impact of a Digital Escape Room Focused On
HTML and Computer Networks on Vocational High School Students. Education Sciences. 12(10):
682. https://doi.org/10.3390/educsci12100682 Juul, J. (2003). The open and closed: Game of emergence and games of progression. Computer Games and
Digital
Cultures
Conference. Tampere
University,
Tampere. Retrieved
from
http://www.digra.org/wp-content/uploads/digital-library/05164.10096.pdf Karageorgiou, Z., Mavrommati, E., & Fotaris, P. (2019). Escape room design as a game-based learning
process for STEAM education. In ECGBL 2019 13th European Conference on Game-Based
Learning (p. 378). Academic
Conferences
and
publishing
limited. https://doi.org/10.34190/GBL.19.190 Kim, K. J., & Bonk, C. J. (2006). The future of online teaching and learning in higher education. Educause
Quarterly, 29(4), 22-30. Retrieved from https://faculty.weber.edu/eamsel/Research%20Groups/On-
line%20Learning/Bonk%20(2006).pdf Kuşaksız, H., Şavklıyıldız, M., & Turan, D. (2022). Investigation of the problems faced by teachers working
ın village schools during the distance education period. Journal of Public Administration and
Technology,
4(1),
78-98. Retrieved
from
https://dergipark.org.tr/en/pub/kaytek/issue/73022/1138256 Levy, Y. (2007). Comparing dropouts and persistence in e-learning courses. Computers & Education,
48(2), 185–204. https://doi.org/10.1016/j.compedu.2004.12.004 Lim, P. C., & Jakop, Y. (2019). Enhancing mathematics learning with escape games. In ICERI2019
Proceedings (pp. 3545-3549). IATED. https://doi.org/10.21125/iceri.2019.0916 Maghfiroh, K. (2018). Penggunaan Media Word Wall Untuk Meningkatkan Hasil Belajar Matematika Pada
Siswa Kelas IV MI Roudlotul Huda. Jurnal Profesi Keguruan, 4(1), 65. Retrieved from
https://journal.unnes.ac.id/nju/index.php/jpk/article/view/13742/7791 Makri, A., Vlachopoulos, D., & Martina, R. A. (2021). Digital escape rooms as innovative pedagogical
tools
in
education:
A
systematic
literature
review. Sustainability, 13(8),
4587. https://doi.org/10.3390/su13084587 Miles, M. B., & Huberman A. M. (1994). An expanded sourcebook qualitative data analysis. (2nd ed.). California: Sage Publications. Muslu, N., Çetin, N. İ., & Okulu, H. Z. (2022). Investigation of pre-service teachers' integration of web 2.0
technologies into lesson plans. Journal of Science Mathematics Entrepreneurship and Technology
Education, 5(3), 199-213. Retrieved from https://dergipark.org.tr/en/download/article-file/2207169 Nicholson, S. (2018). Creating engaging escape rooms for the classroom, Childhood Education, 94:1, 44-
49. https://doi.org.10.1080/00094056.2018.1420363 Nissa, S. F., & Renoningtyas, N. (2021). Penggunaan media pembelajaran wordwall untuk meningkatkan
minat dan motivasi belajar siswa pada pembelajaran tematik di sekolah dasar. Edukatif: Jurnal Ilmu
Pendidikan, 3(5),
2854-2860. Retrieved
from
https://edukatif.org/index.php/edukatif/article/view/880 Paras, B. S., & Bizzocchi, J. (2005). Game, motivation, and effective learning: an ıntegrated model for
educational game design. In DiGRA Conference. Retrieved from http://www.digra.org/wp-
content/uploads/digital-library/06276.18065.pdf 944 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Park, J. H., & Choi, H. J. (2009). Factors influencing adult learners decision to drop out or persist in online
learning. References Journal of Education Technology & Society, 12(4), 207-217. Retrieved from
https://www.jstor.org/stable/jeductechsoci.12.4.207 Patterson, B., & McFadden, C. (2009). Attrition in online and campus degree programs. Online Journal of
Distance
Learning
Administration,
12(2),
1-8. Retrieved
from
https://ojdla.com/archive/summer122/patterson112.pdf Patton, M. Q. (2014). Qualitative research and evaluation methods. (Trans. eds. Mesut Bütün & Selçuk
Beşir Demir). Ankara: Pegem Akademi. Sailer, M., Hense, J. U., Mayr, S. K., & Mandl, H. (2017). How gamification motivates: An experimental
study of the effects of specific game design elements on psychological need satisfaction. Computers
İn Human Behavior, 69, 371-380. https://doi.org/10.1016/j.chb.2016.12.033 n, K. & Zimmerman, E. (2003). Rules of play: Game design Fundamentals. Boston: MIT Sanchez, E., Plumettaz-Sieber, M. (2019). Teaching and learning with escape games from debriefing to
ınstitutionalization of knowledge. In: Gentile, M., Allegra, M., Söbke, H. (eds) Games and Learning
Alliance. GALA 2018. Lecture Notes in Computer Science, vol 11385. Springer, Cham. https://doi.org/10.1007/978-3-030-11548-7_23 Sari, P. M., & Yarza, H. N. (2021). Pelatihan penggunaan aplikasi Quizizz dan Wordwall pada
pembelajaran IPA bagi guru-guru SDIT Al-Kahfi. SELAPARANG: Jurnal Pengabdian Masyarakat
Berkemajuan, 4(2),
195-199. Retrieved
from
https://journal.ummat.ac.id/index.php/jpmb/article/view/4112/2542 Savaş, S., Güler, O., Kaya, K., Çoban, G., & Güzel, M. S. (2021). Digital games in education and learning
through
games. International
Journal
of
Active
Learning,
6(2),
117-140. https://dergipark.org.tr/en/download/article-file/2047301 Seng, W. Y., & Yatim, M. H. M. (2014). Computer game as learning and teaching tool for object oriented
programming in higher education institution. Procedia-Social and Behavioral Sciences, 123, 215-
224. https://doi.org/10.1016/j.sbspro.2014.01.1417 Şahin, G. (2021). Technology Use in Primary School. in Technology Use in Basic Education. (eds. Zeynel
Abidin Mısırlı & Ahmet Melih Güneş). Ankara: Nobel Academic. Taraldsen, L. H., Haara, F. O., Lysne, M. S., Jensen, P. R., & Jenssen, E. S. (2022). A review on use of
escape
rooms
in
education–touching
the
void. Education
Inquiry, 13(2),
169-184. https://doi.org/10.1080/20004508.2020.1860284 Tavşancıl, E., & Aslan, A. E. (2001). Content Analysis and Application Examples for Verbal, Written and
Other Materials. Istanbul: Epsilon. Telli, S. G., & Altun, D. (2021). Online learning during coronavirus (Covid-19) pandemic period. Journal
of University Research, 4(2), 90-107. https://doi.org/10.32329/uad.916837 Tosun, N., Mihci, C., & Bayzan, Ş. (2021). Challenges encountered by in-service K12 teachers at the
beginning of the Covid-19 pandemic period: The case of Turkey. Participatory Educational
Research, 8(4), 359-384. https://doi.org/10.17275/per.21.95.8.4 Utkucu, M., Durmuş, H., Uzunca, F., & Nalbant, S. (2023). An Evaluation on February 6, 2023. Gaziantep
(Mw=7.7) and Elbistan (Mw=7.5) Earthquakes. Sakarya: Sakarya University. References Retrieved from
http://www.igdir.edu.tr/Addons/Resmi/announc/14683/rapor-son.pdf 945 JETOL 2023, Volume 6, Issue 4, 925-946 Şahin, G. Uzşen, H., & Başbakkal, Z. D. (2019). A Game-based nutrition education: Teaching healthy eating to
primary
school
students. Journal
of
Pediatric
Research, 6(1). https://doi.org/10.4274/jpr.galenos.2018.15010 Videnovik, M., Vold, T., Dimova, G., Kiønig, L. V., & Trajkovik, V. (2022). Migration of an escape room–
style educational game to an online environment: Design thinking methodology. JMIR Serious
Games, 10(3), e32095. https://doi.org/10.2196/32095 Yachin, T., & Barak, M. (2019). Promoting healthy nutrition through educational escape games. Proceedings of the Informing Science and Information Technology Education Conference,
Jerusalem,
Israel,
pp. 217-226. Santa
Rosa,
CA:
Informing
Science
Institute. https://doi.org/10.28945/4362 Yachin, T., & Barak, M. (2019). Promoting healthy nutrition through educational escape games. Proceedings of the Informing Science and Information Technology Education Conference,
Jerusalem,
Israel,
pp. 217-226. Santa
Rosa,
CA:
Informing
Science
Institute. https://doi.org/10.28945/4362 Yıldırım, A., & Şimşek, H. (2018). Qualitative research methods in social sciences. Ankara: Seçkin. 946
|
https://openalex.org/W3046810240
|
https://www.researchsquare.com/article/rs-33209/v1.pdf?c=1631857026000
|
English
| null |
Evaluation of the bone morphology around four types of porous metal implants placed in distal femur of ovariectomized rats
|
Journal of orthopaedic surgery and research
| 2,020
|
cc-by
| 5,253
|
Stanislav Bondarenko
(
bondarenke@gmail.com
) Stanislav Bondarenko
(
bondarenke@gmail.com
) Evaluation of the Bone Morphology Around Four
Types of Porous Metal Implants Placed in Distal
Femur of Ovariectomized Rats
Stanislav Bondarenko
(
bondarenke@gmail.com
)
Sytenko Institute of Spine and Joint Pathology
https://orcid.org/0000-0003-2463-5919
Nataliya Ashukina
Sytenko Institute of Spine and Joint Pathology
Valentyna Maltseva
Sytenko Institute of Spine and Joint Pathology
Gennadiy Ivanov
Sytenko Institute of Spine and Joint Pathology
Ahmed Amine Badnaoui
Sytenko Institute of Spine and Joint Pathology
Ran Schwarzkopf
NYU Langone Medical Center, Hospital for Joint Diseases
Research article
Keywords: Tantalum, Titanium, Osteoporosis, Animal Model, Bone Remodeling, Histology
Posted Date: June 5th, 2020
DOI: https://doi.org/10.21203/rs.3.rs-33209/v1
License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Read Full License
Version of Record: A version of this preprint was published on August 3rd, 2020. See the published
version at https://doi.org/10.1186/s13018-020-01822-3. Research article License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Read Full License Version of Record: A version of this preprint was published on August 3rd, 2020. See the published
version at https://doi.org/10.1186/s13018-020-01822-3. Page 1/13 Page 1/13 Abstract Background
To compare structural features of femoral bone of ovariectomized and non-ovariectomized
rats after implantation of porous materials (TANTALUM, CONCELOC, TTM, ATLANT). Methods
Experiments were carried out on 56 white laboratory female rats aged 6-months. Rats were randomly
assigned into groups: Sham control group (SH) or ovariectomy group (OVX). Four different commercial
implant materials (TTM, CONCELOC, TANTALUM, ATLANT) were placed into the defects (diameter
2.5mm, depth 3.0mm) in the distal metaphysis of femurs. Rats were sacrificed 45-days after surgery. Histological study was performed and the percentage of bone area (BA%) around the implant at a
distance of 500μm in the cancellous area was measured. Results
Formation of mature bone tissue of
varying degrees around all of the implants was detected. In OVX rats cancellous bone defect zone was
characterized by a high density of osteocytes on the surface. In the SH group, no differences in BA%
among implant materials were found. In OVX rats the BA% around ATLANT implants was 1.5-time less
(p=0.002) than around TANTALUM. The BA% around the rest of the materials was not statistically
different. Conclusions
Bone formation around the studied porous titanium and tantalum materials in the
osteoporosis model was lower than in normal bone. There were differences in bone formation around the
different materials in the osteoporosis model, while in the normal bone model these differences were
absent. Background Total hip arthroplasty (THA) in cases of large acetabular defects and in patients with osteoporotic bone
can be difficult. Furthermore, achieving a long-term stable fixation of the acetabular cup is challenging
[1–4]. Cement usage for acetabular cup fixation in primary THA has fallen out of favor in recent decades mostly
due to increased risk of aseptic loosening in mid and long-term follow-up [5–8]. Biological fixation of
highly porous biomaterials in THA plays an important role in long term survivorship of acetabular
implants. A long-term stable fixation of these implants depends largely on the osseointegration of bone
tissue into them [9]. Following acetabular component placement osseointegration depends on both the quality of bone tissue,
and the properties of the implant surface [10–12]. New highly porous biomaterials were developed to
enhance osseointegration and survivorship of acetabular reconstruction [13]. Current, highly porous
biomaterials for THA are made of tantalum and titanium (partial use alloy Ti6Al4V) [14]. The advantages
of porous tantalum are: high thermal conductivity, biocompatibility [15, 16], and they have been shown to
have good survivorship in long term follow-up [17, 18]. However according to the Swedish Hip
Arthroplasty Registry and the Australian Orthopaedic Association National Joint Replacement Registry
data, Trabecular Metal acetabular components in primary THA showed a higher risk for revision
compared with other uncemented acetabular cups [19, 20]. Page 2/13 Page 2/13 Current research focuses on porous titanium materials characteristics, as well as their comparison with
tantalum implants [21, 22]. Titanium porous implants have low thermal conductivity, high yield strength,
low weight, have been shown to have high survival [23] and lower cost compared to tantalum implants
[14]. In a 10-year clinical randomized trial of primary THA porous tantalum monoblock cups exhibited
greater stability and 100% survivorship compared to porous-coated titanium monoblock cup [22]. In
another study using multivariate logistic regression, the authors compared the survival of porous
tantalum and porous titanium acetabular components with primary THA at an average of 44.4 months
the authors found no difference in outcomes [21]. Bone changes in osteoporosis may cause additional difficulty in acetabular reconstruction as well as
increasing the risk of aseptic failure and loosening. Under these conditions, the requirements for implant
materials become even more important. In order to study osseointegration and fixation properties animal
models were established for material evaluation [24]. Animals Experiments were carried out on 56 white laboratory female rats aged 6 months, with an average body
weight of 300 g ± 25. Rats were randomly assigned to 1 of 2 groups: Sham-operated control group (SH)
or ovariectomy group (OVX). The study followed the requirements of the European Convention for the
protection of vertebrate animals used for experimental and other scientific purposes. The study design
was approved by the institution Bioethics Committee (Protocol No. 175 dated 26.02.2018). Background It has been established that osteoporosis can affect
the fixation and osseointegration of implants [25, 26], in particular, giving the different response of
osteoporotic cortical and trabecular bone to material implantation [27]. Therefore, establishing the
structural features of bone tissue around porous implant materials is important for selecting a particular
material for use in patients with low bone mineral density. In an early study, we compared the osseointegration of a tantalum material with titanium in an
ovariectomy model, revealing the highest rate of osseointegration with the tantalum material, while the
overall rates of osseointegration in animals with osteoporosis were lower than non-osteoporotic animals
[28]. As a result of this, we decided to study several available titanium materials on the market, as well as
one novel material in a similar experiment to understand the formation and osseointegration of bone
around these materials in an osteoporosis model in comparison with a normal bone model. The aim of this study was to compare structural features of femoral bone in ovariectomized and non-
ovariectomized rats after implantation of different porous materials. Histomorphometry Three sections were obtained from each femoral distal metaphysis. The percentage of peri-implant bone
area (BA%) around the implant at a distance of 500 µm in the cancellous area was measured as
described previously [26, 32]. The BA% allows us to evaluate all bone areas, not only along the perimeter
of the implant, but also at a greater distance from the implant. This is especially important in
osteoporosis, when overall bone area/mass is reduced. The measurements were made using CellSens
Dimension 1.8.1 software (Olympus, 2013) for the Olympus BX-63 microscope (at a magnification rate of
× 4). Histological study After extraction the implanted left femurs were fixed in a solution of 10% formalin, and decalcified in a
10% solution of formic acid. After decalcification, the implants were carefully removed, and the distal
metaphysis of the femurs was dehydrated in alcohols of increasing concentration and a mixture of
paraffin and xylene (1:1), and embedded into paraffin. Longitudinal histological sections of 5–6 µm (7 of
each sample) thick were stained with hematoxylin and eosin (H&E). The bone structure was analyzed
under light microscope BX63 (Olympus, Japan) and imaged with a digital camera DP73 (Olympus). Implants Page 3/13
Four commercially available porous implants were used in this study. The first, TANTALUM – porous
Tantalum Trabecular Metal (Zimmer, Warsaw, IN, USA). The other three were made from titanium alloy Page 3/13 Page 3/13 Ti6Al4V using additive technologies: TTM (AK Medical, Beijing, China), CONCELOC (Smith & Nephew,
Memphis, TN, USA), ATLANT (TITAN-MED, Kyiv, Ukraine). All materials were comparable in porosity –
80% or upper. TANTALUM has an elastic modulus of 3 GPa which is between that of cortical and
cancellous bone, and similar to subchondral bone [29]. The elastic modulus of the other three materials
was 12.9 GPa for TTM [30], 4.3 GPa for CONCELOC [31], and 113 GPa for ATLANT. Surgical procedures All surgeries were performed under general intramuscular anesthesia – ketamine 50 mg/kg. Bilateral
ovariectomies were performed in 28 animals in the OVX group according to previously described
methodology [28]. For SH group, the ovaries were not removed. At 3 months after ovariectomy, when
osteoporotic bone changes had developed in OVX group [28], surgery was performed in both groups (OVX
& SH) of rats. The skin of the lower extremities was shaved and treated with Betadine® solution. From
the lateral access transcortical defects (diameter 2.5 mm, depth 3.0 mm) were created into the distal
metaphysis of the left femur using a dental burr. The implants (TANTALUM, TTM, CONCELOC or ATLANT)
were placed into the prepared defects by using a press-fit technique. Wounds were treated with antibiotic
powder and sutured in layers. The euthanasia of rats was performed 45 days after surgery by administering a lethal dose of anesthetic
(sodium thiopental, 90 mg/kg intramuscularly). Statistical Analysis Measurement data were presented as mean ± standard deviation (SD). Comparison of the values in the
groups of OVX rats and SH rats was performed by using the one-way ANOVA analysis with Bonferroni Page 4/13 post-test. To compare values between OXV and SH groups we used unpaired t-test. A critical level of
significance was accepted as 0.05. The analysis was performed using the IBM SPSS Statistics 19.0
software. post-test. To compare values between OXV and SH groups we used unpaired t-test. A critical level of
significance was accepted as 0.05. The analysis was performed using the IBM SPSS Statistics 19.0
software. *p<0.01 vs TANTALUM in ovariectomized rats’ group (Bonferroni post-test). In a series of OVX rats the BA% around ATLANT implants was lower by a factor of 1.5 (p=0.002)
compared to TANTALUM. The BA% around CONCELOC and TTM specimens did not differ significantly
from indicators in OVX TANTALUM group. In the SH group the BA% around TANTALUM and TTM was higher by a factor of 1.9 (p <0.0001);
CONCELOC – by a factor of 2.8 (p <0.0001); ATLANT – by a factor of 2.7 (p <0.0001) compared to OVX
group (Table). In the SH group the BA% around TANTALUM and TTM was higher by a factor of 1.9 (p <0.0001);
CONCELOC – by a factor of 2.8 (p <0.0001); ATLANT – by a factor of 2.7 (p <0.0001) compared to OVX
group (Table). Results During histological examination at 45 days after surgery in animals of both groups, a formation of
mature bone tissue with varying degrees around all the tested implants was detected. In SH rats, there were bone trabeculae of lamellar structure with red and yellow bone marrow in the
intertrabecular spaces. Their structure did not differ between the different types of materials evaluated. In OVX rats in the cancellous bone defect zone (Figure 1 A-D), newly formed bone trabeculae were
characterized by a high density of osteocytes. These bone trabeculae shaped around the implants
formed a network. At the same time, the host bone trabeculae were thin, located vertically, at a distance
from each other and did not create the trabecular network. The signs of a reorganization of the newly
formed bone were detected in all groups. There were some debris structures of osteons, dilated vascular
channels with the formation of connective tissue and bone marrow. In some trabeculae, destructive gaps
filled with tissue fluid were observed, as well as areas without cells. In small areas on the surface of the
implants, woven bone and connective tissue (Figure 1 B) was located. In the cortex defect (Figure 2 A-D) in the OVX group trabecular bone was observed as well. This trabecular
bone was found to be remodeling and usually strongly connected with the host compact bone and
forming periosteal regenerate. In the host cortex in animals of all groups, especially the section distal
from the injury area, destructive changes in the form of a rarefaction and thinning were noted. As a result,
structural bone was replaced by cancellous bone. As a result of histomorphometry in the SH group, no differences in BA% among the different implanted
materials were found (Table). As a result of histomorphometry in the SH group, no differences in BA% among the different implanted
materials were found (Table). Table. BA% around different implants implanted into distal femur metaphysis in sham-ovariectomized
and ovariectomized rats (mean ± SD) Table. BA% around different implants implanted into distal femur metaphysis in sham-ovariectomized
and ovariectomized rats (mean ± SD) Page 5/13
The material
Group of rats
Unpaired t-test
sham-ovariectomized
ovariectomized
TANTALUM
21.09±7.96
10.89±2.47
p <0.0001
TTM
18.76±5.97
9.67±4.03
p <0.0001
CONCELOC
22.67±6.88
7.99±3.37
p <0.0001
ATLANT
19.87±4.92
7.37±2.40*
p <0.0001
ANOVA
p=0.158
p=0.002 Discussion In our study, carried out in an animal model, we evaluated structural features of the cancellous bone
adjacent to four different porous implants: TANTALUM and three others made from titanium alloy Ti6Al4V
using additive technologies – TTM, CONCELOC, and ATLANT. To evaluate their effectiveness in
implantation in osteoporotic bone compared to normal bone, we used the generally accepted model of
ovariectomy [24]. Our results demonstrated that the type of implant material did not affect the formation
and rearrangement of the adjacent cancellous bone after 45-days in animals with normal bone quality
(Sham ovariectomy group). Similar results were obtained in an experiment on New Zealand rabbits: the
authors did not find any differences in osseointegration quality of porous tantalum and porous titanium
made by using 3D printing technology at 2, 4, and 8-weeks after implantation in the femoral lateral
malleolus [33]. In another study on rabbits, the authors did not find differences in bone growth during
implantation of tantalum and titanium porous implants in the femur [34]. In another experimental study
on rats, no differences were found in bone formation on the implant surface in the distal femur at the 12th
week time point between tantalum and titanium implants [35]. For OVX rats, we set the lowest BA% for ATLANT. In our previous in-vivo study, with an osteoporosis
model, we observed by way of histomorphometry and histology studies a higher level of osseointegration
of trabecular tantalum implants compared to highly porous titanium implants [28]. According to in-vitro
studies of bone mesenchymal stromal cells of ovariectomized rats, a tantalum substrate exhibits better
biocompatibility and osteoinductive properties than titanium [36]. This may contribute to better bone
formation around the certain implants in cases of osteoporosis. Furthermore, we found lower rates of
bone area (BA% decreased by1.9-2.8 times) in OVX rats compared to the SH group. The greatest
differences in bone formation were found in OVX rats compared to the SH group with CONCELOC (by 2.8
times) and ATLANT (by 2.7 times). This may confirm the existence of differences in the osseointegration
of porous implants with osteoporosis bone. An important role in achieving good long-term results during
acetabular reconstruction is influenced by both a correct choice of implant and the bone quality in the
periprosthetic acetabular area [10, 37]. It has been shown that in osteoporotic bone the rate of migration
of uncemented acetabular cups is elevated [2]. Conclusions Bone formation and osseointegration around the studied porous titanium and tantalum materials in the
osteoporosis model was lower than in the normal bone model. There are differences in bone formation
for various materials in the osteoporosis model, while in the normal bone model differences were absent. Discussion Furthermore, periprosthetic fractures may occur [38], Page 6/13 Page 6/13 which might lead to revision surgery due to decreased fixation of the acetabular cup due to fragility of the
adjacent bone [39]. Recently, a significant amount of porous materials from titanium alloys have been
introduced for this purpose [40], an important role in the study of their biomechanical qualities is
performed by experimental studies in vivo and in vitro. Current implants made from titanium alloys and
tantalum have been successfully used for THA in patients with normal bone mineral density for many
years [23]. However, in osteoporotic conditions under changed biomechanical conditions, the long-term
survival rate may be reduced [2]. Therefore, the search for the optimal material for hip reconstruction with
biomechanical properties resembling the properties of cancellous bone continues. One of the factors that influenced the results can be Young's modulus of the materials studied. It has
been clinically established that the amount of bone can decrease over a period of 14 years around the
femoral stem due to the pressure placed by the implant on the bone, due to the larger Young's modulus of
the implant compared to the bone’s [41]. The use of porous implants from titanium alloy Ti6Al4V is due to
their reduced Young's modulus, which is closer in value to the cortical bone than to the spongy bone [42]. Experimentally, using finite element algorithms, it was found that a decrease in the stiffness of the
material promotes bone growth [43]. The fact that TANTALUM has the lowest Young's modulus, which is
similar in value to the spongy bone among the materials studied, may contribute to the results seen of
bone formation (BA%) around such implants in OVX rats. While the lowest BA% in OVX rats was found in
the case of implantation of ATLANT material, which had the largest Young's modulus among the studied
materials. Therefore, we assume that the lowest bone formation (BA%) found in the SH and OVX groups
for ATLANT are due to the high modulus of elasticity of this material. Our study is not without limitations, the main limitation of our study was the ability to only measure the
bone area around the implants. However, this study shows the peculiarities of bone structure around
various materials used in acetabular cup implants in an osteoporotic model in comparison with a normal
bone model, which is an understudied topic. Abbreviations BA% – percentage of peri-implant bone area BA% – percentage of peri-implant bone area OVX – ovariectomy group of rats THA – total hip arthroplasty Authors' information (optional) Not applicable Authors' information (optional) Not applicable Funding Not applicable Author contributions All authors contributed to the study conception and design. Material preparation,
data collection and surgical procedures were performed by [GI], [AAB]. [NA] and [VM] performed of
histological analysis. The first draft of the manuscript was written by [SB], [NA] and [VM]. The review and
editing was performed by [RS]. All authors commented on previous versions of the manuscript. All
authors read and approved the final manuscript. Acknowledgements Not applicable Consent for publication Not applicable Availability of data and material Not applicable Declarations Ethics approval and consent to participate Approval was obtained from the Bioethics Committee of
Sytenko Institute of Spine and Joint Pathology National Academy of Medical Sciences of Ukraine,
Kharkiv, Ukraine (protocol number 139 of 21 May 2018) Consent for publication Not applicable Availability of data and material Not applicable Conflicts of interest/Competing interests: Author RS is a paid consultant of Smith & Nephew, Memphis,
USA Funding Not applicable References Bone-implant interface in orthopedic surgery: basic science to clinical
applications. Springer Science & Business Media, 2013: 342. 9. Karachalios T, editor. Bone-implant interface in orthopedic surgery: basic science to clinical
applications. Springer Science & Business Media, 2013: 342. 10. Apostu D, Lucaciu O, Berce C, Lucaciu D, Cosma D. Current methods of preventing aseptic loosening
and improving osseointegration of titanium implants in cementless total hip arthroplasty: a review. J
Int Med Res 2018;46(6):2104-19. 11. Naziri Q, Issa K, Pivec R, Harwin SF, Delanois RE, Mont MA. Excellent results of primary THA using a
highly porous titanium cup. Orthopedics 2013;36(4):e390-4. 12. Perticarini L, Zanon G, Rossi SM, Benazzo FM. Clinical and radiographic outcomes of a trabecular
titanium™ acetabular component in hip arthroplasty: results at minimum 5 years follow-up. BMC
Musculoskelet Disord 2015;16:375. 13. Lv J, Jia Z, Li J, Wang Y, Yang J, Xiu P, et al. Electron beam melting fabrication of porous Ti6Al4V
scaffolds: cytocompatibility and osteogenesis. Adv Eng Mater 2015;17(9):1391-8. 14. Lewallen EA, Riester SM, Bonin CA, Kremers HM, Dudakovic A, Kakar S, et al. Biological strategies for
improved osseointegration and osteoinduction of porous metal orthopedic implants. Tissue Eng Part
B Rev 2015;21(2):218-30 15. De Martino I, De Santis V, Sculco PK, D'Apolito R, Poultsides LA, Gasparini G. Long-Term Clinical and
Radiographic Outcomes of Porous Tantalum Monoblock Acetabular Component in Primary Hip
Arthroplasty: A Minimum of 15-Year Follow-Up. J Arthroplasty 2016;31(9 Suppl):110-4. 16. Wang Q, Zhang H, Li Q, Ye L, Gan H, Liu Y, et al. Biocompatibility and osteogenic properties of porous
tantalum. Exp Ther Med 2015;9(3):780-6. 17. Banerjee S, Issa K, Kapadia BH, Pivec R, Khanuja HS, Mont MA. Systematic review on outcomes of
acetabular revisions with highly-porous metals. Int Orthop 2014;38(4):689-702. 17. Banerjee S, Issa K, Kapadia BH, Pivec R, Khanuja HS, Mont MA. Systematic review on outcomes of
acetabular revisions with highly-porous metals. Int Orthop 2014;38(4):689-702. 18. Macheras GA, Lepetsos P, Leonidou AO, Anastasopoulos PP, Galanakos SP, Poultsides LA. Survivorship of a Porous Tantalum Monoblock Acetabular Component in Primary Hip Arthroplasty
With a Mean Follow-Up of 18 Years. J Arthroplasty 2017;32(12):3680-4. 18. Macheras GA, Lepetsos P, Leonidou AO, Anastasopoulos PP, Galanakos SP, Poultsides LA. Survivorship of a Porous Tantalum Monoblock Acetabular Component in Primary Hip Arthroplasty
With a Mean Follow-Up of 18 Years. J Arthroplasty 2017;32(12):3680-4. 19. Laaksonen I, Lorimer M, Gromov K, Eskelinen A, Rolfson O, Graves SE, et al. References 1. Brulc U, Antolič V, Mavčič B. Risk factors for unsuccessful acetabular press-fit fixation at primary
total hip arthroplasty. Orthop Traumatol Surg Res 2017;103(7):993-7. 1. Brulc U, Antolič V, Mavčič B. Risk factors for unsuccessful acetabular press-fit fixation at primary
total hip arthroplasty. Orthop Traumatol Surg Res 2017;103(7):993-7. 1. Brulc U, Antolič V, Mavčič B. Risk factors for unsuccessful acetabular press-fit fixation at primary
total hip arthroplasty. Orthop Traumatol Surg Res 2017;103(7):993-7. 2. Finnilä S, Moritz N, SvedströM E, Alm JJ, Aro HT. Increased migration of uncemented acetabular
cups in female total hip arthroplasty patients with low systemic bone mineral density. A 2-year RSA
and 8-year radiographic follow-up study of 34 patients. Acta Orthop 2016;87(1):48-54. 2. Finnilä S, Moritz N, SvedströM E, Alm JJ, Aro HT. Increased migration of uncemented acetabular
cups in female total hip arthroplasty patients with low systemic bone mineral density. A 2-year RSA
and 8-year radiographic follow-up study of 34 patients. Acta Orthop 2016;87(1):48-54. 3. Glowacki J, Hurwitz S, Thornhill TS, Kelly M, LeBoff MS. Osteoporosis and vitamin-D deficiency
among postmenopausal women with osteoarthritis undergoing total hip arthroplasty. J Bone Joint
Surg Am 2003;85(12):2371-77. 3. Glowacki J, Hurwitz S, Thornhill TS, Kelly M, LeBoff MS. Osteoporosis and vitamin-D deficiency
among postmenopausal women with osteoarthritis undergoing total hip arthroplasty. J Bone Joint
Surg Am 2003;85(12):2371-77. 4. Mäkinen TJ, Alm JJ, Laine H, Svedström E, Aro HT. The incidence of osteopenia and osteoporosis in
women with hip osteoarthritis scheduled for cementless total joint replacement. Bone
2007;40(4):1041-7. 4. Mäkinen TJ, Alm JJ, Laine H, Svedström E, Aro HT. The incidence of osteopenia and osteoporosis in
women with hip osteoarthritis scheduled for cementless total joint replacement. Bone
2007;40(4):1041-7. 5. García-Cimbrelo E, Munuera L. Early and late loosening of the acetabular cup after low-friction
arthroplasty. J Bone Joint Surg Am 1992;74(8):1119-29. Page 8/13 6. Illgen R 2nd, Rubash HE. The optimal fixation of the cementless acetabular component in primary
total hip arthroplasty. J Am Acad Orthop Surg 2002;10(1):43-56. 7. Kavanagh BF, Wallrichs S, Dewitz M, Berry D, Currier B, Ilstrup D, et al. Charnley low-friction
arthroplasty of the hip. Twenty-year results with cement. J Arthroplasty 1994;9(3):229-34. 8. Madey SM, Callaghan JJ, Olejniczak JP, Goetz DD, Johnston RC. Charnley total hip arthroplasty with
use of improved techniques of cementing. The results after a minimum of fifteen years of follow-
up. J Bone Joint Surg Am 1997;79(1):53-64. 9. Karachalios T, editor. References Trabecular metal
acetabular components in primary total hip arthroplasty. Acta Orthop 2018;89(3):259-64. 19. Laaksonen I, Lorimer M, Gromov K, Eskelinen A, Rolfson O, Graves SE, et al. Trabecular metal
acetabular components in primary total hip arthroplasty. Acta Orthop 2018;89(3):259-64. 20. Ding X, Liu X, Chen J, Chen S. [Research Progress of Porous Tantalum in Bone Tissue
Engineering] Zhongguo Xiu Fu Chong Jian Wai Ke Za Zhi 2018;32(6):753-7. Chinese. 20. Ding X, Liu X, Chen J, Chen S. [Research Progress of Porous Tantalum in Bone Tissue
Engineering] Zhongguo Xiu Fu Chong Jian Wai Ke Za Zhi 2018;32(6):753-7. Chinese. Page 9/13 21. Vutescu ES, Hsiue P, Paprosky W, Nandi S. Comparative survival analysis of porous tantalum and
porous titanium acetabular components in total hip arthroplasty. Hip Int 2017;27(5):505-8. 22. Wegrzyn J, Kaufman KR, Hanssen AD, Lewallen DG. Performance of Porous Tantalum vs. Titanium
Cup in Total Hip Arthroplasty: Randomized Trial with Minimum 10-Year Follow-Up. J Arthroplasty
2015;30(6):1008-13. 23. Sodhi N, Khlopas A, Berliner Z, Dushaj K, Minter JE, Naylor B, et al. Survivorship and Radiographic
Analysis of Highly Porous Acetabular Cups Designed for Improved Osseointegration Potential. Surg
Technol Int 2019;34:425-9. 24. Li Z, Müller R, Ruffoni D. Bone remodeling and mechanobiology around implants: Insights from
small animal imaging. J Orthop Res 2018;36(2):584-93. 25. Freitag L, Günther C, Eberli U, Fürst A, Zeiter S, Stadelmann VA. Relative effects of age on implant
integration in a rat model: A longitudinal in vivo microct study. J Orthop Res 2019;37(3):541-52. 26. Li Y, He S, Hua Y, Hu J. Effect of osteoporosis on fixation of osseointegrated implants in rats. J
Biomed Mater Res B Appl Biomater 2017;105(8):2426-32. 27. Li Z, Kuhn G, von Salis-Soglio M, Cooke SJ, Schirmer M, Müller R, et al. In vivo monitoring of bone
architecture and remodeling after implant insertion: The different responses of cortical and
trabecular bone. Bone 2015;81:468-77. 28. Bondarenko S, Dedukh N, Filipenko V, Akonjom M, Badnaoui AA, Schwarzkopf R. Comparative
analysis of osseointegration in various types of acetabular implant materials. Hip Int
2018;28(6):622-8. 29. Zhang Y, Ahn PB, Fitzpatrick DC, Heiner AD, Poggie RA, Brown TD. Interfacial frictional behavior:
cancellous bone, cortical bone, and a novel porous tantalum biomaterial. J Musculoskelet Res
1999;3(04):245-51. 30. Yang J, Cai H, Lv J, Zhang K, Leng H, Sun C, et al. In vivo study of a self-stabilizing artificial vertebral
body fabricated by electron beam melting. Spine (Phila Pa 1976) 2014;39(8):E486-92. 30. References Injury 2019;50 Suppl 2:S29-33. 38. Giaretta S, Momoli A, Porcelli G, Micheloni GM. Diagnosis and management of periprosthetic femoral
fractures after hip arthroplasty. Injury 2019;50 Suppl 2:S29-33. 39. Aro HT, Alm JJ, Moritz N, Mäkinen TJ, Lankinen P. Low BMD affects initial stability and delays stem
osseointegration in cementless total hip arthroplasty in women: a 2-year RSA study of 39 patients. Acta Orthop 2012;83(2):107-14. 39. Aro HT, Alm JJ, Moritz N, Mäkinen TJ, Lankinen P. Low BMD affects initial stability and delays stem
osseointegration in cementless total hip arthroplasty in women: a 2-year RSA study of 39 patients. Acta Orthop 2012;83(2):107-14. 40. Migaud H, Common H, Girard J, Huten D, Putman S. Acetabular reconstruction using porous metallic
material in complex revision total hip arthroplasty: A systematic review. Orthop Traumatol Surg Res
2019;105(1S):S53-61. 41. Bodén HS, Sköldenberg OG, Salemyr MO, Lundberg HJ, Adolphson PY. Continuous bone loss around
a tapered uncemented femoral stem: a long-term evaluation with DEXA. Acta Orthop 2006;77(6):877-
85. 42. Arabnejad S, Johnston B, Tanzer M, Pasini D. Fully porous 3D printed titanium femoral stem to
reduce stress-shielding following total hip arthroplasty. J Orthop Res 2017;35(8):1774-83. 43. Cheong VS, Fromme P, Mumith A, Coathup MJ, Blunn GW. Novel adaptive finite element algorithms
to predict bone ingrowth in additive manufactured porous implants. J Mech Behav Biomed Mater
2018;87:230-9. References Yang J, Cai H, Lv J, Zhang K, Leng H, Sun C, et al. In vivo study of a self-stabilizing artificial vertebral
body fabricated by electron beam melting. Spine (Phila Pa 1976) 2014;39(8):E486-92. 31. Smith & Nephew Research report. OR-14-106. 31. Smith & Nephew Research report. OR-14-106. 31. Smith & Nephew Research report. OR-14-106. 32. Dempster DW, Compston JE, Drezner MK, Glorieux FH, Kanis JA, Malluche H, et al. Standardized
nomenclature, symbols, and units for bone histomorphometry: a 2012 update of the report of the
ASBMR Histomorphometry Nomenclature Committee. J Bone Miner Res 2013;28(1):2-17. 32. Dempster DW, Compston JE, Drezner MK, Glorieux FH, Kanis JA, Malluche H, et al. Standardized
nomenclature, symbols, and units for bone histomorphometry: a 2012 update of the report of the
ASBMR Histomorphometry Nomenclature Committee. J Bone Miner Res 2013;28(1):2-17. 33. Su KX, Ji P, Wang H, Li LL, Su LZ, Wang C. [In vivo study of 3D printed porous tantalum implant on
osseointegration]. Hua Xi Kou Qiang Yi Xue Za Zhi 2018;36(3):291-5. 33. Su KX, Ji P, Wang H, Li LL, Su LZ, Wang C. [In vivo study of 3D printed porous tantalum implant on
osseointegration]. Hua Xi Kou Qiang Yi Xue Za Zhi 2018;36(3):291-5. 34. Wang H, Su K, Su L, Liang P, Ji P, Wang C. Comparison of 3D-printed porous tantalum and titanium
scaffolds on osseointegration and osteogenesis. Mater Sci Eng C Mater Biol Appl 2019;104:109908. 34. Wang H, Su K, Su L, Liang P, Ji P, Wang C. Comparison of 3D-printed porous tantalum and titanium
scaffolds on osseointegration and osteogenesis. Mater Sci Eng C Mater Biol Appl 2019;104:109908. 35. Bandyopadhyay A, Mitra I, Shivaram A, Dasgupta N, Bose S. Direct comparison of additively
manufactured porous titanium and tantalum implants towards in vivo osseointegration. Addit Manuf
2019;28:259-66. 35. Bandyopadhyay A, Mitra I, Shivaram A, Dasgupta N, Bose S. Direct comparison of additively
manufactured porous titanium and tantalum implants towards in vivo osseointegration. Addit Manuf
2019;28:259-66. Page 10/13 36. Lu MM, Wu PS, Guo XJ, Yin LL, Cao HL, Zou D. Osteoinductive effects of tantalum and titanium on
bone mesenchymal stromal cells and bone formation in ovariectomized rats. Eur Rev Med
Pharmacol Sci 2018;22(21):7087-104. 37. Gao X, Fraulob M, Haïat G. Biomechanical behaviours of the bone-implant interface: a review. J R
Soc Interface 2019;16(156):20190259. 38. Giaretta S, Momoli A, Porcelli G, Micheloni GM. Diagnosis and management of periprosthetic femoral
fractures after hip arthroplasty. Figures Page 11/13 Figure 1
Histological features of newly-formed bone in the cancellous bone defect zone in distal femoral
metaphysis of the OVX rats. 45 days after implantation of TANTALUM (a), TTM (b), CONCELOC (c) or
ATLANT (d). H&E. Figure 1
Histological features of newly-formed bone in the cancellous bone defect zone in distal femoral
metaphysis of the OVX rats. 45 days after implantation of TANTALUM (a), TTM (b), CONCELOC (c) or
ATLANT (d). H&E. Figure 2 Remodeling of the new-formed bone in the cortex defect zone in distal femoral metaphysis of the OVX
rats. 45 days after implantation of TANTALUM (a), TTM (b), CONCELOC (c) or ATLANT (d). H&E. Remodeling of the new-formed bone in the cortex defect zone in distal femoral metaphysis of the OVX
rats. 45 days after implantation of TANTALUM (a), TTM (b), CONCELOC (c) or ATLANT (d). H&E. Remodeling of the new-formed bone in the cortex defect zone in distal femoral metaphysis of the OVX
rats. 45 days after implantation of TANTALUM (a), TTM (b), CONCELOC (c) or ATLANT (d). H&E. Figure 1 Histological features of newly-formed bone in the cancellous bone defect zone in distal femoral
metaphysis of the OVX rats. 45 days after implantation of TANTALUM (a), TTM (b), CONCELOC (c) or
ATLANT (d). H&E. Page 12/13 Page 12/13 Figure 2
Remodeling of the new-formed bone in the cortex defect zone in distal femoral metaphysis of the OVX
rats. 45 days after implantation of TANTALUM (a), TTM (b), CONCELOC (c) or ATLANT (d). H&E. Supplementary Files supplement6.docx Supplementary Files This is a list of supplementary files associated with this preprint. Click to download. supplement6.docx Page 13/13 Page 13/13
|
https://openalex.org/W2996199496
|
https://ieeexplore.ieee.org/ielx7/6287639/8600701/08928512.pdf
|
English
| null |
Time-Series Representation and Clustering Approaches for Sharing Bike Usage Mining
|
IEEE access
| 2,019
|
cc-by
| 6,230
|
Received November 19, 2019, accepted December 4, 2019, date of publication December 9, 2019,
date of current version December 23, 2019. Digital Object Identifier 10.1109/ACCESS.2019.2958378 Time-Series Representation and Clustering
Approaches for Sharing Bike Usage Mining DUO LI
, YIFEI ZHAO
, AND YAN LI
School of Highway, Chang’an University, Xi’an 710064, China
Corresponding author: Yan Li (lyan@chd.edu.cn) ABSTRACT Massive bike-sharing systems (BSS) usage and performance data have been collected for years
over various locations. Nevertheless, researchers encountered several challenges while dealing with massive
BSS data. The challenges that could be enhanced in the previous studies are 1) reducing high dimensionality
and noise of BSS time series data and 2) extracting informative usage patterns out of massive BSS data. This
paper extracts patterns and reduce data dimensions of BSS usage by exploring time series representation
and clustering of BSS usage data. A reduced dimension allows us to efficiently approximate the BSS usage
with reasonable accuracy, which can be further used for bike usage clustering, classification and prediction. We employ a non-data adaptive representation technique -Discrete Wavelet Transform (DWT) to reduce
dimensionality and filter out random errors of the raw time series. Time series are clustered using k-means
based on similarities measured by Dynamic Time Warping (DTW) and prototypes computed using DTW
barycenter averaging (DBA). The proposed approaches are applied on a 3-month bike usage dataset acquired
on the BSS of Chicago. The analysis results show that DWT can effectively reduce dimensionality, filter out
random errors and reveal the main characteristics of the raw time series. The clustering approach offers the
ability to differentiate and discover bike usage patterns across different stations. INDEX TERMS
Sharing bike system, time series data mining, dynamic time warping (DWT), DTW
barycenter averaging (DBA). INDEX TERMS
Sharing bike system, time series data mining, dynamic time warping (DWT), DTW
barycenter averaging (DBA). This work is licensed under a Creative Commons Attribution 4.0 License. For more information, see http://creativecommons.org/licenses/by/4.0 I. INTRODUCTION
A
ff
d bl bikes are stored at various stations where operations of
check-in or check-out are performed via a backbone network. Second, bike-sharing differs from conventional public tran-
sit (e.g., subways and buses). The former provides trans-
portation based on demand with a decentralized structure,
while the latter is operated following a regular schedule and
pre-determined routes [1]. Nevertheless, these two distinct
features may result in characteristic issues while operating
and managing BSSs. One common issue faced by BSSs is
bike imbalance across stations, i.e., uncontrolled, nonstation-
ary demand may cause an uneven bike distribution across
different stations. I. INTRODUCTION
As an affordable, convenient, and sustainable travel option
with various benefits, BSSs have received increasing atten-
tion in the past decade. These systems offer the poten-
tial to decrease car usage in dense neighborhoods, promote
healthy living, increase accessibility and provide much
needed last-mile connection. BSS can be grouped into two
categories, namely, dock-based and dockless systems. The
former allows users to lock and unlock bicycles from docking
stations distributed around the city, while the latter enables
users to lock and unlock bicycles virtually anywhere. In the
rest of this paper we will only be interested in dock-based
BSS. The analysis of dockless BSS would likely only work
if virtual station ‘‘areas’’ were created, which is beyond the
scope of this research. Various attempts have been made to alleviate bike imbal-
ances, including demand prediction [2], [3] and inventory
rebalancing [4], [5]. Here, inventory rebalancing is referred
to as the operation that rebalances the bikes over time such
that the proper number of bikes and open docks are avail-
able to users. Meanwhile, BSS data mining plays a key
role while designing prediction models and redistribution
strategies. Several studies [6]–[8] have shown that mining of
BSS data was useful in extracting usage patterns, identifying Compared against other forms of shared-use mobility,
BSS has several unique features. First, unlike classic ride-
sharing (e.g., carpooling) and ride-sourcing (e.g., Uber),
bikes in BSSs are typically unattended. During vacant hours, The associate editor coordinating the review of this manuscript and
approving it for publication was Senthil Kumar. 177856 VOLUME 7, 2019 D. Li et al.: Time-Series Representation and Clustering Approaches for Sharing Bike Usage Mining incentives for distribution of bikes and therefore obtaining a
better understanding of BSS. time series data. IV. TIME-SERIES CLUSTERING IV. TIME-SERIES CLUSTERING There are mainly three components involved in time series
clustering, namely, similarity measure, prototype computa-
tion and clustering algorithm. Usually, a clustering algorithm
is employed to partition time-series based on similarities
among time-series. The similarity is computed by a similarity
measure. In the clustering process, several time series called
‘‘prototypes’’ are created to summarize the important charac-
teristics of all series in given clusters. Although the study of BSS is increasing in popularity, pre-
vious papers leave several challenges that could be enhanced. The first is extracting informative usage patterns out of mas-
sive BSS data. Without the help of automatic algorithms
which extract usage patterns and give a synthetic view of
the information, it is difficult to acquire knowledge from the
cluttered display and overlaps of hundreds of time series. The second is dimensionality reduction of BSS count series
data. High dimension and noise are characteristics of BSS II. RELATED WORK Papers related to analytics of BSS mainly focus on two objec-
tives: the first is to identify relations between the demand
and some factors, whereas the second is to predict the future
demand of the system. The first papers always use gener-
alized linear and generalized linear mixed models as their
core statistical method. This might be because linear mod-
els are easy to interpret when compared against non-linear
and non-parametric ones. The most common factors con-
sidered in these papers include 1) temporal factors (the
hour, the week day, the month, etc) [8], [9], 2) meteorolog-
ical factors (temperature, humidity, wind speed, etc) [10],
3) socio-demographic factors [11], and 4) neighborhood of
the station [6], [7]. In this study, we used a non-data adaptive method, DWT,
to reduce the dimensionality of raw time series. DWT has
the useful multiresolution property which makes it very
appropriate for noise filtering, dimensionality reduction, and
singularity detection. More specifically, wavelets are a set
of mathematical functions that resemble the shape of time
series. Therefore, the transformed data can be dispersed to
multiple scales and analyzed at multiple resolution levels. The Haar wavelet, a sequence of rescaled ‘‘square-shaped’’
functions forming a wavelet family or basis, was selected
as the mother wavelet for this study because: 1) it allows
good approximation with a subset of coefficients, 2) it can be
computed quickly and easily, and 3) it preserves Euclidean
distance [30]. Papers in the second category always employ non-
parametric statistical methods, such as non-homogeneous
Poisson process [12], gradient boosted machines [13], neural
networks [14], bayesian classifiers [15], etc. Although a few
studies attempted to model the traffic per station [16], [17],
the majority of the papers focus on the global predic-
tion [18], [19]. The demand prediction per station problem
is more challenging since the stochasticity is much more
present. A few papers try to reduce the problem using clus-
tering which can be performed geographically [20] or only
using station behavior [21]. III. TIME-SERIES DATA REPRESENTATION Selecting a proper time series data representation method is
greatly important since it impacts the accuracy and efficiency
of the solution. Various representation techniques have been
proposed to reduce data dimensionality, while still preserv-
ing the fundamental characteristics of a particular dataset,
such as Discrete Fourier Transformation (DFT) [24], Single
Value Decomposition (SVD) [24], Discrete Wavelet Trans-
formation (DWT) [25], Piecewise Aggregate Approximation
(PAA) [26], Adaptive Piecewise Constant Approxima-
tion (APCA) [27], Chebyshev polynomials (CHEB) [28],
Symbolic Aggregate approXimation (SAX) [29] and etc. II. RELATED WORK I. INTRODUCTION
A
ff
d bl There are two reasons for reducing dimen-
sionality before conducting further analysis: firstly, comput-
ing high dimensional raw data is computationally expensive,
and dimension reduction can dramatically speed up the analy-
sis process [22]. Secondly, because the high-dimensional data
often contains a significant amount of noise, highly unintu-
itive results may be garnered by using raw time-series [23]. As a result, one may extract usage patterns which are similar
in noise rather than extracting them based on similarity in
shape. Dimension reduction can be achieved by transforming
the raw time-series data into a lower dimensional space. This
process is called ‘‘data representation’’. This research presented a Discrete Wavelet Trans-
form (DWT) based data representation method and an
integrated-time series clustering method that used Dynamic
Time Warping (DTW), DTW barycenter averaging (DBA)
and k-means for measuring similarity, computing prototype
and partitioning data respectively. The proposed methods
were verified against a 3-month bike usage dataset collected
from the Chicago BSS. The contributions of this work include: 1) to the best of our
knowledge, this is the first work on dimension reduction of
count series data. Such a data representation approach leads to
significant reduction of noise and computational cost during
the BSS analysis. 2) we propose a two-phase framework to
process BSS count series data. In the data representation
stage, data dimensionality is reduced, while still preserving
the fundamental characteristics of a particular dataset. In the
clustering stage, an integrated time series clustering method
consisting of DTW, DBA and k-means is proposed to cluster
stations over the network. III. TIME-SERIES DATA REPRESENTATION C. CLUSTERING ALGORITHM Reviewing existing works in the literature, it is implied
that partitioning and hierarchical algorithms [33] are
broadly used in time series clustering. Other groups of
algorithms for time series clustering include Grid-based
(e.g., [34], [35]), Model-based (e.g., [36], [37]), Density-
based (e.g., [38], [39]) and Multi-step clustering algorithms
(e.g., [40], [41]), which have been comprehensively reviewed
by [42]. FIGURE 1. Alignments between two-time series provided by a) ED and b)
DTW. Hierarchical clustering algorithms, as their name suggest,
aim to construct a hierarchy of groups in which, with the
increase of the level in the hierarchy, clusters are constructed
by merging the lower level clusters, consequently an ordered
sequence of groupings is produced. A hierarchical algorithm
can be agglomerative or divisive. The former treats every
time series as a cluster, and then gradually merges the clus-
ters (bottom-up); while, the letter considers all series as one
cluster and then gradually divides the cluster (top-down). Hierarchical algorithms suffer from a lack of flexibility since
they cannot adjust the clusters once a split or merger has been
performed. Fig. 1 shows the alignments between two-time series pro-
vided by ED and DTW. It can be observed that although the
shapes of the two-time series are not aligned in the time axis,
they have the similar overall shape. Due to its sensitivity
to small distortions in the time axis, ED may fail to yield
an intuitive measure of similarity. Whereas, DTW aims at
identifying similar patterns of change regardless of the time
axis, which makes it possible to produce a more intuitively
correct measure of similarity. Thus, DTW is chosen as the
similarity measure in this study. Partitional clustering algorithms assign n unlabeled time
series to k clusters through minimizing the intra-cluster
similarity and the inter-cluster dissimilarity. Partitional clus-
tering algorithms begin by randomly selecting k initial pro-
totypes (centroids) that are assigned to individual clusters. Then the similarity between all time-series and prototypes are
computed and each time-series is assigned to the cluster with
its closest prototype. Similarity and prototype are updated
iteratively until it meets a maximum number of iterations or
convergence. The most prominent examples of such algo-
rithm are k-means and k-Medoids (PAM). Prototype in the
former is the mean of series in a given cluster; whereas,
the latter uses the prototype provided by PAM. A. SIMILARITY MEASURE Euclidean Distance (ED) [24] and Dynamic Time Warping
(DTW) [31] are the most widely used methods for measuring
similarity in time-series clustering. ED is a relatively simple
measure which compares two time-series x = (x1, x2, ..., xt) VOLUME 7, 2019 177857 D. Li et al.: Time-Series Representation and Clustering Approaches for Sharing Bike Usage Mining and y = (y1, y2, ..., yt) of length t as follows and y = (y1, y2, ..., yt) of length t as follows feature of DTW. Thus, we adapted a DTW based prototyping
function called DTW barycenter averaging (DBA) [32]. DBA
is the most robust time series averaging method so far. ED (x, y) =
rXt
i=1 (xi −yi)2
(1) (1) DBA is a global averaging method consisting in iteratively
refining an initially averaging time series so as to minimize
its squared DTW to other series. DBA starts with randomly
choosing a time series as the initial averaging series. For each
iteration, DBA calculates DTW between every individual
series and the averaging series, so as to find associations
between time-points of the averaging series and time-points
of other series. Due to the warping path in DTW, it can be
that several time-points from a given series map to a single
time-point in the averaging series. Thus, for every time-point
in the averaging series, corresponding values from all other
series are grouped together based on the DTW alignments,
consequently the mean value is calculated for every point in
the averaging series using the values stored in every group. This process is iteratively repeated until it reaches conver-
gence or a maximum number of iterations. DTW is considered as an extension of Euclidean distance
that provides a local (non-linear) alignment. For given time
series x and y of length t, a t-by-t matrix T is built, with the
Euclidean distance between any two xi and yj. A warping path
E={e1, e2, ..., el}, with t < l, is a contiguous set of matrix
elements that defines a mapping between x and y: DTW (x, y) = min
rXt
i=1 ei
(2) (2) The warping path can be calculated on matrix T with dynamic
programming for the evaluation of the following recurrence: r(i, j)=ED(i, j)+min{r(i−1, j−1), r(i−1, j), r(i, j−1)} (3) FIGURE 1. Alignments between two-time series provided by a) ED and b)
DTW. C. CLUSTERING ALGORITHM k-means was
employed for this study, since we chose DBA, an averaging
method, to compute prototype in the clustering process. V. CASE STUDY Our main dataset was acquired on the BSS of Chicago. This dataset contains start station id, end station id, start
timestamp, end timestamp and trip duration for each bike trip. We collected 3-month rental bike statistics spanning from
1st June to 31th August 2018. Totally 572 bike stations were
included. Fig 2 and 3 shows demand distribution and daily
profile of Chicago BSS. FIGURE 4. Transformed datasets against raw dataset. The impact of different data resolution levels on clustering
performance was analyzed. The transformed datasets data
points were obtained by performing 2, 4 and 8 times dimen-
sion reduction respectively. As depicted in Fig. 4, the corre-
lation between the transformed and raw datasets decreased
with dimension reduction. The correlation efficient values
were 0.86, 0.73 and 0.36 for 2, 4, and 8 times reduced
datasets respectively. Therefore, 4 times dimension reduc-
tion is recommended, which can decrease computational
cost while ensuring proper data representation and clustering
performance. FIGURE 2. Demand distribution. FIGURE 3. Daily demand profile. Various studies observed that the bike usage exhibits dif-
ferent patterns on weekdays and weekends. We also observed
that the bike usage demands were significantly different on
weekdays and weekends. Weekdays’ bike demands were
more fluctuant and slightly higher than these on weekends. Thus, we analyzed these two scenarios separately. The results
showed that the proposed method was effective in analyz-
ing both scenarios. For conciseness, only the analysis on
weekdays’ demands is presented in this section. The data was
aggregated at 60-min interval which was used by most paper
for BSS data analysis. Note that due to the page limitation,
we took a randomly chosen station (id: 85) for example. FIGURE 2. Demand distribution. FIGURE 3. Daily demand profile. We reduced the dimensionality of the raw dataset
by 4 times using DWT, which means that bike usage of each
day was presented by 6 data points in the transformed dataset
instead of 24 data points in the raw dataset. To further investi-
gate the impact of wavelets transformation on the time series,
we decomposed the raw and transformed datasets using an
additive model. For a given time series (x1, x2, ..., xi, ..., xt),
the addictive model is given by FIGURE 2. Demand distribution. FIGURE 2. Demand distribution. FIGURE 3. Daily demand profile. B. PROTOTYPE COMPUTATION Prototype computation is an essential subroutine in the clus-
tering process. The performance of clustering algorithms,
especially partitioning algorithms, relies highly on prototype
computation functions, since the prototypes are used as clus-
ter centroids. The mean and partition around medoids (PAM)
are very commonly used prototype computation functions. The mean simply takes average of the time-series at each time
point. So, it is often used in conjunction with the Euclidean
distance measure. PAM calculates a representative object
called ‘‘medoid’’ from a cluster, which minimizes the sum of
squared distances to all other objects within the same cluster. Although both mean and PAM can work with a number of
similarity measures, they do not take into account the unique 177858 177858 VOLUME 7, 2019 D. Li et al.: Time-Series Representation and Clustering Approaches for Sharing Bike Usage Mining FIGURE 4. Transformed datasets against raw dataset. k-means requires three user-specified parameters: cluster
initialization, similarity measure, and number of clusters k. Different initializations may result in different final clustering
because k-means, which is a greedy algorithm, only reaches
a local minimum. In order to overcome the local minima,
we ran the k-means algorithm with 10 different initial par-
titions and chose the partition with the best performance. The
number of clusters k is the most critical parameter in k-means. Davies–Bouldin index (DB) was chosen to determine the
correct number of clusters. V. CASE STUDY xi = Si + Ti + Ri
(4) (4) where Si is the seasonal component at time i, Tt is the trend
component at time i,, and Ri is the random error component
at time i. To verify our selection, we compared DWT with two popu-
lar representation methods, namely, DFT and SAX. Tightness
of lower bounds (TLB) that was considered as a meaningful
measure in the literature [26], [28] was used to measure rep-
resentation performance. Note that the value of TLB ranges
between 0 and 1. Higher TLB value indicates better repre-
sentation performance. Fig. 5 shows computation time and
TLB values of the tested methods computed using 3-month
data from the Chicago BSS system. It can be observed that
DFT produced the worst representation performance among
all the methods. There was very little difference between
representations yielded by DWT and SAX. However, DFT
and SAX required nearly 5 and 2 times longer computation
time than DWT respectively, which means DWT can produce
acceptable representation performance within relatively short
computation time. FIGURE 3. Daily demand profile. Various studies observed that the bike usage exhibits dif-
ferent patterns on weekdays and weekends. We also observed
that the bike usage demands were significantly different on
weekdays and weekends. Weekdays’ bike demands were
more fluctuant and slightly higher than these on weekends. Thus, we analyzed these two scenarios separately. The results
showed that the proposed method was effective in analyz-
ing both scenarios. For conciseness, only the analysis on
weekdays’ demands is presented in this section. The data was
aggregated at 60-min interval which was used by most paper
for BSS data analysis. Note that due to the page limitation,
we took a randomly chosen station (id: 85) for example. 177859 VOLUME 7, 2019 D. Li et al.: Time-Series Representation and Clustering Approaches for Sharing Bike Usage Mining TABLE 1. Davies–Bouldin index values. FIGURE 7. Final clustering of 2-4 cluster cases. FIGURE 5. Time consumption and TLB values for different representation
methods. TABLE 1. Davies–Bouldin index values. FIGURE 5. Time consumption and TLB values for different representation
methods. FIGURE 6. Decomposition plots of raw and DWT series. FIGURE 6. Decomposition plots of raw and DWT series. Fig 6. shows the decomposition plots of both raw and
DWT time series. The four plots are the original time series,
seasonal component, trend component and random errors. V. CASE STUDY Li et al.: Time-Series Representation and Clustering Approaches for Sharing Bike Usage Mining FIGURE 8. daily prototypes and their mean values for 5-cluster case. TABLE 2. DB values computed using different algorithms. TABLE 2. DB values computed using different algorithms. combinations on the dataset. Table 2 shows the DB values
computed using different combinations for 5-cluster case. Here, the ‘‘mean’’ is the mean value across time series in the
same cluster. PAM is a time series whose average distance to
all other objects in the same cluster is minimal. The k-Shape
clustering algorithm was developed by Paparrizos and
Gravano [43] in 2015. It is a partitional clustering algo-
rithm with a custom distance measure – shape based distance
(SBD), as well as a custom centroid function – shape extrac-
tion (SE). Note that only the lowest DB values among 10 runs
are shown in Table 2. It should also be note that k-means
relies on the prototypes generated by averaging methods
(e.g., mean and DBA); whereas, k-medoids can only uses the
prototypes provided by PAM. The combination used in this
study was highlighted (in green). It can be observed that the
hierarchical algorithm produced the highest DB values indi-
cating the worst performance among all the tested algorithms. Clustering results computed using DTW were better than
those using ED in most cases. DBA based clustering
outperformed PAM based clustering. Although k-shape
yielded a slightly lower DB value (in red) when com-
pared with k-means, the difference between them was not
remarkable. It is worth mentioning that k-shape required
about 5 times longer computational time than k-means. In
general, the results revealed that the combination used in
study can provide a cost-effective solution in terms of clus-
tering performance and computation time. FIGURE 8. daily prototypes and their mean values for 5-cluster case. hours: The former had a relatively low demand level and
was more active during morning peak hours; while there was
a higher demand in cluster 5 in which stations were busier
during evening peak hours. Stations in cluster 3 were the
most active ones compared against other stations. The usage
of these stations began to increase around 6 am until 6 pm. In contrast, the bike demand level in cluster 4 was extremely
low and there was few change across time. TABLE 3. DB values computed using different resolution levels. TABLE 3. V. CASE STUDY It can be observed that there were certainly some seasonal
variations in the daily bike usage which had the similar mag-
nitude across time. The trend was relatively flat. The seasonal
component shown that there was a peak in the daytime, and a
trough in the night. The shape of the DWT series is nearly
the same to that of the raw series. Meanwhile, DWT can
efficiently capture typical profiles of the trend and seasonal
variations of the raw series. It was noticed that DWT showed
the ability to filter out random errors. A significant reduction
in random errors was recorded in the DWT series when
compared against the raw series. FIGURE 7. Final clustering of 2-4 cluster cases. k-means may produce different final clustering using dif-
ferent initializations. Thus, we ran k-means with 10 different
initial partitions (seed 1-10) and adapted DB index to measure
the clustering performance, as shown in Table 1. Note that
the lower the DB value is, the better the separation of the
clusters and the ’tightness’ inside the clusters are. In this
study, we selected the cases that produced the lowest DB val-
ues using the same number of clusters. Meanwhile, the cases
yielding DB values that were above 2 were removed. The
chosen cases were highlighted in Table 1. into high and low demand time series. For 3-cluster case, data
was divided into high, medium and low demand time series. And for 4-cluster case, data was divided into high, medium,
stable-low and fluctuating-low demand series. In general,
the overall demand level rather than seasonal variation is the
main contributor to the final clustering in these cases due to
the limited number of clusters. A further analysis was performed on 5-cluster case. We zoomed in to daily profiles of each cluster. For each
cluster, daily prototypes and their mean value were shown
in Fig. 8. Time series in cluster 1 exhibited a low bike usage
level which reached its peak at around 6 pm. Cluster 2 and
5 differed from each other in terms of demand level and peak Fig. 7 presents the final clustering of 2-cluster, 3-cluster
and 4-cluster cases. Note that only the prototypes were plot-
ted. As only few clusters included in these cases, the interpre-
tation is straightforward. For 2-cluster case, data was divided 177860 VOLUME 7, 2019 VOLUME 7, 2019 D. VI. SUMMARY AND CONCLUSION A Policy Pract., vol. 97, pp. 177–191, 2017. The obtained clustering results are useful in two aspects. Firstly, the demand prediction per station problem is chal-
lenging due to its stochasticity. A possible strategy to pre-
dict the demand is to reduce the problem using clustering. Secondly, the clustering results can provide insights that are
helpful in improving BSS service level requirements. [12] R. Alvarez-Valdes, ‘‘Optimizing the level of service quality of a bike-
sharing system,’’ Omega, vol. 62, pp. 162–175, 2016. [13] R. Regue and W. Recker, ‘‘Proactive vehicle routing with inferred demand
to solve the bikesharing rebalancing problem,’’ Transp. Res. E, vol. 72,
pp. 192–209, 2014. [14] R. L. Cheu, J. Xu, A. G. H. Kek, W. P. Lim, and W. L. Chen, ‘‘Fore-
casting shared-use vehicle trips with neural networks and support vector
machines,’’ Transp. Res. Rec., J. Transp. Res. Board, vol. 1968, no. 1968,
pp. 40–46, 2006. Following conclusions can be drawn based on the results
presented in the previous section: • DWT can effectively reduce dimensionality, filter out
random errors and emphasize the main characteristics
of the raw time series. [15] L. Cagliero, T. Cerquitelli, S. Chiusano, P. Garza, and X. Xiao, ‘‘Predicting
critical conditions in bicycle sharing systems,’’ Computing, vol. 99, no. 1,
pp. 1–19, 2017. • The combined approach offered the ability to differen-
tiate and discover bike usage patterns across different
stations [16] N. Lathia, S. Ahmed, and L. Capra, ‘‘Measuring the impact of opening the
London shared bicycle scheme to casual users,’’ Transp. Res. C-Emerg. Technol., vol. 22, pp. 88–102, 2012. [17] D. Li and Y. Zhao, ‘‘A multi-categorical probabilistic approach for
short-term bike sharing usage prediction,’’ IEEE Access, vol. 7,
pp. 81364–81369, 2019. • Final clustering was mainly contributed by the overall
demand level in the cases with fewer clusters. However,
when more clusters were involved, both demand level
and daily usage profile were main contributors to final
clustering. [18] P. Borgnat, P. Abry, P. Flandrin, C. Robardet, J. B. Rouquier, and
E. Fleury, ‘‘Shared bicycles in a city: A signal processing and data analysis
perspective,’’ Adv. Complex Syst., vol. 14, no. 3, 2011, Art. no. 1100295. [19] W. Jia, Y. Tan, and J. Li, ‘‘Hierarchical prediction based on two-level
affinity propagation clustering for bike-sharing system,’’ IEEE Access,
vol. 6, pp. 45875–45885, 2018. VI. SUMMARY AND CONCLUSION To achieve a better understanding of BSS usage and perfor-
mance, various attempts have been made to investigate the
data collected from BSS. Nevertheless, researchers encoun-
tered several challenges while dealing with massive BSS data. The challenges that could be enhanced in the previous studies
are 1) reducing high dimensionality and noise of BSS time
series data and 2) extracting informative usage patterns out
of massive BSS data. [4] F. Chiariotti, C. Pielli, A. Zanella, and M. J. S. Zorzi, ‘‘A dynamic approach
to rebalancing bike-sharing systems,’’ Sensors, vol. 18, no. 2, pp. 512–534,
2018. [5] J. Schuijbroek, R. C. Hampshire, and W.-J. van Hoeve, ‘‘Inventory rebal-
ancing and vehicle routing in bike sharing systems,’’ Eur. J. Oper. Res.,
vol. 257, no. 3, pp. 992–1004, Mar. 2016. [6] A. Faghih-Imani, S. Anowar, E. J. Miller, and N. Eluru, ‘‘Hail a cab or ride
a bike? A travel time comparison of taxi and bicycle-sharing systems in
New York City,’’ Transp. Res. A Policy, vol. 101, pp. 11–21, 2017. [7] A. Faghih-Imani and N. Eluru, ‘‘Incorporating the impact of spatio-
temporal interactions on bicycle sharing system demand: A case study of
New York CitiBike system,’’ J. Transp. Geography, vol. 54, pp. 218–227,
2016. To address these issues, this study explored time series rep-
resentation and clustering approaches for BSS usage mining. We employed a non-data adaptive representation technique -
Discrete Wavelet Transform (DWT) to reduce dimensionality
and filter out random errors of the raw time series. Time
series were clustered using k-means based on similarities
measured by Dynamic Time Warping (DTW) and prototypes
computed using DTW barycenter averaging (DBA). The pro-
posed approaches were applied on a 3-month bike usage
dataset acquired on the BSS of Chicago. [8] K. Gebhart and R. B. Noland, ‘‘The impact of weather conditions on
bikeshare trips in Washington, DC,’’ Transp. Res. A Policy, vol. 41, no. 6,
pp. 1205–1225, 2014. [9] S. Wagner, T. Brandt, and D. Neumann, ‘‘In free float: Developing busi-
ness analytics support for carsharing providers,’’ Omega, vol. 59, 2016,
Art. no. S0305048315000481. [10] B. Caulfield, M. Omahony, W. Brazil, and P. Weldon, ‘‘Examining usage
patterns of a bike-sharing scheme in a medium sized city,’’ Transp. Res. Part A Policy, vol. 100, pp. 152–161, 2017. [11] A. Faghihimani, R. Hampshire, L. Marla, and N. Eluru, ‘‘An empirical
analysis of bike sharing usage and rebalancing: Evidence from Barcelona
and Seville,’’ Transp. Res. REFERENCES although the dataset reduced by 8 times witnessed the worst
performance among all the cases, the impact of dimension
reduction on clustering performance was not remarkable, i.e.,
the clustering performance resulted from lower dimensional
datasets can approach that of higher dimensional datasets. [1] Z. Yang, H. Ji, Y. Shu, C. Peng, and T. Moscibroda, ‘‘Mobility modeling
and prediction in bike-sharing systems,’’ presented at the 14th Annu. Int. Conf., 2016. [2] R. Giot and R. Cherrier, ‘‘Predicting bikeshare system usage up to
one day ahead,’’ in Proc. IEEE Symp. Comput. Intell. Vehicles Transp. Syst. (CIVTS), Dec. 2014, pp. 22–29. [3] S. Ruffieux, E. Mugellini, and O. A. Khaled, ‘‘Bike usage forecasting for
optimal rebalancing operations in bike-sharing systems,’’ in Proc. IEEE
30th Int. Conf. Tools Artif. Intell. (ICTAI), Nov. 2018, pp. 854–858. VI. SUMMARY AND CONCLUSION V. CASE STUDY DB values computed using different resolution levels. Although we selected DTW, DBA and k-means as simi-
larity measure, prototype computation and clustering algo-
rithm respectively, it is still interesting to test different Table 3 shows the lowest DB values among 10 runs
computed using the transformed datasets. It is shown that VOLUME 7, 2019 VOLUME 7, 2019 D. Li et al.: Time-Series Representation and Clustering Approaches for Sharing Bike Usage Mining VI. SUMMARY AND CONCLUSION The approaches proposed in this study focus on univariate
time series– rented bike count series in our case. A single
time-series object can be constituted of several values that
change on the same time scale, e.g., time series containing
both rented and returned bike usage information. It might
be useful to develop a multivariate clustering approach that
takes into account both rented and returned bike count series
so as to further explore the BSS usage and performance in
the future research. Bike usage variations may occur daily,
weekly, monthly, or quarterly. Thus, another future work will
focus on multi-seasonal time series feature extraction and
clustering. [20] Y. Li, Y. Zheng, H. Zhang, and L. Chen, ‘‘Traffic prediction in a bike-
sharing system,’’ Adv. Geographic Inf. Syst., p. 33, 2015. [21] P. Vogel, Service Network Design of Bike Sharing Systems. 2016. [22] E. J. Keogh and M. J. Pazzani, ‘‘A simple dimensionality reduction tech-
nique for fast similarity search in large time series databases,’’ Databases
Knowl. Inf. Syst., vol. 1805, no. 1, pp. 122–133, 2000. [23] A. Hinneburg and D. A. Keim, ‘‘Optimal grid-clustering: Towards breaking
the curse of dimensionality in high-dimensional clustering,’’ in Proc. Int. Conf. Very Large Data Bases, 1999. [24] C. Faloutsos, M. Ranganathan, and Y. Manolopoulos, ‘‘Fast subsequence
matching in time-series databases,’’ ACM SIGMOD Rec., vol. 23, no. 2,
pp. 419–429, Jun. 1994. [25] K. Chan and A. W. Fu, ‘‘Efficient time series matching by wavelets,’’ in
Proc. Int. Conf. Data Eng., 1999, pp. 126–133. 177862 VOLUME 7, 2019 D. Li et al.: Time-Series Representation and Clustering Approaches for Sharing Bike Usage Mining [26] E. Keogh, K. Chakrabarti, M. Pazzani, and S. Mehrotra, ‘‘Dimensionality
reduction for fast similarity search in large time series databases,’’ Knowl. Inf. Syst., vol. 3, no. 3, pp. 263–286, 2001. [42] S. Aghabozorgi, A. S. Shirkhorshidi, and T. Y. Wah, ‘‘Time-series
clustering—A decade review,’’ Inf. Syst., vol. 53, pp. 16–38, 2015. [43] J. Paparrizos and L. Gravano, ‘‘K-shape: Efficient and accurate clustering
of time series,’’ in Proc. ACM SIGMOD Int. Conf. Manage. Data, 2015,
pp. 69–76. [27] E. Keogh, K. Chakrabarti, M. J. Pazzani, and S. Mehrotra, ‘‘Locally adap-
tive dimensionality reduction for indexing large time series databases,’’ in
Proc. Int. Conf. Manage. Data, 2001, vol. 30, no. 2, pp. 151–162. [28] Y. Cai and R. T. Ng, ‘‘Indexing spatio-temporal trajectories with
Chebyshev polynomials,’’ in Proc. Int. Conf. Manage. Data, 2004,
pp. 599–610. VI. SUMMARY AND CONCLUSION DUO LI received the B.S. degree in civil engi-
neering from the Huazhong University of Sci-
ence and Technology, Wuhan, China, in 2010,
the M.S. degree in civil engineering from the Uni-
versity of Queensland, Brisbane, QLD, Australia,
in 2011, and the Ph.D. degree in traffic engineering
from the University of Auckland, Auckland, New
Zealand, in 2015. [29] J. Lin, E. Keogh, L. Wei, and S. Lonardi, ‘‘Experiencing SAX: A novel
symbolic representation of time series,’’ Data Mining Knowl. Discovery,
vol. 15, no. 2, pp. 107–144, 2007. [30] K. P. Chan and W. C. Fu, ‘‘Efficient time series matching by wavelets,’’ in
Proc. Int. Conf. Data Eng., 1999. [31] H. Sakoe and S. Chiba, ‘‘Dynamic programming algorithm optimization
for spoken word recognition,’’ IEEE Trans. Acoust., Speech, Signal Pro-
cess., vol. 26, no. 1, pp. 43–49, Feb. 1978. Since 2018, he has been a Humboldt Fellow
with the Institute of Traffic Systems, German
Aerospace Center (DLR). Since 2015, he has been a Lecturer with the
Highway School, Chang’an University. Since 2018, he has been a Humboldt Fellow
with the Institute of Traffic Systems, German
Aerospace Center (DLR). Since 2015, he has been a Lecturer with the
Highway School, Chang’an University. [32] F. Petitjean, A. Ketterlin, and P. Gançarski, ‘‘A global averaging method for
dynamic time warping, with applications to clustering,’’ Pattern Recognit.,
vol. 44, no. 3, pp. 678–693, Mar. 2011. [33] L. Kaufman and P. J. Rousseeuw, Finding Groups in Data: An Introduction
to Cluster Analysis. Hoboken, NJ, USA: Wiley, 2009. [34] G. Sheikholeslami,
S. Chatterjee,
and
A. Zhang,
‘‘WaveCluster:
A multi-resolution clustering approach for very large spatial databases,’’
Tech. Rep., 1998. YIFEI ZHAO received the B.S., M.S., and Ph.D. degrees from Chang’an University, Xi’an, China,
in 1990, 1998, and 2009, respectively. From 1990 to 2003, he was a Lecturer with the
Highway School, Chang’an University, where he
has been an Associate Professor, since 2003. YIFEI ZHAO received the B.S., M.S., and Ph.D. degrees from Chang’an University, Xi’an, China,
in 1990, 1998, and 2009, respectively. p
[35] W. Wei, J. Yang, and R. R. Muntz, ‘‘STING: A statistical information grid
approach to spatial data mining,’’ presented at the Proc. 23rd Very Large
Database Conf., 1997. From 1990 to 2003, he was a Lecturer with the
Highway School, Chang’an University, where he
has been an Associate Professor, since 2003. [36] D. H. Fisher, ‘‘Knowledge acquisition via incremental conceptual cluster-
ing,’’ Mach. VI. SUMMARY AND CONCLUSION Learn., vol. 2, no. 2, pp. 139–172, 1987. [37] T. Kohonen, ‘‘The self-organizing map,’’ Proc. IEEE, vol. 78, no. 9,
pp. 1464–1480, Sep. 1990. [38] M. Ankerst, M. M. Breunig, H. P. Kriegel, and J. Sander, ‘‘OPTICS: Order-
ing points to identify the clustering structure,’’ in Proc. ACM SIGMOD Int. Conf. Manage. Data, 1999. [39] M. Ester, H.-P. Kriegel, J. Sander, and X. Xu, ‘‘A density-based algorithm
for discovering clusters a density-based algorithm for discovering clusters
in large spatial databases with noise,’’ in Proc. Int. Conf. Knowl. Discovery
Data Mining, 1996. YAN LI received the B.S. and Ph.D. degrees from
Southeast University, Nanjing, China, in 2006 and
2011, respectively. From 2011 to 2013, he was a Lecturer with
the Highway School, Chang’an University, where
he has been an Associate Professor, since 2013. He was a Visiting Scholar with the University of
California at Davis, from 2017 to 2018. From 2011 to 2013, he was a Lecturer with
the Highway School, Chang’an University, where
he has been an Associate Professor, since 2013. He was a Visiting Scholar with the University of
California at Davis, from 2017 to 2018. [40] S. Aghabozorgi, W. T. Ying, T. Herawan, H. A. Jalab, M. A. Shaygan,
and A. Jalali, ‘‘A hybrid algorithm for clustering of time series data
based on affinity search technique,’’ Sci. World J., vol. 2014, no. 3, 2014,
Art. no. 562194. [41] C.-P. Lai, P.-C. Chung, and V. S. Tseng, ‘‘A novel two-level clustering
method for time series data analysis,’’ Expert Syst. Appl., vol. 37, no. 9,
pp. 6319–6326, 2010. 177863 VOLUME 7, 2019
|
https://openalex.org/W4375857190
|
https://www.researchsquare.com/article/rs-2611202/latest.pdf
|
English
| null |
Summer precipitation and wildfire changes in Siberia induced by stratospheric ozone
|
Research Square (Research Square)
| 2,023
|
cc-by
| 11,346
|
Keywords: Posted Date: May 8th, 2023 DOI: https://doi.org/10.21203/rs.3.rs-2611202/v2 DOI: https://doi.org/10.21203/rs.3.rs-2611202/v2 License: This work is licensed under a Creative Commons Attribution 4.0 International License. Read Full License License: This work is licensed under a Creative Commons Attribution 4.0 International License. Read Full License Additional Declarations: There is NO Competing Interest. Summer precipitation and wildfire changes in Siberia
induced by stratospheric ozone Fei Xie1*, Yan Xia1*, Wenshou Tian2, Martyn P. Chipperfield3,4, Wuhu Feng3,5, Ke
Gui6, Yingli Niu1, Na Liu1, and Yuanyuan Han7
1School of Systems Science / College of Global Change and Earth System Science, Beijing Normal
University, Beijing, China. 2Key Laboratory for Semi-Arid Climate Change of the Ministry of Education, College of
Atmospheric Sciences, Lanzhou University, Lanzhou, China. 3School of Earth and Environment, University of Leeds, Leeds, UK
4National Centre for Earth Observation, University of Leeds, Leeds, UK
5National Centre for Atmospheric Science, University of Leeds, Leeds, UK. 6State Key Laboratory of Severe Weather & Key Laboratory of Atmospheric Chemistry of CMA,
Chinese Academy of Meteorological Sciences, Beijing, 100081, China
7Key Laboratory of Textile Chemical Engineering Auxiliaries, School of Environmental and
Chemical Engineering, Xi'an Polytechnic University, Xi'an, China. To be submitted as an article to Nature
* Corresponding authors:
Dr. Fei Xie (xiefei@lzu.edu.cn) Abstract
1 Summer precipitation variations substantially impact food production and
2
wildfire frequency in Siberia, exhibiting trends of decrease, increase, and
3
subsequent decrease in recent decades. Nonetheless, the external factors
4
contributing to these long-term precipitation patterns remain unclear. Our
5
findings reveal a strong connection between stratospheric ozone changes and
6
summer precipitation in Siberia, as evident in both observations and simulations. 7
An increase in the lowermost stratospheric ozone results in the heating of the
8
upper troposphere and lower stratosphere (UTLS) in mid-high latitudes during
9
summer. This warming effect prompts divergence in the upper troposphere,
10
accelerating polar circulation and subsequently promoting convergence and
11
upwelling in the lower troposphere, favoring more precipitation. The 20% rise in
12
stratospheric ozone between 1990 and 2010 may account for approximately 50%
13
of the increase in precipitation in Siberia, while the post-2010 decline in ozone
14
could be responsible for the heightened incidence of wildfires in recent years due
15
to inhibit precipitation. 16 1
Summer precipitation variations substantially impact food production and
2
wildfire frequency in Siberia, exhibiting trends of decrease, increase, and
3
subsequent decrease in recent decades. Nonetheless, the external factors
4
contributing to these long-term precipitation patterns remain unclear. Our
5
findings reveal a strong connection between stratospheric ozone changes and
6
summer precipitation in Siberia, as evident in both observations and simulations. 7
An increase in the lowermost stratospheric ozone results in the heating of the
8
upper troposphere and lower stratosphere (UTLS) in mid-high latitudes during
9
summer. This warming effect prompts divergence in the upper troposphere,
10
accelerating polar circulation and subsequently promoting convergence and
11
upwelling in the lower troposphere, favoring more precipitation. The 20% rise in
12
stratospheric ozone between 1990 and 2010 may account for approximately 50%
13
of the increase in precipitation in Siberia, while the post-2010 decline in ozone
14
could be responsible for the heightened incidence of wildfires in recent years due
15
to inhibit precipitation. 16
17
Main
18
Siberia holds significant importance as a major food production region and has
19
experienced a high occurrence of wildfires in recent years1,2. Summer precipitation in
20
Siberia (Fig. 1a) is a critical factor affecting food production and wildfire frequency,
21
thereby carrying substantial economic, ecological, agricultural, and climatic
22
implications. Abstract
1 Earlier research has indicated that local low-pressure systems primarily
23
drive precipitation fluctuations in Siberia 3 7 . cccording to comprehensive and
24
continuous GPCC observations, Siberian precipitation exhibits multi-decadal
25 p
p
17
Main
18
Siberia holds significant importance as a major food production region and has
19
experienced a high occurrence of wildfires in recent years1,2. Summer precipitation in
20
Siberia (Fig. 1a) is a critical factor affecting food production and wildfire frequency,
21
thereby carrying substantial economic, ecological, agricultural, and climatic
22
implications. Earlier research has indicated that local low-pressure systems primarily
23
drive precipitation fluctuations in Siberia 3 7 . cccording to comprehensive and
24
continuous GPCC observations, Siberian precipitation exhibits multi-decadal
25 1 variations, with a decreasing trend from 1985 to 1993, an increasing trend from 1993
26
to 2010, and a resumption of the decreasing trend after 2010 (Fig. 1b). However, the
27
external influences that determine the long-term alterations in local convection and
28
precipitation remain unclear. 29 Since the 1960s, the stratospheric ozone layer has experienced depletion due to
30
human-induced emissions of chlorofluorocarbons (CFCs) and other chlorine- and
31
bromine-based substances8. With the implementation of the Montreal Protocol (MP) in
32
1987, stratospheric ozone has started to recuperate, and this recovery is anticipated to
33
persist9 10. In the mid-high latitudes of the Northern Hemisphere, ozone demonstrates
34
a noticeable decline from 1960 to 1993, followed by a recovery post-199311 13, but has
35
started to decrease once more since 201014 16. It is worth emphasizing that the long-
36
term relative changes in stratospheric ozone closely resemble those of summer
37
precipitation in Siberia (Fig. 1b and 1c), indicating a potential correlation between
38
stratospheric ozone and precipitation changes. 39 Since the 1960s, the stratospheric ozone layer has experienced depletion due to
30
human-induced emissions of chlorofluorocarbons (CFCs) and other chlorine- and
31
bromine-based substances8. With the implementation of the Montreal Protocol (MP) in
32
1987, stratospheric ozone has started to recuperate, and this recovery is anticipated to
33
persist9 10. In the mid-high latitudes of the Northern Hemisphere, ozone demonstrates
34
a noticeable decline from 1960 to 1993, followed by a recovery post-199311 13, but has
35
started to decrease once more since 201014 16. It is worth emphasizing that the long-
36
term relative changes in stratospheric ozone closely resemble those of summer
37
precipitation in Siberia (Fig. Abstract
1 1b and 1c), indicating a potential correlation between
38
stratospheric ozone and precipitation changes. 39 Previous studies have identified the influence of stratospheric ozone changes on
40
the climate of the Southern Hemisphere17 20. Lately, a few studies have also explored
41
the impact of stratospheric ozone alterations on the Northern Hemisphere’s climate
42
during spring 21 32 . In the mid-high latitudes of the Northern Hemisphere, the
43
atmospheric heating rates generated by solar radiation absorption by ozone are
44
considerably more potent in summer than in spring. Consequently, stratospheric ozone
45
changes in summer, which effectively regulate the temperature in the upper troposphere
46
and lower stratosphere (UTLS), may impact the tropospheric climate through
47
thermodynamic and dynamic mechanisms. 48 Stratospheric ozone changes on summer precipitation in Siberia
50 2 3
The intensity of precipitation is connected to the development of rain clouds. 51
Intriguingly, our findings reveal a significant positive correlation between total cloud
52
variations over Siberia and the upper troposphere and lower stratosphere (UTLS)
53
temperature (approximately 200 hPa at high latitudes) during summer (Fig. 1d). We
54
also discover a negative correlation between UTLS temperature changes and high cloud
55
cover over Siberia (Extended Data Fig. 1a), as well as a positive correlation with low-
56
medium cloud cover (Extended Data Fig. 1b). This suggests that UTLS warming
57
corresponds to a reduction in high clouds and an increase in low-medium clouds, which
58
tends to intensify precipitation in Siberia. In line with previous studies33,34, an elevation
59
in UTLS temperature heightens atmospheric stability in the upper troposphere and
60
diminishes ascending motion, resulting in a decrease in high clouds (Extended Data Fig. 61
1a). 62
During summer, the climatological polar circulation (averaged from 60° 180°E)
63
ascends around 65°N and descends near 75°N (black arrows in Extended Data Fig. 2a). 64
Upper tropospheric warming-induced divergence accelerates polar circulation,
65
resembling the convective instability of the second kind (CISK) mechanism 35 ,
66
subsequently strengthening upwelling and downwelling close to 65°N and 75°N in the
67
troposphere. Furthermore, the hastened polar circulation enhances the northward
68
movement of warm, moist air from central Eurasia and the southward flow of cold, dry
69
air from higher latitudes into Siberia. This dynamic promotes the formation of low- and
70
medium-level clouds near 65°N (Extended Data Fig. 1b). Extended Data Fig. Abstract
1 1e), as the UTLS temperature over
84
Eurasia is primarily influenced by the radiative heating of lowermost stratospheric
85
ozone in summer (Extended Data Fig. 3)33,34,36. UTLS warming is connected to the
86
enhancement of polar circulation (Fig. 1f). The amplified polar circulation, associated
87
with stratospheric ozone, results in increased precipitation in Siberia (Fig. 1g). 88 Fig. 2c). 77
Fig. 1e g displays the normalized time series of the regional average of lowermost
78
stratospheric ozone, UTLS temperature, vertical velocity, and precipitation over Siberia
79
during summer from 1985 to 2020. We observe significant correlations between the
80
variations of lowermost stratospheric ozone and UTLS temperature (Fig. 1e), UTLS
81
temperature and vertical velocity (Fig. 1f), as well as vertical velocity and precipitation
82
(Fig. 1g). cn increase in stratospheric ozone in the Northern Hemisphere during
83
summer leads to UTLS warming over Siberia (Fig. 1e), as the UTLS temperature over
84
Eurasia is primarily influenced by the radiative heating of lowermost stratospheric
85
ozone in summer (Extended Data Fig. 3)33,34,36. UTLS warming is connected to the
86
enhancement of polar circulation (Fig. 1f). The amplified polar circulation, associated
87
with stratospheric ozone, results in increased precipitation in Siberia (Fig. 1g). 88 Abstract
1 1e g displays the normalized time series of the regional average of lowermost
78
stratospheric ozone, UTLS temperature, vertical velocity, and precipitation over Siberia
79
during summer from 1985 to 2020. We observe significant correlations between the
80
variations of lowermost stratospheric ozone and UTLS temperature (Fig. 1e), UTLS
81
temperature and vertical velocity (Fig. 1f), as well as vertical velocity and precipitation
82
(Fig. 1g). cn increase in stratospheric ozone in the Northern Hemisphere during
83
summer leads to UTLS warming over Siberia (Fig. 1e), as the UTLS temperature over
84
Eurasia is primarily influenced by the radiative heating of lowermost stratospheric
85
ozone in summer (Extended Data Fig. 3)33,34,36. UTLS warming is connected to the
86
enhancement of polar circulation (Fig. 1f). The amplified polar circulation, associated
87
with stratospheric ozone, results in increased precipitation in Siberia (Fig. 1g). 88
89
Results of numerical experiments
90
Utilizing SWOOSH data, the maximum rise in lowermost stratospheric ozone at
91
northern high latitudes was approximately 20% from the 1990s to the 2010s (Fig. 1c). 92
In this timeframe, summer precipitation increased by around 10 mm/month in most
93
areas (Extended Data Fig. 4a), and UTLS warming reached about 0.6 K (Extended Data
94
Fig. 4b). The augmentations in precipitation and UTLS warming exhibit strong spatial
95
consistency. 96
To investigate the influence of stratospheric ozone on summer precipitation in
97
Siberia, we conducted sensitivity experiments using CESM-WcCCM (Extended Data
98
Table 1) with a prescribed 20% increase in stratospheric ozone. Figure 2a c and
99
Extended Data Fig. 5 display the simulated responses of precipitation, temperature,
100 southward meridional wind at higher latitudes in the lower atmosphere (Extended Data
76
Fig. 2c). 77 southward meridional wind at higher latitudes in the lower atmosphere (Extended Data
76
Fig. 2c). 77
Fig. 1e g displays the normalized time series of the regional average of lowermost
78
stratospheric ozone, UTLS temperature, vertical velocity, and precipitation over Siberia
79
during summer from 1985 to 2020. We observe significant correlations between the
80
variations of lowermost stratospheric ozone and UTLS temperature (Fig. 1e), UTLS
81
temperature and vertical velocity (Fig. 1f), as well as vertical velocity and precipitation
82
(Fig. 1g). cn increase in stratospheric ozone in the Northern Hemisphere during
83
summer leads to UTLS warming over Siberia (Fig. Abstract
1 2b c
71
presents the connections between UTLS temperature and omega/meridional wind
72
changes during summer. It seems that UTLS warming is linked to intensified
73
upwelling/downwelling near 65°N and 75°N in the lower atmosphere (Extended Data
74
Fig. 2b) and an increase in northward meridional wind in central Eurasia, as well as
75 The intensity of precipitation is connected to the development of rain clouds. 51
Intriguingly, our findings reveal a significant positive correlation between total cloud
52
variations over Siberia and the upper troposphere and lower stratosphere (UTLS)
53
temperature (approximately 200 hPa at high latitudes) during summer (Fig. 1d). We
54
also discover a negative correlation between UTLS temperature changes and high cloud
55
cover over Siberia (Extended Data Fig. 1a), as well as a positive correlation with low-
56
medium cloud cover (Extended Data Fig. 1b). This suggests that UTLS warming
57
corresponds to a reduction in high clouds and an increase in low-medium clouds, which
58
tends to intensify precipitation in Siberia. In line with previous studies33,34, an elevation
59
in UTLS temperature heightens atmospheric stability in the upper troposphere and
60
diminishes ascending motion, resulting in a decrease in high clouds (Extended Data Fig. 61
1a). 62 The intensity of precipitation is connected to the development of rain clouds. 51
Intriguingly, our findings reveal a significant positive correlation between total cloud
52
variations over Siberia and the upper troposphere and lower stratosphere (UTLS)
53
temperature (approximately 200 hPa at high latitudes) during summer (Fig. 1d). We
54
also discover a negative correlation between UTLS temperature changes and high cloud
55
cover over Siberia (Extended Data Fig. 1a), as well as a positive correlation with low-
56
medium cloud cover (Extended Data Fig. 1b). This suggests that UTLS warming
57
corresponds to a reduction in high clouds and an increase in low-medium clouds, which
58
tends to intensify precipitation in Siberia. In line with previous studies33,34, an elevation
59
in UTLS temperature heightens atmospheric stability in the upper troposphere and
60
diminishes ascending motion, resulting in a decrease in high clouds (Extended Data Fig. 61
1a). 62 51 3 southward meridional wind at higher latitudes in the lower atmosphere (Extended Data
76
Fig. 2c). 77
Fig. Results of numerical experiments
90 5c), and promote
108
the development of low and medium clouds close to 60°N (Extended Data Fig. 5d). 109 shortwave heating rate, omega, meridional wind, and cloud to a 20% ozone increase in
101
the Northern Hemisphere during summer. We discover that a rise in ozone results in a
102
substantial increase in summer precipitation in Siberia (Fig. 2a), which correlates with
103
significant warming in the UTLS region (Fig. 2b) and enhanced atmospheric shortwave
104
heating (Fig. 2c). The UTLS warming is observed to intensify upwelling near 60°N in
105
the troposphere (Extended Data Fig. 5a), increase northward meridional wind in central
106
Eurasia and southward meridional wind at higher latitudes in the lower troposphere
107
(Extended Data Fig. 5b), decrease high clouds (Extended Data Fig. 5c), and promote
108
the development of low and medium clouds close to 60°N (Extended Data Fig. 5d). 109 By comparing Fig. 2a c and Extended Data Fig. 5 with Extended Data Figs. 1 4,
110
it becomes clear that the sensitivity experiment outcomes align well with the observed
111
findings, supporting the hypothesis that stratospheric ozone variations influence
112
summer precipitation in Siberia. This also suggests that a 20% increase in lowermost
113
stratospheric ozone results in ~0.6 K UTLS warming and a 4 5 mm/month precipitation
114
increase, indicating that the ozone increase may have contributed to approximately half
115
of the summer precipitation increase in Siberia from 1990 to 2010. It is important to
116
note that the simulated positive precipitation anomalies (Fig. 2a) are more southerly
117
than the observed results (Extended Data Fig. 4a), which might be due to the simulated
118
multi-year average ascending branch of the polar circulation (Extended Data Fig. 6)
119
being more southerly than the observed outcome (Extended Data Fig. 2a). 120 Stratospheric ozone changes are likely to significantly impact summer
121
precipitation over the past three decades. Consequently, it is intriguing to examine the
122
potential contribution of projected stratospheric ozone recovery to future precipitation
123
changes. Fig. 2d e presents normalized time series of the averaged lowermost
124
stratospheric ozone, UTLS temperature, and precipitation over Siberia during summer
125 Stratospheric ozone changes are likely to significantly impact summer
121
precipitation over the past three decades. Consequently, it is intriguing to examine the
122
potential contribution of projected stratospheric ozone recovery to future precipitation
123
changes. Fig. Results of numerical experiments
90 Utilizing SWOOSH data, the maximum rise in lowermost stratospheric ozone at
91
northern high latitudes was approximately 20% from the 1990s to the 2010s (Fig. 1c). 92
In this timeframe, summer precipitation increased by around 10 mm/month in most
93
areas (Extended Data Fig. 4a), and UTLS warming reached about 0.6 K (Extended Data
94
Fig. 4b). The augmentations in precipitation and UTLS warming exhibit strong spatial
95
consistency. 96
To investigate the influence of stratospheric ozone on summer precipitation in
97
Siberia, we conducted sensitivity experiments using CESM-WcCCM (Extended Data
98
Table 1) with a prescribed 20% increase in stratospheric ozone. Figure 2a c and
99
Extended Data Fig. 5 display the simulated responses of precipitation, temperature,
100 Utilizing SWOOSH data, the maximum rise in lowermost stratospheric ozone at
91
northern high latitudes was approximately 20% from the 1990s to the 2010s (Fig. 1c). 92
In this timeframe, summer precipitation increased by around 10 mm/month in most
93
areas (Extended Data Fig. 4a), and UTLS warming reached about 0.6 K (Extended Data
94
Fig. 4b). The augmentations in precipitation and UTLS warming exhibit strong spatial
95
consistency. 96 Utilizing SWOOSH data, the maximum rise in lowermost stratospheric ozone at
91
northern high latitudes was approximately 20% from the 1990s to the 2010s (Fig. 1c). 92
In this timeframe, summer precipitation increased by around 10 mm/month in most
93
areas (Extended Data Fig. 4a), and UTLS warming reached about 0.6 K (Extended Data
94
Fig. 4b). The augmentations in precipitation and UTLS warming exhibit strong spatial
95
consistency. 96 To investigate the influence of stratospheric ozone on summer precipitation in
97
Siberia, we conducted sensitivity experiments using CESM-WcCCM (Extended Data
98
Table 1) with a prescribed 20% increase in stratospheric ozone. Figure 2a c and
99
Extended Data Fig. 5 display the simulated responses of precipitation, temperature,
100 To investigate the influence of stratospheric ozone on summer precipitation in
97
Siberia, we conducted sensitivity experiments using CESM-WcCCM (Extended Data
98
Table 1) with a prescribed 20% increase in stratospheric ozone. Figure 2a c and
99
Extended Data Fig. 5 display the simulated responses of precipitation, temperature,
100 shortwave heating rate, omega, meridional wind, and cloud to a 20% ozone increase in
101
the Northern Hemisphere during summer. We discover that a rise in ozone results in a
102
substantial increase in summer precipitation in Siberia (Fig. Results of numerical experiments
90 2a), which correlates with
103
significant warming in the UTLS region (Fig. 2b) and enhanced atmospheric shortwave
104
heating (Fig. 2c). The UTLS warming is observed to intensify upwelling near 60°N in
105
the troposphere (Extended Data Fig. 5a), increase northward meridional wind in central
106
Eurasia and southward meridional wind at higher latitudes in the lower troposphere
107
(Extended Data Fig. 5b), decrease high clouds (Extended Data Fig. 5c), and promote
108
the development of low and medium clouds close to 60°N (Extended Data Fig. 5d). 109
By comparing Fig. 2a c and Extended Data Fig. 5 with Extended Data Figs. 1 4,
110
it becomes clear that the sensitivity experiment outcomes align well with the observed
111
findings, supporting the hypothesis that stratospheric ozone variations influence
112
summer precipitation in Siberia. This also suggests that a 20% increase in lowermost
113
stratospheric ozone results in ~0.6 K UTLS warming and a 4 5 mm/month precipitation
114
increase, indicating that the ozone increase may have contributed to approximately half
115
of the summer precipitation increase in Siberia from 1990 to 2010. It is important to
116
note that the simulated positive precipitation anomalies (Fig. 2a) are more southerly
117
than the observed results (Extended Data Fig. 4a), which might be due to the simulated
118
multi-year average ascending branch of the polar circulation (Extended Data Fig. 6)
119
being more southerly than the observed outcome (Extended Data Fig. 2a). 120
Stratospheric ozone changes are likely to significantly impact summer
121
precipitation over the past three decades. Consequently, it is intriguing to examine the
122
potential contribution of projected stratospheric ozone recovery to future precipitation
123
h
Fi
2d
t
li
d ti
i
f th
d l
t
124 shortwave heating rate, omega, meridional wind, and cloud to a 20% ozone increase in
101
the Northern Hemisphere during summer. We discover that a rise in ozone results in a
102
substantial increase in summer precipitation in Siberia (Fig. 2a), which correlates with
103
significant warming in the UTLS region (Fig. 2b) and enhanced atmospheric shortwave
104
heating (Fig. 2c). The UTLS warming is observed to intensify upwelling near 60°N in
105
the troposphere (Extended Data Fig. 5a), increase northward meridional wind in central
106
Eurasia and southward meridional wind at higher latitudes in the lower troposphere
107
(Extended Data Fig. 5b), decrease high clouds (Extended Data Fig. Results of numerical experiments
90 2f g further displays the normalized changes in lowermost stratospheric
130
ozone, UTLS temperature, and precipitation over Siberia during summer from 2015 to
131
2055, based on a single experiment (r1i1p1f1) from the CMIP6 future projections of
132
CESM-WcCCM (Extended Data Table 2). The stratospheric recovery is connected
133
with positive trends in UTLS temperature and precipitation from 2015 to 2055 in
134
summer. The correlation coefficients between lowermost stratospheric ozone/UTLS
135
temperature and UTLS temperature/precipitation reach around 0.41/0.61, suggesting
136
that future precipitation increases in Siberia are strongly linked to stratospheric ozone
137
recovery. 138 Fig. 2f g further displays the normalized changes in lowermost stratospheric
130
ozone, UTLS temperature, and precipitation over Siberia during summer from 2015 to
131
2055, based on a single experiment (r1i1p1f1) from the CMIP6 future projections of
132
CESM-WcCCM (Extended Data Table 2). The stratospheric recovery is connected
133
with positive trends in UTLS temperature and precipitation from 2015 to 2055 in
134
summer. The correlation coefficients between lowermost stratospheric ozone/UTLS
135
temperature and UTLS temperature/precipitation reach around 0.41/0.61, suggesting
136
that future precipitation increases in Siberia are strongly linked to stratospheric ozone
137
recovery. 138 Fig. 2f g further displays the normalized changes in lowermost stratospheric
130
ozone, UTLS temperature, and precipitation over Siberia during summer from 2015 to
131
2055, based on a single experiment (r1i1p1f1) from the CMIP6 future projections of
132
CESM-WcCCM (Extended Data Table 2). The stratospheric recovery is connected
133
with positive trends in UTLS temperature and precipitation from 2015 to 2055 in
134
summer. The correlation coefficients between lowermost stratospheric ozone/UTLS
135
temperature and UTLS temperature/precipitation reach around 0.41/0.61, suggesting
136
that future precipitation increases in Siberia are strongly linked to stratospheric ozone
137
recovery. 138 It is important to note that the future increasing trend of summer precipitation over
139
Siberia cannot be solely attributed to ozone recovery, as global warming will also make
140
Northern Eurasia more humid37 40 . To separate the influence of ozone recovery on
141
precipitation in Siberia in the projection simulations, we conducted a transient
142
experiment TE1 using CESM-WcCCM (Extended Data Table 3). The TE1 experiment
143
was carried out with fixed stratospheric ozone in the Northern Hemisphere but with
144
increasing CO2 concentration under the RCP45 scenario (i.e., the ozone concentration
145
remains at the year-2005 level and does not recover over time in the future). Fig. Results of numerical experiments
90 2d e presents normalized time series of the averaged lowermost
124
stratospheric ozone, UTLS temperature, and precipitation over Siberia during summer
125 5 from 2015 to 2055, based on the multi-model ensemble average of CMIP6 projection
126
simulations (9 models and 32 ensemble experiments; Extended Data Table 2). The
127
summer ozone recovery persists throughout the first half of the 21st century, coinciding
128
with UTLS warming and precipitation increase over Siberia (Fig. 2d e). 129 simulations (9 models and 32 ensemble experiments; Extended Data Table 2). The
127
summer ozone recovery persists throughout the first half of the 21st century, coinciding
128
with UTLS warming and precipitation increase over Siberia (Fig. 2d e). 129
Fig. 2f g further displays the normalized changes in lowermost stratospheric
130
ozone, UTLS temperature, and precipitation over Siberia during summer from 2015 to
131
2055, based on a single experiment (r1i1p1f1) from the CMIP6 future projections of
132
CESM-WcCCM (Extended Data Table 2). The stratospheric recovery is connected
133
with positive trends in UTLS temperature and precipitation from 2015 to 2055 in
134
summer. The correlation coefficients between lowermost stratospheric ozone/UTLS
135
temperature and UTLS temperature/precipitation reach around 0.41/0.61, suggesting
136
that future precipitation increases in Siberia are strongly linked to stratospheric ozone
137
recovery. 138
It is important to note that the future increasing trend of summer precipitation over
139
Siberia cannot be solely attributed to ozone recovery, as global warming will also make
140
Northern Eurasia more humid37 40 . To separate the influence of ozone recovery on
141
precipitation in Siberia in the projection simulations, we conducted a transient
142
experiment TE1 using CESM-WcCCM (Extended Data Table 3). The TE1 experiment
143
was carried out with fixed stratospheric ozone in the Northern Hemisphere but with
144
increasing CO2 concentration under the RCP45 scenario (i.e., the ozone concentration
145
remains at the year-2005 level and does not recover over time in the future). Fig. 2h i
146
presents the time series of UTLS temperature and precipitation during summer based
147
on the TE1 experiment. In contrast to the long-term UTLS warming and precipitation
148
increase in the standard experiment of CESM-WcCCM (red and gray lines in Fig. 2h
149
i), the summer UTLS temperature and precipitation over Siberia from 2015 to 2055
150 Fig. Results of numerical experiments
90 2h i
146
presents the time series of UTLS temperature and precipitation during summer based
147
on the TE1 experiment. In contrast to the long-term UTLS warming and precipitation
148
increase in the standard experiment of CESM-WcCCM (red and gray lines in Fig. 2h
149
i), the summer UTLS temperature and precipitation over Siberia from 2015 to 2055
150 It is important to note that the future increasing trend of summer precipitation over
139
Siberia cannot be solely attributed to ozone recovery, as global warming will also make
140
Northern Eurasia more humid37 40 . To separate the influence of ozone recovery on
141
precipitation in Siberia in the projection simulations, we conducted a transient
142
experiment TE1 using CESM-WcCCM (Extended Data Table 3). The TE1 experiment
143
was carried out with fixed stratospheric ozone in the Northern Hemisphere but with
144
increasing CO2 concentration under the RCP45 scenario (i.e., the ozone concentration
145
remains at the year-2005 level and does not recover over time in the future). Fig. 2h i
146
presents the time series of UTLS temperature and precipitation during summer based
147
on the TE1 experiment. In contrast to the long-term UTLS warming and precipitation
148
increase in the standard experiment of CESM-WcCCM (red and gray lines in Fig. 2h
149
i), the summer UTLS temperature and precipitation over Siberia from 2015 to 2055
150 6 exhibit non-increasing long-term trends in the TE1 experiment of CESM-WcCCM
151
with fixed stratospheric ozone (purple lines, Fig. 2h and i). This finding suggests that
152
stratospheric ozone recovery in summer also plays a significant role in modulating
153
future summer precipitation in Siberia. 154 exhibit non-increasing long-term trends in the TE1 experiment of CESM-WcCCM
151
with fixed stratospheric ozone (purple lines, Fig. 2h and i). This finding suggests that
152
stratospheric ozone recovery in summer also plays a significant role in modulating
153
future summer precipitation in Siberia. 154 Stratospheric ozone and wildfires over Siberia after 2010
156 3e−g reveals a significant negative correlation between the burned
177
area of wildfires and ozone changes from 2001 to 2021 during summer over central
178
Siberia. Overall, stratospheric ozone reduction after 2010 may be a crucial factor in the
179
high frequency of summer wildfires in Siberia by suppressing precipitation. This
180
finding also helps explain the changes in the polar jet over the past decade, which is
181
believed to influence recent Siberian wildfires1. 182 precision horizontal distribution, total ozone column data is used instead in Extended
176
Data Fig. 7a. Fig. 3e−g reveals a significant negative correlation between the burned
177
area of wildfires and ozone changes from 2001 to 2021 during summer over central
178
Siberia. Overall, stratospheric ozone reduction after 2010 may be a crucial factor in the
179
high frequency of summer wildfires in Siberia by suppressing precipitation. This
180
finding also helps explain the changes in the polar jet over the past decade, which is
181
believed to influence recent Siberian wildfires1. 182 Stratospheric ozone and wildfires over Siberia after 2010
156 In the past two decades, boreal wildfires have released significant amounts of
157
carbon in boreal North cmerica (60 TgC year−1) and csia (124 TgC year−1)41. These
158
wildfires are speeding up permafrost thaw42 and transforming crctic and boreal lands
159
from carbon sinks to carbon sources43 ,44 . In addition, wildfire aerosols are causing
160
changes in stratospheric ozone45 . Central Siberia (100° 130°E and 60° 65°N) is a
161
primary region for summer wildfires (Fig. 3a−c). In recent years, Siberia has
162
experienced a high frequency of summer wildfires1,2. It is widely recognized that
163
precipitation, along with surface temperature, plays a crucial role in influencing wildfire
164
frequency by affecting soil moisture. Based on the above analysis, it is straightforward
165
to associate stratospheric ozone changes with the incidence of wildfires by impacting
166
summer precipitation over Siberia. 167 Fig. 3d displays the normalized time series of the regional average of MODIS
168
burned area of wildfires, inverse precipitation, and inverse UTLS temperature over
169
Siberia from 2001 to 2021. It’s clear that the increase in wildfires after 2010 in Siberia
170
coincides with the renewed decline in precipitation and ozone-related UTLS cooling. 171
The ozone depletion (Extended Data Fig. 7a) over Siberia leads to UTLS cooling and a
172
decrease in precipitation (Extended Data Fig. 7b and 7c) from 2010 to 2020. 173
Consequently, this results in drier soil (Extended Data Fig. 7d), which promotes wildfire
174
occurrence. Due to numerous missing values in the observed ozone profile for high-
175 7
Fig. 3d displays the normalized time series of the regional average of MODIS
168
burned area of wildfires, inverse precipitation, and inverse UTLS temperature over
169
Siberia from 2001 to 2021. It’s clear that the increase in wildfires after 2010 in Siberia
170
coincides with the renewed decline in precipitation and ozone-related UTLS cooling. 171
The ozone depletion (Extended Data Fig. 7a) over Siberia leads to UTLS cooling and a
172
decrease in precipitation (Extended Data Fig. 7b and 7c) from 2010 to 2020. 173
Consequently, this results in drier soil (Extended Data Fig. 7d), which promotes wildfire
174
occurrence. Due to numerous missing values in the observed ozone profile for high-
175 7 precision horizontal distribution, total ozone column data is used instead in Extended
176
Data Fig. 7a. Fig. Discussion and Conclusion
184 Utilizing
multi-source
observations,
sensitivity
experiments,
transient
185
experiments, and CMIP6 multi-model outputs, we discover that stratospheric ozone in
186
the Northern Hemisphere significantly influences summer precipitation in Siberia. 187
cccording to the analyzed datasets, a 20% increase in stratospheric ozone from 1990
188
to 2010 may account for approximately 50% of the increase in summer precipitation
189
over Siberia. Meanwhile, the declining trend in ozone after 2010 might have led to a
190
higher frequency of wildfires in Siberia in recent years by suppressing precipitation. 191
Fig. 4 presents a schematic diagram of the underlying physical mechanism. 192 Stratospheric ozone changes occur globally and can influence UTLS temperatures
193
at all latitudes (Extended Data Fig. 3). For Northern Europe (0° 60°E, and 55° 70°N),
194
Figs. 1d and 2a indicate that summer precipitation in this region may also be affected
195
by stratospheric ozone changes. However, the long-term changes in summer
196
precipitation do not entirely align with stratospheric ozone (not shown). c potential
197
reason for this discrepancy is that the ozone’s impact might be obscured since
198
precipitation in Northern Europe is significantly regulated by factors such as the storm
199
track and jet stream related to the North ctlantic Oscillation46, crctic sea ice loss47,
200 Stratospheric ozone changes occur globally and can influence UTLS temperatures
193
at all latitudes (Extended Data Fig. 3). For Northern Europe (0° 60°E, and 55° 70°N),
194
Figs. 1d and 2a indicate that summer precipitation in this region may also be affected
195
by stratospheric ozone changes. However, the long-term changes in summer
196
precipitation do not entirely align with stratospheric ozone (not shown). c potential
197
reason for this discrepancy is that the ozone’s impact might be obscured since
198
precipitation in Northern Europe is significantly regulated by factors such as the storm
199
track and jet stream related to the North ctlantic Oscillation46, crctic sea ice loss47,
200 Stratospheric ozone changes occur globally and can influence UTLS temperatures
193
at all latitudes (Extended Data Fig. 3). For Northern Europe (0° 60°E, and 55° 70°N),
194
Figs. 1d and 2a indicate that summer precipitation in this region may also be affected
195
by stratospheric ozone changes. However, the long-term changes in summer
196
precipitation do not entirely align with stratospheric ozone (not shown). Discussion and Conclusion
184 c potential
197
reason for this discrepancy is that the ozone’s impact might be obscured since
198
precipitation in Northern Europe is significantly regulated by factors such as the storm
199
track and jet stream related to the North ctlantic Oscillation46, crctic sea ice loss47,
200 8 crctic amplification 48 , ctlantic Multidecadal Oscillation 49 , 50 , and greenhouse
201
warming51 52. In addition, the significant effects of stratospheric ozone on precipitation
202
is in the high latitudes, but not in the lower latitudes, which may be due to the low
203
height of the tropopause in the high latitudes. 204 crctic amplification 48 , ctlantic Multidecadal Oscillation 49 , 50 , and greenhouse
201
warming51 52. In addition, the significant effects of stratospheric ozone on precipitation
202
is in the high latitudes, but not in the lower latitudes, which may be due to the low
203
height of the tropopause in the high latitudes. 204 The decline in ozone after 2010 may suppress precipitation, making wildfires in
205
Siberia more likely. Nevertheless, this reduction in ozone is thought to be a transient
206
phenomenon14 16. In the future, as ozone-depleting substances decrease, ozone is
207
expected to continue recovering, reaching 1980 levels around the mid-21st century. 208
Consequently, our findings indicate that Siberia will benefit from ozone recovery
209
through reduced surface ultraviolet radiation and increased precipitation in the first half
210
of the 21st century, helping to somewhat mitigate the rise in wildfires driven by future
211
global warming53. However, in the face of increasing wildfire frequency, a decrease in
212
ozone due to natural or human-induced factors (as observed in 2010 2020) may result
213
in even more extreme wildfires than those experienced in Siberia in 2019 20211,2. This
214
presents new challenges that warrant further exploration. 215 The decline in ozone after 2010 may suppress precipitation, making wildfires in
205
Siberia more likely. Nevertheless, this reduction in ozone is thought to be a transient
206
phenomenon14 16. In the future, as ozone-depleting substances decrease, ozone is
207
expected to continue recovering, reaching 1980 levels around the mid-21st century. 208
Consequently, our findings indicate that Siberia will benefit from ozone recovery
209
through reduced surface ultraviolet radiation and increased precipitation in the first half
210
of the 21st century, helping to somewhat mitigate the rise in wildfires driven by future
211
global warming53. Discussion and Conclusion
184 However, in the face of increasing wildfire frequency, a decrease in
212
ozone due to natural or human-induced factors (as observed in 2010 2020) may result
213
in even more extreme wildfires than those experienced in Siberia in 2019 20211,2. This
214
presents new challenges that warrant further exploration. 215 Observational data
218 235
This dataset combines satellite observations, surface Brewer and Dobson observations,
236
and a data assimilation model to provide a comprehensive view. The data collected from
237
these various sources has been used to conduct research on climate, weather, and
238
applied science. 239 Observational data
218 This study utilizes data on ozone, precipitation, wildfires, temperature, clouds,
219
meridional wind, omega, and total ozone column from various sources, including
220
SWOOSH, GPCC, MODIS, MSU/cMSU RSS, CERES, ERc5, and MSR-2 datasets. 221
SWOOSH 54 is a combined record of stratospheric ozone and water vapor
222
measurements from limb sounding and solar occultation satellites, with data spanning
223
from 1985-2020 and a horizontal resolution of 20° × 5° across 31 vertical levels. 224
GPCC 55 offers grid-based precipitation analysis products derived from quality-
225 9 controlled station data, using monitoring version 2022 for 1985-2020, calibrated by
226
satellite data, and with a 2.5° × 2.5° horizontal resolution. Monthly mean wildfire data
227
comes from the MODIS MCD64c156 global burned area product for 2001-2021, with
228
a horizontal resolution of 0.25° × 0.25°. MSU/cMSU RSS provides research-quality
229
geophysical data from microwave sensors on satellites, using TTS channels for 1985-
230
2020 in this study57. CERES58 delivers satellite-based observations of Earth’s Radiant
231
Energy Budget (ERB) and clouds, utilizing high, medium, and low cloud data from
232
2000-2020 with a 2.5° × 2.5° horizontal resolution. ERc5 data59 , with a horizontal
233
resolution of 1° × 1°, covers 1985-2020. Lastly, MSR-260 offers monthly mean total
234
column ozone data for the period 2001-2021, with a horizontal resolution of 0.5° × 0.5°. 235
This dataset combines satellite observations, surface Brewer and Dobson observations,
236
and a data assimilation model to provide a comprehensive view. The data collected from
237
these various sources has been used to conduct research on climate, weather, and
238
applied science. 239 controlled station data, using monitoring version 2022 for 1985-2020, calibrated by
226
satellite data, and with a 2.5° × 2.5° horizontal resolution. Monthly mean wildfire data
227
comes from the MODIS MCD64c156 global burned area product for 2001-2021, with
228
a horizontal resolution of 0.25° × 0.25°. MSU/cMSU RSS provides research-quality
229
geophysical data from microwave sensors on satellites, using TTS channels for 1985-
230
2020 in this study57. CERES58 delivers satellite-based observations of Earth’s Radiant
231
Energy Budget (ERB) and clouds, utilizing high, medium, and low cloud data from
232
2000-2020 with a 2.5° × 2.5° horizontal resolution. ERc5 data59 , with a horizontal
233
resolution of 1° × 1°, covers 1985-2020. Lastly, MSR-260 offers monthly mean total
234
column ozone data for the period 2001-2021, with a horizontal resolution of 0.5° × 0.5°. Sensitivity and transient experiments
241 In this research, the Whole ctmosphere Community Climate Model version 4
242
(WcCCM4) 61 is employed as the atmospheric component of the interconnected
243
climate system model known as the Community Earth System Model version 1.2
244
(CESM1.2). WcCCM4 utilizes a finite-volume dynamical core with 66 vertical layers,
245
ranging from the Earth’s surface to approximately 140 km altitude (5.1 × 10−6 hPa). 246
The simulations discussed in this study were conducted at a horizontal resolution of 1.9°
247
× 2.5° (latitude × longitude) and incorporated specific chemistry 62 . The vertical
248
resolution in the tropical upper troposphere-lower stratosphere (UTLS) and lowermost
249
stratosphere is between 1.1 and 1.4 km. 250 In this research, the Whole ctmosphere Community Climate Model version 4
242
(WcCCM4) 61 is employed as the atmospheric component of the interconnected
243
climate system model known as the Community Earth System Model version 1.2
244
(CESM1.2). WcCCM4 utilizes a finite-volume dynamical core with 66 vertical layers,
245
ranging from the Earth’s surface to approximately 140 km altitude (5.1 × 10−6 hPa). 246
The simulations discussed in this study were conducted at a horizontal resolution of 1.9°
247
× 2.5° (latitude × longitude) and incorporated specific chemistry 62 . The vertical
248
resolution in the tropical upper troposphere-lower stratosphere (UTLS) and lowermost
249
stratosphere is between 1.1 and 1.4 km. 250 10 c pair of sensitivity experiments were conducted over a period of 86 years to study
251
the impact of stratospheric ozone variations on precipitation. Experiment SE1, or the
252
control run, represents the simulated climate conditions in the year 2000 and lasts for
253
43 years. Experiment SE2, also spanning 43 years, has identical parameters to SE1,
254
with the exception of a 20% increase in ozone concentration in the defining region of
255
the Northern Hemisphere during summer. The comprehensive experimental design is
256
outlined in Extended Data Table 1. 257 c pair of sensitivity experiments were conducted over a period of 86 years to study
251
the impact of stratospheric ozone variations on precipitation. Experiment SE1, or the
252
control run, represents the simulated climate conditions in the year 2000 and lasts for
253
43 years. Experiment SE2, also spanning 43 years, has identical parameters to SE1,
254
with the exception of a 20% increase in ozone concentration in the defining region of
255
the Northern Hemisphere during summer. Sensitivity and transient experiments
241 The comprehensive experimental design is
256
outlined in Extended Data Table 1. 257 251 c single transient experiment was conducted between 2005 and 2055 to examine
258
the effect of stratospheric ozone recovery on precipitation. The detailed parameter
259
design for experiment TE1 can be found in Extended Data Table 3. The model
260
simulation employed ensemble mean greenhouse gas (GHG) values based on the
261
RCP45 emissions scenario for the period 2005 2055. The ozone forcing derived from
262
the CMIP ensemble mean was generated for the same time frame, 2005 2055. 263 c single transient experiment was conducted between 2005 and 2055 to examine
258
the effect of stratospheric ozone recovery on precipitation. The detailed parameter
259
design for experiment TE1 can be found in Extended Data Table 3. The model
260
simulation employed ensemble mean greenhouse gas (GHG) values based on the
261
RCP45 emissions scenario for the period 2005 2055. The ozone forcing derived from
262
the CMIP ensemble mean was generated for the same time frame, 2005 2055. 263 Coupled Model Intercomparison Project Phase 6 (CMIP6) models
265 Coupled Model Intercomparison Project Phase 6 (CMIP6) models
265 p
p
j
(
)
The time period between 2015 and 2055 encompasses the projected experiments;
266
however, ozone and precipitation outputs from certain models are solely accessible until
267
2055. CMIP6 models were selected based on their high model top (≥0.01 hPa),
268
inclusion of comprehensive stratospheric chemical processes (featuring a chemical
269
module), and provision of both monthly average precipitation and ozone data. Nine
270
CMIP6 models and 32 ensemble experiments were employed in this study. Extended
271
Data Table 2 provides specific details regarding the chosen models and ensemble
272
experiments. 273
274 11 11 The
SWOOSH
data
can
be
found
at
276
http://www.esrl.noaa.gov/csd/groups/csd8/swoosh/; GPCC data are accessible at
277
https://climatedataguide.ucar.edu/climate-data/gpcc-global-precipitation-climatology-
278
centre;
MODIS
MCD64c1
burned
area
data
can
be
located
at
279
https://ladsweb.modaps.eosdis.nasa.gov/filespec/MODIS/6/MCD64c1; RSS data are
280
available at https://www.remss.com/measurements/upper-air-temperature/; CERES
281
data
can
be
accessed
at
https://ceres-tool.larc.nasa.gov/ord-
282
tool/jsp/SYN1degEd41Selection.jsp;
ERc5
data
can
be
found
at
283
https://www.ecmwf.int/en/forecasts/dataset/ecmwf-reanalysis-v5; MSR-2 total ozone
284
column data are available at https://www.temis.nl/protocols/O3global.php; CMIP6 data
285
can be accessed at https://esgf-index1.ceda.ac.uk/projects/cmip6-ceda/; and the
286
sensitivity and transient experiment outputs supporting this article can be found at
287
https://doi.org/10.5281/zenodo.7542763. Sensitivity and transient experiments
241 interpreted the results and discu
304
305
Competing interests
306
The authors declare that they have no competin
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325 Sensitivity and transient experiments
241 288
289
Code availability
290
cll non-standard code used to analyze data is available from the corresponding author
291
upon reasonable request. 292
293
Acknowledgements
294
We thank the SWOOSH, GPCC, MODIS, RSS, CERES, ERc5 and MSR-2 for
295
providing the observational data. We thank the NCcR for providing the WcCCM
296
model, and the CMIP6 project. Funding for this research was provided by the National
297
Natural Science Foundation of China (Grants 42122037, 42130601, 42105016 and
298
42275084). 299
300 The
SWOOSH
data
can
be
found
at
276
http://www.esrl.noaa.gov/csd/groups/csd8/swoosh/; GPCC data are accessible at
277
https://climatedataguide.ucar.edu/climate-data/gpcc-global-precipitation-climatology-
278
centre;
MODIS
MCD64c1
burned
area
data
can
be
located
at
279
https://ladsweb.modaps.eosdis.nasa.gov/filespec/MODIS/6/MCD64c1; RSS data are
280
available at https://www.remss.com/measurements/upper-air-temperature/; CERES
281
data
can
be
accessed
at
https://ceres-tool.larc.nasa.gov/ord-
282
tool/jsp/SYN1degEd41Selection.jsp;
ERc5
data
can
be
found
at
283
https://www.ecmwf.int/en/forecasts/dataset/ecmwf-reanalysis-v5; MSR-2 total ozone
284
column data are available at https://www.temis.nl/protocols/O3global.php; CMIP6 data
285
can be accessed at https://esgf-index1.ceda.ac.uk/projects/cmip6-ceda/; and the
286
sensitivity and transient experiment outputs supporting this article can be found at
287
https://doi.org/10.5281/zenodo.7542763. 288 276 SWOOSH data at We thank the SWOOSH, GPCC, MODIS, RSS, CERES, ERc5 and MSR-2 for
295
providing the observational data. We thank the NCcR for providing the WcCCM
296
model, and the CMIP6 project. Funding for this research was provided by the National
297
Natural Science Foundation of China (Grants 42122037, 42130601, 42105016 and
298
42275084). 299 We thank the SWOOSH, GPCC, MODIS, RSS, CERES, ERc5 and MSR-2 for
295
providing the observational data. We thank the NCcR for providing the WcCCM
296
model, and the CMIP6 project. Funding for this research was provided by the National
297
Natural Science Foundation of China (Grants 42122037, 42130601, 42105016 and
298
42275084). 299 300 12 12 Contributions
301
F.X., Y.X. and W.T. contributed equally to the original idea and writing
302
Y.N., and N.L. drafted the figures and undertook the numerical simulation
303
K.G. and Y.H. interpreted the results and discussed their implications. 304
305
Competing interests
306
The authors declare that they have no competing interests. 307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325 Contributions
301
F.X., Y.X. and W.T. contributed equally to the
302
Y.N., and N.L. drafted the figures and undertoo
303
K.G. and Y.H. Contributions
301 F.X., Y.X. and W.T. contributed equally to the original idea and writing of this paper. 302
Y.N., and N.L. drafted the figures and undertook the numerical simulations. M.C., F.W.,
303
K.G. and Y.H. interpreted the results and discussed their implications. 304 F.X., Y.X. and W.T. contributed equally to the original idea and writing of this paper. 302
Y.N., and N.L. drafted the figures and undertook the numerical simulations. M.C., F.W.,
303
K.G. and Y.H. interpreted the results and discussed their implications. 304 F.X., Y.X. and W.T. contributed equally to the original idea and writing of this paper. 302
Y.N., and N.L. drafted the figures and undertook the numerical simulations. M.C., F.W.,
303
K.G. and Y.H. interpreted the results and discussed their implications. 304 13 13 326 References References 1. Scholten, R. C., Coumou, D., Luo, F., Veraverbeke. S. Early snowmelt and polar jet dynamics
co-influence recent extreme Siberian fire seasons. Science 378, 1005 1009 (2022). 2. Talucci, c. C., Loranty, M. M. & clexander, H. D. Siberian taiga and tundra fire regimes from
2001-2020. Environ. Res. Lett. 17, 025001 (2022). 3 . Ye, H., Fetzer, E. J., Wong, S. & Lambrigtsen, B. H. Rapid decadal convective precipitation
increase during the last three decades of the 20th century. Sci. Adv. 3, 1600944 (2017). 4. Ye, H., Fetzer, E. J., Wong, S., Behrangi, c., Olsen, E. T., Cohen, J., Lambrigtsen, B. H. & Chen,
L. Impact of increased water vapor on precipitation efficiency over northern Eurasia. Geophys. Res. Lett. 41, 2941 2947 (2014). 5. Hiyama, T., Fujinami, H., Kanamori, H., Ishige, T. & Oshima, K. Recent interdecadal changes in
the interannual variability of precipitation and atmospheric circulation over northern Eurasia. Environ. Res. Lett. 11, 065001 (2016). 6 . Fukutomi, Y., Masuda, K., & Yasunari, T. Spatiotemporal structures of the intraseasonal
oscillations of precipitation over northern Eurasia during summer. Int. J. Climatol. 32, 710 726
(2011). 7 . Fujinami, H., Yasunari, T., & Watanabe, T. Trend and interannual variation in summer
precipitation in eastern Siberia in recent decades. Int. J. Climatol. 36, 355 368 (2016). 8. Solomon, S. Stratospheric ozone depletion: c review of concepts and history. Rev. Geophys. 37,
275 316 (1999). 9. Eyring, V. et al. Long-term ozone changes and associated climate impacts in CMIP5 simulations. J. Geophys. Res. 118, 5029 5060 (2013). 10. Chipperfield, M. P. et al. Detecting recovery of the stratospheric ozone layer, Nature 549, 211
218 (2017). 11. Sofieva, V. F. et al. Merged ScGE II, Ozone cci and OMPS ozone profile dataset and evaluation
of ozone trends in the stratosphere. Atmos. Chem. Phys. 17, 12533 12552 (2017). 12. Steinbrecht, W. et al. cn update on ozone profile trends for the period 2000 to 2016 Atmos. 14 14 Chem. Phys. 17 10675 10690 (2017). 13 . Montzka, S. c. et al. cn unexpected and persistent increase in global emissions of ozone-
depleting CFC-11. Nature 557, 413 417 (2018). 14. Ball, W. T. et al. Evidence for a continuous decline in lowermost stratospheric ozone offsetting
ozone layer recovery. Atmos. Chem. Phys. 18, 1379 1394 (2018). 15. Chipperfield, M. P. et al. On the cause of recent variations in lowermost stratospheric ozone. Geophys. Res. Lett. References 45, 5718 5726 (2018). 16. Orbe, C., Wargan, K., Pawson, S. & Oman, L. D. Mechanisms linked to recent ozone decreases
in the Northern Hemisphere lowermost stratosphere. J. Geophys. Res. 125, e2019JD031631 (2020). 17 . Son, S. -W. et al. The impact of stratospheric ozone recovery on the Southern Hemisphere
westerly jet. Science 320, 1486 1489 (2008). 17 . Son, S. -W. et al. The impact of stratospheric ozone recovery on the Southern Hemisphere
westerly jet. Science 320, 1486 1489 (2008). 18. Kang, S. M., Polvani, L. M., Fyfe, J. C. & Sigmond, M. Impact of polar ozone depletion on
subtropical precipitation. Science 332, 951 954 (2011). 19. Feldstein, S. B. Subtropical rainfall and the cntarctic ozone hole. Science 332, 925 926 (2011). 20. Banerjee, c., Fyfe, J.C., Polvani, L.M. Waugh D.& Chang K. c pause in Southern Hemisphere
circulation trends due to the Montreal Protocol. Nature 579, 544 548 (2020). 21. Calvo, N., Polvani, L. M. & Solomon, S. On the surface impact of crctic stratospheric ozone
extremes. Environ. Res. Lett. 10, 094003 (2015). 22. Smith, K. L. & Polvani, L. M. The surface impacts of crctic stratospheric ozone anomalies. Environ. Res. Lett. 9, 074015 (2014). 23. Xie, F., Ma, X., Li, J. P., Tian, W. S., Ruan, C. Q. & Sun, C. Using Observed Signals from the
crctic Stratosphere and Indian Ocean to Predict cpril-May Precipitation in Central China. J. Clim. 33, 131 143 (2020) . 24 . Xie, F. et al. c connection from crctic stratospheric ozone to El Niño-Southern oscillation. Environ. Res. Lett. 11, 124026 (2016). 25. Xie, F., Ma, X., Li, J. P., Huang, J. L., Tian, W. S., Zhang, J. K., Hu, Y. Y., Sun, C., Zhou, X.,
Feng, J. and Yang, Y. cn advanced impact of crctic stratospheric ozone changes on spring Feng, J. and Yang, Y. cn advanced impact of crctic stratospheric ozone changes on spring 15 15 precipitation in China. Clim. Dyn. 51, 4029 4041 (2018). 26 . Ivy, D. J., Solomon, S., Calvo, N. & Thompson, D. W. J. Observed connections of crctic
stratospheric ozone extremes to Northern Hemisphere surface climate. Environ. Res. Lett. 12,
024004 (2017). 27. Nowack, P. J., cbraham, N. L., Braesicke, P. & Pyle, J. c. The Impact of Stratospheric Ozone
Feedbacks on Climate Sensitivity Estimates. J. Geophys. Res. 123, 4630 4641 (2018). 28. Ma, X., Xie, F., Li, J. P., Tian, W. S., Ding, R. References Q., Sun, C. & Zhang, J. K. Effects of crctic
stratospheric ozone changes on spring precipitation in the northwestern United States. Atmos. Chem. Phys. 19, 861 875 (2019). 29. Friede, M., Chiodo, G., Stenke, c., Domeisen, D. I. V., Fueglistaler, S., cnet, J. G. & Peter, T. Springtime arctic ozone depletion forces northern hemisphere climate anomalies, Nat. Geosci. 15,
541 547 (2022). 30. Zhang, J. et al. Responses of crctic sea ice to stratospheric ozone depletion. Sci Bull 67, 1182
1190 (2022). 31. Zhang, J. et al. The Influence of Zonally csymmetric Stratospheric Ozone Changes on the crctic
Polar Vortex Shift. J. Clim. 33, 4641 4658 (2020). 32. Liu, W., Hegglin, M.I., Checa-Garcia, R. et al. Stratospheric ozone depletion and tropospheric
ozone increases drive Southern Ocean interior warming. Nat. Clim. Chang. 12, 365 372 (2022). 33. Xia, Y., Hu, Y., & Huang, Y. Strong modification of stratospheric ozone forcing by cloud and
sea ice adjustments Atmos Chem Phys 16 7559 7567 (2016) 32. Liu, W., Hegglin, M.I., Checa-Garcia, R. et al. Stratospheric ozone depletion and tropospheric
i
d i
S
th
O
i t i
i
N t Cli
Ch
12 365 372 (2022) 33. Xia, Y., Hu, Y., & Huang, Y. Strong modification of stratospheric ozone forcing by cloud and
sea-ice adjustments. Atmos. Chem. Phys. 16, 7559 7567 (2016). 34. Xia, Y., Huang, Y. & Hu, Y. On the climate impacts of upper tropospheric and lowermost stratospheric ozone. J. Geophys. Res. 123, 730 739 (2018). 35. Charney, J. G. & Eliassen, c. On the growth of the hurricane depression. J. Atmos. Sci. 21, 68
75 (1964). 36 . Xie, F., Tian, W. & Chipperfield, M. P. Radiative effect of ozone change on stratosphere-
troposphere exchange. J. Geophys. Res. 113, D00B09 (2008). 37. Milly, P. C. D., Dunne, K. c. & Vecchia, c. V. Global pattern of trends in streamflow and water 16 16 availability in a changing climate. Nature 438, 347 350 (2005). 38. Khon, V. C., Mokhov, I. I., Roeckner, E. & Semenov, V. c. Regional changes of precipitation
characteristics in Northern Eurasia from simulations with global climate model. Global Planet. Change 57, 118 123 (2008). 39. Ye, H., Fetzer, E. J., Wong S, Behrangi, c., Yang, D., Lambrigtson, B. H. Increasing atmospheric
water vapor and higher daily precipitation intensity over northern Eurasia. Geophys. Res. Lett. 42,
9404 9410 (2015). 40. 48 . Coumou, D., Di Capua, G., Vavrus, S., Wang, L. & Wang, S. The influence of crctic References Chernokulsky, c., Kozlov, F., Zolina, O., Bulygina, O., Mokhov, I. & Semenov, V. c. Observed
changes in convective and stratiform precipitation in Northern Eurasia over the last five decades. Environ. Res. Lett. 14, 045001 (2019). 41. van der Werf, G. R. et al. Global fire emissions estimates during 1997 2016. Earth Syst. Sci. Data 9, 679 720 (2017). 42. Gibson, C. M., Chasmer, L. E., Thompson, D. K., Quinton, W. L., Flannigan, M. D., & Olefeldt,
D. Wildfire as a major driver of recent permafrost thaw in boreal peatlands. Nat. Commun. 9, 3041
(2018). 43. Bond-Lamberty, B., Peckham, S. D., chl, D. E. & Gower, S. T. Fire as the dominant driver of
central Canadian boreal forest carbon balance. Nature 450, 89 92 (2007). 44. Walker, X. J. et al. Increasing wildfires threaten historic carbon sink of boreal forest soils. Nature
572, 520 523 (2019). 45. Solomon, S., Stone, K., Yu, P., Murphy, D. M., Kinnison, D., Ravishankara, c. R.& Wang, P. Chlorine activation and enhanced ozone depletion induced by wildfire aerosol. Nature 615, 259
264 (2023). 46. Folland, C. K., Knight, J., Linderholm, H. W., Fereday, D., Ineson, S. & Hurrell, J. W. The summer North ctlantic Oscillation: past, present and future. J. Clim. 22, 1082 1102 (2009). 47. Screen, J. c. Influence of crctic sea ice on European summer precipitation. Environ. Res. Lett. 8, 044015 (2013). 48 . Coumou, D., Di Capua, G., Vavrus, S., Wang, L. & Wang, S. The influence of crctic 17 17 amplification on mid-latitude summer circulation, Nat. Commun. 9, 2959 (2018). 49 . Knight, J. R., Folland, C. K. & Scaife, c. c. Climate impacts of the ctlantic multidecadal
oscillation. Geophys. Res. Lett. 33, L17706 (2006). 50. Sutton, R. T. & Dong, B. ctlantic Ocean influence on a shift in European climate in the 1990s. Nat. Geosci. 5, 788 792 (2012). 51. Groisman, P. Y., Knight, R. W., Easterling, D. R., Karl, T. R., Hegerl, G. C. & Razuvaev, V. N. Trends in intense precipitation in the climate record. J. Clim. 18, 1326 1350 (2005). 52. Zhang, X., He, J., Zhang, J., Polyakov, L., Gerdes, R., Inoue, J. & Wu, P. Enhanced poleward
moisture transport and amplified northern high-latitude wetting trend. Nat. Clim. Change 3, 47 51
(2013). 53. Chen, Y. et al. Future increases in crctic lightning and fire risk for permafrost carbon. Nat. Clim. Chang. 11, 404 410 (2021). 54 . 60. Van Der c, R., cllaart, M. c. F., & Eskes, H. J. Extended and refined multi sensor reanalysis of
total ozone for the period 1970 2012. Atmos. Meas. Tech. 8, 3021 3035 (2015).
61. Marsh, D. R., Mills, M. J., Kinnison, D. E., Lamarque, J. F., Calvo, N. & Polvani, L. M. Climate
Change from 1850 to 2005 Simulated in CESM1(WcCCM). J. Clim. 26, 7372 7391 (2013).
62. Garcia, R. R., Marsh, D. R., Kinnison, D. E., Boville, B. c. & Sassi, F. Simulation of secular
trends in the middle atmosphere, 1950 2003. J. Geophys. Res. 112, D09301 (2007). References Davis, S. M. et al. The Stratospheric Water and Ozone Satellite Homogenized (SWOOSH)
database: a long-term database for climate studies. Earth System Science Data 8, 461 490 (2016). 55 . Schneider, U., Finger, P., Meyer-Christoffer, c., Rustemeier, E., Ziese, M. & Becker, c. Evaluating the Hydrological Cycle over Land Using the Newly-Corrected Precipitation Climatology
from the Global Precipitation Climatology Centre (GPCC). Atmosphere 8, 52 (2017) . 56. Giglio, L., Boschetti, L., Roy, D. P., Humber, M. L., & Justice, C. O. The Collection 6 MODIS
burned area mapping algorithm and product, Remote sensing of environment 217, 72 85 (2018). 57. Mears, C. c. & Wentz, F. J. Construction of the Remote Sensing Systems V3.2 ctmospheric
Temperature Records from the MSU and cMSU Microwave Sounders. J. Atmos. Ocean. Tech. 26,
1040 1056 (2009). 56. Giglio, L., Boschetti, L., Roy, D. P., Humber, M. L., & Justice, C. O. The Collection 6 MODIS
burned area mapping algorithm and product, Remote sensing of environment 217, 72 85 (2018). 57. Mears, C. c. & Wentz, F. J. Construction of the Remote Sensing Systems V3.2 ctmospheric
Temperature Records from the MSU and cMSU Microwave Sounders. J. Atmos. Ocean. Tech. 26,
1040 1056 (2009). 58. Rutan, D. c., Kato, S., Doelling, D. R., Rose, F. G., Nguyen, L. T., Caldwell, T. E. & Loeb, N. G. CERES Synoptic Product: Methodology and Validation of Surface Radiant Flux. J. Atmos. Ocean. Tech. 32, 1121 1143 (2015). 59. Hersbach, H., Bell, B., Berrisford, P., Hirahara, S. & Thépaut, J. The ERc5 global reanalysis. Q. J. Roy. Meteor. Soc. 146, 1999 2049 (2020). J. Roy. Meteor. Soc. 146, 1999 2049 (2020). 18 18 60. Van Der c, R., cllaart, M. c. F., & Eskes, H. J. Extended and refined multi sensor reanalysis of
total ozone for the period 1970 2012. Atmos. Meas. Tech. 8, 3021 3035 (2015). 61. Marsh, D. R., Mills, M. J., Kinnison, D. E., Lamarque, J. F., Calvo, N. & Polvani, L. M. Climate
Change from 1850 to 2005 Simulated in CESM1(WcCCM). J. Clim. 26, 7372 7391 (2013). 62. Garcia, R. R., Marsh, D. R., Kinnison, D. E., Boville, B. c. & Sassi, F. Simulation of secular
trends in the middle atmosphere, 1950 2003. J. Geophys. Res. 112, D09301 (2007). 19 Fig. 1: Long-term variations in summer precipitation and stratospheric ozone in
Siberia, as well as the potential mechanism of stratospheric ozone’s impact on
summer precipitation. a. References GPCC summer precipitation climatology from 1985 to 2020; region c denotes a. GPCC summer precipitation climatology from 1985 to 2020; region c denotes
Siberia (60°E 180°, 55° 70°N); contour lines depict the jet stream. b. Normalized
monthly changes in GPCC summer precipitation in region c from 1985 to 2020 (thin
gray line); the thick line represents the 5-year running average. c. Similar to b, but for a. GPCC summer precipitation climatology from 1985 to 2020; region c denotes
Siberia (60°E 180°, 55° 70°N); contour lines depict the jet stream. b. Normalized
monthly changes in GPCC summer precipitation in region c from 1985 to 2020 (thin
gray line); the thick line represents the 5-year running average. c. Similar to b, but for
SWOOSH ozone (thin blue line; averaged over 70 200 hPa, 0° 360°, 55° 90°N region)
in summer; the thick line indicates the double time 5-year running average. d. Distribution of correlation coefficients between each CERES total cloud cover grid
point and the corresponding MSU/cMSU RSS UTLS temperature (~200 hPa)
variations grid point from 2000 to 2020 in summer; correlation coefficients >0.32
signify 99% confidence level using Student’s t-test. e. Normalized monthly changes in a. GPCC summer precipitation climatology from 1985 to 2020; region c denotes
Siberia (60°E 180°, 55° 70°N); contour lines depict the jet stream. b. Normalized a. GPCC summer precipitation climatology from 1985 to 2020; region c denotes
Siberia (60°E 180°, 55° 70°N); contour lines depict the jet stream. b. Normalized
monthly changes in GPCC summer precipitation in region c from 1985 to 2020 (thin
gray line); the thick line represents the 5-year running average. c. Similar to b, but for
SWOOSH ozone (thin blue line; averaged over 70 200 hPa, 0° 360°, 55° 90°N region)
in summer; the thick line indicates the double time 5-year running average. d. Distribution of correlation coefficients between each CERES total cloud cover grid
point and the corresponding MSU/cMSU RSS UTLS temperature (~200 hPa)
variations grid point from 2000 to 2020 in summer; correlation coefficients >0.32
signify 99% confidence level using Student’s t-test. e. Normalized monthly changes in a. GPCC summer precipitation climatology from 1985 to 2020; region c denotes 20 SWOOSH ozone (blue line) and MSU/cMSU RSS UTLS temperature (red line;
averaged over ~200 hPa, 60°E 180°, 55° 70°N region) from 1985 to 2020 in summer. f. References Similar to e, but for MSU/cMSU RSS UTLS temperature (red line) and ERc5
vertical velocity × 1 (green line; averaged over 700 300 hPa, 60°E 180°, 63° 67°N
region). g. Same as e, but for ERc5 vertical velocity × 1 (green line) and GPCC
precipitation (gray line). Correlation coefficients (r) >0.24 represent a 99% confidence
level using Student’s t-test. 21 Fig. 2: Precipitation and UTLS temperature responses to the increase of
stratospheric ozone in the Northern Hemisphere, as well as changes in lowermost
stratospheric ozone, UTLS temperature, and precipitation over Siberia from 2015
to 2055, based on numerical experiments. cnomalies in (a) precipitation, (b) 200 hPa temperature, and (c) short-wave heating rate cnomalies in (a) precipitation, (b) 200 hPa temperature, and (c) short-wave heating rate cnomalies in (a) precipitation, (b) 200 hPa temperature, and (c) short-wave heating rate
across northern Eurasia due to the rise in ozone during summer. The anomalies are
acquired by subtracting the CESM-WcCCM simulation SE1 from SE2 (see Extended
Data Table 1 for details). Dotted areas indicate anomalies significant at the 95%
confidence level (Student’s t-test). d. Normalized summer mean changes of lowermost
stratospheric ozone (blue line; averaged over the 200 hPa, 60°E 180°, and 55° 70°N
region) and UTLS temperature (red line; averaged over the 100 200 hPa, 60°E 180°,
and 55° 70°N region) from 2015 to 2055 based on future projections of the CMIP6
model ensemble average (Extended Data Table 2). e. Identical to d, but for UTLS
temperature (red line) and precipitation (gray line; averaged over the 60° 180° and 55°
70°N region). The selected CMIP6 models and selection criteria are detailed in the 22 Methods section. The color bands in d and e represent the variation range of the
ensemble experiments. f. Normalized summer mean changes of lowermost
stratospheric ozone (blue solid line) and UTLS temperature (red solid line) from 2015
to 2055 based on a single experiment (r1i1p1f1) of CMIP6 future projections from
CESM-WcCCM (Extended Data Table 2). g. Identical to f, but for UTLS temperature
(red solid line) and precipitation (gray solid line). h. Summer mean changes of UTLS
temperature based on a single experiment (r1i1p1f1) of CMIP6 future projections of
CESM-WcCCM (red solid line) and experiment TE1 (purple solid line; Extended Data
Table 3). i. References Identical to h, but for precipitation based on a single experiment (r1i1p1f1)
of CMIP6 future projections of CESM-WcCCM (gray solid line) and experiment TE1
(purple solid line). Colored dotted lines in f i represent corresponding linear trends. 23 23 Fig. 3: Wildfire variations over Siberia from 2001 to 2021. Fig. 3: Wildfire variations over Siberia from 2001 to 2021. Fig. 3: Wildfire variations over Siberia from 2001 to 2021. Climatology of MODIS burned area (hectares) for wildfires from 2001 to 2021 in June Climatology of MODIS burned area (hectares) for wildfires from 2001 to 2021 in June Climatology of MODIS burned area (hectares) for wildfires from 2001 to 2021 in June
(a), July (b), and cugust (c). d. Normalized summer mean changes of MODIS burned
area for wildfires (orange line; averaged over the 100° 130°E and 60° 65°N region),
GPCC precipitation × −1 (gray line; averaged over the 100° 130°E and 60° 65°N
region), and MSU/cMSU RSS UTLS temperature × −1 (red line; averaged over the
~200 hPa, 110° 120°E and 60° 70°N region) from 2001 to 2021; a 3-year running
average is applied here. Distribution of correlation coefficients between each grid point
of the MODIS burned area for wildfires and the corresponding grid point of MSR-2
total ozone column from 2001 to 2021 in June (e), July (f), and cugust (g). Correlation
coefficients of >0.35 are significant at the 90% confidence level using Student’s t-test. 24 24 Fig. 4: Illustrative diagram of the mechanism through which stratospheric ozone
impacts summer precipitation in Siberia. Fig. 4: Illustrative diagram of the mechanism through which stratospheric ozone
impacts summer precipitation in Siberia. Fig. 4: Illustrative diagram of the mechanism through which stratospheric ozone
impacts summer precipitation in Siberia. a. The recovery of stratospheric ozone warms the upper troposphere and lower
stratosphere in the mid-to-high latitudes during summer; the warming-induced
divergence in the upper atmosphere accelerates polar circulation, increasing
convergence and upwelling in the lower troposphere, as well as enhancing northward
warm, humid airflow from central Eurasia and cold, dry airflow from high latitudes to
Siberia. This process promotes the formation of low- and mid-level clouds, leading to
increased precipitation. b. In the case of stratospheric ozone depletion, this process
suppresses cloud and precipitation formation while favoring the occurrence of wildfires
in Siberia. a. The recovery of stratospheric ozone warms the upper troposphere and lower
stratosphere in the mid-to-high latitudes during summer; the warming-induced
divergence in the upper atmosphere accelerates polar circulation, increasing
convergence and upwelling in the lower troposphere, as well as enhancing northward
warm, humid airflow from central Eurasia and cold, dry airflow from high latitudes to
Siberia. This process promotes the formation of low- and mid-level clouds, leading to
increased precipitation. b. In the case of stratospheric ozone depletion, this process
suppresses cloud and precipitation formation while favoring the occurrence of wildfires
in Siberia. a. The recovery of stratospheric ozone warms the upper troposphere and lower
stratosphere in the mid-to-high latitudes during summer; the warming-induced
divergence in the upper atmosphere accelerates polar circulation, increasing
convergence and upwelling in the lower troposphere, as well as enhancing northward
warm, humid airflow from central Eurasia and cold, dry airflow from high latitudes to
Siberia. This process promotes the formation of low- and mid-level clouds, leading to
increased precipitation. b. In the case of stratospheric ozone depletion, this process
suppresses cloud and precipitation formation while favoring the occurrence of wildfires
in Siberia. 25 Extendeddata.pdf Supplementary Files This is a list of supplementary ¦les associated with this preprint. Click to download.
|
https://openalex.org/W1552546570
|
https://aip.scitation.org/doi/pdf/10.1063/1.4927544
|
English
| null |
Structural variation of alpha-synuclein with temperature by a coarse-grained approach with knowledge-based interactions
|
AIP advances
| 2,015
|
cc-by
| 7,256
|
RESEARCH ARTICLE | JULY 24 2015
Structural variation of alpha-synuclein with temperature by a
coarse-grained approach with knowledge-based interactions RESEARCH ARTICLE | JULY 24 2015 Peter Mirau; B. L. Farmer; R. B. Pandey Peter Mirau; B. L. Farmer; R. B. Pandey AIP Advances 5, 092504 (2015)
https://doi.org/10.1063/1.4927544 AIP Advances 5, 092504 (2015)
https://doi.org/10.1063/1.4927544
View
Online
Export
Citation
AIP Advances 5, 092504 (2015)
https://doi.org/10.1063/1.4927544
Articles You May Be Interested In
Transient β-hairpin formation in α-synuclein monomer revealed by coarse-grained molecular dynamics
simulation
J. Chem. Phys. (December 2015)
The attachment of α -synuclein to a fiber: A coarse-grain approach
J. Chem. Phys. (March 2017)
Early oligomerization stages for the non-amyloid component of α-synuclein amyloid
J. Chem. Phys. (October 2014) Structural variation of alpha-synuclein with temperature
by a coarse-grained approach with knowledge-based
interactions Peter Mirau,1 B. L. Farmer,1 and R. B. Pandey2
1Materials and Manufacturing Directorate, Air Force Research Laboratory, Wright Patterson
Air Force Base, OH 45433, USA
2Department of Physics and Astronomy, University of Southern Mississippi, Hattiesburg,
MS 39406, USA Peter Mirau,1 B. L. Farmer,1 and R. B. Pandey2
1Materials and Manufacturing Directorate, Air Force Research Laboratory, Wright Patterson
Air Force Base, OH 45433, USA
2Department of Physics and Astronomy, University of Southern Mississippi, Hattiesburg,
MS 39406, USA Peter Mirau,1 B. L. Farmer,1 and R. B. Pandey2
1Materials and Manufacturing Directorate, Air Force Research Laboratory, Wright Patterson
Air Force Base, OH 45433, USA
2Department of Physics and Astronomy, University of Southern Mississippi, Hattiesburg,
MS 39406, USA (Received 19 June 2015; accepted 16 July 2015; published online 24 July 2015) Despite enormous efforts, our understanding the structure and dynamics of α-
synuclein (ASN), a disordered protein (that plays a key role in neurodegenerative dis-
ease) is far from complete. In order to better understand sequence-structure-property
relationships in α-SYNUCLEIN we have developed a coarse-grained model using
knowledge-based residue-residue interactions and used it to study the structure of
free ASN as a function of temperature (T) with a large-scale Monte Carlo simulation. Snapshots of the simulation and contour contact maps show changes in structure
formation due to self-assembly as a function of temperature. Variations in the residue
mobility profiles reveal clear distinction among three segments along the protein
sequence. The N-terminal (1-60) and C-terminal (96-140) regions contain the least
mobile residues, which are separated by the higher mobility non-amyloid component
(NAC) (61-95). Our analysis of the intra-protein contact profile shows a higher
frequency of residue aggregation (clumping) in the N-terminal region relative to that
in the C-terminal region, with little or no aggregation in the NAC region. The radius
of gyration (Rg) of ASN decays monotonically with decreasing the temperature,
consistent with the finding of Allison et al. (JACS, 2009). Our analysis of the
structure function provides an insight into the mass (N) distribution of ASN, and
the dimensionality (D) of the structure as a function of temperature. We find that the
globular structure with D ≈3 at low T, a random coil, D ≈2 at high T and in between
(2 ≤D ≤3) at the intermediate temperatures. The magnitudes of D are in agreement
with experimental estimates (J. Biological Chem 2002). C 2015 Author(s). Structural variation of alpha-synuclein with temperature
by a coarse-grained approach with knowledge-based
interactions All arti-
cle content, except where otherwise noted, is licensed under a Creative Commons
Attribution 3.0 Unported License. [http://dx.doi.org/10.1063/1.4927544] Articles You May Be Interested In Transient β-hairpin formation in α-synuclein monomer revealed by coarse-grained molecular dynamics
simulation The attachment of α -synuclein to a fiber: A coarse-grain approach 24 October 2024 04:52:05 24 October 2024 04:52:05 AIP ADVANCES 5, 092504 (2015) Structural variation of alpha-synuclein with temperature
by a coarse-grained approach with knowledge-based
interactions I. INTRODUCTION α-synuclein (ASN)1 is a 140 amino acid protein that is abundant in neurons and shows exten-
sive interactions with the phospholipid membrane and other proteins. ASN has been identified as
a critical component in the onset of neurodegenerative diseases (synucleinopathies2 ), including
Parkinson’s disease (PD), Lewy body dementia and Alzheimer disease. ASN1,3 has been extensively
studied as an intrinsically disordered (unstructured) protein with a monomeric conformation compa-
rable to a random coil. The self-association and toxic clumping of ASN into amyloid fibrils is one of
the prominent pathological characteristics that lead to PD containing secondary structures.4,5 Recent
studies6–11 have shown, however, that ASN can assume a number of structures involving α-helices,
β-sheets, trimers and tetramers that resist aggregation. The primary structure of 140 residues ASN1
consists of three domains, (i) an N-terminal region (residues 1-60) with the propensity to form
an alpha helix on membrane binding, (ii) a central region (residues 61-95) with a non-amyloid
component (NAC), and (iii) an acidic C-terminal region (residues 96-140). ASN has been extensively studied, and the contradictory results6–11 on the structure of ASN ha
continued to attract enormous interest in this field.12–21 For example, Mysling et al.22 has studied th 2015/5(9)/092504/10
5, 092504-1 5, 092504-1 2158-3226/2015/5(9)/092504/10 092504-2
Mirau, Farmer, and Pandey Mirau, Farmer, and Pandey AIP Advances 5, 092504 (2015) AIP Advances 5, 092504 (2015) AIP Advances 5, 092504 (2015) 092504-2 backbone dynamics of soluble ASN oligomers using hydrogen/deuterium exchange and found that
the C-terminal region (residues 94-140) and N-terminal (residues 4-17) domains are very mobile. Gurry et al.23 used NMR and SAX methods to investigate the ensemble structures. They23 find
that the large fraction of ensemble is a disordered monomer with a small fraction of trimeric and
tetrameric oligomers g
Enormous efforts24–34 have been made in understanding the structure and dynamics of ASN us-
ing NMR data, molecular dynamics (MD), and Monte Carlo simulations. These studies enhance our
understanding of sequence-function correlations, but also reveal significant gaps in our knowledge. Coskuner and Wise-Scira30 have acknowledged the ‘valuable insight’ gained from the experimental
studies and pointed out that the ‘atomic level information with dynamics can be gained from theo-
retical studies of ASN and its mutation at the monomeric level in solution that are not easily observ-
able using conventional experimental tools. I. INTRODUCTION They find that the A53T mutant-type ASN structures
are thermodynamically more stable than those of the wild-type protein in aqueous solution with
higher propensity to aggregate due to increased β-sheet formation and lack of ‘strong intramolecular
long-range interaction.’ Jonsson et al.34 have carried out Monte Carlo studies of free ASN and
identified both the disordered phase, and phase stabilized by β-strand formation. The importance
of all-atom MD simulations31–33 and its ability ‘to capture experimentally observed features’ have
also been reported.34 These studies have shown that ‘it remains a challenge to explore the full
conformational ensemble populated by a flexible protein of this length’ and justified ‘Monte Carlo
(MC) rather than MD methods’ involving efficient global moves, e.g., ‘pivot update’. Global moves
such as ‘pivot update’35 adopted and emphasized appropriately in this study34 appear ‘much more
efficient, compared to “small steps” algorithms like MD’. Efficiencies and pitfalls of both MC and
MD have been extensively explored in modeling polymers.36 In these studies we implement the
well-tested and efficient procedures, the bond fluctuation scheme,36,37 in modeling the structure and
dynamics of un-solvated ASN. 24 October 2024 04:52:05 It is not computationally feasible to incorporate all atomic-scale details to explore the complete
conformational phase space of such a protein as large as ASN using the force-fields generally
adopted in MD simulations. Coarse grained methods have been used to carry out large-scale com-
puter simulations and draw meaningful conclusions about the sequence-structure-function relation-
ships. Devising interaction potentials, exploring the phase space selectively, resorting to efficient
and effective methods, etc. are common procedures in coarse-grained modeling.38–49 Knowledge-
based contact matrix50–57 (derived from an ensemble of frozen structures of protein available at the
protein data bank (PDB)) has been extensively used to develop phenomenological residue-residue
interactions to understand the folding dynamics of proteins. As in our previous investigations,56,57
we will use the classical knowledge-based interaction due to Miyazawa and Jernigan (MJ)51 and one
of its improved versions by Betancourt and Thirumalai (BT)53 to study the structure and dynamics
of un-solvated ASN as a function of temperature. with a generalized Lennard-Jones potential, Uij =
εij
( σ
rij
)12
+ εij
( σ
rij
)6
,
rij < rc
(1) (1) where rij is the distance between the residues at site i and j; rc = √8 and σ = 1 in units of lattice
constant. The potential strength, εij, is unique for each interaction pair with appropriate positive
(repulsive) and negative (attractive) values used from the knowledge-based contact interactions
MJ51 and BT.53 The number of interacting lattice sites (within the range of the interaction) of a
residue is relatively large (on the order of a hundred). Because of the efficiency of the approach
with the fluctuating covalent bond, it is easier to explore the huge conformational space while
incorporating ample degrees of freedom.36,37 Each tethered residue performs its stochastic movements with the Metropolis algorithm briefly
described as follows. A residue at a site i is selected randomly to move to a neighboring lattice
site,j. The excluded volume constraints are then checked, including the covalent bond length as a
result of the proposed random move. If satisfied, the residue is moved from site i to site j with the
Boltzmann probability exp(-∆Eij/T), where ∆Eij = Ej −Ei is the change in energy between its new
(Ej) and old (Ei) configuration; T is the temperature in reduced units of the Boltzmann constant
and the energy (εij), and an attempt to move each residue once defines the unit Monte Carlo step
(MCS).35 We monitor a number of local and global physical quantities during the course of simula-
tion, including the energy of each residue, its mobility, mean square displacement of the center of
mass of the protein, radius of gyration and its structure factor. Simulations are performed at each
temperature for a sufficiently long time (typically ten million time steps) with many independent
samples (typically 100 samples) to estimate the average values of these quantities. We have used
a 643 lattice to generate all the data presented here although different lattice sizes are also used to
verify that our findings are independent of the finite size qualitatively. 24 October 2024 04:52:05 II. MODEL AND METHOD In our coarse-grained description,56,57 ASN is represented by a chain of 140 nodes tethered
together by fluctuating bonds (1M)—(2D)—(3V)— ...—(70V)— ...—(140A) where each node
represents an amino acid. The intra-molecular details of the amino acids are thus ignored but the
specificity is captured via its unique interaction energy. The protein chain is placed on a cubic lattice
in a random configuration at the start of the simulation, and the bond length between consecutive
nodes varies between 2 and √10 in units of lattice constant.36 Despite the simple matrix grid,
this approach provides ample degrees of freedom for each residue to move and peptide bonds to
fluctuate, much more than that with the fixed bond length frequently used in lattice simulations.36
Small step (one lattice constant) moves retain some of the small scale details, which may be missed
in pivot updates and other arbitrary moves.36 Because of the efficiency and effectiveness, such a
bond-fluctuating mechanism has become a common tool in computer simulation modeling of com-
plex systems as is the case for homopolymers,36 proteins,56,57 membranes,58 and bio-functionalized
nano assemblies.59,60 Each residue interacts56,57 with the neighboring residues within a range (rc) Mirau, Farmer, and Pandey Mirau, Farmer, and Pandey AIP Advances 5, 092504 (2015) 92504-3
Mirau, Farmer, and Pandey
AIP Advances 5, 092504 (2015) 092504-3 with a generalized Lennard-Jones potential, III. RESULTS AND DISCUSSION All physical quantities and variables for ASN are presented in arbitrary (reduced) units as noted
above. The simulation temperature is varied to assess the variations in these physical quantities, and
we focus in a range where most changes in these physical quantities occur by avoiding the low and
high temperature extremes. Typical snapshots from the simulations as a function of temperature are presented in Figure 1. Although a snapshot does not provide a comprehensive summary of the average ensemble behavior
(involving millions of configurations), it provides a glimpse into some of the characteristics. At low
temperatures, globular structures (multi-scale segmental scales to overall global) appear. Raising
the temperature opens up the compact structures resulting in loop formation, and fibrous structures
prevail at high temperatures where localized residue aggregation and small loops persist. Contour maps of the snapshot configurations are presented in Figure 2 for a representative set
of temperatures ranging from 0.026 to 0.032. These results show a systematic reduction in looping FIG. 1. Snapshots of protein configurations at the end of 10 million time steps at temperatures T = 0.026, 0.028, 0.030, 0.032
(from left to right). The nodes (residues) close enough to experience interactions are shown by spheres. FIG. 1. Snapshots of protein configurations at the end of 10 million time steps at temperatures T = 0.026, 0.028, 0.030, 0.03
(from left to right). The nodes (residues) close enough to experience interactions are shown by spheres. AIP Advances 5, 092504 (2015) 092504-4
Mirau, Farmer, and Pandey Mirau, Farmer, and Pandey FIG. 2. Residue map (neighboring residues along the contour within the range of interaction) of protein configurations at the
end of 107 time steps with 40 independent runs at temperatures T = 0.026, 0.028, 0.030, and 0.032 with BT potential.53 FIG. 2. Residue map (neighboring residues along the contour within the range of interaction) of protein configurations at th
end of 107 time steps with 40 independent runs at temperatures T = 0.026, 0.028, 0.030, and 0.032 with BT potential.53 with increasing the temperature. Although it is difficult to compare these trends quantitatively with
the results from different models, the general features in distribution of contact loops (at T = 0.030)
appear similar to of the experimental results of Dedmon et al. (Figure 2).31 The mobility of each ASN residue in the simulation as a function of temperature can be used
to identify the more mobile segments. III. RESULTS AND DISCUSSION The average residue mobility (Mn) is defined as the fraction
of its successful moves per unit time step, and Figure 3 shows the mobility profile of ASN at
temperatures T = 0.026, 0.028, 0.030, and 0.032. The least mobile residues at T = 0.026 include 13E,
19A, 21K, 23K, 28E, 32K, 34K, 35E, 43K, 45K, 46E, 56A, 57E, 58E, 60K in the N-terminal region and 96K,
97K, 102K, 104E, 105E, 129S, 131E in the C-terminal region. The intermediate (61-95) comprising the
non-amyloid component (NAC) is more mobile relative to the N-terminal and C-terminal regions. The least mobile residues are predominantly E, K, and A, and such rigidity may provide seeds for
aggregation. Aggregation of the N-terminal region of the protein may be enhanced by the close
proximity of attractive residues compared to the C-terminal region. Apart from the steric constraints
imposed by peptide bonds, the residue mobility depends on the local structure. The data shows that
looping may involve residues that are well separated in the linear sequence, especially at low temper-
atures (Figure 2). Raising the temperature enhances the mobility, and at the highest temperature
(T = 0.032) all residues become highly mobile as the residue-residue interactions become less impor-
tant and the protein assumes a self-avoiding walk (SAW) or random coil conformation (vida infra). The simulations show that the local structure and mobility are correlated, especially at low
temperatures. We quantitate the local structure by considering the average number (Nn) of surround-
ing residues within the range of interaction as a function of temperature as shown in Figure 4. Mirau, Farmer, and Pandey 092504-5
Mirau, Farmer, and Pandey AIP Advances 5, 092504 (2015) ,
,
y
,
(
)
FIG. 3. Average mobility (fraction of successful moves per unit time step) of each residue of ASN protein at temperatures
T = 0.026-0.032. Simulations are performed on a 643 lattice for 107 time steps with 100 independent samples at each
temperature with BT potential;53 the estimates of mobility involve about a billion moves for each residue. FIG 3 A
bili
(f
i
f
f l
i
i
) f
h
id
f ASN
i 24 October 2024 04:52:05 24 October 2024 04:52:05 FIG. 3. Average mobility (fraction of successful moves per unit time step) of each residue of ASN protein at temperatures
T = 0.026-0.032. III. RESULTS AND DISCUSSION Simulations are performed on a 643 lattice for 107 time steps with 100 independent samples at each
temperature with BT potential;53 the estimates of mobility involve about a billion moves for each residue. FIG. 4. Average number (Nn) of surrounding residues within the range of interaction of each residue of ASN protein at
temperatures T = 0.026-0.032. Statistics is the same as figure 3. FIG. 4. Average number (Nn) of surrounding residues within the range of interaction of each residue of ASN protein
temperatures T = 0.026-0.032. Statistics is the same as figure 3. AIP Advances 5, 092504 (2015) AIP Advances 5, 092504 (2015) Mirau, Farmer, and Pandey 092504-6 The peaks observed at lower temperatures (T = 0.026, 0.028) are signatures of intra-chain self-
organization (either protein folding or aggregation) of the underlying residues. The largest fraction
of interacting residues are located in the N-terminal region (1-61) and in the C-terminal region
(96-140). Lack of organization in the NAC region (61-95) makes it possible for ASN to assemble
in a fibrous structure. Structure formation in the N-terminal region involve 10K, 12K, 13E, 20E, 21K,
23K, 27A, 32K, 34K, 35E, 43K, 45K, 46E, 57E, 58K, 60K, 61E and 96K, 97K, 102K, 104E, 105E, 126E, 129S,
130E, 131E, 137E in the C-terminal region. The residue-residue interactions in the N-terminal and
C-terminal regions of the protein suggests the important role N and C-terminals play in control-
ling the multi-scale structure of the protein. The formation of ASN fibers have been associated
with intermolecular β-sheet formation, which cannot be directly identified from our coarse-grained
model. However, we note that the spacing and frequency of the interacting residues (primarily due
to the location of E and K residues) are consistent with the general structural patterns reported in
Ref. 34. Stochastic movement of residues and their transient settling lead to global motion of the protein
that depends on the temperature. The global motion can be examined by analyzing the variation
of the root mean square displacement (RMS) of the center of mass of the protein (Rc) as a func-
tion of time (t). Figure 5 shows the RMS displacement Rc as a function of time over a range of
temperatures (T = 0.026-0.034). The asymptotic variation shows the power-law dependence of the
RMS displacement on the time step (t), with Rc ∝tν. III. RESULTS AND DISCUSSION Inset is the data from Allison et al.32 Estimates of Rg involve average over the
time steps (last one-third to one-half, i.e., the data from last 2.5×106 to 1.6×106 MCS time) and 100 independent samples
each on a 643 lattice. 24 October 2024 04:52:05 of temperature as the protein relaxes and reaches its equilibrium. Rg was calculated from the last
half to one-third of the total time steps (i.e., last 2.5 × 106 to 1.6 × 106 MCS time) and was averaged
over a 100 independent samples. Figure 6 shows the variation of the equilibrium radius of gyration as a function of temperature
simulated using two knowledge-based residue-residue interaction potentials (BT, MJ).51,53 Differ-
ences in the BT and MJ potentials leads to a different temperature range for the unfolding transition. While quantitatively different, the variation remain similar qualitatively. A data set is also included
from table 3 of Alison et al.32 which may be the estimate of Rg in a different solvent medium for
comparison. This result shows that the qualitative variation of Rg with the temperature are similar to
those reported Allison et al.32 Structure factor, S(q), of the protein provides an insight into its multi-scale structures. We hav
studied the structure factor, S(q), as its structures evolve with the temperature, S(q) = ⟨1
N
N
j=1
e−i ⃗q·r j
2
⟩|⃗q|
(2) (2) where r j is the position of each residue and |q| = 2π/λ is the wave vector of wavelength, λ. From
the power-law scaling of the structure factor with the wave vector, S(q) ∝q−1/δ, one can estimate
the spatial distribution of residues in the protein by analyzing its radius of gyration (Rg). The
scaling of the radius of gyration of the protein chain with the number N of its nodes (residues),
i.e., Rg ∝Nγ provides an insight into the shape of the chain and allows us to distinguish between
random coil and globular protein conformations. For example, γ = 1/2 represents a random-coil
conformation of the protein. Conversely, one can also estimate the effective dimension (D) of the
residue distributions within the radius (Rg) of the protein, i.e., N ∝Rg D, D = 1/γ. Estimates of
these exponents for shape and mass distribution (γ, D) of protein requires evaluation of Rg for a
number of different N. III. RESULTS AND DISCUSSION The power-law exponent ν provides an insight
into the type of motion, including diffusion (ν = 1/2), sub-diffusion (ν < 1/2), and drift dynamics
(ν = 1). Figure 5 shows a systematic change in the magnitude of the exponent from diffusive ν = 1/2
motion at high temperature (T = 0.034) to sub-diffusive ν < 1/2 dynamics at low temperatures. The
power-law exponent ν is so low at lower temperatures (T = 0.026, 0.027) that the protein is essen-
tially stationary in our simulations. We have also analyzed the RMS displacement of the center node
(70V) which follows the global dynamics of the protein in the long time. 24 October 2024 04:52:05 The protein size depends on the residue-residue interactions and the temperature, and is charac-
terized by the radius of gyration (Rg). We have analyzed the radius of gyration in detail as a function FIG. 5. Variation of the root mean square (RMS) displacement of the center of mass of the protein with the time steps. The
numbers along the final data points are the value of the exponent ν in Rc ∝tν (ν = 1/2 shows diffusion, ν < 1/2 is sub-diffusion). Simulations are performed on a 643 lattice for 107 time steps with 100-1000 independent samples at each temperature with
BT potential.53 FIG. 5. Variation of the root mean square (RMS) displacement of the center of mass of the protein with the time steps. The
numbers along the final data points are the value of the exponent ν in Rc ∝tν (ν = 1/2 shows diffusion, ν < 1/2 is sub-diffusion). Simulations are performed on a 643 lattice for 107 time steps with 100-1000 independent samples at each temperature with
BT potential.53 AIP Advances 5, 092504 (2015) 092504-7
Mirau, Farmer, and Pandey Mirau, Farmer, and Pandey FIG. 6. Variation of the equilibrium average radius of gyration versus temperature with two knowledge-based potentials,
classic MJ51 and improved BT53 potentials. Inset is the data from Allison et al.32 Estimates of Rg involve average over the
time steps (last one-third to one-half, i.e., the data from last 2.5×106 to 1.6×106 MCS time) and 100 independent samples
each on a 643 lattice. FIG. 6. Variation of the equilibrium average radius of gyration versus temperature with two knowledge-based potentials,
classic MJ51 and improved BT53 potentials. III. RESULTS AND DISCUSSION Our data clearly shows a random coil structure (D ≈3) at the low temperature
T = 0.026 and random coil (D ≈2), less than 2 if we shift the fitting towards lower q which may
be more towards self-avoiding walk rather than random walk at high temperature T = 0.032. These
estimates (γ = 1/D) of γ are consistent with the observations made by Uversky et al. (see their
equation 2 and 3).6 In the absence of residue-residue interaction (e = 0), the above scaling gives
D ≈1.7 with corresponding SAW exponent γ = 0.59. Thus the structure function provides the
overall shapes and size of the ASN over the range of temperatures, from low to high. III. RESULTS AND DISCUSSION Unfortunately, we have only a fixed number (N) of residues in a protein,
therefore, scaling of Rg with N is not an option to evaluate the mass distribution (i.e., structure) Mirau, Farmer, and Pandey 092504-8
Mirau, Farmer, and Pandey AIP Advances 5, 092504 (2015) FIG. 7. Variation of the structure factor with the wave vector q for a range of temperatures with BT potential.53 Slopes of
the fitted data points at three representative temperatures are included to show the changes. Insets are the variation of the
corresponding radius of gyration with the temperature and that of the wave vector q with the spatial (r) scale. A set of data
with only excluded volume interaction (e = 0) is also included for reference, and the theoretical analysis presented in Ref. 31
should be comparable to this reference set. Simulations are performed on a 643 lattice for 107 time steps with 100 independent
samples at each temperature. FIG. 7. Variation of the structure factor with the wave vector q for a range of temperatures with BT potential.53 Slopes of
the fitted data points at three representative temperatures are included to show the changes. Insets are the variation of the
corresponding radius of gyration with the temperature and that of the wave vector q with the spatial (r) scale. A set of data
with only excluded volume interaction (e = 0) is also included for reference, and the theoretical analysis presented in Ref. 31
should be comparable to this reference set. Simulations are performed on a 643 lattice for 107 time steps with 100 independent
samples at each temperature. 24 October 2024 04:52:05 f the protein. However, we can estimate the exponents of the mass distribution of protein by
nalyzing the structure factor over almost all length scales including local segments.i of the protein. However, we can estimate the exponents of the mass distribution of protein by
analyzing the structure factor over almost all length scales including local segments.i Figure 7 shows the variation, S(q), with the wave vector q with the BT potential. By fitting the
data points of comparable proteins (Rg ≈λ) at appropriate temperatures, we evaluate the effective
dimension of ASN. IV. CONCLUSIONS A coarse-grained simulation55,56 with knowledge-based interaction potentials50,52 is used to
investigate the structure of the intrinsically disordered protein ASN as a function of temperature. In
their recent study, Jonsson et al.34 have noted that MC simulations are more effective for exploring
the phase space of the conformational ensemble. We have implemented an efficient and effective
Monte Carlo scheme with phenomenological residue-residue interactions in order to capture the
large scale (both length and temporal) features without sacrificing small scale resolution. The
coarse-grained study of free ASN presented here complements the extensive atomic-scale studies
while allowing us to explore a larger phase space. We are able to analyze a number of local and
global physical quantities and identify the trends in structural evolution of ASN as a function 092504-9
Mirau, Farmer, and Pandey Mirau, Farmer, and Pandey AIP Advances 5, 092504 (2015) AIP Advances 5, 092504 (2015) of temperature. Even though the reduced units (length and time) are arbitrary, these simulations
provides an insight into the the trends in the structure and dynamics as a function of temperature. The contour maps of residue-residue interactions from the MC simulations provides an insight
into the structure as a function of temperature and the mobility profiles allows us to identify the
most active residue promoting intra- and intermolecular interactions. We find that different seg-
ments of the protein, i.e., N-terminal (1-60), C-terminal (96-140), and NAC (61-95) regions, can
be clearly distinguished based on the mobile profile, and we are able to identify the least mo-
bile residues in the N-terminal and C-terminal regions around which the local structures may be
organized. g
We find that the residue-residue contacts that may lead to higher order multimer structures are
present at a higher level in the N-terminal region compared the C-terminal, and little globular struc-
ture is observed in the in the NAC region. In coordination with the mobility profile, the intra-protein
structural profile provides us a mechanism to identify the residues that act as seeds to form local
clumps in the N-terminal and C-terminal regions of the ASN. To our knowledge, identification of
specific residues with the least mobility and those that can act as seeds for local aggregation are not
observed in atomic-scale simulations. IV. CONCLUSIONS Analysis of the global physical quantities (RMS displacements of ASN, its radius of gyration,
and structure factor) provides insight into (i) the relaxation and characteristic dynamics, (ii) vari-
ation of the overall shape, and (iii) its scaling with size (distribution of residues) as a function of
temperature. We are able to predict the diffusive and sub-diffusive nature of the global dynamics on
reducing the temperature from high to low values. Such characteristics will help in understanding
how fast ASN can respond at different temperatures. We find that the radius of gyration of free ASN
decreases continuously on reducing the temperature, similar to findings reported by Allison et al.31
Additionally, we are able to identify the random coil conformation at high temperature and globular
structures at lower temperatures, which help with understanding how the residues distribute at
different temperature. The scaling of the size of ASN with its molecular weight are consistent with
the findings reported by Uversky et al.6 ASN has been extensively studied both experimentally as
well as computationally with growing interest to uncover its unknown characteristics that may be
related to function and disease states. We hope our findings of the structural response of free ASN to
temperature, complement the current simulations, and provide additional tools for the interpretation
of the laboratory observations. There are many parameters such as the effects of solvent and the
underlying matrix in vivo and in vitro scenarios including protein concentration61 that we will
explore in our future efforts. 24 October 2024 04:52:05 12 C. Camilloni and M. Vendruscolo, J. Phys. Chem. 117, 10737 (2013).
13 ACKNOWLEDGEMENTS This work is supported by the Air Force Research Laboratory. We thank Diana Lovejoy for
reading the manuscript and corrections. p //
p
g/
/
p
y
(
,
)
2 A. Bellucci, M. Zaltieri, L. Navarria, J. Grigoletto, C. Missale, and P. Spano, Brain Res. 1476, 183 (2012). 3 ,
,
,
g
,
,
p
,
,
(
)
P. H. Weinreb, W. Zhen, A. W. Poon, K. A. Conway, and P. T. Lansbury, Biochemistry 35, 13709 (1996). M. G. Spillantini, M. L. S., V.M.-Y. Lee, J. Q. Trojanowski, R. Jakes, and M. Goedert, Nature 388, 839 (1997). V. N. Uversky, J. Li, and A. L. Fink, J. Biol. Chem. 276, 10737 (2001). V.N. Uversky, J. Li, P. Souillac, S. Doniac, R. Jakes, M. Goedert, and A.L Fink, J. Biological Chem. 277, 11970 (2002). T. Bartels, J. G. Choi, and D. J. Selkoe, Nature 477, 107 (2011). 7 T. Bartels, J. G. Choi, and D. J. Selkoe, Nature 477, 107 (201 (
)
8 W. Wang, I. Perovic, J. Chittuluru, A. Kaganovich, L. T. T. Nguyen, J. Liao, J. R. Auclair, D. Johnson, A. Landeru, A. K. Simorellis, S. Ju, M. R. Cookson, F. J. Asturias, J. N. Agar, B. N. Webb, C. Kang, D. Ringe, G. A. Petsko, T. C. Pochapsky,
and Q. Q. Hoang, Proc. Natl. Acad. Sci. 108, 17797 (2011). 8 W. Wang, I. Perovic, J. Chittuluru, A. Kaganovich, L. T. T. Nguyen, J. Liao, J. R. Auclair, D. Johnson, A. Landeru, A. K. Simorellis, S. Ju, M. R. Cookson, F. J. Asturias, J. N. Agar, B. N. Webb, C. Kang, D. Ringe, G. A. Petsko, T. C. Pochapsky,
and Q. Q. Hoang, Proc. Natl. Acad. Sci. 108, 17797 (2011). Q Q
g
(
)
9 A. J. Trexler and E. Rhoades, Protein Sci. 21, 601 (2012). 10 9 A. J. Trexler and E. Rhoades, Protein Sci. 21, 601 (2012). 10 (
)
10 B. Fauvet, M. K. Mbefo, M. B. Fares, C. Desobry, S. Michael, M. T. Ardah, E. Tsika, P. Coune, M. Prudent, N. Lion, D. Eliezer, D. J. Moore, B. Schneider, P. Aebischer, O. M. El-Agnaf, E. Masliah, and H. A. Lashuel, J. Biol. Chem. 287, 15345
(2012). (
)
11 A. Binolfi, F. X. Theillet, and P. Selenko, Biochem. Soc. Trans. 40, 950 (2012). 12 i
12 C. Camilloni and M. Vendruscolo, J. Phys. Chem. 117, 10737 (2013). Lashuel, and A. Brik, Proc. Natl. Acad. Sci. 110, 17726 (2013).
14 M. M. Ouberai, J. Wang, M. J. Swann, C. Galvagnion, T. Guilliams, C. M. Dobson, and M. E. MWelland, J. Biological
Chemistry 288, 20883 (2013). 11 A. Binolfi, F. X. Theillet, and P. Selenko, Biochem. Soc. Trans. 40, 950 (2012).
12 1 http://en.wikipedia.org/wiki/Alpha-synuclein (December 23, 2013).
2 A. Bellucci, M. Zaltieri, L. Navarria, J. Grigoletto, C. Missale, and P. Spano, Brain Res. 1476, 183 (2012).
3 P. H. Weinreb, W. Zhen, A. W. Poon, K. A. Conway, and P. T. Lansbury, Biochemistry 35, 13709 (1996).
4 M. G. Spillantini, M. L. S., V.M.-Y. Lee, J. Q. Trojanowski, R. Jakes, and M. Goedert, Nature 388, 839 (1997).
5 V. N. Uversky, J. Li, and A. L. Fink, J. Biol. Chem. 276, 10737 (2001).
6 V.N. Uversky, J. Li, P. Souillac, S. Doniac, R. Jakes, M. Goedert, and A.L Fink, J. Biological Chem. 277, 11970 (2002).
7 T. Bartels, J. G. Choi, and D. J. Selkoe, Nature 477, 107 (2011).
8 W. Wang, I. Perovic, J. Chittuluru, A. Kaganovich, L. T. T. Nguyen, J. Liao, J. R. Auclair, D. Johnson, A. Landeru, A. K
Simorellis, S. Ju, M. R. Cookson, F. J. Asturias, J. N. Agar, B. N. Webb, C. Kang, D. Ringe, G. A. Petsko, T. C. Pochapsky,
and Q. Q. Hoang, Proc. Natl. Acad. Sci. 108, 17797 (2011).
9 A. J. Trexler and E. Rhoades, Protein Sci. 21, 601 (2012).
10 B. Fauvet, M. K. Mbefo, M. B. Fares, C. Desobry, S. Michael, M. T. Ardah, E. Tsika, P. Coune, M. Prudent, N. Lion, D
Eliezer, D. J. Moore, B. Schneider, P. Aebischer, O. M. El-Agnaf, E. Masliah, and H. A. Lashuel, J. Biol. Chem. 287, 15345
(2012).
11 A. Binolfi, F. X. Theillet, and P. Selenko, Biochem. Soc. Trans. 40, 950 (2012).
12 C. Camilloni and M. Vendruscolo, J. Phys. Chem. 117, 10737 (2013).
13 M. Haj-Yahya, B. Fauvet, Y. Herman-Bachinsky, M. Hejjaoui, S. N. Bavikar, S. V. Karthikeyan, A. Ciechanover, H. A
Lashuel, and A. Brik, Proc. Natl. Acad. Sci. 110, 17726 (2013).
14 M. M. Ouberai, J. Wang, M. J. Swann, C. Galvagnion, T. Guilliams, C. M. Dobson, and M. E. MWelland, J. Biological
Chemistry 288, 20883 (2013). ,
y
,
(
)
13 M. Haj-Yahya, B. Fauvet, Y. Herman-Bachinsky, M. Hejjaoui, S. N. Bavikar, S. V. Karthikeyan, A. Ciechanover, H. A. 3 P. H. Weinreb, W. Zhen, A. W. Poon, K. A. Conway, and P. T. Lansbury, Biochemistry 35, 13709 (1996).
4 M. G. Spillantini, M. L. S., V.M.-Y. Lee, J. Q. Trojanowski, R. Jakes, and M. Goedert, Nature 388, 839 (1997).
5 V. N. Uversky, J. Li, and A. L. Fink, J. Biol. Chem. 276, 10737 (2001).
6 V.N. Uversky, J. Li, P. Souillac, S. Doniac, R. Jakes, M. Goedert, and A.L Fink, J. Biological Chem. 277, 11970 (2002).
7 T. Bartels, J. G. Choi, and D. J. Selkoe, Nature 477, 107 (2011).
8 W. Wang, I. Perovic, J. Chittuluru, A. Kaganovich, L. T. T. Nguyen, J. Liao, J. R. Auclair, D. Johnson, A. Landeru, A. K.
Simorellis, S. Ju, M. R. Cookson, F. J. Asturias, J. N. Agar, B. N. Webb, C. Kang, D. Ringe, G. A. Petsko, T. C. Pochapsky,
and Q. Q. Hoang, Proc. Natl. Acad. Sci. 108, 17797 (2011).
9 A. J. Trexler and E. Rhoades, Protein Sci. 21, 601 (2012).
10 B. Fauvet, M. K. Mbefo, M. B. Fares, C. Desobry, S. Michael, M. T. Ardah, E. Tsika, P. Coune, M. Prudent, N. Lion, D.
Eliezer, D. J. Moore, B. Schneider, P. Aebischer, O. M. El-Agnaf, E. Masliah, and H. A. Lashuel, J. Biol. Chem. 287, 15345
(2012).
11 A. Binolfi, F. X. Theillet, and P. Selenko, Biochem. Soc. Trans. 40, 950 (2012).
12 C. Camilloni and M. Vendruscolo, J. Phys. Chem. 117, 10737 (2013). 092504-10
Mirau, Farmer, and Pandey AIP Advances 5, 092504 (2015) 092504-10
Mirau, Farmer, and Pandey 15 E. Hellstrand, A. Nowacka, D. Topgaard, S. Linse, and E. Sparr, PLoS One 8, e77235 (2013 Alderson and J. L. Markley, Intrinsically Disordered Proteins 17 A. S. Maltsev, J. Ying, and A. Bax, Biochemistry 51, 5004 (2012). 18 D. C. DeWitt and E. Rhoades, Biochemistry 52, 2385 (2013). 9 Z. Jiang, M. de Messieres, and J. C. Lee, J. Am. Chem. Soc. g
(
)
20 H. Okazaki, Y. Ohori, M. Komoto, Y.-H. Lee, Y. Goto, N. Tochio, and C. Nishimura, FEBS Letters 587, 3709 (2013). 21 g
20 H. Okazaki, Y. Ohori, M. Komoto, Y.-H. Lee, Y. Goto, N. Tochio, and C. Nishim 21 L. Bousset, L. Pieri, G. Ruiz-Arlandis, J. Gath, P. H. Jensen, B. Habenstein, K. Madiona, V. Olieric, A. Bockmann, B. H 21 L. Bousset, L. Pieri, G. Ruiz-Arlandis, J. Gath, P. H. Jensen, B. Habenstein, K. Madiona, V. Olier
Meier, and R. Melki, Nature Communication DOI:10.1038/ncomms3575. 21 L. Bousset, L. Pieri, G. Ruiz-Arlandis, J. Gath, P. H. Jensen, B. Habenstein, K. Madiona, V. Olieric, A
Meier and R Melki Nature Communication DOI:10 1038/ncomms3575 ,
,
/
22 S. Mysling, C. Betzer, P. H. Jensen, and T. J. D. Jorgensen, Biochemistry 52, 9097 (2013). 22 S. Mysling, C. Betzer, P. H. Jensen, and T. J. D. Jorgensen, Biochemistry 52, 9097 (2013). , C. Betzer, P. H. Jensen, and T. J. D. Jorgensen, Biochemistry 23 T. Gurry, O. Ullman, C. K. Fisher, I. Perovic, T. Pochapsky, and C. M. Stultz, J. Am. Chem 23 T. Gurry, O. Ullman, C. K. Fisher, I. Perovic, T. Pochapsky, and C. M. Stultz, J. Am. Chem. Soc. 135, 3865 (2013). 24 24 L. Cruz, B. Urbanc, J. M. Borreguero, N. D. Lazo, D. B. Teplow, and H. E. Stanley, Proc. Natl. Acad. Sci. U. S. A. 10
18258 (2005). (
)
25 Y. C. Xu, J. J. Shen, X. M. Luo, W. L. Zhu, K. X. Chen, J. P. Ma, and H. L. Jiang, Proc. Natl. Acad. Sci. U. S. A. 102, 540
(2005). 26 A. Baumketner and J. E. Shea, J. Mol. Biol. 362, 567 (2006). 26 A. Baumketner and J. E. Shea, J. Mol. Biol. 362, 567 (2006). 7 I. Brovchenko, R. R. Burri, A. Krukau, A. Oleinikova, and R 28 L. Triguero, R. Singh, and R. Prabhakar, J. Phys. Chem. B 112, 7123–7131 (2008). 29 28 L. 092504-10
Mirau, Farmer, and Pandey Triguero, R. Singh, and R. Prabhakar, J. Phys. Chem. B 112, 7123–7131 (2008). 29 C. Lee and S. Ham, J. Comput. Chem. 32, 349–355 (2011). 0 O. Coskuner and O. Wise-Scira, ACS Chem. Neurosci. 4, 11 31 M. M. Dedmon, K. Lindorff-Larsen, J. Christodoulou, M. Vendruscolo, and C. M. Dobson, J. Am. Chem. Soc. 127, 47
(2005). 32 J. R. Allison, P. Varnai, C. M. Dobson, and M. Vendruscolo, J. Am. Chem. Soc. 131, 18314 (2009). (
)
33 K.-P. Wu, D. S. Weinstock, C. Narayanan, R. M. Levy, and J. Baum, J. Mol. Biol. 391, 784 (2009). -P. Wu, D. S. Weinstock, C. Narayanan, R. M. Levy, and J. Bau 34 S. A. Jonsson, S. Mohanty, and A. Irback, Proteins 80, 2169 (2012). 35 M. Lal, Mol Phys 17, 57 (1969). y
36 Monte Carlo and Molecular Dynamics Simulations in Polymer Science, edited by K Binder (Oxford University Press, 1995). 37 36 Monte Carlo and Molecular Dynamics Simulations in Polym 37 I. Carmesin and K. Kremer, Macromolecules 21, 2819 (1988). 38 A.P. Lyubartsev and A. Laaksonen, Phys. Rev. E 52, 3730 (1995). 39 39 J. Zhou, S. Chen, and S. Jiang, Langmuir 19, 3472-3478 (2003). 24 October 2024 04:52:05 0 A. E. van Giessen and J. E. Straub, J. Chem. Phys. 122, 0249
1 41 D. Reith, M. Putz, and F. Muller-Plathe, J. Comput. Chem. 24, 1624 (2003). 42 R. B. Pandey and B. L. Farmer, J. Chem. Phys. 132, 125101 (2010). 43 43 A. Liwo, C. Czaplewski, S. Oldziej, and H. A. Scheraga, C 44 F. Ercolessi and J. Adams, Europhys. Lett. 26, 583 (1994). 45 44 F. Ercolessi and J. Adams, Europhys. Lett. 26, 583 (1994). 5 45 J. Zhou, I. F. Thorpe, S. Izvekov, and G.A. Voth, Biophys. 45 J. Zhou, I. F. Thorpe, S. Izvekov, and G.A. Voth, Biophys. J. 92, 4289 (2007). 46 D. H. de Jong, G. Singh, W. F. Drew Bennett, C. Arnarez, T. A. Wassenar et al., J. Chem. Theory Comput. 9, 687 (2013). 46 D. H. de Jong, G. Singh, W. F. Drew Bennett, C. Arnarez, T. A. Wassenar et al., J. Chem. Theory Comput. g
g
y
p
47 J. Sorensen, P. Xavier, K. K. Skeby, S. J. Marrink, and B. Schiott, J. Phys. Chem. Lett. 2, 2385 (2011). 48 47 J. Sorensen, P. Xavier, K. K. Skeby, S. J. Marrink, and B 48 T. Haliloglu and I. ACKNOWLEDGEMENTS y
(
)
13 M. Haj-Yahya, B. Fauvet, Y. Herman-Bachinsky, M. Hejjaoui, S. N. Bavikar, S. V. Karthikeyan, A. Ciechanover, H. A. Lashuel and A Brik Proc Natl Acad Sci 110 17726 (2013) ,
,
,
(
)
14 M. M. Ouberai, J. Wang, M. J. Swann, C. Galvagnion, T. Guilliams, C. M. Dobson, and M. E. MWelland, J. Biological
Chemistry 288, 20883 (2013). 092504-10
Mirau, Farmer, and Pandey Bahar, Proteins 31, 271 (1998). 49 Z. Wu, Q. Cui, and A. Yethiraj, J. Chem. Theory and Compu. 7, 3793 (2011). 49 Z. Wu, Q. Cui, and A. Yethiraj, J. Chem. Theory and C 49 Z. Wu, Q. Cui, and A. Yethiraj, J. Chem. Theory and Compu. 7, 3793 (2011). 50 S. Tanaka and H. A. Scheraga, Macromolecules 9, 945 (1976). 50 S. Tanaka and H. A. Scheraga, Macromolecules 9, 945 (1976). 51 g
51 S. Miyazawa and R. L. Jernigan, Macromolecules 18, 534 (1985). 52 1 S. Miyazawa and R. L. Jernigan, Macromolecules 18, 534 (1 52 S. Miyazawa and R. L. Jernigan, J. Mol. Biol. 256, 623 (1996). 53 52 S. Miyazawa and R. L. Jernigan, J. Mol. Biol. 256, 623 (1996). 53 53 M. R. Betancourt and D. Thirumalai, Protein Sci 2, 361 (1999). 53 M. R. Betancourt and D. Thirumalai, Protein Sci 2, 361 (1999). 54 A. Godzik, A. Kolinski, and J. Skolnick, Proteins 4, 36 55 S.-Y. Huang and Z. Xiaoqin, Proteins 79, 2648 (2011). 56 M. Fritsche, R. B. Pandey, B. L. Farmer, and D. Heermann, PLoS one 7, e32075 (2012). 57 56 M. Fritsche, R. B. Pandey, B. L. Farmer, and D. Heermann, PLoS one 7, e32075 (2012). 57 56 M. Fritsche, R. B. Pandey, B. L. Farmer, and D. Heerma 7 R. B. Pandey and B. L. Farmer, PLoS one 7, e49352 (2012). 57 R. B. Pandey and B. L. Farmer, PLoS one 7, e49352 (2012). 58 8 R.B. Pandey et al., J. Polym. Sci. B: Polym. Phys. 48, 2566 ( 58 R.B. Pandey et al., J. Polym. Sci. B: Polym. Phys. 48, 2566 (2010). 59 59 R.B. Pandey et al., Phys. Chem. Chem. Phys. 11, 1989 (2009). 59 R.B. Pandey et al., Phys. Chem. Chem. Phys. 11, 1989 (2009). 6 60 R. B. Pandey and B. L. Farmer, J. Chem. Phys. 139, 164901 (2013). 60 R. B. Pandey and B. L. Farmer, J. Chem. Phys. 139, 164901 (2013). 61 R. B. Pandey, B. L Farmer, and B.S. Gerstman, AIP Advances 5, 09250 61 R. B. Pandey, B. L Farmer, and B.S. Gerstman, AIP Advances 5, 0
|
https://openalex.org/W2609955675
|
http://www.jeeng.net/pdf-69364-8372?filename=PHOTODEGRADATION OF LOWER.pdf
|
English
| null |
PHOTODEGRADATION OF LOWER POLYBROMINATED DIPHENYL ETHER CONGENERS IN INDOOR AIR – MODEL STUDIES
|
Journal of Ecological Engineering
| 2,017
|
cc-by
| 4,358
|
Journal of Ecological Engineering
Volume 18, Issue 3, May 2017, pages 180–186
DOI: 10.12911/22998993/69364 Journal of Ecological Engineering
Volume 18, Issue 3, May 2017, pages 180–186
DOI: 10.12911/22998993/69364 Journal of Ecological Engineering
Volume 18, Issue 3, May 2017, pages 180–186
DOI: 10.12911/22998993/69364 Journal of Ecological Engineering
Volume 18, Issue 3, May 2017, pages 180–186
DOI: 10.12911/22998993/69364 Research Article ABSTRACT Polybrominated diphenyl ethers (PBDEs) are additive flame retardants which have
found applications in polymers for many consumer plastic and electronic goods. Wide
use of these chemicals has led to their extremely high concentrations in the indoor
environments. This paper presents an exploratory study of the photodebromination of
five individual lower polybrominated diphenyl ether congeners (BDE-28, BDE-47,
BDE-99, BDE-100 and BDE-101) irradiated with white light and different UV (A,
B, C) light ranges. The capability of photodegradation of lower PBDEs under room
lights was proven by the debromination which occurred with various effectiveness
for the selected PBDE congeners and depended of light source. Almost all PBDE
congeners showed the greatest decay when exposed to UV-C, with the exception of
BDE-100. The decay of irradiated congeners occurred rapidly during the first 5 min
of experiment. The final degradation varied from 38% decay (BDE-28, UV-C) to 94%
(BDE-47, UV-C). These findings can help in predicting PBDE behavior in indoors and
also be useful in the design of PBDE remediation processes. Keywords: PBDEs, indoor air quality, flame retardants, photolytic degradation Amelia Staszowska1 1 Department of Indoor and Outdoor Air Quality, Faculty of Environmental Engineering, Lublin University of
Technology, Nadbystrzycka 40B, 20-618 Lublin, Poland, e-mail: a.staszowska@pollub.pl Received: 2017.03.10
Accepted: 2017.04.04
Published: 2017.05.02 Keywords: PBDEs, indoor air quality, flame retardants, photolytic degradation INTRODUCTION dants (BFRs), extensively used in a wide range of
polymer consumer products [Alaee and Wenning,
2002]. From the chemical point of view, PBDEs
are synthetic aromatic compounds, diaryl ethers
wherein one to ten hydrogen atoms have been
replaced by atom/atoms of bromine in the posi
tions from 2 to 6, which finally gives 209 different
congeners divided into ten groups of homologues
(with an equal number of bromine substituents). PBDEs with one to five bromine atoms in a mol
ecule are named lower or lighter BDEs, and those
with six to ten bromines – higher BDEs, respec
tively [Alaee et al., 2003]. PBDEs were manufac
tured as three commercial mixtures called Penta-
BDE, Octa-BDE, and Deca-BDE. Congeners are
not chemically bound to the polymer matrix but
only physically mixed into it during manufactur
ing. The amount of PBDEs in the final product can
reach 10 to 30% of weight loadings [EHC 162,
1994]. Because of the economic reasons and high
flame retardancy properties, PBDEs have found Nowadays, people in modern societies spend
from 80% to 95% of their time in indoor environ
ments [Schweizer et al., 2007]. According to the
World Health Organization [2014], the indoor air
quality has a greater impact on the health, well-
being and productivity of occupants than the out
door air pollution. Moreover, occupants of indoor
environments are often exposed to chemicals that
can be mostly attributed to indoor sources such as
furnishing, upholstery, electronic devices, clean
ing or cooking [Tham, 2016]. Newly constructed
buildings must obey strict demands of energy loss
and become more and more airtight, which leads
to the reduction of natural infiltration and, in con
sequence, may cause an increase in contaminant
levels. One of the most frequently detected group
of indoor semivolatile organic pollutants are
polybrominated diphenyl ethers (PBDEs). They
are a class of additive brominated flame retar 180 Journal of Ecological Engineering Vol. 18(3), 2017 methanol/ water (8:2) solution, four congeners in
tetrahydrofuran and nine congeners in methanol. Photodegradation of decabromodiphenyl ether in
house dust under natural sunlight was described
by Stapleton et al. [2008]. application mostly in plastic used for electronic
and electric appliances (computer casings, circuit
boards, TV-sets), furnishing, upholstery, building
materials, and even textiles [Allen et al., 2007]. The chemical and toxicological PBDE prop
erties vary in respect to the degree of bromination. INTRODUCTION In indoor environments, PBDEs can be found
in gas phase or sorbed on solid particles such as
settled dust, particulate matter, and on impervi
ous surfaces (windows, furniture, interior walls)
[Cetin and Odobasi, 2011]. White light and UV
light are intentionally applied by the user. Opti
cal radiation is used for lighting. UV radiation
has been found applications to improve indoor air
quality in the process of air duct disinfection and
to remove odors from the air. y
p
g
Lower PBDE congeners, especially with 2.2’, 4.4’
– bromine position, are the most toxic and charac
terized by the greatest bioaccumulation [Darnerud
et al., 2007]. They can disrupt endocrine system,
cause neurotoxic and cancerogenic health effects. In 2009, congeners which are components of Pen
ta-BDE and Octa-BDE mixtures were added to
the Annex A of the Stockholm Convention dedi
cated to Persistent Organic Pollutants. Although,
the production of PBDEs has been ceased in the
beginning of XXI century, significant volumes
of these chemicals are still present in consumer
products. International scientific data show that
this class of BFRs became ubiquitous in wildlife
and abiotic compartments of the environment all
over the world, even in remote polar regions. The
highest PBDE concentrations were found indoors
[Butt et al., 2004; Harrad et al., 2006]. Lower PBDE congeners, especially with 2.2’, 4.4’ – bromine position, are the most toxic and charac
terized by the greatest bioaccumulation [Darnerud
et al., 2007]. They can disrupt endocrine system,
cause neurotoxic and cancerogenic health effects. The aim of the paper was to investigate the
debromination of five individual lower PBDE
congeners (BDE-28, BDE-47, BDE-99, BDE-
100, BDE-101) under different light ranges (UV-
A, UV-B, UV-C and sun light). In the course of
this study the photoproducts of debromination
were identified, but results of these measurements
are not included in this paper. The selected con
geners are the main components of commercial
mixtures Penta, and have the internal arrange
ment of the atoms of bromine in position 2.2”,
4.4’ which results in their high toxicity with re
spect to living organisms. [
,
;
,
]
PBDEs may enter indoor air via a number
of pathways, but the most important are evapo
ration (for lower BDE congeners) and abrasion
(for heavy BDE congeners) of the goods during
their service life. Chemicals All chemicals used for PBDE analysis were
of high purity. Organic solvents (GC and HPLC
grade) were purchased from T.J. Baker (POCH,
Poland). PBDE analytical mixture standards se
ries BDE-CVS-F containing BDE 28, 47, 85, 99,
100, 101 congeners, as well as mass labeled (13C)
PBDE recovery solution BDE-MFX containing
BDE 77L and 138L were obtained from Welling
ton Laboratories (Tusnovics, Poland). Additional
standard solutions of native and mass labeled
(13C) PBDE individual BDE 28, 47, 85, 99, 100,
101 congeners were obtained from Wellington
Laboratories and from AccuStandards (mixture
M-527 BDE) (Tusnovics, Poland). INTRODUCTION Many halogenated polycyclic
organic compounds (polychloryniated biphenyls,
polychlorinared and polybrominated dioxins and
furans, perfluorinated compounds) are prone to
undergo abiotic transformations in the environ
ment [Bezarez-Cruz et al., 2004]. One of the
possible pathways is the direct photolysis which
leads to dehalogenation of irradiated chemical. PBDE phototransformation (mainly debromina
tion) was confirmed in various abiotic media,
predominantly in organic solvents [Barcellos
da Rosa et al., 2003; Christiansson et al., 2009;
Fang et al., 2008] and on mineral surfaces [Ahn
et al., 2006; Kajiwara et al., 2008]. Peterman et al. [2003] reported on sunlight photolysis of a mix
ture of 39 PBDE congeners in triolein. Reductive
debromination of five individual PBDE conge
ners was examined by Sanchez-Prado et al. [2005]
using solid-phase microextraction fibres. Granneli
et al. [2011] reported reductive photodebromi
nation of nonabrominated BDE congeners and
analyzed the octabrominated products. Another
study on photolysis of PBDEs was performed by
Eriksson et al. [2004]. They measured photodeg
radation rate of 15 individual PBDE congeners in Irradiation experiments The experimental set-up comprised a cham
ber with the outer and internal walls made from 181 Journal of Ecological Engineering Vol. 18(3), 2017 stainless steel. Between the walls, the active
carbon filter was provided. The UV-lamp and
white light lamp irradiation experiments were
performed with lamps that can typically be em
ployed in room lightening or indoor air cleaning
devices. Lamps for exposures were placed on a
movable grate. Three different UV irradiation
light sources representing the wavelengths of
UV-A, UV-B, and UV-C were used in this inves
tigation. For UV-A range, 15W linear fluorescent
lamp was used (Philips, 365 nm). The UV-B
light source was medical lamp 01 PL-S, 15W/01
(Philips, 311 nm) and UV-C irradiation tests were
made with HNS bactericidal (254 nm, 15W) lamp
(Philips). White light was simulated by MASTER
TL-D Super 80, lamp (15W, Philips). During all
irradiation experiments temperature and relative
humidity were controlled and established to 22 ±
0.20C and 50±5%, respectively. f 1). Oven temperature programming was as follow:
from 850C (0.5 min hold) with ramp 150C·min-1
to 2100C, then ramp 50C·min-1 to 3200C (20 min
hold). Injector (PTV, splitless mode) temperature
was set at 3200C. Transfer line, ion source tem
perature were kept constant at 2750C and 2500C,
respectively. A total of 5 (tri- to pentaBDE) con
geners (BDE-28, BDE-47, BDE-99, BDE-100
and BDE-101) were measured in extracts and
quantified using the internal standard method. i The identification of photoirradiated PBDE
congeners and their photoproducts was based on
the comparison of their mass spectra and reten
tion times with reference native and 13C-labbeled
PBDE standards. The resulting mass spectra
were analyzed using the Xcalibur software and
databases of mass spectra from NIST.05 library
and Wiley 8th edition. GC detection limits were estimated at 0.5
ng·L-1 (S / N≥3) and the extract (from 17 to
BDE-BDE-153). The limit of quantification was
determined to be 10 pg per dosing (S/N≥5). Lin
earity of the method was better than of 10–500
to all congeners except BDE-153 (better than
10–200). The relative standard deviation (RSD)
of the 5 samples analysis was less than 16% for
the congeners from BDE-17 to BDE-101. In
model studies at concentrations above 500 ng·g-
1, RSD was less than 10% in the assays GC/MS
for analyzed congeners. Quality assurance and quality control Taking into account that PBDEs can undergo
of phototransformation under light, a special care
was given to prevent any possibilities of artificial
or natural light exposure during their storage and
analysis. All glassware used during the experi
ments was pre-washed with mixture of organic
solutions (GC and HPLC grade), rinsed with wa
ter and redistilled water (MiliQ), baked at 450 0C
and finally wrapped in aluminum foil to protect
from possible secondary contamination. Analytical procedure After irradiation, slides with PBDEs were
rinsed with organic solvent mixture in dark room
conditions. There was no need to perform any ad
ditional purification step. Next, the extract vol
ume was reduced to 100µL under gentle nitrogen
stream. Identification and quantification of irradi
ated individual PBDE congeners were performed
by means of a Trace Ultra gas chromatograph
(Thermo, USA) coupled with PolarisQ (Thermo,
USA) mass detector (ion trap) operating in elec
tron impact ionization (70 eV) and selected ion
monitoring mode (SIM). Chromatographic sepa
ration was conducted on 60 m RTx-5ms (Restek,
USA) capillary column, 0.25 mm i.d.; 0.18 μm
film thickness. Helium 5N (Linde GAZ, Poland)
was used as a carry gas (constant velocity 40 cm·s- The nomenclature for PBDE congeners used
in this study is in analogy to the polychlorinat
ed biphenyl numbering system established by
Ballschmiter and Zell in 1980. Irradiation experiments Studies of the effect of UV-A, UV-B, UV-C
and white light irradiation on PBDE debromina
tion were started by the PBDE degradation model
system which mimics the organic window film. The deposited PBDE individual congeners (in the
amount of 2500 ng) were subjected to irradiation
for 5, 15, 30, 45, and 60 minutes, respectively. At the same time, a similarly prepared reference
sample (sample ”0“) – not exposed to irradiation
– was kept in the dark, under the same conditions
of temperature and relative humidity conditions
as experiment ones). Three replicates for all indi
vidual irradiated PBDE congeners were made to
check the reproducibility of each photodegrada
tion experiment and to obtain more reliable results. RESULTS During the irradiation of model systems, indi
vidual PBDE congeners deposited on the surface 182 Journal of Ecological Engineering Vol. 18(3), 2017 16%, respectively. In 45 minutes of exposure with
UV-C, the degradation was assumed as 28%, and
20% for UV-B and white light, and 12% for UV-
A. After 60 minutes of the experiment, the degra
dation of BDE-28 reached 38% for UV-C, 25%
for UV-B and white light, and 20% for UV-A.i of a glass slide, changes in the irradiated mass
congeners were observed, which was the evi
dence of degradation. Dark control experiments (called sample ”0“)
for each congener showed no disappearance of the
congener or appearance of photodebromination
products. In addition, no potential debromination
was observed in the starting (0 min) film systems. The obtained results confirm that the BDE-
28 containing 3 bromine atoms in molecule un
derwent photodegradation and the most effective
range of radiation was UV-C. Similar results of
BDE-28 debromination were found for UV-B and
white light. The smallest impact on the debromi
nation of BDE-28 showed a UV-A range. Figures 1 to 5 report changes in mass of in
dividual PBDE congeners during irradiation with
different light sources. BDE-28 (2,4,4’-tribromodiphenyl ether) After the first 5 minutes of exposure, a slight
weight loss of BDE-28 was observed only for the
samples irradiated UV-C, it amounted to 6%. Af
ter 15 minutes of exposure, degradation BDE-28
for all ranges of irradiation was confirmed. It was
the greatest for a range of UV-C (15%), while for
the other UV ranges, it approximated 6%. After
30 minutes of exposure to UV-C, the degrada
tion reached 20%, whereas for the UV-A, UV-B
and white light, it amounted only to 9%, 12% and BDE-100 (2,2’,4,4’,6-pentabromodiphenyl
ether) The congeners BDE-100 and BDE-101
are homologues of BDE-99. For any of them,
no such rapid degradation occurred in the first
minutes of the experiment, as in the case of
BDE-99 (Figure 4). ii After the first five minutes of the experiment,
the largest degradation BDE-100 was obtained
for UV-A – 24%. A similar value was recorded
also for UV-B – 22% and white light 20%. Af
ter 15 minutes the degradation of BDE-100 took
place for the UV-B and UV-A, reaching 38% and
39%, respectively, whereas in the case of white
light – 34%. After 30 minutes, the decay of BDE-
100 initial mass under UV was detected. After 45
minutes of exposure, the UV-A degradation was
the highest, but similar to the UV-B and white
light. The lowest degradation of BDE-100 after
45 minutes was observed for UV-C radiation, al
though it has reached 57%. After 60 minutes of
exposure, the weight loss of BDE-100 was simi
lar to the UV-A and UV-B and stood at 78% and BDE-47 (2,2’,4,4’-tetrabromodiphenyl ether) For
UV-A it amounted to 87%, for UV-B – 94%, for
UV-C – 94%, and white light – 86%. Thus, BDE-
47, just as the BDE-28, degrade the most rapidly
under the influence of UV-C, but after 60 minutes
of exposure degradation, BDE-47 for UV-B and
UV-C has reached the same value as for the UV-A
and white light. mass was decreasing subsequently and finally
reached 94% decay in 60 min of experiment. The observed BDE-47 degradation under UV-
B, UV-C and white light was not as rapid as for
UV-A. The influence of UV-A and white light
was similar. After 15 minutes of exposure, BDE-
47 degradation of initial mass was calculated as
33% for UV-A, 25% for UV-B, 89% for UV-C
and 28% for white light, respectively. After 30
minutes the experiment, UV-B achieved 33%
degradation, UV-A – 52% , UV-C – 92% and
white light – 50%. An increase in the degrada
tion of BDE-47 was observed in 45 minutes,
which reached 64% (UV-A) and, similarly, 67%
for white light. For UV-C, the irradiated congener
weight loss was calculated as 93%. The lowest
degradation was observed after 45 minutes for the
UV-B – only 57%. After 60 minutes of the experi
ment, the weight loss of the treated congener was
similar for all analyzed ranges of radiation. For
UV-A it amounted to 87%, for UV-B – 94%, for
UV-C – 94%, and white light – 86%. Thus, BDE-
47, just as the BDE-28, degrade the most rapidly
under the influence of UV-C, but after 60 minutes
of exposure degradation, BDE-47 for UV-B and
UV-C has reached the same value as for the UV-A
and white light. BDE-47 (2,2’,4,4’-tetrabromodiphenyl ether) The decay of BDE-47 during irradia
tion occurred more rapidly than in the case
of BDE-28 (Figure 2).i After the first 5 minutes of exposure, BDE-
47 debromination for all types of radiation was
observed. The biggest change in the mass of the
treated congener, amounting to 87%, was de
termined for the UV-C radiation. Then BDE-47 Figure 1. The influence of optical radiation on the degradation of BDE-28 Figure 1. The influence of optical radiation on the degradation of BDE-28
Figure 2. The influence of optical radiation on the degradation of BDE-47 Figure 1. The influence of optical radiation on the degradation of BDE-28 Figure 2. The influence of optical radiation on the degradation of BDE-47 183 Journal of Ecological Engineering Vol. 18(3), 2017 tinuing degradation of BDE-99 was observed;
after 45 minutes it amounted 82% for UV-C,
71% for UV-B radiation, 76% for UV-A and 78%
for white light. After 60 minutes, the final deg
radation of BDE-99 reached over 80% for all
light sources. In summary, the BDE-99 degrades
quickly under the influence of UV-C. The biggest
change in the weight of the treated congener was
observed after the first 5 minutes of the experi
ment. Then the process of degradation congener
occurred much milder. A similar pattern of deg
radation of BDE-99 could be observed for the
UV-A and white light. mass was decreasing subsequently and finally
reached 94% decay in 60 min of experiment. The observed BDE-47 degradation under UV-
B, UV-C and white light was not as rapid as for
UV-A. The influence of UV-A and white light
was similar. After 15 minutes of exposure, BDE-
47 degradation of initial mass was calculated as
33% for UV-A, 25% for UV-B, 89% for UV-C
and 28% for white light, respectively. After 30
minutes the experiment, UV-B achieved 33%
degradation, UV-A – 52% , UV-C – 92% and
white light – 50%. An increase in the degrada
tion of BDE-47 was observed in 45 minutes,
which reached 64% (UV-A) and, similarly, 67%
for white light. For UV-C, the irradiated congener
weight loss was calculated as 93%. The lowest
degradation was observed after 45 minutes for the
UV-B – only 57%. After 60 minutes of the experi
ment, the weight loss of the treated congener was
similar for all analyzed ranges of radiation. BDE-99 (2,2’,4,4’,5-pentabromodiphenyl
ether) Similarly to the BDE28 and BDE-47, the ir
radiation of UV-C range was most effective in the
initial period (Figure 3). After 5 minutes of the experiment, the UV-C
caused a 62% decay of BDE-99, while the UV-A
was only 27%, UV-B – 19%, and white light –
28%. After next 15, 30 and 45 minutes, a con Figure 3. The influence of optical radiation on the degradation of BDE-99 Figure 3. The influence of optical radiation on the degradation of BDE-99 184 Journal of Ecological Engineering Vol. 18(3), 2017 Figure 4. The influence of optical radiation on the degradation of BDE-100 Figure 4. The influence of optical radiation on the degradation of BDE-100 77%, respectively. The differences between the
UV-C light and white or longer were not as large
as for shorter exposure times and amounted to
72% for UV-C and 76% for white light. other ranges, it was approximately 20% lower. After next 15 minutes, BDE-100 decayed at 60%
for UV-B, 34% for UV-A, 25% for UV-C and 32%
for white light, respectively. At the end of irra
diation, the largest degradation of BDE-101 was
achieved by UV-B radiation – 78%. In contrast,
for the UV-A it amounted to 68%, for the UV-C –
33% and for white light – 65%. Thus, in the case
of BDE-101, the greatest decay effect was ob
served for UV-B and the least for UV-C which is
different from the BDE-99 and BDE-100 results. In summary, the initial degradation of BDE-
100 was the highest for UV-A and UV-B, but
as the exposure time of BDE-100 congener in
creased, the differences in the degradation of
BDE-100 under the influence of various ranges of
optical radiation decreased. As a result, after 60
minutes of exposure, BDE-100 has degraded in
more than 70% for all ranges of radiation. REFERENCES 1. Ahn M.Y., Filey T.R., Javert C.T., Nies L., Hua I.,
Bezares-Cruz J., 2006. Photodegradation of deca
bromodiphenyl ether adsorbed onto clay minerals,
metal oxides, and sediments. Environmental Sci
ence & Technology 40, 215 – 220. 14. Fang L., Huang J., Yu G., Wang L., 2008. Photo
chemical degradation of six polybrominated diphe
nyl ether congeners under ultraviolet irradiation in
hexane. Chemosphere 71, 258 – 267. 15. Granelli L., Eriksson J., Athanasiadou M., Berg
man A., 2011. Reductive debromination of nonbro
minated diphenyl ethers by sodium borohydride
and identification of octabrominated diphenyl
ether products. Chemosphere 82, 839–846. 2. Alaee M., Wenning R.J., 2002. The significance of
brominated flame retardants in the environment:
current understanding, issues and challenges. Che
mosphere 46, 579–582. 3. Alaee M., Arias P., Sjödin A., Bergman A., 2003. An
overview of commercially used brominated flame
retardants, their application, their use patterns in
different countries/ regions and possible modes of
release. Environment International 29, 683–689. 16. Harrad S., Hazrati S., Ibarra C., 2006. Concentra
tions of polychlorinated biphenyls in indoor air and
polybrominated diphenyl ethers in indoor air and
dust in Birmingham, United Kingdom: implica
tions for human exposure. Environmental Science
& Technology 40, 4633–4638. 4. Allen J., McClean M., Stapleton H., Nelson J.,
Webster T., 2007. Personal exposure to polybro
minated diphenyl ethers (PBDEs) in residential
indoor air. Environment Science & Technology 41,
4574–4579. 17. Kajiwara N., Noma Y., Takigami H., 2008. Photol
ysis studies of technical decabromodiphenyl ether
(DecaBDE) and ethane (DeBDethane) in plastics
under natural sunlight. Environmental Science &
Technology 42, 4404–4409. 5. Ballschmiter K., Zell M., 1980. Analysis of poly
chlorinated biphenyls (PCB) by glass capillary gas
chromatography. Fresenius Journal of Analytical
Chemistry 302, 20–31. 18. Peterman P.H., Orazio C.E., Feltz K.P., 2003. Sun
light photolysis of 39 mono-hepta PBDE congeners
in lipid. Organohalogen Compounds 63, 357–360. 6. Barcellos da Rosa M., Krüger H.U., Thomas S.,
Zetzsch C., 2003. Photolytic debromination and
degradation of decabromodiphenyl ether, and ex
ploratory kinetic study in toluene. Fresenius Envi
ronmental Bulletin 12, 940 – 945. 19. Sánchez-Prado L., González-Barreiro C., Lores M.,
Llompart M., Garcia-Jares C., Cela R., 2005. Photo
chemical studies of polybrominated diphenyl ethers
(PBDEs) technical mixture by solid phase microex
traction (SPME). Chemosphere 60, 922–928. 7. Bezares-Cruz J., Jafvert C.T., Hua I., 2004. Solar
photodecomposition of decabromodiphenyl ether:
products and quantum yield. Environmental Sci
ence & Technology 38, 4149 – 4156. 20. BDE-101 (2,2’,4,5,5’- pentabromodiphenyl
ether) This study indicates that lower PBDE conge
ners can undergo room-light-induced debromi
nation in indoor air. The results showed that (1)
the efficiency of photodegradation varied and de
pended on amount of bromine atoms in congener
and light source (2) the photodegradation of high
ly bromo-substitued PBDEs was faster than with
smaller amount of bromines (3) the photodegra
dation conversion of BDE-28, BDE-47, BDE-99, In the first 5 minutes of experiment, the deg
radation of BDE-101 was reported only for UV-B
(16%). After another 15 minutes, BDE-101 start
ed to decay for all ranges of radiation and was
at a level of 6% for UV-A, 26% for UV-B ,12%
for UV-C, and 11% for white light. At the half of
experiment, the largest degradation of BDE-101
was detected for UV-B, reaching 40%. For the Figure 5. The influence of optical radiation on the degradation of BDE-101 Figure 5. The influence of optical radiation on the degradation of BDE-101 185 Journal of Ecological Engineering Vol. 18(3), 2017 ether. Environmental Science and Pollution. Re
search. 16, 312–321. and BDE-101 was mostly affected by UV-C (4)
the slowest degradation of lower PBDE conge
ners was observed for white light and UV-B rang
es (for most of BDEs) (5) white light and UV-A
showed similar pattern of effectiveness in degra
dation for analyzed PBDEs. The understanding of
indoor air chemistry of lower PBDEs can be valu
able for the exposure evaluation and searching for
new effective remediation methods. 11. Darnerud P.O., Eriksen G.S., Johannesson T.,
Larsen P., Viluksela M., 2001. Polybrominated Di
phenyl Ethers: occurrence, dietary exposure, and
toxicology. Environmental Health Perspectives
109, 49–68. 12. Environmental Heath Criteria 162: Brominated Di
phenyl Ethers, Word Heath Organization, Geneva,
1994. 13. Eriksson J., Green N., Marsh G., Bergman Å., 2004. Photochemical decomposition of 15 polybrominat
ed diphenyl ether congeners in methanol/water. En
vironmental Science & Technology 38, 3119–3125. REFERENCES Schweizer C., Edwards R.D., Bayer-Oglesby l.,
Gauderman W.J., Ilacqua V., Jantunen M.J., Lai
H.K., 2007. Indoor time-microenvironment-activ
ity patterns in seven regions of Europe. Journal of
Exposure Science and Environmental Epidemiol
ogy 17, 170–181. 8. Butt C.M., Diamond M.L., Ikonomou T.J., 2004. Spatial distribution of polybrominated diphenyl
ethers in Southern Ontario as measured in indoor
and outdoor window organic films. Environmental
Science & Technology 38, 724–731 21. Stapleton H.M., Dodder N. G., 2008. Photodegra
dation of decabromodiphenyl ether in house dust
by natural sunlight. Environmental Toxicology and
Chemistry 27, 306 – 312. 9. Cetin B., Odobasi M., 2011. Polybrominated di
phenyl ethers (PBDEs) in indoor and outdoor win
dow organic films in Izmir, Turkey. Journal of Haz
ardous Materials 185, 784–791. 22. Tham K.W., 2016. Indoor air quality and its effects
on humans – a review of challenges and develop
ments in the last 30 years. Energy and Buildings
130, 637–650. 10. Christiansson A., Eriksson J., Techiel D., Bergman
A., 2009. Identification and quantification of prod
ucts formed via photolysis of decabromodiphenyl 23. World Health Organization, WHO 2014. 186
|
https://openalex.org/W2914801712
|
https://europepmc.org/articles/pmc6364885?pdf=render
|
English
| null |
Regional and global shifts in crop diversity through the Anthropocene
|
PloS one
| 2,019
|
cc-by
| 9,276
|
RESEARCH ARTICLE Abstract The Anthropocene epoch is partly defined by anthropogenic spread of crops beyond their
centres of origin. At global scales, evidence indicates that species-level taxonomic diversity
of crops being cultivated on large-scale agricultural lands has increased linearly over the
past 50 years. Yet environmental and socio-economic differences support expectations that
temporal changes in crop diversity vary across regions. Ecological theory also suggests that
changes in crop taxonomic diversity may not necessarily reflect changes in the evolutionary
diversity of crops. We used data from the Food and Agricultural Organization (FAO) of the
United Nations to assess changes in crop taxonomic- and phylogenetic diversity across 22
subcontinental-scale regions from 1961–2014. We document certain broad consistencies
across nearly all regions: i) little change in crop diversity from 1961 through to the late
1970s; followed by ii) a 10-year period of sharp diversification through the early 1980s; fol-
lowed by iii) a “levelling-off” of crop diversification beginning in the early 1990s. However,
the specific onset and duration of these distinct periods differs significantly across regions
and are unrelated to agricultural expansion, indicating that unique policy or environmental
conditions influence the crops being grown within a given region. Additionally, while the
1970s and 1980s are defined by region-scale increases in crop diversity this period marks
the increasing dominance of a small number of crop species and lineages; a trend resulting
in detectable increases in the similarity of crops being grown across regions. Broad similari-
ties in the species-level taxonomic and phylogenetic diversity of crops being grown across
regions, primarily at large industrial scales captured by FAO data, represent a unique fea-
ture of the Anthropocene epoch. Yet nuanced asymmetries in regional-scale trends suggest
that environmental and socio-economic factors play a key role in shaping observed macro-
ecological changes in the plant diversity on agricultural lands. Adam R. MartinID1*, Marc W. Cadotte2, Marney E. Isaac1, Rube´n Milla3, Denis VileID4,
Cyrille Violle5 Adam R. MartinID
Cyrille Violle5 1 Department of Physical and Environmental Sciences and The Centre for Critical Development Studies,
University of Toronto Scarborough, Scarborough, Canada, 2 Department of Biological Sciences, University of
Toronto Scarborough, Scarborough, Canada, 3 Departamento de Biologı´a y Geologı´a, Fı´sica y Quı´mica
Inorga´nica, Universidad Rey Juan Carlos, Mo´stoles, Spain, 4 Laboratoire d’Ecophysiologie des Plantes sous
Stress Environnementaux (LEPSE, UMR759), Institut National de la Recherche Agronomique (INRA),
Universite´ de Montpellier, Montpellier, France, 5 UMR 5175, Centre d’Ecologie Fonctionnelle et Evolutive,
Universite´ de Montpellier, Universite´ Paul Vale´ry, EPHE, Montpellier, France a1111111111
a1111111111
a1111111111
a1111111111
a1111111111 a1111111111
a1111111111
a1111111111
a1111111111
a1111111111 * adam.martin@utoronto.ca. Regional and global shifts in crop diversity
through the Anthropocene Adam R. MartinID1*, Marc W. Cadotte2, Marney E. Isaac1, Rube´n Milla3, Denis VileID4,
Cyrille Violle5 Introduction Conservation and Biology chair program, the
Canada Foundation for Innovation, Ontario
Research Fund, and the Natural Sciences and
Engineering Research Council of Canada (Grant
number 386151). Denis Vile is supported by the
European Union and the Re´gion Languedoc-
Roussillon “Chercheur d’Avenir” (FEDER FSE IEJ
2014-2020; Grant Project “APSEVIR”). Rube´n Milla
is supported by Ministerio de Economı´a y
Competitividad of Spain (grants CGL2014-56567-R
and PCIN-2014-053), and the European Union
(Eco-serve project, BiodivERsA/001/2014, Horizon
2020). Cyrille Violle was supported by a Marie
Curie International Outgoing Fellowship within the
7th European Community Framework Program
(DiversiTraits project, no. 221060) and by the
European Research Council (ERC) Starting Grant
Project StG-2014-639706-CONSTRAINTS. The
funders had no role in study design, data collection
and analysis, decision to publish, or preparation of
the manuscript. A major line of scientific evidence defining the Anthropocene epoch–the period of Earth’s his-
tory defined by the dominance of humans–is the human-caused changes in Earth’s biodiversity
and biogeography. While there are multiple dimensions to changes in biogeography in the
Anthropocene [1], changes in the human-mediated spread of crops beyond their regions of
domestication into other parts of the world are central to these arguments [2, 3]. Some of the
most prominent shifts in crop biogeography occurred during the “Columbian Exchange”: a
major interchange of commercially important plant species during in the 15th and 16th centuries
between the Old and New Worlds [4–6]. Yet more recently since the 1950s, global-scale analyses
indicate that there have been major influxes (and subsequent domination) of crops into the
food supplies, diets, agricultural economies, and farmlands in many parts of the world [3, 7, 8]. pp
g
y p
[
]
Global-scale assessments of the changes in crop diversity over recent decades have largely
reported linear increases in the crop diversity (and evenness) associated with global diets and
agricultural economies, with these patterns being key for understanding trends in food pro-
duction, consumption, and trade [3, 7–9]. Yet while these patterns are certainly notable cf. Fig
2 in [7], there is reason to expect that the timing and rate of change in the diversity profiles of
croplands has also differed drastically among regions. Specifically, agricultural trade liberaliza-
tion and structural adjustment programs throughout the 1980s incentivized the production
and export of a few select crops or genotypes, with major impacts on crop selection and man-
agement at the regional- or country-level e.g. [10, 11, 12]. Crop diversity through the Anthropocene OPEN ACCESS OPEN ACCESS
Citation: Martin AR, Cadotte MW, Isaac ME, Milla
R, Vile D, Violle C (2019) Regional and global shifts
in crop diversity through the Anthropocene. PLoS
ONE 14(2): e0209788. https://doi.org/10.1371/
journal.pone.0209788
Editor: Jose Luis Gonzalez-Andujar, Instituto
Agricultura Sostenible, SPAIN
Received: September 14, 2018
Accepted: December 11, 2018
Published: February 6, 2019
Copyright: © 2019 Martin et al. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which
permits unrestricted use, distribution, and
reproduction in any medium, provided the original
author and source are credited. OPEN ACCESS
Citation: Martin AR, Cadotte MW, Isaac ME, Milla
R, Vile D, Violle C (2019) Regional and global shifts
in crop diversity through the Anthropocene. PLoS
ONE 14(2): e0209788. https://doi.org/10.1371/
journal.pone.0209788
Editor: Jose Luis Gonzalez-Andujar, Instituto
Agricultura Sostenible, SPAIN
Received: September 14, 2018
Accepted: December 11, 2018
Published: February 6, 2019
Copyright: © 2019 Martin et al. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which
permits unrestricted use, distribution, and
reproduction in any medium, provided the original
author and source are credited. Citation: Martin AR, Cadotte MW, Isaac ME, Milla
R, Vile D, Violle C (2019) Regional and global shifts
in crop diversity through the Anthropocene. PLoS
ONE 14(2): e0209788. https://doi.org/10.1371/
journal.pone.0209788 Citation: Martin AR, Cadotte MW, Isaac ME, Milla
R, Vile D, Violle C (2019) Regional and global shifts
in crop diversity through the Anthropocene. PLoS
ONE 14(2): e0209788. https://doi.org/10.1371/
journal.pone.0209788 Copyright: © 2019 Martin et al. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which
permits unrestricted use, distribution, and
reproduction in any medium, provided the original
author and source are credited. Data Availability Statement: All relevant data are
within the manuscript and its Supporting
Information file. The datasets that support the
findings of this study are available from the authors
on request, see author contributions for specific
data sets. Funding: This research was undertaken in part
based on funding from the Canada Research
Chairs program and a Natural Sciences and
Engineering Research Council of Canada Discovery
Grant to Marney E. Isaac. Marc W. Cadotte is
supported by the TD Professor of Urban Forest 1 / 18 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 Introduction Such programs overwhelmingly
impacted developing regions, leading to the expectation that patterns of crop diversification
over the past 50 years have likely differed drastically among regions. At the same time, climatic
limitations to growing certain crops in higher latitudes also has likely led to less drastic or
immediate shifts in agricultural diversity in these regions, as compared to lower latitudes e.g. [13]. To date, however, patterns of crop diversification have not been evaluated through
regional comparisons of crop diversity change through time. Competing interests: The authors have declared
that no competing interests exist. Furthermore, existing global evaluations of crop diversity have primarily focused on taxo-
nomic diversity–measured as crop species richness–across global scales [3, 7]. Yet these analy-
ses may overlook shifts in the evolutionary profiles of croplands. Ecological theory and
research suggests that crop evolutionary diversity–referred to in the ecological literature and
hereafter as “phylogenetic” diversity–would provide more mechanistic insights and predic-
tions into the sustainability and functioning of agricultural systems, including net primary
production, and resistance or resilience of crops to pests, pathogens, or environmental change
[14–16]. However to date there remain no analyses evaluating if changing composition of agri-
cultural commodity groups (or species) has resulted in commensurate changes in phylogenetic
diversity. On one hand, the aggressive expansion of a relatively small number of plant crop lineages
at the expense of others in certain parts of the world–including oil crops and western cereals
such as wheat and maize or other crops within the Poaceae or Fabaceae–suggest that fewer
plant evolutionary lineages now makeup agricultural lands [7, 17]. This increasing dominance
of a small number of commodity groups would lead to expectations of strong temporal
declines in crop phylogenetic diversity globally. Yet on the other hand, the potential for differ-
ent regions, especially in the tropics, to cultivate and produce an evolutionary diverse range of
crops would suggest metrics of phylogenetic diversity has in fact increased drastically over the
past 50 years, with patterns differing among regions. Hypothesized changes in crop taxonomic- and phylogenetic diversity within regions (i.e. crop α-diversity), also leads to expectations of shifts in crop diversity among regions (i.e. crop
β-diversity). Crop species identification and abundance estimates Our analysis was based on crop production data from the Food and Agricultural Organization
(FAO) from 1961–2014, which is reported for 161 plant-based commodity groups (Table A in
S1 File) [18]. We extracted data on the area harvested (in ha) across 22 FAO-recognized sub-
continental regions, as well as an overall global estimate. Complete data on area harvested
(n = 54 years) was available for all 161 FAO commodity groups in all regions except for Central
Asia (where data dates from 1992–2014, n = 23 years; S2 File). Our analysis employed diversity metrics that relied on species-level taxonomy, by following
a two-step process to identify the crop species associated with each commodity group. Our analysis employed diversity metrics that relied on species level taxonomy, by following
a two-step process to identify the crop species associated with each commodity group. (Although genetic diversity is a critical aspect of agricultural diversity, it is not possible to
account for cultivar or landrace level diversity empirically since the FAO does not report data
beyond the species level.) First, we used FAO commodity group codes, in conjunction with the
FAO Commodity List tool (www.fao.org/economic/ess/ess-standards/commodity), to identify
the crop species the FAO associates with each group (Table A in S1 File). Second, the final list
of crops for each commodity group was cross-referenced with the Taxonomic Name Resolu-
tion Service v. 4.0 [19], to correct inconsistencies and remove synonyms. Through this process
we removed four FAO commodity groups that were not associated with any specific crop spe-
cies, or associated with non-plant species. Our analysis thus relied on 157 commodity groups
associated with 337 unique crop species across 233 genera and 77 families (Table A in S1 File). Since FAO does not differentiate harvested area associated among species within commod-
ity groups, diversity in each region-by-time combination was calculated assuming only one
species per commodity group. While this approach may underestimate diversity in some
instances, the only viable alternative–assuming all species within a group are present within a
region–would present a stronger bias (e.g. the “Vegetable, Fresh nes” group contains 27 spe-
cies; Table A in S1 File). We used area harvested as our estimate of species abundance. Introduction Specifically, if detected, systematic increases in crop α-diversity are likely to 2 / 18 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 Crop diversity through the Anthropocene correspond to declines in crop β-diversity among regions, since increasing crop diversity on
farms within one region will necessarily increase the likelihood of observing similar crops on
farms within other regions. This is particularly the case when new crops are being introduced
from other regions, and not being derived through in situ crop diversification. Such patterns
would indicate increasing homogenization of croplands worldwide, which would have major
implications for agricultural sustainability worldwide. In particular, under conditions of
declining crop β-diversity globally, theory and observation would predict increasing crop sus-
ceptibility to pest and pathogen outbreaks, or climatic change, at global scales [7]. Here, we employ crop production data from the Food and Agricultural Organization
(FAO) [18] from 1961–2014, available for 161 plant-based commodity groups (Table A in S1
File), across 22 FAO-recognized subcontinental regions, in order to address the following
questions: 1) Do agricultural regions show differing patterns of crop taxonomic and phyloge-
netic diversification through time? 2) Are changes in crop taxonomic and phylogenetic diver-
sity predicted by agricultural expansion alone? 3) Do changes in crop taxonomic diversity
result in commensurate change in the phylogenetic diversity of crops through time? And
finally 4) how do changes in crop diversity within regions (i.e. crop α-diversity) impact the dif-
ferences in crop diversity among regions (i.e. crop β-diversity)? Measuring phylogenetic/ evolutionary crop alpha (α-) diversity We then calculated metrics of phylogenetic/ evolutionary crop diversity that were essentially
analogous to SR and SD, but instead take into account evolutionary diversity among crop spe-
cies. This was done by first constructing a quantitative representation of the evolutionary rela-
tionships among crops (i.e. a phylogenetic tree). Our crop phylogenetic tree was based on the
evolutionary relationships among all plant species, as proposed in the Angiosperm Phylogeny
Group III “megatree” [21]. We then used Phylomatic [22] in order to “prune” this megatree
such that our phylogenetic tree included only crops species (see Table A in S1 File). Then, we
quantitatively measured the evolutionary distances among all crops (measured in millions of
years of evolution) by using the BLADJ algorithm in Phylocom [23], which ascribes evolution-
ary ages to each different crop based on fossil records [24] as updated by [25]. Unresolved evo-
lutionary relationships were treated as polytomies. For each region-by-year combination we then quantified Faith’s phylogenetic diversity
(PD), which is a phylogenetic analogy to SR. However, instead of representing simply the
number of crop species within a given region-by-year combination, PD represents the sum of
all phylogenetic branch lengths within a region-by-year sample [26]; in other words, PD repre-
sents the total millions of years of plant evolution captured by the crops growing within a
given region within a given year. We also calculated a phylogenetic analogue of SD, which is phylogenetic Rao’s quadratic
entropy (QEphy) [27, 28]. A value of QEphy was calculated for each region-by-year combination
as: QEphy ¼ P
i
P
j6¼1ðdij pipjÞ
ð1Þ ð1Þ where dij represents the phylogenetic distance between species i and j, and p represents the
proportional abundance of species i and j within any given region-by-year grouping. For our
analysis, QEphy is a metric of crop α-diversity that is similar to SD, but takes into account the
evolutionary relatedness among crop species. In our analysis then, i) increases in QEphy
through time represent regions where crop α-diversity is becoming defined by a larger number
of crop evolutionary lineages that are more equitable in their abundances, while ii) decreases
in QEphy through time represent regions where a smaller number of crop evolutionary lineages
are becoming more dominant in their abundances. All crop evolutionary/ phylogenetic diversity metrics were calculated using the ‘picante’ R
package [29]. Measuring taxonomic crop alpha (α-) diversity For each region-by-year combination we calculated the diversity of crops within a region (i.e. crop alpha (α-)) as both i) species richness (SR), or simply the number of crops present within PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 3 / 18 Crop diversity through the Anthropocene a given region within a given year, and ii) Simpson’s diversity index (SD). The latter (SD) was
calculated using the ‘vegan’ R package [20], and in short, is a metric in community ecology
that accounts for both SR and the abundance of species when quantifying α-diversity. This
index ranges from 0–1, such that an SD value of 1 represents “infinite diversity” and an SD
value of 0 represents no diversity. For our analyses here changes in SD through time can be
interpreted as follows: i) increases in SD within a given region through time, are interpreted as
reflecting regions where overall crop α-diversity is comprised of a greater number of crops
which are becoming more equitable in their abundances, while i) declines in SD within a given
region through time, are interpreted as reflecting regions where overall crop α-diversity is
becoming dominated by a fewer number of highly abundant crop species. Changes in crop alpha (α-) diversity through time Our preliminary analysis entailed fitting and comparing a number of linear and non-linear
models, in order to evaluate patterns of crop taxonomic- and phylogenetic diversity through
time (as well as total agricultural area harvested) in each region individually. For these analy-
ses, we assumed that any metric of diversity (D in Eqs 2–7 below) might change following six
different linear and non-linear patterns. First, we fit a linear regression model of the form: ð2Þ D ¼ a þ ðb yearÞ
ð2Þ where a is the intercept and b represents the rate of change in D through time. Based on this
linear model, we then fit a piecewise linear regression model using the “segmented” R package
[30]. This entailed using the linear model from Eq 2, to estimate breakpoints in the relation-
ship between D and year. Piecewise models were of the form: D ¼ a þ bðyearÞ þ ðcðyear c1Þ Iðyear > c1ÞÞ þ ðdðyear c2Þ Iðyear > c2ÞÞ
ð3Þ ð3Þ is as in Eq 2, and b represents the slope of the D-year relationship prior to the first where a is as in Eq 2, and b represents the slope of the D-year relationship prior to the first
breakpoint (ψ1). In these models, c represents the difference in the slope of the D-year relation-
ship between the first and second segments, which therefore applies only when the first condi-
tional indicator function (denoted by “I”) is true. Similarly, d represents the difference in
slopes for the D-year relationship between the first, second, and third segments, which only
applies when the second conditional indicator function is true. In sum, the slope of the rela-
tionship between D and year is equal to b prior to the ψ1, is equal to b + c between the ψ1and
ψ2, and is equal to b + c + d after the ψ2. Since there may be multiple solutions to the piecewise
model fitting process, all model parameters as well as overall model Akaike’s Information Cri-
terion (AIC) and r2 value, were calculated as median values of a distribution for these parame-
ters generated through bootstrapping with replacement (where n = 500 replicates) [31]. Measuring phylogenetic/ evolutionary crop alpha (α-) diversity In calculating both PD and QEphy, we had to account for the discrepancy
between FAO commodity groups containing multiple species, while presenting only a single
corresponding estimate of area harvested. Therefore, for each individual measurement both
PD and QEphy were calculated assuming only one randomly selected species per commodity
group (see Table A in S1 File). This randomization was repeated 100 times, and final values of PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 4 / 18 Crop diversity through the Anthropocene PD and QEphy used in analysis for each region-by-time data point were taken as the median
PD and QEphy values from the randomized distributions. Model comparisons For all regions, we then identified the best-fit model for each D-by-year relationship (as well as
agricultural area-by-year) using AIC, with the lowest AIC score indicating the most parsimo-
nious model fit. Among all models (Eqs 2–7), overwhelmingly two-break piecewise models
(Eqs 2 and 3) best described changes in D through time (Table B and Fig B in S1 File). Of the
88 regional trends in four different diversity metrics evaluated, AIC-selection indicated that
piecewise models represented the most parsimonious model in 78 instances; in the 10 total
cases where segmented models were not AIC-selected, differences in AIC between these mod-
els and the most parsimonious fit were low and piecewise models generally showed the sec-
ond-lowest AIC value (Table B and Fig B in S1 File). Similarly, piecewise models also best
explained changes in agricultural area through time in 16 instances (Table B and Fig B in S1
File). Therefore we used piecewise model fits for all D-year relationships, in order to facilitate
further analyses. Changes in crop alpha (α-) diversity through time We then fit a linear model including a second-order polynomial term of the form: D ¼ a þ ðb yearÞ þ ðc year2Þ
ð4Þ ð4Þ where a and b are as in Eq 2, and c represents to the coefficient for the year2 term which con-
trols the form of the parabolic curve. We then used non-linear least square to fit a number of non-linear models, the first of
which was a unimodal model of the form: D ¼ a bðyear cÞ2
ð5Þ ð5Þ where a, b, and c are parameters representing the mean value of D, the shape of the unimodal-
ity, and the year of the peak, respectively. The next model was an asymptotic model of the
form: ð6Þ D ¼ a þ b expð expðcÞ yearÞ
ð6Þ where a represents the asymptote, b represents the difference between the y-intercept and the
asymptote, and c represents the log of the rate constant. Next we fit a four-parameter logistic
model of the form: D ¼
a þ ðb aÞ
ð1 þ exp c year
d
Þ
ð7Þ ð7Þ 5 / 18 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 Crop diversity through the Anthropocene where a represents the minimum value of D (a lower asymptote), b represents the maximum
value of D (the upper asymptote), and c and d represent the slope and the inflection point of
the curve, respectively. Values for all parameters in Eqs 5–7 were estimated using maximum
likelihood. Regional characteristics of change in crop alpha (α-) diversity through time We used parameters from piecewise models to assess and compare changes in crop D through
time across regions as follows. First, ψ1 in Eq 3 was used to quantify the timing of the first
major breakpoint in crop D change. Secondly, we calculated the duration of the period of
major change in crop D through time as ψ1-ψ2 from Eq 3. Third, we calculated the change in
the slope of the relationship between D and year that occurs at ψ1, as an indicator of both the
direction and rate of change in D through time following the first major breakpoint (calculated
as b + c from Eq 3). We then focused more explicitly on the first breakpoints in D, in order to test if the timing
of crop D change mirror patterns of agricultural expansion. This was done using linear regres-
sion analyses where the timing of the first breakpoint in agricultural area was treated as the
independent variable, and the timing of the first breakpoint in D as the dependent variable. Similarly, we assessed if the timing of major changes in crop taxonomic- or phylogenetic diver-
sity differed from one another. This analysis was performed using linear regression analysis,
where ψ1 (Eq 3) for one measure of D was predicted as a function of ψ1 for any other measure
of D. We tested if these linear models differed from a 1:1 relationship using a linear hypothesis
test using the ‘linear.hypothesis’ function in the ‘car’ R package [32]. Changes in crop diversity within regions Major shifts in regional crop taxonomic diversity (measured as crop species richness (SR)) and
phylogenetic diversity (PD), occurred within all regions in very similar patterns: i) a period of
little change in diversity from the early- through to the late 1960s, followed by ii) a period of
rapid increase in diversity beginning in the late 1970s through mid-1980s, which endured for
~9.5–10.5 years on average, which then iii) ultimately stabilized in the early 1990s (Figs 1 and
2, Figs A and B and Tables C and D in S1 File). Across all 22 regions, pronounced increases in both SR and PD began on average in 1982
(SR average = 1982.4±5.6 years (s.d.); PD average = 1982.0±6.5, Fig 2). When evaluated at a
global scale, across all regions the onset of increases in crop diversity did not differ significantly
between SR and PD (Fig 2), but there were some notable exceptions. Increases in crop PD
began in North America 8.0 years prior to SR, while increases in PD in Eastern- and Southern
Africa occurred 3.1 and 5.4 years before increases in crop SR began, respectively (Fig 1,
Table D in S1 File). At the same time, increases in SR in South America and Eastern Europe
were initiated at 8.5 and 10.7 years, respectively, prior to any commensurate increase in PD
(Table D in S1 File). Following the onset of crop diversity increases, regional SR then increased on average by
2.1±2.4 species year-1 with increases continuing for 8.4±5.4 years on average. Similarly, follow-
ing the onset of crop diversity increases, across all regions PD increased by 93.7 million years
year-1 on average; increases which were maintained for 10.7 years on average. The only excep-
tion to these patterns were three regions in Oceania which showed only subtle declines in SR
of 0.3 species year-1 and PD of 18.9 million years year-1, beginning in 1979–80 and occurring
for a period of ~10 years (Fig 2, Figs A and B and Table D in S1 File). When evaluated at a global scale, the timing and duration of change in crop diversity and
agricultural area both increased through time (Fig 2) However, when examined more in
detailed within regions, these patterns did not mirror one another. Neither the onset of
increases in SR nor PD was correlated with onset of increases in agricultural expansion. Changes in regional differences in crop beta (β-) diversity through time We used non-metric multidimensional scaling (NMDS) to assess changes in crop β-diversity
among regions and through time. This entailed constructing a global community matrix of all
region-by-year crop “communities”, and then calculating pairwise Bray-Curtis (BC) dissimi-
larity values among all communities as: BCjk ¼
P ijxij xikj
P iðxij þ xikÞ
ð8Þ ð8Þ where BCjk represents the dissimilarity between the jth and kth sample, xij represents the abun-
dance (i.e., area harvested) of taxon i in sample j, and xik represents the abundance of taxon i PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 6 / 18 Crop diversity through the Anthropocene in sample k. We used an Adonis test–essentially a multivariate analogue to an analysis of vari-
ance (ANOVA)–to evaluate if pairwise distances differed significantly as a function of region,
year, and a region-by-year interaction. An Adonis test also returns an r2 value. Therefore in
our analysis, the Adonis tests informs our statistical evaluation of i) the presence/ absence of
statistical differences in crop diversity among regions, among years, and among all region-by-
year combinations, as well as ii) the degree to which region or year explain differences in crop
β-diversity among all region-by-year groups. All statistical analyses were conducted using R
statistical software v 3.3.2 [33]. PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 Changes in crop diversity within regions The
timing of major increases in agricultural area occurred anywhere from ~21 prior to, to ~11
years following, increases in SR. Similarly, the onset of sharp increases in agricultural area
occurred anywhere from ~23 years prior to, to ~17 years following, increases in PD (Fig 3). Periods of increases in agricultural area tended to last longer on average (14.6±10.0), as com-
pared to the duration of SR and PD increases (Fig 2). Across all regions in the global dataset, six new crop commodity groups were reported
between 1961 and 2014, including cassava leaves (first reported by the FAO in 1990), dry cow
peas (1969), jojoba seed (1981), kiwi (1969), tallow tree seed (1984), and triticale (1975). Within regions, the largest net increases in crop SR between 1961 and 2014 were observed in
Central America, where additional 30 crop commodity groups were reported from a wide
range of crop types, including cereals (e.g. rye, millet, and non-specified cereals), legumes (e.g. PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 7 / 18 Crop diversity through the Anthropocene Fig 1. Timing of the onset and duration of changes in regional crop diversity and agricultural area across 22 FAO-defined
agricultural regions. Detailed values and confidence limits surrounding them are presented in Tables C and D in S1 File. https://doi.org/10.1371/journal.pone.0209788.g001
org/10.1371/journal.pone.0209788
February 6, 2019
8 / 18 iversity and agricultural area across 22 FAO defined Fig 1. Timing of the onset and duration of changes in regional crop diversity and agricultural area across 22 FAO-defined
agricultural regions. Detailed values and confidence limits surrounding them are presented in Tables C and D in S1 File. Fig 1. Timing of the onset and duration of changes in regional crop diversity and agricultural area across 22 FAO-defined
agricultural regions. Detailed values and confidence limits surrounding them are presented in Tables C and D in S1 File. https://doi.org/10.1371/journal.pone.0209788.g001 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 8 / 18 Crop diversity through the Anthropocene PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 9 / 18 Crop diversity through the Anthropocene Fig 2. Probability distributions of two indicators of change in crop diversity and agricultural area across 22 FAO-
defined agricultural regions. Changes in crop diversity within regions Panel A represents data on the timing of major change in crop diversity and agricultural
area, while panel B represents data on the duration of major change in four different crop diversity metrics and
agricultural area (where n = 22 in all cases). Region-specific values for each of these indicators, as well as a third
indicator associated with the rate of change in crop diversity metrics and agricultural area, are presented in Table C in
S1 File. Points below the histograms in panels A and B correspond to means ± 1 standard deviation, and medians ± 1
median absolute deviation, respectively. https://doi.org/10.1371/journal.pone.0209788.g002 https://doi.org/10.1371/journal.pone.0209788.g002 string beans and non-specified pulses), tree and nut crops (e.g. almond, areca nut, cashew, rub-
ber, sunflower, tea), spices (e.g. ginger, pepper, as well as nutmeg, mace, and cardamom), vege-
tables (e.g. artichoke, leeks and other alliaceous vegetables, spinach, taro) and, to a lesser
extent, fruits (e.g., blueberry and persimmons). Alternatively, in the same time period Polyne-
sia reported increases of only one additional crop commodity group (i.e. lettuce and chicory)
and Micronesia reported only three additional crops (i.e. cucumbers and gherkins, pineapples,
and plantains). Changes in crop composition within regions a period therefore
defined by increasing dominance of a few evolutionary lineages–over 9.0±3.7 years on average. In regions where the 1980s were marked by declines in SD and QEphy (i.e. increasing domi-
nance of a few crop species or evolutionary lineages), this period was then followed by
increases in these diversity metrics throughout the 1990s to mid-2010s (Figs C and D and
Table D in S1 File). The timings of the first breakpoints in SD and QEphy were correlated across
all regions, but the timing of the onset of increases in SD or QEphy was not predicted by the
timing of increases in agricultural area (Fig 3). Changes in crop diversity among regions We detected statistically significant differences in crop diversity among regions (Adonis test r2
= 0.949, p<0.001; Fig 4, Fig D in S1 File). Yet when controlling for regional differences, crop
β-diversity also changed significantly through time (Adonis test r2 = 0.01, p<0.001): there was
a significant, though small in magnitude, trend of increasing the similarity of crops grown
among different regions occurring between 1961 through to 2014 (r2 = 0.003, p<0.001,
n = 11823). These subtle increases in the similarly of crops grown among regions, or alterna-
tively significant declines in the crop diversity among regions, occurred over a ~9-year period
from 1983 to 1992 (Fig 4). Changes in crop composition within regions When evaluated at a global scale, the timing of major changes in crop composition, as measured
by Simpson’s diversity index (SD) and a phylogenetic analogue of SD (Rao’s quadratic entropy;
QEphy), was broadly similar to the timing of change in crop SR and PD (Fig 2). Across all
regions on average, crop SD and QEphy began shifting in ~1979–1982 (Figs 1 and 2). However,
when evaluated within regions, unlike SR, PD, or agricultural area, these were not necessarily
periods of rapid increases. In 10 of 22 regions evaluated, this time marked a period of declines
of SD−i.e. a period of increasing dominance of a smaller number of crop species–through much
of the 1980s, over a period of 11.4±4.5 years (Figs C and D and Table D in S1 File). Similarly,
nine regions showed a period of declining QEphy throughout the 1980s –i.e. a period therefore
defined by increasing dominance of a few evolutionary lineages–over 9.0±3.7 years on average. In regions where the 1980s were marked by declines in SD and QEphy (i.e. increasing domi-
nance of a few crop species or evolutionary lineages), this period was then followed by
increases in these diversity metrics throughout the 1990s to mid-2010s (Figs C and D and
Table D in S1 File). The timings of the first breakpoints in SD and QEphy were correlated across
all regions, but the timing of the onset of increases in SD or QEphy was not predicted by the
timing of increases in agricultural area (Fig 3). When evaluated at a global scale, the timing of major changes in crop composition, as measured
by Simpson’s diversity index (SD) and a phylogenetic analogue of SD (Rao’s quadratic entropy;
QEphy), was broadly similar to the timing of change in crop SR and PD (Fig 2). Across all
regions on average, crop SD and QEphy began shifting in ~1979–1982 (Figs 1 and 2). However,
when evaluated within regions, unlike SR, PD, or agricultural area, these were not necessarily
periods of rapid increases. In 10 of 22 regions evaluated, this time marked a period of declines
of SD−i.e. a period of increasing dominance of a smaller number of crop species–through much
of the 1980s, over a period of 11.4±4.5 years (Figs C and D and Table D in S1 File). Similarly,
nine regions showed a period of declining QEphy throughout the 1980s –i.e. Crop diversity through the Anthropocene Fig 4. Changes in the differences in crop diversity among 22 FAO-defined agricultural regions from 1961–2014. Panel A presents a visualization of regional
differences in crop β-diversity (calculated following a common metric in community ecology: non-metric multidimensional scaling (NMDS)). The values associated
with this technique (NMDS axis 1 and NMDS axis 2) are plot and interpreted here visually as a “map of similarity”: points closer to one another are region-by-year
combinations with more similar crop composition, while points further from one another are more dissimilar in crop composition. For clarity only data points from
1961, 1980, 2000, and 2014 are shown; corresponding confidence ellipses represent 1 standard deviation for each of these four years. Sizes of symbols within a region
corresponding to year with 1961 represented by the smallest symbols, 1980 medium size symbols, 2000 large symbols, and 2014 the largest symbols. Panel B represents
changes in regional crop similarity from 1961 to 2014. Data points represent similarity between any two regions, and trend line represents a segmented linear
regression model fit to the entire dataset fit. Shaded gray bands are 95% confidence limits surrounding the model. https://doi.org/10.1371/journal.pone.0209788.g004 https://doi.org/10.1371/journal.pone.0209788.g004 period (Fig 4). These patterns are similar to, albeit weaker than, those observed in analyses of
national-level food consumption patterns [7]. Our analyses also indicate that global scale assessments of diversity in agricultural lands (or
other metrics such as food consumption patterns e.g. [7]) may miss important differences
occurring at regional scales. For instance, an assessment of global averages (and associated
errors) indicated overlap in the timing and duration of change in all agricultural diversity indi-
ces and area (Fig 2). Yet these same metrics differed widely when assessed at regional scales
(Fig 3), indicating that any interpretations that global patterns in agricultural diversity reflect
change occurring on smaller scales should be done cautiously. Indeed, moving beyond
regional assessments by employing our analytical framework at the national-level, and then
linking these patterns with explicit local environmental or socio-economic data or policy, rep-
resent a next step in elucidating smaller-scale changes in crop diversity in greater detail. Our study also shows that increases in regional crop diversity, and associated declines in
regional differences in crop diversity, are not explained by patterns of agricultural expansion
alone (Fig 3). Trends in crop diversity within and among regions Our analyses show that over time the taxonomic- (SR) and phylogenetic (PD) diversity of
crops produced within regions has increased significantly over the past 50 years, in nearly all PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 10 / 18 Crop diversity through the Anthropocene regions of the world (Fig A and B in S1 File) While crop diversity within regions has generally
Fig 3. Relationships between the timing of the first breakpoint in agricultural area as compared to timing of the first breakpoint in four metrics of crop diversity
across 22 FAO-defined agricultural regions. Dashed gray lines represent a 1:1 trend line, and bold black trend lines represent significant relationship among the
breakpoints based on linear regression. Linear hypothesis p-values >0.05 indicate relationships that do not differ significantly from a 1:1 line. https://doi.org/10.1371/journal.pone.0209788.g003
Crop diversity through the Anthropocene Fig 3. Relationships between the timing of the first breakpoint in agricultural area as compared to timing of the first breakpoint in four metrics of crop diversity
across 22 FAO-defined agricultural regions. Dashed gray lines represent a 1:1 trend line, and bold black trend lines represent significant relationship among the
breakpoints based on linear regression. Linear hypothesis p-values >0.05 indicate relationships that do not differ significantly from a 1:1 line. https://doi.org/10.1371/journal.pone.0209788.g003 regions of the world (Fig A and B in S1 File). While crop diversity within regions has generally
systematically increased, our results indicate that these changes lead to a weak but statistically
significant signal of homogenization of agricultural lands among regions throughout the same regions of the world (Fig A and B in S1 File). While crop diversity within regions has generally
systematically increased, our results indicate that these changes lead to a weak but statistically
significant signal of homogenization of agricultural lands among regions throughout the same PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 11 / 18 Crop diversity through the Anthropocene 12 / 18 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 https://doi.org/10.1371/journal.pone.0209788.g004 This indicates that the complex interaction of factors leading to certain crops
being grown across regions–such as crop-specific subsidies, international trade markets, popu-
lation growth and per capita food demand, or environmental change e.g. [10, 11, 12]–are not
necessarily the same that drive agricultural expansion. For example, much of the literature
evaluating linkages between the political economy of food systems and crop diversity stems
from Central America and the Caribbean, where research has demonstrated how international
trade agreements have influenced the diversity of crops grown on farms independently of agri-
cultural expansion e.g. [11, 34]. Within this and nearby regions, the North American Free
Trade Agreement (NAFTA) and other initiatives such as the Caribbean Basin Initiative in the
mid-1980s, resulted in major increases in the number of crops grown within the national agri-
cultural portfolio of Central American countries. These changes specifically entailed introduc-
tion of palm oil, spices, fruits, and multiple “winter vegetables” into agricultural lands [34];
changes which correspond closely to the onset and duration of crop diversification in Central
America observed throughout the early to mid-1980s (Fig 1). However, such conclusions must be interpreted within the context of data limitations. Spe-
cifically, increases in agricultural diversity here, quantified as changes in the crop species asso-
ciated FAO-defined commodity groups, may underestimate the number of cultivars, varieties,
and landraces that comprise agricultural lands. For instance the NAFTA established in the
mid-1990s, and other trade liberalization initiatives in the region, have demonstrably reduced
the genetic diversity of maize across Central America on existing croplands [35]. Comparative
evaluation of hypotheses that predict shifts in crop diversity as a function of specific policy
interventions vs. other environmental and socio-economic change would be key in addressing
the causes of change in crop diversity further, but is beyond the scope of our analysis here. In nearly all regions a larger number of crops are becoming more abundant in their contri-
butions to agricultural lands; a trend supported here by consistent increases in SD and QEphy
over the past half century (Fig 1, Table D in S1 File). Only South America, and to a lesser extent
Eastern Asia and Western Europe, showed evidence of increasing dominance of certain crops PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 13 / 18 Crop diversity through the Anthropocene or phylogenetic lineages (Fig B and Table D in S1 File). Implications for agricultural diversity and sustainability Given the scale of our analyses, increases in the diversity of crops grown within regions
observed here is likely not reflective of on-farm cultivation or conservation of crop varieties
and landraces, which is often most notably observed on small-scale farms [11, 36]. Nor are the
trends reported here likely driven by in situ domestication of new commercial crop species,
since much of this occurred prior to ~4000–2000 years ago [2]. Instead, patterns reported here
are likely attributable to increases in large-scale movement of commercial crops, specifically
those being grown in conventional intensive management systems outside of their regions of
origin [3]. In that sense, our results should not be interpreted as support that actual farms worldwide
are shifting towards more diverse agroecosystems sensu [37, 38]. The environmental or socio-
economic benefits of diverse agroecosystems vs. intensive monoculture, such as increased crop
resilience to climate change or enhanced nutrient-use efficiency, are realized at farm- or agri-
cultural landscape scales where crops are interacting with one another or other non-crop spe-
cies [37–40]. Similarly, the benefits of increased crop diversity in terms of greater nutritional
quality or increased food sovereignty are also largely realized at sub-regional or household
scales [41] but see [42]. So while here we contribute towards finer spatial-scale analyses of crop
diversity, by moving from global assessments of crop commodity group diversity to crop spe-
cies- and phylogenetic diversity assessments on regional scales, considerable work remains in
order moving towards even finer scale analyses of changes in crop diversity. In its current form, our analyses can play an important role in setting and measuring global
priorities for agricultural sustainability and diversity. Specifically SDG 2 Target 2.5 calls for the
conservation of a “. . .genetic diversity of seeds, (and) cultivated plants. . .”: initiatives which
are progressively focusing on both taxonomic and phylogenetic diversity of crops and their
wild relatives, as well as intraspecific diversity within major crop lineages [43, 44]. The crop
taxonomic- and phylogenetic diversity values presented here could be used as a baseline for
such crop conservation initiatives, since questions surrounding “how much diversity is
enough” are central to such sustainability initiatives. Similarly, SDG 2 Target 2.4 calls for
“. . .resilient agricultural practises. . .” that confer a multitude of ecosystem services beyond
yield alone. In the unique case of South America, a
trend of reduced SD and QEphy is reflective of massive soybean expansion from ~260,000 to
55.7 million ha between 1961–2014 (Table D in S1 File). Implications for agricultural diversity and sustainability Diversified agroecosystems that incorporate multiple crop species are key in meet-
ing this target [45], however, political support for such systems remain limited [46, 47]. Our
analyses suggests that at regional scales, diversified polyculture assemblages would also be criti-
cal in addressing both the trend towards, and consequences of, increasing homogenization in
agricultural systems globally. Acknowledgments This research was undertaken in part based on funding from the Canada Research Chairs pro-
gram and a Natural Sciences and Engineering Research Council of Canada Discovery Grant to
Marney E. Isaac. Marc W. Cadotte is supported by the TD Professor of Urban Forest Conser-
vation and Biology chair program, the Canada Foundation for Innovation, Ontario Research
Fund, and the Natural Sciences and Engineering Research Council of Canada (Grant number
386151). Denis Vile is supported by the European Union and the Re´gion Languedoc-Roussil-
lon “Chercheur d’Avenir” (FEDER FSE IEJ 2014–2020; Grant Project “APSEVIR”). Rube´n
Milla is supported by Ministerio de Economı´a y Competitividad of Spain (grants CGL2014-
56567-R and PCIN-2014-053), and the European Union (Eco-serve project, BiodivERsA/001/
2014, Horizon 2020). Cyrille Violle was supported by a Marie Curie International Outgoing
Fellowship within the 7th European Community Framework Program (DiversiTraits project,
no. 221060) and by the European Research Council (ERC) Starting Grant Project StG-2014-
639706-CONSTRAINTS. Conclusions The Anthropocene epoch is a time marked by major shifts in plant and animal biogeography,
mediated by both deliberate and accidental human-caused species movement. Our data pro-
vides evidence that the 1970s-80s marked a widespread period of major increases in the taxo-
nomic- and phylogenetic diversity of crops grown within nearly all regions of the world. And
while regional differences in crop species pools persist, there is evidence of a trend towards
greater homogeneity in the crops being grown in agricultural lands across regions. In basing
our analysis on FAO data, the trends observed here most likely reflect of how environmental
and socio-economic conditions influence species-level diversity of crops being grown in large- PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 14 / 18 Crop diversity through the Anthropocene scale, industrial agricultural systems. Evaluating temporal changes in crop diversity at the land-
scape-, farm-, or household levels are ultimately critical for understanding how crop diversity
can be enhanced to ensure both human well-being and agricultural sustainability. Supporting information S1 File. Supplementary information for Martin et al. 2019. Supplementary information for
this article contained in this file includes additional statistical methodology and results, five
supplementary tables, and eight supplementary figures. (DOCX) S2 File. Data file associated with Martin et al. 2019. Base data file retrieved from the Food
and Agricultural Organization data repository [18] employed in the analysis by Martin et al. 2019. (XLSX) References 1. Capinha C, Essl F, Seebens H, Moser D, Pereira HM. The dispersal of alien species redefines biogeog-
raphy in the Anthropocene. Science. 2015; 348(6240):1248–51. https://doi.org/10.1126/science. aaa8913 WOS:000356011500053. PMID: 26068851 2. Meyer RS, DuVal AE, Jensen HR. Patterns and processes in crop domestication: an historical review
and quantitative analysis of 203 global food crops. New Phytol. 2012; 196(1):29–48. https://doi.org/10. 1111/j.1469-8137.2012.04253.x WOS:000308090000005. PMID: 22889076 3. Khoury CK, Achicanoy HA, Bjorkman AD, Navarro-Racines C, Guarino L, Flores-Palacios X, et al. Ori-
gins of food crops connect countries worldwide. P Roy Soc B-Biol Sci. 2016; 283(1832). ARTN
20160792 https://doi.org/10.1098/rspb.2016.0792 WOS:000378318700021. 4. Boivin N, Fuller DQ, Crowther A. Old World globalization and the Columbian exchange: comparison
and contrast. World Archaeol. 2012; 44(3):452–69. https://doi.org/10.1080/00438243.2012.729404
WOS:000311225800008. 5. Crosby AW. The Columbian exchange: biological and cultural consequences of 1492. Vol. 2.: Green-
wood Publishing Group; 2003. 6. Jones M, Hunt H, Lightfoot E, Lister D, Liu XY, Motuzaite-Matuzeviciute G. Food globalization in prehis-
tory. World Archaeol. 2011; 43(4):665–75. https://doi.org/10.1080/00438243.2011.624764
WOS:000299839300009. 7. Khoury CK, Bjorkman AD, Dempewolf H, Ramirez-Villegas J, Guarino L, Jarvis A, et al. Increasing
homogeneity in global food supplies and the implications for food security. P Natl Acad Sci USA. 2014;
111(11):4001–6. https://doi.org/10.1073/pnas.1313490111 WOS:000333027900037. PMID: 24591623 8. Nelson EJ, Helmus MR, Cavender-Bares J, Polasky S, Lasky JR, Zanne AE, et al. Commercial plant
production and consumption still follow the latitudinal gradient in species diversity despite economic
globalization. PloS One. 2016; 11(10). ARTN e0163002 https://doi.org/10.1371/journal.pone.0163002
WOS:000385697200029. PMID: 27706180 9. Wood SA, Smith MR, Fanzo J, Remans R, DeFries RS. Trade and the equitability of global food nutrient
distribution. Nat Sustain. 2018; 1(1):34–7. 10. Lin BB. Resilience in agriculture through crop diversification: adaptive management for environmental
change. Bioscience. 2011; 61(3):183–93. https://doi.org/10.1525/bio.2011.61.3.4
WOS:000288049600004. 11. Isakson SR. No hay ganancia en la milpa: the agrarian question, food sovereignty, and the on-farm con-
servation of agrobiodiversity in the Guatemalan highlands. J Peasant Stud. 2009; 36(4):725–59. Pii
917020061 https://doi.org/10.1080/03066150903353876 WOS:000271977500001. 12. Li TM. Can there be food sovereignty here? J Peasant Stud. 2015; 42(1):205–11. https://doi.org/10. 1080/03066150.2014.938058 WOS:000349397100006. 13. Ramankutty N, Foley JA, Norman J, McSweeney K. The global distribution of cultivable lands: current
patterns and sensitivity to possible climate change. Global Ecol Biogeogr. 2002; 11(5):377–92. https://
doi.org/10.1046/j.1466-822x.2002.00294.x WOS:000178189800003. 14. Cadotte MW, Cardinale BJ, Oakley TH. Evolutionary history and the effect of biodiversity on plant pro-
ductivity. P Natl Acad Sci USA. 2008; 105(44):17012–7. https://doi.org/10.1073/pnas.0805962105
WOS:000260913800040. PMID: 18971334 15. Author Contributions Conceptualization: Adam R. Martin, Cyrille Violle. p
,
y
Data curation: Adam R. Martin. Formal analysis: Adam R. Martin, Marc W. Cadotte, Rube´n Milla. Funding acquisition: Marney E. Isaac. Methodology: Adam R. Martin, Marc W. Cadotte, Rube´n Milla, Denis Vile, Cyrille Violle. Project administration: Marney E. Isaac. Resources: Marney E. Isaac. Validation: Adam R. Martin. Visualization: Adam R. Martin, Rube´n Milla. Writing – original draft: Adam R. Martin. Writing – review & editing: Adam R. Martin, Marc W. Cadotte, Marney E. Isaac, Rube´n
Milla, Denis Vile, Cyrille Violle. Data curation: Adam R. Martin. Data curation: Adam R. Martin. Formal analysis: Adam R. Martin, Marc W. Cadotte, Rube´n Milla. Formal analysis: Adam R. Martin, Marc W. Cadotte, Rube´n Milla. Methodology: Adam R. Martin, Marc W. Cadotte, Rube´n Milla, Denis Vile, Cyrille Violle. Project administration: Marney E. Isaac. Project administration: Marney E. Isaac. Resources: Marney E. Isaac. Resources: Marney E. Isaac. Validation: Adam R. Martin. Visualization: Adam R. Martin, Rube´n Milla. Visualization: Adam R. Martin, Rube´n Milla. Writing – original draft: Adam R. Martin. Writing – review & editing: Adam R. Martin, Marc W. Cadotte, Marney E. Isaac, Rube´n
Milla, Denis Vile, Cyrille Violle. 15 / 18 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 Crop diversity through the Anthropocene PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 References Cadotte MW, Carscadden K, Mirotchnick N. Beyond species: functional diversity and the maintenance
of ecological processes and services. J Appl Ecol. 2011; 48(5):1079–87. https://doi.org/10.1111/j.1365-
2664.2011.02048.x WOS:000295095100003. 16. Gilbert GS, Webb CO. Phylogenetic signal in plant pathogen-host range. P Natl Acad Sci USA. 2007;
104(12):4979–83. https://doi.org/10.1073/pnas.0607968104 WOS:000245256700040. PMID:
17360396 17. Massawe F, Mayes S, Cheng A. Crop diversity: an unexploited treasure trove for food security. Trends
Plant Sci. 2016; 21(5):365–8. https://doi.org/10.1016/j.tplants.2016.02.006 WOS:000375810600001. PMID: 27131298 18. Food and Agricultural Organization of the United Nations. http://www.fao.org/economic/ess/ess-
standards/commodity/en/ 2018 [Feb. 6, 2017]. 19. Boyle B, Hopkins N, Lu ZY, Garay JAR, Mozzherin D, Rees T, et al. The taxonomic name resolution ser-
vice: an online tool for automated standardization of plant names. BMC Bioinformatics. 2013; 14(16):
https://doi.org/10.1186/471-2105-14-16 Artn 16 10.1186/1471-2105-14-16. WOS:000314185000001. 20. Oksanen J, Blanchet FG, Kindt R, Legendre P, Minchin PR, O’Hara RB, et al. vegan: Community Ecol-
ogy Package in R version 2.3–5. 2016. 16 / 18 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 Crop diversity through the Anthropocene 21. Bremer B, Bremer K, Chase MW, Fay MF, Reveal JL, Soltis DE, et al. An update of the Angiosperm
Phylogeny Group classification for the orders and families of flowering plants: APG III. Bot J Linn Soc. 2009; 161(2):105–21. WOS:000270958200001. 22. Webb CO, Donoghue MJ. Phylomatic: tree assembly for applied phylogenetics. Mol Ecol Notes. 2005;
5(1):181–3. https://doi.org/10.1111/j.1471-8286.2004.00829.x WOS:000227598500058. 23. Webb CO, Ackerly DD, Kembel SW. Phylocom: software for the analysis of phylogenetic community
structure and trait evolution. Bioinformatics. 2008; 24(18):2098–100. https://doi.org/10.1093/
bioinformatics/btn358 WOS:000258959600020. PMID: 18678590 24. Wikstrom N, Savolainen V, Chase MW. Evolution of the angiosperms: calibrating the family tree. P Roy
Soc B-Biol Sci. 2001; 268(1482):2211–20. https://doi.org/10.1098/rspb.2001.1782
WOS:000172101600005. PMID: 11674868 25. Gastauer M, Meira-Neto JAA. An enhanced calibration of a recently released megatree for the analysis
of phylogenetic diversity. Braz J Biol. 2016; 76(3):619–28. https://doi.org/10.1590/1519-6984.20814
WOS:000378893100008. PMID: 27097100 26. Faith DP. Conservation evaluation and phylogenetic diversity. Biol Conserv. 1992; 61(1):1–10. https://
doi.org/10.1016/0006-3207(92)91201-3 WOS:A1992HX12300001. 27. Hardy OJ, Senterre B. Characterizing the phylogenetic structure of communities by an additive partition-
ing of phylogenetic diversity. J Ecol. 2007; 95(3):493–506. https://doi.org/10.1111/j.1365-2745.2007. 01222.x WOS:000245693800010. 28. Zoltan D, Alina PE, Petra F, Zsuzsa T, Miklos R. Detection of canine distemper virus strains by polymer-
ase chain reaction technique and their phylogenetic analysis. Bulletin UASVM Agriculture. 2005;
62:105–8. WOS:000237249200021. 29. Kembel SW, Cowan PD, Helmus MR, Cornwell WK, Morlon H, Ackerly DD, et al. PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 References Picante: R tools for
integrating phylogenies and ecology. Bioinformatics. 2010; 26(11):1463–4. https://doi.org/10.1093/
bioinformatics/btq166 WOS:000277985500013. PMID: 20395285 30. Muggeo VMR. segmented: an R package to fit regression models with broken-line relationships. R
News (URL: http://cranr-projectorg/doc/Rnews/). 2008; 8(1):20–5. 31. Wood SN. Minimizing model fitting objectives that contain spurious local minima by bootstrap restarting. Biometrics. 2001; 57(1):240–4. https://doi.org/10.1111/j.0006-341X.2001.00240.x
WOS:000167376900032. PMID: 11252605 32. Fox J, Weisberg S. An R Companion to Applied Regression, Second Edition. Sage, Thousand Oaks,
CA; 2011. 33. R Core Team. R: A language and environment for statistical computing. RFoundation for Statistical
Computing, Vienna, Austria. 2016. 34. Isakson SR. Maize diversity and the political economy of agrarian restructuring in Guatemala. J Agrar
Change. 2014; 14(3):347–79. 35. Wise T. Policy space for Mexican maize: protecting agro-biodiversity by promoting rural livelihoods. Global Development and Environment Institute 2007;Working Paper No. 07–01. 36. Jarvis DI, Brown AHD, Cuong PH, Collado-Panduro L, Latournerie-Moreno L, Gyawali S, et al. A global
perspective of the richness and evenness of traditional crop-variety diversity maintained by farming
communities. P Natl Acad Sci USA. 2008; 105(23):8160–. https://doi.org/10.1073/pnas.0803431105
WOS:000256781800047. 37. Altieri MA. Agroecology: The Science of Sustainable Agriculture: Westview Press, Boulder, CO, USA.;
1980. 38. Altieri MA. The ecological role of biodiversity in agroecosystems. Agr Ecosyst Environ. 1999; 74(1–
3):19–31. https://doi.org/10.1016/S0167-8809(99)00028-6 WOS:000082010000003. 39. Tscharntke T, Clough Y, Wanger TC, Jackson L, Motzke I, Perfecto I, et al. Global food security, biodi-
versity conservation and the future of agricultural intensification. Biol Conserv. 2012; 151(1):53–9. https://doi.org/10.1016/j.biocon.2012.01.068 WOS:000306042600013. 40. Brooker RW, Bennett AE, Cong WF, Daniell TJ, George TS, Hallett PD, et al. Improving intercropping:
a synthesis of research in agronomy, plant physiology and ecology. New Phytol. 2015; 206(1):107–17. https://doi.org/10.1111/nph.13132 WOS:000350347500013. PMID: 25866856 41. Graeub BE, Chappell MJ, Wittman H, Ledermann S, Kerr RB, Gemmill-Herren B. The state of family
farms in the world. World Dev. 2016; 87:1–15. https://doi.org/10.1016/j.worlddev.2015.05.012
WOS:000382415600001. 42. Remans R, Wood SA, Saha N, Anderman TL, DeFries RS. Measuring nutritional diversity of national
food supplies. Glob Food Secur. 2014; 3(3–4):174–82. https://doi.org/10.1016/j.gfs.2014.07.001
WOS:000209596500008. 17 / 18 PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 Crop diversity through the Anthropocene 43. Smykal P, Coyne CJ, Ambrose MJ, Maxted N, Schaefer H, Blair MW, et al. Legume crops phylogeny
and genetic diversity for science and breeding. Crit Rev Plant Sci. 2015; 34(1–3):43–104. https://doi. org/10.1080/07352689.2014.897904 WOS:000343605200005. 44. Castaneda-Alvarez NP, Khoury CK, Achicanoy HA, Bernau V, Dempewolf H, Eastwood RJ, et al. PLOS ONE | https://doi.org/10.1371/journal.pone.0209788
February 6, 2019 References Global conservation priorities for crop wild relatives. Nat Plants. 2016; 2(4). Artn 16022 https://doi.org/
10.1038/Nplants.2016.22 WOS:000375397600002. PMID: 27249561 45. Martin AR, Isaac ME. Functional traits in agroecology: advancing description and prediction in agroeco-
systems. J Appl Ecol. 2018; 55(1):5–11. https://doi.org/10.1111/1365-2664.13039
WOS:000417764600002. 46. Pimbert MP, Moeller NI. Absent agroecology aid: on UK agricultural development assistance since
2010. Sustainability. 2018; 10(2):505. 47. Isaac ME, Isakson SR, Dale B, Levkoe CZ, Hargreaves SK, Me´ndez EV, et al. Agroecology in Canada:
towards an integration of agroecological practice, movement, and science. Sustainability. 2018; 10
(9):3299. 18 / 18
|
https://openalex.org/W4388104637
|
https://www.qeios.com/read/0HTTRS/pdf
|
English
| null |
Review of: "Examining Water Use and Sanitation Practices in Rural Schools of Chegutu District, Mashonaland West Province, Zimbabwe"
| null | 2,023
|
cc-by
| 393
|
Qeios, CC-BY 4.0 · Review, October 30, 2023 Review of: "Examining Water Use and Sanitation Practices
in Rural Schools of Chegutu District, Mashonaland West
Province, Zimbabwe" Maasago Mercy Sepadi1 Maasago Mercy Sepadi1 1 Tshwane University of Technology Potential competing interests: No potential competing interests to declare. Results nclude the quantitative data you have in the abstract. the gender statistics should be reported here include the quantitative data you have in the abstract. the gender statistics should be reported here
WASH/water usage quantitative data is needed here. include the quantitative data you have in the abstract. the gender statistics should be reported here
WASH/water usage quantitative data is needed here. Background state atleast one sentence showing problem statement. The sentence should explain the current status of WASH in
Zimbabwe. The methodology should be clearly outlined The methodology should be clearly outlined it should show which type of study design it is. Add the type of software analysis/programs' used. secondary data method not used. it should show which type of study design it is. Add the type of software analysis/programs' used. secondary data method not used. secondary data method not used. Results Qeios ID: 0HTTRS · https://doi.org/10.32388/0HTTRS Qeios, CC-BY 4.0 · Review, October 30, 2023 METHODOLOGY Sampling and sample size section should come after area or population description. before Data collection. 3 1 S
d ng and sample size section should come after area or population description. before Data collection Write (figure 3.1)- The figure , first letter should be in capital letter. All figures and tables , their first letter should be
written in capital letter Write (figure 3.1)- The figure , first letter should be in capital letter. All figures and tables , their first letter should be
written in capital letter Data analysis The data analysis is not sufficient, which software programs did you use to compute your qualitative and quantitative
data The data analysis is not sufficient, which software programs did you use to compute your qualitative and quantitative
data Which statistics were used in those programs Which statistics were used in those programs Which statistics were used in those programs Qeios ID: 0HTTRS · https://doi.org/10.32388/0HTTRS 1/2 Qeios, CC-BY 4.0 · Review, October 30, 2023 Add limitations of the study as a section after conclusion Add limitations of the study as a section after conclusion Qeios ID: 0HTTRS · https://doi.org/10.32388/0HTTRS 2/2
|
https://openalex.org/W2610131789
|
https://vestnik.susu.ru/cmi/article/download/7254/6252
|
Russian
| null |
Analytical study of the "master-worker" framework scalability on multiprocessors with distributed memory
|
arXiv (Cornell University)
| 2,017
|
cc-by
| 7,188
|
Поступила в редакцию: 12.03.2018 Появление мощных многопроцессорных вычислительных систем выдвигает на первый план вопросы,
связанные с разработкой фреймворков (шаблонов), позволяющих создавать высокомасштабируемые парал-
лельные программы, ориентированные на системы с распределенной памятью. При этом особенно важной
является проблема разработки моделей параллельных вычислений, позволяющих на ранней стадии проекти-
рования программы оценить ее масштабируемость. В статье приводятся общие требования к модели вычис-
лений и строится новая высокоуровневая модель параллельных вычислений Bulk Synchronous Farm (BSF),
являющаяся расширением модели BSP, и основанная на методе программирования SPMD и парадигме «ма-
стер-рабочие». Модель BSF ориентирована на вычислительные системы с массовым параллелизмом на рас-
пределенной памяти, включающие в себя сотни тысяч процессорных узлов, и имеющие экзафлопный уровень
производительности и на численные итерационные методы с высокой временной сложностью. Определяется
архитектура BSF-компьютера и описывается структура BSF-программы. Описывается формальная стоимост-
ная метрика, с помощью которой получаются верхние оценки масштабируемости параллельных BSF-
программ применительно к вычислительным системам с распределенной памятью. Также выводятся фор-
мулы для оценки эффективности распараллеливания BSF-программ и даются аналитические оценки масшта-
бируемости BSF-приложений. Ключевые слова: параллельное программирование, модель параллельных вычислений, фреймворк «ма-
стер-рабочие», модель BSF, временная сложность, Bulk Synchronous Farm, масштабируемость, многопро-
цессорные системы с распределенной памятью. Информатика, вычислительная техника и управление Информатика, вычислительная техника и управление Ежова Н.А., Соколинский Л.Б. Модель параллельных вычислений для многопроцес-
сорных систем с распределенной памятью // Вестник ЮУрГУ. Серия: Вычислительная
математика и информатика. 2018. Т. 7, № 2. С. 32–49. DOI: 10.14529/cmse180203. Ежова Н.А., Соколинский Л.Б. Модель параллельных вычислений для многопроцес-
сорных систем с распределенной памятью // Вестник ЮУрГУ. Серия: Вычислительная
математика и информатика. 2018. Т. 7, № 2. С. 32–49. DOI: 10.14529/cmse180203. Суперкомпьютер TaihuLight с массово-параллельной архитектурой, занимающий пер-
вое место в списке TOP-500 [1] самых мощных суперкомпьютеров мира (ноябрь 2016),
имеет 40 960 процессорных узлов, каждый из которых включает в себя 260 процессорных
ядер. Общая оперативная память системы составляет 1.3 Петабайт, пиковая * Статья рекомендована к публикации программным комитетом Международной научной конфе-
ренции «Параллельные вычислительные технологии (ПаВТ) 2018». 32
Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» 32
Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» 32 Н.А. Ежова, Л.Б. Соколинский производительность превышает 120 петафлопс. Анализ динамики роста производитель-
ности суперкомпьютеров (рис. 1) показывает, что через 8–9 лет самый мощный суперком-
пьютер становится рядовой системой, и что через 5–6 лет мы можем ожидать появление
суперкомпьютера с экзафлопным уровнем производительности. Появление столь мощных
многопроцессорных вычислительных систем выдвигает на первый план вопросы, связан-
ные с разработкой фреймворков (шаблонов), позволяющих создавать высокомасштабиру-
емые параллельные программы, ориентированные на системы с распределенной памятью. При этом особенно важной является проблема разработки моделей параллельных вычис-
лений, позволяющих на ранней стадии проектирования программы оценить ее масштаби-
руемость. Д
TOP500 Динамика роста производительности суперкомпьютеров в TOP500 Динамика роста производительности суперкомпьютеров в TOP500 В данной работе предлагается новая модель параллельных вычислений BSF (Bulk
Synchronous Farm) — блочно-синхронная ферма, основанная на моделях «мастер-рабо-
чие», BSP и SPMD. Модель BSF ориентирована на вычислительные системы с массовым
параллелизмом на распределенной памяти, включающие в себя сотни тысяч процессор-
ных узлов, и имеющие экзафлопный уровень производительности. Модель BSF включает
в себя каркас (skeleton) для разработки параллельных программ и стоимостную метрику
для оценки масштабируемости приложения. Статья имеет следующую структуру. В раз-
деле 1 дается краткий обзор концептуальных моделей параллельных вычислений, лежа-
щих в основе новой модели BSF. В разделе 2 приводятся общие требования к модели 2018, т. 7, №2 33 параллельных вычислений для многопроцессорных систем с распределенной... вычислений. Раздел 3 посвящен описанию модели BSF. В разделе 4 строится стоимостная
метрика, и даются аналитические оценки масштабируемости BSF приложений, а также
исследуется вопрос эффективности распараллеливания BSF программ. В заключении
суммируются полученные результаты и намечаются направления дальнейших исследова-
ний. Одним из популярных фреймворков, используемых в параллельном и распределенном
программировании, является парадигма «мастер-рабочие» [2–4]. В соответствии с этой
парадигмой процессорные узлы вычислительной системы делятся на два множества:
узлы-мастера и узлы-рабочие. Задача, решаемая на многопроцессорной системе, разбива-
ется на независимые подзадачи. Каждая подзадача, в свою очередь, разбивается на три
последовательные стадии: стадия предобработки, стадия вычислений и стадия постобра-
ботки. Стадии предобработки и постобработки выполняются узлами-мастерами, стадии
вычислений выполняются узлами-рабочими. В каждый момент времени любой процес-
сорный узел может выполнять только одну стадию. Предполагается, что количество под-
задач совпадает с количеством узлов-рабочих и превышает количество узлов- мастеров. Решение задачи происходит следующим образом. Очередная подзадача назначается не-
которому узлу-мастеру, который выполняет стадию предобработки. После этого он посы-
лает задание (передает данные) узлу-рабочему, который должен выполнить стадию вы-
числений указанной подзадачи. После того, как узел-рабочий завершил требуемые вычис-
ления, он посылает отчет (передает данные) тому узлу-мастеру, от которого получил за-
дание. На этом выполнение подзадачи заканчивается. Задача считается выполненной це-
ликом, когда выполнены все ее подзадачи. Фреймворк «мастер-рабочий» очень часто ис-
пользуется в параллельном программировании при реализации различных приложений,
ориентированных на многопроцессорные системы с распределенной памятью (см., напри-
мер, [5–10]). При этом наиболее популярна конфигурация, включающая одного мастера и
множество рабочих (рис. 2). Основной проблемой модели «мастер-рабочие» является
нахождение такого расписания вычислений, при котором время выполнения задачи будет
минимальным. Известно, что указанная проблема является в общем случае
NP-сложной [11]. В определенной мере эту проблему можно решить, используя модель
SPMD. SPMD (Single Program Multiple Data) [3, 12] — популярная парадигма параллельного
программирования, в соответствии с которой все процессорные узлы выполняют одну и ту
же программу, но обрабатывают различные данные. Какие именно данные необходимо
обрабатывать тому или иному процессорному узлу, определяется его уникальным номе-
ром, который является параметром программы. Данный подход наиболее часто исполь-
зуется в сочетании с технологией MPI (Message Passing Interface) [13], которая де-факто
является стандартом для параллельного программирования на распределенной памяти. Модель BSP (Bulk-Synchronous Parallelism) была предложена Валиантом (Valiant)
в работе [14]. Данная модель широко используется при разработке и анализе
параллельных алгоритмов и программ. BSP-компьютер представляет собой систему из p
процессоров, имеющих приватную память, и соединенных сетью, позволяющей передавать Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» 34 Н.А. Ежова, Л.Б. Соколинский Фреймворк «мастер-рабочие». Предобработка
Постобработка
Вычисления
Останов Предобработка Вычисления Постобработка Останов Фреймворк «мастер-рабочие». Полужирными линиями обозначены потоки вычислений,
тонкими линями со стрелками — потоки данных Полужирными линиями обозначены потоки вычислений,
тонкими линями со стрелками — потоки данных пакеты данных фиксированного размера от одного процессора другому. Для соединитель-
ной сети вводятся следующие характеристики: g — время, необходимое для передачи
по сети одного пакета; L — время, необходимое для инициализации передачи данных от
одного процессора другому. BSP-программа состоит из p потоков команд, каждый из которых назначается от-
дельному процессору, и делится на супершаги, которые выполняются последовательно
относительно друг друга. Каждый супершаг, в свою очередь, включает в себя следующие
четыре последовательных шага: 1) вычисления на каждом процессоре с использованием
только локальных данных; 2) глобальная барьерная синхронизация; 3) пересылка данных
от любого процессора любым другим процессорам; 4) глобальная барьерная синхрониза-
ция. Переданные данные становятся доступными для использования только после барь-
ерной синхронизации. Пример BSP-программы приведен на рис. 3. Стоимостная функция в модели BSP строится следующим образом [15]. Пусть
BSP-программа состоит из S супершагов. Пусть wi — максимальное время, затраченное
каждым процессором на локальные вычисления, hi — максимальное количество пакетов,
посланных или полученных каждым процессором, на i-том супершаге. Тогда общее
время it , затрачиваемое системой на выполнение i-того супершага, вычисляется по фор-
муле i
i
i
t
w
gh
L
. i
i
i
t
w
gh
L
. Время T выполнения всей программы определяется по формуле (1) T
W
Hg
LS
,
(1) (1) где
1
S
i
i
W
w
и
1
S
i
i
H
g
h
. где
1
S
i
i
W
w
и
1
S
i
i
H
g
h
. 1
S
i
i
H
g
h
. 2018, т. 7, №2 35 ль параллельных вычислений для многопроцессорных систем с распределенной BSP-программа из двух супершагов на шести процессорах. Жирными линиями обозначены локальные вычисления,
тонкими линями со стрелками
пересылка данных
P1
P2
P3
P4
P5
P6
Барьерная синхронизация
Супер-шаг 1
Супер-шаг 2
Барьерная синхронизация
Барьерная синхронизация
Барьерная синхронизация Супер-шаг 1 Супер-шаг 2 BSP-программа из двух супершагов на шести процессорах. Для того, чтобы облегчить программистам использование той или иной модели па-
раллельных вычислении на практике, применяются программные каркасы [16]. Одним
из наиболее популярных является фермерный каркас (farm skeleton), реализующий фрейм-
ворк «мастер-рабочие» [17]. Такой каркас представляет собой программную структуру,
полностью реализующую фреймворк «мастер-рабочие», однако вместо эффективного
кода и реальных данных она содержит заглушки, которые должны быть заменены по
определенным правилам на фрагменты кода, реализующие целевую задачу. Модель параллельных вычислений в общем случае должна включать в себя следую-
щие четыре компонента, некоторые из которых в определенных случаях могут быть три-
виальны [18]. 1. Архитектурный компонент, описываемый как помеченный граф, узлы которого со-
ответствуют модулям с различной функциональностью, а дуги — межмодульным
соединениям для передачи данных. 1. Архитектурный компонент, описываемый как помеченный граф, узлы которого со-
ответствуют модулям с различной функциональностью, а дуги — межмодульным
соединениям для передачи данных. 2. Спецификационный компонент, определяющий, что есть корректная программа. 3. Компонент выполнения, определяющий, как взаимодействуют между собой архитек-
турные модули при выполнении корректной программы. 4. Стоимостный компонент, определяющий одну или более стоимостных метрик
для оценки времени выполнения корректной программы. В качестве наиболее важных свойств модели параллельных вычислений обычно вы-
деляют следующие [19]:
Юзабилити, определяющая легкость описания алгоритма и анализа его стоимости
средствами модели (модель должна быть легкой в использовании).
Адекватность, выражающаяся в соответствии реального времени выполнения про-
грамм и временной стоимости, полученной аналитически с помощью стоимостных
Адекватность, выражающаяся в соответствии реального времени выполнения про-
грамм и временной стоимости, полученной аналитически с помощью стоимостных 36
Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» Н.А. Ежова, Л.Б. Соколинский метрик модели (программа, имеющая меньшую временную стоимость, должна вы-
полняться быстрее).
Портируемость, характеризующая широту класса целевых платформ, для которых
модель оказывается применимой.
Портируемость, характеризующая широту класса целевых платформ, для которых
модель оказывается применимой. 2018, т. 7, №2 параллельных вычислений для многопроцессорных систем с распределенной... Структура BSF-программы
Секции мастера
Секции рабочего
Инициализация
мастера
Инициализация ра-
бочего
Посылка задания
рабочим
Получение задания
от мастера
Выполнение
задания
Получение
результатов
от рабочих
Посылка результа-
тов мастеру
Обработка
результатов
Вывод
результатов
Завершение
мастера
Завершение
рабочего
Инициализация
Передача задания
Завершение
Итерационный процесс
Выполнение задания
Передача результатов
Обработка результатов
Супершаги Структура BSF-программы различные данные, адреса которых определяются по номеру рабочего. Это означает, что
все рабочие тратят на вычисления одно и то же время. Никаких пересылок данных
при выполнении задания не происходит. Это является важным свойством модели BSF. На третьем супершаге все рабочие пересылают мастеру полученные результаты. Суммар-
ный объем результатов является атрибутом задачи и не зависит от количества рабочих. После этого происходит глобальная барьерная синхронизация. В ходе четвертого супер-
шага мастер производит обработку и анализ полученных результатов. Рабочие в это
время простаивают. Время обработки мастером результатов, полученных от рабочих, яв-
ляется параметром задачи и не зависит от количества рабочих. Если после обработки
результатов условие завершения оказывается истинным, то происходит выход из итера-
ционного процесса, в противном случае осуществляется переход на первый супершаг ите-
рационного процесса. На четвертом супершаге происходит вывод или сохранение резуль-
татов и завершение работы мастера и рабочих. Графическая иллюстрация работы
BSF-программы приведена на рис. 6. Областью применения модели BSF являются масштабируемые итерационные чис-
ленные методы, имеющие высокую вычислительную сложность итерации при относи-
тельно невысокой стоимости коммуникаций. Под масштабируемым итерационным ме-
тодом понимается метод, допускающий разбиение итерации на подзадачи, не требующие
обменов данными. Пример такого метода можно найти в работе [20]. Вестник ЮУрГУ. Серия «Вычислительная математика и информатика Модель параллельных вычислений BSF (Bulk Synchronous Farm) — блочно-синхрон-
ная ферма ориентирована на многопроцессорные системы с кластерной архитектурой и
архитектурой MPP. BSF-компьютер представляет собой множество однородных процес-
сорных узлов с приватной памятью, соединенных сетью, позволяющей передавать данные
от одного процессорного узла другому. Среди процессорных узлов выделяется один, назы-
ваемый узлом-мастером (или кратко мастером). Остальные K узлов называются уз-
лами-рабочими (или просто рабочими). В BSF компьютере должен быть по крайней мере
один узел мастер и один рабочий (
1
K
). Схематично архитектура BSF-компьютера
изображена на рис. 4. BSF-компьютер. M — мастер; W1, …, WK — рабочие
M
W1 . . . WK
Соединительная сеть BSF-компьютер. M — мастер; W1, …, WK — рабочие
M
W1 . . . WK
Соединительная сеть M — мастер; W1, …, WK — рабочие BSF компьютер работает по схеме SPMD. BSF-программа состоит из последователь-
ности супершагов и глобальных барьерных синхронизаций, выполняемых мастером
и всеми рабочими. Каждый супершаг делится на секции двух типов: секции мастера,
выполняемые только мастером, и секции рабочего, выполняемые только рабочими. Отно-
сительный порядок секций мастера и рабочего в рамках супершага не существенен. Дан-
ные, обрабатываемые конкретным узлом-рабочим, определяются его номером, являю-
щимся параметром среды исполнения. щ
р
р
р д
BSF программа включает в себя следующие последовательные разделы (рис. 5): BSF программа включает в себя следующие последовательные разделы (рис. 5):
инициализация;
итерационный процесс;
завершение.
завершение. Инициализация представляет собой супершаг, в ходе которого мастер и рабочие счи-
тывают или генерируют исходные данные. Инициализация завершается барьерной син-
хронизацией. Итерационный процесс состоит в многократном повторении тела итераци-
онного процесса до тех пор, пока не выполнено условие завершения, проверяемое масте-
ром. В разделе завершение осуществляется вывод или сохранение результатов и заверше-
ние программы. Тело итерационного процесса включает в себя следующие супершаги: 1) передача рабочим заданий от мастера; 2) выполнение задания (рабочими); 3) передача мастеру результатов от рабочих; 4) обработка полученных результатов мастером На первом супершаге мастер рассылает всем рабочим одинаковые задания. На втором
супершаге происходит выполнение полученного задания рабочими (мастер при этом про-
стаивает). Все рабочие выполняют один и тот же программный код, но обрабатывают 2018, т. 7, №2 37 Основной характеристикой масштабируемости является ускорение, вычисляемое как
отношение времени выполнения программы на одном процессорном узле ко времени вы-
полнения на K узлах. В данном разделе мы проведем аналитическое исследование мас-
штабируемости модели BSF. Для этого нам понадобится оценка временных затрат на вы-
полнение BSF-программы. Мы предполагаем, что временные затраты на инициализацию Н.А. Ежова, Л.Б. Соколинский Иллюстрация работы BSF-программы
с одним мастером M и пятью рабочими
1
5
,
,
W
W
(жирными линиями обозначены локальные вычисления,
тонкими линями со стрелками
пересылка данных,
пунктирными линиями
границы одной итерации)
M
W1
W2
W3
W4
W5
Барьерная синхронизация
Итерация 1
Барьерная синхронизация
Итерация 2 Итерация 1 Итерация 2 Иллюстрация работы BSF-программы
с одним мастером M и пятью рабочими
1
5
,
,
W
W
(жирными линиями обозначены локальные вычисления,
тонкими линями со стрелками
пересылка данных,
пунктирными линиями
границы одной итерации) Иллюстрация работы BSF-программы и завершение BSF-программы пренебрежимо малы по сравнению с затратами на выпол-
нение итерационного процесса. Стоимость итерационного процесса получается как сумма
стоимостей отдельных итераций. Поэтому для оценки времени выполнения BSF-
программы нам достаточно получить оценку временной стоимости одной итерации. Рассмотрим сначала конфигурацию вычислительной системы в составе мастера и од-
ного рабочего. Пусть st — время, необходимое для посылки задания рабочему (без учета
латентности);
rt — время, необходимое для передачи результата мастеру от рабочего
(без учета латентности);
pt — время обработки мастером результатов, полученных от
рабочего; L — затраты на инициализацию операции передачи сообщения (латентность);
wt — время выполнения задания бригадой из одного рабочего. Общее время 1
T выполне-
ния итерации одним мастером и бригадой из одного рабочего может быть вычислено сле-
дующим образом: 1
s
w
p
r
T
t
t
L
t
t
L
,
(2) 1
s
w
p
r
T
t
t
L
t
t
L
,
(2) (2) 1
s
w
p
r
T
t
t
L
t
t
L
, что равносильно 1
2
s
r
p
w
T
L
t
t
t
t
. (3) (3) 2018, т. 7, №2 39 параллельных вычислений для многопроцессорных систем с распределенной... Теперь рассмотрим конфигурацию вычислительной системы в составе одного мастера
и K рабочих. Все рабочие получают от мастера одно и то же сообщение, поэтому общее
время передачи сообщений от мастера рабочим составит
(
)
s
K L
t
. Все рабочие выпол-
няют один и тот же код над своей частью данных, поэтому время выполнения всех вы-
числений K рабочими в рамках одной итерации будет равно wt
K . Суммарный объем
результатов, вычисленных рабочими, является параметром задачи и не зависит от K ,
поэтому общее время передачи сообщений мастеру от рабочих составит
r
K
L
t
. Время
обработки мастером результатов, полученных от рабочих, также является параметром
задачи и не зависит от количества рабочих. Таким образом, общее время
K
T выполнения
итерации в системе с одним мастером и K рабочими может быть вычислено следующим
образом: (2
)
K
s
r
p
w
T
K L
t
t
t
t
K
. (4) (2
)
K
s
r
p
w
T
K L
t
t
t
t
K
. (4) Из формул (3) и (4) получаем следующую формулу для ускорения a : Из формул (3) и (4) получаем следующую формулу для ускорения a : 1
2
(
)
(2
)
s
r
p
w
K
s
r
p
w
L
t
t
t
t
T
a K
T
K
L
t
t
t
t
K
. (5) (5) Свяжем величины st и wt через новую переменную v следующим уравнением: Свяжем величины st и wt через новую переменную v следующим уравнением:
lg
w
s
v
t
t
. (6) (6) Тогда Тогда 10 v
s
w
t
t
. 10 v
s
w
t
t
. что равносильно (7) (7) Подставляя значение st из уравнения (7) в уравнение (5), получим Подставляя значение st из уравнения (7) в уравнение (5), получим 1
2
10
(
)
(2
10
)
v
w
r
p
w
v
K
w
r
p
w
L
t
t
t
t
T
a K
T
K
L
t
t
t
t
K
. (8) (8) (8) Исследуем, как для некоторой фиксированной задачи выглядят графики зависимости
ускорения от числа рабочих. Пусть имеется некоторая задача с решением в пространстве
ℝ. Предположим, что 4
10
n
,
3
12
10
wt
n
,
4
10
p
r
t
t
n
,
0.5
L
. (9) (9) Подставляя указанные значения в формулу (8), получаем Подставляя указанные значения в формулу (8), получаем 12
4
12
8
8
12
4
12
8
8
1
10
20
10
10
2
10
( )
(1
10
)
20
10
/
10
2
10 /
v
v
v
v
a K
K
K
K
K
. (10) (10) На рис. 7 приведены кривые ускорения a, вычисляемые по формуле (10) для различных
значений параметра v. Границами масштабируемости в каждом случае являются точки максимумов кривых
ускорения, то есть — это точки, где производная ускорения равна нулю. Для определения
таких
точек
вычислим
производную
по
K
для
ускорения,
вычисляемого
по формуле (5): Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» Н.А. Ежова, Л.Б. Соколинский
2
2
(2
)(
2
)
(
)
(2
)
s
r
p
w
w
s
s
r
p
w
L
t
t
t
t
t
K
L
t
a K
K
L
t
t
t
t
K
. (11) (11) Соответственно, для задачи (9), продифференцировав (10), получаем Соответственно, для задачи (9), продифференцировав (10), получаем
8
8
8
2
8
2
8
8
10
2
10
10 /
10
(
)
10
2
10
/
v
v
v
K
a K
K
K
. (12) (12) Примеры графиков производных ускорения a , вычисляемых по формуле (12), при-
ведены на рис. 8. что равносильно д
р
Кривые ускорения для
задачи (9) при различных v
Кривые производной ускорения
для задачи (9) при различных v Кривые производной ускорения
для задачи (9) при различных v Для того, чтобы вычислить нули производной (11), найдем корни уравнени
2
2
(2
)(
2
)
0
(2
)
s
r
p
w
w
s
s
r
p
w
L
t
t
t
t
t
K
L
t
K
L
t
t
t
t
K
. (13) (13) Поделив обе части уравнения (13) на (2
)
s
r
p
w
L
t
t
t
t
, и умножив их
на
2
(2
)
s
r
p
w
K
L
t
t
t
t
K
, получим 2
2
0
w
s
t
K
L
t
,
(14) (14) что равносильно
2
1
2
w
s
K
t
L
t
,
(15)
то есть
2
w
s
t
K
L
t
. (16) что равносильно 2
1
2
w
s
K
t
L
t
,
(15) (15) то есть 2
w
s
t
K
L
t
. (16) (16) Таким образом, границы масштабируемости BSF-программы определяется следую-
щим неравенством: 2
w
s
t
K
L
t
,
(17) (17) 2018, т. 7, №2 41 Модель параллельных вычислений для многопроцессорных систем с распределе где K — количество узлов-рабочих; wt — время выполнения всех вычислений в рамках
итерации бригадой из одного рабочего; st — время, необходимое для посылки задания
одному рабочему; L — затраты на инициализацию операции передачи сообщения. При-
мечательно то, что границы масштабируемости BSF-программы не зависят от затрат на
пересылку результатов от рабочих мастеру и от времени обработки этих результатов
на узле-мастере. Однако, как будет показано ниже, эти параметры оказывают существен-
ное влияние на эффективность распараллеливания. Продемонстрируем, как полученная оценка может применяться на практике. Пусть
имеется некоторая BSF-программа, для которой параметр n (размерность задачи) харак-
теризует объем исходных данных. Предположим, что затраты на посылку задания одному
рабочему составляют ( )
O n , а суммарная временная стоимость вычислений, выполняемых
рабочими, равна
3
( )
O n
. Тогда по формуле (17) получаем
3
(
)
( )
K
O n
O n
, то есть
( )
K
O n
. что равносильно Соколинский В предположении 𝐾≫1 имеем В предположении 𝐾≫1 имеем В предположении 𝐾≫1 имеем
2
2
0
(2
)
(
)
s
s
p
r
w
L
t
K
L
t
K t
t
t
и
2
0
(2
)
(
)
p
r
s
p
r
w
t
t
K
L
t
K t
t
t
. Отсюда следует, что
2(2
)
(
)
w
s
p
r
w
t
e
K
L
t
K t
t
t
В предположении 𝐾≫1 имеем
2
2
0
(2
)
(
)
s
s
p
r
w
L
t
K
L
t
K t
t
t
и
2
0
(2
)
(
)
p
r
s
p
r
w
t
t
K
L
t
K t
t
t
. Отсюда следует, что
2(2
)
(
)
w
s
p
r
w
t
e
K
L
t
K t
t
t
2
2
0
(2
)
(
)
s
s
p
r
w
L
t
K
L
t
K t
t
t
2
2
0
(2
)
(
)
s
s
p
r
w
L
t
K
L
t
K t
t
t
и Отсюда следует, что Отсюда следует, что
2(2
)
(
)
w
s
p
r
w
t
e
K
L
t
K t
t
t
для 𝐾≫1. Поделив числитель и знаменатель на wt , получаем итоговую формулу для 𝐾≫1. Поделив числитель и знаменатель на wt , получаем итоговую формулу
2
1
1
(2
)
(
)
s
p
r
w
e
K
L
t
K t
t
t
. (18) (18) Подставляя значение st из уравнения (7), можно получить следующий вариант фор-
мулы (18): Подставляя значение st из уравнения (7), можно получить следующий вариант фор-
мулы (18):
2
1
1
(2
10
)
(
)
v
w
p
r
w
e
K
L
t
K t
t
t
. что равносильно Это означает, что верхняя граница масштабируемости программы будет расти
пропорционально росту размерности задачи, и, следовательно, мы можем характеризо-
вать такую программу как хорошо масштабируемую. Предположим теперь, что временная стоимость посылки задания одному рабочему
по-прежнему составляет ( )
O n , а суммарная временная стоимость вычислений, выполня-
емых рабочими, равна
2
( )
O n
. Тогда по формуле (17) получаем
2
(
)
( )
K
O n
O n
, то есть
( )
K
O n
. Это означает, что верхняя граница масштабируемости программы будет
расти как корень квадратный от размерности задачи. Такую программу мы можем ха-
рактеризовать как ограниченно масштабируемую. В заключение рассмотрим случай, ко-
гда в рамках одной итерации суммарная временная стоимость посылки задания рабочему
пропорциональна суммарной временной стоимости вычислений, выполняемых рабочими,
и равна ( )
O n . В этом случае из формулы (17) получаем
( )
( )
K
O n O n
. Это означает,
что верхняя граница масштабируемости программы ограничена некоторой константой, не
зависящей от размерности задачи. Такую программу мы можем характеризовать как
плохо масштабируемую. Таким образом, мы можем сделать вывод, что BSF-программа будет обладать хоро-
шей масштабируемостью, если временные затраты на посылку задания одному рабочему
будут пропорциональны кубическому корню от суммарных временных затрат на решение
задачи рабочими. Оценим теперь эффективность e распараллеливания BSF-программы. Используя (3)
и (4), имеем 1
2
2
2
2
2
(
)
(2
)
(
)
2
(2
)
(
)
(2
)
(
)
. (2
)
(
)
s
r
p
w
K
s
p
r
w
p
r
s
s
p
r
w
s
p
r
w
w
s
p
r
w
L
t
t
t
t
T
e K
K T
K
L
t
K t
t
t
t
t
L
t
K
L
t
K t
t
t
K
L
t
K t
t
t
t
K
L
t
K t
t
t
42
Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» Н.А. Ежова, Л.Б. что равносильно (19) (19) Подсчитаем по формуле (19) эффективность распараллеливания задачи (9): Подсчитаем по формуле (19) эффективность распараллеливания задачи (9):
2
12
4
12
1
1
(1
10
)
2
10
10
v
e
K
K
. (20) (20) На рис. 9 приведены графики эффективности распараллеливания задачи (9) для раз-
личных значений v , построенные с использованием формулы (20). Указанные графики
показывают, что величина
lg
w
s
v
t
t
оказывает существенное влияние на эффектив-
ность распараллеливания. Чем больше соотношение
/
w
s
t
t , тем выше эффективность
распараллеливания. Сумма r
p
t
t
также оказывает существенное влияние на эффективность распаралле-
ливания. Это можно увидеть на рис. 10, где приведены графики эффективности распа-
раллеливания задачи (9) при различных значениях суммы
,
r
p
t
t
указанных на кривых. Параметр
st в этом случае имеет фиксированное значение для всех графиков:
5
12
7
10
10
10
10
v
s
w
t
t
. Можно видеть, что при
11
2 10
r
p
t
t
эффективность
распараллеливания на 20 процессорных узлах не превышает 20%, при этом, как показы-
вает рис. 7, верхняя граница масштабируемости BSF-программы с такими параметрами
лежит в районе 300 процессорных узлов. 2018, т. 7, №2 43 Модель параллельных вычислений для многопроцессорных систем с распределе параллельных вычислений для многопроцессорных систем с распределенной... . Эффективность распараллелива-
ния задачи (9) при различных v
. Влияние tp на эффективность
распараллеливания
5
v
Модель параллельных вычислений для многопроцессорных систем с распределенной... . Влияние tp на эффективность
распараллеливания
5
v . Влияние tp на эффективность
распараллеливания
5
v . Влияние tp на эффективность
распараллеливания
5
v . Эффективность распараллелива-
ния задачи (9) при различных v 44
Вестник ЮУрГУ. Серия «Вычислительная математика и информа В работе описана новая модель параллельных вычислений BSF (Bulk Synchronous
Farm) — блочно-синхронная ферма, ориентированная на вычислительные системы с мас-
совым параллелизмом, включающие в себя сотни тысяч процессорных узлов и имеющие
экзафлопный уровень производительности. BSF-компьютер представляет собой множе-
ство однородных процессорных узлов с приватной памятью, соединенных сетью, позволя-
ющей передавать данные от одного процессорного узла другому. Среди процессорных
узлов выделяется один, называемый мастером. Остальные K узлов называются рабочими. BSF-компьютер работает по схеме SPMD. Описана структура BSF-программы. Построена
стоимостная метрика для оценки времени выполнения BSF-программы. На основе пред-
ложенной стоимостной метрики получена оценка для верхней границы масштабируемости
BSF-программ. Данная оценка позволяет сделать вывод, что BSF-программа будет обла-
дать хорошей масштабируемостью, если временные затраты на посылку задания рабочему
будут пропорциональны кубическому корню от суммарных временных затрат на решение
задачи рабочими. Также получены формулы для оценки эффективности распараллели-
вания BSF-программ. Для валидации теоретических результатов, полученных в этой статье, была выпол-
нена BSF-реализация алгоритма NSLP [11], используемого для решения нестационарных
сверхбольших задач линейного программирования на кластерных вычислительных систе-
мах. Реализация выполнялась на языке C++ с использованием библиотеки MPI. Тексты
BSF-реализации алгоритма NSLP свободно доступны в сети Интернет по адресу:
https://github.com/leonid-sokolinsky/BSF-NSLP. С использованием BSF-реализации алго-
ритма NSLP на вычислительном кластере «Торнадо ЮУрГУ» [21] были проведены вы-
числительные эксперименты по исследованию масштабируемости и эффективности этой
параллельной программы. Результаты сравнения данных, полученных аналитически с по-
мощью стоимостной метрики модели BSF, с данными, полученными в результате вычис-
лительных экспериментов, приведены в статье [22]. Эти результаты показывают, что мо-
дель BSF позволяет с высокой точностью предсказывать верхнюю границу масштабиру-
емости BSF-реализации алгоритма NSLP. В работе [23] был построен эмулятор BSF-программ, моделирующий работу BSF-
программы на реальной кластерной вычислительной системе. Эмулятор реализован Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» Н.А. Ежова, Л.Б. Соколинский на языке C++ с использованием библиотеки MPI. В эмуляторе задаются числовые зна-
чения параметров модели BSF, приведенные в разделе 4. Эмулятор запускается на реаль-
ной кластерной вычислительной системе и имитирует работу BSF-программы, пересылая
между матером и рабочими сообщения определенной длины, и симулируя вычислитель-
ную работу соответствующими циклами ожидания. Вычислительные эксперименты, про-
веденные на суперкомпьютере ЮУрГУ с использованием эмулятора BSF-программ,
также показали хорошее соответствие показателей масштабируемости, полученных тео-
ретически и экспериментально. В рамках дальнейших исследований планируется решить следующие задачи: 1) разработать формализм для описания BSF-программ с использованием функций выс-
шего порядка; 2) выполнить проектирование и реализацию каркаса для быстрой разработки
BSF-программ на базе MPI (в виде библиотеки на языке C++); 3) провести вычислительные эксперименты на кластерной вычислительной системе с ис-
пользованием известных итерационных методов для подтверждения адекватности мо-
дели BSF. Исследование выполнено при финансовой поддержке РФФИ в рамках научного про-
екта № 17-07-00352 а, Правительства РФ в соответствии с Постановлением № 211 от
16.03.2013 г. (соглашение № 02.A03.21.0011) и Министерства образования и науки РФ
(государственное задание 2.7905.2017/8.9). 1. TOP500 Supercomputer Sites. URL: https://www.top500.org (дата обращения:
03.04.2017). 1. TOP500 Supercomputer Sites. URL: https://www.top500.org (дата обращения:
03.04.2017). 2. Sahni S., Vairaktarakis G. The Master-Slave Paradigm in Parallel Computer and Indus-
trial Settings // Journal of Global Optimization. 1996. Vol. 9, No. 3–4. P. 357–377. DOI: 10.1007/BF00121679. 2. Sahni S., Vairaktarakis G. The Master-Slave Paradigm in Parallel Computer and Indus-
trial Settings // Journal of Global Optimization. 1996. Vol. 9, No. 3–4. P. 357–377. DOI: 10.1007/BF00121679. 3. Silva L.M., Buyya R. Parallel Programming Models and Paradigms // High Performance
Cluster Computing: Architectures and Systems. Vol. 2. 1999. P. 4–27. 4. Leung J.Y.-T., Zhao H. Scheduling Problems in Master-Slave Model // Annals of Opera-
tions Research. 2008. Vol. 159, No. 1. P. 215–231. DOI: 10.1007/s10479-007-0271-4. 5. Bouaziz R. et al. Efficient Parallel Multi-Objective Optimization for Real-Time Systems
Software Design Exploration // Proceedings of the 27th International Symposium on
Rapid System Prototyping — RSP’16, October 1–7, 2016, Pittsburgh, Pennsylvania, USA. P. 58–64. DOI: 10.1145/2990299.2990310. 6. Cantú-Paz E., Goldberg D.E. On the Scalability of Parallel Genetic Algorithms // Evolu-
tionary Computation. 1999. vol. 7, no. 4. pp. 429–449. DOI: 10.1162/evco.1999.7.4.429 7. Depolli M., Trobec R., Filipič B. Asynchronous Master-Slave Parallelization of Differential
Evolution for Multi-Objective Optimization // Evolutionary Computation. 2012. Vol. 21,
No. 2. P. 1–31. DOI: 10.1162/EVCO_a_00076. 8. Mathias E.N. et al. DEVOpT: A Distributed Architecture Supporting Heuristic and Me-
taheuristic Optimization Methods // Proceedings of the ACM Symposium on Applied
Computing, March 11–14, 2002, Madrid, Spain. ACM Press, 2002. P. 870–875. DOI: 10.1145/508791.508960. 2018, т. 7, №2 45 9. Ершова А.В., Соколинская И.М. Параллельный алгоритм решения задачи сильной
отделимости на основе фейеровских отображений // Вычислительные методы и про-
граммирование. 2011. Т. 12. С. 423–434. 10. Бурцев А.П. Параллельная обработка данных сейсморазведки с использованием рас-
ширенной модели Master-Slave // Суперкомпьютерные дни в России: Труды между-
народной конференции (26–27 сентября 2016 г., г. Москва). М.: Изд-во МГУ, 2016. С. 887–895. 11. Sahni S. Scheduling Master-Slave Multiprocessor Systems // IEEE Transactions on Com-
puters. 1996. Vol. 45, No. 10. P. 1195–1199. DOI: 10.1109/12.543712 12. Darema F. et al. A Single-Program-Multiple-Data Computational Model for
EPEX/FORTRAN // Parallel Computing. 1988. Vol. 7, No. 1. P. 11–24. DOI:
10.1016/0167-8191(88)90094-4. 13. Gropp W., Lusk E., Skjellum A. Using MPI: Portable Parallel Programming with the
Message-Passing Interface. Second Edition. MIT Press, 1999. 14. Valiant L.G. A Bridging Model for Parallel Computation // Communications of the ACM. 1990. Vol. 46
Вестник ЮУрГУ. Серия «Вычислительная математика и информа 1
1,2
1South Ural State University (pr. Lenina 76, Chelyabinsk, 454080 Russia),
2N.N. Krasovskii Institute of Mathematics and Mechanics (IMM UB RAS)
(Kovalevskaya St. 16, Ekaterinburg, 620990 Russia)
E-mail: ezhovana@susu.ru, leonid.sokolinsky@susu.ru
Received: 12.03.2018 1South Ural State University (pr. Lenina 76, Chelyabinsk, 454080 Russia),
2N.N. Krasovskii Institute of Mathematics and Mechanics (IMM UB RAS)
(Kovalevskaya St. 16, Ekaterinburg, 620990 Russia)
E-mail: ezhovana@susu.ru, leonid.sokolinsky@susu.ru
Received: 12.03.2018 1South Ural State University (pr. Lenina 76, Chelyabinsk, 454080 Russia)
2N.N. Krasovskii Institute of Mathematics and Mechanics (IMM UB RAS
(Kovalevskaya St. 16, Ekaterinburg, 620990 Russia)
E-mail: ezhovana@susu.ru, leonid.sokolinsky@susu.ru
Received: 12.03.2018 The emergence of powerful multiprocessor computing systems brings to the fore issues related to the develop-
ment of frameworks (templates) that allow creating high-scalable parallel programs oriented to systems with dis-
tributed memory. In this case, the most important problem is the development of parallel computing models that
allow us to assess its scalability at an early stage of the program design. General requirements for computational
models are described and a new high-level parallel computing model called BSF is derived, which is an extension of
the BSP model, and is based on the SPMD programming method and the «master-workers» framework. The
BSF-model is oriented to computational systems with massive parallelism on distributed memory, including hun-
dreds of thousands of processor nodes, and having an exaflop level of performance and numerical iterative methods
with high time complexity. The BSF-computer architecture is defined, and the structure of the BSF-program is
described. The formal cost metric, which provides parallel BSF-programs scalability upper bounds in context of
distributed memory computing systems, is described. Also, formula for BSF-programs parallel efficiency are derived. Keywords: parallel programming, parallel computation model, master-workers framework, BSF-model, time
complexity, Bulk Synchronous Farm, scalability, multiprocessor systems with distributed memory. 33, No. 8. P. 103–111. DOI: 10.1145/79173.79181. 15. Goudreau M. et al. Towards Efficiency and Portability: Programming with the BSP Model
// Proceedings of the Eighth Annual ACM Symposium on Parallel Algorithms and Archi-
tectures — SPAA’96. New York, NY, USA: ACM Press, 1996. P. 1–12. DOI: 10.1145/237502.237503. 16. Cole M.I. Algorithmic Skeletons: Structured Management of Parallel Computation. Cam-
bridge, MA, USA: MIT Press, 1991. 170 p. 17. Poldner M., Kuchen H. On Implementing the Farm Skeleton // Parallel Processing Let-
ters. 2008. Vol. 18, No. 1. P. 117–131. DOI: 10.1142/S0129626408003260. 18. Padua D. et al. Models of Computation, Theoretical // Encyclopedia of Parallel Compu-
ting. Boston, MA: Springer US, 2011. P. 1150–1158. DOI: 10.1007/978-0-387-09766-4_218. 19. Bilardi G., Pietracaprina A., Pucci G. A Quantitative Measure of Portability with Appli-
cation to Bandwidth-Latency Models for Parallel Computing // Euro-Par’99 Parallel Pro-
cessing, Toulouse, France, August 31 – September 3, 1999. Proceedings. Lecture Notes in
Computer Science, vol. 1685. Springer, Berlin, Heidelberg, 1999. P. 543–551. DOI: 10.1007/3-540-48311-X_76. 20. Соколинская И.М., Соколинский Л.Б. О решении задачи линейного программирова-
ния в эпоху больших данных // Параллельные вычислительные технологии – XI меж-
дународная конференция, ПаВТ’2017, г. Казань, 3–7 апреля 2017 г. Короткие статьи
и описания плакатов. Челябинск: Издательский центр ЮУрГУ, 2017. С. 471–484. http://omega.sp.susu.ru/pavt2017/short/014.pdf. 21. Костенецкий П.С., Сафонов А.Ю. Суперкомпьютерный комплекс ЮУрГУ // Парал-
лельные вычислительные технологии (ПаВТ’2016): труды международной научной
конференции (28 марта – 1 апреля 2016 г., г. Архангельск). Челябинск: Издательский
центр ЮУрГУ, 2016. С. 561–573. http://ceur-ws.org/Vol-1576/119.pdf. 22. Sokolinskaya I., Sokolinsky L.B. Scalability Evaluation of the NSLP Algorithm for Solving
Non-Stationary Linear Programming Problems On Cluster Computing Systems // Супер-
компьютерные дни в России: Труды международной конференции (25–26 сентября
2017
г.,
г. Москва). М.:
Изд-во
МГУ,
2017. С. 319–332. http://russianscdays.org/files/pdf17/319.pdf. 23. Ezhova N. Verification of BSF Parallel Computational Model // 3rd Ural Workshop on
Parallel, Distributed, and Cloud Computing for Young Scientists (Ural-PDC). CEUR Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» 46 Н.А. Ежова, Л.Б. Соколинский Workshop Proceedings. Vol-1990. CEUR-WS.org. P. 30–39. http://ceur-ws.org/Vol-
1990/paper-04.pdf. Ежова Надежда Александровна, аспирант, кафедра системного программирования,
Южно-Уральский государственный университет (национальный исследовательский уни-
верситет) (Челябинск, Российская Федерация) Соколинский Леонид Борисович, д.ф.-м.н., профессор, проректор по информатиза-
ции, Южно-Уральский государственный университет (национальный исследовательский
университет) (Челябинск, Российская Федерация), ведущий научный сотрудник, отдел
математического программирования Института математики и механики им. Н.Н. Красов-
ского УрО РАН (Екатеринбург, Российская Федерация) Ezhova N.A., Sokolinsky L.B. Parallel Computational Model for Multiprocessor Systems
with Distributed Memory. Bulletin of the South Ural State University. Series: Computational
Mathematics and Software Engineering. 2018. vol. 7, no. 2. pp. 32–49. (in Russian)
DOI: 10.14529/cmse180203. This paper is distributed under the terms of the Creative Commons Attribution-Non Com-
mercial 3.0 License which permits non-commercial use, reproduction and distribution of the
work without further permission provided the original work is properly cites. 2018, т. 7, №2 47 1. TOP500
Supercomputer Sites. Available at: https://www.top500.org (accessed:
03.04.2017). 1. TOP500
Supercomputer Sites. Available at: https://www.top500.org (accessed:
03.04.2017). 1. TOP500
Supercomputer Sites. Available at: https://www.top500.org (accessed:
03.04.2017). 1. TOP500
Supercomputer Sites. Available at: https://www.top500.org (accessed:
03.04.2017). 2. Sahni S., Vairaktarakis G. The Master-Slave Paradigm in Parallel Computer and Industrial
Settings. Journal of Global Optimization. 1996. vol. 9, no. 3–4. pp. 357–377. DOI: 10.1007/BF00121679. 2. Sahni S., Vairaktarakis G. The Master-Slave Paradigm in Parallel Computer and Industrial
Settings. Journal of Global Optimization. 1996. vol. 9, no. 3–4. pp. 357–377. DOI: 10.1007/BF00121679. 3. Silva L.M., Buyya R. Parallel Programming Models and Paradigms. High Performance
Cluster Computing: Architectures and Systems. vol. 2. 1999. pp. 4–27. 3. Silva L.M., Buyya R. Parallel Programming Models and Paradigms. High Performance
Cluster Computing: Architectures and Systems. vol. 2. 1999. pp. 4–27. 4. Leung J.Y.-T., Zhao H. Scheduling Problems in Master-Slave Model. Annals of Operations
Research. 2008. vol. 159, no. 1. pp. 215–231. DOI: 10.1007/s10479-007-0271-4. 4. Leung J.Y.-T., Zhao H. Scheduling Problems in Master-Slave Model. Annals of Operations
Research. 2008. vol. 159, no. 1. pp. 215–231. DOI: 10.1007/s10479-007-0271-4. 5. Bouaziz R. et al. Efficient Parallel Multi-Objective Optimization for Real-Time Systems
Software Design Exploration. Proceedings of the 27th International Symposium on Rapid
System Prototyping — RSP’16, October 1–7, 2016, Pittsburgh, Pennsylvania, USA. pp. 58-64. DOI: 10.1145/2990299.2990310. 6. Cantú-Paz E., Goldberg D.E. On the Scalability of Parallel Genetic Algorithms. Evolu-
tionary Computation. 1999. vol. 7, no. 4. pp. 429–449. DOI: 10.1162/evco.1999.7.4.429. 7. Depolli M., Trobec R., Filipič B. Asynchronous Master-Slave Parallelization of Differential
Evolution for Multi-Objective Optimization. Evolutionary Computation. 2012. vol. 21,
no. 2. pp. 1–31. DOI: 10.1162/EVCO_a_00076. 8. Mathias E.N. et al. DEVOpT: A Distributed Architecture Supporting Heuristic and Me-
taheuristic Optimization Methods. Proceedings of the ACM Symposium on Applied Com-
puting, March 11–14, 2002, Madrid, Spain. ACM Press, 2002. pp. 870–875. DOI: 10.1145/508791.508960. 9. Ershova A.V., Sokolinskaya I.M. Parallel Algorithm for Solving the Strong Separability
Problem on the Basis of Fejér Mappings. Numerical Methods and Programming. 2011. vol. 12. pp. 423–434. (in Russian) 10. Burtsev A.P. Parallel Processing of Seismic Data Using the Extended Master-Slave Model. Supercomputernie dni v Rossii: Trudy meghdunarodnoj konferentsii (Moscva, 26–27
sentyabra 2016) [Russian Supercomputing Days: Proceedings of the International Scintific
Conference (Moscow, Russia, September 26 –27, 2016)]. Moscow, Publishing House of Mos-
cow State University, 2016. pp. 887–895. (in Russian) 11. Sahni S. Scheduling Master-Slave Multiprocessor Systems. IEEE Transactions on Comput-
ers. 1996. 48
Вестник ЮУрГУ. Серия «Вычислительная математика и информа vol. 45, no. 10. pp. 1195–1199. DOI: 10.1109/12.543712. 12. Darema F. et al. A Single-Program-Multiple-Data Computational Model for
EPEX/FORTRAN. Parallel Computing. 1988. vol. 7, no. 1. pp. 11–24. DOI: 10.1016/0167-
8191(88)90094-4. 13. Gropp W., Lusk E., Skjellum A. Using MPI: Portable Parallel Programming with the
Message-Passing Interface. Second Edition. MIT Press, 1999. 14. Valiant L.G. A Bridging Model for Parallel Computation. Communications of the ACM. 1990. vol. 33, no. 8. pp. 103–111. DOI: 10.1145/79173.79181. 15. Goudreau M. et al. Towards Efficiency and Portability: Programming with the BSP Model. Proceedings of the Eighth Annual ACM Symposium on Parallel Algorithms and Architec-
tures — SPAA’96. New York, NY, USA: ACM Press, 1996. pp. 1–12. DOI:
10.1145/237502.237503. Вестник ЮУрГУ. Серия «Вычислительная математика и информатика» 48 Н.А. Ежова, Л.Б. Соколинский 16. Cole M.I. Algorithmic Skeletons: Structured Management of Parallel Computation. Cam-
bridge, MA, USA: MIT Press, 1991. 170 p. 16. Cole M.I. Algorithmic Skeletons: Structured Management of Parallel Computation. Cam-
bridge, MA, USA: MIT Press, 1991. 170 p. 17. Poldner M., Kuchen H. On Implementing the Farm Skeleton. Parallel Processing Letters. 2008. vol. 18, no. 1. pp. 117–131. DOI: 10.1142/S0129626408003260. 18. Padua D. et al. Models of Computation, Theoretical. Encyclopedia of Parallel Computing. Boston, MA: Springer US, 2011. pp. 1150–1158. DOI: 10.1007/978-0-387-09766-4_218. 19. Bilardi G., Pietracaprina A., Pucci G. A Quantitative Measure of Portability with Appli-
cation to Bandwidth-Latency Models for Parallel Computing. Euro-Par’99 Parallel Pro-
cessing, Toulouse, France, August 31 – September 3, 1999, Proceedings. Lecture Notes in
Computer Science, vol. 1685. Springer, Berlin, Heidelberg, 1999. pp. 543–551. DOI: 10.1007/3-540-48311-X_76. 20. Sokolinskaya I.M., Sokolinsky L.B. On the Solution of the Problem of Linear Programming
in the Era of Large Data. Parallel'nye vychislitel'nye tekhnologii — XI mezhdunarodnaya
konferentsiya, PaVT'2017, g. Kazan, 3–7 aprelya 2017 g. Korotkie stat'i i opisaniya pla-
katov. [Short Articles and Posters of the XI International Conference on Parallel Compu-
tational Technologies (PCT'2017), Kazan, 3–7 April 2017]. Chelyabinsk, Publishing Center
of
the
South
Ural
State
University,
2017. pp. 471–484. http://omega.sp.susu.ru/pavt2017/short/014.pdf. (in Russian) 21. Kostenetskiy P.S., Safonov A.Y. SUSU Supercomputer Resources. Proceedings of the 10th
Annual International Scientific Conference on Parallel Computing Technologies (PCT
2016). Arkhangelsk, Russia, March 29–31, 2016. CEUR Workshop Proceedings. 2016. vol. 1576. pp. 561–563. http://ceur-ws.org/Vol-1576/119.pdf. (in Russian) 22. Sokolinskaya I., Sokolinsky L.B. Scalability Evaluation of the NSLP Algorithm for Solving
Non-Stationary Linear Programming Problems on Cluster Computing Systems. Supercom-
puternie dni v Rossii: Trudy meghdunarodnoj konferentsii (Moscva, 25–26 sentyabra 2017)
[Russian Supercomputing Days: Proceedings of the International Scintific Conference (Mos-
cow, Russia, September 25–26, 2017)]. Moscow, Publishing House of Moscow State Univer-
sity, 2017. pp. 319–332. http://russianscdays.org/files/pdf17/319.pdf. 23. Ezhova N. Verification of BSF Parallel Computational Model. 3rd Ural Workshop on
Parallel, Distributed, and Cloud Computing for Young Scientists (Ural-PDC). CEUR
Workshop Proceedings. Vol-1990. CEUR-WS.org. pp. 30–39. http://ceur-ws.org/Vol-
1990/paper-04.pdf. 2018, т. 7, №2 49
|
https://openalex.org/W4390984178
|
https://link.springer.com/content/pdf/10.1007/s11250-023-03870-3.pdf
|
English
| null |
Wool production and quality traits of pure- and crossbred Merino-type sheep
|
Tropical animal health and production
| 2,024
|
cc-by
| 5,463
|
Abstract Very little information is available on the quality of wool produced by terminal crosses out of wool producing dam lines. This study was therefore undertaken to elucidate the wool quality traits of four crossbred lines relative to Merinos and Dohne
Merinos, which served as dam lines. Each dam line was mated to rams of their own breed as well as to Dormer or Ile de
France rams to create four crossbred lines, namely, Dohne x Dormer, Dohne x Ile de France, Merino x Dormer, and Merino x
Ile de France, in addition to the purebred Dohne Merino and Merino lines. Four rams and four ewes from each of these lines
were reared up to one year of age under optimal growth conditions and shorn at the end of that time. Fleeces were weighed
and samples collected for analysis. Neither sex nor genotype influenced clean fleece weight or clean yield percentage, but
fibre diameter differed between genotypes. Purebred Merino had the finest wool (18.26 μm) and the Merino x Dormer cross
the coarsest (26.01 μm). However, all lines still produced wool that could be used in manufacturing clothing, while fleeces
showed good uniformity. The two purebred lines had the highest comfort factor (> 98%). The crossbred lines produced
a similar quantity of wool as the purebreds, although of poorer quality. All genotypes except Merino x Dormer appear to
produce wool that could be processed into garments, although the crossbred wool would only be suitable for outerwear. Keywords Feedlotting · Fibre diameter · Profitability · Terminal crosses · White-wool breeds Tropical Animal Health and Production (2024) 56:47
https://doi.org/10.1007/s11250-023-03870-3 Tropical Animal Health and Production (2024) 56:47
https://doi.org/10.1007/s11250-023-03870-3 REGULAR ARTICLES Wool production and quality traits of pure‑ and crossbred Merino‑type
sheep P.G. Theron1 · T.S. Brand1,2 · S.W.P. Cloete1 · J.H.C van Zyl1 Received: 10 November 2023 / Accepted: 15 December 2023 / Published online: 18 January 2024
© The Author(s) 2024 * T.S. Brand
Tertius.Brand@westerncape.gov.za
1
Department of Animal Sciences, Stellenbosch University,
Private Bag X1, Matieland 7602, South Africa
2
Directorate: Animal Sciences, Department of Agriculture,
Western Cape Government, Private Bag X1, Elsenburg 7607,
South Africa Animal management The lambs used in this trial were born on Langgewens
Research Farm in the Swartland region of the Western
Cape, South Africa, during late autumn and early winter. A mixed flock of Merino and Dohne Merino ewes was
randomly divided into three equal groups within breeds,
and either mated to rams of their own breeds or to Dor-
mer or Ile de France rams to produce lambs for the trial. Thus, there were six genotypes involved in the trial: Dohne
Merino, Dohne x Dormer, Dohne x Ile de France, Merino,
Merino x Dormer and Merino x Ile de France. The same
rams were used on both dam lines to minimise putative
sire effects. The lambs were weaned at approximately 100
days of age and four rams and four ewes of each genotype
transported to Elsenburg Research Farm, where they were
placed in individual pens (1.5 × 2 m) and reared until one
year of age and data collected for a growth modelling exer-
cise that has been published elsewhere (Theron et al. 2023). The lambs were adapted to a commercial feedlot diet
(Table 1) over a seven-day period using a step-up program
and were allowed ad libitum access to this feed for the rest
of the trial period. They also had unrestricted access to
potable water for the entire period. At the end of the growth
period, all animals were shorn by a commercial shearing
team and the fleeces collected and weighed. Mid-rib sam-
ples were taken from each fleece and sent to the South
African Wool Testing Bureau (WTBSA) for analysis and
testing. Traits analysed were clean yield, fibre diameter,
standard deviation of fibre diameter, coefficient of variation
of fibre diameter, comfort factor (the percentage of fibres
below 30 μm), staple length and staple strength. The on-
farm greasy fleece weight was multiplied with clean yield
as a proportion to obtain clean fleece weight. Wool-producing enterprises usually make use of pure
breeds with crossbreeding considered to be detrimental to
the objectives of wool farmers and being met with scepti-
cism by the wool industry. Owing to the ratio between wool
and meat prices as well as improvements in reproduction
rate, the bulk of farm income is generated from slaugh-
ter lambs. Terminal crossbreeding would allow farm-
ers to utilize heterosis and dimorphism between sire and
dam breeds (feeder-breeder dimorphism) (Roux 1992) to
improve slaughter lamb production. Introduction The majority of wool, as mentioned above, is produced
by Merino type breeds which include the Merino, Dohne
Merino, SA Mutton Merino and Letelle. Wool from these
pure breeds are sought after as they generally have low fibre
diameters (finer wool), meaning that it is easier to process
into high value apparel textiles (Holman and Malau-Aduli
2012; Ferreira et al. 2021). Globally, South Africa is the
second largest producer of Merino-type apparel wool and
is responsible for 11% of world production (Ferreira et al. 2021). White-wool producing breeds like the Dormer and
Ile de France produce carpet wool, which is less sought
after than Merino type wool due to its coarseness. A small
portion of locally produced wool is also classified as coarse,
coloured and Karakul wool (DALRRD 2021) and is gener-
ally not very desirable to buyers. In general, South African
wool is highly sought after as the South African wool indus-
try is known for producing uniform, high quality wool clips
(Ferreira et al. 2021).i According to both the Department of Agriculture, Land
Reform and Rural Development (DALRRD 2021) and SA
Stud Book (2015), the majority of sheep breeds in South
Africa are woolled breeds, most of these being Merino
type breeds. During 2019/2020, ~ 43 million tons of wool
were sold at auctions, generating R3.75 billion of turnover
(CWSA 2020) with the average price per kilogram over all
micron classes and lengths being R98.28 for Merino type
wool and R54.26 for other wool types (DALRRD 2021). From these statistics, it is clear that wool production plays
an important role in the South African sheep industry. Current market demands are centred around fine wool,
and the highest prices are paid for wool with a fibre diam-
eter of 17 μm (CWSA 2020) with prices declining as
fibre diameter increases. It is therefore to the benefit of (0123 3456789) Tropical Animal Health and Production (2024) 56:47 47
Page 2 of 7 47
Page 2 of 7 47 Merino (a dual-purpose breed) lines as a supplement to the
growth modelling of said lines (Theron et al. 2023). producers to produce finer wool. However, wool quality
is influenced by a host of factors which in turn impacts
on price. These factors include not only fibre diameter
but also staple strength, coefficient of variation, comfort
factor, spinning fineness, clean fleece yield and fibre cur-
vature, among others (Holman and Malau-Aduli 2012). Materials and methods Ethical clearance for this study was obtained from Stellen-
bosch University and was granted under clearance number
ACU-2020-14574. Introduction Next to fibre diameter, staple or tensile strength is consid-
ered the most important factor in determining wool qual-
ity and therefore price, as it affects the processing quality
of wool (Holman and Malau-Aduli 2012; Ferreira et al. 2021). It is measured in Newtons per kilotex (N/ktex) and
is defined as the maximum force needed to break a staple
(Holman and Malau-Aduli 2012). Since producers are paid
per weight of clean wool produced, fleece weight is also
an important quantitative trait to consider. Animal management According to Cloete
et al. (2004), the compound effects of heterosis and sexual
dimorphism make a commercial terminal crossbreeding
system extremely viable even if all replacement ewes are
bought in. As a result, some wool producers have turned to
crossbreeding with terminal sires to improve farm income
and buffer their income stream against fluctuations of the
wool market (Cloete et al. 2004; Van der Merwe et al. 2020). The production of wool as a high-value co-product is an
additional incentive when Merino-type dams, not suitable
for purebred production, are used as terminal dams. Even in enterprises where the main focus is lamb produc-
tion, rather than wool, crossbreeding can improve production
output markedly (Carneiro et al. 2007; de Sousa et al. 2019). Crossbreeding is therefore a popular practice globally. In
South Africa, most crossbred progeny destined for slaughter
will be finished off in feedlots or similar intensive finishing
systems where profit margins are generally small. In such
operations, lambs are frequently shorn just prior to slaughter
to generate an extra source of income for the feedlot operator
and improve the overall profitability of the enterprise.fi i
While crossbreeding undeniably offers significant ben-
efits to slaughter lamb producers (Sidwell and Miller 1962;
Scales et al. 2000; Malhado et al. 2009), the effect of cross-
breeding on wool production is less well documented. Therefore, this study aimed to quantify the wool production
and quality traits of four crossbred lines relative to pure-
bred Merino (a specialist wool producing breed) and Dohne Results The results for the main effects of sex and genotype from
the ANOVA are given in Table 2 as least squares means. No
interaction between sex and genotype occurred for any of
the traits considered; thus, the results are presented for the
main effects only. Sex and genotype were set as main effects for the analy-
ses, and the possible interactions between these main effects
were also considered. Each of the 12 possible treatment
combinations was represented by 4 replications. In cases
where significant differences were detected between groups
at a threshold value of P ≤ 0.05, a Fisher’s LSD test was
performed post hoc to quantify these differences. Statistical analysis The results received from the WTBSA as well as clean
fleece weight were subjected to a 2 (sex) × 6 (genotypes
as described above) factorial design analysis of variance Tropical Animal Health and Production (2024) 56:47 Page 3 of 7
4 Table 1 Physical and chemical
composition on an as fed basis
of the pelleted feedlot diet
lambs received during the trial *Values derived from proximate analysis of feed (AOAC International 2002)
Physical composition
Content (g/kg)
Chemical composition*
Content (%)
Maize meal
500.00
Dry matter
88.86
Lucerne hay
361.00
Ash
4.92
Cottonseed oilcake meal
50.00
Protein
16.38
Molasses powder
25.00
Fibre
7.96
Ammonium chloride
5.00
Fat
2.48
Ammonium sulphate
5.00
Acid detergent fibre
9.01
Lime
5.00
Neutral detergent fibre
18.98
Monocalcium phosphate
5.00
Total digestible nutrients
75.71
Common salt
10.00
Urea
5.00
Sodium bicarbonate
10.00
Slaked lime
5.00
Sulphur
2.00
Commercial growth promoters and
coccidiostat premix
1.20
Vitamin and mineral premix
1.50 (ANOVA) using Statistica 14 (Tibco Statistica 2020). No adjustments for any traits were made relative to body
weight.f (ANOVA) using Statistica 14 (Tibco Statistica 2020). No adjustments for any traits were made relative to body
weight. Results 1998, 2003; Cloete and Cloete 2015; Van der Merwe et al. 2020), and any differences can be attributed to environmen-
tal differences, with animals in this trial being housed during
the rearing period and not maintained on pasture.f Fibre diameter differed between genotypes as expected,
with Merinos having the finest wool. The average fibre diam-
eter of 18.26 μm is less than other observations reported in
literature with Cloete et al. (2001) (21.9 μm), Cloete et al. (2003) (22.8–23.3 μm) and Cloete and Cloete (2015) (21.6
μm) all observing greater fibre diameters for Merinos. How-
ever, both the environmental conditions and the ages of the
animals varied between the studies, possibly explaining the
difference in the results. In the study of Van der Merwe et al. (2020) where animals were reared in an environment similar
to this trial, an average fibre diameter of 19.6 μm was found
for Merinos, and Snyman et al. (1998) reported values from
19.8 to 23 μm over three different flocks. It can thus be con-
tended that the present results match existing data.i Comfort factor, which relates to the degree of possible
irritation wearing of a wool garment, can have upon the
skin, differed between sexes (P = 0.030) and genotypes (P =
0.018). Wool from ewes (93.82%) had a higher comfort fac-
tor than that from rams (85.61%), while purebred Merinos
(99.44%) and Dohne Merinos (98.85%) were the genotypes
with the highest comfort factor. These two genotypes did
not differ significantly from each other, or from the Dohne
x Dormer and Merino x Ile de France crosses. The latter two
genotypes did not differ from the Dohne x Ile de France and
Merino x Dormer combinations (the groups with the worst
absolute comfort factor) either. Staple length was unaffected
by sex (P = 0.897) and genotype (P = 0.639), whereas sta-
ple strength was independent of sex (P = 0.942), but not
genotype (P = 0.038). The staple strength of Dohne Merinos
(29.38 N/ktex), Merinos (27.63 N/ktex) and Dohne x Ile de
France (26.63 N/ktex) did not differ, but exceeded that of the
Merino x Dormer cross (19.88 N/ktex; P < 0.05). Crosses
with Ile de France sires were intermediate and did not differ
from the extremes. Results Merinos, as expected, had the lowest MFD of 18.26 μm,
significantly lower than Dohne Merinos (20.66 μm). In turn,
Dohne Merinos had significantly finer wool than Dohne x
Ile de France (24.49 μm) which did not differ significantly
from the Dohne x Dormer (24.53 μm) and Merino x Ile de
France (25.13 μm) groups. The Merino x Dormer cross had
the coarsest wool with a MFD of 26.01 μm which was not
significantly greater than that of the latter two groups.fii of wool produced, the quality traits must not only be com-
pared to previous research but also to NWGA standards
(NWGA 2002) to ensure that these are met. As producers are paid for the quantity of wool produced,
fleece weight is important. No significant differences were
found between the clean fleece weights of either sex or
genetic groups in this study. Clean yield percentages did
not differ either. This implies that the quantity of saleable
wool produced would not differ significantly between sex or
genotype groups, and therefore this would have no influence
on profitability.l i
The coefficient of variation of fibre diameter and stand-
ard deviation of fibre diameter differed significantly between
sexes and genotypes. Ewes had a smaller coefficient of varia-
tion (17.02%) and standard deviation of fibre diameter (3.92
μm) than rams, indicating a more uniform clip. Dohne Meri-
nos had the lowest coefficient of variation of fibre diameter
(16.3%), while purebred Merinos and Dohne Merinos had
the lowest standard deviation of fibre diameter of respec-
tively 3.24 μm and 3.38 μm. Thus, purebred Dohne Merinos
produced the most uniform clip with regard to fibre diameter. The least uniform clip was given by Merino x Dormer which
had a significantly higher coefficient of variation (20.30%)
and standard deviation of fibre diameter (5.29 μm) compared
to the other genotypes. i
When comparing fleece weights to values found in previ-
ous studies, it was seen that the Merino fleeces were similar
in weight to what was reported in previous studies (Snyman
et al. 1998; Cloete et al. 2001; Cloete and Cloete 2015),
while Dohne Merino fleeces were generally slightly heavier
compared to previous studies (Steinhagen 1986; Cloete et al. 1998; Van Wyk et al. 2008; Cloete and Cloete 2015). The
clean yield percentages for the two purebred lines are simi-
lar to those in the literature (Steinhagen 1986; Cloete et al. Results The average fibre diameter of 20.66 μm found for Dohne
Merino in this study compares well to the value of 20.90 μm
of Cloete and Cloete (2015), the 21.80 μm of Cloete et al. (2001) and the 21.00 μm of Van der Merwe et al. (2020)
while also being close to the 19.36 μm of Van Wyk et al. (2008) on yearling sheep. Matching these results to NWGA
standards show that Merino wool would be classified as
superfine, while Dohne Merino wool could be regarded as
medium-fine. All the crossbred genotypes had fibre diam-
eters in excess of 24 μm and would therefore be classified
as overstrong and subsequently have a lower market value. Purebred Dormer and Ile de France breed averages in South
Africa have been reported as 27 and 23–27 μm respectively
by Snyman (2014a, 2014b). Other reported fibre diameters
for yearling Dormers are 31.3 μm (Van der Merwe et al. Results f
Neither clean fleece weight nor the percentage clean
yield differed significantly between sexes or genotypes,
from which it can be inferred that wool production would Table 2 Various wool quality traits as least squares means (± SE) from yearlings of pure- and crossbred wool type sheep of both sexes
Means with different superscripts (a–d) in the same column differ significantly (P ≤ 0.05)
Main effects
Clean fleece
weight (kg)
Clean yield
(%)
Mean fibre
diameter
(MFD) (μm)
Coefficient of
variation of
MFD
Standard
deviation of
MFD
Comfort
factor (%)
Staple length
(mm)
Staple strength
(N/ktex)
Ram
3.48 ± 0.20
70.03 ± 1.40
23.51 ± 0.31
19.42 ± 0.38a
4.59 ± 0.11a
85.61 ± 2.62a
109.21 ± 2.82
25.42 ± 1.25
Ewe
3.75 ± 0.20
68.71 ± 1.40
22.85 ± 0.30
17.02 ± 0.37b
3.92 ± 0.11b
93.82 ± 2.55b
108.71 ± 2.61
25.54 ± 1.16
P value
0.342
0.507
0.142
< 0.001
< 0.001
0.030
0.897
0.942
Dohne Merino 3.80 ± 0.35
70.48 ± 2.36
20.66c ± 0.52
16.30c ± 0.64
3.38c ± 0.19
98.85a ±4.42
111.00 ± 4.51
29.38a ± 2.01
Dohne x
Dormer
3.41 ± 0.35
69.05 ± 2.36
24.53ab ± 0.52
19.43ab ± 0.64 4.78ab ± 0.19
88.50ab ± 4.42 111.25 ± 4.51
25.30ab ± 2.01
Dohne x Ile de
France
2.99 ± 0.35
69.81 ± 2.55
24.49b ±0.57
17.98bc ± 0.69 4.43b ± 0.21
80.93b ± 4.78
106.63 ± 5.53
26.63a ± 2.46
Merino
4.31 ± 0.35
71.86 ± 2.36
18.26d ± 0.52
17.69bc ± 0.64 3.24c ± 0.19
99.44a ± 4.42
103.25 ± 4.51
27.63a ± 2.01
Merino x
Dormer
3.77 ± 0.35
68.05 ± 2.36
26.01a ± 0.52
20.30a ± 0.64
5.29a ± 0.19
81.74b ± 4.42
113.75 ± 4.51
19.88b ± 2.01
Merino x Ile
de France
3.42 ± 0.35
66.96 ± 2.36
25.13ab ± 0.52
17.37bc ± 0.64 4.44b ± 0.19
88.84ab ± 4.42 107.88 ± 4.51
24.13ab ± 2.01
P value
0.173
0.740
< 0.001
0.001
< 0.001
0.018
0.639
0.038 aits as least squares means (± SE) from yearlings of pure- and crossbred wool type sheep of both sexes Tropical Animal Health and Production (2024) 56:47 47
Page 4 of 7 47
Page 4 of 7 47 be similar regardless of sex or genotype for this experimen-
tal outlay. The mean fibre diameter (MFD) differed among
genotypes (P < 0.001) but not between sexes (P = 0.142). Discussion At this point, the small sample size used in the cur-
rent study could also be expected to potentially play a role. Holman and Malau-Aduli (2012) described staples with
a breaking force of 25–30 N/ktex as “sound”, while the
NWGA (2002) defines such staples as being of average ten-
sile strength and only rate staples with greater values than 30
N/ktex as being “sound”. The Merino x Dormer cross, with
a staple strength of 19.88 N/ktex, is classified as “tender”
by both systems, while Merino x Ile de France also falls
below the 25 N/ktex threshold. Purebred Merinos and all
Dohne Merino lines displayed staple strength values above
this threshold and will therefore be more valuable accord-
ing to Holman and Malau-Aduli (2012). All genotypes how-
ever produced wool with a staple strength below 30 N/ktex,
which is considered partially tender according to NWGA
guidelines (NWGA 2002). It is unclear what the reason for
this could be since the animals were under no nutritional or
health stress that may have compromised wool quality. The standard deviation of mean fibre diameter observed
for each group in the trial, although differing significantly
between both sexes and genotypes, still fell within the guide-
lines set by the NWGA for each micron class. Thus, all the
fleeces displayed satisfactory uniformity according to the
standard deviation of mean fibre diameter. The same princi-
ple holds true for the coefficient of variation of mean fibre
diameter. The next important factor determining the suitability of
wool for different applications is the comfort factor. This
trait is related to wearing ease, as wool fibres with a diam-
eter of less than 30 μm are deflected upon contact with
the skin and therefore do not cause irritation when worn
next to the skin. This makes such wool more suitable for
apparel applications (Holman and Malau-Aduli 2012). Both
purebred lines exhibited comfort factors in excess of 95%,
which is regarded as a threshold for wool worn next to the
skin. Similar values were obtained by Van der Merwe et al. (2020). The wool of these traditional wool breeds (Merino
and Dohne) would thus be suitable for processing into knit-
wear or underwear based on its fineness and wearing ease
(NWGA 2002). The Merino x Dormer and Dohne x Ile de
France crosses displayed lower (P < 0.05) comfort factor
values. Discussion The National Wool Growers’ Association (NWGA) is the
body in South Africa that is responsible for setting wool
quality standards and controlling industry practices to meet
international market criteria. To objectively judge the quality Tropical Animal Health and Production (2024) 56:47 Page 5 of 7
47 2020) and 28.8 μm (Muller et al. 2020). The crosses there-
fore show improved wool quality when compared to the sire
breeds. Although the crossbred groups did not differ sig-
nificantly from one another, absolute values favoured the
two Dohne cross groups even though purebred Merinos had
significantly finer wool than purebred Dohne Merinos. This
result was unexpected and could possibly be related to sam-
pling, given the relatively small number of animals (n = 8)
representing each genotype. The increased fibre diameter
in crossbred animals was expected, as both white-woolled
terminal sire breeds are known to produce coarse wool. In
the absence of purebred Dormer and Ile de France progeny,
it was impossible to determine heterosis. However, heterosis
for wool traits is generally low, and the derived means are
unlikely to deviate from the mid-parent value of the pure
breeds.i 2020) and 28.8 μm (Muller et al. 2020). The crosses there-
fore show improved wool quality when compared to the sire
breeds. Although the crossbred groups did not differ sig-
nificantly from one another, absolute values favoured the
two Dohne cross groups even though purebred Merinos had
significantly finer wool than purebred Dohne Merinos. This
result was unexpected and could possibly be related to sam-
pling, given the relatively small number of animals (n = 8)
representing each genotype. The increased fibre diameter
in crossbred animals was expected, as both white-woolled
terminal sire breeds are known to produce coarse wool. In
the absence of purebred Dormer and Ile de France progeny,
it was impossible to determine heterosis. However, heterosis
for wool traits is generally low, and the derived means are
unlikely to deviate from the mid-parent value of the pure
breeds.i reason for the variation between studies may be attributed to
Cloete and Cloete (2015) working on reproducing ewes. It
is feasible that the metabolic requirements of pregnancy and
lactation may have curbed wool growth, resulting in lower
staple lengths. Regardless of the reason for the variation, it
is clear that staple length varies widely between studies and
precise comparison between studies therefore proved to be
difficult. Discussion Wool from these crosses will not be as sought after,
although still suitable for processing into outerwear like
heavy overcoats (NWGA 2002).f Cloete and Cloete (2015) reported staple strength val-
ues of 36.2 N/ktex and 35.1 N/ktex for Merinos and Dohne
Merinos respectively, which is higher than the values
obtained in this study. Conclusion Overall, it seems that all the genotypes produce wool that
is suitable to be processed into clothing, meaning that it
falls into the highest value bracket of wool production. Wool
from the two specialist wool breeds were suitable to pro-
duce garments worn next to the skin, but the wool from
all crossbred lines were suitable only for outerwear. This
result was expected, as both the Dormer and Ile de France
used as terminal sire breeds traditionally have coarse wool
(> 27 μm). The quantity of wool produced in this trial did
not differ between genotypes, while the mean uniformity
of all breed combinations generally conformed to NWGA
guidelines. This would improve the potential value of the
clip from these animals. Furthermore all groups, with the
exception of Merino x Dormer, produced wool that was suit-
able for processing. The Merino x Dormer cross produced
the weakest wool, despite having the greatest fibre diameter,
making it less suitable for processing. Staple length did not differ between the various groups,
and all lengths exceeded 90 mm, therefore being classed as
AA according to NWGA classification standards (NWGA
2002). The staple lengths of the purebreds were higher than
those reported by Cloete and Cloete (2015), who found
89.90 and 90.10 mm as staple lengths for reproducing
Merino and Dohne Merino ewes respectively. Contrastingly,
the values were much lower than the 158.97 mm for Merinos
and 141.67 mm for Dohne Merinos reported by Van der
Merwe et al. (2020) but almost identical to the value of 111
mm reported for Dohne Merinos by Cloete et al. (1998). The Feedlot operators buying in older (> 6 months) crossbred
lambs sired by white-woolled terminal sire breeds can there-
fore still expect reasonable wool quality and quantity from Tropical Animal Health and Production (2024) 56:47 47
Page 6 of 7 47
Page Advancement of Breeding and Genetics, 21, 217–220. http://
www.aaabg.org/aaabghome/proceedings21.php.f the crossbred offspring, rendering shearing prior to slaughter
a potentially profitable intervention. Cloete, S.W.P., Cloete, J.J.E., Durand, A. and Hoffman, L.C., 2003. Production of five Merino type lines in a terminal crossbreed-
ing system with Dormer or Suffolk sires, South African Journal
of Animal Sciences, 33, 223–232. https://doi.org/10.4314/sajas.
v33i4.3778. Acknowledgements The authors would like to thank the Western Cape
Department of Agriculture for use of their facilities and funding and
the Western Cape Agricultural Research Trust (AP/NP/D/TB96) and
Cape Wools SA for funding. Conflict of interest The authors declare no competing interests. Ferreira, A., Lombard, W.A., Bahta, Y.T. and Geyer, A.C., 2021. Price
attributes of Döhne Merino wool in South Africa, Agrekon, 60,
31–42. https://doi.org/10.1080/03031853.2021.1879659. Open Access This article is licensed under a Creative Commons Attri-
bution 4.0 International License, which permits use, sharing, adapta-
tion, distribution and reproduction in any medium or format, as long
as you give appropriate credit to the original author(s) and the source,
provide a link to the Creative Commons licence, and indicate if changes
were made. The images or other third party material in this article are
included in the article’s Creative Commons licence, unless indicated
otherwise in a credit line to the material. If material is not included in
the article’s Creative Commons licence and your intended use is not
permitted by statutory regulation or exceeds the permitted use, you will
need to obtain permission directly from the copyright holder. To view a
copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. Holman, B. and Malau-Aduli, A., 2012. A Review of Sheep Wool
Quality Traits, Annual Research and Review in Biology, 2, 1–14f Malhado, C.H.M., Carneiro, P.L.S., Affonso, P.R.A.M., Souza, A.A.O. and Sarmento, J.L.R., 2009. Growth curves in Dorper sheep
crossed with the local Brazilian breeds, Morada Nova, Rabo
Largo, and Santa Inês, Small Ruminant Research, 84, 16–21. https://doi.org/10.1016/j.smallrumres.2009.04.006. Muller, A., Brand, T.S., Scholtz, A.J., Kruger, A.C.M. and Cloete,
S.W.P., 2020. Genetic and environmental parameters and trends
for early growth and yearling traits in the Elsenburg Dormer
resource flock, Small Ruminant Research, 191, 106181. https://
doi.org/10.1016/j.smallrumres.2020.106181.i NWGA, 2002. Wool Classification Manual. (National Wool Growers’
Association). https://www.nwga.co.za/file/5ac4993d134d2/woolm
anual.pdffi Conclusion Furthermore, they wish to thank the staff
of Kromme Rhee Research Farm who assisted with the raising of the
lambs, the BKB shearing team and the WTBSA for analysis of wool
samples. Cloete, S.W.P., Cloete, J.J.E., Herselman, M.J. and Hoffman, L.C.,
2004. Relative performance and efficiency of five Merino and
Merino-type dam lines in a terminal crossbreeding system with
Dormer or Suffolk sires, South African Journal of Animal Sci-
ences, 34, 135–143. https://doi.org/10.4314/sajas.v34i3.3956. Author contribution P.G.T.: investigation, formal analysis, writing-
original draft, writing-review and editing. T.S.B.: conceptualization,
methodology, resources, supervision, project administration, funding
acquisition, writing-review and editing. S.W.P.C.: conceptualization,
methodology, supervision, writing - review and editing. J.H.C.Z.:
supervision. Cloete, S.W.P., Schoeman, S.J., Coetzee, J. and Morris, J. de V., 2001. Genetic variances for liveweight and fleece traits in Merino,
Dohne Merino and South African Meat Merino sheep, Austral-
ian Journal of Experimental Agriculture, 41, 145–153 Cloete, S.W.P., Scholtz, A.J. and Aucamp, B., 1998. Environmental
effects, heritability estimates and genetic trends in a Western Cape
Dohne Merino nucleus flock, South African Journal of Animal
Sciences, 28, 185–195. https://doi.org/10.4314/sajas.v28i3.44225 Funding Open access funding provided by Stellenbosch University. This study was funded by the Western Cape Agricultural Research
Trust (project number AP/NP/S/TB96) and Cape Wools SA. The
authors extend their gratitude to these organizations. CWSA, 2020. National Wool Market Report Season 2019/20, (Gqe-
berha). https://www.capewools.co.za/CWMR/?catalogue=
201932. DALRRD, 2021. Department of Agriculture, Land Reform and Rural
Development. Abstract of Agricultural Statistics 2021, (Pre-
toria). https://www.dalrrd.gov.za/Portals/0/Statistics%20and%
20Economic%20Analysis/Statistical%20Information/Abstract%
202021.pdf Data availability The data sets generated during the current study are
available from the corresponding author upon reasonable request. Declarations de Sousa, M.A.P., Lima, A.C.S., Araújo, J.C., Guimarães, C.M.C.,
Joele, M.R.S.P., Borges, I., Daher, L.C.C. and Silva, A.G.M. e.,
2019. Tissue composition and allometric growth of carcass of
lambs Santa Inês and crossbreed with breed Dorper, Tropical
Animal Health and Production, 51, 1903–1908. https://doi.org/
10.1007/s11250-019-01886-2 Ethics approval Ethical clearance for this study was obtained from the
Research and Ethics Committee: Animal Care and Use of Stellenbosch
University and project number ACU-2020-14574 assigned. References Roux, C.Z., 1992. Maximum herd efficiency in meat production III. Feeder - breeder dimorphism, South African Journal of Animal
Science, 22, 11–15 AOAC International, 2002. AOAC International methods commit-
tee guidelines for validation of qualitative and quantitative food
microbiological official methods of analysis., 17th ed. (Associa-
tion of Official Analytical Chemists: Arlington, Virginia, USA) Scales, G.H., Bray, A.R., Baird, D.B., O’Connell, D. and Knight, T.L.,
2000. Effect of sire breed on growth, carcass, and wool character-
istics of lambs born to Merino ewes in New Zealand, New Zealand
Journal of Agricultural Research, 43, 93–100. https://doi.org/10.
1080/00288233.2000.9513412. fi
Carneiro, P.L.S., Malhado, C.H.M., Souza Júnior, A.A.O. de, Silva,
A.G.S. da, Santos, F.N. dos, Santos, P.F. and Paiva, S.R., 2007. Growth rate and phenotypic diversity among crosses of Dorper
ovines and local breeds, Pesquisa Agropecuária Brasileira, 42,
991–998. https://doi.org/10.1590/s0100-204x2007000700011. Sidwell, G.M. and Miller, L.R., 1962. Production in some pure breeds
of sheep and their crosses. II. Birth weights and weaning weights
of lambs, Journal of Animal Science, 3, 1090–1094 Cloete, S.W.P. and Cloete, J.J.E., 2015. Production performance of
Merino and Dohne Merino ewes and lambs in pure or cross-
breeding systems. In: Proceedings of the Association for the Snyman, M.A., 2014a. South African sheep breeds: Dormer. Info-
pack ref. 2014/016. Grootfontein Agric. Dev. Institute. http:// Tropical Animal Health and Production (2024) 56:47 Page 7 of 7 Page 7 of 7
47 47 gadi.agric.za/InfoPacks/2014016 South African Sheep breeds-
Dormer.pdf gadi.agric.za/InfoPacks/2014016 South African Sheep breeds-
Dormer.pdf Tibco Statistica, 2020. TlBCO Statistica 14 (Tibco: Palo Alto, Cali-
fornia). https://docs.tibco.com/products/tibco-statistica-14-0-0 Van der Merwe, D.A., Brand, T.S. and Hoffman, L.C., 2020. Wool
production in Dohne Merino, Dormer, Merino and South
African Mutton Merino lambs, South African Journal of
Animal Science, 50, 881–889. https://doi.org/10.4314/sajas.
v50i6.15 Snyman, M.A., 2014b. South African sheep breeds: Ile De France. Info-pack ref. 2014/018. Grootfontein Agric. Dev. Institute. http://
gadi.agric.za/InfoPacks/2014018 South African Sheep breeds - Ile
De France.pdf Snyman, M.A., Cloete, S.W.P. and Olivier, J.J., 1998. Genetic and phe-
notypic correlations of total weight of lamb weaned with body
weight, clean fleece weight and mean fibre diameter in three South
African Merino flocks, Livestock Production Science, 55, 157–
162. https://doi.org/10.1016/S0301-6226(98)00119-5.l Van Wyk, J.B., Swanepoel, J.W., Cloete, S.W.P., Olivier, J.J. and Del-
port, G.J., 2008. Across flock genetic parameter estimation for
yearling body weight and fleece traits in the South African Dohne
Merino population, South African Journal of Animal Sciences, 38,
31–37. https://doi.org/10.4314/sajas.v38i1.4106. Steinhagen, O., 1986. Publisher’s Note Springer Nature remains neutral with regard to
jurisdictional claims in published maps and institutional affiliations. References The influence of age and generation number
of the Döhne Merino on different wool production traits, South
African Journal of Animal Science, 16, 101–102 SA Stud Book, 2015. SA Stud Book Annual Report 2015. https://studb
ook.co.za/ci80/SA-Stud-Book-Annual-Report-2015.html Theron, P.G., Brand, T.S., Cloete, S.W.P., Zyl, J.H.C. Van, 2023. A
comparison of growth models for cross- and purebred lambs
in precision livestock farming systems, South African Journal
of Animal Science, 53, 287–301. https://doi.org/10.4314/sajas.
v53i2.13
|
https://openalex.org/W4316810660
|
https://serval.unil.ch/resource/serval:BIB_8540A76E693C.P001/REF.pdf
|
English
| null |
Risk Factors for Early Hospital Readmission in Geriatric Patients: A Systematic Review
|
International journal of environmental research and public health/International journal of environmental research and public health
| 2,023
|
cc-by
| 9,948
|
Citation: Cilla, F.; Sabione, I.;
D’Amelio, P. Risk Factors for Early
Hospital Readmission in Geriatric
Patients: A Systematic Review. Int. J. Environ. Res. Public Health 2023, 20,
1674. https://doi.org/10.3390/
ijerph20031674 International Journal of
Environmental Research
and Public Health International Journal of
Environmental Research
and Public Health International Journal of
Environmental Research
and Public Health Francesco Cilla *
, Ilaria Sabione and Patrizia D’Amelio Service of Geriatric Medicine and Geriatric Rehabilitation, Centre Hospitalier Universitaire Vaudois (CHUV),
Route de Mont Paisible 16, 1011 Lausanne, Switzerland
* Correspondence: francesco.cilla@chuv.ch Abstract: The number of older patients is constantly growing, and early hospital readmissions in this
population represent a major problem from a health, social and economic point of view. Furthermore,
the early readmission rate is often used as an indicator of the quality of care. We performed a
systematic review of the literature to better understand the risk factors of early readmission (30 and
90 days) in the geriatric population and to update the existing evidence on this subject. The search
was carried out on the MEDLINE, EMBASE and PsycINFO databases. Three independent reviewers
assessed the potential inclusion of the studies, and then each study was independently assessed by
two reviewers using Joanna Briggs Institute critical appraisal tools; any discrepancies were resolved
by the third reviewer. Studies that included inpatients in surgical wards were excluded. Twenty-
nine studies were included in the review. Risk factors of early readmission can be classified into
socio-economic factors, factors relating to the patient’s health characteristics, factors related to the
use of the healthcare system and clinical factors. Among these risk factors, those linked to patient
frailty play an important role, in particular malnutrition, reduced mobility, risk of falls, fatigue and
functional dependence. The early identification of patients at higher risk of early readmission may
allow for targeted interventions in view of discharge. Keywords: geriatrics; early readmission; risk factors Systematic Review Francesco Cilla *
, Ilaria Sabione and Patrizia D’Amelio 1. Introduction The older population is continuously growing increasing public health challenges. According to statistics from the Report on the State of World Population, in 2050, one out
of six persons in the world (one out of four in Europe and North America) will be over
65 (16%), compared to one in eleven in 2019 (9%). The number of adults aged 80 years or
over is expected to triple, from 143 million in 2019 to 426 million in 2050 [1]. Academic Editors: Marta Muszalik,
Mateusz Cybulski and Gra˙zyna Puto
Received: 12 December 2022
Revised: 9 January 2023
Accepted: 16 January 2023
Published: 17 January 2023 Academic Editors: Marta Muszalik,
Mateusz Cybulski and Gra˙zyna Puto
Received: 12 December 2022
Revised: 9 January 2023
Accepted: 16 January 2023
Published: 17 January 2023 Academic Editors: Marta Muszalik,
Mateusz Cybulski and Gra˙zyna Puto p
p
In this global context, the control of health costs and the efficiency of care represent
two of the most important challenges for the upcoming years. For this reason, hospitals and
healthcare systems have undertaken several initiatives to limit healthcare costs, including
reducing the average length of stay, centralising acute care to optimise resources and
reducing bed use [2]. Received: 12 December 2022
Revised: 9 January 2023
Accepted: 16 January 2023
Published: 17 January 2023 Early unscheduled readmission represents a major problem among older adults from
a health, social and financial point of view [3]. Hence, readmission rates are frequently
used as indicators of the quality of hospital care [4]. 2.1. Eligibility Criteria Studies included in this systematic review answered the research question structured
by the following Participants’ Intervention (PI), Exposure Comparator Outcomes (ECO)
format: Participants: older adults aged 65 years and older were readmitted to hospital within
30 or 90 days after discharge (defined as early readmission). We excluded studies on
patients discharged from psychiatric, surgical, rehabilitation or palliative units and patients
transferred to rehabilitation. Interventions/exposures: Interventions/exposures: Socio-demographic characteristics and socioeconomic determinants; -
Socio-demographic characteristics and socioeconomic determinants; -
Health factors; -
Healthcare utilisation; -
Clinical factors. Comparator: older adults aged 65 years and older without early re-hospitalisation. Outcomes: 30 or 90 days readmission to hospital. Comparator: older adults aged 65 years and older without early re-hospitalisation. Outcomes: 30 or 90 days readmission to hospital. utcomes: 30 or 90 days readmission to hospital. Copyright:
© 2023 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). According to different studies, the readmission rate 1 month after hospital discharge
varies between 7.3 and 32.7% [5–7], depending on the population included, the geograph-
ical areas and the different departments examined [8,9]. Different studies focused on
different outcomes: all readmissions [10], unplanned readmissions [11], or avoidable read-
missions [12]. Potentially avoidable readmissions are a serious burden for patients and caregivers
and cause increased healthcare costs [3,13,14]. The clear identification of factors predictive Int. J. Environ. Res. Public Health 2023, 20, 1674. https://doi.org/10.3390/ijerph20031674 https://www.mdpi.com/journal/ijerph Int. J. Environ. Res. Public Health 2023, 20, 1674 2 of 16 of early readmission may enable the implementation of appropriate interventions to obtain
significant reductions in readmission rates to hospitals for older patients [15–17]. of early readmission may enable the implementation of appropriate interventions to obtain
significant reductions in readmission rates to hospitals for older patients [15–17]. g
p
p
Indeed, in the United States, discharge plans and strict follow-up for patients at high
risk of readmission are effective in reducing the rehospitalisation rate at 30 days [18,19]. g
p
p
Indeed, in the United States, discharge plans and strict follow-up for patients at high
risk of readmission are effective in reducing the rehospitalisation rate at 30 days [18,19]. Several studies have been published on this topic in the past years; the systematic
review by Pedersen et al. [20] suggests that socio-demographic risk factors, as well as organ-
isational factors and clinical factors, may be regarded as predictors of early readmissions. However, due to the high degree of heterogeneity between different studies included in the
review, the authors suggest caution in the interpretation of the results [20]. The aim of this systematic review is to update the existing evidence on this topic
identifying the risk factors for early readmissions in geriatric patients hospitalised in
medical units. 2.2. Study Design We included peer-reviewed observational and intervention studies, clinical trials,
prospective and retrospective controlled cohort studies and case-controlled studies written
in English. Only studies published in the past decade were included (from 1 January 2012
to 31 January 2022). y
We excluded studies limited to patients with specific diseases such as heart attack,
dementia, pneumonia etc., case reports and narrative reviews. 2.3. Information Source and Search Strategy 2.3. Information Source and Search Strategy 2.4. Study Selection Two reviewers, working independently, screened the studies retrieved by the search
according to the inclusion/exclusion criteria. Two reviewers independently evaluated
the inclusion of each study; discrepancies between the two reviewers were solved by the
third. The Rayyan® tool (a web tool designed to help researchers working on systematic
reviews available at Rayyan—Intelligent Systematic Review—Rayyan) was used to speed
up the article selection process. All the papers retrieved by the search responding to inclu-
sion/exclusion criteria were included; biases were evaluated for each article and noted in a
dedicated database. In 17 studies [10,21–36], the corresponding author was contacted for
further information. Only 10 authors [10,21,22,25,27–31,33] sent the requested information. None of the studies for which we did not receive the requested additional information were
excluded; however, the quality assessment for these studies was incomplete [23,32,34,35]. 2.3. Information Source and Search Strategy We carried out this systematic review in agreement with the Preferred Reporting Items
for Systematic Reviews and Meta-Analysis (PRISMA, the PRISMA checklist is reported in
Appendix A). The protocol of this study is available on the International prospective regis-
ter of systematic reviews (PROSPERO, number CRD42021292496, https://www.crd.york.a
c.uk/prospero/display_record.php?RecordID=292496) (accessed on 30 November 2021). The MEDLINE, EMBASE and PsycINFO databases were searched for relevant studies using
the following terms: ((“Aged” [Mesh] OR “Geriatrics” [Mesh]) AND “Patient Readmission”
[Mesh] AND “Risk Factors” [Mesh] NOT “Surgery” [MeSH Terms]). The search strategy
is publicly available at https://pubmed.ncbi.nlm.nih.gov/?term=%28%22Aged%22%5BMe
sh%5D+OR+%22Geriatrics%22%5BMesh%5D%29+AND+%22Patient+Readmission%22%5
BMesh%5D+AND+%22Risk+Factors%22%5BMesh%5D+NOT+Surgery%5BMeSH+Terms
%5D&filter=dates.2012%2F1%2F1-2022%2F1%2F31&filter=hum_ani.humans&filter=lang.e
nglish&filter=age.aged&size=200 (accessed on 1 February 2022) for PubMed, “(‘aged’/exp
OR ‘geriatrics’/exp) AND ‘patient readmission’/exp AND ‘risk factors’/exp NOT ‘surgery’/
exp AND [01-01-2012]/sd NOT [01-02-2022]/sd AND [english]/lim” for EMBASE and Int. J. Environ. Res. Public Health 2023, 20, 1674 3 of 16 3 of 16 “MeSH: geriatrics OR MeSH: old AND MeSH: patient readmission AND MeSH: risk factors
NOT MeSH: surgery AND PsycInfo Classification: 2860 Gerontology for PsycINFO”. The final search was done on 1 February 2022. 3.1. Study Design and Characteristics Twenty-nine studies published between 2012 and 2022 were included in the re-
view [3,10–12,21–23,27–36,38–49]. The participants included in the different studies ranged
between 111 [41] and 1,463,781 [27], with a total number of patients included in the
review of 3,859,134. The majority of the included studies were retrospective cohort
studies [3,12,21,27,31,33,34,36,42–44,46–49], nine were prospective cohort studies [10,22,
23,29,30,35,38,40,41], four were case-control studies [11,28,32,45] and one was a quasi-
experimental study [39]. Eighteen studies were monocentric [12,21–23,28–31,33–36,39–
41,43,45,48] and 11 were multicentric [3,10,11,27,32,38,42,44,46,47,49]. Twelve were con-
ducted in Europe [10,12,21,27,28,30,31,35,38,43,46,48], nine in the USA [22,29,32,34,40–
42,44,49], five in Asia/Middle East [23,33,36,39,47] and three in Australia [3,11,45]. Nine-
teen studies [3,10–12,22,23,27,31,33,35,36,38–44,48] presented results according to multi-
variate analysis. y
The study design of each study is detailed in Supplemental Table S1. 3.2. Study Population The minimum age for patients’ inclusion differs amongst different studies; however,
all the studies reported an average age of at least 65 years. Eleven studies [3,10,11,22,29,30,41,44,45,47,48] included only patients aged 65 or older,
one study [40] included patients aged 55 or older, one study [23] included patients aged
60 or older, two studies [21,38] included patients aged 70 or older and two studies [34,35]
included patients aged 75 years or older. p
g
y
Nine studies [12,27,28,32,33,36,42,46,49] included patients of all ages, with a mean
age of 65 years. Finally, the age of inclusion is not mentioned in three studies [31,39,43];
nevertheless, patients enrolled were admitted to a geriatric ward. The characteristics of the
population included in the different studies are detailed in Supplemental Table S1. 2.6. Quality Assessment The quality of the studies was assessed by the standardised Joanna Briggs Institute
(JBI) critical appraisal tools [37]: JBI Critical Appraisal Checklist for case-control studies,
JBI Critical Appraisal Checklist for cohort studies and JBI Critical Appraisal Checklist for
quasi-experimental studies were used. Two reviewers independently evaluated the quality of each study; discrepancies
between the two reviewers were solved by discussion and consensus among reviewers or by
the third reviewer. The quality across studies was assessed using a graphic representation of
the percentage of studies with a strong, moderate or weak rating for each section considered
in the evaluation of the quality of individual studies. 2.5. Data Extraction and Analysis Three thousand and twenty-one articles were retrieved by the search strategy: 1491
from EMBASE + 1410 from PubMed + 120 from PsycINFO. After removing the duplicates,
we retained 2532 articles for the systematic revision. We excluded 2139 articles for violation
of inclusion criteria. Hence, 393 full-text articles were reviewed as previously described. After reading the full-text article, 364 articles were excluded due to the following reasons:
wrong study population (n = 193), wrong outcome (n = 121) or full paper non-available
(n = 50). Twenty-nine articles were included in the Review (Figure 1). 20, x FOR PEER REVIEW
4 of 17 Figure 1. Flowchart of the study selection process. 2 6 Q
lit A
t
Figure 1. Flowchart of the study selection process. Figure 1. Flowchart of the study selection process. Figure 1. Flowchart of the study selection process. Int. J. Environ. Res. Public Health 2023, 20, 1674 4 of 16 From each study, 2 reviewers extracted: publication year, design of the study and
analytic model, participants number, mean age, gender, number of readmitted patients,
rate of readmission, duration of the follow-up, data sources, clinical setting, main outcomes,
variables analysed and predictors of readmission identified. 3.3. Risk Factors for Early Hospital Readmission The incidence rates of readmission (both unplanned and for any cause) within 30 days
ranged from 10.3% [3] to 37.6% [23], while the rates within 90 days ranged from 16% [21] to
58% [47]. Here, we take into account risk factors for readmission at 30 or 90 days according to
the definition of early readmission in literature [10,12,28,30,38,42,48,50,51]. Twenty-three
studies [12,22,23,27–36,39–46,48,49] investigated the risk factors of readmission at 30 days,
three studies at 90 days [10,21,47] and three studies [3,11,38] at 30 and 90 days. Int. J. Environ. Res. Public Health 2023, 20, 1674 5 of 16 5 of 16 The risk factors for readmission highlighted by the studies included in this review can
be classified into four categories: socio-demographic and socio-economic factors, health
factors, healthcare utilisation and clinical factors. g
g
p
ctors, healthcare utilisation and clinical factors. Fifteen studies [10–12,23,29–31,36,38,39,41,45–47,49] analysed all four groups of expo-
sure, while six studies [3,21,22,27,32,34] considered only one group of exposure. The majority of the studies identified as risk factors for early readmission older
age [3,28,33,47], male gender [3,30,46], a poor socio-economic status [3,30,40,42,45], malnu-
trition [21,23,38,46], multi-morbidity [11,12,27,30,31,36,39,40,45,49], liver diseases [10,46,49],
heart failure [28,33,44,47,49], anaemia [36,46,48], recent hospitalisation [10,12,45] and longer
hospital length of stay [12,30,36,46,49]. EVIEW
6 of 17 Different risk factors of readmission are detailed in Table S1 and Figure 2. ctors for early hospital readmission. Figure 2. Risk factors for early hospital readmission. ctors for early hospital readmission
Figure 2. Risk factors for early hospital readmission. y
p
t
3.4. Quality Assessment 2021 [48], Mueller et al. 2021 [27], Oud et al. 2021 [21], Wang-Hansen et al. 2022 [35], Goldin et al. 2018 [34] Kim et al 2016 [49] Fisher et al 2012 [41] Froom et al 2020 [33] Scott et al 2014 [45] p
The global quality assessment across the studies is presented in Figure 4. 2018 [34], Kim et al. 2016 [49], Fisher et al. 2012 [41], Froom et al. 2020 [33], Scott et al. 201
Vallini et al. 2021 [28], Silber et al. 2019 [32], Finlayson et al. 2018 [11], Lin et al. 2019 [39]. The global quality assessment across the studies is presented in Figure 4. 2018 [34], Kim et al. 2016 [49], Fisher et al. 2012 [41], Froom et al. 2020 [33], Scott et al. Vallini et al. 2021 [28], Silber et al. 2019 [32], Finlayson et al. 2018 [11], Lin et al. 2019 [39]. (a)
(b)
(c)
0%
20%
40%
60%
80%
100%
Appropiate statistical analysis (D11)
Strategies to adress incomplete follow up (D10)
Follow up complete (D9)
Follow up time reported and long enough (D8)
Outcome measured in a valid and reliable way (D7)
Free of the outcome at the start of the study (D6)
Strategies to deal with confounding factors (D5)
Confounding factors identified (D4)
Exposure measured in a valid and reliable way (D3)
Exposures mesured similarly in the two groups (D2)
Selection of population (D1)
Low risk of bias
High risk of bias
Non applicable
Unclear
0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100%
Appropiate statistical analysis (D10)
Exposure period long enough (D9)
Outcome assessed in valid and reliable way (D8)
Strategies to deal with confounding factors (D7)
Confounding factors identified (D6)
Mesurement of exposure (D5)
Exposures mesured in valid and reliable way (D4)
Identification of cases and controls (D3)
Case and controls matched appropriately (D2)
Selection of population (D1)
Low risk of bias
High risk of bias
Non applicable
0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100%
Appropiate statistical analysis (D9)
Outcome mesured in reliable way (D8)
Outcome measured in the same way (D7)
Follow up complete (D6)
Mesurements of the outcome (D5)
Presence of Control group (D4)
Similar traitement/care across group (D3)
Population (D2)
Clear what is the cause and what is the effect (D1)
Low risk of bias
Non applicable
Unclear
Figure 4. y
p
t
3.4. Quality Assessment essment
s of the critical appraisal process are reported in Figure 3. Among the
es, Fitriana et al. [23] and Wang–Hansen et al. [35] received the highest
, while Ben–Chetrit et al. [47] and Scott et al. [45] received the lowest score
The results of the critical appraisal process are reported in Figure 3. Among the
included studies, Fitriana et al. [23] and Wang–Hansen et al. [35] received the highest
score (9 points), while Ben–Chetrit et al. [47] and Scott et al. [45] received the lowest score
(3 points). Int. J. Environ. Res. Public Health 2023, 20, 1674
absence
unclear i 6 of 16
,47] is Figure 3. Quality assessment for cohort studies in the first part, case-control studies in the second
part and quasi-experimental studies in the third part. The Robvis Tool® [52] was used for this figure. Figure 3. Quality assessment for cohort studies in the first part, case-control studies in the second
part and quasi-experimental studies in the third part. The Robvis Tool® [52] was used for this figure. Van Seben et al. 2020 [38], Calsolaro et al. 2019 [31], Lehn et al. 2019 [30], Chan et al. 2019 [40],
Maddox et al. 2019 [42], Cotter et al. 2012 [43], Uhlmann et al. 2017 [12], Anderson et al. 2016 [29],
Bogaisky et al. 2015 [44], Fisher et al. 2016 [22], Franchi et al. 2012 [10], Ben-Chetrit et al. 2012 [47],
Zapatero et al. 2012 [46], Fitriana et al. 2021 [23], Robinson et al. 2012 [3], Shu et al. 2012 [36], Higi
et al. 2021 [48], Mueller et al. 2021 [27], Oud et al. 2021 [21], Wang-Hansen et al. 2022 [35], Goldin
et al. 2018 [34], Kim et al. 2016 [49], Fisher et al. 2012 [41], Froom et al. 2020 [33], Scott et al. 2014 [45],
Vallini et al. 2021 [28], Silber et al. 2019 [32], Finlayson et al. 2018 [11], Lin et al. 2019 [39]. 7 of 16 7 of 16 Int. J. Environ. Res. Public Health 2023, 20, 1674 D1–D11 are detailed in JBI Critical appraisal checklist [37] for cohort studies [3,
10,12,21–23,27,29–31,33–36,38,40–44,46–49], case-control studies [11,28,32,45] and quasi-
experimental studies [39]). Bogaisky et al. 2015 [44], Fisher et al. 2016 [22], Franchi et al. 2012 [10], Ben-Chetrit et al. 2012 [47],
Zapatero et al. 2012 [46], Fitriana et al. 2021 [23], Robinson et al. 2012 [3], Shu et al. 2012 [36], Higi et
al. y
p
t
3.4. Quality Assessment (a)
(b)
0%
20%
40%
60%
80%
100%
Appropiate statistical analysis (D11)
Strategies to adress incomplete follow up (D10)
Follow up complete (D9)
Follow up time reported and long enough (D8)
Outcome measured in a valid and reliable way (D7)
Free of the outcome at the start of the study (D6)
Strategies to deal with confounding factors (D5)
Confounding factors identified (D4)
Exposure measured in a valid and reliable way (D3)
Exposures mesured similarly in the two groups (D2)
Selection of population (D1)
Low risk of bias
High risk of bias
Non applicable
Unclear
0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100%
Appropiate statistical analysis (D10)
Exposure period long enough (D9)
Outcome assessed in valid and reliable way (D8)
Strategies to deal with confounding factors (D7)
Confounding factors identified (D6)
Mesurement of exposure (D5)
Exposures mesured in valid and reliable way (D4)
Identification of cases and controls (D3)
Case and controls matched appropriately (D2)
Selection of population (D1)
Low risk of bias
High risk of bias
Non applicable
Cl
h
i
h
d
h
i
h
ff
(D1) (a)
0%
20%
40%
60%
80%
100%
Appropiate statistical analysis (D11)
Strategies to adress incomplete follow up (D10)
Follow up complete (D9)
Follow up time reported and long enough (D8)
Outcome measured in a valid and reliable way (D7)
Free of the outcome at the start of the study (D6)
Strategies to deal with confounding factors (D5)
Confounding factors identified (D4)
Exposure measured in a valid and reliable way (D3)
Exposures mesured similarly in the two groups (D2)
Selection of population (D1)
Low risk of bias
High risk of bias
Non applicable
Unclear 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100%
Appropiate statistical analysis (D10)
Exposure period long enough (D9)
Outcome assessed in valid and reliable way (D8)
Strategies to deal with confounding factors (D7)
Confounding factors identified (D6)
Mesurement of exposure (D5)
Exposures mesured in valid and reliable way (D4)
Identification of cases and controls (D3)
Case and controls matched appropriately (D2)
Selection of population (D1) 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Low risk of bias
High risk of bias
Non applicable (b)
(c)
Low risk of bias
High risk of bias
Non applicable
0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100%
Appropiate statistical analysis (D9)
Outcome mesured in reliable way (D8)
Outcome measured in the same way (D7)
Follow up complete (D6)
Mesurements of the outcome (D5)
Presence of Control group (D4)
Similar traitement/care across group (D3)
Population (D2)
Clear what is the cause and what is the effect (D1)
Low risk of bias
Non applicable
Unclear (c) Figure 4. y
p
t
3.4. Quality Assessment The global quality assessment across the studies for cohort studies (a), case-con
(b), and quasi-experimental studies (c). 4. Discussion The aim of this review is to broadly evaluate the risk factors for early hospital read-
mission in geriatric patients; with this aim, we included very heterogeneous studies. The
studies included widely differed in design, setting and data collection methods and were
carried out in different countries with different cultures, health systems and economic
situations. In addition, the definition of early readmission differs amongst the studies as read-
mission for any causes is included in 14 studies [10,21,27,29,30,32–36,43,44,47,49], only
unplanned readmissions in 12 studies [3,11,22,23,28,38–42,45,46] and potentially avoidable
readmissions in three studies [12,31,48]. Taking into account that both planned and un-
planned readmission potentially overestimate the readmission rate, however, the definition
chosen by different authors was not included in the quality assessment as it depends on
the declared study’s outcome. Despite this heterogeneity, this review allows us to synthesise and update the knowl-
edge on risk factors associated with early readmissions. According to the included studies,
we classified risk factors for early readmission into four categories: socio-demographic and
socio-economic factors, health factors, healthcare utilisation and clinical factors related to
the index admission. The incidence rates of readmission (unplanned readmissions or any causes of read-
missions) vary markedly between different studies [3,21,23,47]. These variations have
already been highlighted by previous systematic reviews [8,20] and may be due to different
populations, countries’ health system differences and the different definitions adopted for
early readmission. Regarding the socio-demographic and socio-economic factors, our review highlights
contrasting results. Older age [3,28,33,47] and male gender [3,30,46] were found to be
associated with an increased risk of early readmission in some studies. However, these
findings were not confirmed by other studies, as in one study [35], female gender was
found to be a risk factor for early readmission, whereas younger age was associated with
early readmission by two studies [35,49]. These conflicting results could be explained by
different settings as, in some countries, older patients are mostly treated at home or in
nursing homes and, thus, are not transferred to an acute hospital [35]. Nevertheless, the majority of the studies did not find a significant association between
gender and age and readmission rate [10–12,22,23,29,31,33,36,38–40,42–45,48]. A poor
socioeconomic status (living in a disadvantaged area [42], low level of education [30],
belonging to minorities [3,40], speaking a foreign language [45]) increase the risk for early
readmission as well as living in a rural area [3]. y
p
t
3.4. Quality Assessment The global quality assessment across the studies for cohort studies (a), case-control studies
(b), and quasi-experimental studies (c). Int. J. Environ. Res. Public Health 2023, 20, 1674 8 of 16 We highlight that the item “Outcome measured in a standard, valid and reliable way”
(D7 for Cohort studies and D8 for case-control studies and quasi-experimental studies) has a
high risk of bias in the cohort studies (only 42% of the studies [10,12,23,30,35,38,40,42,48,49]
have a low risk of bias) and in the case-control studies (only 50% of the studies [11,32] with a
low risk of bias). This result is explained by the attribution of the “high risk of bias” category
to studies that included readmissions only in the same units of index hospitalisation; this
potentially leads to an underestimation of the outcomes. Regarding the item “Follow-Up complete” (D9 for Cohort studies) in the Cohort
studies, a high risk of bias was attributed if the authors did not have information on non-
readmitted patients (who could potentially be dead or hospitalised elsewhere). According
to these criteria, only 45% of the cohort studies [10,12,22,23,27,31,35,38,40,42,49] have a
complete follow-up. p
p
In 20% [21,28,32,34,45,49], the statistical analysis (D11 for cohort studies, D10 for
case-control studies and D9 for quasi-experimental studies) was not appropriate, given
the absence of multivariate analysis on risk factors for readmission. For 10% [29,46,47] is
unclear if an appropriate statistical analysis was performed. 4. Discussion These findings are similar to previous
systematic reviews on this topic [8,20,53]. Int. J. Environ. Res. Public Health 2023, 20, 1674 9 of 16 Regarding the health factors, factors associated with frailty syndrome (malnutrition [21,
23,38,46], lower daily steps [22], cognitive impairment [28–30,38], multi-morbidity [11,12,
27,30,31,36,39,40,45,49]) and functional dependence [31] these are associated to an increased
risk of early readmission. y
These findings are partially in contrast with Wang–Hansen et al. [35], who suggested
that better cognitive performance is a risk factor for hospital readmission. According to
these authors, this could be due to the practice, diffused in the Norwegian healthcare system,
to mostly treat patients with cognitive decline in nursing homes without transferring them
to acute hospitals [35]. Finally, our review found that some underlying comorbidities (chronic obstructive pul-
monary disease [44,49], kidney failure [28,49], cerebrovascular diseases [28], diabetes [46,49],
hypertension [44], atrial fibrillation [46], cardiovascular diseases [10], liver diseases [10,46,49]
and depression [23]) are associated to increased risk of early readmission. Regarding healthcare system utilisation, our review found that patients with a recent
hospitalisation [10,12,45] or Emergency Department visits [30,43], frequent hospital visi-
tors [33,39] or patients with longer hospital length of stay [12,30,36,46,49] are at higher risk
of early readmission. These findings are similar to the ones obtained by previous systematic
reviews [8,20]. Silber et al. [32] found that hospitalisation in non-teaching hospitals is associated with
an increased risk of readmission. Finally, Maddox et al. [42] found that Medicaid patients
have a higher readmission risk and those patients have poorer socio-economical conditions. g
p
p
Regarding the clinical factors, some diagnoses made during the index admission (heart
failure, exacerbation of chronic pulmonary disease, hyponatremia, pressure ulcers, anaemia
and sepsis) are associated with early readmission. Furthermore, the prescription of 15 or more drugs during the hospital stay [12], non-
compliance to venous thromboembolism prophylaxis [34] and adverse clinical events
during hospitalisation [10] were associated with increased risk of early readmission. g
p
y
Finally, Van Seben et al. [38] focused on the period immediately following the discharge
showing that the development of cognitive impairment, fatigue or falls one month after
discharge is associated with an increased risk of early readmission. g
y
As pointed out above, the contrasting results could be explained by the differences
between the different countries in which the studies were carried out and the differences in
healthcare systems. 4. Discussion Therefore, we compared the results of the different macro-areas (Europe, USA, Asia
and Oceania). From this comparison, it can be inferred that some risk factors for early readmission
are common to the different macro-areas (in particular, a length of hospitalisation of at least
6 days [12,30,36,46,49] and the presence of multi-morbidities [11,12,27,30,31,36,39,40,45,49]),
but some differences can be highlighted for the other risk factors. g
g
In particular, our review highlights how social isolation and low socio-economic level
represent risk factors for readmission, mainly in studies carried out in the USA [40,42] and
Oceania [3,45]. It should be pointed out that in the studies carried out in Europe and Asia,
this risk factor was less frequently evaluated. Another difference between the various macro-areas concerns the diagnosis of demen-
tia, which represents a risk factor for readmission in Europe and Israel [28,30,38,46,47], but
not in Asia [11] and only for patients residing in nursing homes in the USA [40,44]. Furthermore, the presence of cancer is a risk factor for readmission in some studies
carried out in Europe and Asia [12,36,46], whereas this factor is not studied in the papers
carried out in the USA [22,29,32,34,40–42,44,49]. Finally, this review shows that malnutrition [21,23,38,46], male gender [3,30,46] and
age [3,28,33,47] are among the risk factors most emphasised among the included studies
but are not present in any of the studies carried out in the USA [22,29,32,34,40–42,44,49]. Int. J. Environ. Res. Public Health 2023, 20, 1674 10 of 16 These differences are probably due to cultural, environmental and health systems
differences amongst the different countries. The strength of this review is the strict methodology applied. Specifically, the use of a
standardised tool (JBI tool) to assess the bias of the included papers allow us to standardise
the evaluation and thus to draw objective conclusions even in the case of heterogeneous
papers. However, due to the high heterogeneity of the different studies, the results are
difficult to compare. Furthermore, all the included studies have biases according to the JBI
tool. It is noteworthy to underline that about half of the studies included evaluated early
readmission in a single ward or hospital; this probably leads to an underestimation of the
total readmission rate. This bias is not negligible as, according to the literature [54], the rate
of readmissions to a different ward or hospital varies between 20 and 40%. 4. Discussion p
Another limit of this review is the type of readmission included in different studies,
as about half of the studies [10,21,27,29,30,32–36,43,44,47,49] are not limited to unplanned
readmissions; this bias can overestimate the early readmission rate. Due to these limitations, the authors believe that there is still room for further exper-
imental studies with clear outcomes on early, unplanned hospital readmission in acute
geriatric patients. g
p
The quality assessment carried out during the review will be particularly important
for researchers wishing to carry out future work on the subject of readmissions, as it will
enable them to have a more rigorous methodology with a lower risk of bias. 5. Conclusions Our review gives a broad overview of risk factors for early hospital readmission in
geriatric patients. The early identification of the patients at higher risk of early readmission
may allow for planning targeted interventions in view of hospital discharge. Amongst the risk factors highlighted by different studies, those associated with frailty
syndrome play an important role, in particular malnutrition, reduced mobility, risk of falls,
fatigue and functional dependence. This result is of paramount importance as these condi-
tions are modifiable and must be taken into account in patients’ evaluation and treatment. Careful nutritional management and early mobilisation during hospitalisation are, there-
fore, low-cost measures that can lead to a reduction in the readmission rate [21–23,38,41]
with significant improvement in patients’ quality of life and reduction of health costs. Supplementary Materials: The following supporting information can be downloaded at: https:
//www.mdpi.com/article/10.3390/ijerph20031674/s1, Table S1: Studies included, design, variables
considered and results. Author Contributions: Conceptualisation, F.C. and P.D.; methodology, F.C. and P.D.; validation, P.D.;
investigation, F.C., I.S. and P.D.; data curation, F.C., I.S. and P.D.; writing—original draft preparation,
F.C. and I.S.; writing—review and editing, F.C., I.S. and P.D.; visualisation, F.C. and I.S.; project
administration, P.D.; supervision, P.D. All authors have read and agreed to the published version of
the manuscript. Funding: This research received no external funding. Institutional Review Board Statement: Not applicable. Institutional Review Board Statement: Not applicable. Institutional Review Board Statement: Not applicable. Informed Consent Statement: Not applicable. Informed Consent Statement: Not applicable. Data Availability Statement: All the available data are available to the public and presented in the
manuscript. Data Availability Statement: All the available data are available to the public and presented in the
manuscript. Conflicts of Interest: The authors declare no conflict of interest. Conflicts of Interest: The authors declare no conflict of interest. Int. J. Environ. Res. Public Health 2023, 20, 1674 11 of 16 Appendix A Appendix A
Table A1. PRISMA 2020 Checklist. Table A1. PRISMA 2020 Checklist. Section and
Topic
Item #
Checklist Item
Location Where
Item Is Reported
Title
Title
1
Identify the report as a systematic review. Page 1, lines 2–3
Abstract
Abstract
2
See the PRISMA 2020 for abstracts checklist. Introduction
Rationale
3
Describe the rationale for the review in the context of existing knowledge. Page 1, lines 36–54
Objectives
4
Provide an explicit statement of the objective(s) or question(s) the
review addresses. 5. Conclusions Page 1, lines
156–58
Methods
Eligibility
criteria
5
Specify the inclusion and exclusion criteria for the review and how studies
were grouped for the syntheses. Page 2, lines 61–74
and 76–81
Information
sources
6
Specify all databases, registers, websites, organisations, reference lists and
other sources searched or consulted to identify studies. Specify the date when
each source was last searched or consulted. Page 2, lines 87-88
and 102
Search strategy
7
Present the full search strategies for all databases, registers and websites,
including any filters and limits used. Page 2-3, lines
89–101
Selection
process
8
Specify the methods used to decide whether a study met the inclusion criteria
of the review, including how many reviewers screened each record and each
report retrieved, whether they worked independently, and, if applicable,
details of automation tools used in the process. Page 3, lines
104–109
Data collection
process
9
Specify the methods used to collect data from reports, including how many
reviewers collected data from each report, whether they worked
independently, any processes for obtaining or confirming data from study
investigators, and, if applicable, details of automation tools used in
the process. Page 3, lines
109–114
Data items
10a
List and define all outcomes for which data were sought. Specify whether all
results that were compatible with each outcome domain in each study were
sought (e.g., for all measures, time points, analyses), and if not, the methods
used to decide which results to collect. Page 2, line 74
10b
List and define all other variables for which data were (e.g., participant and
intervention characteristics, funding sources). Describe any assumptions made
about any missing or unclear information. Page 3, lines
113–115
Study risk of
bias assessment
11
Specify the methods used to assess the risk of bias in the included studies,
including details of the tool(s) used, how many reviewers assessed each study
and whether they worked independently, and if applicable, details of
automation tools used in the process. Page 4, lines
130–139
Effect measures
12
Specify for each outcome the effect measure(s) (e.g., risk ratio, mean difference)
used in the synthesis or presentation of results. NA
Synthesis
methods
13a
Describe the processes used to decide which studies were eligible for each
synthesis (e.g., tabulating the study intervention characteristics and comparing
against the planned groups for each synthesis (item #5)). 5. Conclusions NA
13b
Describe any methods required to prepare the data for presentation or
synthesis, such as handling missing summary statistics or data conversions. NA Int. J. Environ. Res. Public Health 2023, 20, 1674 12 of 16 Table A1. Cont. Section and
Topic
Item #
Checklist Item
Location Where
Item Is Reported
13c
Describe any methods used to tabulate or visually display the results of
individual studies and syntheses. NA
13d
Describe any methods used to synthesise results and provide a rationale for
the choice(s). If meta-analysis was performed, describe the model(s),
method(s) to identify the presence and extent of statistical heterogeneity, and
software package(s) used. NA
13e
Describe any methods used to explore possible causes of heterogeneity among
study results (e.g., subgroup analysis, meta-regression). NA
13f
Describe any sensitivity analyses conducted to assess the robustness of the
synthesised results. NA
Reporting bias
assessment
14
Describe any methods used to assess the risk of bias due to missing results in a
synthesis (arising from reporting biases). NA
Certainty
assessment
15
Describe any methods used to assess certainty (or confidence) in the body of
evidence for an outcome. NA
Results
Study selection
16a
Describe the results of the search and selection process, from the number of
records identified in the search to the number of studies included in the review,
ideally using a flow diagram. Figure 1
16b
Cite studies that might appear to meet the inclusion criteria but which were
excluded, and explain why they were excluded. NA
Study
characteristics
17
Cite each included study and present its characteristics. Table S1
Risk of bias in
studies
18
Present assessments of risk of bias for each included study. Figure 3
Results of
individual
studies
19
For all outcomes, present, for each study: (a) summary statistics for each group
(where appropriate) and (b) an effect estimate and its precision (e.g.,
confidence/credible interval), ideally using structured tables or plots. Table S1
Results of
syntheses
20a
For each synthesis, briefly summarise the characteristics and risk of bias
among contributing studies. NA
20b
Present results of all statistical syntheses conducted. If meta-analysis was
done, present for each the summary estimate and its precision (e.g.,
confidence/credible interval) and measures of statistical heterogeneity. If
comparing groups, describe the direction of the effect. NA
20c
Present results of all investigations of possible causes of heterogeneity among
study results. 5. Conclusions NA
20d
Present results of all sensitivity analyses conducted to assess the robustness of
the synthesised results. NA
Reporting
biases
21
Present assessments of risk of bias due to missing results (arising from
reporting biases) for each synthesis assessed. NA
Certainty of
evidence
22
Present assessments of certainty (or confidence) in the body of evidence for
each outcome assessed. NA
Discussion
Discussion
23a
Provide a general interpretation of the results in the context of other evidence. Page 9, lines
245–318
23b
Discuss any limitations of the evidence included in the review. Page 11, lines
322–331 Table A1. Cont. Int. J. Environ. Res. Public Health 2023, 20, 1674 13 of 16 Table A1. Cont. Section and
Topic
Item #
Checklist Item
Location Where
Item Is Reported
23c
Discuss any limitations of the review processes used. Page 11, lines
321–323
23d
Discuss the implications of the results for practice, policy, and future research. Page 11, lines
345–349
Other Information
Registration
and protocol
24a
Provide registration information for the review, including the registration
name and registration number, or state that the review was not registered. Page 2, lines 85–87
24b
Indicate where the review protocol can be accessed or state that a protocol was
not prepared. Page 2, lines 87
24c
Describe and explain any amendments to the information provided at
registration or in the protocol. NA
Support
25
Describe sources of financial or non-financial support for the review and the
role of the funders or sponsors in the review. Page 11, lines 351
Competing
interests
26
Declare any competing interests of review authors. Page 11, lines 356
Availability of
data, code and
other materials
27
Report which of the following are publicly available and where they can be
found: template data collection forms; data extracted from included studies;
data used for all analyses; analytic code; any other materials used in
the review. Page 4, lines
131–132
Table A2. PRISMA 2020 for Abstracts Checklist. Section and
Topic
Item #
Checklist Item
Reported
(Yes/No)
Title
Title
1
Identify the report as a systematic review. Yes
Background
Objectives
2
Provide an explicit statement of the main objective(s) or question(s) the
review addresses. Yes
Methods
Eligibility
criteria
3
Specify the inclusion and exclusion criteria for the review. No
Information
sources
4
Specify the information sources (e.g., databases, registers) used to identify studies and
the date when each was last searched. References 1. Population Division, Department of Economic and Social Affairs. World Population Prospects 2019 Highlights; United Nation: New
York, NY, USA, 2019. 2. Aiken, L.H.; Sermeus, W.; van den Heede, K.; Sloane, D.M.; Busse, R.; McKee, M.; Bruyneel, L.; Rafferty, A.M.; Griffiths, P.;
Moreno-Casbas, M.T.; et al. Patient Safety, Satisfaction, and Quality of Hospital Care: Cross Sectional Surveys of Nurses and
Patients in 12 Countries in Europe and the United States. BMJ 2012, 344, e1717. [CrossRef] p
J
,
,
[
]
3. Robinson, S.; Howie-Esquivel, J.; Vlahov, D. Readmission Risk Factors after Hos-pital Discharge among the Elderly. Popul. Health
Manag. 2012, 15, 338–351. [CrossRef] p
J
3. Robinson, S.; Howie-Esquivel, J.; Vlahov, D. Readmission Risk Factors after Hos-pital Discharge among the Elderly. Popul. Health
Manag. 2012, 15, 338–351. [CrossRef] g
4. Halfon, P.; Eggli, Y.; Prêtre-Rohrbach, I.; Meylan, D.; Marazzi, A.; Burnand, B. Validation of the Potentially Avoidable Hospital
Readmission Rate as a Routine Indicator of the Quality of Hospital Care. Med. Care 2006, 44, 972–981. [CrossRef] g
4. Halfon, P.; Eggli, Y.; Prêtre-Rohrbach, I.; Meylan, D.; Marazzi, A.; Burnand, B. Validation of the Potentially Avoidable Hospital
Readmission Rate as a Routine Indicator of the Quality of Hospital Care. Med. Care 2006, 44, 972–981. [CrossRef] 5. Coleman, E.A.; Min, S.J.; Chomiak, A.; Kramer, A.M. Posthospital Care Transi-tions: Patterns, Complications, and Risk Identifica-
tion. Health Serv. Res. 2004, 39, 1449. [CrossRef] 6. Lin, K.P.; Chen, P.C.; Huang, L.Y.; Mao, H.C.; Chan, D.C.D. Predicting Inpatient Readmission and O
Elderly: A Population-Based Cohort Study. Medicine 2016, 95, e3484. [CrossRef] .; Huang, L.Y.; Mao, H.C.; Chan, D.C.D. Predicting Inpatient Readmission and Outpatient Admission in
on-Based Cohort Study. Medicine 2016, 95, e3484. [CrossRef] 7. van Walraven, C.; Dhalla, I.A.; Bell, C.; Etchells, E.; Stiell, I.G.; Zarnke, K.; Austin, P.C.; Forster, A.J. Derivation and Validation of
an Index to Predict Early Death or Unplanned Readmission after Discharge from Hospital to the Community. Can. Med. Assoc. J. 2010, 182, 551–557. [CrossRef] ertová, R.; Lorenzo-Riera, A.; Vázquez-Díaz, J.R.; Du-que-González, B.; Sarría-Santamera, A. Risk Factors for
ons in Elderly Patients: A Systematic Review. QJM: Int. J. Med. 2011, 104, 639–651. [CrossRef] 8. García-Pérez, L.; Linertová, R.; Lorenzo-Riera, A.; Vázquez-Díaz, J.R.; Du-que-González, B.; Sarría-Santa
Hospital Readmissions in Elderly Patients: A Systematic Review. QJM: Int. J. Med. 2011, 104, 639–651. 9. Tsai, T.C.; Joynt, K.E.; Orav, E.J.; Gawande, A.A.; Jha, A.K. Variation in Surgical-Readmission Rates and Quality of Hospital Care. N. References Engl. J. Med. 2013, 369, 1134–1142. [CrossRef] g
J
10. Franchi, C.; Nobili, A.; Mari, D.; Tettamanti, M.; Djade, C.D.; Pasina, L.; Salerno, F.; Corrao, S.; Marengoni, A.; Iorio, A.; et al. Risk
Factors for Hospital Readmis-sion of Elderly Patients. Eur. J. Intern. Med. 2013, 24, 45–51. [CrossRef] g
J
10. Franchi, C.; Nobili, A.; Mari, D.; Tettamanti, M.; Djade, C.D.; Pasina, L.; Salerno, F.; Corrao, S.; Marengoni, A.; Iorio, A.; et al. Risk g
anchi, C.; Nobili, A.; Mari, D.; Tettamanti, M.; Djade, C.D.; Pasina, L.; Salerno, F.; Corrao, S.; Marengoni, A.; I ,
;
,
;
,
;
,
;
j
,
;
,
;
,
;
,
;
Factors for Hospital Readmis-sion of Elderly Patients. Eur. J. Intern. Med. 2013, 24, 45–51. [CrossRe ctors for Hospital Readmis-sion of Elderly Patients. Eur. J. Intern. Med. 2013, 24, 45–51. [CrossRef] n, K.; Chang, A.M.; Courtney, M.D.; Edwards, H.E.; Parker, A.W.; Ham-ilton, K.; Pham, T.D.X.; O’Brien, J. T 11. Finlayson, K.; Chang, A.M.; Courtney, M.D.; Edwards, H.E.; Parker, A.W.; Ham-ilton, K.; Pham, T.D.X.; O’Brien, J. Transitional
Care Interventions Reduce Un-planned Hospital Readmissions in High-Risk Older Adults. BMC Health Serv. Res. 2018, 18, 956. [CrossRef] 12. Uhlmann, M.; Lécureux, E.; Griesser, A.C.; Duong, H.D.; Lamy, O. Prediction of Potentially Avoidable Readmission Risk in a
Division of General Internal Medi-cine. Swiss Med. Wkly. 2017, 147, w14470. [CrossRef] [PubMed] 12. Uhlmann, M.; Lécureux, E.; Griesser, A.C.; Duong, H.D.; Lamy, O. Prediction of Potentially Avoi
Division of General Internal Medi-cine. Swiss Med. Wkly. 2017, 147, w14470. [CrossRef] [PubMed] Uhlmann, M.; Lécureux, E.; Griesser, A.C.; Duong, H.D.; Lamy, O. Prediction of Potentially Avoidable R
Division of General Internal Medi-cine. Swiss Med. Wkly. 2017, 147, w14470. [CrossRef] [PubMed] y
[
] [
]
13. Wasserfallen, J.B.; Zufferey, J. Financial Impact of Introducing the Swiss-DRG Reimbursement System on Potentially Avoidable
Readmissions at a University Hospital. Swiss Med. Wkly. 2015, 145, w14097. [CrossRef] 13. Wasserfallen, J.B.; Zufferey, J. Financial Impact of Introducing the Swiss-DRG Reimbursement
Readmissions at a University Hospital. Swiss Med. Wkly. 2015, 145, w14097. [CrossRef] 14. Møller Dahl, C.; Planck Kongstad, L. The Costs of Acute Readmissions to a Dif-ferent Hospital—Does the Effect Vary across
Provider Types? Soc. Sci. Med. 2017, 183, 116–125. [CrossRef] [PubMed] 15. Dobrzanska, L.; Newell, R. Readmissions: A Primary Care Examination of Rea-sons for Readmission of Older People and Possible
Readmission Risk Factors. J. Clin. Nurs. 2006, 15, 599–606. [CrossRef] 16. 5. Conclusions Yes
Risk of bias
5
Specify the methods used to assess the risk of bias in the included studies. Yes
Synthesis of
results
6
Specify the methods used to present and synthesise results. No
Results
Included
studies
7
Give the total number of included studies and participants and summarise relevant
characteristics of studies. Yes
Synthesis of
results
8
Present results for main outcomes, preferably indicating the number of included
studies and participants for each. If meta-analysis was done, report the summary
estimate and confidence/credible interval. If comparing groups, indicate the direction
of the effect (i.e., which group is favoured). Yes Table A1. Cont. Table A2. PRISMA 2020 for Abstracts Checklist. Section and
Topic
Item #
Checklist Item
Reported
(Yes/No)
Title
Title
1
Identify the report as a systematic review. Yes
Background
Objectives
2
Provide an explicit statement of the main objective(s) or question(s) the
review addresses. Yes
Methods
Eligibility
criteria
3
Specify the inclusion and exclusion criteria for the review. No
Information
sources
4
Specify the information sources (e.g., databases, registers) used to identify studies and
the date when each was last searched. Yes
Risk of bias
5
Specify the methods used to assess the risk of bias in the included studies. Yes
Synthesis of
results
6
Specify the methods used to present and synthesise results. No
Results
Included
studies
7
Give the total number of included studies and participants and summarise relevant
characteristics of studies. Yes
Synthesis of
results
8
Present results for main outcomes, preferably indicating the number of included
studies and participants for each. If meta-analysis was done, report the summary
estimate and confidence/credible interval. If comparing groups, indicate the direction
of the effect (i.e., which group is favoured). Yes Table A2. PRISMA 2020 for Abstracts Checklist. Int. J. Environ. Res. Public Health 2023, 20, 1674 14 of 16 Table A2. Cont. Section and
Topic
Item #
Checklist Item
Reported
(Yes/No)
Discussion
Limitations of
evidence
9
Provide a brief summary of the limitations of the evidence included in the review (e.g.,
study risk of bias, inconsistency and imprecision). No
Interpretation
10
Provide a general interpretation of the results and important implications. Yes
Other
Funding
11
Specify the primary source of funding for the review. No
Registration
12
Provide the register name and registration number. No Table A2. Cont. References References [CrossRef] y
elin, M.; Baechli, C.; Wagner, U.; Schuetz, P.; Mueller, B.; Kutz, A. Association of In-Hospital Multimorbidity
t
i
S
i
M di
l I
ti
t
S i
M d Wkl
2021 151
20405 [C
R f] 27. Mueller, M.; Huembelin, M.; Baechli, C.; Wagner, U.; Schuetz, P.; Mueller, B.; Kutz, A. Association of In-
with Healthcare Outcomes in Swiss Medical Inpatients. Swiss Med. Wkly. 2021, 151, w20405. [CrossRef er, M.; Huembelin, M.; Baechli, C.; Wagner, U.; Schuetz, P.; Mueller, B.; Kutz, A. Association of In-Hospital M p
y
28. Vallini, V.; Venturini, L.; Andreini, R.; Sibilia, G.; Rinaldi, E.; Bassu, R.; Mura, M.; Meini, S. Skin Ulcers Are Predictors of 30-Day 28. Vallini, V.; Venturini, L.; Andreini, R.; Sibilia, G.; Rinaldi, E.; Bassu, R.; Mura, M.; Meini, S. Skin Ulcers Are Predictors of 30-Day
Hospital Readmission, but Are Under-Represented in the DRG Coding: A Retrospective Case-Control Study From an Italian
Internal Medicine Unit. Int. J. Low. Extrem. Wounds 2021, 15347346211009427. [CrossRef] y
Hospital Readmission, but Are Under-Represented in the DRG Coding: A Retrospective Case-Control Study From an Italian
Internal Medicine Unit. Int. J. Low. Extrem. Wounds 2021, 15347346211009427. [CrossRef] 29. Anderson, R.E.; Birge, S.J. Cognitive Dysfunction, Medication Management, and the Risk of Readm
J. Am. Geriatr. Soc. 2016, 64, 1464–1468. [CrossRef] e, S.J. Cognitive Dysfunction, Medication Management, and the Risk of Readmission in Hospital Inpatients
016, 64, 1464–1468. [CrossRef] 30. Lehn, S.F.; Zwisler, A.D.; Pedersen, S.G.H.; Gjørup, T.; Thygesen, L.C. Develop-ment of a Prediction Model for 30-Day Acute
Readmissions among Older Medical Patients: The Influence of Social Factors along with Other Patient-Specific and Organisational
Factors. BMJ Open Qual. 2019, 8, e000544. [CrossRef] Factors. BMJ Open Qual. 2019, 8, e000544. [CrossRef] J
p
Q
31. Calsolaro, V.; Antognoli, R.; Pasqualetti, G.; Okoye, C.; Aquilini, F.; Cristofano, M.; Briani, S.; Monzani, F. 30-Day Potentially
Preventable Hospital Readmissions in Older Patients: Clinical Phenotype and Health Care Related Risk Factors. Clin. Interv. Aging 2019, 14, 1851–1858. [CrossRef] g
g
32. Silber, J.H.; Rosenbaum, P.R.; Niknam, B.A.; Ross, R.N.; Reiter, J.G.; Hill, A.S.; Hochman, L.L.; Brown, S.E.; Arriaga, A.F.; Fleisher,
L.A. Comparing Outcomes and Costs of Medical Patients Treated at Major Teaching and Non-Teaching Hospitals: A National
Matched Analysis. J. Gen. Intern. Med. 2020, 35, 743–752. [CrossRef] y
33. Froom, P.; Shimoni, Z.; Benbassat, J. A Simple Index Predicting 30-Day Readmis-sions in Acutely Hospitalized Patients. J. Eval. Clin. Pract. 2021, 27, 942–948. References [CrossRef] [PubMed] 34. Goldin, M.; Cohen, J.; Makhnevich, A.; Mulvany, C.; Akerman, M.; Sinvani, L. Patterns and Outcomes of Prescribing Venous
Thromboembolism Prophylaxis in Hospitalized Older Adults: A Retrospective Cohort Study. J. Thromb. Thrombolysis 2018, 45,
369–376. [CrossRef] 35. Wang-Hansen, M.S.; Kersten, H.; Benth, J.Š.; Wyller, T.B. The Association between Geriatric Treatment
Risk among Medical Inpatients Aged ≥75 Years with Multimorbidity. PLoS ONE 2022, 17, e0262340. [C 35. Wang-Hansen, M.S.; Kersten, H.; Benth, J.Š.; Wyller, T.B. The Association between Geriatric Treatment and 30-Day Readmission
Risk among Medical Inpatients Aged ≥75 Years with Multimorbidity. PLoS ONE 2022, 17, e0262340. [CrossRef] [PubMed]
36
Shu C C ; Lin YF ; Hsu N C ; Ko W J Risk Factors for 30 Day Readmission in General Medical Patients Admitted from the Shu, C.C.; Lin, Y.F.; Hsu, N.C.; Ko, W.J. Risk Factors for 30-Day Readmission in General Medical Patien
Emergency Department: A Single Centre Study Intern Med J 2012 42 677 682 [CrossRef] [PubMed] 36. Shu, C.C.; Lin, Y.F.; Hsu, N.C.; Ko, W.J. Risk Factors for 30-Day Readmission in General Medical Pat
Emergency Department: A Single Centre Study. Intern. Med. J. 2012, 42, 677–682. [CrossRef] [PubMed 36. Shu, C.C.; Lin, Y.F.; Hsu, N.C.; Ko, W.J. Risk Factors for 30-Day Readmission in General Medical Patients Admitted from the
Emergency Department: A Single Centre Study. Intern. Med. J. 2012, 42, 677–682. [CrossRef] [PubMed]
37
JBI C i i
l A
i
l T
l
A
il bl
li
h
//jbi
l b l/
i i
l
i
l
l (
d
6 N
b
2022) 36
S
, C C ;
,
;
s , N C ;
o,
J
s
c o s o 30
y
e
ss o
Ge e
e
c
e
s
e
o
e
Emergency Department: A Single Centre Study. Intern. Med. J. 2012, 42, 677–682. [CrossRef] [PubMed]
37
JBI Critical Appraisal Tools A ailable online https //jbi global/critical appraisal tools (accessed on 6 No ember 2022) 37. JBI. Critical Appraisal Tools. Available online: h 38. van Seben, R.; Covinsky, K.E.; Reichardt, L.A.; Aarden, J.J.; van der Schaaf, M.; van der Esch, M.; Engelbert, R.H.H.; Twisk, J.W.R.;
Bosch, J.A.; Buurman, B.M.; et al. Insight Into the Posthospital Syndrome: A 3-Month Longitudinal Follow up on Geriatric
Syndromes and Their Association With Functional Decline, Read-mission, and Mortality. J. Gerontol. Ser. A 2020, 75, 1403–1410. [CrossRef] [PubMed] 39. 43.
Cotter, P.E.; Bhalla, V.K.; Wallis, S.J.; Biram, R.W.S. Predicting Readmissions: Poor Performance of the LACE Index in an Older UK
Population. Age Ageing 2012, 41, 784–789. [CrossRef] [PubMed] Discharge as a Marker for 30-Day Readmission. J. Gerontol. A Biol. Sci. Med. Sci. 2013, 68, 805–810. [CrossRef] [PubMed]
42.
Joynt Maddox, K.E.; Reidhead, M.; Hu, J.; Kind, A.J.H.; Zaslavsky, A.M.; Na-gasako, E.M.; Nerenz, D.R. Adjusting for Social Risk
Factors Impacts Performance and Penalties in the Hospital Readmissions Reduction Program. Health Serv. Res. 2019, 54, 327–336.
[CrossRef] References Mulder, B.J.; Tzeng, H.M.; Vecchioni, N.D. Preventing Avoidable Rehospitaliza-tions by Understandi
“Frequent Fliers”. J. Nurs. Care Qual. 2012, 27, 77–82. [CrossRef] [PubMed] q
17. Hansen, L.O.; Greenwald, J.L.; Budnitz, T.; Howell, E.; Halasyamani, L.; Maynard, G.; Vidyarthi, A.; Coleman, E.A.; Williams,
M.V. Project BOOST: Effectiveness of a Multihospital Effort to Reduce Rehospitalization. J. Hosp. Med. 2013, 8, 421–427. [CrossRef] 18. Koehler, B.E.; Richter, K.M.; Youngblood, L.; Cohen, B.A.; Prengler, I.D.; Cheng, D.; Masica, A.L. Reduction of 30-Day Postdis-
charge Hospital Readmission or Emergency Department (ED) Visit Rates in High-Risk Elderly Medical Patients through Delivery
of a Targeted Care Bundle. J. Hosp. Med. 2009, 4, 211–218. [CrossRef] g
p
19. Sharma, G.; Kuo, Y.F.; Freeman, J.L.; Zhang, D.D.; Goodwin, J.S. Outpatient Follow-Up Visit and 30-Day Emergency Department
Visit and Readmission in Patients Hospitalized for Chronic Obstructive Pulmonary Disease. Arch. Intern. Med. 2010, 170,
1664–1670. [CrossRef] 15 of 16 15 of 16 Int. J. Environ. Res. Public Health 2023, 20, 1674 20. Pedersen, M.K.; Meyer, G.; Uhrenfeldt, L. Risk Factors for Acute Care Hospital Readmission in Older Persons in Western
Countries: A Systematic Review. JBI Evid. Synth. 2017, 15, 454–485. [CrossRef] y
J
y
21. Oud, F.M.M.; Wolzak, N.K.; Spies, P.E.; van der Zaag-Loonen, H.J.; van Munster, B.C. The Predictive Value of the “VMS Frail
Older Patients” for Adverse Out-comes in Geriatric Inpatients. Arch. Gerontol. Geriatr. 2021, 97, 104514. [CrossRef] p
22. Fisher, S.R.; Graham, J.E.; Ottenbacher, K.J.; Deer, R.; Ostir, G.V. Inpatient Walking Activity to Predict Readmission in Older
Adults. Arch. Phys. Med. Rehabil. 2016, 97, S226–S231. [CrossRef] [PubMed] y
23. Fitriana, I.; Setiati, S.; Rizal, E.W.; Istanti, R.; Rinaldi, I.; Kojima, T.; Akishita, M.; Azwar, M.K. Malnutrition and Depression as
Predictors for 30-Day Unplanned Readmission in Older Patient: A Prospective Cohort Study to Develop 7-Point Scoring System. BMC Geriatr. 2021, 21, 256. [CrossRef] [PubMed] ,
,
[
] [
]
24. DeLia, D.; Tong, J.; Gaboda, D.; Casalino, L.P. Post-Discharge Follow-Up Visits and Hospital Utilization by Medicare Patients,
2007–2010. Medicare Medicaid Res. Rev. 2014, 4, E1–E19. [CrossRef] 25. Hu, J.; Kind, A.J.H.; Nerenz, D. Area Deprivation Index Predicts Readmission Risk at an Urban Teaching Hospital. Am. J. Med. Qual. 2018, 33, 493–501. [CrossRef] [PubMed] 26. Graham, K.L.; Wilker, E.H.; Howell, M.D.; Davis, R.B.; Marcantonio, E.R. Differences between Early and Late Readmissions
among Patients: A Cohort Study. Ann. Intern. Med. 2015, 162, 741–749. References Lin, K.P.; Chen, J.H.; Lu, F.P.; Wen, C.J.; Chan, D.C. The Impact of Early Comprehensive Geriatric Screening on the Readmission
Rate in an Acute Geriatric Ward: A Quasi-Experimental Study. BMC Geriatr. 2019, 19, 285. [CrossRef] 40. Chan, B.; Goldman, L.E.; Sarkar, U.; Guzman, D.; Critchfield, J.; Saha, S.; Kushel, M. High Perceived Social Support and Hospital
Readmissions in an Older Multi-Ethnic, Limited English Proficiency, Safety-Net Population. BMC Health Serv. Res. 2019, 19, 334. [CrossRef] 41. Fisher, S.R.; Kuo, Y.F.; Sharma, G.; Raji, M.A.; Kumar, A.; Goodwin, J.S.; Ostir, G.V.; Ottenbacher, K.J. Mobility after Hospital
Discharge as a Marker for 30-Day Readmission. J. Gerontol. A Biol. Sci. Med. Sci. 2013, 68, 805–810. [CrossRef] [PubMed]
42. Joynt Maddox, K.E.; Reidhead, M.; Hu, J.; Kind, A.J.H.; Zaslavsky, A.M.; Na-gasako, E.M.; Nerenz, D.R. Adjusting for Social Risk
Factors Impacts Performance and Penalties in the Hospital Readmissions Reduction Program. Health Serv. Res. 2019, 54, 327–336. [C
R f] 41. Fisher, S.R.; Kuo, Y.F.; Sharma, G.; Raji, M.A.; Kumar, A.; Goodwin, J.S.; Ostir, G.V.; Ottenbacher, K.J. Mobility after Hospital
Discharge as a Marker for 30-Day Readmission. J. Gerontol. A Biol. Sci. Med. Sci. 2013, 68, 805–810. [CrossRef] [PubMed]
42. Joynt Maddox, K.E.; Reidhead, M.; Hu, J.; Kind, A.J.H.; Zaslavsky, A.M.; Na-gasako, E.M.; Nerenz, D.R. Adjusting for Social Risk 41. Fisher, S.R.; Kuo, Y.F.; Sharma, G.; Raji, M.A.; Kumar, A.; Goodwin, J.S.; Ostir, G.V.; Ottenbacher, K.J. Mobility after Hospital
Discharge as a Marker for 30-Day Readmission. J. Gerontol. A Biol. Sci. Med. Sci. 2013, 68, 805–810. [CrossRef] [PubMed] g
y
42. Joynt Maddox, K.E.; Reidhead, M.; Hu, J.; Kind, A.J.H.; Zaslavsky, A.M.; Na-gasako, E.M.; Nerenz, D.R. Adjusting for Social Risk
Factors Impacts Performance and Penalties in the Hospital Readmissions Reduction Program. Health Serv. Res. 2019, 54, 327–336. [CrossRef] 43. Cotter, P.E.; Bhalla, V.K.; Wallis, S.J.; Biram, R.W.S. Predicting Readmissions: Poor Performance of the LACE Index in an Older UK
Population. Age Ageing 2012, 41, 784–789. [CrossRef] [PubMed] Int. J. Environ. Res. Public Health 2023, 20, 1674 16 of 16 44. Bogaisky, M.; Dezieck, L. Early Hospital Readmission of Nursing Home Residents and Community-Dwelling Elderly Adults
Discharged from the Geriatrics Service of an Urban Teaching Hospital: Patterns and Risk Factors. J. Am. Geriatr. Soc. 2015, 63,
548–552. [CrossRef] [PubMed] 45. Scott, I.A.; Shohag, H.; Ahmed, M. Quality of Care Factors Associated with Unplanned Readmissions o
A Case-Control Study. Intern. Med. J. 2014, 44, 161–170. [CrossRef] [PubMed] y
46. References Zapatero, A.; Barba, R.; Marco, J.; Hinojosa, J.; Plaza, S.; Losa, J.E.; Canora, J. Predictive Model of Readmission to Internal
Medicine Wards. Eur. J. Intern. Med. 2012, 23, 451–456. [CrossRef] [PubMed] 47. Ben-Chetrit, E.; Chen-Shuali, C.; Zimran, E.; Munter, G.; Nesher, G. A Simplified Scoring Tool for Prediction of Readmission in
El-derly Patients Hospitalized in Internal Medicine Departments. IMAJ Isr. Med. Assoc. J. 2012, 14, 752–756. 47. Ben-Chetrit, E.; Chen-Shuali, C.; Zimran, E.; Munter, G.; Nesher, G. A Simplified Scoring Tool for Prediction of Readmission in
El d
l
P ti
t H
it li
d i
I t
l M di i
D
t
t
IMAJ I
M d A
J 2012 14 752 756 El derly Patients Hospitalized in Internal Medicine Departments. IMAJ Isr. Med. Assoc. J. 2012, 14, 752 756. 48. Higi, L.; Lisibach, A.; Beeler, P.E.; Lutters, M.; Blanc, A.L.; Burden, A.M.; Stämpfli, D. External Validation of the PAR-Risk Score to
Assess Potentially Avoidable Hospital Readmission Risk in Internal Medicine Patients. PLoS ONE 2021, 16, e0259864. [CrossRef]
[P bM d] 48. Higi, L.; Lisibach, A.; Beeler, P.E.; Lutters, M.; Blanc, A.L.; Burden, A.M.; Stämpfli, D. External Validation of the PAR-Risk Score to
Assess Potentially Avoidable Hospital Readmission Risk in Internal Medicine Patients. PLoS ONE 2021, 16, e0259864. [CrossRef]
[PubMed] s Potentially Avoidable Hospital Readmission Risk in Internal Medicine Patients. PLoS ONE 2021, 16, e02598
Med] 49. Kim, L.D.; Kou, L.; Messinger-Rapport, B.J.; Rothberg, M.B. Validation of the HOSPITAL Score for 30-Day All-Cause Readmissions
of Patients Discharged to Skilled Nursing Facilities. J. Am. Med. Dir. Assoc. 2016, 17, 863.e15–863.e18. [CrossRef] g
g
50. Futoma, J.; Morris, J.; Lucas, J. A Comparison of Models for Predicting Early Hospital Readmissions. J. Biomed. Inform. 2015, 56,
229–238. [CrossRef] 51. HealthCare.Gov. Hospital Readmissions—Glossary. Available online: https://www.healthcare.gov/glossary/hospital-readmissi
ons/ (accessed on 29 November 2022). 52. McGuinness, L.A.; Higgins, J.P.T. Risk-of-Bias VISualization (Robvis): An R Package and Shiny Web App for Visualizing
Risk-of-Bias Assessments. Res. Synth. Methods 2021, 12, 55–61. [CrossRef] y
53. Campbell, S.E.; Seymour, D.G.; Primrose, W.R. A Systematic Literature Review of Factors Affecting O
Patients Admitted to Hospital. Age Ageing 2004, 33, 110–115. [CrossRef] 54. Jencks, S.F.; Williams, M.V.; Coleman, E.A. Rehospitalizations among Patients in the Medicare Fee-for-Service Program. N. Engl. J. Med. 2009, 360, 311–312. [CrossRef] [PubMed] 54. Jencks, S.F.; Williams, M.V.; Coleman, E.A. Rehospitalizations among Patients in the Medicare Fee-for-Service Program. N. Engl. J. Med. 2009, 360, 311–312. References [CrossRef] [PubMed] Disclaimer/Publisher’s Note: The statements, opinions and data contained in all publications are solely those of the individual
author(s) and contributor(s) and not of MDPI and/or the editor(s). MDPI and/or the editor(s) disclaim responsibility for any injury to
people or property resulting from any ideas, methods, instructions or products referred to in the content.
|
https://openalex.org/W2148414121
|
https://www.icesi.edu.co/revistas/index.php/estudios_gerenciales/article/download/1760/PDF
|
es
|
Cuantificación de la importancia del Fondo Nacional de GarantÃas en la movilización de créditos a las pymes
|
Estudios Gerenciales
| 2,014
|
cc-by
| 6,346
|
Estudios Gerenciales 30 (2014) 18–24
ESTUDIOS GERENCIALES
www.elsevier.es/estudios gerenciales
Artículo
Cuantificación de la importancia del Fondo Nacional de Garantías
en la movilización de créditos a las pymes夽
José Augusto Castillo Bonilla a,∗ y Luis Eduardo Girón b
a
b
Docente investigador, grupo EIDOS, Departamento de Contabilidad y Finanzas, Pontificia Universidad Javeriana, Cali, Colombia
Docente investigador, grupo GIDR, Departamento de Economía, Pontificia Universidad Javeriana, Cali, Colombia
información del artículo
r e s u m e n
Historia del artículo:
Recibido el 12 de julio de 2012
Aceptado el 8 de enero de 2014
On-line el 25 de marzo de 2014
El presente trabajo pretender establecer y medir el impacto que el aval proporcionado por el Fondo
Nacional de Garantías tiene en el flujo de créditos hacia las pymes. Con base en la información proporcionada por Asobancaria, la Superintendencia Financiera y el Fondo Nacional de Garantías para el período
comprendido entre el primer trimestre de 2003 y el tercer trimestre de 2010, se estimó un modelo
econométrico utilizando mínimos cuadrados dinámicos. Los resultados empíricos muestran que el aval
otorgado por el Fondo Nacional de Garantías influye en el volumen de créditos movilizados hacia las
pequeñas y medianas empresas. Sin embargo, su influencia económica es poco relevante.
© 2012 Universidad ICESI. Publicado por Elsevier España, S.L. Todos los derechos reservados.
Códigos JEL:
G14
Palabras clave:
Asimetría de información
Racionamiento de crédito
Pymes
Fondo Nacional de Garantías
Mínimos cuadrados ordinarios dinámicos
Measuring the importance of the National Guarantees Fund in the mobilization
of credit to SMEs
a b s t r a c t
JEL classification:
G14
Keywords:
Information asymmetric
Credit rationing
SMEs
National Guarantees Fund
Dynamic ordinary least square
This paper claims to establish and measure the impact that the guarantee provided by the National
Guarantees Fund (Fondo Nacional de Garantías) has on the flow of credit to Small and Medium Enterprise
(SMEs). Based on information provided by Asobancaria, Superintendencia Financiera and the National
Guarantees Fund for the period 2003: I to 2010: III, an econometric model was estimated using a dynamic
ordinary least square estimation. The empirical results show that the guarantee given by the National
Guarantees Fund influences in the volume of loans to the SMEs. However, its economic influence is not
significant.
© 2012 Universidad ICESI. Published by Elsevier España, S.L. All rights reserved.
夽 Artículo derivado del proyecto de investigación «Sociedades de Garantía (SGR): un modelo para complementar el aval del crédito a las Pymes», llevado a cabo con el
apoyo de oficina de Investigación e Innovación de la Pontificia Universidad Javeriana Cali. Del presente trabajo existe una versión preliminar on line bajo el nombre «Fondo
Nacional de Garantías un determinante del crédito a las pymes: enfoque desde la oferta.
∗ Autor para correspondencia: Pontificia Universidad Javeriana - Cali, Departamento de Contabilidad y Finanzas, Calle 18 No. 118-250, Cali, Colombia.
Correo electrónico: jacastillo@javerianacali.edu.co (J.A. Castillo Bonilla).
0123-5923/$ – see front matter © 2012 Universidad ICESI. Publicado por Elsevier España, S.L. Todos los derechos reservados.
http://dx.doi.org/10.1016/j.estger.2014.02.011
J.A. Castillo Bonilla, L.E. Girón / Estudios Gerenciales 30 (2014) 18–24
19
Quantificação da importância do Fundo Nacional de Garantias na mobilização
de créditos para as PMEs
r e s u m o
Classificação JEL:
G14
Palavras-chave:
Assimetria de informação
Racionamento de crédito
PMEs
Fundo Nacional de Garantias
Mínimos quadrados ordinários dinâmicos
O presente trabalho pretende estabelecer e medir o impacto que o aval proporcionado pelo Fundo Nacional de Garantias tem no fluxo de créditos face às PMEs. Com base na informação proporcionada pela
Asobancaria, pela Superintendência Financeira e pelo Fundo Nacional de garantias para o período compreendido entre o primeiro trimestre de 2003 e o terceiro trimestre de 2010, estimou-se um modelo
econométrico utilizando mínimos quadrados dinâmicos. Os resultados empíricos mostram que o aval
outorgado pelo Fundo Nacional de Garantias influência o volume de créditos mobilizados para as pequenas e médias empresas. Porém, a sua influência económica é pouco relevante.
© 2012 Universidad ICESI. Publicado por Elsevier España, S.L. Todos os direitos reservados.
1. Introducción
2. Marco conceptual
El acceso a la financiación por parte de las pequeñas y medianas
empresas (pymes), dadas sus características, presenta dificultades
y difiere de las prácticas que utilizan las grandes compañías para su
apalancamiento financiero, en donde estas últimas obtienen mejores condiciones en sus créditos cuando se cuenta con una banca
robusta (Berger, Goldberg y White, 2001; Takats, 2004).
Al estudiar la financiación de las pymes en Colombia,
Stephanous y Rodríguez (2008) encuentran que ellas enfrentan
una serie de inconvenientes a la hora de financiarse, y a pesar de
que ha existido mejoría, todavía subsisten restricciones de naturaleza institucional y de política. Entre estas se pueden encontrar
las características inherentes de las pymes, como: informalidad,
escasa disponibilidad de estados financieros, habilidades gerenciales, estructuras de propiedad familiares, así como características
regulatorias, como: topes a las tasas de interés, y los entornos legales y contractuales con relación al crédito garantizado.
Como consecuencia de dichas características de las pymes se
generan problemas de asimetría de información cuando interactúan en el mercado financiero, provocando problemas de selección
adversa y/o riesgo moral1 .
Esta situación conlleva a restricciones en la financiación, específicamente racionamiento de crédito (Stiglitz y Weiss, 1981),
desembocando en exigencias de garantías para mitigar los efectos
de la asimetría (Tirole, 2006), que suelen estar representadas en
activos, los cuales son escasos en las pequeñas y medianas empresas.
Con el ánimo de darle solución al obstáculo de la financiación en
las pymes, y dado que los flujos de recursos se constituyen en un
factor determinante en el éxito de este grupo de empresas (Franco y
Urbano, 2010), el gobierno nacional crea en 1982 el Fondo Nacional
de Garantías (FNG), con aportes del Instituto de Fomento Industrial (IFI), la Corporación Financiera de Desarrollo y las diferentes
seccionales de la Asociación Colombiana de Medianas y Pequeñas
Industrias (Acopi), cuya misión principal es facilitar el acceso al
crédito de este grupo de empresas mediante el otorgamiento de
garantías.
Con base en lo anterior, el objetivo principal de este trabajo es
establecer y medir el impacto que el aval proporcionado por el FNG
tiene en la movilización de créditos hacia las pymes.
En el documento, además de esta sección introductoria, se presentan 4 secciones adicionales: la segunda corresponde al marco
conceptual; la tercera, a la metodología; la cuarta comprende los
resultados, y la quinta, las conclusiones.
Las pequeñas empresas se caracterizan por poseer unos niveles
de activos superiores a 501 salarios mínimo legal vigente (SMLV)
hasta 5.000 SMLV, mientras que para las medianas los niveles de
activos van de 5.001 hasta 30.000 SMLV (Ley 905 de 2004). Por otra
parte, las pymes generan el 30,5% del empleo nacional y representan 3,5% de los establecimientos productivos (DNP, 2007). Estos
aportes a la economía del país, tanto en términos del empleo como
en la contribución al producto interno bruto, justifican la importancia de propender por un mecanismo que incentive el desarrollo
y la permanencia de este tipo de empresas.
No obstante, las pymes presentan una serie de características
que limitan su desarrollo, entre las que se destacan su baja capacidad de innovación, el bajo uso de tecnologías de información y
comunicaciones, el limitado acceso al financiamiento adecuado, los
problemas para la comercialización de sus productos y la obtención de insumos, y la limitada participación en el mercado de la
contratación pública (DNP, 2007).
Con relación al problema del limitado acceso al financiamiento
de las pymes, este se puede explicar por las siguientes razones: la
estrategia selectiva que define para los clientes los establecimientos de crédito, en donde el nivel de servicios que reciben dichos
clientes depende de la retribución que generen al intermediario
(Prior, 2010); alta percepción del riesgo por parte del intermediario financiero, asimetría de información y bajo colateral (Green,
2003), y además tasas de créditos más elevadas (Arbeláez, Zuleta
y Velasco, 2003). La presencia de asimetría de información en el
mercado crediticio determina la existencia del racionamiento del
crédito, lo que implica que los precios (tasas de interés) no pueden
equilibrar la demanda y la oferta de los fondos prestables. Debido a
esto, la tasa de interés que cobran los bancos puede afectar el grado
de riesgo de la cartera de los préstamos, ya sea por la forma como
puede condicionar la clasificación de los prestatarios potenciales
—es decir, el efecto de selección adversa— o afectando las acciones
de los prestatarios —es decir, el efecto de incentivo (Stiglitz y Weiss,
1981).
Por otro lado, los sistemas de aval proporcionados tanto por el
FNG como los de otros países se han percibido como la solución para
el problema de acceso al crédito de las pymes, obteniendo efectos
diversos. Por tal razón, la evaluación de tales efectos ha merecido
análisis tanto a nivel internacional como nacional, empleando para
ello diferentes métodos y encontrando diversidad de resultados.
Entre estos estudios se encuentra el de Meyer y Nagarajan
(1996), que plantea que una evaluación robusta de los sistemas
de garantía requeriría analizar el impacto de los mismos en los
3 agentes implicados: el garante (sistema de garantía), el prestamista y el prestatario. En dicha evaluación se deben considerar las
bondades derivadas del crédito (adicionalidad); por ejemplo, en el
caso de los prestatarios, si se genera mayor nivel de producción,
1
Selección adversa se presenta cuando el intermediario financiero no puede diferenciar un prestatario bueno de uno malo, y el riesgo moral tiene que ver con un uso
diferente del inicialmente pactado que hace el prestatario del dinero.
20
J.A. Castillo Bonilla, L.E. Girón / Estudios Gerenciales 30 (2014) 18–24
mayores ingresos, mejor nivel de vida, etc., comparado con aquellos prestatarios que han podido obtener el crédito sin la ayuda del
sistema de garantía.
Además, se encuentra el estudio empírico de Benavides y
Huidobro (2004), en el cual se examina el sistema de garantía de
México por medio de un estudio de estática comparativa que les
permite justificar, desde una perspectiva económica, la existencia
de tal sistema, pero al mismo tiempo encuentran cierta evidencia
de ineficiencia e ineficacia. La ineficiencia se evidencia en las primas
de la garantía y la cobertura que se fijan de manera errónea; esto
conlleva a que las primas no reflejen plenamente el riesgo, de tal
forma que el colateral es mayor que los riesgos a los que se expone la
entidad crediticia. La ineficacia se manifiesta en que la mayor parte
de las garantías se han dirigido hacia préstamos de corto plazo.
Por otro lado, está el estudio de Oh, Lee, Heshmati y Choi (2009),
en el que evalúan la bondad del sistema de garantía de Corea en
términos del crecimiento de la empresa, tamaño, investigación y
desarrollo, inversión, productividad, supervivencia de la empresa
en el período posterior a la crisis financiera de Asia, comparando las
empresas que han accedido al crédito con garantía del sistema y las
que no. Dicha comparación la realizan a través de la metodología
Propensity Score Matching2 , encontrando que el sistema de garantías
influyó en la conservación del tamaño de la empresa, incrementó
su tasa de supervivencia pero no incrementó su investigación y
desarrollo e inversión, y por lo tanto no produjo incrementos en
su productividad.
Similarmente, Zecchini y Ventura (2009), mediante análisis
econométrico, confirman la relación causal del sistema de garantía italiano con el incremento del crédito hacia las pequeñas y
medianas empresas, a unos mejores costos y sin comprometer la
estabilidad del sistema de garantías. Para tal efecto, utilizan un
modelo de panel de datos considerando empresas que han obtenido crédito con el sistema y las que no, empleando las siguientes
variables: costo financiero/deuda, deuda/total activos, trabajadores, ventas, activos fijos, activos intangibles, deuda no bancaria,
patrimonio neto, e ingresos.
De otra parte, Cowling (2007), empleando técnicas econométricas, determina que el segmento de la pequeña y mediana empresa
adolece del racionamiento de crédito y establece la relación del sistema de garantía de Reino Unido con el crédito encaminado hacia
tales empresas.
Además se han realizado diversos estudios en relación con el
análisis del sistema de garantías de Colombia. Para efectos de este
estudio se han considerado los siguientes: inicialmente, Marulanda
(citado en Llisterri y Levitsky, 1996) realiza un análisis descriptivo
del FNG en lo referente a proceso de garantía, la evolución de los
avales, la siniestralidad y la evolución financiera entre el período
1982 y 1996, evidenciado las dificultades y los retos a afrontar por
este mecanismo en sus períodos iniciales.
Llisterri, Rojas, Mañueco, López y García (2006) realizan un análisis descriptivo durante el período comprendido entre 1995 y 2006,
encontrando que a partir de 2000 se presentó un aumento significativo del número y del volumen de operaciones del crédito
garantizado. Además, a partir de dicho año el sector financiero
implementa políticas de crédito tendentes a cubrir el sector de
las pymes, evidenciando con esto una importante adicionalidad
generada por la existencia del FNG. Estos autores en su agenda de
investigación plantean lo conveniente de determinar cuantitativamente (econométricamente) la contribución al acceso al crédito del
FNG, sin que a la fecha se haya realizado.
2
Método de comparación no paramétrico fundamentado en la construcción de
un grupo de control que permite estimar el estado contrafactual (lo que hubiese
ocurrido en ausencia de política).
Finalmente, Stephanous y Rodríguez (2008), a través de una
revisión analítica de datos y entrevistas encuentran las dificultades del acceso al crédito de las pequeñas y medianas empresas,
así como el hecho que el FNG ha sido percibido por los establecimientos de crédito como facilitador de la financiación de este grupo
de empresas, ante lo cual sugieren realizarle al FNG un estudio de
costos-efectividad o costos-beneficios.
Ahora bien, la oferta de crédito hacia las pequeñas y medianas
empresas se caracteriza por presentar asimetría de información
dada la informalidad que presentan estas compañías y la baja preparación y disponibilidad de información financiera (Stephanous
y Rodríguez, 2008). Adicionalmente, la movilización de recursos
hacia las pymes genera altos costos administrativos comparado
con el volumen del crédito, tiene poco colateral y los intermediarios financieros la perciben con alto grado de riesgo (Green, 2003;
Llisterri et al., 2006)
Esta situación le genera a las pymes restricción en el crédito,
específicamente en las cantidades ofrecidas (racionamiento del crédito), dado que dichas características no pueden ser compensadas
completamente con una mayor tasa de interés. Esta situación es a
causa de las limitaciones en términos de la regulación que existe en
Colombia, en donde se tiene una tasa máxima a la que se pueden
otorgar los créditos (Tafur, 2009), y más específicamente por los
problemas derivados de la asimetría de información que conlleva
a problemas de agencia, concretamente selección adversa y riesgo
moral.
Así pues, el estudio de la financiación de las pymes se debe considerar sobre la base de una oferta caracterizada por el racionamiento
de crédito, con las implicaciones teóricas que esto conlleva, específicamente que el equilibrio no se logra por ajuste de precios (tasa de
interés), por lo cual los otros determinantes de la oferta de crédito
serán los que determinen el equilibrio, tales como el colateral y los
depósitos en los establecimientos financieros.
De lo anteriormente analizado se puede observar que en Colombia no existen estudios que cuantifiquen econométricamente la
contribución del FNG en el acceso al crédito de las pymes bajo las
condiciones inherentes a sus problemas de restricción al crédito
determinado por sus características. Para tal efecto, la hipótesis que
sustenta el trabajo hace referencia a que el FNG ha tenido una contribución positiva en la movilización del crédito hacia las pequeñas
y medianas empresas.
3. Metodología
El presente trabajo tiene como fundamento teórico la teoría de
racionamiento de crédito de Stiglitz y Weiss (1981). Los datos utilizados en el trabajo empírico provienen de Asobancaria3 (volumen
total del crédito pymes), el FNG (volumen de crédito movilizado
con aval del FNG) y la Superintendencia Financiera (depósitos en
los establecimientos de crédito). El período considerado contempla
desde el primer trimestre de 2003 hasta el tercer trimestre de 2010;
los datos se deflactan con el índice de precios del productor (IPP)4 .
Las etapas realizadas para alcanzar el objetivo propuesto son:
• Análisis descriptivo de la dinámica de las variables de interés.
3
La Asociación Bancaria y de Entidades Financieras de Colombia. Asobancaria, es
el gremio representativo del sector financiero colombiano, compuesto por todos los
bancos nacionales y extranjeros, públicos y privados, las más significativas corporaciones financieras e instituciones oficiales especiales y el Banco de la República
como miembro honorario.
4
Con este índice se deflactan las series: volúmenes de créditos y depósitos, que se
encuentran nominales, se expresan en valores constantes de diciembre de 2006. Se
utiliza este índice para la deflactación dado el sentido primordial que subyace en la
obtención de crédito por parte de una empresa, el cual es obtener bienes de capital.
J.A. Castillo Bonilla, L.E. Girón / Estudios Gerenciales 30 (2014) 18–24
La forma funcional del modelo DOLS propuesto por Stock y
Watson (1993) se define como:
C t = B Xt +
j=J
j Pt−j +
j=−J
j=k
j Yt−j + t
(1)
j=−k
Donde, B = [c, ␣, ]’ se refiere al vector de coeficientes de regresión del modelo; ␣ y  miden la relación de largo plazo entre las
variables y X = [1,Pt , Yt ] corresponde al vector de variables explicatorias, incluyendo el intercepto.
4. Resultados
A continuación se presentan los resultados de la aplicación de
la metodología propuesta anteriormente.
4.1. Análisis descriptivo de la dinámica de las variables
En la figura 1 se observa un comportamiento creciente y sostenido del volumen de créditos otorgados a las pymes, presentándose
un volumen de crédito muy sobresaliente en el tercer trimestre de
2009.
El volumen de crédito movilizado entre el primer trimestre de
2003 fue de $5,5 billones de pesos, mientras que en el tercer trimestre de 2010 fue de $28,7 billones de pesos, lo que representa
un crecimiento promedio trimestral del 5,5%.
El flujo promedio trimestral movilizado hacia las pymes es de
$16,1 billones de pesos, con un valor máximo de $34,68 billones
de pesos y un mínimo de $5,51 billones de pesos; la desviación
estándar corresponde a $7,25 billones de pesos, dando esto un coeficiente de variación de 0,45, indicando que los créditos tienen un
comportamiento homogéneo, es decir, que el volumen de crédito
trimestral movilizado hacia las pymes está distribuido muy cerca
1.6
1.4
1.2
Billones $
1.0
0.8
0.6
0.4
0.2
2009-3
2009-1
2008-3
2008-1
2007-3
2007-1
2006-3
2006-1
2005-3
2005-1
2004-3
2004-1
2003-3
2003-1
• Pruebas de raíz unitaria (Dickey Fuller Aumentado [ADF]) para
determinar si las variables a incorporar en el modelo econométrico son estacionarias o no.
• Test de cointegración de Johansen para determinar si existe una
relación de largo plazo entre las variables consideradas en el
modelo.
• Formulación y estimación del modelo econométrico utilizando
mínimos cuadrados dinámicos (DOLS). Este método produce
estimaciones robustas principalmente cuando el número de
observaciones consideradas es pequeño y las series no son
estacionarias. Además, DOLS corrige posibles problemas de
simultaneidad entre las variables explicativas, al tiempo que
considera diferente orden de integración de dichas variables.
La potencial simultaneidad y el sesgo generado al trabajar con
muestras pequeñas son tratados mediante la incorporación de
valores rezagos y adelantados de las variables explicativas (Masih
y Masih, 1996).
21
Figura 2. Volumen total de crédito a las pyme con aval del FNG. Cifras en pesos
constantes de diciembre de 2006.
Fuente: elaboración propia con base en los datos del FNG.
de su valor medio, evidenciando con esto que las necesidades de
capital para este tipo de empresas tienden a ser similares.
El comportamiento del volumen del crédito movilizado con aval
del FNG (línea empresarial) se aprecia en la figura 2, la cual muestra un comportamiento creciente de dichos valores, observándose
que en el primer trimestre de 2003 el flujo avalado fue de $0,29
billones de pesos, pasando a avalar $1,41 billones de pesos en el tercer trimestre de 2010, es decir, presentó un crecimiento promedio
trimestral de 5,2%.
El valor promedio trimestral movilizado con aval del FNG (línea
empresarial) corresponde a $0,834 billones de pesos, con un valor
máximo de $1,41 billones de pesos y un mínimo de $0,002 billones de pesos; la desviación estándar corresponde a $0,41 billones
de pesos, dando esto un coeficiente de variación de 0,49, indicando
que el aval trimestral otorgado por el FNG tiene un comportamiento
homogéneo, es decir, el monto de los avales otorgados es prácticamente el mismo.
En la figura 3 se puede apreciar el comportamiento del volumen
de los depósitos en los establecimientos de crédito, el cual presenta
un comportamiento creciente, observándose que en el primer trimestre de 2003 el volumen de depósitos fue de $67,63 billones de
pesos, pasando a tener un volumen de depósitos de $150,21 billones de pesos en el tercer trimestre de 2010, es decir, un crecimiento
promedio trimestral del 2,6%.
El valor promedio trimestral de los depósitos en los establecimientos de crédito corresponde a $105,29 billones de pesos, con
un valor máximo de $150,21 billones de pesos y un mínimo de
$67,41 billones de pesos; la desviación estándar corresponde a
$27,81 billones de pesos, dando esto un coeficiente de variación
de 0,26, indicando que trimestralmente los depósitos en los establecimientos de crédito tienen un comportamiento homogéneo, es
decir, los depósitos son en promedio de la misma magnitud.
160
140
40
120
Billones $
30
25
20
15
100
80
60
Figura 1. Volumen total de créditos otorgados a las pymes. Cifras en pesos constantes de diciembre de 2006.
Fuente: elaboración propia con base en los datos de Asobancaria.
2009-3
2009-1
2008-3
2008-1
2007-3
2007-1
2006-3
2006-1
2005-3
2005-1
2004-3
2004-1
2003-1
2009-3
2009-1
2008-3
2008-1
2007-3
2007-1
2006-3
2006-1
2005-3
2005-1
2004-3
2004-1
20
0
2003-3
5
2003-3
40
10
2003-1
Billones de $
35
Figura 3. Volumen de los depósitos en los establecimientos de crédito. Cifras en
pesos constantes de diciembre de 2006.
Fuente: elaboración propia con base en los datos de Asobancaria.
22
J.A. Castillo Bonilla, L.E. Girón / Estudios Gerenciales 30 (2014) 18–24
Tabla 1
Prueba de estacionariedad
Series
ADF
Valor crítico al 5%
Estacionaria
LV1
LDEP
LV2
–2,314571
–2,003044
–3,010768
–3,574244
–3,568379
–3,568379
No
No
No
LV1
LDEP
LV2
–5,508569
–5,544939
–5,350773
–2,971853
–2,967767
–1,952910
Orden de integración
I(1)
I(1)
I(1)
ADF: Dickey Fuller - estadístico.
Fuente: elaboración propia.
Tabla 2
Prueba de cointegración de Johansen
No. E. de C. bajo la
hipótesis nula
muestra la estimación del mismo utilizando mínimos cuadrados
dinámicos (DOLS).
Traza
estadística
0,05
Valor crítico
Prob.
53,59784
15,91769
1,659400
29,79707
15,49471
3,841466
0,0000
0,0432
0,1977
Valor propio
Ningunaa
Al menos 1a
Al menos 2
0,727282
0,388393
0,055614
El test indica 2 ecuaciones de cointegración a un nivel del 0,05.
Series: LV1 LDEP LV2.
Fuente: elaboración propia.
a
Indica rechazo de la hipótesis nula a un nivel del 0,05.
Los créditos movilizados a las pymes, como proporción de los
depósitos en los establecimientos de crédito, han estado en crecimiento constante, pasando de ser el 8,2% del total de los depósitos
en el primer trimestre de 2003, a representar el 19,1% en el tercer
trimestre de 2010, lo que representa una variación de 10,9 puntos
porcentuales. De otro lado, el flujo de créditos avalados con el FNG
como porcentaje de los depósitos en los establecimientos de crédito
ha pasado de ser el 0,4% en el primer trimestre de 2003 a representar el 0,9% en el tercer trimestre de 2010, con una variación de 0,5
puntos porcentuales. Esto evidencia un crecimiento mayor de los
fondos movilizados hacia las pymes comparados con el crecimiento
de los créditos avalados por el FNG.
4.2. Test de raíces unitarias
La tabla 1 muestra los resultados de las pruebas de raíces unitarias desarrolladas por Dickey y Fuller (1979) y aplicadas a cada una
de las variables consideradas en el estudio.
Como se observa, las variables, logaritmo del volumen de créditos otorgados a las pymes, logaritmo del valor de los depósitos y
logaritmo del valor de los créditos avalados, no son estacionarias,
siendo integradas de orden 1, es decir, I(1).
4.3. Test de cointegración de Johansen
En una regresión, cuando las variables de la modelación son no
estacionarias, es decir, cuando tienen raíces unitarias, es importante que tengan cointegración o relación de equilibrio de largo
plazo (Gujarati, 2004) para garantizar resultados consistentes en
la regresión estimada. En la tabla 2 se presentan los resultados del
test de cointegración desarrollado por Johansen (1991).
Como se muestra en la tabla 2, las variables incorporadas en
la regresión presentan al menos 2 relaciones de cointegración, lo
que permite garantizar los resultados de la estimación del modelo
propuesto en la siguiente sección.
4.4. Formulación y estimación del modelo econométrico
En la presente sección se fundamenta teóricamente la formulación del modelo desde la perspectiva de la oferta de crédito y se
4.4.1. Formulación del modelo
Los demandantes del crédito son las familias, las empresas y el
gobierno (si tiene déficit). Los ofertantes del crédito son el sistema
financiero o intermediarios financieros: bancos comerciales, corporaciones financieras, cajas de ahorro y préstamo, etc. La oferta
de crédito se constituye a partir de los depósitos en el sistema
que hacen las familias, empresas, el gobierno (si tiene superávit),
el Banco Central y agentes externos. El monto de los depósitos es
expandido y convertido en oferta de crédito por los intermediarios
financieros en el proceso de recibir depósitos y otorgar créditos
(Ferrari, 2008), de tal forma que el análisis de la oferta de crédito
debe tener en cuenta los recursos prestables de los intermediarios
financieros, representados por los depósitos.
Estudios empíricos sobre el mercado de crédito en Colombia detectaron que en condiciones de racionamiento de crédito
—situación presentada en la década de los noventa— la variable
que tiene mayor importancia relativa por el lado de la oferta corresponde a la capacidad de préstamo real del intermediario financiero,
es decir, los depósitos (Barajas, Lopéz y Oliveros, 2001; Carrasquilla,
Galindo y Vásquez, 2000)5 . Por lo tanto, los depósitos de los intermediarios financieros se constituyen en un determinante de la
oferta de crédito en condiciones de racionamiento de crédito.
Por otro lado, considerando la relación entre principal (establecimientos de crédito) y agente (pymes) al momento del crédito, se
presenta asimetría de información representada, entre otras cosas,
por una situación de riesgo moral. Esto ocasiona restricciones en el
financiamiento cuando el colateral no es lo suficientemente grande
en comparación con la renta de agencia6 (Tirole, 2006).
De igual forma, Bester (1987) plantea la necesidad del colateral
como mecanismo para mitigar el racionamiento del crédito en los
mercados de créditos con información imperfecta. Esta necesidad
del colateral, en situaciones de asimetría de información, se constituye en otro de los determinantes para estudiar la oferta de crédito
en condiciones de racionamiento de crédito.
En relación con el mercado de crédito colombiano se cuenta con
el FNG, que sirve de garante para facilitar el crédito de las pymes,
es decir, para servir como colateral, dado que estas, por su tamaño,
no cuentan con un nivel de activos significativo para respaldar sus
créditos. La existencia de este colateral se evidencia en los establecimientos de crédito, entre otras cosas, al tener que realizar
una menor provisión en sus operaciones de crédito (Llisterri et al.,
2006).
5
Para estos autores, dicha situación se presentó por una disminución de los depósitos que afecta la oferta de crédito.
6
Corresponde a la retribución mínima esperada por quien realiza el crédito para
garantizar su mejor esfuerzo en el proyecto para el cual solicita el crédito.
J.A. Castillo Bonilla, L.E. Girón / Estudios Gerenciales 30 (2014) 18–24
• Para realizar estimaciones, o relaciones de corto plazo8 , con el
modelo dinámico inicial, las variables explicatorias se deben considerar con un rezago, pero no adelantos.
Tabla 3
Salidas del modelo mínimos cuadrados dinámicos
Variables
Coeficientes
Prob.
LDEP
LV2
C
1,446394
0,060825
–3,932784
0,0000
0,0042
0,0000
Especificación de adelantos y rezagos (adelantos = 0, rezagos = 1).
R2 0,963519.
Durbin-Watson stat 2,453639.
Este valor no evidencia autocorrelación.
Fuente: elaboración propia.
De lo anteriormente indicado, se tiene que la oferta de crédito
en condiciones de racionamiento está en función de los depósitos
en los establecimientos de crédito y del colateral, es decir:
Crédito en racionamiento = f (depósitos, colateral)
(2)
De acuerdo con lo expuesto en esta sección, el modelo DOLS para
el trabajo empírico es el siguiente:
j=+k
LogV 1t = ˛0 + ˛1 LogV 2 + ˛2 LogDep +
ıj Log v2t−j
j=−k
j=+k
+
ϕj Log Dept−j
23
(3)
j=−k
donde ␣1 , ␣2 corresponde a las relaciones de largo plazo de las
variables; LogV1 corresponde al logaritmo del volumen total de crédito movilizado hacia las pymes a través de los establecimientos de
crédito afiliadas a Asobancaria desde el primer trimestre de 2003
hasta el tercero de 2010; LogV2 es el logaritmo del volumen total
de crédito movilizado en la línea empresarial con aval del FNG7 ,
el cual se usa como proxy del colateral, desde el primer trimestre
de 2003 al tercero de 2010. Se espera que el signo sea positivo, tal
como lo expone el modelo teórico de racionamiento de crédito en
un escenario de inversión fija (Tirole, 2006; Bester, 1987), donde
la existencia del colateral permite el acceso al crédito, es decir,
financiar proyectos con valor presente neto positivo. Por otra parte,
LogDep se refiere al logaritmo del volumen de los depósitos de los
bancos, corporaciones financieras y compañías de financiamiento
comercial. Esta variable se utiliza como una proxy de la capacidad
de préstamo real de tales instituciones. La serie se presenta desde
el primer trimestre de 2003 al tercero de 2010 y se espera que el
signo sea positivo dado que la capacidad de oferta de crédito de los
establecimientos de crédito colombianos, en condiciones de racionamiento, está determinada principalmente por la capacidad de
préstamo real de los mismos (Barajas et al., 2001).
4.4.2. Estimación del modelo
Una vez verificada la cointegración y dado que el tamaño de
muestra es reducido (31 datos), se estimó la relación de equilibrio
de largo plazo a través de mínimos cuadrados dinámicos (DOLS),
verificándose adicionalmente la estabilidad y la estacionariedad del
residuo de dicho modelo. La tabla 3 muestra el vector de cointegración estimado.
Los resultados del modelo DOLS evidencian:
• Consistencia teórica de los signos.
• Significación estadística de las variables al 1%.
7
Estos volúmenes de crédito los movilizan entidades de crédito afiliadas y no
afiliadas a Asobancaria y se dirigen a pymes y a microcrédito.
Con base en lo anterior se puede afirmar que el papel que ha
cumplido el FNG para fomentar el acceso al crédito a las pequeñas
y medianas empresas tiene significancia estadística, pero a nivel
económico tiene una relación inelástica por cuanto al incrementar
en 1% la garantía, el volumen de crédito movilizado hacia las pymes
se incrementa tan solo en 0,061%.
De otra parte, este resultado evidencia que el colateral representado por el FNG, en los años de análisis, tiene poca relevancia en la
movilización de recursos hacia las pequeñas y medianas empresas,
en donde se puede observar que la existencia de la garantía no es
la que jalona el crédito hacia este sector de la economía.
Asimismo, los resultados indican que a nivel de acceso al crédito parece ser que el esquema de garantías ha ayudado a afectar
positivamente el sector financiero, logrando que las pymes sean
visualizadas como establecimientos confiables para el crédito,
constituyéndose esto en una importante adicionalidad derivada de
la existencia de este esquema de garantía. De tal forma, las pymes,
y su relación con los establecimientos de crédito, están logrando
reducir las asimetrías de información.
Por último, se puede apreciar que el volumen de los depósitos
de los establecimientos de crédito que brindan créditos a las pymes
tiene significación estadística y presenta una relación elástica, en
la medida en que un incremento de 1% de los depósitos produce
un incremento del 1,45% de los recursos que se movilizan hacia
dichas empresas. Este hecho corrobora el gran impacto de la liquidez del sistema financiero en la movilización de recursos hacia los
diferentes sectores de una economía.
5. Conclusiones
En general se acepta la hipótesis que se plantea en este estudio, dado que en los resultados, el colateral representado por el
Fondo Nacional de Garantías influye para la movilización de créditos hacia las pymes, es decir, ha contribuido al acceso al crédito de
las pequeñas y medianas empresas del país.
Con la existencia del FNG se perciben directamente 2 bondades:
la disminución de las garantías reales por parte de las pymes en sus
operaciones de crédito, y menor provisión en los establecimientos
de crédito.
El FNG, al ser un factor determinante en la oferta de crédito
hacia las pymes, ha ayudado a mitigar las asimetrías entre los
establecimientos de crédito y las pequeñas y medianas empresas,
contribuyendo en el fortalecimiento de la relación crediticia.
Por otro lado, la inelasticidad del colateral, representado por el
FNG, en la movilización de recursos hacia las pymes pone de manifiesto que este determinante del crédito no es el que ha jalonado el
flujo de recursos hacia este grupo de empresas.
Además, la capacidad de recursos prestables por parte de los
establecimientos de créditos, representada por los depósitos, presenta una relación elástica en su influencia para la movilización de
créditos hacia las pymes, lo que la convierte en el motor determinante de la oferta de crédito hacia este segmento de empresas.
Finalmente, dado que los depósitos es la variable de mayor
influencia en el volumen de recursos financieros hacia las pymes,
se debe propender por políticas y mecanismos que fortalezcan los
8
Para este efecto, se tendría que aplicar un mecanismo de corrección de errores,
lo cual no se va a considerar en el presente trabajo en la medida en que la relación
de largo plazo brinda los elementos necesarios para revisar la importancia de las
variables explicativas del modelo.
24
J.A. Castillo Bonilla, L.E. Girón / Estudios Gerenciales 30 (2014) 18–24
recursos disponibles para el segmento de las pequeñas y medianas
empresas.
Conflicto de intereses
Los autores declaran no tener ningún conflicto de intereses.
Bibliografía
Arbeláez, M. A., Zuleta, L. y Velasco, A. (2003). Las micro, pequeñas y medianas
empresas en Colombia: diagnóstico general y acceso a los servicios financieros [consultado 15 May 2009]. Disponible en: ftp://www.fedesarrollo.org.co/
pub/infinv/2003/5.pdf
Barajas, A., López, E. y Oliveros, H. (2001). ¿Por qué en Colombia el crédito al
sector privado es tan reducido? Centro de Estudios Monetarios Latinoamericanos [consultado 10 May 2010]. Disponible en: http://www.banrep.gov.co/
docum/ftp/borra185.pdf
Benavides, G. y Huidobro, A. (2004). Are Loan Guarantees Effective? The Case
of Mexican Government Banks [consultado 20 Nov 2010]. Disponible en:
http://papers.ssrn.com/sol3/papers.cfm?abstract id=637385
Berger, A., Goldberg, L. y White L. (2001). The Effects o Dynamic Changes in Bank
Competition on the Supply of Small Business Credit [consultado 15 Dic 2010].
Disponible en: http://papers.ssrn.com/sol3/papers.cfm?abstract id=282513
Bester, H. (1987). The role of colateral in credit markets with imperfect information.
European Economic Review, 31(4), 887–899.
Carrasquilla, A., Galindo, A. y Vásquez, D. (2000). El Gran Apretón Crediticio
en Colombia: Una Interpretación [consultado24 Mayo 2010]. Disponible en:
http://www.depeco.econo.unlp.edu.ar/jemi/2000/trabajo10.pdf
Cowling, M. (2007). The Role of Loan Guarantee Schemes in Alleviating Credit Rationing in the UK. Institute for Employment Studies [consultado 10 Dic 2010].
Disponible en: http://www.employment-studies.co.uk/pdflibrary/wp7.pdf
DNP-Dirección Nacional de Planeación (2007). CONPES 3484 [consultado 10 Dic
2010]. Disponible en: http://www.dnp.gov.co/Portals/0/archivos/documentos/
GCRP/Presentaciones Renteria/Presenta Conpes Mipymes-Acopi (23 Ago 07).
pdf
Dickey, D. y Fuller, W. (1979). Distribution of the estimators for autoregressive time
series with a unit root. Journal of the American Statistical Association, 74, 427–431.
Ferrari, C. (2008). Política económica y mercados (3.a ed.). Bogotá: Javegraf.
Franco, M. y Urbano, D. E. (2010). El éxito de las pymes en Colombia: un estudio de
casos en el sector salud. Estudios Gerenciales, 26(114), 77–97.
Gujarati, D. (2004). Econometría (4.a ed.). México D.F.: Mc Graw Hill.
Green A. (2003). Credit Guarantee Schemes for Small Enterprises: An Effective
Instrument to Promote Private Sector-Led Growth? United Nations Industrial
Development Organization, Small and Medium Enterprises Branch [consultado
30 Nov 2010]. Disponible en: http://www.unido.org/index.php?id=o18252
Johansen, S. (1991). Estimation and hypothesis testing of cointegrating vector in
Gaussian autoregression models. Econometrica, 59, 1551–1580.
Llisterri, J.J. y Levitsky, J. (1996). Sistemas de Garantía de Crédito: Experiencias
Internacionales y Lecciones para América Latina y el Caribe. Documento de
la Mesa Redonda Organizada por el Banco Interamericano de Desarrollo,
Washington, D.C. [consultado 10 Dic 2010]. Disponible en: http://www.
portalmicrofinanzas.org/gm/document-1.9.36017/Sistemas%20de%20garant
%C3%ADas%20de%20cr%C3%A9di.pdf
Llisterri, J. J., Rojas, A., Mañueco, P., López, V. y García A. (2006). Sistemas de Garantía
de Crédito en América Latina: Orientaciones Operativas. Banco Interamericano de Desarrollo, Washington D.C. [consultado 10 Dic 2010]. Disponible en:
http://idbdocs.iadb.org/wsdocs/getdocument.aspx?docnum=1481610
Masih, R. y Masih, A. (1996). Stock-Watson dynamic OLS (DOLS) and error-correction
modeling approaches to estimating long- and short-run elasticities in a demand
function: New evidence and methodological implications from an application
to the demand form coal in mainland China. Energy Economics, 18(4), 315–334.
Meyer, R. y Nagarajan, G. (1996). Evaluation Credit Guarantee Programs in
Developing Countries. Economics and Sociology. Occasional Paper No. 2322
[consultado 30 Nov 2010]. Disponible en: http://www.docstoc.com/docs/
45719788/evaluating-credit-guarantee-programs-in-developing-countriespdf
Oh, I., Lee, J., Heshmati, A. y Choi, G. (2009). Evaluation of Credit Guarantee
Policy Using Propensity Score Matching. Small Business Economics, 33, 335351 [consultado 20 Dic 2010]. Disponible en: http://www.webmeets.com/
files/papers/EARIE/2007/12/sbe%20submit%20version2.pdf
Prior, F. (2010). Modelo de servicios microfinancieros propuestos para resolver el
problema de la falta de acceso a los servicios financieros en los países en desarrollo. Estudios Gerenciales, 26(116), 37–61.
Stephanous, C. y Rodríguez C. (2008). Bank Financing to Small- and Medium-Sized
Enterprises (SMEs) in Colombia. World Bank [consultado 15 Feb 2008]. Disponible en: http://elibrary.worldbank.org/doi/pdf/10.1596/1813-9450-4481
Stiglitz, J. y Weiss, A. (1981). Credit rationing in markets with imperfect information.
The American Economic Review, 71(3), 393–410.
Stock, J. H. y Watson, M. W. (1993). A simple estimator of cointegrating vector in
higher order integrated systems. Econometrica, 61, 783–820.
Tafur, C. (2009). Bancarización: una aproximación al caso colombiano a la luz de
América Latina. Estudios Gerenciales, 25(110), 13–27.
Takats, E. (2004). Banking Consolidation and Small Bussines Lending. Eupean Central Bank. Working Paper Series (407) [consultado 18 Feb 2008]. Disponible en:
http://www.ecb.int/pub/pdf/scpwps/ecbwp407.pdf
Tirole, J. (2006). The Theory of Corporate Finance. New Jersey: Princeton University
Press.
Zecchini, S. y Ventura, M. (2009). The impact of public guarantees on credit to SMEs.
Small Business Economics, 32(2), 191–206.
|
|
https://openalex.org/W3207085742
|
https://hal.inrae.fr/hal-03472689/document
|
English
| null |
Intake Estimation of Phytochemicals in a French Well-Balanced Diet
|
Nutrients
| 2,021
|
cc-by
| 7,951
|
Intake estimation of phytochemicals in a French
well-balanced diet Marie-Josephe Amiot, Latge Christian, Laurence Plumey, Sylvie Raynal To cite this version: Marie-Josephe Amiot, Latge Christian, Laurence Plumey, Sylvie Raynal. Intake estimation of phy-
tochemicals in a French well-balanced diet. Nutrients, 2021, 13 (10), pp.3628. 10.3390/nu13103628. hal-03472689
Citation: Amiot, M.-J.; Latgé, C.;
Plumey, L.; Raynal, S. Intake
Estimation of Phytochemicals in a
French Well-Balanced Diet. Nutrients
2021, 13, 3628. https://doi.org/
10.3390/nu13103628 Academic Editors:
Laura Domínguez Díaz,
Montaña Cámara
and Virginia Fernández-Ruiz
Received: 30 September 2021
Accepted: 14 October 2021
Published: 16 October 2021 Academic Editors:
Laura Domínguez Díaz,
Montaña Cámara
and Virginia Fernández-Ruiz Keywords: Mediterranean diet; phytonutrients; dietary recommendations; healthy diet; polyphenols;
flavonoids; carotenoids; organosulfur; caffeine Received: 30 September 2021
Accepted: 14 October 2021
Published: 16 October 2021 Article
Intake Estimation of Phytochemicals in a French
Well-Balanced Diet Marie-Josèphe Amiot 1,*
, Christian Latgé 2, Laurence Plumey 3 and Sylvie Raynal 4 1
INRAE, MoISA, University of Montpellier, CIHEAM-IAMM, CIRAD, Institut Agro-Montpellier SupAgro,
IRD, Campus La Gaillarde, 2 Place Pierre Viala, 34000 Montpellier, France
2
Pierre Fabre Laboratories, Langlade-3 Avenue Hubert Curien-BP 13 562, CEDEX 1, 31035 Toulouse, France;
h
l
f b 1
INRAE, MoISA, University of Montpellier, CIHEAM-IAMM, CIRAD, Institut Agro-Montpellier SupAgro,
IRD, Campus La Gaillarde, 2 Place Pierre Viala, 34000 Montpellier, France 1
INRAE, MoISA, University of Montpellier, CIHEAM-IAMM, CIRAD, Institut Agro-Montpellier SupAgro,
IRD, Campus La Gaillarde, 2 Place Pierre Viala, 34000 Montpellier, France
2
Pierre Fabre Laboratories, Langlade-3 Avenue Hubert Curien-BP 13 562, CEDEX 1, 31035 Toulouse, France;
christian.latge@pierre-fabre.com 3
NUTRITION CO&CO, 11 Avenue des Vignes, 92210 St Cloud, France; laurence.plumey@free.fr
4
Naturactive, Pierre Fabre Laboratories, 29 Avenue du Sidobre, 81106 Castres, France;
sylvie.raynal@pierre-fabre.com y
y
p
*
Correspondence: marie-josephe.amiot-carlin@inrae.fr; Tel.: +33-(0)4-99-61-22-16 *
Correspondence: marie-josephe.amiot-carlin@inrae.fr; Tel.: +33-(0)4-99-61-22-16 Abstract: Phytochemicals contribute to the health benefits of plant-rich diets, notably through their
antioxidant and anti-inflammatory effects. However, recommended daily amounts of the main
dietary phytochemicals remain undetermined. We aimed to estimate the amounts of phytochemicals
in a well-balanced diet. A modelled diet was created, containing dietary reference intakes for adults
in France. Two one-week menus (summer and winter) were devised to reflect typical intakes of
plant-based foods. Existing databases were used to estimate daily phytochemical content for seven
phytochemical families: phenolic acids, flavonoids (except anthocyanins), anthocyanins, tannins,
organosulfur compounds, carotenoids, and caffeine. The summer and winter menus provided
1607 and 1441 mg/day, respectively, of total polyphenols (phenolic acids, flavonoids, anthocyanins,
and tannins), the difference being driven by reduced anthocyanin intake in winter. Phenolic acids,
flavonoids (including anthocyanins), and tannins accounted for approximately 50%, 25%, and 25%
of total polyphenols, respectively. Dietary carotenoid and organosulfur compound content was
estimated to be approximately 17 and 70 mg/day, respectively, in both seasons. Finally, both menus
provided approximately 110 mg/day of caffeine, exclusively from tea and coffee. Our work supports
ongoing efforts to define phytochemical insufficiency states that may occur in individuals with
unbalanced diets and related disease risk factors. Citation: Amiot, M.-J.; Latgé, C.;
Plumey, L.; Raynal, S. Intake
Estimation of Phytochemicals in a
French Well-Balanced Diet. Nutrients
2021, 13, 3628. https://doi.org/
10.3390/nu13103628 HAL Id: hal-03472689
https://hal.inrae.fr/hal-03472689v1
Submitted on 9 Dec 2021 L’archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d’enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés. HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers. nutrients nutrients nutrients nutrients 1. Introduction The units of measurement for these reference ranges are mg
per 100 g (for foods) or mg per 100 mL (for drinks). Table 1. Foods and drinks considered to have high, medium, and low levels of different families of phytochemicals [11]. Reference ranges describing high, medium, and low phytochemical levels differ between phytochemical families, and are
therefore shown alongside each family above the list of foods. The units of measurement for these reference ranges are mg
per 100 g (for foods) or mg per 100 mL (for drinks). 1. Introduction A healthy diet is considered to be one that provides adequate calories and nutrients
to meet an individual’s needs for energy, growth, and repair, and to prevent diet-related
non-communicable diseases. A diverse range of foods from several different food groups
should be included. Plant-derived foods, such as whole grains, fruits, vegetables, nuts, and
seeds, form an essential part of healthy diets. Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Healthy, plant-rich diets (including Mediterranean-type or DASH (Dietary Approaches
to Stop Hypertension) diets) have been reported to cover all of the macro- and micronutri-
ents considered essential to health [1]. They are particularly rich in monounsaturated and
polyunsaturated fatty acids and antioxidants, which regulate lipid and glucose metabolism,
counteract oxidative stress, reduce inflammation, and support endothelial function [2]. Adherence to a Mediterranean diet has been associated with comparatively low rates of
cardiovascular and cerebrovascular disease, diabetes, cancer, and cognitive decline [3–8]. Copyright: © 2021 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). Additionally, numerous studies have described the health benefits of foods rich in
phytochemicals, also named bioactive compounds or phytonutrients or phytomicrocon-
stituents, which are bioactive secondary metabolites found in plants, and in foods, drinks, https://www.mdpi.com/journal/nutrients Nutrients 2021, 13, 3628. https://doi.org/10.3390/nu13103628 Nutrients 2021, 13, 3628 2 of 12 2 of 12 and condiments derived from them [9,10]. Phytochemicals are chemically diverse com-
pounds that can be classified into distinct families: polyphenols (phenolic acids, flavonoids
(including anthocyanins), and tannins), carotenoids (for example, beta-carotene, lycopene,
lutein, and zeaxanthin), organosulfur compounds (for example, isothiocyanates, indoles,
allyl sulfur compounds, and sulforaphane), and phytosterols (for example, sitosterol,
campesterol, stigmasterol, sitostanol, campestanol, and stigmastanol) [11]. Table 1 lists
examples of foods that are high, medium, or low in each of these phytochemical families,
although it must be noted that harvesting, processing, storage, and cooking can reduce the
phytochemical content of food. Table 1. Foods and drinks considered to have high, medium, and low levels of different families of phytochemicals [11]. Reference ranges describing high, medium, and low phytochemical levels differ between phytochemical families, and are
therefore shown alongside each family above the list of foods. 1. Introduction Cont. Phytochemical Class
High
Medium
Low
Caffeine
50–100
10–50
<10
Espresso, filter coffee
Energy drinks, black tea, green tea
Cola drinks
Phytosterols
>200
50–200
3–50
Vegetable oils (corn,
sunflower, soybean)
Almonds, peanuts, corn (maize),
oats, wheat
Cauliflower, broccoli, carrots, tomatoes, apples,
bananas, grapes, oranges Table 1. Cont. Dietary polyphenols are present in numerous plant-derived foods and beverages,
their quantities differing according to the plant species, varietal, environmental factors
(for example, climate and soil), and cultural practices. This family includes phenolic
acids (for example, hydroxybenzoic and hydroxycinnamic acids), flavonoids, and tannins. Flavonoids, such as flavones, flavonols, flavanones, and flavanes (also called flavanols or
catechins) are present in high amounts in dark chocolate (70–85% cocoa), black and green
teas, herbs (for example, parsley, dill, shallots, fennel, mint, and thyme), salad vegetables
(for example, red chicory, rocket, and cress), and grapefruit. Anthocyanins, a subtype of
flavonoids, are water-soluble pigments that contribute to the red, purple, or blue color of
plants and products derived from them. Thus, they are found in high quantities in berries
(for example, blueberries, blackcurrants, blackberries, cranberries, and raspberries) and in
red varieties of cabbage, chicory, and radish. Tannins are grouped into two main categories,
namely hydrolyzable tannins (gallotannins and ellagitannins) and non-hydrolyzable, or
condensed tannins (proanthocyanidins). Tannins are found in high quantities in berries
(for example, blackcurrants, cranberries, blueberries, and strawberries), nuts (for example,
hazelnuts, pecans, pistachios, almonds, and peanuts), stone fruits (for example, plums),
red beans, and red cabbage. Leafy greens and orange vegetables are the richest sources of carotenoids. The most
abundant carotenoid is beta-carotene, which is hydrolyzed in vivo to vitamin A (hence
its alternative name, provitamin A). However, other carotenoids, such as lycopene (a red
pigment present in red tomatoes and grapefruit), lutein (found in green vegetables such
as spinach and lettuce), and zeaxanthin (found in corn (maize)) are not metabolized to
vitamin A. Dietary sulfur compounds are divided into two classes: allyl sulfur compounds (for
example, alliin), which are abundant in alliaceous vegetables, such as onions (Allium
cepa) and garlic (Allium sativum); and glucosinolates, which are found in cruciferous veg-
etables, especially broccoli. During culinary processing and after ingestion, allyl sulfur
compounds and glucosinolates undergo transformation to highly bioactive compounds
(diallyl mono-, di- or tri-sulfides, sulforaphanes, and isothiocyanates) that have antioxidant
and detoxifying properties [12]. 1. Introduction p
g
g p
Phytochemical Class
High
Medium
Low
Phenolic acids
100–650
45–100
5–45
Flax and sunflower seeds, yams,
red chicory, filter coffee,
artichokes, prunes, mushrooms,
endive, mangos, Jerusalem
artichokes, raspberries
Cherries, chia seeds, dark
chocolate (70–85% cocoa),
pineapple, wholegrain wheat,
flageolet beans, white beans,
lentils, split peas
Watermelon, red beans, cashew nuts, walnuts,
coriander (cilantro), potatoes, peaches, carrots,
black tea, broccoli, dates, basil, apples, white
rice, blackcurrants, quinces, green tea,
nectarines, peaches, red wine, red bell peppers
(capsicum), pears, strawberries, apricots,
turnips, grapefruit, cauliflower
Flavonoids (except
anthocyanins)
50–250
10–50
1–10 Cherries, chia seeds, dark
chocolate (70–85% cocoa),
pineapple, wholegrain wheat,
flageolet beans, white beans,
lentils, split peas Flax and sunflower seeds, yams,
red chicory, filter coffee,
artichokes, prunes, mushrooms,
endive, mangos, Jerusalem
artichokes, raspberries Peaches, apples, almonds, figs, raspberries,
green bell peppers (capsicum), Brussels
sprouts, strawberries, bananas, nectarines,
pears, coriander (cilantro), blackcurrants,
hazelnuts, flat beans, flageolet beans, white
beans, lentils, split peas, green beans, celery,
garlic, leeks, white grapes, lettuce, kiwifruit,
black radishes, chickpeas, quinces,
persimmons, mangos, yellow bell peppers
(capsicum), squash, potatoes, tomatoes,
courgettes, flax seeds, cashew nuts, white
cabbage, cauliflower, watermelon
1–10 Red wine, blackberries, oranges,
soy, kale, lemons, chia seeds,
cranberries, onions, black grapes,
artichokes, chives, asparagus,
mandarins, blueberries, pecan
nuts, buckwheat, cherries, olives,
blackcurrants, turnips, pistachio
nuts, broccoli, spinach, apricots,
prunes, endive Dark chocolate (70–85% cocoa),
parsley, black tea, dill, shallots,
fennel, green tea, red chicory,
rocket, mint, grapefruit,
cress, thyme cabbage, cauliflower, watermelon
Anthocyanins
45–210
10–45
1–10
Red cabbage, blueberries,
blackcurrants, red chicory,
blackberries, aubergines
(eggplants), cranberries, red
radishes, raspberries
Currant berries, cherries,
strawberries, red wine, pecan nuts
Pistachio nuts, hazelnuts, red beans, prunes,
walnuts, almonds, apples, nectarines, pears,
peaches, dates
Tannins
100–600
10–100
1–10
Blackcurrants, red beans,
hazelnuts, pecan nuts, cranberries,
pistachios, red cabbage, plums,
blueberries, almonds, peanuts,
strawberries, apples
White and black grapes, peach,
walnuts, currant berries, pears,
apricots, raspberries, nectarines,
red wine, blackberries, cherries,
dates, mangos
Buckwheat, green tea, quinces, black tea,
bananas, kiwifruit, cashew nuts
Carotenoids
5–20
2.5–5
1–2.5
Spinach, carrots, parsley, kale, red
chicory, basil, squash, yams, cress,
lettuce, coriander (cilantro)
Arugula, watermelon, pistachio
nuts, chives, leeks, thyme,
tomatoes, persimmons,
olives, peas
Red bell peppers (capsicum), grapefruit,
apricots, melon, Brussels sprouts, broccoli,
fennel, asparagus, flat beans, red cabbage,
avocados
Sulfur compounds
>1000
100–250
10–100
Onions, leeks
Brussels sprouts, garlic, black
radishes, kale
Red radishes, red cabbage, broccoli, green
cabbage, white cabbage, cauliflower 10–45 Pistachio nuts, hazelnuts, red beans, prunes,
walnuts, almonds, apples, nectarines, pears,
peaches, dates Currant berries, cherries,
strawberries, red wine, pecan nuts 1–10 White and black grapes, peach,
walnuts, currant berries, pears,
apricots, raspberries, nectarines,
red wine, blackberries, cherries,
dates, mangos Buckwheat, green tea, quinces, black tea,
bananas, kiwifruit, cashew nuts 3 of 12 Nutrients 2021, 13, 3628 Table 1. 2. Materials and Methods We designed two typical weekly seasonal menus, one for summer and one for winter,
included plant-based foods commonly found in current French diets (see Tables S1 and S2
in the Supplementary Materials). The menus were consistent with the current recommen-
dations of the French National Agency for Food, Environmental and Occupational Health
and Safety (ANSES; Agence Nationale de Sécurité Sanitaire Alimentation, Environnement,
Travail) [14] and with the scientific literature [15]. Additionally, the menus were designed
to include all essential macro- and micronutrients, and to account for seasonal variations
in the availability of plant foods. We then prepared tables of the phytochemical content
of each food, and used these to estimate the expected phytochemical intake per day for
each menu. Portion sizes were determined for each food category in accordance with French
dietary habits, guidelines from the Groupe d’Étude des Marchés en Restauration Collective
et Nutrition (GEM-RCN; French Collective Study Group on Catering and Nutrition) [16]
and Programme National Nutrition Santé (PNNS; the French National Health Nutrition
Programme) [17], and the opinion of the authors. For each of the menus, the amount of each food category (FC) consumed daily (i.e., FCy,
measured in grams) was calculated using the following formula: FCy = FF × z × PS where FF (frequency factor) is a multiplier reflecting the frequency of intake (FF: Frequency
factors = 1 per day, 0.143 per week, and 0.033 per month), z denotes the total number of
servings, and PS is the portion size in grams. A database of the phytochemical content of 116 plant foods (mainly fruits and veg-
etables) was created. The phytochemicals of interest were phenolic acids, flavonoids
(including anthocyanins, which were considered separately); tannins; organosulfur com-
pounds; carotenoids; and caffeine. The phytochemical content of individual foods was
obtained from the US Department of Agriculture for carotenoids and flavonoids (including
anthocyanidins) [18–20]; Phenol-Explorer for total polyphenols and phenolic acids [21–23];
and published scientific literature for tannins and organosulfur compounds [24]. Data
for organosulfur compounds found in garlic and onion, regrouped in the same category,
were also added. Other data were derived from consumption studies, such as the study
of the average consumption of fruits and vegetables in France [14], as well as research on
phytochemicals reported by Tennant et al. in 2014 [25]. Our analysis focused on phytochemicals with proven health benefits at amounts that
can be readily obtained by dietary intake. 1. Introduction A phytochemical index (PI), based on 24 h intake recall, has been proposed for use in
epidemiological studies of diseases in which diet is a causative factor [13]. The PI is the
percentage of dietary calories derived from foods that are rich in phytochemicals. Diets
with a higher PI have been associated with a lower prevalence of cardiometabolic disorders,
including abdominal obesity, hyperglycemia, hypertension, hypertriglyceridemia, and
metabolic syndrome [13]. Although the PI is a useful global indicator, it does not consider
the amounts of individual phytochemicals or phytochemical families that are present in
a healthy diet; indeed, there is currently no sufficiently sophisticated estimation method
that allows dietary phytochemical content to be readily quantified in a clinical setting. We therefore undertook a study to determine levels of different phytochemicals in a
well-balanced French diet, in order to inform and support public health objectives and
recommendations in France. 4 of 12 Nutrients 2021, 13, 3628 3. Results 3. Results 3. Results
For each menu, the weekly number of portions, and the estimated daily amounts of
each food category, are shown in Table 2. The estimated daily amounts of phytochemicals
associated with each menu are shown in Table 3. Table 2. Menu analysis, according to the number of portions of each food category consumed per week and the amount
(expressed in grams) of each food category consumed per day. Food Category
Examples
Portions per Week
Amounts per Day (g)
Summer Menu
Winter Menu
Summer Menu
Winter Menu
Grains, beans, nuts, and seeds
Starchy foods
Corn, buckwheat, Jerusalem artichokes, oats,
potatoes, quinoa, rice (white and whole),
rye, wheat (refined and whole)
16
18
274.3
308.6
Pulses
Chickpeas, flageolet beans, lentils, red beans,
split peas, white beans
2
2
34.3
34.3
Nuts and seeds
Almonds, cashew nuts, chia seeds, coconut,
flax seeds, hazelnuts, macadamia nuts,
peanuts, pecan nuts, pistachio nuts, sesame
seeds, sunflower seeds, walnuts
0
1
0
2.9
Fruits, vegetables, spices, and herbs
White
Apples, endive, mushrooms, quinces,
parsnips, pears, salsify, turnips, white grapes
2
13
35.7
232.1
White/green
Celery, fennel, leek, shallots
2
3
35.7
53.6
Green
Avocados, asparagus, artichokes, courgettes,
cress, cucumbers, flat beans, green beans,
green bell peppers (capsicum), kiwifruit,
lettuce, olives, peas, rocket, spinach
10
7.5
178.6
133.9
Yellow
Bananas, lemons, pineapple, yellow bell
peppers (capsicum)
3
5
53.6
89.3
Orange
Carrots, mandarins, oranges, squash, yams
10
6
178.6
107.2
Red
Beetroot, cherries, cranberries, redcurrants,
dates, figs, grapefruit, plums, raspberries,
red bell peppers (capsicum), strawberries,
tomatoes, watermelon
13
2
232.1
35.7
Purple
Plums, blackcurrants, blackberries,
blueberries, eggplants, black grapes,
red chicory
5
3
89.3
53.6
Cruciferous
vegetables
Brussels sprouts, broccoli, cauliflower, green
cabbage, kale, red cabbage, white cabbage
0
2
0
35.0
Radishes
Black radishes, red radishes
2
0
35.0
0
Allium spp. Garlic, onions, chives
2
2
5.6
5.6
Herbs
Basil, coriander (cilantro), dill, mint,
parsley, thyme
10
9
14.3
12.9
Beverages
Coffee (filter)
3
3
85.7
85.7
Coffee (espresso)
7
7
60.0
60.0
Tea
Black tea, green tea
4
4
114.3
114.3
Wine
Red wine
2
2
34.3
34.3
Other
Sodas, energy drinks
1
1
28.0
28.0
Plant-derived sweets
Chocolate
Dark chocolate (70–85% cocoa)
7
7
19.6
19.6 For each menu, the weekly number of portions, and the estimated daily amounts of
each food category, are shown in Table 2. 2. Materials and Methods Thus, we did not include phytosterols, because
the beneficial effects of these compounds require a level of intake (for example, >3 g/day for
phytosterols) that can only be achieved by dietary supplementation. Conversely, caffeine
was included as a family in its own right because it accounts for a significant proportion of
daily phytochemical intake, has well-documented health benefits, and is routinely included
in nutritional recommendations such as those issued by ANSES [14]. Deviations of each phytochemical that result from an aggregation of numerous-level
values associated to the variability of plant food products and their consumption frequen-
cies are taken into account in our values. Moreover, some phytochemicals (i.e., carotenoids)
supplied by consuming animal-origin foods such as fish, eggs, milk, and meats were not
integrated in calculations. Animal food products were included in our menus to balance
the caloric intake, but not retained, because their contribution was very low in comparison
to that of the plant food products. 5 of 12 Nutrients 2021, 13, 3628 3. Results The estimated daily amounts of phytochemicals
associated with each menu are shown in Table 3. ysis, according to the number of portions of each food category consumed per week and the amount
) of each food category consumed per day. 6 of 12 Nutrients 2021, 13, 3628 Table 3. Quantity of each phytochemical family (expressed in mg/day) provided by the menus, according to food category. Food or Beverage Category
Phytochemical Content (Summer) [mg/Day]
Phytochemical Content (Winter) [mg/Day]
PA
F
A
T
Car
OS
Caf
PA
F
A
T
Car
OS
Caf
Grains, beans, nuts, and seeds
Starchy foods
136.0
4.2
0.0
2.5
0.2
0.0
0.0
153.0
4.7
0.0
2.8
0.3
0.0
0.0
Pulses
14.8
0.8
0.8
61.9
0.0
0.0
0.0
14.8
0.8
0.8
61.9
0.0
0.0
0.0
Nuts and seeds
0.0
0.0
0.0
0.0
0.0
0.0
0.0
5.3
0.2
0.1
4.9
0.0
0.0
0.0
Fruits, vegetables, spices, and herbs
White
21.0
1.7
0.2
12.2
0.0
0.0
0.0
136.6
11.2
1.1
79.0
0.1
0.0
0.0
White/green
0.2
18.2
0.0
0.0
0.4
0.0
0.0
0.3
27.3
0.0
0.0
0.6
0.0
0.0
Green
106.3
25.3
0.0
0.4
5.9
0.0
0.0
79.7
18.9
0.0
0.3
4.5
0.0
0.0
Yellow
17.2
1.5
0.0
0.5
0.0
0.0
0.0
5.7
22.8
0.0
0.2
0.3
0.0
0.0
Orange
98.1
6.7
0.8
25.7
5.3
0.0
0.0
100.0
1.5
0.2
3.2
8.9
0.0
0.0
Red
94.2
24.8
38.8
132.4
2.3
0.0
0.0
14.5
3.8
6.0
20.4
0.4
0.0
0.0
Purple
46.2
25.4
96.5
154.2
1.4
0.0
0.0
27.7
15.3
57.9
92.5
0.8
0.0
0.0
Cruciferous vegetables
0.0
0.0
0.0
0.0
0.0
0.0
0.0
2.9
2.8
10.5
24.5
0.7
28.7
0.0
Radishes
0.5
0.0
0.0
11.0
0.0
30.7
0.0
0.0
0.0
0.0
0.0
0.0
0.0
0.0
Allium spp. 3.1. Polyphenols The summer and winter menus were estimated to provide 1607.4 and 1441.0 mg/day,
respectively, of polyphenols. Approximately 50% of the polyphenol content of each menu
was accounted for by phenolic acids (800 mg/day), with no difference being observed
between menus. Among individual foods and food categories, filter coffee and starchy
foods (including cereal grains such as oats, rye, and wheat) were the most important
sources of phenolic acids, accounting for approximately 22–23% and 17–19%, respectively,
of estimated total phenolic acids intake. Fruits and vegetables were also found to be
important sources of phenolic acids, providing around 350 mg/day. Flavonoids (including anthocyanins) and tannins were each estimated to account for
approximately 25% of total polyphenols (400 mg/day in summer and 300–330 mg/day
in winter; Table 3). Seasonal differences were driven by greater consumption of red and
purple fruits and vegetables during the warmer months of the year, leading to a higher
intake of anthocyanins in summer than in winter. Red and purple fruits and vegetables
provided 287 mg/day of tannins in summer (71% of total daily tannin consumption), but
just 113 mg/day in winter (37% of total daily tannin consumption). Conversely, pulses
and white fruits and vegetables accounted for a greater proportion of total tannin intake in
winter than in summer (46.7% vs. 18.4%, respectively). 3. Results 0.1
0.8
0.0
0.0
0.0
39.0
0.0
0.1
0.8
0.0
0.0
0.0
39.0
0.0
Herbs
4.2
9.9
0.0
0.0
0.6
0.0
0.0
3.8
8.9
0.0
0.0
0.6
0.0
0.0
Beverages
Coffee (filter)
181.8
0.0
0.0
0.0
0.0
0.0
44.0
181.8
0.0
0.0
0.0
0.0
0.0
44.0
Coffee (espresso)
60.8
0.0
0.0
0.0
0.0
0.0
42.8
60.8
0.0
0.0
0.0
0.0
0.0
42.8
Tea
17.9
110.6
0.0
4.5
0.0
0.0
18.3
17.9
110.6
0.0
4.5
0.0
0.0
18.3
Wine
4.2
16.6
7.5
7.7
0.0
0.0
0.0
4.2
16.6
7.5
7.7
0.0
0.0
0.0
Soda
0.0
0.0
0.0
0.0
0.0
0.0
6.6
0.0
0.0
0.0
0.0
0.0
0.0
6.6
Plant-derived sweets
Chocolate
(dark, 70–85% cocoa)
15.9
51.4
0.0
0.0
0.0
0.0
0.0
15.9
51.4
0.0
0.0
0.0
0.0
0.0
Total (mg)
802.8
247.0
155.7
401.9
16.4
69.8
111.6
809.0
246.2
83.9
301.9
17.1
67.7
111.6
Total polyphenols
(PA + F + A + T)
1607.4
1441.0
A, anthocyanins; Caf, caffeine; Car, carotenoids; F, flavonoids (except anthocyanins); OS, organosulfur compounds; PA, phenolic acids;
T, tannins. each phytochemical family (expressed in mg/day) provided by the menus, according to food category. 4. Discussion We used public domain data to estimate the daily amounts of phytochemicals, divided
into seven families, that would be provided by two one-week seasonal menus that were
considered to: (i) represent a healthy diet; and (ii) accurately reflect the seasonal availability
of plant foods in France. p
The estimated total polyphenol content, calculated as the sum of phenolic acids,
flavonoids, anthocyanins, and tannins of each menu was 1607.4 and 1441.0 mg/day in
summer and winter, respectively. These values are 20–35% higher than those found in the
French SUVIMAX study [26], but comparable to those in a recent analysis of data from the
US National Health and Nutrition Examination Survey (NHANES) [27]. In the latter study,
participants had mean total polyphenol intakes of 1656.6 mg/day, although there were
significant differences between subgroups defined by age, sex, educational level, and body
mass index. We found coffee and starchy foods to be the most important sources of phenolic acids
in our sample diets. Regular coffee drinkers have been shown to have a reduced risk of type
2 diabetes and cardiovascular diseases compared with non-drinkers [28]. Although the
benefits of coffee have been assumed to be a result of its caffeine content [28], decaffeinated
coffee also appears to provide health benefits [29]. This could be due to the presence of
chlorogenic acids, which are not removed by decaffeination; these compounds are respon-
sible for the antioxidant and anti-inflammatory properties of coffee [28]. Starchy foods also
contain phenolic acids in significant amounts, with cereal bran being a particularly rich
source of ferulic acid [30]. Epidemiological studies have suggested that diets rich in whole-
grain cereals have protective effects against cardiovascular disease, type 2 diabetes, and
cancer, and are useful in weight management; the latter observation may be attributable to
both dietary fiber and phenolic acid content [31]. Consumption of leafy green vegetables,
which we also found contributed significantly to phenolic acid intake, has been associated
with a significantly reduced risk of type 2 diabetes [32]. This reduction, however, could be
due to the presence of other phytochemicals (for example, carotenoids) and dietary fiber. Our menus provided approximately 400 mg/day of flavonoids (including antho-
cyanins), a level of intake that was associated in a recent meta-analysis with the maximal
reduction in coronary heart disease risk [33]. 3.4. Caffeine Our menus provided 111.6 mg/day of caffeine in both winter and summer, the
majority of which was from coffee. 3.2. Carotenoids As shown in Table 3, the carotenoid content of each menu was significantly lower than
the polyphenol content on a milligram basis (by a factor of 100 in summer and 84 in winter). However, there was little difference between the daily carotenoid content of the summer Nutrients 2021, 13, 3628 7 of 12 menu (16.2 mg/day) and the winter menu (17.1 mg/day) due to the year-round availability
of foods such as leafy greens, orange fruits and vegetables, and tomatoes. Virtually all of
the carotenoid content of both menus was provided by fruits and vegetables, with very
little coming from other sources. 3.3. Organosulfur Compounds Estimated intakes of organosulfur compounds were comparable in summer and winter
(approximately 70 mg/day), but sources varied between the seasons. In summer, radishes
formed an important source of organosulfur compounds, with cruciferous vegetables being
important in the winter. Allium spp., such as garlic and onions, were important sources of
organosulfur compounds all year round. 4. Discussion Among flavonoid subtypes, flavonols and
flavones were associated with reduced risks of coronary heart disease, but anthocyanins
and flavan-3-ols were found to offer the greatest protection against cardiovascular disease
overall [33]. In vitro and animal studies have shown that flavonoids have antioxidant and anti-
inflammatory properties, and that they can inhibit mutagenesis and carcinogenesis [34]. The potential of anthocyanins to prevent a range of chronic diseases (including obesity,
type 2 diabetes, cardiovascular disease, visual disorders, and neuropathies) has also been Nutrients 2021, 13, 3628 8 of 12 studied [35]. For example, a meta-analysis of 128 randomized controlled trials reported
that the consumption of foods rich in anthocyanins was associated with favorable changes
in blood pressure and total cholesterol in overweight or obese people [36]. As well as being rich in anthocyanins, red and purple fruits and vegetables are
important dietary sources of tannins. The reduced availability (and hence consumption)
of these foods in winter contributes to an approximately 25% reduction in tannin intake
during the colder months. This may be particularly relevant to the health of people who
are overweight or obese, in whom the consumption of foods rich in ellagitannins (for
example, pomegranate, berries, and nuts) has been shown to lower total cholesterol, low-
density lipoprotein (LDL)-cholesterol, and triglycerides levels, and to reduce diastolic blood
pressure [36]. With respect to procyanidins, (condensed tannins), Wallace and colleagues
have proposed an intake of 200 mg/day, with an upper limit of 800 mg/day [37]. Tannins
have been described as antinutritional factors because of their potential to impair iron
bioavailability, and tannin consumption has been linked to the high prevalence of iron
deficiency [38]. Overall, however, a diet rich in a diverse range of polyphenols may be recommended as
an effective nutritional strategy to improve the health of patients with metabolic syndrome,
with potentially beneficial effects on body fat, blood pressure, dyslipidemia, and insulin
resistance, and reductions in oxidative stress, inflammation, and vascular dysfunction [39]. The antioxidant (singlet oxygen quenching and free radical scavenging) and anti-
inflammatory properties of carotenoids are mediated via nuclear factor kappa B (NF-κB)
receptors, which modulate cytokine and chemokine production [40]. 4. Discussion Higher intakes of
carotenoids, particularly beta-carotene and lycopene, have been shown to be inversely as-
sociated with a lower incidence risk of coronary heart disease and stroke [41]; furthermore,
blood concentrations of carotenoids and cryptoxanthin are inversely associated with the
incidence of cardiovascular disease, total cancer, and all-cause mortality [41]. Additionally,
consumption of carotenoid-rich foods may reduce the risk of metabolic syndrome [42]. In the eye, lutein (present in leafy green vegetables), zeaxanthin, and meso-zeaxanthin
(present in corn (maize)) accumulate in the macula; their beneficial effects on vision and
eye health are due to protective effects against the oxidative damage caused by ultraviolet
light [43]. Daily intakes of 6 mg of lutein and 18 mg of lycopene have been recommended,
with upper limits of 60 and 50 mg/day, respectively [37]. Cruciferous vegetables are a source of glucosinolates, which are converted in vivo to
sulforaphane; this bioactive metabolite has been found, in in vitro and animal studies, to
have anticarcinogenic effects [44]. Allium plant species (for example, onion and garlic) are
a source of S-alk(en)yl-L-cysteine sulfoxides. Allium spp. may provide some protection
against cancer, cardiovascular disease, metabolic disorders, and bone disease, due to their
antioxidant, anti-inflammatory, and lipid-lowering properties [45,46]. y
p
g p
p
Our menus delivered identical daily amounts of caffeine regardless of season. In
France, tea and coffee are the two major dietary sources of caffeine. At one end of the scale,
brewed black tea provides approximately 20 mg caffeine per 100 mL, while, at the other,
espresso coffee provides approximately 75 mg caffeine per 100 mL [47]. However, the
caffeine content of prepared coffee beverages is known to vary considerably (58–259 mg per
100 mL), with espresso coffees typically containing less caffeine than brewed coffees [48],
and there is therefore likely to be wide inter- and intra-individual variation in caffeine
intake among French people. It is also important to recognize that, in recent decades,
energy drinks and sodas have become significant sources of caffeine. Caffeine, among other properties, has been reported to increase energy expendi-
ture [49], and its consumption may have measurable metabolic effects in at least some
individuals. In a meta-analysis published in 2011, caffeine and catechins were found to
synergistically augment fat oxidation [50]. Rigorous reviews have concluded that the
consumption of up to 400 mg/day of caffeine is not associated with adverse effects in
healthy adults [51–53]. 4. Discussion An upper limit of 300 mg/day has been proposed for pregnant
women [51]. 9 of 12 9 of 12 Nutrients 2021, 13, 3628 There are limitations to the type of analysis that we have presented here. First, we only
considered 116 food items. Second, a major consideration is that agronomic practices (for
example, variety, irrigation, fertilization, and harvesting date) and methods of food storage
and preparation can significantly modify the phytochemical content of plant foods [54–57]. A sensitivity study should be carried out in the future with the high, medium, and low
values of phytochemicals. We did not take this into account, due to a lack of robust scientific
data in the USDA and Phenol-Explorer databases on these effects. The extent to which
processing affects nutrient content varies between foods, and it was therefore impossible to
apply a universal multiplier or other factor to adjust for food preparation. Indeed, while
cooking food generally results in the loss of water-soluble, oxidizable, and heat-sensitive
phytochemicals, it can also lead to an improvement in the assimilation of others, such as
carotenoids [58]. 5. Conclusions Our study estimates the levels of different phytochemicals that are present in a well-
balanced French diet (i.e., one meeting current guidelines on macro- and micronutrient
requirements) in adults. This estimation constitutes the first step to addressing, in the
future, adequate intakes to support health benefits. Our findings indicate that consuming
a diverse range of plant foods provides a broad spectrum of phytochemicals in both
summer and winter, with estimated intakes of each phytochemical family being generally
comparable between the seasons. Further research linking dietary phytochemical intake
to health outcomes would allow existing approaches to PI calculation to be refined and
improved. We believe our work will help dietitians and nutritionists to identify gaps
between observed and target phytochemical intake in adults in France, and to recommend
personalized nutritional strategies for maintaining good health. We plan to carry out
further work to deliver personalized dietary solutions, taking into account individual
specificities, such allergies, and food intolerances and preferences. Supplementary Materials: The following are available online at https://www.mdpi.com/article/10
.3390/nu13103628/s1: Table S1: Summer menu; Table S2: Winter menu. Author Contributions: Conceptualization, M.-J.A., C.L. and S.R.; Methodology, M.-J.A., C.L. and
S.R.; Formal Analysis, C.L. and S.R.; Validation, M.-J.A.; Writing—Original Draft Preparation, M.-J.A.;
Writing—Review & Editing, M.-J.A., C.L., L.P. and S.R. All authors have read and agreed to the
published version of the manuscript. Funding: This research received no external funding. Institutional Review Board Statement: Not applicable. Institutional Review Board Statement: Not applicable. Informed Consent Statement: Not applicable. Data Availability Statement: All scientific data calculated in the course of this study, and presented
in this publication, are available from Christian Latgé and Sylvie Raynal upon reasonable request. All requests should be sent to: sylvie.raynal@pierre-fabre.com. Acknowledgments: We would like to thank Richard Crampton of Springer Healthcare Communica-
tions who edited and formatted the manuscript for publication. This editorial assistance was funded
by Pierre Fabre Laboratories, France. We are also grateful to Emilie Ondet, publication manager at
Pierre Fabre, who ensured the follow-up of the paper’s redaction and communication between the
authors and the medical writer. Conflicts of Interest: M-J. Amiot and L. Plumey have acted as consultants for, and as expert witnesses
on behalf of, Pierre Fabre Laboratories, France. C. Latgé and S. Raynal are employees of Pierre Fabre
Laboratories, France. 10 of 12 Nutrients 2021, 13, 3628 References Tolve, R.; Cela, N.; Condelli, N.; Di Cairano, M.; Caruso, M.C.; Galgano, F. Micr
Functional Foods: The Phytosterols’ Case Study. Foods 2020, 9, 470. [CrossRef] lve, R.; Cela, N.; Condelli, N.; Di Cairano, M.; Caruso, M.C.; Galgano, F. Microencapsulation as a Tool for t
nctional Foods: The Phytosterols’ Case Study. Foods 2020, 9, 470. [CrossRef]
´ i˛ekus, N.; Marszałek, K.; Podlacha, M.; Iqbal, A.; Puchalski, C.; ´Swiergiel, A.H. Health Benefits of Plan
d
Gl
i
l t
d O
lf
C
d
Molecules 2020 25 3804 [C
R f] 12. Mi˛ekus, N.; Marszałek, K.; Podlacha, M.; Iqbal, A.; Puchalski, C.; ´Swiergiel, A.H. Health Benefits of Plant-Derived Sulfur
Compounds, Glucosinolates, and Organosulfur Compounds. Molecules 2020, 25, 3804. [CrossRef] 13. Kim, M.; Park, K. Association between phytochemical index and metabolic syndrome. Nutr. Res. Pract. 2020, 14, 252–261. [CrossRef] 14. Agence Nationale de Sécurité Sanitaire Alimentation. RAPPORT de l’Anses Relatif à l’Actualisation des Repères du PNNS:
Étude des Relations Entre Consommation de Groupes d’Aliments et Risque de Maladies Chroniques Non Transmissibles. November 2016. Available online: https://www.researchgate.net/publication/312665902_Actualisation_des_reperes_du_PNNS_
etude_des_relations_entre_consommation_de_groupes_d\T1\textquoterightaliments_et_risque_de_maladies_chroniques_
non_transmissibles (accessed on 1 August 2021). g
p
Étude des Relations Entre Consommation de Groupes d’Aliments et Risque de Maladies Chroniques Non Transmissibles. November 2016. Available online: https://www.researchgate.net/publication/312665902_Actualisation_des_reperes_du_PNNS_
etude_des_relations_entre_consommation_de_groupes_d\T1\textquoterightaliments_et_risque_de_maladies_chroniques_
t
i
ibl
(
d
1 A
t 2021) 15. Estruch, R.; Ros, E.; Salas-Salvadó, J.; Covas, M.I.; Corella, D.; Arós, F.; Gómez-Gracia, E.; Ruiz-Gutiérrez, V.; Fiol, M.; Lapetra, J.;
et al. Primary Prevention of Cardiovascular Disease with a Mediterranean Diet Supplemented with Extra-Virgin Olive Oil or
Nuts. N. Engl. J. Med. 2018, 378, e34. [CrossRef] 16. Groupe d’Etude des Marches de Restauration Collective et Nutrition (GEM-RCN). Recommandation Nutrition. Available online:
https://www.economie.gouv.fr/files/directions_services/daj/marches_publics/oeap/gem/nutrition/nutrition.pdf (accessed
on 1 September 2021). 17. Chaltiel, D.; Adjibade, M.; Deschamps, V.; Touvier, M.; Hercberg, S.; Julia, C.; Kesse-Guyot, E. Programme National Nutrition
Santé—Guidelines score 2 (PNNS-GS2): Development and validation of a diet quality score reflecting the 2017 French dietary
guidelines. Br. J. Nutr. 2019, 122, 331–342. [CrossRef] [PubMed] 18. US Department of Agriculture (USDA). USDA Database for the Proanthocyanidin Content of Selected Foods, Release 2. 2015. Available online: https://data.nal.usda.gov/dataset/usda-database-proanthocyanidin-content-selected-foods-release-2-2015
(accessed on 1 September 2021). 19. US Department of Agriculture (USDA). USDA Database for the Flavonoid Content of Selected Foods. Release 3.2. November 2015. Available online: https://data.nal.usda.gov/dataset/usda-database-flavonoid-content-selected-foods-release-32-november-
2015 (accessed on 1 September 2021). (
p
)
20. US Department of Agriculture (USDA). USDA Branded Food Products Database. References 1. Nissensohn, M.; Román-Viñas, B.; Sánchez-Villegas, A.; Piscopo, S.; Serra-Majem, L. The Effect of the Mediterranean Diet on
Hypertension: A Systematic Review and Meta-Analysis. J. Nutr. Educ. Behav. 2016, 48, 42–53. [CrossRef] [PubMed] yp
y
y
2. Korakas, E.; Dimitriadis, G.; Raptis, A.; Lambadiari, V. Dietary Composition and Cardiovascular Risk: A Mediator or a Bystander? Nutrients 2018, 10, 1912. [CrossRef] no, M.I.; Bellastella, G.; Chiodini, P.; Panagiotakos, D.; Giugliano, D. A journey into a Mediterranean diet and
ystematic review with meta-analyses. BMJ Open 2015, 5, e008222. [CrossRef] [PubMed] 3. Esposito, K.; Maiorino, M.I.; Bellastella, G.; Chiodini, P.; Panagiotakos, D.; Giugliano, D. A journey into
type 2 diabetes: A systematic review with meta-analyses. BMJ Open 2015, 5, e008222. [CrossRef] [PubM 4. Jannasch, F.; Kröger, J.; Schulze, M.B. Dietary Patterns and Type 2 Diabetes: A Systematic Literature Review and Meta-Analysis of
Prospective Studies. J. Nutr. 2017, 147, 1174–1182. [CrossRef] p
5. Loughrey, D.G.; Lavecchia, S.; Brennan, S.; Lawlor, B.A.; Kelly, M.E. The Impact of the Mediterranean Diet on the Cognitive
Functioning of Healthy Older Adults: A Systematic Review and Meta-Analysis. Adv. Nutr. 2017, 8, 571–586. [CrossRef] [PubMed]
6. Petersson, S.D.; Philippou, E. Mediterranean Diet, Cognitive Function, and Dementia: A Systematic Review of the Evidence. Adv. Nutr. 2016, 7, 889–904. [CrossRef] [PubMed] 7. Rosato, V.; Temple, N.J.; La Vecchia, C.; Castellan, G.; Tavani, A.; Guercio, V. Mediterranean diet and cardiovascular disease: A
systematic review and meta-analysis of observational studies. Eur. J. Nutr. 2019, 58, 173–191. [CrossRef] 8. Schwingshackl, L.; Schwedhelm, C.; Galbete, C.; Hoffmann, G. Adherence to Mediterranean Diet and Risk of Cancer: An Updated
Systematic Review and Meta-Analysis. Nutrients 2017, 9, 1063. [CrossRef] 8. Schwingshackl, L.; Schwedhelm, C.; Galbete, C.; Hoffmann, G. Adherence to Mediterranean Diet and Ris
Systematic Review and Meta-Analysis. Nutrients 2017, 9, 1063. [CrossRef] K.D.; Kennedy, D.O.; Tomás-Barberán, F.A. The effects of polyphenols and other bioactives on human health
514–528. [CrossRef] 9. Fraga, C.G.; Croft, K.D.; Kennedy, D.O.; Tomás-Barberán, F.A. The effects of polyphenols and other bio
Food Funct. 2019, 10, 514–528. [CrossRef] 10. Serafini, M.; Peluso, I. Functional Foods for Health: The Interrelated Antioxidant and Anti-Inflammatory Role of Fruits, Vegetables,
Herbs, Spices and Cocoa in Humans. Curr. Pharm. Des. 2016, 22, 6701–6715. [CrossRef] p
11. Tolve, R.; Cela, N.; Condelli, N.; Di Cairano, M.; Caruso, M.C.; Galgano, F. Microencapsulation as a Tool for the Formulation of
Functional Foods: The Phytosterols’ Case Study. Foods 2020, 9, 470. [CrossRef] 11. References Available online: https://data.nal.usda.gov/
dataset/usda-branded-food-products-database (accessed on 1 September 2021). 21. Rothwell, J.A.; Pérez-Jiménez, J.; Neveu, V.; Medina-Ramon, A.; M’Hiri, N.; Garcia Lobato, P.; Manach, C.; Knox, K.; Eisner, R.;
Wishart, D.; et al. Phenol-Explorer 3.0: A major update of the Phenol-Explorer database to incorporate data on the effects of food
processing on polyphenol content. Database 2013, 2013, bat070. [CrossRef] [PubMed] p
g
p
yp
22. Neveu, V.; Perez-Jiménez, J.; Vos, F.; Crespy, V.; du Chaffaut, L.; Mennen, L.; Knox, C.; Eisner, R.; Cruz, J.; Wishart, D.; et al. Phenol-Explorer: An online comprehensive database on polyphenol contents in foods. Database 2010, 2010, bap024. [CrossRef]
[PubMed] 23. Phenol-Explorer. Database on Polyphenol Content in Foods. Available online: http://phenol-explorer.eu/foods (accessed on
1 September 2021). p
24. McNaughton, S.A.; Marks, G.C. Development of a food composition database for the estimation of dietary intakes of glucosino-
lates, the biologically active constituents of cruciferous vegetables. Br. J. Nutr. 2003, 90, 687–697. [CrossRef] 11 of 12 11 of 12 Nutrients 2021, 13, 3628 25. Tennant, D.R.; Davidson, J.; Day, A.J. Phytonutrient intakes in relation to European fruit and vegetable consumption patterns
observed in different food surveys. Br. J. Nutr. 2014, 112, 1214–1225. [CrossRef] y
26. Pérez-Jiménez, J.; Fezeu, L.; Touvier, M.; Arnault, N.; Manach, C.; Hercberg, S.; Galan, P.; Scalbert, A. Dietary intake of 337
l
h
l i
F
h d lt
A
J Cli
N t
2011 93 1220 1228 [C
R f] [P bM d] y
26. Pérez-Jiménez, J.; Fezeu, L.; Touvier, M.; Arnault, N.; Manach, C.; Hercberg, S.; Galan, P.; Scalbert, A. Dietary intake of 337
polyphenols in French adults. Am. J. Clin. Nutr. 2011, 93, 1220–1228. [CrossRef] [PubMed] 26. Pérez-Jiménez, J.; Fezeu, L.; Touvier, M.; Arnault, N.; Manach, C.; Hercberg, S.; Galan, P.; Scalbert,
polyphenols in French adults. Am. J. Clin. Nutr. 2011, 93, 1220–1228. [CrossRef] [PubMed] p
yp
27. Huang, Q.; Braffett, B.H.; Simmens, S.J.; Young, H.A.; Ogden, C.L. Dietary Polyphenol Intake in US Adults and 10-Year Trends:
2007-2016. J. Acad. Nutr. Diet. 2020, 120, 1821–1833. [CrossRef] 28. O’Keefe, J.H.; Bhatti, S.K.; Patil, H.R.; DiNicolantonio, J.J.; Lucan, S.C.; Lavie, C.J. Effects of habitual coffee consumption on
cardiometabolic disease, cardiovascular health, and all-cause mortality. J. Am. Coll. Cardiol. 2013, 62, 1043–1051. [CrossRef]
[PubMed] 29. Sinha, R.; Cross, A.J.; Daniel, C.R.; Graubard, B.I.; Wu, J.W.; Hollenbeck, A.R.; Gunter, M.J.; Park, Y.; Freedman, N.D. References Caffeinated
and decaffeinated coffee and tea intakes and risk of colorectal cancer in a large prospective study. Am. J. Clin. Nutr. 2012, 96,
374–381. [CrossRef] 30. Călinoiu, L.F.; Vodnar, D.C. Whole Grains and Phenolic Acids: A Review on Bioactivity, Functionality, Health Benefits and
Bioavailability. Nutrients 2018, 10, 1615. [CrossRef] 31. Seal, C.J.; Brownlee, I.A. Whole-grain foods and chronic disease: Evidence from epidemiological and intervention studies. Proc. Nutr. Soc. 2015, 74, 313–319. [CrossRef] [PubMed] 32. Li, M.; Fan, Y.; Zhang, X.; Hou, W.; Tang, Z. Fruit and vegetable intake and risk of type 2 diabetes mellitus: Meta-analysis of
prospective cohort studies. BMJ Open 2014, 4, e005497. [CrossRef] [PubMed] 33. Micek, A.; Godos, J.; Del Rio, D.; Galvano, F.; Grosso, G. Dietary Flavonoids and Cardiovascular Disease: A Comprehensive
Dose-Response Meta-Analysis. Mol. Nutr. Food Res. 2021, 65, e2001019. [CrossRef] p
y
34. Panche, A.N.; Diwan, A.D.; Chandra, S.R. Flavonoids: An overview. J. Nutr. Sci. 2016, 5, e47. [CrossRe 34. Panche, A.N.; Diwan, A.D.; Chandra, S.R. Flavonoids: An overview. J. Nutr. Sci. 2016, 5, e47. [CrossRef]
35. Khoo, H.E.; Azlan, A.; Tang, S.T.; Lim, S.M. Anthocyanidins and anthocyanins: Colored pigments as food, pharmaceutical
ingredients, and the potential health benefits. Food Nutr. Res. 2017, 61, 1361779. [CrossRef] 35. Khoo, H.E.; Azlan, A.; Tang, S.T.; Lim, S.M. Anthocyanidins and anthocyanins: Colored pigme
ingredients, and the potential health benefits. Food Nutr. Res. 2017, 61, 1361779. [CrossRef] 36. García-Conesa, M.T.; Chambers, K.; Combet, E.; Pinto, P.; Garcia-Aloy, M.; Andrés-Lacueva, C.; de Pascual-Teresa, S.; Mena, P.;
Konic Ristic, A.; Hollands, W.J.; et al. Meta-Analysis of the Effects of Foods and Derived Products Containing Ellagitannins and
Anthocyanins on Cardiometabolic Biomarkers: Analysis of Factors Influencing Variability of the Individual Responses. Int. J. Mol. Sci. 2018, 19, 694. [CrossRef] [PubMed] y, R.L.; Blumberg, J.B.; Burton-Freeman, B.; Chen, C.O.; Crowe-White, K.M.; Drewnowski, A.; Hooshmand 37. Wallace, T.C.; Bailey, R.L.; Blumberg, J.B.; Burton-Freeman, B.; Chen, C.O.; Crowe-White, K.M.; Drewnowski, A.; Hooshmand,
S.; Johnson, E.; Lewis, R.; et al. Fruits, vegetables, and health: A comprehensive narrative, umbrella review of the science and
recommendations for enhanced public policy to improve intake. Crit. Rev. Food Sci. Nutr. 2020, 60, 2174–2211. [CrossRef] 38. Delimont, N.M.; Haub, M.D.; Lindshield, B.L. The Impact of Tannin Consumption on Iron Bioavailability and Status: A Narrative
Review. Curr. Dev. Nutr. 2017, 1, 1–12. [CrossRef] 39. Amiot, M.J.; Riva, C.; Vinet, A. Effects of dietary polyphenols on metabolic syndrome features in h
Obes. Rev. References 2016, 17, 573–586. [CrossRef] .; Vinet, A. Effects of dietary polyphenols on metabolic syndrome features in humans: A systematic review
573–586. [CrossRef] 40. Gouranton, E.; Thabuis, C.; Riollet, C.; Malezet-Desmoulins, C.; El Yazidi, C.; Amiot, M.J.; Borel, P.; Landrier, J.F. Lycopene inhibits
proinflammatory cytokine and chemokine expression in adipose tissue. J. Nutr. Biochem. 2011, 22, 642–648. [CrossRef] [PubMed] 41. Aune, D.; Keum, N.; Giovannucci, E.; Fadnes, L.T.; Boffetta, P.; Greenwood, D.C.; Tonstad, S.; Vatten, L.J.; Riboli, E.; Norat,
T. Dietary intake and blood concentrations of antioxidants and the risk of cardiovascular disease, total cancer, and all-cause
mortality: A systematic review and dose-response meta-analysis of prospective studies. Am. J. Clin. Nutr. 2018, 108, 1069–1091. [CrossRef] 42. Goncalves, A.; Amiot, M.J. Fat-soluble micronutrients and metabolic syndrome. Curr. Opin. Clin. Nutr. Metab. Care 2017, 20,
492–497. [CrossRef] [PubMed] 43. Bernstein, P.S.; Li, B.; Vachali, P.P.; Gorusupudi, A.; Shyam, R.; Henriksen, B.S.; Nolan, J.M. Lutein, zeaxanthin, and meso-
zeaxanthin: The basic and clinical science underlying carotenoid-based nutritional interventions against ocular disease. Prog. Retin. Eye Res. 2016, 50, 34–66. [CrossRef] [PubMed] 44. Vanduchova, A.; Anzenbacher, P.; Anzenbacherova, E. Isothiocyanate from Broccoli, Sulforaphane, and Its Properties. J. Med. Food 2019, 22, 121–126. [CrossRef] 45. Ansary, J.; Forbes-Hernández, T.Y.; Gil, E.; Cianciosi, D.; Zhang, J.; Elexpuru-Zabaleta, M.; Simal-Gandara, J.; Giampieri, F.;
Battino, M. Potential Health Benefit of Garlic Based on Human Intervention Studies: A Brief Overview. Antioxidants 2020, 9, 619. [CrossRef] [PubMed] 46. Wan, Q.; Li, N.; Du, L.; Zhao, R.; Yi, M.; Xu, Q.; Zhou, Y. Allium vegetable consumption and health: An umbrella review of
meta-analyses of multiple health outcomes. Food Sci. Nutr. 2019, 7, 2451–2470. [CrossRef] [PubMed] 47. Reyes, C.M.; Cornelis, M.C. Caffeine in the Diet: Country-Level Consumption and Guidelines. Nutrients 2018, 10, 1772. [CrossRef]
[PubMed] 48. McCusker, R.R.; Goldberger, B.A.; Cone, E.J. Caffeine content of specialty coffees. J. Anal. Toxicol. 2003
[PubMed] 49. Gonzalez de Mejia, E.; Ramirez-Mares, M.V. Impact of caffeine and coffee on our health. Trends Endocrinol. Metab. 2014, 25,
489–492. [CrossRef] [PubMed] 12 of 12 12 of 12 Nutrients 2021, 13, 3628 50. Hursel, R.; Viechtbauer, W.; Dulloo, A.G.; Tremblay, A.; Tappy, L.; Rumpler, W.; Westerterp-Plantenga, M.S. The effects of catechin
rich teas and caffeine on energy expenditure and fat oxidation: A meta-analysis. Obes. Rev. 2011, 12, e573–e581. [CrossRef]
[PubMed] [
]
51. References Wikoff, D.; Welsh, B.T.; Henderson, R.; Brorby, G.P.; Britt, J.; Myers, E.; Goldberger, J.; Lieberman, H.R.; O’Brien, C.; Peck, J.; et al. Systematic review of the potential adverse effects of caffeine consumption in healthy adults, pregnant women, adolescents, and
children. Food Chem. Toxicol. 2017, 109, 585–648. [CrossRef] [PubMed] 52. Nawrot, P.; Jordan, S.; Eastwood, J.; Rotstein, J.; Hugenholtz, A.; Feeley, M. Effects of caffeine on human health. Food Addit. Contam. 2003, 20, 1–30. [CrossRef] [PubMed] 53. EFSA. Scientific Opinion on the safety of caffeine. EFSA J. 2015, 13, 4102. Available online: https://www.efsa.europa.eu/en/
efsajournal/pub/4102 (accessed on 1 September 2021). 54. Zhu, Q.; Wang, B.; Tan, J.; Liu, T.; Li, L.; Liu, Y.G. Plant Synthetic Metabolic Engineering for Enhancing
Plant Commun. 2020, 1, 100017. [CrossRef] an, J.; Liu, T.; Li, L.; Liu, Y.G. Plant Synthetic Metabolic Engineering for Enhancing Crop Nutritional Quality
, 1, 100017. [CrossRef] 55. Ceccanti, C.; Landi, M.; Benvenuti, S.; Pardossi, A.; Guidi, L. Mediterranean Wild Edible Plants: Weeds or “New Functional
Crops”? Molecules 2018, 23, 2299. [CrossRef] 56. Björkman, M.; Klingen, I.; Birch, A.N.; Bones, A.M.; Bruce, T.J.; Johansen, T.J.; Meadow, R.; Mølmann, J.; Seljåsen, R.; Smart, L.E.;
et al. Phytochemicals of Brassicaceae in plant protection and human health—Influences of climate, environment and agronomic
practice. Phytochemistry 2011, 72, 538–556. [CrossRef] p
y
y
57. Kesarwani, A.; Chiang, P.Y.; Chen, S.S. Distribution of phenolic compounds and antioxidative activities of rice kernel and their
relationships with agronomic practice. Sci. World J. 2014, 2014, 620171. [CrossRef] [PubMed]
58. Palermo, M.; Pellegrini, N.; Fogliano, V. The effect of cooking on the phytochemical content of vegetables. J. Sci. Food Agric. 2014,
94 1057 1070 [C
R f] [P bM d] 57. Kesarwani, A.; Chiang, P.Y.; Chen, S.S. Distribution of phenolic compounds and antioxidative activities of rice kernel and their
relationships with agronomic practice. Sci. World J. 2014, 2014, 620171. [CrossRef] [PubMed] ,
;
g,
;
,
p
p
relationships with agronomic practice. Sci. World J. 2014, 2014, 620171. [CrossRef] [PubMed]
58. Palermo, M.; Pellegrini, N.; Fogliano, V. The effect of cooking on the phytochemical content of vegetables. J. Sci. Food Agric. 2014,
94, 1057–1070. [CrossRef] [PubMed] 58. Palermo, M.; Pellegrini, N.; Fogliano, V. The effect of cooking on the phytochemical content of vegetables. J. Sci. Food Agric. 2014,
94, 1057–1070. [CrossRef] [PubMed]
|
https://openalex.org/W3210052084
|
https://zenodo.org/records/1218965/files/Studentu_dzives_apstakli_EUROSTUDENT_VI_2017.pdf
|
Latvian
| null |
Studentu sociālie un ekonomiskie dzīves apstākļi Latvijā, 2017
|
Zenodo (CERN European Organization for Nuclear Research)
| 2,018
|
cc-by
| 46,144
|
Pētījuma pasūtītājs
Latvijas Republikas Izglītības un zinātnes ministrija
Vaļņu iela 2, Rīga, LV-1050
http://www.izm.gov.lv/
Pētījuma veicējs
Latvijas Universitātes Filozofijas un socioloģijas institūts
Kalpaka bulvāris 4, Rīga, LV-1050
http://www.fsi.lu.lv/
Projekta vadītāja
Ilze Koroļeva
Koordinators
Aleksandrs Aleksandrovs
Teksta autori
Ilze Koroļeva, Ilze Trapenciere, Aleksandrs Aleksandrovs, Rita Kaša
DOI: 10.5281/zenodo.1218965
© Latvijas Republikas Izglītības un zinātnes ministrija, 2017
© Latvijas Universitātes Filozofijas un socioloģijas institūts, 2017
© Teksta autori, 2017
© Foto: Toms Grīnbergs, Latvijas Universitātes Komunikācijas un inovāciju departaments Pētījuma pasūtītājs
Latvijas Republikas Izglītības un zinātnes ministrija
Vaļņu iela 2, Rīga, LV-1050
http://www.izm.gov.lv/ Pētījuma pasūtītājs
Latvijas Republikas Izglītības un zinātnes ministrija
Vaļņu iela 2, Rīga, LV-1050
http://www.izm.gov.lv/ Pētījuma veicējs
Latvijas Universitātes Filozofijas un socioloģijas institūts
Kalpaka bulvāris 4, Rīga, LV-1050
http://www.fsi.lu.lv/ Pētījuma veicējs
Latvijas Universitātes Filozofijas un socioloģijas institūts
Kalpaka bulvāris 4, Rīga, LV-1050
http://www.fsi.lu.lv/ SATURS
1. KOPSAVILKUMS
2. EUROSTUDENT IETVARS
3. PĒTĪJUMA METODOLOĢIJA
4. STUDĒJOŠO RAKSTUROJUMS
5. STUDENTU SOCIĀLĀ IZCELSME
6. PĀREJA UZ AUGSTĀKO IZGLĪTĪBU
7. NODARBINĀTĪBA STUDIJU LAIKĀ
8. LAIKA BUDŽETS
9. MATERIĀLAIS STĀVOKLIS
10. STUDIJU NOVĒRTĒJUMS
11. STARPTAUTISKĀ MOBILITĀTE
12. MĀJOKLIS STUDIJU LAIKĀ
13. LĪDZDALĪBA UN NĀKOTNES PLĀNI 7 105 ATTĒLI ATTĒLI
1. attēls. Augstākās izglītības sociālā dimensija
17
2. attēls. Vecāku augstākais sasniegtais izglītības līmenis (%)
27
3. attēls. Vecāku ģimenes materiālās labklājības novērtējums (%)
28
4. attēls. Studējošo pašvērtējums par iespējām iegādāties dažādas preces un pakalpojumus 2013. un
2017. gadā (%)
30
5. attēls. Darba pieredze pirms studiju uzsākšanas augstskolā vai koledžā (%)
35
6. attēls. Studējošo nodarbinātības statuss mācību semestra laikā 2009., 2013. un 2017. gadā
38
7. attēls. Algots darbs (vid. stundas nedēļā)
39
8. attēls. Attieksme pret darba vai studiju prioritāti (%)
39
9. attēls. Nodarbinātība mācību semestra laikā: iemesli (%)
41
10. attēls. Darba atbilstība specialitātei (studiju programmai) (%)
42
11. attēls. Darba saistība ar specialitāti atkarībā no studiju programmas (%)
42
12. attēls. Darba saistība ar specialitāti atkarībā no izglītības jomas (%)
43
13. attēls. Studējošo nodarbībās (lekcijās, laboratorijas darbos u.tml.) pavadītais laiks salīdzinājumā ar
2009. un 2013. gadu (vid. stundas)
46
14. attēls. Patstāvīgām studijām veltītais laiks salīdzinājumā ar 2009. un 2013. gadu (vid. stundas)
47
15. attēls. Studējošo nodarbībās pavadītais laiks dažādos studiju līmeņos (vid. stundas nedēļā)
48
16. attēls. Patstāvīgām studijām veltītais laiks dažādos studiju līmeņos (vid. stundas nedēļā)
48
17. attēls. Kopējais studiju aktivitātēm veltītais laiks atkarībā no studiju programmas
(stundas vid. nedēļā)
49
18. attēls. Kopējais studiju aktivitātēm veltītais laiks atkarībā no izglītības jomas (stundas vid. nedēļā)
50
19. attēls. Studiju intensitāte atkarībā no studiju programmas (%)
52
20. attēls. Darba un mācību slodzes attiecība dažādos studiju līmeņos (%)
52
21. attēls. Studiju intensitāte atkarībā no nodarbinātības mācību semestra laikā (%)
53
22. attēls. Studējošo attieksme pret darba noslodzi atkarībā no nostrādāto stundu skaita nedēļā (%)
54
23. attēls. Tiešo ikmēneša ienākumu saņemšana no dažādiem avotiem (%)
57
24. attēls. Tiešo ienākumu avotu īpatsvars (%)
61
25. attēls. Finansiālo grūtību pieredzes subjektīvais vērtējums (%)
62
26. attēls. Ikmēneša izdevumu īpatsvars, ko sedz pats studējošais pēc izdevumu kategorijām (% no
atbilstošās kategorijas)
63
27. attēls. Studiju maksas, reģistrācijas maksas un citu studiju maksu segšanas struktūra (%)
66
28. attēls. Kopējie studējošo izdevumi dažādās studējošo grupās (paša un citu apmaksāti, eur)
67
29. attēls. Apmierinātība ar galvenajiem studiju kvalitātes aspektiem (%)
70
30. attēls. Apmierinātība ar studiju apstākļiem: materiāli tehniskais nodrošinājums (%)
70
31. attēls
Studiju organizācijas novērtējums (%)
72
32. attēls. Valodu prasmju pašvērtējums (rakstītprasme un sarunvaloda ir ļoti laba) (%)
73
33. attēls. Pasniegšanas kvalitātes vērtējums (%)
74
34. attēls. Docētāju darba vērtējums (%)
74
35. attēls. TABULAS Darba saistība ar specialitāti atkarībā no izglītības jomas (%)
43
13. attēls. Studējošo nodarbībās (lekcijās, laboratorijas darbos u.tml.) pavadītais laiks salīdzinājumā ar
2009. un 2013. gadu (vid. stundas)
46
14. attēls. Patstāvīgām studijām veltītais laiks salīdzinājumā ar 2009. un 2013. gadu (vid. stundas)
47
15. attēls. Studējošo nodarbībās pavadītais laiks dažādos studiju līmeņos (vid. stundas nedēļā)
48
16. attēls. Patstāvīgām studijām veltītais laiks dažādos studiju līmeņos (vid. stundas nedēļā)
48
17. attēls. Kopējais studiju aktivitātēm veltītais laiks atkarībā no studiju programmas
(stundas vid. nedēļā)
49
18. attēls. Kopējais studiju aktivitātēm veltītais laiks atkarībā no izglītības jomas (stundas vid. nedēļā)
50
19. attēls. Studiju intensitāte atkarībā no studiju programmas (%)
52
20. attēls. Darba un mācību slodzes attiecība dažādos studiju līmeņos (%)
52
21. attēls. Studiju intensitāte atkarībā no nodarbinātības mācību semestra laikā (%)
53
22. attēls. Studējošo attieksme pret darba noslodzi atkarībā no nostrādāto stundu skaita nedēļā (%)
54
23. attēls. Tiešo ikmēneša ienākumu saņemšana no dažādiem avotiem (%)
57
24. attēls. Tiešo ienākumu avotu īpatsvars (%)
61
25. attēls. Finansiālo grūtību pieredzes subjektīvais vērtējums (%)
62
26. attēls. Ikmēneša izdevumu īpatsvars, ko sedz pats studējošais pēc izdevumu kategorijām (% no
atbilstošās kategorijas)
63
27. attēls. Studiju maksas, reģistrācijas maksas un citu studiju maksu segšanas struktūra (%)
66
28. attēls. Kopējie studējošo izdevumi dažādās studējošo grupās (paša un citu apmaksāti, eur)
67
29. attēls. Apmierinātība ar galvenajiem studiju kvalitātes aspektiem (%)
70
30. attēls. Apmierinātība ar studiju apstākļiem: materiāli tehniskais nodrošinājums (%)
70
31. attēls
Studiju organizācijas novērtējums (%)
72
32. attēls. Valodu prasmju pašvērtējums (rakstītprasme un sarunvaloda ir ļoti laba) (%)
73
33. attēls. Pasniegšanas kvalitātes vērtējums (%)
74
34. attēls. Docētāju darba vērtējums (%)
74
35. attēls. Apmierinātība ar studiju programmas materiāli tehnisko nodrošinājumu dažādās programmās
(vidējās vērtības)
76
36. attēls. Apmierinātība ar dažādiem studiju procesa organizācijas aspektiem (vid.)
77
37. attēls. Docētāju darba vērtējums dažādās programmās (vidējās vērtības)
80
38. attēls. Docētāju darba vērtējums dažādās izglītības jomās (vidējās vērtības)
80 TABULAS 1. tabula. Izlases rāmja aptvertais augstskolu un koledžu studentu skaits
20
2. tabula. Izlases raksturojums
25
3. tabula. Vecāku nodarbinātības statuss (%)
27
4. tabula. Vecāku ģimenes turīguma vērtējums atkarībā no vecāku izglītības līmeņa (vid.)
28
5. tabula. Studējošo pašvērtējums par iespējām iegādāties dažādas preces un pakalpojumus (%)
29
6. tabula. Augstskolu studentu sadalījums pa reģioniem atkarībā no vidējās izglītības iegūšanas vietas
(rindu %)
32
7. tabula. Nodarbinātība un attieksme pret nodarbinātību atkarībā no studiju līmeņa (%)
40
8. tabula. Studiju aktivitātēm veltītās stundas atkarībā no nodarbinātības mācību semestra laikā
(vid. nedēļā)
51
9. tabula. Studējošo attieksme pret studiju un darba noslodzi atkarībā no studiju intensitātes (%)
55
10. tabula. Tiešie ikmēneša ienākumi no dažādiem avotiem (vid., eur)
57
11. tabula. Tiešie ikmēneša ienākumi to saņēmēju grupās (eur)
58
12. tabula. Ikmēneša ienākumi no atmaksājamiem un neatmaksājamiem finansējuma avotiem (eur)
59
13. tabula. Regulārie ikdienas izdevumi: sedz students pats no savā rīcībā esošiem līdekļiem (vid., eur)
63
14. tabula. Regulārie ikdienas izdevumi: sedz vecāki, partneris vai citi (vid., eur)
64
15. tabula. Ar studijām saistītie ikmēneša izdevumi, paša un citu apmaksāti (vid. mēnesī, eur)
65
16. tabula. Kopējie studējošo izdevumi (paša un citu apmaksāti, eur)
67
17. tabula. Aktivitātes, kurās studenti piedalījušies pēdējo 12 mēnešu laikā: 2013. gads un 2017. gads (%)
106
18. tabula. Dalība sabiedriskajās organizācijās: 2013. gads un 2017. gads (%)
107
19. tabula. Sociālā un politiskā aktivitāte dažādās studējošo grupās (rindu %)
108
20. tabula. Dalība organizācijās un mākslinieciskās pašdarbības, radošajos kolektīvos dažādās
studējošo grupās (rindu %)
108
21. tabula. Sociālā un politiskā aktivitāte atkarībā no studiju intensitātes (rindu %)
109
22. tabula. Dalība sabiedriskajās organizācijās atkarībā no studiju intensitātes un
nodarbinātības (rindu %)
109 ATTĒLI
1. attēls. Augstākās izglītības sociālā dimensija
17
2. attēls. Vecāku augstākais sasniegtais izglītības līmenis (%)
27
3. attēls. Vecāku ģimenes materiālās labklājības novērtējums (%)
28
4. attēls. Studējošo pašvērtējums par iespējām iegādāties dažādas preces un pakalpojumus 2013. un
2017. gadā (%)
30
5. attēls. Darba pieredze pirms studiju uzsākšanas augstskolā vai koledžā (%)
35
6. attēls. Studējošo nodarbinātības statuss mācību semestra laikā 2009., 2013. un 2017. gadā
38
7. attēls. Algots darbs (vid. stundas nedēļā)
39
8. attēls. Attieksme pret darba vai studiju prioritāti (%)
39
9. attēls. Nodarbinātība mācību semestra laikā: iemesli (%)
41
10. attēls. Darba atbilstība specialitātei (studiju programmai) (%)
42
11. attēls. Darba saistība ar specialitāti atkarībā no studiju programmas (%)
42
12. attēls. ATTĒLI Apmierinātība ar studiju programmas materiāli tehnisko nodrošinājumu dažādās programmās
(vidējās vērtības)
76
36. attēls. Apmierinātība ar dažādiem studiju procesa organizācijas aspektiem (vid.)
77
37. attēls. Docētāju darba vērtējums dažādās programmās (vidējās vērtības)
80
38. attēls. Docētāju darba vērtējums dažādās izglītības jomās (vidējās vērtības)
80 39. attēls. Studentu viedoklis par sagatavotību Latvijas un starptautiskajam darba tirgum pēc
pašreizējās studiju programmas pabeigšanas (%)
83
40. attēls. Apmierinātība ar studiju procesa organizācijas finansiālajiem aspektiem (%)
84
41. attēls. Iekļaušanās augstākās izglītības sistēmā: studentu pašvērtējums (%)
85
42. attēls. Docētāju attieksmes vērtējums (%)
86
43. attēls. Studentu viedoklis par augstskolas un augstākās izglītības kvalitāti kopumā (%)
87
44. attēls. Studiju pieredze ārzemēs (%)
90
45. attēls. Biežāk minētās valstis, kurās studējuši respondenti (%)
91
46. attēls. Studiju pieredze ārzemēs atkarībā no izglītības jomas (%)
91
47. attēls. Ārvalstu studiju pieredze atkarībā no studiju līmeņa (%)
92
48. attēls. Ārvalstu studiju pieredze atkarībā no respondentu vecuma (%)
92
49. attēls. Ārvalstu studiju pieredze atkarībā no augstskolas atrašanās vietas (%)
93
50. attēls. Studiju ilgums ārzemēs (%)
93
51. attēls. Studijas ārzemēs dažādu programmu ietvaros (%)
94
52. attēls. Kredītpunktu (ECTS, sertifikātu u.c.) atzīšana Latvijas augstskolās (%)
94
53. attēls. Ārvalstu akadēmiskās mobilitātes mērķis un iegūtie ECTS (%)
95
54. attēls. Ārzemju studiju finansējuma avoti (%)
95
55. attēls. Šķēršļi studijām ārzemēs: pieredzētie un prognozējamie (%)
97
56. attēls. Studiju pieredze ārzemēs un valodu skaits, ieskaitot dzimto, kurās ir ļoti laba rakstītprasme un
sarunvaloda (%)
97
57. attēls. Augstākās izglītības kvalitātes aspektu vērtējums atkarībā no ārvalstu studiju pieredzes (%)
99
58. attēls. Sagatavotības Latvijas darba tirgum vērtējums atkarībā no ārvalstu studiju pieredzes (%)
100
59. attēls. Sagatavotības starptautiskajam darba tirgum vērtējums atkarībā no ārvalstu
studiju pieredzes (%)
100
60. attēls. Plāni pēc pašreizējās studiju programmas absolvēšanas atkarībā no ārvalstu studiju pieredzes
(%)
101
61. attēls. Ar ko dzīvo studiju laikā (%)
102
62. attēls. Kopmītnēs/dienesta viesnīcā dzīvojošo studentu īpatsvars (%)
103
63. attēls. Apmierinātība ar dažādiem mājokļa aspektiem (%)
104
64. attēls. Apmierinātība ar mājokli atkarībā no tā, vai respondents dzīvo vai nedzīvo ar vecākiem (%)
104
65. attēls. Studiju plāni pēc pašreizējo studiju beigšanas atkarībā no studiju līmeņa (%)
110
66. attēls. Plāni pirmajam gadam pēc pašreizējo studiju beigšanas (%)
110 39. attēls. Studentu viedoklis par sagatavotību Latvijas un starptautiskajam darba tirgum pēc
pašreizējās studiju programmas pabeigšanas (%)
83
40. attēls. Apmierinātība ar studiju procesa organizācijas finansiālajiem aspektiem (%)
84
41. attēls. ATTĒLI Iekļaušanās augstākās izglītības sistēmā: studentu pašvērtējums (%)
85
42. attēls. Docētāju attieksmes vērtējums (%)
86
43. attēls. Studentu viedoklis par augstskolas un augstākās izglītības kvalitāti kopumā (%)
87
44. attēls. Studiju pieredze ārzemēs (%)
90
45. attēls. Biežāk minētās valstis, kurās studējuši respondenti (%)
91
46. attēls. Studiju pieredze ārzemēs atkarībā no izglītības jomas (%)
91
47. attēls. Ārvalstu studiju pieredze atkarībā no studiju līmeņa (%)
92
48. attēls. Ārvalstu studiju pieredze atkarībā no respondentu vecuma (%)
92
49. attēls. Ārvalstu studiju pieredze atkarībā no augstskolas atrašanās vietas (%)
93
50. attēls. Studiju ilgums ārzemēs (%)
93
51. attēls. Studijas ārzemēs dažādu programmu ietvaros (%)
94
52. attēls. Kredītpunktu (ECTS, sertifikātu u.c.) atzīšana Latvijas augstskolās (%)
94
53. attēls. Ārvalstu akadēmiskās mobilitātes mērķis un iegūtie ECTS (%)
95
54. attēls. Ārzemju studiju finansējuma avoti (%)
95
55. attēls. Šķēršļi studijām ārzemēs: pieredzētie un prognozējamie (%)
97
56. attēls. Studiju pieredze ārzemēs un valodu skaits, ieskaitot dzimto, kurās ir ļoti laba rakstītprasme un
sarunvaloda (%)
97
57. attēls. Augstākās izglītības kvalitātes aspektu vērtējums atkarībā no ārvalstu studiju pieredzes (%)
99
58. attēls. Sagatavotības Latvijas darba tirgum vērtējums atkarībā no ārvalstu studiju pieredzes (%)
100
59. attēls. Sagatavotības starptautiskajam darba tirgum vērtējums atkarībā no ārvalstu
studiju pieredzes (%)
100
60. attēls. Plāni pēc pašreizējās studiju programmas absolvēšanas atkarībā no ārvalstu studiju pieredzes
(%)
101
61. attēls. Ar ko dzīvo studiju laikā (%)
102
62. attēls. Kopmītnēs/dienesta viesnīcā dzīvojošo studentu īpatsvars (%)
103
63. attēls. Apmierinātība ar dažādiem mājokļa aspektiem (%)
104
64. attēls. Apmierinātība ar mājokli atkarībā no tā, vai respondents dzīvo vai nedzīvo ar vecākiem (%)
104
65. attēls. Studiju plāni pēc pašreizējo studiju beigšanas atkarībā no studiju līmeņa (%)
110
66. attēls. Plāni pirmajam gadam pēc pašreizējo studiju beigšanas (%)
110 1. KOPSAVILKUMS Tādēļ Eurostudent pētījuma instrumentārijā iekļauta virkne jautājumu, kas fiksē
dažādus pārejas veidus no vidējās izglītības uz augstāko izglītību, studentu darba pieredzi
pirms iestāšanās augstskolā, mācību pārtraukumus starp studiju uzsākšanu un
absolvēšanu, kā arī plānus par turpmākajām studijām. Pārejas uz augstāko izglītību mērījumi atbilstoši Eurostudent pētījuma koncepcijai aptver
svarīgu Boloņas procesa aspektu — augstākās izglītības pieejamību dažādām iedzīvotāju
grupām. Tādēļ Eurostudent pētījuma instrumentārijā iekļauta virkne jautājumu, kas fiksē
dažādus pārejas veidus no vidējās izglītības uz augstāko izglītību, studentu darba pieredzi
pirms iestāšanās augstskolā, mācību pārtraukumus starp studiju uzsākšanu un
absolvēšanu, kā arī plānus par turpmākajām studijām. Pastāv divi pārejas veidi no vidējās uz augstāko izglītību: tiešais — iestāšanās augstskolā
ne vairāk kā divu gadu laikā pēc skolas pabeigšanas un novēlotais — kad iestāšanās
augstskolā notiek pēc ilgāka perioda. Tiešais pārejas veids raksturo 85% no studējošo
kopuma, bet 15% studentu bijis pārtraukums. Atbilstoši Eurostudent V aptaujas
rezultātiem pārtraukums starp vidējās izglītības iegūšanu un studiju uzsākšanu augstākajā
izglītībā 2013. gadā bija 14% studentu. Iespējams, ka novēlotā pāreja saistāma ar darba gaitu uzsākšanu pēc skolas beigšanas —
studenti, kas vēlāk iestājušies augstskolā, biežāk strādā studiju semestra laikā. Paralēli
studijām regulāru algotu darbu strādā 47% studentu, kas augstskolā iestājušies tūlīt pēc
vidējās izglītības, 48% studentu, kas iestājušies 1–2 gadus pēc vidējās izglītības
pabeigšanas un 59% novēlotās pārejas studentu. Salīdzinājumā ar 2013. gadu no 86% līdz 92,5% pieaudzis to studentu īpatsvars, kuri kopš
studiju uzsākšanas augstākajā izglītībā studiju gaitas nav pārtraukuši. Tuvākā gada laikā pēc pašreizējās programmas absolvēšanas 28% studentu plāno studijas
turpināt, vēl 15% plāno to darīt ne agrāk kā gadu pēc pašreizējo studiju pabeigšanas, 16%
šobrīd neplāno turpināt izglītības ceļu. Ļoti liela daļa studentu (40%) vēl nav izlēmuši, vai
un kad turpināt studijas. Atbildot uz jautājumu, kurā valstī gribētu turpināt studijas, 60% izvēlas Latviju, 28% vēl
nav izlēmuši vai nezina, kur gribētu studēt, bet 12% plāno studēt ārzemēs. Atbilžu izkliede
ietver ļoti plašu valstu spektru, kur studenti vēlētos studēt. Kopumā nosauktas 28 valstis,
no kurām visbiežāk minētas Vācija, Lielbritānija, ASV, Ziemeļeiropas valstis. Uz darba pieredzi pirms studiju uzsākšanas augstākās izglītības sistēmā, līdzīgi kā
2009. gadā, norādījuši kopumā 66% studentu, no tiem regulārs darbs vismaz gadu bez
pārtraukuma un ar slodzi vismaz 20 stundas nedēļā bijis 23% studentu, bet ar slodzi
mazāku nekā 20 stundas nedēļā un/vai mazāk nekā gadu strādājuši kopumā 43%. Tātad
tikai trešdaļai jauniešu, pirmo reizi iestājoties augstskolā, nav bijusi nekāda darba
pieredze. 1. KOPSAVILKUMS Projekts Eurostudent ir starptautiska iniciatīva, kuras ietvaros kopš 1999. gada Boloņas
procesa valstīs pēc vienotas metodoloģijas tiek veiktas studentu aptaujas. Šogad Eiropā
Eurostudent pētījums tiek realizēts jau sesto reizi un tajā piedalās 30 valstis. Latvija
projektā piedalās kopš 2003. gada, kad tika īstenots pētījuma otrais posms. Eurostdudent VI pētījumu Latvijā realizēja Latvijas Universitātes Filozofijas un socioloģijas
institūts. Pētījums sniedz ieskatu tādos aktuālos jautājumos kā: augstākās izglītības pieejamība,
studiju apstākļu raksturojums, studiju procesa vērtējums, starptautiskā mobilitāte studiju
laikā, studentu nodarbinātība, integrācija darba tirgū, studentu ienākumu un izdevumu
struktūra, līdzdalība sabiedrības dzīve. Pētījums sniedz ieskatu tādos aktuālos jautājumos kā: augstākās izglītības pieejamība,
studiju apstākļu raksturojums, studiju procesa vērtējums, starptautiskā mobilitāte studiju
laikā, studentu nodarbinātība, integrācija darba tirgū, studentu ienākumu un izdevumu
struktūra, līdzdalība sabiedrības dzīve. Latvijas situācijas analīze balstās uz 2363 pilna laika studentu sniegtajām atbildēm;
saskaņā ar starptautiski izstrādāto metodoloģiju aptauja tika veikta 29 valsts un juridisko
personu dibinātās augstākās izglītības iestādēs visā Latvijā. Līdzīgi kā iepriekšējo Eurostudent pētījuma posmu rezultāti, arī 2017. gada aptaujas dati
apstiprina hipotēzi par vecāku izglītības saistību ar respondenta izglītības ceļa izvēli. Dažāda līmeņa augstākā izglītība ir vairāk nekā pusei studentu vecāku — 62% gadījumu
vismaz vienam no vecākiem ir augstākā izglītība, kas parāda to, ka studentu vecākiem ir
augstāks formālās izglītības līmenis nekā vidēji Latvijas iedzīvotāju populācijā. Latvijā
tradicionāli sieviešu izglītības līmenis ir augstāks nekā vīriešu: augstākā izglītība ir 59% no
aptaujāto mātēm un 37% tēvu. Raksturojot savu vecāku ģimenes materiālo labklājību,
vairāk nekā trešā daļa — 38% studentu savu vecāku ģimeni vērtējuši kā turīgu, 46%
uzskata, ka ģimene ir vidēji pārtikusi, un salīdzinoši neliela daļa — 16% raksturo to kā ne
pārāk turīgu vai trūcīgu. Dati norāda uz tiešu sakarību starp vecāku izglītības līmeni un
vecāku ģimenes materiālo pārticību (atbilstoši studentu subjektīvajam vērtējumam). Lai arī liela daļa studentu, kuri patstāvīgi strādā un kuriem ir savi ienākumi vai kuri ir jau
nodibinājuši savu ģimeni, nav vairs tieši atkarīgi no vecāku palīdzības un viņu materiālā
atbalsta, tomēr pastāv korelācija starp vecāku ģimenes pārticības līmeņa vērtējumu un
pašu studentu labklājības līmeņa subjektīvo novērtējumu. Studenti no mazāk pārtikušām
ģimenēm četras reizes biežāk nekā pārējie min, piemēram, to, ka ienākumi neļauj normāli
ēst vai ļauj iegādāties tikai pašu nepieciešamāko. 7 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Pārejas uz augstāko izglītību mērījumi atbilstoši Eurostudent pētījuma koncepcijai aptver
svarīgu Boloņas procesa aspektu — augstākās izglītības pieejamību dažādām iedzīvotāju
grupām. 1. KOPSAVILKUMS Atbilstoši Eurostudent pētījuma datiem ar katru gadu turpina pieaugt pilna laika studentu
nodarbinātība. Paralēli studijām algotā darbā strādājošo studentu daļa no 2009. līdz
2017. gadam ir palielinājusies no 45% līdz 61%. 8 8 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Mācību semestra laikā regulārs algots darbs ir 49% studējošo (2013. gadā regulārā darbā
bija nodarbināti 36%, bet 2009. gadā — 32% studentu). Gandrīz nemainīga saglabājas to
studentu daļa, kas līdztekus studijām strādā neregulāru darbu, t.i., strādā laiku pa
laikam — šobrīd tie ir 12%, iepriekšējos gados 13% no studējošajiem. No tiem, kas
konkrētajā mācību semestrī nestrādāja (39%), algotu darbu vispār nekad nav strādājuši
vien 8% studentu. Dažādos studiju līmeņos vērojamas nozīmīgas atšķirības starp studentu nodarbinātības
rādītājiem. Semestra laikā algotu darbu strādā 83% maģistrantu, 62% koledžas studentu. Kopš 2013. gada nozīmīgi pieaugusi nodarbinātība bakalaura programmā studējošo grupā
— paralēli studijām šobrīd strādā 50% šādu studentu. Viszemākais nodarbināto studentu
īpatsvars semestra laikā ir garā cikla 2. līmeņa profesionālās augstākās izglītības
programmās (izlasē šo grupu pārstāv veselības aprūpes izglītības jomas studenti): algotā
darbā nodarbināti 35% no šajā jomā studējošo kopuma. Periodā starp vairākiem Eurostudent pētījuma posmiem pakāpeniski palielinājies algotam
darbam veltīto stundu skaits, vienlaikus nozīmīgi samazinoties studijām veltīto stundu
apjomam, kuru veido lekcijās, nodarbībās, laboratorijas darbos un patstāvīgās studijās
pavadītā laika summa. Tas noticis galvenokārt uz patstāvīgo studiju / mācīšanās rēķina,
kurām veltītais laiks pēdējos četros gados sarucis no 15,19 līdz 13,93 stundām vidēji
nedēļā. Savukārt algotā darbā nostrādāto stundu skaits šajā pašā laika posmā nozīmīgi
palielinājies no 28,6 līdz 31,26 stundām vidēji nedēļā. Kas ir primārs mūsdienu studentiem — darbs vai mācības? «Pirmkārt es strādāju un
studēju paralēli algotam darbam,» — tā uz šo jautājumu atbild 45% no strādājošajiem
studentiem. Lielākā daļa studentu (81%) strādā, lai segtu savas dzīvošanas izmaksas
(ikdienas tēriņus), tomēr otrs svarīgākais motīvs studentu skatījumā ir darba pieredzes
iegūšana (68%). Un patiesi, optimistiskāk savas nākotnes izredzes darba tirgū pēc
pašreizējo studiju beigšanas vērtē tie studenti, kuriem jau ir darba pieredze, un tie, kuri
šobrīd strādā. Atbilstoši subjektīvam vērtējumam jau studiju laikā vairāk nekā puse (52%)
studentu strādā atbilstoši augstskolā apgūstamajai specialitātei / profesijai. Darbā gūtajiem ienākumiem ir galvenā loma studentu vidējo ienākumu būtiskā
pieaugumā gan salīdzinājumā ar 2009. gadu, gan 2013. gadu. Kopējā ienākumu struktūrā
vislielāko apjomu naudas izteiksmē veido ienākumi no algotā darba, kas gūti, gan
strādājot paralēli studijām, gan veidojot uzkrājumu no apmaksāta darba brīvlaikā u.tml. 1. KOPSAVILKUMS Turpretī vecāku sniegtais atbalsts, kas joprojām ir izplatītākais ienākumu avots studentu
budžetā, naudas izteiksmē nav būtiski palielinājies. Studenta vidējie ikmēneša ienākumi Latvijā 2017. gadā bija 579,22 eiro, kas ir par 221,31
eiro vairāk nekā 2013. gadā. Šis vidējo ienākumu pieaugums saistīts ar pašu studentu
nopelnīto līdzekļu daļas pieaugumu kopējā studējošo ienākumu struktūrā. Proti,
salīdzinot ar 2013. gadu, būtiski palielinājusies tā ienākumu daļa, ko studējošie gūst, vai
nu paralēli studijām strādājot algotu darbu, vai arī ir uzkrājuši no sava iepriekš veiktā
darba. Otrajā vietā pēc ienākumu nozīmīguma studentiem saglabājas vecāku vai partnera 9 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI sniegtais finansiālais atbalsts. Tas arī ir pieaudzis, tomēr ne tik būtiski, cik studentu pašu
ienākumi. Turklāt studentu skaits, kas paļaujas uz ģimenes materiālo atbalstu, ir sarucis
par 9%. Tas gan ir likumsakarīgi, ņemot vērā to, ka palielinājusies algotu darbu strādājošo
studentu proporcija. Aptaujas dati apliecina, ka studentu finansiālā atbalsta sistēma Latvijā valsts nodrošināto
stipendiju un aizdevumu formā nav primārais studentu ienākumu avots. Vidēji valstī tikai
15% studentu kā ienākumu avotu izmanto valsts nodrošināto stipendiju un 8% valsts
galvoto aizdevumu. Ienākums valsts ikmēneša stipendijas formā studentiem, kas to
saņem, vidēji ir 99 eiro, bet aizdevuma apjoms studenta ikdienas izdevumu segšanai jeb
studējošā kredīts studenta ienākumos veido vidēji 149 eiro. Vērtējot studējošo izdevumus 2017. gadā, jāsecina, ka studenti no savā rīcībā esošajiem
līdzekļiem sedz vidēji 63% ikdienas izdevumu. Atlikušo izdevumu daļu apmaksā kāds cits,
visbiežāk vecāki vai partneris. Visvairāk ģimene palīdz mājokļa izdevumu segšanā,
apmaksājot vidēji 52% šo izdevumu mēnesī. Taču pārējos ikdienas dzīves izdevumus
studenti lielākoties sedz no personiskajiem līdzekļiem. Aplūkojot ar studijām saistītās vidējās izmaksas kā atsevišķu izdevumu pozīciju, redzams,
ka studiju tēriņi veido vidēji 9% mēnesī. Savukārt 91% ikmēneša izdevumu saistīts ar
ikdienas dzīves vajadzībām. Šie dati liecina, ka augstākās izglītības pieejamība ir būtiski
atkarīga ne tikai no studējošo spējas segt mācību maksu un citus ar augstskolu saistītos
maksājumus, bet arī no spējas gūt ienākumus iztikai. Augstākās izglītības kvalitātes novērtējums Eurostudent VI pētījumā tiek balstīts uz vairāk
nekā 20 studiju procesa komponentu — studentu apmierinātības ar pasniegšanas
kvalitāti, dažādu studiju procesa organizācijas un materiāli tehniskā nodrošinājuma
aspektu vērtējumu. Latvijas «vidējais students», līdzīgi kā Eurostudent iepriekšējā posmā pirms četriem
gadiem, ir diezgan apmierināts gan ar studiju kvalitāti kopumā, gan studiju materiāli
tehniskās vides nodrošinājumu, gan pasniegšanas un docētāju darba kvalitāti, nedaudz
mazāk apmierināts ar studiju procesa organizāciju. Salīdzinājumā ar 2013. gadu
2017. 1. KOPSAVILKUMS Iespējams, ka studentiem, kam nav bijusi saskarsm
starptautisko darba tirgu, grūti izvērtēt, vai viņu izglītība, zināšanas, prasme
kompetences ir vai nav tam piemērotas, un atbildes drīzāk norāda uz informētīb
izpratnes trūkumu, nevis viennozīmīgi uz zināšanu vai prasmju trūkumu. Pārliecinā
par savu sagatavotību starptautiskajam darba tirgum ir garā cikla 2. līmeņa profesi
studiju programmu studenti. Līdzīgi kā iepriekšējā pētījuma posmā, gandrīz puse studentu uzskata, ka kop
augstākā izglītība Latvijā ir tikpat kvalitatīva kā citās valstīs. Vidējais vērtējums ga
visās programmās ir līdzīgs, izņemot divas izglītības jomas — informācija
komunikācijas tehnoloģijas (apgalvojumam piekrīt 50% studentu) un soc detalizētu rakstisku vērtējumu un skaidrojumu par izpildītajiem uzdevumiem. Šī tendence
tika novērota arī iepriekšējā pētījuma posmā 2013. gadā, kad aptuveni trešdaļa studentu
apgalvoja, ka pasniedzēji gandrīz nekad vai nekad nesniedz detalizētu pārbaudes vai
pastāvīgo darbu vērtējumu. Trešais kvalitātes komponents — studiju organizācija kopumā saņēmusi zemāko
vērtējumu. Šī studiju kvalitātes komponenta ietvaros visaugstāk tiek vērtēta informētība
par starptautiskajām programmām, bet viszemāk — prakses nodrošinājums un
organizācija. Ļoti zemu prakses iespējas un to nodrošinājumu vērtē bakalaura un jo īpaši
maģistra programmu studenti. Mazāk nekā puse studentu (45%) ir apmierināti ar
iespējām izvēlēties kursus no plašāka kursu klāsta. Iespējams, ka, samazinoties studentu
skaitam, skaitliski nelielajās programmās augstskolām ir grūtāk finansiāli nodrošināt plašu
studiju kursu klāstu. Iespējamais risinājums būtu fakultāšu vai pat augstskolu sadarbība
plašāka kursu klāsta nodrošināšanā. Lai arī augstākajā izglītībā aktuāla ir ārvalstu docētāju piesaiste un lekciju piedāvājums
svešvalodās, šim studiju procesa organizācijas aspektam ir dots viszemākais vērtējums. Tikai 40% studentu ir apmierināti ar augstskolas piedāvājumu, bet 23% ir neapmierināti ar
to. Te iespējama divējāda interpretācija: daļu studentu neapmierina tas, ka ir maz lekciju
svešvalodās; no otras puses — daļai studentu ir nepietiekamas svešvalodu zināšanas, lai
klausītos lekciju kursu vai daļu no lekciju kursa. Vērtējot studējošo un augstskolas administrācijas sadarbību studiju kursu uzlabošanā,
studentu viedoklis samērā reti ticis ņemts vērā, lai uzlabotu studiju kursa vai programmas
saturu. Pastarpināts rādītājs izglītības kvalitātei augstskolā ir studentu apmierinātība ar
augstskolas izvēli. Vairums studējošo izvēlētos to pašu augstskolu (75%), neliela daļa
izvēlētos to pašu augstskolu, bet citu programmu, bet 4% pavisam noteikti izvēlētos
citu augstskolu. Izvērtējot prasmes un zināšanas, kuras gūtas studējot, vairāk nekā puse (55%) studentu
uzskata, ka ir labi sagatavoti Latvijas darba tirgum. Kritiskāk tiek vērtēta sagatavotība
starptautiskajam darba tirgum — tikai 29% uzskata, ka, pabeidzot pašreizējās studijas,
būs pietiekami sagatavoti tam. 1. KOPSAVILKUMS gadā pieaugusi studentu apmierinātība ar materiāli tehnisko nodrošinājumu nekā
2013. gadā. Studiju materiāli tehniskais nodrošinājums apmierina kopumā divas trešdaļas studentu —
no tiem augstāko vērtējumu snieguši koledžu un garā cikla profesionālās augstākās
izglītības programmu studenti. Otrais kvalitātes komponents — docētāju darbs studentu vidū guvis augstu novērtējumu,
īpaši izceļot pasniegšanas un lekciju kvalitāti, individuālo darbu ar studentiem
(konsultācijas). Visu studējošo vidū augstu tiek vērtēta docētāju pieejamība konsultācijām
un atbalsts studiju darbu izstrādes gaitā — 78% studentu vienmēr vai gandrīz vienmēr
saņem nepieciešamo atbalstu, konsultācijas. Nozīmīgi retāk studenti ir saņēmuši 10 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI detalizētu rakstisku vērtējumu un skaidrojumu par izpildītajiem uzdevumiem. Šī tend
tika novērota arī iepriekšējā pētījuma posmā 2013. gadā, kad aptuveni trešdaļa stud
apgalvoja, ka pasniedzēji gandrīz nekad vai nekad nesniedz detalizētu pārbaude
pastāvīgo darbu vērtējumu. Trešais kvalitātes komponents — studiju organizācija kopumā saņēmusi ze
vērtējumu. Šī studiju kvalitātes komponenta ietvaros visaugstāk tiek vērtēta inform
par starptautiskajām programmām, bet viszemāk — prakses nodrošinājum
organizācija. Ļoti zemu prakses iespējas un to nodrošinājumu vērtē bakalaura un jo
maģistra programmu studenti. Mazāk nekā puse studentu (45%) ir apmierinā
iespējām izvēlēties kursus no plašāka kursu klāsta. Iespējams, ka, samazinoties stud
skaitam, skaitliski nelielajās programmās augstskolām ir grūtāk finansiāli nodrošināt
studiju kursu klāstu. Iespējamais risinājums būtu fakultāšu vai pat augstskolu sada
plašāka kursu klāsta nodrošināšanā. Lai arī augstākajā izglītībā aktuāla ir ārvalstu docētāju piesaiste un lekciju piedāvā
svešvalodās, šim studiju procesa organizācijas aspektam ir dots viszemākais vērtē
Tikai 40% studentu ir apmierināti ar augstskolas piedāvājumu, bet 23% ir neapmierin
to. Te iespējama divējāda interpretācija: daļu studentu neapmierina tas, ka ir maz le
svešvalodās; no otras puses — daļai studentu ir nepietiekamas svešvalodu zināšana
klausītos lekciju kursu vai daļu no lekciju kursa. Vērtējot studējošo un augstskolas administrācijas sadarbību studiju kursu uzlabo
studentu viedoklis samērā reti ticis ņemts vērā, lai uzlabotu studiju kursa vai program
saturu. Pastarpināts rādītājs izglītības kvalitātei augstskolā ir studentu apmierinātīb
augstskolas izvēli. Vairums studējošo izvēlētos to pašu augstskolu (75%), neliela
izvēlētos to pašu augstskolu, bet citu programmu, bet 4% pavisam noteikti izvē
citu augstskolu. Izvērtējot prasmes un zināšanas, kuras gūtas studējot, vairāk nekā puse (55%) stud
uzskata, ka ir labi sagatavoti Latvijas darba tirgum. Kritiskāk tiek vērtēta sagatav
starptautiskajam darba tirgum — tikai 29% uzskata, ka, pabeidzot pašreizējās stu
būs pietiekami sagatavoti tam. 1. KOPSAVILKUMS Iespējams, ka studentiem, kam nav bijusi saskarsme ar
starptautisko darba tirgu, grūti izvērtēt, vai viņu izglītība, zināšanas, prasmes un
kompetences ir vai nav tam piemērotas, un atbildes drīzāk norāda uz informētības un
izpratnes trūkumu, nevis viennozīmīgi uz zināšanu vai prasmju trūkumu. Pārliecinātākie
par savu sagatavotību starptautiskajam darba tirgum ir garā cikla 2. līmeņa profesionālo
studiju programmu studenti. Līdzīgi kā iepriekšējā pētījuma posmā, gandrīz puse studentu uzskata, ka kopumā
augstākā izglītība Latvijā ir tikpat kvalitatīva kā citās valstīs. Vidējais vērtējums gandrīz
visās programmās ir līdzīgs, izņemot divas izglītības jomas — informācijas un
komunikācijas tehnoloģijas (apgalvojumam piekrīt 50% studentu) un sociālās, 11 11 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI komunikācijas un informācijas zinātnes (apgalvojumam piekrīt nozīmīgi mazāka daļa —
36% studentu). Tam, ka augstākajai izglītībai jābūt līdzvērtīgi pieejamai reģionos, piekrīt
vairāk nekā divas trešdaļas respondentu (72%) neatkarīgi no studiju līmeņa un izglītības
jomas. Jautājumā par budžeta studiju vietām gandrīz divas trešdaļas studentu atbalsta
viedokli par nepieciešamību nodrošināt budžeta studiju vietas ikvienam studentam. Retāk
studenti atbalsta viedokli, ka budžeta vietas jānodrošina tikai tiem studējošajiem, kas
turpmāk strādās tautsaimniecībā noderīgās jomās (40,3%). Aptaujas dati 2017. gadā liecina, ka studenti aktīvāk nekā iepriekš iesaistās starptautiskajā
akadēmiskajā mobilitātē. Salīdzinot ar 2013. gadu, ievērojami palielinājusies to studentu
proporcija, kas ir studējuši vai plāno studēt ārvalstīs. Pirms četriem gadiem 5% studentu
bija studējuši ārvalstīs, bet 12% to plānoja darīt. Savukārt 2017. gadā ārvalstīs bija
studējuši 9% un vēl 25% plānoja to darīt. Salīdzinot ar aptauju pirms četriem gadiem,
redzams, ka visās zinātņu jomās palielinājies to studentu skaits, kas ir ieguvuši vai vēlas
iegūt ārvalstu studiju pieredzi. Kopmītnēs dzīvojošo studentu (kas pētnieciskajā literatūrā tiek uzskatīta par optimālo
studenta mājokļa veidu) proporcija kopš 2013. gada ir sarukusi no 26% līdz 19%. Kopumā
82% aptaujāto studentu ir apmierināti ar sava mājokļa apstākļiem studiju laikā. Visaugstāk
tos vērtējuši studenti, kas dzīvo pie vecākiem vai kopā ar partneri/dzīvesbiedru, mazāk
apmierināti ar sava mājokļa apstākļiem ir tie studenti, kas dzīvo vieni paši vai kopā ar
draugiem īrē mājokli. Būtiski atšķiras kopmītnēs dzīvojošo studentu viedoklis —
apmierināti ar dzīves apstākļiem kopmītnēs ir mazāk nekā puse (44%) studentu, bet ļoti
neapmierināts ir gandrīz katrs ceturtais (24%). 12 12 2. EUROSTUDENT IETVARS Šis pārskata ziņojums atspoguļo starptautiskā zinātniskā pētījuma «Studentu sociālie un
ekonomiskie dzīves apstākļi» jeb Eurostudent VI Latvijas datu analīzes rezultātus. Pētījums
Eiropā notiek sesto reizi, Latvija tajā piedalās kopš 2003. gada, kad notika pētījuma otrais
posms. Pētījumā analizēti studentu sociālie un ekonomiskie dzīves apstākļi, kas atspoguļo
Eiropas vienotās augstākās izglītības telpā un Boloņas procesā akcentēto sociālo
dimensiju. Boloņas procesa sociālā dimensija ir Eiropas augstākās izglītības telpas (EAIT)
neatņemama sastāvdaļa un tās pievilcības un konkurētspējas priekšnoteikums. Turpat.
4 The Bologna Declaration of 19 June 1999. Joint declaration of the European Ministers of Education. Pieejams:
https://media.ehea.info/file/Ministerial_conferences/02/8/1999_Bologna_Declaration_English_553028.pdf 1 Yerevan Communique. Pieejams: http://bolognayerevan2015.ehea.info/files/YerevanCommuniqueFinal.pdf
2 Turpat.
T 3 Turpat. 5 Towards the European higher education area. Communiqué of the meeting of European Ministers in charge of
Higher Education in Prague on May 19th 2001. Pieejams:
http://europa.eu/legislation_summaries/education_training_youth/lifelong_learning/c11088_en.htm
6 London Communique, 2007. Pieejams:
https://media.ehea.info/file/2007_London/69/7/2007_London_Communique_English_588697.pdf
7 Eiropas Padomes secinājumi par augstākās izglītības modernizēšanu — pieņemšana, 2011.
Pieejams: http://register.consilium.europa.eu/doc/srv?l=LV&f=ST%2016746%202011%20INIT
8 Bucharest Communique, 2012. Pieejams:
https://www.ehea.info/cid101043/ministerial-conference-bucharest-2012.html 2.1. Aktualitāte un sasaiste ar augstākās izglītības plānošanu 2015. gada Eiropas augstākās izglītības ministru konferencē Erevānā tika uzsvērts, ka
nepieciešams pievērst lielāku vērību augstākās izglītības sociālajai dimensijai, tai skaitā
paplašinot iespējas tiem studentiem, kuri ir nelabvēlīgākā sociālajā situācijā, lai viņi varētu
uzsākt studijas un tās sekmīgi un savlaicīgi pabeigt, kā arī varētu izmantot starptautiskās
mobilitātes iespējas. Šajā konferencē tika apstiprināts, ka ir «radīts pamats vienotai
Eiropas augstākās izglītības telpai (EAIT), balstoties uz atvērtu dialogu, kopīgiem
mērķiem un sadarbojoties valstīm ar dažādām politikas, kultūras un akadēmiskajām
tradīcijām». 1 Konferencē pieņemtajā Erevānas Komunikē uzsvērts, ka «padarīt
iekļaujošas mūsu [augstākās izglītības] sistēmas ir būtisks EAIT mērķis, jo iedzīvotāju
grupas kļūst arvien daudzveidīgākas». 2 Ministri apņēmās «paplašināt līdzdalību
augstākajā izglītībā un atbalstīt augstskolas, kuras nodrošina mācību pasākumus
piemērotā kontekstā un veidā, kas ir piemērots dažādu tipu izglītojamajiem, tostarp arī
mūžizglītībā».3 Augstākās izglītības sociālā dimensija vijas cauri visiem Eiropas augstākās izglītības
ministru un Eiropas Savienības augstākās izglītības politikas dokumentiem, sākot ar
Boloņas Deklarācijas parakstīšanu 1999. gadā, kuru parakstot Eiropas valstu augstākās
izglītības ministri vienojās par intelektuālās, kultūras, sociālās un zinātniskās un
tehnoloģiskās dimensijas stiprināšanu augstākajā izglītībā.4 Eiropas augstākās izglītības ministru konferencē Prāgā (2001. g.) īpaši tika uzsvērta
sociālās dimensijas aktualitāte, akcentējot to, ka augstākā izglītība ir sabiedrisks labums 13 13 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI un valdību atbildība, kas nevar tikt uztverts tikai kā ekonomisks, bet arī kā sociāls un
politisks jautājums.5 Tas nozīmē, ka augstākajai izglītībai ir jābūt vienlīdz pieejamai visiem,
un valdībām tas ir jāatbalsta. Prāgas Komunikē akcentēja sociālo dimensiju saistībā ar
studentu un docētāju mobilitāti. Dažus gadus vēlāk Eiropas augstākās izglītības ministru konferencē Londonā (2007. g.)
tika uzsvērts, ka augstākajai izglītībai ir liela nozīme sociālās kohēzijas veicināšanā,
sociālās nevienlīdzības mazināšanā, paaugstinot sabiedrības zināšanu, prasmju un
kompetenču līmeni. Londonas Komunikē nosaka, ka augstākās izglītības politikai
maksimāli jāpalielina indivīdu personības izaugsme un viņu pienesums ilgtspējīgai un
demokrātiskai zināšanu sabiedrībai. Lai to īstenotu, svarīgi nodrošināt nepieciešamos
pakalpojumus studentiem, lai viņi bez šķēršļiem varētu iegūt augstāko izglītību.6 Augstākās izglītības pieejamības nodrošināšana akcentēta arī Eiropas Padomes
2010. 2.1. Aktualitāte un sasaiste ar augstākās izglītības plānošanu gada secinājumos par izglītības sociālo dimensiju: «svarīgi nodrošināt vienlīdzīgas
iespējas piekļūt kvalitatīvai izglītībai, kā arī taisnīgumu attieksmē un rezultātus neatkarīgi
no sociāli ekonomiskās izcelsmes un citiem faktoriem, kuri var būt par cēloni
nepietiekamai izglītībai un kuros tika atzīts ekonomiskais un sociālais pamatojums, lai
palielinātu vispārējo augstākās izglītības ieguves līmeni un attīstītu augstu prasmju līmeni,
un ņemts vērā, ka pamatprasmju un zināšanu apguves nodrošināšana visiem
iedzīvotājiem būtiski uzlabos pilsoņu nodarbinātības iespējas, sociālo iekļaušanu un
personīgo izaugsmi».7 Eiropas Padomes 2011. gada secinājumos par augstākās izglītības modernizēšanu
dalībvalstis tika aicinātas «sekmēt sistemātisku efektīvu stratēģiju izstrādi, lai maz
pārstāvētām grupām nodrošinātu piekļuvi izglītībai, un pastiprināt centienus, lai
samazinātu augstākās izglītības priekšlaicīgas pārtraukšanas rādītājus, šim nolūkam
uzlabojot mācību kursu kvalitāti, lietderību un atraktivitāti, it īpaši balstoties uz zināšanu
apguvi, kas orientēta uz studentiem, un uz atbalstu, padomiem un konsultācijām, ko
studentiem sniedz pēc iestāšanās augstskolā». Augstākās izglītības ministru konferencē Bukarestē 2012. gadā pieņemts Komunikē un
panākta vienošanās par to, ka valstis izstrādās politiku un pasākumus, «ar ko paplašināt
piekļuvi kvalitatīvai augstākajai izglītībai», savukārt Boloņas procesa 2012. gada
īstenošanas ziņojumā tiek iztirzāta sociālā dimensija augstākajā izglītībā, izskatot
pieejamos statistikas datus par studentu izcelsmes ietekmi uz dalību augstākās izglītības
sistēmā un dažādas politiskās pieejas, ar ko piekļuvi paplašināt».8 14 14 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 2013. gada Eiropas Savienības Padomes secinājumos (2013/C 168/02) par augstākās
izglītības sociālo dimensiju uzsvērts, ka stratēģijas «Eiropa 2020» pamatmērķis ir «līdz
40% palielināt to 30–34 gadus veco iedzīvotāju daļu, kas ieguvuši augstāko vai tai
pielīdzināmu izglītību». Rezultātā Eiropas Padome definēja, ka augstākā izglītība arī krīzes
laikā ir «ārkārtīgi nozīmīga gan ekonomikas, gan sociālajā ziņā, lai iedzīvotājiem
nodrošinātu augsta līmeņa prasmes un kompetences, kas nepieciešamas Eiropai, tostarp
cenšoties garantēt vienlīdzīgāku piekļuvi augstākajai izglītībai, dalību tajā un
absolvēšanu.» Tāpēc gan Boloņas process un Eiropas augstākās izglītības telpas izveide, gan ES
programma augstākās izglītības sistēmu modernizēšanai, gan stratēģija «Eiropa 2020»,
Eiropas sadarbība un vienotas politiskas reakcijas ir būtisks un nepieciešams ieguldījums,
meklējot risinājumu kopīgām problēmām, kā arī atbalsts ilgtspējīgu mehānismu izveidē,
lai palielinātu dažādu studentu grupu mobilitāti. 9 Eiropas Padome (14.6.2013.). Padomes secinājumi par augstākās izglītības sociālo dimensiju (2013/C 168/02). 2.1. Aktualitāte un sasaiste ar augstākās izglītības plānošanu Eiropas Padome aicināja dalībvalstis
izstrādāt un īstenot pasākumus, kuru «mērķis ir palielināt nelabvēlīgā situācijā esošu un
maz pārstāvētu grupu piekļuvi augstākajai izglītībai, dalību tajā un tās absolvēšanas
rādītājus», lai tādējādi virzītos uz Boloņas procesa mērķi: «studentu sastāvam, kuri sāk
mācīties, mācās un pabeidz mācības augstākās izglītības iestādēs, visos šīs izglītības
līmeņos būtu jāatspoguļo dalībvalstu iedzīvotāju grupu daudzveidība».9 Augstākajā izglītībā ir svarīgi «veicināt atvērtību un izstrādāt elastīgus un pārredzamus
veidus, kā īstenot pāreju uz augstāko izglītību, jo īpaši no profesionālās izglītības un
neformālās [ikdienējās] mācīšanās», tādējādi uzsverot netradicionālās pieejas augstākajai
izglītībai. Lai palielinātu augstākās izglītības un darba tirgus sasaisti, ES dalībvalstīs
nepieciešams «palielināt iespējas elastīgākā veidā iegūt izglītību, dažādojot mācību satura
pasniegšanas veidu, piemēram, pieņemot uz studentiem orientētas pieejas mācīšanas un
mācīšanās jomā, paplašinot daļēja laika izglītošanās iespējas, nodrošinot iespēju finansēt
praksi ar kredīta palīdzību, sadalot moduļos mācību programmas un tālmācību,
izmantojot IKT instrumentus un izstrādājot kvalitatīvus atvērtos izglītības resursus». Lai noskaidrotu, kā uzlabojusies augstākās izglītības pieejamība, Eiropas Padome iesaka
valstīm sistemātiski ievākt salīdzināmus datus, lai «palielinātu politikas izstrādei vajadzīgo
pierādījumu bāzi un nodrošinātu iespēju efektīvi uzraudzīt valstu mērķus, kas attiecas uz
nelabvēlīgā situācijā esošu un maz pārstāvētu grupu piekļuvi augstākajai izglītībai, dalību
tajā un absolvēšanas rādītājiem». Lai to sasniegtu, Eiropas Padome ir aicinājusi dalībvalstis turpināt darbu pie augstākās
izglītības sociālās dimensijas, rosinot īstenot tās ieteikumu (2012. g.) par neformālās un
ikdienējās mācīšanās atzīšanu. Īpaši pēdējos gados Eiropas augstākās izglītības politikas
vadlīnijās tiek uzsvērta iepriekš iegūtās izglītības atzīšana, lai nodrošinātu piekļuvi
augstākās izglītības programmām un sekmētu kvalifikāciju piešķiršanu, balstoties uz
iepriekšējo izglītību, kas iegūta dažādos mācīšanās ceļos. 15 15 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Šajā nodaļā citētie dokumenti norāda uz to, ka Eiropas valstu izglītības ministri ir
apņēmušies kvalitatīvu augstāko izglītību padarīt pieejamu visiem, akcentējot atbilstīgu
apstākļu radīšanu, lai studijām nerastos šķēršļi studentu sociālās vai ekonomiskās
izcelsmes dēļ un lai studējošie varētu sekmīgi pabeigt studijas. Attiecīgi viens no
Eurostudent projekta galvenajiem uzdevumiem ir nodrošināt datus un analīzi Boloņas
procesa sociālās dimensijas monitoringam Eiropas valstīs. 12 Boloņas procesa sociālā dimensija ietver politikas izstrādi un valdības veiktos pasākumus studentu atbalstam, īpaši
to studentu atbalstam, kuri nāk no sociāli nelabvēlīgām grupām (finansiāli un ekonomiski), nodrošinot viņiem
nepieciešamo atbalstu, lai paplašinātu augstākās izglītības pieejamību. 10 Austrija, Somija, Francija, Vācija, Īrija, Itālija, Latvija, Lielbritānija (Anglija, Velsa), Nīderlande, Portugāle, Spānija. i 11 Latvijā 2003., 2006., 2013. un 2017. gadā Eurostudent pētījumu veica Latvijas Universitātes Filozofijas un
socioloģijas institūts, bet 2009. gadā — Tirgus un sabiedriskās domas pētījumu centrs SKDS. 10 Austrija, Somija, Francija, Vācija, Īrija, Itālija, Latvija, Lielbritānija (Anglija, Velsa), Nīderlande, Portugāle, Spānija.
11 Latvijā 2003., 2006., 2013. un 2017. gadā Eurostudent pētījumu veica Latvijas Universitātes Filozofijas un
socioloģijas institūts, bet 2009. gadā — Tirgus un sabiedriskās domas pētījumu centrs SKDS.
12 Boloņas procesa sociālā dimensija ietver politikas izstrādi un valdības veiktos pasākumus studentu atbalstam, īpaši
to studentu atbalstam, kuri nāk no sociāli nelabvēlīgām grupām (finansiāli un ekonomiski), nodrošinot viņiem
nepieciešamo atbalstu, lai paplašinātu augstākās izglītības pieejamību. Latvijā 2003., 2006., 2013. un 2017. gadā Eurostudent pētījumu veica Latvijas Universitātes Filoz
socioloģijas institūts, bet 2009. gadā — Tirgus un sabiedriskās domas pētījumu centrs SKDS. 10 Austrija, Somija, Francija, Vācija, Īrija, Itālija, Latvija, Lielbritānija (Anglija, Velsa), Nīderlande, Portugāle, Spānija.
11 Latvijā 2003., 2006., 2013. un 2017. gadā Eurostudent pētījumu veica Latvijas Universitātes Filozofijas un
socioloģijas institūts, bet 2009. gadā — Tirgus un sabiedriskās domas pētījumu centrs SKDS.
12 Boloņas procesa sociālā dimensija ietver politikas izstrādi un valdības veiktos pasākumus studentu atbalstam, īpaši
to studentu atbalstam, kuri nāk no sociāli nelabvēlīgām grupām (finansiāli un ekonomiski), nodrošinot viņiem 2.2. Eurostudent pētījuma raksturojums Iepriekšējo posmu salīdzinošās analīzes rezultāti
pieejami Eurostudent konsorcija izdotajās publikācijās. Pāreja uz augstāko
izglītību
Studējošo vispārējs
raksturojums
Studējošo
sociālais statuss
Studiju veidi
Laika budžets
Mājoklis
Mobilitāte
Studentu ienākumi
Studentu izdevumi
Studiju novērtējums
un nākotnes plāni 1. attēls. Augstākās izglītības sociālā dimensija
Avots: Hochschul-Informations-System. Pāreja uz augstāko
izglītību
Studējošo vispārējs
raksturojums
Studējošo
sociālais statuss
Studiju veidi
Laika budžets
Mājoklis
Mobilitāte
Studentu ienākumi
Studentu izdevumi
Studiju novērtējums
un nākotnes plāni 1. attēls. Augstākās izglītības sociālā dimensija Studiju novērtējums
un nākotnes plāni Pāreja uz augstāko
izglītību Mobilitāte Studējošo vispārējs
raksturojums Mājoklis Studējošo
sociālais statuss Studentu izdevumi Studiju veidi Studentu ienākumi Laika budžets Avots: Hochschul-Informations-System. Pētījuma rezultāti tiek atspoguļoti Latvijas nacionālajā pārskatā, kā arī izmantoti Eiropas
Savienības dalībvalstu studentu dzīves līmeņa salīdzināšanai. Starptautiskā atskaite
sniedz ieskatu gan par salīdzinošajiem rezultātiem, gan par pētījuma koordinēšanas
metodēm Eiropas līmenī, kā arī pētījuma rezultātiem Boloņas procesa gaismā. Publiski
pieejamā
datubāze
tiek
izveidota
katra
projekta
posma
noslēgumā
(skat. http://database.eurostudent.eu). Iepriekšējo posmu salīdzinošās analīzes rezultāti
pieejami Eurostudent konsorcija izdotajās publikācijās. Pētījuma rezultāti tiek atspoguļoti Latvijas nacionālajā pārskatā, kā arī izmantoti Eiropas
Savienības dalībvalstu studentu dzīves līmeņa salīdzināšanai. Starptautiskā atskaite
sniedz ieskatu gan par salīdzinošajiem rezultātiem, gan par pētījuma koordinēšanas
metodēm Eiropas līmenī, kā arī pētījuma rezultātiem Boloņas procesa gaismā. Publiski
pieejamā
datubāze
tiek
izveidota
katra
projekta
posma
noslēgumā
(skat. http://database.eurostudent.eu). Iepriekšējo posmu salīdzinošās analīzes rezultāti
pieejami Eurostudent konsorcija izdotajās publikācijās. 2.2. Eurostudent pētījuma raksturojums Starptautiskajos un nacionālajos augstākās izglītības politikas plānošanas procesos
studenti tiek uzskatīti par zināšanu sabiedrības veidošanas pamatu. Tāpēc studentu
viedokļu izzināšana ir svarīga, lai novērtētu esošo augstākās izglītības politikas īstenošanu
un veidotu tādu augstākās izglītības stratēģiju, kas vērsta uz efektīvāku un atbildīgāku
studiju procesu. Eurostudent pētījums balstās uz pētnieku, nacionālo izglītības ministriju, Eiropas
Komisijas un Eiropas Studentu apvienības sadarbības tīklu. Tas izveidots, lai izpētītu un
izanalizētu studentu dzīves sociālos un ekonomiskos apstākļus Eiropas augstākās
izglītības sistēmās. Starptautiskajā Eurostudent projektā Latvija piedalās kopš 2003. gada, kad notika
pētījuma otrais posms (Eurostudent II, 2003.–2005. g.). Šajā posmā projektā iesaistījās
11 valstis,10 turklāt Latvija bija vienīgā Austrumeiropas dalībvalsts. Eurostudent trešajā
posmā (Eurostudent III, 2005.–2007. g.) projektā piedalījās jau 20 valstis, bet ceturtajā
posmā (Eurostudent IV, 2008.–2011. g.) — 25 valstis. Sākot ar ceturto posmu, Eurostudent
ir projekts, kas līdztekus EUROSTAT un Eurydice pētījumiem ir atzīts par instrumentu
Boloņas procesa sociālās dimensijas izvērtēšanai. Pētījuma ceturtā posma aptaujā
kopumā ir piedalījušies vairāk nekā 200 tūkstoši studentu. Piektajā pētījuma posmā
(Eurostudent V, 2012.–2014. g.) piedalījās jau 29 valstis, aptverot lielāko daļu Eiropas. Tādējādi var teikt, ka šis pētījums nodrošina visapjomīgākos datus Eiropas augstākās
izglītības sociālās dimensijas salīdzinošai analīzei. Eurostudent sestajā posmā piedalās 30 valstis un pētījums balstās uz projekta dalībvalstu
studentu aptaujām, kas tika īstenotas periodā no 2015. līdz 2017. gadam.11 Viens no Eurostudent projekta galvenajiem uzdevumiem ir analizēt studentu dzīves un
studiju apstākļu kvalitātes atbilstību Boloņas procesa sociālajai dimensijai. 12 Tādējādi
pētījuma mērķis ir pēc vienotas metodoloģijas iegūt starptautiski salīdzināmus datus 16 16 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI studentu dzīves ekonomisko un sociālo apstākļu novērtējumam. Atbilstoši starptautiskā
projekta prasībām nacionālā mērogā definētie uzdevumi ir noskaidrot studentu: studentu dzīves ekonomisko un sociālo apstākļu novērtējumam. Atbilstoši starptautiskā
projekta prasībām nacionālā mērogā definētie uzdevumi ir noskaidrot studentu: • ekonomiskos dzīves apstākļus, mājokļa apstākļus, studentu
nodarbinātības jautājumus;
• apmierinātību ar studiju kvalitāti; • apmierinātību ar studiju kvalitāti; • līdzdalību Eiropas Savienības studentu apmaiņas programmā Erasmus+ un citās
studentu apmaiņas programmās; • līdzdalību sabiedrībā notiekošajos procesos. • līdzdalību sabiedrībā notiekošajos procesos. 1. attēls. Augstākās izglītības sociālā dimensija
Avots: Hochschul-Informations-System. Pētījuma rezultāti tiek atspoguļoti Latvijas nacionālajā pārskatā, kā arī izmantoti Eiropas
Savienības dalībvalstu studentu dzīves līmeņa salīdzināšanai. Starptautiskā atskaite
sniedz ieskatu gan par salīdzinošajiem rezultātiem, gan par pētījuma koordinēšanas
metodēm Eiropas līmenī, kā arī pētījuma rezultātiem Boloņas procesa gaismā. Publiski
pieejamā
datubāze
tiek
izveidota
katra
projekta
posma
noslēgumā
(skat. http://database.eurostudent.eu). 2.3. Pētījuma koordinācija Katrā Eurostudent dalībvalstī pētījumu pārrauga izglītības ministrijas struktūra, kas ir
atbildīga par augstāko izglītību valstī. Eurostudent projekta ietvaros ir izveidots Eiropas
valstu izglītības ministriju un pētnieku tīkls, kā arī salīdzinoša datubāze par augstākās
izglītības sociālo dimensiju. 17 17 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Bez tam projekta ietvaros izveidota galveno augstākās izglītības partnerinstitūciju
komiteja. Tajā iesaistījusies Eiropas Komisija, Eiropas Studentu apvienība, Boloņas
procesa darba grupa, Vācijas Federālā Izglītības un zinātnes ministrija, Nīderlandes
Izglītības, kultūras un zinātnes ministrija, kā arī citas organizācijas. Komitejas mērķis ir
piedalīties Eurostudent projekta stratēģijas izstrādē un ieviešanā. 13 Šeit un turpmāk tekstā jēdzieni «bakalaura līmeņa programma» un «maģistra līmeņa programma» lietoti saskaņā
ar projekta metodoloģiskajām vadlīnijām, lai apzīmētu attiecīgi ISCED 6. un 7. līmeņa programmu saimes.
14 Izmantotie informācijas avoti: Ministru kabineta Noteikumi par Latvijas izglītības klasifikācija (Nr. 322 2017. gada
13. jūnijā, 2. pielikums) un «Detalizēta informācija par augstskolu un koledžu studiju programmām»
(http://www.izm.gov.lv/images/izglitiba_augst/Studiju_programmas_2016.xls). 2.4. Rezultātu izmantošana Eurostudent dati tiek izmantoti politikas novērtēšanai jautājumos par studējošo laika
budžetu (lekcijas, patstāvīgais darbs un nodarbinātība), augstākās izglītības pieejamību
jauniešiem no dažādām sociālajām grupām, studentu starptautisko mobilitāti un to
ietekmējošop faktoru analīzei, tai skaitā studentu ekonomisko stāvokli, nodarbinātību,
ģimenes stāvokli, starptautiskās mobilitātes saistību ar finansējuma pieejamību, studiju
maksas politiku, tās saistību ar studentu nodarbinātību, pilna/nepilna laika studijām. Pētījuma ietvaros katra valsts publicē ziņojumu par nacionālo pētījumu un pēc vienotas
metodikas sagatavo pētījuma datus iesniegšanai publiski pieejamā datubāzē. Nākamajā
solī tiek sagatavots starptautiskais salīdzinošais ziņojums, kas aptver galvenos studentu
sociālos un ekonomiskos dzīves apstākļus raksturojošus rādītājus. Paredzams, ka
Eurostudent VI starptautiskais ziņojums tiks publicēts 2018. gada pavasarī. Bez tam
starptautiskajā pētnieku tīkla ietvaros zinātnieki var vienoties par dažādu tematisku
publikāciju izstrādi un izdošanu. Visbeidzot, katra pētījuma sākumposmā un noslēgumā
tiek organizēta pētnieku un augstākas izglītības politikas veidotāju konference. Paredzams, ka galvenie pētījuma rezultātu izmantotāji būs augstākās izglītības politikas
veidotāji un īstenotāji nacionālā un starptautiskā līmenī, kā arī augstskolu vadība,
administrācija un docētāji, pētnieki un studentu organizācijas. Eurostudent VI
starptautiskie dati tiks izmantoti Boloņas procesa darba grupā, gatavojot analītisku
ziņojumu nākamajai augstākās izglītības ministru konferencei Parīzē. 18 18 3.1. Izlase Balstoties uz darba uzdevumu un Eurostdent pētījuma izlases veidošanas vadlīnijām,
studējošo aptaujai tika izmantota stratificēta divpakāpju klasteru izlase. Par izlases
pamatvienību (PSU) stratas ietvaros tiek uzskatīta noteikta administratīva vienība
(piemēram, studiju programma). Pirmajā izlases veidošanas posmā atlasītajās primārajās
izlases vienībās, izmantojot nejaušās izlases metodi, tika atlasīti studējošo kursi jeb
sekundārās izlases vienības (SSU). Izlases rāmja veidošanā tika izmantota Izglītības un zinātnes ministrijas (IZM) apkopotā
informācija par augstskolu un koledžu audzēkņu skaitu 2016./2017. mācību gada sākumā
(stāvoklis uz 2016. gada 1. oktobri). Eurostudent pētījuma ģenerālo kopumu veido visi
valsts un juridisko personu dibināto augstskolu un koledžu 2016./2017. mācību gada
studenti, izslēdzot tās studentu grupas, kuras neatbilst starptautiskā pētījuma
mērķgrupai: 1) īstermiņa apmaiņas studenti (piemēram, ERASMUS studenti),
2) tālmācības programmu studenti, 3) nepilna laika programmās studējošie, 4) doktora
līmeņa studiju programmās studējošie, 5) klausītāja statusā esošie, 6) aizsardzības un
drošības programmās studējošie, kuri studiju laikā saņem atalgojumu no augstskolas. Izlases rāmja veidošanā tika izmantota Izglītības un zinātnes ministrijas (IZM) apkopotā
informācija par augstskolu un koledžu audzēkņu skaitu 2016./2017. mācību gada sākumā
(stāvoklis uz 2016. gada 1. oktobri). Eurostudent pētījuma ģenerālo kopumu veido visi
valsts un juridisko personu dibināto augstskolu un koledžu 2016./2017. mācību gada
studenti, izslēdzot tās studentu grupas, kuras neatbilst starptautiskā pētījuma
mērķgrupai: 1) īstermiņa apmaiņas studenti (piemēram, ERASMUS studenti),
2) tālmācības programmu studenti, 3) nepilna laika programmās studējošie, 4) doktora
līmeņa studiju programmās studējošie, 5) klausītāja statusā esošie, 6) aizsardzības un
drošības programmās studējošie, kuri studiju laikā saņem atalgojumu no augstskolas. Atbilstīgi statistikas datiem kopējais studējošo skaits pētījuma mērķa grupā bija 58 000,
no kuriem 58% bija sievietes un 42% vīrieši. Studējošo sadalījums studiju līmeņos: 13%
studēja 1. līmeņa profesionālās augstākās izglītības programmās, 59% — bakalaura
līmeņa
13 programmās, 21% — maģistra līmeņa programmās un 8% garā
cikla programmās. Saskaņā ar Eurostudent vadlīnijām nacionālajā pētījumā tika izmantota izglītības jomu
klasifikācija ISCED-F 2013.14 Izlases aprēķiniem tika veikta statistikas datos pieejamās
informācijas pielīdzināšana minētajai klasifikācijai. 19 19 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 1. tabula. Izlases rāmja aptvertais augstskolu un koledžu studentu skaits
ISCED 5
ISCED 6
ISCED 7
ISCED 7
(garā cikla)
Siev. Vīr. Siev. Vīr. Siev. Vīr. Siev. Vīr. 3.1. Izlase Izglītība
43
1
1390
269
602
67
Humanitārās zinātnes un māksla
118
30
3258
1301
976
279
Sociālās, komunikācijas un informācijas zinātnes
2023
995
790
188
Komerczinības, administrēšana un tiesību zinātne
797
498
4874
3408
2543
1350
Dzīvās dabas zinātnes, matemātika un statistika
1
3
906
615
427
176
Informācijas un komunikācijas tehnoloģijas
82
393
535
2268
385
654
Inženierzinātnes, ražošana un būvniecība
196
1451
2094
4847
642
1271
Lauksaimniecība, mežsaimniecība un
zivsaimniecība
26
26
163
325
47
45
244
49
Veselības aprūpe un sociālā labklājība
2792
333
1848
316
1054
238
2701
1513
Pakalpojumi
151
337
1517
1038
266
225
Avots: IZM, autoru aprēķini. 1. tabula. Izlases rāmja aptvertais augstskolu un koledžu studentu skaits 1. tabula. Izlases rāmja aptvertais augstskolu un koledžu studentu skaits Lai sasniegtu darba uzdevumā definēto minimālo efektīvās izlases apjomu n = 2000, kā arī
ņemot vērā prognozēto nerespondences līmeni, teorētiskajā izlasē tika iekļauts lielāks
studentu skaits. Aprēķinos tika ņemta vērā LU FSI iepriekšējā pieredze Eurostudent un citu
studentu/skolēnu aptauju veikšanā. Prakse liecina, ka mācību iestāžu atteikumu un
anketēšanas brīdī klāt neesošo studentu dēļ izlasi būtu nepieciešams palielināt par
aptuveni 30%, t.i., iekļaut tik lielu kursu skaitu, lai pēc teorētiskām aplēsēm tajos kopumā
mācītos vismaz 2600 studentu. Īstenojot vienkāršo gadījumizlasi, šāds izlases apjoms
garantētu maksimālo kļūdas robežu 0,9 procentpunktu robežās visai izlasei. Tā kā
aptaujas veikšanas periodā pieejamie IZM dati neļauj noteikt precīzu studējošo skaitu
kursā/grupā, izlasei nepieciešamā kursu skaita noteikšanai tika aprēķināts vidējais
studentu skaits grupās. Šajā kalkulācijā tika ņemts vērā studentu un studiju programmu
skaits katrā no stratām. Eurostudent VI aptaujas vajadzībām izstrādātā izlase nodrošina reprezantivitāti pēc
šādiem kritērijiem: studiju līmenis, izglītības joma saskaņā ar ISCED-F 2013 klasifikāciju un
augstākās izglītības iestādes atrašanās vietas urbanizācijas līmenis. 3.2. Instrumentārijs Datu ieguvei izmantota Eurostudent konsorcija ietvaros izstrādātā vienotā aptaujas
anketa, kura ietver atbilstīgi starptautiskā salīdzinošā pētījuma standartiem pārtulkotu un
adaptētu Eurostudent VI aptaujas jautājumu kopumu. Eurostudent pētījuma dalībvalstīs aptauja tiek īstenota pēc vienotas metodoloģijas un
metodikas. Studentu viedokļi un fakti par dzīves apstākļiem tiek noskaidroti desmit
tematiskajos blokos, uzdodot studentiem katrā valstī vienādus jautājumus. Dzīves 20 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI apstākļi un pāreja uz augstāko izglītību ietver plašu jautājumu loku — sākot no tā, kā
students nonāk augstākās izglītības sistēmā — tradicionālā ceļā pēc vispārējās vidējās
izglītības atestāta ieguves dienas skolā vai netradicionālā ceļā, piemēram, pēc
profesionālās izglītības diploma ieguves, vakarskolas vai pašmācības ceļā apgūstot vidējo
izglītību, eksternā kārtojot vidējās izglītības eksāmenus. Šis jautājumu loks palīdz
noskaidrot augstākās izglītības pieejamības ceļus. Pēc iepriekšējo pētījuma posmu
rezultātiem Latvijā studijas augstākajā izglītībā vairākums studentu uzsāk pēc vispārējās
vidējās izglītības dienas skolā. Nākamais jautājumu loks saistīts ar studenta sociālo izcelsmi jeb studenta vecāku izglītību
un nodarbošanos. Šajā jautājumu grupā tiek noskaidrots, vai augstākā izglītība Eiropā
kopumā un katrā pētījuma dalībvalstī ir vienlīdz pieejama jauniešiem, kuru vecākiem ir
atšķirīgs izglītības līmenis, nodarbošanās un sociālais statuss sabiedrībā. Iepriekšējos
Eurostudent pētījumos noskaidrots, ka Latvija ir viena no tām Eiropas valstīm, kurās
augstāko izglītību biežāk nekā citās ES valstīs iegūst jaunieši no ģimenēm, kuru vecākiem
ir augstākā izglītībā. Šis rādītājs liecina par augstākās izglītības ierobežotāku pieejamību
jauniešiem no tām sociālajām grupām, kuras vecākiem ir zemāks izglītības līmenis. Apjomīgākais jautājumu loks saistīts ar studentu ekonomisko un sociālo dzīves apstākļu mērījumiem, kas aptver vairākus tematiskos blokus: • studentu nodarbinātības līmenis un raksturs, mājokļa apstākļi studiju laikā; • studiju apstākļi (t.sk. materiāltehniskais nodrošinājums), apmierinātība ar studijām
un studiju kvalitātes vērtējums, sagatavotība darba tirgum; • studiju apstākļi (t.sk. materiāltehniskais nodrošinājums), apmierinātība ar studijām
d
k
l
b d
b un studiju kvalitātes vērtējums, sagatavotība darba tirgum; • ienākumu un izdevumu struktūra un apjoms; • līdzdalība ES studentu apmaiņas un starptautiskajās studiju programmās; • līdzdalība sabiedrībā notiekošajos procesos (sociāli politiskā aktivitāte). Lai arī aptauja tiek veikta pēc vienotas metodoloģijas, tomēr katra valsts drīkst iekļaut
aptaujas anketā papildu jautājumus. Latvijā, piemēram, pētījuma visos posmos tika
iekļauti jautājumi par studentu līdzdalību, 4. posmā — jautājumi par studentu iekšējo
mobilitāti un diskrimināciju, savukārt 5. posmā — paplašināti studiju kvalitātes vērtējumi. Jāatzīmē, ka, ņemot vērā iepriekšējo pieredzi, arī Eurostudent starptautiskajā anketā katrā
secīgi nākamajā posmā atsevišķu jautājumu vai atbilžu formulējumi tiek mainīti vai
pievienoti no jauna. 3.2. Instrumentārijs Šādu izmaiņu mērķis ir uzlabot mērījumu kvalitāti vai precizitāti,
tomēr jāpiebilst, ka dažkārt tas ierobežo rezultātu salīdzināmību laikā, proti, ar pētījuma
iepriekšējo posmu datiem. Aptaujas anketa tika sagatavota latviešu, krievu un angļu valodā, tādējādi nodrošinot
labvēlīgus apstākļus dažādās valodās runājošiem studentiem pēc iespējas labāk izprast
jautājumus un precīzāk sniegt atbildes. 21 21 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 3.3. Izlases realizācija Izmantotā aptaujas metode — tieša anketēšana mācību grupā, realizācijas veids —
anketas pašaizpilde intervētāja klātbūtnē. Anketēšana tika veikta uz vietas tajos kursos vai
mācību grupās, kuras bija iekļautas izlasē, pirms tam informējot augstskolas
administrāciju un vienojoties ar programmu vadītājiem, docētājiem par pieņemamāko
laiku aptaujas veikšanai. Aptaujā tika lūgti piedalīties visi klātesošie studenti. Pētījuma lauka darbs tika realizēts no 2017. gada 1. marta līdz 6. jūnijam. Anektēšana tika
veikta 138 mācību grupās 29 Latvijas augstākās izglītības iestādēs: • Alberta koledža
• Baltijas Starptautiskā akadēmija
• Banku augstskola
• Biznesa augstskola «Turība»
• Biznesa, mākslas un tehnoloģiju
augstskola «RISEBA»
• Daugavpils Universitāte
• Ekonomikas un kultūras
augstskola
• Latvijas Jūras akadēmija
• Latvijas Kultūras akadēmija
• Latvijas Kultūras akadēmijas
Latvijas Kultūras koledža
• Latvijas Lauksaimniecības
universitāte
• Latvijas Mākslas akadēmija
• Latvijas Sporta pedagoģijas
akadēmija
• Latvijas Universitāte
• Latvijas Universitātes Paula
Stradiņa medicīnas koledža
• Latvijas Universitātes Rīgas
Medicīnas koledža
• Liepājas Universitāte
• Profesionālās izglītības
kompetences centrs «Rīgas
Tehniskā koledža»
• Rēzeknes Tehnoloģiju akadēmija
• Rīgas 1. medicīnas koledža
• Rīgas Celtniecības koledža
• Rīgas Ekonomikas augstskola
• Rīgas Pedagoģijas un izglītības
vadības akadēmija
• Rīgas Stradiņa universitāte
• Rīgas Tehniskā universitāte
• Sociālās integrācijas valsts
aģentūra
• Ventspils Augstskola
• Starptautiskā kosmetoloģijas
koledža
• Vidzemes augstskola
No dalības pētījumā atteicās vai izvairījās Transporta un sakaru institūts un Rīgas
Aeronavigācijas institūts. • Alberta koledža
• Baltijas Starptautiskā akadēmija
• Banku augstskola
• Biznesa augstskola «Turība»
• Biznesa, mākslas un tehnoloģiju
augstskola «RISEBA»
• Daugavpils Universitāte
• Ekonomikas un kultūras
augstskola
• Latvijas Jūras akadēmija
• Latvijas Kultūras akadēmija
• Latvijas Kultūras akadēmijas
Latvijas Kultūras koledža
• Latvijas Lauksaimniecības
universitāte
• Latvijas Mākslas akadēmija
• Latvijas Sporta pedagoģijas
akadēmija
• Latvijas Universitāte
• Latvijas Universitātes Paula
Stradiņa medicīnas koledža
• Latvijas Universitātes Rīgas
Medicīnas koledža
• Liepājas Universitāte
• Profesionālās izglītības
kompetences centrs «Rīgas
Tehniskā koledža»
• Rēzeknes Tehnoloģiju akadēmija
• Rīgas 1. medicīnas koledža
• Rīgas Celtniecības koledža
• Rīgas Ekonomikas augstskola
• Rīgas Pedagoģijas un izglītības
vadības akadēmija
• Rīgas Stradiņa universitāte
• Rīgas Tehniskā universitāte
• Sociālās integrācijas valsts
aģentūra
• Ventspils Augstskola
• Starptautiskā kosmetoloģijas
koledža
• Vidzemes augstskola
No dalības pētījumā atteicās vai izvairījās Transporta un sakaru institūts un Rīgas
Aeronavigācijas institūts. 3.3. Izlases realizācija • Latvijas Universitātes Rīgas
Medicīnas koledža • Liepājas Universitāte • Profesionālās izglītības
kompetences centrs «Rīgas
Tehniskā koledža» • Latvijas Lauksaimniecības
universitāte • Latvijas Mākslas akadēmija • Latvijas Sporta pedagoģijas
akadēmija • Latvijas Universitāte • Latvijas Universitātes Paula Stradiņa medicīnas koledža No dalības pētījumā atteicās vai izvairījās Transporta un sakaru institūts un Rīgas
Aeronavigācijas institūts. No saņemtajām anketām 93 pēc sākotnējās pārbaudes tika atzītas par nederīgām
(iesniegtas neaizpildītas anketas, atbildes sniegtas uz mazāk nekā 40% jautājumu), šīs
anketas tika izslēgtas no turpmākās apstrādes. Kopējais realizētās izlases apjoms
n = 2424. Savukārt atbilstīgi starptautiskā pētījuma prasībām par derīgām tiek atzītas tās
anketas, kurās studenti snieguši informāciju vismaz par galvenajiem mērījumu
indikatoriem: materiālo un laika budžetu, vecāku izglītības līmeni, izglītības gaitām u.c. Veicot datu pārbaudi, no pirmējā datu faila tika izslēgts vēl 61 gadījums, tādējādi datu failā
saglabāti 2363 gadījumi (anketas). 22 22 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Datu svarošanai sadarbībā ar starptautiskā pētījuma vadības grupu veikti kombinēto svaru
aprēķini, kuri balstās uz divām pazīmju grupām: a) studiju līmenis, izglītības joma (10
kategorijas pēc ISCED-F 2013) un respondenta dzimums, b) vecums (9 kategorijas,
balstoties uz stāvokli statistikas apkopošanas brīdī). Svarotie dati ir reprezentatīvi
attiecībā pret Latvijas augstākās izglītības iestāžu studentu ģenerālo kopu pilna laika
studijās. Analīzē izmantoto gadījumu skaits pēc svarošanas — n = 2340. 23 4. STUDĒJOŠO RAKSTUROJUMS Bez pamatjautājumiem, kuru mērķis ir noskaidrot studentu dzīves sociālos un
ekonomiskos apstākļus, katrā pētījuma posmā tiek veikta virkne mērījumu, kas sniedz
studējošo kopas raksturojumu pēc nozīmīgākajām sociāldemogrāfiskajām pazīmēm:
dzimuma, vecuma, tautības, studentu vecāku ģimenes sociālā statusa u.tml. Turpmāk
sniegsim īsu studentu kopuma raksturojumu atbilstoši šīm pazīmēm. Bez pamatjautājumiem, kuru mērķis ir noskaidrot studentu dzīves sociālos un
ekonomiskos apstākļus, katrā pētījuma posmā tiek veikta virkne mērījumu, kas sniedz
studējošo kopas raksturojumu pēc nozīmīgākajām sociāldemogrāfiskajām pazīmēm:
dzimuma, vecuma, tautības, studentu vecāku ģimenes sociālā statusa u.tml. Turpmāk
sniegsim īsu studentu kopuma raksturojumu atbilstoši šīm pazīmēm. 4.1. Studentu sociāldemogrāfiskais portrets Aptaujāto studentu sadalījums pēc dzimuma atbilst kopējam dzimumu dalījumam
augstskolās studējošo ģenerālajā kopā: 58% studējošo ir sievietes un 42% — vīriešu. Protams, dažādās studiju programmās un programmu tematiskajās jomās sieviešu un
vīriešu īpatsvars studējošo vidū nozīmīgi atšķiras. Tradicionāli tādās jomās kā humanitārās
zinātnes un māksla vai izglītība lielākā daļa studējošo ir sievietes (71–85%). Nozīmīgi
augstāks sieviešu īpatsvars ir arī tādās izglītības jomās kā veselības aprūpe un sociālā
labklājība (79%), sociālās zinātnes (71%), kā arī komerczinību, administrēšanas un tiesību
zinātnes (60%). Pieaudzis sieviešu īpatsvars arī lauksaimniecības (67%), dzīvās dabas
zinātņu, matemātikas un statistikas (62%) un pakalpojumu izglītības jomā (61%). Savukārt lielāks vīriešu īpatsvars studējošo vidū jau tradicionāli raksturīgs informācijas un
komunikācijas tehnoloģiju jomā (76%) un inženierzinātņu, ražošanas un būvniecības jomā
(73%). Aptaujātie studenti pēc vecuma iedalās šādi: 33% aptaujāto ir vecumā līdz 21 gadam,
33% — no 22 līdz 24 gadus veci, 20% — vecumā no 25 līdz 29 gadiem, 15% — vismaz 30
gadus veci vai vecāki. Absolūtais vairākums (96%) studējošo ir dzimuši Latvijā, arī lielākā
daļa no studentu vecākiem ir dzimuši Latvijā — 81% gadījumu Latvijā dzimuši abi vecāki. Ārpus Latvijas dzimušo vidū vairums ir no Krievijas Federācijas. Aptaujātie studenti pēc vecuma iedalās šādi: 33% aptaujāto ir vecumā līdz 21 gadam,
33% — no 22 līdz 24 gadus veci, 20% — vecumā no 25 līdz 29 gadiem, 15% — vismaz 30
gadus veci vai vecāki. Absolūtais vairākums (96%) studējošo ir dzimuši Latvijā, arī lielākā
daļa no studentu vecākiem ir dzimuši Latvijā — 81% gadījumu Latvijā dzimuši abi vecāki. Ārpus Latvijas dzimušo vidū vairums ir no Krievijas Federācijas. Tā kā lielākā daļa augstskolu koncentrējas Rīgā, aptaujāto studentu sadalījums atbilstīgi
augstākās izglītības iestādes atrašanās vietai ir šāds: Rīgas augstākās izglītības iestādēs
mācās 72% respondentu, 28% studē reģionālajās augstskolās. Pētījumā netiek iekļautas
ziņas par vietu, kur students dzīvojis pirms iestāšanās augstskolā, bet tiek noskaidrota
vieta, kur respondents ieguvis vidējo izglītību. Nedaudz vairāk kā trešdaļa (36%) studējošo
vidējo izglītību ir ieguvuši Rīgā, 22% — republikas nozīmes pilsētās, 29% — citās Latvijas
pilsētās, bet 10% aptaujāto — lauku vidusskolās vai vidējās profesionālās izglītības
iestādēs. Mazāk nekā 3% no pašreizējiem studentiem vidējo izglītību ieguvuši ārzemēs. Tā kā lielākā daļa augstskolu koncentrējas Rīgā, aptaujāto studentu sadalījums atbilstīgi
augstākās izglītības iestādes atrašanās vietai ir šāds: Rīgas augstākās izglītības iestādēs
mācās 72% respondentu, 28% studē reģionālajās augstskolās. Pētījumā netiek iekļautas
ziņas par vietu, kur students dzīvojis pirms iestāšanās augstskolā, bet tiek noskaidrota
vieta, kur respondents ieguvis vidējo izglītību. 4.1. Studentu sociāldemogrāfiskais portrets Nedaudz vairāk kā trešdaļa (36%) studējošo
vidējo izglītību ir ieguvuši Rīgā, 22% — republikas nozīmes pilsētās, 29% — citās Latvijas
pilsētās, bet 10% aptaujāto — lauku vidusskolās vai vidējās profesionālās izglītības
iestādēs. Mazāk nekā 3% no pašreizējiem studentiem vidējo izglītību ieguvuši ārzemēs. 24 24 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 2. tabula. Izlases raksturojums
Svērtās vērtības
Skaits
%
Izglītības joma
(ISCED-F 2013)
Izglītība
100
4,3
Humanitārās zinātnes un māksla
238
10,2
Sociālās, komunikācijas un informācijas zinātnes
167
7,1
Komerczinības, administrēšana un tiesību zinātne
538
23
Dzīvās dabas zinātnes, matemātika un statistika
78
3,3
Informācijas un komunikācijas tehnoloģijas
180
7,7
Inženierzinātnes, ražošana un būvniecība
446
19
Lauksaimniecība, mežsaimniecība un zivsaimniecība
27
1,1
Veselības aprūpe un sociālā labklājība
438
18,7
Pakalpojumi
128
5,5
Studiju līmenis
1. līmeņa profesionālās augstākās izglītības studiju programma
303
12,9
Akadēmiskā bakalaura studiju programma
312
13,3
Akadēmiskā maģistra studiju programma
387
16,5
Profesionālā bakalaura programma vai 2. līmeņa profesionālās augstākās
izglītības programma
873
37,3
Profesionālā maģistra studiju programma vai 2. līmeņa profesionālās
augstākās izglītības programma
306
13,1
Garā cikla 2. līmeņa profesionālā augstākā izglītība
159
6,8
Mācību iestādes
atrašanās vieta
Rīga
1685
72,0
Cita pilsēta/reģions
655
28,0
Dzimums
Sieviete
1362
58,2
Vīrietis
978
41,8 2. tabula. Izlases raksturojums
Svērtās vērtības
Skaits
%
Izglītības joma
(ISCED-F 2013)
Izglītība
100
4,3
Humanitārās zinātnes un māksla
238
10,2
Sociālās, komunikācijas un informācijas zinātnes
167
7,1
Komerczinības, administrēšana un tiesību zinātne
538
23
Dzīvās dabas zinātnes, matemātika un statistika
78
3,3
Informācijas un komunikācijas tehnoloģijas
180
7,7
Inženierzinātnes, ražošana un būvniecība
446
19
Lauksaimniecība, mežsaimniecība un zivsaimniecība
27
1,1
Veselības aprūpe un sociālā labklājība
438
18,7
Pakalpojumi
128
5,5
Studiju līmenis
1. līmeņa profesionālās augstākās izglītības studiju programma
303
12,9
Akadēmiskā bakalaura studiju programma
312
13,3
Akadēmiskā maģistra studiju programma
387
16,5
Profesionālā bakalaura programma vai 2. līmeņa profesionālās augstākās
izglītības programma
873
37,3
Profesionālā maģistra studiju programma vai 2. līmeņa profesionālās
augstākās izglītības programma
306
13,1
Garā cikla 2. līmeņa profesionālā augstākā izglītība
159
6,8
Mācību iestādes
atrašanās vieta
Rīga
1685
72,0
Cita pilsēta/reģions
655
28,0
Dzimums
Sieviete
1362
58,2
Vīrietis
978
41,8 Salīdzinot ar iepriekšējo pētījuma posmu pirms 4 gadiem15 , nozīmīgi palielinājusies to
studentu daļa, kuriem ir bērni, — no 6% līdz 14,7%. Daļēji tas skaidrojams ar to, ka pēdējā
pētījuma posmā izlasē ir salīdzinoši lielāks īpatsvars gados vecāku studentu. 15 Šeit un turpmāk salīdzinājumiem tiek izmantoti Eurostudent IV un Eurostudent V aptauju dati. Sk.:
Hauschildt, K., Gwosć, C., Netz, N., & Mishra, S. (2015). Social and Economic Conditions of Student Life in Europe:
Synopsis of Indicators. Eurostudent V 2012–2015. Bielefeld: W. Bertelsmann Verlag.
Koroleva, I., Aleksandrovs, A., Trapenciere, I., Rungule, R., Trapencieris, M., Jankovskis, M. (2013). Studentu
sociālie un ekonomiskie dzīves apstākļi Latvijā: Eurostudent V. Rīga: Latvijas Universitātes Filozofijas un
socioloģijas institūts. Iegūts no http://www.izm.gov.lv/images/statistika/petijumi/13.pdf
SKDS. (2009). Studentu sociālie un ekonomiskie dzīves apstākļi Latvijā: Eurostudent IV. Rīga. Iegūts no
http://www.izm.gov.lv/images/statistika/petijumi/15.pdf 5. STUDENTU SOCIĀLĀ IZCELSME Studenta vecāku ģimenes sociālo statusu raksturo vairāki mērījumi — vecāku izglītības
līmenis, nodarbošanās, vecāku ģimenes materiālās pārticības subjektīvais vērtējums. Latvijas pētījumā papildus iekļauts jautājumu bloks par studenta un viņa ģimenes
materiālo stāvokli. Diemžēl šajā aptaujas posmā nav iekļauts tiešais jautājums par vecāku
ģimenes sociālo statusu, kas atbilstoši iepriekšējo pētījuma posmu rezultātiem nozīmīgi
korelēja ar vecāku izglītības līmeni un nodarbošanos. Studenta vecāku ģimenes sociālo statusu raksturo vairāki mērījumi — vecāku izglītības
līmenis, nodarbošanās, vecāku ģimenes materiālās pārticības subjektīvais vērtējums. Latvijas pētījumā papildus iekļauts jautājumu bloks par studenta un viņa ģimenes
materiālo stāvokli. Diemžēl šajā aptaujas posmā nav iekļauts tiešais jautājums par vecāku
ģimenes sociālo statusu, kas atbilstoši iepriekšējo pētījuma posmu rezultātiem nozīmīgi
korelēja ar vecāku izglītības līmeni un nodarbošanos. 4.1. Studentu sociāldemogrāfiskais portrets Līdzīgi kā
iepriekš, to studentu grupā, kuriem ir bērni, vairāk nekā pusei (54%) ir viens bērns,
trešdaļai (33%) — divi bērni, bet 13% ir trīs un vairāk bērnu. Studenti — bērnu vecāki mācās
dažādu līmeņu studiju programmās: 30% iegūst pirmā līmeņa profesionālo augstāko
izglītību, 24% studē bakalaura programmās, bet vairums (46,4%, kas atbilst arī vecuma
pieaugumam) studē maģistra līmeņa un garā cikla 2. līmeņa profesionālās augstākās
izglītības programmā. 25 25 5.1. Vecāku izglītība un vecāku ģimenes materiālā labklājība Līdzīgi kā iepriekšējo Eurostudent pētījuma posmu rezultāti, arī 2017. gada aptaujas dati
apstiprina hipotēzi par vecāku izglītības un nodarbošanās saistību ar respondenta
izglītības ceļa izvēli. Dažāda līmeņa augstākā izglītība ir 59% no aptaujāto studentu
mātēm, t.sk.: 7% ir 1. līmeņa augstākā jeb koledžas izglītība, 16% — bakalaura, 31% —
maģistra grāds vai tā ekvivalents (lielākoties tā ir augstākā izglītība, kas iegūta padomju
gados), bet 1,6% — doktora grāds. Arī pārējie izglītības raksturojumi praktiski neatšķiras no iepriekšējo gados novērotājiem
rezultātiem. Studentu tēvu izglītības līmenis ir nozīmīgi zemāks: dažāda līmeņa augstākā
izglītība ir 37% tēvu (koledžas līmenis — 5%, bakalaura grāds — 10%, bet maģistra grāds
vai tā ekvivalents (t.sk. padomju laikā iegūtā augstākā izglītība) ir 20% tēvu). Apkopotie dati liecina, ka, līdzīgi kā iepriekšējos pētījuma posmos, arī šobrīd vairāk nekā
pusei studentu (62%) vienam no vecākiem ir augstākā izglītība, kas parāda to, ka
augstākās izglītības iestāžu studentu vecākiem ir augstāks formālās izglītības līmenis nekā
populācijā kopumā. Tāpat kā iepriekšējās studentu aptaujās, tostarp Eurostudent IV (2009) un Eurostudent V
(2013) pētījumos, studentiem bijis salīdzinoši grūtāk atbildēt par tēva nekā mātes izglītību,
nodarbošanos vai dzimšanas vietu u.tml. Tēva izglītības līmeni nezina vai par to nevēlas
atbildēt 12% aptaujāto studentu, par māti grūtības atbildēt ir 4% studējošo. 26 26 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 3. attēls. Vecāku ģimenes materiālās labklājības novērtējums (%) 3. attēls. Vecāku ģimenes materiālās labklājības novērtējums (%)
Bāze: visi respondenti. 6
32
46
12
4
Ļoti turīgi / pārtikuši
Zināmā mērā turīgi / pārtikuši
Vidēji
Ne pārāk turīgi / pārtikuši
Nemaz nav turīgi / pārtikuši Bāze: visi respondenti. Līdzīgi kā iepriekšējā pētījumā tika konstatēta korelācija starp vecāku izglītības līmeni un
vecāku ģimenes statusa novērtējumu, pēdējās aptaujas dati norāda uz tiešu sakarību starp
vecāku izglītības līmeni un vecāku ģimenes materiālo pārticību. Līdzīgi kā iepriekšējā pētījumā tika konstatēta korelācija starp vecāku izglītības līmeni un
vecāku ģimenes statusa novērtējumu, pēdējās aptaujas dati norāda uz tiešu sakarību starp
vecāku izglītības līmeni un vecāku ģimenes materiālo pārticību. Līdzīgi kā iepriekšējā pētījumā tika konstatēta korelācija starp vecāku izglītības līmeni un
vecāku ģimenes statusa novērtējumu, pēdējās aptaujas dati norāda uz tiešu sakarību starp
vecāku izglītības līmeni un vecāku ģimenes materiālo pārticību. Jo augstāks vecāku izglītības līmenis, jo augstāk viņu bērni — studenti vērtē ģimenes
turīgumu (2,37 — ģimenē kādam no vecākiem ir augstākā izglītība; 3,22 — nevienam no
vecākiem nav augstākās izglītības). 4. tabula. Vecāku ģimenes turīguma vērtējums atkarībā no vecāku izglītības līmeņa (vid.)
Turības vērtējums atkarībā no:
vecāku augstākā sasniegtā
izglītības līmeņa
tēva
izglītības
mātes
izglītības
Pamatizglītība vai zemāka izglītība
3,22
3,10
3,17
Vidējā izglītība
3,11
2,83
2,98
Profesionālā vidējā vai arodizglītība pēc vidējās izglītības
2,99
2,83
2,94
1. līmeņa augstākā izglītība (koledžas)
2,64
2,64
2,62
Bakalaura grāds vai ekvivalents
2,62
2,47
2,59
Maģistra grāds / 2. līmeņa
profesionālā augstākā izglītība vai ekvivalents
2,60
2,52
2,57
Doktora grāds
2,37
2,43
2,34
Bāze: visi respondenti. Vidējais vērtējums skalā no 1 līdz 5. Lai arī liela daļa studentu, kuri patstāvīgi strādā un kuriem ir savi ienākumi, vai kuri ir jau
nodibinājuši savu ģimeni, nav vairs tieši atkarīgi no vecāku palīdzības un vecāku materiālā
atbalsta, tomēr pastāv korelācija starp vecāku ģimenes pārticības līmeņa un pašu 4. tabula. Vecāku ģimenes turīguma vērtējums atkarībā no vecāku izglītības līmeņa (vid.)
Turības vērtējums atkarībā no:
vecāku augstākā sasniegtā
izglītības līmeņa
tēva
izglītības
mātes
izglītības
Pamatizglītība vai zemāka izglītība
3,22
3,10
3,17
Vidējā izglītība
3,11
2,83
2,98
Profesionālā vidējā vai arodizglītība pēc vidējās izglītības
2,99
2,83
2,94
1. līmeņa augstākā izglītība (koledžas)
2,64
2,64
2,62
Bakalaura grāds vai ekvivalents
2,62
2,47
2,59
Maģistra grāds / 2. līmeņa
profesionālā augstākā izglītība vai ekvivalents
2,60
2,52
2,57
Doktora grāds
2,37
2,43
2,34
Bāze: visi respondenti. Vidējais vērtējums skalā no 1 līdz 5. abula. 2. attēls. Vecāku augstākais sasniegtais izglītības līmenis (%) 2. attēls. Vecāku augstākais sasniegtais izglītības līmenis (%) ̄
g
g
g
(
)
Bāze: visi respondenti. 2
1
31
20
16
10
7
5
20
28
13
12
9
12
4
12
0%
25%
50%
75%
100%
Māte
Tēvs
Nezina, vecāki miruši
Pamatizglītība vai zemāka līmeņa izglītība
Vidējā izglītība
Profesionālā vidējā vai arodizglītība pēc
vidējās
1. līmeņa augstākā izglītība
Bakalaura grāds vai ekvivalents
Maģistra grāds vai ekvivalents Bāze: visi respondenti. Bāze: visi respondenti. Raksturojot vecāku nodarbinātības statusu, redzam, ka lielākai daļai studentu vecāki
strādā algotu darbu vai ir uzņēmēji/pašnodarbinātie. Ekonomiski aktīvi ir 73% tēvu (t.sk. algotā darbā nodarbināti 46,2%, uzņēmēji vai pašnodarbinātie 20%), savukārt mātes
raksturo vēl augstāks nodarbinātības īpatsvars — kopumā ekonomiski aktīvas ir 80% no
mātēm (t.sk. algotu darbu strādā 63,3%, bet uzņēmējas vai pašnodarbinātās ir 13%). Jau
tradicionāli mātes ievērojumi biežāk nekā tēvi nodarbinātas algotā darbā, savukārt tēvu
vidū biežāk sastopami uzņēmēji. Diezgan liela studentu daļa nezina vai nevēlas atbildēt
par sava tēva nodarbošanos, un interesanti, ka šo studentu daļa ir tieši tikpat liela kā
2013. gadā, proti, 16,8%. Par māti šādu atbildi sniedz 4% studentu. Jāpiebilst, ka šādu
atbildi sniedz arī tie studenti, kuru tēvs vai māte ir atstājuši ģimeni vai miruši. 3. tabula. Vecāku nodarbinātības statuss (%)
Māte
Tēvs
Strādā algotu darbu
63,3
46,2
Ir uzņēmējs
5,5
12,6
Pašnodarbinātais
7,8
7,3
Strādā vai studē ārzemēs
3,9
6,7
Nestrādā vai ir bezdarbnieks
2,6
2,6
Cits nodarbinātības statuss
6,5
1,4
Pensija, invaliditāte
8,7
9,1
Nezina, vecāki miruši
4,2
16,8
Bāze: visi respondenti. Iespējamas vairākas atbildes. 3. tabula. Vecāku nodarbinātības statuss (%)
Māte
Tēvs
Strādā algotu darbu
63,3
46,2
Ir uzņēmējs
5,5
12,6
Pašnodarbinātais
7,8
7,3
Strādā vai studē ārzemēs
3,9
6,7
Nestrādā vai ir bezdarbnieks
2,6
2,6
Cits nodarbinātības statuss
6,5
1,4
Pensija, invaliditāte
8,7
9,1
Nezina, vecāki miruši
4,2
16,8
Bāze: visi respondenti. Iespējamas vairākas atbildes. 3. tabula. Vecāku nodarbinātības statuss (%) 27 27 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Vērtējot savu vecāku ģimenes materiālo pārticību 5 punktu skalā, kur 1 nozīmēja «ļoti
turīgi/pārtikuši», bet 5 — «nemaz nav turīgi/pārtikuši», vairāk nekā trešā daļa — 38%
studentu vērtējuši savu vecāku ģimeni kā turīgu (ļoti turīgu vai zināmā mērā turīgu), 46%
studējošo uzskata, ka ģimene ir vidēji pārtikusi, un salīdzinoši neliela daļa — 16% raksturo
savu vecāku ģimeni kā ne pārāk turīgu vai pat trūcīgu. 3. attēls. Vecāku ģimenes materiālās labklājības novērtējums (%) 3. attēls. Vecāku ģimenes materiālās labklājības novērtējums (%) 3. attēls. Vecāku ģimenes materiālās labklājības novērtējums (%) Vecāku ģimenes turīguma vērtējums atkarībā no vecāku izglītības līmeņa (vid.) Bāze: visi respondenti. Vidējais vērtējums skalā no 1 līdz 5. Lai arī liela daļa studentu, kuri patstāvīgi strādā un kuriem ir savi ienākumi, vai kuri ir jau
nodibinājuši savu ģimeni, nav vairs tieši atkarīgi no vecāku palīdzības un vecāku materiālā
atbalsta, tomēr pastāv korelācija starp vecāku ģimenes pārticības līmeņa un pašu 28 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI studentu labklājības līmeņa subjektīvo novērtējumu. Salīdzinot studējošo pašvērtējumu
par iespējām iegādāties dažādas preces un pakalpojumus, būtiskākais rādītājs ir, cik lielā
mērā personīgie vai mājsaimniecības ienākumi atļauj normāli ēst un iegādāties apģērbu,
apavus. Pēc šiem rādītājiem atšķirības starp studentiem, kuri nāk no pārtikušākām
ģimenēm, un tiem, kuri raksturo vecāku ģimeni kā mazāk pārtikušu vai trūcīgu, ir ļoti
nozīmīgas. Studenti no mazturīgām ģimenēm četras reizes biežāk min, ka ienākumi
neļauj normāli ēst vai atļauj iegādāties tikai pašu nepieciešamāko (5% salīdzinājumā ar
23%), vairāk nekā pusei (53%) studentu no mazāk pārtikušām ģimenēm ienākumi neļauj
iegādāties apģērbu/apavus vai atļauj tikai pašu nepieciešamāko. Līdzīga tendence un
statistiski tikpat nozīmīgas atšķirības starp dažādas sociālās izcelsmes studentiem
vērojamas arī pēc citiem rādītājiem — iespējām apmeklēt kultūras pasākumus,
nodarboties ar vaļaspriekiem, iegādāties vajadzīgās grāmatas u.tml. Interesanti, ka
korelācija starp šiem rādītājiem nav atkarīga no tā, vai students šobrīd dzīvo kopā ar
saviem vecākiem vai nē, proti, materiālo iespēju vērtējumu šis fakts neietekmē. 5. tabula. Studējošo pašvērtējums par iespējām iegādāties dažādas preces un pakalpo-
jumus (%)
Neļauj vai atļauj tikai pašu
nepieciešamāko
Vairāk vai mazāk atļauj un atļauj
pilnībā
Pārtikusi vecāku
ģimene
Mazturīga
vecāku ģimene
Pārtikusi
vecāku ģimene
Mazturīga
vecāku ģimene
Normāli ēst
5
23
95
77
Iegādāties apģērbu, apavus
20
53
80
47
Apmeklēt kultūras pasākumus, kurus
vēlaties (kino, koncertus utt.)
21
53
79
47
Nodarboties ar vaļasprieku
20
51
80
49
Iegādāties grāmatas, kuras vēlaties
29
61
71
39
Iegādāties sporta, izklaides inventāru
42
72
58
28
Iegādāties ilglietojamās preces (mēbeles,
sadzīves tehniku, mašīnu)
58
79
42
21
Bāze: visi respondenti. Tāpat interesanti norādīt, ka kopš 2013. gada studentu subjektīvajā materiālās labklājības
vērtējumā izmaiņas ir diezgan nebūtiskas. Gandrīz visos rādītājos nedaudz pieaugusi to
studentu daļa, kuru ienākumi vairāk vai mazāk atļauj apmierināt visas vajadzības, un
nozīmīgāk palielinājusies tikai tā daļa, kuri var atļauties iegādāties, piemēram, sporta
inventāru, ilglietojamās preces u.tml. . tabula. Studējošo pašvērtējums par iespējām iegādāties dažādas preces un pakalpo-
jumus (%) la. Bāze: visi respondenti. 6.1. Studentu pieredze pirms iestāšanās augstākās izglītības
iestādēs Atbilstoši Eurostudent pētījuma koncepcijai dati par jauniešu pāreju uz augstāko izglītību
nodrošina iespēju analizēt svarīgu Boloņas procesa aspektu — augstākās izglītības
pieejamību dažādām iedzīvotāju grupām. Augstākās izglītības pieejamības aktualitāte
saistāma arī ar modernizācijas nozīmīgumu atbilstoši Eiropas Komisijas izstrādātajai
«Eiropa 2020» stratēģijai. Tāpēc dažādas iespējas, kā iestāties augstskolā un uzsākt
studijas, ir būtisks augstākās izglītības aspekts. Šajā nodaļā tiks aplūkoti pārejas veidi no
vidējās izglītības uz augstāko izglītību, studentu pieredzes nozīmīgums pirms iestāšanās
augstskolā, darba pieredze pirms iestāšanās augstskolā, mācību pārtraukumi starp studiju
uzsākšanu un absolvēšanu, kā arī plāni par turpmākajām studijām. 3. attēls. Vecāku ģimenes materiālās labklājības novērtējums (%) Studējošo pašvērtējums par iespējām iegādāties dažādas preces un pakalpo-
jumus (%) Bāze: visi respondenti. Tāpat interesanti norādīt, ka kopš 2013. gada studentu subjektīvajā materiālās labklājības
vērtējumā izmaiņas ir diezgan nebūtiskas. Gandrīz visos rādītājos nedaudz pieaugusi to
studentu daļa, kuru ienākumi vairāk vai mazāk atļauj apmierināt visas vajadzības, un
nozīmīgāk palielinājusies tikai tā daļa, kuri var atļauties iegādāties, piemēram, sporta
inventāru, ilglietojamās preces u.tml. 29 29 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 4. attēls. Studējošo pašvērtējums par iespējām iegādāties dažādas preces un
pakalpojumus
2013. un 2017. gadā (%)
Bāze: visi respondenti. 89
65
61
65
51
39
24
90
69
67
68
57
45
32
11
35
39
35
49
61
76
10
31
33
32
43
55
68
0
20
40
60
80
100
Normāli ēst
Iegādāties apģērbu, apavus
Apmeklēt kultūras pasākumus, kurus vēlaties
(kino, koncertus utt.)
Nodarboties ar vaļasprieku
Iegādāties grāmatas, kuras vēlaties
Iegādāties sporta, izklaides inventāru
Iegādāties ilglietojamās preces (mēbeles,
sadzīves tehniku, mašīnu)
Neļauj vai atļauj tikai pašu nepieciešamāko, 2017
Neļauj vai atļauj tikai pašu nepieciešamāko, 2013
Vairāk vai mazāk atļauj un atļauj pilnībā, 2017
Vairāk vai mazāk atļauj un atļauj pilnībā, 2013 attēls. Studējošo pašvērtējums par iespējām iegādāties dažādas preces un
pakalpojumus
2013. un 2017. gadā (%) 4. attēls. Neļauj vai atļauj tikai pašu nepieciešamāko, 2017
Neļauj vai atļauj tikai pašu nepieciešamāko, 2013
Vairāk vai mazāk atļauj un atļauj pilnībā, 2017
Vairāk vai mazāk atļauj un atļauj pilnībā, 2013 Neļauj vai atļauj tikai pašu nepieciešamāko, 2017
Neļauj vai atļauj tikai pašu nepieciešamāko, 2013
Vairāk vai mazāk atļauj un atļauj pilnībā 2017 Bāze: visi respondenti. 30 30 6.2. Studiju mobilitāte Augstskolu studentu sadalījums pa reģioniem atkarībā no vidējās izglītības ie-
gūšanas vietas (rindu %) Vairāk nekā puse (60%) no Rīgas augstskolu un koledžu studentiem vidējo izglītību
ieguvuši Rīgā vai Pierīgā. Rīgā studējošo vidū ļoti līdzīga ir studentu proporcija no citiem
Latvijas reģioniem (10–11%), izņemot Latgali (8%). Reģionālo augstskolu studentu
kopskaitā lielākā daļa (no 71% līdz 84%) respondentu vidējo izglītību ieguvuši tajā pašā
reģionā, visbiežāk pilsētā, kur atrodas augstskola. Taču ir arī izņēmumi, kas saistīti ar
studiju programmu specifiku — ja tās ir pieejamas tikai vienā mācību iestādē, tad arī
studējošie nāk no visiem Latvijas reģioniem. Vairāk nekā puse (60%) no Rīgas augstskolu un koledžu studentiem vidējo izglītību
ieguvuši Rīgā vai Pierīgā. Rīgā studējošo vidū ļoti līdzīga ir studentu proporcija no citiem
Latvijas reģioniem (10–11%), izņemot Latgali (8%). Reģionālo augstskolu studentu
kopskaitā lielākā daļa (no 71% līdz 84%) respondentu vidējo izglītību ieguvuši tajā pašā
reģionā, visbiežāk pilsētā, kur atrodas augstskola. Taču ir arī izņēmumi, kas saistīti ar
studiju programmu specifiku — ja tās ir pieejamas tikai vienā mācību iestādē, tad arī
studējošie nāk no visiem Latvijas reģioniem. 6.2. Studiju mobilitāte Pārejas uz augstāko izglītību analīzi sāksim ar ģeogrāfiskās pārejas (transition) jeb
mobilitātes raksturojumu. Lielākā daļa Latvijas augstskolu atrodas Rīgā, tādēļ studentu
mobilitāti pēc vidējās izglītības iegūšanas tradicionāli raksturo vienvirziena kustība — no
laukiem un mazpilsētām uz lielajām pilsētām, reģiona centriem, no dažādiem reģioniem
uz Rīgu. Gandrīz trīs ceturtdaļas (72%) aptaujāto studentu 2017. gadā studē Rīgā, pārējie
(28%) — reģionālajās augstskolās ārpus Rīgas (Daugavpilī, Liepājā, Jelgavā, Rēzeknē,
Ventspilī un Valmierā). Tas raksturo korelāciju starp vidējās izglītības iegūšanas vietu un
augstskolas atrašanās vietu. Līdzīgu vidusskolas absolventu plūsmas virzienu demonstrēja
arī Eurostudent V dati. Rīgas augstskolās kopumā studē lielākā daļa no Latvijas augstskolu studentiem, to skaitā
tie jaunieši, kuri vidējās izglītības iestādes absolvējuši citās Latvijas pilsētās, laukos vai
ārzemēs. Reģionālajās augstskolās studējošo vidū lielāks ir to jauniešu īpatsvars, kuri
vidējo izglītību ieguvuši pilsētā, kurā atrodas augstskola, vai kādā citā šī reģiona pilsētā /
apdzīvotā vietā. To ilustrē dati par studējošo sadalījumu atkarībā no augstskolas atrašanās
vietas. 31 31 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 6. tabula. Augstskolu studentu sadalījums pa reģioniem atkarībā no vidējās izglītības ie-
gūšanas vietas (rindu %)
Augstskolas atrašanās vieta
Reģions, kurā iegūta vidējā izglītība
Rīga, Pierīga
Vidzeme
Kurzeme
Zemgale
Latgale
Rīga, Pierīga
60
11
10
11
8
Latgale
7
2
0
7
84
Kurzeme
4
7
83
6
0
Vidzeme
11
71
3
11
3
Zemgale
30
10
16
29
15
Bāze: visi respondenti. Vairāk nekā puse (60%) no Rīgas augstskolu un koledžu studentiem vidējo izglītību
ieguvuši Rīgā vai Pierīgā. Rīgā studējošo vidū ļoti līdzīga ir studentu proporcija no citiem
Latvijas reģioniem (10–11%), izņemot Latgali (8%). Reģionālo augstskolu studentu
kopskaitā lielākā daļa (no 71% līdz 84%) respondentu vidējo izglītību ieguvuši tajā pašā
reģionā, visbiežāk pilsētā, kur atrodas augstskola. Taču ir arī izņēmumi, kas saistīti ar
studiju programmu specifiku — ja tās ir pieejamas tikai vienā mācību iestādē, tad arī
studējošie nāk no visiem Latvijas reģioniem. 6. tabula. Augstskolu studentu sadalījums pa reģioniem atkarībā no vidējās izglītības ie-
gūšanas vietas (rindu %)
Augstskolas atrašanās vieta
Reģions, kurā iegūta vidējā izglītība
Rīga, Pierīga
Vidzeme
Kurzeme
Zemgale
Latgale
Rīga, Pierīga
60
11
10
11
8
Latgale
7
2
0
7
84
Kurzeme
4
7
83
6
0
Vidzeme
11
71
3
11
3
Zemgale
30
10
16
29
15
Bāze: visi respondenti. 6. tabula. 6.3. Iepriekšējās pieredzes un prasmju nozīme, pirmo reizi uzsā-
kot vai turpinot studijas Eurostudent VI aptaujā atsevišķos jautājumos tika noskaidrots, vai kādas no prasmēm un
papildu pieredze, ko respondents guvis ārpus formālās izglītības, tika ņemtas vērā,
iestājoties augstskolā pirmo reizi (1), vai ieskaitīti kā kredītpunkti pašreizējā studiju
programmā (2). Dati liecina, ka ārpus formālās izglītības iegūtās zināšanas, prasmes vai
darba pieredze ir ņemta vērā 20% gadījumu. Atbildot uz atklāto jautājumu, studenti
minējuši ļoti plaša spektra prasmes un zināšanas, kas bijušas nepieciešamas vai sniegušas
papildu bonusus. Studenti minējuši gan profesionālās ievirzes izglītību (mūzikas skola), gan profesionālo
izglītību (profesionālā skola, medicīnas skola), gan piedalīšanos skolēnu mācību
priekšmetu olimpiādēs un zinātniski praktisko darbu, gan neformālajā izglītībā iegūtās vai
papildus izkoptās prasmes (svešvalodas, fiziskā pilnveide un sports, jauno žurnālistu skola,
jauno līderu skola, Junior Achievement, Humanitārā akadēmija), gan profesionālo zināšanu
testus, gan brīvprātīgā darba pieredzi. Studenti, kas turpina studijas (piem., bakalaura,
garā cikla vai maģistra studiju programma vai studiju atsākšana pēc pārtraukuma),
minējuši ieskaitītos kredītpunktus, iepriekš kārtotos eksāmenus, iepriekšējo praksi
profesijā, vasaras skolas, dažādus neformālajā izglītībā iegūtos sertifikātus, ārzemēs
apgūto priekšmetu/kursu pielīdzināšanu u.c. Atšķirībā no Eurostudent V aptaujas, kad kā papildu prasmes vai pieredzi studenti
visbiežāk minēja sasniegumus mācību olimpiādēs, zinātniski pētnieciskajos konkursos 32 32 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI (16%), šobrīd visbiežāk tiek nosaukta darba pieredze (19,6%). Atbildes atšķiras arī
atkarībā no tā, vai students pirmo reizi iestājies augstskolā vai turpina studijas nākamajā
līmenī vai pēc studiju pārtraukuma. Tie studenti, kuru prasmes un/vai pieredze ņemta vērā, pirmo reizi stājoties augstskolā,
visbiežāk minējuši darba pieredzi (16,7%) un neformālā izglītībā iegūtās prasmes (10,4%),
piedalīšanos mācību priekšmetu olimpiādēs (7,2%), zinātniski pētniecisko darbu (5,4%). Zinātņu skolas sertifikāti, publikācijas u.tml. minēti kopumā apmēram 10% gadījumu. Savukārt tie studenti, kas turpina studijas nākamajā studiju posmā vai pēc studiju
pārtraukuma,
visbiežāk
minējuši
darba
pieredzi
(25%),
iepriekš
apgūtos
priekšmetus/kursus (14,7%), ieskaitītos kredītpunktus (15,4%). Retāk tiek minēta papildus
izglītība (valodu prasmes, piedalīšanās kursos) — 5%, zinātniskais darbs, publikācijas vai
piedalīšanās konferencēs (6,7%), kā arī profesionālās ievirzes vai koledžas izglītībā
(mūzikas skola, medicīnas koledža, profesionālā izglītība) iegūtās prasmes. 6.4. Regulāra vai novēlota pāreja no vidējās izglītības uz augstāko
izglītību Šajā sadaļā noskaidrosim, kā tipiski notiek pāreja no vidējās uz augstāko izglītību. Kā jau
minēts iepriekš, šis rādītājs raksturo augstākās izglītības pieejamību gan tiem cilvēkiem,
kas izvēlējušies uzsākt studijas tūlīt pēc vidējās izglītības (tradicionālā jeb regulārā pāreja
uz augstāko izglītību), gan tiem, kas izvēlējušies uzsākt studijas vēlāk — divu un vairāk
gadu laikā. To sauc par novēloto pāreju uz augstāko izglītību (delayed transition). Eurostudent aptaujā tiek veikti vairāki mērījumi, kas ļauj raksturot šo pāreju: tiek
noskaidrots laiks, kad (1) respondents pirmo reizi atstājis vispārējās izglītības sistēmu, (2)
kad ieguvis atestātu par vidējo izglītību un/vai nokārtojis pārbaudījumus, kuri dod iespēju
iestāties augstskolā/koledžā, (3) kad pirmo reizi uzsācis studijas augstākās izglītības
sistēmā un (4) kad sācis studēt pašreizējā programmā. Absolūtais vairākums (94%) studentu atestātu par vidējo izglītību ieguvuši uzreiz pēc
skolas pabeigšanas, ļoti neliela studējošo daļa atestātu/diplomu saņēmusi pēc vairāk kā 6
mēnešu pārtraukuma. Trīs ceturtdaļas aptaujāto (75,8%) studijas augstskolā pirmo reizi ir uzsākuši uzreiz pēc
vidējās izglītības iegūšanas, t.i., gada laikā kopš saņēmuši atestātu par vidējo izglītību vai
nokārtojuši pārbaudījumus, kas dod iespēju stāties augstskolā. Starptautiskā Eurostudent pētījuma koncepcijā īpaša uzmanība tiek pievērsta augstākās
izglītības pieejamībai tiem cilvēkiem, kas nav iestājušies augstskolā tūlīt pēc vidējās
izglītības iegūšanas. 33 33 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Eurostudent IV un Eurostudent V aptaujas rezultātu salīdzinājums liecina, ka atšķirības
izglītības ceļā nav nozīmīgas: pārtraukums starp vidējās izglītības iegūšanu un studiju
uzsākšanu augstākajā izglītībā 2009. gadā bija 13%, bet 2013. gadā — 14% studējošo. 2017. gadā novēlotā pāreja uz augstāko izglītību bija 15% studentu. Eurostudent IV un Eurostudent V aptaujas rezultātu salīdzinājums liecina, ka atšķirības
izglītības ceļā nav nozīmīgas: pārtraukums starp vidējās izglītības iegūšanu un studiju
uzsākšanu augstākajā izglītībā 2009. gadā bija 13%, bet 2013. gadā — 14% studējošo. 2017. gadā novēlotā pāreja uz augstāko izglītību bija 15% studentu. Eurostudent V starptautiskais salīdzinājums liecina, ka novēlota pāreja — pārtraukums
starp vidējo un augstāko izglītību dažādās valstīs nozīmīgi atšķiras un svārstās no 5%
Slovēnijā, Francijā un Maltā līdz 25% Ziemeļvalstīs.16 Jānorāda, ka pastāv korelācija starp studentu nodarbinātību semestra laikā un regulāro
(tūlīt pēc vidējās izglītības iegūšanas) vai novēloto pāreju uz augstāko izglītību. Studenti,
kas vēlāk iestājušies augstskolā, biežāk strādā arī studiju laikā. Semestra laikā regulāri
strādā 46,6% studentu, kas augstskolā iestājušies tūlīt pēc vidējās izglītības, 47,6%
studentu, kas iestājušies 1–2 gadus pēc vidējās izglītības, un 59% novēlotās pārejas
studentu. Neregulāri strādā vēl 7%, bet nestrādā tikai katrs trešais novēlotās
pārejas students. 16 Hauschildt, K., Gwosć, C., Netz, N., & Mishra, S. (2015). Social and Economic Conditions of Student Life in Europe:
Synopsis of Indicators. Eurostudent V 2012–2015. Bielefeld: W. Bertelsmann Verlag. 6.5. Darba pieredze pirms studiju uzsākšanas Salīdzinot ar Eurostudent pētījuma iepriekšējo posmu rezultātiem, nozīmīgas izmaiņas
raksturo studentu darba pieredzi pirms studiju uzsākšanas augstākās izglītības sistēmā. 2013. gadā, salīdzinot ar 2009. gadu, bija ievērojami samazinājusies to studentu daļa, kam
bijusi regulāra darba pieredze pirmo reizi stājoties augstskolā, — darba pieredzi guvušo
skaits bija sarucis no 65% līdz 47%. Šajā Eurostudent posmā uz darba pieredzi pirms studiju
uzsākšanas augstākās izglītības sistēmā, līdzīgi kā 2009. gadā, norādījuši kopumā 66%
studentu. Uzreiz gan jāpiebilst, ka rezultātu var ietekmēt metodoloģiskas izmaiņas
jautājuma formulējumā — starptautiskā pētījuma ietvaros ir nedaudz mainīts darba
pieredzi raksturojošo atbilžu formulējums — iepriekšējo 2 kategoriju vietā atsevišķi tiek
piedāvātas 3 kategorijas: regulāra darba pieredze vismaz vienu gadu bez pārtraukuma ar
slodzi vismaz 20 stundas nedēļā, regulāra darba pieredze ar slodzi mazāku nekā 20
stundas nedēļā un papildus pievienota atbilde par darba pieredzi, kas mazāka par vienu
gadu. Pēdējā kategorija tātad ietver arī tos skolas vecuma jauniešus, kuri vasaras brīvlaikā,
iespējams, nostrādājuši tikai vienu vai vairākus mēnešus. Šo atbildi atzīmējusi vairāk nekā
trešā daļa (37%) no visiem studējošajiem. Regulārs darbs vismaz gadu bez pārtraukuma
un ar slodzi vismaz 20 stundas nedēļā bijis 23% jauniešu, bet ar slodzi mazāku nekā 20
stundas nedēļā — 7% jauniešu. Trešdaļai studējošo (34%) pirms studiju uzsākšanas
augstākās izglītības sistēmā nav bijusi nekāda pieredze algotā darbā. 34 34 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 5. attēls. Darba pieredze pirms studiju uzsākšanas augstskolā vai koledžā (%) Bāze: visi respondenti. 23
7
37
34
Bija regulārs algots darbs vismaz vienu gadu bez
pārtraukumiem ar slodzi vismaz 20 stundas nedēļā
Bija algots darbs vismaz vienu gadu bez pārtraukumiem
slodzi mazāku par 20 stundām nedēļā
Bija strādājis mazāk nekā vienu gadu
Nebija nekāda darba pieredze Bija regulārs algots darbs vismaz vienu gadu bez
pārtraukumiem ar slodzi vismaz 20 stundas nedēļā Bija algots darbs vismaz vienu gadu bez pārtraukumiem ar
slodzi mazāku par 20 stundām nedēļā Bija strādājis mazāk nekā vienu gadu Nebija nekāda darba pieredze Bāze: visi respondenti. Bāze: visi respondenti. Salīdzinājums starp maģistrantūrā studējošajiem un bakalaura līmeņa studentiem norāda
uz to, ka šodienas bakalaura studiju programmas studentiem biežāk bijusi algota darba
pieredze jau pirms studiju uzsākšanas — regulārā algotā darbā ar slodzi vairāk nekā 20
stundas nedēļā strādājuši 43% no bakalaura studiju programmā un 27% no maģistrantūras
programmā studējošajiem, kā arī 25% no koledžas līmeņa studentiem. Visretāk darba
pieredze bijusi garā cikla 2. 6.5. Darba pieredze pirms studiju uzsākšanas līmeņa profesionālās augstākās izglītības programmas
studentiem — pirms iestāšanās augstskolā strādājuši 15% no šiem studentiem. Salīdzinot
darba pieredzi pa izglītības jomām, statistiski nozīmīgas atšķirības vērojamas trijās no tām
— pirms mācību uzsākšanas algota darba pieredze biežāk bijusi komerczinību (24%),
veselības aprūpes un sociālās labklājības (22,2%) un inženierzinātņu studentiem (14,7%). 2017. gadā visretāk strādājuši izglītības jomā studējošie (jebkāda darba pieredze ir 12,4%),
dabaszinātņu (8%) un lauksaimniecības jomas studenti (5%). 6.6. Studiju pārtraukumi starp studiju uzsākšanu augstskolā un
studiju pabeigšanu Eurostudent VI pētījuma dati liecina, ka, salīdzinot ar iepriekšējo pētījuma posmu,
palielinājusies to studentu daļa, kuri kopš studiju uzsākšanas augstākajā izglītībā studijas
nav pārtraukuši. 2013. gadā studiju gaitas nebija pārtraukuši 86% studējošo, 2017. gadā
bez studiju pārtraukumiem mācās 92,5% aptaujāto studentu. Posmā kopš pirmo studiju gaitu uzsākšanas un to pabeigšanas vismaz uz diviem
semestriem (vienu akadēmisko gadu) studijas bija pārtraukuši 7% aptaujāto. Atbilstoši
studentu sniegtajām atbildēm izplatītākie studiju pārtraukšanas iemesli ir ģimenes
apstākļi (81,3%), veselības problēmas (77%), nespēja savienot darbu ar studijām (73%),
finansiālas grūtības (80,2%), motivācijas trūkums (69%). Citi iemesli ietver dažādus
skaidrojumus, kas galvenokārt saistīti ar studiju parādiem, nespēju motivēt sevi, citu
aktivitāšu uzsākšanu utt. Un pēdējais rādītājs, kas raksturo izglītības ceļu, fiksē, vai un cik ilgs ir laika posms starp
vienu augstākās izglītības programmas pabeigšanu un studiju uzsākšanu citā augstākās
izglītības programmā/līmenī. Pēc bakalaura līmeņa studiju beigšanas vairāk nekā puse
(56%) aptaujāto šī brīža maģistrantūras studentu uzreiz ir turpinājuši studijas 35 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI maģistrantūrā. Puse studentu pēc bakalaura grāda iegūšanas ir izvēlējušies studijas
pārtraukt uz vienu, diviem vai vairākiem gadiem, pēc tam studijas atsākot. Pašreizējo
maģistrantūras studentu pieredze rāda, ka biežāk sastopami studenti, kam pārtraukums
starp bakalaura un maģistrantūras studijām ir bijis divus un vairāk gadus ilgs (27,3%), retāk
tādi, kas izvēlējušies viena gada pārtraukumu (16,3%). 7. NODARBINĀTĪBA STUDIJU LAIKĀ Studiju un darba apvienošana ir mūsdienu studentu dzīves realitāte, ar kuru jārēķinās gan
izglītības politikas veidotājiem, gan augstskolām. Atkarībā no studiju līmeņa un izglītības
jomas lielāka vai mazāka daļa studentu apvieno pilna laika mācības ar pilna laika vai
nepilnu slodzi algotā darbā. No vienas puses, darbs sniedz studentiem tik nepieciešamo
pieredzi, nodrošina patstāvīgus ienākumus, daudziem studentiem tā ir vienīgā iespēja, lai
vispār studētu, bet, protams, šai situācijai ir ļoti būtiskas ēnas puses — darba pienākumu
dēļ bieži tiek kavētas lekcijas, samazinās laiks, ko students var veltīt patstāvīgām studijām,
un līdz ar to neizbēgami cieš studiju kvalitāte. Studiju un darba apvienošana ir mūsdienu studentu dzīves realitāte, ar kuru jārēķinās gan
izglītības politikas veidotājiem, gan augstskolām. Atkarībā no studiju līmeņa un izglītības
jomas lielāka vai mazāka daļa studentu apvieno pilna laika mācības ar pilna laika vai
nepilnu slodzi algotā darbā. No vienas puses, darbs sniedz studentiem tik nepieciešamo
pieredzi, nodrošina patstāvīgus ienākumus, daudziem studentiem tā ir vienīgā iespēja, lai
vispār studētu, bet, protams, šai situācijai ir ļoti būtiskas ēnas puses — darba pienākumu
dēļ bieži tiek kavētas lekcijas, samazinās laiks, ko students var veltīt patstāvīgām studijām,
un līdz ar to neizbēgami cieš studiju kvalitāte. 6.7. Turpmākā studiju ceļa izvēle Lai noskaidrotu studentu plānus saistībā ar studijām, visi respondenti tika lūgti atbildēt uz
jautājumu, vai viņi plāno turpināt studijas maģistrantūrā vai citā programmā, un ja
nolēmuši turpināt studijas, tad kurā valstī. Savukārt maģistrantūras programmas
studentu grupā tika noskaidrots, kurā valstī tie ieguvuši bakalaura grādu vai citu izglītību,
kas ļāva turpināt studijas maģistrantūrā. Absolūtais vairākums jeb 96% maģistrantūras studentu bakalaura grādu ieguvuši Latvijā
un tikai neliela daļa (4%) iepriekšējo izglītību guvuši citā valstī: Francijā, Vācijā, Krievijā u.c. Runājot par nākotni, 28% studentu plāno turpināt studijas tuvākā gada laikā pēc
pašreizējo studiju absolvēšanas, 15% plāno to darīt ne agrāk kā gadu pēc pašreizējās
studiju programmas pabeigšanas, bet 15,7% šobrīd neplāno turpmāko izglītības ceļu. Jānorāda, ka ārkārtīgi liela studentu daļa (40%) vēl nezina, vai un kad vēlēsies
turpināt studijas. Savukārt, atbildot uz jautājumu, kurā valstī gribētu turpināt studijas, atbilžu izkliede ietver
ļoti plašu valstu spektru (kopumā nosauktas 28 valstis). Tikai 60% studentu vēlētos
turpināt studijas Latvijā, 12,4% izvēlētos kādu citu valsti, bet 28% vēl nav izlēmuši vai
nezina, kurā valstī gribētu studēt. No valstīm, kurp studenti vēlētos doties studēt,
visbiežāk nosaukta Vācija, Lielbritānija, ASV, Ziemeļeiropas valstis. Salīdzinoši lielāka daļa
plāno studēt Vācijā (iespējams, tas saistīts ar bezmaksas studiju īpatsvaru šajā valstī). 36 36 7.1. Studiju apvienošana ar algotu darbu Studentu darba pieredze pirms studiju uzsākšanas augstākās izglītības sistēmā raksturota
nodaļā «Pāreja uz augstāko izglītību», bet pētāmo problēmu kontekstā svarīgāks ir
jautājums par studiju un algota darba savienošanu, par to, kā darbs ietekmē studiju
procesu un cik lielā mērā studijas atļauj pilnvērtīgi pildīt darba pienākumus. Salīdzinot
pilna laika studentu nodarbinātību studiju procesā, proti, mācību semestra laikā,
studējošo vidū gadu no gada vērojams stabils nodarbinātības pieaugums. Mācību
semestra laikā šobrīd strādā 61% studentu, no tiem regulārs algots darbs ir 49%
(2013. gadā regulārā darbā bija nodarbināti 36% studentu, bet 2009. gadā — 32%
studentu). Gandrīz nemainīga saglabājas to studentu daļa, kas līdztekus studijām strādā
neregulāru darbu, t.i., strādā laiku pa laikam — šobrīd tie ir 12%, iepriekšējos gados 13%
no studējošajiem. No tiem studentiem, kas konkrētajā mācību semestrī, kad tika veikta aptauja, nestrādāja
(39%), algotu darbu vispār nekad nav strādājuši vien 8% studentu. 37 37 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 6. attēls. Studējošo nodarbinātības statuss mācību semestra laikā 2009., 2013. un
2017. gadā
32
37
49
13
13
12
55
50
39
0
10
20
30
40
50
60
2009. 2013. 2017. Šī mācību semestra laikā es nestrādāju
Šī mācību semestra laikā es laiku pa laikam strādāju algotu darbu
Šī mācību semestra laikā es regulāri strādāju algotu darbu 6. attēls. Studējošo nodarbinātības statuss mācību semestra laikā 2009., 2013. un
2017. gadā
32
37
49
13
13
12
55
50
39
0
10
20
30
40
50
60
2009. 2013. 2017. Šī mācību semestra laikā es nestrādāju
Šī mācību semestra laikā es laiku pa laikam strādāju algotu darbu
Šī mācību semestra laikā es regulāri strādāju algotu darbu 6. attēls. Studējošo nodarbinātības statuss mācību semestra laikā 2009., 2013. un
2017. gadā Šī mācību semestra laikā es laiku pa laikam strādāju algotu darbu Šī mācību semestra laikā es regulāri strādāju algotu darbu Bāze: visi respondenti. Nodarbinātības rādītāji dažādos studiju līmeņos nozīmīgi atšķiras. Neapšaubāmi, darba
pieredze kopumā un nodarbinātība mācību semestra laikā pieaug līdz ar studentu vecumu
un ir būtiski augstāka maģistra līmeņa programmās. Nodarbinātības rādītāji dažādos studiju līmeņos nozīmīgi atšķiras. Neapšaubāmi, darba
pieredze kopumā un nodarbinātība mācību semestra laikā pieaug līdz ar studentu vecumu
un ir būtiski augstāka maģistra līmeņa programmās. Lielākā daļa (85%) no akadēmiskā maģistra programmās studējošajiem paralēli mācībām
strādā (vairākums — 75% strādā regulārā darbā, 10% — laiku pa laikam). 7.1. Studiju apvienošana ar algotu darbu Arī profesionālā
maģistra programmās studējošos raksturo gandrīz tikpat augsti nodarbinātības rādītāji —
mācību laikā algotā darbā strādā 82% studējošo (no tiem — 75% ir regulārs darbs, bet 7%
strādā laiku pa laikam). Nākamie augstākie nodarbinātības rādītāji, līdzīgi kā iepriekšējos
Eurostudent aptaujas posmos, raksturīgi 1. līmeņa augstākās izglītības (koledžas)
studentu kopai — paralēli mācībām nodarbināti 62% no koledžu studentiem (regulāru
algotu darbu strādā 51%, laiku pa laikam — 12% studentu). 2013. gadā šajā studiju
programmā paralēli mācībām arī strādāja vairāk nekā puse (57%) studējošo. Bakalaura līmeņa studijās paralēli mācībām studenti strādā retāk, tomēr nodarbinātības
rādītāji tāpat ir ļoti augsti — kopumā strādā aptuveni puse no studējošajiem: profesionālā
bakalaura studiju programmās 51% (no tiem regulārā darbā — 37%, neregulārā darbā —
14%), akadēmiskā bakalaura līmenī mācību semestra laikā strādā 48% studentu (regulārā
darbā — 33%, laiku pa laikam — 15%). Iespējams, mācību noslodzes dēļ zemākais
nodarbināto studentu skaits semestra laikā ir garā cikla 2. līmeņa profesionālās augstākās
izglītības programmās (izlasē šo grupu pārstāv veselības aprūpes jomas studenti): algotā
darbā nodarbināti 35% no šajā jomā studējošo kopuma, no kuriem regulārā darbā strādā
28%, laiku pa laikam — 7%. Pēdējo 8 gadu laikā pieaudzis vidējais darbā pavadīto stundu skaits nedēļā — ja 2009. gadā
strādājošo studentu grupā vidējais algotam darbam patērēto stundu skaits nedēļā bija 38 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 28,6 stundas, tad 2013. gadā tas bija pieaudzis līdz 30,22 stundām, bet šobrīd strādājošie
studenti ik nedēļu algotā darbā strādā vidēji 31,26 stundas. Visos pētījuma posmos moda,
proti, studentu visbiežāk minētais nostrādāto stundu skaits nedēļā bija 40 stundas, kas
atbilst pilnas slodzes darba laikam. Līdz ar to gadu gaitā aktualitāti saglabā jautājums, uz
kuru pētījums nevar sniegt tiešu atbildi, — cik lielā mērā ir savienojams pilna laika darbs ar
pilna laika studijām un kas no tā cieš vairāk — darbs vai studijas? 7. attēls. Algots darbs (vid. stundas nedēļā)
Bāze: semestra laikā algotā darbā nodarbinātie respondenti. Tādēļ Eurostudent pētījumā pamatoti tiek iekļauts jautājums pašiem studentiem: kas
viņiem ir primārais — darbs vai studijas? 28.6
30.2
31.3
0
5
10
15
20
25
30
35
2009
2013
2017 7. attēls. Algots darbs (vid. stundas nedēļā) 7. attēls. Algots darbs (vid. stundas nedēļā)
28.6
30.2
31.3
0
5
10
15
20
25
30
35
2009
2013
2017 Bāze: semestra laikā algotā darbā nodarbinātie respondenti. Tādēļ Eurostudent pētījumā pamatoti tiek iekļauts jautājums pašiem studentiem: kas
viņiem ir primārais — darbs vai studijas? 7.1. Studiju apvienošana ar algotu darbu Tādēļ Eurostudent pētījumā pamatoti tiek iekļauts jautājums pašiem studentiem: kas
viņiem ir primārais — darbs vai studijas? Lai arī attieksmes salīdzinājuma precizitāti nedaudz ierobežo izmaiņas atbilžu
formulējumā, tomēr redzams, ka kopumā studentu attieksme laika gaitā būtiski nav
mainījusies — aptuveni tikai pusei no strādājošajiem studentiem (2013. gadā — 51%, bet
2017. gadā — 55%) studijas ir primāras un svarīgākas par citām aktivitātēm. Savukārt, tieši
tāpat kā pirms 4 gadiem, 45% studentu atzīst, ka primārs ir darbs un studijas notiek
līdztekus darbam. 8. attēls. Attieksme pret darba vai studiju prioritāti (%)
Bāze: semestra laikā algotā darbā nodarbinātie respondenti. 5
45
51
45
55
0
20
40
60
Pirmkārt man ir citi pienākumi paralēli studijām
Pirmkārt es strādāju un studēju paralēli
algotam darbam
Pirmkārt esmu students un strādāju paralēli
studijām
2017
2013 8. attēls. Attieksme pret darba vai studiju prioritāti (%) 8. attēls. Attieksme pret darba vai studiju prioritāti (%) Pirmkārt esmu students un strādāju paralēli
studijām 39 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Studijas kā primāras visbiežāk (91% gadījumu) min veselības aprūpes un sociālās
labklājības jomas studenti (garā cikla 2. līmeņa profesionālās augstākās izglītības
programmas līmenis). Atgādināsim, ka šajā grupā bija arī viszemākais algotā darbā
nodarbināto studentu skaits. Līdzīgi kā iepriekšējos pētījuma posmos, salīdzinoši biežāk
nekā pārējie studijas kā primāro nodarbošanos min akadēmiskā bakalaura programmas
studenti (80%) un profesionālā bakalaura programmās studējošie (76%). Pretēja tendence raksturo maģistra programmās studējošos — 77% no profesionālā
maģistra programmas un 66% no akadēmiskā maģistra programmas studentiem uzskata,
ka primārais viņiem ir darbs, un studijas notiek līdztekus darbam. Turklāt kopš 2013. gada
abās minētajās grupās nozīmīgi pieaudzis to studentu skaits, kas pauž šādus uzskatus
(2013. gadā darba prioritāti uzsvēra 60% no profesionālā maģistrantūrā un 59% no
akadēmiskajā maģistrantūrā studējošajiem). Interesanti norādīt, ka, līdzīgi kā iepriekšējā
pētījuma posmā, uz darba prioritāti pār mācībām norāda diezgan liela daļa no koledžu
studentiem (57% uzskata, ka pirmkārt strādā un līdztekus darbam studē). 7. tabula. Nodarbinātība un attieksme pret nodarbinātību atkarībā no studiju līmeņa (%)
Mācību semestra
laikā strādā
regulārā darbā
Strādā laiku
pa laikam
Pirmkārt esmu
students/-e un
strādāju paralēli
studijām
Pirmkārt es
strādāju un
studēju paralēli
algotam darbam
1. līmeņa profesionālās augstākās
izglītības (koledžas) studiju
programma
51
12
50
50
Akadēmiskā bakalaura studiju
programma
33
16
80
20
Profesionālā bakalaura, t.sk. 2. līmeņa
profesionālās augstākās izglītības
programma
37
14
76
24
Akadēmiskā maģistra studiju
programma
75
10
35
65
Profesionālā maģistra studiju
programma / 2. līmeņa profesionālās
augstākās izglītības programma, kura
tiek īstenota uz augstākās izglītības
bāzes
75
7
23
77
Garā cikla 2. līmeņa profesionālā
augstākā izglītība
28
6
91
9
Bāze: respondenti, kuri strādā mācību semestra laikā. Paralēli mācībām biežāk strādā Rīgā studējošie (63%), retāk reģionālās augstskolās
studējošie — 53%. 7. tabula. Nodarbinātība un attieksme pret nodarbinātību atkarībā no studiju līmeņa (%)
Mācību semestra
laikā strādā
regulārā darbā
Strādā laiku
pa laikam
Pirmkārt esmu
students/-e un
strādāju paralēli
studijām
Pirmkārt es
strādāju un
studēju paralēli
algotam darbam
1. līmeņa profesionālās augstākās
izglītības (koledžas) studiju
programma
51
12
50
50
Akadēmiskā bakalaura studiju
programma
33
16
80
20
Profesionālā bakalaura, t.sk. 2. līmeņa
profesionālās augstākās izglītības
programma
37
14
76
24
Akadēmiskā maģistra studiju
programma
75
10
35
65
Profesionālā maģistra studiju
programma / 2. līmeņa profesionālās
augstākās izglītības programma, kura
tiek īstenota uz augstākās izglītības
bāzes
75
7
23
77
Garā cikla 2. 8. attēls. Attieksme pret darba vai studiju prioritāti (%) līmeņa profesionālā
augstākā izglītība
28
6
91
9
Bāze: respondenti, kuri strādā mācību semestra laikā. Paralēli mācībām biežāk strādā Rīgā studējošie (63%), retāk reģionālās augstskolās
studējošie — 53%. 7. tabula. Nodarbinātība un attieksme pret nodarbinātību atkarībā no studiju līmeņa (%) Paralēli mācībām biežāk strādā Rīgā studējošie (63%), retāk reģionālās augstskolās
tudējošie — 53%. Paralēli mācībām biežāk strādā Rīgā studējošie (63%), retāk reģionālās augstskolās
studējošie — 53%. Galvenais iemesls studējošo nodarbinātībai ir līdzekļu ieguve ikdienas izdevumu segšanai
— kā svarīgāko motivāciju darbam studiju laikā to min 81% strādājošo studentu (no tiem
63% šim iemeslam atzīmējuši maksimālo vērtību, proti, «pilnībā atbilst»). Rezultāts ir ļoti 40 40 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI līdzīgs iepriekšējā pētījuma posmā novērotajam — 2013. gadā to kā svarīgāko motīvu
atzina 78% aptaujāto (no tiem 62% izvēlējās piešķirt maksimālo punktu skaitu). Otrs nozīmīgākais faktors, kādēļ studenti strādā, ir pieredzes gūšana darba tirgū — par
svarīgu motivāciju to atzinuši 68% no strādājošajiem studentiem. Jānorāda, ka šī faktora
nozīme ir nedaudz mazinājusies kopš 2013. gada, kad to kā svarīgu bija atzīmējuši 72%,
bet to studentu daļa, kas darba pieredzi atzīmējuši kā pašu svarīgāko iemeslu,
samazinājusies no 53% iepriekšējā posmā līdz 45% 2017. gada aptaujā. Vairāk nekā trešdaļa (37%) respondentu atzīst, ka nestrādājot nevarētu atļauties studēt,
bet 26% kā svarīgāko iemeslu darbam studiju laikā atzīmējuši arī to, ka finansiāli jāatbalsta
citi ģimenes locekļi. Tātad diezgan lielai studentu daļai nav izvēles starp darbu vai
mācībām — ja viņi vēlas mācīties un pabeigt studijas, viņiem neizbēgami nāksies tās
savienot ar algotu darbu. 9. attēls. Nodarbinātība mācību semestra laikā: iemesli (%)
Bāze: respondenti, kuri strādā mācību semestra laikā. 63
45
26
16
18
23
11
10
11
16
14
15
4
8
13
14
4
9
35
45
0%
25%
50%
75%
100%
Es strādāju, lai segtu dzīvošanas izmaksas
(ikdienas tēriņus)
Es strādāju, lai iegūtu pieredzi darba tirgū
Nestrādājot algotu darbu, es nevarētu atļauties
studēt
Es strādāju tāpēc, ka man finansiāli jāatbalsta
citi (bērni, partneris, vecāki u.tml.)
Pilnībā atbilst
Nemaz neatbilst 9. attēls. Nodarbinātība mācību semestra laikā: iemesli (%) 7.2. Atbilstība starp apgūstamo specialitāti un nodarbinātību Eurostudent pētījuma dati liecina, ka diezgan liela daļa studentu jau studiju laikā ir atraduši
darbu un strādā atbilstoši iegūstamajai specialitātei/profesijai. Šajā jautājumā starp
pētījuma dažādiem posmiem novērojama samērā stabila tendence. Aptuveni puse
studentu (52%) šobrīd, tāpat kā 2013. gadā, uzskata, ka viņu darbs ir cieši saistīts ar studiju
tematisko jomu, specialitāti, kuru tie apgūst augstskolā. Savukārt vidēji trešdaļa (31%
šobrīd, 34% — 2013. gadā) nodarbināti profesijās, kas maz vai nemaz nav saistītas ar viņu
studiju programmu. Atbilstīgi specialitātei, vismaz kā var spriest pēc subjektīvā vērtējuma, visbiežāk strādā
profesionālā maģistra studiju / 2. līmeņa profesionālās augstākās izglītības programmas
studenti (72%). To, ka darbs saistīts ar specialitāti, atzīst nedaudz vairāk nekā puse 41 41 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI akadēmiskā maģistra, garā cikla 2. līmeņa profesionālajās programmās, kā arī 1. līmeņa
profesionālās augstākās izglītības programmās studējošie. Nodarbinātība ar studijās
iegūstamo specialitāti nozīmīgi retāk saistīta profesionālā bakalaura līmenī, bet visretāk
akadēmiskā bakalaura programmā studējošajiem. Novēroto sakarību ziņā šie rezultāti ir
gandrīz identiski 2013. gada aptaujā iegūtajiem rezultātiem. Aplūkojot darba un studiju saistības vērtējumu pa izglītības jomām, visaugstāk darba
atbilstību studiju programmai vērtē izglītības zinātņu jomas studenti. Salīdzinoši biežāk
nekā citās programmās atbilstoši savai izglītības jomai nodarbināti arī inženierzinātnes,
ražošanas un būvniecības, veselības aprūpes, pakalpojumu jomas studenti. Viszemāk sava
pašreizējā darba saistību ar apgūstamo specialitāti vērtē sociālo, komunikācijas un
informācijas zinātņu un dzīvo dabaszinātņu, matemātikas un statistikas jomas studenti. 10. attēls. Darba atbilstība specialitātei (studiju programmai) (%)
Bāze: respondenti, kuri strādā mācību semestra laikā. 11. attēls. Darba saistība ar specialitāti atkarībā no studiju programmas (%)
Bāze: respondenti, kuri strādā mācību semestra laikā. 34
36
18
16
14
17
11
10
23
21
0%
25%
50%
75%
100%
2013. gads
2017. gads
Ļoti lielā mērā saistīts
Nemaz nav saistīts
38
16
29
40
53
33
18
16
14
17
19
26
14
21
14
21
15
13
5
18
12
12
5
6
26
29
32
9
9
22
0%
25%
50%
75%
100%
1. līmeņa profesionālās augstākās izglītības studiju
programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa profesionālās
augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa
profesionālās augstākās izglītības programma, kura…
Garā cikla 2. līmeņa profesionālā augstākā izglītība
Ļoti lielā mērā saistīts
Nemaz nav saistīts 10. attēls. Darba atbilstība specialitātei (studiju programmai) (%)
Bāze: respondenti, kuri strādā mācību semestra laikā. 7.2. Atbilstība starp apgūstamo specialitāti un nodarbinātību 34
36
18
16
14
17
11
10
23
21
0%
25%
50%
75%
100%
2013. gads
2017. gads
Ļoti lielā mērā saistīts
Nemaz nav saistīts 10. attēls. Darba atbilstība specialitātei (studiju programmai) (%)
Bāze: respondenti, kuri strādā mācību semestra laikā. 34
36
18
16
14
17
11
10
23
21
0%
25%
50%
75%
100%
2013. gads
2017. gads
Ļoti lielā mērā saistīts
Nemaz nav saistīts 10. attēls. Darba atbilstība specialitātei (studiju programmai) (%) Bāze: respondenti, kuri strādā mācību semestra laikā. Bāze: respondenti, kuri strādā mācību semestra laikā. 11. attēls. Darba saistība ar specialitāti atkarībā no studiju programmas (%) 11. attēls. Darba saistība ar specialitāti atkarībā no studiju programmas (%)
Bāze: respondenti, kuri strādā mācību semestra laikā. 38
16
29
40
53
33
18
16
14
17
19
26
14
21
14
21
15
13
5
18
12
12
5
6
26
29
32
9
9
22
0%
25%
50%
75%
100%
1. līmeņa profesionālās augstākās izglītības studiju
programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa profesionālās
augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa
profesionālās augstākās izglītības programma, kura…
Garā cikla 2. līmeņa profesionālā augstākā izglītība
Ļoti lielā mērā saistīts
Nemaz nav saistīts 11. attēls. Darba saistība ar specialitāti atkarībā no studiju programmas (%)
Bāze: respondenti, kuri strādā mācību semestra laikā. 38
16
29
40
53
33
18
16
14
17
19
26
14
21
14
21
15
13
5
18
12
12
5
6
26
29
32
9
9
22
0%
25%
50%
75%
100%
1. līmeņa profesionālās augstākās izglītības studiju
programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa profesionālās
augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa
profesionālās augstākās izglītības programma, kura…
Garā cikla 2. līmeņa profesionālā augstākā izglītība
Ļoti lielā mērā saistīts
Nemaz nav saistīts 11. attēls. Darba saistība ar specialitāti atkarībā no studiju programmas (%)
Bāze: respondenti, kuri strādā mācību semestra laikā. 38
16
29
40
53
33
18
16
14
17
19
26
14
21
14
21
15
13
5
18
12
12
5
6
26
29
32
9
9
22
0%
25%
50%
75%
100%
1. līmeņa profesionālās augstākās izglītības studiju
programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa profesionālās
augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa
profesionālās augstākās izglītības programma, kura…
Garā cikla 2. 17 Ministru kabineta noteikumi Nr. 461 «Noteikumi par Profesiju klasifikatoru, profesijai atbilstošiem
pamatuzdevumiem un kvalifikācijas pamatprasībām un Profesiju klasifikatora lietošanas un aktualizēšanas
kārtību» (18.05.2010.). 7.2. Atbilstība starp apgūstamo specialitāti un nodarbinātību līmeņa profesionālā augstākā izglītība
Ļoti lielā mērā saistīts
Nemaz nav saistīts Bāze: respondenti, kuri strādā mācību semestra laikā. 42 42 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 12. attēls. Darba saistība ar specialitāti atkarībā no izglītības jomas (%)
Bāze: respondenti, kuri strādā mācību semestra laikā. 69
22
19
27
19
27
51
40
42
49
5
19
13
23
13
26
13
0
15
5
7
21
21
21
13
13
11
0
16
17
3
11
27
11
19
7
8
20
4
6
16
27
20
18
37
27
17
40
22
23
0%
25%
50%
75%
100%
Izglītība
Humanitārās zinātnes un māksla
Sociālās, komunikācijas un informācijas
zinātnes
Komerczinības un administrēšana
Dzīvās dabaszinātnes, matemātika un
statistika
Informācijas un komunikācijas tehnoloģijas
Inženierzinātnes, ražošana un būvniecība
Lauksaimniecība, mežsaimniecība un
zivsaimniecība
Veselības aprūpe un sociālā labklājība
Pakalpojumi
Ļoti lielā mērā saistīts
Nemaz nav saistīts 12. attēls. Darba saistība ar specialitāti atkarībā no izglītības jomas (%) 12. attēls. Darba saistība ar specialitāti atkarībā no izglītības jomas (%) Bāze: respondenti, kuri strādā mācību semestra laikā. Bāze: respondenti, kuri strādā mācību semestra laikā. 7.3. Profesijas, kurās nodarbināti studenti Detalizētāk analizējot studentu nodarbinātību, redzam, ka lielākā daļa — 68% no
strādājošajiem studentiem (tieši tikpat daudz cik iepriekšējā pētījuma posmā 2013. gadā)
nodarbināti profesijās, kuras atbilstīgi ISCO profesiju klasifikatoram ietilpst otrajā un
trešajā profesiju grupā, proti, tie ir vecākie speciālisti un vidējā līmeņa speciālisti.17 Ar studiju jomu nesaistītās profesijas, kurās nodarbināti studenti, visbiežāk atbilst
5. profesiju grupai «Pakalpojumu un tirdzniecības darbinieki», un izplatītākās profesijas
strādājošo studentu vidū ir pārdevējs (6%), individuālo pakalpojumu jomas darbinieks
(9%), individuālās aprūpes darbinieks (4%). Šajās ar specialitāti nesaistītajās profesijās
studenti visbiežāk nodarbināti neatkarīgi no izglītības jomas, kurā tie studē. Ņemot vērā,
ka iepriekšējās aptaujas rezultāti norādīja uz šo pašu tendenci, varam secināt, ka darbu
šajā profesijā, iespējams, vienkāršāk apvienot ar mācībām un tā veikšanai lielākoties ne
vienmēr tiek pieprasīta noteikta izglītība/kvalifikācija. 43 43 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Atbilstīgi subjektīvajam vērtējumam visaugstākā darba atbilstība apgūstamajai
specialitātei/profesijai ir izglītības zinātņu jomā. Kopumā 72% šīs jomas studentu
nodarbināti vecāko speciālistu profesionālajā grupā (visbiežāk — 62% gadījumu studenti
strādā izglītībā vecāko speciālistu amatos, proti, par skolotājiem, pedagogiem u.tml.). Citās profesionālajās grupās un profesijās, no kurām biežāk minētās ir individuālo
pakalpojumu un individuālās aprūpes darbinieki, strādā ievērojami mazāks skaits
izglītības jomas studentu. Inženierzinātņu, ražošanas un būvniecības izglītības jomas studenti arī diezgan augstu
vērtē sava darba atbilstību apgūstamajai specialitātei/profesijai. Klasificējot studentu
nodarbinātību atbilstīgi profesiju klasifikatoram, šai grupai, salīdzinot ar citām izglītības
jomām, raksturīgs lielāks ražošanas un specializēto pakalpojumu nozares vadītāju
īpatsvars (10%). Trešdaļa šīs jomas studentu (32%) strādā kā vecākie speciālisti (visbiežāk
inženierzinātņu jomā), savukārt 23% strādā kā zinātņu un inženierzinātņu vidējā līmeņa
speciālisti. Salīdzinājumā ar citām izglītības jomām šajā grupā ir lielāka to studentu daļa,
kuri strādā kvalificētu strādnieku un amatnieku profesijās (atbilstoši ISCO klasifikatoram
tā ir 7. profesiju grupa) — 15% no strādājošajiem studentiem ir elektrisko un elektronisko
iekārtu, metālapstrādes, mašīnbūves un tām radniecīgu jomu strādnieki. Lai arī minētās
profesijas atbilst zemākam kvalifikācijas līmenim, tās ir cieši saistītas ar studiju tematisko
jomu. Ar apgūstamo specialitāti nesaistīto profesiju vidū šīs grupas studenti visbiežāk
pārstāvēti tirdzniecības (7%) un individuālo pakalpojumu jomas darbinieku (5%)
profesijās. Inženierzinātņu, ražošanas un būvniecības izglītības jomas studenti arī diezgan augstu
vērtē sava darba atbilstību apgūstamajai specialitātei/profesijai. Klasificējot studentu
nodarbinātību atbilstīgi profesiju klasifikatoram, šai grupai, salīdzinot ar citām izglītības
jomām, raksturīgs lielāks ražošanas un specializēto pakalpojumu nozares vadītāju
īpatsvars (10%). Trešdaļa šīs jomas studentu (32%) strādā kā vecākie speciālisti (visbiežāk
inženierzinātņu jomā), savukārt 23% strādā kā zinātņu un inženierzinātņu vidējā līmeņa
speciālisti. 7.3. Profesijas, kurās nodarbināti studenti Salīdzinājumā ar citām izglītības jomām šajā grupā ir lielāka to studentu daļa,
kuri strādā kvalificētu strādnieku un amatnieku profesijās (atbilstoši ISCO klasifikatoram
tā ir 7. profesiju grupa) — 15% no strādājošajiem studentiem ir elektrisko un elektronisko
iekārtu, metālapstrādes, mašīnbūves un tām radniecīgu jomu strādnieki. Lai arī minētās
profesijas atbilst zemākam kvalifikācijas līmenim, tās ir cieši saistītas ar studiju tematisko
jomu. Ar apgūstamo specialitāti nesaistīto profesiju vidū šīs grupas studenti visbiežāk
pārstāvēti tirdzniecības (7%) un individuālo pakalpojumu jomas darbinieku (5%)
profesijās. Augsti saistības rādītāji starp studiju specialitāti un nodarbinātību vienmēr raksturojuši
veselības un sociālās labklājības jomu. Tieši tikpat liela daļa kā 2013. gadā no veselības
aprūpes jomas studentiem (28%) strādā par vecākajiem speciālistiem, bet 32% — ir vidējā
līmeņa speciālisti (turklāt lielākā daļa studējošo ir nodarbināti veselības aprūpē). Individuālās aprūpes jomā, kas saistīta ar nozari, arī nodarbināta tieši tikpat liela studentu
daļa (17%), cik 2013. gadā. Citās profesijās strādā ievērojami mazāks skaits šīs jomas
studentu: biežāk minētie ir individuālo pakalpojumu jomas darbinieki (10%) un
tirdzniecības darbinieki (5%). No pakalpojumu jomas studentiem aptuveni trešdaļa (31%) strādā kā vecākie speciālisti
(no tiem 18% ir izglītības jomas vecākie speciālisti), nedaudz vairāk kā trešā daļa (38%)
nodarbināti vidējā līmeņa speciālistu amatos. Salīdzinoši liela daļa no šīs grupas
studentiem (14%) ir individuālo pakalpojumu jomas darbinieki, bet 7% ir tirdzniecības
darbinieki. Zemākas kvalifikācijas profesiju grupās nodarbināti tikai daži no šīs izglītības
jomas studentiem. No komerczinību, administrēšanas un tiesību zinātnes jomas studentiem 4% ir uzņēmumu
vadītāji, komercdirektori. Aptuveni trešā daļa — 30% nodarbināti vecāko speciālistu
profesionālajā grupā (no kuriem lielākā daļa strādā komercdarbības un pārvaldes
(administrācijas) vecāko speciālistu amatos), bet 38% strādā vidējā līmeņa speciālistu
profesijās (no tiem 29% ir komercdarbības un pārvaldes (administrācijas) speciālisti). 44 44 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Individuālo pakalpojumu jomā strādā 9%, bet kā tirdzniecības darbinieki — 7% šīs jomas
studentu. Ļoti augsts ir informācijas un komunikācijas tehnoloģiju jomas studentu īpatsvars (40%),
kuri nodarbināti vecāko speciālistu profesionālajā grupā, bet 29% studentu strādā vidējā
līmeņa speciālistu amatos (visbiežāk kā informācijas un komunikācijas tehnoloģiju jomas
vai komercdarbības un pārvaldes / administrācijas speciālisti). Biežāk nekā citās izglītības
jomās šīs jomas studenti strādā klientu apkalpošanas un individuālo pakalpojumu sfērā
(kopā 14%). Saistību starp studijās apgūstamo specialitāti un darbu studiju laikā zemāk vērtē sociālo,
komunikācijas un informācijas zinātņu, dzīvo dabaszinātņu, matemātikas un statistikas,
kā arī humanitārās zinātnēs un mākslās studējošie. Lai gan, iespējams, šo jomu studenti
vienkārši ir kritiskāki savos spriedumos. Piemēram, identiski kā 2013. 7.3. Profesijas, kurās nodarbināti studenti gadā, arī šobrīd
aptuveni puse (53%) no humanitāro zinātņu un mākslas jomā studējošajiem strādā
profesijās, kas atbilst vecāko speciālistu profesionālajai grupai — visbiežāk (22%) tie ir
izglītības jomas vecākie speciālisti vai juridisko, sociālo un kultūras lietu speciālisti (18%). Vidējā līmeņa speciālistu grupā strādā mazākā daļa (16%) no nodarbinātajiem
studentiem. Kopumā 13% nodarbināti individuālo pakalpojumu un tirdzniecības
darbinieku profesionālajā grupā, bet 5% — zemākas kvalifikācijas profesijās. Sociālo, komunikācijas un informācijas zinātņu jomas studentu vidū 34% ir nodarbināti
vecāko speciālistu profesionālajā grupā, tikpat liela daļa — 34% strādā vidējā līmeņa
speciālistu grupai atbilstošās profesijās (abās grupās studenti visbiežāk strādā
komercdarbības un pārvaldes administrācijas speciālistu profesijās). 7% nodarbināti
klientu apkalpošanas sfērā, 14% ir individuālo pakalpojumu un tirdzniecības darbinieki. Dzīvo dabaszinātņu, matemātikas un statistikas jomā studējošo vidū nav augsts
apgūstamās specialitātes un veicamā darba saistības vērtējums, tomēr arī no šīs jomas
studentiem 28% strādā kā vecākie speciālisti, bet 29% ir vidējā līmeņa speciālisti
(visbiežāk — zinātnes un inženierzinātņu speciālisti vai komercdarbības un pārvaldes
(administrācijas) speciālisti). Populārākās ar studiju jomu nesaistītās profesijas, kurās
strādā studenti, ir klientu apkalpotāji un individuālo pakalpojumu jomas darbinieki (12%). Studentu nodarbinātības salīdzinošā analīze ļauj konstatēt, ka kopš 2009. gada studentu
nodarbinātības rādītāji — algota darba apvienošana ar pilna laika studijām turpina
pakāpeniski pieaugt. Gan nodarbinātības, gan attieksmes ziņā jau trīs Eurostudent
pētījuma posmos novērojama nemainīga tendence — pakāpeniski pieaug studentu
nodarbinātība un algotā darbā pavadīto stundu apjoms. Nemainīgi saglabājas atšķirības
arī attieksmē — profesionālajās programmās studējošie biežāk nekā akadēmisko
programmu studenti darbu vērtē kā primāru attiecībā pret studijām. Līdzīgi kā
iepriekšējos gados, maģistrantūras studenti nozīmīgi biežāk nekā bakalaura līmeņa
studenti paralēli mācībām strādā algotu darbu un lielāka to daļa uzskata darbu par
primāru attiecībā pret studijām. 45 45 8. LAIKA BUDŽETS Studentu laika budžeta mērījumiem Eurostudent pētījumā tiek veltīta liela uzmanība. Katrā pētījuma posmā pēc identiskas metodikas tiek veikti mērījumi atbilstoši studentu
laika budžeta nozīmīgākajām pozīcijām, lūdzot respondentiem fiksēt laika apjomu, ko tie
katru dienu velta lekciju apmeklējumam, patstāvīgām studijām, kā arī algotam darbam. Kopējais stundu skaits, ko studējošie katru nedēļu pavada lekcijās, semināros un
laboratorijas darbos, pēdējo 8 gadu periodā mainījies salīdzinoši maz. Tomēr, ja
2013. gadā salīdzinājumā ar 2009. gadu izmaiņas bija ļoti niecīgas — lekciju
apmeklējumam veltītais laiks pieauga no 18,41 līdz 18,44 stundām nedēļā, tad 2017. gads
iezīmē nodarbībām veltītā laika salīdzinoši nozīmīgu samazinājumu — līdz 17,53 stundām
vidēji nedēļā (tas ir vidēji par 5% mazāk laika nedēļā). 13. attēls. Studējošo nodarbībās (lekcijās, laboratorijas darbos u.tml.) pavadītais laiks
salīdzinājumā ar 2009. un 2013. gadu (vid. stundas)
Bāze: visi respondenti. Tomēr būtiskākās izmaiņas pēdējo gadu periodā ir skārušas patstāvīgām studijām veltītā
laika apjomu. Samazinoties lekciju un tiešo kontaktstundu skaitam un vienlaikus palielinoties jauno
3.62
4.10
3.94
3.86
2.26
0.59
0.04
3.64
4.34
3.74
3.70
2.38
0.42
0.22
3.16
3.47
3.59
3.61
2.35
1.14
0.21
0.00
0.50
1.00
1.50
2.00
2.50
3.00
3.50
4.00
4.50
5.00
Pirmdiena
Otrdiena
Trešdiena
Ceturtdiena
Piektdiena
Sestdiena
Svētdiena
2009
2013
2017 13. attēls. Studējošo nodarbībās (lekcijās, laboratorijas darbos u.tml.) pavadītais laiks
salīdzinājumā ar 2009. un 2013. gadu (vid. stundas) 13. attēls. Studējošo nodarbībās (lekcijās, laboratorijas darbos u.tml.) pavadītais laiks
salīdzinājumā ar 2009. un 2013. gadu (vid. stundas) Tomēr būtiskākās izmaiņas pēdējo gadu periodā ir skārušas patstāvīgām studijām veltītā
laika apjomu. Samazinoties lekciju un tiešo kontaktstundu skaitam un vienlaikus palielinoties jauno
tehnoloģiju, t.sk. interneta resursu pieejamībai, augstākās izglītības sistēmā aizvien
lielāks uzsvars tiek likts uz studentu patstāvīgo darbu, bet pētījuma rezultāti liecina par
pretēju tendenci — ja 2013. gadā, salīdzinot ar 2009. gadu, tiešām bija ievērojams
patstāvīgām studijām veltītā laika pieaugums (no 12,45 līdz 15,19 stundām vidēji nedēļā), 46 46 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI tad 2017. gada aptaujas dati liecina, ka studenti šobrīd patstāvīgām studijām velta vidēji
13,93 stundas nedēļā (jeb par 8% mazāk laika nekā 2017. gadā). tad 2017. gada aptaujas dati liecina, ka studenti šobrīd patstāvīgām studijām velta vidēji
13,93 stundas nedēļā (jeb par 8% mazāk laika nekā 2017. gadā). Ņemot vērā to, ka palielinājies studentu skaits, kuri paralēli mācībām strādā, un to, ka
pieaudzis vidējais stundu skaits, ko students velta algotam darba, šis rezultāts
nepārsteidz. 8. LAIKA BUDŽETS Hipotēze par to, ka laika samazinājums patstāvīgām studijām ir saistīts ar
nodarbinātībai un algotam darbam veltīto stundu skaita pieaugumu, balstās vēl vienā
novērojumā — patstāvīgām studijām veltītais laiks samazinājies tieši darbadienās, būtiski
nemainoties brīvdienās. 14. attēls. Patstāvīgām studijām veltītais laiks salīdzinājumā ar 2009. un 2013. gadu (vid. stundas)
Bāze: visi respondenti. Salīdzinājumā ar iepriekšējiem pētījuma posmiem šobrīd lekciju noslodze jeb, precīzāk,
lekciju un nodarbību apmeklējumam veltītais laiks visredzamāk ir samazinājies
maģistrantūras studentu vidū. Nozīmīgi mazinājies lekciju apmeklējumam veltītais laiks
arī bakalaura, jo īpaši akadēmiskā bakalaura programmā studējošo vidū. Apmeklēto
lekciju / nodarbību laika apjoms šajā pētījuma posmā palielinājies vien koledžas
līmeņa programmās. 1.86
1.88
1.90
1.67
1.37
1.67
2.10
2.21
2.16
2.23
2.05
1.72
2.25
2.58
1.95
1.92
1.94
1.77
1.58
2.19
2.58
0.00
0.50
1.00
1.50
2.00
2.50
3.00
Pirmdiena
Otrdiena
Trešdiena
Ceturtdiena
Piektdiena
Sestdiena
Svētdiena
2009
2013
2017 14. attēls. Patstāvīgām studijām veltītais laiks salīdzinājumā ar 2009. un 2013. gadu (vid. stundas)
Bāze: visi respondenti. 1.86
1.88
1.90
1.67
1.37
1.67
2.10
2.21
2.16
2.23
2.05
1.72
2.25
2.58
1.95
1.92
1.94
1.77
1.58
2.19
2.58
0.00
0.50
1.00
1.50
2.00
2.50
3.00
Pirmdiena
Otrdiena
Trešdiena
Ceturtdiena
Piektdiena
Sestdiena
Svētdiena
2009
2013
2017 14. attēls. Patstāvīgām studijām veltītais laiks salīdzinājumā ar 2009. un 2013. gadu (vid. stundas) 4. attēls. Patstāvīgām studijām veltītais laiks salīdzinājumā ar 2009. un 2013. gadu (vid. stundas) Bāze: visi respondenti. Salīdzinājumā ar iepriekšējiem pētījuma posmiem šobrīd lekciju noslodze jeb, precīzāk,
lekciju un nodarbību apmeklējumam veltītais laiks visredzamāk ir samazinājies
maģistrantūras studentu vidū. Nozīmīgi mazinājies lekciju apmeklējumam veltītais laiks
arī bakalaura, jo īpaši akadēmiskā bakalaura programmā studējošo vidū. Apmeklēto
lekciju / nodarbību laika apjoms šajā pētījuma posmā palielinājies vien koledžas
līmeņa programmās. Salīdzinājumā ar iepriekšējiem pētījuma posmiem šobrīd lekciju noslodze jeb, precīzāk,
lekciju un nodarbību apmeklējumam veltītais laiks visredzamāk ir samazinājies
maģistrantūras studentu vidū. Nozīmīgi mazinājies lekciju apmeklējumam veltītais laiks
arī bakalaura, jo īpaši akadēmiskā bakalaura programmā studējošo vidū. Apmeklēto
lekciju / nodarbību laika apjoms šajā pētījuma posmā palielinājies vien koledžas
līmeņa programmās. Savukārt patstāvīgajām studijām/mācībām veltītā laika samazinājums kopš 2017. gada
visspilgtāk novērojams profesionālā bakalaura (samazinājums par vidēji 4 stundām
nedēļā) un profesionālā maģistra (samazinājums vidēji par 2 stundām nedēļā) studiju
programmās. Izņēmums ir akadēmiskā maģistra līmeņa programma, kurā patstāvīgajām
studijām veltītais laiks ir pat pieaudzis. 47 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 15. attēls. Studējošo nodarbībās pavadītais laiks dažādos studiju līmeņos (vid. stundas
nedēļā)
Bāze: visi respondenti. 16. attēls. Bāze: visi respondenti. Bāze: visi respondenti. 8. LAIKA BUDŽETS Patstāvīgām studijām veltītais laiks dažādos studiju līmeņos (vid. stundas
nedēļā)
23.07
19.86
19.45
12.56
11.65
18.41
19.08
19.38
19.36
16.25
14.85
18.44
20.80
17.49
19.18
13.83
12.19
17.53
0.00
5.00
10.00
15.00
20.00
25.00
1. līmeņa profesionālās augstākās izglītības
(koledžas) studiju programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa
profesionālās augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa profesionālās augstākās izglītības
programma uz augstākās izglītības bāzes
Vidēji
2017
2013
2009 15. attēls. Studējošo nodarbībās pavadītais laiks dažādos studiju līmeņos (vid. stundas
nedēļā) 15. attēls. Studējošo nodarbībās pavadītais laiks dažādos studiju līmeņos (vid. stundas
nedēļā) 16. attēls. Patstāvīgām studijām veltītais laiks dažādos studiju līmeņos (vid. stundas
nedēļā) 16. attēls. Patstāvīgām studijām veltītais laiks dažādos studiju līmeņos (vid. stundas
nedēļā)
12.10
13.25
12.77
10.85
9.44
12.45
12.88
16.19
17.13
13.08
12.11
15.19
11.63
15.16
13.13
14.32
10.45
13.93
0.00 2.00 4.00 6.00 8.00 10.0012.0014.0016.0018.00
1. līmeņa profesionālās augstākās izglītības
(koledžas) studiju programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa
profesionālās augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa profesionālās uz augstākās izglītības
programma augstākās izglītības bāzes
Vidēji
2017
2013
2009 16. attēls. Patstāvīgām studijām veltītais laiks dažādos studiju līmeņos (vid. stundas
nedēļā)
12.10
13.25
12.77
10.85
9.44
12.45
12.88
16.19
17.13
13.08
12.11
15.19
11.63
15.16
13.13
14.32
10.45
13.93
0.00 2.00 4.00 6.00 8.00 10.0012.0014.0016.0018.00
1. līmeņa profesionālās augstākās izglītības
(koledžas) studiju programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa
profesionālās augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa profesionālās uz augstākās izglītības
programma augstākās izglītības bāzes
Vidēji
2017
2013
2009 Bāze: visi respondenti. 48 48 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Uzskatāmu ainu par to, kā mainās studijām veltītais laiks gan attiecībā uz iepriekšējiem
gadiem, gan atkarībā no studiju programmas, sniedz studiju aktivitātēm veltītā laika
summārais rādītājs, kas iekļauj gan lekcijās/nodarbībās pavadīto laiku, gan patstāvīgām
studijām veltīto laiku. Atbilstoši šim rādītājam Eurosudent starptautiskajā pētījumā tiek
veikta studentu klasifikācija pēc studiju intensitātes. 2017. gadā studiju aktivitātēm studenti nedēļā patērē vidēji 31,47 stundas. Interesanti, ka
pēdējo 12 gadu laikā izmaiņas kopējā studiju aktivitātēm veltītā laika apjomā ir
svārstījušās. Tā 2005. gadā kopējais studijām veltītais laiks bija vidēji 33 stundas nedēļā. Nozīmīgākais samazinājums tika novērots līdz 2009. gadam, kad studijām veltītais laiks
saruka līdz 30,86 stundām nedēļā. Savukārt nākamajā posmā — 2013. Bāze: visi respondenti. Garā cikla 2. līmeņa profesionālā augstākā
izglītība (piem., medicīna) Profesionālā maģistra studiju programma / 2. līmeņa profesionālās augstākās izglītības… 8. LAIKA BUDŽETS gadā tas pieauga
līdz 33,63 stundām, bet 2017. gadā atkal samazinājās līdz 31,47 stundām vidēji nedēļā. Kā
jau iepriekš minēts, studijām veltītā laika samazinājums noticis galvenokārt uz patstāvīgo
studiju rēķina. Studiju slodzes sadalījuma attēls uzskatāmi demonstrē atšķirības starp dažādām studiju
programmām. Visnozīmīgāk no visām studiju programmām atšķiras garā cikla 2. līmeņa
profesionālās augstākās izglītības programmas studenti (izlasē tos pārstāv veselības
aprūpes jomas studenti), kuri lekcijās un patstāvīgajās studijās pavada vidēji 47,67 stundas
nedēļā, kas vairāk nekā divkārtīgi pārsniedz, piemēram, profesionālā maģistra
programmas studentu mācībām veltīto laiku. Iepriekšējā nodaļā jau minēts, ka garā cikla
programmā studējošo vidū ir viszemākais nodarbinātības līmenis mācību semestra laikā. Iespējams, tas saistīts ar augstām prasībām pret studējošajiem, kas mazina iespēju
strādāt, bet acīmredzot tiešām dod iespēju studentiem daudz vairāk laika ziedot
studiju aktivitātēm. 17. attēls. Kopējais studiju aktivitātēm veltītais laiks atkarībā no studiju programmas
(stundas vid. nedēļā)
Bā
i i
d
ti
32.43
32.66
32.31
28.16
22.64
47.67
0
5
10
15
20
25
30
35
40
45
50
1. līmeņa profesionālās augstākās izglītības
(koledžas) studiju programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa
profesionālās augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa profesionālās augstākās izglītības…
Garā cikla 2. līmeņa profesionālā augstākā
izglītība (piem., medicīna) 17. attēls. Kopējais studiju aktivitātēm veltītais laiks atkarībā no studiju programmas
(stundas vid. nedēļā) Garā cikla 2. līmeņa profesionālā augstākā
izglītība (piem., medicīna) Akadēmiskā maģistra studiju programma Akadēmiskā maģistra studiju programma Profesionālā bakalaura, t.sk. 2. līmeņa
profesionālās augstākās izglītības programma Akadēmiskā bakalaura studiju programma 1. līmeņa profesionālās augstākās izglītības
(koledžas) studiju programma 1. līmeņa profesionālās augstākās izglītības
(koledžas) studiju programma 0
5
10
15
20
25
30
35
40
45
50 49 49 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Koledžas un bakalaura līmeņa programmās studentu norādītās stundas, kuras tie velta
studiju aktivitātēm, ir diezgan līdzīgas. Salīdzinoši ievērojumi mazāk laika studijām velta
maģistra programmas studenti — akadēmiskā maģistra programmās studiju aktivitātes
aizņem vidēji 28,16 stundas nedēļā, kas ir vidēji par 4 stundām jeb 13% mazāk laika nekā
bakalaura līmeņa studējošo vidū. Vismazāk laika studiju aktivitātēm ziedo profesionālā
maģistra studiju programmas studenti — 22,64 stundas nedēļā, kas ir gandrīz par 10 (9,86)
stundām jeb 30% mazāk laika nekā, piemēram, bakalaura līmenī studējošo grupā. Interesanti aplūkot, vai un kā atšķiras studiju aktivitātēm veltītais laiks atkarībā no
izglītības jomas. Kā to jau varēja prognozēt pēc studiju līmeņa (garā cikla profesionālās
augstākās izglītības programma), vidēji visvairāk laika studiju aktivitātēm (gandrīz
atbilstoši pilna darba laika nedēļai — 39,30 stundas) velta veselības aprūpes un sociālās
labklājības jomā studējošie. Nākamo lielāko studiju aktivitātēm veltītā laika apjomu
norāda lauksaimniecības jomā studējošie, tomēr šeit jāpiebilst, ka izlasē šī grupa ir ļoti
mazskaitlīga, tādēļ vidējais rādītājs ir jutīgāks un to ietekmē pat dažu studentu, iespējams,
studijām veltītā laika pārvērtēšana. Uz lielāku nekā vidēji izlasē studiju aktivitātēm veltīto stundu skaitu norāda arī humanitāro
zinātņu un mākslu jomas studenti. Savukārt salīdzinoši mazāk laika studiju aktivitātēm
velta pakalpojumu jomas, izglītības zinātņu, sociālo, komunikācijas un informācijas
zinātņu jomas studenti, bet jo īpaši komerczinību, administrēšanas un tiesību zinātnes
jomā studējošie. 18. attēls. Kopējais studiju aktivitātēm veltītais laiks atkarībā no izglītības jomas
(stundas vid. nedēļā)
Bā
i i
d
i
26.70
34.07
26.20
24.56
32.82
32.37
33.76
38.29
39.30
28.11
0.00
5.00
10.00 15.00 20.00 25.00 30.00 35.00 40.00
Izglītība
Humanitārās zinātnes un māksla
Sociālās, komunikācijas un informācijas…
Komerczinības, administrēšana un tiesību…
Dzīvās dabas zinātnes, matemātika un…
Informācijas un komunikācijas tehnoloģijas
Inženierzinātnes, ražošana un būvniecība
Lauksaimniecība, mežsaimniecība un…
Veselības aprūpe un sociālā labklājība
Pakalpojumi 18. attēls. Kopējais studiju aktivitātēm veltītais laiks atkarībā no izglītības jomas
(stundas vid. nedēļā) Veselības aprūpe un sociālā labklājība Informācijas un komunikācijas tehnoloģijas
Inženierzinātnes, ražošana un būvniecība
Lauksaimniecība, mežsaimniecība un… Sociālās, komunikācijas un informācijas… 0.00
5.00
10.00 15.00 20.00 25.00 30.00 35.00 40.00 Bāze: visi respondenti. 8.1. Laika budžeta sadalījumu ietekmējošie faktori Nav šaubu, ka studiju aktivitātēm veltīto laiku ietekmē lekciju / nodarbību skaits un
apjoms, kas ir atšķirīgs dažādos programmu līmeņos, tomēr pētījuma rezultāti norāda uz 50 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI to, ka pastāv korelācija starp studentu nodarbinātību mācību semestra laikā un studijām
veltīto laiku. Iegūtie dati ļauj pārbaudīt hipotēzi: viens no faktoriem, kas noved pie
patstāvīgām studijām veltītā laika samazinājuma, ir studentu nodarbinātības un algotam
darbam veltītā laika pieaugums. Tabulā zemāk redzam, ka semestra laikā strādājošie studenti studiju aktivitātēm kopumā
velta ievērojami mazāk laika nekā nestrādājošie. Studenti, kuri nestrādā, studiju
aktivitātēm nedēļā ziedo vidēji 36,73 stundas, strādājošie — 28,04 stundas, kas ir par 24%
mazāk. Šī atšķirība ir vēl uzskatāmāka, ja atsevišķi salīdzinām tos studentus, kuri mācību
semestra laikā strādā regulārā darbā, un tos, kuri strādā neregulāru darbu. Studenti, kas
strādā laiku pa laikam vai mazāk nekā 20 stundas nedēļā, studiju aktivitātēs pavada vidēji
32,42 stundas, kamēr regulārā darbā (visbiežāk uz pilnu slodzi) strādājošie studijām var
veltīt vien 26,97 stundas nedēļā. 8. tabula. Studiju aktivitātēm veltītās stundas atkarībā no nodarbinātības
mācību semestra laikā (vid. nedēļā)
Nodarbinātība semestra laikā
Studiju aktivitātēm veltītās stundas
Mācību semestra laikā nestrādā algotu darbu
36,73
Mācību semestra laikā strādā algotu darbu
28,04
No tiem:
Semestra laikā strādā regulāru darbu
26,97
Semestra laikā strādā neregulāri
32,42
Lai uzskatāmāk demonstrētu laika budžeta sadalījumu dažādās studentu kopās, t.sk. strādājošo un nestrādājošo, atbilstoši starptautiskā pētījuma metodoloģijai visi studenti ir
sagrupēti pēc studiju intensitātes. Šī rādītāja aprēķināšanai tiek izmantots summārais
laiks, kas veltīts studiju aktivitātēm. Atbilstoši kopējai noslodzei tiek izdalītas 3 grupas:
1) zema studiju intensitāte (mācībām kopumā, ieskaitot visas studiju aktivitātes, tiek
veltīts mazāk par 20 stundām nedēļā), 2) vidēja studiju intensitāte (studijām tiek veltītas
20–40 stundas nedēļā) un 3) augsta studiju intensitāte (studiju aktivitātēm kopumā tiek
veltīts vairāk nekā 40 stundas nedēļā). Izlases kopā vairāk nekā puse studentu (56%)
pārstāv vidējo grupu. Vienādi sadalās studentu skaits grupās, kas atbilst zemas
intensitātes studiju kritērijiem (22%) un augstas intensitātes studijām (22%). 8. tabula. Studiju aktivitātēm veltītās stundas atkarībā no nodarbinātības
mācību semestra laikā (vid. nedēļā)
Nodarbinātība semestra laikā
Studiju aktivitātēm veltītās stundas
Mācību semestra laikā nestrādā algotu darbu
36,73
Mācību semestra laikā strādā algotu darbu
28,04
No tiem:
Semestra laikā strādā regulāru darbu
26,97
Semestra laikā strādā neregulāri
32,42 8. tabula. Studiju aktivitātēm veltītās stundas atkarībā no nodarbinātības
mācību semestra laikā (vid. 8.1. Laika budžeta sadalījumu ietekmējošie faktori līmeņa profesionālā augstākā
izglītība
Augsta intensitāte
Vidēja intensitāte
Zema intensitāte
68
80
76
51
49
88
32
20
24
49
50
13
0%
25%
50%
75%
100%
1. līmeņa profesionālās augstākās izglītības
studiju programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura studiju programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa profesionālās augstākās izglītības…
Garā cikla 2. līmeņa profesionālā augstākā
izglītība
Visi studenti (kopējais laika budžets =100%)
Studiju aktivitātes % no kopējā laika
Darbs % no kopējā laika 19. attēls. Studiju intensitāte atkarībā no studiju programmas (%)
Baze: visi respondenti. Atcerēsimies, ka visaugstākie nodarbinātības rādītāji mācību semestra laikā raksturo
maģistra programmās studējošos un algotā darbā nostrādātās stundas veido lielāko
īpatsvaru studentu laika budžetā. Līdz ar to šajās mācību programmās studējošo kopējā
laika budžetā studijām atliek ievērojami mazāk laika. Semestra laikā strādājošajiem
studentiem visās studiju programmās summārā darba un studiju slodze pārsniedz 55
stundas nedēļā. 15
13
19
28
51
62
65
58
59
42
34
23
22
23
13
07
66
00
20
40
60
1. līmeņa profesionālās augstākās izglītības
studiju programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa
profesionālās augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa profesionālās augstākās izglītības
programma uz augstākās izglītības bāzes
Garā cikla 2. līmeņa profesionālā augstākā
izglītība
Augsta intensitāte
Vidēja intensitāte
Zema intensitāte 19. attēls. Studiju intensitāte atkarībā no studiju programmas (%) 19. attēls. Studiju intensitāte atkarībā no studiju programmas (%) 00 60 Augsta intensitāte Baze: visi respondenti. Atcerēsimies, ka visaugstākie nodarbinātības rādītāji mācību semestra laikā raksturo
maģistra programmās studējošos un algotā darbā nostrādātās stundas veido lielāko
īpatsvaru studentu laika budžetā. Līdz ar to šajās mācību programmās studējošo kopējā
laika budžetā studijām atliek ievērojami mazāk laika. Semestra laikā strādājošajiem
studentiem visās studiju programmās summārā darba un studiju slodze pārsniedz 55
stundas nedēļā. Atcerēsimies, ka visaugstākie nodarbinātības rādītāji mācību semestra laikā raksturo
maģistra programmās studējošos un algotā darbā nostrādātās stundas veido lielāko
īpatsvaru studentu laika budžetā. Līdz ar to šajās mācību programmās studējošo kopējā
laika budžetā studijām atliek ievērojami mazāk laika. Semestra laikā strādājošajiem
studentiem visās studiju programmās summārā darba un studiju slodze pārsniedz 55
stundas nedēļā. 20. attēls. Darba un mācību slodzes attiecība dažādos studiju līmeņos (%)
68
80
76
51
49
88
32
20
24
49
50
13
0%
25%
50%
75%
100%
1. 8.1. Laika budžeta sadalījumu ietekmējošie faktori nedēļā)
Nodarbinātība semestra laikā
Studiju aktivitātēm veltītās stundas
Mācību semestra laikā nestrādā algotu darbu
36,73
Mācību semestra laikā strādā algotu darbu
28,04
No tiem:
Semestra laikā strādā regulāru darbu
26,97
Semestra laikā strādā neregulāri
32,42 8. tabula. Studiju aktivitātēm veltītās stundas atkarībā no nodarbinātības
mācību semestra laikā (vid. nedēļā) Lai uzskatāmāk demonstrētu laika budžeta sadalījumu dažādās studentu kopās, t.sk. strādājošo un nestrādājošo, atbilstoši starptautiskā pētījuma metodoloģijai visi studenti ir
sagrupēti pēc studiju intensitātes. Šī rādītāja aprēķināšanai tiek izmantots summārais
laiks, kas veltīts studiju aktivitātēm. Atbilstoši kopējai noslodzei tiek izdalītas 3 grupas:
1) zema studiju intensitāte (mācībām kopumā, ieskaitot visas studiju aktivitātes, tiek
veltīts mazāk par 20 stundām nedēļā), 2) vidēja studiju intensitāte (studijām tiek veltītas
20–40 stundas nedēļā) un 3) augsta studiju intensitāte (studiju aktivitātēm kopumā tiek
veltīts vairāk nekā 40 stundas nedēļā). Izlases kopā vairāk nekā puse studentu (56%)
pārstāv vidējo grupu. Vienādi sadalās studentu skaits grupās, kas atbilst zemas
intensitātes studiju kritērijiem (22%) un augstas intensitātes studijām (22%). Pamatojoties uz studijām veltīto stundu vidējiem rādītājiem, iepriekš jau aplūkojām
studijām veltītā laika atšķirības dažādās studējošo grupās. Nākamais attēls atkārtoti
norāda uz to, ka augstas intensitātes studijas visbiežāk raksturīgas garā cikla 2. līmeņa
profesionālās augstākās izglītības studentiem. Tā ir vienīgā programma, kuras ietvaros
66% studentu mācās atbilstoši augstākās intensitātes studijām. Savukārt zemas
intensitātes studijas visbiežāk raksturīgas maģistra līmeņa programmām, bet jo īpaši
profesionālā maģistra programmās studējošajiem (51%). 51 51 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 19. attēls. Studiju intensitāte atkarībā no studiju programmas (%)
Baze: visi respondenti. Atcerēsimies, ka visaugstākie nodarbinātības rādītāji mācību semestra laikā raksturo
maģistra programmās studējošos un algotā darbā nostrādātās stundas veido lielāko
īpatsvaru studentu laika budžetā. Līdz ar to šajās mācību programmās studējošo kopējā
laika budžetā studijām atliek ievērojami mazāk laika. Semestra laikā strādājošajiem
studentiem visās studiju programmās summārā darba un studiju slodze pārsniedz 55
stundas nedēļā. 20. attēls. Darba un mācību slodzes attiecība dažādos studiju līmeņos (%)
15
13
19
28
51
62
65
58
59
42
34
23
22
23
13
07
66
00
20
40
60
1. līmeņa profesionālās augstākās izglītības
studiju programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura, t.sk. 2. līmeņa
profesionālās augstākās izglītības programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa profesionālās augstākās izglītības
programma uz augstākās izglītības bāzes
Garā cikla 2. 8.1. Laika budžeta sadalījumu ietekmējošie faktori līmeņa profesionālās augstākās izglītības
studiju programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura studiju programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa profesionālās augstākās izglītības…
Garā cikla 2. līmeņa profesionālā augstākā
izglītība
Visi studenti (kopējais laika budžets =100%)
Studiju aktivitātes % no kopējā laika
Darbs % no kopējā laika 20. attēls. Darba un mācību slodzes attiecība dažādos studiju līmeņos (%) 20. attēls. Darba un mācību slodzes attiecība dažādos studiju līmeņos (%) Visi studenti (kopējais laika budžets =100%) 52 52 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Bāze: visi un semestra laikā strādājošie respondenti. 49
58
52
42
38
64
51
42
48
58
62
36
0%
25%
50%
75%
100%
1. līmeņa profesionālās augstākās izglītības
studiju programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura studiju programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa profesionālās augstākās izglītības…
Garā cikla 2. līmeņa profesionālā augstākā
izglītība
Semestra laikā strādājošie (kopējais laika budžets = 100%)
Studiju aktivitātes % no kopējā laika
Darbs % no kopējā laika Semestra laikā strādājošie (kopējais laika budžets = 100%) Studiju aktivitātes % no kopējā laika Darbs % no kopējā laika Bāze: visi un semestra laikā strādājošie respondenti. Attēlā atspoguļotie rezultāti liecina, ka atšķirības starp regulārā darbā nodarbinātajiem,
laiku pa laikam strādājošajiem un semestra laikā nenodarbinātajiem studentiem studiju
intensitātes ziņā ir statistiski ļoti nozīmīgas: regulārā darbā strādājošie augstas
intensitātes studējošo grupā pārstāvēti ievērojami retāk nekā neregulāri strādājošie un
nestrādājošie. Tas ir vēl viens apstiprinājums iepriekš izvirzītajai hipotēzei par
nodarbinātības ietekmi uz studijām (studiju intensitāti). 21. attēls. Studiju intensitāte atkarībā no nodarbinātības mācību semestra laikā (%)
Bāze: visi respondenti. Nobeigumā aplūkosim studentu subjektīvo apmierinātību ar mācību un darba slodzi. Diemžēl nav iespējams tiešs salīdzinājums ar pētījuma iepriekšējo posmu datiem, jo
starptautiskā pētījuma instrumentārijā nedaudz mainīts jautājuma formulējums un
pilnībā mainīta atbilžu skala, tādēļ aplūkosim tikai 2017. gada aptaujā sniegto vērtējumu. Studentiem tika vaicāts, vai viņi vēlētos veltīt mazāk, tikpat daudz vai vairāk laika attiecīgi
lekciju/nodarbību apmeklējumam, patstāvīgām studijām un apmaksātam darbam. 32
56
13
17
60
23
11
55
34
00
10
20
30
40
50
60
Zema intensitāte
Vidēja intensitāte
Augsta
intensitāte
Mācību semestra laikā nestrādā
Mācību semestra laikā strādā neregulāru darbu
Mācību semestra laikā strādā regulāru darbu 21. attēls. Studiju intensitāte atkarībā no nodarbinātības mācību semestra laikā (%)
Bāze: visi respondenti. 32
56
13
17
60
23
11
55
34
00
10
20
30
40
50
60
Zema intensitāte
Vidēja intensitāte
Augsta
intensitāte
Mācību semestra laikā nestrādā
Mācību semestra laikā strādā neregulāru darbu
Mācību semestra laikā strādā regulāru darbu 21. attēls. Studiju intensitāte atkarībā no nodarbinātības mācību semestra laikā (%)
32
56
13
17
60
23
11
55
34
00
10
20
30
40
50
60
Zema intensitāte
Vidēja intensitāte
Augsta
intensitāte
Mācību semestra laikā nestrādā
Mācību semestra laikā strādā neregulāru darbu
Mācību semestra laikā strādā regulāru darbu 21. attēls. Studiju intensitāte atkarībā no nodarbinātības mācību semestra laikā (%) Vidēja intensitāte 60 30 Mācību semestra laikā nestrādā Mācību semestra laikā strādā neregulāru darbu
Mācību semestra laikā strādā regulāru darbu Mācību semestra laikā strādā neregulāru darbu
Mācību semestra laikā strādā regulāru darbu Bāze: visi respondenti. Nobeigumā aplūkosim studentu subjektīvo apmierinātību ar mācību un darba slodzi. Diemžēl nav iespējams tiešs salīdzinājums ar pētījuma iepriekšējo posmu datiem, jo
starptautiskā pētījuma instrumentārijā nedaudz mainīts jautājuma formulējums un
pilnībā mainīta atbilžu skala, tādēļ aplūkosim tikai 2017. gada aptaujā sniegto vērtējumu. Studentiem tika vaicāts, vai viņi vēlētos veltīt mazāk, tikpat daudz vai vairāk laika attiecīgi
lekciju/nodarbību apmeklējumam, patstāvīgām studijām un apmaksātam darbam. Bāze: visi respondenti. Bāze: visi un semestra laikā strādājošie respondenti. 53 53 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Runājot par mācību slodzi, lielākā daļa (62%) studentu lekcijām un nodarbībām gribētu
veltīt tikpat daudz laika, cik šobrīd, 18% gribētu tām veltīt mazāk laika, bet jāuzsver, ka
katrs piektais students — 20% gribētu lekcijām un nodarbībām veltīt vairāk laika. Salīdzinoši liela daļa studentu paudusi uzskatu, ka vēlētos vairāk laika veltīt patstāvīgām
studijām/mācībām. Tā domā 40% no visiem aptaujātajiem. Aptuveni tikpat liela daļa —
42% ir apmierināti ar situāciju, uzskatot, ka patstāvīgām studijām būtu pietiekami veltīt
tikpat daudz laika, cik līdz šim, bet 18% domā, ka pienāktos ziedot pat vēl mazāk laika. Diezgan līdzīga atbilžu proporcija raksturo attieksmi pret darbu. Vairāk laika apmaksātam
darbam gribētu veltīt 43% studentu, tikpat daudz strādāt vēlētos 39%, bet mazāk laika
darbam gribētu ziedot 18% studentu. Jēgpilni aplūkot šos vērtējumus atkarībā no studentu darba pieredzes un studiju
intensitātes. No studentiem, kuri nestrādā vai strādā mazāk nekā 20 stundas nedēļā,
aptuveni puse labprāt strādātu vairāk stundas, savukārt 29% no tiem, kuri jau strādā vairāk
nekā 40 stundas, labprāt mazinātu savu darba slodzi. Atkarībā no pašreizējās studiju intensitātes, studējošo attieksme pret izmaiņām studiju un
darba noslodzē nav tik uzskatāma un viennozīmīgi skaidrojama. Lielākā daļa studentu,
kuri šobrīd studiju aktivitātēm atvēl mazāk laika, lekcijām un patstāvīgajām studijām
vēlētos turpmāk veltīt tikpat daudz laika (atbilstīgi 64% un 48%). Un tieši studenti, kuru
studiju noslodze jau šobrīd ir vidējā vai liela, biežāk apgalvo, ka gribētu vairāk laika veltīt
patstāvīgajām studijām. Savukārt augstas intensitātes studiju grupā, salīdzinot ar abām
pārējām grupām, ir vairāk gan tādu studentu, kas vēlētos vairāk laika ziedot apmaksātam
darbam, gan tādu, kuri vēlētos strādāt algotā darbā mazāk stundu. 22. attēls. Studējošo attieksme pret darba noslodzi atkarībā no nostrādāto stundu skaita
nedēļā (%)
29
19
11
17
47
47
38
29
24
35
51
54
0%
25%
50%
75%
100%
Strādā vairāk par 40 stundām nedēļā
Strādā no 20 līdz 40 stundām nedēļā
Strādā līdz 20 stundām nedēļā
Mācību semestra laikā nestrādā
Mazāk laika
Tikpat daudz laika
Vairāk laika 22. attēls. Studējošo attieksme pret darba noslodzi atkarībā no nostrādāto stundu skaita
nedēļā (%) Mazāk laika
Tikpat daudz laika
Vairāk laika Bāze: visi respondenti. 54 54 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 9. tabula. Bāze: visi un semestra laikā strādājošie respondenti. Studējošo attieksme pret studiju un darba noslodzi atkarībā no studiju intensi-
tātes (%)
Zema
intensitāte
Vidēja
intensitāte
Augsta
intensitāte
Lekcijām un nodarbībām
Mazāk laika
15
17
24
Tikpat daudz laika
64
64
57
Vairāk laika
22
19
19
Patstāvīgām studijām
Mazāk laika
17
18
19
Tikpat daudz laika
48
41
38
Vairāk laika
34
41
42
Apmaksātam darbam
Mazāk laika
14
18
21
Tikpat daudz laika
49
38
31
Vairāk laika
36
44
48 9. tabula. Studējošo attieksme pret studiju un darba noslodzi atkarībā no studiju intensi-
tātes (%) Studējošo attieksme pret studiju un darba noslodzi atkarībā no studiju intensi-
tes (%) 9. tabula. Studējošo attieksme pret studiju un darba noslodzi atkarībā no studiju intensi-
tātes (%) 55 9. MATERIĀLAIS STĀVOKLIS Finansiālie resursi, bez šaubām, ir viens no būtiskiem faktoriem, kas ne vien tiešā veidā
ietekmē jebkura cilvēka ikdienas dzīves kvalitāti, bet bieži ir izšķirošs, ja runa ir par
iespējām veltīt laiku un spēkus augstākās izglītības iegūšanai vispār. Eurostudent pievērš
īpašu uzmanību studējošo ienākumu un izdevumu rādītājiem un katrā pētījuma posmā
cenšas iegūt detalizētu informāciju par respondentu ikdienas un ar studijām saistītajiem
izdevumiem, tiešajiem ienākumiem un atbalstu, ko sniedz ģimene vai citas personas. Šajā
nodaļā ir raksturoti studējošo tiešie, naudā saņemtie ikmēneša ienākumi, viņu pašu segtie
ikdienas un ar studijām saistītie izdevumi, netiešais finansiālais atbalsts, kā arī
visaptverošie dzīvošanas izmaksu rādītāji. Finansiālie resursi, bez šaubām, ir viens no būtiskiem faktoriem, kas ne vien tiešā veidā
ietekmē jebkura cilvēka ikdienas dzīves kvalitāti, bet bieži ir izšķirošs, ja runa ir par
iespējām veltīt laiku un spēkus augstākās izglītības iegūšanai vispār. Eurostudent pievērš
īpašu uzmanību studējošo ienākumu un izdevumu rādītājiem un katrā pētījuma posmā
cenšas iegūt detalizētu informāciju par respondentu ikdienas un ar studijām saistītajiem
izdevumiem, tiešajiem ienākumiem un atbalstu, ko sniedz ģimene vai citas personas. Šajā
nodaļā ir raksturoti studējošo tiešie, naudā saņemtie ikmēneša ienākumi, viņu pašu segtie
ikdienas un ar studijām saistītie izdevumi, netiešais finansiālais atbalsts, kā arī
visaptverošie dzīvošanas izmaksu rādītāji. 18 Šeit un turpmāk visas summas, kuras iepriekšējos pētījuma posmos tika iegūtas latos, ir konvertētas eiro pēc
Latvijas oficiālā maiņas kursa. 9.1. Ienākumi Ienākumu veidu ir daudz. Dažus novērtēt ir vienkāršāk, citu raksturošana var izrādīties
sarežģīts uzdevums. Taču galu galā tie visi saplūst kopā katra studenta nosacītajā makā. Par kādu līdzekļu apjomu iespējams runāt attiecībā uz Latvijas pilna laika studējošajiem? Saskaņā ar apkopoto aptaujas informāciju «vidējais students» mēnesī rīkojas ar 579,22
eiro. Ko šis rādītājs var pastāstīt par studējošo ekonomiskajiem dzīves apstākļiem? Pirmkārt, tas ļauj novērot vidējo rādītāju dinamiku laika gaitā. Tā 2009. gadā «vidējais
students» savā rīcībā ik mēnesi ieguva 368,71 eiro,18 bet 2013. gadā — 357,91 eiro. Tātad
pēc vidējo ienākumu rādītāja samazināšanās ir noticis ievērojams tā pieaugums. Nākamais jautājums, kas rodas, redzot šos skaitļus, ir: vai un kādas izmaiņas ir notikušas
ienākumu struktūrā pēdējo astoņu gadu laikā? Apskatot katras ienākumu kategorijas
vidējo rādītāju dinamiku, var pamanīt, ka divās pozīcijās ir notikušas izmaiņas pēc sava
rakstura līdzīgas kopējo ienākumu rādītājam: ienākumos no pašreizējā un iepriekšējā
algotā darba. Ienākumi no pašreizējā darba, proti, tāda, kurā students strādā paralēli
mācībām, četru gadu laikā vidēji palielinājušies par 67%, kas liecina par vispārēju
studējošo nodarbinātības pieaugumu. Vēl krasākas izmaiņas novērojamas iepriekšējos
darbos gūto ienākumu rādītājā — tas palielinājies vidēji no 25,38 eiro līdz 92,63 eiro. Tiesa,
šī ienākumu avota vidējā vērtība ir vairāk nekā trīs reizes mazāka par pašreizējā darba
ienākumiem. 56 56 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 10. tabula. Tiešie ikmēneša ienākumi no dažādiem avotiem (vid., eur)
2017
2013
2009
Atbalsts no ģimenes/partnera
128,74
119,35 111,68
Paša nopelnītie ienākumi: Pašreizējā algotā darbā
283,15 169,83 158,71
Paša nopelnītie ienākumi: Iepriekšējā algotā darbā
92,63
25,38
16,08
No valsts/publiskiem avotiem: Neatmaksājama stipendija/grants
13,24
12,69
24,16
No privātiem avotiem: Neatmaksājama stipendija/grants
5,11
5,42
-
No valsts/publiskiem avotiem: Atmaksājams kredīts
12,59
14,10
30,22
No privātiem avotiem: Atmaksājams kredīts
2,36
2,59
Citi ienākumi: No publiskiem avotiem
15,33
9,41
24,69
Citi ienākumi: No privātiem avotiem
19,62
8,05
Kopējie ienākumi
579,22 357,91 368,71
Bāze: visi respondenti. 10. tabula. Tiešie ikmēneša ienākumi no dažādiem avotiem (vid., eur)
2017
2013
2009
Atbalsts no ģimenes/partnera
128,74
119,35 111,68
Paša nopelnītie ienākumi: Pašreizējā algotā darbā
283,15 169,83 158,71
Paša nopelnītie ienākumi: Iepriekšējā algotā darbā
92,63
25,38
16,08
No valsts/publiskiem avotiem: Neatmaksājama stipendija/grants
13,24
12,69
24,16
No privātiem avotiem: Neatmaksājama stipendija/grants
5,11
5,42
-
No valsts/publiskiem avotiem: Atmaksājams kredīts
12,59
14,10
30,22
No privātiem avotiem: Atmaksājams kredīts
2,36
2,59
Citi ienākumi: No publiskiem avotiem
15,33
9,41
24,69
Citi ienākumi: No privātiem avotiem
19,62
8,05
Kopējie ienākumi
579,22 357,91 368,71
Bāze: visi respondenti. 10. tabula. Bāze: visi respondenti. 9.1. Ienākumi Tiešie ikmēneša ienākumi no dažādiem avotiem (vid., eur) Salīdzinot dažādu ienākumu avotu izmantošanu ar 2013. gada pētījumā konstatēto, par
9% (no 71% līdz 65%) samazinājies to studentu skaits, kas gūst ģimenes vai partnera
finansiālo atbalstu. Tas tomēr nav ietekmējis faktu, ka uz ģimenes vai partnera materiālo
atbalstu paļaujas lielākā daļa studentu. Kā otrais visbiežāk minētais ienākumu avots
studentiem, salīdzinot ar 2013. gadu, saglabājas paša nopelnītie ienākumi no pašreizējā
darba. Turklāt studentu proporcija, kas saņem līdzekļus no šī avota, ir palielinājusies. Ja
pirms četriem gadiem algu, strādājot paralēli studijām, saņēma 44% aptaujāto, tad šogad
tādu bija jau vairāk nekā puse — 55%. Līdzīgi no 14% līdz 30% palielinājies arī to studentu
skaits, kuri ik mēnesi izdevumu segšanai izmanto iepriekšējā darbā nopelnīto. Kopumā šie
rādītāji uzskatāmi ilustrē studējošo nodarbinātības pieaugumu un attiecīgi ģimenes vai
partneru atbalsta nozīmes mazināšanos. 23. attēls. Tiešo ikmēneša ienākumu saņemšana no dažādiem avotiem (%)
Bāze: visi respondenti
3
13
14
30
55
1
15
8
65
0
15
30
45
60
75
Ieņēmumi no privātiem avotiem (atmaksājami)
Ieņēmumi no privātiem avotiem (neatmaksājami)
Citi ienākumi no publiskiem avotiem
Nopelnītie iepriekšējā algotā darbā
Nopelnītie pašreizējā algotā darbā
Studiju atbalsts no ārzemju avotiem
No Latvijā pieejamiem studentu avotiem
(neatmaksājami)
No Latvijā pieejamiem studentu avotiem (atmaksājami)
Atbalsts no ģimenes vai partnera 23. attēls. Tiešo ikmēneša ienākumu saņemšana no dažādiem avotiem (%) 23. attēls. Tiešo ikmēneša ienākumu saņemšana no dažādiem avotiem (%) Bāze: visi respondenti. 57 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 11. tabula. Tiešie ikmēneša ienākumi to saņēmēju grupās (eur)
Vid. Mediāna
St. novirze
Saņēmēju %
Atbalsts no ģimenes/partnera
196,77
150,00
169,56
65,4
No nacionāliem studentiem paredzētiem avotiem
(atmaksājami)
203,72
170,00
107,63
7,6
No nacionāliem studentiem paredzētiem avotiem
(neatmaksājami)
119,96
99,60
65,44
15,1
Studiju atbalsts no ārzemju avotiem
358,69
350,00
152,61
0,8
Nopelnītie pašreizējā algotā darbā
513,79
450,00
309,95
55,1
Nopelnītie iepriekšējā algotā darbā
309,26
260,00
235,80
30,0
Citi ienākumi no publiskiem avotiem
106,67
81,00
97,59
14,4
Ieņēmumi no privātiem avotiem (neatmaksājami)
146,47
95,00
190,96
13,4
Ieņēmumi no privātiem avotiem (atmaksājami)
98,54
50,00
114,72
3,3
Bāze: respondenti, kuri saņem ikmēneša ienākumus no attiecīgā avota (kolonna «Saņēmēju %»). Tiešie ikmēneša ienākumi to saņēmēju grupās (eur) Lai konkretizētu iepriekš aprakstītos vidējo ienākumu rādītājus visu studentu vidū,
aplūkosim, kādas ir vidējās ienākumu summas no katra avota tikai tiem studentiem, kuri
no šiem avotiem gūst līdzekļus. 9.1. Ienākumi Dati rāda, ka algotā darbā nopelnītās summas vidēji ir
būtiski lielākas par vidējām summām, ko studenti saņem no citiem ienākumu avotiem, —
513,79 eiro mēnesī. Jāatzīmē, ka darba algas saņēmēju ir vairāk nekā puse no visiem
studējošajiem. Tiešais atbalsts no ģimenes vai partnera, lai arī biežāk sastopams, naudas
izteiksmē ir mazāks — vidēji 196,77 eiro. Stipendijas un aizdevumi kā studentu finansiālās sistēmas daļa nodrošina studentiem
vidēji ap 100 un vairāk eiro lielus ienākumus mēnesī. Valsts finansiālais atbalsts
studentiem aizdevuma veidā vidēji ir lielāks nekā šāda veida finansējums no privātiem
avotiem. Savukārt stipendija no privātiem līdzekļiem vidēji ir lielāka nekā valsts
nodrošinātā stipendija. Taču jānorāda, ka uz šiem ienākumiem studentu finansiālās
sistēmas ietvaros paļaujas mazākā daļa studentu. Valsts nodrošināto stipendiju un
aizdevumu starp ienākumu avotiem min attiecīgi 15,1% un 7,6% studentu. No privātiem
finansējuma avotiem nodrošināto stipendiju un aizdevumu saņem attiecīgi 13,4% un 3,3%
studentu. 9.2. Ienākumi no studentiem paredzētiem avotiem Latvijas Eurostudent pētījumā iegūta plašāka informācija par studentu ienākumiem no
dažādiem atmaksājamiem un neatmaksājamiem finanšu avotiem. Proti, noskaidrots, cik
lielā mērā studējošie paļaujas uz stipendijām, studiju un studējošo kredītiem, vispārējā
kārtā pieejamiem kredītiem, kā arī stipendijām un grantiem. Kā jau minēts iepriekšējā sadaļā, kopējie ikmēneša ienākumi studentiem, kas saņem
stipendiju un valsts nodrošinātu aizdevumu, ir lielāki nekā studentiem bez šī finansējuma. 58 58 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Tajā pašā laikā, analizējot, cik tieši lielu ikmēneša materiālo balstu studenti gūst stipendiju
vai aizdevumu formā, redzamas būtiskas atšķirības starp šiem finansējuma veidiem. Tajā pašā laikā, analizējot, cik tieši lielu ikmēneša materiālo balstu studenti gūst stipendiju
vai aizdevumu formā, redzamas būtiskas atšķirības starp šiem finansējuma veidiem. 12. tabula. Ikmēneša ienākumi no atmaksājamiem un neatmaksājamiem finansējuma
avotiem (eur)
Vid. Mediāna
St. novirze Saņēmēju %
No valsts/sabiedrska avota: Stipendija
99,42
99,60
28,63
13,32
No valsts/sabiedrska avota: Studiju kredīts ar valsts galvojumu
232,00
180,00
164,74
5,43
No valsts/sabiedrska avota: Studējošā kredīts ar valsts galvojumu
149,19
160,00
28,92
1,58
No privāta avota: Stipendija
184,94
180,00
109,97
2,76
No privāta avota: Kredīts studiju maksas segšanai
172,81
150,00
103,00
1,37
No privāta avota: Kredīts ikdienas izdevumu segšanai
155,82
100,00
169,41
0,57
No privāta avota: Patēriņa kredīts
125,44
100,00
101,11
0,35
Bāze: respondenti, kuri saņem ikmēneša ienākumus no attiecīgā avota; saņēmēju % norādīts attiecīgajā kolonnā. ula. Ikmēneša ienākumi no atmaksājamiem un neatmaksājamiem finansējuma
avotiem (eur) Ikmēneša ienākumi no atmaksājamiem un neatmaksājamiem finansējuma
tiem (eur) Bāze: respondenti, kuri saņem ikmēneša ienākumus no attiecīgā avota; saņēmēju % norādīts attiecīgajā kolonnā. Bāze: respondenti, kuri saņem ikmēneša ienākumus no attiecīgā avota; saņēmēju % norādīts attiecīgajā kolonnā. Apjoma ziņā vislielāko ikmēneša finansējuma summu 232,00 eiro veido valsts galvotais
studiju aizdevums. Tā kā šis finansējums sedz studiju maksu augstskolā, tas nenonāk
studenta rokās, bet tieši augstskolas kasē. Līdzīgi ir ar privāto aizdevumu studiju maksas
segšanai. Taču atšķirībā no valsts galvotā aizdevuma, kuru izmanto 5,43% aptaujāto
studentu, privātu studiju maksas kredītu izmanto tikai 1,37%. Vidējā ikmēneša ienākumu summa no kredīta ikdienas dzīves izdevumu segšanai jeb
studējošā kredīta, kas nonāk studenta makā kā valsts nodrošināts aizdevums, veido
149,19 eiro. Šī summa ir nedaudz mazāka par līdzīgiem privāta aizdevēja nodrošinātiem
ienākumiem studentam, kas mēnesī vidēji veido 155,82 eiro. Līdzīgi kā ar studiju kredītu,
lielāka daļa studentu — 1,58% — izvēlas apmaksāt ikdienas izdevumus, izmantojot valsts
galvoto aizdevumu. Privāto aizdevumu, kas speciāli paredzēts studenta ikdienas tēriņiem,
izmanto 0,57% studentu. 9.2. Ienākumi no studentiem paredzētiem avotiem Patēriņa kredītu kā finansējuma avotu studiju nodrošināšanai
studenti minējuši visretāk – 0,35%. Tas ir pozitīvi, ņemot vērā šī finansējuma avota
dārdzību studentam. Tomēr vidējie mēneša ienākumi no šī avota 125,44 eiro apjomā ir
būtiski, un tie veidos parādu slogu studentam nākotnē. Valsts nodrošināto stipendiju kā finansiālu atbalstu min lielāka daļa studentu — 13,3%. Salīdzinot ar pārējiem studentu finansiālā atbalsta avotiem, tas gan nodrošina vismazākos
ienākumus — vidēji 99,42 eiro mēnesī. Stipendijas no privātiem līdzekļiem ir divreiz
lielākas, mēnesī veidojot vidēji 184,94 eiro. Taču šis finansējuma avots ir pieejams tikai
2,76% studentu. 9.3. Ienākumu struktūra 34
50
32
23
16
19
36
43
3
3
2
3
2
3
3
3
5
7
6
3
3
2
5
8
38
20
39
52
57
57
37
21
13
13
14
13
09
11
13
13
4
3
3
2
7
2
3
6
3
3
3
3
4
4
2
5
00
10
20
30
40
50
60
70
80
90
100
Līdz 21 g.v. 22–24 g.v. 25–29 g.v. 30 g.v. un
vecāki
Zema
Vidēja
Augsta
Visi
Vecums
Studiju intensitāte
No privātiem avotiem (neatmaksājami)
Citi ienākumi no publiskiem avotiem
Nopelnītie iepriekšējā algotā darbā
Nopelnītie pašreizējā algotā darbā
No nacionāliem studentiem paredzētiem avotiem — neatmaksājami
No nacionāliem studentiem paredzētiem avotiem — atmaksājami
Atbalsts no ģimenes vai partnera 24. attēls. Tiešo ienākumu avotu īpatsvars (%)
Bāze: visi respondenti. Attēlā nav iekļauti ienākumu avoti ar īpatsvaru mazāku par vienu procentu. 34
50
32
23
16
19
36
43
3
3
2
3
2
3
3
3
5
7
6
3
3
2
5
8
38
20
39
52
57
57
37
21
13
13
14
13
09
11
13
13
4
3
3
2
7
2
3
6
3
3
3
3
4
4
2
5
00
10
20
30
40
50
60
70
80
90
100
Līdz 21 g.v. 22–24 g.v. 25–29 g.v. 30 g.v. un
vecāki
Zema
Vidēja
Augsta
Visi
Vecums
Studiju intensitāte
No privātiem avotiem (neatmaksājami)
Citi ienākumi no publiskiem avotiem
Nopelnītie iepriekšējā algotā darbā
Nopelnītie pašreizējā algotā darbā
No nacionāliem studentiem paredzētiem avotiem — neatmaksājami
No nacionāliem studentiem paredzētiem avotiem — atmaksājami
Atbalsts no ģimenes vai partnera 24. attēls. Tiešo ienākumu avotu īpatsvars (%) Līdzās materiālās labklājības tiešajiem rādītājiem sociālos pētījumos bieži tiek lietoti arī
subjektīvu vērtējumu mērījumi. Šī pieeja izmantota arī šajā pētījumā. Aptaujas dalībnieki
tika lūgti novērtēt, cik lielā mērā viņi aptaujas veikšanas periodā saskārās ar finansiālām
grūtībām. Personisko finansiālo grūtību vērtējuma rezultāti rāda, ka ar finansiālām
grūtībām būtiski saskaras gandrīz trešā daļa studentu — 28%. Biežāk to atzīst studenti
vecumā no 25 līdz 29 gadiem — 36%. Studiju programmu un raksturojuma griezumā ar
finansiālām grūtībām visbiežāk saskaras koledžu studenti — 36% un tie, kuru studiju
intensitāte uzskatāma par augstu, — 37%. Vairums studentu jautājumā par personisko finansiālo grūtību pieredzi aptaujas norises
brīdī tomēr atzīst, ka viņu materiālais stāvoklis ir apmierinošs vai pilnīgi pietiekams, lai
nodrošinātu visas dzīves vajadzības. Tas rosina jautājumu par pieejamo naudas līdzekļu
vērtējumu dažādās sociāldemogrāfiskajās grupās. 9.3. Ienākumu struktūra Pētījuma dati ļauj ieskatīties arī dažādu studentu grupu ienākumu struktūrā, proti,
analizēt, kāds ir viena vai cita ienākumu avota īpatsvars kopējos ikmēneša ienākumos. Iegūtā informācija nosedz gan tādus avotus, kuri raksturīgi tieši studējošajiem, gan tādus, 59 59 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI kuru izmaiņas kopumā seko pārejai no jaunieša uz pieauguša cilvēka statusu. Jāņem vērā
arī tas, ka tālāk apskatītie relatīvie rādītāji kopumā atbilst visnotaļ atšķirīga mēroga
summām, kas atspoguļotas šīs nodaļas sākumā. kuru izmaiņas kopumā seko pārejai no jaunieša uz pieauguša cilvēka statusu. Jāņem vērā
arī tas, ka tālāk apskatītie relatīvie rādītāji kopumā atbilst visnotaļ atšķirīga mēroga
summām, kas atspoguļotas šīs nodaļas sākumā. Gados jaunāku cilvēku — vecumā līdz 21 gadam — ieņēmumos lielu daļu veido atbalsts no
ģimenes, vidēji nodrošinot 50,35% mēneša ienākumu. Savukārt nākamajā vecuma grupā
no 22 līdz 24 gadiem šis avots dod vairs tikai 32,24% ienākumu. Vecumā no 25 līdz 29
gadiem ģimenes atbalsta proporcija sarūk līdz 22,66%, līdz sasniedz minimālu vidējo
vērtību grupā virs 30 gadiem — 16,34%. Vidējais ģimenes vai partnera atbalsta īpatsvars
visu pilna laika studējošo vidū ir 34,11%. Pretēja dinamika vērojama ienākumu daļā, ko veido algotā darbā nopelnītie līdzekļi,
strādājot paralēli studijām. Līdz ar pāreju no vienas vecuma kategorijas nākamajā
pakāpeniski palielinās arī nopelnīto līdzekļu īpatvars. Līdz 21 gadam veco studentu
ieņēmumos pašreizējā darbā nopelnītā alga veido vidēji 20,12%, savukārt 30 gadus vecu
un vecāku studentu vidū — 56,94%. Vidējais pašreizējā darbā saņemtās algas īpatsvars
studentu ikmēneša ieņēmumos ir 37,76%. Taču ienākumi no algotā darba var tikt arī uzkrāti no iepriekšējiem darbiem, piemēram, no
sezonālu, īstermiņa, gadījuma darbu veikšanas, vai arī mērķtiecīgi veidojot uzkrājumus
pamatdarbā pirms studiju uzsākšanas. Iepriekšējā darbā nopelnīto līdzekļu īpatsvara
dinamikā nav saskatāms tik viennozīmīgs ar vecumu saistīts vektors kā gadījumā ar
pašreizējo algotu darbu. Vidēji studējošo ikmēneša ienākumos iepriekšējā darbā
nopelnītie līdzekļi veido 12,67%. Uzmanības vērtas ir arī ienākumu struktūras atšķirības starp studentiem, kuri studē ar
atšķirīgu intensitāti. Palielinoties ar studijām saistītai slodzei, būtiski pieaug ģimenes
atbalsta proporcija. Ja ar zemu intensitāti studējošo ienākumos ģimenes atbalsts veido
19% ienākumu, tad izteikti intensīvi studējošo budžetā — jau 43%. Kontekstā ar iepriekš
aplūkoto vidējo ģimenes atbalsta rādītāju acīmredzams, ka intensīvi studējošo kopējie
rīcībā esošie līdzekļi ir krietni mazāki. 60 60 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 24. attēls. Tiešo ienākumu avotu īpatsvars (%)
Bāze: visi respondenti. Attēlā nav iekļauti ienākumu avoti ar īpatsvaru mazāku par vienu procentu. 9.3. Ienākumu struktūra Kamēr viens students jūtas apmierināts
ar noteiktu ienākumu līmeni, cits var uzskatīt šādu summu par kritiski nepietiekamu sava
dzīves līmeņa uzturēšanai. Interesanti, ka, neraugoties uz dzīves dārdzības un ienākumu
līmeņa atšķirībām starp galvaspilsētu un reģioniem, finansiālo grūtību vērtējumā pēc šī
dalījuma būtisku atšķirību nav. 61 61 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 25. attēls. Finansiālo grūtību pieredzes subjektīvais vērtējums (%)
Bāze: visi respondenti. 10
10
08
7
10
6
15
12
13
7
9
9
27
18
15
18
19
26
21
17
23
18
19
19
30
34
33
35
32
25
34
37
32
35
30
33
22
24
21
21
24
28
20
17
19
25
27
23
12
14
22
19
15
15
10
18
14
15
15
15
0%
25%
50%
75%
100%
Augsta
Vidēja
Zema
Studiju intensitāte
Maģistra
Bakalaura
Garā cikla
Koledža
Studiju līmenis
30 g.v. un vecāki
25–29 g.v. 22–24 g.v. Līdz 21 g.v. Vecums
Visi
Ļoti lielā mērā
Nemaz 25. attēls. Finansiālo grūtību pieredzes subjektīvais vērtējums (%)
10
10
08
7
10
6
15
12
13
7
9
9
27
18
15
18
19
26
21
17
23
18
19
19
30
34
33
35
32
25
34
37
32
35
30
33
22
24
21
21
24
28
20
17
19
25
27
23
12
14
22
19
15
15
10
18
14
15
15
15
0%
25%
50%
75%
100%
Augsta
Vidēja
Zema
Studiju intensitāte
Maģistra
Bakalaura
Garā cikla
Koledža
Studiju līmenis
30 g.v. un vecāki
25–29 g.v. 22–24 g.v. Līdz 21 g.v. Vecums
Visi
Ļoti lielā mērā
Nemaz 25. attēls. Finansiālo grūtību pieredzes subjektīvais vērtējums (%) Bāze: visi respondenti. Bāze: visi respondenti. 9.4. Izdevumi Eurostudent pētījums studējošo izdevumus analizē, ņemot vērā ne tikai tēriņus, ko
studenti sedz paši no savā rīcībā esošajiem līdzekļiem, bet arī tos izdevumus, ko apmaksā
kāds cits. Nedalot izdevumus atsevišķās pozīcijās, vidēji studenti no savā rīcībā esošajiem
līdzekļiem sedz 63% ikdienas izdevumu. Pārējo izdevumu daļu sedz citi, visbiežāk
studenta ģimene — vecāki vai partneris. Izmantojot šos pētījuma datus, aplūkosim
ikdienas izdevumu pozīciju stuktūru no maksātāja skatpunkta. Citiem vārdiem sakot,
noskaidrosim, kādu daļu noteikta tipa izdevumu sedz paši studenti un kādu daļu viņu labā
sedz ģimene. Aptaujas datu analīze rāda, ka vienīgā ikdienas izdevumu pozīcija, kur students izdod
mazāk nekā piemaksā viņa ģimene, ir mājoklis. Studējošais vidēji sedz 48% ar mājokli
saistītu izmaksu, bet vecāki vai partneris attiecīgi 52%. Tajā pašā laikā jāmin, ka izdevumi
par mājokli ir viena no divām naudietilpīgākajām izmaksu kategorijām. 62 62 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Aplūkojot izdevumus par nākamo būtiskāko izdevumu kategoriju — pārtiku, proporcija
ievērojami atšķiras. Divas trešdaļas (67%) no ikdienas izdevumiem ēdiena iegādei sedz
paši studenti no saviem līdzekļiem. 26. attēls. Ikmēneša izdevumu īpatsvars, ko sedz pats studējošais pēc izdevumu
kategorijām (% no atbilstošās kategorijas)
Bāze: visi respondenti. 81
77
76
70
70
67
66
61
48
63
0
10
20
30
40
50
60
70
80
90
100
Sabiedriskie un izklaides pasākumi
Transports
Citi regulāri maksājumi
Veselības aprūpe
Kredīta maksājumi
Pārtika
Bērnu aprūpe
Sakaru pakalpojumi
Mājoklis
Kopējie ikdienas izdevumi 26. attēls. Ikmēneša izdevumu īpatsvars, ko sedz pats studējošais pēc izdevumu
kategorijām (% no atbilstošās kategorijas) Iepriekš aplūkotās proporcijas, kādās ikdienas izdevumi dalās starp pašiem
respondentiem un citām personām, iespējams skatīt arī vidējo naudas summu izteiksmē,
kas ļauj kontekstualizēt relatīvus rādītājus. Skatot divas nozīmīgākās izdevumu pozīcijas
— mājvietai un pārtikai —, var redzēt, ka pamata atbalsts arī naudas izteiksmē, ko saņem
studējošie ikdienā, ir saistīts ar dzīvesvietas uzturēšanu. Iepriekš aplūkotās proporcijas, kādās ikdienas izdevumi dalās starp pašiem
respondentiem un citām personām, iespējams skatīt arī vidējo naudas summu izteiksmē,
kas ļauj kontekstualizēt relatīvus rādītājus. Skatot divas nozīmīgākās izdevumu pozīcijas
— mājvietai un pārtikai —, var redzēt, ka pamata atbalsts arī naudas izteiksmē, ko saņem
studējošie ikdienā, ir saistīts ar dzīvesvietas uzturēšanu. 13. tabula. 9.4. Izdevumi Lai gan pārējās izmaksu pozīcijās izdevumu summas ir mazākas,
proporcionāli lielāko daļu no tām sedz studējošais no saviem ienākumiem. 9.4. Izdevumi Regulārie ikdienas izdevumi: sedz students pats no savā rīcībā esošiem līdek-
ļiem (vid., eur)
Izdevumu kategorija
2017
2013
2009
Mājvieta
71,59
46,03
52,85
Pārtika
105,04
71,21
93,50
Transports
39,52
28,16
31,20
Sakaru pakalpojumi
13,02
8,27
14,20
Izdevumi veselībai
12,69
5,97
8,31
Bērnu aprūpe
6,36
2,72
6,16
Kredīta maksājumi
8,83
5,69
-
Sabiedriskie un izklaides pasākumi
39,43
30,97
28,94
Citi regulāri maksājumi
53,15
38,34
30,28
Kopā MĒNESĪ
349,63
233,06
265,85
Bāze: visi respondenti. 13. tabula. Regulārie ikdienas izdevumi: sedz students pats no savā rīcībā esošiem līdek-
ļiem (vid., eur)
Izdevumu kategorija
2017
2013
2009
Mājvieta
71,59
46,03
52,85
Pārtika
105,04
71,21
93,50
Transports
39,52
28,16
31,20
Sakaru pakalpojumi
13,02
8,27
14,20
Izdevumi veselībai
12,69
5,97
8,31
Bērnu aprūpe
6,36
2,72
6,16
Kredīta maksājumi
8,83
5,69
-
Sabiedriskie un izklaides pasākumi
39,43
30,97
28,94
Citi regulāri maksājumi
53,15
38,34
30,28
Kopā MĒNESĪ
349,63
233,06
265,85
Bāze: visi respondenti. 3. tabula. Regulārie ikdienas izdevumi: sedz students pats no savā rīcībā esošiem līdek-
ļiem (vid., eur) egulārie ikdienas izdevumi: sedz students pats no savā rīcībā esošiem līdek-
(vid
eur) 63 63 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 14. tabula. Regulārie ikdienas izdevumi: sedz vecāki, partneris vai citi (vid., eur)
Izdevumu kategorija
2017
2013
2009
Mājvieta
91,38
75,78
47,61
Pārtika
61,80
50,71
27,03
Transports
17,08
13,07
8,22
Sakaru pakalpojumi
7,51
7,43
6,42
Izdevumi veselībai
6,99
7,10
4,84
Bērnu aprūpe
4,00
1,34
1,21
Kredīta maksājumi
6,24
4,71
-
Sabiedriskie un izklaides pasākumi
13,11
9,21
5,39
Citi regulāri maksājumi
21,19
17,38
12,17
Kopā MĒNESĪ
231,66
179,23
113,32
Bāze: visi respondenti. 14. tabula. Regulārie ikdienas izdevumi: sedz vecāki, partneris vai citi (vid., eur)
Izdevumu kategorija
2017
2013
2009
Mājvieta
91,38
75,78
47,61
Pārtika
61,80
50,71
27,03
Transports
17,08
13,07
8,22
Sakaru pakalpojumi
7,51
7,43
6,42
Izdevumi veselībai
6,99
7,10
4,84
Bērnu aprūpe
4,00
1,34
1,21
Kredīta maksājumi
6,24
4,71
-
Sabiedriskie un izklaides pasākumi
13,11
9,21
5,39
Citi regulāri maksājumi
21,19
17,38
12,17
Kopā MĒNESĪ
231,66
179,23
113,32
Bāze: visi respondenti. 14. tabula. Regulārie ikdienas izdevumi: sedz vecāki, partneris vai citi (vid., eur) Aptaujas dati liecina, ka naudas izteiksmē lielākā daļa studentu izdevumu ir pārtikas
iegādei, mēnesī vidēji veidojot 105,04 eiro. Par mājokli naudas izteiksmē vairāk izdod
vecāki vai partneris, vidēji mēnesī maksājot 91,38 eiro papildus paša studenta segtajiem
71,59 eiro. Interesanti, ka studentu tēriņu struktūrā vienlīdz liela naudas summa tiek
atvēlēta transporta izdevumiem un sabiedriskajiem un izklaides pasākumiem, attiecīgi
39,52 eiro un 39,43 eiro. 9.5. Izdevumi studijām Jautājums par izdevumiem, kas saistīti ar studijām, aptaujā tika uzdots atsevišķi. Ar studijām saistītos izdevumus respondentiem tika lūgts norādīt par semestri, pieņemot,
ka mācību semestra ilgums Latvijā ir 5 mēneši. Lai iegūtu kopskatu par visiem ar studijām
saistītajiem izdevumiem, šeit aplūkotas šo izdevumu vidējās summas mēnesī. Jāpaskaidro, ka ar studijām saistītie izdevumi šajā pētījumā ietver sekojošo: studiju maksu
un citus ar studiju procesu saistītos maksājumus, tādus kā maksa par eksāmeniem, studiju
parādu kārtošanu; iemaksas studentu organizācijās vai citas ar studējošā aktivitātēm
saistītas biedra naudas un dalības maksas; izdevumus par studiju materiāliem, piemēram,
grāmatām, mācību materiālu kopēšanu, mācību izbraucieniem; citus ar studijām saistītus
regulārus maksājumus, piemēram, privātstundas, papildus izglītošanos. Pēc studentu sniegtās informācijas redzams, ka lielākā ar studijām saistīto izdevumu
pozīcija iekļauj maksājumus par mācībām augstākās izglītības iestādei, veidojot 117,02
eiro mēnesī. Kopējie ar studijām saistītie izdevumi mēnesī, ko norāda studenti, vidēji veido
67,25 eiro. 64 64 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 15. tabula. Ar studijām saistītie ikmēneša izdevumi, paša un citu apmaksāti (vid. mē-
nesī, eur)
Izdevumu kategorija
Vid. Mediāna
St. novirze
Maksātāju %
Mācību maksa, reģistrācijas maksa, maksājumi par
eksāmeniem
117,02
120,00
120,00
42,1
Iemaksas studentu organizācijai
4,23
2,00
2,00
3,4
Studiju materiāli
5,61
3,00
3,00
60,3
Citi ar studijām saistītie regulārie maksājumi
10,95
6,00
6,00
9,0
Kopējie ar studijām saistītie izdevumi
67,25
12,00
12,00
79,9
Bāze: respondenti, kuriem ir attiecīgas grupas izdevumi. Jautājumā par to, kas sedz kopējos ar studijām saistītos izdevumus redzams, ka vidēji 71%
no šo izdevumu summas studenti sedz paši, bet pārējo daļu — 29% summas apmaksā
vecāki, partneris vai kāds cits. Ja vērtē izdevumus par studijām salīdzinājumā ar kopējiem
studējošā izdevumiem, redzams, ka tie vidēji veido 9% no kopējām izmaksām mēnesī. Savukārt uz citu finansējumu studiju maksas segšanai paļaujas nozīmīga daļa garā cikla un
bakalaura studiju programmās studējošo — attiecīgi 43% un 57%. Koledžas izglītības
programmā studējošo vidū 66% studiju maksu apmaksā paši, bet 34% palīdz ģimene vai
kāds cits. Aptaujas dati liecina, ka studējoša nodarbinātībai ir tieša saistība ar studenta spēju pašam
apmaksāt studiju maksu. No tiem, kas strādā regulārā algotā darbā vairāk nekā 20 stundas
nedēļā, 75% studiju maksu sedz paši. To vidū, kas strādā daļēju darba laiku (līdz 20
stundām nedēļā), studiju maksu paši spēj segt 48% studentu. Visbeidzot, to studentu vidū,
kas paralēli studijām nav nodarbināti, studiju maksu no saviem līdzekļiem apmaksā 40%
studējošo. 15. tabula. Ar studijām saistītie ikmēneša izdevumi, paša un citu apmaksāti (vid. 9.5. Izdevumi studijām mē-
nesī, eur)
Izdevumu kategorija
Vid. Mediāna
St. novirze
Maksātāju %
Mācību maksa, reģistrācijas maksa, maksājumi par
eksāmeniem
117,02
120,00
120,00
42,1
Iemaksas studentu organizācijai
4,23
2,00
2,00
3,4
Studiju materiāli
5,61
3,00
3,00
60,3
Citi ar studijām saistītie regulārie maksājumi
10,95
6,00
6,00
9,0
Kopējie ar studijām saistītie izdevumi
67,25
12,00
12,00
79,9
Bāze: respondenti, kuriem ir attiecīgas grupas izdevumi. Ar studijām saistītie ikmēneša izdevumi, paša un citu apmaksāti (vid. mē-
ī
) abula. Ar studijām saistītie ikmēneša izdevumi, paša un citu apmaksāti (vid. mē-
nesī, eur) Jautājumā par to, kas sedz kopējos ar studijām saistītos izdevumus redzams, ka vidēji 71%
no šo izdevumu summas studenti sedz paši, bet pārējo daļu — 29% summas apmaksā
vecāki, partneris vai kāds cits. Ja vērtē izdevumus par studijām salīdzinājumā ar kopējiem
studējošā izdevumiem, redzams, ka tie vidēji veido 9% no kopējām izmaksām mēnesī. Savukārt uz citu finansējumu studiju maksas segšanai paļaujas nozīmīga daļa garā cikla un
bakalaura studiju programmās studējošo — attiecīgi 43% un 57%. Koledžas izglītības
programmā studējošo vidū 66% studiju maksu apmaksā paši, bet 34% palīdz ģimene vai
kāds cits. Jautājumā par to, kas sedz kopējos ar studijām saistītos izdevumus redzams, ka vidēji 71%
no šo izdevumu summas studenti sedz paši, bet pārējo daļu — 29% summas apmaksā
vecāki, partneris vai kāds cits. Ja vērtē izdevumus par studijām salīdzinājumā ar kopējiem
studējošā izdevumiem, redzams, ka tie vidēji veido 9% no kopējām izmaksām mēnesī. Savukārt uz citu finansējumu studiju maksas segšanai paļaujas nozīmīga daļa garā cikla un
bakalaura studiju programmās studējošo — attiecīgi 43% un 57%. Koledžas izglītības
programmā studējošo vidū 66% studiju maksu apmaksā paši, bet 34% palīdz ģimene vai
kāds cits. Aptaujas dati liecina, ka studējoša nodarbinātībai ir tieša saistība ar studenta spēju pašam
apmaksāt studiju maksu. No tiem, kas strādā regulārā algotā darbā vairāk nekā 20 stundas
nedēļā, 75% studiju maksu sedz paši. To vidū, kas strādā daļēju darba laiku (līdz 20
stundām nedēļā), studiju maksu paši spēj segt 48% studentu. Visbeidzot, to studentu vidū,
kas paralēli studijām nav nodarbināti, studiju maksu no saviem līdzekļiem apmaksā 40%
studējošo. 65 65 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 27. attēls. 9.5. Izdevumi studijām Studiju maksas, reģistrācijas maksas un citu studiju maksu segšanas
struktūra (%)
Bāze: respondenti kuriem ir šīs kategorijas izdevumi
40
48
75
66
43
80
57
71
55
36
59
70
86
58
60
52
25
34
57
20
43
29
45
64
41
30
14
42
0%
25%
50%
75%
100%
Nestrādā
1–20 st. >20 st. Koledža
Bakalaura
Maģistra
Garā cikla
Reģions
Rīga
Līdz 21 g.v. 22–24 g.v. 25–29 g.v. 30 g.v. un vecāki
Nodarbinātība
Studiju līmenis
Urbanizācija
Vecums
Visi
Paša apmaksāta daļa
Citu apmaksāta daļa 27. attēls. Studiju maksas, reģistrācijas maksas un citu studiju maksu segšanas
struktūra (%) Bāze: respondenti, kuriem ir šīs kategorijas izdevumi. Bāze: respondenti, kuriem ir šīs kategorijas izdevumi. 66 66 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 9.6. Kopējie izdevumi Noslēdzot studējošo izdevumu analīzi, nonākam pie plašākā kopsavilkuma rādītāja —
pilniem tiešiem un netiešiem izdevumiem (in-cash un in-kind) gan ikdienas vajadzību, gan
ar studijām saistīto izdevumu segšanai. Šis rādītājs ļauj gūt priekšstatu par naudas
apjomu, kāds kopumā ir nepieciešams, lai nodrošinātu augstākās izglītības iegūšanu. 16. tabula. Kopējie studējošo izdevumi (paša un citu apmaksāti, eur) 28. attēls. Kopējie studējošo izdevumi dažādās studējošo grupās (paša un citu
apmaksāti, eur) 28. attēls. Kopējie studējošo izdevumi dažādās studējošo grupās (paša un citu
apmaksāti, eur)
Bāze: visi respondenti. Norādītas summas mēnesī. 453
527
700
830
618
485
655
576
520
647
501
697
556
58
52
53
50
70
12
63
52
47
39
62
46
54
0 €
100 €
200 €
300 €
400 €
500 €
600 €
700 €
800 €
900 €
Līdz 21 g.v. 22–24 g.v. 25–29 g.v. 30 g.v. un vecāki
Rīga
Reģioni
Zema
Vidējā
Augsta
Koledža
Bakalaura
Maģistra
Garā cikla
Vecums
Atrašanās
vieta
Studiju
intensitāte
Studiju līmenis
Dzīvošanas kopējie izdevumi
Kopējie izdevumi studijām 28. attēls. Kopējie studējošo izdevumi dažādās studējošo grupās (paša un citu
apmaksāti, eur)
Bāze: visi respondenti. Norādītas summas mēnesī. 453
527
700
830
618
485
655
576
520
647
501
697
556
58
52
53
50
70
12
63
52
47
39
62
46
54
0 €
100 €
200 €
300 €
400 €
500 €
600 €
700 €
800 €
900 €
Līdz 21 g.v. 22–24 g.v. 25–29 g.v. 30 g.v. un vecāki
Rīga
Reģioni
Zema
Vidējā
Augsta
Koledža
Bakalaura
Maģistra
Garā cikla
Vecums
Atrašanās
vieta
Studiju
intensitāte
Studiju līmenis
Dzīvošanas kopējie izdevumi
Kopējie izdevumi studijām Bāze: visi respondenti. Norādītas summas mēnesī. Šie dati liecina, ka augstākās izglītības pieejamība ir atkarīga ne tikai no studenta iespējām
segt mācību maksu, bet arī segt ikdienas dzīves izdevumus, kam vidēji tiek tērēti
apmēram 91% līdzekļu mēnesī jeb 581,30 eiro. Šie dati liecina, ka augstākās izglītības pieejamība ir atkarīga ne tikai no studenta iespējām
segt mācību maksu, bet arī segt ikdienas dzīves izdevumus, kam vidēji tiek tērēti
apmēram 91% līdzekļu mēnesī jeb 581,30 eiro. 67 67 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Apskatot datus par izdevumu, kas saistīti ar studijām, proporciju pēc dažādiem studentus
raksturojošiem rādītājiem, secināms sekojošais. Studiju līmeņu griezumā vislielākā
proporcija studiju tēriņiem ir bakalaura programmas studentiem — 12% no visiem
izdevumiem, bet vismazākā koledžā studējošajiem — 6%. 9.6. Kopējie izdevumi Studiju intensitātes vērtējums
neievieš būtiskas atšķirības ar studiju procesu saistīto izdevumu apjomā, kas vidēji veido
apmēram 9% no visiem tēriņiem. Savukārt augstskolas atrašanās Rīgā vai reģionā gan
tieši saistīta ar studijām atvēlēto izdevumu summu. Rīgā studiju izmaksu segšana prasa
11% no no kopējiem izdevumiem, bet reģionos 2%. Visbeidzot, aptaujas dati liecina, ka
kopējie izdevumi studijām veido vismazāko proporciju vecākās studentu grupas vidū, bet
lielāko jaunākajā studentu grupā. Studentiem, kas sasnieguši un ir vecāki par 30 gadiem,
studiju izmaksas veido 6% no kopējiem izdevumiem. Šī procentuālā proporcija palielinās,
pārejot uz katru nākamo jaunāko studentu vecuma grupu. Tiem, kas ir 25 līdz 29 gadus
veci, kopējie izdevumi par studijām veido 8%, 22 līdz 24 gadus vecajiem — 10%, bet tiem,
kas ir 21 gadu veci vai jaunāki, 13% no visiem izdevumiem. 68 68 NOVĒRTĒJUM
am šajā pētījuma posmā tika
dokli un attieksmi pret studiju
tika iekļauti vairāki jautājumu b
studentu apmierinātība ar
ba tirgū pēc studiju programma
ību u.c. dažādus studiju procesa kom
valitāti, dažādus studiju darba
šinājuma) aspektus. Apmierinā
uras galējās vērtības atbilst k
s». Līdzīgi kā Eurostudent salīd
s agregēts rādītājs, apvienojot s
nāts», bet 1–2 kategorijā «ne
udiju procesa galvenie aspekti:
āli tehniskā nodrošinājuma v
bibliotēkas darbība
iespēja 10.
STUDIJU NOVĒRTĒJUMS Augstākās izglītības kvalitātes vērtējumam šajā pētījuma posmā tika pievērsta īpaša
uzmanība. Lai noskaidrotu studentu viedokli un attieksmi pret studiju procesu un tā
nodrošinājumu, aptaujas instrumentārijā tika iekļauti vairāki jautājumu bloki. Šajā nodaļā
tiks analizēti tādi studiju aspekti kā studentu apmierinātība ar izvēlēto studiju
programmu, savu iespēju vērtējums darba tirgū pēc studiju programmas absolvēšanas,
viedoklis par augstākās izglītības pieejamību u.c. Pētījuma dalībnieki tika lūgti novērtēt dažādus studiju procesa komponentus, kas
vispusīgi raksturo augstākās izglītības kvalitāti, dažādus studiju darba organizācijas un
infrastruktūras (materiāli tehniskā nodrošinājuma) aspektus. Apmierinātības vērtējums
tika sniegts atbilstīgi 5 punktu skalai, kuras galējās vērtības atbilst kategorijām «ļoti
apmierināts» un «nemaz nav apmierināts». Līdzīgi kā Eurostudent salīdzinošā pētījuma
datu analīzē, interpretācijai tiek izmantots agregēts rādītājs, apvienojot skalas vērtības 4–
5 kategorijās «ļoti apmierināts/apmierināts», bet 1–2 kategorijā «neapmierināts/ļoti
neapmierināts». Pētījuma dalībnieki tika lūgti novērtēt dažādus studiju procesa komponentus, kas
vispusīgi raksturo augstākās izglītības kvalitāti, dažādus studiju darba organizācijas un
infrastruktūras (materiāli tehniskā nodrošinājuma) aspektus. Apmierinātības vērtējums
tika sniegts atbilstīgi 5 punktu skalai, kuras galējās vērtības atbilst kategorijām «ļoti
apmierināts» un «nemaz nav apmierināts». Līdzīgi kā Eurostudent salīdzinošā pētījuma
datu analīzē, interpretācijai tiek izmantots agregēts rādītājs, apvienojot skalas vērtības 4–
5 kategorijās «ļoti apmierināts/apmierināts», bet 1–2 kategorijā «neapmierināts/ļoti
neapmierināts». Studiju kvalitātes novērtēšanai iekļauti studiju procesa galvenie aspekti: Studiju kvalitātes novērtēšanai iekļauti studiju procesa galvenie aspekti: • studiju infrastruktūras jeb materiāli tehniskā nodrošinājuma vērtējums. Šajā
pētījumā to raksturo šādi rādītāji: bibliotēkas darbība, iespēja dabūt kursam
nepieciešamās grāmatas un citus studiju materiālus, materiāli tehniskais
nodrošinājums laboratorijās/datorklasēs, telpu pieejamība studiju vajadzībām ārpus
lekciju laika; • studiju procesa organizācijas novērtējums. To veido šādi rādītāji: studiju
organizācija un nodarbību grafiks, prakses nodrošināšana un organizēšana, iespējas
izvēlēties kursus no plaša studiju kursu klāsta, kursu piedāvājums svešvalodās (t.sk. vieslektoru lekcijas), zinātniskā darba iespējas, informācija par iespējām studēt
starptautiskajās studentu apmaiņas programmās. • Studiju kursu docēšanas kvalitāte, kas ietver pasniegšanas kvalitāti, docētāju
darba kvalitāti, attieksmi pret studentiem, pārbaudes darbu izvērstu analīzi un
komunikāciju ar studentu pārbaudes darbu kontekstā, konsultāciju pieejamību un
docētāju atvērtību sadarbībai ar studentiem. Šie aspekti ir ļoti svarīgi studentcentrētās
izglītības kontekstā. Attēlā zemāk uzskatāmi atspoguļota studentu apmierinātība ar studiju kvalitātes trim
galvenajiem aspektiem: studiju infrastruktūras jeb materiāltehniskais nodrošinājums,
studiju procesa organizācija un studiju kursu docēšana. 10.
STUDIJU NOVĒRTĒJUMS Apakšpunkts par studentu 69 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI apmierinātību ar studiju procesa organizāciju, kas ir saistīta un daļēji attiecināma uz
studiju kvalitāti — kopmītņu/dienesta viesnīcu pieejamība, budžeta studiju vietu skaits,
studiju un studējošā kredīta pieejamība, studiju maksas līmenis, iespēja savienot studijas
ar darbu — tiks analizēts atsevišķi. 29. attēls. Apmierinātība ar galvenajiem studiju kvalitātes aspektiem (%)
Bāze: visi respondenti. 72
56
67
20
29
28
8
16
5
0%
25%
50%
75%
100%
Materiāli tehniskais nodrošinājums
Studiju organizācija un nodarbību
grafiks
Pasniegšanas kvalitāte
(Ļoti) apmierināts
Vidēji
(Ļoti) neapmierināts 29. attēls. Apmierinātība ar galvenajiem studiju kvalitātes aspektiem (%)
Bāze: visi respondenti. 72
56
67
20
29
28
8
16
5
0%
25%
50%
75%
100%
Materiāli tehniskais nodrošinājums
Studiju organizācija un nodarbību
grafiks
Pasniegšanas kvalitāte
(Ļoti) apmierināts
Vidēji
(Ļoti) neapmierināts 29. attēls. Apmierinātība ar galvenajiem studiju kvalitātes aspektiem (%) Aplūkojot studentu subjektīvo viedokli — apmierinātību ar galvenajiem studiju procesa
aspektiem, var secināt, ka, līdzīgi kā pirms četriem gadiem, Latvijas «vidējais students» ir
diezgan apmierināts gandrīz ar visiem studiju kvalitātes un studiju darba
organizācijas aspektiem. 10.1. Studiju procesa materiāltehniskais nodrošinājums Nedaudz mazāka
studentu proporcija (60%) ir apmierināta ar studiju procesam nepieciešamo telpu
pieejamību ārpus lekciju/nodarbību laika, un katrs desmitais ir neapmierināts ar šādu telpu
pieejamību. Acīmredzot augstskolām būtu jāmeklē iespējas nodrošināt telpas, kurās
studenti varētu patstāvīgi mācīties vai diskutēt. Iespējams, ka šis process būtu
apspriežams ar augstskolu studentu pašpārvaldēm, lai atrastu optimālo risinājumu. Kā jau minēts, Eurostudent VI materiāli tehniskās bāzes infrastruktūras vērtējumā anketā
iekļauti un analīzē izmantoti trīs indikatori — kopējā apmierinātība ar materiāli tehnisko
nodrošinājumu, kā arī tādi rādītāji kā tehniskais nodrošinājums laboratorijās vai
datorklasēs un telpu pieejamība studiju vajadzībām ārpus lekciju/nodarbību laika. Ja
kopējais apmierinātības līmenis ar infrastruktūras nodrošinājumu uzskatāms par labu, tad
tādi specifiskāki aspekti kā laboratoriju un datorklašu tehniskais nodrošinājums vērtēts
nedaudz zemāk — vidēji divas trešdaļas (66%) studentu ir (ļoti) apmierināti ar minēto
infrastruktūru, bet katrs desmitais students ir ar to neapmierināts. Nedaudz mazāka
studentu proporcija (60%) ir apmierināta ar studiju procesam nepieciešamo telpu
pieejamību ārpus lekciju/nodarbību laika, un katrs desmitais ir neapmierināts ar šādu telpu
pieejamību. Acīmredzot augstskolām būtu jāmeklē iespējas nodrošināt telpas, kurās
studenti varētu patstāvīgi mācīties vai diskutēt. Iespējams, ka šis process būtu
apspriežams ar augstskolu studentu pašpārvaldēm, lai atrastu optimālo risinājumu. 10.1. Studiju procesa materiāltehniskais nodrošinājums Studiju procesa materiāltehniskais nodrošinājums ir viens no aspektiem, kuru pozitīvi
vērtē salīdzinoši vislielākā daļa studentu jeb 72% aptaujāto (gan ļoti apmierināto, gan
apmierināto vidū — 36% studējošo). 30. attēls. Apmierinātība ar studiju apstākļiem: materiāli tehniskais nodrošinājums (%)
Bāze: visi respondenti. Interesanti, ka, salīdzinot 2013. un 2017. gada aptaujas datus, viedoklis par studiju procesa
materiāli tehnisko nodrošinājumu ir gandrīz identisks. Saskaņā ar 2013. gada
starptautiskā pētījuma datiem Latvijas studenti pētījuma piektajā posmā studiju
infrastruktūru kopumā bija novērtējuši augstāk nekā vidēji citās Eiropas valstīs (ar
materiāli tehnisko nodrošinājumu apmierināti bija vidēji 64% studentu Eiropā,
nesvērtie dati). 36
27
26
36
39
34
20
24
29
7
8
8
1
2
3
0%
25%
50%
75%
100%
Materiāli tehniskais nodrošinājums
Tehniskais nodrošinājums laboratorijās
Telpu pieejamība studiju vajadzībām ārpus lekciju laika
Ļoti apmierināts
Nemaz nav apmierināts 30. attēls. Apmierinātība ar studiju apstākļiem: materiāli tehniskais nodrošinājums (%) 30. attēls. Apmierinātība ar studiju apstākļiem: materiāli tehniskais nodrošinājums (%)
Bāze: visi respondenti. 36
27
26
36
39
34
20
24
29
7
8
8
1
2
3
0%
25%
50%
75%
100%
Materiāli tehniskais nodrošinājums
Tehniskais nodrošinājums laboratorijās
Telpu pieejamība studiju vajadzībām ārpus lekciju laika
Ļoti apmierināts
Nemaz nav apmierināts Bāze: visi respondenti. Interesanti, ka, salīdzinot 2013. un 2017. gada aptaujas datus, viedoklis par studiju procesa
materiāli tehnisko nodrošinājumu ir gandrīz identisks. Saskaņā ar 2013. gada
starptautiskā pētījuma datiem Latvijas studenti pētījuma piektajā posmā studiju
infrastruktūru kopumā bija novērtējuši augstāk nekā vidēji citās Eiropas valstīs (ar
materiāli tehnisko nodrošinājumu apmierināti bija vidēji 64% studentu Eiropā,
nesvērtie dati). Interesanti, ka, salīdzinot 2013. un 2017. gada aptaujas datus, viedoklis par studiju procesa
materiāli tehnisko nodrošinājumu ir gandrīz identisks. Saskaņā ar 2013. gada
starptautiskā pētījuma datiem Latvijas studenti pētījuma piektajā posmā studiju
infrastruktūru kopumā bija novērtējuši augstāk nekā vidēji citās Eiropas valstīs (ar
materiāli tehnisko nodrošinājumu apmierināti bija vidēji 64% studentu Eiropā,
nesvērtie dati). 70 70 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Kā jau minēts, Eurostudent VI materiāli tehniskās bāzes infrastruktūras vērtējumā anketā
iekļauti un analīzē izmantoti trīs indikatori — kopējā apmierinātība ar materiāli tehnisko
nodrošinājumu, kā arī tādi rādītāji kā tehniskais nodrošinājums laboratorijās vai
datorklasēs un telpu pieejamība studiju vajadzībām ārpus lekciju/nodarbību laika. Ja
kopējais apmierinātības līmenis ar infrastruktūras nodrošinājumu uzskatāms par labu, tad
tādi specifiskāki aspekti kā laboratoriju un datorklašu tehniskais nodrošinājums vērtēts
nedaudz zemāk — vidēji divas trešdaļas (66%) studentu ir (ļoti) apmierināti ar minēto
infrastruktūru, bet katrs desmitais students ir ar to neapmierināts. 10.2. Studiju organizācijas novērtējums Šajā sadaļā dots pārskats par tādiem studiju organizācijas aspektiem kā iespējas izvēlēties
studiju kursus no plašāka kursu klāsta un zinātniskā darba iespējas, kā arī tādiem
nozīmīgiem studiju procesa komponentiem kā prakses organizācija un nodrošināšana,
studiju kursu piedāvājums svešvalodās, iespējas studēt starptautiskajās apmaiņas
programmās, studentu priekšlikumu ievērošana studiju uzlabošanai. Visaugstāk studenti novērtējuši informācijas pieejamību un savu informētību par iespējam
studēt starptautiskajās studentu apmaiņas programmās. Šis vērtējums ir salīdzinoši
visaugstākais no visiem piedāvātajiem vērtējuma komponentiem. Divas trešdaļas
studentu ir apmierināti ar informāciju par studiju iespējām apmaiņas programmās, nav
apmierināti 10% respondentu. Ņemot vērā, ka Boloņas procesa ietvaros viens no svarīgiem mērķiem ir nacionālo
ietvarstruktūru un grādu struktūru harmonizēšana, svarīgi nodrošināt iespēju studentiem
kādu laiku no studijām pavadīt, studējot ārzemēs. Papildus izvērtējot informācijas
pieejamību par iespējām studēt starptautisko apmaiņas studiju ietvaros pētījumā ietverto
augstskolu mājaslapās, konstatēts, ka informācija ir pietiekama, viegli atrodama, t.sk. par
tām augstskolām, ar kurām Latvijas augstskolām ir noslēgts Erasmus+ sadarbības līgums. Pārsvarā atrodama informācija par pieteikšanās nosacījumiem. Drīzāk kā nepietiekama
jāvērtē mājaslapās pieejamā informācija angļu valodā, kas adresēta tiem ārvalstu
studentiem, kuri vēlas studēt Latvijā apmaiņas programmas ietvaros. Taču šo jautājumu
analīze nav Eurostudent pētījuma fokusā. Studiju organizācijas vērtējums ir salīdzinoši viszemākais trīs iepriekš uzskaitīto studiju
kvalitātes komponentu vidū. Tomēr kopumā nedaudz vairāk par pusi aptaujāto studentu
(55,7%) pozitīvi vērtē studiju organizāciju un nodarbību grafiku. Salīdzinājumā ar
Eurostudent V pētījumu studiju darba organizācijas vērtējums 2013. gadā bija praktiski
tādā pašā līmenī kā 2017. gadā. 71 71 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 31. attēls Studiju organizācijas novērtējums (%)
19
15
17
14
19
29
37
27
29
27
38
37
29
34
31
35
35
25
13
15
17
17
8
6
3
9
7
7
2
3
0%
25%
50%
75%
100%
Studiju organizācija un nodarbību grafiks
Prakses nodrošināšana vai organizācija
Iespējas izvēlēties kursus no plaša klāsta
Kursu piedāvājums svešvalodās
Zinātniskā darba iespējas
Informācija par iespējām studēt starptautisko
apmaiņas programmu ietvaros
Ļoti apmierināts
Nemaz nav apmierināts
13
33
37
12
5
0%
25%
50%
75%
100%
Tiek ņemti vērā studentu ieteikumi programmas
satura pilnveidē
Vienmēr, gandrīz vienmēr
2
3
4
Nekad Vienmēr, gandrīz vienmēr
2
3
4
Nekad Pārējiem studiju procesa organizācijas aspektiem dots vidēji zemāks vērtējums. Zinātniskā darba iespējas pozitīvi vērtējusi nedaudz vairāk kā puse aptaujāto (55%), no
tiem ļoti apmierināts ir gandrīz katrs piektais students (18%). Iepriekšējā pētījuma posmā
ļoti apmierināti bija 14% studentu. 32. attēls. Valodu prasmju pašvērtējums (rakstītprasme un sarunvaloda ir ļoti laba) (%) 32. attēls. Valodu prasmju pašvērtējums (rakstītprasme un sarunvaloda ir ļoti laba) (%) 32. attēls. Valodu prasmju pašvērtējums (rakstītprasme un sarunvaloda ir ļoti laba) (%)
Bāze: visi respondenti. 10
49
36
51
1 valoda
2 valodas
3 valodas
4 valodas
Vairāk nekā 4 valodas 32. attēls. Valodu prasmju pašvērtējums (rakstītprasme un sarunvaloda ir ļoti laba) Bāze: visi respondenti. Docētāju pieredze liecina, ka daļai studentu svešvalodas zināšanas nav pietiekamas, lai
viņi kvalitatīvi piedalītos lekcijās un semināros svešvalodās. Domājams, ka svešvalodas
kursa nodrošināšana pirmo kursu studentiem, tajā pastiprināti iekļaujot attiecīgās zinātņu
nozares terminoloģiju, būtu vienīgais šīs problēmas risinājums. Savukārt, lai apmierinātu
tās studentu daļas vajadzības, kas ir neapmierināti ar nelielo studiju kursu skaitu
svešvalodās, nepieciešama lielāka Erasmus+ viesdocētāju piesaiste un plašāka sadarbība. Ar augstskolas piedāvātajām iespējām prakses nodrošināšanā un organizācijā
apmierināta ir mazāk nekā puse jeb 42% studentu, bet neapmierināts — katrs
piektais respondents. Studiju organizācijas sadaļā ietvertas arī komponentes, kas raksturo studējošo un
augstskolas administrācijas sadarbību studiju kursu uzlabošanā. Pēc studentu vērtējuma,
viņu viedoklis samērā reti ticis ņemts vērā, lai uzlabotu studiju kursa vai programmas
saturu. 10.2. Studiju organizācijas novērtējums No vienas puses, tas norāda uz labākām zinātniskā
darba iespējām tiem, kas to ļoti vēlas, taču vienlaikus kritiski vērtējušo (neapmierināto)
proporcija (9%) norāda uz nepieciešamību papildus analizēt augstskolu iespējas un
risinājumus studentu plašākai iesaistei zinātniski pētniecisko darbu veikšanā. Ņemot vērā
Latvijas augstākās izglītības politikas izvirzīto uzstādījumu — saistīt studijas ar zinātnisko
darbu, augstskolām būtu jāvelta papildus uzmanība studiju darba sasaistei ar zinātnisko
darbu. Mazāk nekā puse aptaujāto studentu ir apmierināti ar iespējām izvēlēties kursus no
plašāka kursu klāsta (45%). Atbilstīgi lielāka daļa studentu šo komponentu vērtē
neapmierinoši (22%). Saprotams, ka, būtiski samazinoties studentu skaitam, skaitliski
nelielās programmās augstskolām ir finansiāli grūti piedāvāt plašu studiju kursu klāstu. Iespējamais risinājums būtu fakultāšu sadarbība plašāka kursu klāsta piedāvājumā vai pat
augstskolu sadarbības izveidē un kopīgu kursu piedāvājumā, iespējams, arī tiešsaistes
vidē. Iespējams, ka šeit plašāk varētu sadarboties gan tās augstskolas, kas piedāvā lekciju
kursus tiešsaistē, gan tās, kas tādu iespēju vēl nepiedāvā. Pagaidām gan šāda
starpaugstskolu sadarbības prakse nav izplatīta, un nav veikta analīze saistībā ar studiju
programmu akreditāciju. 72 72 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Lai arī augstākās izglītības politikā aktuāla ir ārvalstu docētāju piesaiste un lekciju
piedāvājums svešvalodās, šim studiju procesa organizācijas aspektam ir dots viszemākais
vērtējums. Tikai daļa studentu (40%) ir apmierināti ar šo piedāvājumu, bet 23% nav
apmierināti ar to. Padziļināti mēģinot aptaujas norises periodā šo jautājumu skaidrot,
intervijās ar docētājiem un atsevišķiem studentiem, jāsecina, ka te iespējama divējāda
interpretācija — daļa studentu ir neapmierināti ar to, ka ir maz lekciju svešvalodās; no
otras puses — daļai studentu ir nepietiekamas svešvalodu zināšanas, lai varētu klausīties
lekciju kursu vai daļu no lekciju kursa. 10.3. Pasniegšanas kvalitāte un docētāju darba vērtējums Pasniegšanas kvalitāte kopumā tiek vērtēta samērā labi — divas trešdaļas studentu (67%)
ir apmierināti ar to. Lai arī Eurostudent V posmā 2013. gadā studiju procesa vērtējumam
bija nedaudz atšķirīgi indikatori un mērījumi, kas ierobežo tieša salīdzinājuma iespējas,
tomēr studentu vērtējumu vidējo rādītāju līdzība ļauj runāt par līdzīgām tendencēm
docētāju un studiju kvalitātes vērtējumā. 73 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Turpmākajā analīzē aplūkotas docētāju darba kvalitātes izvērtējuma komponentes,
analizējot šādus indikatorus: lekciju satura kvalitāte, pasniedzēju pieejamība
konsultācijām, pārbaudes darbu detalizēta vērtējuma sniegšana. Dati norāda uz to, ka studenti labi vērtē docētāju darbu: 72% aptaujāto uzskata, ka
kopumā lekciju saturs ir kvalitatīvs, pasniedzēji ir labi speciālisti un augstā līmenī
orientējas savā jomā. Tikai 6% studentu ir kritisks viedoklis par pasniedzēju
profesionalitāti. Ļoti līdzīgi bija arī Eurostudent V rezultāti — apmēram divas trešdaļas
studentu augstu vērtēja pasniedzēju profesionalitāti, vairāk nekā 60% uzskatīja, ka
pasniedzēju lekciju izklāsts vienmēr vai gandrīz vienmēr ir organizēts un sistemātisks. 33. attēls. Pasniegšanas kvalitātes vērtējums (%)
Bāze: visi respondenti. 34. attēls. Docētāju darba vērtējums (%)
Bāze: visi respondenti. 18
50
28
4 1
0%
25%
50%
75%
100%
Ļoti apmierināts
Nemaz nav apmierināts
25
34
19
13
47
41
36
33
22
20
30
37
6
4
11
12
1
1
3
5
0%
25%
50%
75%
100%
Lekciju saturs kopumā bija kvalitatīvs un pasniedzēji
augstā līmenī orientējās savā jomā
Pasniedzēji bija pieejami konsultācijām, deva padomus
patstāvīgo darbu izstrādes gaitā
Pasniedzēji sniedza detalizētu izvērtējumu par
pārbaudes darbiem, izpildītajiem uzdevumiem
Studējošo ieteikumi programmas satura pilnveidē tika
ņemti vērā
Vienmēr, gandrīz vienmēr
Gandrīz nekad, nekad 33. attēls. Pasniegšanas kvalitātes vērtējums (%)
Bāze: visi respondenti. 34. attēls. Docētāju darba vērtējums (%)
Bāze: visi respondenti. 18
50
28
4 1
0%
25%
50%
75%
100%
Ļoti apmierināts
Nemaz nav apmierināts
25
34
19
13
47
41
36
33
22
20
30
37
6
4
11
12
1
1
3
5
0%
25%
50%
75%
100%
Lekciju saturs kopumā bija kvalitatīvs un pasniedzēji
augstā līmenī orientējās savā jomā
Pasniedzēji bija pieejami konsultācijām, deva padomus
patstāvīgo darbu izstrādes gaitā
Pasniedzēji sniedza detalizētu izvērtējumu par
pārbaudes darbiem, izpildītajiem uzdevumiem
Studējošo ieteikumi programmas satura pilnveidē tika
ņemti vērā
Vienmēr, gandrīz vienmēr
Gandrīz nekad, nekad 33. attēls. Pasniegšanas kvalitātes vērtējums (%)
Bāze: visi respondenti. 18
50
28
4 1
0%
25%
50%
75%
100%
Ļoti apmierināts
Nemaz nav apmierināts 33. attēls. 19 Šeit un turpmāk nodaļā norādītās vidējās vērtības ir pēc skalas no 1 līdz 5, kur 5 nozīmē «ļoti
apmierina/apmierināts» un 1 — «ļoti neapmierināts/neapmierina». 10.3. Pasniegšanas kvalitāte un docētāju darba vērtējums Pasniegšanas kvalitātes vērtējums (%) Vēl augstāks vērtējums salīdzinājumā ar lekciju satura vērtējumu dots docētāju
pieejamībai konsultācijām un atbalstam studiju darbu izstrādes gaitā — 78% studentu
uzskata, ka vienmēr vai gandrīz vienmēr studenti saņēmuši nepieciešamo atbalstu un
konsultācijas. Retāk tiek sniegts detalizēts rakstisks vērtējums un skaidrojums par izpildītajiem
uzdevumiem — tikai aptuveni puse (55%) studentu ir saņēmuši detalizētu darba
izvērtējumu. Arī iepriekšējā pētījuma posmā aptuveni trešdaļa studentu norādīja, ka
pasniedzēji gandrīz nekad vai nekad nesniedz detalizētu pārbaudes un pastāvīgo darbu
vērtējumu. 74 74 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Materiāli tehniskais nodrošinājums līmeņa profesionālā augstākā izglītība [ISCED 7]
Maģistra grāds [ISCED 7]
Bakalaura grāds [ISCED 6]
1. līmeņa profesionālā augstākā izglītība [ISCED 5] g
[
]
1. līmeņa profesionālā augstākā izglītība [ISCED 5] Bāze: visi respondenti. Savukārt, salīdzinot studentu apmierinātību ar materiāli tehnisko nodrošinājumu pa
izglītības jomām, novērojama diezgan plaša vidējo vērtību amplitūda (no 4,35 līdz 3,67). Visaugstākais vidējais apmierinātības līmenis ir tādās izglītības jomās kā lauksaimniecība,
mežsaimniecība un zivsaimniecība (4,35), informācijas un komunikācijas tehnoloģijas
(4,21), veselības aprūpe un sociālā labklājība (4,17) un dzīvās dabas zinātnes, matemātika
un statistika (4,15). Samērā apmierināti ar materiāli tehnisko nodrošinājumu ir arī
komerczinību, administrēšanas un tiesību zinātnes programmu (4,03) un inženierzinātņu,
ražošanas un būvniecības studenti (3,99). Taču ir jomas, kurās studentu apmierinātība ar
materiāli tehnisko nodrošinājumu ir zemāka — pakalpojumu joma (3,72), sociālās,
komunikācijas un informācijas zinātnes (3,79), izglītības zinātnes (3,69) un humanitārās
zinātnes (3,67). Arī Eurostudent V pētījumā 2013. gadā vismazāk apmierināti ar studiju materiāli tehnisko
nodrošinājumu kopumā bija izglītības zinātņu, humanitāro zinātņu un mākslas jomas
studenti, savukārt visbiežāk apmierināti bija dabaszinātņu, matemātikas un informācijas
tehnoloģiju jomas, kā arī komerczinību, administrēšana un tiesību studenti. Materiāli tehniskais nodrošinājums Vispirms aplūkosim studiju materiāli tehniskā nodrošinājuma (auditoriju, laboratoriju
aprīkojums, studiju materiālu pieejamība, bibliotēkas pieejamība u.tml.) vērtējumu
atkarībā no studiju programmas. Šis vērtējums balstīts uz apmierinātības vidējo rādītāju
salīdzinājumu. Kā jau minēts iepriekš, kopumā studenti ir ļoti apmierināti ar studiju materiālo
nodrošinājumu (vidējais apmierinātības līmenis ir 3,99 19 ). Materiāli tehniskais
nodrošinājums visbiežāk apmierina koledžas līmeņa studentus (4,18) un garā cikla
programmu studentus (4,11). Nedaudz zemāk to vērtē maģistra līmeņa programmu
studenti (3,99), kā arī bakalaura līmeņa studenti (3,91). Iespējams, daļa šo studentu
vidusskolas laikā mācījusies renovētās skolās ar jaunu dabaszinātņu kabinetu aprīkojumu,
labu bibliotēku, datortehniku, pierodot pie augsta līmeņa materiāli tehniskā
nodrošinājuma, un viņu ekspektācijas, uzsākot studijas, bijušas pārāk augstas. Otrais materiāli tehniskā nodrošinājuma komponents ir tehniskais nodrošinājums
laboratorijās. Izvērtējot studentu apmierinātību ar tehnisko nodrošinājumu laboratorijās,
visapmierinātākie izrādās garā cikla 2. līmeņa studiju programmu studenti, sniedzot izcili
augstu vērtējumu (4,28). Pārējo līmeņu programmu studentu vērtējums ir zemāks: 3,93
koledžas līmeņa programmās, 3,87 — maģistra līmeņa programmās, 3,69 — bakalaura
līmeņa programmās. Trešais komponents ir telpu pieejamība studiju vajadzībām ārpus lekciju laika. Šajā
komponentā studentu vidējais apmierinātības līmenis ir salīdzinoši zems visos studiju
programmu līmeņos (no 3,85 koledžas līmeņa programmu studentiem līdz 3,67 bakalaura
programmu studentiem). Iespējams, augstskolām jāmeklē risinājums, kā nodrošināt
telpas studiju vajadzībām ārpus noteiktā lekciju laika, bet iespējams, ka ne vienmēr tas ir
tikai materiāli tehniskā nodrošinājuma, bet gan studiju procesa organizācijas,
administrācijas kompetencē risināms jautājums. 75 75 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 35. attēls. Apmierinātība ar studiju programmas materiāli tehnisko nodrošinājumu
dažādās programmās (vidējās vērtības)
Bāze: visi respondenti. 3.85
3.93
4.18
3.67
3.69
3.91
3.80
3.87
3.99
3.70
4.28
4.11
3.73
3.81
3.99
1
2
3
4
5
Telpu pieejamība studiju vajadzībām ārpus lekciju laika
Tehniskais nodrošinājums laboratorijās
Materiāltehniskais nodrošinājums
Visi
Garā cikla 2. līmeņa profesionālā augstākā izglītība [ISCED 7]
Maģistra grāds [ISCED 7]
Bakalaura grāds [ISCED 6]
1. līmeņa profesionālā augstākā izglītība [ISCED 5] 35. attēls. Apmierinātība ar studiju programmas materiāli tehnisko nodrošinājumu
dažādās programmās (vidējās vērtības)
3.85
3.93
4.18
3.67
3.69
3.91
3.80
3.87
3.99
3.70
4.28
4.11
3.73
3.81
3.99
1
2
3
4
5
Telpu pieejamība studiju vajadzībām ārpus lekciju laika
Tehniskais nodrošinājums laboratorijās
Materiāltehniskais nodrošinājums 35. attēls. Apmierinātība ar studiju programmas materiāli tehnisko nodrošinājumu
dažādās programmās (vidējās vērtības) Visi
Garā cikla 2. līmeņa profesionālā augstākā izglītība [ISCED 7]
Maģistra grāds [ISCED 7]
Bakalaura grāds [ISCED 6]
1. līmeņa profesionālā augstākā izglītība [ISCED 5] Visi
Garā cikla 2. Studiju procesa organizācija Kā minēts iepriekš, studentu apmierinātību ar studiju procesa organizāciju aptaujā
raksturo šādi rādītāji: studiju organizācija un nodarbību grafiks, prakses nodrošināšana un
organizēšana, iespējas izvēlēties kursus no plaša studiju kursa klāsta, kursu piedāvājums
svešvalodās (t.sk. vieslektoru lekcijas), zinātniskā darba iespējas, informācija par iespējām
studēt starptautiskajās studentu apmaiņas programmās. Šeit varam pievienot arī tādu 76 76 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI aspektu kā studentu vērtējumu par viņu ieteikumu izmantošanu studiju programmu
pilnveidē. 36. attēls. Apmierinātība ar dažādiem studiju procesa organizācijas aspektiem (vid.)
Bāze: visi respondenti
3.74
3.47
4.09
3.59
3.31
3.85
3.10
3.75
3.19
3.72
3.88
3.15
3.50
3.31
3.45
3.74
3.71
3.64
3.56
3.74
3.84
3.23
3.64
3.32
3.56
1
2
3
4
5
Informācija par iespējām studēt starptautisko apmaiņas
programmu ietvaros
Prakses nodrošināšana vai organizācija
Zinātniskā darba iespējas
Iespējas izvēlēties kursus no plaša klāsta
Studiju organizācija un nodarbību grafiks
Visi
1. līmeņa profesionālā augstākā izglītība [ISCED 5]
Bakalaura grāds [ISCED 6]
Maģistra grāds [ISCED 7]
Garā cikla 2. līmeņa profesionālā augstākā izglītība [ISCED 7] 36. attēls. Apmierinātība ar dažādiem studiju procesa organizācijas aspektiem (vid.)
3.74
3.47
4.09
3.59
3.31
3.85
3.10
3.75
3.19
3.72
3.88
3.15
3.50
3.31
3.45
3.74
3.71
3.64
3.56
3.74
3.84
3.23
3.64
3.32
3.56
1
2
3
4
5
Informācija par iespējām studēt starptautisko apmaiņas
programmu ietvaros
Prakses nodrošināšana vai organizācija
Zinātniskā darba iespējas
Iespējas izvēlēties kursus no plaša klāsta
Studiju organizācija un nodarbību grafiks
Visi
1. līmeņa profesionālā augstākā izglītība [ISCED 5]
Bakalaura grāds [ISCED 6]
Maģistra grāds [ISCED 7]
Garā cikla 2. līmeņa profesionālā augstākā izglītība [ISCED 7] 36. attēls. Apmierinātība ar dažādiem studiju procesa organizācijas aspektiem (vid.) Visi
1. līmeņa profesionālā augstākā izglītība [ISCED 5]
Bakalaura grāds [ISCED 6]
Maģistra grāds [ISCED 7]
G
ā ikl
2 lī
f
i
ālā
tākā i
lītīb
[ Bāze: visi respondenti. Sāksim ar rādītāju, kas studiju procesa organizācijas jomā vērtēts visaugstāk, —
informētība par iespējām studēt starptautiskajās apmaiņas programmās. Salīdzinot
informētības rādītājus pa studiju programmu līmeņiem, redzams, ka visapmierinātākie ar
informāciju ir bakalaura un maģistra studiju programmu studenti (attiecīgi 3,88 un 3,85),
nedaudz mazāk — koledžas un garā cikla programmu studenti (3,74). Otrs aspekts, ko izvērtēsim saistībā ar studiju procesa organizāciju, ir iespēja izvēlēties
kursus no plašāka studiju priekšmetu klāsta. Minētā iespēja salīdzinoši retāk apmierina
visu studiju līmeņu un studiju jomu studentus. Vidējais vērtējums pa programmu līmeņiem
svārstās no 3,59 garā cikla programmās līdz 3,19 maģistra studiju programmās. Studiju procesa organizācija Savukārt, vērtējot dažādu jomu studentu apmierinātību ar kursu izvēles iespējām, katrā
studiju jomā vērojama viedokļu polarizācija — apmierinātie un neapmierinātie ar kursu
izvēles iespējām nereti sadalās ļoti līdzīgās proporcijās. Piemēram, sociālo zinātņu jomā
37% studentu ir apmierināti, bet 38% nav apmierināti ar kursu izvēles iespējām. 77 77 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Kopumā zems, tomēr salīdzinoši augstāks apmierinātības līmenis ir informācijas un
komunikācijas tehnoloģiju (3,56), lauksaimniecības (3,53), veselības un sociālās labklājības
(3,46) jomas studentu vidū, bet viszemākais — pakalpojumu nozarē, dzīvās dabas zinātnēs
un sociālajās zinātnēs (2,99). Atšķirībā no Eurostudent V aptaujas rezultātiem šajā
pētījuma posmā vairs nevar secināt, ka «visapmierinātākie šajā aspektā ir veselības
aprūpes, sociālās labklājības un pakalpojumu jomas studenti», jo visu studiju jomu vidū ir
gan apmierinātie, gan neapmierinātie studenti, ar kopējo tendenci retāk būt
apmierinātiem. Skaidrojums zemākai apmierinātībai ar studiju kursu izvēli toreiz un arī
tagad visticamāk ir nepietiekamais finansējums. Trešais svarīgākais studiju procesa organizācijas aspekts ir prakses organizācija un
nodrošinājums. Arī šim komponentam ir salīdzinoši zems vērtējums. Salīdzinot
vērtējumus atkarībā no studiju līmeņa, visaugstāk prakses nodrošinājumu un organizāciju
vērtē koledžas līmeņa studiju programmu studenti (3,71) un 2. līmeņa garā cikla
programmu studenti (3,47). Bakalaura programmu un īpaši maģistra programmu studenti
prakses iespējas un to nodrošinājumu vērtē nozīmīgi zemāk (attiecīgi 3,15 un 3,10). Tas,
iespējams, norāda uz nepieciešamību uzlabot darba devēju (uzņēmumu) un augstskolu
sadarbību studiju prakses nodrošināšanā un organizēšanā. Ja darba devēji vairāk un ar
izpratni (nevis kritiku) izturētos pret studentiem kā topošajiem darbiniekiem, izprotot
prakses lomu un nepieciešamību studentu prasmju un iemaņu attīstīšanā un teorētisko
zināšanu nostiprināšanā, tad, visticamāk, augtu gan darba devēju, gan studentu
savstarpējā izpratne un apmierinātība. Analizējot studentu apmierinātību ar prakses nodrošināšanu un organizāciju pa studiju
tematiskajām jomām, noskaidrots, ka augstāks apmierinātības līmenis ir tādās jomās kā
lauksaimniecība, mežsaimniecība un zivsaimniecība (ar vidējo vērtējumu 3,72) un
veselības aprūpe un sociālā labklājības (3,53). Tālāk seko dzīvās dabas zinātnes,
matemātika un statistika (3,51), informācijas un komunikācijas tehnoloģijas (3,41) un
izglītības zinātnes (3,32). Humanitāro un mākslas zinātņu jomas studenti un
inženierzinātņu jomas studenti ir vienlīdz (ne)apmierināti ar prakses nodrošināšanu un
organizāciju (attiecīgi 3,12 un 3,11). Vēl zemāka apmierinātība ar prakses nodrošināšanu ir
tikai komerzinību, administrēšanas un tiesību zinātnes (3,09) un sociālo, komunikācijas un
informācijas zinātņu jomās studējošo vidū (2,87). Salīdzinot studentu apmierinātību ar prakses nodrošināšanu un organizāciju 2017. un
2013. gadā, novērojamas vairākas tendences. Studiju procesa organizācija Pirmkārt, arī Eurostudent V pētījumā
kopumā visbiežāk studentus neapmierināja prakses nodrošinājums un organizēšana, lai
arī vērtējumā bija statistiski būtiskas atšķirības atkarībā no izglītības jomas un studiju
līmeņa. Līdzīgi kā Eurostudent VI, augstāk prakses iespējas vērtēja veselības aprūpes un
sociālās labklājības jomas studenti. Otrkārt, iepriekšējā posmā visneapmierinātākie ar
prakses iespējām bija lauksaimniecības, mežsaimniecības un zivsaimniecības jomas,
inženierzinātņu, ražošanas un būvniecības jomas, kā arī izglītības, humanitāro zinātņu un
mākslas jomas studenti. Situācija acīmredzot mainījusies lauksaimniecības izglītības
jomā, jo 2017. gada aptaujā šīs jomas studenti praksi vērtējuši gandrīz visaugstāk. 78 78 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Svarīgs studiju kvalitātes aspekts ir studentu zinātniskais darbs. Visas izglītības tematiskās
jomas atkarībā no zinātniskā darba iespējām varam nosacīti iedalīt trīs grupās: labas,
vidējas un zemas iespējas. Pirmajā grupā iekļaujamas trīs tematiskās jomas ar visaugstāko
vērtējumu (3,88–3,83), tātad — labām iespējām, vidēju vērtējumu un vidējas iespējas
(lielāka izkliede 3,64–3,55), zems vērtējums un mazas iespējas (3,32). Visaugstāk
zinātniskā darba iespējas vērtējuši lauksaimniecības, mežsaimniecības tematiskās jomas
studenti (vidējais vērtējums 3,88), informācijas un komunikācijas tehnoloģiju jomas (3,87)
un veselības aprūpes un sociālās labklājības jomas studenti (3,83). Nākamajā grupā ar vidēju apmierinātības līmeni ar zinātniskā darba iespējām iekļaujas
tādas jomas kā inženierzinātnes, ražošana un būvniecība (3,64), dzīvās dabas zinātnes,
matemātika un statistika (3,62), izglītības zinātnes (3,60), komerczinības, administrēšana
un tiesību zinātne (3,55), pakalpojumu joma (3,55) un humanitārās zinātnes (3,53). Trešajā grupā ir sociālās zinātnes ar zemāko apmierinātības vērtējumu 3,32. Salīdzinājumam: 2013. gadā ar zinātniskā darba iespējām vieni no apmierinātākajiem bija
veselības aprūpes un sociālās labklājības jomas studenti (līdzīgi kā Eurostudent VI) un
pakalpojumu jomas studenti. Iepriekšējā pētījumā salīdzinoši vismazāk apmierināti bija
izglītības zinātņu, humanitāro zinātņu un mākslas studenti. Studiju procesa organizācijas un attieksmes komponentu vērtējumos nepastāvēja
statistiski nozīmīgas atšķirības starp programmu izglītības jomām. Visās izglītības jomās
līdzīgi tika vērtēta studiju organizācija un nodarbību grafiks, informācija par iespējām
studēt starptautiskās apmaiņas programmās. Eurostudent V pētījumā bakalaura
programmu studenti augstāk nekā maģistrantūras studenti vērtēja studiju darba
organizāciju un nodarbību grafiku, informētību par iespējām studēt ārzemēs. Maģistra
līmeņa studenti augstāk vērtēja tādus studiju aspektus kā iespēju izvēlēties kursus no
plašāka kursu klāsta un administrācijas attieksmi pret studentiem, prakses nodrošinājumu
un organizāciju, kā arī zinātniskā darba iespējas. 37. attēls. Docētāju darba vērtējums dažādās programmās (vidējās vērtības) Bāze: visi respondenti. 3.79
3.99
3.75
3.81
3.64
1
2
3
4
5
Visi
1. līmeņa profesionālā augstākā izglītība [ISCED 5]
Bakalaura grāds [ISCED 6]
Maģistra grāds [ISCED 7]
Garā cikla 2. līmeņa profesionālā augstākā izglītība… 5 Bāze: visi respondenti. Bāze: visi respondenti. Eurostudent V pasniegšanas kvalitāti augstāk vērtēja bakalaura līmeņa studenti, bet
kritiskāki bija maģistra līmeņa programmu studenti. Bakalaura līmeņa studenti, salīdzinot
ar maģistrantiem, bija vairāk apmierināti ar tādiem svarīgiem studiju kvalitātes rādītājiem
kā pasniegšanas kvalitāte, mācībspēku kvalifikācija. Eurostudent V pasniegšanas kvalitāti augstāk vērtēja bakalaura līmeņa studenti, bet
kritiskāki bija maģistra līmeņa programmu studenti. Bakalaura līmeņa studenti, salīdzinot
ar maģistrantiem, bija vairāk apmierināti ar tādiem svarīgiem studiju kvalitātes rādītājiem
kā pasniegšanas kvalitāte, mācībspēku kvalifikācija. Salīdzinājumā starp izglītības tematiskajām jomām 2017. gadā visaugstāk pasniegšanas
kvalitāte novērtēta tādās izglītības jomās kā informācijas tehnoloģijas (3,96),
lauksaimniecības un meža zinātnes (3,94). Izglītības jomas, kurās apmierinātība ar
pasniegšanas kvalitāti ir salīdzinoši zemāka ir sociālajās zinātnēs (3,70), dzīvās dabas
zinātnes, matemātika un statistika (3,67), inženierzinātnes, ražošana un būvniecība (3,72). Tika veikta analīze, pārbaudot, vai pasniegšanas vērtējums ir atkarīgs un saistāms ar faktu,
ka students maksā pats par studijām, vai studē par valsts līdzekļiem. Pasniegšanas
kvalitātes vērtējumos atšķirības pēc šī kritērija netika novērotas. 38. attēls. Docētāju darba vērtējums dažādās izglītības jomās (vidējās vērtības)
Bāze: visi respondenti. Docētāju darba kvalitāti studenti vērtēja, arī izsakot savu viedokli par vairākiem
apgalvojumiem: «lekciju saturs kopumā bija kvalitatīvs, un pasniedzēji augstā līmenī
orientējas savā jomā», «pasniedzēji bija pieejami konsultācijām un/vai deva padomus
3.81
3.79
3.70
3.81
3.67
3.96
3.72
3.94
3.79
3.89
3.79
1
2
3
4
5
Izglītība
Humanitārās zinātnes un māksla
Sociālās, komunikācijas un informācijas zinātnes
Komerczinības, administrēšana un tiesību zinātne
Dzīvās dabas zinātnes, matemātika un statistika
Informācijas un komunikācijas tehnoloģijas
Inženierzinātnes, ražošana un būvniecība
Lauksaimnieība, mežsaimniecība un zivsaimniecība
Veselības aprūpe un sociālā labklājība
Pakalpojumi
Visi 38. attēls. Docētāju darba vērtējums dažādās izglītības jomās (vidējās vērtības)
Bāze: visi respondenti. 3.81
3.79
3.70
3.81
3.67
3.96
3.72
3.94
3.79
3.89
3.79
1
2
3
4
Izglītība
Humanitārās zinātnes un māksla
Sociālās, komunikācijas un informācijas zinātnes
Komerczinības, administrēšana un tiesību zinātne
Dzīvās dabas zinātnes, matemātika un statistika
Informācijas un komunikācijas tehnoloģijas
Inženierzinātnes, ražošana un būvniecība
Lauksaimnieība, mežsaimniecība un zivsaimniecība
Veselības aprūpe un sociālā labklājība
Pakalpojumi
Visi 38. attēls. Docētāju darba vērtējums dažādās izglītības jomās (vidējās vērtības) Bāze: visi respondenti. Docētāju darba vērtējums Turpmākajā analīzē aplūkosim studentu apmierinātību ar docētāju darbu atkarībā no
programmas līmeņa, studiju programmu izglītības jomas u.c. raksturojumiem. Salīdzinot pasniegšanas kvalitāti atkarībā no studiju programmas, tika noskaidrots, ka
koledžas studenti visaugstāk vērtē pasniegšanas kvalitāti (3,99). Savukārt bakalaura
studiju programmu studenti ir kritiskāki — vidējais pasniegšanas vērtējums ir 3,75. Maģistra līmeņa studijās vērtējums ir 3,81, tātad neapmierināto studentu ir mazāk,
savukārt kritiskāk pasniegšanas kvalitāti vērtē garā cikla programmas studenti — vidējais
vērtējums ir 3,64. 79 79 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 37. attēls. Docētāju darba vērtējums dažādās programmās (vidējās vērtības)
Bāze: visi respondenti. Eurostudent V pasniegšanas kvalitāti augstāk vērtēja bakalaura līmeņa studenti, bet
kritiskāki bija maģistra līmeņa programmu studenti. Bakalaura līmeņa studenti, salīdzinot
ar maģistrantiem, bija vairāk apmierināti ar tādiem svarīgiem studiju kvalitātes rādītājiem
kā pasniegšanas kvalitāte, mācībspēku kvalifikācija. 3.79
3.99
3.75
3.81
3.64
1
2
3
4
5
Visi
1. līmeņa profesionālā augstākā izglītība [ISCED 5]
Bakalaura grāds [ISCED 6]
Maģistra grāds [ISCED 7]
Garā cikla 2. līmeņa profesionālā augstākā izglītība… 37. attēls. Docētāju darba vērtējums dažādās programmās (vidējās vērtības) 37. attēls. Docētāju darba vērtējums dažādās programmās (vidējās vērtības) 37. attēls. Docētāju darba vērtējums dažādās programmās (vidējās vērtības) 37. attēls. Docētāju darba vērtējums dažādās programmās (vidējās vērtības) Docētāju darba kvalitāti studenti vērtēja, arī izsakot savu viedokli par vairākiem
apgalvojumiem: «lekciju saturs kopumā bija kvalitatīvs, un pasniedzēji augstā līmenī
orientējas savā jomā», «pasniedzēji bija pieejami konsultācijām un/vai deva padomus Docētāju darba kvalitāti studenti vērtēja, arī izsakot savu viedokli par vairākiem
apgalvojumiem: «lekciju saturs kopumā bija kvalitatīvs, un pasniedzēji augstā līmenī
orientējas savā jomā», «pasniedzēji bija pieejami konsultācijām un/vai deva padomus Docētāju darba kvalitāti studenti vērtēja, arī izsakot savu viedokli par vairākiem
apgalvojumiem: «lekciju saturs kopumā bija kvalitatīvs, un pasniedzēji augstā līmenī
orientējas savā jomā», «pasniedzēji bija pieejami konsultācijām un/vai deva padomus 80 80 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI patstāvīgo darbu izstrādes gaitā», «pasniedzēji sniedza detalizētu izvērtējumu par
pārbaudes darbiem/izpildītajiem uzdevumiem». patstāvīgo darbu izstrādes gaitā», «pasniedzēji sniedza detalizētu izvērtējumu par
pārbaudes darbiem/izpildītajiem uzdevumiem». Kopumā visaugstāko vērtējumu docētāji saņēmuši par individuālu pieeju studentam —
konsultāciju pieejamību un atbalstu patstāvīgo darbu izstrādē (4,02), kā arī par kvalitatīvu
lekciju saturu un augstu kvalifikāciju savā profesionālajā jomā (3,90). Tāds rādītājs kā detalizēta studentu patstāvīgo un pārbaudes darbu analīze saņēmis
samērā viduvēju vērtējumu — 3,57, tāpat arī psiholoģiskā attieksme, kas raksturota kā
iedvesmojoša pasniedzēju attieksme, novērtēta ar 3,49. Analizējot šos viedokļus pa studiju tematiskajām jomām, redzams, ka individuālo pieeju,
konsultācijas un atbalstu patstāvīgā darba veikšanā visaugstāk novērtējuši informācijas
un komunikācijas tehnoloģiju (4,22), humanitāro zinātņu (4,15) un izglītības zinātņu jomas
studenti (4,09). Salīdzinoši augstu vērtējumu snieguši arī pārējo jomu studenti, sākot no
lauksaimniecības jomas (3,99) līdz sociālo, komunikācijas un informācijas zinātņu
studentiem (3,94). Respondenti augstu novērtējuši arī docētāju vadīto lekciju kvalitāti. Vērtējumu izkliede ir
no 3,77 līdz 4,09. Interesanti, ka visaugstāk lekciju kvalitāti novērtējuši lauksaimniecības,
mežsaimniecības jomas studējošie (4,09). Jāatzīmē, ka vērtējumu izkliede nav uzskatāma
par būtisku, tomēr jomas, kur lekciju kvalitāte novērtēta salīdzinoši augstāk, ir
humanitārās un mākslas zinātnes (3,99), informācijas un komunikācijas tehnoloģijas
(3,98), veselības aprūpē un sociālajā labklājībā (3,96). Interesanti, ka 2013. gadā apmierinātība ar studiju kvalitāti izglītības jomās bija samērā
līdzīga. Mācībspēku kvalifikācija apmierināja visu jomu studentus (visvairāk humanitāro
zinātņu un mākslas, kā arī sociālo zinātņu, komerczinību un tiesību jomā studējošos,
salīdzinoši mazāk — dabaszinātņu, matemātikas un informācijas tehnoloģiju
jomas studentus). Laika posmā kopš 2013. gada lekciju kvalitātes vērtējums nozīmīgi
paaugstinājies lauksaimniecības zinātņu, kā arī informācijas un komunikācijas tehnoloģiju
izglītības jomā. Trešais analīzes aspekts — detalizēts studentu darbu izvērtējums saņēmis salīdzinoši
zemāku vērtējumu. Vērtējumu izkliede pa izglītības jomām ir no 3,16 (sociālajās,
komunikācijas un informācijas zinātnēs) līdz 3,87 (informācijas un komunikācijas
tehnoloģijās). 10.5. Apmierinātība ar augstskolas izvēli Zināmu pamatojumu studentu apmierinātības rādītājiem ar studijām sniedz atbildes uz
jautājumu: «Ja Jums būtu iespēja uzsākt studijas pilnībā no jauna, vai Jūs izvēlētos šo pašu
augstskolu, kurā studējat patlaban?» Vairākums studentu (76,5%) atzīmējuši, ka izvēlētos
to pašu augstskolu, 7% — izvēlētos to pašu augstskolu, bet gribētu studēt citā programmā,
savukārt 15% studentu izvēlētos citu augstskolu. Neliels skaits (4%) ar savu izvēli nav
apmierināti, jo pavisam noteikti vēlētos mācīties citā augstskolā. Tā kā jautājums ir par augstskolas izvēli, tad salīdzināt pēc izglītības jomas nav jēgpilni. Tomēr atšķirības ir nozīmīgas, tādēļ piebildīsim, ka visbiežāk pārliecināti par tās pašas
augstskolas izvēli ir lauksaimniecības, izglītības, veselības aprūpes, humanitāro zinātņu un
mākslas jomas studenti. Kopš 2013. gada nav vērojamas būtiskas izmaiņas studentu attieksmē pret augstskolas
potenciālo izvēli. Studentu proporcija, kas izvēlētos to pašu augstskolu, iepriekšējā
pētījuma posmā bija līdzīga — 78%, tādu iespēju pieļāva 15% respondentu, bet to
studentu daļa, kas noteikti neizvēlētos to pašu augstskolu, bija lielāka — 8%. Šis rādītājs
norāda uz studentu apmierinātību gan ar studiju kvalitāti kopumā, gan arī pastarpināti ar
dažādiem augstākās izglītības aspektiem. Kopš 2013. gada nav vērojamas būtiskas izmaiņas studentu attieksmē pret augstskolas
potenciālo izvēli. Studentu proporcija, kas izvēlētos to pašu augstskolu, iepriekšējā
pētījuma posmā bija līdzīga — 78%, tādu iespēju pieļāva 15% respondentu, bet to
studentu daļa, kas noteikti neizvēlētos to pašu augstskolu, bija lielāka — 8%. Šis rādītājs
norāda uz studentu apmierinātību gan ar studiju kvalitāti kopumā, gan arī pastarpināti ar
dažādiem augstākās izglītības aspektiem. 37. attēls. Docētāju darba vērtējums dažādās programmās (vidējās vērtības) Iespējams, ka turpmāk augstskolās būtu akcentējama nepieciešamība
detalizētāk izanalizēt studentu pārbaudes un patstāvīgos darbus, nevis tikai informēt
studentus par vērtējumu. Apkopojot pētījuma posmu rezultātus, jāsecina, ka Latvijas «vidējais students»
2017. gadā, tāpat kā 2013. gadā, ir apmierināts gan ar studiju kvalitāti, gan studiju
materiāli tehniskās vides nodrošinājumu, gan pasniegšanas un docētāju darba kvalitāti,
nedaudz mazāk — ar studiju procesa organizāciju. Salīdzinot ar iepriekšējo pētījuma
posmu, ir pieaugusi studentu apmierinātība ar materiāli tehnisko nodrošinājumu. 81 81 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Studentu viedoklis par sagatavotību darba tirgum Visticamāk, ka koledžas studentiem, no kuriem
lielai daļai ir darba pieredze, ir izveidojušās prasmes un iemaņas, kas nepieciešamas
Latvijas darba tirgū. Savukārt studentiem, kuriem nav bijusi saskarsme ar starptautisko
darba tirgu un nav pieredzes šajā jomā, ir grūti novērtēt, vai viņu izglītība, zināšanas,
prasmes un kompetences ir atbilstošas starptautiskā darba tirgus prasībām. Viedoklis par gatavību darba tirgum atšķiras atkarībā no studiju programmas. Par labi
sagatavotiem Latvijas darba tirgum sevi uzskata 63% koledžas studentu. Kopumā tas
uzskatāms par labu rādītāju. Vienlaikus koledžas studenti ļoti kritiski vērtē gatavību
starptautiskajam darba tirgum. Par sagatavotiem tam sevi uzskata katrs piektais koledžas
students (24%), 16% domā, ka ir slikti sagatavoti un ļoti lielai daļai (38%) koledžas
studentu nav viedokļa šajā jautājumā. Visticamāk, ka koledžas studentiem, no kuriem
lielai daļai ir darba pieredze, ir izveidojušās prasmes un iemaņas, kas nepieciešamas
Latvijas darba tirgū. Savukārt studentiem, kuriem nav bijusi saskarsme ar starptautisko
darba tirgu un nav pieredzes šajā jomā, ir grūti novērtēt, vai viņu izglītība, zināšanas,
prasmes un kompetences ir atbilstošas starptautiskā darba tirgus prasībām. Bakalaura programmu studenti jūtas nedaudz pārliecinātāki par savu sagatavotību
starptautiskajam darba tirgum — 29% studentu jūtas labi vai ļoti labi sagatavoti. Tomēr
tas, ka 19% procenti jūtas slikti sagatavoti un 27% nevar atbildēt uz šo jautājumu, tāpat
norāda uz to, ka gandrīz puse respondentu nejūtas pārliecināti par savu zināšanu un
prasmju atbilstību starptautiskajam darba tirgum. Maģistrantūras studentu atbildes ir
gandrīz analogas bakalaura studiju programmu studentu atbildēm. Kopumā studentu atbildes uz šo jautājumu drīzāk norāda uz informētības un izpratnes
trūkumu, nevis zināšanu un prasmju trūkumu. Iespējams, ka ierobežotas starptautiskas
vides pieejamība Latvijas augstskolās ir viens no faktoriem, kas saistāms ar salīdzinoši
kritisko viedokli par savu gatavību konkurēt starptautiskajā darba tirgū. Iespējams, ka
internacionālāka vide studiju procesā (lekcijas un nodarbības svešvalodās, tai skaitā
tiešsaistē), ārzemju viesprofesori, tikšanās ar starptautisko apmaiņas programmu
studentiem, kopīgi semināri un citas starptautiskas aktivitātes varētu veicināt studentu
izpratni par prasībām starptautiskajā darba tirgū. Salīdzinoši visvairāk pārliecināti par savu gatavību iekļauties starptautiskajā darba tirgū ir
garā cikla 2. līmeņa profesionālo studiju programmu studenti. Sevi par labi vai ļoti labi
sagatavotiem uzskata gandrīz puse (43,6%) šo studentu. Tiesa, arī pretējā polā ir samērā
liela grupa respondentu (apmēram 37%), kas uzskata sevi par slikti sagatavotiem vai nav
pārliecināti par sevi. Studentu viedoklis par sagatavotību darba tirgum Iespējams, ka ierobežotas starptautiskas
vides pieejamība Latvijas augstskolās ir viens no faktoriem, kas saistāms ar salīdzinoši
kritisko viedokli par savu gatavību konkurēt starptautiskajā darba tirgū. Iespējams, ka
internacionālāka vide studiju procesā (lekcijas un nodarbības svešvalodās, tai skaitā
tiešsaistē), ārzemju viesprofesori, tikšanās ar starptautisko apmaiņas programmu
studentiem, kopīgi semināri un citas starptautiskas aktivitātes varētu veicināt studentu
izpratni par prasībām starptautiskajā darba tirgū. 17
8
37
21
26
25
6
14
2
5
12
29
0%
25%
50%
75%
100%
Latvijas darba tirgum
Starptautiskajam darba tirgum
Ļoti labi
Ļoti slikti
Grūti pateikt 39. attēls. Studentu viedoklis par sagatavotību Latvijas un starptautiskajam darba tirgum
pēc pašreizējās studiju programmas pabeigšanas (%)
Bāze: Visi respondenti. Viedoklis par gatavību darba tirgum atšķiras atkarībā no studiju programmas. Par labi
sagatavotiem Latvijas darba tirgum sevi uzskata 63% koledžas studentu. Kopumā tas
uzskatāms par labu rādītāju. Vienlaikus koledžas studenti ļoti kritiski vērtē gatavību
starptautiskajam darba tirgum. Par sagatavotiem tam sevi uzskata katrs piektais koledžas
students (24%), 16% domā, ka ir slikti sagatavoti un ļoti lielai daļai (38%) koledžas
studentu nav viedokļa šajā jautājumā. Visticamāk, ka koledžas studentiem, no kuriem
lielai daļai ir darba pieredze, ir izveidojušās prasmes un iemaņas, kas nepieciešamas
Latvijas darba tirgū. Savukārt studentiem, kuriem nav bijusi saskarsme ar starptautisko
darba tirgu un nav pieredzes šajā jomā, ir grūti novērtēt, vai viņu izglītība, zināšanas,
prasmes un kompetences ir atbilstošas starptautiskā darba tirgus prasībām. B k l
d
i jū
d
d
ā li
i ā āki
īb
17
8
37
21
26
25
6
14
2
5
12
29
0%
25%
50%
75%
100%
Latvijas darba tirgum
Starptautiskajam darba tirgum
Ļoti labi
Ļoti slikti
Grūti pateikt 39. attēls. Studentu viedoklis par sagatavotību Latvijas un starptautiskajam darba tirgum
pēc pašreizējās studiju programmas pabeigšanas (%) 39. attēls. Studentu viedoklis par sagatavotību Latvijas un starptautiskajam darba tirgum
pēc pašreizējās studiju programmas pabeigšanas (%) Bāze: Visi respondenti. 17
8
37
21
26
25
6
14
2
5
12
29
0%
25%
50%
75%
100%
Latvijas darba tirgum
Starptautiskajam darba tirgum
Ļoti labi
Ļoti slikti
Grūti pateikt Viedoklis par gatavību darba tirgum atšķiras atkarībā no studiju programmas. Par labi
sagatavotiem Latvijas darba tirgum sevi uzskata 63% koledžas studentu. Kopumā tas
uzskatāms par labu rādītāju. Vienlaikus koledžas studenti ļoti kritiski vērtē gatavību
starptautiskajam darba tirgum. Par sagatavotiem tam sevi uzskata katrs piektais koledžas
students (24%), 16% domā, ka ir slikti sagatavoti un ļoti lielai daļai (38%) koledžas
studentu nav viedokļa šajā jautājumā. Studentu viedoklis par sagatavotību darba tirgum Vispirms raksturosim «vidējā studenta» viedokli, pēc tam veiksim viedokļu salīdzinājumu
starp dažāda līmeņa studiju programmu un dažādu studiju jomu studentiem. Tikai nedaudz vairāk par pusi (55%) aptaujāto studentu uzskata, ka ir labi sagatavoti
Latvijas darba tirgum, 8% uzskata, ka ir slikti sagatavots darba tirgum Latvijā, savukārt
12% aptaujāto ir grūti atbildēt. Hipotētiski varam pieņemt, ka studentiem, kuriem nav
darba pieredzes vai pietiekamas prakses specialitātē, ir grūti spriest, vai viņu prasmes ir
atbilstošas darba tirgus prasībām. Svarīgs faktors ir gan atbilstošas teorētiskas zināšanas,
gan pietiekama un kvalitatīva prakse darba tirgū. Iepriekš jau minēts, ka lielākā daļa
(apmēram divas trešdaļas studentu) ir apmierināti ar pasniegšanas kvalitāti, tātad
iegūtajām teorētiskajām zināšanām. Visticamāk, ka nepietiekamas ir atbilstošas prakses
iespējas. Studentu viedoklis par viņu sagatavotību starptautiskajam darba tirgum ir ievērojami
kritiskāks — tikai 29% uzskata sevi par sagatavotiem starptautiskajam darba tirgum un
tikpat liela daļa studentu (29%) nespēj formulēt savu viedokli, bet gandrīz katrs piektais
students uzskata sevi par slikti sagatavotu starptautiskajam darba tirgum. 82 82 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 39. attēls. Studentu viedoklis par sagatavotību Latvijas un starptautiskajam darba tirgum
pēc pašreizējās studiju programmas pabeigšanas (%)
Bāze: Visi respondenti. Viedoklis par gatavību darba tirgum atšķiras atkarībā no studiju programmas. Par labi
sagatavotiem Latvijas darba tirgum sevi uzskata 63% koledžas studentu. Kopumā tas
uzskatāms par labu rādītāju. Vienlaikus koledžas studenti ļoti kritiski vērtē gatavību
starptautiskajam darba tirgum. Par sagatavotiem tam sevi uzskata katrs piektais koledžas
students (24%), 16% domā, ka ir slikti sagatavoti un ļoti lielai daļai (38%) koledžas
studentu nav viedokļa šajā jautājumā. Visticamāk, ka koledžas studentiem, no kuriem
lielai daļai ir darba pieredze, ir izveidojušās prasmes un iemaņas, kas nepieciešamas
Latvijas darba tirgū. Savukārt studentiem, kuriem nav bijusi saskarsme ar starptautisko
darba tirgu un nav pieredzes šajā jomā, ir grūti novērtēt, vai viņu izglītība, zināšanas,
prasmes un kompetences ir atbilstošas starptautiskā darba tirgus prasībām. Bakalaura programmu studenti jūtas nedaudz pārliecinātāki par savu sagatavotību
starptautiskajam darba tirgum — 29% studentu jūtas labi vai ļoti labi sagatavoti. Tomēr
tas, ka 19% procenti jūtas slikti sagatavoti un 27% nevar atbildēt uz šo jautājumu, tāpat
norāda uz to, ka gandrīz puse respondentu nejūtas pārliecināti par savu zināšanu un
prasmju atbilstību starptautiskajam darba tirgum. Maģistrantūras studentu atbildes ir
gandrīz analogas bakalaura studiju programmu studentu atbildēm. Kopumā studentu atbildes uz šo jautājumu drīzāk norāda uz informētības un izpratnes
trūkumu, nevis zināšanu un prasmju trūkumu. Apmierinātība ar finansiāli praktiskajiem studiju aspektiem Studiju un/vai studējošā kredīts ir svarīgs studiju pieejamības finansiālais aspekts, lai
students varētu segt studiju un dzīvošanas izmaksas studiju laikā. Pozitīvi šo finansiālā
risinājuma pieejamību vērtē 53,3% studentu. Šim aspektam ir vismazāk negatīvu
vērtējumu — tikai 7% studentu ir (pavisam) neapmierināti ar studiju/studējošā
kredīta pieejamību. Studiju un/vai studējošā kredīts ir svarīgs studiju pieejamības finansiālais aspekts, lai
students varētu segt studiju un dzīvošanas izmaksas studiju laikā. Pozitīvi šo finansiālā
risinājuma pieejamību vērtē 53,3% studentu. Šim aspektam ir vismazāk negatīvu
vērtējumu — tikai 7% studentu ir (pavisam) neapmierināti ar studiju/studējošā
kredīta pieejamību. Jautājumā par studiju maksas līmeni studentu viedokļi ir atšķirīgi, bet sadalās samērā
līdzīgās proporcijās — 36,3% ir apmierināti ar studiju maksas lielumu, 37% — daļēji
apmierināti, bet 26,5% — neapmierināti ar studiju maksas apmēru. Jautājumā par studiju maksas līmeni studentu viedokļi ir atšķirīgi, bet sadalās samērā
līdzīgās proporcijās — 36,3% ir apmierināti ar studiju maksas lielumu, 37% — daļēji
apmierināti, bet 26,5% — neapmierināti ar studiju maksas apmēru. Apmierinātība ar finansiāli praktiskajiem studiju aspektiem 83 83 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Papildus minētajam jautājumu blokam par studiju procesa organizāciju atsevišķi izdalāmi
jautājumi, kas saistīti ar studiju finansiālo aspektu. Šajā blokā ietilpst jautājumi par
kopmītņu, studiju un studējošā kredīta pieejamību, budžeta vietu skaita pietiekamību,
studiju maksas līmeni un iespējām savienot studijas ar darbu. Eurostudent pētījuma koncepcijā atzīmēts, ka dzīvošana augstskolas pilsētiņā (campus)
vai kopmītnēs tiek uzskatīts par faktoru, kas labvēlīgi ietekmē studijas. Kopmītņu
pieejamība ļoti lielā vai lielā mērā apmierina vairāk nekā pusi (55,3%). Tomēr svarīgi izcelt,
ka trešo daļu respondentu kopmītņu pieejamība apmierina daļēji un arī neapmierināto
studentu proporcija ir samērā liela — neapmierināts ir katrs desmitais students. Budžeta vietu pieejamība (ļoti) lielā mērā apmierina vairāk nekā pusi (56,4%)
respondentu, savukārt neapmierināti ir 28% studentu, tai skaitā tie, kas paši maksā
par studijām. 40. attēls. Apmierinātība ar studiju procesa organizācijas finansiālajiem aspektiem (%)
Bāze: visi respondenti. Studiju un/vai studējošā kredīts ir svarīgs studiju pieejamības finansiālais aspekts, lai
students varētu segt studiju un dzīvošanas izmaksas studiju laikā. Pozitīvi šo finansiālā
risinājuma pieejamību vērtē 53,3% studentu. Šim aspektam ir vismazāk negatīvu
vērtējumu — tikai 7% studentu ir (pavisam) neapmierināti ar studiju/studējošā
kredīta pieejamību. Jautājumā par studiju maksas līmeni studentu viedokļi ir atšķirīgi, bet sadalās samērā
līdzīgās proporcijās — 36,3% ir apmierināti ar studiju maksas lielumu, 37% — daļēji
apmierināti, bet 26,5% — neapmierināti ar studiju maksas apmēru. 26
36
23
15
21
29
21
30
21
25
35
15
39
37
27
5
11
4
15
17
5
17
3
12
10
0%
25%
50%
75%
100%
Kopmītņu pieejamība
Budžeta vietu skaits/pieejamība
Studiju un/vai studējošā kredīta pieejamība
Studiju maksas līmenis
Iespēja savienot studijas ar darbu
Ļoti apmierina
Nemaz neapmierina 40. attēls. Apmierinātība ar studiju procesa organizācijas finansiālajiem aspektiem (%)
Bāze: visi respondenti. 26
36
23
15
21
29
21
30
21
25
35
15
39
37
27
5
11
4
15
17
5
17
3
12
10
0%
25%
50%
75%
100%
Kopmītņu pieejamība
Budžeta vietu skaits/pieejamība
Studiju un/vai studējošā kredīta pieejamība
Studiju maksas līmenis
Iespēja savienot studijas ar darbu
Ļoti apmierina
Nemaz neapmierina 40. attēls. Apmierinātība ar studiju procesa organizācijas finansiālajiem aspektiem (%) Studiju un/vai studējošā kredīts ir svarīgs studiju pieejamības finansiālais aspekts, lai
students varētu segt studiju un dzīvošanas izmaksas studiju laikā. Pozitīvi šo finansiālā
risinājuma pieejamību vērtē 53,3% studentu. Šim aspektam ir vismazāk negatīvu
vērtējumu — tikai 7% studentu ir (pavisam) neapmierināti ar studiju/studējošā
kredīta pieejamību. Studentu gatavība studijām — pašvērtējums Eurostudent pētījumā ir iekļauti daži jautājumi par studenta spēju iekļauties augstākās
izglītības sistēmā un studiju procesā. To mērķis ir noskaidrot studentu psiholoģisko
gatavību studijām un subjektīvo izjūtu par savu vietu augstākās izglītības sistēmā, kā arī
zināmā mērā raksturot studentu motivāciju studēt un pabeigt studijas. Šo problēmu
noskaidrošanai starptautiskajā Eurostudent pētījumā iekļauti apgalvojumi: 1) «Tas 84 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI vienmēr bija skaidrs, ka kādu dienu es studēšu», 2) «Es dažkārt sev vaicāju, vai studēt bija
mana pareizā izvēle», 3) «Man bieži ir sajūta, ka es īsti neiederos augstākajā izglītībā». vienmēr bija skaidrs, ka kādu dienu es studēšu», 2) «Es dažkārt sev vaicāju, vai studēt bija
mana pareizā izvēle», 3) «Man bieži ir sajūta, ka es īsti neiederos augstākajā izglītībā». Studentu viedoklis par pirmo apgalvojumu raksturo studējošo stingru dominējošo
motivāciju studēt augstskolā. Vairākums studentu (80%) bijuši pārliecināti par to, ka
noteikti studēs, tātad viņi nav augstskolā nokļuvuši gadījuma pēc. Interesanti, ka šis vērtējums atšķiras starp dažādiem studiju līmeņiem. Garā cikla studiju
programmās 95% studentu ir bijusi pārliecība par studijām. Savukārt koledžas līmeņa
programmās cieša pārliecība par studēšanu bijusi salīdzinoši mazākai daļai studentu —
70,7% un attiecīgi lielāka ir to studentu proporcija (12,4%), kas nepiekrīt viedoklim
«vienmēr bija skaidrs, ka studēšu». Iespējams, ka šajā studentu grupā lēmums par
studijām pieņemts salīdzinoši vēlu. 2. un 3. apgalvojums raksturo studenta pārliecību par savām spējām un iespējām studēt,
stabilitāti un spēju tikt galā ar grūtībām, ar ko saskaras ikviens students. Šaubas par savu vietu augstskolā dažkārt radušās aptuveni katram piektajam studentam. Nav būtisku atšķirību starp dažādu studiju programmu un studiju jomu studentiem. Izņēmums ir dzīvās dabas zinātņu, matemātikas un statistika izglītības jomas un
humanitāro zinātņu un mākslas jomas studenti, kuru vidū biežāk tiek uzdots jautājums,
vai studēt bija viņu pareizā izvēli: dabas zinātņu studentu vidū atbildes (pilnībā) piekrītu
veido 31,2%, humanitāro zinātņu — 26%. 41. attēls. Iekļaušanās augstākās izglītības sistēmā: studentu pašvērtējums (%)
Bāze: visi respondenti. Trešais apgalvojums vienādā mērā raksturo studenta piederības izjūtu augstākās izglītības
sistēmai un studenta motivāciju studēt. Nepiederīgi un neiederīgi augstākās izglītības
sistēmā jūtas 12,5%. Ja studentam bieži ir sajūta par neiederēšanos augstākajā izglītībā,
tad arī biežāk māc pārdomas, vai vajag censties mācīties. Šis personības raksturojums
neuzrāda nekādas statistiski vērā ņemamas atšķirības analīzē pa studiju līmeņiem vai
studiju programmu jomām. Studentiem, kam raksturīgs šāds viedoklis, visticamāk, biežāk
pastāv risks pamest augstskolu, to nepabeidzot. Studentu gatavība studijām — pašvērtējums Šiem studentiem ir ļoti svarīga docētāju
un administrācijas iedvesmojoša un atbalstoša attieksme, kas iedvesmos studentus
studiju darbam un izrādīs rūpes par sasniegumiem studijās. Tāpēc tālāk analizēsim
jautājumus, kā studenti vērtē sadarbību ar docētājiem. Šajā jautājumu un atbilžu kopā
ietverti divi apgalvojumi, kas raksturo studentu un mācībspēku savstarpējo komunikāciju:
57
9
3
23
14
9
12
18
15
5
19
23
3
41
50
0%
25%
50%
75%
100%
Tas vienmēr bija skaidrs, ka kādu dienu es studēšu
Es dažkārt sev vaicāju, vai studēt bija mana pareizā
izvēle
Man bieži ir sajūta, ka es īsti neiederos augstākajā
izglītībā
Pilnībā piekrītu
Nemaz nepiekrītu 41. attēls. Iekļaušanās augstākās izglītības sistēmā: studentu pašvērtējums (%)
Bāze: visi respondenti. 57
9
3
23
14
9
12
18
15
5
19
23
3
41
50
0%
25%
50%
75%
100%
Tas vienmēr bija skaidrs, ka kādu dienu es studēšu
Es dažkārt sev vaicāju, vai studēt bija mana pareizā
izvēle
Man bieži ir sajūta, ka es īsti neiederos augstākajā
izglītībā
Pilnībā piekrītu
Nemaz nepiekrītu 41. attēls. Iekļaušanās augstākās izglītības sistēmā: studentu pašvērtējums (%) 41. attēls. Iekļaušanās augstākās izglītības sistēmā: studentu pašvērtējums (%) Trešais apgalvojums vienādā mērā raksturo studenta piederības izjūtu augstākās izglītības
sistēmai un studenta motivāciju studēt. Nepiederīgi un neiederīgi augstākās izglītības
sistēmā jūtas 12,5%. Ja studentam bieži ir sajūta par neiederēšanos augstākajā izglītībā,
tad arī biežāk māc pārdomas, vai vajag censties mācīties. Šis personības raksturojums
neuzrāda nekādas statistiski vērā ņemamas atšķirības analīzē pa studiju līmeņiem vai
studiju programmu jomām. Studentiem, kam raksturīgs šāds viedoklis, visticamāk, biežāk
pastāv risks pamest augstskolu, to nepabeidzot. Šiem studentiem ir ļoti svarīga docētāju
un administrācijas iedvesmojoša un atbalstoša attieksme, kas iedvesmos studentus
studiju darbam un izrādīs rūpes par sasniegumiem studijās. Tāpēc tālāk analizēsim
jautājumus, kā studenti vērtē sadarbību ar docētājiem. Šajā jautājumu un atbilžu kopā
ietverti divi apgalvojumi, kas raksturo studentu un mācībspēku savstarpējo komunikāciju: Trešais apgalvojums vienādā mērā raksturo studenta piederības izjūtu augstākās izglītības
sistēmai un studenta motivāciju studēt. Nepiederīgi un neiederīgi augstākās izglītības
sistēmā jūtas 12,5%. Ja studentam bieži ir sajūta par neiederēšanos augstākajā izglītībā,
tad arī biežāk māc pārdomas, vai vajag censties mācīties. Šis personības raksturojums
neuzrāda nekādas statistiski vērā ņemamas atšķirības analīzē pa studiju līmeņiem vai
studiju programmu jomām. Studentiem, kam raksturīgs šāds viedoklis, visticamāk, biežāk
pastāv risks pamest augstskolu, to nepabeidzot. Šiem studentiem ir ļoti svarīga docētāju
un administrācijas iedvesmojoša un atbalstoša attieksme, kas iedvesmos studentus
studiju darbam un izrādīs rūpes par sasniegumiem studijās. Studentu gatavība studijām — pašvērtējums Tāpēc tālāk analizēsim
jautājumus, kā studenti vērtē sadarbību ar docētājiem. Šajā jautājumu un atbilžu kopā
ietverti divi apgalvojumi, kas raksturo studentu un mācībspēku savstarpējo komunikāciju: 85 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 1) «Mācībspēkiem rūp mani sasniegumi mācībās» un 2) «Mani pasniedzēji iedvesmo
mani». Nedaudz vairāk par trešdaļu studentu (36,7%) (pilnībā) piekrīt tam, ka docētājiem rūp
studentu sasniegumi, vēl tikpat liela studentu proporcija tam piekrīt daļēji. Visticamāk, ka
šajā kategorijā ir tie studenti, kuri uzskata, ka daļai pasniedzēju rūp studenta sasniegumi,
bet daļa ir vienaldzīgāki pret to. Tomēr diezgan liela ir arī to studentu daļa (26,7%), kas
uzskata, ka docētājiem nerūp studentu sekmes. 42. attēls. Docētāju attieksmes vērtējums (%)
Bāze: visi respondenti. Salīdzinošā analīze pa studiju līmeņiem uzrāda atšķirības — koledžu, profesionālā
bakalaura un 2. līmeņa augstākās izglītības programmu studenti biežāk nekā citu studiju
līmeņu studenti minējuši pasniedzēju ieinteresētību (vidēji 55–60%), kas ir statistiski
augstāks rādītājs par vidējo (37%). Studiju tematisko jomu griezumā netika fiksētas
statistiski vērā ņemamas atšķirības. Studentu vērtējumi par otro apgalvojumu vidēji ir
pozitīvāki — katrs otrais uzskata, ka pasniedzēji viņus iedvesmo darbam. Salīdzinoši
mazāk arī negatīvo vērtējumu — 13,4%. 11
15
13
24
26
36
31
36
37
36
38
29
19
11
14
8
8
3
4
3
0%
25%
50%
75%
100%
Mācībspēkiem rūp mani sasniegumi mācībās
Mani pasniedzēji iedvesmo mani
Manā pašreizējā studiju programmā jau no paša
sākuma bija skaidrs, kas no manis tiek sagaidīts
Es ieteiktu šo studiju programmu citiem
Pilnībā piekrītu
Nemaz nepiekrītu 42. attēls. Docētāju attieksmes vērtējums (%) 42. attēls. Docētāju attieksmes vērtējums (%)
Bāze: visi respondenti. 11
15
13
24
26
36
31
36
37
36
38
29
19
11
14
8
8
3
4
3
0%
25%
50%
75%
100%
Mācībspēkiem rūp mani sasniegumi mācībās
Mani pasniedzēji iedvesmo mani
Manā pašreizējā studiju programmā jau no paša
sākuma bija skaidrs, kas no manis tiek sagaidīts
Es ieteiktu šo studiju programmu citiem
Pilnībā piekrītu
Nemaz nepiekrītu Bāze: visi respondenti. Salīdzinošā analīze pa studiju līmeņiem uzrāda atšķirības — koledžu, profesionālā
bakalaura un 2. līmeņa augstākās izglītības programmu studenti biežāk nekā citu studiju
līmeņu studenti minējuši pasniedzēju ieinteresētību (vidēji 55–60%), kas ir statistiski
augstāks rādītājs par vidējo (37%). Studiju tematisko jomu griezumā netika fiksētas
statistiski vērā ņemamas atšķirības. Studentu vērtējumi par otro apgalvojumu vidēji ir
pozitīvāki — katrs otrais uzskata, ka pasniedzēji viņus iedvesmo darbam. Salīdzinoši
mazāk arī negatīvo vērtējumu — 13,4%. Salīdzinošā analīze pa studiju līmeņiem uzrāda atšķirības — koledžu, profesionālā
bakalaura un 2. līmeņa augstākās izglītības programmu studenti biežāk nekā citu studiju
līmeņu studenti minējuši pasniedzēju ieinteresētību (vidēji 55–60%), kas ir statistiski
augstāks rādītājs par vidējo (37%). Studiju tematisko jomu griezumā netika fiksētas
statistiski vērā ņemamas atšķirības. Studentu vērtējumi par otro apgalvojumu vidēji ir
pozitīvāki — katrs otrais uzskata, ka pasniedzēji viņus iedvesmo darbam. Salīdzinoši
mazāk arī negatīvo vērtējumu — 13,4%. Nākamais apgalvojums: «Manā pašreizējā studiju programmā jau no paša sākuma bija
skaidrs, kas no manis tiek sagaidīts» raksturo docētāju savstarpējo sadarbību un sadarbību
ar administrāciju. Saskaņā ar datiem mazāk nekā pusei studentu (44,3%) no paša studiju
sākuma bija skaidrs, kādi ir studenta pienākumi un atbildība. Vēl 37,8% studentu,
iespējams, studiju gaitā guvuši izpratni par savu atbildību un tiesībām studiju programmā. Tomēr diezgan lielai daļai studentu (17,7%) nav (vai nemaz nav) skaidrs, kas studiju
programmā no viņiem tiek sagaidīts. Salīdzinot datus pa studiju programmām, noskaidrots, ka vairāk nekā pusei koledžu,
profesionālā maģistra un garā cikla programmu studentu no paša sākuma bijusi skaidra
izpratne par programmas prasībām. Savukārt 20% no akadēmiskā un profesionālā
bakalaura programmās studējošajiem nav bijusi skaidra izpratne par to, kas no viņiem tiek
sagaidīts. 86 86 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Zināmu pamatojumu studentu apmierinātības rādītājiem sniedz atbildes uz jautājumu,
vai studenti ieteiktu savu studiju programmu citiem. Lai arī dažādi studiju aspekti vērtēti
diezgan kritiski, kopumā studiju programmas, to kvalitāte studentus apmierina, jo gandrīz
divas trešdaļas studentu noteiktu ieteiktu savu studiju programmu citiem. 42. attēls. Docētāju attieksmes vērtējums (%) Kritiski
noskaņoto studentu daļa, kuri noteikti neieteiks citiem studēt šajā programmā, ir neliela
— 11,4%. Analizējot to studentu kontingentu, kas ieteiktu vai neieteiktu savu studiju
programmu citiem, neatklājās kādas statistiski vērā ņemamas korelācijas ar studiju līmeni,
izglītības jomu vai individuālajiem motivācijas un pašvērtējuma rādītājiem. Zināmu pamatojumu studentu apmierinātības rādītājiem sniedz atbildes uz jautājumu,
vai studenti ieteiktu savu studiju programmu citiem. Lai arī dažādi studiju aspekti vērtēti
diezgan kritiski, kopumā studiju programmas, to kvalitāte studentus apmierina, jo gandrīz
divas trešdaļas studentu noteiktu ieteiktu savu studiju programmu citiem. Kritiski
noskaņoto studentu daļa, kuri noteikti neieteiks citiem studēt šajā programmā, ir neliela
— 11,4%. Analizējot to studentu kontingentu, kas ieteiktu vai neieteiktu savu studiju
programmu citiem, neatklājās kādas statistiski vērā ņemamas korelācijas ar studiju līmeni,
izglītības jomu vai individuālajiem motivācijas un pašvērtējuma rādītājiem. Studentu viedoklis par augstskolas un augstākās izglītības kvalitāti Studiju kvalitātes vērtējuma nobeigumā studenti izvērtēja vairākus apgalvojumus par
savas augstskolas reputāciju un augstāko izglītību Latvijā kopumā. Lielākā daļa studentu
augstu vērtē savu augstskolu, apstiprinot, ka augstskolai, koledžai, kurā viņi studē, ir laba
reputācija Latvijā. Šim izteikumam piekrīt 78,9% aptaujāto, bet nepiekrīt vien 4,9%. Kopš
2013. gada samazinājusies to studentu proporcija, kas piekrīt izteikumam par augstu
augstskolas reputāciju (2013. gadā tie bija 84%). 43. attēls. Studentu viedoklis par augstskolas un augstākās izglītības kvalitāti
kopumā (%)
Bāze: visi respondenti. 44
15
12
45
42
24
20
44
35
31
23
27
21
17
18
20
16
33
30
21
19
25
30
19
4
16
19
5
9
13
15
8
1
6
16
2
10
21
18
10
0%
25%
50%
75%
100%
Augstskolai/koledžai, kurā studēju, ir laba reputācija
Latvijā
Kopumā augstākā izglītība Latvijā ir tikpat kvalitatīva kā
citās valstīs
Tikai liela augstskola spēj nodrošināt labu studiju
kvalitāti
Augstākai izglītībai jābūt līdzvērtīgi pieejamai reģionos
Visiem studējošajiem būtu jānodrošina budžeta vietas
Budžeta vietas jānodrošina tiem studējošajiem, kas
turpmāk strādās tautsaimniecībā noderīgās jomās
Latvijā jābūt mazākam augstākās izglītības iestāžu
skaitam, nodrošinot kvalitatīvāku izglītību tajās
Mana ģimene (vecāki, partneris) nodrošina pietiekamu
materiālo atbalstu, lai es varētu studēt
Pilnībā piekrītu
Nemaz nepiekrītu 43. attēls. Studentu viedoklis par augstskolas un augstākās izglītības kvalitāti
kopumā (%)
Bāze: visi respondenti. 44
15
12
45
42
24
20
44
35
31
23
27
21
17
18
20
16
33
30
21
19
25
30
19
4
16
19
5
9
13
15
8
1
6
16
2
10
21
18
10
0%
25%
50%
75%
100%
Augstskolai/koledžai, kurā studēju, ir laba reputācija
Latvijā
Kopumā augstākā izglītība Latvijā ir tikpat kvalitatīva kā
citās valstīs
Tikai liela augstskola spēj nodrošināt labu studiju
kvalitāti
Augstākai izglītībai jābūt līdzvērtīgi pieejamai reģionos
Visiem studējošajiem būtu jānodrošina budžeta vietas
Budžeta vietas jānodrošina tiem studējošajiem, kas
turpmāk strādās tautsaimniecībā noderīgās jomās
Latvijā jābūt mazākam augstākās izglītības iestāžu
skaitam, nodrošinot kvalitatīvāku izglītību tajās
Mana ģimene (vecāki, partneris) nodrošina pietiekamu
materiālo atbalstu, lai es varētu studēt
Pilnībā piekrītu
Nemaz nepiekrītu 43. attēls. Studentu viedoklis par augstskolas un augstākās izglītības kvalitāti
kopumā (%) 43. attēls. Studentu viedoklis par augstskolas un augstākās izglītības kvalitāti
kopumā (%) Bāze: visi respondenti. 10.6. Studentu attieksme pret augstāko izglītību Latvijā Studenti tika lūgti novērtēt augstākās izglītības kvalitāti kopumā. Līdzīgi kā 2013. gadā,
arī šī gada aptaujā 45,7% studentu ir pārliecināti, ka kopumā augstākā izglītība Latvijā ir
tikpat kvalitatīva kā citās valstīs. Tāpat kā iepriekšējā pētījumā, trešā daļa studentu daļēji
piekrīt šim izteikumam, bet piektā daļa tam nepiekrīt. 87 87 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Salīdzinājums pa studiju līmeņiem rāda, ka studiju pieredze nav faktors, kas ietekmētu
studenta viedokli par Latvijas augstākās izglītības kvalitāti salīdzinājumā ar citām valstīm. Vērtējums korelē ar studiju jomu, kurā students studē. Vidējais vērtējums gandrīz visās
programmās ir līdzīgs — vidējā vērtībā ap 45%, izņemot divas studiju jomas —
informācijas un komunikācijas tehnoloģiju jomu, kur ļoti un augstu novērtējumu devuši
50% studentu, un sociālo zinātņu jomas studenti, no kuriem savukārt tikai 36% uzskata,
ka Latvijas augstākā izglītība ir tikpat kvalitatīva kā citās valstīs. Attiecīgi arī informācijas
un komunikācijas tehnoloģiju programmu studenti visretāk (15,4%), bet sociālo zinātņu
studenti visbiežāk (28,8%) nepiekrīt tam, ka Latvijas augstākā izglītība ir tikpat laba kā
citās valstīs. Viedokļi par to, ka tikai liela augstskola var nodrošināt kvalitatīvu izglītību, sadalās diezgan
vienmērīgi — nedaudz vairāk par trešdaļu studentu tam piekrīt, bet 30% ne piekrīt, ne
nepiekrīt, savukārt 36% tam pilnībā nepiekrīt. Šajā pārskatā analīze pa atsevišķām
augstskolām netiek veikta, tomēr nosacīti lielo augstskolu studenti biežāk pievienojas
viedoklim, ka tikai liela augstskola spēj nodrošināt labu studiju kvalitāti, savukārt
reģionālo augstskolu studenti biežāk nepiekrīt šim viedoklim. Studenti tika lūgti izteikt viedokli par to, vai Latvijā jābūt mazākam augstākās izglītības
iestāžu skaitam, nodrošinot kvalitatīvāku izglītību tajās. Studentu atbildes nenorāda uz
kādu tendenci, jo atbilžu sadalījums ir samērā līdzīgs: 37,5% piekrīt, 29,7% ne piekrīt, ne
nepiekrīt, bet 32,9% nepiekrīt tam, ka augstskolu skaitam jābūt mazākam. Viedoklim, ka augstākajai izglītībai ir jābūt līdzvērtīgi pieejamai reģionos, piekrīt vairāk
nekā divas trešdaļas respondentu (72,1%), bet tam nepiekrīt tikai 7,7% studentu. Atbilžu
sadalījuma
analīze
pa
studiju
līmeņiem
un
jomām
neuzrāda
statistiski
nozīmīgas atšķirības. Lai noskaidrotu studentu attieksmi un viedokli par budžeta studiju vietām, iekļauti divi
apgalvojumi: «Visiem studējošajiem būtu jānodrošina budžeta vietas» un «Budžeta vietas
jānodrošina tiem studējošajiem, kas turpmāk strādās tautsaimniecībā noderīgās jomās». Lielākā daļa (62,8%) aptaujāto atbalsta viedokli par budžeta studiju vietas nodrošināšanu
ikvienam studentam. Visbiežāk šādu viedokli aizstāv koledžas studenti un profesionālā
bakalaura studenti (74,4% un 68%), kā arī tādu jomu kā izglītības (74,7%), veselības
aprūpes un sociālās labklājības (64%) studenti. 20 Šajā nodaļā tiek analizēta pagaidu studiju pieredze un plāni studēt ārzemēs, jautājot par atsevišķiem periodiem,
kas aizvadīti citu valstu augstskolās Latvijā apgūstāmās vai apgūtās programmas ietvaros, nošķirot tos no pilna
cikla studijām ārzemēs. 10.6. Studentu attieksme pret augstāko izglītību Latvijā Retāk studenti atbalsta viedokli, ka budžeta vietas jānodrošina tiem studējošajiem, kas
turpmāk strādās tautsaimniecībā noderīgās jomās, — šādu viedokli atbalsta 40,3%
studentu, bet trešā daļa tam nepiekrīt. Atbilžu sadalījums pa studiju līmeņiem rāda, ka
šādu viedokli biežāk aizstāv 2. līmeņa profesionālās augstākās izglītības studenti (60,4%). Analīze studiju jomu griezumā neuzrāda statistiski nozīmīgas atšķirības vērtējumos. Jautājumā par to, vai ģimene nodrošina pietiekamu materiālo atbalstu studiju laikā,
gandrīz divas trešdaļas aptaujāto atbildējuši apstiprinoši. Pārējās atbildes — «ne piekrīt,
ne nepiekrīt», un «nepiekrīt», sadalās līdzīgi (18,8 un 18%). Biežāk šādu viedokli pauž garā 88 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI cikla studiju līmeņa programmu studenti (84,8%). Atcerēsimies, ka šo studentu vidū bija
zemākais nodarbinātības līmenis, līdz ar to studentiem lielākā mērā jārēķinās ar vecāku
vai kādu citu atbalstu. Biežāk ar ģimenes materiālo atbalstu studiju laikā rēķinās arī
lauksaimniecības (76,9%) un veselības aprūpes un sociālās labklājības izglītības jomu
studenti (70%). 89 89 11.1. Starptautiskā studentu mobilitāte un plāni Salīdzinot ar iepriekšējo aptauju 2013. gadā, ievērojami palielinājusies to studentu
proporcija, kas kādu laiku ir studējuši vai plāno studēt ārvalstīs20. Iepriekšējā periodā 5%
studentu bija studējuši ārvalstīs, bet 12% to plānoja darīt. Savukārt 2017. gada aptaujā
ārvalstīs bija studējuši 9% un vēl 25% aptaujāto plānoja to darīt. 44. attēls. Studiju pieredze ārzemēs (%)
Bāze: visi respondenti. Interesanti, ka atšķirībā no iepriekšējās aptaujas 2013. gadā, kad vispopulārākās ārvalstu
studiju galamērķis bija augstskolas Lielbritānijā, 2017. gadā studenti no Latvijas
augstskolām biežāk bija studējuši Lietuvā. Lielbritānija tika minēta kā otra visbiežāk
ārvalstu mobilitātes studijās apmeklētā valsts, trešo vietu ieņemot Vācijai, tad Polijai un
9%
24%
67%
Jā, esmu studējis
Nē, bet plānoju studēt 44. attēls. Studiju pieredze ārzemēs (%)
Bāze: visi respondenti. 9%
24%
67%
Jā, esmu studējis
Nē, bet plānoju studēt 44. attēls. Studiju pieredze ārzemēs (%) Bāze: visi respondenti. Interesanti, ka atšķirībā no iepriekšējās aptaujas 2013. gadā, kad vispopulārākās ārvalstu
studiju galamērķis bija augstskolas Lielbritānijā, 2017. gadā studenti no Latvijas
augstskolām biežāk bija studējuši Lietuvā. Lielbritānija tika minēta kā otra visbiežāk
ārvalstu mobilitātes studijās apmeklētā valsts, trešo vietu ieņemot Vācijai, tad Polijai un
Dānijai. Kopumā aptaujātie Latvijas augstskolu studenti ārvalstu studiju mobilitātes
ietvaros bija studējuši 35 valstīs. Visvairāk ārzemēs ir studējuši sociālo un cilvēkrīcības zinātņu jomas studenti, no kuriem
19% ir ieguvuši studiju pieredzi ārvalstīs. Ārvalstu studiju iespēju izmantošanas ziņā
viņiem seko pakalpojumu jomas studenti (16%), komerczinību un administrēšanas
studenti (12%), izglītības zinātņu jomas studenti (10%), humanitāro zinātņu un mākslas,
kā arī dzīvo dabaszinātņu jomas studenti, no kuriem ārzemēs ir studējuši 9%. Vispasīvāk
ārvalstu studiju mobilitāti izmanto informācijas un komunikācijas tehnoloģiju jomas
studenti (2%), retāk šo iespēju izmantojuši arī inženierzinātnes, ražošanas un būvniecības
studenti (5%), veselības aprūpes un sociālās labklājības studenti (6%) un lauksaimniecības,
mežsaimniecības un zivsaimniecības jomas studenti (7%). Salīdzinot ar aptaujas datiem
2013. gadā, redzams, ka visās izglītības jomās samazinājusies to studentu daļa, kas nav 90 90 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI nedz bijuši, nedz plāno piedalīties ārvalstu studiju mobilitātē. Visbiežāk šādu atbildi
2017. gadā sniedza informācijas un komunikācijas tehnoloģiju studenti (83%). nedz bijuši, nedz plāno piedalīties ārvalstu studiju mobilitātē. Visbiežāk šādu atbildi
2017. gadā sniedza informācijas un komunikācijas tehnoloģiju studenti (83%). nedz bijuši, nedz plāno piedalīties ārvalstu studiju mobilitātē. Visbiežāk šādu atbildi
2017. gadā sniedza informācijas un komunikācijas tehnoloģiju studenti (83%). 45. attēls. Biežāk minētās valstis, kurās studējuši respondenti (%)
Bāze: respondenti ar studiju pieredzi ārzemēs. 11.1. Starptautiskā studentu mobilitāte un plāni Citas minētās valstis: Bulgārija, Čehija, Igaunija, Horvātija, Somija, Grieķija,
Amerikas Savienotās Valstis, Krievijas Federācija, Islande, Turcija, Slovākija, Ķīna, Uzbekistāna, Ungārija, Šveice,
Rumānija, Japāna, Malta, Dienvidkoreja. 2
2
3
3
4
4
4
4
4
4
6
7
8
9
11
0
2
4
6
8
10
12
Zviedrija
Portugāle
Slovēnija
Austrija
Beļģija
Nīderlande
Itālija
Norvēģija
Spānija
Francija
Dānija
Polija
Vācija
Lielbritānija
Lietuva 45. attēls. Biežāk minētās valstis, kurās studējuši respondenti (%)
2
2
3
3
4
4
4
4
4
4
6
7
8
9
0
2
4
6
8
10
Zviedrija
Portugāle
Slovēnija
Austrija
Beļģija
Nīderlande
Itālija
Norvēģija
Spānija
Francija
Dānija
Polija
Vācija
Lielbritānija
Lietuva 45. attēls. Biežāk minētās valstis, kurās studējuši respondenti (%) 2 0 8 Bāze: respondenti ar studiju pieredzi ārzemēs. Citas minētās valstis: Bulgārija, Čehija, Igaunija, Horvātija, Somija, Grieķija,
Amerikas Savienotās Valstis, Krievijas Federācija, Islande, Turcija, Slovākija, Ķīna, Uzbekistāna, Ungārija, Šveice,
Rumānija, Japāna, Malta, Dienvidkoreja. Bāze: visi respondenti. Bāze: visi respondenti. 46. attēls. Studiju pieredze ārzemēs atkarībā no izglītības jomas (%) gadu, kad šādi plāni minētajā vecuma grupā bija no
12% līdz 19% studentu. Savukārt studentu daļa vecumā no 20 gadiem, kas norādīja uz jau
iegūtu ārvalstu studiju pieredzi, 2013. un 2017. gadā bija diezgan līdzīga, robežās no 1%
līdz 12%. Lielākās atšķirības bija studentu grupā, kas jaunāki par 20 gadiem. Šajā vecuma
grupā aptaujas brīdī ārzemēs izglītojušies bija attiecīgi 0,4% un 7% studentu. 4
6
17
3
19
28
17
47
77
66
66
50
0%
25%
50%
75%
100%
Koledžas studiju
programmas
Bakalaura līmeņa studijas
Maģistra līmeņa studijas
Garā cikla programmas
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt 47. attēls. Ārvalstu studiju pieredze atkarībā no studiju līmeņa (%)
Bāze: visi respondenti. 4
6
17
3
19
28
17
47
77
66
66
50
0%
25%
50%
75%
100%
Koledžas studiju
programmas
Bakalaura līmeņa studijas
Maģistra līmeņa studijas
Garā cikla programmas
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt 47. attēls. Ārvalstu studiju pieredze atkarībā no studiju līmeņa (%)
Bāze: visi respondenti. 4
6
17
3
19
28
17
47
77
66
66
50
0%
25%
50%
75%
100%
Koledžas studiju
programmas
Bakalaura līmeņa studijas
Maģistra līmeņa studijas
Garā cikla programmas
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt 47. attēls. Ārvalstu studiju pieredze atkarībā no studiju līmeņa (%) Vecuma griezumā redzams, ka lielāka daļa ārvalstīs studējušo ir vecāki par 22 gadiem. Vecuma griezumā redzams, ka lielāka daļa ārvalstīs studējušo ir vecāki par 22 gadiem. Lielākā daļa studentu, kas vēl nav studējuši ārzemēs, bet plāno to darīt, ir jaunāki par 23
gadiem. Vecumā līdz 23 gadiem šo studentu proporcija ir robežās no 26% līdz 50%. Tas ir
būtisks kāpums, salīdzinot ar 2013. gadu, kad šādi plāni minētajā vecuma grupā bija no
12% līdz 19% studentu. Savukārt studentu daļa vecumā no 20 gadiem, kas norādīja uz jau
iegūtu ārvalstu studiju pieredzi, 2013. un 2017. gadā bija diezgan līdzīga, robežās no 1%
līdz 12%. Lielākās atšķirības bija studentu grupā, kas jaunāki par 20 gadiem. Šajā vecuma
grupā aptaujas brīdī ārzemēs izglītojušies bija attiecīgi 0,4% un 7% studentu. 48. attēls. Ārvalstu studiju pieredze atkarībā no respondentu vecuma (%)
Bāze: visi respondenti. 7
1
2
8
11
12
50
35
34
26
23
18
43
65
64
66
65
70
0%
25%
50%
75%
100%
19 gadi un jaunāki
20 g.v. 21 g.v. 22 g.v. 23–25 g.v. 46. attēls. Studiju pieredze ārzemēs atkarībā no izglītības jomas (%) 46. attēls. Studiju pieredze ārzemēs atkarībā no izglītības jomas (%)
10
9
19
12
9
2
4
7
6
16
18
37
26
23
23
15
17
33
30
29
72
54
54
65
68
83
78
59
64
54
0%
25%
50%
75%
100%
Izglītība
Humanitārās zinātnes un māksla
Sociālās, komunikācijas un informācijas zinātnes
Komerczinības, administrēšana un tiesību zinātne
Dzīvās dabaszinātnes, matemātika un statistika
Informācijas un komunikācijas tehnoloģijas
Inženierzinātnes, ražošana un būvniecība
Lauksaimniecība, mežsaimniecība un zivsaimniecība
Veselības aprūpe un sociālā labklājība
Pakalpojumi
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt 46. attēls. Studiju pieredze ārzemēs atkarībā no izglītības jomas (%)
10
9
19
12
9
2
4
7
6
16
18
37
26
23
23
15
17
33
30
29
72
54
54
65
68
83
78
59
64
54
0%
25%
50%
75%
100%
Izglītība
Humanitārās zinātnes un māksla
Sociālās, komunikācijas un informācijas zinātnes
Komerczinības, administrēšana un tiesību zinātne
Dzīvās dabaszinātnes, matemātika un statistika
Informācijas un komunikācijas tehnoloģijas
Inženierzinātnes, ražošana un būvniecība
Lauksaimniecība, mežsaimniecība un zivsaimniecība
Veselības aprūpe un sociālā labklājība
Pakalpojumi
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt ̄
j
p̄
g
j
(
)
10
9
19
12
9
2
4
7
6
16
18
37
26
23
23
15
17
33
30
29
72
54
54
65
68
83
78
59
64
54
0%
25%
50%
75%
100%
Izglītība
Humanitārās zinātnes un māksla
Sociālās, komunikācijas un informācijas zinātnes
Komerczinības, administrēšana un tiesību zinātne
Dzīvās dabaszinātnes, matemātika un statistika
Informācijas un komunikācijas tehnoloģijas
Inženierzinātnes, ražošana un būvniecība
Lauksaimniecība, mežsaimniecība un zivsaimniecība
Veselības aprūpe un sociālā labklājība
Pakalpojumi
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt Bāze: visi respondenti. 91 91 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Studiju pieredze ārvalstīs biežāk ir maģistrantūras studentiem (17% no šī līmeņa
studentiem), kam seko bakalaura programmās studējošie (6%). 47. attēls. Ārvalstu studiju pieredze atkarībā no studiju līmeņa (%)
Bāze: visi respondenti. Vecuma griezumā redzams, ka lielāka daļa ārvalstīs studējušo ir vecāki par 22 gadiem. Lielākā daļa studentu, kas vēl nav studējuši ārzemēs, bet plāno to darīt, ir jaunāki par 23
gadiem. Vecumā līdz 23 gadiem šo studentu proporcija ir robežās no 26% līdz 50%. Tas ir
būtisks kāpums, salīdzinot ar 2013. 46. attēls. Studiju pieredze ārzemēs atkarībā no izglītības jomas (%) 26 gadi un vecāki
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt 48. attēls. Ārvalstu studiju pieredze atkarībā no respondentu vecuma (%) Bāze: visi respondenti. Augstskolas atrašanās galvaspilsētā vai citur arī nosaka atšķirības ārvalstu studiju
pieredzes gūšanā. No tiem respondentiem, kuri studē ārpus Rīgas, 7% norādīja, ka ir
studējuši ārzemēs, un 18% gatavojas to darīt. Savukārt no tiem, kas studē Rīgā, ārvalstu
studiju pieredzi minēja 9%, bet nodomu doties studēt uz ārzemēm 27% studentu. 92 92 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 49. attēls. Ārvalstu studiju pieredze atkarībā no augstskolas atrašanās vietas (%)
9
7
27
18
64
74
0%
25%
50%
75%
100%
Rīga
Ārpus Rīgas
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt 49. attēls. Ārvalstu studiju pieredze atkarībā no augstskolas atrašanās vietas (%) 49. attēls. Ārvalstu studiju pieredze atkarībā no augstskolas atrašanās vietas (%)
9
7
27
18
64
74
0%
25%
50%
75%
100%
Rīga
Ārpus Rīgas
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt Bāze: visi respondenti. Bāze: visi respondenti. 11.2. Ārvalstu studiju ilgums, ietvars un kredītpunktu atzīšana Vairumam studentu studijas ārvalstīs ilgušas no viena mēneša līdz pusgadam. Laika
posmu līdz vienam gadam, studējot ārvalstīs, pavadījuši 16% studentu. Tikai 3% Latvijas
studentu ārvalstīs ir izglītojušies ilgāk par vienu gadu. 50. attēls. Studiju ilgums ārzemēs (%)
Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n = 181. 16
18
23
24
16
3
1–3 mēneši
4 mēneši
5 mēneši
6 mēneši
7–12 mēneši
Ilgāk par 12 mēnešiem 50. attēls. Studiju ilgums ārzemēs (%) 18 23 Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n = 181. Aptaujas dati liecina, ka vairums studentu turpina izmantot Eiropas Savienības finansētās
akadēmiskās mobilitātes programmas. Erasmus un citu ES mūžizglītības programmu
ietvaros ārzemju studiju pieredzi bija guvuši 79% respondentu, kas ir par 4% vairāk nekā
2013. gadā. Par diviem procentiem palielinājies studentu skaits, kas ārzemēs studējuši citu
akadēmiskās apmaiņas programmu ietvaros (5,4%). Savukārt paši savas studijas ārzemēs
organizējuši 15,4% studentu, kas ir par trešdaļu mazāk nekā iepriekšējās aptaujas periodā. 93 93 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 53. attēls. Ārvalstu akadēmiskās mobilitātes mērķis un iegūtie ECTS (%) 53. attēls. Ārvalstu akadēmiskās mobilitātes mērķis un iegūtie ECTS (%) 53. attēls. Ārvalstu akadēmiskās mobilitātes mērķis un iegūtie ECTS (%)
Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu. 28
58
13
35
18
65
36
69
56
69
7
6
18
9
13
0%
25%
50%
75%
100%
Pētījums / izbraukums / lauka darbs, n = 127
Stažēšanās / darba prakse, n = 182
Vasaras / ziemas skola, n = 39
Valodu kursi, n = 43
Cits mērķis, n = 61
Iegūti ECTS
Nē
Vēl nezina Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu. 28
58
13
35
18
65
36
69
56
69
7
6
18
9
13
0%
25%
50%
75%
100%
Pētījums / izbraukums / lauka darbs, n = 127
Stažēšanās / darba prakse, n = 182
Vasaras / ziemas skola, n = 39
Valodu kursi, n = 43
Cits mērķis, n = 61
Iegūti ECTS
Nē
Vēl nezina Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu. Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu. 11.3. Finansējuma avoti studijām ārzemēs Eiropas Savienības akadēmiskās mobilitātes stipendijas saglabājas kā galvenais
finansējuma avots studijām ārzemēs, lai gan 2017. gadā uz to paļāvās par 12% mazāk
studentu (59%) nekā 2013. gadā (71%). Līdz ar to izskaidrojama citu avotu nozīmes
palielināšanās, ārvalstu studiju finansēšanā. Otrs visbiežāk minētais galvenais
finansējuma avots studijām ārvalstīs ir ģimenes atbalsts, ko saņēma 20% studentu. Kopumā uz ģimenes līdzekļiem ārvalstu studiju izmaksu segšanai paļāvās 75% studentu,
kas ir par 11% vairāk nekā 2013. gadā. Paša nopelnīto kā galveno ārvalstu studiju
finansējuma avotu minējuši 7% studentu. Taču kopumā paši savus ietaupījumus studijām
ārvalstīs izmantojuši 55% studentu, kas ir par 10% vairāk nekā pirms četriem gadiem. 54. attēls. Ārzemju studiju finansējuma avoti (%)
Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n=196. 11
20
13
6
15
55
75
67
1
2
3
3
5
7
20
59
0
20
40
60
80
Cits finansējums
Latvijā izsniegts regulārs studiju grants / aizdevums
Paša ienākumi no darba ārzemēs studiju laikā
Uzņemošās valsts studiju grants / aizdevums
Latvijā izsniegts studiju grants / aizdevums speciāli
paredzēts braucienam uz citu valsti
Paša ienākumi no iepriekšējā darba vai paša ietaupījumi
Vecāku / ģimenes / dzīves partnera finansiāls atbalsts
ES studiju grants/stipendija (piem., Erasmus u.tml.)
Galvenais finansējuma avots, lai finansētu studijas ārzemēs
Izmantots finansējuma avots 54. attēls. Ārzemju studiju finansējuma avoti (%)
11
20
13
6
15
55
75
67
1
2
3
3
5
7
20
59
0
20
40
60
80
Cits finansējums
Latvijā izsniegts regulārs studiju grants / aizdevums
Paša ienākumi no darba ārzemēs studiju laikā
Uzņemošās valsts studiju grants / aizdevums
Latvijā izsniegts studiju grants / aizdevums speciāli
paredzēts braucienam uz citu valsti
Paša ienākumi no iepriekšējā darba vai paša ietaupījumi
Vecāku / ģimenes / dzīves partnera finansiāls atbalsts
ES studiju grants/stipendija (piem., Erasmus u.tml.) 54. attēls. Ārzemju studiju finansējuma avoti (%) 51. attēls. Studijas ārzemēs dažādu programmu ietvaros (%) 51. attēls. Studijas ārzemēs dažādu programmu ietvaros (%) Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n = 198. 79
5
15
Erasmus un citas ES Mū
Citas programmas ietvar
ietvaros ar Norvēģiju, Šv
Neatkarīgi organizēta ap
programmas ietvariem Erasmus un citas ES Mūžizglītības programmas Citas programmas ietvaros (piem., starpvalstu līgumu
ietvaros ar Norvēģiju, Šveici, Dāniju, Lietuvu u.c.) Neatkarīgi organizēta apmācība ārpus jebkādas
programmas ietvariem Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n = 198. Lai izvērtētu, kā ārvalstīs iegūtās zināšanas tiek atzītas augstākās izglītības ietvaros
Latvijā, studentiem tika lūgts norādīt, vai Latvijas augstskolas piešķīra kredītpunktus par
ārzemēs apgūto studiju vielu. Dati liecina, ka 60% studentu atgriežoties Latvijā,
augstskola tika atzīti visi ārzemēs iegūtie kredītpunkti. 14% studentu Latvijas augstskolā
atzina daļu kredītpunktu, 8% studentu netika atzīts neviens kredītpunkts, bet 7% vēl
nebija saņēmuši atbilstošu informāciju. 12% studentu kredītpunktus nesaņēma vai nemaz
nebija plānojuši tos iegūt. 52. attēls. Kredītpunktu (ECTS, sertifikātu u.c.) atzīšana Latvijas augstskolās (%) 52. attēls. Kredītpunktu (ECTS, sertifikātu u.c.) atzīšana Latvijas augstskolās (%)
Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n = 201. 60
14
8
6
7
5
Jā, visi kredītpunkti tika atzīti
Jā, daļa kredītpunktu tika atzīti
Nē, neviens kredītpunkts netika atzīts
Es nesaņēmu kredītpunktus par savām studijām ārzem
Vēl nezinu
Es nemaz neplānoju iegūt kādus kredītpunktus 6 Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n = 201. Lūgti norādīt ārvalstu akadēmiskās mobilitātes specifisku mērķi, 8% studentu atzīmēja
stažēšanos vai darba praksi. Kredītpunktus par stažēšanos ārzemēs saņēma 58%
studentu. Pētījuma ietvaros ārvalstu akadēmiskajā mobilitātē piedalījās 6% studentu un
viena trešā daļa no viņiem saņēma par šo aktivitāti kredītpunktus. Valodu kursos un
vasaras vai ziemas skolās citās valstīs bija piedalījušies 2% studentu, bet cits akadēmiskās
mobilitātes mērķis bija vēl 3% studentu. 94 94 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n=196. 54. attēls. Ārzemju studiju finansējuma avoti (%) Galvenais finansējuma avots, lai finansētu studijas ārzemēs Izmantots finansējuma avots Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n=196. Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n=196. Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n=196. Bāze: respondenti ar studiju pieredzi ārzemēs, kuri snieguši atbildi uz jautājumu, n=196. 95 95 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 11.4. Ārvalstu studijas kavējošie faktori No četrpadsmit aptaujā minētajiem šķēršļiem studijām ārvalstīs studenti visbiežāk atzīmē
sociālekonomiska rakstura iemeslus — papildus finanšu slogu (51%), atšķirtību no
ģimenes un draugiem (41%), zaudētu iespēju strādāt algotu darbu (38%) un nevēlēšanos
pārtraukt strādāt (30%). Salīdzinot studentus pēc ārvalstu studiju pieredzes, redzams, ka
visi minētie šķēršļi ir noteicoši 37% līdz 54% to studentu, kas studijas ārvalstīs nemaz
neplāno, un apmēram trešdaļai to, kas ārzemēs jau studējuši vai plāno to darīt. Šķēršļus, kas saistīti ar studiju saturu, atzīst viena piektā līdz viena ceturtā daļa studentu. Proti, grūtības integrēt studiju pieredzi ārzemēs savā studiju programmā Latvijā kā šķērsli
min 25% studentu, 22% studentu šķērslis ir paredzamais mazais ieguvums savam studiju
procesam Latvijā, bet 18% studentu saskata problēmas ar ārzemēs iegūto studiju
rezultātu atzīšanu Latvijā. Organizatoriska rakstura šķēršļus studijām ārzemēs atzīst apmēram desmitā daļa
studentu, minot grūtības ar uzturēšanās formalitāšu kārtošanu studijām izvēlētajā valstī
(15%), ierobežotu uzņemšanu akadēmiskās mobilitātes programmās savā izglītības
iestādē (14%) un grūtības iegūt informāciju par ārvalstu studiju iespējām no savas
izglītības iestādes Latvijā (12%). Kā šķēršļi studijām ārvalstīs bieži minēti tādi personiska rakstura faktori kā personiskas
motivācijas trūkums (29%), nepietiekamas svešvalodas zināšanas (26%), nepietiekami
labas sekmes pretendēšanai uz studijām ārvalstīs (15%), retāk un veselības stāvoklis vai
invaliditāte (6%). 96 96 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 55. attēls. Šķēršļi studijām ārzemēs: pieredzētie un prognozējamie (%)
Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. Kas attiecas uz valodu zināšanām, vairums Latvijas studentu, pēc pašu domām, brīvi
pārvalda vismaz divas valodas. Tikai vienā valodā brīvi sazināties spēj 10%. Savu
rakstītprasmi un sarunvalodu kā ļoti labu divās valodās vērtē 49%, trijās valodās — 36%,
četrās valodās — 5% studentu. āze: visi respondenti, kuri snieguši atbildi uz jautājumu. 11.4. Ārvalstu studijas kavējošie faktori 97 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Kopumā redzams, ka, domājot par ārvalstu studijām, visvairāk studentus satrauc
finansiāla rakstura jautājumi, iespējas saglabāt algotu darbu, kā arī nošķirtība no ģimenes. Šie faktori kā galvenie šķēršļi studijām ārvalstīs saglabājušies līdzīgi 2013. gada aptaujā
konstatētajiem. Veselības stāvoklis vai invaliditāte minēti visretāk. Taču te jāatzīst, ka
cilvēki ar speciālām vajadzībām augstākajā izglītībā ir maz pārstāvēta grupa, kas,
iespējams, norāda uz problēmām ar augstākās izglītības pieejamību šai sociālajai grupai
kopumā. Kopumā redzams, ka, domājot par ārvalstu studijām, visvairāk studentus satrauc
finansiāla rakstura jautājumi, iespējas saglabāt algotu darbu, kā arī nošķirtība no ģimenes. Šie faktori kā galvenie šķēršļi studijām ārvalstīs saglabājušies līdzīgi 2013. gada aptaujā
konstatētajiem. Veselības stāvoklis vai invaliditāte minēti visretāk. Taču te jāatzīst, ka
cilvēki ar speciālām vajadzībām augstākajā izglītībā ir maz pārstāvēta grupa, kas,
iespējams, norāda uz problēmām ar augstākās izglītības pieejamību šai sociālajai grupai
kopumā. 11.4. Ārvalstu studijas kavējošie faktori 13
2
25
26
23
11
9
10
6
4
5
2
4
19
13
9
17
24
15
18
13
15
11
11
9
3
11
12
18
26
18
24
21
26
35
33
32
25
35
10
21
17
18
25
11
12
13
16
17
17
20
21
20
11
18
11
38
37
30
13
29
28
26
25
31
39
31
74
46
42
0%
25%
50%
75%
100%
Nepietiekamas svešvalodas zināšanas
Grūtības iegūt informāciju savā mācību iestādē
Atšķirtība no partnera/-es, bērna, draugiem
Papildus finanšu slogs
Zaudēta iespēja strādāt algotu darbu
Personiskās motivācijas trūkums
Paredzamais mazais ieguvums studiju procesam Latvijā
Grūtības integrēt studijas ārzemēs studiju programmas
struktūrā Latvijā
Problēmas ar ārzemēs iegūto studiju rezultātu atzīšanu
Grūtības ar uzturēšanās formalitāšu kārtošanu izvēlētajā
valstī
Ierobežota uzņemšana mobilitātes programmās mācību
iestādē Latvijā
Veselības stāvoklis / invaliditāte
Nepietiekami labas sekmes, lai pretendētu uz studijām
ārzemēs
Darbs, negrib pārtraukt strādāt
Liels šķērslis
Nav šķērslis 55. attēls. Šķēršļi studijām ārzemēs: pieredzētie un prognozējamie (%) Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. Kas attiecas uz valodu zināšanām, vairums Latvijas studentu, pēc pašu domām, brīvi
pārvalda vismaz divas valodas. Tikai vienā valodā brīvi sazināties spēj 10%. Savu
rakstītprasmi un sarunvalodu kā ļoti labu divās valodās vērtē 49%, trijās valodās — 36%,
četrās valodās — 5% studentu. 56. attēls. Studiju pieredze ārzemēs un valodu skaits, ieskaitot dzimto, kurās ir ļoti laba
rakstītprasme un sarunvaloda (%) 56. attēls. Studiju pieredze ārzemēs un valodu skaits, ieskaitot dzimto, kurās ir ļoti laba
rakstītprasme un sarunvaloda (%) 56. attēls. Studiju pieredze ārzemēs un valodu skaits, ieskaitot dzimto, kurās ir ļoti laba
rakstītprasme un sarunvaloda (%)
Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. 8
6
12
49
48
49
37
39
35
4
7
4
2
1
0%
25%
50%
75%
100%
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt
Vienā valodā
Divās valodās
Trīs valodās
Četrās valodās
Vairāk nekā četrās valodās 8
6
12
49
48
49
37
39
35
4
7
4
2
1
0%
25%
50%
75%
100%
Jā, esmu studējis
Nē, bet plānoju studēt
un neplānoju to darīt Vienā valodā
Divās valodās
Trīs valodās
Četrās valodās
Vairāk nekā četrās valodās Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. 11.5. Augstākās izglītības kvalitātes vērtējums pēc ārvalstu studiju
pieredzes un nodomiem Lūgti salīdzināt augstākās izglītības kvalitāti Latvijā un ārvalstīs, 40% no tiem, kas
studējuši vai plāno studēt ārvalstīs, uzskata, ka augstākā izglītība Latvijā ir tikpat laba, cik
ārvalstīs. No tiem, kas ārzemēs nav studējuši un to nedomā darīt, tā uzskata 49%. Interesanti gan, ka trešā daļa respondentu abās šajās grupās pauž neitrālu viedokli, proti,
nespēj izlemt, vai kopumā augstākā izglītība Latvijā ir tikpat kvalitatīva kā citās valstīs. Tajā pašā laikā, jautāti par savas Latvijas augstskolas vērtējumu no 70% līdz 82% studentu
atkarībā no ārvalstu studiju pieredzes, atzīst, ka augstskolai, kurā viņi studē, valstī ir laba
reputācija. Atbildot uz šo jautājumu, neizlēmušo studentu ir vismazāk —no 15% līdz 25%. Savukārt atbildot uz jautājumu, vai tikai liela augstskola spēj nodrošināt labu studiju
kvalitāti, studenti ir mazāk pārliecināti. Šādam apgalvojumam piekrīt trešā daļa studentu
visās trīs grupās — gan tie, kas ārzemēs studējuši, gan tie, kas vēl grasās to darīt, gan arī
tie, kam nav ārvalstu studiju pieredzes un nav plānu to iegūt. Samērā līdzīgs ir viedokļu sadalījums attiecībā uz apgalvojumu, ka Latvijā būtu jābūt
mazākam augstskolu skaitam, nodrošinot kvalitatīvāku izglītību. Tā uzskata 42% ārzemēs
studējušo, 40% to, kas vēl plāno to darīt, un 36% to, kas ārzemēs nav studējuši un to darīt
arī nedomā. 98 98 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 57. attēls. 11.5. Augstākās izglītības kvalitātes vērtējums pēc ārvalstu studiju
pieredzes un nodomiem Augstākās izglītības kvalitātes aspektu vērtējums atkarībā no ārvalstu
studiju pieredzes (%)
«Augstskolai/koledžai, kurā studēju, ir laba reputācija Latvijā»
«Kopumā augstākā izglītība Latvijā ir tikpat kvalitatīva kā citās valstīs»
«Tikai liela augstskola spēj nodrošināt labu studiju kvalitāti»
Latvijā jābūt mazākam augstākās izglītības iestāžu skaitam, nodrošinot kvalitatīvāku izglītību tajās
9
9
17
30
30
32
30
34
33
23
20
13
9
7
5
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs
11
9
13
21
21
24
25
34
29
27
19
18
17
16
15
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs
11
9
13
21
21
24
25
34
29
27
19
18
17
16
15
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs
22
17
21
20
23
15
28
30
30
13
15
16
16
16
18
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs
Pilnīgi piekrīt
2
3
4
Pilnīgi nepiekrīt 57. attēls. Augstākās izglītības kvalitātes aspektu vērtējums atkarībā no ārvalstu
studiju pieredzes (%) 57. attēls. Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. 11.5. Augstākās izglītības kvalitātes vērtējums pēc ārvalstu studiju
pieredzes un nodomiem Augstākās izglītības kvalitātes aspektu vērtējums atkarībā no ārvalstu
studiju pieredzes (%)
«Augstskolai/koledžai, kurā studēju, ir laba reputācija Latvijā»
9
9
17
30
30
32
30
34
33
23
20
13
9
7
5
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs edžai, kurā studēju, ir laba reputācija Latvijā»
9
9
17
30
30
32
30
34
33
23
20
13
9
7
5
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs «Kopumā augstākā izglītība Latvijā ir tikpat kvalitatīva kā citās valstīs»
11
9
13
21
21
24
25
34
29
27
19
18
17
16
15
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs «Tikai liela augstskola spēj nodrošināt labu studiju kvalitāti»
11
9
13
21
21
24
25
34
29
27
19
18
17
16
15
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs Latvijā jābūt mazākam augstākās izglītības iestāžu skaitam, nodrošinot kvalitatīvāku izglītību tajās
22
17
21
20
23
15
28
30
30
13
15
16
16
16
18
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs
Pilnīgi piekrīt
2
3
4
Pilnīgi nepiekrīt Pilnīgi piekrīt
2
3
4
Pilnīgi nepiekrīt 99 99 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI Lūgti izvērtēt savas zināšanas, kas iegūtas viņu augstākās izglītības studiju programmas
ietvaros, vairāk nekā puse to studentu, kas nav studējuši ārvalstīs, uzskata, ka ir labi un ļoti
labi sagatavoti darbam Latvijā. No tiem, kas studējuši ārvalstīs, tā domā 45%. Savu
sagatavotību Latvijas darba tirgum kritiski vērtē 13% respondentu, kas studējuši ārzemēs,
9% studentu, kas ārvalstu studijas vēl plāno, un 7% studentu, kas nav ārzemēs studējuši
un to darīt neplāno. Interesanti, ka studentu vērtējums par savu sagatavotību starptautiskajam darba tirgum
ir līdzīgs neatkarīgi no ārvalstu studiju pieredzes. Visās trijās grupās gandrīz trešā daļa
studentu savas prasmes starptautiskam darba tirgum vērtē kā labas un ļoti labas. Tas pats
novērojams attiecībā uz kritisko vērtējumu. Gandrīz piektā daļa studentu uzskata, ka
studiju programma nav viņus labi sagatavojusi starptautiskajam darba tirgum. 58. attēls. Sagatavotības Latvijas darba tirgum vērtējums atkarībā no ārvalstu
studiju pieredzes (%) 58. attēls. 11.5. Augstākās izglītības kvalitātes vērtējums pēc ārvalstu studiju
pieredzes un nodomiem Sagatavotības Latvijas darba tirgum vērtējums atkarībā no ārvalstu
studiju pieredzes (%) 58. attēls. Sagatavotības Latvijas darba tirgum vērtējums atkarībā no ārvalstu
studiju pieredzes (%)
«Latvijas darba tirgum būšu sagatavots/-a…»
Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. 59. attēls. Sagatavotības starptautiskajam darba tirgum vērtējums atkarībā no ārvalstu
studiju pieredzes (%)
9
13
12
2
3
4
11
6
6
32
25
25
35
39
37
10
15
19
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt
ārzemēs
Grūti pateikt
ļoti slikti
4
3
2
ļoti labi e: visi respondenti, kuri snieguši atbildi uz jautājumu. e: visi respondenti, kuri snieguši atbildi uz jautājumu. 59. attēls. Sagatavotības starptautiskajam darba tirgum vērtējums atkarībā no ārvalstu
studiju pieredzes (%) «Starptautiskajam darba tirgum būšu satagatavots/-a…» «Starptautiskajam darba tirgum būšu satagatavots/ a…»
Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. 16
25
31
8
6
4
14
13
11
28
27
24
23
22
20
5
8
8
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs
Grūti pateikt
ļoti slikti
4
3
2
ļoti labi Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. 16
25
31
8
6
4
14
13
11
28
27
24
23
22
20
5
8
8
0%
25%
50%
75%
100%
Jā, esmu studējis ārzemēs
Nē, bet plānoju studēt ārzemēs
Nē, un neplānoju studēt ārzemēs
Grūti pateikt
ļoti slikti
4
3
2
ļoti labi Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. 11.6. Plāni pēc absolvēšanas atkarībā no ārvalstu studiju pieredzes gadā pie vecākiem/tuviem ra
bet būtiski pieaugusi to studentu daļa (par 14%), kas dz
kā arī to studentu proporcija, kas dzīvo kopā ar saviem
palielinājies arī to studentu skaits, kas studiju periodā
studentu bija 11%), savukārt samazinājies to studentu
vai citiem studentiem (no 29% līdz 22%). Nozīmīgi mazinājusies kopmītnē vai dienesta viesnīcā d
26% studentu 2013. gadā līdz 18,7% studējošo 2017. ga
61. attēls. Ar ko dzīvo studiju laikā (%)
10
13
00
05
10
15
Dzīvo ar saviem vai partnera/-es…
Dzīvo viens
Dzīvo ar citu personu
Dzīvo ar vecākiem
Dzīvo ar partneri vai laulāto 12.
MĀJOKLIS STUDIJU LAIKĀ Katrā Eurostudent pētījuma posmā tiek fiksēti konkrēti rādītāji, kas raksturo studentu
dzīves apstākļus studiju laikā, t.sk. mājokļa apstākļus, apmierinātību u.tml. Vispirms tika
noskaidrots, ar ko students dzīvo kopā semestra laikā tipiskā darba nedēļā no pirmdienas
līdz piektdienai. Dati liecina, ka gandrīz trešā daļa (32%) studentu dzīvo kopā ar vecākiem un/vai tuviem
radiniekiem, vairāk nekā trešā daļa (37%) — kopā ar partneri/dzīvesbiedru, katrs desmitais
(10,4%) dzīvo kopā ar bērniem. Savukārt aptuveni katrs piektais students dzīvo kopā ar
draugiem/citiem studentiem (21,8%), bet 13% dzīvo vieni paši. Salīdzinot ar iepriekšējā Eurostudent posma rezultātiem, vairākos rādītājos vērojamas
nozīmīgas izmaiņas. Samazinājusies to studentu proporcija, kas studiju semestra laikā
dzīvo pie vecākiem (2013. gadā pie vecākiem/tuviem radiniekiem dzīvoja 40% studentu),
bet būtiski pieaugusi to studentu daļa (par 14%), kas dzīvo kopā ar partneri/dzīvesbiedru,
kā arī to studentu proporcija, kas dzīvo kopā ar saviem vai partnera bērniem. Nedaudz
palielinājies arī to studentu skaits, kas studiju periodā dzīvo vieni paši (2013. gadā tādu
studentu bija 11%), savukārt samazinājies to studentu skaits, kas dzīvo kopā ar draugiem
vai citiem studentiem (no 29% līdz 22%). Nozīmīgi mazinājusies kopmītnē vai dienesta viesnīcā dzīvojošo studentu proporcija — no
26% studentu 2013. gadā līdz 18,7% studējošo 2017. gadā. 61. attēls. Ar ko dzīvo studiju laikā (%) 61. attēls. Ar ko dzīvo studiju laikā (%)
Bāze: visi respondenti. Iespējamas vairākas atbildes. 10
13
22
32
37
00
05
10
15
20
25
30
35
40
Dzīvo ar saviem vai partnera/-es…
Dzīvo viens
Dzīvo ar citu personu
Dzīvo ar vecākiem
Dzīvo ar partneri vai laulāto 11.6. Plāni pēc absolvēšanas atkarībā no ārvalstu studiju pieredzes Jautāti par plāniem pēc pašreizējās studiju programmas absolvēšanas, 39% studentu
domā turpināt studijas Latvijā vai ārzemēs, bet vairums studentu (63%) plāno sākt strādāt
algotu darbu. Interesanti, ka sākt uzņēmējdarbību biežāk plāno tie studenti, kas
augstskolas laikā nav guvuši ārvalstu studiju pieredzi (12%). To vidū, kas studējuši 100 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI ārzemēs, par uzņēmējdarbību domā 9%. Pretēja attiecība vērojama planojot
darbu ārzemēs. To kā iespējamo soli pēc studiju beigšanas redz 15% ārzemēs studējušo un
10% to, kam nav šādas pieredzes. Neliela daļa šo respondentu pauž interesi par studijām
(5%) un darbu (14%) ārzemēs tālākā nākotnē. 60. attēls. Plāni pēc pašreizējās studiju programmas absolvēšanas atkarībā no ārvalstu
studiju pieredzes (%) 60. attēls. Plāni pēc pašreizējās studiju programmas absolvēšanas atkarībā no ārvalstu
studiju pieredzes (%)
Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. 38
20
33
29
5
9
15
9
67
31
17
31
21
49
4
9
21
14
48
60
55
14
45
5
2
7
10
13
68
33
0%
25%
50%
75%
100%
Pagaidām neesmu domājis par iespējām strādāt
ārzemēs
Plānoju doties strādāt uz ārzemēm tālākā nākotnē
Pagaidām neesmu domājis par studijām ārzemēs
Plānoju doties studēt uz ārzemēm tālākā nākotnē
Cita nodarbošanās
Pēc studijām atpūtīšos / nedarīšu neko/ ceļošu
Pēc studijām došos strādāt uz ārzemēm
Pēc studijām uzsākšu uzņēmējdarbību Latvijā
Pēc studijām uzsākšu / turpināšu strādāt algotu
darbu Latvijā
Pēc studijām turpināšu studijas Latvijā vai
ārzemēs
Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt 60. attēls. Plāni pēc pašreizējās studiju programmas absolvēšanas atkarībā no ārvalstu
studiju pieredzes (%) Jā, esmu studējis
Nē, bet plānoju studēt
Nē, un neplānoju to darīt Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. Bāze: visi respondenti, kuri snieguši atbildi uz jautājumu. 101 101 12. MĀJOKLIS STUD
Katrā Eurostudent pētījuma posmā tiek fiksēti konkrē
dzīves apstākļus studiju laikā, t.sk. mājokļa apstākļus,
noskaidrots, ar ko students dzīvo kopā semestra laikā t
līdz piektdienai. Dati liecina, ka gandrīz trešā daļa (32%) studentu dzīv
radiniekiem, vairāk nekā trešā daļa (37%) — kopā ar par
(10,4%) dzīvo kopā ar bērniem. Savukārt aptuveni kat
draugiem/citiem studentiem (21,8%), bet 13% dzīvo vie
Salīdzinot ar iepriekšējā Eurostudent posma rezultāti
nozīmīgas izmaiņas. Samazinājusies to studentu prop
dzīvo pie vecākiem (2013. 61. attēls. Ar ko dzīvo studiju laikā (%) 10
13
22
32
37
00
05
10
15
20
25
30
35
40
Dzīvo ar saviem vai partnera/-es…
Dzīvo viens
Dzīvo ar citu personu
Dzīvo ar vecākiem
Dzīvo ar partneri vai laulāto Bāze: visi respondenti. Iespējamas vairākas atbildes. 102 102 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 62. attēls. Kopmītnēs/dienesta viesnīcā dzīvojošo studentu īpatsvars (%) 62. attēls. Kopmītnēs/dienesta viesnīcā dzīvojošo studentu īpatsvars (%) Bāze: visi respondenti. 32
19
49
Dzīvo ar vecākiem
Dzīvo studentu kopmītnēs
Nedzīvo ar vecākiem, nedzīvo studentu kopmītnēs Bāze: visi respondenti. Mājvieta un apmierinātība ar dzīves apstākļiem ir diezgan svarīgs sekmīgu studiju
priekšnoteikums. Tāpēc katrā pētījuma posmā studenti tiek lūgti novērtēt, cik apmierināti
viņi ir ar savu mājokli. Vērtējums tiek sniegts 5 punktu skalā atbilstīgi šādiem faktoriem —
mājokļa apstākļi kopumā, izmaksas, atrašanās vieta un attālums/nokļūšanas laiks līdz
augstskolai. Mājvieta un apmierinātība ar dzīves apstākļiem ir diezgan svarīgs sekmīgu studiju
priekšnoteikums. Tāpēc katrā pētījuma posmā studenti tiek lūgti novērtēt, cik apmierināti
viņi ir ar savu mājokli. Vērtējums tiek sniegts 5 punktu skalā atbilstīgi šādiem faktoriem —
mājokļa apstākļi kopumā, izmaksas, atrašanās vieta un attālums/nokļūšanas laiks līdz
augstskolai. Kopumā 74% aptaujāto studentu ir apmierināti ar savu mājokļa apstākļiem studiju laikā. Mājokļa apstākļus augstāk novērtējuši studenti, kas dzīvo pie vecākiem (82%), no tiem,
kas nedzīvo ar vecākiem, ļoti apmierināti/apmierināti ir 71% studējošo. Salīdzinot pa
atsevišķām grupām, augstāki apmierinātības rādītāji raksturo arī tos studentus, kas dzīvo
kopā ar partneri/dzīvesbiedru (apmierināti — 81%), savukārt būtiski mazāk apmierināto ir
to studentu grupā, kuri dzīvo vieni paši (68%). Zemākie apmierinātības rādītāji raksturo
kopmītnēs dzīvojošos — ar apstākļiem kopmītnēs ir apmierināta mazāk nekā puse (45%)
tur dzīvojošo studentu, atbilstīgi katrs piektais students ir neapmierināts ar apstākļiem
tajās (23,8%). Apmierināti ar mājokļa izmaksām ir vidēji 59% studentu. Vairāk apmierināti ar izmaksām
ir tie studenti, kuri dzīvo pie vecākiem (62%). Salīdzinoši vismazāk apmierināto ir to vidū,
kas dzīvo vieni paši (58%). Šajā grupā ir arī lielāks īpatsvars neapmierināto (19%). Ar mājokļa atrašanās vietu apmierināti ir 80% no aptaujātajiem studentiem. Šajā
vērtējumā, salīdzinot ar diviem iepriekšējiem, iezīmējas pretēja tendence – biežāk
apmierināti ir tie studenti, kuri nedzīvo kopā ar vecākiem (82%), retāk – pie vecākiem
dzīvojošie (77%). Izvērtējot attālumu/ceļā patērēto laiku no mājokļa līdz augstskolai, apmierināti ir vidēji
65% studējošo, turklāt atšķirības starp studentiem, kas dzīvo ar vecākiem, un pārējiem ir
būtiskas. Studenta vecāku dzīvesvieta var atrasties tālāk un, iespējams, nokļūšana līdz
augstskolai prasa vairāk laika, tāpēc apmierinātības līmenis ir zemāks – apmierināti vidēji
58%, kamēr to vidū, kuri nedzīvo vecāku mājās, apmierināti ir 68% studējošo. Īpaši izceļas
kopmītnēs dzīvojošo studentu viedoklis, no kuriem 80% ir apmierināti ar nokļūšanu līdz
augstskolai. Izvērtējot attālumu/ceļā patērēto laiku no mājokļa līdz augstskolai, apmierināti ir vidēji
65% studējošo, turklāt atšķirības starp studentiem, kas dzīvo ar vecākiem, un pārējiem ir
būtiskas. 62. attēls. Kopmītnēs/dienesta viesnīcā dzīvojošo studentu īpatsvars (%) Studenta vecāku dzīvesvieta var atrasties tālāk un, iespējams, nokļūšana līdz
augstskolai prasa vairāk laika, tāpēc apmierinātības līmenis ir zemāks – apmierināti vidēji
58%, kamēr to vidū, kuri nedzīvo vecāku mājās, apmierināti ir 68% studējošo. Īpaši izceļas
kopmītnēs dzīvojošo studentu viedoklis, no kuriem 80% ir apmierināti ar nokļūšanu līdz
augstskolai. 103 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 63. attēls. Apmierinātība ar dažādiem mājokļa aspektiem (%)
Bāze: visi respondenti. 33
52
40
41
26
28
25
33
26
13
18
18
9
5
11
6
6
2
7
2
0%
25%
50%
75%
100%
Izmaksas
Atrašanās vieta
Attālums vai nokļūšanas laiks līdz augstskolai
Apstākļi kopumā
Ļoti apmierināts/-a
Nemaz nav apmierināts/-a 63. attēls. Apmierinātība ar dažādiem mājokļa aspektiem (%) 63. attēls. Apmierinātība ar dažādiem mājokļa aspektiem (%) Ļoti apmierināts/-a
Nemaz nav apmierināts/-a Bāze: visi respondenti. Atšķirības starp dažādām studentu grupām norāda uz to, ka dzīves apstākļu un
apmierinātības vērtējums lielā mērā ir atkarīgs no tā, kur/ar ko kopā students dzīvo. Statiski nozīmīgākās atšķirības atkarībā no tā, vai students dzīvo pie vecākiem vai nē,
novērojamas mājokļa apstākļu kopējā novērtējumā un apmierinātībā ar mājokļa atrašanās
vietu (attālumu līdz augstskolai). Atšķirības starp dažādām studentu grupām norāda uz to, ka dzīves apstākļu un
apmierinātības vērtējums lielā mērā ir atkarīgs no tā, kur/ar ko kopā students dzīvo. Statiski nozīmīgākās atšķirības atkarībā no tā, vai students dzīvo pie vecākiem vai nē,
novērojamas mājokļa apstākļu kopējā novērtējumā un apmierinātībā ar mājokļa atrašanās
vietu (attālumu līdz augstskolai). 64. attēls. Apmierinātība ar mājokli atkarībā no tā, vai respondents dzīvo vai nedzīvo
ar vecākiem (%)
Bāze: visi respondenti. 39
31
49
54
54
36
33
43
23
28
28
28
28
35
25
25
27
26
16
12
13
20
21
16
8
9
5
5
4
7
13
9
4
7
2
2
1
2
8
6
0%
25%
50%
75%
100%
Dzīvo ar
vecākiem
Nedzīvo ar
vecākiem
Dzīvo ar
vecākiem
Nedzīvo ar
vecākiem
Dzīvo ar
vecākiem
Nedzīvo ar
vecākiem
Dzīvo ar
vecākiem
Nedzīvo ar
vecākiem
Izmaksas
Atrašanās vieta
Apstākļi kopumā
Attālums vai nokļūšanas
laiks līdz augstskolai
Ļoti apmierināts/-a
Nemaz neesmu apmierināts/-a 64. attēls. Apmierinātība ar mājokli atkarībā no tā, vai respondents dzīvo vai nedzīvo
ar vecākiem (%) Bāze: visi respondenti. Ļoti apmierināts/-a
Nemaz neesmu apmierināts/-a Bāze: visi respondenti. 104 13.
LĪDZDALĪBA UN NĀKOTNES PLĀNI Studentu sociālā un politiskā aktivitāte nav Eurostudent starptautiskā pētījuma fokusā,
tādēļ šiem jautājumiem veltīta salīdzinoši mazāka uzmanība. Šajā pētījuma posmā
līdzdalību un sociālo aktivitāti raksturo divi rādītāji — iesaiste dažādās sociālās vai
politiskās aktivitātēs, lai ietekmētu sabiedrībā notiekošo, un līdzdalība organizācijās. Sociālās un politiskās aktivitātes mērījumam studentiem tika piedāvātas 10 tipiskāko
aktivitāšu formas, lūdzot atzīmēt, vai un kurās tie piedalījušies pēdējo 12 mēnešu laikā. Salīdzinājumā ar iepriekšējo posmu studentu sociālā un politiskā aktivitāte kopumā
būtiski nav mainījusies. Iepriekšējā posmā studentu līdzdalības mērījumam tika izmantota
detalizētāka skala, tomēr iesaistes un aktivitātes līmenis ir salīdzināms. Kopš iepriekšējā
pētījuma nedaudz samazinājusies pasīvo studentu daļa (no 45% līdz 42%), kuri gada laikā
ne reizi nav iesaistījušies nevienā no minētajām aktivitātēm. Neskatoties uz to, katrā no
atsevišķiem aktivitāšu veidiem līdzdalības rādītāji kopš 2013. gada ir kritušies. Nozīmīgi mazinājusies to studentu daļa (no 28% līdz 16%), kuri pēdējā gada laikā
apmeklējuši politisku vai sociālu jautājumu apspriešanai veltītus pasākums. Pārsteidz, ka
ievērojami retāk studenti ievietojuši politiska rakstura materiālus internetā (iesaiste
aktivitātē mazinājusies no 19% līdz 12%). Nozīmīgi mazāka daļa studentu (5%)
piedalījusies zibakcijās. Vispopulārākā aktivitāte, kurā gan 2013. gadā, gan 2017. gadā iesaistījies katrs piektais
students (21%), ir petīcijas parakstīšana. Diezgan liela daļa studentu (19%) ir
kontaktējušies ar kādu politiķi, valdības vai pašvaldības amatpersonu. No pārējām
aktivitātēm, kurās gada laikā piedalījušies vismaz 10% studentu, minamas šādas: noteiktu
produktu boikots vai iegāde (10%), pasākumu, kas saistīti ar kādu politisku vai sociālu
jautājumu, apmeklējums (16%), raksta sagatavošana, piemēram, studentu avīzei,
organizācijas preses izdevumam, internetā vai blogā (10%), politiska rakstura materiālu
ievietošana internetā (arī tādās sociālo tīklu vietnēs kā Draugiem.lv, Youtube, Twitter,
Facebook) (12%). Savukārt aktivitātes, kuras šobrīd ir mazāk populāras studentu vidū, par ko liecina gan
iesaistes pakāpes samazināšanās, gan tas, ka mazāk nekā 10% studējošo piedalījušies
kādā no tām, ir šādas: piedalīšanās sankcionētā piketā, demonstrācijā (6%), līdzdalība
zibakcijā/flešmobā (5%), parakstu vākšana (4%). 105 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 17. tabula. Aktivitātes, kurās studenti piedalījušies pēdējo 12 mēnešu laikā:
2013. gads un 2017. gads (%)
2013
2017
Kontaktējāties ar kādu politiķi, valdības vai pašvaldības amatpersonu
23
19
Parakstījāt petīciju (t.sk. 13.
LĪDZDALĪBA UN NĀKOTNES PLĀNI Dalība sabiedriskajās organizācijās: 2013. gads un 2017. gads (%)
2013
2017
Studentu organizācija (korporācija, biedrība, pašpārvalde)
8,1
10,0
Jaunatnes organizācija (t.sk. jaunatnes padome)
4,0
3,6
Politiska partija, kustība, politiskas partijas jaunatnes nodaļa
1,0
2,3
Reliģiska vai baznīcas organizācija
3,7
4,4
Profesionālā asociācija vai biedrība, studentu zinātniskā biedrība
3,1
4,9
Vides organizācija, dzīvnieku aizsardzības organizācija
1,3
2,5
Nacionālās kultūras biedrība (piemēram, diasporas vai etniskās minoritātes
organizācija)
0,7
0,9
Sporta klubs
21,6
28
Sociālās palīdzības organizācija
2,1
3,5
Cita
2,6
2,4
Bāze: visi respondenti. Pēc sociālās un politiskās aktivitātes, kā arī līdzdalības organizācijās nav statistiski
nozīmīgu atšķirību starp studentiem un studentēm. Nozīmīgākas ir atšķirības pēc vecuma. Lai arī kopumā sociālā un politiskā aktivitāte, palielinoties studentu vecumam, mazinās,
sakarība nav lineāra. Visaktīvākie ir studenti vecumā līdz 21 gadam. Grupā no 22 līdz 24
gadiem aktivitāte nozīmīgi mazinās. Savukārt salīdzinoši augstāka tā ir grupā no 25 līdz 29
gadu vecumam, lai pēc tam strauji mazinātos pēc 30 gadu vecuma. Līdzdalība organizāciju
darbā, dalība kolektīvos korelē ar vecumu un mazinās, palielinoties vecumam. 18. tabula. Dalība sabiedriskajās organizācijās: 2013. gads un 2017. gads (%)
2013
2017
Studentu organizācija (korporācija, biedrība, pašpārvalde)
8,1
10,0
Jaunatnes organizācija (t.sk. jaunatnes padome)
4,0
3,6
Politiska partija, kustība, politiskas partijas jaunatnes nodaļa
1,0
2,3
Reliģiska vai baznīcas organizācija
3,7
4,4
Profesionālā asociācija vai biedrība, studentu zinātniskā biedrība
3,1
4,9
Vides organizācija, dzīvnieku aizsardzības organizācija
1,3
2,5
Nacionālās kultūras biedrība (piemēram, diasporas vai etniskās minoritātes
organizācija)
0,7
0,9
Sporta klubs
21,6
28
Sociālās palīdzības organizācija
2,1
3,5
Cita
2,6
2,4
Bāze visi respondenti 18. tabula. Dalība sabiedriskajās organizācijās: 2013. gads un 2017. gads (%) Pēc sociālās un politiskās aktivitātes, kā arī līdzdalības organizācijās nav statistiski
nozīmīgu atšķirību starp studentiem un studentēm. Nozīmīgākas ir atšķirības pēc vecuma. Lai arī kopumā sociālā un politiskā aktivitāte, palielinoties studentu vecumam, mazinās,
sakarība nav lineāra. Visaktīvākie ir studenti vecumā līdz 21 gadam. Grupā no 22 līdz 24
gadiem aktivitāte nozīmīgi mazinās. Savukārt salīdzinoši augstāka tā ir grupā no 25 līdz 29
gadu vecumam, lai pēc tam strauji mazinātos pēc 30 gadu vecuma. Līdzdalība organizāciju
darbā, dalība kolektīvos korelē ar vecumu un mazinās, palielinoties vecumam. Skatoties pēc studiju programmām, zināmā mērā pārsteidz, ka sociāli un politiski aktīvāki,
salīdzinot ar pārējiem, ir garā cikla profesionālās izglītības programmu studenti
(atgādināsim, ka tieši šajā programmā bija vislielākais īpatsvars studentu, kas pieder
augstas intensitātes studiju grupai). Arī bakalaura programmā studējošo vidū ir lielāka
aktīvo studentu daļa salīdzinājumā ar citām programmām. 13.
LĪDZDALĪBA UN NĀKOTNES PLĀNI internetā)
21
21
Piedalījāties piketā, mītiņā, demonstrācijā
7
6
Boikotējāt vai pretēji — iegādājāties noteiktus produktus
12
10
Apmeklējāt pasākumu, kas bija saistīts ar kādu politisku vai sociālu jautājumu
28
16
Vācāt parakstus
7
4
Rakstījāt rakstu, piemēram, studentu avīzei, organizācijas preses izdevumam, internetā
vai blogā
14
10
Piedalījāties zibakcijā/flešmobā
10
5
Ievietojāt politiska rakstura materiālus internetā (arī tādās sociālo tīklu vietnēs kā
Draugiem.lv, Youtube, Twitter, Facebook)
19
12
Bāze: visi respondenti. tabula. Aktivitātes, kurās studenti piedalījušies pēdējo 12 mēnešu laikā:
2013. gads un 2017. gads (%) Bāze: visi respondenti. Stabilāks studentu sociāli politiskās aktivitātes rādītājs ir studentu iesaiste un līdzdalība
sabiedriskās organizācijās. Jāpiebilst, ka, lai mazinātu anketas aizpildīšanai nepieciešamo
laiku, vairāki jautājumi, kas nav tieši saistīti ar studentu dzīves apstākļiem, ir izslēgti,
pārformulēti, mazinot skalas precizitāti utt. Tas sakāms arī par šo līdzdalības mērījumu. Iepriekšējā posmā tika noskaidrota ne tikai līdzdalība organizācijā, bet arī respondenta
līdzdalības statuss (biedrs, atbalstītājs), līdzdalības vēsture (vai agrāk bijis biedrs utt.). Pēdējā posmā netika detalizēti jautāts par dažādām studentu organizācijām, fiksēts tikai
līdzdalības pašreizējais statuss — ir biedrs vai aktīvi darbojas. Salīdzinot datus un runājot
par izmaiņām vienā vai citā rādītājā, ir jāatceras, ka metodoloģiskas izmaiņas var ietekmēt
mērījumus. Tomēr studentu līdzdalības tendences varam izvērtēt. Atbilstoši 2017. gada aptaujas datiem puse studentu (50%) ir vai nu kādas organizācijas
biedri, vai darbojas kādā kolektīvā, biedrībā, klubā. Uzreiz gan jānorāda, ka, līdzīgi kā
2013. gadā, lielākā daļa saistīti ar sporta klubu. No organizāciju veidiem vai kolektīviem,
kuros darbojas vismaz 10% studentu, minami divi — studentu organizācijas (korporācijas,
pašpārvalde) un kori un citi radošie kolektīvi (12,8%). Līdzdalību mākslinieciskās
pašdarbības kolektīvos un radošos kolektīvos, kuros darbojas vismaz katrs 10. students,
diemžēl nevaram salīdzināt ar iepriekšējā posma datiem, kad tika jautāts tikai par
studentu kolektīviem. Protams, ka līdzdalība nevalstiskās organizācijās ir ievērojami
mazskaitlīgāka. Neskatoties uz metodoloģiskajām izmaiņām atbilžu formulējumos,
lielākajā daļā studentu līdzdalības rādītāju pēdējo 4 gadu laikā nav notikušas būtiskas
izmaiņas, tomēr vērojams neliels pieaugums. Līdzīgi kā iepriekš, visvairāk studentus
piesaista sporta klubi un studentu līdzdalība tajos pat pieaugusi no 21 līdz 28%. Nedaudz palielinājies studentu organizācijās iesaistīto īpatsvars, vairāk studentu ir dažādu
profesionālo asociāciju biedri. Pieaugusi līdzdalība reliģiskajās vai baznīcas organizācijās,
vides organizācijās. Lai arī izmaiņas ir mērāmas tikai dažu procentu intervālā, tomēr 106 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI jānorāda, ka divkārtīgi palielinājies studentu skaits, kas ir kādas politiskās partijas vai
partijas jaunatnes nodaļas biedri. partijas jaunatnes nodaļas biedri. 18. tabula. 13.
LĪDZDALĪBA UN NĀKOTNES PLĀNI Tāpat dažādu organizāciju biedru īpatsvars lielāks ir garā cikla profesionālās programmas
un bakalaura programmas studentu vidū. 107 107 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 19. tabula. Sociālā un politiskā aktivitāte dažādās studējošo grupās (rindu %)
Nav iesaistījušies nevienā
no aktivitātēm
Piedalījušies kādā no
aktivitātēm
Sievietes
42,0
58,0
Vīrieši
43,5
56,5
Līdz 21 g.v. 37,5
62,5
22–24 g.v. 45,9
54,1
25–29 g.v. 42,6
57,4
30 g.v. un vecāki
46,8
53,2
Koledžas studenti
49,3
50,7
Bakalaura programmas studenti
39,1
60,9
Maģistra programmu studenti
47,1
52,9
Garā cikla profesionālās programmas studenti
36,5
63,5
Bāze: visi respondenti
20. tabula. Dalība organizācijās un mākslinieciskās pašdarbības, radošajos kolektī-
vos dažādās studējošo grupās (rindu %)
Nav nevienas organizācijas /
kolektīva biedrs
Ir organizācijas vai radoša
kolektīva biedrs
Sievietes
50,4
49,6
Vīrieši
48,2
51,8
Līdz 21 g.v. 46,0
54,0
22–24 g.v. 48,7
51,3
25–29 g.v. 50,6
49,4
30 g.v. un vecāki
57,2
42,7
Koledžas studenti
50,3
49,7
Bakalaura programmas studenti
48,0
52,0
Maģistra programmu studenti
51,9
48,1
Garā cikla profesionālās programmas studenti
47,8
52,2
Bāze: visi respondenti. Eurostudent V aptaujā absolūtais vairākums studentu, kuri nebija iesaistījušies nevienā
aktivitātē vai organizācijā, kā galveno iemeslu tam minējuši laika trūkumu, bet kā nākamo
iemeslu — intereses trūkumu. Šīs aptaujas dati neapstiprina pirmo argumentu. Ja
salīdzinām sociāli politisko aktivitāti un arī līdzdalību dažādās studentu grupās ar atšķirīgu
studiju intensitāti un nodarbinātības statusu mācību laikā, tad redzams, ka atšķirības nav 19. tabula. Sociālā un politiskā aktivitāte dažādās studējošo grupās (rindu %)
Nav iesaistījušies nevienā
no aktivitātēm
Piedalījušies kādā no
aktivitātēm
Sievietes
42,0
58,0
Vīrieši
43,5
56,5
Līdz 21 g.v. 37,5
62,5
22–24 g.v. 45,9
54,1
25–29 g.v. 42,6
57,4
30 g.v. un vecāki
46,8
53,2
Koledžas studenti
49,3
50,7
Bakalaura programmas studenti
39,1
60,9
Maģistra programmu studenti
47,1
52,9
Garā cikla profesionālās programmas studenti
36,5
63,5 19. tabula. Sociālā un politiskā aktivitāte dažādās studējošo grupās (rindu %)
Nav iesaistījušies nevienā
no aktivitātēm
Piedalījušies kādā no
aktivitātēm
Sievietes
42,0
58,0
Vīrieši
43,5
56,5
Līdz 21 g.v. 37,5
62,5
22–24 g.v. 45,9
54,1
25–29 g.v. 42,6
57,4
30 g.v. un vecāki
46,8
53,2
Koledžas studenti
49,3
50,7
Bakalaura programmas studenti
39,1
60,9
Maģistra programmu studenti
47,1
52,9
Garā cikla profesionālās programmas studenti
36,5
63,5 Sociālā un politiskā aktivitāte dažādās studējošo grupās (rindu %) 19. tabula. 20. tabula. 13.
LĪDZDALĪBA UN NĀKOTNES PLĀNI Dalība organizācijās un mākslinieciskās pašdarbības, radošajos kolektī-
vos dažādās studējošo grupās (rindu %)
Nav nevienas organizācijas /
kolektīva biedrs
Ir organizācijas vai radoša
kolektīva biedrs
Sievietes
50,4
49,6
Vīrieši
48,2
51,8
Līdz 21 g.v. 46,0
54,0
22–24 g.v. 48,7
51,3
25–29 g.v. 50,6
49,4
30 g.v. un vecāki
57,2
42,7
Koledžas studenti
50,3
49,7
Bakalaura programmas studenti
48,0
52,0
Maģistra programmu studenti
51,9
48,1
Garā cikla profesionālās programmas studenti
47,8
52,2
Bāze: visi respondenti. 20. tabula. Dalība organizācijās un mākslinieciskās pašdarbības, radošajos kolektī-
vos dažādās studējošo grupās (rindu %)
Nav nevienas organizācijas /
kolektīva biedrs
Ir organizācijas vai radoša
kolektīva biedrs
Sievietes
50,4
49,6
Vīrieši
48,2
51,8
Līdz 21 g.v. 46,0
54,0
22–24 g.v. 48,7
51,3
25–29 g.v. 50,6
49,4
30 g.v. un vecāki
57,2
42,7
Koledžas studenti
50,3
49,7
Bakalaura programmas studenti
48,0
52,0
Maģistra programmu studenti
51,9
48,1
Garā cikla profesionālās programmas studenti
47,8
52,2
Bāze: visi respondenti. Eurostudent V aptaujā absolūtais vairākums studentu, kuri nebija iesaistījušies nevienā
aktivitātē vai organizācijā, kā galveno iemeslu tam minējuši laika trūkumu, bet kā nākamo
iemeslu — intereses trūkumu. Šīs aptaujas dati neapstiprina pirmo argumentu. Ja
salīdzinām sociāli politisko aktivitāti un arī līdzdalību dažādās studentu grupās ar atšķirīgu
studiju intensitāti un nodarbinātības statusu mācību laikā, tad redzams, ka atšķirības nav
nozīmīgas. Turklāt šīs nelielās atšķirības dažos gadījumos norāda uz pretēju tendenci —
gan strādājošie studenti, gan augstā intensitātē studējošo grupai piederīgie (tātad tie, kas
velta vairāk laika studijām) ir aktīvāki arī sociāli politiskās izpausmēs un nedaudz biežāk
nekā pārējie ir kādu organizāciju vai kolektīvu biedri. 20. tabula. Dalība organizācijās un mākslinieciskās pašdarbības, radošajos kolektī-
vos dažādās studējošo grupās (rindu %)
Nav nevienas organizācijas /
kolektīva biedrs
Ir organizācijas vai radoša
kolektīva biedrs
Sievietes
50,4
49,6
Vīrieši
48,2
51,8
Līdz 21 g.v. 46,0
54,0
22–24 g.v. 48,7
51,3
25–29 g.v. 50,6
49,4
30 g.v. un vecāki
57,2
42,7
Koledžas studenti
50,3
49,7
Bakalaura programmas studenti
48,0
52,0
Maģistra programmu studenti
51,9
48,1
Garā cikla profesionālās programmas studenti
47,8
52,2
Bāze: visi respondenti. Eurostudent V aptaujā absolūtais vairākums studentu, kuri nebija iesaistījušies nevienā
aktivitātē vai organizācijā, kā galveno iemeslu tam minējuši laika trūkumu, bet kā nākamo
iemeslu — intereses trūkumu. Šīs aptaujas dati neapstiprina pirmo argumentu. Ja
salīdzinām sociāli politisko aktivitāti un arī līdzdalību dažādās studentu grupās ar atšķirīgu
studiju intensitāti un nodarbinātības statusu mācību laikā, tad redzams, ka atšķirības nav
nozīmīgas. 13.
LĪDZDALĪBA UN NĀKOTNES PLĀNI Sociālā un politiskā aktivitāte atkarībā no studiju intensitātes (rindu %)
Nav iesaistījušies
nevienā no aktivitātēm
Piedalījušies kādā no
aktivitātēm
Augsta studiju intensitāte
41,9
58,1
Vidēja
41,4
58,6
Zema studiju intensitāte
45,8
54,2
Semestra laikā strādā algotā darbā
42,0
58,0
Semestra laikā nestrādā
43,6
56,4 21. tabula. Sociālā un politiskā aktivitāte atkarībā no studiju intensitātes (rindu %)
Nav iesaistījušies
nevienā no aktivitātēm
Piedalījušies kādā no
aktivitātēm
Augsta studiju intensitāte
41,9
58,1
Vidēja
41,4
58,6
Zema studiju intensitāte
45,8
54,2
Semestra laikā strādā algotā darbā
42,0
58,0
Semestra laikā nestrādā
43,6
56,4 Sociālā un politiskā aktivitāte atkarībā no studiju intensitātes (rindu %) 21. tabula. 22. tabula. Dalība sabiedriskajās organizācijās atkarībā no studiju intensitātes un no-
darbinātības (rindu %)
Nav iesaistījušies
nevienā no aktivitātēm
Piedalījušies kādā no
aktivitātēm
Augsta studiju intensitāte
51,3
48,7
Vidēja
47,4
52,6
Zema studiju intensitāte
52,1
47,9
Semestra laikā strādā algotā darbā
48,4
51,6
Semestra laikā nestrādā
51,0
49,0
Bāze: visi respondenti. 22. tabula. Dalība sabiedriskajās organizācijās atkarībā no studiju intensitātes un no-
darbinātības (rindu %)
Nav iesaistījušies
nevienā no aktivitātēm
Piedalījušies kādā no
aktivitātēm
Augsta studiju intensitāte
51,3
48,7
Vidēja
47,4
52,6
Zema studiju intensitāte
52,1
47,9
Semestra laikā strādā algotā darbā
48,4
51,6
Semestra laikā nestrādā
51,0
49,0
Bāze: visi respondenti. a. Dalība sabiedriskajās organizācijās atkarībā no studiju intensitātes un no-
darbinātības (rindu %) 13.
LĪDZDALĪBA UN NĀKOTNES PLĀNI Turklāt šīs nelielās atšķirības dažos gadījumos norāda uz pretēju tendenci —
gan strādājošie studenti, gan augstā intensitātē studējošo grupai piederīgie (tātad tie, kas
velta vairāk laika studijām) ir aktīvāki arī sociāli politiskās izpausmēs un nedaudz biežāk
nekā pārējie ir kādu organizāciju vai kolektīvu biedri. Bāze: visi respondenti. Eurostudent V aptaujā absolūtais vairākums studentu, kuri nebija iesaistījušies nevienā
aktivitātē vai organizācijā, kā galveno iemeslu tam minējuši laika trūkumu, bet kā nākamo
iemeslu — intereses trūkumu. Šīs aptaujas dati neapstiprina pirmo argumentu. Ja
salīdzinām sociāli politisko aktivitāti un arī līdzdalību dažādās studentu grupās ar atšķirīgu
studiju intensitāti un nodarbinātības statusu mācību laikā, tad redzams, ka atšķirības nav
nozīmīgas. Turklāt šīs nelielās atšķirības dažos gadījumos norāda uz pretēju tendenci —
gan strādājošie studenti, gan augstā intensitātē studējošo grupai piederīgie (tātad tie, kas
velta vairāk laika studijām) ir aktīvāki arī sociāli politiskās izpausmēs un nedaudz biežāk
nekā pārējie ir kādu organizāciju vai kolektīvu biedri. Eurostudent V aptaujā absolūtais vairākums studentu, kuri nebija iesaistījušies nevienā
aktivitātē vai organizācijā, kā galveno iemeslu tam minējuši laika trūkumu, bet kā nākamo
iemeslu — intereses trūkumu. Šīs aptaujas dati neapstiprina pirmo argumentu. Ja
salīdzinām sociāli politisko aktivitāti un arī līdzdalību dažādās studentu grupās ar atšķirīgu
studiju intensitāti un nodarbinātības statusu mācību laikā, tad redzams, ka atšķirības nav
nozīmīgas. Turklāt šīs nelielās atšķirības dažos gadījumos norāda uz pretēju tendenci —
gan strādājošie studenti, gan augstā intensitātē studējošo grupai piederīgie (tātad tie, kas
velta vairāk laika studijām) ir aktīvāki arī sociāli politiskās izpausmēs un nedaudz biežāk
nekā pārējie ir kādu organizāciju vai kolektīvu biedri. 108 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI
21. tabula. Sociālā un politiskā aktivitāte atkarībā no studiju intensitātes (rindu %)
Nav iesaistījušies
nevienā no aktivitātēm
Piedalījušies kādā no
aktivitātēm
Augsta studiju intensitāte
41,9
58,1
Vidēja
41,4
58,6
Zema studiju intensitāte
45,8
54,2
Semestra laikā strādā algotā darbā
42,0
58,0
Semestra laikā nestrādā
43,6
56,4
Bāze: visi respondenti. 22. tabula. Dalība sabiedriskajās organizācijās atkarībā no studiju intensitātes un no-
darbinātības (rindu %)
Nav iesaistījušies
nevienā no aktivitātēm
Piedalījušies kādā no
aktivitātēm
Augsta studiju intensitāte
51,3
48,7
Vidēja
47,4
52,6
Zema studiju intensitāte
52,1
47,9
Semestra laikā strādā algotā darbā
48,4
51,6
Semestra laikā nestrādā
51,0
49,0
Bāze: visi respondenti. LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI 21. tabula. 13.1. Nākotnes plāni Studentu nākotnes plāni attiecībā uz studiju turpināšanu pēc pašreizējo studiju
programmas pabeigšanas jau aplūkoti sadaļā «Pāreja uz augstāko izglītību». Nobeigumā
raksturosim pašreizējo studentu skatījumu uz nākotni nedaudz plašākā kontekstā. Kā jau
iepriekš minēts, kopumā studijas plāno turpināt 43% no visiem studentiem, ārkārtīgi liela
ir to studentu daļa, kuri to vēl nav izlēmuši (41%), bet jēgpilni ir raudzīties uz šiem plāniem
atkarībā no šī brīža studiju līmeņa. Citās programmās/līmeņos studijas plāno turpināt nedaudz mazāk kā puse (45%) no
1. līmeņa profesionālās augstākās izglītības programmā studējošajiem. Bakalaura
programmas līmenī studējošo plāni ir diezgan līdzīgi — studijas plāno turpināt vairāk nekā
puse — 54% akadēmiskās bakalaura programmas studentu un 46% profesionālās
bakalaura programmas studentu. Profesionālās bakalaura programmas studenti biežāk
nekā akadēmiskās programmas studenti (atbilstīgi 12% : 7%) ir pieņēmuši lēmumu
neturpināt studijas augstākā līmenī vai citā programmā. Citās programmās/līmeņos studijas plāno turpināt nedaudz mazāk kā puse (45%) no
1. līmeņa profesionālās augstākās izglītības programmā studējošajiem. Bakalaura
programmas līmenī studējošo plāni ir diezgan līdzīgi — studijas plāno turpināt vairāk nekā
puse — 54% akadēmiskās bakalaura programmas studentu un 46% profesionālās
bakalaura programmas studentu. Profesionālās bakalaura programmas studenti biežāk
nekā akadēmiskās programmas studenti (atbilstīgi 12% : 7%) ir pieņēmuši lēmumu
neturpināt studijas augstākā līmenī vai citā programmā. Arī no maģistra līmeņa programmu studentiem salīdzinoši liela daļa (27% akadēmiskās
maģistra programmas studentu un 24% profesionālās bakalaura programmas studentu)
pēc pašreizējo studiju pabeigšanas plāno turpināt mācības. Maģistrantūras programmā,
jo īpaši profesionālā maģistra studiju programmā, ir ārkārtīgi augsts studējošo īpatsvars,
kuri vēl nav izlēmuši turpināt studijas vai nē (atbilstīgi 47% un 49% nav pieņēmuši 109 LU Filozofijas un socioloģijas institūts | EUROSTUDENT VI lēmumu). Vispārliecinātākie par studiju turpināšanu uzreiz pēc pašreizējo studiju
pabeigšanas ir garā cikla 2. līmeņa profesionālās augstākās izglītības programmas
studenti (69%). Tā kā izlasē šo programmu pārstāv veselības aprūpes jomas studenti, tad
viņi jau zina, ka turpinās studiju gaitas rezidentūrā u.tml. 65. attēls. Studiju plāni pēc pašreizējo studiju beigšanas atkarībā no studiju līmeņa (%)
Bāze: visi respondenti. 29
38
30
12
10
69
28
16
17
17
15
14
3
15
14
7
12
26
27
8
16
41
38
41
47
49
20
41
0%
25%
50%
75%
100%
1. līmeņa profesionālās augstākās izglītības programma
Akadēmiskā bakalaura studiju programma
Profesionālā bakalaura studiju programma
Akadēmiskā maģistra studiju programma
Profesionālā maģistra studiju programma / 2. līmeņa
profesionālās augstākās izglītības programma
Garā cikla 2. 13.1. Nākotnes plāni līmeņa profesionālā augstākā izglītība
Visi studenti
Plāno turpināt tuvākā gada laikā
Plāno turpināt ne ātrāk kā gadu pēc beigšanas
Neplāno turpināt
Nav izlēmuši 65. attēls. Studiju plāni pēc pašreizējo studiju beigšanas atkarībā no studiju līmeņa (%) 65. attēls. Studiju plāni pēc pašreizējo studiju beigšanas atkarībā no studiju līmeņa Taujāti konkrēti par dzīves plāniem pēc pašreizējo studiju beigšanas, absolūtais vairākums
(89%) studentu plāno uzsākt vai turpināt strādāt, no tiem 13% plāno uzsākt
uzņēmējdarbību un tikpat liela daļa (13%) — doties strādāt uz ārzemēm. Atbildot uz šo
jautājumu, plānu turpināt studēt apstiprina 39% aptaujāto. Aptuveni 8% studentu gribētu
atpūsties, nedarīt neko, bieži pierakstot paskaidrojumu, ka vēlētos, piemēram, ceļot
u.tml. Atklātajā atbildē, ko snieguši 3% aptaujāto, visbiežāk norādīts: dzemdēšu vai
audzināšu bērnus, nodošos ģimenes dzīvei u.tml. 66. attēls. Plāni pirmajam gadam pēc pašreizējo studiju beigšanas (%) 66. attēls. Plāni pirmajam gadam pēc pašreizējo studiju beigšanas (%)
Bāze: visi respondenti. Iespējamas vairākas atbildes. 3
8
13
13
39
63
0
20
40
60
80
Darīs kaut ko citu
Atpūtīsies / nedarīs neko
Uzsāks uzņēmējdarbību
Dosies strādāt uz ārzemēm
Turpinās studijas Latvijā vai ārzemēs
Uzsāks / turpinās strādāt algotu… Raugoties tālākā nākotnē, iespēju doties studēt uz ārzemēm ir apsvēruši 18%, bet iespēju
doties strādāt uz ārzemēm — 19% studējošo. 110
|
https://openalex.org/W4293126477
|
https://www.scielo.br/j/rbgg/a/5jJLzbcZR4bZMS6J8Hz88cx/?lang=en&format=pdf
|
English
| null |
Older people and life conditions: analysis from household budget research, Viçosa (MG) Brazil, 2019-2020
|
Revista brasileira de geriatria e gerontologia
| 2,021
|
cc-by
| 6,005
|
Keywords: Older People.
Life conditions. Income. Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Vania Eugênia da Silva1
Karla Maria Damiano Teixeira1
Jader Fernandes Cirino2
ID
ID
ID No funding was received in relation to the present study. The authors declare there are no conflicts of interest in relation to the present study. 1
Universidade Federal de Viçosa, Departamento de Economia Doméstica, Programa de Pós-Graduação
em Economia Doméstica. Viçosa, MG, Brasil.
2
Universidade Federal de Viçosa, Departamento de Economia. Programa de Pós-Graduação em Economia.
Viçosa, MG, Brasil. 1
Universidade Federal de Viçosa, Departamento de Economia Doméstica, Programa de Pós-Graduação
em Economia Doméstica. Viçosa, MG, Brasil. 2
Universidade Federal de Viçosa, Departamento de Economia. Programa de Pós-Graduação em Economia.
Viçosa, MG, Brasil. Older people and life conditions: analysis from household budget
research, Viçosa (MG) Brazil, 2019-2020 1 of 12 Abstract Objective: The study aimed to identify the socioeconomic profile of the older population
in Viçosa, MG, Brazil, and their living condition and verify the influence of the age,
sex and education factors on the income of family members and the older people in
particular. Methods: This is a cross-sectional and descriptive study, based on data from
the Household Budget Survey (POF) (2019-2020), from the Department of Economics
at the Federal University of Viçosa (DEE-UFV). Three hundred and seven households
participated in the study and the sample was composed by 167 older people. Results: Most
of the older people were female, with an average age of 69.8 (±8.07) years old, education
level referring to complete high school and retired (74.90%). As to their income, most
of them had R$2,914.10 on average, which is above the range considered low by the
Brazilian Government Registry named “Cadastro Único”. They also had the retirement
as their exclusive income. The older people were satisfied with their living conditions,
especially in regard to housing. The variables gender, age, and education influenced the
family members’ income. But the age factor did not influence the older people’s income
when it was singularly analyzed. Conclusions: The studied sample had more satisfactory
and favorable income, schooling and living conditions than the older population in the
country when compared to studies that used data from the national POF. However,
this reality could be linked to the existence of the UFV in the city where great part of
the population studies and/or works therefore achieving better educational levels and
earning higher incomes once education has a positive impact on the access to better
jobs and wages. No funding was received in relation to the present study. Correspondence
Vania Eugênia da Silva
vania.eugenia@ufv.br Received: November 12, 2021
Approved: February 14, 2022 Received: November 12, 2021
Approved: February 14, 2022 Received: November 12, 2021
Approved: February 14, 2022 http://dx.doi.org/10.1590/1981-22562021024.210229.en http://dx.doi.org/10.1590/1981-22562021024.210229.en Older people and life conditions in Viçosa (MG) Brazil INTRODUCTION that can influence their income, since it is one of
the main determinants of consumption. Greater longevity leads to changes in older
people’s consumption profile, generating demands
for differentiated goods and services1, with prices
and brands that meet their needs2. Contemporary
older people present a different profile from the
older people of decades ago, as they are more active
and consumerist, being considered a new segment
of the population, with market potential3. Knowing the living conditions of the older person
is important to understand the scenario in which
they are inserted, with a view to implementing public
and social policies that support this segment. Such
a survey can be an instrument in the formulation
of policies, especially in the areas of health, leisure,
education and transport, considering the needs of
the older people and the reality experienced. In addition to living longer, the older person
lives healthier, works longer, has greater purchasing
power and consumes more, both out of necessity
and for pleasure and fun4. In terms of literature, few studies were found
nationwide, such as Almeida and Kassouf6, Melo
et al.7 and Melo et al.2. These studies evaluated the
socioeconomic characteristics of the Brazilian older
population, while the present study was carried out
with the older population of Viçosa (MG), using
data from the local Family Budget Survey (POF),
which more accurately portrays the reality of the
municipality. At the same time, it is necessary to consider
that older people do not constitute a homogeneous
group, differing in terms of income, education, sex,
race, cohort, among others. Thus, in addition to
the heterogeneity evidenced by sex and age factors,
Camarano and Pasinato5 point out that the older
people age group is composed of individuals who
have total autonomy, contribute to socioeconomic
development and play relevant roles in the family,
as well as those who are unable to cope with daily
activities and who have no income. METHOD This is a cross-sectional and exploratory-
descriptive study based on data from the POF (2019-
2020), carried out by the Department of Economics
(DEE) of the Federal University of Viçosa (UFV), in
which data from families that included older people
in their composition were analyzed. Allied to this issue, there is a concern about the
older people’s expenses in view of the demands
imposed by aging. The older people’s income is not
always able to meet their needs with food, housing,
health, among others6, especially in cases where they
are responsible for or the ones who contribute most
financially to the family unit. In the city of Viçosa (MG), the Municipal Human
Development Index (IDHM) was 0.778 in 2010. The
value, considered high (between 0.700 and 0.799), was
reached by the contribution of the longevity (0.883),
income (0.758) and education (0.696) factors8. The
municipality hosts the UFV, which allows the older
people who were part of its technical-administrative
or teaching staff to have access to a better income
when compared to older people retirees from other
sectors. Therefore, greater longevity, linked to a
greater number of older people, will impact public
policies, reflecting on living conditions, economy,
consumption, among others. In turn, consumption
is influenced by factors such as income, age,
preferences, habits and culture2. The POF obtains general information about
households, families and people, consumption habits,
household expenses and incomes, having households
as a collection unit9 and, as a function, updating
the basic consumption basket and obtaining new
weighting structures for the price index calculation. Thus, it is problematized that characteristics
such as education, income, sex and age of the older
people interfere in their consumption pattern. Thus, the study identified the older people’s
socioeconomic profile and their living and housing
conditions, and verified the existence of factors Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Older people and life conditions in Viçosa (MG) Brazil as a theoretical model. Thus, the linear regression
equation was estimated: In addition, the POF aims to measure consumption
structures, expenditures, income and part of the
families’ equity variation to provide information
on the domestic budget composition and living
conditions of the population, as well as the subjective
perception of quality of life, in addition to generating
databases and studies on the nutritional profile of
the population10. METHOD log(Incomei) = β1 + β2Agei + β3Age2 + β4Sexi + β5Pre-Schooli
+ β6BasicEducationi + β7HigherEducationi + ui in which log(Incomei) is the explained variable expressed
by the total monthly income of the older people for
one regression, and of family members with older
people in the composition, for the other regression;
Agei is the individual’s age measured in years, being
also included in its quadratic form, in order to capture
a possible non-linear relationship between log(Incomei)
and Agei, as suggested by the Human Capital theory. Sexi is a dummy variable that takes the value 1 for
men and 0 for women, Pre-Schooli, BasicEducationi, and
HigherEducationi are dummy variables that present the
individual’s level of education, with the base group
formed by High School, since this level of education
was the most common among the older people in
the sample. Finally, Bj, with j ranging from 1 to 7,
are the model parameters, while ui is the stochastic
error term. The POF questionnaire is subdivided into blocks
containing questions about household characteristics;
Residents of the household; Expenses for product
groups related to Food, Clothing, Housing,
Household items, Transport, Communication, Health
and personal care, Education, Personal expenses,
Income and Living conditions. To categorize the older people’s socioeconomic
profile, the following variables were considered: age
in years, sex, education, professional occupation,
source of income and monthly income. In order to
know the living conditions of the older population,
aspects such as type of household, number of rooms
(total, bedrooms and bathrooms) and occupancy
condition of the property, perception of sufficient
monthly income, minimum monthly income to reach
the end of the month, perception of the sufficiency
of the amount of food consumed by the family
monthly, water service, garbage collection, street
lighting, rainwater drainage, water and electricity
supply, structural problems in the home and delay
in paying expenses. The possible non-linear relationship between
Income and Age would be the result of the normal
depreciation of human capital with age. This is
because, initially, more years in the labor market tend
to mean greater skill and training for work. However,
over time, the older age of the worker begins to be
seen as a negative point, since the employer starts
to associate this variable with the greater difficulty
in learning new technologies and the high delay in
work activities11. For the nominal variables, the data found were
described by absolute and relative frequency. METHOD For
scalar variables, in addition to Exploratory Data
Analysis (EDA), multiple linear regression analysis
was performed with cross-sectional data. As the equation was estimated using the Ordinary
Least Squares Methods (OLS) in order for the
estimators to be efficient and unbiased, it is important
that all desirable properties of the method are met. In this sense, cross-sectional data may contain the
problem of heteroscedasticity, that is, the dispersion
of the error term is not the same throughout the
analysis. In this study, this may be due to the fact
that some people have very high incomes while
others have very low incomes. Regarding the last analysis, two regression models
were developed to explain the determinants of
the older people’s income and of those living in
households with older people. In both cases, the
dependent variable is explained by independent
variables such as age, sex and education level, which
characterizes a multiple linear regression. The choice
of independent variables was based on Cirino11 and
Loureiro12, who used the Human Capital theory The test used to detect heteroscedasticity was
the Breusch-Pagan test. This has the null hypothesis Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Older people and life conditions in Viçosa (MG) Brazil The high percentage of households headed by
older people is noteworthy. According to data from
the National Household Sample Survey (PNAD)
201813, from 2016 onwards, there has been an increase
in the number of households headed by older people. This can be associated with the stability of the
income of the older person, from retirement and
pensions, and reflections of the economic crisis and
unemployment14. Furthermore, the head of household
is usually associated with the person with the highest
or most stable income, which may also explain the
result found. of homoscedasticity (constant variance) against
the alternative hypothesis of the presence of
heteroscedasticity. To correct this possible violation,
estimation by robust standard errors is performed. To spatially demonstrate the average income of
households with older people in their composition
according to the neighborhood where the research
was carried out, the Quantum-Gis program was used,
which is a geographic information system that allows
viewing, editing and analysis of georeferenced data. RESULTS AND DISCUSSION The older people had a mean age of 69.8 (±8.07)
years, with a median and mode of 69 years. Most were
female (52.10%), corroborating the trend pointed
out by Arango and Peláez15 about the feminization
of old age. As Melo et al.2 point out, this greater
female life expectancy may be linked to a greater and
earlier demand for health care by women compared
to men, which, consequently, results in a longer life,
however, not always healthier. Therefore, despite
living longer, women suffer more from functional
disabilities, living longer with diseases in the last
years of life and tend to have lower levels of life
satisfaction than men7,16,17. The socioeconomic conditions of the older people in Viçosa To carry out the POF, 307 households in Viçosa
(MG) were visited. In 113 of these (36.81%) there
was at least one older person residing, totaling 167
older people in the sample. There was an average of
2.93 people residing in such households. According
to Almeida and Kassouf6, the presence of an older
person in the family nucleus, with their stable income,
changes the family’s consumption structure, in
addition to helping to reduce poverty in that unit. Thus, households containing at least one older person
were selected for the sample. Regarding education, the older people had a
higher level of education when compared to the
national average found in the study by Melo et
al.7, who identified a low level of education of the
older population in the country, consistent with
elementary education, when analyzing data from
the POF 2008-200910. The family arrangements identified in the sample
were: older person living alone or as a single person
(9.74%), older person living with a spouse (23.89%),
older person living with a spouse and children
(23.89%), older person living with a spouse, children,
grandchildren and other relatives (8.85%) and older
person people living with children, grandchildren
and other relatives without a spouse (33.63%). In
89.38% of the households, the reference person or
head of the family was an older person, 46.90% male
and 42.48% female. As for professional occupation, most of the older
people were retired, with income ranging between
R$1,500.00 and R$3,000.00 and sources of income
solely from retirement (Table 1). Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 to be continued
Table 1. Socioeconomic profile of the older people in Viçosa. Viçosa, MG, 2020. to be continued The socioeconomic conditions of the older people in Viçosa Variables
Frequency (%)
Gender
Male
80 (47.90%)
Female
87 (52.10%)
Age (in years)
60 to 64
50 (29.94%)
65 to 69
49 (29.34%)
70 to 74
26 (15.57%)
75 to 79
19 (11.38%)
80 to 84
15 (8.98%)
85 to 89
3 (1.80%)
90 to 94
3 (1.80%)
95 to 99
2 (1.20%)
Schooling
Not educated
3 (1.83%)
Preschool (Kindergarten)
4 (2.44%)
Elementary School I Incomplete
12 (7.32%)
Elementary School I Complete
31 (18.90%)
Elementary School II Incomplete
7 (4.27%)
Elementary School II Complete
20 (12.20%)
High School Incomplete
11 (6.71%)
High School Complete
39 (23.78%)
Youth and Adult Education (YAE)
1 (0.61%)
University Education Incomplete
4 (2.44%)
University Education Complete
25 (15.24%)
Techinical Education
3 (1.83%)
Master´s degree
1 (0.61%)
Doctorate degree
3 (1.83%)
Occupation
Private employee
7 (4.67%)
Pulic employee
11 (7.33%)
Housekeeper or housemaid
2 (1.33%)
Street vendor
1 (0.67%)
Employer
1 (0.67%)
Self-employed
7 (4.67%)
Retired
112 (74.67%)
Housekeeper or housewife
9 (6.00%) Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Older people and life conditions in Viçosa (MG) Brazil Variables
Frequency (%)
Income source
Private employment
7 (4.67%)
Public employment
11 (7.33%)
Housework
1 (0.67%)
Self-employment or business owner
7 (4.67%)
Alimony, allowance or non-resident donation
2 (1.33%)
Rent, use or exploitation of real estate
1 (0.67%)
No income
8 (5.33%)
Housework and public retirement
1 (0.67%)
Retirement (public or private)
110 (73.33%)
Private retirement and alimony, allowance or non-residence donation
1 (0.67%)
Pulic retirement and rent, use or exploitation of real estate
1 (0.67%)
Monthly income (R$)
Up to 1,500.00
46 (34.85%)
1,500.01 to 3,000.00
50 (37.88%)
3,000.01 to 5,000.00
21 (15.91%)
5,000.01 to 7,000.00
5 (3.79%)
7,000.01 to 10,000.00
6 (4.55%)
More than 10,000.00
4 (3.03%)
Did not answer
35 (20.95%)
Source: POF/DEE/UFV, 2020. Continuation of Table 1 that the older people retired from UFV had access
to higher wages and better living conditions than the
national average, portrayed in studies such as those
by Melo et al.7, since they had, throughout their lives,
a better income, which consequently allowed them
to live in better socioeconomic conditions than the
older people in the country as a whole. The average monthly income of the older people
was R$2,914.10, with a median of R$2,150.00 and
mode of R$954.00. Among the respondents, a large
portion had an income of up to R$5,000.00, with a
variable range between R$444.00 and R$15,500.00. The socioeconomic conditions of the older people in Viçosa Considering the low-income concept used for
registration in the Single Registry18, which states
that “low-income families must be registered: those
earning up to half a minimum wage per person
(R$522.50); or who earn up to 3 minimum wages
of total monthly income (R$3,135.00)”, values in
force in 2020, and the average income found for
older people, that is, income per person, R$2,914.10,
it can be observed that they were above the range
considered as low income in the country. Bento and Lebrão19 emphasize that older people
with lower incomes generally have worse health and
physical function conditions, and less use of health
services, in addition to the prevalence of chronic-
degenerative diseases. In this sense, Melo et al.7 argue that higher income
levels allow the older people to acquire better health
services, monitoring, support equipment and a more
active social insertion, providing them with better
living conditions. In addition, according to the
authors, income levels are important not only to
understand the older person as a potential consumer,
but as an active individual, who has needs arising Although data from the local POF do not allow
associating the source of income of these older people
with pensions from work at UFV, the relationship
is likely, given the income values of 65.16% of older
people who had incomes above the minimum wage
in force in 2020 (R$1,045.00). Thus, it is inferred Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Older people and life conditions in Viçosa (MG) Brazil from age and personal, family, social, economic and
cultural characteristics. highest incomes belonging to households located
in neighborhoods characterized as middle and upper
class in the municipality, such as Acamari, Clelia
Bernardes and Lourdes. Figure 1 shows the average income of households
with older people according to the neighborhood of
residence. The smallest of them was found in the
Novo Silvestre neighborhood (R$700.00) and the
largest, in Acamari (R$15,500.00). The older people had the highest income in 74.34%
of the households, which draws attention to the large
number of older people heads of families, who have
assumed the role of collaborating with the family
income. This income of the older person, within the
family structure, becomes relevant due to its stability,
increasing the family’s purchasing power20. It was observed that 31.25% of the households
with older people had an average income ranging
between R$4,000.00 and R$6,000.00, with the Figure 1. The socioeconomic conditions of the older people in Viçosa Distribution of the average family income of households with older people, according to the neighborhood
of residence. Viçosa, MG, 2020. Figure 1. Distribution of the average family income of households with older people, according to the neighborhood
of residence. Viçosa, MG, 2020. should be noted that only the supply of electricity
received satisfactory approval. The satisfaction
level of around 50% for the services provided by
the municipality indicates the need for significant
improvements. As for the housing conditions of the older people’s
homes (113 homes), 58.18% were non-rustic houses
and 20.91%, apartments. The households had, on
average, 8.58 rooms, with 3.11 bedrooms and 2.02
bathrooms, with 83.18% owned, already paid off,
2.65% owned, in acquisition, 9.73% rented, 2, 65%
transferred, and 1.77% did not inform. Regarding the older people’s perception of the
conditions of their homes, they were satisfied with
the space (93.52%), house lighting (85.19%), roof
(92.52%), foundation, walls and floor (88.79%),
windows and floors (90.65%), street or neighbors
(66.67%), pollution or environmental problems In general, the older people considered water
services (62.96%), garbage collection (49.07%), public
lighting (56.48%), rainwater drainage (46.73%), water
supply (57.94%) and electricity (82.41%) good. It Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Older people and life conditions in Viçosa (MG) Brazil (82.41%), and violence or vandalism in the vicinity
(50.00%). It is believed that this last question is of
great concern to the community as a whole, because,
as stated by Siqueira et al.21, the crime rate in the
municipality of Viçosa (MG) grew from the 2000s
onwards, requiring the authorities to invest in
security and fighting crime. Regarding the perception of the sufficiency of
the total income received, 71.30% considered that
the amount received did not allow reaching the end
of the month without some degree of difficulty,
with R$5,000.00 considered the minimum monthly
income necessary to reach the end of the month for
15.00% of respondents (Table 2). 8 of 12 Table 2. Perception of the older people from Viçosa regarding their income. Viçosa, MG, 2020. Older people and life conditions in Viçosa (MG) Brazil The data revealed a certain paradox regarding
the sufficiency of income for the older people. Although 71.30% considered that the total income
received was not enough to reach the end of the
month without difficulty, the amount of food
consumed in the month was considered sufficient
by 94.39% of them (Table 2). One aspect that can
be assumed is that, despite the income not being
sufficient, the families of these older people can
prioritize the purchase of food. Melo et al.7 point
out that income is directly related to the family’s
purchasing power. Bento and Lebrão19 clarify that the
satisfaction of what is understood as minimum needs,
consumption habits and preferences of individuals
vary according to the environment in which they are
inserted. In this way, income would not be the only
factor preventing individuals from consuming or
not achieving something, as the physical and social
characteristics acquired affect their lives. information about their health condition, would
know more precisely the discontinuities to which they
are susceptible and would have greater experience
in managing their resources according to their
income level and in relation to younger seniors19. Still, according to the authors, there would be the
theory of cognitive dissonance, in which the older
people, when experiencing a decrease in their income,
would change their interpretation of how much they
would actually need to survive satisfactorily. Thus, it is not possible to generalize the perception
of income sufficiency in the studied sample, as it is
individual and relative, depending on factors and
peculiar characteristics of each family. In 71.30% of the households, it was considered
that the total monthly income did not allow them
to reach the end of the month without difficulties. However, on average, in 97.19% of the households
there were no delays in the payment of expenses such
as rent, water and electricity bills and the provision
of goods and services, which may reveal satisfactory
administration of the budget by the families. Regarding the amount of food consumed in the
month, it was found that the households where it was
stated that this amount was sometimes not enough
were in the income bracket of up to R$2,000.00 per
household. Regarding the sufficiency of monthly
income, there were households that had a total
income of R$954.00 and considered that it allowed
them to reach the end of the month with little
difficulty, revealing an overestimation of income. Older people and life conditions in Viçosa (MG) Brazil On
the other hand, an underestimation of income was
identified in households that accounted for incomes
from R$4,000.00 and that also highlighted a little
difficulty to spend the month. The socioeconomic conditions of the older people in Viçosa Variables
Frequency (%)
Minimum monthly income required to reach the end of the month (R$)
Até 1,000.00
6 (7.5%)
1,000.01 to 2,000.00
14 (17.5%)
2,000.01 to 3,000.00
17 (21.25%)
3,000.01 to 4,000.00
13 (16.25%)
4,000.01 to 5,000.00
12 (15.00%)
5,000.01 to 6,000.00
4 (5.00%)
6,000.01 to 7,000.00
4 (5.00%)
7,000.01 to 8,000.00
4 (5.00%)
More than 8,000.00
6 (7.50%)
Did not answer
33 (29.20%)
The total income allows you to reach the end of the month:
With great difficulty
5 (4.63%)
With difficulty
14 (12.96%)
With little difficulty
33 (30.56%)
With some difficullty
25 (23.15%)
With ease
22 (20.37%)
Very easily
9 (8.33%)
Did not answer
5 (4.42%)
The amount of food consumed by your family is:
Usually not enough
1 (0.93%)
Sometimes not enough
5 (4.67%)
Always enough
101 (94.39%)
Did not answer
6 (5.31%)
Delay in the payment of rent or real estate mortgage or financing
Yes
1 (0.94%)
No
105 (99.06%)
Did not answer
7 (6.19,%)
Delay in the payment of water, electricity and other bills
Yes
6 (5.61%)
No
101 (94.39%)
Did not answer
6 (5.31%)
Delay in the payment of goods and services
Yes
2 (1.87%)
No
105 (98.13%)
Did not answer
6 (5.31%)
Source: POF – DEE/UFV. 2020. Table 2. Perception of the older people from Viçosa regarding their income. Viçosa, MG, 2020. Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Older people and life conditions in Viçosa (MG) Brazil Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Older people and life conditions in Viçosa (MG) Brazil Older people and life conditions in Viçosa (MG) Brazil As for the case in which only the older person’s
income was analyzed, it was observed that age and
age squared did not influence the income received
by the older person. That is, for these older people,
advancing age will most likely not imply an increase
in income, since 74.67% were retired and their
sources of income came exclusively from retirement. the existence of discrimination in the labor market. Cirino11 found that there was a reduction of 6.2
percentage points in income discrimination between
genders between 2002 and 2014, although there
is still a gap of about 30% more in unexplained
income between men and women. Some qualitative variables of education level were
included in the analysis, keeping high school as a
base. For the general model, it was observed that the
individual who had only preschool had an income
53% lower than those who had completed high
school. While the individual with higher education,
or some level above, had an income 50% higher
than those who did not have this level of education. In relation to elementary school, as this qualitative
variable was not statistically significant, individuals
with this level of education had an income similar
to those with high school. The results showed that the gender variable
had an influence on the individual’s income, with
males having an income greater than females by
34% and 40%, respectively, for the general models
and for older people. Barros22 found in his study
a difference of 22% in female income compared
to male income. Regarding the gender income
differential, Freisleben and Bezerra23 point out
that although women are generally more educated,
there is still a wage differential in favor of men not
explained by the difference in attributes, indicating Table 3. Results of the cross-sectional analysis for the individual income of family members and for the income
of the older person. Viçosa, MG, 2020. Influence of age, sex and education variables on earnings The results of the Breusch-Pagan test for the general
and older person-only models presented test statistics
equal to 0.52, with a p-value of 0.47. As these statistics
were not significant, being interpreted as acceptance
of the null hypothesis of homoscedasticity, estimation
by robust standard errors was not necessary. Thus, it is inferred that the perception of income
sufficiency differed between households with older
people, showing that this perception is subjective and
dependent on factors such as the context in which
one lives, lifestyle, number of people in the household
and their needs. Bento and Lebrão19 emphasize that
it is important to understand the understanding of
the older person about the care, or not, of their basic
and human needs, as this is related to the perception
of income sufficiency. For the general model, the results of the multiple
linear regression estimation showed that age had a
positive influence on the individual income of family
members (Table 3). That is, for each year of age of the
individual, his income increases by 3%. This result
can be explained by the fact that as age can be seen
as a proxy for experience in the labor market, the
greater the experience, the greater the possibility of
reaching jobs with better salary. The age squared was
not significant to explain the individual’s income,
indicating that for the sample in question, there was
no depreciation of human capital suggested by the
Human Capital theory. Studies indicate that older seniors tend
to overestimate their income satisfaction by
underestimating their financial difficulties. As
they are older, these people would have better Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 emonstrate the statistical significance of the coefficient at 1% and 10%, respectively. Values in parentheses are standard errors. earch results. CONCLUSIONS The study identified the socioeconomic profile
of the older population of Viçosa, as well as their
living and housing conditions, and verified the
existence of factors that can influence the income
of individual members and older people in the city
of Viçosa (MG). The scientific contribution of this study stems
from the fact that there are no other studies with
the older population of the municipality, especially
using data from the local or national Family Budget
Survey (POF). Thus, this will serve as a reference for
future works in the evaluation of the socioeconomic
conditions of this population from a new local POF. The data referring to the socioeconomic profile of
the sample participants revealed that the majority of
the older people were female, average age of 69 years
old, level of education referring to complete high Edited by: Maria Helena Rodrigues Galvão Older people and life conditions in Viçosa (MG) Brazil Older people and life conditions in Viçosa (MG) Brazil school, retired, average income above the national
average, coming exclusively from retirement . For the model considering the monthly income
of the older people, in cases where the older person
had only preschool, their income was 89% lower
than that of the older person with high school. For
those with elementary education, income was also
lower, however, at only 24%. The specific results for
the older people showed that those who had higher
education, or some level above, also had an income
45% higher than those with secondary education. In general, in households with older people,
the level of satisfaction with living and housing
conditions was favorable and satisfactory, which
may be associated with the fact that they have a
significant average per capita income and above
the range considered low. Older people with higher
levels of education and male sex had the highest
incomes, evidencing the influence of education and
gender on income. The result is in line with the findings of Bento
and Lebrão19 and Cirino11, who emphasize that
these results on schooling are in line with what is
recommended by the Human Capital theory. In
this way, the income generated by the individual
is attributed to their competence, one of the
components being education. That is, the more
educated the individual, the greater the income
earned in the labor market. It is concluded that the older people studied had
more satisfactory and favorable living conditions,
income and education than the older people in the
country in general, demonstrated in studies based on
data from the national Family Budget Survey. This
reality, however, can be linked to the existence of
the Federal University of Viçosa in the municipality,
where a large part of the population studies and/or
works, earning better educational levels and higher
incomes, since education has a positive impact on
access to better jobs and wages. Older people and life conditions in Viçosa (MG) Brazil Explanatory variable
Explained variable
Individual income of family members
Coefficient / p-value
Older person income
Coefficient / p-value
Age
0.031 / 0.018*
(0.013)
0.128 / 0.175
(0.094)
Age2
-0.000 / 0.186
(0.000)
-0.008 / 0.224
(0.006)
Gender
0.345 / 0.000***
(0.088)
0.404 / 0.001***
(0.114)
Preschool
-0.534 / 0.153
(0.372)
-0.895 / 0.055***
(0.462)
High school
-0.145 / 0.204
(0.114)
-0.248 / 0.064*
(0.133)
University education
0.504 / 0.000***
(0.108)
0.458 / 0.003***
(0.151)
Constant
6.081 / 0.000***
(0.342)
2.298 / 0.509
(3.467)
Number of observations
207
130
*** and * demonstrate the statistical significance of the coefficient at 1% and 10%, respectively. Values in parentheses are standard errors. Source: Research results. Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Edited by: Maria Helena Rodrigues Galvão Older people and life conditions in Viçosa (MG) Brazil 7. Melo NCV de, Aurélio M, Ferreira . Condições de
vida dos idosos no Brasil: uma análise a partir da
renda e nível de escolaridade. Oikos. 2014;25(1):4-19. 16. Camargos MCS, Gonzaga MR. Viver mais e melhor?:
estimativas de expectativa de vida saudável para a
população brasileira. Cad. Saúde Pública. 2015;31:1-
9. Available from: http://doi.org/10.1590/0102-
311X00128914. 8. Cirino JF, Rodrigues CT, Silva VE, et a. 4ª Pesquisa
de Orçamento Familiar em Viçosa - MG. 2019-2020. Viçosa, MG: [publisher unknown]; 2020. 17. Pinquart M, Sorensen S. Gender Differences in
Caregiver Stressors, Social Resources, and Health: An
Updated Meta-Analysis. J Gerontol Ser B Psychol. sci. soc. sci. 2006;61:33-45. 9. Instituto Brasileiro de Geografia e Estatística
[Internet]. Brasília, DF: IBGE; 2017. Pesquisa de
Orçamentos Familiares 2017; 2017 [cited 2019 March
19]; [1screen]. Available from: https://bit.ly/2xJVbFh. 18. Brasil. CadÚnico: Cadastro Único para programas
sociais do governo federal [Internet]. Brasília, DF;
2020; [cited 2020 Dec. 04]; [1 screen]. Available from:
https://bit.ly/3qLJzJo. 10. Instituto Brasileiro de Geografia e Estatística
[Internet]. Brasília, DF: IBGE; 2019. Pesquisa
de Orçamentos Familiares 2017-2018: Primeiros
resultados. 2019; [cited 2019 Oct. 07]; [1 screen]. Available from: https://biblioteca.ibge.gov.br/
visualizacao/livros/liv101670.pdf. 19. Bento JA, Lebrão ML. Suficiência de renda percebida
por pessoas idosas no Município de São Paulo/Brasil. Ciênc. Saúde Colet. 2013;18:2229-38. 20. Zanon RR, Moretto AC, Rodrigues RL. Envelhecimento populacional e mudanças no padrão
de consumo e na estrutura produtiva brasileira. Rev. Bras. Estud. Popul. 2013;30:45-67. 11. Cirino JF. Discriminação por gênero no mercado
de trabalho: uma comparação do diferencial de
rendimento entre homens e mulheres para os anos de
2002 e 2014. Planej. Polít. Públicas. 2018;51:221-53. 12. Loureiro PRA. Uma resenha teórica e empírica
sobre economia da discriminação. Rev. Bras. Econ. 2003;57:125-57. 21. Siqueira EB, Jacob KG, Silveira. Diagnóstico dos
homicídios em Viçosa-MG [Internet]. Viçosa: LAEC;
2017. Available from: http://www.laec.ufv.br/wp-
content/uploads/803_DOC-20181018-WA0001.pdf. 13. Instituto Brasileiro de Geografia e Estatística
[Internet]. Brasilia, DF: IBGE; 2018. Pesquisa Nacional
de Amostra por Domicílios; 2018 [cited 11 jan. 2021]; [1
screen]. Available from: https://bit.ly/35xEiMt. 22. Barros DS. Escolaridade e distribuição de renda entre
os empregados na economia brasileira: Uma análise
comparativa dos setores público e privado dos anos
2001 e 2013. Rev. Econ. Contemp. 2017;21:1-10. Available from: http://doi.org/10.1590/198055272135. 14. Cavenaghi S, Alves JED. Mulheres chefes de família
no Brasil: avanços e desafios. 32ª ed. Rio de Janeiro:
ENS-CPES; 2018. 23. Freisleben VS, Bezerra FM. REFERENCES 4. Kearney AT. Understanding the Needs and
Consequences of the Ageing Consumer. Paris:Consumer Goods Forum; 2013. 1. Fonseca Jr. SB, Lima AFR. Proposta metodológica de
índice de inflação da terceira idade no município de
Goiânia, Goiás. Planej. Polít. Públicas. 2016:113-34. 5. Camarano AA, Pasinato MT. O envelhecimento
populacional na agenda das políticas públicas. In:
Camarano AA (ed.). Os novos idosos brasileiros:
muito além dos 60? Rio de Janeiro: Ipea; 2004. 2. Melo NCV de, Teixeira KMD, Silveira MB. Consumo
e perfil demográfico dos diferentes arranjos
domiciliares de idosos no Brasil: análises a partir dos
dados da Pesquisa de Orçamentos Familiares. Rev. Bra.s Geriatr. Gerontol. 2017;20(5):607-17. 6. Almeida AN de, Kassouf AL. Determinantes do
consumo de famílias com idosos e sem idosos
com base na pesquisa de orçamentos familiares de
1995/96. Rev. Econ. Apl. 2004;8:479-510. 3. Silva NNL da, Xavier MP. A terceira idade como foco
das propagandas midiáticas de consumo. Psicol. Rev. 2017;21:203-15. Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229 Older people and life conditions in Viçosa (MG) Brazil Older people and life conditions in Viçosa (MG) Brazil Ainda existe
discriminação salarial contra as mulheres no mercado
de trabalho da região Sul do Brasil?: Evidências para
os anos de 1998 e 2008. Cad. Econ. 2012;16:51-65. 15. Arango DC, Peláez E. Envejecimiento poblacional en
el siglo XXI: Oportunidades, retos y preocupaciones. Salud UNINORTE. 2012;28:335-48. Rev. Bras. Geriatr. Gerontol. 2021;24(4):e210229
|
https://openalex.org/W2012467611
|
https://europepmc.org/articles/pmc3960740?pdf=render
|
English
| null |
Corneal Biomechanical Properties in Different Ocular Conditions and New Measurement Techniques
|
ISRN Ophthalmology
| 2,014
|
cc-by
| 18,672
|
1 Clinical & Experimental Optometry Research Lab, Center of Physics (Optometry), School of Sciences, p
p
y
f
y
p
y
f
University of Minho, Gualtar, 4710-057 Braga, Portugal y f
g
g
2 Grupo de Investigaci´on en Superficie Ocular y Lentes de Contacto, Departamento de Cirug´ıa (Oftalmolog´ıa)
Universidad de Santiago de Compostela, 15782 A Coru˜na, Spain 2 Grupo de Investigaci´on en Superficie Ocular y Lentes de Contacto, Departamento de Cirug´ıa (Oftalmolog´ıa
Universidad de Santiago de Compostela, 15782 A Coru˜na, Spain 2 Grupo de Investigaci´on en Superficie Ocular y Lentes de Contacto, Departamento de Cirug´ıa (Oftalmolog´ıa
Universidad de Santiago de Compostela, 15782 A Coru˜na, Spain 3 Department of Ophthalmology, Centro Hospital de Entre Douro e Vouga, Santa Maria da Feira, Portugal
4Department of Ophthalmology, Hospital Escola, Universidade Fernando Pessoa, Gondomar, Portugal 3 Department of Ophthalmology, Centro Hospital de Entre Douro e Vouga, Santa Maria da Feira, Portugal
4Department of Ophthalmology, Hospital Escola, Universidade Fernando Pessoa, Gondomar, Portugal 3 Department of Ophthalmology, Centro Hospital de Entre Douro e Vouga, Santa Maria da Feira, Portugal
4Department of Ophthalmology, Hospital Escola, Universidade Fernando Pessoa, Gondomar, Portugal Correspondence should be addressed to Jose Manuel Gonz´alez-M´eijome; jgmeijome@fisica.uminho.pt orrespondence should be addressed to Jose Manuel Gonz´alez-M´eijome; jgmeijome@fisica.uminho.pt Received 26 October 2013; Accepted 26 November 2013; Published 4 March 2014 Received 26 October 2013; Accepted 26 November 2013; Published 4 March 2014 Academic Editors: M. Baskaran and A. Daxer Academic Editors: M. Baskaran and A. Daxer Copyright © 2014 Nery Garcia-Porta et al. This is an open access article distributed under the Creative Commons Attribution
License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly
cited. Several refractive and therapeutic treatments as well as several ocular or systemic diseases might induce changes in the mechanical
resistance of the cornea. Furthermore, intraocular pressure measurement, one of the most used clinical tools, is also highly
dependent on this characteristic. Corneal biomechanical properties can be measured now in the clinical setting with different
instruments. In the present work, we review the potential role of the biomechanical properties of the cornea in different fields of
ophthalmology and visual science in light of the definitions of the fundamental properties of matter and the results obtained from
the different instruments available. The body of literature published so far provides an insight into how the corneal mechanical
properties change in different sight-threatening ocular conditions and after different surgical procedures. Hindawi Publishing Corporation
ISRN Ophthalmology
Volume 2014, Article ID 724546, 19 pages
http://dx.doi.org/10.1155/2014/724546 Hindawi Publishing Corporation
ISRN Ophthalmology
Volume 2014, Article ID 724546, 19 pages
http://dx.doi.org/10.1155/2014/724546 Hindawi Publishing Corporation
ISRN Ophthalmology
Volume 2014, Article ID 724546, 19 pages
http://dx.doi.org/10.1155/2014/724546 Hindawi Publishing Corporation
ISRN Ophthalmology
Volume 2014, Article ID 724546, 19 pages
http://dx.doi.org/10.1155/2014/724546 1 Clinical & Experimental Optometry Research Lab, Center of Physics (Optometry), School of Sciences, The future in this field is
very promising with several new technologies being applied to the analysis of the corneal biomechanical properties. Review Article
Corneal Biomechanical Properties in Different Ocular
Conditions and New Measurement Techniques Nery Garcia-Porta,1,2 Paulo Fernandes,1 Antonio Queiros,1 Jose Salgado-Borges,3,4
Manuel Parafita-Mato,2 and Jose Manuel González-Méijome1 1. Introduction tissue [3]. In the specific case of the human cornea, collagen
in Bowman’s layer and stroma accounting for over 80% of the
dry weight of the cornea would be the major contributor to
corneal elasticity. The ground substance, formed mostly by
proteoglycans and keratocytes or fibroblasts, would provide
the viscous behaviour. The corneal epithelium accounting for
10% of the central corneal thickness could also contribute to
the viscous behaviour. It is important to bear in mind that the
corneal epithelium is easily deformable and is the reference
surface for most of the biomechanical corneal measurements. Corneal biomechanics is a branch of science that studies
deformation and equilibrium of corneal tissue under the
application of any force [1]. The structure and hence the prop-
erties of a soft tissue, such as the cornea, are dependent on the
biochemical and physical nature of the components present
and their relative amounts. The mechanical properties of a
tissue depend on how the fibres, cells, and ground substance
are organized into a structure [2]. Collagen and elastin
are responsible for the strength and elasticity of a tissue,
while the ground substance is responsible for the viscoelastic
properties. All these terms are important because the cornea
is considered a viscoelastic material and some devices try to
measure and even differentiate between the different com-
ponents of the biomechanical behavior of the living corneal Over the past two decades, researchers have developed
a variety of techniques that can alter corneal surface for
refractive purposes or even for halting disease progression
in corneas with mechanical decompensation. Beside geo-
metric corneal parameters, the additional influence of the
biomechanical corneal properties has received little attention, 2 2 ISRN Ophthalmology ISRN Ophthalmology Corneal Young’s modulus, measured in vitro, varies
from 0.1 to 57 MPa [8, 11–20] that might be explained
by variations in testing conditions and methods used. More recently, Hamilton and Pye [21], using the
Orssengo-Pye algorithm, reported on 100 healthy
eyes with mean Young’s modulus being 0.29 ±
0.06 MPa (range 0.13 to 0.43 MPa). Modulus was posi-
tively correlated with the IOP measured with GAT,
assuming that Young’s modulus itself affects the IOP
measurement. mostly because of the lack of appropriate in vivo mea-
surement techniques. However, in recent years, increasing
interest has arisen in corneal biomechanics to predict corneal
response to surgical or therapeutic interventions and to assist
in the detection of early keratoconus [4–6]. 2. Biomechanical Descriptors and Their
Physical Meaning 2.1. Parameters Derived from Ocular Response Analyzer. The
ORA is a noncontact tonometer introduced in clinical prac-
tice in 2005 [3]. It uses a rapid air pulse to indent the cornea
and an electrooptical system to record corneal deformation. It records mainly two applanation measurements: one while
the cornea moves inward, reaching a first applanation, when
the first pressure (𝑃1) is registered and the other as the cornea
recovers from a slight concavity as the air pump decreases
pressure at an inverse rate so that the cornea moves outward
passing through a second applanation (𝑃2). Therefore, these
two values, 𝑃1 and 𝑃2, indicate the pressure necessary to
flatten the cornea during the loading and unloading cycle
(Figure 2).hi 2.1. Parameters Derived from Ocular Response Analyzer. The
ORA is a noncontact tonometer introduced in clinical prac-
tice in 2005 [3]. It uses a rapid air pulse to indent the cornea
and an electrooptical system to record corneal deformation. It records mainly two applanation measurements: one while
the cornea moves inward, reaching a first applanation, when
the first pressure (𝑃1) is registered and the other as the cornea
recovers from a slight concavity as the air pump decreases
pressure at an inverse rate so that the cornea moves outward
passing through a second applanation (𝑃2). Therefore, these
two values, 𝑃1 and 𝑃2, indicate the pressure necessary to
flatten the cornea during the loading and unloading cycle
(Figure 2).hi To better understand the results of corneal biomechanical
measurements, it is important to remember the meaning of
some corneal properties such as elastic, viscous, or viscoelas-
tic response, hysteresis, and stiffness, among other concepts. (i) The elastic response of a material is attributed to the
instantaneous and reversible deformation under an
external load [2]. In elastic materials, the deformation
is proportional to the force applied and it is recov-
ered instantly upon unloading. Thus, the stress-strain
relationship would be a straight line [9]. Figure 1(a)
shows the typical stress-strain diagram of an elastic
material. The constant of proportionality between
stress and strain is the elastic modulus, also called
Young’s modulus. Young’s modulus is defined as the
ratio of the stress (load per unit area) and the strain
(deformation/displacement per unit length) [10]. A
high modulus indicates a stiffer material (i.e., not
easy to bend). 1. Introduction Additionally,
increasing interest has also arisen in corneal biomechan-
ical properties and glaucoma once corneal biomechanics
have been shown to influence intraocular pressure (IOP)
measurements and may be also indicative of ocular globe
biomechanics that could also be predictive of glaucoma
susceptibility [7]. (ii) A material shows a viscous behaviour when the
deformation velocity is faster than the relaxation
rate. The slow relaxation is due to configurational
rearrangement of the material during deformation
[2]. Corneal biomechanics have been assessed in in vitro
studies by measuring stress-strain and Young’s modulus
in isolated corneas [8]. In the recent years, two devices
have been marketed: the Ocular Response Analyser (ORA,
Reichert, Depew, NJ) since 2005 and the Corneal Visualiza-
tion Scheimpflug Technology (Corvis ST, Oculus, Wetzlar,
Germany) since 2011. Many studies covering a wide range of
topics have been conducted and published using the ORA.h Viscoelastic materials exhibit elastic and viscous
behaviour at the same time, so they present character-
istics of elastic and viscous materials [2]. Figure 1(c)
shows the typical stress-strain diagram of a viscoelas-
tic material. Their particular characteristics make it
possible to define characteristic properties including
one known as “hysteresis”. The aim of the present review is to provide an overview
of published results on corneal biomechanics obtained with
ORA under different ocular and systemic conditions. Knowl-
edge accumulated to date on this field will potentially help
the ophthalmic community to gain a better understanding
of the changes that the corneal tissue undergoes during
different ocular and systemic conditions as well as to predict
the outcomes of therapeutic and refractive therapies. New
technologies under development will also be discussed briefly
since there is currently a wide range of instrumentation
under development to provide a better understanding of the
biomechanical nature of the cornea and its implications in
visual care, with particular relevance to the detection and
management of sight-threatening conditions. (a) Hysteresis in viscoelastic materials under peri-
odic loading and unloading, curves in the stress-
strain diagram (Figure 1(c)) are not coincident
with each other; the gap between them is called
hysteresis [22]. (b) The energy stored over one full loading and
unloading cycle in a material is zero since
the material returns to its initial configuration
(elastic behavior). The area within the hysteresis
loop represents the energy per volume dissipated
in the material per cycle [23]. (i) 𝑃1 and 𝑃2: air pressures corresponding with the two
applanation states of the cornea. (i) 𝑃1 and 𝑃2: air pressures corresponding with the two
applanation states of the cornea.
(ii) Corneal hysteresis (CH) is considered an indicator of
corneal viscosity and is obtained by the difference
between the 2 pressures: CH = 𝑃1 −𝑃2 [3]. 2. Biomechanical Descriptors and Their
Physical Meaning This also leads us to the definition of
resistance, which is the capacity of a material to hold
stress without deformation. g
Thus, below we define one by one the terms and parame-
ters that are relevant to the understanding and interpretation
of the outcomes obtained by the ORA according to the
literature. (ii) Corneal hysteresis (CH) is considered an indicator of
corneal viscosity and is obtained by the difference
between the 2 pressures: CH = 𝑃1 −𝑃2 [3]. 3 RN Ophthalmology
Loading
Stress
Unloading
Strain
(a)
Loading
Stress
Unloading
Strain
(b)
Loading
Stress
Unloading
Strain
Hysteresis
(c)
Figure 1: Stress-strain response diagrams of different materials showing elastic (a), plastic (b), and viscoelastic behaviour (c). 3 ISRN Ophthalmology Loading
Stress
Unloading
Strain
(b) Loading
Stress
Unloading
Strain
(a) Loading
Stress
Unloading
Strain
Hysteresis
(c) (b) (c) Figure 1: Stress-strain response diagrams of different materials showing elastic (a), plastic (b), and viscoelastic behaviour (c). (iii) The corneal resistance factor (CRF) is considered an
indicator of the overall resistance of the cornea and
is expressed by the equation: CRF = (𝑃1 −0.7 ∗
𝑃2) [24]. It is significantly correlated with central
corneal thickness (CCT) and Goldmann applanation
tonometry (GAT) [3]. It has been also suggested
that the CRF could be mainly related to the elastic
properties of the cornea [25]. Other authors suggested
modifications on the original formula to CRF = 𝑘1 ∗
(𝑃1 −0.7∗𝑃2)+𝑘2, where 𝑘1 and 𝑘2 are constants [26,
27]. Moreover, some authors evaluated the difference
between CH and CRF, but the meaning of this “new”
parameter [28, 29] is not clear. electrooptical system of the instrument has provided more
parameters with potential interest to allow a refined evalu-
ation of the corneal properties [32]. Recently, 37 new param-
eters were derived from the new ORA software allowing a
detailed analysis of the deformation signal waveform. Each
one of these parameters describes a morphological feature of
the waveform and 23 parameters are derived from the upper
75% of applanation peak height and 14 are derived from the
upper 50% of the applanation peak height (Figure 2). These
new parameters are defined in Appendix A. Most of these
parameters depend on 𝑃1 and 𝑃2 defined at the beginning so,
in some way, these parameters could be intrinsically linked
and their clinical significance and the manner in which these
individual parameters represent biomechanical properties
are currently unknown. 2. Biomechanical Descriptors and Their
Physical Meaning Several studies have investigated
the clinical relevance of the new waveform parameters and
reported that they could be more useful in diagnosis and
prognosis after refractive surgery, and as stated in the follow-
ing sections, some of these parameters seem to be promising
as being more sensitive than others to detect corneal changes
in specific corneal conditions [28, 33–36]. (iv) IOPg is an IOP value equivalent to GAT, which is an
average of the two pressure values measured by ORA,
𝑃1, and 𝑃2 and obtained by the following equation:
IOPg = (𝑃1 + 𝑃2)/2 [24]. (v) IOPcc is a new IOP value called Corneal Compensated
IOP and is obtained by the equation IOPcc = 𝑃1 −
0.43𝑃2. It is less affected by corneal properties than by
the IOP obtained with other tonometers and it is not
correlated with the CCT [24] but it is correlated with
CH [30, 31]. 3. Factors Affecting Corneal
Biomechanical Properties Peak
25% limit
Base
Signal base
P1 area, P2 area Pressure/signal amplitude
Applanation pressure 1
Hysteresis
Applanation pressure 2
Time in
Time out
Time (ms)
0
10
20
30
“In” signal peak
“Out” signal peak Time (ms) (b)
Peak
25% limit
Uslope1
Dslope1
Uslope2
Dslope2
Signal base
(d) (a)
Peak
25% limit
Signal base
w1
h1
Aspect1= w1/h1
(c) (b) (a) (c) (d) Figure 2: Applanation and pressure plot as determied by the ORA (Ocular Response Analyzer). See text for definition of the different variables
indicated in the graphs. several ocular diseases. Moreover, low CRF indicates that the
overall corneal rigidity is lower than normal.f IOP across the sample. Ortiz et al. [4] only found significant
differences in CH and CRF between subjects younger than
14 and older than 60, but a linear correlation between
these two biomechanical parameters and ageing did not
exist. Kotecha et al. [26] observed a reduction in CH of
approximately −0.28 mm Hg/decade, while Foster et al. [46]
found that the CRF declined significantly with age at a rate
of −0.31 mm Hg/decade, as did CH by −0.34 mm Hg/decade. Table 1 shows results of different studies on healthy eyes. It
is observed that both CH and CRF vary in a rather wide range
in the normal population and that a comparison between
studies for both parameters is difficult. g
y
g
In any case, due to the potential limitations of these
studies, we should be careful to extrapolate their results to the
general population. For instance, in one of these studies the
sample was quite limited, with only fifteen subjects [44]. In
another study, the changes are possibly confounding because
of the proportion of the participants affected by ocular hyper-
tension, glaucoma, or pigment dispersion syndrome [26]. Due to age-related changes in corneal structure such as an
increase in collagen fibril diameter or intermolecular Bragg
spacing [47], it would be expected that corneal biomechanical
properties change with ageing. In fact, ex vivo studies have
shown an increase in corneal stiffness with ageing [48] and
that Young’s modulus of the human cornea approximately
doubles between the ages of 25 and 100 [49]. Considering
this, if the CRF is a real indicator of corneal rigidity, it
should change with ageing as well. Nevertheless, due to the
intersubject variability and the differences among the results
published in the different studies, we cannot conclude, based 3.1. AGE. 3. Factors Affecting Corneal
Biomechanical Properties (vi) Corneal constant factor (CCF) is claimed to be an IOP-
independent corneal factor introduced by Kotecha
et al. [26] and was derived from the changes of
𝑃1 and CH for every 1 mm Hg of change in GAT
IOP. It describes an IOP-independent biomechani-
cal property that increases with thicker CCT and
decreases with aging and yet explains more of the
interindividual variation in GAT IOP than does CCT. It is very similar to CRF proposed by Reichert and is
expressed by the equation: CCF = 𝑃1 −0.79 ∗𝑃2. The possibility to evaluate the biomechanical properties of the
cornea provides a new diagnostic tool that will allow detect-
ing differences in corneal biomechanics between normal
eyes and pathological eyes and eventually detecting weaker
corneas at a subclinical state before they evolve in some kind
of ectasia or avoiding postsurgical ecstatic disease. Since the
introduction of ORA in clinical practice, many research stud-
ies have been conducted looking for associations between
both CH and CRF and different parameters like age, corneal
thickness, IOP, progress of glaucoma, or presence and severity
of a given condition such as keratoconus [37]. According to
Luce [3], corneas with low CH are less capable of absorbing
energy than normal eyes and they may be candidates for The deformation signal waveform produced by the
corneal deformation signal (characteristic shape illustrated
in Figure 2) can provide a unique description of each eye. Further analysis of the waveform signal delivered by the 4 ISRN Ophthalmology Pressure/signal amplitude
Applanation pressure 1
Hysteresis
Applanation pressure 2
Time in
Time out
Time (ms)
0
10
20
30
“In” signal peak
“Out” signal peak
(a)
Peak
25% limit
Base
Signal base
P1 area, P2 area
(b)
Peak
25% limit
Signal base
w1
h1
Aspect1= w1/h1
(c)
Peak
25% limit
Uslope1
Dslope1
Uslope2
Dslope2
Signal base
(d)
Figure 2: Applanation and pressure plot as determied by the ORA (Ocular Response Analyzer). See text for definition of the different variables
indicated in the graphs. 3. Factors Affecting Corneal
Biomechanical Properties Several studies investigated the associations
between changes in corneal biomechanical parameters
and aging. Several studies found no significant differences
in ORA measurements with ageing [38–42]. Lim et al. [40], in a study with 271 children, reported that CH and
CRF did not vary significantly with age but the range of
ages was quite narrow. Notwithstanding, as the authors
observed, the values of CH and CRF measured were slightly
higher than those in other adult studies. The same was
observed by Kirwan et al. [38] in children and adolescents
who also found no correlation between age and CH. However, when compared with other studies, the values of
CH were again slightly higher. On the other hand, some
studies have shown that CH significantly decreases with
age [4, 26, 43–45]. Kamiya et al. [43] evaluated 204 eyes of
healthy subjects and found a small but statistically significant
negative correlation between CH and CRF with age without
significant differences in central corneal thickness (CCT) or ISRN Ophthalmology 5 Table 1: Summary of studies of corneal hysteresis (CH) and corneal resistance factor (CRF) in healthy patients. Study
Number of eyes Number of patients Sample country
Age (years)
CH (mmHg) CRF (mmHg)
Shah et al. 2006 [50]
207
—
United Kingdom
62.1 ± 18.1
10.7 ± 2.0
10.3 ± 2.0
Kirwan et al. 2006 [38]
91
42
Ireland
(4–18)
12.5 ± 1.4
—
Shah et al. 2007 [39]
207
—
United Kingdom
62.1 ± 18.1
10.7 ± 2.0
—
Lu et al. 2007 [73]
—
20
China
19.7 ± 1.1
11.5 ± 1.4
9.6 ± 1.9
Lam et al. 2007 [24]
—
125
China
23.1 ± 3.3
10.9 ± 1.5
11.0 ± 1.7
Lim et al. 2008 [40]
—
271
Singapore
14.0 ± 0.9 (12–15)
11.8 ± 1.6
11.9 ± 1.7
Touboul et al. 2008 [65]
—
122
France
48.0 (17–80)
10.3
11.1
Song et al. 2008 [59]
—
1233
China
14.7 ± 0.8
10.7 ± 1.5
—
Kirwan and O’Keefe 2008 [6]
84
84
Ireland
36 ± 10
10.8
—
Gonz´alez-Meijome et al. 2008 [68]
58
58
Portugal
22.95 ± 3.92
10.7 ± 1.9
11.4 ± 1.5
Shen et al. 2008 [41]
90
China
33.7 ± 12.4
11.11 ± 1.49
Chen et al. 2009 [77]
—
20
Hong Kong
24.1 ± 2.6
11.1 ± 1.1
10.7 ± 1.3
Franco and Lira 2009 [30]
63
—
Portugal
33.2 ± 12.2
10.8
10.6
Kamiya et al. 3. Factors Affecting Corneal
Biomechanical Properties It has been the
goal of some studies to test the hypothesis that the weaker
scleral structure of highly myopic eyes might be reflected and
quantified in some way through the biomechanical analysis
of the cornea. 3.2. Central Corneal Thickness (CCT). Several studies inves-
tigated the potential effect of CCT on the biomechanical
properties of the cornea measured with ORA. In fact, many
studies reported a positive correlation between CCT and CH
[3, 24, 30, 42, 50, 51] and also with CRF [24, 30, 40, 44,
51]. These studies included healthy subjects from different
races/ethnicities and with a wide range of age. Recently, Leite
et al. [52] found that black subjects had lower CH values
compared to white subjects, but although they attributed
those differences in CH to differences in corneal thickness
between the two groups, they did observe a statistical trend
towards lower CH among black subjects even when adjusting
for CCT. A similar result was observed in a study with a strong
statistical power by Haseltine et al. [53].h Studies performed in Chinese subjects [41, 56] and
Caucasian subjects [57] with a wide range of refractive errors
observed a significant negative correlation between CH and
myopia. Shen et al. [41] found lower CH in highly myopic
eyes (−9 D) and no statistically significant differences in CH
between emmetropes and low myopes (+0.25 to −2.75 D) or
moderate myopes (>−3.00 to −6.00 D). Similar results were
reported by Jiang et al. [56], but the reason of this decrease
was not fully explained. However, although variation was not
observed neither in CCT nor in CRF among subjects with
different myopia degree, it is possible that the changes are
related to the different characteristics of the cornea rather
than weaker sclera structure which is characteristic of the
highly myopic eyes. Recently, Xu et al. [58], in a study of
subjects with myopic anisometropia, reported a significant
lower CH in high myopic eyes compared to contralateral
normal eyes. In this study, the difference in AL between
the two eyes that resulted in anisometropia and CH was These results are in agreement with the expected response
because a thinner cornea will be easier to deform, while a
thicker healthy cornea containing more collagen fibers and
ground substance will present a higher resistance against
deformation and a higher damping capacity. 3. Factors Affecting Corneal
Biomechanical Properties 2009 [43]
204
204
Japan
46.7 ± 19.4
10.1 ± 1.5
10.1 ± 1.6
Abitbol et al. 2010 [42]
—
75
France
61.44 ± 10.6 (45–85)
10.46 ± 1.6
—
Kaushik et al. 2012 [90]
—
71
India
>18
9.5 ± 1.4
9.2 ± 1.5
CH: corneal hysteresis; CRF: corneal resistance factor. able 1: Summary of studies of corneal hysteresis (CH) and corneal resistance factor (CRF) in healthy patients. changes that would potentially reflect more directly on the
biomechanical behaviour of the cornea. changes that would potentially reflect more directly on the
biomechanical behaviour of the cornea. changes that would potentially reflect more directly on the
biomechanical behaviour of the cornea. changes that would potentially reflect more directly on the
biomechanical behaviour of the cornea. on present data, that CH and CRF parameters are able to
confirm in vivo and in the clinical routine the expected
changes towards a stiffening of the cornea. 3.3. Refractive Error and Axial Length. The degree of myopia
is correlated with axial length (AL). Furthermore, it has
been claimed that longer eyes are associated with flat corneal
curvature and thinner corneas [55]. Furthermore, longer
eyes had thinner sclera walls and possible thinner choroidal
structure. In this way, according to previous section, if the
highly myopic eyes have thinner corneas and if corneal
biomechanical response might be somewhat related to the
whole-eye biomechanical response, it would be expected that
that more myopic eyes have lower CH values. It has been the
goal of some studies to test the hypothesis that the weaker
scleral structure of highly myopic eyes might be reflected and
quantified in some way through the biomechanical analysis
of the cornea. 3.3. Refractive Error and Axial Length. The degree of myopia
is correlated with axial length (AL). Furthermore, it has
been claimed that longer eyes are associated with flat corneal
curvature and thinner corneas [55]. Furthermore, longer
eyes had thinner sclera walls and possible thinner choroidal
structure. In this way, according to previous section, if the
highly myopic eyes have thinner corneas and if corneal
biomechanical response might be somewhat related to the
whole-eye biomechanical response, it would be expected that
that more myopic eyes have lower CH values. 3. Factors Affecting Corneal
Biomechanical Properties Consequently,
the stronger the corneal tension, the faster the cornea
recovers its original position following deformation. CCT
also suffers circadian changes and this might affect the
biomechanical properties measured. There are a couple of
articles where the 24-hour changes of CCT and corneal
biomechanical properties were analysed [44, 54]. Despite a
significant change between the nocturnal and diurnal CCT
values, a significant change in the CH and CRF was not
observed. These results could be explained considering that
nocturnal CCT increase is related to increase in corneal
hydration instead of collagen fibril or ground substance 6 ISRN Ophthalmology 6 confirmed by others [27, 64, 65]. Therefore, the effect of
CCT on IOP overestimation may be explained by CRF and
the resistance against deformation of the cornea which is
also higher in eyes with higher IOP values [27]. In contrast,
some studies reported the lack of association between CH
and both GAT and IOPg [30, 64, 65], suggesting that CH is
independent of IOP, while other studies suggest a relationship
between CH and IOP. CH has been shown to decrease as the
IOPcc increases [30, 46, 66, 67]. Kamiya et al. [66] found IOP
as a significant explanatory variable relevant to CH, while
Gonz´alez-Meijome et al. [68] found a significant correlation
between changes in IOP and changes in CH during the day in
healthy eyes. Also, CH has been shown to increase when IOP
was lowered to normal range in patients with chronic primary
angle-closure glaucoma [69]. correlated with AL and CCT in high myopic eyes, whereas
in the contralateral eyes, it was only correlated with CCT. Additionally, since differences in IOPg and IOPcc between
the high myopic and contralateral eye were not observed, the
authors suggest that the difference in AL does not occur by
virtue of higher IOP, but it is possible that eyes with lower
CH and thinner scleral structure may be easier to elongate
[58, 59]. However, these studies do not permit elucidation if
the lower CH and thinner scleral structure are the cause or
the consequence of the increasing myopia of those eyes. g
y
y
Yet, despite above studies indicate that the mechanical
strength of the anterior segment of the eye is somehow
compromised in high myopia, other previous studies did
not show a correlation between refractive error and ORA
measurements [40, 59, 60]. The study conducted by Rad-
hakrishnan et al. 3. Factors Affecting Corneal
Biomechanical Properties In fact, in a recent study, it was observed
that the myopic subjects wearing soft contact lenses have
higher values of CH and CRF than noncontact lens wearers
[70]. The corneal swelling response with contact lens wear
and eye closure averaged from ∼3% to ∼10% [71, 72] and some
studies have analysed these effects on ORA measurements
[70, 73, 74]. Lau and Pye induced corneal edema wearing
soft contact lens for three hours and found no change in CH
even with 13.1% corneal swelling, while CRF was elevated by
a maximum of 0.6 mm Hg immediately after lens removal
and was followed by a gradual recovery to normal values. Additionally, there were significant increases in IOPg but not
in IOPcc and there were significant but weak correlations
between changes of CCT and IOPg and IOPcc and CRF. Lau
and Pye [74] found that CH and CRF respond to corneal
swelling in dissimilar ways: CH was reduced by 0.6 mm Hg
immediately after lens wear before returning to baseline,
while CRF was elevated by a maximum of 0.6 mm Hg. In
addition, the ability of CCT to predict both CH and CRF
was significantly different between control and monocular
closed-eye contact lens wear and the GAT overestimation
observed is associated with an overall increase in CRF caused
by small amounts of corneal swelling. Differences in the
study population as well as in the amount of corneal swelling
induced are likely contributors to the differences in the results
between the two studies. However, the results suggest that
ORA-generated parameters may be different in subjects with
and without contact lens wear when significant amounts
of edema are present. This kind of response, commonly 3.5. Soft Contact Lens Wear. Reduced oxygenation of the
cornea during contact lens (CL) wear is known to produce
corneal edema that is reflected in an increase in corneal
thickness (swelling). In fact, in a recent study, it was observed
that the myopic subjects wearing soft contact lenses have
higher values of CH and CRF than noncontact lens wearers
[70]. The corneal swelling response with contact lens wear
and eye closure averaged from ∼3% to ∼10% [71, 72] and some
studies have analysed these effects on ORA measurements
[70, 73, 74]. 3. Factors Affecting Corneal
Biomechanical Properties [60] evaluated 95 normal myopic adult
subjects (19 to 48 years) and found that CH was not signif-
icantly correlated with refractive error, while CRF showed
a statistically significant but very weak correlation with
spherical equivalent refractive error (𝑟2 = 0.04). However, the
mean spherical refractive error was −1.78 ± 2.26 D and both
parameters showed a considerable scatter across the sample
under analysis. Considering the previous results and despite some con-
troversy, it is expected that in corneas with higher CH and
higher CRF and therefore higher resistance to deformation,
the values of GAT IOP or IOPg may be higher than the actual
values and IOPcc could be a more reliable measure in those
cases. The opposite might hold true in cases of lower CH
and lower CRF where the actual IOP might be higher than
actually measured by conventional methods. Again, IOPcc
might provide a more realistic measure of the intraocular
pressure. 3.4. Intraocular Pressure (IOP). The Goldmann applanation
tonometer (GAT) is the reference method to measure the
IOP but when the IOP is measured with GAT it is assumed
that the cornea is uniformly thick and perfectly elastic and
behaves like a thin and perfectly flexible membrane [61]. Actually, none of these assumptions applies to the anatomical
structure and physical behaviour of the living cornea under
applanation forces. The pressure required to applanate the
cornea depend on the IOP and the corneal rigidity [42],
and it is well known that the IOP measures are influenced
by CCT with thicker corneas requiring stronger force to
applanate than thinner corneas, independent of IOP [10]. Many published articles have proposed linear correction
factors to convert measured IOP into “true” IOP, on the basis
of CCT. However, reported correction factors are different
and mostly dependent on the population under study and can
lead to corrections that may be wrong in magnitude and in
direction such as correcting down when the true pressure is
actually higher [62]. In fact, corneal biomechanical properties
seem to be stronger predictors of IOP measurement error
than does CCT alone [10]; this might explain the success of
the ORA over the last 8 years for the IOP measurement in
several corneal conditions. 3.5. Soft Contact Lens Wear. Reduced oxygenation of the
cornea during contact lens (CL) wear is known to produce
corneal edema that is reflected in an increase in corneal
thickness (swelling). 3. Factors Affecting Corneal
Biomechanical Properties Qazi
et al. [82] found that despite similar changes in CH and
CRF in the myopic LASIK and myopic LASEK groups, there
were significantly greater postoperative changes in the ORA
waveforms in the LASIK groups than in the LASEK group
with the amplitude of Peak 1 being less reduced in the
group of LASEK, suggesting that the creation of a flap has a
greater effect on these waveform parameters than the depth or
location of the stromal ablation. Similar results were reported
by Franco and Lira [30] who found that, as a result of induced
changes in viscous and elastic properties by LASIK, the time
needed for the first applanation of the cornea (Time in) was
higher in normal than in post-LASIK eyes and that the post-
LASIK eyes needed more time to recover their shape (Time
out parameter). observed in aphakic patients with overnight wear of thick CL,
is not expected with regular use of silicone hydrogel contact
lenses under daily wear conditions by patients within the
normal range of refractive errors. 3.6. Orthokeratology. Orthokeratology (OK) is a technique
that uses special gas permeable CL to temporarily reduce
myopia by flattening the cornea. Therefore, the epithelial
corneal thickness profile is changed and the cornea is sig-
nificantly flattened by the use of these CL [75, 76] and the
corneal biomechanical properties could be affected by these
changes. Biomechanical properties of the cornea may help
to understand the different responses to OK among different
subjects. A study published in 2008 [5] investigated the
changes of ORA measurements, CCT, and topography in
subjects three hours after wearing OK lenses and three hours
after removing the CL in order to assess the effect of corneal
biomechanical properties on response (corneal flattening)
and recovery (corneal steepening) during OK lens wear and
after removal, respectively. The authors found that corneas
with high values of CH showed a slower response and slower
recovery to the OK treatment in the short-term treatment
(3 hours of treatment). In another study, during short-term
OK treatment, CRF was shown to decrease with increasing
duration of lens wear, while there was no significant change
in CH [77]. On the other hand, a significant decrease in CH
and CRF was reported within the first week of OK treatment
[78]. However, CRF and CH returned to original values and
remained unchanged thereafter. 3. Factors Affecting Corneal
Biomechanical Properties According to the authors, the
early reduction in CH and CRF may be due to a temporal
response of reshaping of the corneal surface, rather than
changes in the corneal microstructure. This may explain why
there is a trend for CH and CRF to be reduced during the first
month of treatment and after 1 year of treatment; when this is
interrupted, CH and CRF show a trend to return to baseline
values [79].h p
)
Studies reporting the time course of ORA parameters
after different surgical techniques showed that the largest
changes occurred within the first few weeks after surgery and
then became nearly stable or even showed a slight recovery
in the medium and longer term [84, 86, 87]. Surgically
induced corneal ectasia is a rare complication of refractive
surgery and is thought to be a result of biomechanical
decompensation due to an insufficient residual stromal bed
thickness after the surgery or when surgery is performed
on unidentified subclinical keratoconic cornea. Thus, the
possibility of using ORA parameters for assisting in the
detection of corneas at risk has been very promising since
the ORA was marketed. Although a low CH (<8 mm Hg)
might be a predictive index of a preectatic conditions [3, 33],
the overlap in the distribution of both CH and CRF values
within the normal population does not support a role for CH
and CRF measurement as single predictors to detect early
ectasia or to predict its onset before surgery [91]. Instead,
waveform analysis of ORA signals [33, 82, 92] has shown
that the morphology of the signal may provide additional
information. For instance, in a case of iatrogenic ectasia after
LASIK, Kerautret et al. [33] found a lower Peak 1 height in
the ectatic eye than in the fellow nonectatic eye, despite the
similar CH and CRF values in the 2 eyes. These findings may
suggest that a higher Peak 1 is associated with a stiffer cornea
[82]. Considering that recent studies seem to indicate that the
new ORA parameters represent a significant improvement
over CH and CRF alone, more research is needed to confirm
and improve the sensitivity and specificity for preoperative
detection of at-risk corneas. 3. Factors Affecting Corneal
Biomechanical Properties The knowledge of these associations could help to have
a better predictability of the OK effect [5, 80] and then to
choose the suitable patients to undergo OK treatment or to
predict the speed of onset and recovery of the effect. 3. Factors Affecting Corneal
Biomechanical Properties Lau and Pye induced corneal edema wearing
soft contact lens for three hours and found no change in CH
even with 13.1% corneal swelling, while CRF was elevated by
a maximum of 0.6 mm Hg immediately after lens removal
and was followed by a gradual recovery to normal values. Additionally, there were significant increases in IOPg but not
in IOPcc and there were significant but weak correlations
between changes of CCT and IOPg and IOPcc and CRF. Lau
and Pye [74] found that CH and CRF respond to corneal
swelling in dissimilar ways: CH was reduced by 0.6 mm Hg
immediately after lens wear before returning to baseline,
while CRF was elevated by a maximum of 0.6 mm Hg. In
addition, the ability of CCT to predict both CH and CRF
was significantly different between control and monocular
closed-eye contact lens wear and the GAT overestimation
observed is associated with an overall increase in CRF caused
by small amounts of corneal swelling. Differences in the
study population as well as in the amount of corneal swelling
induced are likely contributors to the differences in the results
between the two studies. However, the results suggest that
ORA-generated parameters may be different in subjects with
and without contact lens wear when significant amounts
of edema are present. This kind of response, commonly IOPg provided by ORA is analogous to standard noncon-
tact tonometry IOP measurements whereas IOPcc takes into
account the biomechanical properties and is independent
of the CCT as explained above. Although some studies
find no mean difference between GAT and both ORA IOP
measurements [24, 31, 63], other studies found poor agree-
ment between GAT and IOPg and IOPcc with a significant
overestimation of IOPg and IOPcc compared to GAT [27,
64]. Medeiros and Weinreb [31] found that GAT IOP was
significantly correlated with CCT and significantly influenced
by CRF, while IOPcc was not, and similar results have been 7 ISRN Ophthalmology 89]. Ortiz et al. [4] found a moderate correlation between
the refractive error correction and the change in CH (𝑟=
0.5, 𝑃= .007) and CRF (𝑟= 0.6, 𝑃= .001) in myopic
LASIK, while a smaller decrease in CH and CRF was found
in hyperopic LASIK eyes than in myopic LASIK and LASEK
eyes, supporting the predominant effect of tissue ablation
[89]. Gatinel et al. [88] found a reduction in both CH and
CRF with microkeratome-assisted flap creation alone. 3.7. Refractive Surgical Treatments 3.7.1. Refractive Surgery. Laser corneal ablation might have
significant implications on corneal mechanical resistance. Several studies showed invariably a significant reduction of
CH and CRF by about 1 to 3 mm Hg approximately after
different laser refractive treatments [4, 6, 25, 30, 81–87]. The
results from these studies are summarized in Table 2. Studies
comparing different laser refractive techniques showed a
higher decrease in both CH and CRF in LASIK eyes when
compared with photorefractive keratectomy (PRK) [83]. Similar decrease in CH has been documented for LASIK
and laser-assisted subepithelial keratectomy (LASEK) [6]. This biomechanical effect was correlated with deeper ablation
because more central collagen and matrix material would be
removed [4, 81] or with the potential effect of flap preparation
that itself causes a reduction in both CH and CRF [82, 88, 3.7.2. Cross-Linking (CXL). Cross-linking (CXL) is a min-
imally invasive procedure which presumably induces the
formation of new molecular bonds between the corneal col-
lagen fibrils and lamellae using riboflavin and UV light [93]. This procedure of reinforcing the collagen meshwork with 3.7.2. Cross-Linking (CXL). Cross-linking (CXL) is a min-
imally invasive procedure which presumably induces the
formation of new molecular bonds between the corneal col-
lagen fibrils and lamellae using riboflavin and UV light [93]. This procedure of reinforcing the collagen meshwork with 8 ISRN Ophthalmology 8 Table 2: Summary of studies evaluating the influence of refractive surgery on biomechanical parameters. Author
Sample (eyes)
Outcomes
CH (mmHg)
CRF (mmHg)
Pepose et al. (2007) [25]
66 LASIK
Pre
Post
Pre
Post
9.7 ± 1.8
8.0 ± 1.6
9.5 ± 1.9
6.7 ± 1.7
Ortiz et al. (2007) [4]
65 LASIK
Pre
Post
Pre
Post
10.44 ± 1.74
9.3 ± 1.9
10.07 ± 1.97
8.1 ± 1.8
Hamilton et al. (2008) [81]
32 LASIK (flap with femtosecond):
CH decreased 1.9 mmHg
33 LASIK (flap with microkeratome):
CH decreased 2.2 mmHg
32 PRK:
CH decreased 2.3 mmHg
Franco and Lira (2009) [30]
63 control
10.8 ± 1.53
10.6 ± 1.71
20 LASIK
8.5 ± 1.22
7.7 ± 0.97
Qazi et al. (2009) [82]
Pre
Post
Pre
Post
15 LASEK
9.06 ± 1.56
7.16 ± 1.99
8.61 ± 1.76
5.95 ± 2.41
14 LASIK
10.00 ± 1.77
8.57 ± 2.25
9.87 ± 1.97
7.35 ± 2.49
Kamiya et al. 3.7. Refractive Surgical Treatments (2009) [84]
36 LASIK
Pre:
10.6
Pre:
10.0
Post:
Post:
1 week:
8.6
1 week:
7.3
1 month:
9.0
1 month:
7.6
3 months:
9.0
3 months:
7.8
6 months:
8.9
6 months:
7.7
Kamiya et al. (2009) [83]
Pre
Post
Pre
Post
27 LASIK
10.8
8.6
10.3
7.7
31 PRK
10.8
9.2
10.3
8.4
Shah and Laiquzzaman (2009) [85]
110 LASIK
Pre:
Post:
Pre
Post
11.4
9.2
10.0
7.6
Chen et al. (2010) [86]
60 LASIK
Pre:
10.59 ± 1.02
Pre:
8.80 ± 1.45
Post:
Post:
1 day:
8.16 ± 0.84
1 day:
5.02 ± 1.16
10 days:
8.14 ± 0.77
10 days:
4.96 ± 0.98
1 month:
8.33 ± 0.88
1 month:
5.08 ± 1.31
3 months:
8.47 ± 0.78
3 months:
5.26 ± 0.96
Ryan et al. (2011) [87]
102 epi-LASIK
Pre:
10.22
Pre:
10.01 ± 1.80
Post:
Post:
1 month:
8.17 ± 1.25
1 month
7.82 ± 1.68
3 months:
8.46 ± 1.44
3 months:
8.03 ± 1.85
6 months:
8.63 ± 1.31
3 months:
7.77 ± 1.50
12 months:
8.53 ± 1.49
3 months:
7.80 ± 1.66
CH: corneal hysteresis; CRF: corneal resistance factor. Table 2: Summary of studies evaluating the influence of refractive surgery on biomechanical parameters. CXL has shown to be effective in the treatment of surgically
induced ectasia and in halting progression of keratoconus
[94–96]. In corneal CXL, the cornea is stiffened and a high
increase is observed in Young’s modulus by nearly 300%
[93]. It would be expected that the biomechanical properties
of the cornea will change as a result of the treatment,
particularly corneal rigidity parameters. Differences in CH
and CRF were observed during the first weeks after CXL
treatment that returned to baseline values later. The effect of matrix reorganization or CCT changes immediately after the
procedure may explain these differences in CH and CRF [97,
98]; however, sustainable changes in CH and CRF parameters
alone that can be correlated with the assumed increase in
corneal stiffness induced by CXL [34, 36, 97, 99] were not
found and the clinical results did not confirm the ex vivo
results. From the analysis of the new ORA parameters based
on waveform signal analysis, a significant increase (35%) in
area under Peak 1 and Peak 2 was observed after six months CXL has shown to be effective in the treatment of surgically
induced ectasia and in halting progression of keratoconus
[94–96]. 3.7. Refractive Surgical Treatments In corneal CXL, the cornea is stiffened and a high
increase is observed in Young’s modulus by nearly 300%
[93]. It would be expected that the biomechanical properties
of the cornea will change as a result of the treatment,
particularly corneal rigidity parameters. Differences in CH
and CRF were observed during the first weeks after CXL
treatment that returned to baseline values later. The effect of ISRN Ophthalmology 9 present weaker CH and CRF than normal corneas [29, 112–
114]. Additionally, Yenerel et al. [112] found that CH and
CRF were higher in PK eyes than in forme fruste (FF) or
advanced keratoconus (KC) eyes and both CH and CRF
parameters approach the range of normal eyes after corneal
transplantation. On the other hand, Shin et al. [29] analysed
the results of 26 subjects that had undergone PK for different
reasons (bullous keratopathy, herpes keratitis, trauma, etc.)
in one eye and compared the results with the contralateral
nonoperated eye. They reported lower CH and higher CRF
post-PK compared with the fellow healthy eye, although
these differences were not statistically significant. The effect
of different keratoplasty techniques showed that post-PK
eyes had lower CH and CRF when compared with post-
DALK eyes and post-DALK eyes had CH and CRF values
similar to normal eyes. This may be due to the action of
Descemet’s membrane which is preserved in DALK, which
acts as a strong foundation for the rest of the corneal
stroma which rests above it. Opposite findings were reported
by Jafarinasab et al. [115] that found lower values of CH
and CRF in the DALK group compared to PK group, but
those differences were not observed 30 months after surgery. Differences between the indications for keratoplasty or graft-
related differences [116] may explain the difference in the
results of different studies. of treatment, suggesting that this can be the result of a
modified corneal surface after CXL, which provides better
reflectivity due to an improvement of corneal homogeneity
[34, 97]. These recent studies seem to indicate that additional
parameters derived from signal analysis provide supplemen-
tal information to evaluate the potential positive effect of CXL
and to measure the long-term effects of this procedure. 3.7.3. Intrastromal Corneal Ring Segments. Intrastromal cor-
neal ring segments (ICRS) are primarily used for the treat-
ment of primary keratoconus [100] and secondary keratec-
tasia following refractive surgery [101]. 3.7. Refractive Surgical Treatments The insertion of the
ICRS induces a flattening of the central cornea by adding
extra material within the corneal paracentral area [102],
improving regularity of the corneal shape, and preventing
additional degradation of vision [103]. Knowledge of the
biomechanical properties of the corneal might help to decide
the best treatment approach, predict the success of the
treatment, and eventually monitor the postsurgical corneal
behaviour. No significant differences were found in CH in
the short-term (<3rd month) postoperative period [104–106]
which may indicate that the ICRS alter corneal curvature
without changing the viscoelastic response of the corneal
tissue. A study conducted on 20 patients with keratoconus
showed a stable corneal flattening and a decrease of the
astigmatism with no statistically significant changes in ORA
parameters, 18 months after ICRS implantation [107]. Better
visual outcomes could be expected for corneas with lower
biomechanical corneal resistance due to easier deformation
by the ring implantation. Pi˜nero et al. [108] reported sig-
nificant changes in CH, 6 months after ICRS implantation,
and the authors suggested that these changes may limit
the prediction of the ring segment effect in the long term. However, this hypothesis could not be confirmed by a recent
study [109], contradicting previous results obtained by the
same authors. Although the authors claim in the second
publication that prediction of visual acuity (VA) by ORA
parameters is feasible in the short term, they could not
confirm that in the first study using the same follow-up
time of 6 months. Regarding CRF value, significant transient
decrease was found during the first 3-month period after
the femtosecond laser-assisted ICRS implantation with no
significant changes thereafter [105]. New waveform param-
eters such as the amplitude Peak 2 [104], aplhf, uslope11,
w11, path11, time1, and deltatime [110] showed significant
differences with respect to the preoperative conditions but
those changes were not attributed to a modification of the
biomechanical properties induced by the treatment but rather
to corneal stabilization. Interestingly, from the waveform
analysis provided by Ambrosio et al. [111], it has been recently
reported that the corrected and uncorrected distance visual
acuity improved more as the pre-ICRS implant biomechani-
cal properties were weaker or less resistant before treatment. This might provide useful information to predict the visual
outcomes of ICRS implantation in keratoconus [111]. 3.8. Ocular Disease According to the authors, these results may
be related not only to corneal hydration but also to other
aspects of corneal biomechanics since patients with FCD have
decreased endothelial cell density and thicker Descemet’s
membrane, and the corneal central region is usually involved
which can lead to reductions of viscous damping within
corneal tissues and, consequently, viscosity reduces. Addi-
tionally, the authors found that the lower the CH, the higher
the IOPcc in FCD eyes, but these results may be due to
an underestimation error in IOP measurement caused by
the observed diminished CH and elevated CCT [51]. Similar
results were reported by Clemmensen and Hjortdal [148] who
found a CH and CRF reduction in FCD eyes and that IOPcc
appears to overestimate IOP in those patients. Altogether,
corneas affected by FCD point to a paradoxical condition in
which thicker corneas are not related as expected to higher
CRF as shown in normal eyes. This might also point to a
mechanistic explanation to interpret CRF values. According
to this, CRF increases with increase in CCT as long as
this increase is justified by an increase in collagen material. Conversely, when the increase is due to a massive hydration
of cornea as in FCD, the effect is the opposite as the ground
substance becomes more relevant in the overall context of the
mechanical behaviour of the cornea. reported that CH was lower in glaucomatous eyes with an
acquired pit and hypothesized the possibility that corneal
biomechanical properties reflect the attributes of the lamina
cribrosa [120, 121]. Several studies found that eyes with low
CH are associated with increased severity of glaucomatous
visual field defects [45, 122, 129, 130]. In contrast, Wells et
al. [124] found a relationship between CH and deformation
of optic nerve head with higher CH being strongly corre-
lated with higher deformability of the optic nerve head. In
untreated newly diagnosed POAG patients, CH was the only
factor significantly associated with both mean cup depth (𝑟=
−0.34) and cup-to-disc ratio (𝑟= −0.41) [131]. In conclusion, as the elastic properties of the cornea are
believed to reflect the elasticity of collagen fibres in the eyeball
as a whole, there might be an opportunity to consider corneal
biomechanics as an indicator of overall globe biomechanical
properties in glaucoma [132]. 3.8. Ocular Disease Thus, changes
in corneal biomechanics in KC eyes might be expected and
it has been suggested that KC progression is characterized by
a reduction of material properties that lead to a progressive
thinning, increasing strain and stress redistribution, and
lower keratocyte densities [134, 135]. CH and CRF measure-
ments have been shown to be reduced in KC eyes [4, 28, 39, 85,
136–138] with stronger decrease as KC severity increases [110,
139–141] even after controlling for differences in age, sex, and
CCT [141, 142]. This suggests that other structural alterations
different from CCT lead to lower lamellar adhesion and lower
shear modulus and may be responsible for these lowering
effects in ORA measurements [143]. However, there is large
overlap of CH and CRF between normal and KC corneas and
both ORA parameters showed low sensitivity and specificity
in differentiating KC or suspecting KC from healthy corneas
[137, 138, 140, 142, 144, 145]. Recent studies demonstrated
that the new parameters derived from waveform analysis of
ORA signals represent a significant improvement in detection
and differentiation of the keratoconic cornea [28, 92, 110,
145, 146]. In fact, characteristics of the air pressure corneal
deformation profile are more affected by keratoconus than
the traditionally extracted CH and CRF factors; keratoconic
eyes have significantly lower elasticity coefficient compared
to normal eyes [92] and the area under the second peak of
the signal curve has been shown to produce the best results
and seems more promising in distinguishing between normal
and KC eyes [110, 137]. 3.8. Ocular Disease 3.8.1. Glaucoma. Differences in CCT have been considered as
a risk factor for glaucoma [117, 118] and given the correlation
between low CCT and glaucomatous changes in the optic
disc, a biological association shared by the cornea, sclera,
and lamina cribrosa is conceivable [119, 120]. A number of
recent reports have suggested a relationship between CH,
CRF, and glaucoma with evidence that CH is lower in
glaucomatous eyes compared with normal eyes and eyes with
ocular hypertension [3, 7, 42, 45, 90, 121–124]. Furthermore,
normal tension glaucomatous (NTG) eyes show the lowest
value among glaucomatous eyes according to some studies
[121, 125]. Even after pharmacologic IOP lowering, CH was
shown to be lower in glaucomatous eyes than in normal eyes
[126]. This suggests that eyes with lower CH and/or thinner
than normal CCT might exhibit structural weakness [42]
and it is possible that CCT and CH could be considered
as risk factors for glaucoma, independent of IOP [121, 122,
127]. Conversely, CRF was found to be significantly higher
in patients with ocular hypertension and in patients with
primary open-angle glaucoma and low in NTG patients
[90, 123]. This implies that GAT IOP should be expected to
be overestimated as a greater force required to applanate a
cornea with higher CRF. This could suggest that CRF could
be also useful to differentiate between subjects with ocular
hypertension and glaucoma [123]. As both the sclera and the cornea are formed from
continuous extracellular matrix, this might have some effect
on the biomechanical relationship between the two tissues
[128]. Bochmann et al. [120] compared CH in glaucomatous
eyes with and without acquired pit of the optic nerve and 3.7.4. Keratoplasty. Studies that evaluated corneal biome-
chanics by ORA showed that corneas after penetrating ker-
atoplasty (PK) or deep anterior lamellar keratoplasty (DALK) 10 ISRN Ophthalmology When the disease progresses, the number of endothelial
cells decreases and corneal oedema increases affecting visual
acuity [147]. Both CRF and CH parameters were found to be
lower in FCD eyes compared to normal eyes [3, 51, 148]. del
Buey et al. [51] reported that CRF was positively correlated
with CCT in control eyes while this correlation was negative
in FCD eyes. 3.8.3. Fuchs Corneal Dystrophy. Fuchs corneal dystrophy
(FCD) is a genetic disorder of the corneal endothelium. 3.8. Ocular Disease If this is true, corneal biome-
chanical properties seem to be a promising addendum to the
complex issues of glaucoma and may constitute a pressure-
independent risk factor for glaucoma detection, prognosis,
and treatment. 3.8.2. Keratoconus. In keratoconus (KC), the normal corneal
collagen-fibril meshwork is disrupted leading to a localized
reduction of corneal radius of curvature and tissue thinning. A significant weaker stress versus strain response in KC eyes
compared to normal eyes and a more disorganised collagen
fibber network as well been shown [16, 133]. Thus, changes
in corneal biomechanics in KC eyes might be expected and
it has been suggested that KC progression is characterized by
a reduction of material properties that lead to a progressive
thinning, increasing strain and stress redistribution, and
lower keratocyte densities [134, 135]. CH and CRF measure-
ments have been shown to be reduced in KC eyes [4, 28, 39, 85,
136–138] with stronger decrease as KC severity increases [110,
139–141] even after controlling for differences in age, sex, and
CCT [141, 142]. This suggests that other structural alterations
different from CCT lead to lower lamellar adhesion and lower
shear modulus and may be responsible for these lowering
effects in ORA measurements [143]. However, there is large
overlap of CH and CRF between normal and KC corneas and
both ORA parameters showed low sensitivity and specificity
in differentiating KC or suspecting KC from healthy corneas
[137, 138, 140, 142, 144, 145]. Recent studies demonstrated
that the new parameters derived from waveform analysis of
ORA signals represent a significant improvement in detection
and differentiation of the keratoconic cornea [28, 92, 110,
145, 146]. In fact, characteristics of the air pressure corneal
deformation profile are more affected by keratoconus than
the traditionally extracted CH and CRF factors; keratoconic
eyes have significantly lower elasticity coefficient compared
to normal eyes [92] and the area under the second peak of
the signal curve has been shown to produce the best results
and seems more promising in distinguishing between normal
and KC eyes [110, 137]. 3.8.2. Keratoconus. In keratoconus (KC), the normal corneal
collagen-fibril meshwork is disrupted leading to a localized
reduction of corneal radius of curvature and tissue thinning. A significant weaker stress versus strain response in KC eyes
compared to normal eyes and a more disorganised collagen
fibber network as well been shown [16, 133]. 3.9. Systemic Disease 3.9.1. Diabetes. Several structural changes in the cornea
of diabetes patients have been reported [149, 150] and an
influence on the biomechanical properties of the cornea
could also be hypothesized. Several studies have investigated
the impact of diabetes on corneal biomechanical parameters;
however, the results are rather controversial among different
studies [151–156]. Goldich et al. [154] found that CH, CRF,
and CCT were significantly higher in diabetic eyes compared
to healthy eyes. Hager et al. [155] reported a significantly
higher CH in diabetic eyes than in nondiabetic eyes after
correcting for age, IOP, and CCT. By contrast, S¸ahin et al. [156] reported that CH was significantly lower in diabetic
patients, whereas CRF was not significantly different from
that of control subjects. The authors hypothesized that lower
CH in diabetic patients may be explained by a decrease in the
dampening effects of the cornea as a result of an alteration in
the collagenous components in diabetic eyes due to collagen
cross-linking. The reasons for such contradictory results
among different studies lie in the differences in age range and
CCT and diversity of diabetes types and severity enrolled. In some studies most patients presented type 2 diabetes,
while in others there were a similar number of patients with
type 1 and type 2 of diabetes. In fact, as recently shown by
Scheler et al. [152], biomechanical properties of the cornea
seem to be altered depending on the glucose control. In their 3.8.3. Fuchs Corneal Dystrophy. Fuchs corneal dystrophy
(FCD) is a genetic disorder of the corneal endothelium. ISRN Ophthalmology 11 All of them seem to be relevant parameters to define the
corneal stiffness and corneal viscoelastic properties and are
promising in the evaluation of several corneal conditions and
the outcomes of different surgical procedures [158–161]. study, Scheler et al. found that in diabetes, CH and CRF were
significantly correlated to glycated haemoglobin (HbA1c);
diabetic patients with elevated HbA1c showed an increased
CH indicating an increase in the viscosity of the ground sub-
stance that is associated with higher corneal shearing strength
and increased damping most likely due to a nonenzymatic
glycosylation of proteoglycans and glycosaminoglycan that
affects the corneal damping behaviour [152]. f
g
p
Another prototype device is the Dynamic Corneal Sur-
face Topography [162] that involves surface topographic
corneal imaging, with a Dynamic Rasterstereographic Corn-
eal Topography (d.RCT) with off-axis geometry, during an
air puff indentation by an NCT [163]. 4. New Imaging Techniques to Measure the
Corneal Biomechanical Properties Given the promising nature of the possibility of measuring
corneal biomechanics in vivo, there has been an increasing
interest in the development of methods that allow minimally
invasive mechanical test of the cornea which may permit a
better understanding of the differences in corneal properties
between a wide range of ocular conditions and healthy
eyes as well as an improvement in the early detection
of potential problematic corneas. Until now, many studies
covering measurement of corneal biomechanical properties
in a wide range of topics have been performed and published
using the ORA device as previously described, but other new
in vivo techniques of corneal biomechanical measurements
are under development. However, with the exception of the
Corvis ST, most of these new noninvasive or minimally
invasive techniques are experimental prototypes that despite
being promising still have many drawbacks such as not
being commercially available, being of high costs, and lacking
evidence of accuracy and availability for clinical purposes
that need to be overcome.l Another novel method is based on high speed Swept
Source Ocular Coherence Tomography (ssOCT) combined
with an air puff NCT [165]. The cornea is deformed by
the air puff, and during the 20 ms of applanation time, the
ssOCT acquires multiple A-scans at the center of the air puff,
allowing observation of the dynamics of the anterior and
posterior corneal surfaces. From the analysis of the scan, one
can obtain information about the biomechanical behaviour
of the cornea during the applanation process. Pilot results
in normal subjects showed the validity of the technique in
IOP measurement [165]. However, the system needs improve-
ments particularly in a faster acquisition system and a large
clinical study is required to fully understand the potential of
the system in the clinical setting. One technique is the Corneal Visualization Scheimpflug
Technology (Corvis ST; Oculus, Wetzlar, Germany) which is
commercially available since 2011. This device is based on a
noncontact air puff tonometer combined with an ultrahigh
speed Scheimpflug camera. The Scheimpflug camera records
4330 images per second along an 8 mm horizontal corneal
coverage during corneal deformation under an air puff
indentation [157]. This camera allows a dynamic inspection
of the deformation process of the cornea and provides further
detailed information of biomechanical characterization of the
cornea. 3.9. Systemic Disease This device includes
an imaging arm, a calibrated grid arm, and a digital cam-
era. When fluorescein is instilled into the cornea and the
fluorescent emissions are excited by the projected grid, an
image of which is then captured that contains the three-
dimensional information from the corneal surface. After
approximately 12 ms from the beginning of the air puff, when
the air puff pressure is maximum, another image is taken,
which corresponds with the largest corneal deformation. From the two images that are acquired (predeformation
and middeformation), biomechanical properties can then be
determined using a model of corneal viscoelasticity, based on
the applied force and the stress-strain relationship of discrete
surface segments across the cornea by measuring corneal
shape and displacement between the predeformation state
and the middeformation state [164]. 4. New Imaging Techniques to Measure the
Corneal Biomechanical Properties The Corvis ST output parameters include time and
length of the flattened cornea in the first applanation; corneal
velocity during the first applanation moment; time from start
until the second applanation; length and corneal velocity
during the second applanation moment; time from start until
the highest concavity of cornea is reached; and maximum
deformation amplitude (from start to the highest concavity)
at the corneal apex, among others. However, the machine is
still under development and new parameters are being con-
tinuously added to the output and only available for research
purposes. A definition of the parameters currently available
in the commercial version of the instrument is provided in
Appendix B. Clinical outcomes are limited and preliminary
results have found significant differences of corneal defor-
mation response among normal and keratoconic corneas for
many parameters such as corneal speed during deforma-
tion, corneal applanation length, and deformation amplitude. Brillouin Optical Microscopy is another noncontact tech-
nique that uses the combination of a confocal microscope
with an ultrahigh resolution spectrometer to perform Bril-
louin imaging of the cornea [166]. It has the ability to visualize
corneal elasticity and measure the depth-dependent variation
of elastic modulus within the cornea noninvasively with
three-dimensional resolution. This device was firstly used in
bovine corneas and is currently in development for use in
human eyes [166]. Shear wave propagation velocity has been used to mea-
sure corneal biomechanical properties in vivo, through the
use of linear elastic model approximation, in which the
Young’s modulus and Poisson’s ratio can be estimated from
the shear wave speed [18, 167, 168]. However, corneal strain
and corneal hydration strongly affects the wave speed by
attenuating high-frequency shear wave and do not reproduce
the nonlinear properties of the cornea. Recently, a new
method has been developed: the Quantitative Ultrasonic
Spectroscopy (QUSi) [169]. The QUSi has improvements in
the form of wave propagation that are not available in clinical
ultrasound and derives more information of the reflected 12 ISRN Ophthalmology shear modulus, and hysteresis [177]. Current efforts include
the development of 3D analysis routines and stress sequences
for in vivo use. full-wave forms. Once corneal acoustic and elastic properties
have been shown to correlate [170], this method is currently
being developed to map corneal elastic properties and so
to determine an elastic constant of the cornea called the
aggregate modulus, which provides a measure of its stiffness
[169]. 5. Conclusions Corneal Transient Elastography (CTE) is another tech-
nique that is under development for ophthalmologic use
and was adapted from a technology in current use for
the analysis of breast tissue imaging [171]. It combines the
generation of a remote palpation in the cornea and ultrafast
(20 000 frames/s) ultrasonic images of the resulting corneal
displacements that evolve into a shear wave propagation
whose local speed was directly linked to local elasticity. The
mainly improvements was at the level of the echographic
probe that was specifically designed to couple a homogenous
transverse compression wave to the tissue (supersonic mode)
and an ultrafast echographic acquisition mode, allowing
high resolution and quantitative maps of the whole corneal
elasticity [172]. The published literature sheds light on the potential utility
of the biomechanical corneal properties to a better compre-
hension of the mechanical behaviour of this complex tissue. However, it also shows some to some controversial results in
relevant areas such as their impact on intraocular pressure
measurement, preoperative refractive surgery assessment,
and surgical treatment of keratoconus. New parameters
derived from a more detailed analysis of the outcomes as well
as new technologies are promising in consolidating the utility
of the biomechanical corneal properties as a clinical tool and
a very relevant field for the future improvement of safety and
efficacy of different eye health care strategies. A. Parameters obtained from signal analysis of the Ocular
Response Analyzer: (i) P1 area and P2 area: areas under the curves of Peaks 1
and 2, measuring 75% of peaks height. (i) P1 area and P2 area: areas under the curves of Peaks 1
and 2, measuring 75% of peaks height. (ii) P1 area1 and P2 area1: areas under the curves of Peaks
1 and 2, measuring 50% of peaks height. (ii) P1 area1 and P2 area1: areas under the curves of Peaks
1 and 2, measuring 50% of peaks height. (iii) h1 and h2: height of the signal Peaks 1 and 2, measur-
ing 75% of Peaks height. (iv) h11 and h21: height of the signal Peaks 1 and 2,
measuring 50% of Peaks height. (v) w1 and w2: full width of signal Peaks 1 and 2 at 25% of
the maximum of the infrared signal peaks. (vi) w11 and w21: width of signal Peaks 1 and 2 at half of
the maximum of the infrared signal peaks. These two
parameters are also called by other authors FWHM1
and FWHM2 [25]. (vi) w11 and w21: width of signal Peaks 1 and 2 at half of
the maximum of the infrared signal peaks. These two
parameters are also called by other authors FWHM1
and FWHM2 [25]. ff
Another technique uses a physical probe to indent the
central cornea with an electronically controlled micropre-
cision motor coupled with simultaneous video-topography
imaging of the cornea. It is called Dynamic Corneal Imaging
(DCI) and measures the change in curvature of the cornea
as it bends [176]. in this technique, greater difference flexing
curves have been demonstrated with lower IOP, thinner
corneas, and in keratoconic versus normal corneas as well,
which is consistent with more easily deformable corneas
[176]. (vii) aspect1 and aspect2: ratio between width (w) and
height (h) of Peaks 1 and 2, measuring 75% of peaks
height. (viii) aspect11 and aspect21: ratio between width (w) and
height (h) of Peaks 1 and 2, measuring 50% of peaks
height. (viii) aspect11 and aspect21: ratio between width (w) and
height (h) of Peaks 1 and 2, measuring 50% of peaks
height. (ix) uslope1 and uslope2: rate of increase from base (at
25% of maximum of the infrared signal peaks) to
Peaks 1 and 2. Appendices y
Optical interferometric techniques were also used to
measure corneal biomechanical properties because they are
noncontact, highly sensitive, and capable of simultaneously
recording information from across the whole surface. Holo-
graphic interferometry has been used to assess qualitatively
keratoplasty wound integrity in vivo [173]. Electronic speckle
pattern interferometry (ESPI) was used to quantify the effect
of microkeratome flap creation on the displacement response
of the sheep cornea [174]; however, these techniques are
extremely sensitive to environmental disturbances such heat
and vibration that may influence its accuracy. Radial shearing
speckle pattern interferometry (RSSPI) [175] is an interfero-
metric technique where the two images contain information
on the topography of the surface location which changes as
applied pressure is altered and is much more resistant to phys-
ical disturbances. The differential magnification between the
two images allows a mathematical analysis to detect changes
in radial strain. It has been used to describe the progressive
increase in corneal Young’s modulus as a function of aging
in human corneas [49] and to quantify the magnitude of the
stiffening effect of corneal cross-linking [175]. A. (ix) uslope1 and uslope2: rate of increase from base (at
25% of maximum of the infrared signal peaks) to
Peaks 1 and 2. Another technique uses Optical Coherence Tomography
Elastography [177] to generate in vivo 2D maps of corneal
deformation as it is indented by a concave curved lens to
preserve the curvature of the cornea as it deforms. It has
the potential to measure local and depth variations in the
mechanical properties of the cornea owing to its ability to
measure strain throughout all the stroma, providing mea-
sures of local viscoelastic properties such as elastic modulus, (x) dslope1 and dslope2: rate of decrease from Peaks 1 and
2 (at 25% of maximum of the infrared signal peaks) to
base. (x) dslope1 and dslope2: rate of decrease from Peaks 1 and
2 (at 25% of maximum of the infrared signal peaks) to
base. (xi) uslope11 and uslope21: rate of increase from base (at
50% of maximum of the infrared signal peaks) to
Peaks 1 and 2. (xi) uslope11 and uslope21: rate of increase from base (at
50% of maximum of the infrared signal peaks) to
Peaks 1 and 2. ISRN Ophthalmology 13 (vii) Length of Appl 2 (2nd A length): length of the
flattened cornea in the second applanation. (vii) Length of Appl 2 (2nd A length): length of the
flattened cornea in the second applanation. (xii) dslope11 and dslope21: rate of decrease from Peaks
1 and 2 (at 50% of maximum of the infrared signal
peaks) to base. (viii) Velocity of Appl 2 (Vout): corneal velocity during the
second applanation moment. (xiii) dive1 and dive2: distance from the first spike of Peaks 1
and 2 to the top of the graph, measuring 75% of peaks
height. (ix) Time of Hi Con (HC time): time from start until the
highest concavity of cornea is reached. (ix) Time of Hi Con (HC time): time from start until the
highest concavity of cornea is reached. (xiv) slew1 and slew2: ratio between dive and with (𝑤) of
Peaks 1 and 2, measuring 75% of peaks height. (x) Deformation amplitude (DA): maximum deforma-
tion amplitude (from start to the highest concavity)
at the corneal apex. (xv) mslew1 and mslew2: the longest continuous line in
peaks without a break, measuring 75% of peaks
height. Disclosure (xvi) path1 and path2: absolute value of path length around
the peaks, measuring 75% of peaks height. The authors do not have any financial or commercial interest
in the devices mentioned in the present study. (xvii) path11 and path21: absolute value of path length
around the peaks, measuring 50% of peaks height. Conflict of Interests (xviii) Aindex and bindex: number of times that the peaks
change their direction, measuring 75% of peaks
height. The authors declare that there is no conflict of interests
regarding the publication of this paper. (xix) aplhf: high frequency “noise” in regions between
peaks (normalized by product of average of peak
heights × width of region), measuring 75% of peaks
height. References [1] J. G. Hay, The Biomechanics of Sports Techniques, Prentice-Hall,
Englewood Cliffs, NJ, USA, 4th edition, 1993. Another parameters that have been also analysed include
[28] [2] L. Ambrosio, P. A. Netti, and L. Nicolais, Soft Tissue, Springer,
New York, NY, USA, 2002. Another parameters that have been also analysed include
[28] Another parameters that have been also analysed include
[28] [28] [3] D. A. Luce, “Determining in vivo biomechanical properties
of the cornea with an Ocular Response Analyzer,” Journal of
Cataract and Refractive Surgery, vol. 31, no. 1, pp. 156–162, 2005. (i) Peak 1 and Peak 2: maximum heights of the corre-
sponding infrared signal peaks, [4] D. Ortiz, D. Pi˜nero, M. H. Shabayek, F. Arnalich-Montiel, and
J. L. Ali´o, “Corneal biomechanical properties in normal, post-
laser in situ keratomileusis, and keratoconic eyes,” Journal of
Cataract and Refractive Surgery, vol. 33, no. 8, pp. 1371–1375,
2007. (ii) PIT: time between Time in and Time out, (iii) Pmax: maximum value of the air pressure curve, (iv) TPmax: Time al in which the maximum air pressure
occurs, [5] J. M. Gonz´alez-M´eijome, C. Villa-Collar, A. Queir´os, J. Jorge,
and M. A. Parafita, “Pilot study on the influence of corneal
biomechanical properties over the short term in response to
corneal refractive therapy for myopia,” Cornea, vol. 27, no. 4,
pp. 421–426, 2008. (v) DID: damping-induced delay is the time between
Time2 and the time corresponding to the symmetrical
position of 𝑃1 on Peak 2. [6] C. Kirwan and M. O’Keefe, “Corneal hysteresis using the
Reichert ocular response analyser: findings pre- and post-
LASIK and LASEK,” Acta Ophthalmologica, vol. 86, no. 2, pp. 215–218, 2008. ISRN Ophthalmology Kerautret, J. Colin, D. Touboul, and C. Roberts, “Biomechani-
cal characteristics of the ectatic cornea,” Journal of Cataract and
Refractive Surgery, vol. 34, no. 3, pp. 510–513, 2008. [18] H. Wang, P. L. Prendiville, P. J. McDonnell, and W. V. Chang,
“An ultrasonic technique for the measurement of the elastic
moduli of human cornea,” Journal of Biomechanics, vol. 29, no. 12, pp. 1633–1636, 1996. [34] E. Spoerl, N. Terai, F. Scholz, F. Raiskup, and L. E. Pillu-
nat, “Detection of biomechanical changes after corneal cross-
linking using Ocular Response Analyzer software,” Journal of
Refractive Surgery, vol. 27, no. 6, pp. 452–457, 2011. [19] M. R. Bryant and P. J. McDonnell, “Constitutive laws for biome-
chanical modeling of refractive surgery,” Journal of Biomechan-
ical Engineering, vol. 118, no. 4, pp. 473–481, 1996. [35] S. Zarei-Ghanavati, A. Ramirez-Miranda, F. Yu, and D. R. Hamilton, “Corneal deformation signal waveform analysis in
keratoconic versus post-femtosecond laser in situ keratomileu-
sis eyes after statistical correction for potentially confounding
factors,” Journal of Cataract and Refractive Surgery, vol. 38, no. 4, pp. 607–614, 2012. [20] A. Elsheikh, D. Wang, M. Brown, P. Rama, M. Campanelli, and
D. Pye, “Assessment of corneal biomechanical properties and
their variation with age,” Current Eye Research, vol. 32, no. 1, pp. 11–19, 2007. [36] M. Sedaghat, M. Naderi, and M. Zarei-Ghanavati, “Biomechan-
ical parameters of the cornea after collagen crosslinking mea-
sured by waveform analysis,” Journal of Cataract and Refractive
Surgery, vol. 36, no. 10, pp. 1728–1731, 2010. [21] K. E. Hamilton and D. C. Pye, “Young’s modulus in normal
corneas and the effect on applanation tonometry,” Optometry
and Vision Science, vol. 85, no. 6, pp. 445–450, 2008. [22] J. Liu and H. Qi, “Dissipated energy function, hysteresis and
precondition of a viscoelastic solid model,” Nonlinear Analysis:
Real World Applications, vol. 11, no. 2, pp. 907–912, 2010. [37] C. Edmund, “Corneal elasticity and ocular rigidity in normal
and keratoconic eyes,” Acta Ophthalmologica, vol. 66, no. 2, pp. 134–140, 1988. [23] S. Feizi, K. Jadidi, and M. Soheilian, “Possible protection of
the posterior segment by a phakic intraocular lens,” Journal of
Cataract and Refractive Surgery, vol. 33, no. 12, pp. 2144–2146,
2007. [38] C. Kirwan, M. O’keefe, and B. Lanigan, “Corneal hysteresis
and intraocular pressure measurement in children using the
reichert Ocular Response Analyzer,” The American Journal of
Ophthalmology, vol. 142, no. 6, pp. 990–992, 2006. [24] A. Lam, D. Chen, R. ISRN Ophthalmology [11] N. J. Schwartz, R. S. Mackay, and J. L. Sackman, “A theoretical
and experimental study of the mechanical behavior of the
cornea with application to the measurement of intraocular
pressure,” The Bulletin of Mathematical Biophysics, vol. 28, no. 4, pp. 585–643, 1966. [28] D. Touboul, A. B´enard, A. M. Mahmoud, A. Gallois, J. Colin,
and C. J. Roberts, “Early biomechanical keratoconus pattern
measured with an Ocular Response Analyzer: curve analysis,”
Journal of Cataract and Refractive Surgery, vol. 37, no. 12, pp. 2144–2150, 2011. [29] J. Y. Shin, J. S. Choi, J. Y. Oh, M. K. Kim, J. H. Lee, and W. R. Wee, “Evaluation of corneal biomechanical properties following
penetrating keratoplasty using the Ocular Response Analyzer,”
Korean Journal of Ophthalmology, vol. 24, no. 3, pp. 139–142,
2010. [12] B. Jue and D. M. Maurice, “The mechanical properties of the
rabbit and human cornea,” Journal of Biomechanics, vol. 19, no. 10, pp. 847–853, 1986. [13] J. O. Hjortdal, “On the biomechanical properties of the cornea
with particular reference to refractive surgery,” Acta Ophthal-
mologica Scandinavica, vol. 76, no. 225, pp. 1–23, 1998. [30] S. Franco and M. Lira, “Biomechanical properties of the
cornea measured by the Ocular Response Analyzer and their
association with intraocular pressure and the central corneal
curvature,” Clinical and Experimental Optometry, vol. 92, no. 6,
pp. 469–475, 2009. [14] S. L.-Y. Woo, A. S. Kobayashi, W. A. Schlegel, and C. Lawrence,
“Nonlinear material properties of intact cornea and sclera,”
Experimental Eye Research, vol. 14, no. 1, pp. 29–39, 1972. [15] T. T. Andreassen, A. H. Simonsen, and H. Oxlund, “Biomechan-
ical properties of keratoconus and normal corneas,” Experimen-
tal Eye Research, vol. 31, no. 4, pp. 435–441, 1980. [31] F. A. Medeiros and R. N. Weinreb, “Evaluation of the influence
of corneal biomechanical properties on intraocular pressure
measurements using the Ocular Response Analyzer,” Journal of
Glaucoma, vol. 15, no. 5, pp. 364–370, 2006. [16] I. S. Nash, P. R. Greene, and C. S. Foster, “Comparison of
mechanical properties of keratoconus and normal corneas,”
Experimental Eye Research, vol. 35, no. 5, pp. 413–424, 1982. [32] A. K. C. Lam, D. Chen, and J. Tse, “The usefulness of waveform
score from the Ocular Response Analyzer,” Optometry and
Vision Science, vol. 87, no. 3, pp. 195–199, 2010. [17] J. O. Hjortdal, “Extensibility of the normo-hydrated human
cornea,” Acta Ophthalmologica Scandinavica, vol. 73, no. 1, pp. 12–17, 1995. [33] J. B. Parameters obtained from image analysis of the Corneal
Visualization Scheimpflug Technology are as follows: Parameters obtained from image analysis of the Corneal
Visualization Scheimpflug Technology are as follows: Parameters obtained from image analysis of the Corneall [7] A. Grise-Dulac, A. Saad, O. Abitbol et al., “Assessment of
corneal biomechanical properties in normal tension glaucoma
and comparison with open-angle glaucoma, ocular hyperten-
sion, and normal eyes,” Journal of Glaucoma, vol. 21, no. 7, pp. 486–489, 2012. (i) IOP: an ordinary NCT measurement that is based on
the first applanation. (ii) Pachy: measurement of central corneal thickness
(CCT) with optical pachymetry. [8] D. A. Hoeltzel, P. Altman, K. Buzard, and K.-I. Choe, “Strip
extensiometry for comparison of the mechanical response of
bovine, rabbit, and human corneas,” Journal of Biomechanical
Engineering, vol. 114, no. 2, pp. 202–215, 1992. (iii) Time of Appl 1 (1st A-time): time from start until the
first applanation. (iv) Length of Appl 1 (1st A length): length of the flattened
cornea in the first applanation. [9] N. E. Dowling, Mechanical Behavior of Materials, Engineering
Methods for Deformation Fracture and Fatigue, Upper Saddle
River, NJ, USA, 3rd edition, 2007. (v) Velocity of Appl 1 (Vin): corneal velocity during the
first applanation moment. [10] J. Liu and C. J. Roberts, “Influence of corneal biomechanical
properties on intraocular pressure measurement: quantitative
analysis,” Journal of Cataract and Refractive Surgery, vol. 31, no. 1, pp. 146–155, 2005. (vi) Time of Appl 2 (2nd A-time): time from start until the
second applanation. 14 ISRN Ophthalmology ISRN Ophthalmology K. Liu, and R. N. Weinreb, “Effects of aging on
corneal biomechanical properties and their impact on 24-hour
measurement of intraocular pressure,” The American Journal of
Ophthalmology, vol. 146, no. 4, pp. 567–572, 2008. [45] K. Mansouri, M. T. Leite, R. N. Weinreb, A. Tafreshi, L. M. Zangwill, and F. A. Medeiros, “Association between corneal
biomechanical properties and glaucoma severity,” The American
Journal of Ophthalmology, vol. 153, no. 3, pp. 419–427, 2012. [60] H. Radhakrishnan, M. A. Miranda, and C. O’Donnell, “Corneal
biomechanical properties and their correlates with refractive
error,” Clinical and Experimental Optometry, vol. 95, no. 1, pp. 12–18, 2012. [46] P. J. Foster, D. C. Broadway, D. F. Garway-Heath et al.,
“Intraocular pressure and corneal biomechanics in an adult
British population: the EPIC-Norfolk eye study,” Investigative
ophthalmology & visual science, vol. 52, no. 11, pp. 8179–8185,
2011. [61] H. Goldmann and T. Schmidt, “On applanation tonography,”
Ophthalmologica, vol. 150, no. 1, pp. 65–75, 1965. [62] P. G. Davey, A. Elsheikh, and D. F. Garway-Heath, “Clinical
evaluation of multiparameter correction equations for Gold-
mann applanation tonometry,” Eye, vol. 27, no. 5, pp. 621–629,
2013. [47] A. Daxer, K. Misof, B. Grabner, A. Ettl, and P. Fratzl, “Collagen
fibrils in the human corneal stroma: structure and aging,”
Investigative Ophthalmology and Visual Science, vol. 39, no. 3,
pp. 644–648, 1998. [63] J. R. Ehrlich, S. Haseltine, M. Shimmyo, and N. M. Rad-
cliffe, “Evaluation of agreement between intraocular pressure
measurements using Goldmann applanation tonometry and
Goldmann correlated intraocular pressure by Reichert’s ocular
response analyser,” Eye, vol. 24, no. 10, pp. 1555–1560, 2010. [48] A. Elsheikh, B. Geraghty, P. Rama, M. Campanelli, and K. M. Meek, “Characterization of age-related variation in corneal
biomechanical properties,” Journal of the Royal Society Interface,
vol. 7, no. 51, pp. 1475–1485, 2010. [64] N. H. L. Bayoumi, A. S. Bessa, and A. A. K. El Massry, “Ocular
Response Analyzer and Goldmann applanation tonometry: a
comparative study of findings,” Journal of Glaucoma, vol. 19, no. 9, pp. 627–631, 2010. [49] N. E. Knox Cartwright, J. R. Tyrer, and J. Marshall, “Age-related
differences in the elasticity of the human cornea,” Investigative
Ophthalmology & Visual Science, vol. 52, no. 7, pp. 4324–4329,
2011. [65] D. Touboul, C. Roberts, J. K´erautret et al., “Correlations between
corneal hysteresis, intraocular pressure, and corneal central
pachymetry,” Journal of Cataract and Refractive Surgery, vol. 34,
no. 4, pp. 616–622, 2008. [50] S. Shah, M. ISRN Ophthalmology Laiquzzaman, I. Cunliffe, and S. Mantry, “The
use of the Reichert ocular response analyser to establish the
relationship between ocular hysteresis, corneal resistance factor
and central corneal thickness in normal eyes,” Contact Lens and
Anterior Eye, vol. 29, no. 5, pp. 257–262, 2006. [66] K. Kamiya, M. Hagishima, F. Fujimura, and K. Shimizu,
“Factors affecting corneal hysteresis in normal eyes,” Graefe’s
Archive for Clinical and Experimental Ophthalmology, vol. 246,
no. 10, pp. 1491–1494, 2008. [51] M. A. del Buey, J. A. Crist´obal, F. J. Ascaso, L. Lavilla, and E. Lanchares, “Biomechanical properties of the cornea in fuchs’
corneal dystrophy,” Investigative Ophthalmology and Visual
Science, vol. 50, no. 7, pp. 3199–3202, 2009. [67] M. Detry-Morel, J. Jamart, F. Hautenauven, and S. Pourjavan,
“Comparison of the corneal biomechanical properties with the
Ocular Response Analyzer (ORA) in African and Caucasian
normal subjects and patients with glaucoma,” Acta Ophthalmo-
logica, vol. 90, no. 2, pp. e118–e124, 2012. [52] M. T. Leite, L. M. Alencar, C. Gore et al., “Comparison of corneal
biomechanical properties between healthy blacks and whites
using the Ocular Response Analyzer,” The American Journal of
Ophthalmology, vol. 150, no. 2, pp. 163–168, 2010. [68] J. M. Gonz´alez-MIijome, A. Queir´os, J. Jorge, A. D´ıaz-Rey, and
M. A. Parafita, “Intraoffice variability of corneal biomechanical
parameters and Intraocular Pressure (IOP),” Optometry and
Vision Science, vol. 85, no. 6, pp. 457–462, 2008. [53] S. J. Haseltine, J. Pae, J. R. Ehrlich, M. Shammas, and N. M. Radcliffe, “Variation in corneal hysteresis and central corneal
thickness among black, hispanic and white subjects,” Acta
Ophthalmologica, vol. 90, no. 8, pp. e626–e631, 2012. [69] A. Poostchi, S. Nicholas, and A. P. Wells, “Recovery of corneal
hysteresis after reduction of intraocular pressure in chronic
primary angle-closure glaucoma,” The American Journal of
Ophthalmology, vol. 149, no. 3, pp. 524–525, 2010. [54] T. Kida, J. H. K. Liu, and R. N. Weinreb, “Effect of 24-
hour corneal biomechanical changes on intraocular pressure
measurement,” Investigative Ophthalmology and Visual Science,
vol. 47, no. 10, pp. 4422–4426, 2006. [70] A. B. Cankaya, E. Beyazyildiz, D. Ileri, and F. Ozturk, “The effect
of contact lens usage on corneal biomechanical parameters in
myopic patients,” Cornea, vol. 31, no. 7, pp. 764–769, 2012. [55] S. W. Chang, I. L. Tsai, F. R. Hu, L. L. K. Lin, and Y. F. Shih, “The cornea in young myopic adults,” British Journal of
Ophthalmology, vol. 85, no. 8, pp. 916–920, 2001. ISRN Ophthalmology Chiu, and W. S. Chui, “Comparison of
IOP measurements between ORA and GAT in normal Chinese,”
Optometry and Vision Science, vol. 84, no. 9, pp. 909–914, 2007. [39] S. Shah, M. Laiquzzaman, R. Bhojwani, S. Mantry, and I. Cun-
liffe, “Assessment of the biomechanical properties of the cornea
with the Ocular Response Analyzer in normal and keratoconic
eyes,” Investigative Ophthalmology and Visual Science, vol. 48,
no. 7, pp. 3026–3031, 2007. [25] J. S. Pepose, S. K. Feigenbaum, M. A. Qazi, J. P. Sanderson, and
C. J. Roberts, “Changes in corneal biomechanics and intraocular
pressure following LASIK using static, dynamic, and noncon-
tact tonometry,” The American Journal of Ophthalmology, vol. 143, no. 1, pp. 39–47, 2007. [40] L. Lim, G. Gazzard, Y. H. Chan et al., “Cornea biomechanical
characteristics and their correlates with refractive error in
Singaporean children,” Investigative Ophthalmology and Visual
Science, vol. 49, no. 9, pp. 3852–3857, 2008. [26] A. Kotecha, A. Elsheikh, C. R. Roberts, H. Zhu, and D. F. Garway-Heath, “Corneal thickness- and age-related biome-
chanical properties of the cornea measured with the Ocular
Response Analyzer,” Investigative Ophthalmology and Visual
Science, vol. 47, no. 12, pp. 5337–5347, 2006. [41] M. Shen, F. Fan, A. Xue, J. Wang, X. Zhou, and F. Lu, “Biom-
echanical properties of the cornea in high myopia,” Vision
Research, vol. 48, no. 21, pp. 2167–2171, 2008. [42] O. Abitbol, J. Bouden, S. Doan, T. Hoang-Xuan, and D. Gatinel,
“Corneal hysteresis measured with the Ocular Response Ana-
lyzer in normal and glaucomatous eyes,” Acta Ophthalmologica,
vol. 88, no. 1, pp. 116–119, 2010. [27] W. Lau and D. Pye, “A clinical description of Ocular Response
Analyzer measurements,” Investigative Ophthalmology and
Visual Science, vol. 52, no. 6, pp. 2911–2916, 2011. ISRN Ophthalmology 15 [43] K. Kamiya, K. Shimizu, and F. Ohmoto, “Effect of aging on
corneal biomechanical parameters using the Ocular Response
Analyzer,” Journal of Refractive Surgery, vol. 25, no. 10, pp. 888–
893, 2009. [58] S. Xu, A. Xu, A. Tao, J. Wang, F. Fan, and F. Lu, “Corneal
biomechanical properties and intraocular pressure in high
myopic anisometropia,” Eye and Contact Lens, vol. 36, no. 4, pp. 204–209, 2010. [59] Y. Song, N. Congdon, L. Li et al., “Corneal hysteresis and axial
length among Chinese secondary school children: the xichang
pediatric refractive error study (X-PRES) report no. 4,” The
American Journal of Ophthalmology, vol. 145, no. 5, pp. 819–826,
2008. [44] T. Kida, J. H. ISRN Ophthalmology ISRN Ophthalmology [89] F. Witzel de Medeiros, A. Sinha-Roy, M. Ruiz Alves, S. E. Wil-
son, and W. J. Dupps, “Differences in the early biomechanical
effects of hyperopic and myopic laser in situ keratomileusis,”
Journal of Cataract and Refractive Surgery, vol. 36, no. 6, pp. 947–953, 2010. with eye closure,” The American Journal of Ophthalmology, vol. 143, no. 4, pp. 616–622, 2007. [74] W. Lau and D. Pye, “Changes in corneal biomechanics and
applanation tonometry with induced corneal swelling,” Inves-
tigative Ophthalmology & Visual Science, vol. 52, no. 6, pp. 3207–
3214, 2011. [90] S. Kaushik, S. S. Pandav, A. Banger, K. Aggarwal, and A. Gupta,
“Relationship between corneal biomechanical properties, cen-
tral corneal thickness, and intraocular pressure across the spec-
trum of glaucoma,” The American Journal of Ophthalmology, vol. 153, no. 5, pp. 840–849, 2012. [75] A. Alharbi and H. A. Swarbrick, “The effects of overnight
orthokeratology lens wear on corneal thickness,” Investigative
Ophthalmology and Visual Science, vol. 44, no. 6, pp. 2518–2523,
2003. [91] C. Kirwan, D. O’Malley, and M. O’Keefe, “Corneal hysteresis
and corneal resistance factor in keratoectasia: findings using the
Reichert Ocular Response Analyzer,” Ophthalmologica, vol. 222,
no. 5, pp. 334–337, 2008. [76] C. Villa-Collar, J. M. Gonz´alez-M´eijome, A. Queir´os, and
J. Jorge, “Short-term corneal response to corneal refractive
therapy for different refractive targets,” Cornea, vol. 28, no. 3,
pp. 311–316, 2009. [92] S. E. Avetisov, I. A. Novikov, I. A. Bubnova, A. A. Antonov,
and V. I. Siplivyi, “Determination of corneal elasticity coefficient
using the ORA database,” Journal of Refractive Surgery, vol. 26,
no. 7, pp. 520–524, 2010. [77] D. Chen, A. K. C. Lam, and P. Cho, “A pilot study on the
corneal biomechanical changes in short-term orthokeratology,”
Ophthalmic and Physiological Optics, vol. 29, no. 4, pp. 464–471,
2009. [93] G. Wollensak, E. Spoerl, and T. Seiler, “Stress-strain mea-
surements of human and porcine corneas after riboflavin-
ultraviolet-A-induced cross-linking,” Journal of Cataract and
Refractive Surgery, vol. 29, no. 9, pp. 1780–1785, 2003.l [78] X. J. Mao, C. C. Huang, L. Chen, and F. L¨u, “A study on the effect
of the corneal biomechanical properties undergoing overnight
orthokeratology,” Chinese Journal of Ophthalmology, vol. 46, no. 3, pp. 209–213, 2010. [94] T. M. El-Raggal, “Riboflavin-ultraviolet A corneal cross-linking
for keratoconus,” Middle East African Journal of Ophthalmology,
vol. 16, no. 4, pp. 256–259, 2009. [79] A. Nieto-Bona, A. Gonz´alez-Mesa, C. Villa-Collar, and A. ISRN Ophthalmology Lorente-Vel´azquez,
“Biomechanical
properties
in
corneal
refractive therapy during adaptation period and after treatment
interruption: a pilot study,” Journal of Optometry, vol. 5, no. 4,
pp. 164–1170, 2012. [95] M. Poli, P. L. Cornut, T. Balmitgere, F. Aptel, H. Janin, and C. Burillon, “Prospective study of corneal collagen cross-linking
efficacy and tolerance in the treatment of keratoconus and
Corneal ectasia: 3-year results,” Cornea, vol. 32, no. 5, pp. 583–
590, 2013. [80] J. Jayakumar and H. A. Swarbrick, “The effect of age on short-
term orthokeratology,” Optometry and Vision Science, vol. 82,
no. 6, pp. 505–511, 2005. [81] D. R. Hamilton, R. D. Johnson, N. Lee, and N. Bourla,
“Differences in the corneal biomechanical effects of surface
ablation compared with laser in situ keratomileusis using a
microkeratome or femtosecond laser,” Journal of Cataract and
Refractive Surgery, vol. 34, no. 12, pp. 2049–2056, 2008. [96] D. I. Bettis, M. Hsu, and M. Moshirfar, “Corneal collagen cross-
linking for nonectatic disorders: a systematic review,” Journal of
Refractive Surgery, vol. 28, no. 11, pp. 798–807, 2012. [97] P. Vinciguerra, E. Alb`e, A. M. Mahmoud, S. Trazza, F. Hafezi,
and C. J. Roberts, “Intra- and postoperative variation in Ocular
Response Analyzer parameters in keratoconic eyes after corneal
cross-linking,” Journal of Refractive Surgery, vol. 26, no. 9, pp. 669–676, 2010. [82] M. A. Qazi, J. P. Sanderson, A. M. Mahmoud, E. Y. Yoon, C. J. Roberts, and J. S. Pepose, “Postoperative changes in intraocular
pressure and corneal biomechanical metrics. Laser in situ
keratomileusis versus laser-assisted subepithelial keratectomy,”
Journal of Cataract and Refractive Surgery, vol. 35, no. 10, pp. 1774–1788, 2009. [98] R. Gutierrez, I. Lopez, C. Villa-Collar, and J. M. Gonzalez-
Meijome, “Corneal transparency after cross-linking for kerato-
conus: 1-year follow-up,” Journal of Refractive Surgery, vol. 28,
no. 11, pp. 781–786, 2012. [83] K. Kamiya, K. Shimizu, and F. Ohmoto, “Comparison of the
changes in corneal biomechanical properties after photorefrac-
tive keratectomy and laser in situ keratomileusis,” Cornea, vol. 28, no. 7, pp. 765–769, 2009. [99] Y. Goldich, Y. Barkana, Y. Morad, M. Hartstein, I. Avni, and D. Zadok, “Can we measure corneal biomechanical changes after
collagen cross-linking in eyes with keratoconus? A pilot study,”
Cornea, vol. 28, no. 5, pp. 498–502, 2009. [84] K. Kamiya, K. Shimizu, and F. Ohmoto, “Time course of corneal
biomechanical parameters after laser in situ keratomileusis,”
Ophthalmic Research, vol. 42, no. 3, pp. 167–171, 2009. [100] D. P. Pi˜nero, J. ISRN Ophthalmology [71] N. Hutchings, T. L. Simpson, C. Hyun et al., “Swelling of the
human cornea revealed by high-speed, ultrahigh-resolution
optical coherence tomography,” Investigative Ophthalmology
and Visual Science, vol. 51, no. 9, pp. 4579–4584, 2010. [56] Z. Jiang, M. Shen, G. Mao et al., “Association between corneal
biomechanical properties and myopia in Chinese subjects,” Eye,
vol. 25, no. 8, pp. 1083–1089, 2011. [72] A. M. Moezzi, D. Fonn, J. Varikooty, and D. Richter, “Dis-
tribution of overnight corneal swelling across subjects with 4
different silicone hydrogel lenses,” Eye and Contact Lens, vol. 37,
no. 2, pp. 61–65, 2011. [57] A. Plakitsi, C. O’Donnell, M. A Miranda, W. N. Charman,
and H. Radhakrishnan, “Corneal biomechanical properties
measured with the ocular response analyser in a myopic
population,” Ophthalmic and Physiological Optics, vol. 31, no. 4,
pp. 404–412, 2011. [73] F. Lu, S. Xu, J. Qu et al., “Central corneal thickness and corneal
hysteresis during corneal swelling induced by contact lens wear 16 ISRN Ophthalmology ISRN Ophthalmology Sun, M. Shen, J. Wang et al., “Recovery of corneal hysteresis
after reduction of intraocular pressure in chronic primary
angle-closure glaucoma,” The American Journal of Ophthalmol-
ogy, vol. 147, no. 6, pp. 1061–1066, 2009. [111] R. Ambrosio, J. S. Borges, C. Costa-Ferreira et al., “Intrastromal
corneal ring segments for keratoconus: results and correlation
with preoperative corneal biomechanics,” The Brazilian Journal
of Ophthalmology, vol. 71, no. 2, pp. 89–99, 2012. [127] G. Mangouritsas, G. Morphis, S. Mourtzoukos, and E. Feretis,
“Association between corneal hysteresis and central corneal
thickness in glaucomatous and non-glaucomatous eyes,” Acta
Ophthalmologica, vol. 87, no. 8, pp. 901–905, 2009. [112] N. M. Yenerel, R. B. Kucumen, and E. Gorgun, “Changes
in corneal biomechanics in patients with keratoconus after
penetrating keratoplasty,” Cornea, vol. 29, no. 11, pp. 1247–1251,
2010. [128] C. F. Burgoyne, J. Crawford Downs, A. J. Bellezza, J.-K. Francis
Suh, and R. T. Hart, “The optic nerve head as a biomechanical
structure: a new paradigm for understanding the role of IOP-
related stress and strain in the pathophysiology of glaucomatous
optic nerve head damage,” Progress in Retinal and Eye Research,
vol. 24, no. 1, pp. 39–73, 2005. [113] M. Laiquzzaman, K. Tambe, and S. Shah, “Comparison of
biomechanical parameters in penetrating keratoplasty and nor-
mal eyes using the Ocular Response Analyser,” Clinical and
Experimental Ophthalmology, vol. 38, no. 8, pp. 758–763, 2010. [114] M. Hosny, M. A. M. Hassaballa, and A. Shalaby, “Changes
in corneal biomechanics following different keratoplasty tech-
niques,” Clinical Ophthalmology, vol. 5, no. 1, pp. 767–770, 2011. [129] G. S. Ang, F. Bochmann, J. Townend, and A. Azuara-Blanco,
“Corneal biomechanical properties in primary open angle
glaucoma and normal tension glaucoma,” Journal of Glaucoma,
vol. 17, no. 4, pp. 259–262, 2008. [115] M. R. Jafarinasab, S. Feizi, M. A. Javadi, and A. Hashem-
loo, “Graft biomechanical properties after penetrating kerato-
plasty versus deep anterior lamellar keratoplasty,” Current Eye
Research, vol. 36, no. 5, pp. 417–421, 2011. [130] A. Anand, C. G. V. de Moraes, C. C. Teng, C. Tello, J. M. Liebmann, and R. Ritch, “Corneal hysteresis and visual field
asymmetry in open angle glaucoma,” Investigative Ophthalmol-
ogy and Visual Science, vol. 51, no. 12, pp. 6514–6518, 2010. [116] S. Feizi, B. Einollahi, S. Yazdani, and A. Hashemloo, “Graft
biomechanical properties after penetrating keratoplasty in ker-
atoconus,” Cornea, vol. 31, no. 8, pp. 855–858, 2012. [131] T. S. Prata, V. C. Lima, L. M. ISRN Ophthalmology Yenerel, “Influence
of intrastromal corneal ring segment implantation on corneal
biomechanical parameters in keratoconic eyes,” Japanese Jour-
nal of Ophthalmology, vol. 55, no. 5, pp. 467–471, 2011. [121] T. Morita, N. Shoji, K. Kamiya, F. Fujimura, and K. Shimizu,
“Corneal biomechanical properties in normal-tension glau-
coma,” Acta Ophthalmologica, vol. 90, no. 1, pp. e48–e53, 2012. [106] J. L. Alio, D. P. Piero, and A. Daxer, “Clinical outcomes
after complete ring implantation in corneal ectasia using the
femtosecond technology: a pilot study,” Ophthalmology, vol. 118,
no. 7, pp. 1282–1290, 2011. [122] N. G. Congdon, A. T. Broman, K. Bandeen-Roche, D. Grover,
and H. A. Quigley, “Central corneal thickness and corneal
hysteresis associated with glaucoma damage,” The American
Journal of Ophthalmology, vol. 141, no. 5, pp. 868–875, 2006. [107] J. M. Salgado-Borges, C. Costa-Ferreira, M. Monteiro et al.,
“Refractive, tomographic and biomechanical outcomes after
implantation of ferrara ICRS in keratoconus patients,” Interna-
tional Journal of Keratoconus and Ectatic Corneal Diseases, vol. 1, no. 1, pp. 16–21, 2012. [123] M. Sullivan-Mee, S. C. Billingsley, A. D. Patel, K. D. Halverson,
B. R. Alldredge, and C. Qualls, “Ocular Response Analyzer in
subjects with and without glaucoma,” Optometry and Vision
Science, vol. 85, no. 6, pp. 463–470, 2008. [108] D. P. Pi˜nero, J. L. Alio, R. I. Barraquer, and R. Michael, “Corneal
biomechanical changes after intracorneal ring segment implan-
tation in Keratoconus,” Cornea, vol. 31, no. 5, pp. 491–499, 2012. [124] A. P. Wells, D. F. Garway-Heath, A. Poostchi, T. Wong, K. C. Y. Chan, and N. Sachdev, “Corneal hysteresis but not corneal
thickness correlates with optic nerve surface compliance in
glaucoma patients,” Investigative Ophthalmology and Visual
Science, vol. 49, no. 8, pp. 3262–3268, 2008. [109] P. Pena-Garcia, A. Vega-Estrada, R. I. Barraquer, N. Burguera-
Gimenez, and J. L. Alio, “Intracorneal ring segment in ker-
atoconus: a model to predict visual changes induced by the
surgery,” Investigative Ophthalmology & Visual Science, vol. 53,
no. 13, pp. 8447–8457, 2012. [125] S. Shah, M. Laiquzzaman, S. Mantry, and I. Cunliffe, “Ocular
response analyser to assess hysteresis and corneal resistance
factor in low tension, open angle glaucoma and ocular hyper-
tension,” Clinical and Experimental Ophthalmology, vol. 36, no. 6, pp. 508–513, 2008. [110] M. Mikielewicz, K. Kotliar, R. I. Barraquer, and R. Michael,
“Air-pulse corneal applanation signal curve parameters for
the characterisation of keratoconus,” The British Journal of
Ophthalmology, vol. 95, no. 6, pp. 793–798, 2011. [126] L. ISRN Ophthalmology L. Alio, M. A. Teus, R. I. Barraquer, and A. Uceda-
Monta˜n´es, “Modeling the intracorneal ring segment effect in
keratoconus using refractive, Keratometric, and corneal aber-
rometric data,” Investigative Ophthalmology and Visual Science,
vol. 51, no. 11, pp. 5583–5591, 2010. [85] S. Shah and M. Laiquzzaman, “Comparison of corneal biome-
chanics in pre and post-refractive surgery and keratoconic eyes
by Ocular Response Analyser,” Contact Lens and Anterior Eye,
vol. 32, no. 3, pp. 129–132, 2009. [101] D. P. Pi˜nero, J. L. Alio, A. Uceda-Montanes, B. E. Kady,
and I. Pascual, “Intracorneal ring segment implantation in
corneas with post-laser in situ keratomileusis keratectasia,”
Ophthalmology, vol. 116, no. 9, pp. 1665–1674, 2009. [86] S. Chen, D. Chen, J. Wang, F. Lu, Q. Wang, and J. Qu, “Changes
in Ocular Response Analyzer parameters after LASIK,” Journal
of Refractive Surgery, vol. 26, no. 4, pp. 279–288, 2010. [102] S. Patel, J. Marshall, and F. W. Fitzke III, “Model for deriving
the optical performance of the myopic eye corrected with an
intracorneal ring,” Journal of Refractive Surgery, vol. 11, no. 4,
pp. 248–252, 1995. [87] D. S. Ryan, C. D. Coe, R. S. Howard, J. D. Edwards, and K. S. Bower, “Corneal biomechanics following Epi-LASIK,” Journal
of Refractive Surgery, vol. 27, no. 6, pp. 458–464, 2011. [88] D. Gatinel, S. Chaabouni, P.-A. Adam, J. Munck, M. Puech,
and T. Hoang-Xuan, “Corneal hysteresis, resistance factor,
topography, and pachymetry after corneal lamellar flap,” Journal
of Refractive Surgery, vol. 23, no. 1, pp. 76–84, 2007. [103] D. P. Pi˜nero and J. L. Alio, “Intracorneal ring segments in
ectatic corneal disease—a review,” Clinical and Experimental
Ophthalmology, vol. 38, no. 2, pp. 154–167, 2010. ISRN Ophthalmology 17 head topography and blood flow after intraocular pressure
reduction in open-angle glaucoma and ocular hypertension,”
Archives of Ophthalmology, vol. 124, no. 11, pp. 1568–1572, 2006. [104] C. Dauwe, D. Touboul, C. J. Roberts et al., “Biomechanical and
morphological corneal response to placement of intrastromal
corneal ring segments for keratoconus,” Journal of Cataract and
Refractive Surgery, vol. 35, no. 10, pp. 1761–1767, 2009. [120] F. Bochmann, G. S. Ang, and A. Azuara-Blanco, “Lower corneal
hysteresis in glaucoma patients with acquired pit of the optic
nerve (APON),” Graefe’s Archive for Clinical and Experimental
Ophthalmology, vol. 246, no. 5, pp. 735–738, 2008. [105] E. Gorgun, R. B. Kucumen, and N. M. ISRN Ophthalmology Sinapis et al., “Corneal biomechanical
characteristics in patients with diabetes mellitus,” Journal of
Cataract and Refractive Surgery, vol. 36, no. 11, pp. 1822–1828,
2010. [137] A. Saad, Y. Lteif, E. Azan, and D. Gatinel, “Biomechanical prop-
erties of keratoconus suspect eyes,” Investigative Ophthalmology
and Visual Science, vol. 51, no. 6, pp. 2912–2916, 2010. [152] A. Scheler, E. Spoerl, and A. G. Boehm, “Effect of diabetes mel-
litus on corneal biomechanics and measurement of intraocular
pressure,” Acta Ophthalmologica, vol. 90, no. 6, pp. e447–e451,
2012. [138] B. M. Fontes, R. Ambr´osio Jr., G. C. Velarde, and W. Nos´e,
“Ocular Response Analyzer measurements in keratoconus with
normal central corneal thickness compared with matched
normal control eyes,” Journal of Refractive Surgery, vol. 27, no. 3, pp. 209–215, 2011. [153] D. P. E. Castro, T. S. Prata, V. C. Lima, L. G. Biteli, C. G. V. de Moraes, and A. Paranhos, “Corneal viscoelasticity
differences between diabetic and nondiabetic glaucomatous
patients,” Journal of Glaucoma, vol. 19, no. 5, pp. 341–343, 2010. [139] E. J. Cohen and J. S. Myers, “Keratoconus and normal-tension
glaucoma: a study of the possible association with abnormal
biomechanical properties as measured by corneal hysteresis,”
Cornea, vol. 29, no. 9, pp. 955–970, 2010. [154] Y. Goldich, Y. Barkana, Y. Gerber et al., “Effect of diabetes
mellitus on biomechanical parameters of the cornea,” Journal of
Cataract and Refractive Surgery, vol. 35, no. 4, pp. 715–719, 2009. [140] D. P. Pi˜nero, J. L. Alio, R. I. Barraquer, R. Michael, and
R. Jim´enez, “Corneal biomechanics, refraction, and corneal
aberrometry in keratoconus: an integrated study,” Investigative
Ophthalmology and Visual Science, vol. 51, no. 4, pp. 1948–1955,
2010. [155] A. Hager, K. Wegscheider, and W. Wiegand, “Changes of
extracellular matrix of the cornea in diabetes mellitus,” Graefe’s
Archive for Clinical and Experimental Ophthalmology, vol. 247,
no. 10, pp. 1369–1374, 2009. [141] R. D. Johnson, M. T. Nguyen, N. Lee, and D. R. Hamilton,
“Corneal biomechanical properties in normal, forme fruste ker-
atoconus, and manifest keratoconus after statistical correction
for potentially confounding factors,” Cornea, vol. 30, no. 5, pp. 516–523, 2011. [156] A. S¸ahin, A. Bayer, G. ¨Ozge, and T. Mumcuoˇglu, “Corneal
biomechanical changes in diabetes mellitus and their influence
on intraocular pressure measurements,” Investigative Ophthal-
mology and Visual Science, vol. 50, no. 10, pp. 4597–4604, 2009. [157] R. J. Ambr´osio Jr., D. L. Caldas, I. C. Ramos, R. T. Santos, L. N. Pimentel, and C. J. ISRN Ophthalmology Guedes et al., “Association
between corneal biomechanical properties and optic nerve head
morphology in newly diagnosed glaucoma patients,” Clinical &
Experimental Ophthalmology, vol. 40, no. 7, pp. 682–688, 2012. [117] J. F. Jordan, S. Joergens, S. Dinslage, T. S. Dietlein, and G. K. Krieglstein, “Central and paracentral corneal pachymetry in
patients with normal tension glaucoma and ocular hyperten-
sion,” Graefe’s Archive for Clinical and Experimental Ophthal-
mology, vol. 244, no. 2, pp. 177–182, 2006. [132] A. Kotecha, “What biomechanical properties of the cornea are
relevant for the clinician?” Survey of Ophthalmology, vol. 52, no. 6, supplement 2, pp. S109–S114, 2007. [118] M. Pakravan, A. Parsa, M. Sanagou, and C. F. Parsa, “Central
corneal thickness and correlation to optic disc size: a potential
link for susceptibility to glaucoma,” The British Journal of
Ophthalmology, vol. 91, no. 1, pp. 26–28, 2007. [133] K. M. Meek, S. J. Tuft, Y. Huang et al., “Changes in collagen ori-
entation and distribution in keratoconus corneas,” Investigative
Ophthalmology and Visual Science, vol. 46, no. 6, pp. 1948–1956,
2005. [119] M. R. Lesk, A. S. Hafez, and D. Descovich, “Relationship
between central corneal thickness and changes of optic nerve 18 ISRN Ophthalmology [134] V. Hurmeric, A. Sahin, G. Ozge, and A. Bayer, “The relation-
ship between corneal biomechanical properties and confocal
microscopy findings in normal and keratoconic eyes,” Cornea,
vol. 29, no. 6, pp. 641–649, 2010. [149] N. G. M. Wiemer, M. Dubbelman, P. J. Kostense, P. J. Ringens,
and B. C. P. Polak, “The influence of chronic diabetes mellitus on
the thickness and the shape of the anterior and posterior surface
of the cornea,” Cornea, vol. 26, no. 10, pp. 1165–1170, 2007. [135] M. C. Mocan, P. T. Yilmaz, M. Irkec, and M. Orhan, “In vivo
confocal microscopy for the evaluation of corneal microstruc-
ture in keratoconus,” Current Eye Research, vol. 33, no. 11-12, pp. 933–939, 2008. [150] R. R. Sudhir, R. Raman, and T. Sharma, “Changes in the
corneal endothelial cell density and morphology in patients
with type 2 diabetes mellitus: a population-based study, sankara
nethralaya diabetic retinopathy and molecular genetics study
(SN-DREAMS, report 23),” Cornea, vol. 31, no. 10, pp. 1119–1122,
2012. [136] B. M. Fontes, R. Ambr´osio Jr., D. Jardim, G. C. Velarde, and
W. Nos´e, “Corneal biomechanical metrics and anterior segment
parameters in mild keratoconus,” Ophthalmology, vol. 117, no. 4,
pp. 673–679, 2010. [151] A. Kotecha, F. Oddone, C. ISRN Ophthalmology Roberts, “Corneal biomechanical assess-
ment using dynamic ultra high-speed Scheimpflug technology
noncontact tonometry (UHS-ST NCT): preliminary results,” in
Proceedings of the American Society of Cataract and Refractive
Surgery, the American Society of Ophthalmic Administrators
(ASCRS-ASOA ’11), San Diego, Calif, USA, March 2011. [142] J. G. Galletti, T. Pf¨ortner, and F. F. Bonthoux, “Improved ker-
atoconus detection by Ocular Response Analyzer testing after
consideration of corneal thickness as a confounding factor,”
Journal of Refractive Surgery, vol. 28, no. 3, pp. 202–208, 2012. [143] R. Ambekar, K. C. Toussaint, and A. Wagoner Johnson, “The
effect of keratoconus on the structural, mechanical, and optical
properties of the cornea,” Journal of the Mechanical Behavior of
Biomedical Materials, vol. 4, no. 3, pp. 223–236, 2011. [158] R. Ambr´osio Jr., L. P. Nogueira, D. L. Caldas et al., “Evaluation
of corneal shape and biomechanics before LASIK,” International
Ophthalmology Clinics, vol. 51, no. 2, pp. 11–38, 2011. [144] B. M. Fontes, R. A. Junior, D. Jardim, G. C. Velarde, and W. Nos´e,
“Ability of corneal biomechanical metrics and anterior segment
data in the differentiation of keratoconus and healthy corneas,”
Arquivos Brasileiros de Oftalmologia, vol. 73, no. 4, pp. 333–337,
2010. [159] J. Hong, J. Xu, A. Wei et al., “A new tonometer—the Corvis
ST tonometer: clinical comparison with noncontact and Gold-
mann applanation tonometers,” Investigative Ophthalmology
and Visual Science, vol. 54, no. 1, pp. 659–665, 2013. [145] C. Schweitzer, C. J. Roberts, A. M. Mahmoud, J. Colin, S. Maurice-Tison, and J. Kerautret, “Screening of forme fruste
keratoconus with the Ocular Response Analyzer,” Investigative
Ophthalmology and Visual Science, vol. 51, no. 5, pp. 2403–2410,
2010. [160] Y. Hon and A. K. Lam, “Corneal deformation measurement
using Scheimpflug noncontact tonometry,” Optometry and
Vision Science, vol. 90, no. 1, pp. e1–e8, 2013. [161] C. K. Leung, C. Ye, and R. N. Weinreb, “An ultra-high-speed
Scheimpflug camera for evaluation of corneal deformation
response and its impact on IOP measurement,” Investigative
Ophthalmology and Visual Science, vol. 54, no. 4, pp. 2885–2892,
2013. [146] J. S. Wolffsohn, S. Safeen, S. Shah, and M. Laiquzzaman,
“Changes of corneal biomechanics with keratoconus,” Cornea,
vol. 31, no. 8, pp. 849–854, 2012. [162] J. A. Bonatti, S. J. Bechara, P. C. Carricondo, and N. Kara-
Jos´e, “Proposal for a new approach to corneal biomechanics:
dynamic corneal topography,” Arquivos Brasileiros de Oftal-
mologia, vol. 72, no. 2, pp. 264–267, 2009. [147] A. P. Adamis, V. Filatov, B. J. ISRN Ophthalmology Tripathi, and R. C. Tripathi, “Fuchs’
endothelial dystrophy of the cornea,” Survey of Ophthalmology,
vol. 38, no. 2, pp. 149–168, 1993. [148] K. Clemmensen and J. Hjortdal, “Intraocular pressure and
corneal biomechanics in Fuchs’ endothelial dystrophy and after
posterior lamellar keratoplasty,” Acta Ophthalmologica, 2013. [163] C. Roberts, J. Marous, and A. Mahmoud, “Dynamic corneal
surface topography: in vivo measurement of biomechanical 19 19 ISRN Ophthalmology properties,” in Proceedings of the Oral Communication in 19th
Biennial Meeting of the International Society for Eye Research,
Montreal, Canada, 2010. [164] D. H. Glass, C. J. Roberts, A. S. Litsky, and P. A. Weber,
“A viscoelastic biomechanical model of the cornea describing
the effect of viscosity and elasticity on hysteresis,” Investigative
Ophthalmology and Visual Science, vol. 49, no. 9, pp. 3919–3926,
2008. [165] D. Alonso-Caneiro, K. Karnowski, B. J. Kaluzny, A. Kowal-
czyk, and M. Wojtkowski, “Assessment of corneal dynamics
with high-speed swept source Optical Coherence Tomography
combined with an air puff system,” Optics Express, vol. 19, no. 15,
pp. 14188–14199, 2011. [166] G. Scarcelli, R. Pineda, and S. H. Yun, “Brillouin optical
microscopy for corneal biomechanics,” Investigative Ophthal-
mology and Visual Science, vol. 53, no. 1, pp. 185–190, 2012. [167] W. J. Dupps Jr., M. V. Netto, S. Herekar, and R. R. Krueger,
“Surface wave elastometry of the cornea in porcine and human
donor eyes,” Journal of Refractive Surgery, vol. 23, no. 1, pp. 66–
75, 2007. [168] J. Liu, X. He, X. Pan, and C. J. Roberts, “Ultrasonic model and
system for measurement of corneal biomechanical properties
and validation on phantoms,” Journal of Biomechanics, vol. 40,
no. 5, pp. 1177–1182, 2007. [169] X. He and J. Liu, “A quantitative ultrasonic spectroscopy method
for noninvasive determination of corneal biomechanical prop-
erties,” Investigative Ophthalmology and Visual Science, vol. 50,
no. 11, pp. 5148–5154, 2009. [170] T. Deffieux, G. Montaldo, M. Tanter, and M. Fink, “Shear wave
spectroscopy for in vivo quantification of human soft tissues
visco-elasticity,” IEEE Transactions on Medical Imaging, vol. 28,
no. 3, pp. 313–322, 2009. [171] M. Tanter, J. Bercoff, A. Athanasiou et al., “Quantitative assess-
ment of breast lesion viscoelasticity: initial clinical results using
supersonic shear imaging,” Ultrasound in Medicine and Biology,
vol. 34, no. 9, pp. 1373–1386, 2008. [172] M. Tanter, D. Touboul, J. L. Gennisson, J. Bercoff, and M. Fink, “High-resolution quantitative imaging of cornea elasticity
using supersonic shear imaging,” IEEE Transactions on Medical
Imaging, vol. 28, no. ISRN Ophthalmology 12, pp. 1881–1893, 2009. [173] J. L. Calkins, B. F. Hochheimer, and W. J. Stark, “Corneal
wound healing: holographic stress-test analysis,” Investigative
Ophthalmology and Visual Science, vol. 21, no. 2, pp. 322–334,
1981. [174] P. D. Jaycock, L. Lobo, J. Ibrahim, J. Tyrer, and J. Marshall,
“Interferometric technique to measure biomechanical changes
in the cornea induced by refractive surgery,” Journal of Cataract
and Refractive Surgery, vol. 31, no. 1, pp. 175–184, 2005. [175] N. E. K. Cartwright, J. R. Tyrer, and J. Marshall, “In vitro
quantification of the stiffening effect of corneal cross-linking
in the human cornea using radial shearing speckle pattern
interferometry,” Journal of Refractive Surgery, vol. 28, no. 7, pp. 503–508, 2012. [176] G. Grabner, R. Eilmsteiner, C. Steindl, J. Ruckhofer, R. Matti-
oli, and W. Husinsky, “Dynamic corneal imaging,” Journal of
Cataract and Refractive Surgery, vol. 31, no. 1, pp. 163–174, 2005. [177] M. R. Ford, W. J. Dupps Jr., A. M. Rollins, A. S. Roy, and Z. Hu, “Method for optical coherence elastography of the cornea,”
Journal of Biomedical Optics, vol. 16, no. 1, Article ID 016005,
2011.
|
https://openalex.org/W3211102764
|
https://europepmc.org/articles/pmc8584421?pdf=render
|
English
| null |
CD38 Correlates with an Immunosuppressive Treg Phenotype in Lupus-Prone Mice
|
International journal of molecular sciences
| 2,021
|
cc-by
| 8,889
|
p
g
6
Laboratorio de Inmunología, Escuela Nacional de Ciencias Biológicas, IPN, Ciudad de México 11340, Mexico;
claudiaqfb@yahoo.com.mx q
y
7
Laboratorio de Medicina Traslacional, Instituto de Ciencias de la Salud, Universidad Veracruzana,
Xalapa 91050 Mexico; moflores@uvmx Citation: Pérez-Lara, J.C.; Espinosa, E.;
Santos-Argumedo, L.; Romero-Ramírez,
H.; López-Herrera, G.; García-García,
F.; Sandoval-Montes, C.; Ortiz-
Navarrete, V.; Flores-Muñoz, M.;
Rodríguez-Alba, J.C. CD38 Correlates
with an Immunosuppressive Treg
Phenotype in Lupus-Prone Mice. Int. J. Mol. Sci. 2021, 22, 11977. https://doi.org/10.3390/
ijms222111977 7
Laboratorio de Medicina Traslacional, Instituto de Ciencias de la Salud, Universidad Veracruzana
Xalapa 91050, Mexico; moflores@uv.mx p
8
Unidad de Citometría de Flujo, Instituto de Ciencias de la Salud, Universidad Veracruzana,
Xalapa 91050, Mexico *
Correspondence: carlorodriguez@uv.mx Abstract: CD38 is a transmembrane glycoprotein expressed by T-cells. It has been reported that
patients with systemic lupus erythematosus (SLE) showed increased CD38+CD25+ T-cells correlating
with immune activation and clinical signs. Contrariwise, CD38 deficiency in murine models has
shown enhanced autoimmunity development. Recent studies have suggested that CD38+ regula-
tory T-cells are more suppressive than CD38−regulatory T-cells. Thus, we have suggested that
CD38 overexpression in SLE patients could play a role in regulating immune activation cells in-
stead of enhancing it. This study found a correlation between CD38 with FoxP3 expression and
immunosuppressive molecules (CD69, IL-10, CTLA-4, and PD-1) in T-cells from lupus-prone mice
(B6.MRL-Faslpr/J). Additionally, B6.MRL-Faslpr/J mice showed a decreased proportion of CD38+
Treg cells regarding wild-type mice (WT). Furthermore, Regulatory T-Cells (Treg cells) from CD38-/-
mice showed impairment in expressing immunosuppressive molecules and proliferation after stimu-
lation through the T-cell receptor (TCR). Finally, we demonstrated an increased ratio of IFN-γ/IL-10
secretion in CD38-/- splenocytes stimulated with anti-CD3 compared with the WT. Altogether, our
data suggest that CD38 represents an element in maintaining activated and proliferative Treg cells. Consequently, CD38 could have a crucial role in immune tolerance, preventing SLE development
through Treg cells. Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Keywords: CD38; regulatory T-cells; systemic lupus erythematosus; immunosuppressive; lupus-
prone mice; IFN-γ; IL-10 Copyright: © 2021 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). Article
CD38 Correlates with an Immunosuppressive Treg Phenotype
in Lupus-Prone Mice Jocelyn C. Pérez-Lara 1
, Enrique Espinosa 2
, Leopoldo Santos-Argumedo 3, Héctor Romero-Ramírez 3,
Gabriela López-Herrera 4, Fabio García-García 5
, Claudia Sandoval-Montes 6, Vianney Ortiz-Navarrete 3
,
Mónica Flores-Muñoz 7
and Juan C. Rodríguez-Alba 1,8,* 1
Programa de Doctorado en Ciencias de la Salud, Universidad Veracruzana, Xalapa 91050, Mexico;
jocperez@uv.mx 1
Programa de Doctorado en Ciencias de la Salud, Universidad Veracruzana, Xalapa 91050, Mexico;
jocperez@uv.mx j
p
2
Laboratorio de Inmunología Integrativa, Instituto Nacional de Enfermedades Respiratorias,
Ci d d d Mé i
14080 M
i
h
t
i
i
@
il j
p
2
Laboratorio de Inmunología Integrativa, Instituto Nacional de Enfermedades Respiratorias,
Ciudad de México 14080, Mexico; hector.enrique.espinosa@gmail.com 3
Centro de Investigación y de Estudios Avanzados-IPN, Departamento de Biomedicina Molecular,
Ciudad de México 11340, Mexico; lesantos@cinvestav.mx (L.S.-A.); hromero@cinvestav.mx (H.R.-R.);
vortiz@cinvestav.mx (V.O.-N.) (
)
4
Unidad de Investigación en Inmunodeficiencias, Instituto Nacional de Pediatría-SSa,
Ciudad de México 04530, Mexico; lohegabyqbp@gmail.com 4
Unidad de Investigación en Inmunodeficiencias, Instituto Nacional de Pediatría-SSa, 4
Unidad de Investigación en Inmunodeficiencias, Instituto Nacional de Pediatría-SSa,
Ciudad de México 04530 Mexico; lohegabyqbp@gmail com 4
Unidad de Investigación en Inmunodeficiencias, Instituto Nac
Ciudad de México 04530, Mexico; lohegabyqbp@gmail.com 5
Laboratorio de Biología del Sueño, Instituto de Ciencias de la Salud, Universidad Veracruzana,
Xalapa 91050, Mexico; fgarcia@uv.mx
Citation: Pérez-Lara, J.C.; Espinosa, E.;
Santos-Argumedo, L.; Romero-Ramírez,
H.; López-Herrera, G.; García-García,
F.; Sandoval-Montes, C.; Ortiz-
Navarrete, V.; Flores-Muñoz, M.;
Rodríguez-Alba, J.C. CD38 Correlates
with an Immunosuppressive Treg
Phenotype in Lupus-Prone Mice. Int. J. Mol. Sci. 2021, 22, 11977. https://doi.org/10.3390/
ijms222111977
Academic Editors: Gabor J. Szebeni
and László G. Puskás
Received: 23 September 2021
Accepted: 26 October 2021
Published: 5 November 2021
Citation: Pérez-Lara, J.C.; Espinosa, E.;
Santos-Argumedo, L.; Romero-Ramírez,
H.; López-Herrera, G.; García-García,
F.; Sandoval-Montes, C.; Ortiz-
Navarrete, V.; Flores-Muñoz, M.;
Rodríguez-Alba, J.C. CD38 Correlates
with an Immunosuppressive Treg
Phenotype in Lupus-Prone Mice. Int. J. Mol. Sci. 2021, 22, 11977. https://doi.org/10.3390/
ijms222111977
Academic Editors: Gabor J. Szebeni
and László G. Puskás
Received: 23 September 2021
Accepted: 26 October 2021
Published: 5 November 2021 International Journal of
Molecular Sciences 1. Introduction Systemic lupus erythematosus (SLE) is a chronic, multiorgan, systemic autoimmune
disease that affects nearly every tissue and organ system [1]. As with other autoimmune
diseases, SLE more frequently affects women than men, with female to male ratios ex-
ceeding 9:1 [2]. The etiological mechanism of SLE remains unclear. However, genetic, https://www.mdpi.com/journal/ijms Int. J. Mol. Sci. 2021, 22, 11977. https://doi.org/10.3390/ijms222111977 Int. J. Mol. Sci. 2021, 22, 11977 2 of 13 hormonal, and environmental factors and a loss of tolerance have been associated with
disease development [3,4]. Preliminary studies of genetic factors have demonstrated that
European–American and Icelandic populations have an SLE susceptibility locus on the
human region 4p15 [5,6]. Located within the 4p15 region is the gene encoding CD38 [7],
a multifunctional transmembrane glycoprotein that has both enzymatic and receptor prop-
erties [8,9]. As an enzyme, CD38 can convert nicotinamide adenine dinucleotide (NAD+)
into cyclic adenosine diphosphate ribose (cADPR) [10]. Otherwise, activation of CD38
receptor activity induces several cell responses such as activation, migration, proliferation,
differentiation, and apoptosis in different immune cell types [11–14]. Previous studies
have shown increased levels of CD38 expressing T and B cells in SLE patients compared
to healthy controls [15–18]. Remarkably, Pavón et al. reported higher levels of CD38
expression in CD25+ T-cells from SLE patients than in healthy controls [19], suggesting
that CD38 expression is derived from chronic immune activation correlating with disease
severity. In contradiction with these previous reports, some authors have suggested that
CD38 plays a role in preventing autoimmunity. Several studies have found that CD38
absence in murine autoimmune models enhances illness severity [20,21]. We have demon-
strated that CD38 deficiency in a non-autoimmune-susceptible strain (CD38-/-) developed
some autoimmune characteristics at old age [22], suggesting that CD38 could play a role
in maintaining immune homeostasis. Furthermore, CD38 was upregulated in regulatory
B cells (Bregs), and CD38 cross-linking with an agonistic antibody increased the frequency
of Breg cells and IL-10 production [22]. Altogether, it seems that the CD38 receptor can play
an essential role in preventing autoimmunity mechanisms, mainly through the regulation
of the immune system. Regulatory T-cells (Treg cells) play a crucial role in regulating the immune response,
maintaining peripheral tolerance, and controlling the development of several autoimmune
diseases, such as SLE [23]. Treg cells are identified by CD25 and FoxP3 expression in
CD4+ T-cells from mice, while CD4+CD25hiCD127low T-cells have been widely accepted
to identify Treg cells in humans [24,25]. 2. Results 2.1. CD38 Expression Positively Correlates with FoxP3 Expression 1. Introduction Additional markers have been described to select
functional Treg cells, highlighting immunosuppressive molecules such as CTLA-4, IL-10,
CD69, and PD-1 [26–29]. A further vital mechanism to maintain immune tolerance is Treg
proliferation, which is required to expand these suppressive cells and avoid autoimmune
diseases [30]. In the last few years, an increasing number of studies in patients with multiple
myeloma have found that CD38+ Treg cells are more suppressive than CD38−Treg cells
and antagonist antibodies can block their inhibitory activity [31,32]. Despite this, the role
of CD38 in SLE disease has not yet been established. Therefore, we hypothesized that
CD38 expression in T-cells could play a role in immune regulation instead of immune
activation. To evaluate this, we correlated CD38 expression in T-cells with FoxP3 expres-
sion and immunosuppressive markers in lupus-prone mice. Furthermore, we assessed
immunosuppressive molecules and proliferative capability in Treg cells from CD38-/- mice. Finally, we defined that CD38 deficiency promoted a dysregulated IFN-γ/IL-10 cytokine
secretion when splenocytes were stimulated with anti-CD3/CD28 + rhIL-2. We found
that CD38 expression is essential for maintaining the immunoregulatory phenotype and
expanding Treg cells from lupus-prone mice. 2.1. CD38 Expression Positively Correlates with FoxP3 Expression To assess the regulatory role of CD38 in T-cells from a lupus-prone mouse (B6.MRL-
Faslpr/J), we examined FoxP3 expression in three different subsets of CD3+CD4+CD25+
and CD3+CD4+CD25−T-cells, gated according to CD38 expression. As shown in Figure 1A,
we identified CD38low, CD38mid, and CD38high cells within CD4+CD25+ and CD4+CD25−
T-cell subsets from WT and B6.MRL-Faslpr/J mice. We then analyzed the frequency of
FoxP3 expressing cells in each subset (Figure 1B). As shown in Figure 1B, we noted an
increased amount of Foxp3+ cells when CD38 increased its expression in CD25+ and CD25− Int. J. Mol. Sci. 2021, 22, 11977 3 of 13 cells from WT and B6.MRL-Faslpr/J mice. Thus, we assessed the relationship between
the surface expression of CD38 and the transcription factor, FoxP3. We plotted the mean
fluorescence intensity (MFI) of CD38low, CD38mid, and CD38high against the number of
cells positive for FoxP3 from CD25+ and CD25−cells in WT and B6.MRL-Faslpr/J mice. Using Spearman correlation analysis, we displayed a positive correlation between CD38
and frequency of Foxp3 cells among CD4+CD25−from WT (rS = 0.87, p < 0.01) and B6.MRL-
Faslpr/J mice (rS = 0.94, p < 0.05) (Figure 1C). In the same way, CD4+CD25+ cells showed a
positive correlation between CD38 and Foxp3 cells in WT (rS = 0.73, p < 0.01) and B6.MRL-
Faslpr/J mice (rS = 0.90, p < 0.05) (Figure 1C). Additionally, correlation plots showed higher
CD38 expression in CD25+ and CD25−cells from B6.MRL-Faslpr/J than WT mice. These
results suggest that CD38 expression may identify subsets with regulatory characteristics. Figure 1. The level of CD38 correlates with FoxP3 frequency in T CD25+ and CD25−T-cells. Sple
cytes were stained for cell surface expression of CD3, CD4, CD25, and CD38. The stained c
were fixed and stained intracellularly for FoxP3. (A) Splenocytes from wild type (WT) and B6.M
Faslpr/J were gated on CD3+CD4+ cells and analyzed for CD25 expression. Then, CD3+CD4+CD
or CD25−cells were gated on CD38low, CD38mid, or CD38high, according to CD38 express
(B) counter plots showing FoxP3+ cells frequency in CD38low, CD38mid, or CD38high subsets amo
CD25+ and CD25−T-cells from WT and B6.MRL-Faslpr/J; (C) correlation plots comparing M
of CD38 to FoxP3+ cells within either CD4+CD25−T-cells (top) or CD4+CD25+ T-cells (botto
Symbols represenT-cells from WT (n = 4) (open symbols) and B6.MRL-Faslpr/J (n = 6) (filled symbo
The inset lines are the product of linear regression analysis. Correlations were calculated by
Spearman method. Figure 1. 2.1. CD38 Expression Positively Correlates with FoxP3 Expression The level of CD38 correlates with FoxP3 frequency in T CD25+ and CD25−T-cells. Spleno-
cytes were stained for cell surface expression of CD3, CD4, CD25, and CD38. The stained cells
were fixed and stained intracellularly for FoxP3. (A) Splenocytes from wild type (WT) and B6.MRL-
Faslpr/J were gated on CD3+CD4+ cells and analyzed for CD25 expression. Then, CD3+CD4+CD25+
or CD25−cells were gated on CD38low, CD38mid, or CD38high, according to CD38 expression;
(B) counter plots showing FoxP3+ cells frequency in CD38low, CD38mid, or CD38high subsets among
CD25+ and CD25−T-cells from WT and B6.MRL-Faslpr/J; (C) correlation plots comparing MFI
of CD38 to FoxP3+ cells within either CD4+CD25−T-cells (top) or CD4+CD25+ T-cells (bottom). Symbols represenT-cells from WT (n = 4) (open symbols) and B6.MRL-Faslpr/J (n = 6) (filled symbols). The inset lines are the product of linear regression analysis. Correlations were calculated by the
Spearman method. 4 of 13 Int. J. Mol. Sci. 2021, 22, 11977 2.2. CD38 Expression Positively Correlates with Immunosuppressive Molecules To understand the possible regulatory relevance of CD38 expression in CD4+CD25+
and CD4+CD25−T-cells, we assessed by flow cytometry the MFI of CD69, IL-10, CTLA-4,
and PD-1 from CD38low, CD38mid, and CD38high subsets from WT (Figure 2A,B)
and B6.MRL-Faslpr/J (Figure 2C,D). Then, we developed a Spearman correlation ma-
trix including MFI values from each CD38 subset and immunosuppressive molecule MFI
values. CD4+CD25+ T-cells from WT mice showed a positive correlation between CD38
and PD-1 (rS = 0.95, p < 0.05), CTLA-4 (rS = 0.95, p < 0.05), and IL-10 (rS = 0.6, p < 0.05)
(Figure 2A). Otherwise, CD38 expression in CD4+CD25−T-cells were highly correlated
with only CD69 protein (rS = 0.97, p < 0.05) (Figure 2B). Regarding B6.MRL-Faslpr/J mice,
levels of CD38 expression in CD4+CD25+ cells exhibited a strong positive correlation
with PD-1 (rS = 0.81, p < 0.05) and CD69 (rS = 0.84, p < 0.05) (Figure 2C), whereas that
of CD4+CD25−cells showed CD38 correlation with PD-1 (rS = 0.85, p < 0.05), CTLA-4
(rS = 0.9, p < 0.05), and CD69 (rS = 0.94, p < 0.05) (Figure 2D). Together, these data proposed
that CD38 expression is consistent with an activated immunosuppressive phenotype. Figure 2. CD38 correlates with immunosuppressive molecules. 2.1. CD38 Expression Positively Correlates with FoxP3 Expression we identified two main subsets of Treg cells, CD38+ and CD38−in WT and B6.MRL-Faslpr/J
mice (Figure 3A). Interestingly, the frequency of splenic CD38+ Treg cells was significantly
decreased from B6.MRL-Faslpr/J in comparison with WT mice (T15 = 5.3, p < 0.0001)
(Figure 3A,C). Consistently, B6.MRL-Faslpr/J mice showed a decreased proportion of total
Treg cells (χ2(2) = 17.48, p < 0.01) (Figure 3A,B). To figure out CD38 relevance in Treg
maintenance, we assessed splenic Treg frequency in CD38-/- mice. Compared with WT
mice, CD38-/- mice showed a lower frequency of Treg cells (χ2(2) = 17.48, p < 0.001),
and non-significative differences were found against B6.MRL-Faslpr/J model (Figure 3B). These results suggested that the development of Treg seems to be affected by the lack
of CD38. Figure 3. Reduced CD38+ Treg levels in B6.MRL-Faslpr/J mice. (A) Representative dot plots of the frequency of Treg cells in
splenocytes from WT, B6.MRL-Faslpr/J and CD38-/-. The dot plots’ right is representative contour plots showing CD38
expression gated on splenic Treg cells from WT (n = 9), B6.MRL-Faslpr/J (n = 8), and CD38-/- mice (n = 8); (B) scatter dot
plot shows mean ± SD of Treg frequency from WT, B6.MRL-Faslpr/J and CD38-/- mice. Statistical analysis was performed
using one-way ANOVA. Differences between groups were indicated by Tukey post hoc test, where * p < 0.001, ** p < 0.0001;
(C) scatter dot plot shows mean ± SD of CD38+ Treg frequency from WT and B6. MRL-Faslpr/J mice. Statistical analysis
was performed using Student t-test, where ** p < 0.0001. ed CD38+ Treg levels in B6.MRL-Faslpr/J mice. (A) Representative dot plots of the frequency of Treg cells in Figure 3. Reduced CD38+ Treg levels in B6.MRL-Faslpr/J mice. (A) Representative dot plots of the frequency of Treg cells in
splenocytes from WT, B6.MRL-Faslpr/J and CD38-/-. The dot plots’ right is representative contour plots showing CD38
expression gated on splenic Treg cells from WT (n = 9), B6.MRL-Faslpr/J (n = 8), and CD38-/- mice (n = 8); (B) scatter dot
plot shows mean ± SD of Treg frequency from WT, B6.MRL-Faslpr/J and CD38-/- mice. Statistical analysis was performed
using one-way ANOVA. Differences between groups were indicated by Tukey post hoc test, where * p < 0.001, ** p < 0.0001;
(C) scatter dot plot shows mean ± SD of CD38+ Treg frequency from WT and B6. MRL-Faslpr/J mice. 2.1. CD38 Expression Positively Correlates with FoxP3 Expression Correlation matrix and histograms of PD-1, CTLA-4, IL-10,
and CD69 expression within CD38low (dashed line), CD38mid (black line), and CD38high (heavy line) subsets in (A) WT
CD4+CD25+ T-cells (n = 6); (B) WT CD4+CD25−cells (n = 6); (C) B6.MRL-Faslpr/J CD4+CD25+ T-cells (n = 6); and (D)
B6.MRL-Faslpr/J CD4+CD25−T-cells (n = 6). Darker squares into correlation matrices point out a correlation close to 1. Shaded squares indicate correlations with a p < 0.005, while blank squares show non-significative correlations. 2 3 Reduced CD38+ Treg Proportion in B6 MRL-Faslpr/J Mice Figure 2. CD38 correlates with immunosuppressive molecules. Correlation matrix and histograms of PD-1, CTLA-4, IL-10,
and CD69 expression within CD38low (dashed line), CD38mid (black line), and CD38high (heavy line) subsets in (A) WT
CD4+CD25+ T-cells (n = 6); (B) WT CD4+CD25−cells (n = 6); (C) B6.MRL-Faslpr/J CD4+CD25+ T-cells (n = 6); and (D)
B6.MRL-Faslpr/J CD4+CD25−T-cells (n = 6). Darker squares into correlation matrices point out a correlation close to 1. Shaded squares indicate correlations with a p < 0.005, while blank squares show non-significative correlations. 2.3. Reduced CD38+ Treg Proportion in B6.MRL-Faslpr/J Mice Because CD38 correlates with immunosuppressive molecules in T-cells from WT
and B6, MRL-Faslpr/J mice, and it could select subsets with suppressive relevance, we
wondered if CD38+ Treg cells frequency might be impaired in B6.MRL-Faslpr/J mice. First, Because CD38 correlates with immunosuppressive molecules in T-cells from WT
and B6, MRL-Faslpr/J mice, and it could select subsets with suppressive relevance, we
wondered if CD38+ Treg cells frequency might be impaired in B6.MRL-Faslpr/J mice. First, Int. J. Mol. Sci. 2021, 22, 11977 5 of 13 we identified two main subsets of Treg cells, CD38+ and CD38−in WT and B6.MRL-Faslpr/J
mice (Figure 3A). Interestingly, the frequency of splenic CD38+ Treg cells was significantly
decreased from B6.MRL-Faslpr/J in comparison with WT mice (T15 = 5.3, p < 0.0001)
(Figure 3A,C). Consistently, B6.MRL-Faslpr/J mice showed a decreased proportion of total
Treg cells (χ2(2) = 17.48, p < 0.01) (Figure 3A,B). To figure out CD38 relevance in Treg
maintenance, we assessed splenic Treg frequency in CD38-/- mice. Compared with WT
mice, CD38-/- mice showed a lower frequency of Treg cells (χ2(2) = 17.48, p < 0.001),
and non-significative differences were found against B6.MRL-Faslpr/J model (Figure 3B). These results suggested that the development of Treg seems to be affected by the lack
of CD38. 2.1. CD38 Expression Positively Correlates with FoxP3 Expression Statistical analysis
was performed using Student t-test, where ** p < 0.0001. Figure 3. Reduced CD38+ Treg levels in B6.MRL-Faslpr/J mice. (A) Representative dot plots of the frequency of Treg cells in
splenocytes from WT, B6.MRL-Faslpr/J and CD38-/-. The dot plots’ right is representative contour plots showing CD38
expression gated on splenic Treg cells from WT (n = 9), B6.MRL-Faslpr/J (n = 8), and CD38-/- mice (n = 8); (B) scatter dot
plot shows mean ± SD of Treg frequency from WT, B6.MRL-Faslpr/J and CD38-/- mice. Statistical analysis was performed
using one-way ANOVA. Differences between groups were indicated by Tukey post hoc test, where * p < 0.001, ** p < 0.0001;
(C) scatter dot plot shows mean ± SD of CD38+ Treg frequency from WT and B6. MRL-Faslpr/J mice. Statistical analysis
was performed using Student t-test, where ** p < 0.0001. A previous study in CD38-/- mice has revealed some autoimmune disorders in aged
mice [22]. Therefore, we asked whether CD38 could be essential to maintain a regulatory
phenotype. Therefore, we measured the expression of immunosuppressive molecules in
total splenic Treg cells from CD38-/- mice, and we compared their expression with CD38+
and CD38−Treg cells from WT and B6.MRL-Faslpr/J mice. In the first instance, CD38+ Treg
cells from WT and B6.MRL-Faslpr/J expressed higher levels of CD69 (Figure 4A), IL-10
(Figure 4B), and PD-1 (Figure 4D) than CD38−Treg cells, while CD38+ Treg overexpressed Int. J. Mol. Sci. 2021, 22, 11977 6 of 13 CTLA-4 from B6.MRL-Faslpr/J mice (Figure 4C). Interestingly, when we assessed MFI of
CD69, IL-10, CTLA-4, and PD-1 in total splenic Treg from CD38-/- mice, we noted a relevant
reduction in their expression compared with CD38+ Treg from WT and B6.MRL-Faslpr/J
mice (Figure 4A–D). Together, results showed that CD38 expression is associated and
required to maintain critical suppressive markers. CTLA-4 from B6.MRL-Faslpr/J mice (Figure 4C). Interestingly, when we assessed MFI of
CD69, IL-10, CTLA-4, and PD-1 in total splenic Treg from CD38-/- mice, we noted a relevant
reduction in their expression compared with CD38+ Treg from WT and B6.MRL-Faslpr/J
mice (Figure 4A–D). Together, results showed that CD38 expression is associated and
required to maintain critical suppressive markers. Figure 4. Treg from CD38-/- showed a reduction in immunosuppressive molecules. 2.1. CD38 Expression Positively Correlates with FoxP3 Expression 2021, 22, 11977 7 of 13 of WT splenocytes (Figure 5C,D). In addition, the ratio of IFN-γ/IL-10 was detected to be
significantly higher in supernatants from CD38-/- stimulated splenocytes, compared with
WT splenocytes (Figure 5E). Figure 5. Reduced Treg expansion and IL-10 secretion in stimulated CD38-/- splenocytes. Splenocytes from WT (n = 3)
and CD38-/- (n = 3) were left unstimulated or stimulated with indicated concentrations of anti-CD3 for 72 h. Cells were
tained with anti-CD4 and anti-CD25, followed by intracellular staining for Foxp3. (A) Representative dot plots of Treg
gated according to CD25 and FoxP3 expression. Numbers in the oval indicate the percentage of Treg cells after stimulation;
B) percentage (mean ± SEM) of Treg cells obtained from the culture; (C) concentrations (mean ± SEM) of IFN-γ and
D) IL-10 release in splenocyte-culture supernatant upon in vitro stimulation with anti-CD3/CD28 + rhIL-2 for 72 h;
E) IFN-γ/IL-10 ratio. Statistical analysis was performed using two-way ANOVA followed by Tukey test, where ** p < 0.001,
and * p < 0.05. i
d
d
d
1
l
d CD38 /
l
S l
f
W
( Figure 5. Reduced Treg expansion and IL-10 secretion in stimulated CD38-/- splenocytes. Splenocytes from WT (n = 3)
and CD38-/- (n = 3) were left unstimulated or stimulated with indicated concentrations of anti-CD3 for 72 h. Cells were
stained with anti-CD4 and anti-CD25, followed by intracellular staining for Foxp3. (A) Representative dot plots of Treg
gated according to CD25 and FoxP3 expression. Numbers in the oval indicate the percentage of Treg cells after stimulation;
(B) percentage (mean ± SEM) of Treg cells obtained from the culture; (C) concentrations (mean ± SEM) of IFN-γ and
(D) IL-10 release in splenocyte-culture supernatant upon in vitro stimulation with anti-CD3/CD28 + rhIL-2 for 72 h;
(E) IFN-γ/IL-10 ratio. Statistical analysis was performed using two-way ANOVA followed by Tukey test, where ** p < 0.001,
and * p < 0.05. 2.1. CD38 Expression Positively Correlates with FoxP3 Expression Histograms and bar charts represent
the expression of (A) CD69, (B) IL-10, (C) CTLA-4, and (D) PD-1 among CD38−and CD38+ Treg cells from WT (n = 4)
and B6.MRL-Faslpr/J (n = 4) mice or splenic Treg cells from CD38-/- (n = 4) mice. Bar charts show mean ± SD. Statistical
analysis was performed using two-way ANOVA followed by Tukey test, where *** p < 0.0001, ** p < 0.001, and * p < 0.05. Figure 4. Treg from CD38-/- showed a reduction in immunosuppressive molecules. Histograms and bar charts represent
the expression of (A) CD69, (B) IL-10, (C) CTLA-4, and (D) PD-1 among CD38−and CD38+ Treg cells from WT (n = 4)
and B6.MRL-Faslpr/J (n = 4) mice or splenic Treg cells from CD38-/- (n = 4) mice. Bar charts show mean ± SD. Statistical
analysis was performed using two-way ANOVA followed by Tukey test, where *** p < 0.0001, ** p < 0.001, and * p < 0.05. 2.4. Reduced Treg Expansion and IL-10 Secretion in Stimulated CD38-/- Splenocytes Given that TCR signals play a crucial role in Treg cell maintenance and prolifera-
tion [33,34], we examined whether the lack of CD38 could impair the proliferative ability
of Treg cells stimulated via CD3. Total splenocytes from WT and CD38-/- mice were left
unstimulated or stimulated with different concentrations of anti-CD3 for 72 h, as described
in materials and methods. After cell surface staining for CD4 and CD25, cultured cells
were intracellularly stained for Foxp3. As depicted in Figure 5A,B, Treg cells from CD38-/-
mice showed significantly reduced frequency than WT mice specially at 0.01 (T4 = 16.07,
p < 0.0001) and 0.1 µg/mL (T4 = 20.7, p < 0.0001) of anti-CD3. p
g
p
Splenocytes stimulated with anti-CD3/CD28 + rhIL2 or mitogens such as phorbol
myristate acetate plus ionomycin (PMA/IONO) promote the release of pro-inflammatory
and anti-inflammatory cytokines such as IFN-γ and IL-10, respectively [35,36]. A good
balance between the pro-inflammatory IFN-γ and anti-inflammatory IL-10 is an indicator
of reciprocal immune regulation [37,38]. Therefore, to understand the role of CD38 in
this phenomenon, we analyzed the ability of the expanded splenocytes from CD38-/-
mice to produce IFN-γ that might either enhance or abrogate Treg function. Analysis of
culture supernatants of CD38-/- splenocytes stimulated with anti-CD3/CD28 + rhIL2 and
PMA/IONO showed a reduced concentration of IFN-γ and IL-10 compared to supernatants Int. J. Mol. Sci. 3. Discussion An unprecedented number of studies performed in SLE patients have demonstrated
that CD38 is widely expressed in T-cells, showing that CD25+CD38+ T-cells are increased
regarding healthy controls [15–19]. It has been proposed that the increase in CD25+CD38+
T-cells in SLE disease could be indicative of persistent T-cell activation [19]. However,
the contribution of CD38 to the pathology of SLE remains unclear. Since CD38 is a trans-
membrane glycoprotein widely expressed in several immune cells, its function during SLE
development might involve different pathways and effector functions according to the cell
type where it is expressed. Previous reports have described that CD38 expression might identify CD4+ T-cell
subsets with immunomodulatory properties [39]; thus, we hypothesize CD38 expression
in T-cells from SLE patients can mediate disease development through regulatory activity. To assess it, we used B6.MRL-Faslpr/J lupus murine model, which is widely used to
understand autoimmune disease’s physiological and pathological processes [40,41]. Thus,
first, we analyzed and compared regulatory phenotype through FoxP3 expression in
different subsets of CD4+ T-cells divided according to CD25 and CD38 expression in
WT and B6.MRL-Faslpr/J mice. We identified three different levels of CD38 expression
(CD38high, CD38mid, CD38low) within CD4+CD25+ T-cells and CD4+CD25−T-cells. In this Int. J. Mol. Sci. 2021, 22, 11977 8 of 13 study, we describe, for the first time, a positive correlation between CD38 levels and Foxp3
frequency expression in both CD25+ and CD25−subsets, highlighting a higher correlation
in B6.MRL-Faslpr/J than in WT mice (Figure 1C). Although there is no evidence suggesting
FoxP3 as a transcription factor of the CD38 gene, it is widely known that all-trans retinoic
acid (ATRA) increases CD38 and FoxP3 expression [42]. The first intron of CD38 contains a
binding site for the canonical ATRA receptor, the transcription factor RARα [43]. Moreover,
ATRA acts as an inducer of Treg response in CD4+ T-cells via demethylation of the FOXP3
promoter and activation of FOXP3 expression [44,45]. An environment enriched with
ATRA, mainly produced by CD103+ dendritic cells during antigen presentation, might
increase Treg differentiation and CD38 expression. g
p
CD4+CD25−T-cells have been proposed, with the potential to switch spontaneously
in the periphery into Treg cells [46,47]. Patients with active SLE have shown an increased
amount of CD4+CD25−FoxP3+ T-cells correlating with lupus nephritis [48,49]. CD25−
cells from WT and B6.MRL-Faslpr/J mice also increased immunosuppressive molecules
such as CTLA-4 and PD-1, as well as CD69 marker. 3. Discussion Although CD69 is generally associ-
ated as the earliest activation cell surface marker on leukocytes, it has been reported that
CD25−FoxP3−CD69+ cells from a tumor-bearing mouse can inhibit CD4+ T-cell prolifer-
ation in vitro and in vivo [50]. We found a positive correlation between CD38 and CD69
in CD4+CD25−T-cells from WT, where we also found a reduced amount of FoxP3+ cells. Likewise, CD4+CD25−T-cells from B6.MRL-Faslpr/J showed a positive correlation with
CD69 and PD-1 and CTLA-4, exhibiting a higher amount of FoxP3 cells than WT mice. Considering these data, we propose that, due to a lack of regulation in B6.MRL-Faslpr/J
mice, CD25−CD38high T-cells could identify subsets with a high potential to be converted
into Treg cells. However, the decreased expression of CD25 and the impaired ability to pro-
duce IL-2 by B6.MRL-Faslpr/J mice [51,52] could avoid in vivo Treg induction, increasing
cell death probability. Further studies are necessary to understand this mechanism in mice
and SLE patients. p
It is well known that CD4+CD25+ T-cells are essential in maintaining peripheral
tolerance and controlling autoreactive T-cells in humans and mice due to their higher
levels of FoxP3 expression [53]. Here, we found a positive correlation in WT CD4+CD25+
T-cells between CD38 and PD-1, CTLA-4, and IL-10, while in B6.MRL-Faslpr/J, CD38 only
correlated with PD-1 and CD69. Thus, it can be suggested that CD38 overexpression could
define Treg cells with a highly suppressive activity that might decrease in B6.MRL-Faslpr/J
mice. When we evaluated CD38+ Treg cells from B6.MRL-Faslpr/J mice, we found them
dramatically decreased compared with WT CD38+ Treg cells. Interestingly, CD38+ Treg
cells overexpressed immunosuppressive markers compared to CD38- Treg cells in the
same way as CD38+ Treg from WT mice. Additionally, Treg from CD38-/- downregulated
immunosuppressive molecules relative CD38+ Treg cells from WT and B6.MRL-Faslpr/J
mice, suggesting that CD38 is relevant to maintain a suppressive phenotype. Previously,
CD38+ Treg cells have been defined as a highly suppressive subset in patients with multiple
myeloma [31,32] and have shown an increased ability to inhibit immune response [42]. We have suggested that a reduced CD38+ Treg could indicate Treg loss with suppressive
function in B6.MRL-Faslpr/J mice. Thus, we proposed that CD38 expression in Treg might
identify functional Treg cells, highlighting that a higher proportion of CD38+ Treg cells
could revert or prevent SLE development in B6.MRL-Faslpr/J mice. 3. Discussion CD38 is a transmembrane glycoprotein with ectoenzyme and receptor activity, such as
ectoenzyme CD38, the principal NAD+ consumer and regulator in several conditions [54]. Previous reports have established that NAD+ conversion through CD38 may generate
adenosine (ADO), which has been associated with inducing FoxP3 expression and pro-
mote CTLA-4 expression, significantly increasing immunoregulatory activity [55,56]. Fur-
thermore, it has been shown that CD38 absence in murine models with autoimmunity
enhances the development of the disease. More recently, our laboratory found that only
CD38 deficiency in a WT background induced an autoimmune phenotype such as SLE [22]. In this work, we confirmed a Treg deficiency in CD38-/- mice, as previous results were Int. J. Mol. Sci. 2021, 22, 11977 9 of 13 reported [42,57]. Explanation to this loss of Treg cells in CD38-/- mice include the role of
CD38 in removing NAD+ and preventing its binding to the mono-ADP-ribosyltransferase
ART2, an enzyme that ribosylates P2X7 and induces apoptosis of CD4+CD25+ cells [57–59]. We also reported that Treg cells from CD38-/- mice showed an impaired expansion
ability when stimulated via CD3. Even though there is no evidence of CD38 signaling
in Treg, several studies have proposed that CD38 signaling in T-cells is initiated within a
subset of membrane rafts [60], activating a transduction pathway that includes ζ-associated
protein-70, CD3ε, phospholipase C-γ, Raf-1/mitogen-activated protein kinase, and calcium
mobilization [61–63]. Additionally, CD38 signaling requires a T-cell receptor (TCR)/CD3
receptor complex, suggesting a functional association with TCR signal transduction ma-
chinery [61–63]. Remarkably, we proposed that CD38 also participates in the TCR signaling
pathway to maintain Treg cells. p
y
g
It is known that induction of IFN-γ often occurs together with anti-inflammatory
cytokines such as IL-10 as a mechanism to reduce the uncontrolled production of inflam-
matory cytokines [37,38]. Here, we found the ratio IFN-γ/IL-10 decreased in CD38-/- mice
than WT. These findings are in contradiction with data previously reported by Burlock
and cols., which mentioned that CD38 deficiency increased IL-10 producing B cells and
reduced IFN-α production in the peritoneal cavity [64] and with Domínguez and cols.,
who found no differences in IL-10-producing B cells between CD38-/- and WT mice [22]. In this work, we are evaluating secretion of IL-10 from splenocytes stimulated with anti-
CD3 and PMA/IONO stimulus for 72 h, identifying IL-10 released after the proliferation
of T-cells or total splenocytes, respectively. 4. Materials and Methods
4.1. Mice C57BL/6 wild-type (WT), C57BL/6 CD38-/- (CD38-/-), and C57BL/6-MRL-Faslpr/J
(B6.MRL-Faslpr/J) mice were purchased from The Jackson Laboratory (Bar Harbor, ME,
USA). According to national regulations, the mice were bred by strain to obtain littermates
in the Universidad Veracruzana animal facility. Male mice between 8 and 12 weeks old
were used for experiments. All mice were maintained in specific pathogen-free conditions
with a 1:1 light-dark cycle. Food and water were provided ad libitum. Institutional Animal Care approved all procedures for animals (No. 2018-0004). In addition, the authors adhere to the guidelines established by Mexico (Norma Oficial
Mexicana NOM-062-ZOO-1999). 3. Discussion In contrast, they identified mainly intracellular
IL-10 in B10 cells by shorter periods of stimulation with LPS. Otherwise, CD38 blocking
with Isatuximab in Treg cells from Myeloma Multiple patients has demonstrated a reduced
IL-10 expression and a higher amount of IFN-γ expression in CD8+ T-cells [31]. However,
mechanisms of IL-10 secretion are different in each cellular type; thus, we have to perform
additional experiments to elucidate if Treg from CD38-/- loss ability to produce IL-10,
an important mechanism to maintain tolerance and avoid the development of autoimmune
disease in CD38-/- mice of advanced age. g
As a whole, our data demonstrate that CD38 correlates with FoxP3 expression and
immunosuppressive markers in a murine model of SLE. Thus, we proposed that CD38
expression is vital to maintain Treg cells homeostasis and to prevent autoimmune disease. Future work will focus on characterizing the absence of CD38 in B6.MRL-Faslpr/J mice and
its effect on the immune regulation to clarify controversial data supporting both beneficial
and pathogenic roles for CD38 in SLE disease. Furthermore, additional studies must be performed to understand the interaction
between CD38 receptor and TCR to induce functional Treg cells. Nevertheless, the present
findings might help to suggest new therapeutic strategies in SLE. 4.2. Isolation of Splenocytes Mice were euthanized by cervical dislocation, and their spleens were excised. Spleno-
cytes were dissociated from the connective tissue capsule by gently pressing the organ Int. J. Mol. Sci. 2021, 22, 11977 10 of 13 10 of 13 through a 200-mesh sterile metal sieve. Erythrocytes were depleted with 0.85% ammo-
nium chloride solution. Cells were washed once with phosphate-buffered saline (PBS 1×)
and resuspended in PBS 1× (Corning, Manassas, VA, USA). 4.4. Expansion Treg Assay Cells (1 × 106 cells/mL) were set up in 24-well tissue culture plate wells (Corn-
ing, Manassas, VA, USA) in a RPMI-1640 medium containing 10% fetal bovine serum,
100 µmol/L non-essential amino acids (Sigma Chemicals, St. Louis, MO, USA), 1 mmol/L
sodium pyruvate (Gibco), 0.2 mg/mL penicillin (Gibco), 0.5 mg/mL streptomycin (Gibco),
HEPES 10 mmol/L, and 5.5 × 10−5 mol/L β-mercaptoethanol (Gibco). Afterward, cells
were left unstimulated or stimulated with an anti-CD3ε Ab (BD Biosciences, San Diego, CA,
USA) at the indicated concentrations. The plates were incubated at 37 ◦C in the presence
of 5% CO2. After incubation, the cells were harvested and washed with PBS. Finally,
they were stained with anti-CD4 APC, anti-CD25 APC-Cy7, and anti-FoxP3 PE, as we
described above. 4.5. IFN-γ and IL-10 Detection Splenocytes from WT and CD38-/- mice were left unstimulated or stimulated with
1 µg/mL of anti-CD3ε Ab (BD Biosciences, San Diego, CA, USA), 1 µg/mL of anti-CD28
Ab (BD Biosciences, San Diego, CA, USA), and 200U rhIL-2 (Sigma Aldrich) or Phorbol
Myristate Acetate (50 ng/mL) plus Ionomycin (500 ng/mL) for 72 h. According to the
manufacturer’s protocol, supernatant concentrations of IFN-γ and IL-10 were evaluated by
Mouse ELISA MAXTM DELUXE Set (Biolegend, San Diego, CA, USA). 4.3. Flow Cytometry For surface staining, cells were stained with anti-CD3 PerCP-Cy5.5, anti-CD4 APC,
anti-CD25 APC-Cy7, anti-CD69 Pe-Cy7, anti-PD-1 BV421, and anti-CD38 Alexa Fluor 488
(all from BD Biosciences, San Diego, CA, USA). Cells were then incubated for 15 minutes
under room temperature and were fixed with 1% formaldehyde for 15 minutes. For intracel-
lular staining, cells were permeabilized (Cytofix/Cytoperm TM Fixation/Permeabilization
Solution Kit, BD Biosciences) for 40 minutes and stained with anti-FoxP3 Alexa Fluor 488,
anti-CTLA-4 BV605, and anti-IL-10 APC. All the samples were analyzed using an LSR-
Fortessa flow cytometer (Becton-Dickinson, San Jose, CA, USA) and analyzed by FlowJo
software (FlowJo, Tree Star, Ashland, OR, USA). Informed Consent Statement: Not applicable. Acknowledgments: Authors thank Rubén Flores González for statistical surveillance, and Haydee
Torres García, for help in the performing of some experiments. This work was submitted in partial
fulfillment of requirements for Jocelyn C Pérez-Lara at Programa de Doctorado en Ciencias de la
Salud, Universidad Veracruzana. Conflicts of Interest: The authors declare no conflict of interest. Conflicts of Interest: The authors declare no conflict of interest. References 1. Fava, A.; Petri, M. Systemic Lupus Erythematosus: Diagnosis and Clinical Management. J. Autoimmun. 2019, 96, 1–13. [CrossRef]
[PubMed] [
]
2. Nusbaum, J.S.; Mirza, I.; Shum, J.; Freilich, R.W.; Cohen, R.E.; Pillinger, M.H.; Izmirly, P.M.; Buyon, J.P. Sex Differences in Systemic
Lupus Erythematosus: Epidemiology, Clinical Considerations, and Disease Pathogenesis. Mayo Clin. Proc. 2020, 95, 384–394. [CrossRef] [PubMed] 3. Karagianni, P.; Tzioufas, A.G. Epigenetic Perspectives on Systemic Autoimmune Disease. J. Autoimmun. 2019, 104, 102315. [CrossRef] [PubMed] Dias, S.S.; Isenberg, D.A. Advances in Systemic Lupus Erythematosus. Medicine 2018, 46, 84–92. [CrossRef] 5. Gray-McGuire, C.; Moser, K.L.; Gaffney, P.M.; Kelly, J.; Yu, H.; Olson, J.M.; Jedrey, C.M.; Jacobs, K.B.; Kimberly, R.P.;
Neas, B.R.; et al. Genome Scan of Human Systemic Lupus Erythematosus by Regression Modeling: Evidence of Linkage and
Epistasis. Am. J. Hum. Genet. 2000, 67, 1460–1469. [CrossRef] [PubMed] 6. Lindqvist, A.K.; Alarcón-Riquelme, M.E. The Genetics of Systemic Lupus Erythematosus. Scand. J. Immunol. 1999, 50, 562–571. [CrossRef] 7. Nakagawara, K.; Mori, M.; Takasawa, S.; Nata, K.; Takamura, T.; Berlova, A.; Tohgo, A.; Karasawa, T.; Yonekura, H.; Takeuchi, T. Assignment of CD38, the Gene Encoding Human Leukocyte Antigen CD38 (ADP-Ribosyl Cyclase/Cyclic ADP-Ribose Hydrolase),
to Chromosome 4p15. Cytogenet. Genome Res. 1995, 69, 38–39. [CrossRef] [PubMed] p
y g
[
] [
]
8. Funaro, A.; Spagnoli, G.C.; Ausiello, C.M.; Alessio, M.; Roggero, S.; Delia, D.; Zaccolo, M.; Malavasi, F. Involvement of the
Multilineage CD38 Molecule in a Unique Pathway of Cell Activation and Proliferation. J. Immunol. 1990, 145, 2390–2396. 9. States, D.J.; Walseth, T.F.; Lee, H.C. Similarities in Amino Acid Sequences of Aplysia ADP-Ribosyl Cyclase and Human
Lymphocyte Antigen CD38. Trends Biochem. Sci. 1992, 17, 495. [CrossRef] 10. Wei, W.; Graeff, R.; Yue, J. Roles and Mechanisms of the CD38/Cyclic Adenosine Diphosphate Ribose/Ca2+ Signaling Pathway. World J. Biol. Chem. 2014, 5, 58–67. [CrossRef] [PubMed] 11. Santos-Argumedo, L.; Teixera, C.; Preece, G.; Kirkham, P.; Parkhouse, R.M. A B Lymphocyte Surface Molecule Mediating
Activation and Protection from Apoptosis via Calcium Channels. J. Immunol. 1993, 151, 3119–3130. [PubMed] 12. Partida-Sánchez, S.; Goodrich, S.; Kusser, K.; Oppenheimer, N.; Randall, T.D.; Lund, F.E. Regulation of
by the ADP-Ribosyl Cyclase CD38: Impact on the Development of Humoral Immunity. Immunity 2004 13. Lund, F.E.; Muller-Steffner, H.; Romero-Ramirez, H.; Moreno-García, M.E.; Partida-Sánchez, S.; Makris, M.; Oppenheimer, N.J.;
Santos-Argumedo, L.; Schuber, F. CD38 Induces Apoptosis of a Murine Pro-B Leukemic Cell Line by a Tyrosine Kinase-Dependent 13. 19.
Pavón, E.J.; Zumaquero, E.; Rosal-Vela, A.; Khoo, K.-M.; Cerezo-Wallis, D.; García-Rodríguez, S.; Carrascal, M.; Abian, J.;
Graeff, R.; Callejas-Rubio, J.-L.; et al. Increased CD38 Expression in T-cells and Circulating Anti-CD38 IgG Autoantibodies 18.
Spronk, P.E.; Horst, G.; Van Der Gun, B.T.; Limburg, P.C.; Kallenberg, C.G. Anti-DsDNA Production Coincides with Concurrent B
and T-cell Activation during Development of Active Disease in Systemic Lupus Erythematosus (SLE). Clin. Exp. Immunol. 1996,
104, 446–453. [CrossRef] 4.6. Statistical Analysis Shapiro–Wilk tests were used to test the normality of the data distributions. Corre-
lation tests were performed between CD38 and FoxP3, CTLA-4, CD69, PD1, and IL-10
using the non-parametric Spearman test, where an “r” between 0.8 and 1 indicated a high
positive correlation; from 0.4 to 0.79, a mean positive correlation, and from 0.01 to 0.39,
a low positive correlation was considered. The results were statistically significant when the
value of p < 0.05. Treg and Treg CD38+ frequency was performed using the non-parametric
Kruskal–Wallis and t-Student tests, respectively, where a p < 0.05 was considered statisti-
cally significant. Finally, the cell culture results were evaluated by a two-way analysis of
variance (ANOVA). Tukey post hoc test was used for multiple comparisons, as indicated. Statistical significance was determined with p < 0.05. All data were analyzed using the
statistical program RStudio 1.3.1093, © 2009–2020 (RStudio, PBC Inc., Boston, MA, USA). Author Contributions: Conceptualization, L.S.-A. and J.C.R.-A.; Formal analysis, J.C.P.-L. and J.C.R.-
A.; Funding acquisition, E.E. and J.C.R.-A.; Investigation, J.C.P.-L. and J.C.R.-A.; Methodology,
J.C.P.-L. and C.S.-M.; Project administration, J.C.R.-A.; Resources, E.E., L.S.-A., H.R.-R., G.L.-H.,
C.S.-M. and J.C.R.-A.; Supervision, E.E., H.R.-R., G.L.-H., F.G.-G., V.O.-N., M.F.-M. and J.C.R.-A.;
Writing—original draft, J.C.P.-L.; Writing—review and editing, L.S.-A., H.R.-R., G.L.-H., F.G.-G.,
M.F.-M. and J.C.R.-A. All authors have read and agreed to the published version of the manuscript. Int. J. Mol. Sci. 2021, 22, 11977 11 of 13 11 of 13 Funding: This research was funded by CONACYT-Fronteras en la Ciencia 2015 Grant No. 214,
Proyecto CONACYT Ciencia Básica A1-S-26657, CONACYT 284961 and 253138. Funding: This research was funded by CONACYT-Fronteras en la Ciencia 2015 Grant No. 214,
Proyecto CONACYT Ciencia Básica A1-S-26657, CONACYT 284961 and 253138. Institutional Review Board Statement: The study was conducted according to the guidelines of
the Mexican Official Standard NOM-062-ZOO-2001 and approved by the Institutional Care and
Committee (IACUC) of the Health Sciences Institute from Universidad Veracruzana (No. 2018-0004). Informed Consent Statement: Not applicable References Targeted Disruption of CD38 Accelerates Autoimmune Diabetes in NOD/Lt Mice by Enhancing Autoimmu-
nity in an ADP-Ribosyltransferase 2-Dependent Fashion. J. Immunol. 2006, 176, 4590–4599. [CrossRef] y
y
p
J
[
]
21. Viegas, M.S.; Silva, T.; Monteiro, M.M.; do Carmo, A.; Martins, T.C. Knocking out of CD38 Accelerates Development of a
Lupus-like Disease in Lpr Mice. Rheumatology 2011, 50, 1569–1577. [CrossRef]
Á 22. Domínguez-Pantoja, M.; López-Herrera, G.; Romero-Ramírez, H.; Santos-Argumedo, L.; Chávez-Rueda, A.K.; Hernández-Cueto, Á.;
Flores-Muñoz, M.; Rodríguez-Alba, J.C. CD38 Protein Deficiency Induces Autoimmune Characteristics and Its Activation
Enhances IL-10 Production by Regulatory B Cells. Scand. J. Immunol. 2018, 87, e12664. [CrossRef] [PubMed] 23. Horwitz, D.A. Regulatory T-cells in Systemic Lupus Erythematosus: Past, Present and Future. Art
[CrossRef] latory T-cells in Systemic Lupus Erythematosus: Past, Present and Future. Arthritis Res. Ther. 2008, 10, 227 24. Sakaguchi, S.; Sakaguchi, N.; Asano, M.; Itoh, M.; Toda, M. Immunologic Self-Tolerance Maintained by Activated T-cells
Expressing IL-2 Receptor Alpha-Chains (CD25). Breakdown of a Single Mechanism of Self-Tolerance Causes Various Autoimmune
Diseases. J. Immunol. 1995, 155, 1151–1164. guchi, T.; Nomura, T.; Ono, M. Regulatory T-cells and Immune Tolerance. Cell 2008, 133, 775–787. [CrossRef] 25. Sakaguchi, S.; Yamaguchi, T.; Nomura, T.; Ono, M. Regulatory T-cells and Immune Tolerance. Cell 2
[PubMed] 26. Parry, R.V.; Chemnitz, J.M.; Frauwirth, K.A.; Lanfranco, A.R.; Braunstein, I.; Kobayashi, S.V.; Linsley, P.S.; Thompson, C.B.;
Riley, J.L. CTLA-4 and PD-1 Receptors Inhibit T-Cell Activation by Distinct Mechanisms. Mol. Cell. Biol. 2005, 25, 9543–9553. [CrossRef] 27. Waterhouse, P.; Penninger, J.M.; Timms, E.; Wakeham, A.; Shahinian, A.; Lee, K.P.; Thompson, C.B
Lymphoproliferative Disorders with Early Lethality in Mice Deficient in Ctla-4. Science 1995, 270, 985– y
p
p
y
y
28. Taylor, A.; Verhagen, J.; Blaser, K.; Akdis, M.; Akdis, C.A. Mechanisms of Immune Suppression by Interleukin-10 and Transforming
Growth Factor-Beta: The Role of T Regulatory Cells. Immunology 2006, 117, 433–442. [CrossRef] g
y
gy
29. Wei, F.; Zhong, S.; Ma, Z.; Kong, H.; Medvec, A.; Ahmed, R.; Freeman, G.J.; Krogsgaard, M.; Riley, J.L. Strength of PD-1 Signaling
Differentially Affects T-Cell Effector Functions. Proc. Natl. Acad. Sci. USA 2013, 110, E2480–E2489. [CrossRef] [PubMed] 30. Fontenot, J.D.; Gavin, M.A.; Rudensky, A.Y. Foxp3 Programs the Development and Function of CD4+CD25+ Regulatory T-cells. Nat. Immunol. 2003, 4, 330–336. [CrossRef] [PubMed] 31. Feng, X.; Zhang, L.; Acharya, C.; An, G.; Wen, K.; Qiu, L.; Munshi, N.C.; Tai, Y.-T.; Anderson, K.C. References Lund, F.E.; Muller-Steffner, H.; Romero-Ramirez, H.; Moreno-García, M.E.; Partida-Sánchez, S.; Makris, M.; Oppenheimer, N.J.;
Santos-Argumedo, L.; Schuber, F. CD38 Induces Apoptosis of a Murine Pro-B Leukemic Cell Line by a Tyrosine Kinase-Dependent
but ADP-Ribosyl Cyclase- and NAD Glycohydrolase-Independent Mechanism. Int. Immunol. 2006, 18, 1029–1042. [CrossRef] 13. Lund, F.E.; Muller Steffner, H.; Romero Ramirez, H.; Moreno García, M.E.; Partida Sánchez, S.; Makris, M.; Oppenheimer, N.J.;
Santos-Argumedo, L.; Schuber, F. CD38 Induces Apoptosis of a Murine Pro-B Leukemic Cell Line by a Tyrosine Kinase-Dependent
but ADP-Ribosyl Cyclase- and NAD Glycohydrolase-Independent Mechanism. Int. Immunol. 2006, 18, 1029–1042. [CrossRef]
14. Rodríguez-Alba, J.C.; Moreno-García, M.E.; Sandoval-Montes, C.; Rosales-Garcia, V.H.; Santos-Argumedo, L. CD38 Induces g
p p
y
y
p
but ADP-Ribosyl Cyclase- and NAD Glycohydrolase-Independent Mechanism. Int. Immunol. 2006, 18, 1029–1042. [CrossRef]
14. Rodríguez-Alba, J.C.; Moreno-García, M.E.; Sandoval-Montes, C.; Rosales-Garcia, V.H.; Santos-Argumedo, L. CD38 Induces
Differentiation of Immature Transitional 2 B Lymphocytes in the Spleen. Blood 2008, 111, 3644–3652. [CrossRef] 15. Alcocer-Varela, J.; Alarcón-Riquelme, M.; Laffón, A.; Sánchez-Madrid, F.; Alarcón-Segovia, D. Activation Markers on Peripheral
Blood T-cells from Patients with Active or Inactive Systemic Lupus Erythematosus. Correlation with Proliferative Responses and
Production of IL-2. J. Autoimmun. 1991, 4, 935–945. [CrossRef] 16. al-Janadi, M.; Raziuddin, S. B Cell Hyperactivity Is a Function of T-cell Derived Cytokines in Systemic Lupus Erythematosus. J. Rheumatol. 1993, 20, 1885–1891. 17. Pavón, E.J.; Muñoz, P.; Navarro, M.-C.; Raya-Alvarez, E.; Callejas-Rubio, J.-L.; Navarro-Pelayo, F.; Ortego-Centeno, N.; Sancho, J.;
Zubiaur, M. Increased Association of CD38 with Lipid Rafts in T-cells from Patients with Systemic Lupus Erythematosus and in
Activated Normal T-cells. Mol. Immunol. 2006, 43, 1029–1039. [CrossRef] [PubMed] 18. Spronk, P.E.; Horst, G.; Van Der Gun, B.T.; Limburg, P.C.; Kallenberg, C.G. Anti-DsDNA Production Coincides with Concurrent B
and T-cell Activation during Development of Active Disease in Systemic Lupus Erythematosus (SLE). Clin. Exp. Immunol. 1996,
104, 446–453. [CrossRef] 19. Pavón, E.J.; Zumaquero, E.; Rosal-Vela, A.; Khoo, K.-M.; Cerezo-Wallis, D.; García-Rodríguez, S.; Carrascal, M.; Abian, J.;
Graeff, R.; Callejas-Rubio, J.-L.; et al. Increased CD38 Expression in T-cells and Circulating Anti-CD38 IgG Autoantibodies Int. J. Mol. Sci. 2021, 22, 11977 12 of 13 12 of 13 Differentially Correlate with Distinct Cytokine Profiles and Disease Activity in Systemic Lupus Erythematosus Patients. Cytokine
2013, 62, 232–243. [CrossRef] [PubMed] [
] [
]
20. Chen, J.; Chen, Y.-G.; Reifsnyder, P.C.; Schott, W.H.; Lee, C.-H.; Osborne, M.; Scheuplein, F.; Haag, F.; Koch-Nolte, F.;
Serreze, D.V.; et al. References Targeting CD38 Suppresses
Induction and Function of T Regulatory Cells to Mitigate Immunosuppression in Multiple Myeloma. Clin. Cancer Res. 2017, 23,
4290–4300. [CrossRef] 32. Krejcik, J.; Casneuf, T.; Nijhof, I.S.; Verbist, B.; Bald, J.; Plesner, T.; Syed, K.; Liu, K.; van de Donk, N.W.C.J.; Weiss, B.M.; et al. Daratumumab Depletes CD38+ Immune Regulatory Cells, Promotes T-Cell Expansion, and Skews T-Cell Repertoire in Multiple
Myeloma. Blood 2016, 128, 384–394. [CrossRef] [PubMed] y
33. Li, M.O.; Rudensky, A.Y. T-cell Receptor Signaling in the Control of Regulatory T-cell Differentiation and Function. Nat. Rev. Immunol. 2016, 16, 220–233. [CrossRef] [PubMed] 34. Chen, Y.; Shen, S.; Gorentla, B.K.; Gao, J.; Zhong, X.-P. Murine Regulatory T-cells Contain Hyperproliferative and Death-Prone
Subsets with Differential ICOS Expression. J. Immunol. 2012, 188, 1698–1707. [CrossRef] [PubMed] 35. Liang, Y.; Cucchetti, M.; Roncagalli, R.; Yokosuka, T.; Malzac, A.; Bertosio, E.; Imbert, J.; Nijman, I.J.; Suchanek, M.; Saito, T.; et al. The Lymphoid Lineage—Specific Actin-Uncapping Protein Rltpr Is Essential for Costimulation via CD28 and the Development of
Regulatory T-cells. Nat. Immunol. 2013, 14, 858–866. [CrossRef] [PubMed] g
y
36. Schwarz, M.; Majdic, O.; Knapp, W.; Holter, W. High-Level IL-10 Production by Monoclonal Antibody-Stimulated Human T-cells. Immunology 1995, 86, 364–371. gy
37. Yanagawa, Y.; Iwabuchi, K.; Onoé, K. Co-Operative Action of Interleukin-10 and Interferon-γ to Regulate Dendritic Cell Functions. Immunology 2009, 127, 345–353. [CrossRef] 38. Saraiva, M.; O’Garra, A. The Regulation of IL-10 Production by Immune Cells. Nat. Rev. Immunol. 2010, 10, 170–181. [CrossRef]
39. Read, S.; Mauze, S.; Asseman, C.; Bean, A.; Coffman, R.; Powrie, F. CD38+ CD45RBlow CD4+ T-cells: A Population of T-cells with
Immune Regulatory Activities in Vitro. Eur. J. Immunol. 1998, 28, 3435–3447. [CrossRef] 39. Read, S.; Mauze, S.; Asseman, C.; Bean, A.; Coffman, R.; Powrie, F. CD38+ CD45RBlow CD4+ T-cells: A Population of T-cells with
Immune Regulatory Activities in Vitro. Eur. J. Immunol. 1998, 28, 3435–3447. [CrossRef] g
y
J
40. Cohen, P.L.; Eisenberg, R.A. Lpr and Gld: Single Gene Models of Systemic Autoimmunity and Lymphoproliferative Disease. Annu. Rev. Immunol. 1991, 9, 243–269. [CrossRef] 41. van Nieuwenhuijze, A.E.; Cauwe, B.; Klatt, D.; Humblet-Baron, S.; Liston, A. Lpr-Induced Systemic Autoimmunity Is Unaffected
by MasT-cell Deficiency. Immunol. Cell Biol. 2015, 93, 841–848. [CrossRef] [PubMed] 42. Patton, D.T.; Wilson, M.D.; Rowan, W.C.; Soond, D.R.; Okkenhaug, K. The PI3K P110δ Regulates Expression of CD38 on
Regulatory T-cells. PLoS ONE 2011, 6, e17359. [CrossRef] [PubMed] 43. References The Regulation of Foxp3 Expression in Regulatory CD4(+)CD25(+)T-cells: Multiple Pathways on the Road. J. Cell. Physiol. 2007, 211, 590–597. [CrossRef] 54. Horenstein, A.L.; Chillemi, A.; Zaccarello, G.; Bruzzone, S.; Quarona, V.; Zito, A.; Serra, S.; Malavasi, F. A CD38/CD203a/CD73
Ectoenzymatic Pathway Independent of CD39 Drives a Novel Adenosinergic Loop in Human T Lymphocytes. Oncoimmunology
2013, 2, e26246. [CrossRef] [PubMed] 55. Bao, R.; Hou, J.; Li, Y.; Bian, J.; Deng, X.; Zhu, X.; Yang, T. Adenosine Promotes Foxp3 Expression in Treg
Activating JNK/AP-1 Pathway. Am. J. Transl. Res. 2016, 8, 2284–2292. [PubMed] Li, Y.; Bian, J.; Deng, X.; Zhu, X.; Yang, T. Adenosine Promotes Foxp3 Expression in Treg Cells in Sepsis Mode
AP-1 Pathway. Am. J. Transl. Res. 2016, 8, 2284–2292. [PubMed] J.; Li, Y.; Bian, J.; Deng, X.; Zhu, X.; Yang, T. Adenosine Promotes Foxp3 Expression in Treg Cells in Sepsis M
/
h
l
[
b
d] Li, Y.; Bian, J.; Deng, X.; Zhu, X.; Yang, T. Adenosine Promotes Foxp3 Expression in Treg Cells in Sepsis Mode
AP-1 Pathway. Am. J. Transl. Res. 2016, 8, 2284–2292. [PubMed] NK/AP-1 Pathway. Am. J. Transl. Res. 2016, 8, 2284–2292. [PubMed] 56. Ohta, A.; Kini, R.; Ohta, A.; Subramanian, M.; Madasu, M.; Sitkovsky, M. The Development and Immunosuppressive Functions
of CD4(+) CD25(+) FoxP3(+) Regulatory T-cells Are under Influence of the Adenosine-A2A Adenosine Receptor Pathway. Front. Immunol. 2012, 3, 190. [CrossRef] [PubMed] 57. Hubert, S.; Rissiek, B.; Klages, K.; Huehn, J.; Sparwasser, T.; Haag, F.; Koch-Nolte, F.; Boyer, O.; Seman, M.; Adriouch, S. Extracellular NAD+ Shapes the Foxp3+ Regulatory T-cell Compartment through the ART2–P2X7 Pathway. J. Exp. Med. 2010, 207,
2561–2568. [CrossRef] [
]
58. Aswad, F.; Kawamura, H.; Dennert, G. High Sensitivity of CD4+CD25+ Regulatory T-cells to Extracellular Metabolites Nicoti-
namide Adenine Dinucleotide and ATP: A Role for P2X7 Receptors. J. Immunol. 2005, 175, 3075–3083. [CrossRef]
59
A
d F
D
t G P2X7 R
t
E
i
L
l
D t
i
L th l Eff
t
f
P
i
B
d D
Si
l i
T p
59. Aswad, F.; Dennert, G. P2X7 Receptor Expression Levels Determine Lethal Effects of a Purin
Lymphocytes. Cell. Immunol. 2006, 243, 58–65. [CrossRef] [PubMed] 60. Muñoz, P.; Navarro, M.-C.; Pavón, E.J.; Salmerón, J.; Malavasi, F.; Sancho, J.; Zubiaur, M. CD38 Signaling in T-cells Is Initiated
within a Subset of Membrane Rafts Containing Lck and the CD3-Zeta Subunit of the T-cell Antigen Receptor. J. Biol. Chem. References Drach, J.; McQueen, T.; Engel, H.; Andreeff, M.; Robertson, K.A.; Collins, S.J.; Malavasi, F.; Mehta, K. Retinoic Acid-Induced
Expression of CD38 Antigen in Myeloid Cells Is Mediated through Retinoic Acid Receptor-Alpha. Cancer Res. 1994, 54, 1746–1752. [PubMed] 13 of 13 13 of 13 Int. J. Mol. Sci. 2021, 22, 11977 44. Mucida, D.; Pino-Lagos, K.; Kim, G.; Nowak, E.; Benson, M.J.; Kronenberg, M.; Noelle, R.J.; Cheroutre, H. Retinoic Acid Can
Directly Promote TGF-Beta-Mediated Foxp3(+) Treg Cell Conversion of Naive T-cells. Immunity 2009, 30, 472–473. [CrossRef]
[PubMed] [
]
45. Sun, X.; Xiao, Y.; Zeng, Z.; Shi, Y.; Tang, B.; Long, H.; Kanekura, T.; Wang, J.; Wu, H.; Zhao, M.; et al. All-Trans Retinoic
Acid Induces CD4+CD25+FOXP3+ Regulatory T-cells by Increasing FOXP3 Demethylation in Systemic Sclerosis CD4+ T-cells. J. Immunol. Res. 2018, 2018, 8658156. [CrossRef] [PubMed] J
46. Yan, B.; Liu, Y. The Nature of Increased Circulating CD4+CD25−Foxp3+ T-cells in Patients with Systemic Lupus Erythematosus:
A Novel Hypothesis. Open Rheumatol. J. 2009, 3, 22–24. [CrossRef] [PubMed] 47. Zelenay, S.; Lopes-Carvalho, T.; Caramalho, I.; Moraes-Fontes, M.F.; Rebelo, M.; Demengeot, J. Foxp3+ CD25- CD4 T-cells
Constitute a Reservoir of Committed Regulatory Cells That Regain CD25 Expression upon Homeostatic Expansion. Proc. Natl. Acad. Sci. USA 2005, 102, 4091–4096. [CrossRef] [PubMed] 48. Bonelli, M.; Göschl, L.; Blüml, S.; Karonitsch, T.; Steiner, C.-W.; Steiner, G.; Smolen, J.S.; Scheinecker, C. CD4+CD25−Foxp3+
T-cells: A Marker for Lupus Nephritis? Arthritis Res. Ther. 2014, 16, R104. [CrossRef] [PubMed] 49. Ferreira, R.C.; Simons, H.Z.; Thompson, W.S.; Rainbow, D.B.; Yang, X.; Cutler, A.J.; Oliveira, J.; Castro Dopico, X.; Smyth, D.J.;
Savinykh, N.; et al. Cells with Treg-Specific FOXP3 Demethylation but Low CD25 Are Prevalent in Autoimmunity. J. Autoimmun. 2017, 84, 75–86. [CrossRef] 50. Han, Y.; Guo, Q.; Zhang, M.; Chen, Z.; Cao, X. CD69+ CD4+ CD25−T-cells, a New Subset of Regulatory T-cells, Suppress T-cell
Proliferation through Membrane-Bound TGF-Beta 1. J. Immunol. 2009, 182, 111–120. [CrossRef] [PubMed] g
51. Altman, A.; Theofilopoulos, A.N.; Weiner, R.; Katz, D.H.; Dixon, F.J. Analysis of T-cell Function in Autoimmune Murine Strains. Defects in Production and Responsiveness to Interleukin 2. J. Exp. Med. 1981, 154, 791–808. [CrossRef] 52. Wofsy, D.; Murphy, E.D.; Roths, J.B.; Dauphinée, M.J.; Kipper, S.B.; Talal, N. Deficient Interleukin 2 A
C57BL/6J Mice Bearing the Lpr Gene. J. Exp. Med. 1981, 154, 1671–1680. [CrossRef] [PubMed] g
p
p
53. Zhang, L.; Zhao, Y. References 2003,
278, 50791–50802. [CrossRef] [PubMed] 61. Zubiaur, M.; Izquierdo, M.; Terhorst, C.; Malavasi, F.; Sancho, J. CD38 Ligation Results in Activation of the Raf-1/Mitogen-
Activated Protein Kinase and the CD3-Zeta/Zeta-Associated Protein-70 Signaling Pathways in Jurkat T Lymphocytes. J. Immunol. 1997, 159, 193–205. [PubMed] 62. Zubiaur, M.; Guirado, M.; Terhorst, C.; Malavasi, F.; Sancho, J. The CD3-Gamma Delta Epsilon Transducing Module Mediates
CD38-Induced Protein-Tyrosine Kinase and Mitogen-Activated Protein Kinase Activation in Jurkat T-cells. J. Biol. Chem. 1999,
274, 20633–20642. [CrossRef] [PubMed] 63. Zubiaur, M.; Fernández, O.; Ferrero, E.; Salmerón, J.; Malissen, B.; Malavasi, F.; Sancho, J. CD38 Is Associated with Lipid Rafts
and upon Receptor Stimulation Leads to Akt/Protein Kinase B and Erk Activation in the Absence of the CD3-Zeta Immune
Receptor Tyrosine-Based Activation Motifs. J. Biol. Chem. 2002, 277, 13–22. [CrossRef] [PubMed] p
y
64. Burlock, B.; Richardson, G.; García-Rodríguez, S.; Guerrero, S.; Zubiaur, M.; Sancho, J. The Role of CD38 on the Function of
Regulatory B Cells in a Murine Model of Lupus. Int. J. Mol. Sci. 2018, 19, 2906. [CrossRef] [PubMed]
|
https://openalex.org/W4284994059
|
https://ejournal.unma.ac.id/index.php/dm/article/download/2068/1383
|
Indonesian
| null |
Analisis Kemampuan Pemecahan Masalah Siswa SMP dalam Menyelesaikan Materi Bangun Ruang Sisi Datar
|
Jurnal Didactical Mathematics
| 2,022
|
cc-by-sa
| 4,250
|
Analisis Kemampuan Pemecahan Masalah Siswa SMP dalam
Menyelesaikan Materi Bangun Ruang Sisi Datar Sabrina Ovi Saffanah 1, Redo Martila Ruli 2
12 Universitas Singaperbangsa Karawang, INDONESIA
Korespondensi :
1810631050046@student.unsika.ac.id Sabrina Ovi Saffanah 1, Redo Martila Ruli 2
12 Universitas Singaperbangsa Karawang, INDONESIA
Korespondensi :
1810631050046@student.unsika.ac.id Article Info
Article History
Received : 17-02-2022
Revised : 24-03-2022
Accepted : 26-03-2022 bst act
Kemampuan pemecahan masalah matematis adalah untuk mengatasi
permasalahan yang terjadi di matematika dengan memanfaatkan scholarly
knowledge siswa. Namun demikian, beberapa peneliti menyimpulkan bahwa
kemampuan pemecahan masalah siswa masih rendah pada materi bangun
ruang sisi datar. Penelitian kali ini bertujuan untuk mendeskripsikan
kemampuan pemecahan masalah siswa SMP dalam menyelesaikan materi
bangun ruang sisi datar. Penelitian ini adalah penelitian kualitatif deskriptif. Subjek penelitian ini adalah 6 siswa sekolah menengah pertama (SMP). Teknik
pengambilan data penelitian ini adalah dengan melakukan observasi, tes, dan
wawancara untuk menerima informasi mendalam dari siswa, sehingga
mendapatkan data yang benar. Teknik analisis kemampuan pemecahan
masalah dengan mengkelompokkan tiga kategori yaitu kategori siswa
kemampuan pemecahan masalah rendah, siswa kemampuan pemecahan
masalah sedang, dan siswa kemampuan pemecahan masalah tinggi sesuai. Melakukan triangulasi metode pada tes dan wawancara untuk mengetahui valid
atau tidaknya data. Instrument tes yang digunakan pada penelitian ini
memberikan 5 soal non-rutin pada materi bangun ruang sisi datar. Pedoman
dalam mendeskripsikan kemampuan pemecahan masalah matematis
berdasarkan lima indikator kemampuan pemecahan masalah. Dari hasil
penelitian ini didapatkan 1 siswa berkemampuan pemecahan masalah tinggi, 4
siswa siswa berkemampuan pemecahan masalah sedang, dan 1 siswa
berkemampuan pemecahan masalah rendah yang dilihat dari hasil tes siswa
berdasarkan klasifikasi kategori kemampuan pemecahan masalah. Build flat side space;
Non-routine story
problems;
Problem solving ability;
Student errors Volume 4, Nomor 1, April 2022
Jurnal Didactical Mathematics J
https://ejournal.unma.ac.id/index.php/dm
DOI: http://dx.doi.org/10.31949/dmj.v2i2.2074 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 PENDAHULUAN Pemecahan masalah merupakan sebuah cara guna menemukan jawaban dari
permasalahan atau kesukaraan yang tidak rutin yang mengakibatkan permasalahan tersebut
terselesaikan dan mencapai sebuah tujuan yang diinginkan (Wahyudi dan Anugraheni, 2017). Dalam mempelajari matematika pemecahan masalah merupakan keutamaan pembelajaraan
yang menjadi kemampuan utama dalam prosedur pembelajaraan (Hidayat dan Sariningsih,
2018). Karena, kemampuan pemecahan masalah matematis adalah upaya untuk mengatasi
permasalahan yang terjadi di matematika dengan memanfaatkan pengetahuan maupun
pengalaman yang telah di peroleh sebelumnnya (Nurhasanah et al., 2018). Adapun indikator dari pemecahan masalah menurut Sumarmo dirincikan sebagai berikut:
1) Mengenali bagian-bagian yang diketahui, ditanyakan, maupun kelengkapan unsur yang
diperlukan; 2) Mengemukakan model matematika pada situasi kehidupan sehari-hari dan
dituntaskan; 3) Menentukan dan mengaplikasikan rencana untuk menuntaskan masalah
matematika; 4) Mendeskripsikan atau mendefinisikan jawaban yang tepat sesuai permasalahan
yang dihadapi dan mengecek kembali jawaban; 5) Mempraktikkan matematika sebagai makna
(Sumarmo, 2017). Mempelajari
matematika
mempunyai
target
untuk
menunjang
siswa
dalam
mengembangkan kemampuan yang dimiliki dari kemampuan yang rendah sampai tinggi
(Kurniati dan Annizar, 2017). Target mempelajari matematika merupakan menumbuh
kembangkan kemampuan pemecahan masalah (August dan Ramlah, 2021). Keberhasilan siswa
dalam pembelajaraan maupun dalam menyikapi pemecahan masalah dalam belajar tidak luput
dari keberhasilan seorang guru. fungsi guru dalam pemecahan masalah untuk mengetahui titik
kesalahan siswa dan membenarkann jalan keluar siswa dalam menghadapi masalah (Amalia
dkk., 2017). Perlakuan, strategi, pengajaran yang dilakukan seorang guru sangat penting dalam
hasil belajar maupun dengan kemampuan pemecahan siswa (Puadi, 2017). Seluruh materi matematika memiliki tingkat kesulitan, penilaian maupun tingkat
kemampuan pemecahan masalahnya masing - masing. Salah satunya materi matematika yaitu
bangun ruang sisi datar yang sangat berkaitan dengan pemecahan masalah maupun kehidupan
sehari-hari. (Sari dan Aripin, 2018) juga mengatakan bahwa soal – soal materi bangun ruang sisi
datar yang berhubungan dengan indikator kemampuan pemecahan masalah pasti sangat
berkaitan kehidupan sehari- hari maupun lingkungan siswa. Materi bangun ruang sisi datar kerap dijumpai oleh siswa berbentuk uraian cerita yang
sering membuat kebingungan dan kemalasan pada saat membaca dan mengerjakan soal namun
soal cerita membuat kemampuan dari seorang siswa meningkat hal tersebutlah yang diimpikan
seorang guru (Sari dan Aripin, 2018). Namun, pada kenyataanya kemampuan pemecahan
masalah siswa SMP tergolong sangat rendah pada penyelesaian soal bangun ruang sisi datar,
karna siswa masih mengalami kesulitan dalam menguasai konsep dan sulit dalam membuat pola
matematika (Nuraini dkk., 2019). Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Keywords: Build flat side space;
Non-routine story
problems;
Problem solving ability;
Student errors Mathematical problem solving ability is to overcome problems that occur in mathematics
by utilizing student scholarly knowledge. However, some researchers concluded that
students' problem-solving abilities were still low in the flat-sided geometry material. This
study aims to examine the problem-solving abilities of junior high school students in
completing the flat-sided building material. This research is a descriptive qualitative
research. The subjects of this study were 6 junior high school students (SMP). The data
collection technique of this research is by conducting observations, tests, and interviews to
receive in-depth information from students, so as to get the correct data. The problem
solving ability analysis technique is grouped into three categories, namely the category of
students with low problem solving abilities, students with moderate problem solving
abilities, and students with high problem solving abilities accordingly. Triangulating
methods on tests and interviews to find out whether the data is valid or not. The test
instrument used in this study provided 5 non-routine questions on the flat-sided geometry
material. Guidelines in assessing mathematical problem solving abilities based on five
indicators of problem solving abilities. From the results of this study obtained 1 student
with high problem solving ability, 4 students with moderate problem solving ability, and 1
student with low problem solving ability as seen from student test results based on the
classification of problem solving ability categories | 200 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 PENDAHULUAN Kemampuan pemecahan masalah siswa SMP kelas VIII
tergolong rendah pada tahap indikator pengecekan kembali, karena siswa kurang mampu dalam
mengerjakan penyelesaian perhitungan secara teratur dan siswa tidak memperhatikan satuan
panjang,luas,volume (Apri Kurniawan dkk., 2019). Kemudian, kenyataanya menunjukkan
bahwa proses pembelajaran di kelas masih mengarahkan pengetahuan konsep yang sedang
dipelajari, sedangkan dalam mengeksplor kemampuan memahami secara konseptual waktu yang | 201 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli di miliki oleh siswa sangat sedikit, yang berdampak kemampuan dalam memecahkan masalah
siswa sangat kurang dan sering membuat kesalahan (Jatisunda dan Nahdi, 2019). Hal tersebut
membuktikkan bahwasanya kemampuan pemecahan masalah yang dimiliki siswa masih kurang
(Rahim dan Roesdiana, 2021). Berdasarkan uraian diatas, penelitian ini bertujuan untuk
menganalisis kemampuan pemecahan masalah siswa SMP dalam menyelesaikan materi bangun
ruang sisi datar. di miliki oleh siswa sangat sedikit, yang berdampak kemampuan dalam memecahkan masalah
siswa sangat kurang dan sering membuat kesalahan (Jatisunda dan Nahdi, 2019). Hal tersebut
membuktikkan bahwasanya kemampuan pemecahan masalah yang dimiliki siswa masih kurang
(Rahim dan Roesdiana, 2021). Berdasarkan uraian diatas, penelitian ini bertujuan untuk
menganalisis kemampuan pemecahan masalah siswa SMP dalam menyelesaikan materi bangun
ruang sisi datar. Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 HASIL DAN PEMBAHASAN Berdasarkan hasil pengumpulan data yang diperoleh dari analisis kemampuan pemecahan
masalah materi bangun ruang sisi datar yang di lakukan pada keenam siswa SMP. Memperoleh
kategori yang berbeda-beda yaitu kategori tinggi, kategori sedang, dan kategori rendah sesuai
dengan indikator kemampuan pemecahan masalah menurut (Sumarmo, 2017). Kategori tersebut
diperoleh dari hasil siswa yang didapatkan pada tes, maka hasilnya sebagai berikut : Tabel 2. Hasil Penilaian Tes Siswa
Dari table diatas, data tersebut dapat di klarifikasi ke dalam kategori kemampuan pemecahan
No
Siswa
Nilai
Kategori
1
Siswa 1 (S1)
72
Tinggi
2
Siswa 2 (S2)
62
Sedang
3
Siswa 3 (S3)
66
Sedang
4
Siswa 4 (S4)
42
Sedang
5
Siswa 5 (S5)
34
Sedang
6
Siswa 6 (S6)
30
Rendah Dari table diatas, data tersebut dapat di klarifikasi ke dalam kategori kemampuan pemecahan
masalah. berikut hasil klarifikasi kategori : Dari table diatas, data tersebut dapat di klarifikasi ke dalam kategori kemampuan pemecahan
masalah. berikut hasil klarifikasi kategori : Tabel 3. Klarifikasi Kategori Kemampuan Pemecahan Masalah
Rentang
Kategori
Jumlah Siswa
x ≥ 68,87
Tinggi
1
68,87 ≤ x ≥ 33,12
Sedang
4
x ≤ 33,12
Rendah
1 Tabel 3. Klarifikasi Kategori Kemampuan Pemecahan Masalah Dari penjelasan diatas, siswa sudah dikelompokkan kedalam kategori kemampuan
pemecahan masalah rendah, sedang, tinggi. Setelah siswa dipilih sesuai kategori peneliti memilih
tiga siswa perwakilan dari setiap ketegori. Kategori kemampuan pemecahan masalah rendah
(S6), kategori kemampuan pemecahan masalah sedang (S3), kemampuan pemecahan masalah
tinggi (S1). Untuk menganalisis kesalahan – kesalahan dalam menyelesaikan soal cerita bangun
ruang sisi datar dilakukan analisis lebih mendalam terhadap ketiga siswa perwakilan kategori. Untuk dianalisis lebih lanjut untuk mengetahui kemampuan pemecahan masalah siswa yang
dilihat pada soal nomor satu, nomor dua, nomor tiga. Berikut analisis siswa sesuai kategori: METODE Penelitian ini merupakan penelitian deskriptif kualitatif guna melihat sketsa kemampuan
pemecahan masalah yang dimiliki oleh siswa SMP pada materi bangun ruang sisi datar. Penelitian kualitatif merupakan penelitian yang bermakna untuk menguasai kejadian yang
dialami oleh siswa contohnya perbuatan, pemahaman, stimulus, aksi, dll, secara keseluruhan dan
proses deskripsi pada susunan kata-kata, bahasa, dalam suatu kondisi yang khas maupun
menggunakan metode alamiah lainnya (Moleong, 2017). Subjek dalam penelitian ini yaitu 6 siswa kelas VIII pada satu SMP di Kabupaten Bekasi
pada bulan Oktober yang dipilih secara acak. Instrument tes yang digunakan yaitu soal-soal non
rutin pada materi bangun ruang sisi datar berbentuk uraian yang berjumlah 5 soal. Adapun teknik pengumpulan data yang dilakukan dalam penelitian ini adalah tes,
observasi, wawancara, dan triangulasi. Triangulasi merupakan sebuah teknik kevalidan data
yang memakai hal lain diluar data itu guna kebutuhan pengecekan atau sebagai parameter data
tersebut (Moleong, 2017). Triangulasi yang digunakan pada penelitian ini adalah triangulasi
metode dengan membandingkan informasi data dari teknik tes dan wawancara. Tahapan yang dilakukan dalam menganalisis data dari penelitian ini adalah pertama, hasil
instrument yang didapat seperti test, wawancara, observasi dikumpulkan secara lengkap agar
penelitian dapat mencapai tujuan yang ingin dicapai maupun memformulasikan hasil jawaban
siswa dengan mengklarifikasi poin yang diterima sesuai parameter menggunakan skala lima. Kedua, mendeskripsikan lebih lanjut soal-soal dengan cara deskriptif guna melihat kemampuan
pemecahan masalah siswa yang dilihat dari gambaran penyajian jawaban siswa berupa kata-kata,
sketsa bukan berupa hasil angka. Ketiga, menarik kesimpulan dari menganalisis data
kemampuan pemecahan masalah matematis dalam menyelesaikan soal non rutin pada materi
bangun ruang sisi datar. Peneliti mengkategorikan hasil soal tes siswa menjadi 3 kategori
kemampuan pemecahan masalah yaitu rendah, sedang, tinggi. Pengklasifikasi kategori siswa
berdasarkan tabel 1. Tabel 1. Klasifikasi Kategori (Eko Subekti dkk., 2015) Tabel 1. Klasifikasi Kategori (Eko Subekti dkk., 2015)
Batas Nilai
Keterangan
Tinggi
Sedang
Rendah | 202 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Gambar 3. Jawaban S6 soal nomor tiga Peneliti : “Coba jelaskan apa yang kamu kerjakan!” Siswa : “Pertama mencari volume kubus punya ramzi dengan mengalikan 25 x 25 x 25
hasilmya 5.385 lalu mencari valume kubus milik ridho dengan mengalikan 30
x 30 x 30 hasilnya 27.000. kemudian terakhir mengurangkan 27.000 - 5.385
hasilnya 101.625. Peneliti : “Apa kamu sudah yakin apa yang kamu kerjakan dan tidak mau memeriksa
kembali ?” Peneliti : “Apa kamu sudah yakin apa yang kamu kerjakan dan tidak mau memeriksa
kembali ?” Siswa : “ yakin, tidak kak ” Dapat dilihat siswa mengalami kesalahan dalam menghitung pada perkalian 25 x
25 x 25 yang seharusnya 15.625 namun siswa S6 mendapatkan hasil 5.385 dan siswa S6
pun tidak melakukan pengecekan kembali. Mengakibatkan indikator mempraktikkan
matematika sebagai makna tidak dapat memenuhinya Hal ini sejalan dengan penelitian
(Apri Kurniawan dkk., 2019) siswa yang memiliki kategori rendah dapat menentukan
perencanaan dalam permasalahan namun mengalami kesalahan dalam perhitungan
karena siswa tidak melakukan secara teratur. (Yuwono et al., 2018) mengatakan
pentingnya pengecekan kembali pada hasil jawaban, siswa dapat melihat kekurangan dari
rencana yang dipergunakan seperti kurang sesuai atau langkah dari perngerjaaan ada
yang salah. 1. Kemampuan Pemecahan Masalah Siswa Rendah Berdasarkan hasil jawaban soal siswa S6 belum mampu memenuhi semua
indikator kemampuan pemecahan masalah. Dapat dilihat dari jawaban soal nomor satu
bahwa siswa S6 belum mampu memenuhi indikator mengenali bagian-bagian yang
diketahui, ditanyakan, maupun kelengkapan unsur yang diperlukan. Hal tersebut
ditunjukkan dengan jawaban siswa S6 yang belum mampu mengubah soal cerita kedalam
bentuk matematis. Ketika wawancara pun siswa S6 belum dapat menyebutkan bagian –
bagian yang penting. | 203 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209
Sabrina Ovi Saffanah, Redo Martila Ruli
Gambar 1. Jawaban S6 soal nomor satu Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Sabrina Ovi Saffanah, Redo Martila Ruli Gambar 1. Jawaban S6 soal nomor satu Hal ini selaras dengan penelitian (Suspita dan Masjudin, 2019) yang menyatakan
bahwa siswa yang belum memahami konsep dari soal, menyebabkan siswa belum
mampu menuliskan apa yang diketahui dan ditanya pada soal tersebut sebelum
mengerjakan. Lalu siswa belum mampu memenuhi indikator menentukan model
matematika yang akan digunakan dan mengaplikasikan rencana untuk menyelesaikan
masalah. Akhirnya mengakibatkan jawaban siswa S6 salah . Dapat dilihat dari jawaban
siswa pada nomor dua. Gambar 2. Jawaban S6 soal nomor dua Gambar 2. Jawaban S6 soal nomor dua Lalu pada saat wawancara siswa S6 mengatakan bahwa pada soal nomor dua
mengalami kesulitan untuk menentukan model dan mengaplikasikan rencana yang
diperlukan dalam menyelesaikan masalah. Peneliti : “cara apa yang kamu pakai untuk menyelesaikan? Coba jelaskan!” Siswa : “pakai volume balok, dengan mengalikan 95 x 55 x 75 hasilnya 391.875,yang
tahu itu saja kak karena bingung” tahu itu saja kak karena bingung” Hal ini sejalan dengan penelitian (Sari dan Aripin, 2018) yang menyatakan bahwa
siswa mengalami kesulitan dalam memahami soal dan menyelesaikan masalah,
dikarenakan siswa masih bingung dalam mengidenfikasi atau maksud dari soal cerita
tersebut. Kemudian siswa S6 belum mampu memenuhi indikator mendeskripsikan
jawaban yang tepat, mengecek kembali jawaban. Dapat dilihat dari jawaban dan
wawancara siswa S6 | 204 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli
Gambar 3. Jawaban S6 soal nomor tiga Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah Redo Martila Ruli Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 1. Kemampuan Pemecahan Masalah Siswa Rendah 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli 2. Kemampuan Pemecahan Masalah Siswa Sedang Berdasarkan hasil jawaban soal siswa S3 bahwa ada beberapa indikator
kemampuan pemecahan masalah belum dapat memenuhi. Pertama dalam indikator
mengenali bagian-bagian yang diketahui, ditanyakan, maupun kelengkapan unsur yang
diperlukan siswa S3 belum dapat memenuhi. Hal tersebut ditunjukkan dengan jawaban
siswa S3 yang terlihat pada bagian diketahui, siswa S3 belum mampu menuliskan secara
lengkap apa saja yang diketahui dan ditanyakan pada soal kedalam bentuk matematis. Dapat dilihat dari jawaban dan wawancara siswa S3: | 205 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli
Gambar 4. Jawaban S3 soal nomor dua Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Sabrina Ovi Saffanah, Redo Martila Ruli Gambar 4. Jawaban S3 soal nomor dua Peneliti : “Coba sebutkan apa saja yang diketahui dan ditanya nomor dua” Peneliti : “Coba sebutkan apa saja yang diketahui dan ditanya nomor dua” Siswa : “Diketahui panjang balok 95 cm, lebar balok 55 cm, tinggi 75 cm, lalu ada
diketahui yang lupa tulis tinggi balok setelah minyak dituang ke wadah
yaitu 45 cm dan ditanya perubahan volume minyak diwadah tersebut. ” Siswa : “Diketahui panjang balok 95 cm, lebar balok 55 cm, tinggi 75 cm, lalu ada
diketahui yang lupa tulis tinggi balok setelah minyak dituang ke wadah
yaitu 45 cm dan ditanya perubahan volume minyak diwadah tersebut. ” Hal ini sejalan dengan penelitian (Kurniawan dkk., 2019) yang menyatakan
bahwa kekeliruan siswa yang kurang teliti melihat hal – hal penting dalam sebuah
keterangan yang sering dilakukan siswa saat mengerjakan soal cerita, maka berakibat
pada hasil pengerjaan. Lalu siswa S3 belum mampu memenuhi indikator
mendeskripsikan jawaban yang tepat pada permasalahan, mengecek kembali jawaban. Dapat dilihat dari jawaban dan wawancara soal nomor satu dan dua : Gambar 6. Jawaban S3 soal nomor tiga
Gambar 5. Jawaban S3 soal nomor satu Gambar 5. Jawaban S3 soal nomor satu Peneliti : “Coba jelaskan apa yang kamu kerjakan ” Peneliti : “Coba jelaskan apa yang kamu kerjakan ” Siswa : “Menggunakan rumus volume kubus untuk mencari sisi mendapatkan hasil 40,
kemudian menghitung luas permukaan kertas kado 130 x 90 = 11.700 dan
menghitung luas permukaan kubus 6 x 40 x 40 = 9600. Siswa : “ Iya yakin aja , untuk melihat air yang akan tumpah dengan cara
menjumlahkan 15.625 + 27.000 yang hasilnya 42.625” Dapat dilihat dengan hasil pengurangan 11.700 - 9600 = 1.100, yang dimana
seharusnya jawaban yang benar adalah 2.100 kemudian Siswa S3 melakukan
penambahan 15.625 + 27.000 = 42.625 yang seharusnya 15.625 - 27.000. Seperti yang
dikatakan (Yuwono dkk., 2018) bahwa kesalahan dalam melaksanakan perencanaa
pemecahan masalah dikarenakan implementasikan rumus yang kurang teliti dan
penalaran, kurang teliti dari siswa tersebut dan perlunya memikirkan perencanan yang
baik dalam menyelesaikan masalah. Siswa yang tidak benar atau tidak melakukan
pengecekan kembali hasil dari pengerjaan dengan melihat dari permasalahan awal, siswa
hanya memperoleh, menyelesaikan solusi namun tidak tepat atau salah dalam pengerjaan
(August dan Ramlah, 2021). Hasil jawaban siswa S3 yang belum tepat mengakibatkan
indikator mempraktikkan matematika sebagai makna belum dapat memenuhinya Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli 3. Kemampuan Pemecahan Masalah Siswa Tinggi Berdasarkan hasil jawaban soal siswa S1 pada soal nomor satu, dua sudah dapat
memenuhi semua indikator kemampuan pemecahan masalah. Namun pada soal nomor
tiga pada indikator menentukan dan mengaplikasikan rencana untuk menuntaskan
masalah maupun indikator mendeskripsikan jawaban yang tepat sesuai permasalahan
dan mengecek kembali jawaban belum dapat memenuhi. Dapat dilihat dari jawaban dan
wawancara pada soal nomor tiga: Siswa : “Saya ragu terhadap hasil saya. Hal pertama yang saya lakukan pertama mencari
volume kubus punya ramzi dengan mengalikan 25 x 25 x 25 hasilmya 5.885
lalu mencari valume kubus milik ridho dengan mengalikan 30 x 30 x 30
hasilnya 27.000. kemudian terakhir mengurangkan 27.000 - 5.885 hasilnya
21.615”
Gambar 7. Jawaban S1 soal nomor tiga Gambar 7. Jawaban S1 soal nomor tiga Gambar 7. Jawaban S1 soal nomor tiga Gambar 7. Jawaban S1 soal nomor tiga Siswa : “Saya ragu terhadap hasil saya. Hal pertama yang saya lakukan pertama mencari
volume kubus punya ramzi dengan mengalikan 25 x 25 x 25 hasilmya 5.885
lalu mencari valume kubus milik ridho dengan mengalikan 30 x 30 x 30
hasilnya 27.000. kemudian terakhir mengurangkan 27.000 - 5.885 hasilnya
21.615” Peneliti : “Apakah kamu melakukan pengecekan?” 2. Kemampuan Pemecahan Masalah Siswa Sedang Terakhir mengurangi
luas permukaan kertas kado dan kubus 11.700 – 9600 = 1100” Peneliti : “Jadi hasil jawaban nomor satu?” Siswa : “Sisa kertas kado 1.100
” Peneliti : “Apa kamu sudah yakin nomor tiga bahwa 15.625 ditambah 27.000 bukan
dikurang? Apakah sudah dicek lagi belum?” Peneliti : “Apa kamu sudah yakin nomor tiga bahwa 15.625 ditambah 27.000 bukan
dikurang? Apakah sudah dicek lagi belum?” | 206 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli SIMPULAN DAN SARAN Berdasarkan hasil dan pembahasan penelitian kali ini menunjukan bahwa mayoritas
siswa memiliki tingkat kemampuan pemecahan masalah yang rendah. Namun, ada pula siswa
yang sudah berkemampuan pemecahan masalah baik yang sudah dapat mampu memenuhi
semua indikator kemampuan pemecahan masalah. Ada beberapa faktor siswa berkemampuan
pemecahan masalah rendah yang menyebabkan siswa belum dapat memenuhi semua indikator
yaitu: 1) Siswa belum mampu untuk mengenali maupun menuliskan bagian-bagian penting yang
terdapat pada soal seperti diketahui, ditanyakan, dijawab maupun kelengkapan unsur yang
diperlukan, 2) Siswa belum dapat menentukan konsep, strategi pada penyelesaian soal, 3) siswa
masih kurang teliti dalam proses perhitungan, 4) siswa belum terbiasa melakukan pengecekkan
kembali setelah selesai mengerjakan soal dan tidak memberikan kesipulan atas jawaban yang
dikerjakan, 5) Siswa sudah terbiasa mengerjakan soal rutin sehingga ketika diberikan soal yang
bervariasi siswa mengalami kesulitan. Maka dari itu disarankan untuk guru agar terus mengeksplor pembelajaraan matematika
yang menarik sejalan dengan kehidupan sehari – hari dan memberikan pembelajaran yang cocok
dengan karakteristik siswa yang nantinya mampu memberikan pemahaman dan semangat siswa
untuk menyelesaikan soal-soal berbasis kemampuan pemecahan masalah. Terutama bagi siswa
dengan kategori kemampuan pemecahan masalah yang rendah. Kemudian meningkatkan bahan
ajar, media pembelajaraan maupun soal – soal berbasis kemampuan pemecahan masalah yang
harus dikembangkan, ditingkatkan lagi disetiap materi matematika agar kemampuan pemecahan
masalah siswa mengalami peningkatan terus – menerus serta guru terus mengembangkan kualitas
mengajar dan mengevaluasinya agar pembelajaraan yang diberikan kepada siswa akan mudah
dipahami dan dimengerti. Melihat masih banyak kekurangan terhadap penelitian ini, disarankan kepada peneliti
selanjutnya untuk untuk mengembangkan lebih banyak lagi tentang kemampuan pemecahan
masalah siswa pada materi atau topik matematika lainnya serta menggunakan metode maupun
model pembelajaraan yang dapat melibatkan siswa secara teknologi ataupun kehidupan sehari-
hari agar dapat meningkatkan pemahaman siswa terhadap materi, soal yang diberikan yang
akhinya memudahkan dan meningkatkan kemampuan pemecahan masalah matematis siswa. Siswa : “ Tidak kak” Dapat terlihat dari hasil jawaban bahwa siswa S1 mengalami kesalahan dalam
perhitungan volume kubus ramzi 25 x 25 x 25 menghasilkan 5.885 yang mengakibatkan
pengurangan volume kubus ramzi dan ridho yang seharusnya 11.375 menjadi 21.615. Hasil jawaban siswa S1 yang belum tepat mengakibatkan indikator mempraktikkan
matematika sebagai makna belum dapat memenuhinya. | 207 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 DAFTAR PUSTAKA Amalia, Surya, Syahputra. (2017). The Effectiveness Of Using Problem Based Learning (Pbl)
In Mathematics Problem Solving Ability For Junior High School Students. Ijariie, 3(2),
3402–3406. Diambil dari www.ijariie.com Amalia, Surya, Syahputra. (2017). The Effectiveness Of Using Problem Based Learning (Pbl)
In Mathematics Problem Solving Ability For Junior High School Students. Ijariie, 3(2),
3402–3406. Diambil dari www.ijariie.com
August dan Ramlah. (2021). Analisis Kemampuan Pemecahan Masalah Matematis Siswa
Berdasarkan
Prosedur
Polya. JIPMat,
6(1),
43–59. https://doi.org/10.26877/jipmat.v6i1.8080 August dan Ramlah. (2021). Analisis Kemampuan Pemecahan Masalah Matematis Siswa
Berdasarkan
Prosedur
Polya. JIPMat,
6(1),
43–59. https://doi.org/10.26877/jipmat.v6i1.8080 Eko Subekti, Untarti, Muhammad. (2015). Deskripsi Kemampuan Komunikasi Matematis
Mahasiswa pada Mata Kuliah Statistik Pendidikan. Euclid, 2(2), 263–274. https://doi.org/10.33603/e.v2i2.362 Hidayat dan Sariningsih. (2018). Kemampuan Pemecahn Masalah Matematis dan Adversity
Quotient Siswa SMP Melalui Pembelajaraan Open Ended Wahyu. JNPM (Jurnal | 208 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417 p
j
p-ISSN: 2622-7525, e-ISSN: 2654-9417 Jurnal Didactical Mathematics, Vol. 4 No. 1 April 2022 hal. 200-209,
Sabrina Ovi Saffanah, Redo Martila Ruli Nasional
Pendidikan
https://doi.org/https://dx.doi.org/10.33603/jnpm.v2i1.1027 Nasional
Pendidikan
Matematika). https://doi.org/https://dx.doi.org/10.33603/jnpm.v2i1.1027 Matematika). Jatisunda dan Nahdi. (2019). Kesulitan Siswa Dalam Memahami Learning Obstacles. Didactical Mathematics, 2(1), 9–16. http://dx.doi.org/10.31949/dmj.v2i1.1664 Kurniati dan Annizar. (2017). The Analysis of Students’ Kognitive Problem Solving Skill in
Solving PISA Standard-Based Test Item. Advanced Science Letters, 23(2), 776–780. https://doi.org/10.1166/asl.2017.7466 Kurniawan, Setiawan, Hidayat. (2019). Analisis Kemampuan Pemecahan Masalah Matematis
Siswa SMP Berbantuan Soal Ontekstual Pada Materi Bangun Ruang Sisi Datar. NUMERICAL: Jurnal Matematika Dan Pendidikan Matematika, 2(5), 63–76. https://doi.org/http://dx.doi.org/10.22460/jpmi.v2i5.p271-282 Moleong. (2017). Metodologi Penelitian Kualitatif. PT Remaja Rosdakarya:Bandung. Nuraini, Maimunah, Roza. (2019). Analisis Kemampuan Pemecahan Masalah Siswa Kelas
VIII SMPN 1 Rambah Samo Pada Materi Bangun Ruang Sisi Datar. Numerical: Jurnal
Matematika
Dan
Pendidikan
Matematika,
3(1),
63–76. https://doi.org/https://doi.org/10.25217/numerical.v3i1.477 Nurhasanah, Kania, Sunendar. (2018). Penggunaan Model Pembelajaran Discovery Learning
untuk Meningkatkan Kemampuan Pemecahan Masalah pada Siswa SMP. Didactical
Mathematics, 1(1), 21–33. https://doi.org/10.31949/dmj.v1i1.1113 Puadi. (2017). Analisis Peningkatan Kemampuan Koneksi Matematis Mahasiswa Ptik Melalui
Pembelajaran Berbasis Masalah. JUMLAHKU: Jurnal Matematika Ilmiah STKIP, 2(1). Diambil dari http://jurnal.upmk.ac.id/index.php/jumlahku/article/view/139 Rahim dan Roesdiana. (2021). Analisis Kemampuan Pemecahan Masalah Siswa Dalam
Menyelesaikan Soal Cerita Pecahan Pada Kelas VIII SMP Budi Mulia Telukjambe. Maju:Jurnal
Ilmiah
Pendidikan
Matematika,
12(2),
101–109. https://www.ejournal.stkipbbm.ac.id/index.php/mtk/article/view/623 Sari dan Aripin. (2018). Analisis Kesalahan Siswa Dalam Menyelesaikan Soal Cerita Bangun
Datar Segiempat Ditinjau Dari Kemampuan Pemecahan Masalah Matematik Untuk
Siswa Kelas VII. JPMI (Jurnal Pembelajaran Matematika Inovatif), 1(6), 1135. https://doi.org/10.22460/jpmi.v1i6.p1135-1142 Sumarmo. (2017). Hards Skills dan Soft Skill Matematik Siswa. Refika Aditama:Bandung. Suspita dan Masjudin. (2019). Analisis Kesulitan Siswa Dalam Menyelesaikan Soal Operasi
Bentuk Aljabar Kelas VIII Mts. Media Pendidikan Matematika, 7(2), 25. https://doi.org/10.33394/mpm.v7i2.2192 Wahyudi dan Anugraheni. (2017). Strategi Pemecahan Masalah Matematika. In Satya
Wacana
University
Press
(Issue
August). Diambil
dari
https://herryps.files.wordpress.com/2010/09/strategi-pemecahan-masalah-
matematika.pdf Yuwono, Supanggih, Ferdiani. (2018). Analisis Kemampuan Pemecahan Masalah
Matematika Dalam Menyelesaikan Soal Cerita Berdasarkan Prosedur Polya. Jurnal
Tadris Matematika, 1(2), 137–144. https://doi.org/10.21274/jtm.2018.1.2.137-144 | 209 Copyright © 2022 Jurnal Didactical Mathematics, https://ejournal.unma.ac.id/index.php/dm
p-ISSN: 2622-7525, e-ISSN: 2654-9417
|
https://openalex.org/W3163452481
|
http://fulir.irb.hr/6791/1/Denamiel-etal-FrontMarSci-2021.pdf
|
English
| null |
Conceptual Design of Extreme Sea-Level Early Warning Systems Based on Uncertainty Quantification and Engineering Optimization Methods
|
Frontiers in marine science
| 2,021
|
cc-by
| 7,136
|
PERSPECTIVE
published: 20 May 2021
doi: 10.3389/fmars.2021.650279 Edited by:
Roshanka Ranasinghe,
IHE Delft Institute for Water
Education, Netherlands Reviewed by:
Alejandro Orfila,
Consejo Superior de Investigaciones
Científicas (CSIC), Spain
Marta Marcos,
University of the Balearic Islands,
Spain *Correspondence:
Ivica Vilibi ´c
vilibic@izor.hr *Correspondence:
Ivica Vilibi ´c
vilibic@izor.hr Specialty section:
This article was submitted to
Coastal Ocean Processes,
a section of the journal
Frontiers in Marine Science Keywords: coastal hazard assessment, surrogate model, Bayesian inference, optimal experimental design, early
warning system Received: 06 January 2021
Accepted: 23 April 2021
Published: 20 May 2021 Keywords: coastal hazard assessment, surrogate model, Bayesian inference, optimal experimental design, early
warning system Conceptual Design of Extreme
Sea-Level Early Warning Systems
Based on Uncertainty Quantification
and Engineering Optimization
Methods Cléa Denamiel1, Xun Huan2 and Ivica Vilibi ´c3*
1 Ru ¯der Boškovi ´c Institute, Division for Marine and Environmental Research, Zagreb, Croatia, 2 Mechanical Engineering,
University of Michigan, Ann Arbor, MI, United States, 3 Institute of Oceanography and Fisheries, Split, Croatia Cléa Denamiel1, Xun Huan2 and Ivica Vilibi ´c3* 1 Ru ¯der Boškovi ´c Institute, Division for Marine and Environmental Research, Zagreb, Croatia, 2 Mechanical Engineering,
University of Michigan, Ann Arbor, MI, United States, 3 Institute of Oceanography and Fisheries, Split, Croatia Coastal hazards linked to extreme sea-level events are projected to have a direct impact
(by flooding) on 630 million of people by year 2100. Numerous operational forecasts
already provide coastal hazard assessments around the world. However, they are largely
based on either deterministic tools (e.g., numerical ocean and atmospheric models) or
ensemble approaches which are both highly demanding in terms of high-performance
computing (HPC) resources. Through a robust learning process, we propose conceptual
design of an innovative architecture for extreme sea-level early warning systems based
on uncertainty quantification/reduction and optimization methods. This approach might
be cost-effective in terms of real-time computational needs while maintaining reliability
and trustworthiness of the hazard assessments. The proposed architecture relies on
three main tools aligning numerical forecasts with observations: (1) surrogate models of
extreme sea-levels using polynomial chaos expansion, Gaussian processes or machine
learning, (2) fast data assimilation via Bayesian inference, and (3) optimal experimental
design of the observational network. A surrogate model developed for meteotsunami
events – i.e., atmospherically induced long ocean waves in a tsunami frequency
band – has already been proven to greatly improve the reliability of extreme sea-
level hazard assessments. Such an approach might be promising for several coastal
hazards known to destructively impact the world coasts, like hurricanes or typhoons
and seismic tsunamis. Citation: For example, at the NOAA National Hurricane
Centre1 this approach forms the basis for developing evacuation
zones in the United States (Taylor and Glahn, 2008). However,
running statistical and/or ensemble/composite approaches can
be prohibitive as they require extensive numerical resources
and long simulation times (i.e., hundreds or thousands of
simulations per forecast or assessment). Therefore, the ocean
model resolutions and domain sizes, and thus the simulation
accuracy, are generally greatly sacrificed to keep these costs low. Additionally, the wave-current dynamics, which can drive up
to 20% of the extreme sea-levels for certain events (e.g., Murty
et al., 2020), is also often ignored. As suggested in Veeramony
et al. (2012), a good balance between ocean model fidelity (via
high resolution meshes and detailed physics) and atmospheric
uncertainty (via probabilistic approaches) has yet to be properly
achieved in real-time forecasts. Th
f
th
h
ld b
l
d t
i and extremely vulnerable to catastrophic events such as
hurricanes, tropical storms, tsunamis, as well as flooding
associated with smaller, sometimes less intensive events (e.g.,
meteotsunamis, wave storms, and medicanes). With the ultimate
aim to ensure public safety and to manage resources along the
coastal zones, early warning systems for extreme sea-level events,
based on both computer models and monitoring networks, have
been developed worldwide. Early warning systems have been broadly defined by
The
United
Nation
International
Strategy
for
Disaster
Reduction (UNISDR, 2009) as “the provision of timely and
effective information, through identified institutions, that allows
individuals exposed to a hazard to take action to avoid or reduce
their risk and prepare for effective response.” In many countries
and regions of the world, these systems have been implemented
for extremely destructive sea-level hazards, such as tsunamis
and hurricanes or typhoons (Franklin et al., 2003; Basher, 2006;
Chatfield et al., 2013; Hettiarachchi, 2018). However, other
localized and less known sea-level coastal hazards can also
produce major structural damages and losses of life. For these
specific types of events, very few early warning systems have
been developed worldwide, of which many were implemented
with very limited human resources and funding (i.e., most
often within academic research projects). Citation: Denamiel C, Huan X and Vilibi ´c I
(2021) Conceptual Design of Extreme
Sea-Level Early Warning Systems
Based on Uncertainty Quantification
and Engineering Optimization
Methods. Front. Mar. Sci. 8:650279. doi: 10.3389/fmars.2021.650279 The size and number of global coastal communities have increased dramatically in the past century. Today more than 40% of the worldwide population is residing within 100 km of the coast, and 10%
in nearshore areas less than 10 m above the sea-level (Nicholls and Cazenave, 2010; Neumann et al.,
2015). Coupled with more frequent and more energetic weather phenomena due to global climate
changes (e.g., Emanuel, 2017; Romera et al., 2017), these coastal communities are under high risks May 2021 | Volume 8 | Article 650279 1 Frontiers in Marine Science | www.frontiersin.org Extreme Sea-Level Early Warning Systems Denamiel et al. forces a relatively lightweight ocean mesh covering the North
Western Pacific Ocean with real-time meteorological forecast
advisories. The main advantage of such an approach is that,
as the storm surge forecast at a given time is based on a
unique simulation, high-resolution domains which accurately
describe the geomorphology of the coastal areas and fully
coupled wave-current models can be used, even though they
require longer simulation times. However, the major drawback
of such a deterministic surge prediction is that it does not offer
any quantified uncertainty or confidence in its computations,
and thus limited in use for risk assessment. The prediction
validity then heavily relies on the quality and availability of
the forecasted meteorological input, which can carry extremely
high uncertainties in terms of track, intensity, speed, etc. Generally, the deterministic approach is thus used in research
to analyze past storms (i.e., with known atmospheric forcing
derived from reanalysis) and not in real-time evacuation
decisions. The second and third types are the statistical
forecast and ensemble/composite approach, which are most
often implemented within early warning systems since they
can propagate the atmospheric forcing uncertainties to the
surge results. In the former, a statistical error derived from
past forecasts is applied to the atmospheric forecast during the
extreme event in order to create probable storms forcing for
the ocean model (e.g., P-surge model from National Oceanic
and Atmospheric Administration, NOAA). In the latter, the
ocean model is run multiple times forced by hypothetical storm
conditions in order to determine the storm surge vulnerability
for a given area. 1www.nhc.noaa.gov Frontiers in Marine Science | www.frontiersin.org Hypothesis 2: Surrogate Models Can
Shift Computational Needs From
“Online” to “Offline” and Achieve Fast
and Accurate Predictions We postulate that fast and reliable stochastic extreme sea-
level hazard assessments, using uncertainty quantification
(UQ,
Najm,
2009;
Yildirim
and
Karniadakis,
2015)
and
optimization
engineering
methods
(Marler
and
Arora,
2004), can be implemented within real-time early warning
systems in place of expensive state-of-the-art physical ocean
model forecasts. This postulate relies on the innovative
concept illustrated in Figure 1. The framework integrates
advanced
stochastic
methods
such
as
surrogate
models
based
on
forward
UQ,
Bayesian
inference
and
optimal
experimental design within an efficient operational extreme
sea-level forecast system built around four main hypotheses
presented below. Theory
High-fidelity
physics-based
models
are
very
computationally
demanding,
with
each
simulation
taking
minutes to hours to run on supercomputers depending on the
geographic domain size, grid resolution (which define the level
of accuracy of the coastal geomorphology representation) and
the model physics (e.g., if including wave-current dynamics). Direct attempts to accelerate these computations generally
involve coarsening the grid, simplifying the physics, and/or
reducing the number of models if in an ensemble setting – none
of which is desirable for coastal early warning systems where
accuracy and reliability are critical. We hypothesize that real-time
ensemble ocean forecasts can be replaced by surrogate models
(e.g., Polynomial Chaos Expansion, PCE, Le Maître and Knio,
2010; Gaussian Process, GP, Rasmussen and Williams, 2006;
Deep Neural Network, DNN, Goodfellow et al., 2006) and can
achieve fast and accurate UQ analysis, thus providing rigorous
accounting of the forcing uncertainty to the extreme sea-levels
(Figure 2, steps 7 & 8). Surrogate models can be developed and
updated offline ahead of any emergency situation and run online
when the severe events are (about to) taking place at very high
speeds and with nearly no computational cost. Citation: this application, the surrogate model, covering all potential
meteotsunamis in the middle Adriatic Sea, demonstrated
that it achieves execution speeds 1000 times faster than the
deterministic ocean model in operational use, whilst largely
increasing the accuracy of the overall extreme sea-level hazard
assessments (i.e., by thoroughly quantifying the uncertainty in the
atmospheric forcing and propagating it to the ocean forecast). (i.e., stochastic variables) with prescribed prior distributions
(e.g., wind speed and air pressure for hurricanes, pre-failure slope
angle for seismic tsunamis, etc., Figure 2 steps 1 & 2). The
prescribed prior distributions (e.g., Uniform, Gaussian, Gamma)
should cover all potential realizations of the studied hazard in a
specific geographical location based on the previously acquired
knowledge from historical events. Practical Implementation and Cost
At NOAA, this approach
is considered the best to assess the vulnerability of the coastline
to storm surges during hurricanes (i.e., to capture the worst-case
high-water value at a particular location for hurricane evacuation
planning), as it accounts for uncertainties linked to forward
speed, storm trajectory, landfall location, and maximum wind
speed, etc. In terms of cost, to predict the worst-case surges along
the Gulf of Mexico and the US East Coasts, several thousand
of simulations were run with hypothetical hurricanes under
different storm conditions2. The objective of this perspective paper is thus to provide
a new concept on a generalized framework for designing
reliable early warning systems for extreme sea-levels. This
new framework aims to provide computationally inexpensive
forecasts
compared
with
present
systems,
while
keeping
reliability and trustworthiness of the hazard assessments, thus
seeking to break the barrier caused by computational resource
limitations to provide near real-time forecast. Citation: This is the case,
for example, of the prototypes for meteorological tsunamis –
long ocean waves in a tsunami frequency band generated by
atmospheric gravity waves, pressure jumps, frontal passages, and
squalls, etc (e.g., Pattiaratchi and Wijeratne, 2015; Rabinovich,
2020) – in the Adriatic and Balearic Islands (Renault et al., 2011;
Vilibi´c et al., 2016). Although constantly developed to reliably and timely provide
forecast of extreme events (Swail et al., 2019), extreme sea-
level early warning systems may still fail to produce accurate
predictions, in particular concerning the intensity of the
hazard. For hurricanes, no substantial improvement in intensity
forecasting has been achieved since the 1990s (DeMaria
et al., 2014; Emanuel, 2017), largely due to limitations in
development (of both physics and resolution) of ocean and
atmospheric models (Rotunno et al., 2009; Andreas et al.,
2015). For tsunamis, a failure in coastal hazard forecast
may be triggered by improper parameterization of the source
(initial conditions for tsunami models) which may lead to
substantial overestimation or underestimation of the hazard
(Titov et al., 2016). For meteotsunamis, improper reproduction
of the atmospheric forcing and poorly represented coastal
bathymetry often result in the underestimation of the coastal
hazard (Vilibi´c et al., 2016). Therefore, other avenues should be explored to improve
coastal sea-level hazard forecast within early warning systems. One recently demonstrated successful approach relies on a
surrogate stochastic model created within the early warning
system prototype for meteotsunamis in the Adriatic Sea
(Denamiel et al., 2019a, 2020). Meteotsunamis are an interesting
example as specialized atmospheric forecasts (i.e., AdriSC
deterministic model, Denamiel et al., 2019b) and observational
networks (i.e., barograph measurements) are required to capture
the highly variable (in time and space) air-pressure disturbances
driving the tsunami-like waves Vilibi´c and Šepi´c (2009). Within Additionally, as lead-time and robustness/stability are the
main controlling factors of real-time sea-level forecasting, fidelity
of scale, resolution, and geographic domain are often sacrificed
so that extreme events can be simulated at higher speeds (i.e.,
fast enough to implement a response) and higher frequency (e.g.,
recalculated every time new information becomes available). This is well illustrated for atmospherically driven extreme sea-
levels, for which three main types of storm surge predictions
can be implemented. The first type is a deterministic forecast
based on single simulation such as in Suh et al. (2015), which May 2021 | Volume 8 | Article 650279 2 Extreme Sea-Level Early Warning Systems Denamiel et al. 2https://www.nhc.noaa.gov/surge/momDescrip.php Frontiers in Marine Science | www.frontiersin.org Hypothesis 1: Uncertainty of Extreme
Sea-Level Forecasts Can Be Captured
With Stochastic Forcing FIGURE 1 | Extreme sea-level hazard assessments based on uncertainty quantification and optimization engineering methods: (1) uncertain input parameters with
prior distribution are used to create stochastic ocean model forcing which are both (2) and (3) used to optimized the observational network with optimal experimental
design strategies and (4) modified with the assimilation of observational data via Bayesian inference in order to (5) create the posterior distributions of the input
parameters. Finally, (6) new stochastic ocean forcing based on these parameters are used to force (7) the surrogate models and produce (8) extreme sea-level
hazard assessments. Drawing of the flooded city adapted from Frits Ahlefeldt: https://fritsahlefeldt.com/2019/01/24/not-ready-city-facing-flooding. method (Denamiel et al., 2020). Till now, the meteotsunami
surrogate model has been proven to be extremely reliable in
terms of providing extreme sea-level assessments during real
events (Denamiel et al., 2019b; Tojˇci´c et al., 2021) at nearly zero
additional computational cost (i.e., less than 5 min to produce
maximum sea-level distributions at all sensitive locations from
20 000 samples). atmospheric forecasts into the model. However, classical filtering-
based data assimilation methods (Eversen, 1994) (e.g., Kalman
filters, ensemble Kalman filters, and particle filters) cannot be
used for our problem for two main reasons. First, whereas
classical data assimilation typically targets the direct forecast
of state variables (e.g., atmospheric pressure for meteotsunami
events) over time, we are interested in reducing uncertainty of
indirectly observed “hidden” model parameters (i.e., stochastic
variables of the synthetic forcing). Second, our approach
forgoes the physics-based dynamical systems in favor of
surrogate models, which offers advantages in mapping directly
to the prediction quantities of interest. In order to reduce
the uncertainty associated with the forcing, we propose to
use Bayesian inference (e.g., Berger, 1985; Sivia and Skilling,
2006; Von Toussaint, 2011) which involves updating a prior
uncertainty of model parameters (e.g., wind speed, air pressure
or pre-failure slope angle) estimated before receiving the data, to Hypothesis 1: Uncertainty of Extreme
Sea-Level Forecasts Can Be Captured
With Stochastic Forcing Theory
The core component of the postulated early warning
system is the ocean model, which requires an atmospheric or
other source input derived either directly from measurements
or indirectly from observation-driven models. The uncertainty
associated with this input propagates to the extreme sea-level
forecasts, and therefore needs to be properly captured in order
to produce reliable hazard assessments. In the extreme sea-
level community, idealized stochastic forcing are already used
to provide hazard assessments with, for example, Monte Carlo
(MC) sampling (ensemble/composite approach, Gallagher et al.,
2009; Stanford et al., 2011) or perturbation methods (statistical
forecast, Cubasch et al., 1994), but not yet fully implemented
in near real-time and forecast modes. We hypothesize that
extreme sea-level forecasts can be produced with UQ to reflect
the uncertainty of the atmospheric or other forcing. We thus
propose to produce a large ensemble of ocean simulations forced
by idealized stochastic forcing (hereafter referred as synthetic
forcing) which are a simplified representation of the atmospheric
or other source input depending on uncertain parameters Practical Implementation and Cost
Within the coastal
hazard community, PCEs have already been used for the
propagation of uncertainty in an earthquake ocean floor
displacement model to tsunami wave parameters (Giraldi et al.,
2017) and the reproduction of Hurricane Gustav, (2008) by
probing its track and intensity (Sochala et al., 2020). In terms
of cost, to implement the meteotsunami surrogate model in the
Adriatic Sea – using 6 uniformly distributed stochastic variables
to describe the synthetic atmospheric forcing – 4161 ocean
simulations derived with a mesh of 513 340 triangular elements
were needed to reach the 5th order of the polynomial chaos May 2021 | Volume 8 | Article 650279 Frontiers in Marine Science | www.frontiersin.org 3 Denamiel et al. Extreme Sea-Level Early Warning Systems FIGURE 1 | Extreme sea-level hazard assessments based on uncertainty quantification and optimization engineering methods: (1) uncertain input parameters with
prior distribution are used to create stochastic ocean model forcing which are both (2) and (3) used to optimized the observational network with optimal experimental
design strategies and (4) modified with the assimilation of observational data via Bayesian inference in order to (5) create the posterior distributions of the input
parameters. Finally, (6) new stochastic ocean forcing based on these parameters are used to force (7) the surrogate models and produce (8) extreme sea-level
hazard assessments. Drawing of the flooded city adapted from Frits Ahlefeldt: https://fritsahlefeldt.com/2019/01/24/not-ready-city-facing-flooding. PRACTICAL FEASIBILITY FOR A
HURRICANE EARLY WARNING SYSTEM (Hypothesis 2) would be needed to render the computation
tractable. Once a surrogate is available, the forward model
expense is greatly mitigated, and the computational cost then
primarily resides with the performance of MCMC. Advanced
MCMC variants are widely available in implemented packages,
such as for the delayed rejection adaptive Metropolis (Haario
et al., 2006) and Hamiltonian Monte Carlo (Duane et al., 1987;
Neal, 2011). The practical feasibility of the postulated conceptual design is
illustrated Figure 2 for a hurricane early warning system in the
Gulf of Mexico and the US East Coast. In this application, the first task is to develop the extreme
sea-level surrogate models for hurricanes (as described in
Hypothesis 2) with idealized stochastic forcing (as described
in Hypothesis 1). The main advantage of this application is
that both analytical synthetic forcing (e.g., Holland, 1980;
DeMaria and Kaplan, 1994; Knaffet al., 2007; Wood et al.,
2013) and high-resolution wave-current ocean model (i.e.,
ADCIRC + SWAN; Dietrich et al., 2011) were already developed
and used to study hurricanes in the Gulf of Mexico and
the US East coast and are publicly available (bottom green
ellipse, Figure 2). This means that the principal work prior
to building the surrogate model is reduced to define the
most accurate possible distributions of the stochastic input
parameters used, for example, in the Holland synthetic forcing
(i.e.,
track,
central
and
environmental
surface
pressures,
maximum winds, radius of maximum winds, etc.). In this
case, again, our work is simplified thanks to the publicly
available revised Atlantic hurricane database (HURDAT23)
compiled by the NHC and containing the best track information
of all historical tropical and sub-tropical cyclones of the
Atlantic basin. Additionally, the future of tropical cyclones
in a warmer environment can also be derived from Emanuel
(2006, 2013). The construction of hurricane surrogate models
along the coast of the Gulf of Mexico and the US East
Coast is thus feasible and benefits from the past experience
of
many
researchers
and
institutions. Practically,
if
the
Holland (1980) model is used with the hurricane aspect
ratio defined by Levinson et al. (2010), the number of stochastic
variables is reduced to 7: landfall location, track direction,
translational speed, central pressure, radius of maximum winds,
maximum wind speed and density of the air. PRACTICAL FEASIBILITY FOR A
HURRICANE EARLY WARNING SYSTEM The Florida
Commission on Hurricane Loss Projection Methodology4
published
the
distributions
derived
from
HURDAT2
for
these parameters and found that translational speed, central
pressure and radius of maximum wind can be described
with
well-known
Lognormal
distributions,
while
landfall
locations, track direction, maximum wind speed and density
of the air are best described with a maximum likelihood
estimation kernel smoothing. As some of the stochastic
parameters do not follow a well-known distribution that
can be easily described with polynomials (e.g., Legendre,
Hermite, Jacobi, Laguerre and other), the most efficient
design for the surrogate model would probably require to
use Deep Neural Network (DNN). However, gPCE could also
be implemented with, for example, Uniform distributions
for the landfall location, the track direction, the density Hypothesis 3: Observational Data and/or
Operational Atmospheric Forecasts Can
Be Assimilated to Reduce Uncertainty
via Bayesian Inference at High Speeds
and Statistical Accuracy Theory
The uncertainty of extreme event forecasts in the
postulated early warning system can be reduced through
the assimilation of observational data and/or operational May 2021 | Volume 8 | Article 650279 Frontiers in Marine Science | www.frontiersin.org 4 Denamiel et al. Extreme Sea-Level Early Warning Systems FIGURE 2 | Proposed conceptual design for early warning systems illustrated for hurricanes in the Gulf of Mexico and the US East Coast. The three blue wheels
represent the uncertainty quantification and optimization tools including the surrogate models, the fast data assimilation and the optimal experimental design. The
green ellipses show the input needed to build (bottom right, the synthetic forcing and the ocean model) and run (top, real-time observations and operational
atmospheric forecast) the early warning system. FIGURE 2 | Proposed conceptual design for early warning systems illustrated for hurricanes in the Gulf of Mexico and the US East Coast. The three blue wheels
represent the uncertainty quantification and optimization tools including the surrogate models, the fast data assimilation and the optimal experimental design. The
green ellipses show the input needed to build (bottom right, the synthetic forcing and the ocean model) and run (top, real-time observations and operational
atmospheric forecast) the early warning system. the posterior uncertainty after assimilating the new observations
and/or operational atmospheric forecasts (Figure 2, steps 4 & 5). inference algorithms is the Markov chain Monte Carlo (MCMC;
Andrieu et al., 2003; Robert and Casella, 2004; Brooks et al.,
2011). In practice, MCMC often requires thousands or more
model evaluations to obtain good chain mixture and convergence
to the posterior distribution. Coupling a physics-based model
with MCMC is often prohibitive, and a fast surrogate model Practical Implementation and Cost
Bayesian inference
provides a probabilistic solution to solving an inverse problem,
which generally requires repeated forward model simulations
under different parameter settings. The primary class of Bayesian May 2021 | Volume 8 | Article 650279 Frontiers in Marine Science | www.frontiersin.org 5 Denamiel et al. Extreme Sea-Level Early Warning Systems 3https://www.nhc.noaa.gov/data
4https://www.sbafla.com/method/Portals/Methodology/ModelSubmissions/2017/
FCHLPM_CoreLogic2017_12March2019.pdf?ver=2019-06-18-181833-547 Frontiers in Marine Science | www.frontiersin.org Hypothesis 4: Optimal Experimental
Design (OED) Can Find the Most
Informative Data in Observational
Networks That Best Reduce the
Forecast Uncertainty Theory
While Hypothesis 3 describes the use of observational
data to reduce uncertainty which in turn improves the forecast
reliability of early warning systems, the cost of acquiring
such data is extremely high, often requiring the installation
or deployment of aerial, nautical, and land-based sensors and
probes. Moreover, not all data are equally useful. Therefore, a
careful design of these valuable data-acquisition opportunities
can provide substantial savings of operational costs. We propose
to develop and utilize model-based statistical OED methods
(Chaloner and Verdinelli, 1995; Müller et al., 2007; Huan
and Marzouk, 2013) that can also leverage our knowledge
of the physical system and model predictive capabilities,
in order to answer questions such as: where should the
sensors be placed? how frequently should the observations
be taken? what quantities should be measured? We further
propose to conduct sensitivity studies with synthetic forcing
on both (i) present observational networks and (ii) optimized
observational networks (varying observational networks in the
space, changing temporal resolution, choosing parameters to
be measured), to also understand the robustness of these
networks that are aimed to minimize uncertainty as described
in Hypothesis 3. yp
Practical Implementation and Cost
Conceptually, OED
involves simulating different possible experimental outcomes
and their corresponding Bayesian inference results at a design,
and then optimizing for the best design that maximized
uncertainty reduction (information gain). As a result, the cost
of OED is equivalent to many repeated Bayesian inference
solutions. For example, an approach described in Huan and
Marzouk (2013) involves a double-nested Monte Carlo estimator
of the expected utility (objective function) wrapped within
an iterative optimization routine. Thus, the total number of
forward model evaluations in OED can easily reach millions,
and cannot be achieved without a surrogate model except
for very simple (e.g., algebraic or analytical) physical models. The computational cost is further compounded if we are
interested in assessing the uncertainty reduction to specific
quantities of interest (e.g., the maximum wave height at a
harbor) induced by the parameter posterior, requiring additional
model evaluations. Further algorithmic advances in addition
to surrogate modeling are thus required to quell the intensive
computational needs for OED. May 2021 | Volume 8 | Article 650279 Frontiers in Marine Science | www.frontiersin.org Frontiers in Marine Science | www.frontiersin.org 6 Extreme Sea-Level Early Warning Systems Denamiel et al. societal benefit. AUTHOR CONTRIBUTIONS CD and IV wrote the initial version of the manuscript. CD
and
XH
developed
the
conceptual
design
for
extreme sea-level hazard assessments within early warning
systems. CD
prepared
the
figures. All
authors
revised
the
manuscript
and
developed
the
idea
and
concept
of the manuscript. DATA AVAILABILITY STATEMENT The original contributions presented in the study are included
in the article/supplementary material, further inquiries can be
directed to the corresponding author. Hypothesis 4: Optimal Experimental
Design (OED) Can Find the Most
Informative Data in Observational
Networks That Best Reduce the
Forecast Uncertainty However, many of these systems are constrained
by the development of numerical tools providing accurate and
timely forecast and consequently are largely restricted by the
available computational resources. For that reason, we postulated
a new and innovative conceptual design that might be a leapfrog
in development of more accurate and more efficient extreme
sea-level hazard assessments in early warning systems. The
potential impact of the proposed conceptual design for extreme
sea-level early warning systems is far-reaching: (1) it provides
a low-cost approach to early warning systems that would be
highly valuable for local communities that may have inadequate
computational resources for running high-fidelity forecasts in
real-time, (2) in hindcast (research) mode, it might improve
the coastal hazard estimates, thus providing a valuable input
for improving coastal planning and mitigation plans, and (3)
it can improve the reliability of warning systems, thus having
capacity to adequately quantify the incoming coastal disaster and
to make appropriate decisions. The real advantages as well as the
unforeseen shortcoming of the presented conceptual design can
only be achieved via the development of the surrogate model,
Bayesian inference and optimal experiment design methods
within different early warning systems around the world. To
encourage potential system developers, we have discussed in
details the practical feasibility of this approach within the Gulf
of Mexico and the US East Coast hurricane warning system. More broadly, the postulated conceptual design, if proven
effective, can also be adapted for destructive geohazards (e.g.,
Navarro et al., 2018; Chandra et al., 2020) other than extreme
sea-levels. of the air and the maximum wind speed while Lognormal
distributions
would
be
kept
for
the
other
parameters. Comparison of the efficiency of the two surrogate models could
be done following Laloy and Jacques (2019). Finally, in terms of
cost, identically to the assessment of the coastline vulnerability
to storm surges during hurricanes done by the NOAA, it is
expected that the implementation of both surrogate models
would require a unique set of a few thousand ocean simulations. However, once the surrogate models built, the extreme sea-level
hazard assessments would only take a few minutes to be derived
(similarly to the meteotsunami example). The second task of the implementation of the hurricane early
warning system, based on the proposed conceptual design, is to
optimize the observational network using experimental design
(as described in Hypothesis 4). Hypothesis 4: Optimal Experimental
Design (OED) Can Find the Most
Informative Data in Observational
Networks That Best Reduce the
Forecast Uncertainty Both historical and synthetic
forcing can be used to design and test different theoretical
observational networks in order to minimize the uncertainty of
the extreme sea-level forecast. Based on the outcome, the winning
network(s) may be proposed to environmental agencies running
the real networks (NOAA in this case) for implementation within
the monitoring system. g y
Finally, available real-time observations chosen from the
optimal observational network designed in the previous task
and the available operational atmospheric forecasts would be
collected in forecast and/or near real-time modes (top green
ellipses, Figure 2). Identically to the first task, this work is greatly
simplified by the existence of the NOAA National Hurricane
Centre which already produces both atmospheric analyses and
forecast of tropical cyclones based on a dense observational
network (e.g., automated surface observing systems, radiosondes,
airport weather observing systems, satellites, meteorological
buoys, marine observations, and radars, etc.). Then, the best
available forecast and real-time data would be used to run the
fast data assimilation via Bayesian inference (as described in
Hypothesis 3). To test the methodology, the surrogate models
and Bayesian inference will first be used for historical storms
in order to derive the capacity of the newly developed early
warning system to produce accurate extreme sea-level hazard
assessments based on saved historical atmospheric forecasts as
well as real observational networks and their data. If the new
system provides satisfactory results, it then could be used in
parallel and compared to the more traditional approaches in
forecast and near real-time modes. DISCUSSION AND PERSPECTIVES While surrogate models, Bayesian inference and optimal
experimental design are mathematical tools widely used in
statistics and computational engineering, they remain mostly
unknown and marginally explored within the extreme sea-level
and geosciences communities. In this article we describe how
they can be applied to early warning systems for extreme sea-
levels driven by hurricanes, tsunamis, meteotsunamis, and other. These hazards are known to have substantial impacts on coastal
regions around the world, and thus any improvement of early
warning system reliability and performance might be of a great Frontiers in Marine Science | www.frontiersin.org REFERENCES Franklin, J. L., McAdie, C. J., and Lawrence, M. B. (2003). Hurricane Gustav
(2008) waves and storm surge: Hindcast, synoptic analysis, and validation in
Southern Louisiana, 1970–2001. Bull. Am. Meteorol. Soc 84, 1197–1204. doi:
10.1175/BAMS-84-9-1197 Andreas, E. L., Mahrt, L., and Vickers, D. (2015). An improved bulk air–sea surface
flux algorithm, including spray-mediated transfer. Quart. J. Roy. Meteor. Soc. 141, 642–654. doi: 10.1002/qj.2424 Gallagher, K., Charvin, K., Nielsen, S., Sambridge, M., and Stephenson, J. (2009). Markov chain Monte Carlo (MCMC) sampling methods to determine optimal
models, model resolution and model choice for Earth Science problems. Mar. Petrol. Geol. 26, 525–535. doi: 10.1016/j.marpetgeo.2009.01.003 Andrieu, C., de Freitas, N., Doucet, A., and Jordan, M. I. (2003). An introduction
to MCMC for machine learning. Machine Learning 50, 5–43. Basher, R. (2006). Global early warning systems for natural hazards: Systematic and Basher, R. (2006). Global early warning systems for natural hazards: Systematic and
people-centred. Phil. Trans. Roy. Soc. A 364, 2167–2182. doi: 10.1098/rsta.2006. 1819 Giraldi, L., Le Maître, O. P., Mandli, K. T., Dawson, C. N., Hoteit, I., and Knio,
O. M. (2017). Bayesian inference of earthquake parameters from buoy data
using a polynomial chaos-based surrogate. Comput. Geosci. 21, 683–699. doi:
10.1007/s10596-017-9646-z people-centred. Phil. Trans. Roy. Soc. A 364, 2167–2182. doi: 10.1098/rsta.2006. 1819 Berger, J. O. (1985). Statistical Decision Theory and Bayesian Analysis. New York,
N.Y: Springer-Verlag New York, doi: 10.1007/978-1-4757-4286-2 Goodfellow, I., Bengio, Y., and Courville, A. (2006). Deep Learning. Cambridge:
MIT Press. Brooks, S., Gelman, A., Jones, G., and Meng, X.-L. (eds) (2011). Handbook of
Markov Chain Monte Carlo. New York, N.Y: Chapman and Hall/CRC, doi:
10.1201/b10905 Haario, H., Laine, M., Mira, A., and Saksman, E. (2006). DRAM: Efficient adaptive Haario, H., Laine, M., Mira, A., and Saksman, E. (2006). DRAM: Efficient adaptive
MCMC. Statistics and Computing 16, 339–354. doi: 10.1007/s11222-006-
9438-0 MCMC. Statistics and Computing 16, 339–354. doi: 10.1007/s11222-006-
9438-0 Chaloner, K., and Verdinelli, I. (1995). Bayesian experimental design: A review. Stat. Science 10, 273–304. doi: 10.1214/ss/1177009939 Chandra, R., Azam, D., Kapoor, A., and Müller, R. D. (2020). Surrogate-assisted
Bayesian inversion for landscape and basin evolution models. Geosci. Model
Dev. 13, 2959–2979. doi: 10.5194/gmd-13-2959-2020 Hettiarachchi, S. (2018). Establishing the Indian Ocean Tsunami Warning and
Mitigation System for human and environmental security. Procedia Eng. 212,
1339–1346. doi: 10.1016/j.proeng.2018.01.173 Chatfield, A. T., Scholl, H. J., and Brajawidagda, U. (2013). REFERENCES Tsunami early warnings
via Twitter in government: Net-savvy citizens’ co-production of time-critical
public information services. Gov. Inf. Q. 30, 377–386. doi: 10.1016/j.giq.2013. 05.021 Holland, G. J. (1980). An analytic model of the wind and pressure profiles
in hurricanes. Mon. Weather Rev 108, 1212–1218. doi: 10.1175/1520-
04931980108<1212:AAMOTW<2.0.CO;2 Huan, X., and Marzouk, Y. M. (2013). Simulation-based optimal Bayesian
experimental design for nonlinear systems. J. Comput. Phys. 232, 288–317. doi: 10.1016/j.jcp.2012.08.013 Cubasch, U., Santer, B. D., Hellbach, A., Hegerl, G., Hock, H., Maierreimer,
R., et al. (1994). Monte-Carlo climate change forecast with a global
coupled ocean-atmosphere model. Clim. Dyn. 10, 1–19. doi: 10.1007/BF002
10333 Knaff, J. A., Sampson, C. R., DeMaria, M., Marchok, T. P., Gross, J. M., and McAdie,
C. J. (2007). Statistical tropical cyclone wind radii prediction using climatology
and persistence. Weather Forecast. 22, 781–791. doi: 10.1175/WAF1026.1 DeMaria, M., and Kaplan, J. (1994). A statistical hurricane intensity prediction
scheme (SHIPS) for the Atlantic basin. Weather Forecast 9, 209–220. doi: 10. 1175/1520-04341994009<0209:ASHIPS<2.0.CO;2 Laloy, E., and Jacques, D. (2019). Emulation of CPU-demanding reactive transport
models: a comparison of Gaussian processes, polynomial chaos expansion, and
deep neural networks. Comput Geosci. 23, 1193–1215. doi: 10.1007/s10596-019-
09875-y DeMaria, M., Sampson, C. R., Knaff, J. A., and Musgrave, K. D. (2014). Is tropical
cyclone intensity guidance improving? Bull. Amer. Meteor. Soc 95, 387–398. doi: 10.1175/BAMS-D-12-00240.1 Le Maître, O. P., and Knio, O. M. (2010). Spectral Methods for Uncertainty
Quantification: with Applications to Computational Fluid Dynamics. Cham:
Springer Nature, doi: 10.1007/978-90-481-3520-2 Denamiel, C., Huan, X., Šepi´c, J., and Vilibi´c, I. (2020). Uncertainty propagation
using polynomial chaos expansions for extreme sea-level hazard assessment:
The case of the eastern Adriatic meteotsunamis. J. Phys. Oceanogr. 50, 1005–
1021. doi: 10.1175/JPO-D-19-0147.1 Levinson, D. H., Vickery, P. J., and Resio, D. T. (2010). A review of the
climatological characteristics of landfalling Gulf hurricanes for wind, wave, and
surge hazard estimation. Ocean Eng. 37, 13–25. doi: 10.1016/j.oceaneng.2009. 07.014 Denamiel, C., Šepi´c, J., Huan, X., Bolzer, C., and Vilibi´c, I. (2019a). Stochastic
surrogate model for meteotsunami early warning system in the eastern Adriatic
Sea. J. Geophys. Res. Oceans 124, 8485–8499. doi: 10.1029/2019JC015574 Marler, R. T., and Arora, J. S. (2004). Survey of multi-objective optimization
methods for engineering. Struct. Multidiscipl. Optim. 26, 369–395. doi: 10.1007/
s00158-003-0368-6 Denamiel, C., Šepi´c, J., Ivankovi´c, D., and Vilibi´c, I. (2019b). The Adriatic Sea and
Coast modelling suite: Evaluation of the meteotsunami forecast component. Ocean Model. 135, 71–93. FUNDING The
presented
research
was
funded
through
Croatian
Science Foundation (project ADIOS, Grant IP-2016-06-1955)
and European Centre for Middle-range Weather Forecast
(ECMWF) special project “Using stochastic surrogate methods
for advancing toward reliable meteotsunami early warning
systems.” The
presented
research
was
funded
through
Croatian
Science Foundation (project ADIOS, Grant IP-2016-06-1955)
and European Centre for Middle-range Weather Forecast
(ECMWF) special project “Using stochastic surrogate methods
for advancing toward reliable meteotsunami early warning
systems.” May 2021 | Volume 8 | Article 650279 Frontiers in Marine Science | www.frontiersin.org 7 Extreme Sea-Level Early Warning Systems Denamiel et al. ACKNOWLEDGMENTS research was derived from the material being a part of the project
proposal “Cost-effective stochastic forecasting of extreme sea-
level coastal hazards (COSTless),” submitted to the European
Research Council Advanced Research projects call of 2020. We sincerely thank the reviewers for raising comments that
substantially improved the presented material. The presented REFERENCES doi: 10.1016/j.ocemod.2019.02.003 Müller, P., Berry, D. A., Grieve, A. P., Smith, M., and Krams, M. (2007). Simulation-
based sequential Bayesian design. J. Stat. Plan. Infer. 137, 3140–3150. doi: 10. 1016/j.jspi.2006.05.021 Dietrich, J. C., Westerink, J. J., Kennedy, A. B., Smith, J. M., Jensen, R. E., Zijlema,
M., et al. (2011). Hurricane Gustav (2008) waves and storm surge: Hindcast,
synoptic analysis, and validation in Southern Louisiana. Mon. Weather Rev. 139,
2488–2522. doi: 10.1175/2011MWR3611.1 Murty, P. L. N., Rao, A. D., Srinivas, K. S., Pattabhi Rama Rao, E., and Bhaskaran,
P. K. (2020). Effect of wave radiation stress in storm surge-induced inundation:
A case study for the East Coast of India. Pure Appl. Geophys. 177, 2993–3012. doi: 10.1007/s00024-019-02379-x Duane, S., Kennedy, A. D., Pendleton, B. J., and Roweth, D. (1987). Hybrid Monte
Carlo. Physics Letters B 195, 216–222. doi: 10.1016/0370-2693(87)91197-X Najm, H. N. (2009). Uncertainty quantification and polynomial chaos techniques
in computational fluid dynamics. Ann. Rev. Fluid Dyn. 41, 35–52. doi: 10.1146/
annurev.fluid.010908.165248 Emanuel, K. A. (2006). Climate and tropical cyclone activity: A new model
downscaling approach-. J. Climate 19, 4797–4802. Emanuel, K. A. (2013). Downscaling CMIP5 climate models shows increased
tropical cyclone activity over the 21st century. Proc. Nat. Acad. Sci. 110,
12219–12224. doi: 10.1073/pnas.1301293110 Navarro, M., Le Maître, O. P., Hoteit, I., George, D. L., Mandli, K. T., and
Knio, O. M. (2018). Surrogate-based parameter inference in debris flow model. Comput. Geosci. 22, 1447–1463. doi: 10.1007/s10596-018-9765-1 Emanuel, K. A. (2017). Will global warming make hurricane forecasting more
difficult? Bull. Am. Meteorol. Soc. 98, 495–501. doi: 10.1175/BAMS-D-16-
0134.1 Neal, R. M. (2011). “MCMC Using Hamiltonian Dynamics,” in Handbook of
Markov Chain Monte Carlo, eds S. Brooks, A. Gelman, G. Jones, and X.-L. Meng
(London: Chapman & Hall), 113–162. doi: 10.1201/b10905-6 Neal, R. M. (2011). “MCMC Using Hamiltonian Dynamics,” in Handbook of
Markov Chain Monte Carlo, eds S. Brooks, A. Gelman, G. Jones, and X.-L. Meng
(London: Chapman & Hall), 113–162. doi: 10.1201/b10905-6
Neumann, B., Vafeidis, A. T., Zimmermann, J., and Nicholls, R. J. (2015). Future coastal population growth and exposure to sea-level rise and Eversen, G. (1994). Sequential data assimilation with a nonlinear quasi-geostrophic
model using Monte Carlo methods to forecast error statistics. J. Geophys. Res. 99, 10143–10162. doi: 10.1029/94JC00572 Neumann, B., Vafeidis, A. T., Zimmermann, J., and Nicholls, R. J. (2015). REFERENCES Future coastal population growth and exposure to sea-level rise and May 2021 | Volume 8 | Article 650279 Frontiers in Marine Science | www.frontiersin.org 8 Extreme Sea-Level Early Warning Systems Denamiel et al. at:
https://public.wmo.int/en/resources/bulletin/early-warnings-of-coastal-
inundation coastal flooding - A global assessment. PLoS ONE 10:e0118571. doi: 10.1371/
journal.pone.0118571 coastal flooding - A global assessment. PLoS ONE 10:e0118571. doi: 10.1371/
journal.pone.0118571 Nicholls, R. J., and Cazenave, A. (2010). Sea-level rise and its impact on coastal
zones. Science 328, 1517–1520. doi: 10.1126/science.1185782 Taylor, A., and Glahn, B. (2008). “Probabilistic guidance for hurricane storm surge,”
in Proceedings of the 88th Annual Meeting of the American Meteorological
Society, (New Orleans), 1–8. Pattiaratchi, C. B., and Wijeratne, E. M. S. (2015). Are meteotsunamis an
underrated hazard? Philos. Trans. A Math Phys Eng Sci 373, 20140377. doi:
10.1098/rsta.2014.0377 y
Titov, T., Kânoˇglu, U., and Synolakis, C. (2016). Development of MOST for real-
time tsunami forecasting. J. Waterw. Port Coast. Ocean Eng. 142, 03116004. Rabinovich, A. B. (2020). Twenty-seven years of progress in the science of
meteorological tsunamis following the 1992 Daytona Beach event. Pure Appl. Geophys 177, 1193–1230. Tojˇci´c, I., Denamiel, C., and Vilibi´c, I. (2021). Performance of the Adriatic early
warning system during the multi-meteotsunami event of 11–19 May 2020:
an assessment using energy banners. Nat. Hazards Earth Syst. Sci. Discuss
[Preprint]. doi: 10.5194/nhess-2020-409 an assessment using energy banners. Nat. Hazards Earth Syst. Sci. Discuss
[Preprint]. doi: 10.5194/nhess-2020-409 Rasmussen, C. E., and Williams, C. K. I. (2006). Gaussian Process for Machine
Learning. Cambridge: MIT press. UNISDR. (2009). Terminology on Disaster Risk Reduction. Geneva: United Nation
International Strategy of Disaster Reduction. Renault, L., Vizoso, G., Jansà, A., Wilkin, J., and Tintoré, J. (2011). Toward
the predictability of meteotsunamis in the Balearic Sea using regional nested
atmosphere and ocean models. Geophys. Res. Lett. 38, L10601. doi: 10.1029/
2011gl047361 Veeramony, J., Condon, A., and Hebert, D. (2012). “Effect of coupling wave and
flow dynamics on hurricane surge and inundation,” in Proceedings of the 22nd
International Offshore and Polar Engineering Conference, (Greece), 1503–1507. g
Robert, C. P., and Casella, G. (2004). Monte Carlo Statistical Methods. New York,
N.Y: Springer-Verlag New York, doi: 10.1007/978-1-4757-4145-2 Vilibi´c, I., and Šepi´c, J. (2009). Destructive meteotsunamis along the eastern
Adriatic coast: overview. Phys. Chem. Earth 34, 904–917. doi: 10.1016/j.pce. 2009.08.004 Romera, R., Gaertner, M. Á, Sánchez, E., Domínguez, M., González-Alemán, J. J.,
and Miglietta, M. M. (2017). REFERENCES Climate change projections of medicanes with a
large multi-model ensemble of regional climate models. Global Planet. Change
151, 134–143. doi: 10.1016/j.gloplacha.2016.10.008 Vilibi´c, I., Šepi´c, J., Rabinovich, A. B., and Monserrat, S. (2016). Modern
approaches in meteotsunami research and early warning. Front. Mar. Sci 3:57. Von Toussaint, U. (2011). Bayesian inference in physics. Rev. Modern Phys. 83,
943–999. doi: 10.1103/RevModPhys.83.943 Rotunno, R., Chen, Y., Wang, W., Davis, C., Dudhia, J., and Holland, C. L. (2009). Large-eddy simulation of an idealized tropical cyclone. Bull. Amer. Meteor. Soc
90, 1783–1788. doi: 10.1175/2009BAMS2884.1 Wood, V. T., White, L. W., Willoughby, H. E., and Jorgensen, D. P. (2013). A new
parametric tropical cyclone tangential wind profile model. Mon. Weather Rev. 141, 1884–1909. doi: 10.1175/MWR-D-12-00115.1 Sivia, D. S., and Skilling, J. (2006). Data Analysis: A Bayesian Tutorial, 2nd Edn. New York, N.Y: Oxford University Press. Yildirim, B., and Karniadakis, G. E. (2015). Stochastic simulations of ocean waves:
an uncertainty quantification study. Ocean Modell. 86, 13–35. doi: 10.1016/j. ocemod.2014.12.001 Sochala, P., Chen, C., Dawson, C., and Iskandani, M. (2020). A polynomial chaos
framework for probabilistic predictions of storm surge events. Comput Geosci. 24, 109–128. doi: 10.1007/s10596-019-09898-5 Conflict of Interest: The authors declare that the research was conducted in the
absence of any commercial or financial relationships that could be construed as a
potential conflict of interest. Stanford, J. D., Hemingway, R., Rohling, E. J., Challenor, P. G., Medina-Elizalde,
M., and Lester, A. J. (2011). Sea-level probability for the last deglaciation:
A statistical analysis of far-field records. Global Planet. Change 79, 193–203. doi: 10.1016/j.gloplacha.2010.11.002 Copyright © 2021 Denamiel, Huan and Vilibi´c. This is an open-access article
distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the
original author(s) and the copyright owner(s) are credited and that the original
publication in this journal is cited, in accordance with accepted academic practice. No
use, distribution or reproduction is permitted which does not comply with these terms. Suh, S. W., Lee, H. Y., Kim, H. J., and Fleming, J. G. (2015). An efficient early
warning system for typhoon storm surge based on time-varying advisories by
coupled ADCIRC and SWAN. Ocean Dyn. 65, 617–646. doi: 10.1007/s10236-
015-0820-3 Swail, V., Grimes, S., Pilon, P., Canterford, R., Barrett, C., and Simonov, Y. (2019). Early warnings of coastal inundation. WMO Bulletin 68. Frontiers in Marine Science | www.frontiersin.org REFERENCES Available Online May 2021 | Volume 8 | Article 650279 Frontiers in Marine Science | www.frontiersin.org 9
|
https://openalex.org/W2787596639
|
https://journals.plos.org/plosone/article/file?id=10.1371/journal.pone.0191526&type=printable
|
English
| null |
Tau accumulations in the brains of woodpeckers
|
PloS one
| 2,018
|
cc-by
| 5,357
|
RESEARCH ARTICLE a1111111111
a1111111111
a1111111111
a1111111111
a1111111111 Editor: Emmanuel Planel, Centre Hospitalier de
l’Universite Laval, CANADA Received: October 12, 2017
Accepted: January 5, 2018
Published: February 2, 2018 Tau accumulations in the brains of
woodpeckers George Farah, Donald Siwek, Peter Cummings* Department of Anatomy and Neurobiology, Boston University School of Medicine, Boston, Massachusetts,
United States of America Department of Anatomy and Neurobiology, Boston University School of Medicine, Boston, Massachusetts,
United States of America * pmc@bu.edu Introduction Copyright: © 2018 Farah et al. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which
permits unrestricted use, distribution, and
reproduction in any medium, provided the original
author and source are credited. In the central nervous system of humans, the protein tau assists in the assembly and stabiliza-
tion of neuronal microtubules. Accumulations of tau can be seen in conditions ranging from
normal aging to various neurodegenerative diseases such as Alzheimer’s disease [1]. In the dis-
ease state, through a process yet to be understood, tau dissociates from the axons and become
hyperphosphorylated to form insoluble neurofibrillary tangles [2]. It is not entirely clear if
these aggregates are responsible for the symptoms associated with neurodegenerative diseases. Data Availability Statement: The data underlying
this study have been uploaded to the Open Science
Framework and are available using the following
DOI: 10.17605/osf.io/cvupw. Tau accumulations have also been observed in association with chronic traumatic encepha-
lopathy (CTE) [3]. CTE is theorized to be the end result of repetitive mild traumatic brain
(mTBI) injury. Repeated concussions has been suggested as a cause of CTE in contact sport
athletes. Funding: Boston University School of Medicine’s
Department of Anatomy and Neurobiology Vesalius
Grant was the source of funding for this project (to
George Farah). With this grant, we were able to
purchase laboratory materials such as antibodies
and various chemicals. The funders had no role in
study design, data collection and analysis, decision
to publish, or preparation of the manuscript. Recently, the CTE center at Boston University reported CTE in brain tissue of 110 out of 111
former National Football League (NFL) players studied [4]. However, CTE is not unique to
football and has been identified in the brains of athletes who play soccer, rugby and hockey [5]. The prevalence of CTE and relationship between mTBI and the subsequent development of
CTE has yet to be fully established Currently the disease can only be diagnosed by post mor Recently, the CTE center at Boston University reported CTE in brain tissue of 110 out of 111
former National Football League (NFL) players studied [4]. However, CTE is not unique to
football and has been identified in the brains of athletes who play soccer, rugby and hockey [5]. The prevalence of CTE and relationship between mTBI and the subsequent development of
CTE has yet to be fully established. Abstract a1111111111
a1111111111
a1111111111
a1111111111
a1111111111 Woodpeckers experience forces up to 1200–1400 g while pecking. It is assumed due to evo-
lutionary adaptations, the woodpecker is immune to brain injury. This assumption has led to
the use of the woodpecker as a model in the development of sports safety equipment such
as football helmets. However, it is unknown at this time if the woodpecker brain develops
neuro-trauma in relation to the high g-forces experienced during pecking. The brains of 10
ethanol preserved woodpeckers and 5 ethanol preserved red-winged black bird experimen-
tal controls were examined using Gallyas silver stain and anti-phospho-tau. The results
demonstrated perivascular and white matter tract silver-positive deposits in eight out of the
10 woodpecker brains. The tau positive accumulations were seen in white matter tracts in 2
of the 3 woodpeckers examined. No staining was identified in control birds. The negative
staining of controls birds contrasted with the diffuse positive staining woodpecker sections
suggest the possibility that pecking may induce the accumulation of tau in the woodpecker
brain. Further research is needed to better understand the relationship. OPEN ACCESS
Citation: Farah G, Siwek D, Cummings P (2018)
Tau accumulations in the brains of woodpeckers. PLoS ONE 13(2): e0191526. https://doi.org/
10.1371/journal.pone.0191526
Editor: Emmanuel Planel, Centre Hospitalier de
l’Universite Laval, CANADA
Received: October 12, 2017
Accepted: January 5, 2018
Published: February 2, 2018
Copyright: © 2018 Farah et al. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which
permits unrestricted use, distribution, and
reproduction in any medium, provided the original
author and source are credited. OPEN ACCESS
Citation: Farah G, Siwek D, Cummings P (2018)
Tau accumulations in the brains of woodpeckers. PLoS ONE 13(2): e0191526. https://doi.org/
10.1371/journal.pone.0191526
Editor: Emmanuel Planel, Centre Hospitalier de
l’Universite Laval, CANADA
Received: October 12, 2017
Accepted: January 5, 2018
Published: February 2, 2018
Copyright: © 2018 Farah et al. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which
permits unrestricted use, distribution, and
reproduction in any medium, provided the original
author and source are credited. OPEN ACCESS OPEN ACCESS
Citation: Farah G, Siwek D, Cummings P (2018)
Tau accumulations in the brains of woodpeckers. PLoS ONE 13(2): e0191526. https://doi.org/
10.1371/journal.pone.0191526 Editor: Emmanuel Planel, Centre Hospitalier de
l’Universite Laval, CANADA Tau deposits in woodpeckers Competing interests: The authors have declared
that no competing interests exist. The most prevalent pathological changes thought to be diagnostic of CTE are focal accumu-
lation of abnormal hyperphosphorylated tau (p-tau) within neurons and astroglia distributed
around small blood vessels located at the depths of cortical sulci [6]. Other staining patterns
considered to be supportive of CTE include pre tangles and neurofibrillary tangles in the
superficial layers of the cortex and the hippocampus; neuronal and astrocytic aggregates in
subcortical nuclei; and ‘thread-like’ and ‘dot-like’ axonal tau staining patterns [5, 7, 8] Competing interests: The authors have declared
that no competing interests exist. Because of the theorized association between mTBI and CTE, the prevention of TBI in ath-
letics has become an important area of research. Due to it’s assumed resistance to neuro-
trauma, the woodpecker has become a model for the development of safety equipment such as
football helmets and neck collars [9, 10]. The Picidae family of birds, which includes woodpeckers and sapsuckers, have several evo-
lutionary anatomic adaptations to theorized to mitigate the enormous forces they experience
while pecking. These include sharp beaks with upper and lower components which can move
independently of each other while pecking and a long tongue that is capable of bracing the
skull and brain during impacts. Other proposed protective adaptations include: thick neck
muscles to dissipate force, and unique bony features of the skull [6]. It is assumed these evolu-
tionary adaptations prevent neurotrauma in the woodpecker brain. The majority of research using the woodpecker as a model for the development of safety
equipment has focused on the biophysics of the woodpecker’s head. To date, only one paper
has examined histologic sections of woodpecker brains in an effort to investigate the possible
existence of brain injury in these birds. [11] This previous study utilized a modified Prussian
blue stain (ferrocyanide) on the brains of two woodpeckers. Without describing their histo-
logic findings, the authors concluded woodpeckers do not experience brain injury. Since its
publication in 1976, this study has been sited in over 100 journal articles supporting the con-
clusion that woodpeckers do not incur brain injury in association with pecking behavior. Despite the wide use of the 1976 paper, the neurobiological response of woodpeckers to
repetitive head acceleration and deceleration is vastly unexplored. At this time, it is not known
with any certainty if the brains of these animals experience neurotrauma in association with
their pecking behavior. If so, the woodpecker may serve as an important animal model for the
further study of CTE. With the woodpecker model increasing in popularity as a potential source of protective
equipment technology development, an in-depth and comprehensive study into woodpecker
brain injury is warranted. [9] Given this, our group our group set out to determine if tau accu-
mulations exist in the brains of woodpeckers. Materials and methods Protocol doi: 10.17605/osf.io/cvupw Introduction Currently, the disease can only be diagnosed by post mor-
tem analysis utilizing immunohistochemistry with antibodies directed against p-tau. Recently, the CTE center at Boston University reported CTE in brain tissue of 110 out of 111
former National Football League (NFL) players studied [4]. However, CTE is not unique to
football and has been identified in the brains of athletes who play soccer, rugby and hockey [5]. The prevalence of CTE and relationship between mTBI and the subsequent development of
CTE has yet to be fully established. Currently, the disease can only be diagnosed by post mor-
tem analysis utilizing immunohistochemistry with antibodies directed against p-tau. 1 / 11 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Tau deposits in woodpeckers Table 1. Summary of woodpecker specimens studied. Species Name
Location
Found
Gallyas Silver Stain
Immunohistochemistry
Picoides pubescens
St. Clair,
MI
Negative
—
Picoides pubescens
Monroe,
MI
Thread-like axonal streaks superficial and deep with
tangles. Silver staining surrounding a few neuronal
somas as well as dot-like deposits. —
Picoides pubescens
Ann Arbor,
MI
Thread-like axonal streaks superficially, with no tangles
found. Perivascular deposits in superficial cortex
Anti-phospho-tau positive, thread-like streaks in an organized fashion,
analogous location to the streaks seen in the silver stain of this specimen. Anti-GFAP positive star-like and tufted astrocytes. Sphyrapicus varius
(Juvenile)
Fairfield,
ME
Thread-like axonal streaks superficially with dot-like
deposits. No tangles or perivascular deposits. —
Picoides pubescens
Harvard,
MA
Negative
—
Picoides pubescens
Vienna, VA
Thread-like axonal streaks superficially with dot-like
deposits. No tangles or perivascular deposits. —
Picoides pubescens
Boston, MA
Localized axonal streaks at a superficial depth, limited
deep streaks found. Focal perivascular as well as dot-like
deposits. —
Phloeceatstes
guatemalensis
Mexico
Thread-like axonal streaks superficially and deep with
no tangles. Numerous perivascular and dot-like deposits
in superficial cortex. Negative
Colaptes auratus
Lincoln,
MA
Thread-like axonal streaks superficially and deep with
no tangles or perivascular deposits. —
Dryocopus lineatus
Canada
Thread-like axonal streaks superficially and deep with
no tangles. Extensive perivascular and dot-like deposits
in superficial cortex. Anti-phospho-tau positive, thread like streaks deep in an organized,
thread-like fashion, similar location to the streaks seen in the silver stain
of this specimen. Anti-GFAP positive star-like and tufted astrocytes. Table 1. Summary of woodpecker specimens studied. brain stem right below the level of the pons. The extracted brains were then placed in 70% eth-
anol until tissue processing could occur. Avian specimens and brain tissue collection All the bird specimens used in this project were generously donated from museum collections
(see acknowledgments). The woodpeckers (n = 10) studied were of various species (Table 1)
To extract the brains, the feathers and skin covering the skull were removed. The skull cap was
cut with a rotary tool from just above the orbits to just below the occiput in a circular fashion
to remove the skull from the brain tissue below it. The plate of bone that protects the optic
center of the brain, which is somewhat analogous to the human’s tentorium cerebelli, was
removed using forceps. The brain was gently pried away from the the skull, taking great care
around the frontal lobes and brainstem areas. Finally, an 11 blade scalpel was used to sever the PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 2 / 11 https://doi.org/10.1371/journal.pone.0191526.t001 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Tau deposits in woodpeckers The immunohistochemical staining was achieved using a hybrid of previously published
techniques. [14] The tissue was cut at 25μm and each section was placed into a 2cm in diame-
ter steel-wire mesh container. The tissue slices were deparaffinized and rehydrated to water
before entering the antigen retrieval step. Antigen retrieval was done by submerging the mesh
containers into filtered 1x Tris/EDTA buffer pH 9 with 0.05% Tween 20 at 90˚C for 20 min-
utes. After the 20-minute incubation, the mesh containers were then placed into filtered 1x
TBS buffer pH 7.4 with 0.025% Triton X-100 and rinsed twice for five minutes each. After the
second rinse, the mesh containers were removed and incubated in filtered 10% goat serum/1x
TBS buffer pH 7.4 block for two hours. After incubation, tissue sections were removed from
the mesh containers and placed into individual sterilized petri dishes containing antibody in
sterile and filtered 1% goat serum 1x TBS buffer pH 7.4 overnight at 4˚C with gentle agitation. The antibodies used were anti-phospho-tau S262 rabbit polyclonal (5μg/mL; Abcam, ab64193;
Cambridge, MA) and anti-glial fibrillary associated protein rabbit polyclonal (5μg/mL; Bioss,
bs-0199R; Woburn, MA). Following overnight incubation, the sections were removed from
the primary antibody and placed back into the mesh containers to be rinsed with 1x TBS with
0.025% Triton X-100 twice, each for five minutes. The mesh containers were then placed into
0.3% sodium hydroxide 1x TBS buffer pH 7.4 for 15 minutes. After the sodium hydroxide
incubation, the mesh containers were once again rinsed for three minutes in 1x TBS buffer pH
7.4 with 0.025% Triton X-100. The sections within the mesh containers were removed once
again, and placed into small, sterile petri dishes containing horseradish peroxidase secondary
antibody (1μg/mL; Abcam, ab6721; Cambridge, MA) in 1x TBS buffer pH 7.4 for one hour at
room temperature. After the hour incubation, the sections were placed back into their mesh
containers and rinsed twice, for five minutes each, in 1x TBS buffer pH 7.4. The sections were
then ready for the 3,3’-diaminobenzidine (DAB) reaction. The DAB chromagen (Biocare Med-
ical; DB801R; Concord, CA) reaction was carried out under a microscope until adequate stain-
ing was achieved. Sections were then immediately placed back into their mesh containers and
rinsed with dH2O for five minutes. Following the dH2O rinse, the sections were counter-
stained with Mayer’s hematoxylin counterstain (Scytek, #HAQ999) for two minutes before a
quick rinse in dH2O. The sections were then differentiated with 0.1% sodium bicarbonate blu-
ing agent until desired color was achieved. After another quick rinse in dH2O, the sections
were dehydrated using the standard ethanol gradient and Histoclear while in the mesh con-
tainers. After the last Histoclear incubation, the sections were removed from their mesh con-
tainers and free-floated into a large crystallization dish containing Histoclear. The sections
were coaxed onto clean glass slides with fine tipped forceps. The slides were then cover slipped
with mounting medium and placed onto a 37˚C warming plate overnight. PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Histological and immunohistochemical procedures The woodpecker and red winged black bird brains were cut into gross tissue sections accord-
ing to anatomic landmarks. Tissue processing was performed the same for all tissue samples
according to standard paraffin-embedding processing procedures [12]. The Gallyas silver stain was performed in accordance to a previous published methodology
with some minor alterations at room temperature with slight agitation [13]. Experimental and
control slides were sectioned to 15μm onto slides, deparaffinized, and rehydrated back to
water. The slides were then placed in a 0.25% potassium permanganate for 15 minutes. Then,
slides were incubated in 2% oxalic acid for 5 minutes. Following the oxalic acid incubation, the
slides were rinsed in dH2O for 5 minutes before being placed in a 0.4% lanthanum nitrate/2%
sodium acetate blocking solution for one hour. After the blocking step, the slides were rinsed
again in dH2O for one minute before going into a 4% sodium hydroxide/10% potassium
iodide/0.035% silver nitrate (added in that order) solution for four minutes. The slides were
immediately placed into a 0.5% acetic acid for three, one minute rinses before being placed
into developer. The slides were then put into 1% acetic acid for three minutes and then placed
into dH2O. Mayer’s hematoxylin counterstain (Scytek, #HAQ999) was used by placing the sil-
ver stained sections into the stain for two minutes before a quick rinse in dH2O. The slides
were differentiated with 0.1% sodium bicarbonate bluing agent until desired color was
achieved. Slides were then dehydrated using the standard ethanol gradient and Histoclear
before being coverslipped. 3 / 11 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Tau deposits in woodpeckers axonal track staining in deep white matter tracks. The majority of the observed silver-positive
staining patterns were identified in the frontal pole of the brain. Very rare staining was
detected in the occipital region, and no staining was seen in the cerebellum. Focal perivascular silver-positive deposits were found in 40% of the woodpeckers. The most
abundant positive silver staining pattern was “thread-like” axonal white matter tracts of the
frontal lobe, which appeared in 80% (n = 10) of the woodpeckers studied (Fig 2). No positive Gallyas staining was observed in the control birds (n = 10). No positive Gallyas staining was observed in the control birds (n = 10). Gallyas silver stain Because Gallyas stain has a high degree of sensitivity and specificity for neurofibrillary tangles
and axonal injury, it was utilized to detect the presence of neuronal and/or white matter tract
damage throughout the entire woodpecker brain. A section of human cortex with confirmed Alzheimer’s disease was used as a positive stain-
ing control while red-winged black birds’ brains (n = 5) were used as experimental controls for
all staining methods. Positive silver accumulations were identified in 8 out of the 10 woodpeckers studied. Sev-
eral patterns of positive Gallyas staining were identified in the woodpecker population includ-
ing: focal perivascular deposits, which were mostly subpial, (Fig 1A, 1C and 1D); focal whole
astrocyte staining (Fig 1B); dot-like staining within axonal tracks; and wide-spread thread-like 4 / 11 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Tau deposits in woodpeckers Fig 1. Perivascular and axonal track pathology of Dryocopus lineatus and picoides pubescens. Perivascular Gallyas silver positive pathology in the cortex of the frontal
lobe (A). Damaged axonal tracts (B) with axonal swellings (arrow) in the subcortical white matter of the frontal lobe. Subpial perivascular staining (C) of the frontal lobe. Perivascular silver positive staining in (D) in a superficial region of the frontal cortex. Experimental controls (E). https://doi.org/10.1371/journal.pone.0191526.g001 Fig 1. Perivascular and axonal track pathology of Dryocopus lineatus and picoides pubescens. Perivascular Gallyas silver positive pathology in the cortex of the frontal
lobe (A). Damaged axonal tracts (B) with axonal swellings (arrow) in the subcortical white matter of the frontal lobe. Subpial perivascular staining (C) of the frontal lobe. Perivascular silver positive staining in (D) in a superficial region of the frontal cortex. Experimental controls (E). https://doi.org/10.1371/journal.pone.0191526.g001 https://doi.org/10.1371/journal.pone.0191526.g001 5 / 11 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Immunohistochemistry Following the analysis of the Gallyas silver stain, we proceed to immunohistochemical verifica-
tion of the suspected tau accumulations throughout the entire woodpecker brain. Samples
were stained for phosphorylated tau (S262). Due to the poor preservation of the woodpecker tissue, successful immunohistochemistry
was accomplished in only 3 birds; the remainder of the tissue samples degraded during Fig 2. Axonal tract pathology of Dryocopus lineatus and Picoides pubescens. Gallyas silver positive axonal tract staining in the corpus callosum (A) and the
mediolateral central gray area of the midbrain (B and C) in the woodpecker brain (A) [15]. https://doi org/10 1371/journal pone 0191526 g002 Fig 2. Axonal tract pathology of Dryocopus lineatus and Picoides pubescens. Gallyas silver positive axonal tract staining in the corpus callosum (A) and the
mediolateral central gray area of the midbrain (B and C) in the woodpecker brain (A) [15]. Fig 2. Axonal tract pathology of Dryocopus lineatus and Picoides pubescens. Gallyas silver positive axonal tract staining in the corpus callosum (A) and the
mediolateral central gray area of the midbrain (B and C) in the woodpecker brain (A) [15]. https://doi org/10 1371/journal pone 0191526 g002 6 / 11 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Tau deposits in woodpeckers Fig 3. Anti-phospho-tau immunostaining in Dryocopuslineatus. Tau-positivity in the midbrain (A and B) and the corpus
callosum (C) of the Dryocopus lineatus brain. The axonal tract staining demonstrates a thread-like pattern, similar to that
seen with Gallyas sliver staining (Fig 2). Occasional intracellular tau-accumulations were identified within neurons (D). https://doi.org/10.1371/journal.pone.0191526.g003 Fig 3. Anti-phospho-tau immunostaining in Dryocopuslineatus. Tau-positivity in the midbrain (A and B) and the corpus
callosum (C) of the Dryocopus lineatus brain. The axonal tract staining demonstrates a thread-like pattern, similar to that
seen with Gallyas sliver staining (Fig 2). Occasional intracellular tau-accumulations were identified within neurons (D). https://doi.org/10.1371/journal.pone.0191526.g003 https://doi.org/10.1371/journal.pone.0191526.g003 processing. Attempts to alter the immunohistochemistry methodology proved to not help with
the degradation of the tissue samples. Immunohistochemistry was performed on all control
birds (n = 5). In the woodpecker specimens where tau immunostaining was possible, tau-positive accu-
mulations were identified in the same regions highlighted originally by the Gallyas silver stain. The morphology of astrocytes identified by GFAP were used to determine some of the cells
staining with tau were in fact astrocytes. This assisted in confirming the silver-positive accu-
mulations identified were in fact comprised of tau protein. PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Discussion To date, there have been no histologic studies exploring the potential existence of neurotrauma
in woodpeckers. While it is unknown if the forces associated with pecking behavior could
result in traumatic brain injury, it is interesting that the majority of the woodpecker specimens
in our study displayed focal silver-positive deposits, some of which were confirmed to be tau
by immunohistochemistry, while no staining was observed in the control birds. The anatomic locations and staining patterns of the lesions identified in the brains of wood-
peckers shares some similarities to human CTE. In humans, CTE is most prominent in the
frontal and temporal lobes of the brain with a spectrum of tau deposition patterns including
focal perivascular staining, astrocytic inclusions, ‘thread-like’ and ‘dot-like’ axonal staining
patterns (5, 7). In the woodpecker, we identified similar focal perivascular staining, astrocytic
inclusions, ‘thread-like’ and ‘dot-like’ axonal staining patterns which were confined to the
frontal lobe of the brain. The woodpecker brain lacks the gyri and sulci seen in the human
brain. Because of this, we could not evaluate for lesions located at the depth of sulci, as seen in
human CTE. The prominent frontal and temporal anatomic locations of CTE lesions are thought to be
due to the distribution of force experienced in head collision [14]. In the woodpecker, much of
the force of pecking is thought to be dissipated through the frontal regions of the skull and
brain, as well. Therefore, it is not surprising to see potential areas of injury limited to this ana-
tomic location in woodpecker brain. In the human brain, tau accumulations are also known to occur as part of the normal aging
process. Though it cannot be entirely ruled out, age-related tau accumulation in the wood-
pecker is an unlikely explanation for our findings. Our study population included one juvenile
woodpecker (Sphyrapicus varius) which demonstrated the full spectrum of tau accumulations
observed in the majority of the adult population suggesting the tau accumulations seen in our
study might not be age-related. This notion is further supported by the lack of observable
staining in the control population which was comprised of entirely adult birds. Given the complete lack of staining in the control population and the unlikely scenario of
age-related changes, our findings suggest there might be an association between repetitive
pecking behavior and tau accumulations in the woodpecker population. There are several limitations to this study. Tau deposits in woodpeckers In summary, focal subpial perivascular deposits; focal whole astrocyte staining; dot-like
staining within axonal tracks; and wide-spread thread-like axonal track staining in white mat-
ter tracks were identified in the frontal poles of 80 percent of the study population. Strikingly,
no staining was identified in the control bird population. These observations were confirmed by a board-certified neuropathologist. PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Immunohistochemistry Specifically, tau immunostaining
demonstrated perivascular deposits, whole astrocyte staining, and ‘thread-like’ axonal track
staining in 2 of the 3 woodpecker brains evaluated (Fig 3). No positive immunostaining was identified in any of the control birds. Tau immunohistochemistry was successfully completed in three woodpecker brains. Two of the three woodpecker brains demonstrated wide-spread thread-like axonal track stain-
ing with tau. We observed positive GFAP-staining in these same two birds (Fig 4). One 7 / 11 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Tau deposits in woodpeckers woodpecker failed to demonstrate positive sliver and tau staining. This same bird also showed
negative GFAP immunohistostaining. Interpreted collectively, this suggests that the tau accu-
mulations we identified are pathological. Fig 4. Anti-GFAP immunostaining in Dryocopus lineatus. Immunostaining with GFAP demonstrated rare GFAP-positive astrocytes. Astrocyte morphology included
thorn-shaped (A), typical star-like (B) and tufted (C). Tau immunohistochemistry demonstrated rare tau accumulations in cells morphologically consistent with
astrocytes within the grey matter (D, arrow). https://doi.org/10.1371/journal.pone.0191526.g004 Fig 4. Anti-GFAP immunostaining in Dryocopus lineatus. Immunostaining with GFAP demonstrated rare GFAP-positive astrocytes. Astrocyte morphology included
thorn-shaped (A), typical star-like (B) and tufted (C). Tau immunohistochemistry demonstrated rare tau accumulations in cells morphologically consistent with
astrocytes within the grey matter (D arrow) Fig 4. Anti-GFAP immunostaining in Dryocopus lineatus. Immunostaining with GFAP demonstrated rare GFAP-positive astrocytes. Astrocyte morphology included
thorn-shaped (A), typical star-like (B) and tufted (C). Tau immunohistochemistry demonstrated rare tau accumulations in cells morphologically consistent with
astrocytes within the grey matter (D, arrow). https://doi.org/10.1371/journal.pone.0191526.g004 https://doi.org/10.1371/journal.pone.0191526.g004 woodpecker failed to demonstrate positive sliver and tau staining. This same bird also showed
negative GFAP immunohistostaining. Interpreted collectively, this suggests that the tau accu-
mulations we identified are pathological. 8 / 11 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Acknowledgments We would like to thank the two museums who believed in our project and generously donated
the preserved museum specimens to our project. A large debt of gratitude to the Field Museum
of Chicago, IL and its Ornithology Department for donating specimens: 379007, 379008,
379005, 379006, 379009, 291433, 291434, 291435, and 238695. Secondly, to the Harvard
Museum of Natural History at Harvard University in Cambridge, MA. We would like to thank
Dr. Scott Edwards and Mr. Jeremiah Trimble from the Ornithology Department at the Har-
vard Museum of Comparative Zoology for their enthusiasm and generous specimen donation
for this project. Without both museums’ help, we would not have been able to complete this
project. Another thanks to the Department of Anatomy and Neurobiology at the Boston Uni-
versity School of Medicine for funding this project. We would also like to thank Dr. Brian Le
for his editorial contribution to the production of this manuscript. Finally, Mr. Farah and Dr. Cummings would like to dedicate this manuscript to Dr. Donald Siwek who suddenly passed
away during the writing of this manuscript. His wealth of knowledge and mentorship was
unbounded and will be dearly missed. Tau deposits in woodpeckers Due to the increased tau deposition in our woodpecker population, the brains of wood-
peckers are an important area for future research. Further studies are needed to determine
what iso-forms of tau are being deposited in the woodpecker brain and if these deposits are
pathological. The continued study of the response of the woodpeckers’ brain to pecking is nec-
essary to assure current head protection technology based on the woodpecker model is provid-
ing adequate protection in athletes. Our findings also suggest the woodpecker may be a
suitable animal model for the further study of CTE. Conceptualization: George Farah. Data curation: George Farah. Formal analysis: George Farah, Peter Cummings. Investigation: George Farah. Methodology: George Farah. Resources: Donald Siwek. Supervision: Peter Cummings. Validation: Peter Cummings. Writing – original draft: George Farah. Writing – original draft: George Farah. Writing – review & editing: George Farah, Donald Siwek, Peter Cummings. Writing – review & editing: George Farah, Donald Siwek, Peter Cummings. PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Author Contributions Conceptualization: George Farah. 3.
McKee A, Nigel C, Dickenson D, Folkerth R, Keene C, Litvan I, et al. The first NINDS/NIBIB consensus
meeting to define neuropathological criteria for the diagnosis of chronic traumatic encephalopathy. Acta
Neuropathologica 2015; 131: 75–86. https://doi.org/10.1007/s00401-015-1515-z PMID: 26667418 Discussion It cannot be concluded at this time the if the his-
tologic changes identified in our study are the direct result of the repeated, high force pecking
woodpeckers endure everyday. The limited number of woodpeckers (n = 10) and control birds
(n = 5) utilized in this study are insufficient to established a correlation between pecking
behavior and subsequent neurotrauma. It is not known from our study whether the tau accumulations are pathological or result in
behavioral changes in woodpeckers. However, our findings of silver and tau accumulations
solely in pecking birds warrant further investigation into this possibility. There are numerous anatomic differences between the skulls and brains of woodpeckers. It
may be that the anatomic adaptations of the woodpecker produce stress in regions of the brain
in different locations than humans. Further research is necessary to understand how our find-
ings can be translated to the human population. 9 / 11 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 References 1. Iqbal K, Liu F, Gong CX, Grundke-Iqbal I. Tau in Alzheimer Disease and Related Tauopathies. Curr Alz-
heimer Res 2010; 7: 656–664 PMID: 20678074 1. Iqbal K, Liu F, Gong CX, Grundke-Iqbal I. Tau in Alzheimer Disease and Related Tauopathies. Curr Alz-
heimer Res 2010; 7: 656–664 PMID: 20678074 2. Smith DH, Chen XH, Nonaka M, Trojanowski JQ, Lee VM, Meaney DF. Accumulation of Amyloid β and
Tau and the Formation of Neurofilament Inclusions Following Diffuse Brain Injury in the Pig. Journal of
Neuropathology and Experimental Neurology 1999; 58:9: 982–92. PMID: 10499440 2. Smith DH, Chen XH, Nonaka M, Trojanowski JQ, Lee VM, Meaney DF. Accumulation of Amyloid β and
Tau and the Formation of Neurofilament Inclusions Following Diffuse Brain Injury in the Pig. Journal of
Neuropathology and Experimental Neurology 1999; 58:9: 982–92. PMID: 10499440 3. McKee A, Nigel C, Dickenson D, Folkerth R, Keene C, Litvan I, et al. The first NINDS/NIBIB consensus
meeting to define neuropathological criteria for the diagnosis of chronic traumatic encephalopathy. Acta
Neuropathologica 2015; 131: 75–86. https://doi.org/10.1007/s00401-015-1515-z PMID: 26667418 3. McKee A, Nigel C, Dickenson D, Folkerth R, Keene C, Litvan I, et al. The first NINDS/NIBIB consensus
meeting to define neuropathological criteria for the diagnosis of chronic traumatic encephalopathy. Acta
Neuropathologica 2015; 131: 75–86. https://doi.org/10.1007/s00401-015-1515-z PMID: 26667418 10 / 11 PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 Tau deposits in woodpeckers 4. Mez J, Daneshvar DH, Kiernan PT, Abdolmohammadi B, Alvarez V, Huber B, et al. Clinicopathological
Evaluation of Chronic Traumatic Encephalopathy in Players of American Football Journal of the Ameri-
can Medical Association 2017; 318:4: 360–370. https://doi.org/10.1001/jama.2017.8334 PMID:
28742910 5. Mckee A, Stern R, Nowinski C, Stein T, Alvarez V, Daneshvar D, et al. The spectrum of disease in
chronic traumatic encephalopathy. Brain 2013; 136: 43–64. https://doi.org/10.1093/brain/aws307
PMID: 23208308 6. Traumatic Brain Injury Resource Page. National Institute of Neurological Disorders and Stroke. 2017. Available from: https://www.ninds.nih.gov/Disorders/All-Disorders/Traumatic-Brain-Injury-Information-
Page. 7. Mckee A, Stein T, Kiernan P, Alvarez V. The Neuropathology of Chronic Traumatic Encephalopathy. Brain Pathology 2015; 25:3: 350–364. https://doi.org/10.1111/bpa.12248 PMID: 25904048 8. Rubenstein R, Chang B, Grinkina N, Drummond E, Davies P, Ruditsky M, et al. Tau phosphorylation
induced by severe closed head trauma brain injury is linked to the cellular prion protein. Acta Neuro-
pathologica Communications 2017; 5:30: 1–17. 9. Mehta, P., Solis Ocampo, J., Tovar, A., and Chaudhari, P., Bio-Inspired Design of Lightweight and Pro-
tective Structures. SAE Technical Paper. 10.4271/2016-01-0396. PLOS ONE | https://doi.org/10.1371/journal.pone.0191526
February 2, 2018 References 10. Bailes J, Petschauer M, Guzkiewicz K, Manarno G. Management of Cervical Spine Injuries in Athletes. Journal of Athletic Training 2007; 42:1: 126–134. PMID: 17597954 11. May P, Newman P, Fuster J, Hirschman A. Woodpeckers and Head Injury. The Lancet 1976; 1:7957:
454–55. https://doi.org/10.1016/S0140-6736(76)92675-1 12. IHC staining protocol for paraffin, frozen and free floating sections. Abcam. 2017. Available from: http://
www.abcam.com/protocols/immunostaining-paraffin-frozen-free-floating-protocol#Paraffin.and.frozen 13. Uchihara T. Silver diagnosis in neuropathology: principles, practice, and revised interpretation. Acta
Neuropathologica 2007; 113: 483–99. https://doi.org/10.1007/s00401-007-0200-2 PMID: 17401570 14. Buee L, Hof P, Bouras C, Delacourte A, Peri DP, Morrison JH, et al. Pathological alterations of the cere-
bral microvasculature in Alzheimer’s disease and related dementing disorders. Acta Neuropathologica
1994; 87: 469–80. PMID: 8059599 15. Kingsbury M, Kelly A, Schrock S, Goodson J. Mammal-Like Organization of the Avian Midbrain Central
Gray and a Reappraisal of the Intercollicular Nucleus. Plos One 2011; 6: 6: e20720. https://doi.org/10. 1371/journal.pone.0020720 PMID: 21694758 11 / 11
|
W2950340825.txt
|
https://bmcmicrobiol.biomedcentral.com/track/pdf/10.1186/s12866-019-1499-2
|
en
|
Seawater salt-trapped Pseudomonas aeruginosa survives for years and gets primed for salinity tolerance
|
BMC Microbiology
| 2,019
|
cc-by
| 8,530
|
Elabed et al. BMC Microbiology
(2019) 19:142
https://doi.org/10.1186/s12866-019-1499-2
RESEARCH ARTICLE
Open Access
Seawater salt-trapped Pseudomonas
aeruginosa survives for years and gets
primed for salinity tolerance
Hamouda Elabed1,2, Enrique González-Tortuero3, Claudia Ibacache-Quiroga2,4, Amina Bakhrouf5, Paul Johnston6,
Kamel Gaddour5, Jesús Blázquez2 and Alexandro Rodríguez-Rojas6*
Abstract
Background: In nature, microorganisms have to adapt to long-term stressful conditions often with growth limitations.
However, little is known about the evolution of the adaptability of new bacteria to such environments. Pseudomonas
aeruginosa, an opportunistic pathogen, after natural evaporation of seawater, was shown to be trapped in laboratorygrown halite crystals and to remain viable after entrapment for years. However, how this bacterium persists
and survives in such hypersaline conditions is not understood.
Results: In this study, we aimed to understand the basis of survival, and to characterise the physiological
changes required to develop salt tolerance using P. aeruginosa as a model. Several clones of P. aeruginosa
were rescued after 14 years in naturally evaporated marine salt crystals. Incubation of samples in nutrient-rich
broth allowed re-growth and subsequent plating yielded observable colonies. Whole genome sequencing of
the P. aeruginosa isolates confirmed the recovery of the original strain. The re-grown strains, however, showed
a new phenotype consisting of an enhanced growth in growing salt concentration compared to the ancestor
strain. The intracellular accumulation of K+ was elicited by high concentration of Na+ in the external medium
to maintain the homeostasis. Whole transcriptomic analysis by microarray indicated that 78 genes had differential
expression between the parental strain and its derivative clones. Sixty-one transcripts were up-regulated, while 17 were
down-regulated. Based on a collection of single-gene knockout mutants and gene ontology analysis, we suggest that
the adaptive response in P. aeruginosa to hyper-salinity relies on multiple gene product interactions.
Conclusions: The individual gene contributions build up the observed phenotype, but do not ease the identification
of salinity-related metabolic pathways. The long-term inclusion of P. aeruginosa in salt crystals primes the bacteria,
mediating a readjustment of the bacterial physiology to growth in higher salt concentrations. Our findings provide a
starting point to understand how P. aeruginosa, a relevant environmental and pathogenic bacterium, survives to longterm salt stress.
Keywords: Pseudomonas aeruginosa, Gene expression, Salt priming, Long-term stress
Background
In their natural environments, microbes often have to
cope with stressful conditions. The limitation of nutrients, intense competition for resources and a variety of
abiotic stresses such as radiation, temperature, pH,
oxygen-derived radicals, antibiotics and high osmolarity
are commonly experienced by bacteria [1].
* Correspondence: a.rojas@fu-berlin.de
6
Institute of Biology, FreieUniversität Berlin, Berlin, Germany
Full list of author information is available at the end of the article
Reports on the extreme longevity of microbes in salt
are controversial [2]. Hypersaline environments have
been a significant reservoir for the long-term evolution
of specially adapted microorganisms [3]. Additionally,
saline environments may aid the survival of microorganisms, protecting them from desiccation by trapping the
cells in fluid inclusions, a phenomenon that occurs in
salt crystals upon evaporation [4]. Several studies on ancient microbes are consistent with laboratory experiments and studies on other modern surface halite
© The Author(s). 2019 Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated.
Elabed et al. BMC Microbiology
(2019) 19:142
Page 2 of 13
deposits, which suggest that microorganisms persist inside fluid inclusions in halite for many year [5–7].
In a previous study, Pseudomonas aeruginosa cells
were shown to get trapped in fluid inclusions pockets of
saturated brine in laboratory-grown halite crystals and
to remain viable after entrapment [5]. The ability of P.
aeruginosa to colonise and thrive in myriad environments correlates with its relatively large genome and
genetic complexity [8]. An exceedingly high number of
assigned open reading frames are transcriptional regulators or members of two-component regulatory systems
in comparison to other bacteria [9]. This large proportion of regulatory genes also facilitates P. aeruginosa
adaptability and sensing diverse environmental stresses
[8–11]. Potassium is the major intracellular cation in
bacteria and plays an important role to maintain homeostasis. In osmotic conditions, bacterial cells accumulate
K+ by a number of different transport systems that vary
in kinetics, energy coupling, and regulation [12].
However, despite advances in the understanding of the
immediate response to hyperosmotic shock in P. aeruginosa [13], the physiological mechanisms that allow the
bacterial persistence in highly saline environments are
still poorly understood. Molecular basis of this persistence may be of great interest to both clinical and environmental microbiology. In the present study, we assess
the phenotypic and genotypic changes of P. aeruginosa
ATCC 27853 after 14 years of entrapment in seawater
salt crystals to characterise the required physiological
changes that allow salt tolerance.
Results
Evaluation of fitness in different salt conditions
In this work, we study the effects of long-term incubation in extremely salty conditions on P. aeruginosa using
microarrays and salt-tolerance assays. After 14 years of
inclusion in evaporated seawater (37 g/l of salts), different clones of P. aeruginosa were recovered and cultivated. The revitalisation of the culture in nutrient broth
at 37 °C rendered bacterial suspensions that reached an
average of OD600nm: 0.9 ± 0.06, after 48 h of incubation.
The ancestor strain (T0 or control) and its derivative 48h clones (T48), did not show significant differences in
growth rate when cultured with NaCl 8.5 mM (normal
concentration of NaCl in DM medium (Table 1). However, the final OD was significantly higher in the recovered T48 strain. This implies a growth advantage in the
stationary phase demonstrating the adaptability of the
recovered cells to extremes conditions such as starvation. After the long period in salt crystals, supposing the
selection of more adapted mutants, we also cultured the
bacteria under increasing concentrations of NaCl. The
variants T48 showed an improved growth rate at concentrations of 250 or 500 mM (Table 1). At 1 M, the ancestor strain was not able to grow, whereas T48 clones
reached the highest optical density of all conditions
(Fig. 1). These first results suggested that T48-derivative
clones acquired the ability to thrive in high-salt environments, even at NaCl concentrations that were restrictive
for the original strain. However, no significant differences were found when comparing growth rates (r) between T0 and T48 variants at other evaluated NaCl
concentration (Table 1). Moreover, the addition of 100
mM KCl to bacterial cultures of the T0 strain, inhibited
by 1 M of NaCl, restored the growth of this strain and
allowed T48 strain to growth even at 2 M NaCl (Fig. 2),
indicating that growth inhibition not only depends on
salt concentration but also on the composition of growth
media. The tolerance to NaCl is then influenced by the
level of KCl or maybe the ability of the cell to control K+
transport. Hence, our expectations were to find the role
of K+ and Na+ transporters or regulators in P. aeruginosa to long-term hypertonic conditions. All these observations demonstrate that after incubation of P.
aeruginosa in seawater crystals for a long period (14
years), the cells adapted and became more tolerant to
higher salt concentrations.
Whole genome sequencing after recovery from salt
To characterise possible genomic adaptations to salt in P.
aeruginosa, we sequenced five independent clones and the
reference strain using a whole genome sequencing
Table 1 Comparison of the growth rate (r) of T0 and T48 variants in DM medium containing different concentrations of sodium
chloride: Mann-Whitney U test
NaCl concentration
r T0
r T48
Control(0.0085 M)
9.875 × 10−4 ± 9.257 × 10− 5
9.721 × 10− 4 ± 1.454 × 10− 4
−3
−5
0.0625 M
2.126 × 10
0.125 M
3.287 × 10− 3 ± 9.084 × 10− 5
± 6.876 × 10
−3
−5
P value
−3
2.465 × 10
−4
± 1.644 × 10
2.268 × 10− 3 ± 3.666 × 10− 4
−4
0.886
0.200
0.029
0.25 M
4.176 × 10 ± 9.661 × 10
0.011 ± 8.071 × 10
0.029
0.5 M
6.585 × 10− 3 ± 1.933 × 10− 4
0.019 ± 1.933 × 10− 4
0.029
−3
1M
7.658 × 10
2M
0.030 ± 1.405 × 10− 3
−4
± 2.217 × 10
−3
0.022 ± 1.463 × 10
0.029
0.021 ± 1.404 × 10− 3
0.029
Elabed et al. BMC Microbiology
(2019) 19:142
Page 3 of 13
Fig. 1 Representation of the growth of T0 (red) and T48 (blue) P. aeruginosa variants under different NaCl concentrations. Data are the means of
four independent cultures. Errors bars represent the standard error of the mean
Fig. 2 Growth curves of T0 and T48 P. aeruginosa variants in the presence of Kcl 100mM and selected NaCl concentrations. Curve points are the
means of four independent cultures. Errors bars represent the standard error of the mean
Elabed et al. BMC Microbiology
(2019) 19:142
approach based on the Illumina MiSeq platform. Seven
non-synonymous substitutions were found in the sequenced clones. These mutations were present in one aromatic amino acid transporter, prepilin-type N-terminal
cleavage/methylation domain-containing protein, FHA
domain-containing protein, hybrid sensor histidine kinase/response regulator and two hypothetical proteins. In
addition, three SNPs resulting in a synonymous substitution (c.795G > C p.Arg265Arg; c.34 T > C p.Leu12Leu and
c.54C > T p.Ser18Ser) respectively in DNA polymerase III
subunit beta and in two hypothetical proteins were also
detected by WGS (Table S1). Three other mutations were
identified in intergenic sites. The products of the genes
with non-synonymous mutations do not seem to contribute in salt stress response. Overall, the lack of convergence
in the mutations makes difficult to assign any effect to
these SNPs. Suggesting that the changes on salt resistance
in the studied strain were probably associated with adaptive response based on changes in global gene expression.
Transcriptome profiling of salt-trapped P. aeruginosa
As the phenotype of T48 clones cannot be easily explained by mutations, differences between T0 and T48
may be due to physiological changes that remain after
the recovery from the seawater salt crystals. To investigate the differential gene expression between the wildtype T0 and its salt-tolerant derivate T48, transcriptome
analysis by microarrays rendered 78 genes with significant changes in their expression level. From these 78
genes, 25 are genes related to cellular metabolism, 18
are associated to virulence factors, 14 are hypothetical
proteins, 11 are associated to transporters and regulatory
peptides, 4 are membrane proteins, 4 are implicated in
post translational modification and 2 are chaperones and
heat shock proteins (Table 2). A global view of all differentially expressed genes is presented in the MA plot in
the Additional file 2: Figure S1.
From the 25 genes encoding enzymes or proteins implicated in the cellular metabolism which are differentially expressed between T0 and T48, 20 genes are upregulated and five are down-regulated. When the 18
genes associated with expression of virulence factors are
analysed, all Type III Secretion System (T3SS) proteins
and two cytotoxin secretion factor exoenzymes, ExoS
(PA3841) and ExoT (PA0044) are up-regulated (Table 2).
A remarkable increase of the expression of H+ transport
T3SS ATPase (pscN – PA1697) was also observed in
T48 strains. Interestingly, its product can be responsible
for Na+ extrusion in P. aeruginosa. A substantial homeostatic capacity is necessary for adaptation and tolerance
to a change in the external environment.
There are eight genes encoding transporters that were
up-regulated in T48. Except for the genes related to the
symport of Na+/Alanine/Glycine (PA2252), transport of
Page 4 of 13
sulphate (cysW– PA0281 and cysT– PA0282), and the C5dicarboxylate transport (PA5530), all transporters are putative components of ABC transporters (PA2204,
PA3019), and putative amino acid permeases (PA3641,
PA0789). Additionally, three genes (a probable AGCS
Na+/alanine/glycine symporter – PA2252, a probable
amino acid permease – PA3641, and nqrB – PA2998) involved in Na+ ions transport (GO:0006814) were induced
in the T48 variants (fold change 3.10, 2.42 and 2.11 respectively; Additional file 1: Table S1 and Additional file 3:
Table S2).
There is also a set of genes (14 in total) coding for unknown functions that are differentially regulated, half of
them are up-regulated and the rest down-regulated
(Table 2). Interestingly, when these results are linked to
the genome sequence analysis, none of the differentially
regulated hypothetical proteins had mutations in the
ORF or the promoter. One of these up-regulated hypothetical proteins is yjjT (PA4627), which product could
be a putative rRNA (Guanin-N2)-methyltransferase
(GO:0008990) according to the Gene Ontology analysis.
Gene ontology analysis
A global analysis of the differentially regulated genes by
Gene Ontology (GO) was performed. Such analysis
revealed that the majority of the proteins are grouped
according to the “catalytic activity” and “binding” biological functions (Fig. 3a, Additional file 4: Table S3).
When analysed the cellular component category of the
GOs, “cell part” which com P. aeruginosa prises the
“plasma membrane” and “intracellular” categories and
“macromolecular complex” represent the two groups
(Fig. 3b). Additionally, the regulated genes could be
involved in two biological processes: “metabolic process”
and “cellular process” (Fig. 3c). When analysed, the
product genes’ functions, “transferases”, “oxidoreductases”, “hydrolases”, and “lyases” are the most abundant
protein functions (Fig. 3d). Stressed bacteria followed a
complex adaptive response that involves different biological processes such as the regulation of oxidationreduction process, regulation of cell shape, transmembrane transport systems and cell redox homeostasis.
Salt tolerance assay of P. aeruginosa mutants
The detection of a large number of genes differentially
regulated in the T48 variant (Table 2) confirmed the hypothesis that high salt resistance in T48 is linked to
many genes that participate together in the adaptive response of P. aeruginosa. However, it is difficult to determine the individual contribution of each gene in the
adaptation to hypersalinity. For this reason, to investigate the individual contribution of each one of the differentially regulated genes in the T48 variant, we decided
to explore their available mutants in the P. aeruginosa
Elabed et al. BMC Microbiology
(2019) 19:142
Page 5 of 13
Table 2 Pseudomonas aeruginosa genes differentially regulated between T0 strain and its T48-derivative clones
Functional classa
Genea
ProbeIDb
Fold changec
Operon IDd
ID777
pVal
Adaptation/protection
Iron-sulfure cluster assembly transcription factor
iscR
PA3815*
2.00
Bacterioferritin
bfrB
PA3531*
−2.02
PA0547*
2.08
PA2749
2.06
0.00097
0.0028
Regulation
Probable transcriptional regulator
ID118
0.0033
Postranslational modification/degradation
DNA-specific endonuclease I
endA
0.0088
tRNA (guanine-N(1)-)-methyltransferase
trmD
PA3743*
2.22
ID762
0.00042
Ribosomal protein L11 methyltransferase
pmrA
PA4850*
2.01
ID996
0.0015
Regulator of secondary metabolites/Carbon storage regulator
rsmA
PA0905*
−2.23
0.0036
Secreted factors
Exoenzyme S
exoS
PA3841
3.51
0.000064
Exoenzyme T
exoT
PA0044
2.74
0.00038
PA1697
3.40
0.00011
exsD
PA1714
2.51
0.0033
Protein transport and protein secretion (Type III Secretion System)
Hydrogen ion transportType III secretion system ATPase
ExsD
ExsC protein secretion export apparatus
exsC
PA1710
2.92
Translocation protein
pscP
PA1695
2.21
ID359
0.0048
0.00077
Secretion protein
pcr1
PA1699
2.47
ID360
0.0013
Secretion protein
pcr2
PA1700
2.46
ID360
0.00034
Secretion protein
pcr3
PA1701*
2.13
ID360
0.00075
Secretion protein
pcrV
PA1706*
3.27
ID360
0.0000051
Regulatory protein
pcrH
PA1707*
2.38
ID360
0.00090
Translocation protein
popB
PA1708*
2.89
ID360
0.00016
Translocation OMP protein
popD
PA1709*
3.62
ID360
0.000035
Regulatory protein (exoenzyme S synthesis protein B)
exsB
PA1712*
2.17
ID361
0.0031
Type III export protein PscD
pscD
PA1717
2.05
ID362
0.018
Export protein
pscF
PA1719
2.86
ID362
0.00032
ID362
Type III export protein PscJ
pscJ
PA1723
2.34
Translocation protein
pscO
PA1696
2.18
0.0049
0.0043
cysW
Transport of small molecules
PA0281
4.13
0.000016
Probable binding protein component of ABC transporter
Sulfate transport protein CysW
PA2204
3.84
0.0000086
Na+/alanine/glycine symporter
PA2252
3.10
0.00029
Probable MFS dicarboxylate transporter
PA5530*
2.67
0.00011
PA0282
2.55
0.0016
Probable amino acid permease
PA3641
2.46
0.0012
Probable amino acid permease
PA0789
2.37
0.0076
Probable ATP-binding component of ABC transporter
PA3019*
2.24
0.0030
PA0654*
2.66
0.00038
Sulfate transport protein CysT
cysT
Metabolism/enzymes
S-adenosylmethionine decarboxylase proenzyme
speD
Aspartate ammonia-lyase
aspA
PA5429
2.56
0.0029
Sulfite reductase
cysI
PA1838
2.47
0.0029
6-phosphogluconolactonase
pgI
PA3182
2.44
0.0018
Soluble pyridine nucleotide transhydrogenase
sth
PA2991
2.35
PA1551*
−2.29
Probable ferredoxin
0.0041
ID327
0.0017
Elabed et al. BMC Microbiology
(2019) 19:142
Page 6 of 13
Table 2 Pseudomonas aeruginosa genes differentially regulated between T0 strain and its T48-derivative clones (Continued)
Functional classa
Cytochrome C-oxidase, cbb3-type, CcoP subunit
Genea
ProbeIDb
Fold changec
ccoP2
PA1555*
−2.22
Operon IDd
pVal
0.0041
PA1556*
−2.02
ID329
0.0029
Probable cytochrome oxidase subunit (cbb3-type)
ccoN2
PA1557*
−2.02
ID329
0.0087
Sulfate adenylyltransferase
cysN
PA4442
2.12
Probable cytochrome c oxidase subunit
0.0029
NAD-dependent glutamate dehydrogenase
gdhB
PA3068
2.30
0.0025
Glyceraldehyde 3-phosphate dehydrogenase
gapA
PA3195
2.08
0.0071
Co-chaperone HscB
hscB
PA3811
2.62
ID777
0.00063
Ferredoxin (2Fe-2S)
fdx2
PA3809
2.40
ID777
0.0016
L-cysteine desulfurase
iscS
PA3814*
2.07
ID777
0.0020
ispA
PA4043*
2.14
ID821
0.00087
ID903
Geranyltranstransferase
N-acetylglucosaminyl transferase
murG
PA4412
2.07
cytochrome o ubiquinol oxidase, subunit I
cyoB
PA1318
2.04
0.0062
PA3181
2.02
0.013
2-keto-3-deoxy-6-phosphogluconate aldolase
Cytochrome o ubiquinol oxidase, subunit III
cyoC
PA1319
2.01
Sulfate adenylyltransferase subunit 2
cysD
PA4443*
2.66
Cell division protein FtsJ
ftsJ
PA4752*
−2.00
Probable beta-ketoacyl synthase
0.0060
0.010
ID908
0.00026
PA5174
2.19
Na+-transporting NADH:ubiquinone oxidoreductase, subunit NqrB
nqrB
PA2998
2.11
0.00047
0.0065
Ribosomal RNA small subunit methyltransferase C
rsmC
PA4627*
2.39
0.0025
Molecular chaperone DnaK
dnaK
PA4761*
−2.16
ATP-dependent protease ATP-binding subunit
hslU
PA5054*
−2.02
Chaperonnes & heat shock proteins
ID978
0.0076
0.0080
Membran proteins and LPS
Heptosyltransferase II
waaF
PA5012
2.04
0.0096
RodA rod shape-determining protein
rodA
PA4002
2.04
0.011
Outer membrane protein OprG precursor
oprG
PA4067*
−2.02
Na+/H+ ion antiporter subunit
shaD
PA1057*
2.01
0.0057
ID228
0.0092
Unknown fonction
a
Hypothetical protein
PA0284
2.23
0.0019
Hypothetical protein
PA0310*
−2.02
0.0083
Hypothetical protein
PA0570
2.12
ID123
Hypothetical protein
PA0915*
2.32
ID197
Hypothetical protein (predicted transmembrane protein)
PA1209*
−3.35
0.00020
Hypothetical protein (type II lipoprotein export signal predicted)
PA1228
2.35
0.0015
Hypothetical protein (predicted transmembrane protein)
PA2501*
−2.64
Hypothetical protein (NnrS-like membrane protein)
PA2662*
2.13
Hypothetical protein (predicted transmembrane protein)
PA2757*
2.01
0.0045
Hypothetical protein
PA3572
−2.23
0.00065
Hypothetical protein (type I lipoprotein export signal predicted)
PA4390*
2.16
0.0028
Hypothetical protein (predicted transmembrane protein)
PA4517*
−2.42
0.00044
Hypothetical protein
PA4611*
−2.22
0.0073
Hypothetical protein
PA5446*
−3.18
0.00014
From the P. aeruginosa genome project website (www.pseudomonas.com)
b
Probe ORFs identifier for P. aeruginosa PAO1
c
Fold regulation of P. aeruginosa genes differentially expressed between T0 and T14Y variants
d
Computationally predicted operons from the Database of the prokaryotic operons
Asterisks indicate the genes inactivated in the 39 mutants tested for changes in growth in high NaCl concentrations
Underlined genes are those whose inactivation increases growth in high NaCl concentrations
0.0011
0.0013
0.0011
ID556
0.00048
Elabed et al. BMC Microbiology
(2019) 19:142
Page 7 of 13
Fig. 3 Functional characterisation of the altered genes in P. aeruginosa T48 using gene ontology analysis. a: molecular function classification; b:
cellular component classification; c: biological process classification; d: PANTHER protein class of gene products
PA14 transposon insertion library [14]. From 78 differentially regulated genes, mutants for 39 genes could be
recovered from the library (Additional file 3: Table S2).
These individual knock-out mutants were tested for
growth at different NaCl concentrations. Our results indicated that only mutants in ccoO2 (cytochrome c oxidase subunit), PA4517 (conserved hypothetical protein),
dnaK (chaperone), and hslU (ATP-dependent protease)
showed a significant difference with the wild type when
grown in 8.5 and 500 mM NaCl (Fig. 4). Some mutants
(in PA1556, PA4517 and PA4761) grew worse than the
parental strain in low salt concentration (8.5 mM NaCl),
while all they did grow better in high salinity medium
(500 mM).
Discussion
The results of this study show that P. aeruginosa can
survive and adapt to prolonged extreme stress conditions. The obtained data suggest that the differential response to salt stress between T0 and T48 variants is not
linked to specific mutational events. This in line with
previous finding with these clones recovered from salt,
where there has been shown that after several passages,
bacteria recover their normal phenotype [15]. However,
we cannot discard that some of the detected mutations
could play a role in the observed phenotypes. Genetic
manipulation of P. aeruginosa at single nucleotide level
is nowadays still a challenge.
The gene expression analysis revealed that many genes
are differentially regulated in the stressed cells. The
differential induction of membrane transporters may
reflect altered ion fluxes between the bacterial cell and
the surrounding medium to maintain homoeostasis. In
fact, the primary response of bacteria to a highly osmotic
environment is the accumulation of certain solutes, like
K+, glutamate, trehalose, proline, and glycine betaine, at
concentrations that are proportional to the osmolarity of
the medium [16].
When bacteria face a growing concentration of Na+,
they actively transport K+ ions [16]. A recent study demonstrated that a steady K+ supply, even under unfavourable energetic conditions, plays a key role in long-term
survival and desiccation tolerance for Halobacteriumsalinarum within salt crystal [17]. This is consistent with
the fact that Na+/K+ transporters were slightly induced
in the T48 variant, including, the glutathione-regulated
K+-efflux system protein KefB (PA1207; 1.5-fold regulation) and a putative K+ channel (PA1496; 1.52-fold
Elabed et al. BMC Microbiology
(2019) 19:142
Page 8 of 13
Fig. 4 Salt tolerance assay of P. aeruginosa PA14 mutant collection that showed differential expression in the microarray experiment. Curve points
are the mean growth of four independent cultures. Errors bars represent the standard error of the mean
regulation). K+ transporters are regulated by an increase
in environment osmolarity regardless of the solute used
and turgor. This response is modulated by the external
concentrations of Na+. The K+ ions act as a cytoplasmicsignaling molecule, activating and/or inducing enzymes
and transport systems that allow the cell to adapt to elevated salinity [12, 16].
Additionally, three genes involved in Na+ ion transport
(GO:0006814) were induced in the T48 variants (PA2252,
PA3641 nqrB – PA2998; fold change 3.10, 2.42 and 2.11
respectively; Tables S1 and S2). The product of nqrB gene
is a unique energy-transducing complex, widely distributed among marine and pathogenic bacteria. It converts
the energy from the oxidation of NADH and the reduction of quinone into an electrochemical Na+-gradient that
can provide energy to the cell [18]. In addition, it allows
the Na+ ion to pass through the hydrophobic core of the
membrane and provides cation specificity to the translocation system [19]. These results are complementary with
the 6 up-regulated and 13 down-regulated transporters
(Table 2). From these 6 up-regulated transporters, rnfC
(PA3491) is related with the electron transport complex,
which is overexpressed when IscR is up-regulated [20]. In
contrast, rnfE (PA3494), the putative periplasmic
component of the RNF system [21], is underexpressed in
T48 variants, a contradiction as the RNF system is very
close to the Na+-pumping NADH:ubiquinone oxidoreductase [14, 21]. Another important up-regulated transporter
is czcB (PA2521), which is associated with resistance to
heavy metals [22–24], but recently it was discovered that
it is also responsible for Ca2+ ions homeostasis [25]. Other
up-regulated transporters are narK1 (PA3877; related with
the nitrate respiration under anaerobic conditions [25,
26]), ompI (PA3894; related to the aminoglycoside resistance [27]), and two more probable transporters with unknown associated metabolites (PA1876, yhiH – PA5231).
Despite the fact that the gene coding for OmpI is upregulated in T48 (Table 2), MexCD (PA4598 and PA4599)
transporters, which are related to fluoroquinolones resistance [81, 82], are down-regulated. Similarly, LptG
(PA3827), a lipopolysaccharide export system permease, is also down-regulated. Regarding transporters
related to carbohydrate transport, RbsA (PA1947) and
YhhS (PA1993) are also down-regulated. Finally, the
rest of the down-regulated transporters are putative
MFS and ABC type transporters of unknown metabolites, except for a putative K+ channel (PA1496) and
YdfC (PA2777), a putative formic/nitrite transporter
Elabed et al. BMC Microbiology
(2019) 19:142
which was also found to be expressed under antibiotic stress [28, 29].
Four members of the 8-gene operon iscR-PA3808 the
ferredoxin Fdx2 (PA3809), the co-chaperone HscB
(PA3811), the L-cysteine desulfuraseIscS (PA3814), and
the iron-sulphur cluster assembly transcription factor IscR
(PA3815) are up-regulated, supporting previous observations about their expression in high concentration of salts
[20]. Surprisingly, we did not find any significant upregulation of the IscR-regulated ferredoxin FprB
(PA4615), which are also associated with salt stress [30].
Other up-regulated genes are implicated in posttranslational modifications such as trmD (PA3743; tRNA
guanosine methyltransferase) and endA (PA2749; DNAspecific endonuclease I). Methylation of coding or noncoding RNA might play an important role in gene expression regulation [31]. Moreover, the S-adenosylmethionine
decarboxylase proenzyme (speD; PA0654), involved in
spermidine biosynthesis, was up-regulated in the T48 variants. Interestingly, previous works reported that spermidine is effective in alleviating the adverse effect of salt
stress on plants [32, 33]. A recent finding indicated that
spermidine priming treatments enhanced the antioxidant
systems in plants exposed to salt stress and contributed to
improved ion homeostasis [32–34]. Similarly, in P. aeruginosa, Johnson et al [34] reported that spermidine plays an
important function as an organic polycation to bind lipopolysaccharide and to stabilize the cell surface. It protects
the outer membrane from aminoglycoside antibiotics,
antimicrobial peptides, and oxidative stress.
Another up-regulated gene coding for a two-component
system response regulator PmrA (PA4776), was identified
in this study, which was recently reported to be associated
with polymyxin resistance and hence osmotic stress [35].
The rsmA gene, known to be a regulator of the secondary metabolism and a carbon storage regulator, is
down-regulated in salt-tolerant clones (Table 2). RsmA
was found to play a very important role in early pathogenesis, especially in early colonisation and dissemination [36], due to its relevance in the expression of Type
VI Secretory System (T6SS) [37, 38]. Moreover, rsmAknockouts strains of P. aeruginosa have altered the expression of genes involved in a wide variety of pathways,
including iron acquisition, formation of multidrug efflux
pumps and motility [39]. The genes coding for TssK1
(PA0079) and IcmF2 (PA1669) are also down-regulated.
Both proteins are fundamental for the pathogenesis of P.
aeruginosa, as the former is implied in the assembly of
T6SS complex [40] while the latter is involved in the
virulence [41].
Most of these T3SS proteins are members of the 12gene operon popN-popD, which are expressed not only in
pathogenesis but also under different environmental
stresses such as low concentration of Ca2+ or direct
Page 9 of 13
contact with host cells [42]. Additionally, ExoS and ExoT
have an ADP-ribosyltransferase activity, playing an important role in the bacterial survival and dissemination in
clinical strains [43–45].
Salt stress also showed impact on three metabolic
genes that were up-regulated: the cytochrome c oxidase
(coxA; PA0106), a putative acyl-CoA dehydrogenase
(PA0508), and the anthranilate-coenzyme A ligase (pqsA;
PA0996). Previously, the putative acyl-CoA dehydrogenase, a gene associated with changes in membrane fluidity
[46], was found overexpressed in Burkholderia pseudomallei when treated with NaCl. The fact that pqsA is
up-regulated may indicate that the Pseudomonas quinolone signal (PQS) could be also overexpressed during
salt encapsulation. This protein shapes bacterial population structure to survive under stressful environments
and kills sensitive bacteria at a time that promotes antioxidative stress response [47].
When transcriptional regulators are analysed, only a
putative transcriptional regulator (PA0547) is upregulated in T48, having a potential role in the differential regulation of gene expression. However, hslU
(PA5054) and dnaK (PA4761) genes, which encode for
chaperone activity are found significantly downregulated. This observation is in contrast with previous
studies, where dnaK was overexpressed, being relevant
in salt resistance in Lactococcuslactis [48]. Moreover,
dnaK was also found up-regulated in marine bacteria
allowing the adaptation to cold environments [49]. Possibly, these chaperones were up-regulated in salt-trapped
bacteria but, once the T48 variant was recovered, these
genes are quickly down-regulated due to other salt stress
adaptations, the same maybe true for other genes.
CgrA (PA2127), which is found to be related to the expression of RsmN and, thus, the repression of RsmA
[38], is up-regulated in T48 variant. The cgrA gene plays
a key role in the expression of fimbrial genes and is
related to MvaT mutants or anaerobic growth [50].
Despite the fact that only narK1 (PA3877) was found to
be up-regulated, results indicate that most of the upregulated genes in T48 are associated to aerobic growth.
Additionally, no mutations in the MvaT transcriptional
regulator were revealed by whole genome analysis.
According to our results, salt resistance could be
considered as a priming response, i.e. as a physiological
process by which organisms prepare themselves for
more quick or aggressive situations to future biotic or
abiotic stress [51]. Although this phenomenon has been
studied mostly in plants, there are also some examples
of priming in the bacterial world. One critical issue is to
explore how the signals that induce priming are received
and transduced by the cells and prepare the bacteria for
long-term persistence if growth is not possible. In plants,
priming to salinity plays an important role as adaptive
Elabed et al. BMC Microbiology
(2019) 19:142
phenotypic strategy [52]. This process could develop
different defence mechanisms in the cells against salinity
stress such as antioxidant defence systems, the repair of
membranes and the osmotic adjustment [53]. This kind
of response is characterised, essentially, by the slow induction of many genes that together contribute to the
acquisition of quick and effective adaptive strategy
against stressor conditions. In such cases, molecular
mechanisms responsible for priming effects are involved
in the accumulation of signalling proteins or transcription factors [54], as well as epigenetic mechanisms [55,
56]. These epigenetic mechanisms are thought to bring a
faster and more potent response to subsequent exposure to stress. This idea is supported for the Gene
Ontology analysis, which suggested that some genes
were involved in regulation of transcription, methylation process, response to stimulus, RNA metabolic
processes and quorum sensing.
Interestingly, neither the mutants nor the wild-type
were able to grow in DM with 1 M NaCl. All these genes
showed a decreased transcription in the T48 variant and,
consequently, if they are involved in adaptation to hypersalinity, a better growth under high NaCl concentration
is expected when inactivated. Moreover, no sequence
changes between the five genes from T0 and T48 were
found, suggesting that the differences in growth under
high salt conditions may be due to differential regulation, which requires further research to be clarified. The
preservation of a long-lasting phenotype is not new in
bacteria. For instance, the lactose metabolization response in Escherichia coli is maintained during more
than ten generations after the removal of lactose due to
the inheritance of very stable proteins [57].
Conclusions
Pseudomonas aeruginosa can survive in inclusions of
seawater crystals for many years. Upon recovery, this
bacterium shows a better ability to grow in highly saline
conditions, and the adaptation seems to be only phenotypic but not genetic, indicating a ‘priming’ phenomenon
in this plastic bacterium. Although we have identified
several genes potentially involved in adaptation to saline
environments, the exact mechanisms which are responsible for priming in P. aeruginosa remain unclear. Our
study provides a good start toward a deep understanding
of the long-term salt stress behaviour of P. aeruginosa.
Methods
Bacterial model and growth conditions
P. aeruginosa ATCC 27853 (wild-type: T0 in this study)
was grown overnight at 37 °C in nutrient broth, centrifuged at 13,000 rpm for 10 min, washed three times and
then suspended in filter-sterilised seawater to a final
concentration of approximately 109 CFU/ml in three
Page 10 of 13
independent replicas. Cells were incubated during 14
years in closed Erlenmeyer flasks at room temperature.
The concentration of salts in the used seawater was 37
g/l. The water was allowed to evaporate, the saline crystals were apparent after 8 months, and the culture became completely desiccated after 10 months. The initial
number of CFU/ml was confirmed by serial decimal
dilutions in nutrient agar.
Revitalisation of the bacterial cells
P. aeruginosa cells, maintained during 14 years in sterilised seawater, were revitalised by the addition of 100 ml
of sterilised nutrient broth to the salt crystal in the
Erlenmeyer flask and incubated at 37 °C with 100 rpm of
shaking. Subsequent plating of an aliquot from this culture on nutrient agar yielded observable colonies. A few
isolated colonies from the different replicas were recovered and saved for further analysis. Biochemical profiles
of P. aeruginosa ATCC 27853 and the resuscitated cells
(T48 variant in this study) were characterised using API
20NE system (bio-Merieux, France).
Evaluation of fitness in different salinity conditions
Bacterial growth curves were carried out in flatbottomed 96-well microplates (Nunc, Denmark). Each
well was filled with 100 μl of Davis Minimal medium
(DM: Na2HPO4 6.78 g/l; KH2PO4 3 g/l; NaCl 0.5 g/l;
NH4Cl 1 g/l; 1 mM MgSO4; 0.1 mM CaCl2, 0.28% Glucose and 0.25% casamino acids), supplemented with
NaCl to final concentrations of 2 M, 1 M, 500 mM, 250
mM and 8.5 mM. Overnight cultures of T0 and T48 P.
aeruginosa cells were added to a final OD595 of 0.04.
The growth of T0 and T48 variants was followed with
four replicas of each one in the same concentrations of
NaCl. Microplates were incubated in an Infinite F200
TECAN microplate reader for 24 h at 37 °C with 15 s of
shaking duration, 3 mm of shaking amplitude. The interval time of absorbance measurements at 595 nm was 15
min. The same manipulation was repeated adding 100
mM KCl to selected concentrations of NaCl.
Whole genome sequencing after recovery from salt
Libraries were prepared using a TruSeq DNA PCR-Free
Library Preparation Kit (Illumina, USA) and were sequenced on an Illumina-MiSeq system using a 600-cycle
v3 reagent kit, resulting in 300-bp paired-end reads. Sequence data are available from the NCBI database under
Bioproject accession PRJNA420955. A reference genome
for strain P. aeruginosa ATCC 27853 was assembled using
A5-miseq version 20,140,604 and annotated using prokka
version 1.12-beta [58]. Snippy version 3.2 [59] was used to
identify variants in strains c1–5 (clone1 to clone5) relative
to the reference complete genome of P. aeruginosa ATCC
Elabed et al. BMC Microbiology
(2019) 19:142
27853 (Genbank accession CP015117). Assembly of 1,818,
724 error-corrected reads (estimated 47.68-fold coverage)
resulted in 46 contigs with an N50 of 353 kb and a total
size of 6.79 Mb.
Transcriptome profiling of salt-trapped P. aeruginosa
To find out what genes are involved in the differential
salinity resistance, global transcription profile of cultures
of P. aeruginosa T0 and its T48-derivative variant were
carried out using microarray technology. Bacterial cells
were grown overnight in Davis Minimal medium (DM)
at 37οC under 200 rpm of shaking. Three independent
1/50 dilutions of each of them were grown until they
reached an optical density of 0.5 at 600 nm. The cells
were washed and resuspended in DM supplemented
with RNA Protect reagent (Qiagen, Germany). Cell lysis
and total RNA extractions were performed with the
RNeasy mini kit according to the manufacturer’s recommendations (Qiagen, Chatsworth, CA), except that 1
mg/ml of lysozyme was used to lyse Pseudomonas cells.
DNase digestions were carried out on the column by
adding 82 units of Kunitz enzyme (Qiagen) with incubation at room temperature for 15 min. An additional
DNase digestion was performed on the purified RNA to
ensure the absence of DNA. RNA quality was checked
through agarose electrophoresis before cDNA synthesis.
Fluorescently labelled cDNA for microarray hybridisation was obtained by using the SuperScript Indirect
cDNA Labelling System (Invitrogen) as recommended
by the supplier. Briefly, 20 μg of total RNA was transformed to cDNA with Superscript III reverse transcriptase using random hexamers as primers and including
aminoalyl-modified nucleotides in the reaction mixture.
After cDNA purification, Cy3 or Cy5 fluorescent dye
(Amersham Biosciences) was coupled to the aminomodified first-strand cDNA. The labelling efficiency was
assessed by using a NanoDrop ND1000 spectrophotometer (NanoDrop Technologies). Equal amounts of Cy3or Cy5-labelled cDNAs, one of them corresponding to
the control and the other to the problem under analysis,
were mixed and dried in a Speed-Vac. Labelled cDNA
was hybridised to P. aeruginosa microarray slides version
2 from the Pathogen Functional Genomics Resource
Center from J. Craig Venter Institute Microbial
Hybridization of Labelled Probes protocol. Following
hybridization, the slides were washed, dried, and
scanned using a ScanArray Express scanner and software
(Packard BioScienceBioChip Technologies). For the analysis of DNA microarray slides, background correction
and normalization of expression data were performed
using LIMMA [60]. To avoid the exaggerated variability
of log ratios for low-intensity spots during local background correction, we used the normexp method in
LIMMA to adjust the local median background
Page 11 of 13
estimates. The resulting log ratios were print-tip LOESS
normalised for each array [61]. Only genes that exhibited
changes compared to the wild-type control of two-fold
and more, as well as P values of ≤0.05, were considered
in the study. Finally, to explore the functional roles of
the regulated genes, the Gene Ontology (GO) analysis
was performed through the PANTHER online software
[62] and QuickGO tool [63].
Salt tolerance assay of P. aeruginosa mutants
The desired mutants were isolated from PA14 transposon
insertion mutants [64]. The selected P. aeruginosa PA14
mutants, with deletions in genes showing transcriptional
variation in the microarray experiments, were used. Salt
tolerance of these mutants was measured and compared
to the wild-type strain PA14. The salt tolerance assay was
performed on 96-well polystyrene plates. Each well was
filled with 100 μl of DM minimal medium supplemented
with NaCl to final concentrations of 8.5 mM (DM with no
NaCl added), 250 mM and 500 mM, with four replicas for
each NaCl concentration. The microplates were incubated
at 37 °C, and the optical density at 600 nm was measured
after 24 h. For mutants showing statistically significant differences in growth respect the wild-type strain on NaCl
(> 25%), salt tolerance assay was repeated for each sodium
chloride concentration.
Statistical analysis
All parameters for the growth curves were estimated using
Growthcurver [65]. Using this data, all model parameters
—carrying capacity, initial population size, growth rate,
doubling time and the empirical area under the curve—
for all growth curves of both variants, T0 and T48, were
compared using Student’s t test according to the different
NaCl and KCl concentrations. Additionally, two-sided
Kolmogorov-Smirnov tests were applied to compare the
growth curves per treatments. P values less than or equal
to 0.05 were considered statistically significant. All statistical tests were performed in R v. 3.4.4 [66].
Additional files
Additional file 1: Table S1. The detected mutations in P. aeruginosa
clones ATCC27853 after Whole Genome Sequencing. (PDF 75 kb)
Additional file 2: Figure S1. (PNG 1930 kb)
Additional file 3: Table S2. Gene list of mutants recovered from the P.
aeruginosa PA14 mutant insertion library and used in this study to test
the impact of salt in the growth. (PDF 74 kb)
Additional file 4: Table S3. (PDF 725 kb)
Acknowledgements
We are grateful to Prof. Jens Rolff for support and helpful comments from
Yeliz Karatas, Arpita Nath from Freie Universität Berlin and Dr. Paul Smith.
Elabed et al. BMC Microbiology
(2019) 19:142
Authors’ contributions
EH, EGT, CIQ, AB, KG and ARR carried out the experimental work. ARR and JB
designed the experimental work. PJ contributed with genome sequencing
and analysis. All authors conducted analytical work. EH and ARR drafted the
manuscript with input from all authors. All authors read and approved the
final manuscript.
Funding
This work was supported by Plan Nacional de I+D+i 2013-2016 and the Instituto de Salud Carlos III, Subdireccion General de Redes y Centros de Investigacion Cooperativa, Ministerio de Economia, Industria y Competitividad,
Spanish Network for Research in Infectious Diseases (REIPI RD16/0016/
0009)—co-financed by the European Development Regional Fund “A Way to
Achieve Europe”—by Operative Program Intelligent Growth 2014-2020. ARR
was also supported SFB 973 (Deutsche Forschungsgemeinschaft, project C5).
We acknowledge support by the German Research Foundation and the
OpenAccess Publication Fund of Freie Universität Berlin.
Availability of data and materials
All data are available in the manuscript and supplementary material. The
sequences and genomic data were deposited as indicated in the manuscript.
Page 12 of 13
9.
10.
11.
12.
13.
14.
15.
16.
Ethics approval and consent to participate
Not applicable.
17.
Consent for publication
Not applicable.
18.
Competing interests
The authors declare that they have no competing interests.
19.
Author details
1
Laboratory of Contagious Diseases and Biologically Active Substances
LR99-ES27 Faculty of Pharmacy of Monastir, University of Monastir, Monastir,
Tunisia. 2Department of Microbial Biotechnology, Spanish National Center for
Biotechnology (CNB), Madrid, Spain. 3Department of Veterinary and Animal
Sciences, Center for non-coding RNA in Technology and Health, University of
Copenhagen, Copenhagen, Denmark. 4Centro de Micro-Bioinnovación,
Escuela de Nutrición y Dietética, Facultad de Farmacia, Universidad de
Valparaíso, Valparaíso, Chile. 5Laboratory of Analysis, Treatment and
Valorization of Environmental Polluants and products, Faculty of Pharmacy,
University of Monastir, Monastir, Tunisia. 6Institute of Biology, FreieUniversität
Berlin, Berlin, Germany.
20.
21.
22.
Received: 26 October 2018 Accepted: 31 May 2019
23.
References
1. Hengge-Aronis R. The general stress response in Escherichia coli. In:
Hengge-Aronis GS and R, editor. Bacterial stress responses. Washington, D.
C.: ASM Press,; 2000. p. 161–178.
2. Lowenstein TK, Schubert BA, Timofeeff MN. Microbial communities in fluid
inclusions and long-term survival in halite. GSA Today. 2011;21:4–9. https://
doi.org/10.1130/GSATG81A.1.
3. McGenity TJ, Gemmell RT, Grant WD, Stan-Lotter H. Origins of halophilic
microorganisms in ancient salt deposits. Minireview. Environ Microbiol.
2000;2:243–50. https://doi.org/10.1046/j.1462-2920.2000.00105.x.
4. Norton CF, Grant WD. Survival of Halobacteria within fluid inclusions in salt
crystals. J Gen Microbiol. 1988;134:1365–1.
5. Adamski JC, Roberts JA, Goldstein RH. Entrapment of Bacteria in fluid
inclusions in laboratory-grown halite. Astrobiology. 2006;6:552–62. https://
doi.org/10.1089/ast.2006.6.552.
6. Fendrihan S, Legat A, Pfaffenhuemer M, Gruber C, Weidler G, Gerbl F, et al.
Extremely halophilic archaea and the issue of long-term microbial survival.
Re/views Environ Sci bio/technology. 2006;5:203–18. https://doi.org/10.1007/
s11157-006-0007-y.
7. Schubert BA, Lowenstein TK, Timofeeff MN, Parker MA. Halophilic Archaea
cultured from ancient halite, Death Valley, California. Environ Microbiol.
2010;12:440–54. https://doi.org/10.1111/j.1462-2920.2009.02086.x.
8. Stover CK, Pham XQ, Erwin AL, Mizoguchi SD, Warrener P, Hickey MJ, et al.
Complete genome sequence of Pseudomonas aeruginosa PAO1, an
24.
25.
26.
27.
28.
29.
30.
31.
opportunistic pathogen. Nature. 2000;406:959–64. https://doi.org/10.1038/
35023079.
Rodrigue A, Quentin Y, Lazdunski A, Méjean V, Foglino M. Cell signalling by
oligosaccharides. Two-component systems in Pseudomonas aeruginosa:
why so many? Trends Microbiol. 2000;8:498–504.
Langton Hewer SC, Smyth AR. Antibiotic strategies for eradicating
Pseudomonas aeruginosa in people with cystic fibrosis. Cochrane Database
Syst Rev. 2017;(4):CD004197.
Snitkin ES, Segre JA. Pseudomonas aeruginosa adaptation to human hosts.
Nat Genet. 2015;47:2–3. https://doi.org/10.1038/ng.3172.
Epstein W. The roles and regulation of potassium in bacteria. Prog Nucleic
Acid Res Mol Biol 2003;75:293–320. http://www.ncbi.nlm.nih.gov/pubmed/
14604015. Accessed 4 May 2018.
Aspedon A, Palmer K, Whiteley M. Microarray analysis of the osmotic stress
response in Pseudomonas aeruginosa. J Bacteriol 2006;188:2721–2725. doi:
188/7/2721 [pii] 10.1128/JB.188.7.2721-2725.2006.
Reyes-Prieto A, Barquera B, Juárez O. Origin and evolution of the sodium
-pumping NADH: ubiquinone oxidoreductase. PLoS One. 2014;9:e96696.
Elabed H, Bakhrouf A, Hamza R, Azaiez M, Gaddour K. Evidence of the
adaptive response in Pseudomonas aeruginosa to 14 years of incubation in
seawater. Ann Microbiol. 2012;62:1385–94.
Csonka LN. Physiological and genetic responses of bacteria to osmotic
stress. Microbiol Rev 1989;53:121–147. http://www.ncbi.nlm.nih.gov/
pubmed/2651863. Accessed 4 May 2018.
Kixmüller D, Greie J-C. An ATP-driven potassium pump promotes long-term
survival of Halobacterium salinarum within salt crystals. Environ Microbiol
Rep. 2012;4:234–41. https://doi.org/10.1111/j.1758-2229.2012.00326.x.
Juárez O, Barquera B. Insights into the mechanism of electron transfer and sodium
translocation of the Na(+)-pumping NADH:quinone oxidoreductase. Biochim
Biophys Acta. 2012;1817:1823–32. https://doi.org/10.1016/j.bbabio.2012.03.017.
Juárez O, Athearn K, Gillespie P, Barquera B. Acid residues in the
transmembrane helices of the Na+−pumping NADH:quinone
oxidoreductase from Vibrio cholerae involved in sodium translocation.
Biochemistry. 2009;48:9516–24. https://doi.org/10.1021/bi900845y.
Romsang A, Duang-Nkern J, Wirathorn W, Vattanaviboon P, Mongkolsuk S.
Pseudomonas aeruginosa IscR-regulated ferredoxin NADP(+) reductase
gene (fprB) functions in Iron-sulfur cluster biogenesis and multiple stress
response. PLoS One. 2015;10:e0134374.
Hreha TN, Mezic KG, Herce HD, Duffy EB, Bourges A, Pryshchep S, et al.
Complete topology of the RNF complex from Vibrio cholerae. Biochemistry.
2015;54:2443–55.
Li K, Pidatala RR, Ramakrishna W. Mutational, proteomic and metabolomic
analysis of a plant growth promoting copper-resistant Pseudomonas spp.
FEMS Microbiol Lett. 2012;335:140–8.
Jain S, Bhatt A. Molecular and in situ characterization of cadmium-resistant
diversified extremophilic strains of Pseudomonas for their bioremediation
potential. 3 Biotech. 2014;4:297–304.
Chong TM, Yin W-F, Chen J-W, Mondy S, Grandclément C, Faure D, et al.
Comprehensive genomic and phenotypic metal resistance profile of
Pseudomonas putida strain S13.1.2 isolated from a vineyard soil. AMB
Express. 2016;6:95.
Khanam S, Guragain M, Lenaburg DL, Kubat R, Patrauchan MA. Calcium
induces tobramycin resistance in Pseudomonas aeruginosa by regulating
RND efflux pumps. Cell Calcium. 2017;61:32–43.
Sharma V, Noriega CE, Rowe JJ. Involvement of NarK1 and NarK2 proteins in
transport of nitrate and nitrite in the denitrifying bacterium Pseudomonas
aeruginosa PAO1. Appl Environ Microbiol. 2006;72:695–701.
Jo JTH, Brinkman FSL, Hancock REW. Aminoglycoside efflux in
Pseudomonas aeruginosa: involvement of novel outer membrane proteins.
Antimicrob Agents Chemother. 2003;47:1101–11.
Skindersoe ME, Alhede M, Phipps R, Yang L, Jensen PO, Rasmussen TB, et al.
Effects of antibiotics on quorum sensing in Pseudomonas aeruginosa.
Antimicrob Agents Chemother. 2008;52:3648–63.
Zhu Y, Czauderna T, Zhao J, Klapperstueck M, Maifiah MHM, Han M-L, et al.
Genome-scale metabolic modeling of responses to polymyxins in
Pseudomonas aeruginosa. Gigascience. 2018;7.
Roundtree IA, Evans ME, Pan T, He C. Dynamic RNA modifications in gene
expression regulation. Cell. 2017;169:1187–200. https://doi.org/10.1016/j.cell.
2017.05.045.
Li S, Jin H, Zhang Q. The effect of exogenous spermidine concentration on
polyamine metabolism and salt tolerance in Zoysiagrass (Zoysia japonica
Elabed et al. BMC Microbiology
32.
33.
34.
35.
36.
37.
38.
39.
40.
41.
42.
43.
44.
45.
46.
47.
48.
49.
50.
51.
52.
(2019) 19:142
Steud) subjected to short-term salinity stress. Front Plant Sci. 2016;7:1221.
https://doi.org/10.3389/fpls.2016.01221.
Liu HP, Dong BH, Zhang YY, Liu ZP, Liu YL. Relationship between osmotic stress
and the levels of free, conjugated and bound polyamines in leaves of wheat
seedlings. Plant Sci. 2004;166:1261–7. https://doi.org/10.1016/J.PLANTSCI.2003.12.039.
Li J, Hu L, Zhang L, Pan X, Hu X. Exogenous spermidine is enhancing
tomato tolerance to salinity–alkalinity stress by regulating chloroplast
antioxidant system and chlorophyll metabolism. BMC Plant Biol. 2015;15:
303. https://doi.org/10.1186/s12870-015-0699-7.
Johnson L, Mulcahy H, Kanevets U, Shi Y, Lewenza S. Surface-localized
spermidine protects the Pseudomonas aeruginosa outer membrane from
antibiotic treatment and oxidative stress. J Bacteriol. 2012;194:813–26.
https://doi.org/10.1128/JB.05230-11.
Lou Y-C, Weng T-H, Li Y-C, Kao Y-F, Lin W-F, Peng H-L, et al. Structure and
dynamics of polymyxin-resistance-associated response regulator PmrA in
complex with promoter DNA. Nat Commun. 2015;6:8838.
Mulcahy H, O’Callaghan J, O’Grady EP, Maciá MD, Borrell N, Gómez C, et al.
Pseudomonas aeruginosa RsmA plays an important role during murine
infection by influencing colonization, virulence, persistence, and pulmonary
inflammation. Infect Immun. 2008;76:632–8.
Allsopp LP, Wood TE, Howard SA, Maggiorelli F, Nolan LM, Wettstadt S, et al.
RsmA and AmrZ orchestrate the assembly of all three type VI secretion systems
in Pseudomonas aeruginosa. Proc Natl Acad Sci U S A. 2017;114:7707–12.
Romero M, Silistre H, Lovelock L, Wright VJ, Chan K-G, Hong K-W, et al.
Genome-wide mapping of the RNA targets of the Pseudomonas aeruginosa
riboregulatory protein RsmN. Nucleic Acids Res. 2018.
Burrowes E, Baysse C, Adams C, O’Gara F. Influence of the regulatory protein
RsmA on cellular functions in Pseudomonas aeruginosa PAO1, as revealed
by transcriptome analysis. Microbiology. 2006;152:405–18.
Zoued A, Durand E, Bebeacua C, Brunet YR, Douzi B, Cambillau C, et al. TssK
is a trimeric cytoplasmic protein interacting with components of both
phage-like and membrane anchoring complexes of the type VI secretion
system. J Biol Chem. 2013;288:27031–41.
Lin J, Cheng J, Chen K, Guo C, Zhang W, Yang X, et al. The icmF3 locus is
involved in multiple adaptation- and virulence-related characteristics in
Pseudomonas aeruginosa PAO1. Front Cell Infect Microbiol. 2015;5:70.
Yang H, Shan Z, Kim J, Wu W, Lian W, Zeng L, et al. Regulatory role of PopN
and its interacting partners in type III secretion of Pseudomonas aeruginosa.
J Bacteriol. 2007;189:2599–609.
Sun Y, Karmakar M, Taylor PR, Rietsch A, Pearlman E. ExoS and ExoT ADP
ribosyltransferase activities mediate Pseudomonas aeruginosa keratitis by
promoting neutrophil apoptosis and bacterial survival. J Immunol. 2012;188:
1884–95.
Rangel SM, Diaz MH, Knoten CA, Zhang A, Hauser AR. The role of ExoS in
dissemination of Pseudomonas aeruginosa during pneumonia. PLoS
Pathog. 2015;11:e1004945.
Li K, Xu C, Jin Y, Sun Z, Liu C, Shi J, et al. SuhB is a regulator of multiple
virulence genes and essential for pathogenesis of Pseudomonas aeruginosa.
MBio. 2013;4:e00419–3.
Pumirat P, Cuccui J, Stabler RA, Stevens JM, Muangsombut V, Singsuksawat
E, et al. Global transcriptional profiling of Burkholderia pseudomallei under
salt stress reveals differential effects on the Bsa type III secretion system.
BMC Microbiol. 2010;10:171.
Häussler S, Becker T. The Pseudomonas quinolone signal (PQS) balances life
and death in Pseudomonas aeruginosa populations. PLoS Pathog. 2008;4:
e1000166. https://doi.org/10.1371/journal.ppat.1000166.
Sévin DC, Stählin JN, Pollak GR, Kuehne A, Sauer U. Global metabolic
responses to salt stress in fifteen species. PLoS One. 2016;11:e0148888.
Kilstrup M, Jacobsen S, Hammer K, Vogensen FK. Induction of heat shock
proteins DnaK, GroEL, and GroES by salt stress in Lactococcus lactis. Appl
Environ Microbiol. 1997;63:1826–37.
García-Descalzo L, Alcazar A, Baquero F, Cid C. Identification of in vivo
HSP90-interacting proteins reveals modularity of HSP90 complexes is
dependent on the environment in psychrophilic bacteria. Cell Stress
Chaperones. 2011;16:203–18.
Vallet-Gely I, Sharp JS, Dove SL. Local and global regulators linking
anaerobiosis to cupA fimbrial gene expression in Pseudomonas aeruginosa.
J Bacteriol. 2007;189:8667–76.
Hilker M, Schwachtje J, Baier M, Balazadeh S, Bäurle I, Geiselhardt S, et al.
Priming and memory of stress responses in organisms lacking a nervous
system. Biol Rev Camb Philos Soc. 2015. https://doi.org/10.1111/brv.12215.
Page 13 of 13
53. Molassiotis A, Tanou G, Diamantidis G. NO says more than “YES” to salt
tolerance: salt priming and systemic nitric oxide signaling in plants. Plant
Signal Behav 2010;5:209–212. http://www.ncbi.nlm.nih.gov/pubmed/
20061805. Accessed 26 Jun 2018.
54. Ibrahim EA. Seed priming to alleviate salinity stress in germinating seeds. J
Plant Physiol. 2016;192:38–46. https://doi.org/10.1016/j.jplph.2015.12.011.
55. Conrath U, Beckers GJM, Flors V, García-Agustín P, Jakab G, Mauch F, MA
Newman, Pieterse CMJ, Poinssot B, Pozo MJ, Pugin A, Schaffrath U, Ton J,
Wendehenne D, Zimmerli L, Mauch-Mani B. Priming: getting ready for
battle. Mol Plant Microbe Interact. 2006;19(10):1062-71.
56. Bruce TJA, Pickett JA. Plant defence signalling induced by biotic attacks.
Curr Opin Plant Biol. 2007;10(4):387-92.
57. Lambert G, Kussell E, Matic I. Memory and fitness optimization of bacteria
under fluctuating environments. PLoS Genet. 2014;10(9):e1004556.
58. Seemann T. Prokka: rapid prokaryotic genome annotation. Bioinformatics.
2014;30(14):2068-9.
59. Seemann T. Snippy: fast bacterial variant calling from NGS reads. 2015.
https://github.com/tseemann/snippy.
60. Smyth GK. Linear models and empirical bayes methods for assessing
differential expression in microarray experiments. Stat Appl Genet Mol Biol.
2004;3:Article3. https://doi.org/10.2202/1544-6115.1027.
61. Smyth GK, Speed T. Normalization of cDNA microarray data. Methods. 2003;
31(4):265-73.
62. Mi H, Huang X, Muruganujan A, Tang H, Mills C, Kang D, Thomas PD.
PANTHER version 11: expanded annotation data from Gene Ontology and
Reactome pathways, and data analysis tool enhancements. Nucleic Acids
Res. 2017;45(D1):D183-D189.
63. Huntley RP, Binns D, Dimmer E, Barrell D, O’Donovan C, Apweiler R.
QuickGO: a user tutorial for the web-based Gene Ontology browser.
Database 2009.
64. Liberati NT, Urbach JM, Miyata S, Lee DG, Drenkard E, Wu G, Villanueva J,
Wei T, Ausubel FM. An ordered, nonredundant library of Pseudomonas
aeruginosa strain PA14 transposon insertion mutants. Proceedings of the
National Academy of Sciences. 2006;103(8):2833-8.
65. Sprouffske K, Wagner A. Growthcurver: an R package for obtaining interpretable
metrics from microbial growth curves. BMC Bioinforma. 2016;17(1).
66. R Core Team. R: a language and environment for statistical computing.
Vienna, Austria: R Foundation for Statistical Computing; 2015.
Publisher’s Note
Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations.
|
|
https://openalex.org/W2962784427
|
https://figshare.com/articles/journal_contribution/Securing_Visible_Light_Communication_Systems_by_Beamforming_in_the_Presence_of_Randomly_Distributed_Eavesdroppers/10194296/1/files/18369107.pdf
|
English
| null |
Securing Visible Light Communication Systems by Beamforming in the Presence of Randomly Distributed Eavesdroppers
|
IEEE transactions on wireless communications
| 2,018
|
cc-by
| 15,152
|
Securing Visible Light Communication Systems by
Beamforming in the Presence of Randomly
Distributed Eavesdroppers Sunghwan Cho, Student Member, IEEE, Gaojie Chen, Member, IEEE, and Justin P. Coo public libraries, offices, and shopping malls. To cope with
the security issue in RF systems, the focus on physical layer
security (PLS), which is based on the information theoretic
notion of employing coding to achieve secure communication,
has accelerated since Wyner’s seminal work [3]. Due to the
broadcast nature of RF communications, both the legitimate
receiver, or user equipment (UE), and eavesdroppers (EDs)
may receive data from the source. However, the principle of
PLS states that if the capacity of the intended data transmission
channel is higher than that of the eavesdropping channel, the
data can be transmitted at a rate close to the difference in
their capacities, the so-called secrecy capacity, so that only
the intended receiver can successfully decode the data [4]. Abstract—This paper considers secrecy enhancement mecha-
nisms in visible light communication (VLC) systems with spatially
distributed passive eavesdroppers (EDs) under the assumption
that there are multiple LED transmitters and one legitimate
user equipment (UE). Based on certain amplitude constraints, we
propose a beamforming scheme to improve secrecy performance. Contrary to the case where null-steering is made possible by
using knowledge of the ED locations, the proposed beamforming
when only statistical information about ED locations is available
directs the transmission along a particular eigenmode related to
the intensity of the ED process and the intended channel. Then, a
LED selection scheme that is less complicated than beamforming
is provided to reduce the secrecy outage probability (SOP). An
approximate closed-form for the SOP is derived by using secrecy
rate bounds. All the analysis is numerically verified by Monte-
Carlo simulations. The analysis shows that the beamformer
yields superior performance to LED selection. However, LED
selection is still a highly efficient alternative scheme due to the
complexity associated with the use of multiple transmitters in the
full beamforming approach. These performance trends and exact
relations between system parameters can be used to develop a
secure VLC system in the presence of randomly distributed EDs. It is difficult to obtain knowledge of passive ED locations. Yet, the analysis of secrecy capacity in spatial networks inher-
ently depends upon this geometric properties. The mathemati-
cal theory of stochastic geometry is a powerful tool for dealing
with spatial uncertainty [5], [6]. I. INTRODUCTION D D
UE to the rapid proliferation of mobile communication
devices and the associated difficulties in adequately allo-
cating spectra to support new services, visible light communi-
cation (VLC) has become an increasingly interesting topic of
research in academia and industry. The VLC medium does
not interfere with RF systems, and VLC spectrum can be
easily reused (spatially) since light can be confined to a certain
indoor area. Moreover, VLC uses unregulated spectrum with a
wide bandwidth (428 to 750 THz) and is capable of exploiting
existing LED light infrastructure for communication [1], [2]. D
UE to the rapid proliferation of mobile communication
devices and the associated difficulties in adequately allo-
cating spectra to support new services, visible light communi-
cation (VLC) has become an increasingly interesting topic of
research in academia and industry. The VLC medium does
not interfere with RF systems, and VLC spectrum can be
easily reused (spatially) since light can be confined to a certain
indoor area. Moreover, VLC uses unregulated spectrum with a
wide bandwidth (428 to 750 THz) and is capable of exploiting
existing LED light infrastructure for communication [1], [2]. Compared to RF channels, VLC exploits line-of-sight (LoS)
propagation and has relatively good signal confinement prop-
erties. However, the VLC channel is still of a broadcast
nature. Therefore, securing VLC transmissions is an important
issue, particularly for deployments in open places such as Motivated by the advantage of PLS, a recent topic of
interest in the research community has been the investigation
of PLS applied in VLC systems using various transmission
methods, e.g., beamforming, jamming, etc. Recently, Mostafa
et al. analyzed the achievable secrecy rate for single-input
single-output (SISO) and multiple-input single-output (MISO)
scenarios and proposed a variety of beamforming schemes
such as zero-forcing (null-steering), artificial noise genera-
tion, friendly jamming, and robust beamforming [11]–[13]. Additionally, Zaid and Arfaoui proposed the truncated normal
input distribution and the truncated generalized normal input
distribution, respectively, to increase the secrecy rate under
constraints on the input signal amplitude [14], [15]. It is
important to note, however, that these contributions assumed a
small number of EDs are present in the system and either the
channel state information (CSI) or the locations of the EDs Compared to RF channels, VLC exploits line-of-sight (LoS)
propagation and has relatively good signal confinement prop-
erties. However, the VLC channel is still of a broadcast
nature. Securing Visible Light Communication Systems by
Beamforming in the Presence of Randomly
Distributed Eavesdroppers Using stochastic geometric
methods, the impact of random ED locations on secrecy
performance for RF communications has been investigated in
recent years [7]–[10]. The location distribution of EDs can be
modeled as a Poisson point process (PPP) or a binomial point
process (BPP). In [7], the locations of multiple legitimate pairs
and EDs were represented as independent two-dimensional
PPPs, and the average secrecy throughput in such a wireless
network was studied. Multiple-input multiple-output (MIMO)
transmission with beamforming was considered later in [8], [9]
to enhance secrecy performance. Transmit antenna selection
and full-duplex schemes have also been used to enhance
secrecy performance with randomly located EDs [10]. Index Terms—Physical layer security, visible light communi-
cation, beamforming, stochastic geometry, secrecy outage prob-
ability. S. Cho and J. P. Coon are with the Department of Engineering Science,
University of Oxford, Oxford, OX1 3PJ, U.K. (e-mail: {sunghwan.cho,
justin.coon}@eng.ox.ac.uk). p
g
g
University of Oxford, Oxford, OX1 3PJ, U.K. (e-mail: {sunghwan.cho,
justin.coon}@eng.ox.ac.uk).
G. Chen is with the Department of Engineering, University of Leicester,
Leicester, LE1 7RH, U.K. (e-mail: gaojie.chen@leicester.ac.uk).
This work was supported by EPSRC grant number EP/N002350/1
(“Spatially Embedded Networks”). j
}
g
)
G. Chen is with the Department of Engineering, University of Leicester,
Leicester, LE1 7RH, U.K. (e-mail: gaojie.chen@leicester.ac.uk).
This work was supported by EPSRC grant number EP/N002350/1
(“Spatially Embedded Networks”). g
j
This work was supported by EPSRC grant number EP/N002350/1
(“Spatially Embedded Networks”). G. Chen is with the Department of Engineering, University of Leicester,
Leicester, LE1 7RH, U.K. (e-mail: gaojie.chen@leicester.ac.uk). A. Data Transmission We consider the downlink of a VLC system in a rectangular
room2 as shown in Fig. 1, where W, L, and Z denote the
width, the length, and the height of the ceiling relative to the
work plane, respectively. We assume that multiple UEs use
the optical time-division multiple access (TDMA) [1] as the
channel access scheme; thus only one fixed active UE can exist
at a time. Also, multiple random passive EDs are assumed to
be randomly distributed according to a PPP ΦE with intensity
λE in the room. Note that there is no assumption that the PPP
is homogeneous. are known. In practice, it might be impossible to obtain ED
CSI or locations. Inspired by the aforementioned contributions exploiting
stochastic geometry in RF communications, our previous
work [16] firstly developed an analogous approach to modeling
ED locations in VLC systems. In this paper, we use this model
to further analyze system performance and propose new MISO
beamforming solutions. The contributions of this paper can be
summarized comprehensively as follows: We assume all the receiver nodes are located on the same
work plane, and N transmitters are attached to the ceiling of
the room. Each transmitter — i.e., an LED fixture consisting
of multiple individual LEDs — is assumed to be capable of
communicating independently of other transmitters [11]. We
assume that EDs act independently of one another (i.e., there
is no collusion). • we propose a MISO beamforming solution that optimizes
secrecy performance measures (e.g., the signal-to-noise
ratio (SNR) and secrecy rate bounds) subject to a signal
amplitude constraint for VLC systems when only infor-
mation about the ED intensity measure is available at the
transmitter; A DC-biased pulse-amplitude modulation (PAM) VLC
scheme is considered [11], [12]. The data signal si(t) ∈R for
the ith transmitter in time slot t is superimposed on a fixed
bias current IDC ∈R+. The fixed bias IDC is used for the
purpose of illumination. Thus, the ith transmitter’s modulated
signal xi(t) of si(t) is a zero-mean current signal that can be
expressed by xi(t) = αIDCsi(t), where α ∈[0, 1] is termed
the modulation index. Note that xi(t) is the scaled version
of si(t). To maintain linear current-to-light conversion, the
amplitude of xi(t) is constrained such that |xi(t)| ≤αIDC. Thus, the dynamic range of the LED is IDC±αIDC. Also, since
E[xi(t)] = 0, the modulated signal does not affect illumination. I. INTRODUCTION Therefore, securing VLC transmissions is an important
issue, particularly for deployments in open places such as Fig. 1. Rectangular room configuration for VLC systems. W and L
are the room’s width and length, and Z denotes the height from the
ceiling to the work plane. Dots denote LED transmitters. TABLE I. Notation and Symbols Used in the Paper TABLE I. Notation and Symbols Used in the Paper Symbol
Definition/Explanation
L
the length of a room
W
the width of a room
Z
the height from the ceiling to the work plane
N
number of transmitters
ΦE
poisson point process of EDs
λE
ED intensity function
IDC
fixed bias current
R
photodetector’s responsivity
α
modulation index
φ1/2
half illuminance angle
APD
physical area of a photodiode
φ
angle of irradiance
ψ
angle of incidence
κ
refractive index of an optical concentrator
Ψc
received field of view of a photodiode
R
set of real numbers
R+
set of non-negative real numbers
1
all-ones column vector
0
all-zeros column vector
E[·]
expectation operator
P(·)
probability operator
[·]T
transpose operator
Γ(x, y)
upper incomplete gamma function Symbol
Definition/Explanation
L
the length of a room
W
the width of a room
Z
the height from the ceiling to the work plane
N
number of transmitters
ΦE
poisson point process of EDs
λE
ED intensity function
IDC
fixed bias current
R
photodetector’s responsivity
α
modulation index
φ1/2
half illuminance angle
APD
physical area of a photodiode
φ
angle of irradiance
ψ
angle of incidence
κ
refractive index of an optical concentrator
Ψc
received field of view of a photodiode
R
set of real numbers
R+
set of non-negative real numbers
1
all-ones column vector
0
all-zeros column vector
E[·]
expectation operator
P(·)
probability operator
[·]T
transpose operator
Γ(x, y)
upper incomplete gamma function Fig. 1. Rectangular room configuration for VLC systems. W and L
are the room’s width and length, and Z denotes the height from the
ceiling to the work plane. Dots denote LED transmitters. A. Data Transmission hi =
η(m + 1)APD
2πl2
i
κ2 cosm(φi)
sin2(Ψc)
cos(ψi)RT
for
|ψi| ≤Ψc,
0
for
|ψi| > Ψc
(2) where η (W/A) is the current-to-light conversion efficiency and
m = −ln(2)/ln(cos(φ1/2)) is the order of Lambertian emission
with half illuminance at φ1/2, and APD is the physical area
of the photodiode (PD). As shown in Fig. 1, li is the distance
between the ith transmitter and the receiver, and di denotes
the distance between the ith transmitter and the receiver in
the work plane. φi is the angle of irradiance, and ψi is the
angle of incidence. Also, κ is the refractive index of the optical
concentrator at the receiver, Ψc denotes the received field of
view of the PD, R is the photodetector’s responsivity, and
T (V/A) is the transimpedance amplifier gain. Note that this
channel model considers only an LoS component and small
scale fading does not exist in VLC systems since the detector
area is much larger than the wavelength of visible light [18]. Moreover, by assuming that a receiver’s PD faces up normal
to the work plane, we can rewrite (2) in terms of li as The capacity of the VLC channel is given by [20] C = max
pX I(X;Y)
(6) (6) where pX is the input distribution and I(·; ·) denotes the
mutual information. Note that the random variable X has an
amplitude constraint, i.e., |X| ≤αIDC. It is infeasible to
calculate the closed-form solution for (6) due to this amplitude
constraint [21]. Thus, the upper and lower bounds on the
transmission rate under the beamfoming scheme proposed in
(4) are used for our analysis, which are given in [20, Theorem
5] as Cupper = 1
2 log (1 + γ),
(7a)
Clower = 1
2 log
1 + 2γ
πe
(7b) (7a) (7b) hi =η(m + 1)APD
2πl2
i
κ2
sin2(Ψc)
Z
li
m Z
li
RT = Kl−(m+3)
i
(3) (3) where γ is the received SNR. Note that these bounds on the
rate are based on the SISO channel [20], but we translate these
bounds into the MISO channel by setting the input of the SISO
channel as αIDChTws(t) using the proposed beamforming
scheme similarly in [22]. where K = η(m + 1)APDZm+1κ2RT / 2π sin2(Ψc). A. Data Transmission • we demonstrate that the proposed beamforming method
is well approximated by a simple LED selection scheme
when the distance between the UE and one of the
transmitting LEDs is small; • we obtain closed-form bounds on the secrecy outage
probability (SOP) when LED selection is adopted. The rest of this paper is organized as follows1. Section
II begins with the system model describing the modulation
and beamforming schemes in VLC and providing various
performance measures. In Section III, the beamformer max-
imizing secrecy performance is investigated. In Section IV,
LED selection is proposed, and closed-form upper and lower
bounds on the SOP are calculated. Section V gives numerical
results that support our analysis. Section VI concludes the
paper. Therefore, the MISO VLC channel model can be written as y(t) = hTx(t) + n(t)
(1) y(t) = hTx(t) + n(t) (1) 1The notation and symbols used in the paper are listed in Table I. 2This may be an open space such as a shopping mall or a large office. γEe =
α2I2
DCwThEehT
Eew
σ2
. (5b) where h ∈[h1, h2, ..., hN]T is the channel gain vector, x(t) =
[x1(t), x2(t), ..., xN(t)]T is the transmitted signal vector, and
n(t) is the zero-mean additive white Gaussian noise (AWGN)
at a receiver. Accordingly, the transmitted signal x(t) is subject
to the amplitude constraint |x(t)| ⪯αIDC1, where ⪯denotes
the componentwise inequality. According to [17], the channel
gain hi ∈R+ in a VLC system corresponding to an LED with
a generalized Lambertian emission pattern is given by (5b) We use SNR to denote the peak, rather than average, SNR for
the remainder of the paper. Note that this SNR is given only
under the assumption of the proposed beamforming scheme. This is because the beamforming is not proven to be optimal
for the Gaussian VLC MISO wiretap channel subject to
amplitude constraints, unlike the Gaussian RF MISO wiretap
channel considered in [19]. However, beamforming in VLC
systems may be preferred as it permits a simple implementa-
tion [12]. Of course, other VLC MISO transmission schemes
may also be considered, and it is hoped that this work will
stimulate further investigations on this topic. We use SNR to denote the peak, rather than average, SNR for
the remainder of the paper. Note that this SNR is given only
under the assumption of the proposed beamforming scheme. A. Data Transmission As in [11], we define a beamforming vector w
=
[w1, w2, ..., wN]T, where wi for i ∈{1, 2, ..., N} is a weight for
the ith transmitter and |wi| ≤1. Thus, the transmitted signal
vector x(t) can be written as x(t) = wαIDCs(t). Therefore, the
received signal at the UE and eavesdropper Ee for e ∈ΦE
with the beamforming can be described as In addition to that, we define the SOP as the probability
that the secrecy capacity Cs is lower than a threshold secrecy
rate Cth, i.e., PSO = P(Cs ≤Cth). (8) (8) yU(t) = αIDChT
Uws(t) + nU(t),
(4a)
yEe(t) = αIDChT
Eews(t) + nEe(t)
(4b) (4a) (4a)
(4b) However, since the closed-form of the secrecy capacity with
the input amplitude constraint is also not readily available, we
employ the lower and upper bounds on the secrecy rate as
defined in [11, Theorem 1], which are given by (4b) respectively, where hU and hEe ∈RN are the channel gain
vectors from the transmitters to the UE and eavesdropper Ee,
respectively, and nU and nEe are zero-mean AWGN random
variables at the UE and eavesdropper Ee, each with variance
σ2. For notational convenience, the time index t is ignored for
the remainder of the paper. Clower
s
= max
1
2 log
6γU + 3πe
πeγ∗
E + 3πe
, 0
,
(9a)
Cupper
s
= max
1
2 log
γU + 1
γ∗
E + 1
, 0
(9b) (9a) (9b) where γ∗
E = max
e∈ΦE γEe (i.e., the worst case ED with the highest
SNR) and e in (9a) is the base of the natural logarithm. Note
that the upper bound also can be possible only under the
proposed beamforming scheme. Applying these bounds yields
the following upper and lower bounds on the SOP: where γ∗
E = max
e∈ΦE γEe (i.e., the worst case ED with the highest A. Beamforming Based on SNR 3. Update iteration. k := k + 1. until stopping criterion (e.g., 10−4 used in Section V) is satisfied. Without knowledge of ED locations, a natural objective
is to minimize the average SNR of EDs γE subject to a
constraint on the minimum required UE SNR γU, same as in
RF communications [23]–[25]. A related, alternative objective
may be to maximize γU subject to a constraint on γE. In this
subsection, both of these cases will be investigated. According to the local sensitivity analysis in [26], zero La-
grange multipliers µ−and µ+ imply that the second inequality
constraint is slack, i.e., |wi| , 1 for i ∈{1, 2, ..., N}. 1) Minimizing Average Eavesdropper SNR: The SNR of
the UE (5a) can be written as If (17) can be satisfied3, computing the partial derivative of
L with respect to w and setting the result equal to zero leads to γU = ϕwTAw
(11) (11) (B −λA)w = 0. (18) (18) where ϕ = α2I2
DC/σ2 and A = hUhT
U. Note that the rank of
A is one. Also, from (5b), the average SNR of an ED can be
written as The beamforming vector must satisfy (18). If λ = 0 (i.e., the
UE SNR constraint is inactive), w should belong to the null
space of B. Referring to (13), it should be clear that the rank
of B depends on the intensity of the ED process. Indeed, it is
possible that the intensity is such that B is reduced rank. In
this case, the vectors of the null space of B yields Bw = 0,
thus all the vectors of the null space of B satisfying (15b) can
be the solution of (15). On the other hand, if B is full rank4,
we have γE = E[ϕwThEehT
Eew] = ϕwTE[hEehT
Ee]w = ϕwTBw
(12)
where B = E[hEehT
Ee]. The element in the ith row and jth
column of B is given by Bi,j =
1
NE
∫
L
2
−L
2
∫
W
2
−W
2
λE(x, y)K2
lm+3
i
(x, y)lm+3
j
(x, y) dx dy
(13) (13) we have B
−1Aw = ηw
(19) (19) where λE(x, y) is the intensity of EDs at the point (x, y) and
li(x, y) for i ∈{1, 2, · · · , N} is the distance between the ith
transmitter and the point (x, y). 3If ρU can be achieved by only the transmission of the nearest LED to
the UE, the beamformers of other transmitters must not be ±1. Moreover,
without loss of generality, we can assume that the beamforming element of
the nearest LED can be very close to ±1, but not equal to ±1. Then, (17) can
be satisfied. Algorithm 1 CCP algorithms for solving (15) Algorithm 1 CCP algorithms for solving (15) given an initial feasible point w0 In this section, we propose beamformer designs based on
the formulation of several optimisation problems that aim to
improve secrecy performance when only information about
the intensity of the ED PPP is known. Crucially, we demon-
strate that the proposed beamforming solutions apply to both
homogenous and inhomogeneous ED processes. k := 0
repeat p
1. Convexify. Form g(w; wk) ≜ϕwT
k Awk +2ϕ(Awk)T (w−wk) fy
g( ;
k)
ϕ
k
k
ϕ(
k) (
k)
2. Solve. Set the value of wk+1 to a solution of the convex
problem w∗= arg min
w
ϕwTBw
s. t.
g(w; wk) ≥ρU
|w| ⪯1 B. Performance Measures For Gaussian VLC MISO channels with amplitude con-
straints, the peak SNR at the UE and the eavesdropper Ee
with the beamforming can be written as Pupper
SO
= P(Clower
s
≤Cth),
(10a)
Plower
SO
= P(Cupper
s
≤Cth). (10b) (10a)
(10b) (10a) γU =
α2I2
DCwThUhT
Uw
σ2
,
(5a) (5a) (10b) 4This condition can be confirmed when the ED PPP is homogeneous, for
example. A. Beamforming Based on SNR Following the same approach as above leads to an analogous
result: Following the same approach as above leads to an analogous
result: w∗= arg max
w
1
2 log
1 + 2γU
πe
(28a)
s. t.
1
2E
log(1 + γEe)
≤ξE
|w| ⪯1
(28b) (28a) (A −λB)w = 0. (23) (23) (28b) When B is singular, unlike the previous approach, we cannot
guarantee that the vectors of the null space of B satisfying the
constraint (22b) maximize the objective function (22a). Thus,
in this case, this problem should be solved by a numerical
method as proposed in Algorithm 1. If B is nonsingular, we
have
1 where ξE is the target constraint for the average rate upper
bound of EDs. Again, by applying Jensen’s inequality to the
constraint, we arrive at the alternative formulation where ξE is the target constraint for the average rate upper
bound of EDs. Again, by applying Jensen’s inequality to the
constraint, we arrive at the alternative formulation w∗= arg max
w
ϕwTAw
(29a)
s. t.
ϕwTBw ≤M2
|w| ⪯1
(29b) (29a) B
−1Aw = λw. (24) (24) (24) (29b) Hence, λ and w are an eigenvalue-eigenvector pair for B
−1A. The solution satisfies Hence, λ and w are an eigenvalue-eigenvector pair for B
−1A. The solution satisfies where M2 = 22ξ E −1. Hence, if B is invertible, we deduce
that the
alternative beamforming vector is the eigenvector
corresponding to the maximum eigenvalue of B
−1A scaled
appropriately as similar as the problem (22). If B is not
invertible, the solution should be numerically found via the
CCP algorithm proposed in Algorithm 1. γU = ϕwTAw = ϕλwTBw ≤λmaxρE
(25) (25) where λmax is the maximum (indeed, the only nonzero) eigen-
value, and the beamformer w∗is the associated eigenvector
after being scaled such that ϕw∗TBw∗= ρE and |w| ≺1 (if
feasible). A. Beamforming Based on SNR Note that λE(x, y) is a constant
when the ED point process is homogeneous. Also, NE denotes
the average number of EDs, which is given by where η = 1/λ. This implies that η is the eigenvalue of B
−1A
and w is the corresponding eigenvector. Hence, the solution
satisfies where η = 1/λ. This implies that η is the eigenvalue of B
−1A
and w is the corresponding eigenvector. Hence, the solution
satisfies γE = ϕwTBw = ϕ1
ηwTAw ≥
1
ηmax
ρU. (20) (20) NE =
∫
L
2
−L
2
∫
W
2
−W
2
λE(x, y) dx dy. (14) From this, we deduce that the minimum γE is inversely
proportional to the maximum eigenvalue ηmax. Here, since A
is rank one, we have that B
−1A is rank one since (14) From the formulation given above, it is clear that the
beamforming vector w∗is given by 0 < rank
B
−1A
≤min
n
rank
B
, rank(A)
o
= 1. (21) (21) w∗= arg min
w
ϕwTBw
(15a)
s. t. ϕwTAw ≥ρU
|w| ⪯1
(15b) (15a) Hence, there exists a single non-zero eigenvalue ηmax, and
the beamformer w∗is obtained by scaling the corresponding
eigenvector such that ϕw∗TAw∗= ρU and |w∗| ≺1. When
feasible, the fact that only one non-zero eigenvalue exists im-
plies the solution is unique. Hence, it is clear that this approach
gives a simple method of calculating the beamforming vector. (15b) where ρU denotes the required SNR of the UE. Note that the
beamformer w∗is 0 ∈RN without the first constraint. Then,
we form the Lagrangian [26] as follows On the other hand, if ρU is high so that (17) cannot be
satisfied, the solution w∗can be found numerically with the L = ϕwTBw−λ
ϕwTAw −ρU
−µT
−(w+1)+µT
+(w−1) (16) where λ ∈R and µ−, µ+ ∈RN are the Lagrange multipliers. To let L have the non-trivial minimum value with respect to
w and analytically calculate the solution of (15), the condition
has to be satisfied as where λ ∈R and µ−, µ+ ∈RN are the Lagrange multipliers. To let L have the non-trivial minimum value with respect to
w and analytically calculate the solution of (15), the condition
has to be satisfied as µ−= µ+ = 0. A. Beamforming Based on SNR (17) (17) we revise the objective function using Jensen’s inequality,
i.e., it becomes (1/2) log(1 + γE), which allows us to obtain
the alternative beamformer w∗. In addition, since log(·) is a
monotonic increasing function, (26) can be reformulated to convex-concave procedure (CCP) [27], which is a powerful
heuristic method to find local solutions. Given a initial feasible
point w0, we transform the first constraint in (15b) into
the affine function (i.e., convex) by applying the first-order
Taylor series approximation and solve the convex optimization
problem. Then, we set the solution to w1 and repeat the same
procedure until the improvement in the objective value is less
than some threshold ϵ. The detailed iterative algorithm is given
in Algorithm 1. w∗= arg min
w
ϕwTBw
(27a)
s. t. ϕwTAw ≥M1
|w| ⪯1
(27b) (27a) (27b) where M1 = 22ξU −1 πe/2. Note that (27) has an identi-
cal form to (15). When B is invertible, It follows that the
altenative beamformer w∗is the eigenvector corresponding to
1 where M1 = 22ξU −1 πe/2. Note that (27) has an identi-
cal form to (15). When B is invertible, It follows that the
altenative beamformer w∗is the eigenvector corresponding to
the maximum eigenvalue of B
−1A after being scaled such that
ϕw∗TAw∗= M1 and |w| ≺1. If B is reduced rank, the vectors
of the null space of B satisfying (27b) can be the solution of
(27). 2) Maximizing User SNR: We now investigate the problem
of maximizing the SNR of the UE γU while constraining
the average SNR of the EDs γE. Similar to the previous
subsection, we can formulate the optimization problem as the maximum eigenvalue of B
−1A after being scaled such that
ϕw∗TAw∗= M1 and |w| ≺1. If B is reduced rank, the vectors
of the null space of B satisfying (27b) can be the solution of
(27). w∗= arg max
w
ϕwTAw
(22a)
s. t.
ϕwTBw ≤ρE
|w| ⪯1
(22b) (22a) (22b) 2) Maximizing User Rate: The optimization problem for
maximizing the lower bound of the UE’s rate subject to an
ED rate constraint can be formulated as where ρE is the target constraint on the average SNR of EDs. where ρE is the target constraint on the average SNR of EDs. Following the same approach as above leads to an analogous
result: where ρE is the target constraint on the average SNR of EDs. IV. LED SELECTION We turn our attention to the simple method of LED selec-
tion. In the LED selection scheme, the nearest transmitter to
the UE is selected to transmit the information bearing signal. In this section, we first investigate the SNR and transmission
rate performance metrics with LED selection. We then analyze
the SOP. Closed-form expressions for the upper and lower
bounds of the SOP with the LED selection are derived. (b) The average SNR of EDs for a UE at (2, 1) The room configuration in Fig. 3 is used for our analysis,
where multiple transmitters are attached to the ceiling such
that the coverage area is identical (but translated in the work
plane) for each of them. The coverage area is defined as the
area where a transmitter is responsible for supporting the UE. According to the LED selection scheme, the coverage area
is determined by the distance between the transmitter and
the UE; the nearest transmitter is responsible for supporting
the UE. We assume that the UE can be located in the
coverage area6, i.e., the shaded area, while multiple EDs can
(randomly) position themselves anywhere in the entire area
of the room. The parameters ˆa and ˆk in the figure denote
the half length of the rectangular coverage area’s width and
the ratio of length to width of the coverage area. By defining
the number of rows and columns of the LED arrangement as
Nr and Nc, respectively, the relations ˆa = (L/2 −g)/Nr and
ˆk = (W/2 −g)/(Nc ˆa) can be deduced, where g denotes the
thickness of the edge zone. The UE and the EDs are assumed
to be uniformly distributed according to homogeneous BPP
(with one point) and a homogeneous PPP ΦE with intensity
λE, respectively. Fig. 2. The average SNR of EDs for different UE locations plotted
against beamforming weights. Two transmitters T1 and T2 are located
at (2.5, 0) and (−2.5, 0), respectively. The room size is L = 8 m and
W = 8 m. ρU = 40 dB is applied. Fig. 2. The average SNR of EDs for different UE locations plotted
against beamforming weights. Two transmitters T1 and T2 are located
at (2.5, 0) and (−2.5, 0), respectively. The room size is L = 8 m and
W = 8 m. ρU = 40 dB is applied. center of the room is located at the origin of our coordinate
system. 6One may think of this restriction as a policy instigated to guarantee
the security of UE, through the restriction of the UE to a “safety zone”. On
the other hand, it is fairly easy to see that this model reflects many realistic
scenarios. C. Comparing MISO Beamforming to LED Selection In the previous subsection, we showed that the beamformer
for SNR and rate objectives is universally related to the
maximum eigenmode of B
−1A. The proposed beamforming
vector cannot be a null-steering solution as was the case in [12]
unless a (perhaps pathological) condition occurs that makes B
singular. In this subsection, we will investigate beamforming based
on the achievable transmission rate of the UE and EDs under
the proposed beamforming scheme. 1) Minimizing Eavesdropper Average Rate:
Since the
closed-form expression for the capacity of a VLC channel is
not available, we will use the upper and lower bounds given
in (7). Thus, the beamformer w∗minimizing the average ED
rate upper bound under the proposed beamforming is given by Since A depends on the UE’s location and B depends on the
transmitter locations and the intensity function of the EDs, we
can note that when the UE is located near to a transmitter, the
beamformer looks like a transmitter selection process, i.e., the
nearest transmitter’s weight is dominant to the others. This
is because the eigenvector corresponding to the maximum
eigenvalue is significantly affected by the maximum diagonal
element of A when the UE is near to the transmitter. w∗= arg min
w
E
1
2 log 1 + γEe
(26a)
s. t.
1
2 log(1 + 2γU
πe ) ≥ξU
|w| ⪯1
(26b) where ξU is the required rate lower bound for the UE. However, since the objective function (26a) does not lend itself
to tractable analysis and a practically implementable solution, To illustrate this point, let us take an example of a simple
VLC network where two transmitters are located at T1 =
(2.5, 0) and T2 = (−2.5, 0) in an 8 × 8 m2 square room. The (a) The average SNR of EDs for a UE at (0, 1)
(b) The average SNR of EDs for a UE at (2, 1)
Fig. 2. The average SNR of EDs for different UE locations plotted
against beamforming weights. Two transmitters T1 and T2 are located
at (2.5, 0) and (−2.5, 0), respectively. The room size is L = 8 m and
W = 8 m. ρU = 40 dB is applied. (a) The average SNR of EDs for a UE at (0, 1) (a) The average SNR of EDs for a UE at (0, 1) Fig. 3. The room configuration for LED selection. Fig. 3. 5We will further explore the secrecy performance for both schemes later
in Section V. C. Comparing MISO Beamforming to LED Selection The room configuration for LED selection. due to the use of multiple transmitters. Even though we
can efficiently find an eigenvector related to the maximum
eigenvalue by using the power method or the Rayleigh quotient
method, the computational complexity still can be significant
since complexity grows with N2. Additionally, it might not
be practical to accurately estimate the intensity function that
describes ED locations. These arguments motivate further
investigation of the performance of LED selection in the
context of VLC systems with randomly distributed EDs. (a) The average SNR of EDs for a UE at (0, 1) (b) The average SNR of EDs for a UE at (2, 1)
Fig. 2. The average SNR of EDs for different UE locations plotted
against beamforming weights. Two transmitters T1 and T2 are located
at (2.5, 0) and (−2.5, 0), respectively. The room size is L = 8 m and
W = 8 m. ρU = 40 dB is applied. IV. LED SELECTION Figs. 2(a) and (b) show the average SNR of EDs
according to a different set of beamformer weights when the
UE is located at (0, 1) and (2, 1), respectively. The required
SNR of the UE is ρU = 40 dB. In Fig. 2(a), since the UE
is located at the exact middle point of the two transmitters,
the weight values for the two transmitters that minimize the
average SNR of the EDs are equivalent, i.e., w∗≈(0.3, 0.3). However, when the UE is nearer to T1 as in Fig. 2(b),
we can see that the beamformer resembles LED selection. More specifically, w∗≈(0.24, 0.02) in this example. We can
thus surmise that secrecy performance will be similar for
beamforming and transmitter selection when the UE is located
close to a transmitter5. With regard to practicalities of implementation, the com-
plexity of the beamforming scheme can be reasonably high A. SNR and Transmission Rate Analysis
and and
K1 =
2
p
ˆk2 −1/ˆk2 −2 arccos
1
ˆk
a(ˆk −1)
,
K2 = π −ˆaK1,
K3 = 2
arccos
1
ˆk
−arccos
1
p
ˆk2 + 1
! −arccos
ˆk
p
ˆk2 + 1
! +
2ˆk
ˆk2 + 1
−
p
ˆk2 −1
ˆk2
! /
ˆa(
p
ˆk2 + 1 −ˆk)
,
K4 = π −2
arccos
1
ˆk
−
p
ˆk2 −1
ˆk2
! −ˆk ˆaK3. and Since only the nearest transmitter is selected to transmit a
signal to the UE, the vector representing LED selection ws
can be described by K2 = π −ˆaK1,
K3 = 2
arccos
1
ˆk
−arccos
1
p
ˆk2 + 1
! −arccos
ˆk
p
ˆk2 + 1
! +
2ˆk
ˆk2 + 1
−
p
ˆk2 −1
ˆk2
! /
ˆa(
p
ˆk2 + 1 −ˆk)
,
K4 = π −2
arccos
1
ˆk
−
p
ˆk2 −1
ˆk2
! −ˆk ˆaK3. ws = ω ei
(30) (30) where ω is the weight of the selected transmitter and ei is
the ith column of the identity matrix corresponding to the
maximum diagonal element of A, i.e., the ith transmitter is the
nearest. Therefore, the average SNR of the EDs when LED
selection is employed is given by γE = ϕwT
s Bws. IV. LED SELECTION (31) (31) If there exists a required SNR for the UE (ρU, as in (15)), ω
should satisfy ω2A2
i,i ≥ρU, where Ai,i denotes the maximum
diagonal element of A. Similarly, the SNR of the UE can be
described by (38) Proof. See Appendix A. Proof. See Appendix A. □ Proof. See Appendix A. □ □ Lemma 2. The CDF and PDF of the received SNR for the
nearest ED relative to the selected transmitter γ∗
E are given
by γU = ϕwT
s Aws. (32) (32) Also, if there exists a constraint on the average SNR of the
EDs (ρE, as in (22)), ω should satisfy ω2B
2
i,i ≤ρE, where
Bi,i is the ith diagonal element of B. by Fγ∗
E (x) = e
λE π
Z2−
x
ζ
−
1
m+3
! ,
(39a)
fγ∗
E (x) =
λEπ
x
ζ
−
1
m+3
x(m + 3)
e
λE π
x
ζ
−
1
m+3 −Z2
! (39b) Bi,i is the ith diagonal element of B. (39a) Moreover, the average upper bound on the transmission rate
of the ED channel with LED selection can be written as C
upper
E
= E
1
2 log
1 + ϕω2h2
i,Ee
(33) (39b) (33) for 0 ≤x ≤ζZ−2(m+3). where hi,Ee is the channel gain from the ith transmitter to
eavesdropper Ee. Also, the lower bound on the transmission
rate of the UE is given by where hi,Ee is the channel gain from the ith transmitter to
eavesdropper Ee. Also, the lower bound on the transmission
rate of the UE is given by Proof. See Appendix B. Proof. See Appendix B. Proof. See Appendix B. □ □ According to (10), the upper and lower bounds of the SOP
can be written as Clower
U
= 1
2 log
1 + 2ϕwT
s Aws
πe
. (34) (34) Pupper
SO
= P(Clower
s
≤Cth)
= P
6γU + 3πe
πeγ∗
E + 3πe ≤22Cth
= P(γU ≤aγ∗
E + 3a −πe/2)
(40) B. Secrecy Outage Probability (40) Here, we calculate upper and lower bounds on the SOP
for the LED selection scheme. To this end, we necessarily
must know something about the SNR statistics for the UE
and the nearest ED, hence, the worst case ED. Thus, we
begin by providing results for the probability density function
(PDF) and the cumulative distribution function (CDF) for these
random variables. To simplify the calculation of the SOP, we
assume the weight of the selected transmitter’s beamforming
vector is always one. This assumption is justified since, as we
will see, the beamforming weight itself does not significantly
affect the SOP when LED selection is adopted. and Plower
SO
= P(Cupper
s
≤Cth)
= P
γU + 1
γ∗
E + 1 ≤22Cth
= P(γU ≤bγ∗
E + b −1)
(41) (41) = P(γU ≤bγ∗
E + b −1)
(41) respectively, where a = πe22Cth/6 and b = 22Cth. Thus, the
upper and lower bounds on the SOP can be calculated by
appropriately integrating over the PDFs of γU and γ∗
E. E
Firstly, the upper bound on the SOP can be calculated to
yield Lemma 1. The CDF and PDF of the received UE SNR γU are
given by (35) and (36) at the top of the next page, respectively,
where ζ = (α2I2
DCK2)/σ2, and yi and Ki for i ∈{1, 2, 3, 4}
are given by Pupper
SO
=
∫y4
y1
∫
y4−3a+πe/2
a
y−3a+πe/2
a
fγ∗
E (x) fγU (y) dx dy
| {z }
U1
+
∫y4
y1
∫y4
y4−3a+πe/2
a
fγ∗
E (x) fγU (y) dx dy
| {z }
U2
. 7The absolute value of this term is less than 3 for Cth = 1 bit/Hz/s, while
y1/a is larger than 5 × 103 with the parameters used in Section V. The high
SNR is obtainable in VLC system, which is an indirect consequence of the
illumination requirements [28]. B. Secrecy Outage Probability (42) y1 = ζ( ˆa2(1 + ˆk2) + Z2)−3−m,
y2 = ζ( ˆa2 ˆk2 + Z2)−3−m,
y3 = ζ( ˆa2 + Z2)−3−m,
y4 = ζZ−2(3+m) (42) (37) U2 FγU (y) =
1 −
K4
(y/ζ)
−1
m+3 −Z2
+ K3
(y/ζ)
−1
m+3 −Z23/2
/(4ˆk ˆa2)
for
y1 < y ≤y2
1 −
K2
(y/ζ)
−1
m+3 −Z2
+ K1
(y/ζ)
−1
m+3 −Z23/2
/(4ˆk ˆa2)
for
y2 < y ≤y3
1 −π
(y/ζ)
−1
m+3 −Z2
/(4ˆk ˆa2)
for
y3 < y ≤y4
(35) (35) 1 −π
(y/ζ)
−1
m+3 −Z2
/(4ˆk ˆa2)
for
y3 < y ≤y4 for
y3 < y ≤y4 fγU (y) =
(y/ζ)−
1
m+3
3K3
q
(y/ζ)−
1
m+3 −Z2 + 2K4
/(8 ˆa2 ˆk(m + 3)y)
for
y1 < y ≤y2
(y/ζ)−
1
m+3
3K1
q
(y/ζ)−
1
m+3 −Z2 + 2K2
/(8 ˆa2 ˆk(m + 3)y)
for
y2 < y ≤y3
π (y/ζ)−
1
m+3 /(4 ˆa2 ˆk(m + 3)y)
for
y3 < y ≤y4
(36) (36) TABLE II. Simulation Parameters
Room configuration
Length (L) × Width (W)
10 × 10 m2
Height from the work plane (Z)
3 m
Number of light fixtures
4
Number of LEDs per fixture
9
LED electrical and optical characteristics
Average optical power per LED
8 W
Optical power / current η
5
Nominal half-intensity angle Φ1/2
60◦
Modulation index α
0.5
Optical receiver characteristics
Photodetector’s responsivity
0.54 mA/mW
Photodetector’s physical area APD
1 cm2
Lens refractive index κ
1.5
Noise power σ2
−98.35 dBm TABLE II. Simulation Parameters Here, we ignore the (−3a + πe/2)/a term in the integration
limits, because it is small enough7 not to meaningfully affect
our calculation. Thus, we calculate the first term U1 to yield
(43) at the top of the next page. Then, the closed-form
expressions for J1, J2, and J3 in (43) can be calculated by
(2.325.6) in [29] according to (44a), (44b), and (44c). Finally,
the second term U2 in (42) can be written as U2 ≈Fγ∗
E (y4) −Fγ∗
E
y4
a
. (45) (45) The lower bound on the SOP can be calculated to yield Plower
SO
=
∫y4
y1
∫
y4−b+1
b
y−b+1
b
fγ∗
E (x) fγU (y) dx dy
+
∫y4
y1
∫y4
y4−b+1
b
fγ∗
E (x) fγU (y) dx dy. A. Signal-to-Noise Ratio Figs. 4 and 5 show the comparison of the average SNR of
EDs as a function of the UE location by using beamforming,
LED selection and repetition coding schemes for the different
locations of transmitters, where λE = 0.05 and ρU = 20 dB. Since four transmitters are symmetrically located, we only
show the results for the UE locations within the first quadrant. The repetition coding scheme [30] is given as a benchmark
in which all of the precoding weights are set to one, i.e.,
w = 1, since there is only one active UE at a time in the
considered configuration. In addition, for a fair comparison,
we scale down the modulation index α such that the average
SNR of EDs with using the repetition coding meets ρU. B. Secrecy Outage Probability (46) (46) the center of the room is located at the origin. We consider
a VLC network where four transmitters are symmetrically
located, i.e., their locations can be described by (±d0, ±d0). A homogeneous PPP describes the ED locations. Here, we ignore the (−b+1)/b term in a similar manner as in
(42). Therefore, since (46) has an identical expression to (42),
we have the closed-form of the lower bound on SOP by simply
changing the variable a to b in the closed-form expression of
the upper bound. Here, we ignore the (−b+1)/b term in a similar manner as in
(42). Therefore, since (46) has an identical expression to (42),
we have the closed-form of the lower bound on SOP by simply
changing the variable a to b in the closed-form expression of
the upper bound. From the closed-form expressions for the upper and lower
bounds on the SOP, we note that the SOP is inversely
proportional to 4 ˆa2 ˆk (see (44)), which is the coverage area
of each transmitter. In other words, if the room size is fixed,
then the SOP can be decreased by increasing the number of
transmitters to reduce the coverage area. V. NUMERICAL RESULTS (44c) J1 =
1
8 ˆa2 ˆk
©
«
2a
−1
m+3 eλE πZ2
λEπ
e−λE π
y2
aζ
−1
m+3
−e−λE π
y1
aζ
−1
m+3 ! K4 + 3e
−λE πZ2
−1+a
1
m+3
K3
2π3/2
·
Õ
i∈{1,2}
(−1)i+1
©
«
yi
ζ
−1
m+3 −Z2
3/2 √π −2Γ
3
2, a
1
m+3 λEπ
yi
ζ
−1
m+3 −Z2
a
1
m+3 λE
yi
ζ
−1
m+3 −Z2
3/2
ª®®®®®
¬
ª®®®®®
¬
(44a)
J2 =
1
8 ˆa2 ˆk
©
«
2a
−1
m+3 eλE πZ2
λEπ
e−λE π
y3
aζ
−1
m+3
−e−λE π
y2
aζ
−1
m+3 ! K2 + 3e
−λE πZ2
−1+a
1
m+3
K1
2π3/2
·
Õ
i∈{2,3}
(−1)i
©
«
yi
ζ
−1
m+3 −Z2
3/2 √π −2Γ
3
2, a
1
m+3 λEπ
yi
ζ
−1
m+3 −Z2
a
1
m+3 λE
yi
ζ
−1
m+3 −Z2
3/2
ª®®®®®
¬
ª®®®®®
¬
(44b)
J3 =
1
4 ˆa2 ˆkλE
a
−1
m+3 eλE πZ2
e−λE π
y4
aζ
−1
m+3
−e−λE π
y3
aζ
−1
m+3 !! (44c) (44b) (44c) in (a) and (b) of Figs. 4 and 5 denote the results for the LED
selection and the repetition coding, respectively. Firstly, when
four transmitters are located closely to each other in the center
area of the room as in Fig. 4, the transmitters emit a signal
with high power to the UE that is located in the outer area to
satisfy ρU. Due to the broadcasting characteristic of light, the
EDs can eavesdrop the signal easily; thus their average SNR
also increases as shown in Figs. 4(a) and 4(b). In this case, the
EDs can achieve a higher average SNR than ρU if the UE is
away from the transmitter. On the contrary, when the distance
between the transmitter and the UE decreases, one can see
that the average SNR of the EDs also decreases because of
the decrease in transmitted power. On the other hand, we see
that when the four transmitters are adequately separated from
each other as in Fig. 5, both beamforming and LED selection
exploit the spatial advantage to decrease the average SNR of
EDs. V. NUMERICAL RESULTS K2 + 3e
−λE πZ2
−1+a
1
m+3
K1
2π3/2
·
Õ
i∈{2,3}
(−1)i
©
«
yi
ζ
−1
m+3 −Z2
3/2 √π −2Γ
3
2, a
1
m+3 λEπ
yi
ζ
−1
m+3 −Z2
a
1
m+3 λE
yi
ζ
−1
m+3 −Z2
3/2
ª®®®®®
¬
ª®®®®®
¬
(44b)
J3 =
1
4 ˆa2 ˆkλE
a
−1
m+3 eλE πZ2
e−λE π
y4
aζ
−1
m+3
−e−λE π
y3
aζ
−1
m+3 !! (44c) U1 ≈
∫y4
y1
Fγ∗
E
y4
a
−Fγ∗
E
y
a
fγU (y) dy = Fγ∗
E
y4
a
∫y4
y1
fγU (y) dy −
∫y4
y1
Fγ∗
E
y
a
fγU (y) dy
= Fγ∗
E
y4
a
−
∫y2
y1
e
λE π
Z2−
y
aζ
−
1
m+3
!
y
ζ
−
1
m+3
3K3
r
y
ζ
−
1
m+3 −Z2 + 2K4
! 8 ˆa2 ˆk(m + 3)y
dy
| {z }
J (43) J1 =
1
8 ˆa2 ˆk
©
«
2a
−1
m+3 eλE πZ2
λEπ
e−λE π
y2
aζ
−1
m+3
−e−λE π
y1
aζ
−1
m+3 ! K4 + 3e
−λE πZ2
−1+a
1
m+3
K3
2π3/2
·
Õ
i∈{1,2}
(−1)i+1
©
«
yi
ζ
−1
m+3 −Z2
3/2 √π −2Γ
3
2, a
1
m+3 λEπ
yi
ζ
−1
m+3 −Z2
a
1
m+3 λE
yi
ζ
−1
m+3 −Z2
3/2
ª®®®®®
¬
ª®®®®®
¬
(44a)
J2 =
1
8 ˆa2 ˆk
©
«
2a
−1
m+3 eλE πZ2
λEπ
e−λE π
y3
aζ
−1
m+3
−e−λE π
y2
aζ
−1
m+3 ! K2 + 3e
−λE πZ2
−1+a
1
m+3
K1
2π3/2
·
Õ
i∈{2,3}
(−1)i
©
«
yi
ζ
−1
m+3 −Z2
3/2 √π −2Γ
3
2, a
1
m+3 λEπ
yi
ζ
−1
m+3 −Z2
a
1
m+3 λE
yi
ζ
−1
m+3 −Z2
3/2
ª®®®®®
¬
ª®®®®®
¬
(44b)
J3 =
1
4 ˆa2 ˆkλE
a
−1
m+3 eλE πZ2
e−λE π
y4
aζ
−1
m+3
−e−λE π
y3
aζ
−1
m+3 !! V. NUMERICAL RESULTS In this section, we provide numerical results to verify our
analysis. The room configuration and simulation parameters
are provided in Table II. We use the Cartesian coordinate sys-
tem to identify positions of transmitters and receivers, where All of the bottom surfaces in (a) and (b) of Figs. 4 and 5
denote the average SNR of EDs as a function of the UE
location when using the beamforming, and the top surfaces U1 ≈
∫y4
y1
Fγ∗
E
y4
a
−Fγ∗
E
y
a
fγU (y) dy = Fγ∗
E
y4
a
∫y4
y1
fγU (y) dy −
∫y4
y1
Fγ∗
E
y
a
fγU (y) dy
= Fγ∗
E
y4
a
−
∫y2
y1
e
λE π
Z2−
y
aζ
−
1
m+3
!
y
ζ
−
1
m+3
3K3
r
y
ζ
−
1
m+3 −Z2 + 2K4
! 8 ˆa2 ˆk(m + 3)y
dy
| {z }
J1
−
∫y3
y2
e
λE π
Z2−
y
aζ
−
1
m+3
!
y
ζ
−
1
m+3
3K1
r
y
ζ
−
1
m+3 −Z2 + 2K2
! 8 ˆa2 ˆk(m + 3)y
dy
| {z }
J2
−
∫y4
y3
e
λE π
Z2−
y
aζ
−
1
m+3
! π
y
ζ
−
1
m+3
4 ˆa2 ˆk(m + 3)y
dy
| {z }
J3
(43)
J1 =
1
8 ˆa2 ˆk
©
«
2a
−1
m+3 eλE πZ2
λEπ
e−λE π
y2
aζ
−1
m+3
−e−λE π
y1
aζ
−1
m+3 ! K4 + 3e
−λE πZ2
−1+a
1
m+3
K3
2π3/2
·
Õ
i∈{1,2}
(−1)i+1
©
«
yi
ζ
−1
m+3 −Z2
3/2 √π −2Γ
3
2, a
1
m+3 λEπ
yi
ζ
−1
m+3 −Z2
a
1
m+3 λE
yi
ζ
−1
m+3 −Z2
3/2
ª®®®®®
¬
ª®®®®®
¬
(44a)
J2 =
1
8 ˆa2 ˆk
©
«
2a
−1
m+3 eλE πZ2
λEπ
e−λE π
y3
aζ
−1
m+3
−e−λE π
y2
aζ
−1
m+3 ! V. NUMERICAL RESULTS The average SNR of EDs is less than ρU for most of
the area except for around the center point of the transmitters, in (a) and (b) of Figs. 4 and 5 denote the results for the LED
selection and the repetition coding, respectively. Firstly, when
four transmitters are located closely to each other in the center
area of the room as in Fig. 4, the transmitters emit a signal
with high power to the UE that is located in the outer area to
satisfy ρU. Due to the broadcasting characteristic of light, the
EDs can eavesdrop the signal easily; thus their average SNR
also increases as shown in Figs. 4(a) and 4(b). In this case, the
EDs can achieve a higher average SNR than ρU if the UE is
away from the transmitter. On the contrary, when the distance
between the transmitter and the UE decreases, one can see
that the average SNR of the EDs also decreases because of
the decrease in transmitted power. On the other hand, we see
that when the four transmitters are adequately separated from
each other as in Fig. 5, both beamforming and LED selection
exploit the spatial advantage to decrease the average SNR of
EDs. The average SNR of EDs is less than ρU for most of
the area except for around the center point of the transmitters, i.e., near (0,0). i.e., near (0,0). 5
5
5
10
4
4
15
3
3
x
y
The average SNR of EDs (dB)
2
2
20
1
1
25
0
0
30
10
12
14
16
18
20
22
24
26
28
(a) The average SNR of EDs with beamforming
and LED selection
The average SNR of EDs (dB)
y
5
5
5
10
4
4
15
3
3
x
2
2
20
1
1
25
0
0
30
10
12
14
16
18
20
22
24
26
(b) The average SNR of EDs with beamforming
and repetition coding
0
5
5
2
4
4
3
3
4
x
y
The ratio of the average SNRs of EDs (dB)
2
2
6
1
1
8
0
0
1
2
3
4
5
6
7
(c) The ratio of the average SNRs of EDs gener-
alized by beamforming
Fig. 5. The average SNR of EDs as a function of the UE location. The bottom surfaces in (a) and (b) denote the results for the beamforming
(identical). The top surfaces denote LED selection and repetition coding, respectively. In (c), the ratio of the average SNRs of EDs are given
in which the top surface denotes the ratio of repetition coding and beamforming, and the bottom surface denotes the ratio of LED selection
and beamforming, respectively. Four transmitters are located at (±3, ±3). The numerical result for the locations of the UE within the 1st
quadrant are given. The intensity of the ED process is λE = 0.05 and the required SNR of the UE is ρU = 20 dB. 0
5
5
2
4
4
3
3
4
x
y
The ratio of the average SNRs of EDs (dB)
2
2
6
1
1
8
0
0
1
2
3
4
5
6
7 5
5
5
10
4
4
15
3
3
x
y
The average SNR of EDs (dB)
2
2
20
1
1
25
0
0
30
10
12
14
16
18
20
22
24
26
28 (b) The average SNR of EDs with beamforming
and repetition coding (a) The average SNR of EDs with beamforming
and LED selection (c) The ratio of the average SNRs of EDs gener-
alized by beamforming Fig. 5. The average SNR of EDs as a function of the UE location. The bottom surfaces in (a) and (b) denote the results for the beamforming
(identical). i.e., near (0,0). Furthermore, in Figs. 4(c) and 5(c), the ratio of the average
SNRs of EDs when using the LED selection and the beam-
forming is given as the bottom surface, and the ratio of the
average SNRs of EDs when using the repetition coding and
the beamforming is given as the top surface. We can easily
note that the average SNR of EDs with repetition coding is
much higher than the beamforming in both configurations. In
contrary, the ratio of the average SNRs of EDs of LED selec-
tion and beamforming is small when the UE is located near
to the transmitter, while beamforming can slightly outperform
LED selection when the UE is away from the transmitter. Figs. 6 and 7 show a comparison of the SNR of the UE
as a function of the UE location using beamforming, LED
selection, repetition coding schemes for different locations of
transmitters, where λE = 0.05 and ρE = 30 dB. All of the top
surfaces in (a) and (b) of Figs. 6 and 7 denote the SNR of the
UE as a function of the UE location when using beamforming, 0
5
5
10
4
4
20
3
3
y
x
The average SNR of EDs (dB)
2
2
30
1
1
40
0
0
50
10
15
20
25
30
35
(a) The average SNR of EDs with beamforming
and LED selection
0
5
5
10
4
4
20
3
3
x
y
The average SNR of EDs (dB)
2
2
30
1
1
40
0
0
50
10
15
20
25
30
35
40
(b) The average SNR of EDs with beamforming
and repetition coding
y
The ratio of the average SNRs of EDs (dB)
0
5
5
2
4
4
4
3
3
x
2
2
6
1
1
8
0
0
10
0
1
2
3
4
5
6
7
8
9
(c) The ratio of the average SNRs of EDs gener-
alized by beamforming
Fig. 4. The average SNR of EDs as a function of the UE location. The bottom surfaces in (a) and (b) denote the results for the beamforming
(identical). The top surfaces denote LED selection and repetition coding, respectively. i.e., near (0,0). The top surfaces denote LED selection and repetition coding, respectively. In (c), the ratio of the average SNRs of EDs are given
in which the top surface denotes the ratio of repetition coding and beamforming, and the bottom surface denotes the ratio of LED selection
and beamforming, respectively. Four transmitters are located at (±3, ±3). The numerical result for the locations of the UE within the 1st
quadrant are given. The intensity of the ED process is λE = 0.05 and the required SNR of the UE is ρU = 20 dB. as the bottom surface, and the ratio of the SNRs of the UE
when using beamforming and repetition coding is given as the
top surface. First, we can note that beamforming outperforms
much more than the repetition coding in both configurations. These results show that the beamforming effectively transmits
a signal to the UE trying not to expose the signal to EDs
by taking the density of ED locations into account for the
beamforming weights. In addition, we see from Fig. 6(c)
that the ratio of the SNRs of the UE for beamforming and
LED selection is not significant for the UE located near the
transmitter, but it slightly increases as the distance between the
transmitter and the UE grows. Similarly, from Fig. 7(c), we
note that the ratio of the SNRs of the UE for beamforming and
LED selection is not significant when the UE is close to the
transmitter. Therefore, when the transmitters are adequately
separated, and the UE is near to the transmitters, it is shown
that the difference in secrecy performance between beamform-
ing and LED selection is small. Therefore, considering the and the bottom surfaces in (a) and (b) denote the results for the
LED selection and the repetition coding, respectively. Firstly,
when the transmitters are located closely together as in Fig. 6,
the SNR of the UE can be high when the UE is located near
to the transmitter. However, when the UE moves away from
the transmitter, it is difficult for the UE to achieve an SNR
higher than ρE. This is because the transmitter should convey
the signal with high enough power to reach the UE, which
enables the EDs to overhear the signal easily. In contrast, when
the transmitters are sufficiently separated as in Fig. i.e., near (0,0). In (c), the ratio of the average SNRs of EDs are given
in which the top surface denotes the ratio of repetition coding and beamforming, and the bottom surface denotes the ratio of LED selection
and beamforming, respectively. Four transmitters are located at (±1, ±1). The numerical result for the locations of the UE within the 1st
quadrant are given. The intensity of the ED process is λE = 0.05 and the required SNR of the UE is ρU = 20 dB. y
The ratio of the average SNRs of EDs (dB)
0
5
5
2
4
4
4
3
3
x
2
2
6
1
1
8
0
0
10
0
1
2
3
4
5
6
7
8
9 (b) The average SNR of EDs with beamforming
and repetition coding (a) The average SNR of EDs with beamforming
and LED selection (c) The ratio of the average SNRs of EDs gener-
alized by beamforming Fig. 4. The average SNR of EDs as a function of the UE location. The bottom surfaces in (a) and (b) denote the results for the beamforming
(identical). The top surfaces denote LED selection and repetition coding, respectively. In (c), the ratio of the average SNRs of EDs are given
in which the top surface denotes the ratio of repetition coding and beamforming, and the bottom surface denotes the ratio of LED selection
and beamforming, respectively. Four transmitters are located at (±1, ±1). The numerical result for the locations of the UE within the 1st
quadrant are given. The intensity of the ED process is λE = 0.05 and the required SNR of the UE is ρU = 20 dB. i.e., near (0,0). 0
5
10
4
3
20
y
5
2
The SNR of UE (dB)
4
30
x
3
1
2
1
40
0
0
50
15
20
25
30
35
40 0
5
4
5
3
y
10
5
2
The ratio of SNRs of UE (dB)
4
x
3
1
2
15
1
0
0
20
2
4
6
8
10
12
14
16
18
(c) The ratio of the SNRs of UE generalized by
beamforming (b) The SNR of UE with beamforming and repe-
tition coding (a) The SNR of UE with beamforming and LED
selection (c) The ratio of the SNRs of UE generalized by
beamforming Fig. 6. The average SNR of the UE as a function of the UE locations. The top surfaces in (a) and (b) denote the result for the beamforming
(identical). The bottom surfaces denote LED selection and repetition coding, respectively. In (c), the ratio of the SNRs of UE are given in
which the top surface denotes the ratio of beamforming and LED selection, and the bottom surface denotes the ratio of beamforming and
repetition coding, respectively. Four transmitters are located at (±1, ±1). The numerical results for the locations of the UE within the 1st
quadrant are given. The density of the ED process is λE = 0.05 and the constraint on the average SNR of EDs is ρE = 30 dB. 10
5
4
20
3
y
5
2
The SNR of UE (dB)
4
30
x
3
1
2
1
0
0
40
22
24
26
28
30
32
34
36
38
40
(a) The SNR of UE with beamforming and LED
selection
10
5
4
20
3
y
5
2
The SNR of UE (dB)
4
30
x
3
1
2
1
0
0
40
15
20
25
30
35
40
(b) The SNR of UE with beamforming and repe-
tition coding
0
5
4
5
3
y
5
10
2
The ratio of SNRs of UE (dB)
4
x
3
1
2
15
1
0
0
20
2
4
6
8
10
12
14
16
(c) The ratio of the SNRs of UE generalized by
beamforming
Fig. 7. The average SNR of the UE as a function of the UE locations. The top surfaces in (a) and (b) denote the result for the beamforming
(identical). The bottom surfaces denote LED selection and repetition coding, respectively. i.e., near (0,0). In
the proposed beamforming and LED selection, the multiple
spatially distributed transmitters efficiently decrease the pos-
sibility of eavesdropping by transmitting the legitimate data
favorably to UE. In contrast, in the repetition coding, all of
the transmitters emit the legitimate data with an equal power
regardless of the location of the UE although the transmitters
far away from the UE cannot largely increase the SNR of
the UE. Thus, the advantage of repetition coding for EDs
is much larger than that of the UE, then the SOP increases. Furthermore, when the number of transmitters is small, i.e.,
N = 2 × 2, the difference in the SOP for beamforming and
LED selection is small. However, when N is large, we can
see that the upper bound on the SOP with beamforming is less
than for LED selection. Since a large number of transmitters
with beamforming can exploit the excessive spatial degrees of
freedom to steer the signal toward the UE, the transmitters can
significantly increase the SNR of the UE while suppressing LED selection, while it increases with repetition coding. In
the proposed beamforming and LED selection, the multiple
spatially distributed transmitters efficiently decrease the pos-
sibility of eavesdropping by transmitting the legitimate data
favorably to UE. In contrast, in the repetition coding, all of
the transmitters emit the legitimate data with an equal power
regardless of the location of the UE although the transmitters
far away from the UE cannot largely increase the SNR of
the UE. Thus, the advantage of repetition coding for EDs
is much larger than that of the UE, then the SOP increases. Furthermore, when the number of transmitters is small, i.e.,
N = 2 × 2, the difference in the SOP for beamforming and
LED selection is small. However, when N is large, we can
see that the upper bound on the SOP with beamforming is less
than for LED selection. Since a large number of transmitters
with beamforming can exploit the excessive spatial degrees of
freedom to steer the signal toward the UE, the transmitters can
significantly increase the SNR of the UE while suppressing i.e., near (0,0). In (c), the ratio of the SNRs of UE are given in
which the top surface denotes the ratio of beamforming and LED selection, and the bottom surface denotes the ratio of beamforming and
repetition coding, respectively. Four transmitters are located at (±3, ±3). The numerical results for the locations of the UE within the 1st
quadrant are given. The density of the ED process is λE = 0.05 and the constraint on the average SNR of EDs is ρE = 30 dB. 0
5
4
5
3
y
5
10
2
The ratio of SNRs of UE (dB)
4
x
3
1
2
15
1
0
0
20
2
4
6
8
10
12
14
16
(c) The ratio of the SNRs of UE generalized by
beamforming 10
5
4
20
3
y
5
2
The SNR of UE (dB)
4
30
x
3
1
2
1
0
0
40
15
20
25
30
35
40
(b) The SNR of UE with beamforming and repe-
tition coding 10
5
4
20
3
y
5
2
The SNR of UE (dB)
4
30
x
3
1
2
1
0
0
40
22
24
26
28
30
32
34
36
38
40 (c) The ratio of the SNRs of UE generalized by
beamforming (b) The SNR of UE with beamforming and repe-
tition coding (a) The SNR of UE with beamforming and LED
selection Fig. 7. The average SNR of the UE as a function of the UE locations. The top surfaces in (a) and (b) denote the result for the beamforming
(identical). The bottom surfaces denote LED selection and repetition coding, respectively. In (c), the ratio of the SNRs of UE are given in
which the top surface denotes the ratio of beamforming and LED selection, and the bottom surface denotes the ratio of beamforming and
repetition coding, respectively. Four transmitters are located at (±3, ±3). The numerical results for the locations of the UE within the 1st
quadrant are given. The density of the ED process is λE = 0.05 and the constraint on the average SNR of EDs is ρE = 30 dB. computational complexity and feasibility of beamforming, we
conclude that LED selection may be an attractive option in
some scenarios. LED selection, while it increases with repetition coding. i.e., near (0,0). 7, we note
that the UE can achieve a higher SNR than ρE over almost
the entire area of the room except for at the center point of
the room, i.e., near (0,0), as shown in Fig. 7(a). This can be
possible by selectively transmitting a signal to the UE without
excessively increasing the signal power of other transmitters,
thus exploiting the spatial benefit. In addition, in Figs. 6(c) and 7(c), the ratio of the SNRs of
the UE when using beamforming and LED selection is given 0
5
10
4
3
20
y
5
2
The SNR of UE (dB)
4
30
x
3
1
2
1
40
0
0
50
15
20
25
30
35
40
(a) The SNR of UE with beamforming and LED
selection
0
5
10
4
3
20
y
5
2
The SNR of UE (dB)
4
30
x
3
1
2
1
40
0
0
50
0
5
10
15
20
25
30
35
40
(b) The SNR of UE with beamforming and repe-
tition coding
0
5
4
5
3
y
10
5
2
The ratio of SNRs of UE (dB)
4
x
3
1
2
15
1
0
0
20
2
4
6
8
10
12
14
16
18
(c) The ratio of the SNRs of UE generalized by
beamforming
Fig. 6. The average SNR of the UE as a function of the UE locations. The top surfaces in (a) and (b) denote the result for the beamforming
(identical). The bottom surfaces denote LED selection and repetition coding, respectively. In (c), the ratio of the SNRs of UE are given in
which the top surface denotes the ratio of beamforming and LED selection, and the bottom surface denotes the ratio of beamforming and
repetition coding, respectively. Four transmitters are located at (±1, ±1). The numerical results for the locations of the UE within the 1st
quadrant are given. The density of the ED process is λE = 0.05 and the constraint on the average SNR of EDs is ρE = 30 dB. B. Secrecy Outage Probability Fig. 8 shows the upper and lower bounds on the SOP with
LED selection for different intensities of EDs and different
values of Cth, where N = 4 × 4, g = 1 m, ˆa = 1 m, ˆk =
1.25, L = 10 m, and W = 12 m. Both simulated results and
theoretical results are presented, which are shown to perfectly
match. As can be seen from the figure, both the SOP upper
and lower bounds increase as λE and Cth increase, as expected. Fig. 9 shows a comparison of the upper bound on SOP
among beamforming, LED selection and repetition coding for
different numbers of transmitters and different values of λE,
where Cth = 0.5 bit/Hz/s, g = 1 m, L = 10 m, and W = 12 m. It can be seen that as the number of transmitters increases,
the upper bound on SOP decreases with beamforming and Fig. 8 shows the upper and lower bounds on the SOP with
LED selection for different intensities of EDs and different
values of Cth, where N = 4 × 4, g = 1 m, ˆa = 1 m, ˆk =
1.25, L = 10 m, and W = 12 m. Both simulated results and
theoretical results are presented, which are shown to perfectly
match. As can be seen from the figure, both the SOP upper
and lower bounds increase as λE and Cth increase, as expected. Fig. 9 shows a comparison of the upper bound on SOP
among beamforming, LED selection and repetition coding for
different numbers of transmitters and different values of λE,
where Cth = 0.5 bit/Hz/s, g = 1 m, L = 10 m, and W = 12 m. It can be seen that as the number of transmitters increases,
the upper bound on SOP decreases with beamforming and Fig. 10. An example of ˆD(d) for ˆa = 4 m, ˆk = 1.5. Note ˆa ˆk = 6 m
and ˆa
p
ˆk2 + 1 = 7.21 m. ˆa ˆk = 6 m and ˆa
p
ˆk2 + 1 = 7.21 m Fig. 10. An example of ˆD(d) for ˆa = 4 m, ˆk = 1.5. Note ˆa ˆk = 6 m
and ˆa
p
ˆk2 + 1 = 7.21 m. VI. CONCLUSION In this paper, we studied beamforming schemes and a
simpler LED selection scheme to enhance the secrecy per-
formance in VLC systems when multiple EDs are randomly
distributed throughout the communication region. By using the
beamforming scheme, we can minimize the average SNR of
EDs (or indeed the worst case SNR of EDs) and maximize
the SNR of the UE with only statistical information about ED
locations. The LED selection scheme is not superior to the
beamformer in the respect of secrecy performance; however,
when the UE is located near to one of the transmitters,
LED selection provides a good practical solution to enhancing
secrecy performance without high computational complexity. Based on LED selection, closed-form approximations for the
upper and lower bounds on the SOP were derived. Our results
provide useful insight and analytic tools that can be used to
enhance the secrecy in VLC systems and give a solid basis
for further study. 0
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.1
The density of eavesdroppers ( E)
10-1
100
Secrecy Outage Probability
Simulation Results with SISO, N=1
Theoretical Results with SISO, N=1
Simulation Results with LED selection, N=2
2
Theoretical Results with LED selection, N=2
2
Simulation Results with beamforming, N=2
2
Simulation Results with repetition coding, N=2
2
Simulation Results with LED selection, N=4
4
Theoretical Results with LED selection, N=4
4
Simulation Results with beamforming, N=4
4
Simulation Results with repetition coding, N=4
4
Fig. 9. A comparison of the upper bound on the SOP between
LED selection and beamforming for different numbers of transmitters
according to different intensities of EDs λE, where Cth = 0.5 bit/Hz/s,
g = 1 m, L = 10 m, and W = 12 m. B. Secrecy Outage Probability ˆa ˆk = 6 m and ˆa
p
ˆk2 + 1 = 7.21 m 0
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.1
The density of eavesdroppers ( E)
10-3
10-2
10-1
100
Secrecy Outage Probability
Simulation Results of P SO
upper for Cth=1 bit/Hz/s
Theoretical Results of P SO
upper for Cth=1 bit/Hz/s
Simulation Results of P SO
lower for Cth=1 bit/Hz/s
Theoretical Results of P SO
lower for Cth=1 bit/Hz/s
Simulation Results of P SO
upper for Cth=0 bit/Hz/s
Theoretical Results of P SO
upper for Cth=0 bit/Hz/s
Simulation Results of P SO
lower for Cth=0 bit/Hz/s
Theoretical Results of P SO
lower for Cth=0 bit/Hz/s
Fig. 8. The upper and lower bounds on the SOP with LED selection
for different Cth according to different intensities of EDs λE, where
N = 4 × 4, g = 1 m, ˆa = 1 m, ˆk = 1.25, L = 10 m, and W = 12 m. 0
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.1
The density of eavesdroppers (
)
10-3
10-2
10-1
100
Secrecy Outage Probability
Simulation Results of P SO
upper for Cth=1 bit/Hz/s
Theoretical Results of P SO
upper for Cth=1 bit/Hz/s
Simulation Results of P SO
lower for Cth=1 bit/Hz/s
Theoretical Results of P SO
lower for Cth=1 bit/Hz/s
Simulation Results of P SO
upper for Cth=0 bit/Hz/s
Theoretical Results of P SO
upper for Cth=0 bit/Hz/s
Simulation Results of P SO
lower for Cth=0 bit/Hz/s
Theoretical Results of P SO
lower for Cth=0 bit/Hz/s Fig. 10. An example of ˆD(d) for ˆa = 4 m, ˆk = 1.5. Note ˆa ˆk = 6 m
and ˆa
p
ˆk2 + 1 = 7.21 m. ˆa ˆk = 6 m and ˆa
p
ˆk2 + 1 = 7.21 m Fig. 8. The upper and lower bounds on the SOP with LED selection
for different Cth according to different intensities of EDs λE, where
N = 4 × 4, g = 1 m, ˆa = 1 m, ˆk = 1.25, L = 10 m, and W = 12 m. APPENDIX A
PROOF OF THE LEMMA 1 ˆD(d) =
π
for
0 < d ≤ˆa
K1d + K2
for
ˆa < d ≤ˆk ˆa
K3d + K4
for
ˆk ˆa < d ≤ˆa
p
ˆk2 + 1. (49) [5] M. Haenggi, “The secrecy graph and some of its properties,” in IEEE
ISIT in Toronto, Canada, Jul. 2008, pp. 539–543. (49) [6] P. C. Pinto, J. Barros, and M. Z. Win, “Physical-layer security in
stochastic wireless networks,” in IEEE ICCS in Guangzhou, China, Nov. 2008, pp. 974–979. To find the optimal Ki for i
∈
{1, 2, 3, 4}, we evaluate
three coordinates D( ˆa), D( ˆa ˆk), and D( ˆa
p
ˆk2 + 1) as shown
in Fig. 10. Using these values, we can easily calculate the
approximation constants as shown in (38). [7] X. Zhou, R. K. Ganti, J. G. Andrews, and A. Hjorungnes, “On the
throughput cost of physical layer security in decentralized wireless
networks,” Trans. Wireless Commun., vol. 10, no. 8, pp. 2764–2775,
Aug. 2011. [8] G. Geraci, S. Singh, J. G. Andrews, J. Yuan, and I. B. Collings, “Secrecy
rates in broadcast channels with confidential messages and external
eavesdroppers,” IEEE Trans. Wireless Commun., vol. 13, no. 5, pp. 2931–2943, May 2014. pp
Finally, from (3) and (5a), the SNR of the UE can be
described as a function of d according to γU(d) =
α2I2
DCK2(d2 + Z2)−(m+3)
σ2
= ζ(d2 + Z2)−(m+3) (50) [9] T. X. Zheng, H. M. Wang, and Q. Yin, “On transmission secrecy outage
of a multi-antenna system with randomly located eavesdroppers,” IEEE
Commun. Lett., vol. 18, no. 8, pp. 1299–1302, Aug. 2014. [10] G. Chen, J. P. Coon, and M. D. Renzo, “Secrecy outage analysis for
downlink transmissions in the presence of randomly located eavesdrop-
pers,” IEEE Trans. Inf. Forens. Security, vol. 12, no. 5, pp. 1195–1206,
May 2017. where ζ = (α2I2
DCK2)/σ2. Thus, the CDF and PDF of γU can
be written as (35) and (36), respectively. APPENDIX A
PROOF OF THE LEMMA 1 Fig. 9. A comparison of the upper bound on the SOP between
LED selection and beamforming for different numbers of transmitters
according to different intensities of EDs λE, where Cth = 0.5 bit/Hz/s,
g = 1 m, L = 10 m, and W = 12 m. The UE is randomly located according to a homogeneous
BPP in the shaded area in Fig. 3. Therefore, the distance in
the work plane between the transmitter and the UE dU cannot
exceed ˆa
p
ˆk2 + 1. Thus, the CDF of dU is given by the signal everywhere else inside the room. However, we
need to consider that finding the maximum eigenvalue and
its associated eigenvector with a large number of transmitters
requires high computation complexity, which increases pro-
portionally to N2. However, it is worthwhile to mention that
the proposed beamforming is still less complicated than the
previous beamforming scheme proposed in [11], which has
been shown to be NP-hard [31]. In our proposed beamforming,
we have a deterministic way, i.e., the eigenvector of B
−1A, to
find the beamformer when (17) is satisfied. FdU (d) = A(d)
4ˆk ˆa2
for
0 < d ≤ˆa
p
ˆk2 + 1
(47) (47) where A(d) denotes the area of the circle bounded by the
rectangle as shown in Fig. 3. When the radius of the
circular area where the UE locates, i.e., d, equals to ˆa, its
circumference hits the small rectangle. Also, if d increases
further, the circular area starts to be bounded by the rectangle
since the UE cannot exist out of the bounded circular area. If
the UE locates out of the bounded circular area, the UE would select another nearest transmitter. A(d) is described as (48) at
the top of the next page. [2] J. G. Andrews, S. Buzzi, W. Choi, S. V. Hanly, A. Lozano, A. C. K. Soong, and J. C. Zhang, “What will 5G be?” IEEE J. Sel. Areas
Commun., vol. 32, no. 6, pp. 1065–1082, Jun. 2014. p
p g
Thus, A(d) can be described as A(d) = D(d)·d2, where D(d)
can be approximated by applying a piecewise approximation
with a linear function of d, i.e., [3] A. D. Wyner, “The wire-tap channel,” Bell Syst. Tech. J., vol. 54, pp. 1355–1387, Jan. 1975. [4] M. Bloch and J. Barros, Physical-Layer Security: From Information
Theory to Security Engineering. Cambridge University Press, 2011. APPENDIX B
PROOF OF THE LEMMA 2 [11] A. Mostafa and L. Lampe, “Physical-layer security for MISO visible
light communication channels,” IEEE J. Sel. Areas Commun., vol. 33,
no. 9, pp. 1806–1818, Sep. 2015. Since the EDs are randomly distributed according to a ho-
mogeneous PPP ΦE with intensity λE on the work plane, the
PDF of the minimum distance in the work plane between the
selected transmitter and the nearest ED, i.e., d∗
E = min
e∈ΦE dEe,
where dEe is the distance in the work plane between the
selected transmitter and Ee, is given by [12] ——, “Physical-layer security for indoor visible light communications,”
in IEEE ICC in Sydney, Australia, Jun. 2014, pp. 3342–3347. [13] ——, “Securing visible light communications via friendly jamming,” in
IEEE Globecom Workshops in Austin, USA, Dec. 2014, pp. 524–529. [14] H. Zaid, Z. Rezki, A. Chaaban, and M. S. Alouini, “Improved achievable
secrecy rate of visible light communication with cooperative jamming,”
in IEEE GlobalSIP in Orlando, USA, Dec. 2015, pp. 1165–1169. [15] M. A. Arfaoui, Z. Rezki, A. Ghrayeb, and M. S. Alouini, “On the
secrecy capacity of MISO visible light communication channels,” in
IEEE Globecom in Washington D.C., USA, Dec. 2016, pp. 1–7. Fd∗
E (d) = 1 −exp(−λEπd2)
(51) (51) [16] S. Cho, G. Chen, and J. P. Coon, “Secrecy analysis in visible light
communication systems with randomly located eavesdroppers,” in 2017
IEEE ICC Workshops in Paris, France, May 2017, pp. 475–480. for 0 ≤d ≤∞. This follows from contact distance distribution
to the nearest point of the PPP [32]. Here, the unbounded upper
limit implies that the number of EDs can be zero. The PDF
of d∗
E can be calculated as fd∗
E (d) = 2λEπd exp(−λEπd2) for
0 ≤d ≤∞. Therefore, since γ∗
E also has the same relation
with d∗
E as (50), the PDF and CDF of γ∗
E can be calculated
as below. [17] T. Komine and M. Nakagawa, “Fundamental analysis for visible-light
communication system using LED lights,” IEEE Trans. Consum. Elec-
tron., vol. 50, no. 1, pp. 100–107, Feb. 2004. [18] C. Chen, D. Basnayaka, and H. Haas, “Downlink SINR statistics in
OFDM-based optical attocell networks with a poisson point process
network model,” in IEEE GLOBECOM, Dec. 2015, pp. 1–6. [19] A. Khisti and G. W. Wornell, “Secure transmission with multiple
antennas I: The MISOME wiretap channel,” IEEE Trans. Inf. Theory,
vol. 56, no. 7, pp. 3088–3104, Jul. 2010. APPENDIX B
PROOF OF THE LEMMA 2 fγ∗
E (x) =
λEπ
x
ζ
−
1
m+3
x(m + 3)
e
−λE π
−Z2+
x
ζ
−
1
m+3
! ,
(52)
Fγ∗
E (x) =
∫x
0
fγ∗
E (u) du
=
∫x
0
λEπ
u
ζ
−
1
m+3
u(m + 3)
e
−λE π
−Z2+
u
ζ
−
1
m+3
! du
=
∫∞
x
ζ
−
1
m+3 λEπe−λE π(v−Z2) dv
= e
λE π
Z2−
x
ζ
−
1
m+3
! (53) (52) [20] A. Lapidoth, S. M. Moser, and M. A. Wigger, “On the capacity of
free-space optical intensity channels,” IEEE Trans. Inf. Theory, vol. 55,
no. 10, pp. 4449–4461, Oct. 2009. [21] O. Ozel, E. Ekrem, and S. Ulukus, “Gaussian wiretap channel with
an amplitude constraint,” in IEEE Inf. Theory Workshop in Lausanne,
Switzerland, Sep. 2012, pp. 5553–5563. 0
=
∫x
0
λEπ
u
ζ
−
1
m+3
u(m + 3)
e
−λE π
−Z2+
u
ζ
−
1
m+3
! du
=
∫∞
x
ζ
−
1
m+3 λEπe−λE π(v−Z2) dv
= e
λE π
Z2−
x
ζ
−
1
m+3
! ( [22] S. M. Moser, M. Mylonakis, L. Wang, and M. Wigger, “Asymptotic
capacity results for MIMO wireless optical communication,” in IEEE
ISIT, Jun. 2017, pp. 536–540. [23] I. Krikidis, J. S. Thompson, and S. Mclaughlin, “Relay selection for
secure cooperative networks with jamming,” IEEE Trans. Wireless
Commun., vol. 8, no. 10, pp. 5003–5011, Oct. 2009. [24] H. Hui, A. L. Swindlehurst, G. Li, and J. Liang, “Secure relay and
jammer selection for physical layer security,” IEEE Signal Process. Lett.,
vol. 22, no. 8, pp. 1147–1151, Aug. 2015. (53) [25] G. Chen, Y. Gong, P. Xiao, and J. A. Chambers, “Dual antenna selection
in secure cognitive radio networks,” IEEE Trans. Veh. Technol., vol. 65,
no. 10, pp. 7993–8002, Oct. 2016. for 0 ≤x ≤ζZ−2(m+3), respectively, where v =
u
ζ
−
1
m+3 . [26] S. Boyd and L. Vandenberghe, Convex Optimization. New York, NY,
USA: Cambridge University Press, 2004. REFERENCES [27] T. Lipp and S. Boyd, “Variations and extension of the convex–concave
procedure,” Optimization and Engineering, vol. 17, no. 2, pp. 263–287,
Jun. 2016. [1] H. Haas, L. Yin, Y. Wang, and C. Chen, “What is LiFi?” J. Lightw. Technol., vol. 34, no. 6, pp. 1533–1544, Mar. 2016. A(d) =
πd2
for
0 < d ≤ˆa
πd2 −2
d2 arccos
ˆa
d
−ˆa
p
d2 −ˆa2
for
ˆa < d ≤ˆk ˆa
πd2 −2
d2 arccos
ˆa
d
−ˆa
p
d2 −ˆa2
−2
d2 arccos
ˆa ˆk
d
−ˆa ˆk
q
d2 −( ˆa ˆk)2
for
ˆk ˆa < d ≤ˆa
p
ˆk2 + 1
(48) (48) Justin P. Coon (S’02 – M’05 – SM’10) received the
B.Sc. degree (Hons.) in electrical engineering from
the Calhoun Honours College, Clemson University,
USA, and the Ph.D. degree in communications from
the University of Bristol, U.K., in 2000 and 2005,
respectively. In 2004, he joined as a Research Engi-
neer with the Bristol-based Telecommunications Re-
search Laboratory (TRL), Toshiba Research Europe
Ltd., where he was involved in research on a broad
range of communication technologies and theories,
including single- and multi-carrier modulation tech-
niques, estimation and detection, diversity methods, and system performance
analysis and networks. He held the research manager position from 2010
to 2013, during which time he led all theoretical and applied research on
the physical layer at TRL. He was a Visiting Fellow with the School of
Mathematics, University of Bristol, from 2010 to 2012, where he held a
reader position with the Department of Electrical and Electronic Engineering
from 2012 to 2013. He joined the University of Oxford in 2013, where he is
currently an Associate Professor with the Department of Engineering Science
and a Tutorial Fellow of Oriel College. [28] J. Grubor, S. Randel, K. D. Langer, and J. W. Walewski, “Bandwidth-
efficient indoor optical wireless communications with white light-
emitting diodes,” in 6th CSNDSP in Graz, Austria, Jul. 2008, pp. 165–
169. [28] J. Grubor, S. Randel, K. D. Langer, and J. W. Walewski, “Bandwidth-
efficient indoor optical wireless communications with white light-
emitting diodes,” in 6th CSNDSP in Graz, Austria, Jul. 2008, pp. 165–
169. [29] I. S. Gradshteyn and I. M. Ryzhik, Table of integrals, series, and
products, 7th ed. Elsevier/Academic Press, 2007. [30] D. Tse and P. REFERENCES Viswanath, Fundamentals of Wireless Communication. New York, NY, USA: Cambridge University Press, 2005. [31] E. Wong, “Active-set methods for quadratic programming,” Ph.D. disser-
tation, Department of Mathematics, University of California, San Diego,
June 2011. [32] A. Baddeley, E. Rubak, and R. Turner, Spatial point patterns: method-
ology and applications with R. CRC Press, 2015. He is the Technical Manager of the EU FP7 project DIWINE. He has
authored in excess of 100 papers in leading international journals and
conferences, and is a named inventor on over 30 patents. His research interests
include communication theory, information theory, and network theory. Dr
Coon was a recipient of TRLs Distinguished Research Award for his work
on block-spread CDMA, aspects of which have been adopted as mandatory
features in the 3GPP LTE Rel-8 standard. He was also a co-recipient of two
best paper awards at the ISWCS 2013 and the EuCNC 2014. He received
the award for Outstanding Contribution in 2014. He has served as an Editor
for the IEEE TRANSACTIONS ON WIRELESS COMMUNICATIONS from 2007
to 2013, the IEEE TRANSACTIONS ON VEHICULAR TECHNOLOGY from
2013 to 2016. He has been serving as an Editor for the IEEE WIRELESS
COMMUNICATIONS LETTERS since 2016 and the IEEE COMMUNICATIONS
LETTERS since 2017. Sunghwan Cho (S’17) received the B.S. degree
(summa cum laude) in electrical engineering from
the Korea Military Academy, South Korea, in 2007. He earned his M.S. degree in communications from
the Georgia Institute of Technology, USA, in 2011. From 2016, he is a DPhil student in the Department
of Engineering Science at the University of Oxford,
U.K., under the supervision of Professor Justin P. Coon. He has worked as an army officer of the
Republic of Korea Army, currently holding the rank
of a major. His current research interests include
physical layer security, stochastic geometry, and visible light communications. Gaojie Chen (S’09 – M’12) received the B.Eng. and B.Ec. degrees in electrical information engi-
neering and international economics and trade from
Northwest University, China, in 2006, and the M.Sc. (Hons.) and Ph.D. degrees in electrical and elec-
tronic engineering from Loughborough University,
Loughborough, U.K., in 2008 and 2012, respec-
tively. From 2008 to 2009, he was a Software
Engineering with DTmobile, Beijing, China, and
from 2012 to 2013, he was a Research Associate
with the School of Electronic, Electrical and Systems
Engineering, Loughborough University. REFERENCES He was a Research Fellow with 5GIC,
Faculty of Engineering and Physical Sciences, University of Surrey, U.K.,
from 2014 to 2015. Then he was a Research Associate with the Department
of Engineering Science, University of Oxford, U.K., from 2015 to 2018. He
is currently a Lecturer with the Department of Engineering, University of
Leicester, U.K. His current research interests include information theory, wire-
less communications, cooperative communications, cognitive radio, secrecy
communication, and random geometric networks.
|
https://openalex.org/W3010202054
|
http://pure-oai.bham.ac.uk/ws/files/108073683/PhysRevLett.124.211802.pdf
|
English
| null |
Search for the Rare Decays <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" display="inline"><mml:mrow><mml:msubsup><mml:mrow><mml:mi>B</mml:mi></mml:mrow><mml:mrow><mml:mi>s</mml:mi></mml:mrow><mml:mrow><mml:mn>0</mml:mn></mml:mrow></mml:msubsup><mml:mo stretchy="false">→</mml:mo><mml:msup><mml:mrow><mml:mi>e</mml:mi></mml:mrow><mml:mrow><mml:mo>+</mml:mo></mml:mrow></mml:msup><mml:msup><mml:mrow><mml:mi>e</mml:mi></mml:mrow><mml:mrow><mml:mo>−</mml:mo></mml:mrow></mml:msup></mml:mrow…
|
Physical review letters
| 2,020
|
cc-by
| 9,143
|
Search for the rare decays Bs0 →e+e- and B0 →e+e-
LHCb Collaboration DOI:
10.1103/PhysRevLett.124.211802
License:
Creative Commons: Attribution (CC BY) Citation for published version (Harvard):
LHCb Collaboration 2020, 'Search for the rare decays Bs
0 →e+e- and B0 →e+e-', Physical Review Letters, vol. 124, no. 21, 211802. https://doi.org/10.1103/PhysRevLett.124.211802 Link to publication on Research at Birmingham portal General rights
U l
li General rights
Unless a licence is specified above, all rights (including copyright and moral rights) in this document are retained by the authors and/or the
copyright holders. The express permission of the copyright holder must be obtained for any use of this material other than for purposes
permitted by law. eely distribute the URL that is used to identify this publication. •Users may freely distribute the URL that is used to identify this publication. d
l
d
d/
i
f h
bli
i
f
h
i
i
f
i
i
h
h
l f •Users may freely distribute the URL that is used to identify this publication. d
l
d
d/
i
f h
bli
i
f
h
i
i Users may freely distribute the URL that is used to identify this publication. •Users may download and/or print one copy of the publication from the University of Birmingham research portal for the purpose of private
study or non-commercial research y
y
y
p
•Users may download and/or print one copy of the publication from the University of Birmingham research portal for the purpose of private
study or non-commercial research. y
•User may use extracts from the document in line with the concept of ‘fair dealing’ under the Copyright, Designs and Patents Act 1988 (?)
•Users may not further distribute the material nor use it for the purposes of commercial gain. here a licence is displayed above, please note the terms and conditions of the licence govern your use of this document Where a licence is displayed above, please note the terms an When citing, please reference the published version. (Received 10 March 2020; accepted 22 April 2020; published 27 May 2020) A search for the decays B0s →eþe−and B0 →eþe−is performed using data collected with the
LHCb experiment in proton-proton collisions at center-of-mass energies of 7, 8, and 13 TeV, corresponding
to integrated luminosities of 1, 2, and 2 fb−1, respectively. No signal is observed. Assuming no contribution
from B0 →eþe−decays, an upper limit on the branching fraction BðB0s →eþe−Þ < 9.4ð11.2Þ × 10−9 is
obtained at 90(95)% confidence level. If no B0s →eþe−
contribution is assumed, a limit of
BðB0 →eþe−Þ < 2.5ð3.0Þ × 10−9 is determined at 90(95)% confidence level. These upper limits are more
than one order of magnitude lower than the previous values. DOI: 10.1103/PhysRevLett.124.211802 DOI: 10.1103/PhysRevLett.124.211802 Searches for rare particle decays provide ideal probes for
contributions from physics processes beyond the standard
model (SM). Recent measurements of decays involving
b →slþl−transitions (the inclusion of charge-conjugated
processes is implied throughout this Letter) hint at deviations
from SM predictions in lepton-flavor universality tests [1–6]
and thus motivate measurements of decay rates into final
states involving leptons. Following the observation of the
decay B0s →μþμ−[7,8], the search for B0s →eþe−and
B0 →eþe−decays provides an independent test of lepton-
flavor universality. According to SM predictions (calculated
from Ref. [9], neglecting QED corrections that are expected
to be at the percent level), B0
ðsÞ →eþe−decays have branch-
ing fractions of BðB0s →eþe−Þ¼ð8.600.36Þ×10−14 and
BðB0→eþe−Þ¼ð2.410.13Þ×10−15. With contributions
beyond the SM, these branching fractions could be
significantly larger,
reaching
values
of Oð10−8Þ for
BðB0s→eþe−Þ and Oð10−10Þ for BðB0→eþe−Þ [10]. These
values are close to the current experimental bounds of
BðB0s→eþe−Þ<2.8×10−7 and BðB0→eþe−Þ<8.3×10−8
at 90% confidence level (CL) [11], set by the CDF
collaboration. determined from a fit to the data and normalized to those of
the Bþ →J=ψKþ decay, where the J=ψ meson decays to
eþe−, which has a precisely measured branching fraction
[12] and a similar dielectron signature in the detector. The LHCb detector [13,14] is a single-arm forward
spectrometer covering the pseudorapidity range 2 < η < 5,
designed for the study of particles containing b or c quarks. The detector includes a high-precision tracking system
consisting of a silicon-strip vertex detector surrounding the
pp interaction region, a large-area silicon-strip detector
located upstream of a dipole magnet with a bending power
of about 4 Tm, and three stations of silicon-strip detectors
and straw drift tubes placed downstream of the magnet. Published by the American Physical Society under the terms of
the Creative Commons Attribution 4.0 International license.
Further distribution of this work must maintain attribution to
the author(s) and the published article’s title, journal citation,
and DOI. Funded by SCOAP3. *Full author list given at the end of the article. Take down policy Take down policy
While the University of Birmingham exercises care and attention in making items available there are rare occasions when an item has been
uploaded in error or has been deemed to be commercially or otherwise sensitive. If you believe that this is the case for this document, please contact UBIRA@lists.bham.ac.uk providing details and we will remove access to
the work immediately and investigate. Download date: 24. Oct. 2024 PHYSICAL REVIEW LETTERS 124, 211802 (2020) (Received 10 March 2020; accepted 22 April 2020; published 27 May 2020) Different types of charged hadrons are distinguished using
information from two ring-imaging Cherenkov detectors. Photons, electrons, and hadrons are identified by a calo-
rimeter system consisting of scintillating-pad and pre-
shower detectors, an electromagnetic and a hadronic
calorimeter. Muons are identified by a system composed
of alternating layers of iron and multiwire proportional
chambers. The online event selection is performed by a trigger [15],
which consists of a hardware stage, based on information
from the calorimeter and muon systems, followed by a
software stage, which applies a full event reconstruction. At
the hardware trigger stage, events are required to have a
high-energy deposit in the calorimeters associated with a
signal electron candidate, or a muon candidate with high
transverse momentum pT, or a photon, electron, or hadron
candidate with high transverse energy from the decays of
other particles from the pp collision. The software trigger
requires a two-track secondary vertex with a significant
displacement from any primary pp interaction vertex (PV). At least one charged particle must have high pT and be
inconsistent with originating from a PV. A multivariate
algorithm [16,17] is used in the trigger for the identification
of secondary vertices consistent with the decay of a b In this Letter, a search for B0s →eþe−and B0 →eþe−
decays is presented using data collected with the LHCb
experiment in proton-proton collisions at center-of-mass
energies of 7 TeV in 2011, 8 TeV in 2012 and 13 TeV
in 2015 and 2016, corresponding to integrated luminosities
of 1, 2, and 2 fb−1, respectively. The signal yields are 211802-1 © 2020 CERN, for the LHCb Collaboration 0031-9007=20=124(21)=211802(11) PHYSICAL REVIEW LETTERS 124, 211802 (2020) hadron. Simulated samples are used to optimize the
candidate selection, estimate selection efficiencies and
describe the expected invariant-mass shapes of the signal
candidates and background decays. In the simulation, pp
collisions are generated using PYTHIA [18] with a specific
LHCb configuration [19]. Decays of unstable particles are
described by EVTGEN [20], in which final-state radiation is
generated using
PHOTOS [21]. The interaction of the
generated particles with the detector, and its response,
are implemented using the GEANT4 toolkit [22] as described
in Ref. [23]. The simulation is corrected for data-simulation
differences in B-meson production kinematics, detector
occupancy, and isolation criteria [24] using Bþ →J=ψKþ
and B0s →J=ψϕ decays, with J=ψ →eþe−and ϕ →KþK−. Particle identification variables are calibrated using data
from Bþ →J=ψKþ and D0 →K−πþ decays [25]. (Received 10 March 2020; accepted 22 April 2020; published 27 May 2020) The
calibration data are binned in momentum and pseudor-
apidity of the particle as well as detector occupancy to
account for possible differences in kinematics between the
investigated decay and the calibration data. A boosted decision tree (BDT) algorithm [27–29] is used
to separate B0
ðsÞ →eþe−signal from random combinations
of two electrons (combinatorial background). The BDT is
trained separately for data taking periods 2011–2012
(Run 1) and 2015–2016 (Run 2) on simulated B0s→eþe−
decays as signal proxy and dielectron candidates from data
with a mass above 5588 MeV=c2 as background proxy. The
split between the data taking periods is done to account for
changesinthe center-of-mass energies and triggerstrategies,
which significantly impact the data distributions and
improve the BDT and the particle identification algorithms
in Run 2. It is checked that the data behave consistently
across the data-taking periods. The BDT input variables
comprise of the following: kinematic information on the
electron tracks and B candidate, information on the dis-
placement of the electrons and B candidate from the
associated PV, and isolation variables that quantify the
compatibility of other tracks in the event with originating
from the same decay as the B candidate [24,30]. Candidates
with a BDTresponse compatiblewith that of the background
are discarded, with the threshold chosen by maximizing the
figure of merit ϵsignal=ð
ffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffi
Nbackground
p
þ3=2Þ [31], where
ϵsignal is the signal efficiency and the expected background
yield in the signal region is Nbackground. The B0
ðsÞ →eþe−candidates are selected in events
passing the trigger requirements by combining two tracks
that are inconsistent with originating from any PV in the
event and which form a good-quality secondary vertex. The tracks are also required to have a momentum larger
than 3 GeV=c and pT greater than 500 MeV=c, and must be
identified
as
electrons
using
information
from
the
Cherenkov detectors and calorimeters. The dielectron
candidate’s momentum must be aligned with the vector
pointing from a PV (the associated PV) to the two-track
vertex and have a considerable transverse component. The candidate must also have an invariant mass in the
range ½4166; 6566 MeV=c2. The final selected data set is separated by data-taking
period and by category of bremsstrahlung correction. PHYSICAL REVIEW LETTERS 124, 211802 (2020) Dominant sources of systematic uncertainties
in the normalization arise from the uncertainty on the
fragmentation fraction ratio, the technique used to evaluate
the trigger efficiencies, and the determination of particle-
identification efficiencies; the systematic uncertainties from
these sources extend to 5.8%, 5.3%, and 5.3% on the
branching fractions, respectively. The uncertainty on
BðBþ →J=ψKþÞ of 2.8% [12] is taken into account. A difference of up to 4.1% is found between the efficiency
of the BDT selection on simulated Bþ →J=ψKþ decays
and Bþ →J=ψKþ decays in data, which is assigned as a
systematic uncertainty. The fraction of candidates in each
bremsstrahlung-correction category of the signal modes is
taken from simulation. The difference between simulation
and data is investigated using Bþ →J=ψKþ decays and its
effect on the normalization, up to 4.0%, is taken as a
systematic uncertainty. Systematic uncertainties on the
invariant-mass resolution corrections are determined by
repeating the correction procedure with pseudoexperiments
obtained with the bootstrapping method [39], yielding up to
1.1%. A difference between the total selection efficiencies
in the B0s →eþe−and B0 →eþe−channels of up to 2.5%
is assigned as a systematic uncertainty on the B0 →eþe−
normalization factor. Due to the presence of an additional
kaon in the final state of the normalization mode, the track-
reconstruction efficiency is different between the signal and
normalization modes. An uncertainty of 1.1% is assigned to
the branching fraction as a systematic uncertainty on the
kaon reconstruction efficiency arising from the limited
knowledge of the interactions in the detector material [40]. Finally, an uncertainty of 1.0% is assigned to account for
small differences in detector occupancy between the signal pp
)
In addition to the combinatorial background, back-
grounds due to misidentification and partial reconstruction
are present in the data. These backgrounds differ signifi-
cantly between the categories of bremsstrahlung correction. Their invariant-mass shapes and relative contributions
are evaluated using simulation. In the lower mass
region, partially reconstructed backgrounds of the types
B →Xeþe−and Bþ →D0ð→Yþe−¯νeÞeþνe dominate,
where X and Y represent hadronic systems. The main
source of background in the B -mass region, however,
stems
from
misidentified
particles
in
the
decays
B0 →π−eþνe and B →hþh0−, where h and h0 are hadrons. The latter has a peaking structure in the B -mass region. Backgrounds involving misidentified particles contribute
mostly to categories in which at most one of the electrons
has a bremsstrahlung correction applied. PHYSICAL REVIEW LETTERS 124, 211802 (2020) The shape of the invariant mass of the B0s →eþe−and
B0 →eþe−components is modeled using a Gaussian
function with power-law tails, where the parameters are
obtained from simulation and differ between each brems-
strahlung category and year of data taking. The peak values
and the widths of the functions are corrected for data-
simulation differences by a factor determined from the
normalization mode. The parameters of the B0s →eþe−and
B0 →eþe−line shapes are fixed to the same values with
the exception of the peak value, which is shifted according
to the known B0s–B0 mass difference [12]. Due to the
limited mass resolution, arising from imperfect bremsstrah-
lung recovery, the line shapes from B0s →eþe−and
B0 →eþe−are highly overlapping. Therefore the branch-
ing fraction of B0s →eþe−is obtained by performing a
simultaneous fit to the dielectron invariant-mass distribu-
tion of all six data sets while neglecting the contribution
from B0 →eþe−, and vice versa. In these fits, the only
shared parameters between categories are the branching
fractions BðB0
ðsÞ →eþe−Þ and BðBþ →J=ψKþÞ, and the
ratio of the fragmentation fractions fs=fu. taking and bremsstrahlung category. The fit model com-
prises a Gaussian function with power-law tails [35] for the
signal component, where the tail parameters are fixed from
simulation, and an exponential function to describe
combinatorial background. Summed over the bremsstrah-
lung categories, the yield of the normalization mode is
20480 140 in the Run 1 data and 33080 180 in the
Run 2 data. The
selection
efficiencies
εðB0
ðsÞ →eþe−Þ
and
εðBþ →J=ψKþÞ are determined separately for each year
of data taking and bremsstrahlung category using simulated
decays that are weighted to better represent the data. Calibration data are used to evaluate particle-identification
efficiencies [25]. Trigger efficiencies are also estimated
from data, using the technique described in Ref. [36]. For
simulated B0s →eþe−decays, the mean B0s lifetime [37] is
assumed. The selection efficiency is assumed to be the
same for both B0 →eþe−and B0s →eþe−decays, which is
consistent with results from simulation. The normalization
factors, α, are combined across the data-taking periods and,
given in Table I, split by bremsstrahlung category (for the
selection efficiency ratio between normalization and signal
mode, see the Supplemental Material [38]). g
fs=fu
Systematic uncertainties are estimated separately for
each data set. (Received 10 March 2020; accepted 22 April 2020; published 27 May 2020) The
branching fraction BðB0
ðsÞ →eþe−Þ is measured relative to
that of the normalization channel via BðB0
ðsÞ →eþe−Þ ¼ NðB0
ðsÞ →eþe−Þ×α×BðBþ →J=ψKþÞ
×
fdðsÞ
fu
−1
;
ð1Þ
where
α ≡εðBþ →J=ψKþÞ
εðB0
ðsÞ →eþe−Þ ×
1
NðBþ →J=ψKþÞ ;
ð2Þ BðB0
ðsÞ →eþe−Þ ¼ NðB0
ðsÞ →eþe−Þ×α×BðBþ →J=ψKþÞ
×
fdðsÞ
fu
−1
;
ð1Þ ð1Þ The measured electron momenta are corrected for losses
due to bremsstrahlung radiation by adding the momentum
of photons consistent with being emitted upstream of the
magnet [26]. Candidates in data and simulation are sepa-
rated into three categories with either zero, one, or both
electrons having a bremsstrahlung correction applied. To
avoid experimenters’ bias, the narrowest dielectron invari-
ant-mass region containing 90% of simulated B0s →eþe−
decays, corresponding to a range of ½4689; 5588 MeV=c2,
was removed from the data set until the analysis procedure
was finalized. where where α ≡εðBþ →J=ψKþÞ
εðB0
ðsÞ →eþe−Þ ×
1
NðBþ →J=ψKþÞ ;
ð2Þ ð2Þ εðB0
ðsÞ→eþe−Þ and εðBþ→J=ψKþÞ denote the efficiencies
of the signal and normalization modes, and NðB0
ðsÞ→eþe−Þ
and NðBþ →J=ψKþÞ their yields. The normalization
mode branching fraction (including that for the decay
J=ψ →eþe−) is BðBþ →J=ψKþÞ ¼ ð6.03 0.17Þ × 10−5,
taken
from
Ref. [12]. The
b-hadron
fragmentation
fraction ratio fd=fu is assumed to be unity, while
fs=fu ¼ 0.259 0.015 [32] is used for the Run 1 data
and is scaled by 1.068 0.016 for the Run 2 data,
according to Ref. [33], to account for center-of-mass
energy differences. A measurement of fs=fu from Run 2
yields a consistent, but less precise, result [34]. Candidates for the normalization mode, Bþ →J=ψKþ,
are constructed similarly, but require an additional track
consistent with being a kaon and originating from the
same vertex as the dielectron candidate. The dielectron
candidate must have an invariant mass in the range
½2450; 3176 MeV=c2,
consistent
with
arising
from
a J=ψ
meson decay. In addition, the reconstructed
Bþ-candidate mass, when the dielectron candidate is
constrained to the known J=ψ
mass [12], must be
above 5175 MeV=c2, suppressing partially reconstructed
decays. The yield of the normalization mode is determined
using
an
unbinned
maximum-likelihood
fit
to
the
Kþ eþe−invariant mass separately for each year of data 211802-2 PHYSICAL REVIEW LETTERS 124, 211802 (2020) PHYSICAL REVIEW LETTERS 124, 211802 (2020) 4500
5000
5500
6000
6500
]
2c
) [MeV/
−e
+e(
m
0
200
400
)
2c
Candidates / ( 120 MeV/
LHCb
2016 data
−
2015
−
e
+
e
→
s
0
B
full model
combinatorial
decays
e
ν
+
e
0
D
→
+
B
decays
−
e
+
e
X
→
B
decays
e
ν
−
e
+
h
→
b
X
decays
−
h'
+
h
→
B 4500
5000
5500
6000
6500
]
2c
) [MeV/
−e
+e(
m
0
50
100
150
200
)
2c
Candidates / ( 120 MeV/
LHCb
2012 data
−
2011
−
e
+
e
→
s
0
B
full model
combinatorial
decays
e
ν
+
e
0
D
→
+
B
decays
−
e
+
e
X
→
B
decays
e
ν
−
e
+
h
→
b
X
decays
−
h'
+
h
→
B FIG. 1. Simultaneous fit to the dielectron invariant-mass distribution, with BðB0 →eþe−Þ fixed to zero. The sum of bremsstrahlung
categories is shown for (left) Run 1 and (right) Run 2. The relative proportions of background contributions change between Run 1 and
Run 2 due to different performances of the particle identification algorithms and BDT selections. Upper limits on the branching fractions are set using the
CLs method [41], as implemented in the GAMMACOMBO
framework [42,43] with a one-sided profile likelihood ratio
[44] as test statistic. The likelihoods are computed from fits
to the invariant-mass distributions. In the fits, the normali-
zation factor, normalization mode branching fraction, frag-
mentation fraction ratio, and background yields are
Gaussian constrained to their expected values within stat-
istical and systematic uncertainties. Pseudoexperiments, in
which the nuisance parameters are set to their fitted values
from data, are used for the evaluation of the test statistic. and normalization mode arising from the trigger selection. The dominant sources of systematic uncertainties on the
background composition are due to the imprecise knowl-
edge of the branching fractions of the background compo-
nents. The largest uncertainty of this type on the expected
background yield in the B-mass region is 14%, determined
from refitting the mass sidebands while varying the
background components according to their uncertainties. Taking all correlations into account, overall single event
sensitivities of ½4.71 0.12ðstatÞ 0.33ðsystÞ × 10−10 for
B0s→eþe−and ½1.2710.034ðstatÞ0.063ðsystÞ×10−10
for B0 →eþe−are obtained. The
expected
and
observed
CLs
distribu-
tions
are
shown
in
Fig. 2. PHYSICAL REVIEW LETTERS 124, 211802 (2020) The contribution
from combinatorial background is evaluated from same-
sign lepton pairs in data and found to be small. The yields
of the backgrounds are Gaussian constrained to their
expected values, estimated from simulation using their
known branching fractions [12]. TABLE I. Normalization factors α for B0
ðsÞ →eþe−. The
bremsstrahlung category denotes whether zero, one or both
electrons are corrected for bremsstrahlung losses. The uncertain-
ties include statistical uncertainties and uncertainties due to
limited size of the simulated samples. Bremsstrahlung category 2011–2012 ½10−5 2015–2016 ½10−5
No correction
2.85 0.24
1.84 0.08
One electron corrected
1.13 0.08
0.70 0.03
Both electrons corrected
1.73 0.20
1.04 0.06 211802-3 PHYSICAL REVIEW LETTERS 124, 211802 (2020) 4500
5000
5500
6000
6500
]
2c
) [MeV/
−e
+e(
m
0
50
100
150
200
)
2c
Candidates / ( 120 MeV/
LHCb
2012 data
−
2011
−
e
+
e
→
s
0
B
full model
combinatorial
decays
e
ν
+
e
0
D
→
+
B
decays
−
e
+
e
X
→
B
decays
e
ν
−
e
+
h
→
b
X
decays
−
h'
+
h
→
B
4500
5000
5500
6000
6500
]
2c
) [MeV/
−e
+e(
m
0
200
400
)
2c
Candidates / ( 120 MeV/
LHCb
2016 data
−
2015
−
e
+
e
→
s
0
B
full model
combinatorial
decays
e
ν
+
e
0
D
→
+
B
decays
−
e
+
e
X
→
B
decays
e
ν
−
e
+
h
→
b
X
decays
−
h'
+
h
→
B
FIG. 1. Simultaneous fit to the dielectron invariant-mass distribution, with BðB0 →eþe−Þ fixed to zero. The sum of bremsstrahlung
categories is shown for (left) Run 1 and (right) Run 2. The relative proportions of background contributions change between Run 1 and
Run 2 due to different performances of the particle identification algorithms and BDT selections. PHYSICAL REVIEW LETTERS 124, 211802 (2020) The
upper
observed
limits
are
BðB0s →eþe−Þ < 9.4ð11.2Þ × 10−9
and
BðB0 →eþe−Þ < 2.5ð3.0Þ × 10−9
at
90(95)%
confi-
dence level. These are consistent with the expected
upper limits of BðB0s →eþe−Þ < 7.0ð8.6Þ × 10−9 and
BðB0 →eþe−Þ < 2.0ð2.5Þ × 10−9 at 90(95)% confidence
level, obtained as the median of limits determined on
background-only pseudoexperiments. The dielectron invariant-mass spectrum, summed over
bremsstrahlung categories, is shown in Fig. 1, with the result
of the B0s →eþe−fit. The individual categories are shown in
the Supplemental Material [38], as well as the distributions
withthe result oftheB0 →eþe−fit.The measuredbranching
fractions
are
BðB0s →eþe−Þ ¼ ð2.4 4.4Þ × 10−9
and
BðB0 →eþe−Þ ¼ ð0.30 1.29Þ × 10−9, where the uncer-
tainties include both statistical and systematic components. The results are in agreement with the background-only
hypothesis. In conclusion, a search for the rare decays B0
ðsÞ →eþe−
is performed using data from proton-proton collisions branching fraction
−e
+e
→
s
0
B
0
5
10
15
20
9
−
10
×
S
CL
0
0.2
0.4
0.6
0.8
1
Observed
Expected
σ
1
±
σ
2
±
90.0%95.0%
LHCb
branching fraction
−e
+e
→
0
B
0
1
2
3
4
5
6
9
−
10
×
S
CL
0
0.2
0.4
0.6
0.8
1
Observed
Expected
σ
1
±
σ
2
±
90.0%95.0%
LHCb
FIG. 2. CLs values as a function of the branching fractions of the decays (left) B0s →eþe−and (right) B0 →eþe−. The red solid line
(black solid line with data points) corresponds to the distribution of the expected (observed) upper limits, and the light blue (dark blue)
band contains the 1σ ð2σÞ uncertainties on the expected upper limits. Thresholds corresponding to 90% and 95% confidence level are
indicated with dashed lines. The observed values are plotted for branching fractions greater than the measured branching fraction in the
data; the test statistic is defined to be nonzero only in that region. PHYSICAL REVIEW LETTERS 124, 211802 (2020) PHYSICAL REVIEW LETTERS 124, 211802 (2020) [4] J. P. Lees et al. (BABAR Collaboration), Measurement of
branching fractions and rate asymmetries in the rare decays
B →KðÞlþl−, Phys. Rev. D 86, 032012 (2012). recorded with the LHCb experiment, corresponding to a
total integrated luminosity of 5 fb−1. No excess of events is
observed over the background. The resulting limits on the
branching fractions are BðB0s →eþe−Þ < 9.4ð11.2Þ × 10−9
and BðB0 →eþe−Þ < 2.5ð3.0Þ × 10−9 at 90(95)% confi-
dence level, when neglecting the contribution from
the other decay. The mean B0s lifetime is assumed for
B0s →eþe−decays. Assuming SM-like CP-odd (CP-even)
B0s →eþe−decays, an increase (decrease) of 2.4% with
respect to the quoted limit is found. The results improve
the limits on these branching fractions [11] by more
than one order of magnitude and constrain contributions
beyond the SM, for example from scalar and pseudoscalar
currents [10]. [5] A. Abdesselam et al. (Belle Collaboration), Test of
lepton flavor universality in B →Klþl−decays, arXiv:
1908.01848. [6] A. Abdesselam et al. (Belle Collaboration), Test of lepton
flavor universality in B →Klþl−
decays at Belle,
arXiv:1904.02440. [7] V. Khachatryan et al. (CMS and LHCb Collaborations),
Observation of the rare B0s →μþμ−decay from the com-
bined analysis of CMS and LHCb data, Nature (London)
522, 68 (2015). [8] R. Aaij et al. (LHCb Collaboration), Measurement of the
B0s →μþμ−Branching Fraction and Effective Lifetime and
Search for B0 →μþμ−Decays, Phys. Rev. Lett. 118,
191801 (2017). We express our gratitude to our colleagues in the CERN
accelerator departments for the excellent performance of
the LHC. We thank the technical and administrative staff at
the LHCb institutes. We acknowledge support from CERN
and from the national agencies: CAPES, CNPq, FAPERJ,
and FINEP (Brazil); MOST and NSFC (China); CNRS/
IN2P3 (France); BMBF, DFG, and MPG (Germany); INFN
(Italy); NWO (Netherlands); MNiSW and NCN (Poland);
MEN/IFA (Romania); MSHE (Russia); MinECo (Spain);
SNSF and SER (Switzerland); NASU (Ukraine); STFC
(United Kingdom); DOE NP and NSF (USA). We
acknowledge the computing resources that are provided
by CERN, IN2P3 (France), KIT and DESY (Germany),
INFN (Italy), SURF (Netherlands), PIC (Spain), GridPP
(United Kingdom), RRCKI and Yandex LLC (Russia),
CSCS (Switzerland), IFIN-HH (Romania), CBPF (Brazil),
PL-GRID (Poland) and OSC (USA). We are indebted to the
communities behind the multiple open-source software
packages on which we depend. PHYSICAL REVIEW LETTERS 124, 211802 (2020) Individual groups or
members have received support from AvH Foundation
(Germany); EPLANET, Marie Skłodowska-Curie Actions
and ERC (European Union); ANR, Labex P2IO and
OCEVU, and R´egion Auvergne-Rhône-Alpes (France);
Key Research Program of Frontier Sciences of CAS,
CAS PIFI, and the Thousand Talents Program (China);
RFBR, RSF, and Yandex LLC (Russia); GVA, XuntaGal,
and GENCAT (Spain);
the
Royal
Society and
the
Leverhulme Trust (United Kingdom). [9] M. Beneke, C. Bobeth, and R. Szafron, Power-enhanced
leading-logarithmic QED corrections to Bq →μþμ−, J. High
Energy Phys. 10 (2019) 232. [10] R. Fleischer, R. Jaarsma, and G. Tetlalmatzi-Xolocotzi, In
pursuit of New Physics with B0
s;d →lþl−, J. High Energy
Phys. 05 (2017) 156. [11] T. Aaltonen et al. (CDF Collaboration), Search for the
Decays B0s →eþμ−and B0s →eþe−in CDF Run II, Phys. Rev. Lett. 102, 201801 (2009). [12] M. Tanabashi et al. (Particle Data Group), Review of
particle physics, Phys. Rev. D 98, 030001 (2018), and
2019 update. [13] A. A. Alves, Jr. et al. (LHCb Collaboration), The LHCb
detector at the LHC, J. Instrum. 3, S08005 (2008). [14] R. Aaij et al. (LHCb Collaboration), LHCb detector
performance, Int. J. Mod. Phys. A 30, 1530022 (2015). [15] R. Aaij et al., The LHCb trigger and its performance in
2011, J. Instrum. 8, P04022 (2013). [16] V. V. Gligorov and M. Williams, Efficient, reliable and fast
high-level triggering using a bonsai boosted decision tree,
J. Instrum. 8, P02013 (2013). [17] T. Likhomanenko, P. Ilten, E. Khairullin, A. Rogozhnikov,
A. Ustyuzhanin, and M. Williams, LHCb topological
trigger reoptimization, J. Phys. Conf. Ser. 664, 082025
(2015). [18] T. Sjöstrand, S. Mrenna, and P. Skands, PYTHIA 6.4
physics and manual, J. High Energy Phys. 05 (2006)
026; A brief introduction to PYTHIA 8.1, Comput. Phys. Commun. 178, 852 (2008). [19] I. Belyaev et al., Handling of the generation of primary
events in Gauss, the LHCb simulation framework, J. Phys. Conf. Ser. 331, 032047 (2011). [20] D. J. Lange, The EvtGen particle decay simulation package,
Nucl. Instrum. Methods Phys. Res., Sect. A 462, 152
(2001). [1] R. Aaij et al. (LHCb Collaboration), Test of lepton univer-
sality with B0 →K0lþl−decays, J. High Energy Phys. 08
(2017) 055. [21] P. Golonka and Z. Was, PHOTOS Monte Carlo: A precision
tool for QED corrections in Z and W decays, Eur. Phys. J. C
45, 97 (2006). [2] R. Aaij et al. PHYSICAL REVIEW LETTERS 124, 211802 (2020) branching fraction
−e
+e
→
s
0
B
0
5
10
15
20
9
−
10
×
S
CL
0
0.2
0.4
0.6
0.8
1
Observed
Expected
σ
1
±
σ
2
±
90.0%95.0%
LHCb
CL branching fraction
−e
+e
→
0
B
0
1
2
3
4
5
6
9
−
10
×
S
CL
0
0.2
0.4
0.6
0.8
1
Observed
Expected
σ
1
±
σ
2
±
90.0%95.0%
LHCb branching fraction
−e
+e
→
0
B
2
3
4
5 branching fraction
−e
+e
→
0
B branching fraction
−e
+e
→
s
0
B FIG. 2. CLs values as a function of the branching fractions of the decays (left) B0s →eþe−and (right) B0 →eþe−. The red solid line
(black solid line with data points) corresponds to the distribution of the expected (observed) upper limits, and the light blue (dark blue)
band contains the 1σ ð2σÞ uncertainties on the expected upper limits. Thresholds corresponding to 90% and 95% confidence level are
indicated with dashed lines. The observed values are plotted for branching fractions greater than the measured branching fraction in the
data; the test statistic is defined to be nonzero only in that region. 211802-4 PHYSICAL REVIEW LETTERS 124, 211802 (2020) [34] R. Aaij et al. (LHCb Collaboration), Measurement of
b-hadron fractions in 13 TeV pp collisions, Phys. Rev. D
100, 031102(R) (2019). [23] M. Clemencic, G. Corti, S. Easo, C. R. Jones, S. Miglior-
anzi, M. Pappagallo, and P. Robbe, The LHCb simulation
application, Gauss: Design, evolution and experience,
J. Phys. Conf. Ser. 331, 032023 (2011). [35] T. Skwarnicki, A study of the radiative cascade transitions
between the Upsilon-prime and Upsilon resonances, Ph.D. thesis, Institute of Nuclear Physics, Krakow, 1986, DESY-
F31-86-02. [24] R. Aaij et al. (LHCb Collaboration), Search for the rare
decays B0s →μþμ−and B0 →μþμ−, Phys. Lett. B 708, 55
(2012). [25] L. Anderlini et al., The
PIDCalib
package, Report
No. LHCb-PUB-2016-021, 2016. [36] S. Tolk, J. Albrecht, F. Dettori, and A. Pellegrino, Data
driven trigger efficiency determination at LHCb, Report
No. LHCb-PUB-2014-039, 2014. [26] R. Aaij et al. (LHCb Collaboration), Measurement of the
B0 →K0eþe−branching fraction at low dilepton mass,
J. High Energy Phys. 05 (2013) 159. [37] K. A. Olive et al. (Particle Data Group), Review of particle
physics, Chin. Phys. C 38, 090001 (2014). [38] See
the
Supplemental
Material
at
http://link.aps.org/
supplemental/10.1103/PhysRevLett.124.211802 for the se-
lection efficiency ratio of normalization and signal mode,
the individual categories of the B0s →eþe−fit and the
distributions with the result of the B0 →eþe−fit. [27] Y. Freund and R. E. Schapire, A decision-theoretic gener-
alization of on-line learning and an application to boosting,
J. Comput. Syst. Sci. 55, 119 (1997). [28] L. Breiman, J. H. Friedman, R. A. Olshen, and C. J. Stone,
Classification
and
Regression
Trees
(Wadsworth
International Group, Belmont, California, USA, 1984). [39] B. Efron and R. J. Tibshirani, An Introduction to the
Bootstrap, Mono. Stat. Appl. Probab. (Chapman and Hall,
London, 1993). [29] F. Pedregosa et al., Scikit-learn: Machine learning in
Python, J. Mach. Learn. Res. 12, 2825 (2011), and online
at http://scikit-learn.org/stable/. [40] R. Aaij et al. (LHCb Collaboration), Measurement of the
track reconstruction efficiency at LHCb, J. Instrum. 10,
P02007 (2015). [30] L. Gavardi,
Search
for
lepton
flavour
violation
in
τ decays at the LHCb experiment, Master’s thesis, Universit
degli studi di Milano-Bicocca, 2013, CERN-THESIS-2013-
259. [41] A. L. Read, Presentation of search results: The CLs tech-
nique, J. Phys. G 28, 2693 (2002). [31] G. Punzi, Sensitivity of searches for new signals and its
optimization, eConf C030908, MODT002 (2003). [42] R. Aaij et al. R. Aaij,31 C. Abellán Beteta,49 T. Ackernley,59 B. Adeva,45 M. Adinolfi,53 H. Afsharnia,9 C. A. Aidala,81 S. Aiola,25
Z. Ajaltouni,9 S. Akar,66 P. Albicocco,22 J. Albrecht,14 F. Alessio,47 M. Alexander,58 A. Alfonso Albero,44 G. Alkhazov,37
P. Alvarez Cartelle,60 A. A. Alves Jr.,45 S. Amato,2 Y. Amhis,11 L. An,21 L. Anderlini,21 G. Andreassi,48 M. Andreotti,20
F. Archilli,16 A. Artamonov,43 M. Artuso,67 K. Arzymatov,41 E. Aslanides,10 M. Atzeni,49 B. Audurier,11 S. Bachmann,16
J. J. Back,55 S. Baker,60 V. Balagura,11,a W. Baldini,20 A. Baranov,41 R. J. Barlow,61 S. Barsuk,11 W. Barter,60
M. Bartolini,23,47,b F. Baryshnikov,78 J. M. Basels,13 G. Bassi,28 V. Batozskaya,35 B. Batsukh,67 A. Battig,14 A. Bay,48
M. Becker,14 F. Bedeschi,28 I. Bediaga,1 A. Beiter,67 V. Belavin,41 S. Belin,26 V. Bellee,48 K. Belous,43 I. Belyaev,38
G. Bencivenni,22 E. Ben-Haim,12 S. Benson,31 A. Berezhnoy,39 R. Bernet,49 D. Berninghoff,16 H. C. Bernstein,67
C. Bertella,47 E. Bertholet,12 A. Bertolin,27 C. Betancourt,49 F. Betti,19,c M. O. Bettler,54 Ia. Bezshyiko,49 S. Bhasin,53
J. Bhom,33 M. S. Bieker,14 S. Bifani,52 P. Billoir,12 A. Bizzeti,21,d M. Bjørn,62 M. P. Blago,47 T. Blake,55 F. Blanc,48
S. Blusk,67 D. Bobulska,58 V. Bocci,30 O. Boente Garcia,45 T. Boettcher,63 A. Boldyrev,79 A. Bondar,42,e N. Bondar,37,47
S. Borghi,61 M. Borisyak,41 M. Borsato,16 J. T. Borsuk,33 T. J. V. Bowcock,59 C. Bozzi,20 M. J. Bradley,60 S. Braun,65
A. Brea Rodriguez,45 M. Brodski,47 J. Brodzicka,33 A. Brossa Gonzalo,55 D. Brundu,26 E. Buchanan,53
A. Büchler-Germann,49 A. Buonaura,49 C. Burr,47 A. Bursche,26 A. Butkevich,40 J. S. Butter,31 J. Buytaert,47
W. Byczynski,47 S. Cadeddu,26 H. Cai,72 R. Calabrese,20,f L. Calero Diaz,22 S. Cali,22 R. Calladine,52 M. Calvi,24,g
M. Calvo Gomez,44,h P. Camargo Magalhaes,53 A. Camboni,44,h P. Campana,22 D. H. Campora Perez,31 PHYSICAL REVIEW LETTERS 124, 211802 (2020) (LHCb Collaboration), Search for Lepton-
Universality Violation in Bþ →Kþlþl−Decays, Phys. Rev. Lett. 122, 191801 (2019). [22] J. Allison et al. (GEANT4 Collaboration), Geant4 develop-
ments and applications, IEEE Trans. Nucl. Sci. 53, 270
(2006); S. Agostinelli et al. (Geant4 Collaboration), Geant4:
A simulation toolkit, Nucl. Instrum. Methods Phys. Res.,
Sect. A 506, 250 (2003). [3] R. Aaij et al. (LHCb Collaboration), Test of lepton univer-
sality using Λ0
b →pK−lþl−decays, J. High Energy Phys. 05 (2020) 040. 211802-5 211802-5 PHYSICAL REVIEW LETTERS 124, 211802 (2020) A. F. Campoverde Quezada,5 L. Capriotti,19,c A. Carbone,19,c G. Carboni,29 R. Cardinale,23,b A. Cardini,26 I. Carli,6
P. Carniti,24,g K. Carvalho Akiba,31 A. Casais Vidal,45 G. Casse,59 M. Cattaneo,47 G. Cavallero,47 S. Celani,48 R. Cenci,28,i
J. Cerasoli,10 M. G. Chapman,53 M. Charles,12 Ph. Charpentier,47 G. Chatzikonstantinidis,52 M. Chefdeville,8
V. Chekalina,41 C. Chen,3 S. Chen,26 A. Chernov,33 S.-G. Chitic,47 V. Chobanova,45 S. Cholak,48 M. Chrzaszcz,33
A. Chubykin,37 V. Chulikov,37 P. Ciambrone,22 M. F. Cicala,55 X. Cid Vidal,45 G. Ciezarek,47 F. Cindolo,19 P. E. L. Clarke,57
M. Clemencic,47 H. V. Cliff,54 J. Closier,47 J. L. Cobbledick,61 V. Coco,47 J. A. B. Coelho,11 J. Cogan,10 E. Cogneras,9
L. Cojocariu,36 P. Collins,47 T. Colombo,47 A. Contu,26 N. Cooke,52 G. Coombs,58 S. Coquereau,44 G. Corti,47
C. M. Costa Sobral,55 B. Couturier,47 D. C. Craik,63 J. Crkovská,66 A. Crocombe,55 M. Cruz Torres,1,j R. Currie,57
C. L. Da Silva,66 E. Dall’Occo,14 J. Dalseno,45,53 C. D’Ambrosio,47 A. Danilina,38 P. d’Argent,47 A. Davis,61
O. De Aguiar Francisco,47 K. De Bruyn,47 S. De Capua,61 M. De Cian,48 J. M. De Miranda,1 L. De Paula,2 M. De Serio,18,k
P. De Simone,22 J. A. de Vries,76 C. T. Dean,66 W. Dean,81 D. Decamp,8 L. Del Buono,12 B. Delaney,54 H.-P. Dembinski,14
A. Dendek,34 V. Denysenko,49 D. Derkach,79 O. Deschamps,9 F. Desse,11 F. Dettori,26,l B. Dey,7 A. Di Canto,47
P. Di Nezza,22 S. Didenko,78 H. Dijkstra,47 V. Dobishuk,51 F. Dordei,26 M. Dorigo,28,m A. C. dos Reis,1 L. Douglas,58
A. Dovbnya,50 K. Dreimanis,59 M. W. Dudek,33 L. Dufour,47 P. Durante,47 J. M. Durham,66 D. Dutta,61 M. Dziewiecki,16
A. Dziurda,33 A. Dzyuba,37 S. Easo,56 U. Egede,69 V. Egorychev,38 S. Eidelman,42,e S. Eisenhardt,57 S. Ek-In,48 L. Eklund,58
S. Ely,67 A. Ene,36 E. Epple,66 S. Escher,13 J. Eschle,49 S. Esen,31 T. Evans,47 A. Falabella,19 J. Fan,3 Y. Fan,5 N. Farley,52
S. Farry,59 D. Fazzini,11 P. Fedin,38 M. F´eo,47 P. Fernandez Declara,47 A. Fernandez Prieto,45 F. Ferrari,19,c
L. Ferreira Lopes,48 F. Ferreira Rodrigues,2 S. Ferreres Sole,31 M. Ferrillo,49 M. Ferro-Luzzi,47 S. Filippov,40 R. A. Fini,18
M. Fiorini,20,f M. Firlej,34 K. M. Fischer,62 C. Fitzpatrick,47 T. Fiutowski,34 F. Fleuret,11,a M. Fontana,47 F. Fontanelli,23,b
R. Forty,47 V. Franco Lima,59 M. Franco Sevilla,65 M. Frank,47 C. Frei,47 D. A. Friday,58 J. Fu,25,n Q. Fuehring,14 W. Funk,47
E. Gabriel,57 A. Gallas Torreira,45 D. Galli,19,c S. Gallorini,27 S. Gambetta,57 Y. Gan,3 M. Gandelman,2 P. Gandini,25 Y. Gao,4
L. M. Garcia Martin,46 J. García Pardiñas,49 B. Garcia Plana,45 F. A. Garcia Rosales,11 L. Garrido,44 D. Gascon,44
C. Gaspar,47 D. Gerick,16 E. Gersabeck,61 M. Gersabeck,61 T. Gershon,55 D. Gerstel,10 Ph. Ghez,8 V. Gibson,54
A. Gioventù,45 P. Gironella Gironell,44 L. Giubega,36 C. Giugliano,20 K. Gizdov,57 V. V. Gligorov,12 C. Göbel,70
E. Golobardes,44,h D. Golubkov,38 A. Golutvin,60,78 A. Gomes,1,o P. Gorbounov,38 I. V. Gorelov,39 C. Gotti,24,g
E. Govorkova,31 J. P. Grabowski,16 R. Graciani Diaz,44 T. Grammatico,12 L. A. Granado Cardoso,47 E. Graug´es,44
E. Graverini,48 G. Graziani,21 A. Grecu,36 R. Greim,31 P. Griffith,20 L. Grillo,61 L. Gruber,47 B. R. Gruberg Cazon,62 C. Gu,3
E. Gushchin,40 A. Guth,13 Yu. Guz,43,47 T. Gys,47 P. A. Günther,16 T. Hadavizadeh,62 G. Haefeli,48 C. Haen,47 S. C. Haines,54
P. M. Hamilton,65 Q. Han,7 X. Han,16 T. H. Hancock,62 S. Hansmann-Menzemer,16 N. Harnew,62 T. Harrison,59 R. Hart,31
C. Hasse,14 M. Hatch,47 J. He,5 M. Hecker,60 K. Heijhoff,31 K. Heinicke,14 A. M. Hennequin,47 K. Hennessy,59 L. Henry,46
J. Heuel,13 A. Hicheur,68 D. Hill,62 M. Hilton,61 P. H. Hopchev,48 J. Hu,16 J. Hu,71 W. Hu,7 W. Huang,5 W. Hulsbergen,31
T. Humair,60 R. J. Hunter,55 M. Hushchyn,79 D. Hutchcroft,59 D. Hynds,31 P. Ibis,14 M. Idzik,34 P. Ilten,52 A. Inglessi,37
K. Ivshin,37 R. Jacobsson,47 S. Jakobsen,47 E. Jans,31 B. K. Jashal,46 A. Jawahery,65 V. Jevtic,14 F. Jiang,3 M. John,62
D. Johnson,47 C. R. Jones,54 B. Jost,47 N. Jurik,62 S. Kandybei,50 M. Karacson,47 J. M. Kariuki,53 N. Kazeev,79 M. Kecke,16
F. Keizer,54,47 M. Kelsey,67 M. Kenzie,55 T. Ketel,32 B. Khanji,47 A. Kharisova,80 K. E. Kim,67 T. Kirn,13 V. S. Kirsebom,48
S. Klaver,22 K. Klimaszewski,35 S. Koliiev,51 A. Kondybayeva,78 A. Konoplyannikov,38 P. Kopciewicz,34 R. Kopecna,16
P. Koppenburg,31 M. Korolev,39 I. Kostiuk,31,51 O. Kot,51 S. Kotriakhova,37 L. Kravchuk,40 R. D. Krawczyk,47 M. Kreps,55
F. Kress,60 S. Kretzschmar,13 P. Krokovny,42,e W. Krupa,34 W. Krzemien,35 W. Kucewicz,33,p M. Kucharczyk,33
V. Kudryavtsev,42,e H. S. Kuindersma,31 G. J. Kunde,66 T. Kvaratskheliya,38 D. Lacarrere,47 G. Lafferty,61 A. Lai,26
D. Lancierini,49 J. J. Lane,61 G. Lanfranchi,22 C. Langenbruch,13 O. Lantwin,49 T. Latham,55 F. Lazzari,28,q R. Le Gac,10
S. H. Lee,81 R. Lef`evre,9 A. Leflat,39,47 O. Leroy,10 T. Lesiak,33 B. Leverington,16 H. Li,71 L. Li,62 X. Li,66 Y. Li,6 Z. Li,67
X. Liang,67 T. Lin,60 R. Lindner,47 V. Lisovskyi,14 G. Liu,71 X. Liu,3 D. Loh,55 A. Loi,26 J. Lomba Castro,45 I. Longstaff,58
J. H. Lopes,2 G. Loustau,49 G. H. Lovell,54 Y. Lu,6 D. Lucchesi,27,r M. Lucio Martinez,31 Y. Luo,3 A. Lupato,27 E. Luppi,20,f
55
28 s
5
19 c
11
36
48
14 PHYSICAL REVIEW LETTERS 124, 211802 (2020) (LHCb Collaboration), Measurement of the
CKM angle γ from a combination of LHCb results, J. High
Energy Phys. 12 (2016) 087. [32] R. Aaij
et
al. (LHCb
Collaboration),
Measurement
of the fragmentation fraction ratio fs=fd and its dependence
on B meson kinematics, J. High Energy Phys. 04
(2013) 001, fs=fd value updated in LHCb-CONF-2013-
011. [43] M. Kenzie et al., GammaCombo: A statistical analysis
framework for combining measurements, fitting datasets
and producing confidence intervals, https://doi.org/10.5281/
zenodo.3371421. [33] R. Aaij et al. (LHCb Collaboration), Measurement of
fs=fu
Variation with Proton-Proton Collision Energy
and B-Meson Kinematics, Phys. Rev. Lett. 124, 122002
(2020). [44] G. Cowan, K. Cranmer, E. Gross, and O. Vitells, Asymp-
totic formulae for likelihood-based tests of new physics,
Eur. Phys. J. C 71, 1554 (2011); Erratum, Eur. Phys. J. C 73,
2501 (2013). g
M. Bartolini,23,47,b F. Baryshnikov,78 J. M. Basels,13 G. Bassi,28 V. Batozskaya,35 B. Batsuk 211802-6 PHYSICAL REVIEW LETTERS 124, 211802 (2020) D. Martinez Santos,45 F. Martinez Vidal,46 A. Massafferri,1 M. Materok,13 R. Matev,47 A. Mathad,49 Z. Mathe,47
V. Matiunin,38 C. Matteuzzi,24 K. R. Mattioli,81 A. Mauri,49 E. Maurice,11,a M. McCann,60 L. Mcconnell,17 A. McNab,61
R. McNulty,17 J. V. Mead,59 B. Meadows,64 C. Meaux,10 G. Meier,14 N. Meinert,74 D. Melnychuk,35 S. Meloni,24,g
M. Merk,31 A. Merli,25 M. Mikhasenko,47 D. A. Milanes,73 E. Millard,55 M.-N. Minard,8 O. Mineev,38 L. Minzoni,20
S. E. Mitchell,57 B. Mitreska,61 D. S. Mitzel,47 A. Mödden,14 A. Mogini,12 R. D. Moise,60 T. Mombächer,14 I. A. Monroy,73
S. Monteil,9 M. Morandin,27 G. Morello,22 M. J. Morello,28,s J. Moron,34 A. B. Morris,10 A. G. Morris,55 R. Mountain,67
H. Mu,3 F. Muheim,57 M. Mukherjee,7 M. Mulder,47 D. Müller,47 K. Müller,49 C. H. Murphy,62 D. Murray,61 P. Muzzetto,26
P. Naik,53 T. Nakada,48 R. Nandakumar,56 T. Nanut,48 I. Nasteva,2 M. Needham,57 N. Neri,25,n S. Neubert,16 N. Neufeld,47
R. Newcombe,60 T. D. Nguyen,48 C. Nguyen-Mau,48,u E. M. Niel,11 S. Nieswand,13 N. Nikitin,39 N. S. Nolte,47 C. Nunez,81
A. Oblakowska-Mucha,34 V. Obraztsov,43 S. Ogilvy,58 D. P. O’Hanlon,53 R. Oldeman,26,l C. J. G. Onderwater,75
J. D. Osborn,81 A. Ossowska,33 J. M. Otalora Goicochea,2 T. Ovsiannikova,38 P. Owen,49 A. Oyanguren,46 P. R. Pais,48
T. Pajero,28,28,47,s A. Palano,18 M. Palutan,22 G. Panshin,80 A. Papanestis,56 M. Pappagallo,57 L. L. Pappalardo,20
C. Pappenheimer,64 W. Parker,65 C. Parkes,61 G. Passaleva,21,47 A. Pastore,18 M. Patel,60 C. Patrignani,19,c A. Pearce,47
A. Pellegrino,31 M. Pepe Altarelli,47 S. Perazzini,19 D. Pereima,38 P. Perret,9 L. Pescatore,48 K. Petridis,53 A. Petrolini,23,b
A. Petrov,77 S. Petrucci,57 M. Petruzzo,25,n B. Pietrzyk,8 G. Pietrzyk,48 M. Pili,62 D. Pinci,30 J. Pinzino,47 F. Pisani,19
A. Piucci,16 V. Placinta,36 S. Playfer,57 J. Plews,52 M. Plo Casasus,45 F. Polci,12 M. Poli Lener,22 M. Poliakova,67
A. Poluektov,10 N. Polukhina,78,v I. Polyakov,67 E. Polycarpo,2 G. J. Pomery,53 S. Ponce,47 A. Popov,43 D. Popov,52
S. Poslavskii,43 K. Prasanth,33 L. Promberger,47 C. Prouve,45 V. Pugatch,51 A. Puig Navarro,49 H. Pullen,62 G. Punzi,28,i
W. Qian,5 J. Qin,5 R. Quagliani,12 B. Quintana,8 N. V. Raab,17 R. I. Rabadan Trejo,10 B. Rachwal,34 J. H. Rademacker,53
M. Rama,28 M. Ramos Pernas,45 M. S. Rangel,2 F. Ratnikov,41,79 G. Raven,32 M. Reboud,8 F. Redi,48 F. Reiss,12
C. Remon Alepuz,46 Z. Ren,3 V. Renaudin,62 S. Ricciardi,56 D. S. Richards,56 S. Richards,53 K. Rinnert,59 P. Robbe,11
A. Robert,12 A. B. Rodrigues,48 E. Rodrigues,59 J. A. Rodriguez Lopez,73 M. Roehrken,47 A. Rollings,62 V. Romanovskiy,43
M. Romero Lamas,45 A. Romero Vidal,45 J. D. Roth,81 M. Rotondo,22 M. S. Rudolph,67 T. Ruf,47 J. Ruiz Vidal,46
A. Ryzhikov,79 J. Ryzka,34 J. J. Saborido Silva,45 N. Sagidova,37 N. Sahoo,55 B. Saitta,26,l C. Sanchez Gras,31
C. Sanchez Mayordomo,46 R. Santacesaria,30 C. Santamarina Rios,45 M. Santimaria,22 E. Santovetti,29,w G. Sarpis,61
M. Sarpis,16 A. Sarti,30 C. Satriano,30,x A. Satta,29 M. Saur,5 D. Savrina,38,39 L. G. Scantlebury Smead,62 S. Schael,13
M. Schellenberg,14 M. Schiller,58 H. Schindler,47 M. Schmelling,15 T. Schmelzer,14 B. Schmidt,47 O. Schneider,48
A. Schopper,47 H. F. Schreiner,64 M. Schubiger,31 S. Schulte,48 M. H. Schune,11 R. Schwemmer,47 B. Sciascia,22
A. Sciubba,22 S. Sellam,68 A. Semennikov,38 A. Sergi,52,47 N. Serra,49 J. Serrano,10 L. Sestini,27 A. Seuthe,14 P. Seyfert,47
D. M. Shangase,81 M. Shapkin,43 L. Shchutska,48 T. Shears,59 L. Shekhtman,42,e V. Shevchenko,77 E. Shmanin,78
J. D. Shupperd,67 B. G. Siddi,20 R. Silva Coutinho,49 L. Silva de Oliveira,2 G. Simi,27,r S. Simone,18,k I. Skiba,20
N. Skidmore,16 T. Skwarnicki,67 M. W. Slater,52 J. G. Smeaton,54 A. Smetkina,38 E. Smith,13 I. T. Smith,57 M. Smith,60
A. Snoch,31 M. Soares,19 L. Soares Lavra,9 M. D. Sokoloff,64 F. J. P. Soler,58 B. Souza De Paula,2 B. Spaan,14
E. Spadaro Norella,25,n P. Spradlin,58 F. Stagni,47 M. Stahl,64 S. Stahl,47 P. Stefko,48 O. Steinkamp,49,78 S. Stemmle,16
O. Stenyakin,43 M. Stepanova,37 H. Stevens,14 S. Stone,67 S. Stracka,28 M. E. Stramaglia,48 M. Straticiuc,36 S. Strokov,80
J. Sun,26 L. Sun,72 Y. Sun,65 P. Svihra,61 K. Swientek,34 A. Szabelski,35 T. Szumlak,34 M. Szymanski,47 S. Taneja,61 Z. Tang,3
T. Tekampe,14 F. Teubert,47 E. Thomas,47 K. A. Thomson,59 M. J. Tilley,60 V. Tisserand,9 S. T’Jampens,8 M. Tobin,6
S. Tolk,47 L. Tomassetti,20,f D. Torres Machado,1 D. Y. Tou,12 E. Tournefier,8 M. Traill,58 M. T. Tran,48 E. Trifonova,78
C. Trippl,48 A. Tsaregorodtsev,10 G. Tuci,28,i A. Tully,48 N. Tuning,31 A. Ukleja,35 A. Usachov,31 A. Ustyuzhanin,41,79
U. Uwer,16 A. Vagner,80 V. Vagnoni,19 A. Valassi,47 G. Valenti,19 M. van Beuzekom,31 H. Van Hecke,66 E. van Herwijnen,47
C. B. Van Hulse,17 M. van Veghel,75 R. Vazquez Gomez,44 P. Vazquez Regueiro,45 C. Vázquez Sierra,31 S. Vecchi,20
J. J. Velthuis,53 M. Veltri,21,y A. Venkateswaran,67 M. Veronesi,31 M. Vesterinen,55 J. V. Viana Barbosa,47 D. Vieira,64
M. Vieites Diaz,48 H. Viemann,74 X. Vilasis-Cardona,44,h G. Vitali,28 A. Vitkovskiy,31 A. Vollhardt,49 D. Vom Bruch,12
A. Vorobyev,37 V. Vorobyev,42,e N. Voropaev,37 R. Waldi,74 J. Walsh,28 J. Wang,3 J. Wang,72 J. Wang,6 M. Wang,3 Y. Wang,7
Z. Wang,49 D. R. Ward,54 H. M. Wark,59 N. K. Watson,52 D. Websdale,60 A. Weiden,49 C. Weisser,63 B. D. C. Westhenry,53
D. J. White,61 M. Whitehead,13 D. Wiedner,14 G. Wilkinson,62 M. Wilkinson,67 I. Williams,54 M. Williams,63
M R J Williams 61 T Williams 52 F F Wilson 56 W Wislicki 35 M Witek 33 L Witola 16 G Wormser 11 S A Wotton 54 PHYSICAL REVIEW LETTERS 124, 211802 (2020) 211802-7 PHYSICAL REVIEW LETTERS 124, 211802 (2020) PHYSICAL REVIEW LETTERS 124, 211802 (2020) 211802-8 PHYSICAL REVIEW LETTERS 124, 211802 (2020) (LHCb Collaboration) Physikalisches Institut, RWTH Aachen University, Aachen, Germany
14Fakultät Physik, Technische Universität Dortmund, Dortmund, Germany
15Max-Planck-Institut für Kernphysik (MPIK), Heidelberg, Germany
16Physikalisches Institut, Ruprecht-Karls-Universität Heidelberg, Heidelberg, Germany
17School of Physics, University College Dublin, Dublin, Ireland
18INFN Sezione di Bari, Bari, Italy
19INFN Sezione di Bologna, Bologna, Italy
20INFN Sezione di Ferrara, Ferrara, Italy
21INFN Sezione di Firenze, Firenze, Italy
22INFN Laboratori Nazionali di Frascati, Frascati, Italy
23INFN Sezione di Genova, Genova, Italy
24INFN Sezione di Milano-Bicocca, Milano, Italy
25INFN Sezione di Milano, Milano, Italy
26INFN Sezione di Cagliari, Monserrato, Italy
27INFN Sezione di Padova, Padova, Italy
28INFN Sezione di Pisa, Pisa, Italy
29INFN Sezione di Roma Tor Vergata, Roma, Italy
30INFN Sezione di Roma La Sapienza, Roma, Italy
31Nikhef National Institute for Subatomic Physics, Amsterdam, Netherlands
32Nikhef National Institute for Subatomic Physics and VU University Amsterdam, Amsterdam, Netherlands
33Henryk Niewodniczanski Institute of Nuclear Physics Polish Academy of Sciences, Kraków, Poland
34AGH—University of Science and Technology, Faculty of Physics and Applied Computer Science, Kraków, Poland
35National Center for Nuclear Research (NCBJ), Warsaw, Poland
36Horia Hulubei National Institute of Physics and Nuclear Engineering, Bucharest-Magurele, Romania
37Petersburg Nuclear Physics Institute NRC Kurchatov Institute (PNPI NRC KI), Gatchina, Russia
38Institute of Theoretical and Experimental Physics NRC Kurchatov Institute (ITEP NRC KI), Moscow, Russia, Moscow, Russia
39Institute of Nuclear Physics, Moscow State University (SINP MSU), Moscow, Russia
40Institute for Nuclear Research of the Russian Academy of Sciences (INR RAS), Moscow, Russia
41Yandex School of Data Analysis, Moscow, Russia
42Budker Institute of Nuclear Physics (SB RAS), Novosibirsk, Russia
43Institute for High Energy Physics NRC Kurchatov Institute (IHEP NRC KI), Protvino, Russia, Protvino, Russia
44ICCUB, Universitat de Barcelona, Barcelona, Spain
45Instituto Galego de Física de Altas Enerxías (IGFAE), Universidade de Santiago de Compostela, Santiago de Compostela, Spain
46Instituto de Fisica Corpuscular, Centro Mixto Universidad de Valencia - CSIC, Valencia, Spain
47European Organization for Nuclear Research (CERN), Geneva, Switzerland
48Institute of Physics, Ecole Polytechnique F´ed´erale de Lausanne (EPFL), Lausanne, Switzerland
49Physik-Institut, Universität Zürich, Zürich, Switzerland
50NSC Kharkiv Institute of Physics and Technology (NSC KIPT), Kharkiv, Ukraine
51Institute for Nuclear Research of the National Academy of Sciences (KINR), Kyiv, Ukraine
52University of Birmingham, Birmingham, United Kingdom alisches Institut, Ruprecht-Karls-Universität Heidelberg, Heidelberg, Germany
17 17School of Physics, University College Dublin, Dublin, Ireland
18 18INFN Sezione di Bari, Bari, Italy 19INFN Sezione di Bologna, Bologna, Italy
20 20INFN Sezione di Ferrara, Ferrara, Italy
21 21INFN Sezione di Firenze, Firenze, Italy 22INFN Laboratori Nazionali di Frascati, Frascati, Italy
23 23INFN Sezione di Genova, Genova, Italy 24INFN Sezione di Milano-Bicocca, Milano, Italy
25 25INFN Sezione di Milano, Milano, Italy 26INFN Sezione di Cagliari, Monserrato, Italy
27 27INFN Sezione di Padova, Padova, Italy 28INFN Sezione di Pisa, Pisa, Italy 29INFN Sezione di Roma Tor Vergata, Roma, Italy
30 30INFN Sezione di Roma La Sapienza, Roma, Italy 31Nikhef National Institute for Subatomic Physics, Amsterdam, Netherlands of Science and Technology, Faculty of Physics and Applied Computer Science, Kraków, Poland
35 40Institute for Nuclear Research of the Russian Academy of Sciences (INR RAS), Moscow, Russia
41 41Yandex School of Data Analysis, Moscow, Russia f
y
42Budker Institute of Nuclear Physics (SB RAS), Novosibirsk, Russia h Energy Physics NRC Kurchatov Institute (IHEP NRC KI), Protvino, Russia, Protvino, Russia
44 Galego de Física de Altas Enerxías (IGFAE), Universidade de Santiago de Compostela, Santiago de Compostela, Spain
46Instituto de Fisica Corpuscular, Centro Mixto Universidad de Valencia - CSIC, Valencia, Spain
47 47European Organization for Nuclear Research (CERN), Geneva, Switzerland p
g
f
48Institute of Physics, Ecole Polytechnique F´ed´erale de Lausanne (EPFL), Lausanne, Switzerland
49 49Physik-Institut, Universität Zürich, Zürich, Switzerland 50NSC Kharkiv Institute of Physics and Technology (NSC KIPT), Kharkiv, Ukraine
51I
i
f
N
l
R
h
f h N i
l A
d
f S i
(KINR) K i
Uk
i 50NSC Kharkiv Institute of Physics and Technology (NSC KIPT), Kharkiv, Ukraine
51Institute for Nuclear Research of the National Academy of Sciences (KINR), Kyiv, Ukraine
52University of Birmingham, Birmingham, United Kingdom PHYSICAL REVIEW LETTERS 124, 211802 (2020) Z. Yang,65 Y. Yao,67 L. E. Yeomans,59 H. Yin,7 J. Yu,7 X. Yuan,67 O. Yushchenko,43 K. A. Zarebski,52 M. Zavertyaev,15,v
M. Zdybal,33 M. Zeng,3 D. Zhang,7 L. Zhang,3 S. Zhang,4 W. C. Zhang,3,z Y. Zhang,47 A. Zhelezov,16 Y. Zheng,5 X. Zhou,5
Y. Zhou,5 X. Zhu,3 V. Zhukov,13,39 J. B. Zonneveld,57 and S. Zucchelli19,c (LHCb Collaboration) 1Centro Brasileiro de Pesquisas Físicas (CBPF), Rio de Janeiro, Brazil
2Universidade Federal do Rio de Janeiro (UFRJ), Rio de Janeiro, Brazil
3Center for High Energy Physics, Tsinghua University, Beijing, China
4School of Physics State Key Laboratory of Nuclear Physics and Technology, Peking University, Beijing, China
5University of Chinese Academy of Sciences, Beijing, China
6Institute Of High Energy Physics (IHEP), Beijing, China
7Institute of Particle Physics, Central China Normal University, Wuhan, Hubei, China
8Universit´e Grenoble Alpes, Univ. Savoie Mont Blanc, CNRS, IN2P3-LAPP, Annecy, France
9Universit´e Clermont Auvergne, CNRS/IN2P3, LPC, Clermont-Ferrand, France
10Aix Marseille Universit´e, CNRS/IN2P3, CPPM, Marseille, France
11Universit´e Paris-Saclay, CNRS/IN2P3, IJCLab, Orsay, France
12LPNHE, Sorbonne Universit´e, Paris Diderot Sorbonne Paris Cit´e, CNRS/IN2P3, Paris, France
13I. Moscow, Russia) ,
)
80National Research Tomsk Polytechnic University, Tomsk, Russia [associated with Institute of Theoretical and Experimental Physics National Research Tomsk Polytechnic University, Tomsk, Russia [associated with Institute of Theoretical nic University, Tomsk, Russia [associated with Institute of Theoretical and Experimental Physics NRC Kurchatov Institute (ITEP NRC KI), Moscow, Russia, Moscow, Russia]
81 81University of Michigan, Ann Arbor, USA (associated with Syracuse University, Syracuse, N 81University of Michigan, Ann Arbor, USA (associated with Syracuse University, Syracuse, New York, USA) o at Laboratoire Leprince-Ringuet, Palaiseau, France aAlso at Laboratoire Leprince-Ringuet, Palaiseau, France. b bAlso at Universit`a di Genova, Genova, Italy. cAlso at Universit`a di Bologna, Bologna, Italy. d dAlso at Universit`a di Modena e Reggio Emilia, Modena, Italy. dAlso at Universit`a di Modena e Reggio Emilia, Modena, Italy. eAlso at Novosibirsk State University, Novosibirsk, Russia. f eAlso at Novosibirsk State University, Novosibirsk, Russia. f fAlso at Universit`a di Ferrara, Ferrara, Italy. gAlso at Universit`a di Milano Bicocca, Milano, Ital
h gAlso at Universit`a di Milano Bicocca, Milano, Italy. h y
hAlso at DS4DS, La Salle, Universitat Ramon Llull, Barcelona, Spain. i Also at DS4DS, La Salle, Universitat Ramon Llull, iAlso at Universit`a di Pisa, Pisa, Italy. j jAlso at Universidad Nacional Autonoma de Honduras, Tegucigalpa, Honduras. k jAlso at Universidad Nacional Autonoma de Honduras, Tegucigalpa, Hondura
k jAlso at Universidad Nacional Autonom
k kAlso at Universit`a di Bari, Bari, Italy. l lAlso at Universit`a di Cagliari, Cagliari, Italy. lAlso at Universit`a di Cagliari, Cagliari, Italy. mAlso at INFN Sezione di Trieste, Trieste, Italy. y
nAlso at Universit`a degli Studi di Milano, Milano, Italy. nAlso at Universit`a degli Studi di Milano, Milano, Italy. nAlso at Universit`a degli Studi di Milano, Milano, Italy. g
y
oAlso at Universidade Federal do Triângulo Mineiro (UFTM), Uberaba-MG, Brazil. oAlso at Universidade Federal do Triângulo Mineiro (UFTM), Uberaba-MG, Brazil. g
pAlso at AGH - University of Science and Technology, Faculty of Computer Science, Electronics and Telecommunications, Kraków,
Poland. pAlso at AGH - University of Science and Technology, Faculty of Computer Science, Electronics and Telecommunications, Kraków,
Poland. 211802-9 211802-9 PHYSICAL REVIEW LETTERS 124, 211802 (2020) Amsterdam, Netherlands) 77National Research Centre Kurchatov Institute, Moscow, Russia [associated with Institute of Theoreti urchatov Institute, Moscow, Russia [associated with Institute of Theoretical and Experimental Physics 77National Research Centre Kurchatov Institute, Moscow, Russia [associated with Institute of Theo NRC Kurchatov Institute (ITEP NRC KI), Moscow, Russia, Moscow, Russia] NRC Kurchatov Institute (ITEP NRC KI), Moscow, Russia, Moscow, Russia] 78National University of Science and Technology “MISIS”, Moscow, Russia [associated with Institute of Theoretical and Experimental niversity of Science and Technology “MISIS”, Moscow, Russia [associated with Institute of Theoreti Technology “MISIS”, Moscow, Russia [associated with Institute of Theoretical and Experimental Physics NRC Kurchatov Institute (ITEP NRC KI), Moscow, Russia, Moscow, Russia] 79National Research University Higher School of Economics, Moscow, Russia (associated with Yandex School of Data Analysis,
Moscow Russia) PHYSICAL REVIEW LETTERS 124, 211802 (2020) 53H.H. Wills Physics Laboratory, University of Bristol, Bristol, United Kingdom
5 y
y
f
g
g
g
55Department of Physics, University of Warwick, Coventry, United Kingdom
56 56STFC Rutherford Appleton Laboratory, Didcot, United Kingdom chool of Physics and Astronomy, University of Edinburgh, Edinburgh, United Kingdom School of Physics and Astronomy, University of Glasgow, Glasgow, United Kingdom
59 Massachusetts Institute of Technology, Cambridge, Massachusetts, USA
64 5University of Maryland, College Park, Maryland, USA 66Los Alamos National Laboratory (LANL), Los Alamos, New Mexico, USA
67 [associated with Universidade Federal do Rio de Janeiro (UFRJ), Rio de Janeiro, Brazil]
71 72School of Physics and Technology, Wuhan University, Wuhan, China (associated with Center for High Energy Physics, Tsinghua University, Beijing, China) mbia (associated with LPNHE, Sorbonne Universite , Universidad Nacional de Colombia, Bogota, Colombia (associated with LPNHE, Sorbonne Universit´e, 73Departamento de Fisica, Universidad Nacional de Colombia, Bogota, Colombia (associated with LPNHE, Sorbonne Universit´e, Paris Diderot Sorbonne Paris Cit´e, CNRS/IN2P3, Paris, France) t Sorbonne Paris Cit´e, CNRS/IN2P3, Paris, France t für Physik, Universität Rostock, Rostock, Germany (associated with Physikalisches Institut, ät Rostock, Rostock, Germany (associated with Phy Ruprecht-Karls-Universität Heidelberg, Heidelberg, Germany)
75 Karls-Universität Heidelberg, Heidelberg, Germany 75Van Swinderen Institute, University of Groningen, Groningen, Netherlands associated with Nikhef National Institute for Subatomic Physics, Amsterdam, Netherlands) 76Universiteit Maastricht, Maastricht, Netherlands (associated with Nikhef National Institute for Subatomic Physics,
Amsterdam, Netherlands)
77 g
(
),
,
pAlso at AGH - University of Science and Technology, Faculty of Computer Science, Electronics and Telecommunications, Kraków,
Poland. 211802-10 PHYSICAL REVIEW LETTERS 124, 211802 (2020) qAlso at Universit`a di Siena, Siena, Italy. zAlso at School of Physics and Information Technology, Shaanxi Normal University (SNNU), Xi’ PHYSICAL REVIEW LETTERS 124, 211802 (2020) rAlso at Universit`a di Padova, Padova, Italy. sAlso at Scuola Normale Superiore, Pisa, Italy. p
y
tAlso at MSU - Iligan Institute of Technology (MSU-IIT), Iligan, Philippines. uAlso at Hanoi University of Science, Hanoi, Vietnam. vAlso at P.N. Lebedev Physical Institute, Russian Academy of Science (LPI RAS), Moscow, Russia. wAlso at Universit`a di Roma Tor Vergata, Roma, Italy. yAlso at Universit`a di Urbino, Urbino, Italy. yAlso at Universit`a di Urbino, Urbino, Italy. Also at School of Physics and Information Technology, Shaanxi Normal University (SNNU), Xi’an, Ch zAlso at School of Physics and Information T 211802-11 211802-11
|
https://openalex.org/W3119843083
|
https://europepmc.org/articles/pmc7826699?pdf=render
|
English
| null |
An Odor Labeling Convolutional Encoder–Decoder for Odor Sensing in Machine Olfaction
|
Sensors
| 2,021
|
cc-by
| 7,291
|
Letter Tengteng Wen *
, Zhuofeng Mo, Jingshan Li, Qi Liu, Liming Wu and Dehan Luo Tengteng Wen * Department of Electromechanical Engineering, Guangdong University of Technology, 100, Waihuan Rd. W.,
Guangzhou Higher Education Mega Center, Guangzhou 510006, China; mozf@mail2.gdut.edu.cn (Z.M.);
2111903030@mail2.gdut.edu.cn (J.L.); 2111903157@mail2.gdut.edu.cn (Q.L.); jkyjs@gdut.edu.cn (L.W.);
dehanluo@gdut.edu.cn (D.L.)
* Correspondence: wentt@gdut.edu.cn Abstract: Deep learning methods have been widely applied to visual and acoustic technology. In this
paper, we propose an odor labeling convolutional encoder–decoder (OLCE) for odor identification in
machine olfaction. OLCE composes a convolutional neural network encoder and decoder where the
encoder output is constrained to odor labels. An electronic nose was used for the data collection of
gas responses followed by a normative experimental procedure. Several evaluation indexes were
calculated to evaluate the algorithm effectiveness: accuracy 92.57%, precision 92.29%, recall rate
92.06%, F1-Score 91.96%, and Kappa coefficient 90.76%. We also compared the model with some
algorithms used in machine olfaction. The comparison result demonstrated that OLCE had the best
performance among these algorithms. Keywords: machine olfactions; odor identifications; electronic nose; neural networks; encoder-decoder
Citation: Wen, T.; Mo, Z.; Li, J.; Liu,
Q.; Wu, L.; Luo, D. An Odor Labeling
Convolutional Encoder–Decoder for
Odor Sensing in Machine Olfaction. Sensors 2021, 21, 388. https://doi.org/10.3390/s21020388
Received: 25 November 2020
Accepted: 5 January 2021
Published: 8 January 2021 sensors sensors
Machine olfaction is an advanced technology that captures odorous materials and iden-
tifies them by distinguishing the differences in response patterns. Usually, electronic noses
(e-noses) are used, which consist of an array of gas sensors and intelligent identification
algorithms mimicking biological noses, to ‘smell’ and ‘sense’ odors [1,2]. Citation: Wen, T.; Mo, Z.; Li, J.; Liu,
Q.; Wu, L.; Luo, D. An Odor Labeling
Convolutional Encoder–Decoder for
Odor Sensing in Machine Olfaction. Sensors 2021, 21, 388. Gas sensors typically detect gases by measuring the change in electrical conductivity. Sensitivity, selectivity, response time, and recovery time are the major specifications to eval-
uate the performance of a gas sensor [3]. There are different types of gas sensors: catalytic
combustion, electrochemical, thermal-conductive, infrared absorption, paramagnetic, solid
electrolyte, and metal oxide semiconductor sensors [3]. In recent years, paper-based sensors,
which are a new type of gas sensor fabricated by cellulose paper, have the characteristics
of flexibility, tailorability, being low-cost, lightweight, and environmentally friendly [4]. The response of a gas sensor detecting an odor is a synthetic process since the sensor may
be sensitive to a group of different molecules, which is usually called ’cross-sensitivity’. Cross-sensitivity is a characteristic of gas sensors that arises because of poor selectivity [5]. It is an issue when measuring the gas concentration using a single gas sensor. However, it
can be utilized as a feature to identify odors when an array of gas sensors is used. Response
patterns of sensor signals are different from various odors. It is difficult to interpret sensing
responses due to the synthetically non-linear sensing process of gas sensors. Most gas
sensors are fabricated for detecting industrial gases or volatile organic chemicals (VOCs). https://doi.org/10.3390/s21020388 Received: 25 November 2020
Accepted: 5 January 2021
Published: 8 January 2021 Publisher’s Note: MDPI stays neu-
tral with regard to jurisdictional clai-
ms in published maps and institutio-
nal affiliations. Copyright: © 2021 by the authors. Li-
censee MDPI, Basel,
Switzerland. This article is an open access article
distributed under the terms and con-
ditions of the Creative Commons At-
tribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). Developments in odor identifications have progressed in recent years and have been
applied to specific fields. However, such methods ignore the essence of odors. An odor is
usually composed of a group of odorous compounds.
We human beings sniff the odorous
mixture, discriminate, and identify the odor if people are trained to recognize the odor. We
have difficulties describing an unknown odor without prior knowledge. Instead, we https://www.mdpi.com/journal/sensors Sensors 2021, 21, 388. https://doi.org/10.3390/s21020388 Sensors 2021, 21, 388 2 of 14 2 of 14 describe it by using some semantic words. Accordingly, is there a method to describe the
odor space so that odor can be recorded and encoded in some general forms? describe it by using some semantic words. Accordingly, is there a method to describe the
odor space so that odor can be recorded and encoded in some general forms? It is a challenge to determine the dimensionality of the olfactory perceptual space
because there are still a lot of efforts required in the investigation of the mechanism of
olfactory perceptions. Physiological studies had identified that the human olfactory system
consists of around 400 odorant receptor types [6]. An odor activates some of these odorant
receptor types to generate a specific pattern so that humans can discriminate against it. The number of odorant receptor types sets the upper bound on the dimensionality of the
perceptual space. There is no dedicated vocabulary to describe odors in major languages. Instead, words about objects, for example, flowers and animals, or emotions such as
pleasantness are applied to describe olfactory perceptions. J. E. Amoore claimed that odors
were divided into seven groups which were regarded as primary odors [7]. Markus Meister
suggested that olfactory perceptual space may contain around 20 dimensions or less [8],
and Yaara and Noam reviewed that humans are good at odor detection and discrimination,
but are poor at odor identification and naming [9]. Semantic descriptors profiled from a
list of defined verbal words are rated by human sniffers. Up to now, there is no universal
list of odor semantic descriptors yet. Currently, there is no odor space to describe the variety of odors in nature. Some
studies revealed a significant relationship between odor molecular structure information
and olfactory perceptions [10]. Functional groups and hydrocarbon structural features were
considered to be factors influencing olfactory perceptions. A hypothesis demonstrated that
odorants possessing the same functional groups activate the same glomerular modules [11]
which generate similar perceptual patterns so that humans identify them as the same type
of odor. 2.1. Research Scheme The OLCE model was built, trained, and tested by self-collecting gas response datasets. In the study, odors from seven non-crushed Chinese herbal medicines were collected by
an electronic nose. We kept experimental settings of gas-response collections by a self-
designed standard procedure to control the detection consistency and data effectiveness. We built other algorithms that had already been used for odor identification to examine the
performance of OLCE. The experimental procedure is displayed in Figure 1. Figure 1. Odor Labeling Convolutional Encoder–Decoder (OLCE) workflow. Figure 1. Odor Labeling Convolutional Encoder–Decoder (OLCE) workflow.
Recent studies revealed that 3D structure information of odorous molecules has
a more noticeable impact on olfactory perceptions [12]. Considering the complexity of
molecular structure information, the mapping to odor space may be non-linear. Several studies investigated the map between odor responses and odorous perceptual
labels. T. Nakamoto designed an odor sensing system that consisted of a mass spectrum
and large-scale neural networks to predict odor perceptual information [13]. R. Haddad
et al. investigated the relationship between odor pleasantness and e-nose sensing responses
by modeling a feed-forward back-propagation neural network [14]. D. Wu et al. designed
a convolutional neural network for predicting odor pleasantness [15]. These models used
in predicting odor perceptual descriptors perform decently in some particular datasets. However, machine percepts and describes odors using distributed representation is still a
challenge for us. It is worth establishing some forms of odor space to describe a sufficiently complete
group of odors in nature. An odor space should be some form of numerical values
with definite dimensionality. The odor space should be a linear space for convenient
interpretation because of the non-linear map. Those semantic olfactory descriptors are only
some points in the quantization, just as the color “red” is quantified to (255, 0, 0) in RGB
color space. The importance of such odor space is a quantization form so that odors can be
converted to information for data storage or transmission. The odors can be reproduced by
blending some similar odorants to generate the odor. g
g
Machine olfactions have been applied widely to many fields in recent years. Some
linear methods such as principal component analysis (PCA), linear discriminant analysis
(LDA), support vector machines (SVM), etc., were used in the analysis of odor discrimi-
nation [16]. PCA is an unsupervised method ignoring discriminant information, which
is a popular method for dimensionality reduction [17]. LDA is a supervised method for
classification by finding decision surfaces and calculating the signed orthogonal distance of
data points. It has been used in the identification of Chinese herbal medicines [18]. SVM is
a kind of regularization in which the aim is to find the maximum margin between classes. K. Brudzewski applied SVM as the classification tool for identifying tobacco [19]. Classifiers
using linear methods can be transferred to convex problems which have the advantages
of mathematical interpretability.
Non-linear methods such as artificial neural networks Sensors 2021, 21, 388 3 of 14 3 of 14 (ANN) were also introduced in machine olfactions. In recent years, deep learning methods
have been dramatically developing and widely used in various fields such as computer
visions, speech processing, automatic driving, etc. They also have been introduced in
machine olfaction for odor identification [15,20]. (ANN) were also introduced in machine olfactions. In recent years, deep learning methods
have been dramatically developing and widely used in various fields such as computer
visions, speech processing, automatic driving, etc. They also have been introduced in
machine olfaction for odor identification [15,20]. There are several advantages that mean that machine olfaction technology applies
to many fields. Firstly, it is a non-destructive technique to detect volatiles released from
the surface of objects [21]. Secondly, e-nose is usually portable, which is convenient to
detect odors anywhere and anytime [22]. Thirdly, e-noses have the capacity of extending
out olfactory perception scopes since gas sensors are capable of detecting those chemicals
which humans are unable to smell and sense [23]. Furthermore, e-noses can be used in
some unpleasant environments [24,25]. Linear methods for classifications usually require highly correlated features and high
calibration costs, which limit the number of training data [16]. Non-linear methods have
difficulties in interpretation. Nonetheless, non-linear methods, especially deep learn-
ing methods, have a higher capacity of odor identification. In this paper, we borrowed
the idea from an auto-encoder and proposed a novel deep learning algorithm for odor
identification—Odor Labeling Convolutional Encoder–Decoder (OLCE). OLCE consists of
an encoder and a decoder, where the encoder output is constrained to odor labels. OLCE
has a decoder structure which offers some clues on how the model learns features. In the
following paragraphs, we will first describe the experimental setups and the modeling of
OLCE. After that, the performance of the model, comparison with other methods, and an
overview of decoded response results will be illustrated. Furthermore, the perspective of
machine olfaction will be discussed. 2.3. The Preparation of Experimental Materials We selected seven Chinese herbal medicines (Betel Nut, Dried Ginger, Rhizoma
Alpiniae Officinarum, Tree Peony Bark, Fructus Amomi, Rhioxma Curcumae Aeruginosae,
Fructus Aurantii) for the experiment. To ensure the consistency of gas sensor responses,
the procedures for preparing these materials were carefully set as follows: We selected seven Chinese herbal medicines (Betel Nut, Dried Ginger, Rhizoma
Alpiniae Officinarum, Tree Peony Bark, Fructus Amomi, Rhioxma Curcumae Aeruginosae,
Fructus Aurantii) for the experiment. To ensure the consistency of gas sensor responses,
the procedures for preparing these materials were carefully set as follows: 1. Materials in initial conditions are placed in clean beakers separately. p
p
y
2. Beakers are equilibrated for over 20 min colorredfor enrichment of volatiles released
from the surface of medicines. from the surface of medicines. 3. The temperature is kept around 25 ◦C. 4. The humidity is kept around 75%. 2.2. Experiment Setup The clean-air inlet was connected to the purge gas port on the PEN-3 e-nose for flushing gas
sensors, and the waste-air outlet was connected to the waste port for ejecting waste gases. Response data were collected by
the e-nose and transmitted to a computer via a USB Type-B cable connecting e-nose and computer. 2.2. Experiment Setup The instrument and tools used in the experiment included a PEN-3 electronic nose,
beakers, and a computer. Experimental subjects were placed in beakers for data collection. The PEN-3 electronic nose manufactured by AirSense Inc. was used for collecting gas
sensor responses. The computer with installed with Winmuster, which is the PEN-3 e-nose
control software designed by AIRSENSE Analytics Inc., Schwerin, Gemany, which was
used to connect and control the e-nose. The architecture of the experimental setup is
displayed in Figure 2. 4 of 14 Sensors 2021, 21, 388 Figure 2. The architecture of the experimental setup for collecting odor response data. Chinese Herbal medicines were
selected as the experimental materials, and they were placed in clean beakers covered by a sealed film. A needle was
inserted into the bottom for clean-air refilling. Another needle was inserted on the roof of the beaker beneath the sealed film
for collecting headspace gases. The clean-air inlet was connected to the purge gas port on the PEN-3 e-nose for flushing gas
sensors, and the waste-air outlet was connected to the waste port for ejecting waste gases. Response data were collected by
the e-nose and transmitted to a computer via a USB Type-B cable connecting e-nose and computer. Figure 2. The architecture of the experimental setup for collecting odor response data. Chinese Herbal Figure 2. The architecture of the experimental setup for collecting odor response data. Chinese Herbal medicines were
selected as the experimental materials, and they were placed in clean beakers covered by a sealed film. A needle was
inserted into the bottom for clean-air refilling. Another needle was inserted on the roof of the beaker beneath the sealed film
for collecting headspace gases. The clean-air inlet was connected to the purge gas port on the PEN-3 e-nose for flushing gas
sensors, and the waste-air outlet was connected to the waste port for ejecting waste gases. Response data were collected by
the e-nose and transmitted to a computer via a USB Type-B cable connecting e-nose and computer. Figure 2. The architecture of the experimental setup for collecting odor response data. Chinese Herbal medicines were
selected as the experimental materials, and they were placed in clean beakers covered by a sealed film. A needle was
inserted into the bottom for clean-air refilling. Another needle was inserted on the roof of the beaker beneath the sealed film
for collecting headspace gases. 2.4. PEN-3 Electronic Nose Response data were collected from an e-nose, PEN-3, AirSense Inc. The PEN-3 e-nose
is a general-purpose gas response signal sampling instrument with 10 metal-oxide gas
sensors, each of which has different sensitivity to different gases, as shown in Table 1. With
the combination of these 10 sensors, PEN-3 has the ability to sense various gases, which
makes it a suitable instrument for this research. The settings of the e-nose are illustrated in
Table 2. 5 of 14 Sensors 2021, 21, 388 Table 1. Descriptions of the sensor array in PEN-3 e-nose. Table 1. Descriptions of the sensor array in PEN-3 e-nose. Sensor
Sensor Sensitivity and General Description
W1C
Aromatic compounds. W5S
Very sensitive, broad range of sensitivity, reacts to nitrogen oxides, very sensitive with
negative signals. W3C
Ammonia, used as sensor for aromatic compounds. W6S
Mainly hydrogen. W5C
Alkanes, aromatic compounds, less polar compounds. W1S
Sensitive to methane. Broad range. W1W
Reacts to sulphur compounds, H2S. Otherwise sensitive to many terpenes and sulphur-
containing organic compounds. W2S
Detects alcohol, partially aromatic compounds, broad range. W2W
Aromatic compounds, sulphur organic compounds. W3S
Reacts to high concentrations (>100 mg/kg) of methane–aliphatic compounds. Table 2. Settings of PEN-3 electronic nose. Options
Settings
Sample interval
1.0 s
Presampling time
5.0 s
Zero point trim time
5.0 s
Measurement time
120 s
Flushing time
120 s
Chamber flow
150 mL/min
Initial injection flow
150 mL/min
2.5. OLCE Modeling acts to high concentrations (>100 mg/kg) of methane–aliphatic compounds. Table 2. Settings of PEN-3 electronic nose. Options
Settings
Sample interval
1.0 s
Presampling time
5.0 s
Zero point trim time
5.0 s
Measurement time
120 s
Flushing time
120 s
Chamber flow
150 mL/min
Initial injection flow
150 mL/min Table 2. Settings of PEN-3 electronic nose. 2.5. OLCE Modeling Figure 3 describes the principle of OLCE. OLCE contains a convolutional encoder and
a convolutional decoder. The OLCE input is those responses that have been zero-center
normalized. The OLCE output aims to reproduce the input. The intermediate layer is a
representation that outputs the identification results. The encoder and decoder are trained
together using a training dataset. To verify the model, the results in the representation
layer are used to evaluate the performance of the model. Figure 3. The basic principle of OLCE. Figure 3. The basic principle of OLCE. Figure 3. The basic principle of OLCE. The original response data were firstly zero-center normalized, then sent into the
OLCE model. The i-th zero-center normalized response data point x′
i is calculated as follows: x′
i = xi −xmean
xmax −xmin
,
(1) (1) where xi is the i-th original data from e-nose, xmean is the average value of 120 data points
collected from a gas sensor, and xmax and xmin are the maximum and the minimum value
of the 120 data points, respectively. Sensors 2021, 21, 388 6 of 14 Suppose the input is X, which here is the sensing response collected by gas sensors. The labels of Chinese herbal medicines are defined as y, which is one-hot encoding. The
encoder is defined as F(•) and the decoder is defined as G(•). Therefore, the encoder can
be presented as y = F(X),
(2) (2) and the decoder can be presented as X′ = G(y),
(3) (3) where X′ is the output of the decoder. The aim of building the encoder–decoder is to gain an
accurate labeling of results y. To achieve this, the re-build responses X′ must approximate
to the original responses X: X′ →X. In other words, the aim of the encoder–decoder can
be illustrated as follows: where X′ is the output of the decoder. The aim of building the encoder–decoder is to gain an
accurate labeling of results y. To achieve this, the re-build responses X′ must approximate
to the original responses X: X′ →X. In other words, the aim of the encoder–decoder can
be illustrated as follows: minimize
y −Y minimize
y −Y minimize
y −Y
subject to
G(F(X)) −X. (4) (4) y
subject to
G(F(X)) −X. (4) The encoder was designed with a convolutional neural network. The convolutional
layer extract features by computing the product sum of the input variables. 2.5. OLCE Modeling ReLU was
used to introduce non-linearity in the convolutional network. ReLU(x) = max(0, x). (5) (5) A max-pooling layer was introduced to reduce spatial size of the convolved data. After that, a fully connected layer was introduced to learn non-linear combinations of the
high-level features. Softmax was implemented through the output layer as a classifier to
identify odor labels. Symmetrically, the decoder was a convolutional neural network with
the same structure. Figure 4 describes the architecture of the encoder and decoder, while
Table 3 shows the network parameters. Figure 4. Architecture of the odor labeling convolutional encoder–decoder. 2.6. Comparison Models
In order to take a view on the performance of OLCE, several algorithms that had been
applied to machine olfactions were selected for comparison. •
linear discriminant analysis (LDA) [26],
•
multi-layer perception (MLP) [27],
•
decision tree (DT) [28],
•
principle component analysis (PCA) with LDA [29],
•
convolutional neural networks (CNN) and support vector machine (SVM) [30]. Figure 4. Architecture of the odor labeling convolutional encoder–decoder. Figure 4. Architecture of the odor labeling convolutional encoder–decoder. 2.6. Comparison Models In order to take a view on the performance of OLCE, several algorithms that had been
applied to machine olfactions were selected for comparison. •
linear discriminant analysis (LDA) [26], •
multi-layer perception (MLP) [27], y
p
p
•
decision tree (DT) [28], p
p
p
y
(
)
•
convolutional neural networks (CNN) and support vector machine (SVM) [30]. LDA can be used not only for dimensionality reduction but also for classification. LDA reduces in-class distances and increases the distances between classes. LDA can be used not only for dimensionality reduction but also for classification. LDA reduces in-class distances and increases the distances between classes. 7 of 14 Sensors 2021, 21, 388 Table 3. Structural parameters of the odor labeling convolutional encoder–decoder. Layer
Type
Filter Shape
Input Size
Conv1
conv
7 × 1 × 5
10 × 1 × 120
Maxpool
1 × 2
7 × 1 × 116
Conv2
conv
12 × 1 × 3
7 × 1 × 58
Maxpool
1 × 2
12 × 1 × 56
FC3
FC
7 × 336
12 × 1 × 28
Classifier
Softmax
-
7
FC3
FC
336 × 7
7
Unpool
1 × 2
12 × 1 × 28
Transposed Conv2
Transposed conv2
7 × 1 × 3
12 × 1 × 56
Unpool
1 × 2
7 × 1 × 58
Transposed Conv1
Transposed conv1
10 × 1 × 5
7 × 1 × 116 Table 3. Structural parameters of the odor labeling convolutional encoder–decoder. An MLP classifier is an artificial neural network and has been applied to odor iden-
tification. MLP is a supervised non-linear function approximator that learns a function
f (•) : Rm →Rn, where m = 1200 was a 120 × 10 sample and n = 7 is the labels. The MLP
consisted of 4 hidden layers with the ReLU activation function. y
DT is a non-parametric supervised learner which classifies data based on already-
known sample distribution probability. It performed decently in odor classification. We
here set the classification criterion to Gini, H(Xm) = ∑
k
pmk(1 −pmk),
(6) (6) where Xm is samples that used the node m. The proportion of class k in node m is
pmk = 1/N ∑xi∈R I(yi = k). It represents a region R with N observations. In order to
prevent overfitting, the maximum depth of a tree was limited to 10. 2.6. Comparison Models where Xm is samples that used the node m. The proportion of class k in node m is
pmk = 1/N ∑xi∈R I(yi = k). It represents a region R with N observations. In order to
prevent overfitting, the maximum depth of a tree was limited to 10. PCA–LDA is a combination model and has been applied to odor identification. PCA
implemented dimensionality reduction through orthogonally projecting input data onto
a lower-dimensional linear space by singular value decomposition with scaling each
component. LDA was implemented for the classification. In the CNN–SVM model, CNN is a typical feed-forward neural network for fea-
ture extraction. SVM is a supervised learning algorithm for classification. The CNN con-
sisted of 2 one-dimensional convolutional layers, fully max-pooling layers, and a fully-
connected layer. All models were coded in Python and open-source packages scikit-learn [31] and
PyTorch [32] were used to build models. 3.1. The Input of OLCE The input of OLCE is a zero-centered 10 × 120 dataset, which is collected by PEN-3 e-
nose. The gas sensor responses were collected by PEN-3 e-nose followed by the experimen-
tal procedure illustrated in the previous section. For each medicine, 100 response samples
were measured so that the total number of samples in the dataset was 7 × 100 = 700. Each
sample was actually a 120 × 10 matrix. Figure 5 compares the zero-centered responses to the input of OLCE. We randomly
selected 4 samples from each medicine class. It can be seen that there are some slight
differences in the same medicine class because of different within-class medicine sources
used for the collection experiment. Responses have noticeable differences between classes. Some sensors show upwards baseline drift because various volatilization rates of some
volatiles and their sensitivities to volatiles. Some sensors show downwards baseline drift
because of the overflow in the sensor chamber. Since an OLCE receives a 10 × 120 sample
as an input dataset without feature extraction, these drifts can be ignored. Sensors 2021, 21, 388 8 of 14 Figure 5. Centralized sensing responses of seven types of Chinese herbal medicines (Betel Nut (BN),
Dried Ginger (DG), Rhizoma Alpiniae Officinarum (RAO), Tree Peony Bark (TPB), Fructus Amomi
(FAm), Rhioxma Curcumae Aeruginosae (RCA), Fructus Aurantii (FAu)). We randomly selected four
response samples of each medicine. All response data were implemented by centralized normalization. 3.2. OLCE Evaluation Figure 5. Centralized sensing responses of seven types of Chinese herbal medicines (Betel Nut (BN),
Dried Ginger (DG), Rhizoma Alpiniae Officinarum (RAO), Tree Peony Bark (TPB), Fructus Amomi
(FAm), Rhioxma Curcumae Aeruginosae (RCA), Fructus Aurantii (FAu)). We randomly selected four
response samples of each medicine. All response data were implemented by centralized normalization. 3.2. OLCE Evaluation 3.2. OLCE Evaluation The OLCE model was executed 10 times and several performance evaluation indexes
(accuracy, precision, recall rate, F-score, Kappa rate, and Hamming loss) were calculated to
view the model effectiveness. Each OLCE model was trained 200 epoches. Figures S1 and
S2 show the accuracy and loss rate of the best OLCE model. Figures S3 and S4 show the
average accuracy and loss rate of the best 5 OLCE models. The results were displayed in
Table 4. Table 4. Performance evaluation indexes for OLCE model. Table 4. Performance evaluation indexes for OLCE model. No. Accuracy
Precision
Recall
F1 Score
Kappa
1
0.9142
0.9269
0.9276
0.9249
0.9130
2
0.8800
0.9635
0.9576
0.9584
0.9533
3
0.9485
0.8858
0.8624
0.8691
0.8520
4
0.9428
0.9312
0.9347
0.9320
0.9197
5
0.9714
0.9163
0.9157
0.9129
0.8998
6
0.9200
0.9333
0.9354
0.9330
0.9196
7
0.8971
0.9599
0.9590
0.9591
0.9532
8
0.9428
0.8397
0.8419
0.8379
0.8193
9
0.9485
0.9404
0.9404
0.9395
0.9264
10
0.8914
0.9317
0.9314
0.9296
0.9198
Average
0.9257
0.9229
0.9206
0.9196
0.9076 OLCE had the maximum accuracy of 0.96 and minimum accuracy of 0.8457. It had a
decent precision rate (between 0.8397 and 0.9635) and recall rate (0.8419 and 0.9576). The
F1 score of the model was between 0.8379 and 0.9591. It demonstrated that OLCE had a
lower false positive and false negative predicting output. p
g
p
g
p
Kappa coefficient was also calculated to evaluate the consistency and classifier precision. Kappa = Po −Pe
1 −Pe
,
(7) (7) where Po is the accuracy and Pe is calculated as follows: where Po is the accuracy and Pe is calculated as follows: where Po is the accuracy and Pe is calculated as follows: Pe = a1 ∗b1 + a2 ∗b2 + ... + a7 ∗b7
n ∗n
,
(8) (8) where i = 1, 2, ..., 7 is the class index, ai represents the accumulated amount of samples of
each class in the dataset, bi represents the accumulated number of samples in each class Sensors 2021, 21, 388 9 of 14 9 of 14 after the classification, and n is the total number of samples. The Kappa revealed that
OLCE has excellent consistency. 3.3. Comparison Several algorithms used in machine olfactions were built to compare OLCE. Each
model was executed 10 times, and the accuracy scores of each model are illustrated in
Table 5. It can be seen that the highest and lowest accuracy of LDA was 0.9314 and 0.8686. CNN–SVM has the highest and lowest scores of 0.9371 and 0.8514. MLP and PCA–LDA
has relatively lower scores which the best scores were 0.4342 and 0.5200, respectively. The
decision tree yielded relatively good scores between 0.7600 and 0.8857. It can be seen from
the ‘Max.’ and ‘Min.’ columns that OLCE has the best scores (the highest score was 0.9714
and the lowest was 0.8800). Moreover, OLCE had the best average score (0.9257). The
‘Var.’ column describes the variances of the accuracy scores from the 10 models of each
algorithm. It can be seen that LDA had the highest consistency because it had the lowest
accuracy variance (0.0005) between 10 LDA models. On the contrary, the PCA–LDA model
obtained the highest variance of 0.0141, which reveals the worst training consistency. It can
be noted that OLCE had the third-lowest accuracy variance that was 0.0009. Overall, as the results illustrate above, LDA, CNN–SVM, and OLCE had a decent
performance for machine olfaction according to better average predicting accuracy and
stable consistency. Moreover, considering the comprehensive advantages in accuracy,
precision, recall rate, F1 score, and Kappa coefficients, OLCE was suitable to discriminate
odors from gas responses collected by e-nose. 3.4. Overview of Decoded Responses OLCE is an encoder–decoder structure model, and the representation layer consists of
several odor labels. It is interesting to take a view on decoded responses. We randomly selected
one original response and one decoded response from both the training set and test set. Figure 6a,b shows the comparison of encoder input and decoder output. Firstly,
OLCE reproduces response signals in the response state. Some small response changes
in the response states are decoded as some fluctuating signals. For instance, in Figure 6a,
row 4, some baseline drifts are decoded as some fluctuating signals. Secondly, OLCE
focuses on positive or negative baseline drift. For example, in Figure 6b, row 5, when the
signal changes accumulate exceed a certain level, the decoder generates some fluctuations. It is possible that some response changes may activate OLCE to generate fluctuating
waves. These fluctuations can be regarded as ‘feature stamps’. These feature stamps
reveal some clues of which features OLCE focuses on. Furthermore, the model ignores
response fluctuations from one single gas sensor. For instance, as shown in Figure 6a, the
“W3S” response (brown line) in subfigure “Fructus Amomi” (row 5, column 1) fluctuates
obviously, but the decoder did not take it as a feature. Figure 6c describes a typical decoded response. It can be seen that OLCE learns
features using one or more small windows in a response dataset. The response state is the
most significant feature for OLCE, as shown in the red dotted box. Moreover, the OLCE
regards some gentle changes in steady state as some features. The intersections of curves
can also be some significant features, as shown the green dotted box. OLCE may also
concentrate on changes accumulated in the steady state, as shown in the blue dotted box. 10 of 14 Sensors 2021, 21, 388 Table 5. Accuracy scores of 6 models (linear discriminant analysis (LDA), multi-layer perception (MLP), decision tree (DT), rinciple component analysis (PCA)+LDA, convolutional neural
networks and support vector machine (CNN+SVM), OLCE). In the PCA–LDA model, grid search for finding the best number of dimensions using PCA, which reduced to 49 dimensions. Models
Predictions
Max. Min. Ave. Var. 4. Discussion Using an e-nose to identify odor is a process of detecting and discriminating those
ingredients that gas sensors are sensitive to. It is different from other measuring instruments
such as GC–MS that have the capacity of identifying ingredients of an odor. An E-nose
with an array of gas sensors and a suitable identification algorithm mimics human olfaction
to identify odors, which can be applied to many fields where fast detections are required
because it has advantages of portability, easy-to-design, and low-cost. Hence, a reliable
algorithm to discriminate various response patterns is necessary. OLCE has an elegant and symmetrical structure using a convolutional neural network,
which makes it easy to build the model. The experimental results show that OLCE performs
decently in odor identification of Chinese herbal medicines according to several perfor-
mance indexes. It may also suggest that OLCE can be used in other odor identifications. The OLCE encoder encodes sensor responses to odor labels using a convolutional neural
network. The OLCE decoder reproduces sensor responses using a convolutional neural
network with a symmetrical structure. The reproduced responses on the decoder side
reveal some clues on which features OLCE focuses on. The one-hot encoding labels in
the representation layer, the intermediate layer, make the classification more robust than
categorical encoding because of the mutual exclusivity of the encoding bits. OLCE is a multi-class classifier that uses one-hot encoding codes to output the iden-
tification results. Multi-class classifiers are suitable to be used in the scenario where the
identification category is mutually exclusive. The other type is the multi-label classifier
that an instance may belong to more than one class. It is interesting to consider that the
one-hot encoding labels in the representation layer of OLCE can be replaced by binary
encoding labels so that the model can be used as a multi-label classifier. 3.4. Overview of Decoded Responses 1st
2nd
3rd
4th
5th
6th
7th
8th
9th
10th
LDA
0.9029
0.9257
0.9314
0.8686
0.8971
0.9029
0.9314
0.9200
0.9086
0.8800
0.9314
0.8686
0.9069
0.0005
MLP
0.4342
0.2114
0.1200
0.1542
0.3771
0.2628
0.2285
0.1428
0.1542
0.2800
0.4342
0.1200
0.2365
0.0109
DT
0.8629
0.8114
0.8514
0.7600
0.8514
0.7943
0.8400
0.8229
0.8857
0.8171
0.8857
0.7600
0.8297
0.0013
PCA-LDA
0.2857
0.4342
0.3200
0.5200
0.4057
0.1542
0.4400
0.1828
0.4342
0.3200
0.5200
0.1542
0.3497
0.0141
CNN-SVM
0.9371
0.9085
0.9142
0.9028
0.9314
0.9085
0.9028
0.8514
0.9314
0.9085
0.9371
0.8514
0.9097
0.0006
OLCE
0.9142
0.8800
0.9485
0.9428
0.9714
0.9200
0.8971
0.9428
0.9485
0.8914
0.9714
0.8800
0.9257
0.0009 Table 5. Accuracy scores of 6 models (linear discriminant analysis (LDA), multi-layer perception (MLP), decision tree (DT), rinciple component analysis (PCA)+LDA, convolutional neural
networks and support vector machine (CNN+SVM), OLCE). In the PCA–LDA model, grid search for finding the best number of dimensions using PCA, which reduced to 49 dimensions. 11 of 14 Sensors 2021, 21, 388 (a) Training Set
(b) Test set
(c) A typical response
Figure 6. The original responses and decoded responses. In (a,b), the left column shows the input responses of OLCE
encoder, and the right column describes the output responses of OLCE decoder. The subfigure (c) highlights the significant
features extracted by decoder. (a) Training Set (a) Training Set (b) Test set (b) Test set (a) Training Set (c) A typical response (c) A typical response ( )
yp
p
Figure 6. The original responses and decoded responses. In (a,b), the left column shows the input responses of OLCE
encoder, and the right column describes the output responses of OLCE decoder. The subfigure (c) highlights the significant
features extracted by decoder. Sensors 2021, 21, 388 12 of 14 12 of 14 5. Conclusions In this paper, we proposed a novel Odor Labeling Convolutional Encoder–Decoder
(OLCE) for odor identification. OLCE is an encoder–decoder structure using convolutional
neural network where the representation layer, the intermediate layer, is constrained to odor
labels. To evaluate the effectiveness of the model, several performance evaluation indexes
(accuracy, precision, recall rate, F1-score, and Kappa coefficient) were calculated. We also
built some common algorithms used in odor identifications to compare the performance. Results demonstrated that OLCE had a decent performance according to the performance
evaluation indexes. OLCE has the highest average accuracy score (0.9257) and better
consistency in training models among these algorithms. Supplementary Materials: The following are available online at https://www.mdpi.com/1424-822
0/21/2/388/s1. Figure S1: The accuracy of the top1 model in training. Figure S2: The loss rate of
top1 model in training. Figure S3: The average accuracy of top five models in training. Figure S4:
The average loss rate of top five models in training.. Author Contributions: Conceptualization, T.W. and D.L.; methodology, T.W.; software, J.L.; valida-
tion, T.W., Z.M., and Q.L.; formal analysis, T.W.; investigation, Z.M.; resources, J.L.; data curation,
Q.L.; writing–original draft preparation, T.W.; writing–review and editing, T.W.; visualization, J.L.;
supervision, D.L.; project administration, L.W.; funding acquisition, L.W. All authors have read and
agreed to the published version of the manuscript. Funding: The work was funded by National Natural Science Foundation of China grant number
61705045; National Natural Science Foundation of China grant number 61571140; Guangdong Science
and Technology Department grant number 2019B101001017. Institutional Review Board Statement: Not applicable. Institutional Review Board Statement: Not applicable. Informed Consent Statement: Not applicable. Data Availability Statement: Data sharing not applicable. Conflicts of Interest: The authors declare no conflict of interest. 5. Conclusions 13 of 14 Sensors 2021, 21, 388 Abbreviations
The following abbreviations are used in this manuscript:
OLCE
Odor Labeling Convolutional Encoder-decoder
LDA
Linear Discriminant Analysis
MLP
Multi-Layer Perception
DT
Decision Tree
PCA
Principle Component Analysis
CNN
Convolutional Neural Networks
SVM
Support Vector Machine
BN
Betel Nut
DG
Dried Ginger
RAO
Rhizoma Alpiniae Officinarum
TPB
Tree Peony Bark
FAm
Fructus Amomi
RCA
Rhioxma Curcumae Aeruginosae
FAu
Fructus Aurantii Abbreviations
The following abbreviations are used in this manuscript:
OLCE
Odor Labeling Convolutional Encoder-decoder
LDA
Linear Discriminant Analysis
MLP
Multi-Layer Perception
DT
Decision Tree
PCA
Principle Component Analysis
CNN
Convolutional Neural Networks
SVM
Support Vector Machine
BN
Betel Nut
DG
Dried Ginger
RAO
Rhizoma Alpiniae Officinarum
TPB
Tree Peony Bark
FAm
Fructus Amomi
RCA
Rhioxma Curcumae Aeruginosae
FAu
Fructus Aurantii References 1. Gardner, J.W.; Bartlett, P.N. A brief history of electronic noses. Sens. Actuators B Chem. 1994, 18, 211–220. [CrossRef] 2. Wasilewski, T.; Migo´n, D.; G˛ebicki, J.; Kamysz, W. Critical review of electronic nose and tongue instruments prospects in
pharmaceutical analysis. Anal. Chim. Acta 2019, 1077, 14–29. [CrossRef] [PubMed] ewski, T.; Migo´n, D.; G˛ebicki, J.; Kamysz, W. Critical review of electronic nose and tongue instrument 2. Wasilewski, T.; Migo´n, D.; G˛ebicki, J.; Kamysz, W. Critical review of electronic nose and tongue instruments prospects in
pharmaceutical analysis. Anal. Chim. Acta 2019, 1077, 14–29. [CrossRef] [PubMed] 2. Wasilewski, T.; Migon, D.; G˛ebicki, J.; Kamysz, W. Critical review of electronic nose and tongue instruments prospects in
pharmaceutical analysis. Anal. Chim. Acta 2019, 1077, 14–29. [CrossRef] [PubMed] y
g
g
4. Tai, H.; Duan, Z.; Wang, Y.; Wang, S.; Jiang, Y. Paper-Based Sensors for Gas, Humidity, and Strain Detections: A Review. ACS
Appl. Mater. Interfaces 2020, 12, 31037–31053. [CrossRef] 4. Tai, H.; Duan, Z.; Wang, Y.; Wang, S.; Jiang, Y. Paper-Based Sensors for Gas, Humidity, and Strain Detections: A Review. ACS
Appl. Mater. Interfaces 2020, 12, 31037–31053. [CrossRef] 5. Feng, S.; Farha, F.; Li, Q.; Wan, Y.; Xu, Y.; Zhang, T.; Ning, H. Review on Smart Gas Sensing Technology. Sensors 2019, 19, 3760,
[CrossRef] 5. Feng, S.; Farha, F.; Li, Q.; Wan, Y.; Xu, Y.; Zhang, T.; Ning, H. Review on Smart Gas Sensing Technology. Sensors 2019, 19, 3760,
[CrossRef] 6. Malnic, B.; Godfrey, P.A.; Buck, L.B. The human olfactory receptor gene family. Proc. Natl. Acad. Sci. USA 2004, 101, 2584–2589. [CrossRef] 7. Amoore, J.E. Specific anosmia and the concept of primay odors. Chem. Senses 1977, 2, 267–281. [Cr 8. Meister, M. On the dimensionality of odor space. eLife 2015, 4, e07865. [CrossRef] 9. Yeshurun, Y.; Sobel, N. An odor is not worth a thousand words: From multidimensional odors to unidimensional odor objects. Annu. Rev. Psychol. 2010, 61, 219–241. [CrossRef] [PubMed] 10. Rossiter, K.J. Structure-Odor Relstionships. Chem. Rev. 1996, 96, 3201–3240. [CrossRef] [PubMed] 11. Johnson, B.A.; Ho, S.L.; Xu, Z.; Yihan, J.S.; Yip, S.; Hingco, E.E.; Leon, M. Functional mapping of the rat olfactory bulb using
diverse odorants reveals modular responses to functional groups and hydrocarbon structural features. J. Comp. Neurol. 2002,
449, 180–194. [CrossRef] [PubMed] 12. Rojas, C.; Duchowicz, P.R.; Tripaldi, P.; Diez, R.P. QSPR analysis for the retention index of flavors and fragrances on a OV-101
column. Chemom. Intell. Lab. Syst. References Application of electronic nose for industrial odors
and gaseous emissions measurement and monitoring—An overview. Talanta 2015, 144, 329–340. [CrossRef] [PubMed]
24
Murphy K R ; Parcsi G ; Stuetz R M Non-methane volatile organic compounds predict odor emitted from five tunnel ventilated and gaseous emissions measurement and monitoring
An overview. Talanta 2015, 144, 329 340. [CrossRef] [PubMed]
24. Murphy, K.R.; Parcsi, G.; Stuetz, R.M. Non-methane volatile organic compounds predict odor emitted from five tunnel ventilated
broiler sheds. Chemosphere 2014, 95, 423–432. [CrossRef] [PubMed] g
g
24. Murphy, K.R.; Parcsi, G.; Stuetz, R.M. Non-methane volatile organic compounds predict odor emitte
broiler sheds. Chemosphere 2014, 95, 423–432. [CrossRef] [PubMed] p
25. Li, H.; Luo, D.; Sun, Y.; GholamHosseini, H. Classification and Identification of Industrial Gases Based on Electronic Nose
Technology. Sensors 2019, 19, 5033. [CrossRef] [PubMed] gy
26. Akbar, M.A.; Ait Si Ali, A.; Amira, A.; Bensaali, F.; Benammar, M.; Hassan, M.; Bermak, A. An Empirical Study for PCA- and
LDA-Based Feature Reduction for Gas Identification. IEEE Sens. J. 2016, 16, 5734–5746. [CrossRef] 27. Benrekia, F.; Attari, M.; Bouhedda, M. Gas sensors characterization and multilayer perceptron (MLP) hardware implementation
for gas identification using a Field Programmable Gate Array (FPGA). Sensors 2013, 13, 2967–2985. [CrossRef] 28. Ait Si Ali, A.; Djelouat, H.; Amira, A.; Bensaali, F.; Benammar, M.; Bermak, A. Electronic nose system on the Zynq SoC platform. Microprocess. Microsyst. 2017, 53, 145–156. [CrossRef] g
y
g
y
Olfactory Machine at Different Concentrations. J. Electr. Comput. Eng. 2018, 2018, 1–9. [CrossRef]
30. Shi, Y.; Gong, F.; Wang, M.; Liu, J.; Wu, Y.; Men, H. A deep feature mining method of electronic nose sensor data for identifying
beer olfactory information. J. Food Eng. 2019. [CrossRef] y
p
g
30. Shi, Y.; Gong, F.; Wang, M.; Liu, J.; Wu, Y.; Men, H. A deep feature mining method of electronic nose sensor data for identifying
beer olfactory information. J. Food Eng. 2019. [CrossRef] y
J
g
[
]
31. Pedregosa, F.; Varoquaux, G.; Gramfort, A.; Michel, V.; Thirion, B.; Grisel, O.; Blondel, M.; Prettenhofer, P.; Weiss, R.; Dubourg, V.;
et al. Scikit-learn: Machine Learning in Python. J. Mach. Learn. Res. 2011, 12, 2825–2830. 32. Paszke, A.; Gross, S.; Massa, F.; Lerer, A.; Bradbury, J.; Chanan, G.; Killeen, T.; Lin, Z.; Gimelshein, N.; Antiga, L.; et al. References 2015, 140, 126–132. [CrossRef] 13. Nakamoto, T. Odor sensing system with multi-dimensional data analysis. Jpn. J. Appl. Phys. 2019, 58, SB0804, [CrossRef]
14. Haddad, R.; Medhanie, A.; Roth, Y.; Harel, D.; Sobel, N. Predicting odor pleasantness with an electronic nose. PLoS Comput. Biol. 2010, 6, e1000740. [CrossRef] [PubMed] g y
y
Jp
J
pp
y
[
]
14. Haddad, R.; Medhanie, A.; Roth, Y.; Harel, D.; Sobel, N. Predicting odor pleasantness with an electronic nose. PLoS Comput. Biol. 2010, 6, e1000740. [CrossRef] [PubMed] 15. Wu, D.; Luo, D.; Wong, K.Y.; Hung, K. POP-CNN: Predicting Odor Pleasantness With Convolutional Neural Network. IEEE Sens. J. 2019, 19, 11337–11345. [CrossRef] 16. Marco, S.; Gutierrez-Galvez, A. Signal and Data Processing for Machine Olfaction and Chemical Sensing: A Review. IEEE Sens. J. 2012, 12, 3189–3214. [CrossRef] 17. Bedoui, S.; Faleh, R.; Samet, H.; Kachouri, A. Electronic nose system and principal component analysis technique for gases
identification. In Proceedings of the 10th International Multi-Conference on Systems, Signals & Devices (SSD), Hammamet,
Tunisia, 18–21 March 2013; IEEE: Piscataway, NJ, USA, 2013. [CrossRef] y
18. Luo, D.H.; Shao, Y.W. Classification of Chinese Herbal Medicine Based on Improved LDA Algorithm Using Machine Olfaction. Appl. Mech. Mater. 2012, 239-240, 1532–1536. [CrossRef] pp
19. Brudzewski, K.; Osowski, S.; Golembiecka, A. Differential electronic nose and support vector machi
tobacco. Expert Syst. Appl. 2012, 39, 9886–9891. [CrossRef] owski, S.; Golembiecka, A. Differential electronic nose and support vector machine for fast recognition of
Appl. 2012, 39, 9886–9891. [CrossRef] p
y
pp
20. Jong, G.J.; Hendrick.; Wang, Z.H.; Hsieh, K.S.; Horng, G.J. A Novel Feature Extraction Method an Electronic Nose for Aroma
Classification. IEEE Sens. J. 2019, 19, 10796–10803. [CrossRef] J
[
]
21. Brezmes, J.; Fructuoso, M.; Llobet, E.; Vilanova, X.; Recasens, I.; Orts, J.; Saiz, G.; Correig, X. Evaluation of an electronic nose to
assess fruit ripeness. IEEE Sens. J. 2005, 5, 97–108. [CrossRef] 14 of 14 Sensors 2021, 21, 388 14 of 14 22. Das, A.; Dost, R.; Richardson, T.H.; Grell, M.; Wedge, D.C.; Kell, D.B.; Morrison, J.J.; Turner, M.L. Low cost, portable, fast
multiparameter data acquisition system for organic transistor odour sensors. Sens. Actuators Chem. B 2009, 137, 586–591. [CrossRef] 23. Deshmukh, S.; Bandyopadhyay, R.; Bhattacharyya, N.; Pandey, R.A.; Jana, A. Application of electro
and gaseous emissions measurement and monitoring—An overview. Talanta 2015, 144, 329–340. [C 23. Deshmukh, S.; Bandyopadhyay, R.; Bhattacharyya, N.; Pandey, R.A.; Jana, A. References PyTorch:
An Imperative Style, High-Performance Deep Learning Library; Advances in Neural Information Processing Systems; The MIT Press:
Cambridge, MA, USA, 2019; pp. 8024–8035.
|
W2315105539.txt
|
https://zenodo.org/record/24664/files/2626.pdf
|
en
|
Three New North American Ants
|
Annals of the Entomological Society of America
| 1,934
|
cc-by
| 0
| ||
https://openalex.org/W4286891356
|
https://dergipark.org.tr/tr/download/article-file/2045101
|
English
| null |
Image quality assessment based on manifold distortion
|
DergiPark (Istanbul University)
| 2,021
|
cc-by
| 7,236
|
1 Introduction One of the most important research topics in image and video
processing is the quality assessment (QA) of a visual content. During and after the acquisition, any captured image or video
may have been introduced different kinds of distortion until it
has been projected or presented to a human observer. There
are basically two main sources of distortion. The first source is
related to the hardware limitations where characteristics of
sensing elements, transmission channels and display devices
play an important role in the final display quality. The second
one is related to the software tools especially along with the
content editing and compression, as well as transmission and
storage algorithms applied to the visual content. Since any
kinds of captured and processed visual content are devoted for
a final human consumption, it is obviously very crucial to
imitate the human visual system (HVS) and obtain objective
quality metrics in an excellent agreement with subjective
opinion from human observers. Therefore, the principal aim is
to design generic quantitative QA models which are highly
aligned with the HVS, to accurately estimate the perceptual
visual quality of a visual content. Conventional full-reference QA algorithms, including mean
squared error (MSE) [1] and its extensions, i.e., signal-to-noise
ratio (SNR) and peak SNR (PSNR), are mainly based on low level
models of the HVS. Although MSE is an inexpensive signal
fidelity measure with its simple mathematical convention, it
can only estimate point-by-point errors in pixel domain, or in
an appropriate transform domain, without considering
structural changes between the distortion-free and distorted
images. Weighted SNR (WSNR) [2],[3] can yet be thought as an
extension to MSE in which an appropriate weighting has been
incorporated in the distortion measure. The weighting strategy
of WSNR employs a contrast sensitivity function that is a linear
spatially invariant approximation of the HVS. Nonlinear noise
quality measure (NQM) [4] respects to the nonlinear spatially
varying characteristics of the HVS. NQM simply behaves as a
nonlinear weighted SNR. Universal image quality index (UQI)
[5] assumes that the HVS is highly adapted to extract structural Depending on the availability of a reference (i.e., pristine
original) content, image and video QA methods can be
categorized into three groups. In the first group, there is only
the distorted image available and the evaluation of the
perceived quality of this image must be done without any
reference, i.e., no-reference QA. Abstract An image quality metric is proposed by introducing a new framework
for full reference image quality assessment from the perspective of
image patch manifolds. Assuming that most natural scenes are sampled
from low dimensional manifolds or submanifolds, perceived image
degradations in structural variations can be quantitatively evaluated
on the surfaces of highly nonlinear image manifolds. Manifold distortion
image quality index first characterizes intrinsic geometric properties of
the locally linear manifold structures of spatially local patch spaces, and
then measures the deviation from the original smooth manifold
structure to calculate the distortion index. Experimental results
demonstrate a strong promise with a comparison to both subjective
evaluation and state-of-the-art objective quality assessment methods. Görüntü parçacık manifoldları perspektifinden, yeni bir tam referans
görüntü kalitesi değerlendirmesi çerçevesi oluşturularak bir görüntü
kalitesi metriği önerilmektedir. Çoğu doğal sahnenin düşük boyutlu
manifoldlardan veya alt-manifoldlardan örneklendiği varsayılarak,
yapısal varyasyonlarda algılanan görüntü bozulmaları yüksek derecede
doğrusal olmayan görüntü manifoldlarının yüzeylerinde nicel olarak
değerlendirilebilir. Manifold bozulması görüntü kalite endeksi önce
uzamsal olarak yerel parçacık uzaylarının yerel doğrusal manifold
yapılarının içsel geometrik özelliklerini karakterize etmekte ve daha
sonra bozulma endeksini hesaplamak için orijinal pürüzsüz manifold
yapısından sapmayı ölçmektedir. Deneysel sonuçlar hem öznel
değerlendirme hem de gelişmiş objektif kalite değerlendirme
yöntemleriyle kıyaslandığında güçlü bir taahhüt göstermektedir. Keywords: Image quality assessment, Image quality index, Manifold
learning, Neighbor embedding. Anahtar kelimeler: Görüntü kalite değerlendirmesi, Görüntü kalite
endeksi, Manifold öğrenmesi, Komşuluk gömülmesi. partial information about the reference content in addition to
the distorted image. This type QA methods makes use of the
available partial knowledge of the reference to assess the
quality of the distorted content. The third group consists in a
full-reference image and a distorted version of it where the
distortion level is measured based on a comparison with the
available distortion-free reference. In this study, the focus will
be on full-reference QA algorithms which basically serve a great
basis for designing distortion resilient image/video processing
applications, e.g., for acquisition, communication, compression,
editing, displaying and printing. Moreover, an objective full-
reference quality metric will be a key component of embedded
systems evaluating image fidelity or perceived similarity. *Corresponding author/Yazışılan Yazar Image quality assessment based on manifold distortion
Manifold bozulması ile imge kalitesi değerlendirme Mehmet TÜRKAN1* 1Department of Electrical and Electronics Engineering, Engineering Faculty, Izmir University of Economics, Izmir, Turkey. mehmet.turkan@ieu.edu.tr Revision/Düzeltme Tarihi: 10.11.2020 Revision/Düzeltme Tarihi: 10.11.2020 doi: 10.5505/pajes.2020.69158
Research Article/Araştırma Makalesi Received/Geliş Tarihi: 04.06.2020
Accepted/Kabul Tarihi: 17.11.2020 doi: 10.5505/pajes.2020.69158
Research Article/Araştırma Makalesi Received/Geliş Tarihi: 04.06.2020
Accepted/Kabul Tarihi: 17.11.2020 Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi
Pamukkale University Journal of Engineering Sciences Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
Pamukkale Üniversitesi Mühendislik Bilimleri Dergisi
Pamukkale University Journal of Engineering Sciences 2.1
Problem definition and notation Given two images of same size 𝑁× 𝑀 pixels represented by 𝒳
as the distortion free original and 𝒳 as the distorted version of
𝒳, the main objective is to design a quantitative QA model in
order to accurately estimate the perceptual visual quality of 𝒳
using the information contained in 𝒳. As stated above, the
manifold sampling assumption will be followed and extended
for this purpose. The solution naturally leads to a local multi-
patch scheme which is a powerful and generic enough tool to
deal with different kinds of distortion corruption in 𝒳. A lexical ordering of image pixels and 𝑛× 𝑛 square image
patches as stacked column vectors of size 𝑛2 × 1 are assumed. While representing the given images as matrices by 𝐗 and 𝐘,
each distortion-free patch 𝐱𝑖 extracted from 𝐗 has a spatially
collocated distorted patch 𝐲𝑖 obtained from 𝐘. Here column
vectors 𝐱𝑖 and 𝐲𝑖 in fact denote 𝑛× 𝑛 square patches centered
around the pixel indexed by 𝑖 extracted from 𝐗 and 𝐘,
respectively, where 𝑖= 1 … 𝑁𝑀 and 𝑛 is odd. Let us denote
these patch pairs in a set as 𝒮= {𝐱𝑖, 𝐲𝑖}∀𝑖. This paper develops a novel framework for full-reference QA
from the perspective of image manifolds. The proposed
solution builds upon a (multi)patch-based scheme which
naturally leads to a constrained optimization problem for
characterizing the intrinsic properties of image manifold
structures to measure a local distortion index. Experimental
results illustrate a strong promise when compared to both
subjective evaluation and objective QA methods. The rest of this
paper is organized as follows. Section 2 introduces the
motivation and details the main ideas and steps of the proposed
QA algorithm. Section 3 presents the experimental setup and
draws a discussion over the obtained results. Section 4 finally
gives a brief conclusion while describing possible future
directions. 2.2
Manifold distortion as a quality index The main objective here is to characterize point-based image
distortions by means of patch (sub)manifolds through spatially
close and chromatically similar image texture patches. In order
to achieve this aim, distortion-free local neighborhood
information of 𝐱𝑖 ∀𝑖 has first been extracted from a strictly
localized search region Ω𝑖 centered around 𝐱𝑖, by minimizing a
weighted distance metric ‖𝐱𝑖−𝐱𝑗‖2,𝜎
2 where 𝜎 represents the
standard deviation of the 𝑛× 𝑛 Gaussian kernel used for
weighting and {𝐱𝑗} = {𝐱𝑖 | 𝐱𝑖∈Ω𝑖 ∧ 𝑖≠𝑗}. 𝐾-closest such
neighbors are kept in a set {𝐱𝑖𝑘}𝑘=1
𝐾
as the 𝐾-NN of 𝐱𝑖. Then
similar to [46], intrinsic local geometric properties of each
individual neighborhood can be linearly characterized as in
Equation (1) by solving 1 Introduction The second group which is
referred to reduced-reference QA, on the other hand, contains 610 Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan information from a scene. It models any image distortion with
a combination of three measures: loss of correlation, luminance
distortion and contrast distortion. UQI has been generalized to
structural similarity (SSIM) [6], and SSIM has later been
extended to multiscale SSIM (MSSIM) [7] and information
content weighted SSIM (IWSSIM) [8]. Most apparent distortion
(MAD) [9] combines visual detection and image appearance-
based distortion models to measure the overall perceived
distortion. Gradient similarity metric (GSM) [10] measures
structural and contrast changes using the gradient similarity in
images. It also incorporates a luminance similarity for a
complete quality assessment. In addition, statistical approaches
assume that there are parallels between the models of natural
scenes (visual stimulus of the natural environment) and the
evolution of the HVS [11],[12]. Information fidelity criterion
(IFC) [11] models the scale invariant statistics of images in the
wavelet domain. Visual information fidelity (VIF) [12] can be
regarded as a content dependent extension of IFC. Visual SNR
(VSNR) [13] also operates in a multiscale wavelet domain. Furthermore, there are feature based similarity metrics based
on transform features, e.g., RFSIM [14], phase congruency and
gradient magnitude features, e.g., FSIM [15], local binary
patterns [16] and image descriptors, e.g., SURF-SIM [17]. framework for full-reference QA. Given a pair of images of same
size, i.e., the pristine original and its distorted version, a patch
based scheme builds upon a strictly localized NN search
followed by a characterization of the intrinsic properties of the
manifold structures of spatially local patch spaces, and then by
a calculation of the projected local deviation from the smooth
distortion-free manifold structure, in order to calculate the
distortion index per pixel. 3 Experimental setup and results argmin
{𝜔𝑖𝑘}
‖𝐲𝑖−∑𝜔𝑖𝑘𝐲𝑖𝑘
𝑘
‖
2,𝜎
2
𝑠. 𝑡. ∑𝜔𝑖𝑘
𝑘
= 1, ∀𝑖,
(3) (3) The Tampere Image Database 2013 (TID2013) [48] and The
LIVE Image Quality Assessment Database (LIVE, Release 2)
[49],[50] are utilized and tested for the proposed QA algorithm. TID2013 contains 25 true color (24-bits/pixel RGB) distortion-
free and 3000 distorted images. In this database, 24 types of
distortions with 5 different levels are introduced, i.e., there are
120 distorted images per reference image. The LIVE Image
Database contains 29 true color distortion-free images which
are distorted by 5 types of distortions with different perceptual
quality levels. LIVE consists of a total 982 test images (including
203 reference images). The distortion types and details of these
datasets are given in Table 1. for 𝛚𝑖= [𝜔𝑖1 𝜔𝑖2 … 𝜔𝑖𝐾]𝑇 as given in Equation (4) by for 𝛚𝑖= [𝜔𝑖1 𝜔𝑖2 … 𝜔𝑖𝐾]𝑇 as given in Equation (4) by 𝛚𝑖=
𝐆𝑖,𝜎
−1𝟏
𝟏𝑇𝐆𝑖,𝜎
−1𝟏. (4) (4) 𝐆𝑖,𝜎= 𝐘̅𝑖,𝜎
𝑇𝐘̅𝑖,𝜎 is the inner product matrix where the columns of
the matrix 𝐘̅𝑖,𝜎 correspond to the set {𝐲̅𝑖𝑘
𝜎} representing the 𝐲𝑖-
centered and Gaussian weighted NN set {𝐲𝑖𝑘}, and 𝟏 denotes a
column vector of respective size. The optimum reconstruction
weights {𝜔𝑖𝑘}𝑘=1
𝐾
describe the desired local properties of the
distorted manifold structure. 𝐆𝑖,𝜎= 𝐘̅𝑖,𝜎
𝑇𝐘̅𝑖,𝜎 is the inner product matrix where the columns of
the matrix 𝐘̅𝑖,𝜎 correspond to the set {𝐲̅𝑖𝑘
𝜎} representing the 𝐲𝑖-
centered and Gaussian weighted NN set {𝐲𝑖𝑘}, and 𝟏 denotes a
column vector of respective size. The optimum reconstruction
weights {𝜔𝑖𝑘}𝑘=1
𝐾
describe the desired local properties of the
distorted manifold structure. Table 1. The distortion details of TID2013 and LIVE datasets. Table 1. The distortion details of TID2013 and LIVE datasets. Database
Type
Description Table 1. The distortion details of TID2013 and LIVE datasets. 2 Manifold distortion quality index A very well studied approach in image and video processing is
to make full use of textural and structural self-similarities
within an image and cross-similarities across different images. The fact is that sufficiently small image patches are very likely
to repeat themselves within the same scale and across different
scales of an image, as well as across different images. Based on
this observation, most of the image processing problems such
as inpainting [18]-[21], denoising [22]-[24], super-resolution
[25]-[28], image prediction and compression [29]-[35], and
more have found their solutions in the literature. All these
methods have mainly been inspired from texture synthesis
techniques [36]-[38] which are highly influenced by Markov
Random Fields [39],[40]. argmin
{𝛼𝑖𝑘}
‖𝐱𝑖−∑𝛼𝑖𝑘𝐱𝑖𝑘
𝑘
‖
2,𝜎
2
𝑠. 𝑡. ∑𝛼𝑖𝑘
𝑘
= 1, ∀𝑖. (1) (1) The above constrained least squares optimization can be solved
for 𝛂𝑖= [𝛼𝑖1 𝛼𝑖2 … 𝛼𝑖𝐾]𝑇 as given in Equation (2) by 𝛂𝑖=
𝐆𝑖,𝜎
−1𝟏
𝟏𝑇𝐆𝑖,𝜎
−1𝟏
(2) (2) A second observation suggests that most of the natural images
are sampled from low-dimensional (sub)manifolds. This
assumption leads to the fact that densely sampled and
sufficiently small image texture patches can be successfully
reconstructed as a weighted linear combination of their
nearest-neighboring (NN) patches. This is usually referred to as
neighbor-embedding [41]-[44] and is basically aligned with the
main idea of manifold learning algorithms for dimensionality
reduction [45]-[47]. where 𝐆𝑖,𝜎= 𝐗̅𝑖,𝜎
𝑇𝐗̅𝑖,𝜎 is the Gram (inner product) matrix and
the columns of the matrix 𝐗̅𝑖,𝜎 correspond to the set {𝐱̅𝑖𝑘
𝜎}
representing the 𝐱𝑖-centered and then Gaussian weighted NN
set {𝐱𝑖𝑘}, and 𝟏 denotes a column vector of ones of size 𝐾× 1. The optimum reconstruction weights {𝛼𝑖𝑘}𝑘=1
𝐾
here describe
the local properties of the distortion-free manifold structure. Now let us think of a special case when there is no distortion on
the pristine original content, i.e., 𝒳= 𝒴, the local neighborhood
of and the manifold structure around 𝐱𝑖 would be identical for In this work, the texture synthesis principle and the manifold
sampling assumption have been combined resulting in a new 611 Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan Figure 1. Parameter transfer between distortion-free and
distorted images and corresponding manifolds. 𝐲𝑖 ∀𝑖. 2 Manifold distortion quality index This fact leads to a fundamental observation that, these
local geometric similarities of image spaces can be benefited
from, and a quality index can be successfully calculated based
on manifold distortions, by relating the intrinsic properties of
distortion-free and distorted local patch neighborhoods via
neighbor-embedding. To do so, the parameters of distortion-
free local neighborhood information is directly transferred to
the distorted image manifold structure as if there were no
distortion. These parameters simply correspond to the index
set {𝑖𝑘} of the selected 𝐾-NN of 𝐱𝑖 which will help extract
collocated distorted image patches {𝐲𝑖𝑘}𝑘=1
𝐾
from the correct,
indeed ground-truth spatial coordinates in 𝐘. After transferring
this local neighborhood information to the distorted domain,
intrinsic local geometric properties of distorted neighborhood
of 𝐲𝑖 can be characterized as in Equation (3) by solving Figure 1. Parameter transfer between distortion-free and
distorted images and corresponding manifolds. 3 Experimental setup and results Database
Type
Description
TID
AGN
additive Gaussian noise
ANC
additive noise in color components is more intensive
than additive noise in luminance
SCN
spatially correlated noise
MN
masked noise
HFN
high frequency noise
IN
impulse noise
QN
quantization noise
GB
Gaussian blur
ID
image denoising
JP1
JPEG compression
JP2K1
JPEG2K compression
JP2
JPEG transmission errors
JP2K2
JPEG2K transmission errors
NEPN
non eccentricity pattern noise
LBD
local block-wise distortions of different intensity
MS
mean (intensity) shift
CC
contrast change
CCS
change of color saturation
MGN
multiplicative Gaussian noise
CN
comfort noise
LCNI
lossy compression of noisy images
CQD
image color quantization with dither
CA
chromatic aberrations
SSR
sparse sampling and reconstruction
LIVE
JPG2K
JPEG2K compression (227 images)
JPG
JPEG compression (233 images)
GBlur
Gaussian blur (174 images)
WN
white noise in the RGB components (174 images)
FF
JPEG2K transmission errors in the bit-stream using a
fast-fading Rayleigh channel (174 images) The information extracted above is for both local (point-based
via Gaussian weighting) and nonlocal (patch-based via
reconstruction weights) intrinsic characteristics of distortion-
free and distorted local neighborhoods, and thus, is a valuable
tool for measuring textural and structural deviations from the
original distortion-free structure. While transferring distorted
local neighborhood parameters set {𝜔𝑖𝑘} directly to the original
manifold structure from which quantitative deviations can
easily be measured, two different representations of 𝐱𝑖 ∀𝑖 are
reconstructed using the distortion-free local neighborhood
{𝐱𝑖𝑘}. The first one is the distortion-free representation of 𝐱𝑖,
i.e., 𝐱̅𝑖= ∑𝛼𝑖𝑘𝐱𝑖𝑘
𝑘
; and the second holds the properties of the
distorted manifold structure, i.e., 𝐱̿𝑖= ∑𝜔𝑖𝑘𝐱𝑖𝑘
𝑘
. The next step
then consists in measuring the distortion between 𝐱̅𝑖 and 𝐱̿𝑖 as
𝐝𝑖= 𝐱̅𝑖−𝐱̿𝑖= ∑(𝛼𝑖𝑘−𝜔𝑖𝑘)𝐱𝑖𝑘
𝑘
. Figure 1 summarizes all these
parameter transfer procedures between distortion-free and
distorted images and corresponding local manifold structures. During local neighborhood selection and characterization by
the least-squares optimization, much more attention has been
given to the centering pixel indexed by 𝑖. Thus, the Manifold
Distortion Quality Index can now be defined as 𝐌𝐃𝐐𝐈[𝑖] =
(𝐝𝑖). The operator first reshapes 𝐝𝑖 into an 𝑛× 𝑛 distortion
patch, then extracts the value of the centering pixel location and
clamps it to [−2𝑚+ 1, 2𝑚−1] for 𝑚-bit images, if necessary. 3 Experimental setup and results In practice, it has
been suggested to use an empirical formula to determine the
scale for images viewed from a typical distance [6]. In this
study, all images are automatically decimated by a factor 𝐹=
max(1, round(min(𝑀, 𝑁)/256)) with a simple averaging filter
of size 𝐹× 𝐹 pixels. Another keynote is that the elements of the
set 𝒳 can be used to calculate the distortion index for all pixels,
or a subset of pixels in the image for the sake of computational
complexity. In the latter case, a subset 𝒮̃ can be chosen from 𝒳
with a predetermined regular pixel offsets in both dimensions
of the image. This paper assumes 𝒮̃ = 𝒮. For distortion-free and distorted neighborhood optimizations,
mean subtracted image patches are employed as textural
features rather than patch absolute intensities. Although first
and/or second order gradients could be extracted as in [41] and
[53] for this purpose, it is sufficient here to consider
representative features as relative textural and structural
variations with respect to the patch mean. In this way, the
distortion 𝐝𝑖 can easily detect local intensity and structural
changes. Figure 2 depicts a visual example of image quality index maps
for the Einstein image. In this example, all distorted images have
roughly the same MSE values with respect to the original image,
but they have obviously different visual quality. MDMSE leads
to a better indication of image quality assessment together with
a visual index map. The details of the calculated QA statistics
with MDQI in comparison to the widely used MSE and SSIM
scores are summarized in Table 3. In order to evaluate and compare the performance of MDQI
with the competing methods, four widely utilized metrics are
employed, namely Spearman rank-order correlation coefficient
(SROCC) [51], Kendall rank-order correlation coefficient
(KROCC) [52], Pearson linear correlation coefficient (PLCC) and
root MSE (RMSE). The calculation details of these metrics are
illustrated in Table 2. All experiments performed for all quality metrics on TID 2013
and LIVE are reported in Table 4, Table 5, and Table 6. Table 4
and Table 5 illustrate detailed performance comparison on
each individual distortion type (as listed in Table 1) in terms of
SROCC on TID 2013 and LIVE, respectively. In these tables, the
statistics are calculated on each distortion type separately and
the top-three performing QA models are given in bold (per-
row). 3 Experimental setup and results Finally, a Manifold Distortion MSE (MDMSE) and a Manifold
Distortion PSNR (MDPSNR) are formulated in Equation (5) by 𝐌𝐃𝐌𝐒𝐄= 1
|𝒮| ∑(𝐌𝐃𝐐𝐈[𝑖])2
𝑖
𝐌𝐃𝐏𝐒𝐍𝐑= 20 log10
2𝑚−1
√𝐌𝐃𝐌𝐒𝐄
(5) (5) where |𝒳| denotes the number of patch pairs in the set 𝒳. 612 Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan For computational purposes, local search region Ω𝑖 is fixed to a
square window of size 27 × 27 pixels centered around the pixel
indexed by 𝑖 ∀𝑖, and all image patches are of size 9 × 9 pixels,
i.e., 𝑛= 9. This block size has been experimentally shown to be
large enough in order to capture local structures and fine
details, to be small enough in order to apply neighbor-
embedding in terms of texture synthesis. The standard
deviation 𝜎 of the 9 × 9 Gaussian kernel used for weighting is
set to 3.50, and then this kernel is uniformly normalized to have
a centering coefficient equal to “1”. The same kernel is applied
both for local neighborhood (𝐾-NN) selection and for local
geometry characterization by least-squares optimization. 𝐾 is
set to 8 providing a sparsity notion for the representation. It is
important note here that all these parameters are fixed in the
reported experimental results for a fair comparison with the
competing methods. TID2013 and LIVE also provide the mean opinion score (MOS)
for each distorted image. In TID2013, a total of 971 observers
from Finland (116), France (72), Italy (80), Ukraine (602) and
USA (101) have evaluated relative visual quality in 1048680
image pairs, i.e., 524340 visual quality comparisons of distorted
images. The obtained MOS values lie between 0 (minimal) and
9 (maximal). The higher MOS value is the better visual quality
of the image. In LIVE, about 20-29 human subjects have rated
visual quality of each image in seven different experiments,
using the same equipment and viewing conditions. Observers
have evaluated each distortion type in order to provide a visual
quality on a continuous linear scale with five equal regions
labeled as “Bad”, “Poor”, “Fair”, “Good” and “Excellent”. These
raw scores have later been translated into a difference MOS
value for each distorted image. It is worth noting here that a single scale of analysis might not
be effective since both image resolution and viewing distance
have great effect on the perceived quality. 3 Experimental setup and results It can be clearly observed from these statistics, MDQI
demonstrates a strong global promise when compared to both
state-of-the-art objective methods and subjective evaluation
scores. In addition to that, it is better than the most distortion
types, and in some cases a comparable alternative to the other
QA models. On the other hand, MDQI tends to fail when there
are local or global uniform intensity changes and/or contrast
changes between images. This can be well-explained with the
constrained optimization of each local neighborhood, which is
in fact translation invariant because of the sum-to-one
constraint on weights. This observation however is aligned
with the HVS which is insensitive to uniform intensity changes
up to a level. Table 2. The details of SROCC, KROCC, PLCC and RMSE for a
given paired data {(𝑎1, 𝑏1), … , (𝑎𝑁, 𝑏𝑁)} consisting of 𝑁 pairs. Table 2. The details of SROCC, KROCC, PLCC and RMSE for a
given paired data {(𝑎1, 𝑏1), … , (𝑎𝑁, 𝑏𝑁)} consisting of 𝑁 pairs. Metric
Formula
Description
SROCC
1 −
6 ∑𝑑𝑛
2
𝑛
𝑁(𝑁2 −1)
𝑑𝑛: difference between
two ranks of each
observation, 𝑛= 1 … 𝑁
KROCC
2(𝑁𝑐−𝑁𝑑)
𝑁(𝑁−1)
𝑁𝑐= number of rank-
concordant pairs
𝑁𝑑= number of rank-
discordant pairs
PLCC
∑(𝑎𝑛−𝜇𝑎)(𝑏𝑛−𝜇𝑏)
𝑛
√∑(𝑎𝑛−𝜇𝑎)2
𝑛
√∑(𝑏𝑛−𝜇𝑏)2
𝑛
𝜇𝑎= sample mean of 𝑎
𝜇𝑏= sample mean of 𝑏
𝑛= 1 … 𝑁
RMSE
√∑(𝑎𝑛−𝑏𝑛)2
𝑛
𝑁
𝑛= 1 … 𝑁 given paired data {(𝑎1, 𝑏1), … , (𝑎𝑁, 𝑏𝑁)} consisting of 𝑁 pairs. Metric
Formula
Description
SROCC
1 −
6 ∑𝑑𝑛
2
𝑛
𝑁(𝑁2 −1)
𝑑𝑛: difference between
two ranks of each
observation, 𝑛= 1 … 𝑁
KROCC
2(𝑁𝑐−𝑁𝑑)
𝑁(𝑁−1)
𝑁𝑐= number of rank-
concordant pairs
𝑁𝑑= number of rank-
discordant pairs
PLCC
∑(𝑎𝑛−𝜇𝑎)(𝑏𝑛−𝜇𝑏)
𝑛
√∑(𝑎𝑛−𝜇𝑎)2
𝑛
√∑(𝑏𝑛−𝜇𝑏)2
𝑛
𝜇𝑎= sample mean of 𝑎
𝜇𝑏= sample mean of 𝑏
𝑛= 1 … 𝑁
RMSE
√∑(𝑎𝑛−𝑏𝑛)2
𝑛
𝑁
𝑛= 1 … 𝑁 While SROCC and KROCC measure the ranking monotonicity
between the subjective MOS and the objective score variables,
both PLCC and RMSE need a prior regression analysis to get a
nonlinear mapping between these variables. 3 Experimental setup and results For this purpose,
a five-parameter logistic function with a linear term that is
constrained to be monotonic is utilized as in Equation (6) by While SROCC and KROCC measure the ranking monotonicity
between the subjective MOS and the objective score variables,
both PLCC and RMSE need a prior regression analysis to get a
nonlinear mapping between these variables. For this purpose,
a five-parameter logistic function with a linear term that is
constrained to be monotonic is utilized as in Equation (6) by Table 6 further gives an overall performance comparison of
several QA models in terms of SROCC, KROCC, PLCC and RMSE
on TID 2013 and LIVE datasets. In this table, the statistics are
calculated on the whole datasets employed and the top-three
performing QA models are highlighted in bold (per-row). MDQI
outperforms most of the models on TID 2013 and in some cases,
it is comparable to the other QA models on LIVE. 𝑓(𝑥) = 𝛽1 (1
2 −
1
1 + 𝑒𝛽2(𝑥−𝛽3)) + 𝛽4𝑥+ 𝛽5
(6) (6) where the parameter set {𝛽𝑝}𝑝=1
5
needs to be fitted to minimize 1 needs to be fitted to minimize where the parameter set {𝛽𝑝}𝑝=1
5
needs to be fitted to minimize
the MSE between the mapped objective scores and the MOS
[49]. A better objective QA metric is expected to have higher
SROCC, KROCC and PLCC values, but a lower RMSE value. 𝑝
the MSE between the mapped objective scores and the MOS
[49]. A better objective QA metric is expected to have higher
SROCC, KROCC and PLCC values, but a lower RMSE value. The nonlinear regression parameters in Equation (6) are
obtained using iterative least squares estimation with initial 613 Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan Figure 3 demonstrates some examples of scatter plots of the
MOS versus MDQI together with other selected QA models, i.e.,
IWSSIM, GSM, MAD, FSIM, MSSIM, SSIM, PSNR. The black curves
shown in this figure are obtained by the logistic function. It can
also be seen from these scatter plots that MDQI has a consistent
correlation with the MOS. values set to {𝛽𝑝} = {MOS𝜎, 1, QA𝜇, 1, 0.1} where MOS𝜎 and
QA𝜇 represent the standard deviation of the MOS and the mean
of the QA model selected, respectively. 3 Experimental setup and results This initialization of
parameters gives a meaningful conditioning while reducing the
probability of having a local minimum in the final estimation. Figure 2. The Einstein image. (Top Left-to-right) Original (MSE = 0, SSIM = 1, MDMSE = 0); uniform mean shift (MSE = 144, SSIM =
0.988, MDMSE = 0.001); contrast change (MSE=144, SSIM = 0.913, MDMSE = 30.50); impulse noise (MSE = 144, SSIM = 0.840,
MDMSE=20.93); blur (MSE=144, SSIM=0.694, MDMSE = 96.41); JPEG compression (MSE = 142, SSIM = 0.662, MDMSE = 121.48). (Bottom Left-to-right) MDQI maps of the original, uniform mean shift, contrast change, impulse noise, blur and JPEG compression. Figure 3. Example scatter plots of the MOS vs. scores of QA models on TID 2013. The black curves are obtained by the logistic
regression function. (Top Left-to-right) MDQI, IWSSIM, GSM, MAD; (Bottom Left-to-right) FSIM, MSSIM, SSIM, PSNR. Table 3. The Einstein image statistics. Type
MSE
SSIM
MDMSE
Original
0
1
0
Mean Shift
144
0.988
0.001
Contrast Change
144
0.913
30.50
Impulse Noise
144
0.840
20.93
Blur
144
0.694
96.41
JPEG Compression
142
0.662
121.48 ein image. (Top Left-to-right) Original (MSE = 0, SSIM = 1, MDMSE = 0); uniform mean shift (MSE = 144, SSIM =
0.001); contrast change (MSE=144, SSIM = 0.913, MDMSE = 30.50); impulse noise (MSE = 144, SSIM = 0.840,
lur (MSE=144, SSIM=0.694, MDMSE = 96.41); JPEG compression (MSE = 142, SSIM = 0.662, MDMSE = 121.48). ght) MDQI maps of the original, uniform mean shift, contrast change, impulse noise, blur and JPEG compression Figure 2. The Einstein image. (Top Left-to-right) Original (MSE = 0, SSIM = 1, MDMSE = 0); uniform mean sh
0.988, MDMSE = 0.001); contrast change (MSE=144, SSIM = 0.913, MDMSE = 30.50); impulse noise (MSE
MDMSE=20.93); blur (MSE=144, SSIM=0.694, MDMSE = 96.41); JPEG compression (MSE = 142, SSIM = 0.6
(Bottom Left-to-right) MDQI maps of the original, uniform mean shift, contrast change, impulse noise, blur a Figure 3. Example scatter plots of the MOS vs. scores of QA models on TID 2013. The black curves are obtained by the logistic
regression function. (Top Left-to-right) MDQI, IWSSIM, GSM, MAD; (Bottom Left-to-right) FSIM, MSSIM, SSIM, PSNR. Table 3. The Einstein image statistics. Type
MSE
SSIM
MDMSE
Original
0
1
0
Mean Shift
144
0.988
0.001
Contrast Change
144
0.913
30.50
Impulse Noise
144
0.840
20.93
Blur
144
0.694
96.41
JPEG Compression
142
0.662
121.48 Figure 3. 3 Experimental setup and results Example scatter plots of the MOS vs. scores of QA models on TID 2013. The black curves are obtained by the logistic
regression function. (Top Left-to-right) MDQI, IWSSIM, GSM, MAD; (Bottom Left-to-right) FSIM, MSSIM, SSIM, PSNR. Table 3. The Einstein image statistics. Type
MSE
SSIM
MDMSE
Original
0
1
0
Mean Shift
144
0.988
0.001
Contrast Change
144
0.913
30.50
Impulse Noise
144
0.840
20.93
Blur
144
0.694
96.41
JPEG Compression
142
0.662
121.48 614 614 Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan Table 4. Performance comparison of several QA models for each individual distortion type of TID2013 in terms of SROCC. 3 Experimental setup and results TID
PSNR
SSIM
MSSIM
VSNR
VIF
UQI
IFC
NQM
WSNR
SNR
FSIM
MAD
GSM
IWSSIM
IWPSNR
MDQI
AGN
0.936
0.867
0.861
0.824
0.914
0.583
0.707
0.814
0.855
0.864
0.897
0.859
0.906
0.858
0.927
0.916
ANC
0.891
0.773
0.769
0.664
0.848
0.496
0.589
0.718
0.811
0.838
0.818
0.738
0.818
0.766
0.864
0.831
SCN
0.920
0.851
0.854
0.807
0.908
0.606
0.724
0.787
0.882
0.850
0.875
0.871
0.916
0.846
0.956
0.916
MN
0.799
0.777
0.745
0.662
0.837
0.567
0.691
0.690
0.595
0.718
0.794
0.573
0.729
0.754
0.681
0.814
HFN
0.950
0.863
0.869
0.814
0.907
0.657
0.773
0.863
0.892
0.915
0.897
0.850
0.887
0.874
0.918
0.915
IN
0.899
0.750
0.750
0.790
0.870
0.505
0.622
0.791
0.909
0.898
0.808
0.687
0.796
0.745
0.914
0.888
QN
0.904
0.866
0.871
0.854
0.861
0.656
0.662
0.826
0.890
0.879
0.871
0.866
0.884
0.859
0.898
0.854
GB
0.950
0.967
0.962
0.945
0.966
0.912
0.905
0.901
0.934
0.936
0.955
0.863
0.969
0.964
0.917
0.957
ID
0.951
0.925
0.931
0.921
0.927
0.767
0.826
0.918
0.920
0.938
0.930
0.906
0.943
0.925
0.914
0.935
JP1
0.960
0.920
0.920
0.860
0.937
0.786
0.869
0.887
0.919
0.927
0.933
0.894
0.928
0.917
0.935
0.948
JP2K1
0.969
0.947
0.948
0.921
0.958
0.866
0.910
0.926
0.927
0.924
0.958
0.913
0.960
0.951
0.951
0.970
JP2
0.798
0.849
0.824
0.755
0.856
0.845
0.773
0.736
0.665
0.771
0.847
0.756
0.851
0.820
0.768
0.827
JP2K2
0.950
0.883
0.874
0.820
0.890
0.749
0.809
0.808
0.826
0.897
0.891
0.860
0.918
0.865
0.857
0.918
NEPN
0.733
0.782
0.804
0.736
0.812
0.769
0.542
0.747
0.788
0.703
0.792
0.828
0.813
0.811
0.804
0.830
LBD
0.087
0.572
0.144
0.110
0.497
0.513
0.420
0.001
0.138
0.071
0.551
0.059
0.642
0.185
0.081
0.426
MS
0.767
0.775
0.791
0.574
0.625
0.744
0.580
0.608
0.773
0.774
0.752
0.598
0.787
0.789
0.617
0.606
CC
0.431
0.377
0.461
0.334
0.828
0.361
0.358
0.462
0.418
0.422
0.468
0.192
0.486
0.451
0.419
0.246
CCS
0.009
0.414
0.362
0.159
0.230
0.301
0.379
0.124
0.077
0.006
0.378
0.038
0.359
0.340
0.088
0.679
MGN
0.898
0.780
0.780
0.801
0.875
0.505
0.666
0.768
0.800
0.878
0.847
0.793
0.835
0.794
0.889
0.889
CN
0.936
0.857
0.878
0.858
0.923
0.738
0.835
0.870
0.916
0.890
0.912
0.874
0.912
0.892
0.931
0.944
LCNI
0.948
0.906
0.910
0.914
0.949
0.780
0.850
0.905
0.949
0.907
0.947
0.932
0.956
0.912
0.967
0.958
CQD
0.928
0.854
0.882
0.882
0.877
0.665
0.669
0.862
0.896
0.897
0.876
0.864
0.897
0.877
0.893
0.885
CA
0.889
0.877
0.868
0.847
0.859
0.783
0.804
0.810
0.827
0.883
0.871
0.766
0.882
0.859
0.820
0.848
SSR
0.962
0.946
0.950
0.940
0.957
0.867
0.918
0.946
0.948
0.919
0.956
0.947
0.967
0.953
0.959
0.964
avg
0.811
0.807
0.792
0.741
0.838
0.668
0.703
0.740
0.773
0.779
0.826
0.730
0.835
0.792
0.790
0.832
std
0.257
0.149
0.193
0.225
0.163
0.159
0.160
0.231
0.235
0.249
0.149
0.258
0.148
0.190
0.246
0.174
Table 5. 4 Conclusion In the scope of this study, Mehmet TÜRKAN, in the formation of
the idea, the design and the literature review, performing
analyzes and examining the results, the spelling and checking
the article in terms of content were contributed. In this study, a novel technique for full-reference QA through
manifold learning is developed with results highly correlated to
subjective assessments. To the best of available knowledge, the
proposed algorithm is a new framework which takes advantage
of texture synthesis and manifold sampling through neighbor
embeddings of image patches. The proposed model, namely
MDQI, i.e., MDMSE and MDPSNR, is capable of quantitively
evaluating perceived image degradations in structural and
textural variations, and moreover it can produce an index map
because of its pixel-based structure. Possible future directions
include the investigation of other efficient ways to measure
distortion values through intrinsic properties of each individual
neighborhood, a gradient-features based characterization of
neighborhoods, an adaptation of the constrained optimization
to handle local/global uniform intensity and contrast changes,
and a multi-scale extension to MDQI (MMDQI) not only for
increasing its accuracy but also for assessing quality of images
with different sizes. interest statement There is no need to obtain permission from the ethics
committee for the article prepared. There is no conflict of interest with any person / institution in
the article prepared. 3 Experimental setup and results Performance comparison of several QA models for each individual distortion type of LIVE in terms of SROCC. LIVE
PSNR
SSIM
MSSIM
VSNR
VIF
UQI
IFC
NQM
WSNR
SNR
FSIM
MAD
GSM
IWSSIM
IWPSNR
MDQI
JPG2K
0.970
0.984
0.985
0.967
0.988
0.934
0.955
0.973
0.966
0.957
0.988
0.957
0.987
0.983
0.983
0.977
JPG
0.970
0.984
0.985
0.961
0.987
0.950
0.965
0.979
0.977
0.965
0.987
0.952
0.985
0.984
0.984
0.971
GBlur
0.931
0.972
0.980
0.973
0.981
0.968
0.970
0.908
0.919
0.913
0.983
0.956
0.972
0.984
0.965
0.952
WN
0.989
0.982
0.987
0.988
0.992
0.934
0.966
0.991
0.981
0.984
0.980
0.978
0.987
0.988
0.986
0.985
FF
0.946
0.974
0.931
0.905
0.959
0.961
0.961
0.896
0.896
0.948
0.971
0.945
0.965
0.941
0.874
0.947
avg
0.961
0.979
0.974
0.959
0.981
0.949
0.963
0.949
0.948
0.953
0.982
0.958
0.979
0.976
0.958
0.966
std
0.020
0.005
0.021
0.028
0.012
0.014
0.005
0.039
0.034
0.023
0.006
0.011
0.009
0.018
0.043
0.015
Table 6. Performance comparison of several QA models. TID2013 and LIVE in terms of SROCC, KROCC, PLCC and RMSE. TID
PSNR
SSIM
MSSIM
VSNR
VIF
UQI
IFC
NQM
WSNR
SNR
FSIM
MAD
GSM
IWSSIM
IWPSNR
MDQI
SROCC
0.634
0.742
0.756
0.663
0.769
0.633
0.570
0.646
0.533
0.617
0.802
0.721
0.795
0.742
0.630
0.832
KROCC
0.493
0.559
0.579
0.496
0.592
0.458
0.422
0.476
0.404
0.467
0.629
0.549
0.626
0.563
0.465
0.647
PLCC
0.705
0.760
0.805
0.689
0.824
0.691
0.673
0.676
0.611
0.681
0.859
0.760
0.846
0.670
0.602
0.852
RMSE
0.880
0.806
0.735
0.899
0.702
0.897
0.917
0.913
0.981
0.908
0.635
0.806
0.660
0.921
0.991
0.650
LIVE
PSNR
SSIM
MSSIM
VSNR
VIF
UQI
IFC
NQM
WSNR
SNR
FSIM
MAD
GSM
IWSSIM
IWPSNR
MDQI
SROCC
0.958
0.973
0.970
0.957
0.979
0.940
0.952
0.954
0.953
0.952
0.981
0.957
0.977
0.973
0.952
0.965
KROCC
0.832
0.864
0.862
0.829
0.883
0.802
0.810
0.830
0.827
0.821
0.888
0.844
0.876
0.873
0.825
0.844
PLCC
0.949
0.828
0.637
0.956
0.965
0.880
0.879
0.949
0.946
0.941
0.848
0.961
0.772
0.651
0.945
0.960
RMSE
9.86
17.53
24.12
9.17
8.25
14.86
14.94
9.86
10.14
10.59
16.60
8.71
19.89
23.75
10.21
8.71 parison of several QA models for each individual distortion type of TID2013 in terms of SROCC. 7 References [9] Larson EC, Chandler DM. “Most apparent distortion: Full-
reference image quality assessment and the role of
strategy”. Journal
of
Electronic
Imaging,
2010. https://doi.org/10.1117/1.3267105. [27] Freedman G, Fattal R. “Image and video upscaling from
local self-examples”. ACM Transactions on Graphics,
30(2), 2011. https://doi.org/10.1145/1944846.1944852. [10] Liu A, Lin W, Narwaria M. “Image quality assessment
based on gradient similarity”. IEEE Transactions on Image
Processing, 21(4), 1500-1512, 2012. [28] Michaeli T, Irani M. “Nonparametric blind super-
resolution”. IEEE 2013 International Conference on
Computer Vision, Sydney, NSW, Australia, 1-8 December
2013. [11] Sheikh HR, Bovik AC, de Veciana G. “An information
fidelity criterion for image quality assessment using
natural scene statistics”. IEEE Transactions on Image
Processing, 14(12), 2117-2128, 2005. [29] Sugimoto K, Kobayashi M, Suzuki Y, Kato S, Boon CS. “Inter
frame coding with template matching spatio-temporal
prediction”. IEEE 2004 International Conference on Image
Processing,
Singapore,
Republic
of
Singapore,
24-27 October 2004. [12] Sheikh HR, Bovik AC. “Image information and visual
quality”. IEEE
Transactions
on
Image
Processing,
15(2), 430-444, 2006. [30] Yang J, Yin B, Sun Y, Zhang N. “A block-matching based
intra frame prediction for H.264/AVC”. IEEE 2006
International Conference on Multimedia and Expo,
Toronto, Ontario, Canada, 9-12 July 2006. [13] Chandler DM, Hemami SS. “VSNR: A wavelet-based visual
signal-to-noise
ratio
for
natural
images”. IEEE
Transactions on Image Processing, 16(9), 2284-2298,
2007. [31] Tan TK, Boon CS, Suzuki Y. “Intra prediction by template
matching”. IEEE 2006 International Conference on Image
Processing, Atlanta, GA, USA, 8-11 October 2006. [14] Zhang L, Zhang L, Mou X. “RFSIM: A feature based image
quality assessment metric using Riesz transforms”. IEEE
2010 International Conference on Image Processing,
Hong Kong, China, 26-29 September 2010. [32] Tan TK, Boon CS, Suzuki Y. “Intra prediction by averaged
template matching predictors”. IEEE 2007 Consumer
Communications and Networking Conference, Las Vegas,
NV, USA, 11-13 January 2007. [15] Zhang L, Zhang L, Mou X, Zhang D. “FSIM: A feature
similarity index for image quality assessment”. IEEE
Transactions on Image Processing, 20(8), 2378-2386,
2011. [33] Turkan M, Guillemot C. “Sparse approximation with
adaptive dictionary for image prediction”. IEEE 2009
International
Conference
on
Image
Processing,
Cairo, Egypt, 7-10 November 2009. [16] Wu J, Lin W, Shi G. “Image quality assessment with
degradation on spatial structure”. IEEE Signal Processing
Letters, 21(4), 437-440, 2014. [34] Turkan M, Guillemot C. “Image prediction: Template
matching
vs. sparse
approximation”. 7 References [1] Wang Z, Bovik AC. “Mean squared error: Love it or leave
it? A new look at signal fidelity measures”. IEEE Signal
Processing Magazine, 26(1), 98-117, 2009. [2] Mannos J, Sakrison D. “The effects of a visual fidelity
criterion of the encoding of images”. IEEE Transactions on
Information Theory, 20(4), 525-536, 1974. [2] Mannos J, Sakrison D. “The effects of a visual fidelity
criterion of the encoding of images”. IEEE Transactions on
Information Theory, 20(4), 525-536, 1974. 615 Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan [3] Mitsa T, Varkur KL. “Evaluation of contrast sensitivity
functions for the formulation of quality measures
incorporated in halftoning algorithms”. IEEE 1993
International Conference on Acoustics, Speech, and Signal
Processing, Minneapolis, MN, USA, 27-30 April 1993. [21] C. Barnes, Shechtman E, Finkelstein A, Goldman DB. “PatchMatch: A randomized correspondence algorithm
for structural image editing”. ACM Transactions on
Graphics,
2009. https://doi org/10 1145/1531326 1531330 p
https://doi.org/10.1145/1531326.1531330. [4] Damera-Venkata N, Kite TD, Geisler WS, Evans BL, Bovik
AC. “Image quality assessment based on a degradation
model”. IEEE
Transactions
on
Image
Processing,
9(4), 636-650, 2000. [22] Buades A, Coll B, Morel J. “A non-local algorithm for image
denoising”. IEEE 2005 Computer Society Conference on
Computer Vision and Pattern Recognition, San Diego, CA,
USA, 20-25 June 2005. [5] Wang Z, Bovik AC. “A universal image quality index”. IEEE Signal Processing Letters, 9(3), 81-84, 2002. [23] Mahmoudi M, Sapiro G. “Fast image and video denoising
via nonlocal means of similar neighborhoods”. IEEE Signal
Processing Letters, 12(12), 839-842, 2005. [6] Wang Z, Bovik AC, Sheikh HR, Simoncelli EP. “Image
quality assessment: From error visibility to structural
similarity”. IEEE Transactions on Image Processing,
13(4), 600-612, 2004. [24] Dabov K, Foi A, Katkovnik V, Egiazarian K. “Image
denoising with block-matching and 3D filtering”. SPIE
2006 Electronic Imaging, San Jose, CA, USA, 17 February
2006. [7] Wang Z, Simoncelli EP, Bovik AC. “Multiscale structural
similarity for image quality assessment”. 2003 Asilomar
Conference on Signals, Systems & Computers, Pacific Grove,
CA, USA, 9-12 November 2003. [25] Freeman WT, Jones TR, Pasztor EC. “Example-based
super-resolution”. IEEE
Computer
Graphics
and
Applications, 22(2), 56-65, 2002. [8] Wang Z, Li Q. “Information content weighting for
perceptual image quality assessment”. IEEE Transactions
on Image Processing, 20(5), 1185-1198, 2011. [26] Glasner D, Bagon S, Irani M. “Super-resolution from a
single image”. IEEE 2009 International Conference on
Computer Vision, Kyoto, Japan, 29 September-2 October
2009. 7 References IEEE
2010
International Conference on Image Processing, Hong Kong,
China, 26-29 September 2010. [17] Wang F, Sun X, Guo Z, Huang Y, Fu K. “An object-distortion
based image quality similarity”. IEEE Signal Processing
Letters, 22(10), 1534-1537, 2015. [35] Turkan M, Guillemot C. “Image prediction based on
neighbor-embedding methods”. IEEE Transactions on
Image Processing, 21(4), 1885-1898, 2012. [18] Criminisi A, Perez P, Toyama K. “Region filling and object
removal by exemplar-based image inpainting”. IEEE
Transactions on Image Processing, 13(9), 1200-1212,
2004. [36] Efros AA, Leung TK. “Texture synthesis by non-parametric
sampling”. IEEE 1999 International Conference on
Computer Vision, Kerkyra, Greece, 20-27 September 1999. [19] Zhang Y, Xiao J, Shah M. “Region completion in a single
image”. 2004 Eurographics, Grenoble, France, 30 August-3
September 2004. [37] Wei LY, Levoy M. “Fast texture synthesis using tree-
structured vector quantization”. 2000 Annual Conference
on Computer Graphics and Interactive Techniques,
New Orleans, LA, USA, 23-28 July 2000. [20] Sun J, Yuan L, Jia J, Shum HY. “Image completion with
structure propagation”. ACM Transactions on Graphics,
24(3), 861-868, 2005. 616 Pamukkale Univ Muh Bilim Derg, 27(5), 610-617, 2021
M. Türkan [38] Ashikhmin M. “Synthesizing natural textures”. 2001
Symposium on Interactive 3D Graphics, Chapel Hill, NC,
USA, 26-29 March 2001. [46] Roweis ST, Saul LK. “Nonlinear dimensionality reduction
by locally linear embedding”. Science, 290(5500)
2323-2326, 2000. [47] Donoho DL, Grimes C. “Hessian eigenmaps: Locally linear
embedding techniques for high-dimensional data”. 2003 Proceedings of the National Academy of Sciences,
100(10), 5591-5596, 2003. [39] Besag J. “Spatial interaction and the statistical analysis of
lattice systems”. Journal of the Royal Statistical Society
Series B, 36(2), 192-236, 1974. [40] Cross GR, Jain AK. “Markov random field texture models”. IEEE Transactions on Pattern Analysis and Machine
Intelligence, 5(1), 25-39, 1983. [48] Ponomarenko N, Jin L, Ieremeiev O, Lukin V, Egiazarian K,
Astola J, Vozel B, Chehdi K, Carli M, Battisti F, Kuo CCJ. “Image database TID2013: Peculiarities, results and
perspectives”. Signal Processing: Image Communication,
30, 57-77, 2015. [41] Chang H, Yeung DY, Xiong Y. “Super-resolution through
neighbor embedding”. IEEE 2004 Computer Society
Conference on Computer Vision and Pattern Recognition,
Washington, DC, USA, 27 June-2 July 2004. [49] Sheikh HR, Sabir MF, Bovik AC. “A statistical evaluation of
recent
full
reference
image
quality
assessment
algorithms”. IEEE Transactions on Image Processing,
15(11), 3440-3451, 2006. [42] Turkan M, Thoreau D, Guillotel P. “Self-content super-
resolution for ultra-HD up-sampling”. 7 References 2012 European
Conference on Visual Media Production, London, UK,
5-6 December 2012. [50] Sheikh HR, Wang Z, Cormack L, Bovik AC. “LIVE Image
Quality
Assessment
Database
Release
2”. http://live.ece.utexas.edu/research/quality
(03.05.2020). [43] Turkan M, Thoreau D, Guillotel P. “Optimized neighbor
embeddings for single-image super-resolution”. IEEE
2013 International Conference on Image Processing,
Melbourne, VIC, Australia, 15-18 September 2013. [51] Spearman C. “The proof and measurement of association
between two things”. The American Journal of Psychology,
15(1), 72-101, 1904. [44] Turkan M, Thoreau D, Guillotel P. “Iterated neighbor-
embeddings for image super-resolution”. IEEE 2014
International
Conference
on
Image
Processing,
Paris, France, 27-30 October 2014. [52] Kendall MG. “A new measure of rank correlation”. Biometrika, 30(1-2), 81-93, 1938. [45] Tenenbaum JB, de Silva V, Langford JC. “A global geometric
framework for nonlinear dimensionality reduction”. Science, 290(5500), 2319-2323, 2000. [53] Yang J, Wright J, Huang TS, Ma Y. “Image super-resolution
via sparse representation”. IEEE Transactions on Image
Processing, 19(11), 2861-2873, 2010. 617
|
https://openalex.org/W3167432313
|
https://www.researchsquare.com/article/rs-590298/latest.pdf
|
English
| null |
Injectisome T3SS Subunits As Potential Chaperones In The Extracellular Export of Pectobacterium Carotovorum Subsp. Carotovorum Bacteriocins Carocin S1 And Carocin S3 Secreted Via Flagellar T3SS
|
Research Square (Research Square)
| 2,021
|
cc-by
| 9,435
|
Injectisome T3SS Subunits As Potential
Chaperones In The Extracellular Export of
Pectobacterium Carotovorum Subsp. Carotovorum
Bacteriocins Carocin S1 And Carocin S3 Secreted
Via Flagellar T3SS Hang-Cheng Chen
China Medical University Hospital
Reymund C. Derilo
National Chung Hsing University
Han-Ling Chen
National Chung Hsing University
Tzu-Rung Li
National Chung Hsing University
Ruchi Briam James S. Lagitnay
National Chung Hsing University
Yung-Chieh Chan
National Chung Hsing University
Yutin Chuang
National Chung Hsing University
Duen-Yau Chuang
(
chuang@dragon.nchu.edu.tw
)
National Chung Hsing University Research Article Keywords: Carocin, pathogens, injectisome, hypothesize
Posted Date: June 15th, 2021
DOI: https://doi.org/10.21203/rs.3.rs-590298/v1
License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Read Full License Page 1/28 Abstract Pectobacterium carotovorum subsp. carotovorum (Pcc) causes soft-rot disease in a wide variety of
plants resulting in economic losses worldwide. It produces various types of bacteriocin to compete
against related plant pathogens. Studies on how bacteriocins are extracellularly secreted are conducted
to understand the mechanism of interbacterial competition. In this study, the secretion of the low-
molecular-weight bacteriocins (LMWB) Carocin S1 and Carocin S3 produced by a multiple-bacteriocin
producing strain of Pcc, 89-H-4, was investigated. Tn5 insertional mutagenesis was used to generate a
mutant, TH22-6, incapable of LMWBs secretion. Sequence and homology analyses of the gene disrupted
by transposon Tn5 insertion revealed that the gene sctT, an essential component of the injectisome type
III secretion machinery (T3aSS), is required for the secretion of the bacteriocins. This result raised a
question regarding the nature of the secretion mechanism of Pcc bacteriocins which was previously
discovered to be secreted via T3bSS, a system that utilizes the bacterial flagellum for extracellular
secretions. Our previous report has shown that bacteriocin Carocin S1 cannot be secreted by mutants
that are defective of T3bSS-related genes such as flhA, flhC, flhD and fliC. We knocked out several genes
making up the significant structural components of both T3aSS and T3bSS. The findings led us to
hypothesize the potential roles of the T3aSS-related proteins, SctT, SctU and SctV, as flagellar T3SS
chaperones in the secretion of Pcc bacteriocins. This current discovery and the findings of our previous
study helped us to conceptualize a unique Type III secretion system for bacteriocin extracellular export
which is a hybrid of the injectisome and flagellar secretion systems. Introduction Many bacteria often produce extracellular proteins to inhibit the growth of other competing bacterial
species (1, 2). Such extracellular proteins produced are commonly called bacteriocins. Bacteriocins are
usually found in Gram-positive or Gram-negative bacteria (3, 4, 5), and the functions in different bacterial
species are similar. Most of the structural genes of bacteriocins (e. g. E. coli and P. aeruginosa
bacteriocins) are located on the plasmid (6). For Pectobacterium carotovorum subsp. carotovorum (Pcc),
the genes responsible for bacteriocins production is in the chromosomes (7, 8, 9, 10). When the bacterial
growth environment changes and may cause harm, the structural genes will be activated to produce
bacteriocin proteins to attack other related bacterial species. Because bacteriocin has the function of
inhibiting the growth of other competing species, we can often see in some related literature that the
bacteriocin protein produced by the isolated harmless bacterial species is transferred to other bacteria. Bacteriocins always inhibit the growth of closely related harmful bacteria (11), which shows that
bacteriocins have a high application value and economic significance. The classification of most bacteriocins is based on the producing bacteria, molecular weight, chemical
structure, and functional mechanism (3, 12, 13). Gram-positive bacteria are often divided into four
categories based on the presence of disulfide bonds or single sulfide bonds on the peptide chain of
bacteriocins (14). For the Gram-negative bacteria, however, there is no complete classification basis, so
the bacteriocins are roughly classified into two, which is based on their molecular weights, i.e. high- Page 2/28 Page 2/28 Page 2/28 molecular-weight bacteriocins (HMWB) and low-molecular-weight bacteriocins (LMWB). The strain Pcc,
which is known to produce LWMBs Carocin S1 (7), Carocin D (8), Carocin S2 (9), and Carocin S3 (10),
was selected in this study. These studies revealed that Pcc produces bacteriocins of different
characteristics (7, 9). The bacteriocins contain two proteins, one responsible for the antimicrobial activity
(killing protein), and the other for inhibition of the microbial activity of the killing protein (immunity
protein). The killing proteins are organized in functional domains with receptor binding, translocation, and
DNAse or RNAse activity (8). When bacteria produce bacteriocins, how to deliver the killer protein outside of the cell through various
secretion systems is also a topic of interest to many scholars. Several studies have shown that many
gram-negative bacteria utilize the Type III secretion system (T3SS). Introduction During the course of an infection,
several gram-negative pathogens, including Shigella (15), Salmonella (16), enteropathogenic Escherichia
coli (17), and Yersinia species (18), use T3SS as injection devices to deliver multiple virulence proteins,
referred to as effectors, directly into the cytosol of infected cells (19). Moreover, findings from our
previous study have shown that the secretion of the LMWB Carocin S1 from Pcc is dependent on the
flagellar Type III secretion system which also controls the bacterium's cell motility and cell size (20). The T3SSs are intricate bacterial machinery that gives gram-negative bacteria a unique and distinctive
mechanism for virulence, enabling them to deliver effector proteins into their host’s cell cytoplasm
bypassing the extracellular environment (21). These protein secretion mechanisms include the
injectisome (T3aSS) and flagellar (T3bSS) systems (22). The T3bSS, being the most ancestral type of T3SS, builds the bacterial flagellum which are commonly
found in both gram-positive and gram-negative bacteria (22, 23). This extracellular structure enables
bacterial motility in both surface and liquid environments (22, 24, 25). An evolutionary related
nanomachine of the T3SS is the T3aSS, a needle-like nanomachine that has undergone an evolution, not
only for the assembly of the injectisome, but also for energizing effector proteins translocation during
invasion and colonization (26, 27, 28). The T3aSS and T3bSS share various homologies in terms of their
structures. Both entail around 10 cytoplasmic and inner membrane proteins with the high resemblance in
sequence and membrane topology (25, 26, 27). These machineries have three basic structural parts: the
basal body, the MS ring, and the rod that passes through the periplasmic space (26, 29, 30, 31, 32). These
two secretion systems, however, differ in their external structure. The T3aSS features a needle with a
translocon pore located at its end, while the T3bSS contains a hook and a filament (26, 31, 32). How
these two nanomachines are assembled is highly organized. They are regulated and constructed in highly
explicit order. The assembly of T3aSS injectisome depends on varying affinities and kinetics of protein-
protein interactions. On the other hand, assembly of the flagellum for T3bSS is based on a transcriptional
hierarchy of three promoter classes (33, 34, 35). Our previous study on the secretion mechanism of Pcc’s LMWB has shown that Carocin S1 is secreted
via T3bSS (20). Introduction The findings revealed that flhA, flhC, flhD and fliC, genes involved in the flagellar virulence
machinery, are required for the delivery of the bacteriocin outside of the cell. However, in this current Page 3/28 Page 3/28 study, we found that sctT, a T3aSS-related gene, functions similarly in the secretion of Carocin S1 and
Carocin S3 in the multiple bacteriocin-producing strain of Pcc. Thus, we hypothesized that the bacterium
is capable of secreting bacteriocins through both the flagellar and injectosome T3SS, similar to
Burkholderia, a bacterium capable of encoding multiple T3SSs (36, 37). Further deletions of various
genes involved in the assembly of the flagellar and injectisome T3SS, however, raised an interesting
question about the intricacy in the export mechanism of these Pcc bacteriocins. This led us to
hypothesize a unique interaction of various T3SS proteins in the secretion of Pcc bacteriocins. Isolation and Detection of Tn5 insertion mutants Pcc could undergo mutation and produce progeny strains with rifampicin resistance genes. These
mutants still produce bacteriocins even after mutations. In this paper, we chose H-rif-8-6, which was from
the rifampicin resistant strain 89-H-4, as the recipient of bacterial conjugation, and E. coli (1830) with the
kanamycin resistance gene transposon Tn5 as the donor of conjugative reproduction. After mating, it is
expected that the pJB4JI in E. coli could be transmitted into the Pcc. To screen the conjugated Pcc, we
used modified Drigalski's medium with antibiotics kanamycin and rifamycin (data not shown). Subsequently, the bacteriocin assays were performed to find out the strains whose low-molecular-weight
bacteriocin-related genes have been successfully disrupted (Fig. 1). Subsequently, the bacteriocin assays were performed to find out the strains whose low-molecular-weight
bacteriocin-related genes have been successfully disrupted (Fig. 1). The mutant strain TH22-6 has shown an indication of the Tn5 insertion. The results have shown that
Transposon Tn5 has successfully disrupted the low-molecular-weight bacteriocin production-related
genes in the strain (38). Hence, we selected the mutant strain TH22-6 for further investigation. To further
confirm the insertion, P3 and P4 primers were designed to amplify the specific nptII resistance gene on
Tn5 (about 500 bp in length). In this technique, the PCR method can be used to confirm whether
Transposon Tn5 has been inserted into the DNA of the wild strain (data not shown). Amplification of the DNA at the Tn5 insertion junction site Amplification of the DNA at the Tn5 insertion junction site Two sets of primers in different directions are designed to perform Thermal Asymmetric Interlaced PCR
(TAIL-PCR). This was done to produce two DNA fragments extending outward from the Transposon Tn5
gene. Since the two sets of primers are both outside the Transposon Tn5 gene, the two DNA fragments
will also contain genes that may have been disrupted in addition to the Tn5 gene. The ABI PRISM DNA
Sequencing System 373S (Perkin-Elmer Corporation) was used to decipher the DNA sequence. We amplified the Tn5 insertion junction DNA from TH22-6 genomic DNA by TAIL-PCR, and one or more
PCR products were obtained. The genomic DNA of Pcc’s insertional mutant TH22-6 was used as the
template DNA. The isolated chromosomal DNA was treated with EcoRI and confirmed with 0.7% agarose
electrophoresis gel. Using specific primers PF1 ~ 3 and PR1 ~ 3 and random primer N2 (Table 2), and the
above-mentioned TH22-6 chromosomal DNA as template DNA, we performed TAIL-PCR. Supplementary
Fig. 1 shows the results of the TAIL-PCR. Page 4/28 Table 2 Table 2
Primers used in this study
Primer
Sequence (5'→3')
PR-1
5'- GCCGAAGAGAACACAGATTTAGCCCA
PR-2
5'- CCGCACGATGAAGAGCAGAAGTT
PR-3
5'- CAGATCTCTGGAAAACGGGAAAGG
PF-1
5'- AGAGAACACAGATTTAGCCCAGTCGG
PF-2
5'- CCGCACGATGAAGAGCAGAAGTTAT
PF-3
5'- GATCCTGGAAAACGGGAAAGGTTC
N-1
5'- NGTCGA(G/C)(A/T)GANA(A/T)GAA
N-2
5'- GTNCGA(C/G)(A/T)CANA(A/T)GTT
N-3
5'- (A/T)GTGNAG(A/T)ANCANAGA
P-3
5'- CTCGACGTTGTCACTGAAGCGGGAAG
P-4
5'- AAAGCACGAGGAAGCGGTCAGCCCAT
PJ1
5'-GTTTTTTCAGCCATTGTCGC
PB1
5'-TCTGGCTTTCTGAACTTTGC
sctT-sen
5'-TGAAGCTTATGAGCCCAGTG
sctT-anti
5'-TAATAAGCTTTGGTGCAGCC
flhA-sen
5'-TCACTCAACGTTGCATCTAC
flhA-anti
5'-CAAGATGTTGGCCAACAGATG
sctV-sen
5'-TCCGATATAGGTGTTGAGGC
sctV-anti
5'-CCAGCCAGTTAATGATGTGC
sctU-sen
5'-CAATCGTCCTGAACTGTTGG
sctU-anti
5'-GTACTGACtGCACCATGCTC
sctD-sen
5'-GAAGCACCGTGGTGTTGAAG
sctD-anti
5'-GCCTTCTGGATAGCGTTGATG
sctQ-sen
5'-CGTGGCAGCCACTCGAGTGTGAAC
sctQ-anti
5'-GCAGACAAGGATCCTCAGCGGAATC Table 2
Primers used in this study
Primer
Sequence (5'→3')
PR-1
5'- GCCGAAGAGAACACAGATTTAGCCCA
PR-2
5'- CCGCACGATGAAGAGCAGAAGTT
PR-3
5'- CAGATCTCTGGAAAACGGGAAAGG
PF-1
5'- AGAGAACACAGATTTAGCCCAGTCGG
PF-2
5'- CCGCACGATGAAGAGCAGAAGTTAT
PF-3
5'- GATCCTGGAAAACGGGAAAGGTTC
N-1
5'- NGTCGA(G/C)(A/T)GANA(A/T)GAA
N-2
5'- GTNCGA(C/G)(A/T)CANA(A/T)GTT
N-3
5'- (A/T)GTGNAG(A/T)ANCANAGA
P-3
5'- CTCGACGTTGTCACTGAAGCGGGAAG
P-4
5'- AAAGCACGAGGAAGCGGTCAGCCCAT
PJ1
5'-GTTTTTTCAGCCATTGTCGC
PB1
5'-TCTGGCTTTCTGAACTTTGC
sctT-sen
5'-TGAAGCTTATGAGCCCAGTG
sctT-anti
5'-TAATAAGCTTTGGTGCAGCC
flhA-sen
5'-TCACTCAACGTTGCATCTAC
flhA-anti
5'-CAAGATGTTGGCCAACAGATG
sctV-sen
5'-TCCGATATAGGTGTTGAGGC
sctV-anti
5'-CCAGCCAGTTAATGATGTGC
sctU-sen
5'-CAATCGTCCTGAACTGTTGG
sctU-anti
5'-GTACTGACtGCACCATGCTC
sctD-sen
5'-GAAGCACCGTGGTGTTGAAG
sctD-anti
5'-GCCTTCTGGATAGCGTTGATG
sctQ-sen
5'-CGTGGCAGCCACTCGAGTGTGAAC
sctQ-anti
5'-GCAGACAAGGATCCTCAGCGGAATC
flgH-sen
5'-ATGGCGAATAAATGGCGTTG Primer
Sequence (5'→3')
flgF-sen
5'-GAATCGCAGCCTGTCACAAC
flgF-anti
5'-TGTGCCAGATCCTCTGCAAG
flhB-sen
5'-AAACAGAAGCTTCCACTCCC
flhB-anti
5'-ACGCCGCAGTCGACGCTTC
fliR-sen
5'-TGATACCAGCCAACTCAGTC
fliR-anti
5'-CCAGCCGATCAAAGAATTCG
fliG-sen
5'-ATGACCCTGACAGGAACAG
fliG-anti
5'-TTAGACATAAGCATCCTCGC
fliE-sen
5'-CAGTCGCTATGTCCCCTAAC
fliE-anti
5'-TACACCTGCATGCTCATCAC
flgG-sen
5'-TACCCGTGACGGTTCATTTC
flgG-anti
5'-TTGTAGCATCTGATCATACG
a All primers were purchased from MDE Bio Inc., Taipei, Taiwan For TAIL-PCR products sequencing, an automated DNA sequencer 373S (ABI) was used, and a nucleotide
sequence of 2249 bp was obtained. Amplification of the DNA at the Tn5 insertion junction site The nucleotide sequence and deduced amino acid of T3SS protein
were compared by the BLAST programs of National Center for Biotechnology Information server
(National Library of Medicine, USA). Sequence data were compiled with DNASIS-Mac software (Hitachi,
Japan). The results show that at least two complete open reading frames (ORF1 and ORF2) were present,
and Tn5 was in the ORF2, between 2248th and 2249th base pair (data not shown). Based on the
nucleotide sequence of TAIL-PCR product, the DNA probe (431 Probe) which was designed near the Tn5
insertion region, was hybridized with the digested wild-type strain genomic DNA (Supplementary Fig. 2). Thereafter, we sliced the DNA agarose electrophoresis gel, then purified and cloned it into pBR322 for
genome library. Finally, we acquired the construction which bears the nucleotide of the interrupted gene
(Supplementary Fig. 3). The nucleotide was sequenced and its length is 3031 base pairs (Fig. 2). Sequence Analysis and Homology Sequence Walking was performed to identify the two DNA sequences of TAIL-PCR products. It was found
that the two single-band PCR products amplified by primers PF-A3 and N2, and the single band PCR
products amplified by PL3 and N1, has a total length of 2249 bp. The TAIL-PCR products amplified by
specific primers PF1 ~ 3 and PR1 ~ 3 with the TAIL-PCR product amplified by specific primers PF-A1 ~ 3
and PL1 ~ 3 were also compared. Both have inserted mutations by Tn5 and the TAIL-PCR products extend
outward from PCR amplification. Page 6/28 We performed sequence analysis using (BLAST) by the National Institutes of Health Medical Library
(NCBI) database (Fig. 3). The result showed that ORF2 shows high homology with the YsaT protein of
T3SS in Sodalis glossinidius (61% homology) and Yersinia enterocolitica (45% homology). Another high
homology cassette (ORF1) in the nucleotide has shown 74% homology with YsaR, also an assembly of
T3SS. After compiling the sequence with DNASIS-Mac software, it indicates that ORF2 encodes 762 base pairs
and a protein of 254 amino acids, which shows high homology with the YsaT protein of the T3SS in
Sodalis glossinidius and Yersinia enterocolitica. Moreover, the hydrophobicity of YsaT-like amino acid
was arranged to and fro (Supplementary Fig. 4). The YsaT protein of these two strains is one of the
essential proteins in their bacteriocin secretory systems. Hence, we speculate that the gene mutated by
the insertion of Transposon Tn5 may be a gene that secretes bacteriocin. The gene was later designated
as sctT, in accordance with the unified secretion and cellular translocation (Sct) nomenclature. Complementation and analysis of flhA and sctT genes Wild-type H-rif-8-6 was used as a control and transformed with plasmids containing the flhA (flhA-KO)
and sctT (TH22-6) genes. The mutations in the flhA gene (flhA-KO) and sctT (TH22-6) gene were
complemented by the introduction of the flhA and sctT genes, and the effects of these respective genes
on bacteriocin production were evaluated. Neither the TH22-6 (sctT-KO, sctT::Tn5) nor flhA-KO (flhA::Kan) mutant strains could secrete bacteriocins
Carocin S1 and Carocin S3. However, the ability of these strains to secrete bacteriocins was recovered
after complementation by transformation with the flhA and sctT genes, respectively, which have shown
inhibition zone diameters comparable in size to that of wild type (Fig. 4A). After transformation, all
deletion strains harboring their respective complementing plasmids secreted LMWB (Fig. 4B). It can be
observed that knocking down sctT and flhA disables the extracellular export of bacteriocins Carocin S1
and Carocin S3 (Fig. 4A, No. 2 and 3). However, it can be observed that the bacteriocins are still expressed
as displayed in the RT-PCR experiment (Fig. 4B No. 2 and No. 3). Deletion of the T3aSS and T3bSS-Related Genes and
Bacteriocin Activity Assay We knocked out several genes making up the flagellar and injectisome T3SS to find out how the deletion
affects the bacteriocin secretion. The results have shown that deletion of sctU, sctV, flgG, fliE and fliR
genes disabled the secretion of bacteriocin. This suggests that these genes are essential and are required
in the secretion of Carocin. Results from our previous research have shown the significance of flhA, flhC, flhD, and fliC genes in
regulating the synthesis of bacterial flagella in Pcc and that Carocin S1 utilizes this secretion machinery
(T3bSS) (20). The results of the present study have shown that further deletion of T3bSS-related genes Page 7/28 such as flgG, fliE, fliR, and flhA similarly disrupts the extracellular export of Carocin S1 and Carocin S3
(Fig. 5). This result further supports the previous findings that the T3bSS is used in the secretion of Pcc
bacteriocin. However, it can also be observed that deletion of various T3aSS-related genes like the sctT,
sctU, and sctV likewise affects the Carocin S1 and Carocin S3 secretion. Interestingly, deletion of the
T3bSS gene flhB did not restrain bacteriocin secretion to the outside of the cell but knocking out its
homologous gene in the T3aSS, sctU, inhibited the expression of the bacteriocins to the extracellular
environment. such as flgG, fliE, fliR, and flhA similarly disrupts the extracellular export of Carocin S1 and Carocin S3
(Fig. 5). This result further supports the previous findings that the T3bSS is used in the secretion of Pcc
bacteriocin. However, it can also be observed that deletion of various T3aSS-related genes like the sctT,
sctU, and sctV likewise affects the Carocin S1 and Carocin S3 secretion. Interestingly, deletion of the
T3bSS gene flhB did not restrain bacteriocin secretion to the outside of the cell but knocking out its
homologous gene in the T3aSS, sctU, inhibited the expression of the bacteriocins to the extracellular
environment. The current findings of this study have shown an interesting interaction between the T3aSS and T3bSS. From these findings, we hypothesize that the genes sctT, sctU, and sctV play important roles in the
synthesis of chaperones for the delivery of bacteriocins Carocin S1 and Carocin S3. Discussion This study would be the first to report the function of
SctT in the secretion of an effector protein. By the complementary experiment, the result showed the sctT
gene expression was a requirement for the LMWBs, Carocin S1 and Carocin S3, secretion. The current
result on the role of sctT, a gene that encodes a protein in the T3aSS assembly, have led us to further
investigate some possible interactions between the T3aSS and T3bSS genes in the secretion of Pcc
bacteriocins. Previous findings (20) have shown that Carocin S1 is secreted via T3bSS. This study, however, has
shown that its secretion is also affected by deletion of a T3aSS-related gene. According to Sun et al. (36)
and Denise et al. (37), some bacteria encode multiple T3SSs (e. g. Burkholderia) to interact with multiple
types of eukaryotic hosts. Also, according to Matsuda et al. (45), some effectors can evolve to be
recognized by multiple systems (e.g. a toxin from Vibrio). In this case, it might be possible that Pcc can
also encode multiple secretion systems, and the bacteriocins Carocin S1 and Carocin S3 are recognized
by both secretion machineries. To test this assumption, we performed series of deletions of multiple genes related and significant to
both the T3aSS and T3bSS. We found that deletion of T3aSS-related genes (sctT, sctU and sctV) and
T3bSS-related genes (flgG, fliE, fliR and flhA) did impede the secretion of bacteriocin. Interestingly,
deletion of any of the T3bSS-related gene (flgG, fliE, fliR and flhA) totally halts the secretion of
bacteriocin. Similarly, omission of T3aSS-related genes (sctT, sctU, and sctV) impedes the secretion of
bacteriocin. These results did not support our initial assumption. If Pcc is capable of encoding both types
of T3SS like what Sun et al. (36) and Denise et al. (37) explained about Burkholderia, disabling one
secretion system (e. g. T3aSS) could possibly not disrupt the delivery of Carocin outside the cell because
the presence of the other machinery (T3bSS) serves as an alternative system for secretion. The results of
the experiment, and that of the previous study (20), nevertheless, reveals that the Pcc bacteriocin could be
secreted by a single secretion machinery that utilizes the genes related to both T3aSS and T3bSS. Thus,
this led to the rejection of the assumption that Pcc can encode both types of T3SS. Discussion This experiment uses Transposon Tn5 to disrupt the genes related to LMWB production, and TAIL-PCR
method was used to amplify the PCR product (2249bp DNA fragment) extending from both ends of Tn5. The 2249 bp DNA was found after the NCBI Genebank alignment sequence. The part disrupted by
Transposon Tn5 has a complete gene (sctT). The amino acid sequence of the disrupted gene is 45%
homologous with the YsaT protein of Yersinia enterocolitica and 61% homologous with Sodalis
glossinidius. Literature (39, 40) indicates that these proteins are known to be involved in the construction
of T3SS. When the sctT gene was disrupted, Pcc LMWBs no longer express (high molecular weight
bacteriocins still exist). Hence, we speculate that the gene disrupted by Tn5 is likely to be a protein
component involved in the expression of LMWBs. We compared the DNA fragment obtained from the chromosomal DNA of H-rif-8-6 (3031 bp DNA
fragment), NCBI Genebank protein sequence alignment, and TAIL-PCR product (2249 bp DNA fragment),
and the results were roughly the same. The sctT gene is located at the end of the 3031 bp DNA fragment. There are about two to three ORFs in the front and rear regions of the sctT gene. Most of these ORFs are
related to the constituent proteins of the T3SS. Much of our understanding of the T3SS is derived from the study of pathogenic bacteria and their
interactions with plant and animal hosts (41). T3SSs of bacteria are specific export machineries for
virulence that allow their translocation to eukaryotic cells. The SctT protein is one of the injectisome
T3SS apparatus. It is part of the inner membrane machinery of the T3aSS (42). It belongs to the five
highly conserved inner membrane proteins (SctRSTUV) which are necessary for the function of the
pathogenic T3SS, though, their individual functions are unclear. It is worth noting that these proteins
show a high degree of sequence homology to components of the evolutionarily related flagellar secretion
system (T3bSS) and may represent a functional core, serving critical chemical roles in initiating or
powering protein secretion. SctRSTUV are important in the organized, stepwise assembly of the T3aSS
basal body. Page 8/28 The role of SctT is not well understood, but it has been identified as a T3aSS protein based on sequence
homology among multiple bacterial species (43). Discussion It was proposed that flagellar chaperones mediate interactions between the various subunits of the
flagellum by binding to the carboxy-terminal region of the substrate (61, 62, 63, 64). These C-terminal
domains are thought to be the glue by which individual filament subunits polymerize together during
assembly of a growing flagellum (66). Unless these domains are stabilized by a bound chaperone, the
monomeric forms are swiftly oligomerized. This has been proven experimentally. Flagellar chaperones
such as the FliS (62, 63, 64) and FlgN (66) prevent premature polymerization. It was proposed that flagellar chaperones mediate interactions between the various subunits of the
flagellum by binding to the carboxy-terminal region of the substrate (61, 62, 63, 64). These C-terminal
domains are thought to be the glue by which individual filament subunits polymerize together during
assembly of a growing flagellum (66). Unless these domains are stabilized by a bound chaperone, the
monomeric forms are swiftly oligomerized. This has been proven experimentally. Flagellar chaperones
such as the FliS (62, 63, 64) and FlgN (66) prevent premature polymerization. In this report, Carocin S1 and Carocin S3 are detected in the RT-PCR in small amounts (see Fig. 5). However, the bacteriocin assay revealed that these bacteriocins were not extracellularly secreted. Similarly, previous reports (62, 66) have shown that substrates were detected in lower amounts and were
not secreted in the absence of their chaperones. Parsot et al. (67) explains that premature associations of
flagellar proteins in the cytoplasm result in their instability. However, by masking the interacting domains
in the components of the flagellum, chaperones prevent the premature associations among proteins. Thus, in the absence of chaperones, these processes would possibly be altered. In our experiment,
deletion of genes associated with the chaperone proteins have prevented the extracellular secretion of
Carocin S1 and Carocin S3. The bacteriocins have been produced but not extracellularly secreted perhaps
due to non-assembly of the flagellar components essential for their secretion which could have resulted
from the possible instability and premature associations of the various flagellar proteins. Similarly, previous reports (62, 66) have shown that substrates were detected in lower amounts and were
not secreted in the absence of their chaperones. Parsot et al. (67) explains that premature associations of
flagellar proteins in the cytoplasm result in their instability. However, by masking the interacting domains
n the components of the flagellum, chaperones prevent the premature associations among proteins. Discussion We therefore hypothesized that the inability of Pcc to secrete Carocin S1 and Carocin S3 resulted from
the absence of T3aSS genes sctT, sctU and sctV, which encode chaperone proteins for the bacteriocin
secretion via T3bSS. Figure 6 shows the hypothesized flagellar secretion system, with T3aSS proteins
acting as chaperones. SctT, SctU and SctV are known to be part of the conserved components of the T3aSS (23, 45, 46). The
inner membrane ring of the T3SS is associated with the export apparatus, which is assembled by
members of five families of transmembrane proteins (SctRSTUV) and presumably forms a transport
channel for T3SS substrates (46, 47, 48, 49, 50). This study would be the first to report the potential role
of these T3aSS proteins in the delivery of an effector protein via T3bSS. As inferred from the results of
this study, these proteins serve as potential chaperones in the secretion of bacteriocins Carocin S1 and
Carocin S3 in Pcc. Page 9/28 Page 9/28 Secretion chaperones are of great significance to bacteria because intact chaperones are needed for the
export of substrates (51, 52) or for the regulation of virulence gene expression (53). T3SS chaperones are
either required for or regulate effector translocation into host cells. Hence, identifying the chaperones
involved in the export of substrates is essential to better understand the secretion systems of bacteria. Literatures stipulate that secretion of most effectors was reduced but not abolished in the absence of
their chaperones (54, 49, 55, 56, 57, 58). The result of the present study, however, shows that the absence
of chaperones halts the secretion of the effector proteins in Pcc. Recent reviews on flagellar chaperones,
on the other hand, have stated that flagellar chaperones might be required mainly to prevent premature
interactions between subunits of the flagellum by masking their interaction domains (59). For example,
the flagellar system uses cytoplasmic chaperones (60) such as the FlgN for FlgL and FlgK (hook-related
proteins), FliT for FlgL and FlgK (filament-capping proteins), and FliS for FliC (flagellin protein) (61, 62,
63). Secretion chaperones are of great significance to bacteria because intact chaperones are needed for the
export of substrates (51, 52) or for the regulation of virulence gene expression (53). T3SS chaperones are
either required for or regulate effector translocation into host cells. Hence, identifying the chaperones
involved in the export of substrates is essential to better understand the secretion systems of bacteria. Discussion Arguably, the principal role of flagella-specific T3SS chaperones is to prevent early polymerization of
cognate flagella substrates. Moreover, assembly of filament subunits into the growing flagellum is strictly
sequential. This implies a strict secretion order, which may result if each chaperone-substrate complex
interacts with a different affinity to a component of the flagella-specific T3SS (65). The roles of the T3aSS-related proteins, SctT, SctU and SctV, in the secretion of Pcc bacteriocins could be
any of the common roles of chaperones in the flagellar T3SS. Whether they act to protect substrates from
premature associations with self or other proteins, to guide substrates to the correct T3SS, to establish a
secretion order among the substrates, or to couple gene transcription to the process of apparatus Page 10/28 Page 10/28 assembly, their specific function in the secretion of Carocin S1 and Carocin S3 remains an unanswered
question and needs further investigation and confirmation. assembly, their specific function in the secretion of Carocin S1 and Carocin S3 remains an unanswered
question and needs further investigation and confirmation. Conclusion As shown herein, the extracellular export of Pcc LMWBs Carocin S1 and Carocin S3 are dependent on
secretion machinery involving genes related to both the injectisome (T3aSS) and flagellar (T3bSS)
secretion systems. This study is the first to report such unique interaction between genes and proteins of
both types of T3SS. Results of gene deletions revealed that Pcc bacteriocins are possibly secreted by the
T3bSS which utilizes T3aSS-related proteins SctT, SctU, and SctV as secretion chaperones. Moreover, it
was found that these chaperone proteins do not act individually, rather, they work in concert in the
bacteriocin secretion. However, how they interact with the bacteriocins, and what are their specific role as
flagellar T3SS chaperones need further investigations. Bacterial strains, plasmids, media, and growth conditions The bacterial strains and plasmids used in the study are shown in Table 1. Propagation of the
Pectobacterium carotovorum subsp. carotovorum strains was done in 1.4% nutrient agar (NA) at 28°C or
in LB medium with 5 g/L of NaCl with shaking. On the other hand, E. coli strains were propagated at 37°C
in a modified LB medium with shaking. Rifampicin, kanamycin, and ampicillin (50 mg/L) were added to
the media when required. Page 11/28 Page 11/28 Table 1
Bacteria and plasmids used in this study Table 1
Bacteria and plasmids used in this study
Bacterium or
plasmid
Relevant characteristics
Source
E.coli
1830
pro−met−KmrNmr, containing transposon
Gantotti et al. [38]
Tn5 on the "sucidal" plasmid pJB4JI
DH5α
supE44hsdR17recA1endA1gyrA1thi-1relA1
Hanahan; Reusch et al [72,
74]
Pcc
89-H-4
putative biocontrol agent
Laboratory stock
H-rif-8-6
89-H-4, Rifr
this work
Ea1068
wild type
Laboratory stock
SP33
wild type
Laboratory stock
TH22-6
H-rif-8-6, sctT::Tn5, Rifr, Kanr
this work
FlhA-KO
H-rif-8-6, flhA::Kan, Rifr, Kanr
Chan et al. [9]
SctV-KO
H-rif-8-6, sctV::Kan, Rifr, Kanr
this work
SctU-KO
H-rif-8-6, sctU::Kan, Rifr, Kanr
this work
SctD-KO
H-rif-8-6, sctD::Kan, Rifr, Kanr
this work
SctQ-KO
H-rif-8-6, sctQ::Kan, Rifr, Kanr
this work
FlgH-KO
H-rif-8-6, flgH::Kan, Rifr, Kanr
this work
FlgF-KO
H-rif-8-6, flgF::Kan, Rifr, Kanr
this work
FlhB-KO
H-rif-8-6, flhB::Kan, Rifr, Kanr
this work
FliR-KO
H-rif-8-6, fliR::Kan, Rifr, Kanr
this work
FliG-KO
H-rif-8-6, fliG::Kan, Rifr, Kanr
this work
FliE-KO
H-rif-8-6, fliE::Kan, Rifr, Kanr
this work
FlgG-KO
H-rif-8-6, flgG::Kan, Rifr, Kanr
this work Page 12/28 Page 12/28 Bacterium or
plasmid
Relevant characteristics
Source
pACYC177
Ampr ,Kanr, low copy number
Chang et al. [75]
pBR322
Ampr ,Kanr
Bolivar et al. [68]
pB47
Ampr ,Kanr, 3.0kb DNA fragment contain
sctT
this work
pBSCTT
Ampr, sctT
this work
pBFA
Ampr, flhA
this work
Ampr indicates ampcillin resistance, Rifr indicates rifampicin resistance, and Kanr indicates
Kanamycin resistance. Ampr indicates ampcillin resistance, Rifr indicates rifampicin resistance, and Kanr indicates
Kanamycin resistance. Bacterial mating For bacterial mating, the membrane-filter method was carried out as described by Gantotti et al. (38). Overnight cultures of Pcc (recipient) H-rif-8-6 and E. coli (donor) 1830 were evenly spread onto 0.22 µm
pore size membrane filters (Millipore, Inc. Bedford, MA) which were placed on LB agar media and
incubated overnight at 28°C. After conjugation, suspensions of the progeny were appropriately diluted
and were grown at 28°C for 24 to 48 h on modified Drigalski's agar plates (with rifampicin and
kanamycin, 100 µg ml-1). Colonies were isolated for the bacteriocin production test. Bacteriocin assays Bacteriocin production of the isolates was examined using the double-layer method as previously
described (68). The isolates were placed on hard IFO-802 (with 1.4% agar) and soft IFO-802 (with 0.65%
agar) medium. The cells were first incubated for 12 hours for colonies to form. The colonies were then
exposed to ultraviolet irradiation before incubating for another 12 hours. Thereafter, the cells were treated
with chloroform and finally covered with soft agar containing the indicator cells. An inhibition zone of
indicator-cell (SP33 or Ea1068) growth around the colony indicates bacteriocin production. Preparation of genomic DNA, plasmid DNA and RNA The procedures of plasmid preparation, genomic DNA isolation, and DNA manipulation were performed
according to Sambrook (69). For RNA preparation, exponentially growing E. coli DH5α cells were
harvested (OD595 of about 6.0). Trizol reagent (Invitrogen, USA) was used in isolating the RNA which was
resuspended in diethylpyrocarbonate (DEPC)-treated water. RNA concentration was determined at OD260
absorption and was analyzed by electrophoresis on 1.5% formaldehyde-morpholinepropanesulfonic-
agarose gel. Hybridization and Southern blots Southern blots were performed according to the DIG Application Manual (Roche, USA). A 543-bp DNA
fragment (431 probe) was amplified with pJI and pBI primers, subcloned into pGEM-T Easy vector
(Promega Inc., USA), and labeled using a Random Primed DNA Labeling Kit (Roche Diagnostics, USA). The genomic DNA of the wild-type strain H-rif-8-6 was digested with various restriction endonucleases,
with sites located outside the putative open reading frame. Samples were electrophoresed and analyzed
with Southern blotting. After detection using the 431 probe, the DNA from positive gel slices was purified
and cloned into pBR322 to give the carocin-producing plasmid pB47. The pB47 construct was isolated
and detected as above with the 431 probe. Southern and colony hybridizations, probe labeling, and detection were performed by using a DIG DNA
Labeling and Detection kit (Boehringer Mannheim GmbH, Mannheim, Germany). Hybridization was
performed overnight, and the membrane was washed according to the recommendations of the
manufacturer. DNA electrophoresis, restriction digestion, ligation, and transformation for E. coli were
carried out as described by Sambrook et al. (69). Plasmid DNA transformation for Pcc was performed by
the methods of Hinton et al. (71) and Hanahan (72). Page 13/28
g
g
TAIL-PCR and Restriction DNA library screening Previously detailed protocols were utilized for the general polymerase chain reaction (PCR) (69) and
thermal asymmetric interlaced PCR (TAIL-PCR) (70). Previously detailed protocols were utilized for the general polymerase chain reaction (PCR) (69) and
thermal asymmetric interlaced PCR (TAIL-PCR) (70). Specific primers at both ends of Tn5, namely PF1, PF2, PF3, PR1, PR2, and PR3 were designed for TAIL-
PCR. Using the above primers for amplification, two PCR products with unknown DNA sequences at both
ends of Tn5 were obtained. However, after the sequence analysis, it was found that the two segments
were the same PCR products. Hence, two sets of two PCR products were designed using this known DNA
sequence of about 300 bp. ABI PRISM Dye Terminator Cycle Sequencing Ready Reaction kit (Applied Biosystems, Foster City, CA)
was used in the sequence analysis of the TAIL-PCR products. Cycle sequencing was carried out in a
GeneAmp System 9600 thermocycler (Applied Biosystems). The sequencing was carried out using an ABI
373S automated DNA sequencer 373S (Applied Biosystems) based on the manufacturer’s protocol. Construction of the null alleles of flhB, flgH, flgF, fliR, fliE,
flgG, fliG, sctD, sctQ, sctV, and sctU genes The various genes were isolated from pBSctT by digesting with different restriction enzymes which
cleave at two sites in pBSctT and thereby conveniently delete the target genes from the operon. The
resulting plasmid was designated and labeled accordingly. A kanamycin-resistant gene from pACYC177 was isolated, made blunt-ended using a DNA-blunting kit
(Takara Co., Tokyo, Japan), and inserted in the unique restriction site of the target genes. The resulting
plasmid was designated consequently (see Table 1). The gene-Kan was re-isolated and linearized after
restriction enzyme digestion, which deleted the ampicillin resistance gene and replication site of the
plasmid. The linearized construct was transferred into H-rif-8-6, resulting in the homologous replacement of the
native genes and generating null alleles. The DNA fragments of the target gene were amplified by PCR
from Hrif-8-6. After PCR amplification using pairs of oligonucleotide primers (see Table 2), the partial DNA
fragments were isolated and subcloned into plasmid pBR322 to generate the needed plasmid. Subcloning of sctT gene from H-rif-8-6 The DNA fragment of SctT was amplified by PCR from H-rif-8-6 using oligonucleotide primers SctT-sen
and SctT-anti. The PCR product was subcloned into pGEM-T Easy vector by TA cloning (Promega Inc.,
USA). The sctT gene containing product was digested with restriction enzymes HindIII and subcloned into
plasmid pBR322. The new plasmid was designated pBSctT. One hundred transformed colonies were
isolated using selective LB agar containing 100 µg/ml of ampicillin after the transfer of pBSctT into E. coli DH5α. The presence of the sctT gene was detected by colony hybridization using the 431 probe and
electrophoresis after digestion with HindIII to yield the expected 10-Kb DNA fragment bearing SctT
protein. The pSctT plasmid was isolated from DH5α/pSctT and transferred into the insertion mutants of Page 14/28 Page 14/28 Pcc TH22-6. One hundred colonies were isolated by selection on modified Drigalski's medium containing
50 µg/ml of kanamycin, rifampicin, and ampicillin. The sctT gene was detected as previously described. RNA preparation and RT-PCR Bacteriocin synthesis medium (BSM; 0.5% sucrose, 0.1% NH4Cl, 0.2% KH2PO4, and 0.02% MgSO4·7H2O
(pH = 7.5) was used to produce bacteriocins Carocin S1 and Carocin S3. Total RNA was extracted from
cells (Pcc harboring constructs) that were grown without antibiotics at 28°C. To determine the stability of
the strains, culture samples (8 ml each; with rifampicin [0.2 mg/ml] added when cell density was ~ 150
Klett units to block bacterial contamination) were withdrawn at various time points and transferred to
tubes containing 5 mL of ice-cold water. Total RNA was extracted using Trizol (Invitrogen, Carlsbad, CA)
according to the manufacturer's protocol. On the other hand, the Reverse Transcription-PCR (RT-PCR) using AMV Reverse Transcriptase (Promega,
USA) was carried out based on the instructions provided by the manufacturer. One microgram (1 µg) of
RNA was subjected to RT-PCR. Reverse primer (see Table 2) was used in first strand cDNA synthesis. The
RT mixtures were diluted and used as templates in a PCR reaction with the pairs of primers (Table 2). Computer analysis of sequence data Computer analysis of sequence data The nucleotide sequence and the deduced amino acid sequence of sctT were compared using the BLAST
and FASTA programs of the National Center for Biotechnology Information server (National Library of
Medicine, USA). Sequence data were compiled by DNASIS-Mac software (Hitachi, Tokyo, Japan). Page 15/28 References 1. Cotter PD, Hill C, Ross RP. Bacteriocins: developing innate immunity for food. Nat Rev Microbiol. 2005;3:777–788. https://doi.org/10.1038/nrmicro1273 2. Hibbing ME, Fuqua C, Parsek MR, Peterson SB. Bacterial competition: surviving and thriving in the
microbial jungle. Nat Rev Microbiol. 2010;8(1):15–25. https://doi.org/10.1038/nrmicro2259 3. Tagg JR, Dajani AS, Wannamaker LW. Bacteriocins of gram-positive bacteria. Bacteriol Rev. 1976;40(3):722. 4. Kotelnikova EA, Gelfand MS. Bacteriocin production by Gram-positive bacteria and the mechanisms
of transcriptional regulation. Russ J Genet. 2002;38(6):628–41. https://doi.org/10.1023/A:1016035700012 5. Chi H, Holo H. Synergistic antimicrobial activity between the broad spectrum bacteriocin garvicin KS
and nisin, farnesol and polymyxin B against gram-positive and gram-negative bacteria. Curr
Microbiol. 2018;75(3):272–7. https://doi.org/10.1007/s00284-017-1375-y 6. Eklund MW, Poysky FT, Mseitif LM, Strom MS. Evidence for plasmid-mediated toxin and bacteriocin
production in Clostridium botulinum type G. Appl Environ Microbiol. 1988;54(6):1405–8. 7. Chuang DY, Chien YC, Wu HP. Cloning and expression of the Erwinia carotovora subsp. carotovora
gene encoding the low-molecular-weight bacteriocin Carocin S1. J Bacteriol. 2007;189(2):620–6. https://doi.org/10.1128/JB.01090-06 8. Roh E, Park TH, Kim MI, Lee S, Ryu S, Oh CS, Rhee S, Kim DH, Park BS, Heu S. Characterization of a
new bacteriocin, Carocin D, from Pectobacterium carotovorum subsp. carotovorum Pcc21. Appl
Environ Microbiol. 2010;76(22):7541–9. https://doi.org/10.1128/AEM.03103-09 9. Chan YC, Wu JL, Wu HP, Tzeng KC, Chuang DY. Cloning, purification, and functional characterization
of Carocin S2, a ribonuclease bacteriocin produced by Pectobacterium carotovorum. BMC Microbiol. 2011;11(1):99. https://doi.org/10.1186/1471-2180-11-99 10. Wang JW, Derilo RC, Lagitnay RB, Wu HP, Chen KI, Chuang DY. Identification and characterization of
the bacteriocin Carocin S3 from the multiple bacteriocin producing strain of Pectobacterium
carotovorum subsp. carotovorum. BMC Microbiol. 2020;20(1):1–3. https://doi.org/10.1186/s12866-
020-01955-9 11. Mishra C, Lambert J. Production of anti-microbial substances by probiotics. Asia Pac J Clin Nutr. 1996;5:20–4. 12. Kalmokoff ML, Banerjee SK, Cyr T, Hefford MA, Gleeson T. Identification of a new plasmid-
encodedsec-dependent bacteriocin produced by Listeria innocua. Appl Environ Microbiol. 2001;67(9):4041–7. https://doi.org/10.1128/AEM.67.9.4041-4047.2001 13. Baysse C, Meyer JM, Plesiat P, Geoffroy V, Michel-Briand Y, Cornelis P. Uptake of pyocin S3 occurs
through the outer membrane ferripyoverdine type II receptor of Pseudomonas aeruginosa. J
Bacteriol. 1999;181(12):3849–51. https://doi.org/10.1128/JB.181.12.3849-3851.1999 Page 16/28 14. Dale C, Young SA, Haydon DT, Welburn SC. The insect -endosymbiont Sodalis glossinidius utilizes a
type III secretion system for cell invasion. Proc Natl Acad Sci USA. 2001 Feb 13;98(4):1883-8. https://doi.org/10.1073/pnas.98.4.1883 15. Espina, M., A. J. Olive, R. Kenjale, D. S. Moore, S. F. Ausar, R. W. Kaminski, E. V. Oaks, C. R. Middaugh,
W. D. 27. Cornelis GR. The type III secretion injectisome. Nat. Rev. Microbiol. 2006;4(11):811–25.
https://doi.org/10.1038/nrmicro1526 References Picking, and W. Picking. 2006. IpaD localizes to the tip of the type III secretion system needle of
Shigella flexneri. Infect Immun. 74:4391–4400. https://doi.org/10.1128/IAI.00440-06 16. Park D, Lara-Tejero M, Waxham MN, Li W, Hu B, Galán JE, Liu J. Visualization of the type III secretion
mediated Salmonella–host cell interface using cryo-electron tomography. Elife. 2018;7:e39514. https://doi.org/10.7554/eLife.39514.001 17. Majewski DD, Lyons BJ, Atkinson CE, Strynadka NC. Cryo-EM analysis of the SctV cytosolic domain
from the Enteropathogenic E. coli T3SS injectisome. J Struct Biol. 2020:107660. https://doi.org/10.1016/j.jsb.2020.107660 18. Wang H, Avican K, Fahlgren A, Erttmann SF, Nuss AM, Dersch P, Fallman M, Edgren T, Wolf-Watz H. Increased plasmid copy number is essential for Yersinia T3SS function and virulence. Science. 2016;353(6298):492–5. https://doi.org/10.1126/science.aaf7501 19. Galán JE, Lara-Tejero M, Marlovits TC, Wagner S. Bacterial type III secretion systems: specialized
nanomachines for protein delivery into target cells. Annu Rev Microbiol. 2014;68:415–38. https://doi.org/10.1146/annurev-micro-092412-155725 20. Chan YC, Wu HP, Chuang DY. Extracellular secretion of Carocin S1 in Pectobacterium carotovorum
subsp. carotovorum occurs via the type III secretion system integral to the bacterial flagellum. BMC
Microbiol. 2009;9(1):18. https://doi.org/10.1186/1471-2180-9-181 21. Coburn B, Sekirov I, Finlay BB. Type III secretion systems and disease. Clin Microbiol Rev. 2007;20(4):535–49. https://doi.org/10.1128/CMR.00013-07 22. Renault TT, Guse A, Erhardt M. Export mechanisms and energy transduction in type III secretion
machines. Curr Top Microbiol Immunol. 2019;20:99–17. https://doi.org/10.1007/82_2019_166 23. Hueck CJ. Type III protein secretion systems in bacterial pathogens of animals and plants. Microbiol
Mol Biol Rev. 1998;62:379–433. https://doi.org/10.1111/j.1365-2958.2006.05301.x 24. Berg HC, Anderson RA. Bacteria swim by rotating their flagellar filaments. Nature. 1973;245:380–
382. https://doi.org/10.1038/245380a0 25. Kubori T, Matsushima Y, Nakamura D, Uralil J, Lara-Tejero M, Sukhan A, Galán JE, Aizawa SI. Supramolecular structure of the Salmonella typhimurium type III protein secretion system. Science. 1998;280(5363):602–5. https://doi.org/10.1126/science.280.5363.602 26. Blocker A, Komoriya K, Aizawa SI. Type III secretion systems and bacterial flagella: insights into their
function from structural similarities. Proc Natl Acad Sci USA. 2003;100(6):3027–30. https://doi.org/10.1073/pnas.0535335100 27. Cornelis GR. The type III secretion injectisome. Nat. Rev. Microbiol. 2006;4(11):811–25. https://doi.org/10.1038/nrmicro1526 27. Cornelis GR. The type III secretion injectisome. Nat. Rev. Microbiol. 2006;4(11):811–25. https://doi.org/10.1038/nrmicro1526 Page 17/28 Page 17/28 28. Galán JE, Wolf-Watz H. Protein delivery into eukaryotic cells by type III secretion machines. Nature. 2006;444(7119):567–73. https://doi.org/10.1038/nature05272 29. Diepold A. Assembly and post-assembly turnover and dynamics in the type III secretion system. In:
Wagner S., Galan J. (eds) Bacterial type III protein secretion systems. Curr Top Microbiol Immunol. 2019; 8:e1002983–32. https://doi.org/10.1007/82_2019_164 30. References Diepold A, Armitage JP. Type III secretion systems: the bacterial flagellum and the injectisome. Philos
Trans R Soc Lond B Biol Sci. 2015;370(1679):20150020. https://doi.org/10.1098/rstb.2015.0020 31. Macnab RM. Type III flagellar protein export and flagellar assembly. Biochim Biophys Acta Mol Cell
Res. 2004;1694(1–3):207–17. https://doi.org/10.1016/j.bbamcr.2004.04.005 32. Erhardt M, Namba K, Hughes KT. Bacterial nanomachines: the flagellum and type III injectisome. Cold
Spring Harb Perspect Biol. 2010;2(11):a000299. https://doi.org/10.1101/cshperspect.a000299 32. Erhardt M, Namba K, Hughes KT. Bacterial nanomachines: the flagellum and type III injectisome. Cold
Spring Harb Perspect Biol. 2010;2(11):a000299. https://doi.org/10.1101/cshperspect.a000299 33. Macnab RM. How bacteria assemble flagella. Annu Rev Microbiol. 2003;57(1):77–100. https://doi.org/10.1146/annurev.micro.57.030502.090832 33. Macnab RM. How bacteria assemble flagella. Annu Rev Microbiol. 2003;57(1):77–100. https://doi.org/10.1146/annurev.micro.57.030502.090832 34. Chevance FF, Hughes KT. Coordinating assembly of a bacterial macromolecular machine. Nat Rev
Microbiol. 2008;6(6):455–65. https://doi.org/10.1038/nrmicro1887 34. Chevance FF, Hughes KT. Coordinating assembly of a bacterial macromolecular machine. Nat Rev
Microbiol. 2008;6(6):455–65. https://doi.org/10.1038/nrmicro1887 35. Diepold A, Wagner S. Assembly of the bacterial type III secretion machinery. FEMS Microbiol Rev. 2014;38(4):802–22. https://doi.org/10.1111/1574-6976.12061 35. Diepold A, Wagner S. Assembly of the bacterial type III secretion machinery. FEMS Microbiol Rev. 2014;38(4):802–22. https://doi.org/10.1111/1574-6976.12061 36. Sun GW, Chen Y, Liu Y, Tan GY, Ong C, Tan P, Gan YH. Identification of a regulatory cascade
controlling Type III Secretion System 3 gene expression in Burkholderia pseudomallei. Mol Microbiol. 2010;76(3):677–89. https://doi.org/10.1111/j.1365-2958.2010.07124.x 37. Denise R, Abby SS, Rocha EP. The evolution of protein secretion systems by co-option and tinkering
of cellular machineries. Trends Microbiol. 2020;28(5):372–86. https://doi.org/10.1016/j.tim.2020.01.005 38. Gantotti BV, Kindle KL, Beer SV. Transfer of the drug-resistance transposon Tn5 to Erwinia herbicola
and the induction of insertion mutations. Curr Microbiol. 1981;6(6):377–81. https://doi.org/10.1007/BF01567015 39. Dale C, Young SA, Haydon DT, Welburn SC. The insect endosymbiont Sodalis glossinidius utilizes a
type III secretion system for cell invasion. Proc Natl Acad Sci USA. 2001;98(4):1883–8. https://doi.org/10.1073/pnas.98.4.1883 39. Dale C, Young SA, Haydon DT, Welburn SC. The insect endosymbiont Sodalis glossinidius utilizes a
type III secretion system for cell invasion. Proc Natl Acad Sci USA. 2001;98(4):1883–8. https://doi.org/10.1073/pnas.98.4.1883 40. Nierman WC, DeShazer D, Kim HS, Tettelin H, Nelson KE, Feldblyum T, Ulrich RL, Ronning CM, Brinkac
LM, Daugherty SC, Davidsen TD. Structural flexibility in the Burkholderia mallei genome. Proc Natl
Acad Sci USA. 2004;101(39):14246–51. https://doi.org/10.1073/pnas.0403306101 41. Chak KF, Safo MK, Ku WY, Hsieh SY, Yuan HS. The crystal structure of the immunity protein of colicin
E7 suggests a possible colicin-interacting surface. Proc Natl Acad Sci USA. 1996;93(13):6437–42. https://doi.org/10.1073/pnas.93.13.6437 42. References Notti RQ, Stebbins CE. The structure and function of type III secretion systems. Microbiol Spec. 2016:4(1):1–18. https://doi.org/10.1128/microbiolspec.VMBF-0004-2015 Page 18/28 43. Matsuda S, Okada R, Tandhavanant S, Hiyoshi H, Gotoh K, Iida T, Kodama T. Export of a Vibrio
parahaemolyticus toxin by the Sec and type III secretion machineries in tandem. Nat Microbiol. 2019;4(5):781–8. https://doi.org/10.1038/s41564-019-0368-y 44. Gophna U, Ron EZ, Graur D. Bacterial type III secretion systems are ancient and evolved by multiple
horizontal-transfer events. Gene. 2003;312:151–63. https://doi.org/10.1016/S0378-1119(03)00612-
7 44. Gophna U, Ron EZ, Graur D. Bacterial type III secretion systems are ancient and evolved by multiple
horizontal-transfer events. Gene. 2003;312:151–63. https://doi.org/10.1016/S0378-1119(03)00612-
7 45. Deng W, Marshall NC, Rowland JL, McCoy JM, Worrall LJ, Santos AS, Strynadka NC, Finlay BB. Assembly, structure, function and regulation of type III secretion systems. Nat Rev Microbiol. 2017;15(6):323–37. https://doi.org/10.1038/nrmicro.2017.20 46. Scheibner F, Hartmann N, Hausner J, Lorenz C, Hoffmeister AK, Büttner D. The type III secretion
chaperone HpaB controls the translocation of effector and noneffector proteins from Xanthomonas
campestris pv. vesicatoria. Mol Plant Microbe Interact. 2018;31(1):61–74. https://doi.org/10.1128/MMBR.05017-11 47. Buttner, D. Protein export according to schedule: Architecture, assembly, and regulation of type III
secretion systems from plant- and animal-pathogenic bacteria. Microbiol Mol Biol Rev. 2012;76(2):262–310. https://doi.org/10.1094/MPMI-06-17-0138-R 48. Diepold A, Kudryashev M, Delalez NJ, Berry RM, Armitage JP. Composition, formation, and regulation
of the cytosolic c-ring, a dynamic component of the type III secretion injectisome. PLoS Biol. 2015;13(1):e1002039. https://doi.org/10.1371/journal.pbio.1002039 49. Hu, B., Morado, D. R., Margolin,W., Rohde, J. R., Arizmendi, O., Picking, W. L., Picking, W. D., and Liu, J. Visualization of the type III secretion sorting platform of Shigella flexneri. Proc Natl Acad Sci USA. 2015;112:1047–1052. https://doi.org/10.1073/pnas.1411610112 50. Hu B, Lara-Tejero M, Kong Q, Galán JE, Liu J. In situ molecular architecture of the Salmonella type III
secretion machine. Cell. 2017;168(6):1065–74. https://doi.org/10.1016/j.cell.2017.02.022 51. Wattiau P, Bernier B, Deslee P, Michiels T, Cornelis GR. Individual chaperones required for Yop
secretion by Yersinia. Proc Natl Acad Sci USA. 1994;91(22):10493–7. https://doi.org/10.1073/pnas.91.22.10493 52. Iriarte M, Cornelis GR. YopT, a new Yersinia Yop effector protein, affects the cytoskeleton of host
cells. Mol Microbiol. 1998;29(3):915–29. https://doi.org/10.1046/j.1365-2958.1998.00992.x 52. Iriarte M, Cornelis GR. YopT, a new Yersinia Yop effector protein, affects the cytoskeleton of host
cells. Mol Microbiol. 1998;29(3):915–29. https://doi.org/10.1046/j.1365-2958.1998.00992.x 53. Lloyd SA, Forsberg Å, Wolf-Watz H, Francis MS. Targeting exported substrates to the Yersinia TTSS:
different functions for different signals? Trends Microbiol. 2001;9(8):367–71. https://doi.org/10.1016/S0966-842X(01)02100-X 53. Lloyd SA, Forsberg Å, Wolf-Watz H, Francis MS. https://doi.org/10.1046/j.1365-2958.2000.01974.x https://doi.org/10.1046/j.1365-2958.2000.01974.x 56. Wattiau P, Cornells GR. SycE, a chaperone-like protein of Yersinia enterocolitica involved in the
secretion of YopE. Mol Microbiol. 1993;8(1):123–31. https://doi.org/10.1111/j.1365-
2958.1993.tb01209.x 57. Cheng LW, Anderson DM, Schneewind O. Two independent type III secretion mechanisms for YopE in
Yersinia enterocolitica. Mol Microbiol. 1997;24(4):757–65. https://doi.org/10.1046/j.1365-
2958.1997.3831750.x 58. Frithz-Lindsten E, Rosqvist R, Forsberg A. YerA mediates the secretion of the YopE cytotoxin of
Yersinia pseudotuberculosis. Contrib Microbiol Immunol. 1995;13:225–9. PMID: 8833840 59. Khater L, Santos TM, Alegria MC, Docena C, da Silva AC, Ramos CH. In silico identification of
potential chaperone genes that belong to type III and type IV secretion systems in Xanthomonas
axonopodis pv citri. Genet Mol Biol. 2005;28(2):321–7. https://doi.org/10.1590/S1415-
47572005000200024 60. Bennett JC, Hughes C. From flagellum assembly to virulence: the extended family of type III export
chaperones. Trends Microbiol. 2000;8(5):202–4. https://doi.org/10.1016/S0966-842X(00)01751-0 61. Fraser GM, Bennett JC, Hughes C. Substrate-specific binding of hook‐associated proteins by FlgN
and FliT, putative chaperones for flagellum assembly. Mol Microbiol. 1999;32(3):569–80. https://doi.org/10.1046/j.1365-2958.1999.01372.x 61. Fraser GM, Bennett JC, Hughes C. Substrate-specific binding of hook‐associated proteins by FlgN
and FliT, putative chaperones for flagellum assembly. Mol Microbiol. 1999;32(3):569–80. https://doi.org/10.1046/j.1365-2958.1999.01372.x 62. Auvray F, Thomas J, Fraser GM, Hughes C. Flagellin polymerisation control by a cytosolic export
chaperone. J Mol Biol. 2001;308(2):221–9. https://doi.org/10.1006/jmbi.2001.4597 62. Auvray F, Thomas J, Fraser GM, Hughes C. Flagellin polymerisation control by a cytosolic export
chaperone. J Mol Biol. 2001;308(2):221–9. https://doi.org/10.1006/jmbi.2001.4597 63. Muskotál A, Király R, Sebestyén A, Gugolya Z, Végh BM, Vonderviszt F. Interaction of FliS flagellar
chaperone with flagellin. FEBS letters. 2006;580(16):3916–20. https://doi.org/10.1016/j.febslet.2006.06.024 64. Ozin AJ, Claret L, Auvray F, Hughes C. The FliS chaperone selectively binds the disordered flagellin C-
terminal D0 domain central to polymerisation. FEMS Microbiol Lett. 2003;219(2):219–24. https://doi.org/10.1016/S0378-1097(02)01208-9 64. Ozin AJ, Claret L, Auvray F, Hughes C. The FliS chaperone selectively binds the disordered flagellin C-
terminal D0 domain central to polymerisation. FEMS Microbiol Lett. 2003;219(2):219–24. https://doi.org/10.1016/S0378-1097(02)01208-9 65. Francis, M.S. Type III secretion chaperones: a molecular toolkit for all occasions. In Handbook of
Molecular Chaperones: Roles, Structures and Mechanisms. P. Durante, and C. L (eds). Hauppauge,
NY, USA: Nova Science Publishers. 2010; p. 79–147. 65. Francis, M.S. Type III secretion chaperones: a molecular toolkit for all occasions. In Handbook of
Molecular Chaperones: Roles, Structures and Mechanisms. P. Durante, and C. L (eds). Hauppauge,
NY, USA: Nova Science Publishers. 2010; p. 79–147. 66. Bennett JC, Thomas J, Fraser GM, Hughes C. References Targeting exported substrates to the Yersinia TTSS:
different functions for different signals? Trends Microbiol. 2001;9(8):367–71. https://doi.org/10.1016/S0966-842X(01)02100-X 54. Sory MP, Boland A, Lambermont I, Cornelis GR. Identification of the YopE and YopH domains required
for secretion and internalization into the cytosol of macrophages, using the cyaA gene fusion
approach. Proc Natl Acad Sci USA. 1995;92(26):11998–2002. https://doi.org/10.1073/pnas.92.26.11998 54. Sory MP, Boland A, Lambermont I, Cornelis GR. Identification of the YopE and YopH domains required
for secretion and internalization into the cytosol of macrophages, using the cyaA gene fusion
approach. Proc Natl Acad Sci USA. 1995;92(26):11998–2002. https://doi.org/10.1073/pnas.92.26.11998 55. Cambronne ED, Cheng LW, Schneewind O. LcrQ/YscM1, regulators of the Yersinia yop virulon, are
injected into host cells by a chaperone-dependent mechanism. Mol Microbiol. 2000;37(2):263–73. 55. Cambronne ED, Cheng LW, Schneewind O. LcrQ/YscM1, regulators of the Yersinia yop virulon, are
injected into host cells by a chaperone-dependent mechanism. Mol Microbiol. 2000;37(2):263–73. Page 19/28 Page 19/28 https://doi.org/10.1046/j.1365-2958.2000.01974.x Substrate complexes and domain organization of the
Salmonella flagellar export chaperones FlgN and FliT. Mol Microbiol. 2001;39(3):781–91. https://doi.org/10.1046/j.1365-2958.2001.02268.x 66. Bennett JC, Thomas J, Fraser GM, Hughes C. Substrate complexes and domain organization of the
Salmonella flagellar export chaperones FlgN and FliT. Mol Microbiol. 2001;39(3):781–91. https://doi.org/10.1046/j.1365-2958.2001.02268.x 67. Parsot C, Hamiaux C, Page AL. The various and varying roles of specific chaperones in type III
secretion systems. Curr Opin Microbiol. 2003;6(1):7–14. https://doi.org/10.1016/S1369-
5274(02)00002-4 68. Bolivar F, Rodriguez RL, Greene PJ, Betlach MC, Heynker HL, Boyer HW, Crosa JH, Falkow S. Construction and characterization of new cloning vehicles II: a multipurpose cloning system. 1977. Biotechnology (Reading, Mass.). 1992;24:153 – 71. PMID: 1422009 Page 20/28 Page 20/28 69. Sambrook J, Fritsch EF, Maniatis T. Molecular cloning: a laboratory manual. Cold Spring Harbor: Cold
spring harbor laboratory press; 1989. 70. Liu YG, Whittier RF. Thermal asymmetric interlaced PCR: automatable amplification and sequencing
of insert end fragments from P1 and YAC clones for chromosome walking. Genomics. 1995;25(3):674–81. https://doi.org/10.1016/0888-7543(95)80010-J 71. Hinton JC, Perombelon MC, Salmond GP. Efficient transformation of Erwinia carotovora subsp. carotovora and E. carotovora subsp. atroseptica. J Bacteriol. 1985;161(2):786-8. 72. Hanahan D. Studies on transformation of Escherichia coli with plasmids. J Mol Biol. 1983;166(4):557–80. https://doi.org/10.1016/S0022-2836(83)80284-8. 73. Kyte J, Doolittle RF. A simple method for displaying the hydropathic character of a protein. J Mol
Biol. 1982;157(1):105–32. https://doi.org/10.1016/0022-2836(82)90515-0 74. Reusch RN, Hiske TW, Sadoff HL. Poly-beta-hydroxybutyrate membrane structure and its relationship
to genetic transformability in Escherichia coli. J Bacteriol. 1986;168(2):553–62. https://doi.org/10.1128/jb.168.2.553-562.1986 74. Reusch RN, Hiske TW, Sadoff HL. Poly-beta-hydroxybutyrate membrane structure and its relationsh
to genetic transformability in Escherichia coli. J Bacteriol. 1986;168(2):553–62. https://doi.org/10.1128/jb.168.2.553-562.1986 75. Chang AC, Cohen SN. Construction and characterization of amplifiable multicopy DNA cloning
vehicles derived from the P15A cryptic miniplasmid. J Bacteriol. 1978;134(3):1141–56. 75. Chang AC, Cohen SN. Construction and characterization of amplifiable multicopy DNA cloning
vehicles derived from the P15A cryptic miniplasmid. J Bacteriol. 1978;134(3):1141–56. Figures Page 21/28 Figure 1
Bacteriocin activity of P. carotovorum subsp. carotovorum. The bacteriocin production of the test strains
was examined by the double-layer method (68). Numbered strains: 1, Escherichia coli pJB4JI (containing
Tn5)/1830; 2, H-rif-8-6 (wild type, parent); 3, TH22-6 (the transposon Tn5 insertional mutant). The
indicator organism used in the agar overlay was Pcc strain Ea1068. The result showed that TH22-6 strain
loses the low-molecular-weight bacteriocin activity to Ea1068, but the high-molecular-weight bacteriocin
kept its activity as manifested in the bacteriocin activity test. Figure 1 Bacteriocin activity of P. carotovorum subsp. carotovorum. The bacteriocin production of the test strains
was examined by the double-layer method (68). Numbered strains: 1, Escherichia coli pJB4JI (containing
Tn5)/1830; 2, H-rif-8-6 (wild type, parent); 3, TH22-6 (the transposon Tn5 insertional mutant). The
indicator organism used in the agar overlay was Pcc strain Ea1068. The result showed that TH22-6 strain
loses the low-molecular-weight bacteriocin activity to Ea1068, but the high-molecular-weight bacteriocin
kept its activity as manifested in the bacteriocin activity test. Bacteriocin activity of P. carotovorum subsp. carotovorum. The bacteriocin production of the test strains
was examined by the double-layer method (68). Numbered strains: 1, Escherichia coli pJB4JI (containing
Tn5)/1830; 2, H-rif-8-6 (wild type, parent); 3, TH22-6 (the transposon Tn5 insertional mutant). The
indicator organism used in the agar overlay was Pcc strain Ea1068. The result showed that TH22-6 strain
loses the low-molecular-weight bacteriocin activity to Ea1068, but the high-molecular-weight bacteriocin
kept its activity as manifested in the bacteriocin activity test. Page 22/28 Page 22/28 Figure 2 Nucleotide sequence of the sctT gene with the deduced amino-acid sequence. The sctT contains 3031
base pairs. Page 23/28 Page 23/28 Figure 3
Alignment of the predicted amino acid sequence of the Pcc sctT gene product with the amino acid
sequences of YsaT protein in Sodalis and Yersinia. Dashes are inserted to optimize the alignment. Figure 3 Figure 3 Alignment of the predicted amino acid sequence of the Pcc sctT gene product with the amino acid
sequences of YsaT protein in Sodalis and Yersinia. Dashes are inserted to optimize the alignment. Alignment of the predicted amino acid sequence of the Pcc sctT gene product with the amino acid
sequences of YsaT protein in Sodalis and Yersinia. Dashes are inserted to optimize the alignment. Page 24/28 Figure 4 Figure 4
(A) Bacteriocin Assay for complementation of sctT and flhA: 1, H-rif-8-6 (wild type); 2, TH22-6 (sctT-KO); 3,
flhA-KO; 4, sctT/sctT-KO; 5, flhA/flhA-KO. (B) Transcription analysis of the sctT, flhA, caroS1K and
caroS3K. (B) Bacteriocin activity assay for the deletion of T3SS-related genes. Figure 4 (A) Bacteriocin Assay for complementation of sctT and flhA: 1, H-rif-8-6 (wild type); 2, TH22-6 (sctT-KO); 3,
flhA-KO; 4, sctT/sctT-KO; 5, flhA/flhA-KO. (B) Transcription analysis of the sctT, flhA, caroS1K and
caroS3K. (B) Bacteriocin activity assay for the deletion of T3SS-related genes. Page 25/28 Page 25/28 Figure 5 Figure 5
(A) Bacteriocin assay and deletion of various Type-IIIa and Type-IIIb SS related genes. 1, Serrtia (Marker);
2, H-rif-8-6 (wild type); 3, flhB-KO; 4, flgH-KO; 5, flgF-KO; 6, fliR-KO; 7, fliE-KO; 8, flgG-KO; 9, fliG-KO; 10, sctD-
KO; 11, sctQ-KO; 12, sctV-KO; and 13, sctU-KO. (B) Transcription analysis of 1, flhB; 2, flgH; 3, flgF; 4, fliR; 5,
fliE; 6, flgG; 7, fliG; 8, sctD; 9, sctQ; 10, sctV; and 11, sctU. Figure 6 The hypothesized flagellar T3bSS with the injectisome T3SS subunits as chaperones. Figure 5 (A) Bacteriocin assay and deletion of various Type-IIIa and Type-IIIb SS related genes. 1, Serrtia (Marker);
2, H-rif-8-6 (wild type); 3, flhB-KO; 4, flgH-KO; 5, flgF-KO; 6, fliR-KO; 7, fliE-KO; 8, flgG-KO; 9, fliG-KO; 10, sctD-
KO; 11, sctQ-KO; 12, sctV-KO; and 13, sctU-KO. (B) Transcription analysis of 1, flhB; 2, flgH; 3, flgF; 4, fliR; 5,
fliE; 6, flgG; 7, fliG; 8, sctD; 9, sctQ; 10, sctV; and 11, sctU. Page 26/28 Page 26/28 Figure 6
Th h
th
i
d fl
ll
T3bSS
ith th i j
ti
T3SS
b
it
h Supplementary Files This is a list of supplementary files associated with this preprint. Click to download. Page 27/28 SupplementaryFigure1.docx
SupplementaryFigure2.docx
SupplementaryFigure3.docx
SupplementaryFigure4.docx Page 27/28 SupplementaryFigure1.docx
SupplementaryFigure2.docx
SupplementaryFigure3.docx
SupplementaryFigure4.docx Page 28/28
|
W2258546719.txt
|
https://systematicreviewsjournal.biomedcentral.com/counter/pdf/10.1186/s13643-016-0202-z
|
en
|
Measurement properties of quality of life measurement instruments for infants, children and adolescents with eczema: protocol for a systematic review
|
Systematic reviews
| 2,016
|
cc-by
| 6,417
|
Heinl et al. Systematic Reviews (2016) 5:25
DOI 10.1186/s13643-016-0202-z
PROTOCOL
Open Access
Measurement properties of quality of life
measurement instruments for infants,
children and adolescents with eczema:
protocol for a systematic review
Daniel Heinl1, Cecilia A. C. Prinsen2, Aaron M. Drucker3, Robert Ofenloch4, Rosemary Humphreys5, Tracey Sach6,
Carsten Flohr7 and Christian Apfelbacher1,8*
Abstract
Background: Eczema is a common chronic or chronically relapsing, inflammatory skin disease that exerts a
substantial negative impact on quality of life (QoL). The Harmonising Outcome Measures for Eczema (HOME)
initiative has used a consensus-based process which identified QoL as one of the four core outcome domains to be
assessed in all eczema clinical trials. A number of measurement instruments exist to measure QoL in infants, children,
and adolescents with eczema, and there is a great variability in both content and quality of the instruments used.
Therefore, the objective of the proposed research is to comprehensively and systematically assess the measurement
properties of the existing measurement instruments that were developed and/or validated for the measurement of
patient-reported QoL in infants, children, and adolescents with eczema.
Methods/design: This study is a systematic review of the measurement properties of patient-reported measures of
QoL developed and/or validated for infants, children, and adolescents with eczema. A systematic literature search will
be carried out in MEDLINE via PubMed and EMBASE using a selection of relevant search terms. Eligible studies will be
primary empirical studies evaluating, describing, or comparing measurement properties of QoL instruments for infants,
children, and adolescents with eczema. Two reviewers will independently perform eligibility assessment and data
abstraction. Evidence tables will be used to record study characteristics, instrument characteristics, measurement
properties, and interpretability. The adequacy of the measurement properties will be assessed using predefined criteria.
The COnsensus-based Standards for the selection of health Measurement INstruments (COSMIN) checklist will be used
to evaluate the methodological quality of included studies. A best evidence synthesis will be undertaken if more than
one study has examined a particular measurement property.
Discussion: The proposed systematic review will yield a comprehensive assessment of measurement properties of
existing QoL instruments in infants, children, and adolescents with eczema. The results will serve as a basis to
recommend a QoL measurement instrument for infants, one for children, and one for adolescents for use in future
clinical trials.
Systematic review registration: PROSPERO CRD42015023483
Keywords: Eczema, Atopic dermatitis, Measurement instruments, Health-related quality of life, Quality of life, Validity,
Reliability, Responsiveness, Interpretability
* Correspondence: christian.apfelbacher@klinik.uni-regensburg.de
1
Medical Sociology, Department of Epidemiology and Preventive Medicine,
University of Regensburg, Regensburg, Germany
8
Division of Public Health and Primary Care, Brighton and Sussex Medical
School, Falmer, UK
Full list of author information is available at the end of the article
© 2016 Heinl et al. Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated.
Heinl et al. Systematic Reviews (2016) 5:25
Background
Eczema (synonymous with atopic eczema, atopic dermatitis) represents the most common chronic disease in children in many countries [1]. Its main symptom is persistent
pruritus [2]. The disease has a negative impact on the quality of life (QoL) of the patients and their families [3, 4].
Despite the fact that various interventions exist for eczema,
uncertainties concerning the best treatment options remain. A major reason for this situation is the inconsistent
use of varying eczema outcome measures in randomized
controlled trials, making the comparison of interventions
across these trials in systematic reviews and meta-analyses
difficult. Thus, outcome measures in clinical trials of
(pediatric) eczema patients need to be improved [5].
An internationally acknowledged way to ameliorate
this unsatisfying situation is the development of a core
outcome set (COS) [6]. The Harmonising Outcome
Measures for Eczema (HOME) initiative [7] aims to develop a COS for eczema. Clinical signs measured by
means of a physician-assessed instrument, symptoms,
long-term control of eczema flares, and QoL were
agreed on as the core outcome domains to be assessed
in all future eczema trials [8, 9]. There was broad international consensus among clinicians, patients, and
methodologists that the Outcome Measures in Rheumatology (OMERACT) quality criteria “truth, discrimination, and feasibility” [10] need to be met for eczema
outcome measures to be recommended by the HOME
initiative [9]. The next crucial step in the process of
standardizing eczema outcome measurements is now
the identification of appropriate instruments to measure
each of the four core outcome domains of atopic eczema
[11]. For adult QoL measurement instruments, this has
already been undertaken, using methods similar to this
proposed review [12]. The results have been published
[13]. As the methodology of this systematic review will
be in large parts identical to the one applied in the review on adult QoL instruments, content and wording of
this protocol are very similar to the published protocol
of the review on adult QoL instruments [12]. This pertains
specifically to the methods section. To ensure transparency, differences in the methodology of both reviews are
highlighted in the “Differences between this review and
previously suggested methodology” section.
Objectives
1. To systematically assess the measurement properties
of patient- or parent-reported measurement instruments of QoL for infants, children, and adolescents
with eczema
2. To identify outcome measurement instruments for
QoL in infants, children, and adolescents with
eczema
Page 2 of 10
a. That meet the predefined criteria to be
recommended [10, 9] for the measurement of
QoL in future eczema trials
b. That have the potential to be recommended in
the future depending on the results of further
validation studies
c. That do not meet the predefined criteria to be
recommended [10, 9] and therefore should not be
used any more
3. To provide the evidence base for an international
consensus process
a. To further standardize the assessment of QoL in
infants, children, and adolescents with eczema in
clinical trials
b. To prioritize further research concerning QoL
assessment in infants, children, and adolescents
with eczema
Methods/design
Protocol and registration
The methods for this systematic review have been developed according to the recommendations from the Preferred Reporting Items for Systematic Reviews and
Meta-Analyses Protocols (PRISMA-P) statement [14],
and a populated PRISMA-P checklist is available as an
Additional file 1 to this protocol. This protocol has been
registered in the International Prospective Register of
Systematic Reviews (PROSPERO): CRD42015023483.
Literature search
A systematic literature search will be performed in
PubMed and EMBASE. The search strategy will contain
blocks of search terms related to the following aspects:
1. Construct of interest: quality of life
2. Target population: (atopic) eczema (Table 1)
3. Measurement properties: the precise PubMed search
filter for finding studies on measurement properties
developed by Terwee et al. will be used to identify
relevant articles [15]. This filter has a sensitivity of
93.1 % and a precision of 9.4 %
4. Interpretability
The search will not be restricted with respect to the
publication time of retrieved studies. The entire search
strategy is available as an Additional file 2 to this protocol.
The systematic electronic search will be supplemented by
hand searching of reference lists of studies included and
key articles on this topic. Furthermore, an additional
search will be performed in each database, including the
names of the instruments which are found in the initial
search. The PROQOLID (www.proqolid.org) database, an
online database of QoL instruments, will be searched. The
initial search in PubMed and EMBASE will be carried out
Heinl et al. Systematic Reviews (2016) 5:25
Page 3 of 10
Table 1 Inclusion and exclusion criteria
Inclusion criteria
Exclusion criteria
Population
Eczema (synonyms: atopic eczema, atopic dermatitis,
neurodermatitis); populations younger than 16 years of age
Populations with other skin diseases than eczema, populations of
adults with eczema, carers of infants/children with eczema
Study design
Development study, validation study
Linguistic validation studies
Outcome
Quality of life, health-related quality of life
Signs, disease severity measure, disease control measure,
biomarker, physiology of the skin
Type of
measurement
instrument
Self- or proxy-reported measurement instrument
All others
Publication type
Articles with available full text
Abstracts
on a single day that will be reported in the final review,
whereas the hand searching process will be performed
during the eligibility assessment of articles, which may
take several weeks. The additional search of each database
will be done, after the eligibility assessment has been completed, on a single day.
Eligible studies
A study will be included if it is published as a full-text
paper and concerns the development (“development
paper”) and/or evaluation of the measurement properties
(“validation paper”) of instruments that measure QoL or
health-related quality of life (HrQoL) in infants, children,
and adolescents with eczema. Measurement instruments
that assess both the QoL of children and caregivers will be
included if separate scores for the QoL of the child and
for the QoL of the caregiver can be calculated. Generic
QoL measurement instruments for infants, children, and
adolescents and measurement instruments assessing solely
the QoL of caregivers will not be considered eligible. The
HOME initiative decided in 2011 that generic QoL measurement instruments are not eligible for the COS [16].
QoL measurement instruments for caregivers will be investigated in a separate review. To be eligible, at least
50 % of a study’s population must consist of eczema patients younger than 16 years of age. A study with a mixed
patient sample will be eligible either if it presents a subgroup analysis for infants, children, and adolescents with
eczema or if infants, children, and adolescents with
eczema constitute at least 50 % of the study population.
The measurement instrument must be a self- or proxyreported questionnaire. Articles that report indirect
evidence, for instance, by using data obtained within
the context of a clinical trial, will not be considered
eligible. Articles assessing the measurement properties
of dermatology-specific instruments in non-eczema
samples will not be considered eligible.
Study selection
Two reviewers will independently judge titles and abstracts retrieved in the literature search and, at a second stage, full-text articles for eligibility (Table 1).
Disagreements will be resolved by consensus-seeking
discussions within the research team.
Data extraction
Relevant data from all included articles will be summarized in evidence tables. The evidence tables drafted for
the adults’ review [12] will be slightly adapted. Data from
each article included will be extracted independently
by two reviewers. Reviewers will work in pairs on
defined sets of articles. Disagreements will be resolved
by consensus-seeking discussions within the research
team.
Evidence tables will include the following: reference,
geographical location, language, setting, study type, key
characteristics of study subjects, name of measurement
instruments, domains measured, number of items and
(sub)scales, number and type of response categories, recall period in the questions, scoring algorithm, time
needed for administration, mode of administration, target population for whom the questionnaire was originally developed, how a full copy of the questionnaire can
be obtained, the instructions given to those who
complete the questionnaire, the available versions and
translations of the questionnaire, results of the measurement properties, all items from the COnsensus-based
Standards for the selection of health Measurement INstruments (COSMIN) box Generalisability, and all items
from the COSMIN box Interpretability [17, 18].
If general characteristics of an instrument (that is,
name of measurement instrument, number of items and
(sub)scales, number and type of response categories,
recall period in the questions, scoring algorithm, time
needed for administration, mode of administration,
target population for whom the questionnaire was
originally developed, how a full copy of the questionnaire can be obtained, the instructions given to those
who complete the questionnaire, the available versions
and translations of the questionnaire) cannot be
extracted from the studies included, the original
development paper may be consulted to obtain missing information.
Heinl et al. Systematic Reviews (2016) 5:25
Content comparison
An overview of the content of each instrument on content domain level will be presented in order to visualize
the content covered by the different instruments. The
original development paper will be consulted to obtain
this information.
Assessment of the methodological quality of included
studies
The COSMIN checklist [17–19] will be used to evaluate
the methodological quality of included studies. In the
COSMIN checklist (www.cosmin.nl), four domains are
distinguished (reliability, validity, responsiveness, and interpretability) with related measurement properties and
aspects of measurement properties. These are listed in
Table 2 (adapted from Mokkink LB et al. [18]).
For each measurement property, the COSMIN checklist
consists of 5 to 18 items covering methodological standards (organized in nine boxes for the nine measurement
properties). In addition, each item can be scored on a 4point rating scale (that is, “poor,” “fair,” “good,” “excellent”).
Taking the lowest rating for each item in one box, an overall quality score (“poor,” “fair,” “good,” “excellent”) is
obtained for each measurement property separately [20].
Assessment of measurement properties and further
characteristics of QoL instruments
We will assess all measurement properties from the
COSMIN checklist in this review, with the exception of
the measurement property “criterion validity,” which will
not be considered for the purpose of this systematic review, since there is no gold standard for QoL. Data on
interpretability and feasibility will be collected where
presented. With the exception of content comparison
and instrument characteristics, we will regard different
language versions of the same questionnaire separately
throughout the review. Our principal reason for doing
so is the fact that it is problematic to assume that different language versions of measurement instruments exhibit the same measurement properties. Strictly
speaking, it is the measurements themselves that are
valid, reliable, and responsive and not the instruments
per se.
Assessment of the adequacy of the measurement
instruments
The predefined criteria for rating the adequacy of the
measurement instruments recommended by the COSMIN group will be used in a slightly modified version
[21] (Table 3). These criteria are in accordance with the
OMERACT filter [10], which has been adopted by the
HOME initiative [9] and applied in a previous review on
atopic eczema outcome measures [22]. The measurement property “hypothesis testing” will be split into the
Page 4 of 10
aspects convergent/divergent (defined as the correlation
between instruments measuring similar/different constructs [23]) and discriminative validity (defined as the
ability of a measurement instrument to distinguish between different subgroups of patients [23]) for this review. An overall rating for hypothesis testing will be
obtained from both aspects in the end (see “Generating
recommendations for the use of QoL measurement instruments for eczema” section). Where studies apply
item response theory (IRT) methods in the evaluation of
measurement properties, rather than in the development
of measurement instruments, we will be able to assess
the adequacy and methodological quality of internal
consistency, construct validity, structural validity, and
cross-cultural validity.
Best evidence synthesis
If an instrument has been evaluated in multiple studies, findings will be synthesized if the characteristics
of the included studies are sufficiently similar, if the
results of the studies do not show significantly different or conflicting findings, and if the methodological
quality of the included studies is sufficient [24]. The
criteria for best evidence synthesis are outlined in
Table 4.
Generating recommendations for the use of QoL
measurement instruments for eczema
For each instrument identified in the review, a standardized recommendation for usage or required future validation work will be made depending on the
methodological quality of included studies and on the
adequacy of the instrument (Table 5). According to the
results of the HOME II meeting [9], all three criteria of
the OMERACT filter [10], that is, truth, discrimination,
and feasibility, have to be met by an outcome measure
to be recommended by the HOME initiative. Although
convergent/divergent and discriminative validity will be
regarded separately throughout the review, the findings
for these two aspects of hypothesis testing will be synthesized according to the following criteria: in case of
conflicting ratings, the worse rating determines the overall rating for hypothesis testing; if one of the aspects obtains an indeterminate rating, the rating for the other
aspect determines the overall rating for hypothesis
testing.
Four categories of recommendation will be made:
A. QoL measurement instrument meets all
requirements and is recommended for use.
B. QoL measure meets two or more adequacy items,
but performance in all other required adequacy
items is unclear, so that the outcome measure has
the potential to be recommended in the future
Domain
Measurement property
Aspect of a measurement
property
Definition
Reliability
The degree to which the measurement is free from measurement error.
Reliability (extended definition)
The extent to which scores for patients who have not changed is the same for repeated measurement
under several conditions: for example, using different sets of items from the same HR-PROs (internal
consistency), over time (test-retest) by different persons on the same occasion (inter-rater) or by the
same persons (i.e., raters or responders)
on different occasions (intra-rater).
Internal consistency
The degree of interrelatedness among the items.
Reliability
The proportion of total variance in the measurements which is because of “true”a differences
among patients.
Measurement error
The systematic and random error of a patient’s score that is not attributed to true change of the
construct to be measured.
Validity
The degree to which an HR-PRO instrument measures the construct(s) it purports to measure.
Content validity
The degree to which the content of an HR-PRO instrument is an adequate reflection of the construct
to be measured.
Face validity
Construct validity
Responsiveness
The degree to which (the items of) an HR-PRO instrument indeed looks as though they are an adequate
reflection of the construct to be measured.
The degree to which the scores of an HR-PRO instrument are consistent with hypotheses (for instance
with regard to internal relationships, relationships to scores of other instruments, or differences between
relevant groups) based on the assumption that the HR-PRO instrument validly measures the construct
to be measured.
Structural validity
The degree to which the scores of an HR-PRO instrument are an adequate reflection of the dimensionality
of the construct to be measured.
Hypothesis testing
Idem construct validity.
Cross-cultural validity
The degree to which the performance of the items on a translated or culturally adapted HR-PRO instrument
are an adequate reflection of the performance of the items of the original version of the HR-PRO instrument.
The ability of an HR-PRO instrument to detect change over time in the construct to be measured.
Responsiveness
Interpretabilityb
Heinl et al. Systematic Reviews (2016) 5:25
Table 2 Definitions of domains, measurement properties, and aspects of measurement properties
Idem responsiveness.
The degree to which one can assign qualitative meaning—that is, clinical or commonly understood
connotations—to an instrument’s quantitative scores or changes in scores.
Page 5 of 10
HR-PROs health-related patient-reported outcomes, CTT classical test theory
a
The word “true” must be seen in the context of the CTT, which states that any observation is composed of two components—a true score and error associated with the observation. “True” is the average score that
would be obtained if the scale were given an infinite number of times. It refers only to the consistency of the score and not to its accuracy [26]
b
Interpretability is not considered a measurement property but an important characteristic of a measurement instrument
Heinl et al. Systematic Reviews (2016) 5:25
Page 6 of 10
Table 3 Adequacy criteria for measurement properties adapted from [21] and [27]
Property
Rating
Adequacy criteria
+
Cronbach’s alpha(s) ≥0.70
?
Cronbach’s alpha not determined
−
Cronbach’s alpha(s) <0.70
+
Person Separation Index ≥0.70
?
Person Separation Index not determined
−
Person Separation Index <0.70
+
MIC > SDC OR MIC outside the LoA
?
MIC not defined
−
MIC ≤ SDC OR MIC equals or inside LoA
+
ICC/weighted Kappa ≥0.70, OR Pearson’s r ≥ 0.80
?
Neither ICC/weighted Kappa, nor Pearson’s r determined
−
ICC/weighted Kappa <0.70 OR Pearson’s r < 0.80
+
All items are considered to be relevant for the construct to be measured, for the
target population, and for the purpose of the measurement AND the questionnaire
is considered to be comprehensive
?
Not enough information available
−
Not all items are considered to be relevant for the construct to be measured, for the
target population, and for the purpose of the measurement OR the questionnaire is
considered not to be comprehensive
+
Factors should explain at least 50 % of the variance
?
Explained variance not mentioned
−
Factors explain <50 % of the variance
+
Residual correlations among the items after controlling for the dominant factor
<0.20 OR Q3’s <0.37, item scalability >0.30, IRT model fit: G2 >0.01, no DIF for
important subject characteristics (such as age, gender, education): McFadden’s
R2 <0.02, OR no non-uniform DIF
?
Important statistics not reported
−
Residual correlations among the items after controlling for the dominant factor
≥0.20 OR Q3’s ≥0.37, item scalability ≤0.30, IRT model fit: G2 ≤0.01, important DIF
for important subject characteristics (such as age, gender, education): McFadden’s
R2 ≥0.02, OR non-uniform DIF
+
Correlations with instruments measuring the same construct ≥0.50 OR at least 75 %
of the results are in accordance with the hypotheses AND correlation with related
constructs is higher than with unrelated constructs
?
Solely correlations determined with unrelated constructs
−
Correlations with instruments measuring the same construct <0.50 OR <75 % of the
results are in accordance with the hypotheses OR correlation with related constructs
is lower than with unrelated constructs
+
Differences in scores on the measurement instrument for all evaluated patient
subgroups are statistically significant OR ≥75 % of results in accordance with
hypotheses
?
Some differences statistically significant, others not
−
Differences in scores on the measurement instrument for all evaluated patient
subgroups are not statistically significant OR <75 % of results in accordance
with hypotheses
+
No differences in factor structure OR no important DIF between language versions
?
Multiple group factor analysis not applied AND DIF not assessed
Reliability
Internal consistency (CTT methods applied)
Internal consistency (IRT methods applied)
Measurement error
Reliability
Validity
Content validity
Construct validity
Structural validity (CTT methods applied)
Structural validity (IRT methods applied)
Hypothesis testing (convergent/divergent validity)
Hypothesis testing (discriminative validity)
Cross-cultural validity
Heinl et al. Systematic Reviews (2016) 5:25
Page 7 of 10
Table 3 Adequacy criteria for measurement properties adapted from [21] and [27] (Continued)
−
Differences in factor structure OR important DIF between language versions
+
Correlation with changes on instruments measuring the same construct ≥0.50
OR at least 75 % of the results are in accordance with the hypotheses OR AUC
≥0.70 AND correlations with changes in related constructs are higher than with
unrelated constructs
?
Solely correlations determined with unrelated constructs
−
Correlations with changes on instruments measuring the same construct <0.50
OR <75 % of the results are in accordance with the hypotheses OR AUC <0.70
OR correlations with changes in related constructs are lower than with unrelated
constructs
Responsiveness
Responsiveness
MIC minimal important change, SDC smallest detectable change, LoA limits of agreement, ICC intraclass correlation coefficient, AUC area under the curve, +
positive rating, ? indeterminate rating, − negative rating
depending on the results of further validation
studies.
C. QoL measure has low adequacy in at least one
required adequacy criterion (≥1 rating of “minus”)
and therefore is not recommended to be used
anymore.
D. QoL measure has (almost) not been validated. Its
performance in all or most relevant adequacy items
is unclear so that it is not recommended to be used
until further validation studies clarify its adequacy.
Finally, we aim to identify one best (currently available)
instrument to assess QoL in infants, one best (currently
available) instrument to assess QoL in children, and one
best (currently available) instrument to assess QoL in
adolescents with eczema.
Differences between this review and previously
suggested methodology
We refined our eligibility criteria and made clear that
generic QoL instruments will not be eligible for this review [12]. As this review will focus on infants, children,
and adolescents, proxy-reported instruments will also be
included.
Because interpretability and feasibility of a QoL instrument are very important for researchers and clinicians,
we emphasized that corresponding information will be
collected where presented. We also decided to regard
different language versions of the same QoL instrument
separately; this approach was also used in our previous
review on adult QoL instruments [13] but initially not
specified in the pertaining protocol. Content comparison
of the included instruments will be done on content domain level instead of item level because a comparison
table on item level would become unclear and confusing
due to the multitude of data shown. Moreover, we decided to use the term “adequacy of the measurement
properties” instead of “quality of the measurement properties.” For studies applying IRT methods, only internal
consistency, construct validity, structural validity, and
cross-cultural validity will be assessed, where applicable.
Important changes concern the adequacy criteria outlined in Table 3:
For internal consistency, the indeterminate rating
(“?”) was changed from “Dimensionality not known
OR Cronbach’s alpha not determined” to
“Cronbach’s alpha not determined” in order to avoid
an overlap between the adequacy criteria and the
COSMIN criteria for methodological quality.
Adequacy criteria for studies using IRT methods
were added.
The IRT criteria for structural validity were
enhanced with criteria on differential item
functioning (DIF) [25]. If a study shows that there is
no non-uniform DIF, this can now also result in a
positive rating. Non-uniform DIF will be rated negatively according to the new criteria.
Table 4 Levels of evidence for the overall adequacy of a measurement property adapted from [28]
Level
Rating
Criteria
Strong
+++, ? (strong) or −−−
Consistent findings in multiple studies of good methodological quality OR in one study
of excellent methodological quality
Moderate
++, ? (moderate) or −−
Consistent findings in multiple studies of fair methodological quality OR in one study of
good methodological quality
Limited
+, ? (limited) or −
One study of fair methodological quality
Conflicting
+/−
Conflicting findings
Unknown
?
Only studies of poor methodological quality
+ positive rating, ? indeterminate rating, − negative rating
Heinl et al. Systematic Reviews (2016) 5:25
Page 8 of 10
Table 5 Adequacy criteria required for recommendation of QoL measures for eczema
Adequacy item (name)
Inclusion in OMERACT filter
Required rating for recommendation
Content validity
Truth
+
Structural validity
Truth
+
Hypotheses testing
Truth
+
Cross-cultural validity
Truth
+
Internal consistency
Discrimination
+
Reliability
Discrimination
+
Measurement error
Discrimination
+
Responsiveness
Discrimination
+
Hypothesis testing was split into its two aspects
convergent/divergent and discriminative validity,
with separate criteria for each aspect, resulting in an
overall rating for hypothesis testing in the end.
The criteria developed by Terwee et al. for
hypothesis testing will only be applied to convergent
and divergent validity. For discriminative validity,
another aspect of hypothesis testing, self-developed
criteria were added. As the COSMIN initiative does
not consider interpretability to be a formal measurement property, the adequacy criteria for interpretability were omitted [18].
An indeterminate rating for strong, moderate, and limited levels of evidence was added to the best evidence
synthesis ratings each. This was done for scenarios
where a QoL instrument would obtain an indeterminate
rating for a certain measurement property. An indeterminate rating will be assigned to a measurement property if there is no clear evidence for either a positive or
negative rating.
Discussion
The proposed systematic review will yield a comprehensive assessment of measurement properties of existing
QoL instruments in infants, children, and adolescents
with eczema. We aim to arrive at a recommendation of
one best instrument for infants, one best instrument for
children, and one best instrument for adolescents, respectively. Rigorous and appropriate methods are vital to
obtain meaningful, scientifically acknowledged results
that form the basis to put forward such recommendations [6]. With good reason, researchers and clinicians
demand that the development of a COS for eczema
must adhere to high standards. We have made various
efforts to satisfy these expectations. Firstly, the processes
underlying this systematic review are transparent and
systematic. Secondly, the involvement of at least two reviewers at each stage will assure quality of and reduce
variability in the assessments. Another strength of the
proposed research is the use of well-established methods
and criteria, such as the COSMIN checklist, that have
been successfully applied in a considerable number of
previous systematic reviews. Furthermore, the international coverage of the contributing reviewers will
increase the credibility of any findings.
In addition to the results obtained by best evidence
synthesis, the feasibility of a questionnaire, e.g., number
of items and time needed for administration, is another
essential requirement for recommendation. This is also
reflected by the fact that all three criteria of the OMERACT filter, i.e., truth, discrimination, and feasibility, need
to be met by an outcome measure to be recommended
by the HOME initiative [9, 10]. Truth and discrimination
are reflected by the results from best evidence synthesis.
Although there are no adequacy criteria for feasibility,
information on feasibility will be collected throughout
the review process and will be considered for the
conclusions of our systematic review. Sufficient feasibility of a questionnaire is important for its inclusion
in the proposed COS and the widespread implementation in future eczema trials.
Moreover, we may consider the popularity of a QoL
instrument as an additional parameter for recommendation if several instruments are placed in category A and
a decision to recommend one of them based solely on
best evidence synthesis is not possible. A potential benefit of well-known and frequently applied QoL instruments could be that more data on the questionnaire’s
feasibility and interpretability of its scores may be available compared to less popular instruments.
Whether or not we will be able to reach the goal of
recommending one best instrument for each age group
is unclear. It may well be that several instruments will
meet the OMERACT filter criteria. If instruments lack
important requirements, for instance, in relation to responsiveness or measurement error, they will not comply
with the OMERACT filter criteria, and additional validation studies will need to be carried out before these
instruments can be included in the COS. As a result, it
could happen that our systematic review will only be
able to identify priorities for further validation work
Heinl et al. Systematic Reviews (2016) 5:25
instead of putting forward a clear recommendation for a
certain QoL measurement instrument. Nonetheless, the
findings of this systematic review will inform a
consensus-finding process at the fifth meeting of the
HOME initiative (HOME V) that will take place in São
Paulo, Brazil, in 2017. Based on the findings of this
work, we hope to be able to inform group discussion
and consensus voting with the ultimate goal to endorse
one instrument for each age group to be included in the
core set of outcome measurement instruments for eczema.
Additional files
Additional file 1: PRISMA-P 2015 checklist. The completed PRISMA-P
checklist for this protocol.
Additional file 2: Search strings. The search strings for MEDLINE
(via PubMed) and EMBASE.
Abbreviations
COS: core outcome set; COSMIN: COnsensus-based Standards for the
selection of health Measurement INstruments; DIF: differential item
functioning; HOME: Harmonising Outcome Measures for Eczema;
HrQoL: health-related quality of life; IRT: item response theory;
OMERACT: Outcome Measures in Rheumatology; PRISMA-P: Preferred
Reporting Items for Systematic Reviews and Meta-Analyses Protocols;
PRO: patient-reported outcome; PROSPERO: International Prospective
Register of Systematic Reviews; QoL: quality of life.
Competing interests
All authors are members of the HOME initiative. Christian Apfelbacher is a
member of the HOME executive committee. Carsten Flohr is a member of
the scientific advisory board of HOME. Aaron Drucker is involved with the
development of a novel quality of life assessment instrument for atopic
dermatitis that is as yet unpublished. The authors declare that they have no
other competing interests.
Authors’ contributions
DH and CA initiated the protocol, conceptualized the research plan for the
proposed systematic review, wrote the manuscript, and reviewed it for
important intellectual content. CP, TS, and AD critically reviewed the
methodology, wrote the manuscript, and reviewed it for important
intellectual content. RO, RH, and CF critically reviewed the methodology and
reviewed the manuscript for important intellectual content. All authors read
and approved the final manuscript.
Funding
The authors declare that they have not received any financial funding to
conduct this study. Tracey Sach is funded by a Career Development
Fellowship (CDF-2014-07-006) supported by the National Institute for Health
Research. The views expressed in this publication are those of the author(s)
and not necessarily those of the NHS, the National Institute for Health
Research or the Department of Health.
Author details
1
Medical Sociology, Department of Epidemiology and Preventive Medicine,
University of Regensburg, Regensburg, Germany. 2Department of
Epidemiology and Biostatistics, EMGO+ Institute for Health and Care
Research, VU University Medical Center, Amsterdam, The Netherlands.
3
Department of Dermatology, The Warren Alpert Medical School of Brown
University, Providence, RI, USA. 4Department of Clinical Social Medicine,
University Hospital Heidelberg, Heidelberg, Germany. 5Budleigh Salterton,
Devon, UK. 6Norwich Medical School, University of East Anglia, Norwich, UK.
7
St John’s Institute of Dermatology, King’s College London, London, UK.
8
Division of Public Health and Primary Care, Brighton and Sussex Medical
School, Falmer, UK.
Received: 15 September 2015 Accepted: 2 February 2016
Page 9 of 10
References
1. Apfelbacher CJ, Diepgen TL, Schmitt J. Determinants of eczema: populationbased cross-sectional study in Germany. Allergy. 2011;66(2):206–13. doi:10.
1111/j.1398-9995.2010.02464.x.
2. Bieber T. Atopic dermatitis. N Engl J Med. 2008;358(14):1483–94. doi:10.
1056/NEJMra074081.
3. Carroll CL, Balkrishnan R, Feldman SR, Fleischer Jr AB, Manuel JC. The
burden of atopic dermatitis: impact on the patient, family, and society.
Pediatr Dermatol. 2005;22(3):192–9. doi:10.1111/j.1525-1470.2005.22303.x.
4. Lewis-Jones S. Quality of life and childhood atopic dermatitis: the misery of
living with childhood eczema. Int J Clin Pract. 2006;60(8):984–92. doi:10.
1111/j.1742-1241.2006.01047.x.
5. Eichenfield LF, Totri C. Optimizing outcomes for paediatric atopic dermatitis.
Br J Dermatol. 2014;170 Suppl 1:31–7. doi:10.1111/bjd.12976.
6. Williamson PR, Altman DG, Blazeby JM, Clarke M, Devane D, Gargon E, et al.
Developing core outcome sets for clinical trials: issues to consider. Trials.
2012;13:132. doi:10.1186/1745-6215-13-132.
7. Schmitt J, Williams H, Group HD. Harmonising Outcome Measures for
Eczema (HOME). Report from the First International Consensus Meeting
(HOME 1), 24 July 2010, Munich, Germany. Br J Dermatol. 2010;163(6):1166–8.
8. Schmitt J, Langan S, Stamm T, Williams HC. Harmonizing Outcome
Measurements in Eczema Delphi panel. Core outcome domains for
controlled trials and clinical recordkeeping in eczema: international
multiperspective Delphi consensus process. J Invest Dermatol. 2011;131(3):
623–30. doi:10.1038/jid.2010.303.
9. Schmitt J, Spuls P, Boers M, Thomas K, Chalmers J, Roekevisch E, et al.
Towards global consensus on outcome measures for atopic eczema
research: results of the HOME II meeting. Allergy. 2012;67(9):1111–7. doi:10.
1111/j.1398-9995.2012.02874.x.
10. Boers M, Brooks P, Strand CV, Tugwell P. The OMERACT filter for Outcome
Measures in Rheumatology. J Rheumatol. 1998;25(2):198–9.
11. Schmitt J, Apfelbacher C, Spuls PI, Thomas KS, Simpson EL, Furue M, et al.
The Harmonizing Outcome Measures for Eczema (HOME) roadmap: a
methodological framework to develop core sets of outcome measurements in
dermatology. J Invest Dermatol. 2015;135(1):24–30. doi:10.1038/jid.2014.320.
12. Apfelbacher CJ, Heinl D, Prinsen CA, Deckert S, Chalmers J, Ofenloch R, et al.
Measurement properties of adult quality-of-life measurement instruments
for eczema: protocol for a systematic review. Syst Rev. 2015;4(1):48. doi:10.
1186/s13643-015-0041-3.
13. Heinl D, Prinsen CA, Deckert S, Chalmers JR, Drucker AM, Ofenloch R et al.
Measurement properties of adult quality-of-life measurement instruments
for eczema: a systematic review. Allergy. 2015. doi:10.1111/all.12806.
14. Shamseer L, Moher D, Clarke M, Ghersi D, Liberati A, Petticrew M, et al.
Preferred reporting items for systematic review and meta-analysis protocols
(PRISMA-P) 2015: elaboration and explanation. BMJ. 2015;349:g7647. doi:10.
1136/bmj.g7647.
15. Terwee CB, Jansma EP, Riphagen II, de Vet HC. Development of a
methodological PubMed search filter for finding studies on measurement
properties of measurement instruments. Qual Life Res. 2009;18(8):1115–23.
doi:10.1007/s11136-009-9528-5.
16. Williams HC. A TREAT in store for those wishing to identify uncertainties in
the treatment of severe childhood eczema. Br J Dermatol. 2013;169(4):731–2.
doi:10.1111/bjd.12596.
17. Mokkink LB, Terwee CB, Knol DL, Stratford PW, Alonso J, Patrick DL, et al.
The COSMIN checklist for evaluating the methodological quality of studies
on measurement properties: a clarification of its content. BMC Med Res
Methodol. 2010;10:22. doi:10.1186/1471-2288-10-22.
18. Mokkink LB, Terwee CB, Patrick DL, Alonso J, Stratford PW, Knol DL, et al.
The COSMIN study reached international consensus on taxonomy,
terminology, and definitions of measurement properties for health-related
patient-reported outcomes. J Clin Epidemiol. 2010;63(7):737–45. doi:10.1016/
j.jclinepi.2010.02.006.
19. Mokkink LB, Terwee CB, Patrick DL, Alonso J, Stratford PW, Knol DL, et al.
The COSMIN checklist for assessing the methodological quality of studies
on measurement properties of health status measurement instruments: an
international Delphi study. Qual Life Res. 2010;19(4):539–49. doi:10.1007/
s11136-010-9606-8.
20. Terwee CB, Mokkink LB, Knol DL, Ostelo RW, Bouter LM, de Vet HC. Rating
the methodological quality in systematic reviews of studies on
measurement properties: a scoring system for the COSMIN checklist. Qual
Life Res. 2012;21(4):651–7. doi:10.1007/s11136-011-9960-1.
Heinl et al. Systematic Reviews (2016) 5:25
Page 10 of 10
21. Terwee CB, Bot SD, de Boer MR, van der Windt DA, Knol DL, Dekker J, et al.
Quality criteria were proposed for measurement properties of health status
questionnaires. J Clin Epidemiol. 2007;60(1):34–42. doi:10.1016/j.jclinepi.2006.
03.012.
22. Schmitt J, Langan S, Williams HC, European D-EN. What are the best
outcome measurements for atopic eczema? A systematic review. J Allergy
Clin Immunol. 2007;120(6):1389–98. doi:10.1016/j.jaci.2007.08.011.
23. De Vet HC, Terwee CB, Mokkink LB, Knol DL. Measurement in medicine: a
practical guide. 2011. Cambridge, UK. Cambridge University Press.
24. Furlan AD, Pennick V, Bombardier C, van Tulder M, Editorial Board CBRG.
2009 updated method guidelines for systematic reviews in the Cochrane
Back Review Group. Spine (Phila Pa 1976). 2009;34(18):1929–41. doi:10.1097/
BRS.0b013e3181b1c99f.
25. Grob JJ. Why are quality of life instruments not recognized as reference
measures in therapeutic trials of chronic skin disorders? J Invest Dermatol.
2007;127(10):2299–301. doi:10.1038/sj.jid.5701081.
26. Streiner DL, Norman GR, Cairney J. Health measurement scales: a practical
guide to their development and use. 2014. Oxford, UK. Oxford university
press.
27. PROMIS® Instrument Development and Validation Scientific Standards
Version 2.0. 2013. Available from: http://www.nihpromis.org/
%28X%281%29S%28l4ziabyqjykgamhigno4zi5p%29%29/Documents/
PROMISStandards_Vers2.0_Final.pdf. Accessed at
28. Schellingerhout JM, Verhagen AP, Heymans MW, Koes BW, de Vet HC,
Terwee CB. Measurement properties of disease-specific questionnaires in
patients with neck pain: a systematic review. Qual Life Res. 2012;21(4):659–70.
doi:10.1007/s11136-011-9965-9.
Submit your next manuscript to BioMed Central
and we will help you at every step:
• We accept pre-submission inquiries
• Our selector tool helps you to find the most relevant journal
• We provide round the clock customer support
• Convenient online submission
• Thorough peer review
• Inclusion in PubMed and all major indexing services
• Maximum visibility for your research
Submit your manuscript at
www.biomedcentral.com/submit
|
|
https://openalex.org/W4389902668
|
https://jurnal.fe.unram.ac.id/index.php/risma/article/download/931/443
|
Indonesian
| null |
Analisis Penganggaran Modal Pekerjaan Perluasan Terminal Bandara Internasional Lombok PT. Angkasa Pura 1 (Persero)
|
Jurnal Riset Mahasiswa Akuntansi
| 2,023
|
cc-by-sa
| 4,740
|
iya & Santoso: Analisis Penganggaran Modal Pekerjaan Perluasan Terminal Bandara… iya & Santoso: Analisis Penganggaran Modal Pekerjaan Perluasan Terminal Bandara… ABSTRAK Penelitian ini bertujuan untuk menganalisis proses penyusunan anggaran Perluasan
Terminal Bandara Internasional Zainuddin Abdul Madjid Lombok pada PT. Angkasa
Pura 1 (Persero). Keluaran laporan akhir Perencanaan akan dianalisis menggunakan
metode deskripsi komparatif terhadap aspek-aspek penganggaran perusahaan melalui
perspektif penganggaran modal atau investasi yang lebih bersifat manajemen proyek atau
engineering system dibandingkan investasi yang bersifat surat berharga atau yang
lainnya. Penganggaran Pekerjaan Perluasan Terminal Bandara Internasional Lombok dari
hasil penelusuran telah memenuhi beberapa aspek-aspek penyusunan anggaran
perusahaan yang baik, meskipun beberapa prediksi-prediksi strategis meleset dari yang
diperkirakan. Penganggaran modal perusahaan sendiri dalam aplikasi dan praktisnya
terdapat beberapa kelemahan dalam melakukan prediksi-prediksi imbal balik masa depan
dari nilai investasi yang dikeluarkan karena kurangnya integrasi terhadap tujuan-tujuan
strategis perusahaan atau terhadap regulasi tingkat atas yang harus dipenuhi terutama
dalam perolehan nilai aset atau aktiva tetap dengan nilai yang signifikan. Dengan tulisan
ini diharapkan dapat membangkitkan kesadaran-kesadaran akan pentingnya evaluasi
penganggaran modal sebelum anggaran tersebut dikeluarkan untuk dilakukan uji
kelayakannya dari perspektif nilai dan waktu. Kata Kunci: aset, investasi, modal, penganggaran, strategis ANALISIS PENGANGGARAN MODAL PEKERJAAN PERLUASAN
TERMINAL BANDARA INTERNASIONAL LOMBOK PT ANGKASA
PURA 1 (PERSERO) Rivan Syamsurijal Biya1
rivan.s.biya@gmail.com
1 Sekolah Tinggi Ilmu Ekonomi STAN IM Rachmat Agus Santoso2
rachmatagussantoso@gmail.com
2 Sekolah Tinggi Ilmu Ekonomi STAN IM Rachmat Agus Santoso2
rachmatagussantoso@gmail.com
2 Sekolah Tinggi Ilmu Ekonomi STAN IM PENDAHULUAN Anggaran perusahaan adalah sebuah keluaran kuantitatif perencanaan perusahaan yang
mengalokasikan sumber daya-sumber daya dalam periode tertentu (Garrison et al., 2010) (Datar
& Rajan, 2018). Anggaran yang merupakan keluaran dari proses penyusunannya ini disebut
juga dengan istilah penganggaran dibedakan dengan istilah anggaran itu sendiri penganggaran
adalah proses bukan produk atau keluaran. Penganggaran merupakan salah satu bagian dari
proses perencanaan dalam manajemen (fungsi-fungsi manajemen) (Nafarin, 2020). Dalam
penganggaran perusahaan dapat dikelompokkan menjadi 2 bagian besar dilihat dari
karakteristik penyusunananya yaitu penganggaran operasional (operational budgeting) dan
penganggaran modal (capital budgeting) (Garrison et al., 2010) (Datar & Rajan, 2018) (Nafarin,
2020). Dalam artikel ini, penganggaran operasional bukan merupakan lingkup pembahasan
untuk mengevaluasi penganggaran proyek Perluasan Terminal Bandara Internasional
Zainuddin Abdul Madjid Lombok karena karakteristiknya. Tetapi dibeberapa bagian
dibicarakan sebagai bagian dari penganggaran perusahaan secara umum. Biasanya dalam hal
anggaran proyek, anggaran mempunyai karakteristik nilai yang besar dan proses penyusunan
yang lebih dikaitkan dengan pengambilan keputusan lebih bersifat strategis daripada
operasional (Baramuli, 2009) (Lalli, 2012). Ketika artikel ini dibuat, pengembangan dan
perluasan Terminal Bandara International Lombok Provinsi Nusa Tenggara Barat atau sekarang
sudah berganti nama menjadi Bandara Internasional Zainuddin Abdul Madjid Lombok telah
selesai. Perluasan Bandara ini dilaksanakan setelah terjadinya Gempa Lombok Juli 2018 (yang
cukup banyak membawa kerugian baik itu kehilangan jiwa ataupun kerugian ekonomi pada
waktu itu) yaitu yang tahap pelaksanaannya dimulai pada tanggal 10 Februari 2020 dan berakhir
pada tanggal 23 Desember 2021 (6). Dampak Gempa Lombok Juli 2018 secara umum tidak
berdampak signifikan langsung kepada kerusakan-kerusakan fasilitas Bandara pada waktu itu
sehingga perencanaan pekerjaan perluasan Terminal juga tidak mengalami banyak perubahan
kecuali pada penguatan struktur bawah rencana terminal perluasan. Untuk itu penganggaran
dari RTT Perluasan Terminal Bandara Internasional Lombok, keluaran dari perencanaan
proyek yang dilakukan juga pada Juli 2018, masih relevan di analisis dari kepentingan bisnis
dan penambahan kapasitas dari Bandara Internasional Zainuddin Abdul Madjid. Seiring jalan,
selama proses perencanaan dan konstruksi, proyek Perluasan Terminal Bandara Internasional
ZAM Lombok juga masuk dalam daftar Proyek Strategis Nasional dan menjadi prioritas dalam
penyelesaian pekerjaan proyek pemerintah di seluruh Indonesia. Ini dilakukan untuk
mendukung kegiatan Balap Motor GP Mandalika Lombok NTB yang diadakan pada tahun
2021. Tujuan penelitian dalam artikel ini adalah untuk mengetahui sejauh mana intergasi
penganggaran proyek Perluasan Bandara Internasional ZAM Lombok dengan tujuan-tujuan
strategis PT. ABSTRACT This study aims to analyze the budgeting process for the Expansion of Zainuddin Abdul
Madjid Lombok International Airport Terminal at PT. Angkasa Pura 1 (Persero). The
output of the final planning report will be analyzed using a comparative description
method of aspects of company budgeting through the perspective of capital budgeting or
investment, which is more project management or engineering system than investment in
securities or others. The budgeting of Lombok International Airport Terminal Expansion
Work from the search results has fulfilled some aspects of good corporate budgeting,
although some strategic predictions missed expectations. The company's own capital
budgeting in application and practicality there are several weaknesses in predicting
future returns from the value of investments issued due to lack of integration with the
company's strategic objectives or to top-level regulations that must be met, especially in
the acquisition of asset values or fixed assets with significant value. With this paper, it is
hoped that it can generate awareness of the importance of evaluating capital budgeting
before the budget is issued to be tested for implementation from a value and time
perspective. Keywords: asset, budgeting, capital, investment, strategic 40 Vol. 3 No. 4 Desember 2023 TINJAUAN LITERATUR Tujuan penganggaran modal dalam perusahaan secara umum adalah sama dari tujuan
dari perusahaan itu sendiri yaitu menambah nilai perusahaan sehingga kekayaan pemilik atau
shareholder bertambah. Berbeda dalam penganggaran operasional yang biasanya tujuan dari
penganggaran tersebut adalah peningkatan laba, penganggaran modal bertujuan untuk
meningkatkan nilai masa depan aset atau kekayaan perusahaan dari investasi yang dilakukan
(Harimurti, 2008) (Garrison et al., 2010) (Datar & Rajan, 2018) (Nafarin, 2020). Beberapa
ketentuan penganggaran perusahaan yang perlu diperhatikan agar dapat menghasilkan anggaran
yang baik adalah (Nafarin, 2020): Pertama adalah motivasi penganggaran. Dimana keterlibatan
manajemen puncak dapat memicu motivasi dan fokus dari proses yang optimal dan baik. Biasanya hal ini dapat dipenuhi dengan: Ketantuan organisasi manajemen pengelolaan;
Strategi, kebijakan, dan tujuan perusahaan yang terintegrasi; Penandatanganan kontrak
dilakukan oleh manajemen puncak. Kedua adalah ketelitan dan aktualitas anggaran. Dimana
kewajaran pembentuk harga dari item-item pekerjaan/barang/jasa perlu diperhatikan. Untuk
memenuhi hal tersebut maka beberapa yang harus dipenuhi dalam proses penganggaran adalah
pematuhan dan konsistensi acuan terhadap: Aturan-aturan yang berlaku seperti Pemen PUPR
Nomor 8 tahun 2023 (revisi dari permen sebelumnya); Ketentuan berlakunya standar-standar
baik nasional ataupun internasional (SKEP, SNI, PIUL, IEC, ISO, OHSAS, dll). Ketiga adalah
proses penyusunan anggaran yang seimbang dan tidak berpihak. Dengan dipenuhinya faktor ini
dapat menciptakan ketertarikan ketika dilakukan proses pengadaan sehingga pilihan-pilihan
yang terbaik (pencapaian mutu terbaik) terbuka dengan saat bersamaan tidak merugikan
perusahaan dengan anggaran yang terlalu mahal. Untuk itu proses penganggaran modal harus
mempunyai ketentuan detail dari setiap pekerjaan/barang/jasa yang dianggarkan dari:
Spesifikasi yang jelas dari item yang dianggarkan; Terdapat prosedur dan metode untuk
mencapai hasil dengan mutu yang diinginkan dari item yang dianggarkan. Keempat adalah
anggaran yang akurat dan tepat, merupakan tujuan akhir dari penganggaran perusahaan dimana
nilai yang didapatkan adalah optimal dan berimbang. Pencapaian dapat berupa: Pembuatan
jadwal dan program dari realisasi anggaran dapat menurunkan resiko-resiko keterlambatan
pencapaian tujuan penganggaran; Setelah pembuatan jadwal dan program, pengawasan terukur
dari jadwal dan program tersebut juga dilakukan; Keakuratan anggaran juga dapat tercapai
setelah ketiga poin diatas sebelumnya dapat dipenuhi (Lalli, 2012). Keseluruhan dari aspek-aspek penganggaran diatas adalah proses umum baik dari
penganggaran operasional dan penganggaran modal. Tetapi untuk penganggaran modal aspek-
aspek diatas ditambahkan dengan menggunakan perspektif manajemen proyek dan engineering
system dalam detail pencapaian aspek-aspek tersebut sehingga penganggaran modal diharapkan
dapat yang baik tercapai atau dipenuhi (Forsberg et al., 2005) (Project Management Institute,
2021) (International Federation of Consulting Engineers. Conditions of Contracts for
Construction, 1999). PENDAHULUAN Angkasa Pura 1 (Persero) sebagai entitas bisnis dalam kerangka penganggaran
modal perusahaan dan sejauh mana penganggaran modal ini berhasil dilakukan terkait isu-isu
intergasi stragis dengan anggaran tersebut. PT. Angkasa Pura 1 (Persero) sendiri adalah sebuah
badan usaha milik negara (BUMN) dimana kepemilikan terbesar adalah ada pada Pemerintah
Republik Indonesia. BUMN sendiri adalah sebuah entitas bisnis yang prosesnya perlu
mengakui dan mematuhi prinsip-prinsip bisnis baik yang ada meskipun kepemilikan terbesar
ada pada Pemerintah RI yang bersifat publik dan non-profit. Untuk itu selain pemenuhan proses
bisnis yang baik, BUMN juga harus mematuhi ketentuan regulasi-regulasi pemerintah terkait
kebijakan publik dan aturan main penganggaran modal BUMN. Salah satu ketentuan regulasi
terkait lingkup penganggaran modal konstruksi yang harus dipatuhi adalah Peraturan Menteri 41 Biya & Santoso: Analisis Penganggaran Modal Pekerjaan Perluasan Terminal Bandara PUPR Nomor 8 Tahun 2023 tentang Pedoman Penyusunan Perkiraan Biaya Pekerjaan
Konstruksi Bidang Pekerjaan Umum dan Perumahan Rakyat dari Kementerian PUPR RI. PUPR Nomor 8 Tahun 2023 tentang Pedoman Penyusunan Perkiraan Biaya Pekerjaan
Konstruksi Bidang Pekerjaan Umum dan Perumahan Rakyat dari Kementerian PUPR RI. TINJAUAN LITERATUR Aktualnya penganggaran modal mempunyai sifat-sifat berikut:
mempunyai nilai yang besar, waktu yang pendek, penggunaan sumber daya tambahan yang
cukup banyak kemudian ditambah dengan pengetahuan-pengetahuan mutakhir, resiko-resiko
yang tidak diketahui, dan kompleksitas dari keterilbatan para stakeholder pekerjaan. Ini
membuat penganggaran modal mempunyai resiko langsung yang tinggi dengan nilai yang
cukup signifikan bagi sebuah perusahaan. Beberapa pernyataan penganggaran modal
mempunyai periode waktu yang panjang ini dimaksud dengan periode jangka-panjang dari
dampak-dampak (operasional dan disposal) dari nilai investasi yang mempunyai rentang waktu
lebih panjang dari pelaksanaannya (perolehan aset/aktiva tetap) yang biasanya termasuk dalam
satu-kesatuan siklus aset atau investasi. Untuk proses perolehan nilai aset atau pelaksanaan 42 Vol. 3 No. 4 Desember 2023 pekerjaan mempunyai waktu yang sangat pendek dan tidak periodik (Abdi et al., 2020)
(Nafarani et al., 2023) (Forsberg et al., 2005) (Project Management Institute, 2021). pekerjaan mempunyai waktu yang sangat pendek dan tidak periodik (Abdi et al., 2020)
(Nafarani et al., 2023) (Forsberg et al., 2005) (Project Management Institute, 2021). Lebih jauh dalam penganggaran modal biasanya dan lumrah dilakukan adalah dengan
inisiatif strategi. Dalam penganggaran modal perusahaan, hal ini terkait dengan kebutuhan
organisasi akan pengembangan dan pengimplementasian kapasitas dan strategi baru akan
kesukseskan masa depan perusahaan (pengembangan dan penambahan kapasitas bandara dalam
melayani penumpang misalnya). Pengalokasian sumber daya terhadap kebutuhan strategi ini
dibandingkan kebutuhan menjaga kapabilitas operasional yang lebih ke dalam penganggaran
operasional, dibedakan (Lalli, 2012). Gambar 1. Penganggaran dan pengendalian pengeluaran oleh lingkup Insiatif Strategi
dan Aktifitas Operasional (Lalli, 2012)
Dalam menentukan pengetahuan-pengetahuan atas kapasitas, input, dan output seperti
pada gambar 2 diperlukan juga pengetahuan akan pemetaan strategis dari proses yang akan
dihadapi. Dimana anggaran yang akan diajukan ini dapat dikategorikan berdasarkan
karakteristik pekerjaannya diantaranya: aktifitas operasional yang bersifat standard, berulang,
stabil/statis, atau penganggaran ini adalah hasil dari inisiatif strategis dengan karakteristiknya
yang lebih unik, spesifik, baru, dan acak. Pertimbangan lain lagi agar proses pemetaan anggaran
dapat dilakukan dengan baik adalah waktu penganggaran, ini dilakukan sebagai variabel
bersama dari karakteristik pekerjaan dan tidak berdiri-sendiri atau terpisah (Lalli, 2012). Gambar 1. Penganggaran dan pengendalian pengeluaran oleh lingkup Insiatif Strategi
dan Aktifitas Operasional (Lalli, 2012) Gambar 1. Penganggaran dan pengendalian pengeluaran oleh lingkup Insiatif Strategi
dan Aktifitas Operasional (Lalli, 2012) Dalam menentukan pengetahuan-pengetahuan atas kapasitas, input, dan output seperti
pada gambar 2 diperlukan juga pengetahuan akan pemetaan strategis dari proses yang akan
dihadapi. TINJAUAN LITERATUR Dimana anggaran yang akan diajukan ini dapat dikategorikan berdasarkan
karakteristik pekerjaannya diantaranya: aktifitas operasional yang bersifat standard, berulang,
stabil/statis, atau penganggaran ini adalah hasil dari inisiatif strategis dengan karakteristiknya
yang lebih unik, spesifik, baru, dan acak. Pertimbangan lain lagi agar proses pemetaan anggaran
dapat dilakukan dengan baik adalah waktu penganggaran, ini dilakukan sebagai variabel
bersama dari karakteristik pekerjaan dan tidak berdiri-sendiri atau terpisah (Lalli, 2012). 43 Biya & Santoso: Analisis Penganggaran Modal Pekerjaan Perluasan Terminal Bandara Gambar 2. Pencapaian keakuratan anggaran terhadap biaya (Lalli, 2012) Gambar 2. Pencapaian keakuratan anggaran terhadap biaya (Lalli, 2012) Integrasi antara penganggaran modal dan tujuan-tujuan strategis sangat penting karena
kebanyakan investasi atau penganggaran modal perusahaan mengalami kegagalan. Beberapa
sebab tidak terintergasinya penganggaran modal dengan tujuan-tujuan strategis adalah pertama
karena kebanyakan para manager sangat sedikit berdiskusi tentang strategis perusahaan, kedua
para karyawan perusahaan itu sendiri hanya sekitar 5% yang memahami tujuan-tujuan strategis
perusahaan, kemudian sebab ketiga adalah kurangnya insentif strategis, dan terakhir adalah
kurangnya integrasi anggaran dengan strategis perusahaan (Lalli, 2012). Gambar 3. Kelemahan akuntansi dalam penganggaran modal (Lalli, 2012) Gambar 3. Kelemahan akuntansi dalam penganggaran modal (Lalli, 2012) Selain kurangnya integrasi antara strategis perusahaan dan penganggaran modal (tidak
melalui inisiatif strategis), beberapa kelemahan dalam penganggaran modal kebanyakan dari
proses akuntansi itu sendiri. Dalam proses history atau waktu lampau, proses akuntansi, dapat
mendefinisikan dengan baik proses-proses keuangan perusahaan tetapi ketika keterlibatan
rentang waktu masa depan keputusan-keputusan keuangan masih kekurangan pengetahuan
tentang seberapa jauh kapasitas dalam skala perusahaan dapat dicapai, input dan output apa
yang terjadi dimasa depan dengan tantangan yang terus berubah dalam pasar industri yang 44 Vol 3 No 4 Desember 2023 Vol. 3 No. 4 Desember 2023 digeluti (Lalli, 2012). Proses mapping dan integrasi strategis terhadap penganggaran modal
dapat membantu kekurangan-kekurangan dari proses akuntansi tersebut. digeluti (Lalli, 2012). Proses mapping dan integrasi strategis terhadap penganggaran modal
dapat membantu kekurangan-kekurangan dari proses akuntansi tersebut. METODE PENELITIAN Secara umum kelayakan pengambilan keputusan investasi dalam penganggaran modal
adalah berdasarkan time value of money (Abdi et al., 2020) (Garrison et al., 2010) (Datar &
Rajan, 2018) (Nafarin, 2020). Tetapi pembahasan terkait pengambilan keputusan berdasarkan
nilai ini tidak dilakukan. Dalam tulisan ini pemenuhan ketentuan penyusunan anggaran atau
penganggaran yang baik, sesuai kaidah yang berlaku akan dilihat lebih jauh terkait proses
penganggaran Proyek Perluasan Terminal Bandara Internasional Lombok sebelum anggaran
tersebut diajukan dan disetujui. Beberapa detail anggaran atau keluaran penganggaran juga
akan disampaikan tetapi fungsinya adalah sebagai verifikasi komponen-komponen pembentuk
harga terhadap kesesuaian terhadap ketentuan proses penganggaran. Metode analisis dalam
tulisan ini adalah menggunakan metode deskripsi dengan analisis komparatif dimana penelitian
bersifat postpositivisme dan enograf karena penulis terlibat langsung dengan review
Perencanaan dan Pelaksanaan Konstruksi Perluasan Terminal Bandara Internasional Lombok. HASIL DAN PEMBAHASAN Angkasa Pura 1 (Persero) sebagai bagian fasilitas penunjang atas
kegiatan tersebut, dan ini dinilai berhasil oleh shareholder (terlepas dari beberapa peristiwa
yang terjadi di Sirkuit Mandalika pada tahun 2022) (PT. Angkasa Pura 1 (Persero), 2019) (PT. Angkasa Pura 1 (Persero)., 2021). Tabel 1. Peningkatan fasilitas Bandar Udara Zainuddin Abdul Madjid yang meningkat
dari tahun 2019 ke tahun 2021 untuk mendukung pertumbuhan penumpang dan
kegiatan internasional Balap Motor GP Mandalika yang setiap tahunnya diharapkan
dapat diadakan di Indonesia
Sumber: Laporan Tahunan PT. Angkasa Pura 1 (2019) dan Laporan Tahunan PT. Angkasa Pura 1 (2021)
Runway
Apron
Internasional
Domestik
Runway
Apron
Internasional
Domestik
Luas PCN
Luas Kapasitas
Luas
Kapasitas
Luas
Kapasitas
Luas PCN
Luas Kapasitas
Luas
Kapasitas
Luas
Kapasitas
2750 m x 45 m
48.386 m2
3300 m x 45 m
133.967 m2
13.029 m2
30.472 m2
(tidak ada data
untuk PCN)
Cap: 10 NB
64 F/A/X/T 18 m/h
Cap: 18 NB + 6
WB
0,5 mppa
4,9 mppa
Pesawat max:
B777
Bandara
Tahun 2019
Tahun 2021
Bandara
Zainuddin Abdul
Madjid Lombok
(LOP)
28.750 m2
3,4 mppa Tabel 1. Peningkatan fasilitas Bandar Udara Zainuddin Abdul Madjid yang meningkat
dari tahun 2019 ke tahun 2021 untuk mendukung pertumbuhan penumpang dan
kegiatan internasional Balap Motor GP Mandalika yang setiap tahunnya diharapkan
dapat diadakan di Indonesia
Sumber: Laporan Tahunan PT. Angkasa Pura 1 (2019) dan Laporan Tahunan PT. Angkasa Pura 1 (2021)
Runway
Apron
Internasional
Domestik
Runway
Apron
Internasional
Domestik
Luas PCN
Luas Kapasitas
Luas
Kapasitas
Luas
Kapasitas
Luas PCN
Luas Kapasitas
Luas
Kapasitas
Luas
Kapasitas
2750 m x 45 m
48.386 m2
3300 m x 45 m
133.967 m2
13.029 m2
30.472 m2
(tidak ada data
untuk PCN)
Cap: 10 NB
64 F/A/X/T 18 m/h
Cap: 18 NB + 6
WB
0,5 mppa
4,9 mppa
Pesawat max:
B777
Bandara
Tahun 2019
Tahun 2021
Bandara
Zainuddin Abdul
Madjid Lombok
(LOP)
28.750 m2
3,4 mppa Tabel 1. Peningkatan fasilitas Bandar Udara Zainuddin Abdul Madjid yang meningkat
dari tahun 2019 ke tahun 2021 untuk mendukung pertumbuhan penumpang dan
kegiatan internasional Balap Motor GP Mandalika yang setiap tahunnya diharapkan
dapat diadakan di Indonesia Sumber: Laporan Tahunan PT. Angkasa Pura 1 (2019) dan Laporan Tahunan PT. Angkasa Pura 1 (2021 Sumber: Laporan Tahunan PT. Angkasa Pura 1 (2019) dan Laporan Tahunan PT. Angkasa Pura 1 (2021) Aspek lainnya yang perlu dipenuhi agar proses penganggaran ini dapat berjalan dengan
baik adalah aspek ketelitian dan aktualitas anggaran. HASIL DAN PEMBAHASAN Dalam perencanaan atau penganggaran proyek Perluasan Terminal Bandara
Internasional Lombok yang bertujuan menambah kapasitas penumpang terdapat beberapa
komponen pekerjaan yang masuk dalam lingkup penganggaran diantaranya adalah (PT. Angkasa Pura 1 (Persero)., 2018): Pekerjaan Struktur; Pekerjaan Arsitektur; Pekerjaan Interior
dan Lighting; Pekerjaan Mekanikal; Pekerjaan Elektrikal dan Elektronika. Proses dimulai
dengan inisiatif strategi dari perusahaan (PT. Angkasa Pura 1) dimana terdapat kebutuhan
pergerakan penumpang yang diperkirakan pada tahun 2020 mencapai 3,8 juta penumpang
dengan 3,5 juta penumpang domestik dan 300.000 penumpang internasional. Data eksisting
pada saat itu (tahun 2016) pergerakan penumpang domestik di Bandara Internasional Lombok
adalah 20.2018 penumpang dan untuk penumpang internasional 6.994 penumpang. Untuk ini
luasan Terminal Penumpang tahun 2016 untuk prediksi tahun 2020 sudah tidak memenuhi
kapasitas dari standar yang berlaku (PT. Angkasa Pura 1 (Persero)., 2018). p
y
g
(
g
(
) ,
)
Pada tahun 2022 lalu, pencapaian jumlah penumpang tahun 2022 di Bandara ZAM
Lombok adalah 1.979.767 penumpang naik 83,4% dari tahun 2021 yang berjumlah 1.079.000
penumpang (Nidia Zuraya, 2023). Data penumpang aktual ditahun 2021 dan tahun 2022 ini
tidak sesuai dengan prediksi strategis pada proses penganggaran pada laporan akhir RTT
Perluasan Terminal Bandara Internasional Lombok tahun 2018 yang disebutkan sebelumnya. Meskipun demikian, hal ini dari perspektif aspek penganggaran, seperti yang telah disebutkan
juga bahwa untuk menjamin motivasi anggaran perlu adanya proses intergasi tujuan strategis
perusahaan dan proyek dilakukan. Ini akan memicu semangat dan fokus dalam melaksanakan
penganggaran bahkan sampai juga pada proses pelaksanaan anggaran tersebut. Nilai
penganggaran yang besar membutuhkan sumber daya dan stakeholder yang cukup banyak
ditambah proses evaluasi/monitoring yang ketat sehingga ketika tujuan-tujuan strategis
perusahaan sejalan dengan tujuan investasi/penganggaran maka ini akan meningkatkan
keseriusan akan keterlibatan semua pihak dalam entitas perusahaan ataupun stakeholder lainnya
(Konsultan, Regulator, dll). Lebih jauh pada saat pelaksanaan anggaran, kontrak pelaksanaan
pekerjaan Perluasan Terminal Bandara Internasional Lombok dilakukan dan ditanda-tangani
oleh para Direktur PT. Angkasa Pura 1 dan para Direktur PT. Nindya Karya (Persero) (Kontrak
Pengadaan Barang Dan/Atau Jasa 2020, 2020) sehingga diketahui oleh semua pihak bahwa
penganggaran ini adalah penganggaran strategis. Pencapaian lain juga dari keberhasilan 45 iya & Santoso: Analisis Penganggaran Modal Pekerjaan Perluasan Terminal Bandara… pelaksanaan anggaran Perluasan Terminal Bandara Internasional Lombok dari inisiatif strategis
adalah bertambahnya luasan fasilitas sisi udara dan fasilitas sisi darat dalam menunjang
kegiatan internasional Balap Motor GP 2022 di Sirkuit Pertamina Mandalika Lombok yang
dibebankan kepada PT. HASIL DAN PEMBAHASAN Aspek ini memberikan jaminan pada
anggaran diajukan atau yang akan disetujui dapat memenuhi aspek ketelitian, ketepatan, dan
dapat diimplementasikan. Dalam PSAK 60, pengungkapan instumen keuangan menuntut
proses yang wajar. Pengungkapan instrumen keuangan, dalam hal ini penganggaran Perluasan
Terminal Bandara Internasional Lombok harus bisa dievaluasi bagi kinerja keuangan sebuah
entitas, dalam perspektif PSAK dan aspek penganggaran (Eng & Wahyuni, 2012) (Nafarin,
2020). Dalam penganggaran pekerjaan Perluasan Terminal Bandara Internasional Lombok,
perencana pekerjaan dalam mengeluarkan engineer estimate mengacu pada Permen PUPR
Nomor 8 Tahun 2023 tentang Pedoman Penyusunan Perkiraan Biaya Pekerjaan Konstruksi
Bidang Pekerjaan Umum dan Perumahan Rakya. Dalam Permen PUPR Nomor 8 tahun 2023
tersebut diatur pembentuk harga satuan pekerjaan bahwa Perkiraan Biaya Pekerjaan salah
satunya melalui mekanisme Analisis Harga Satuan Pekerjaan. Lebih jauh permen mengatur
bahwa pembentuk harga satuan pekerjaan didalamnya harus terdapat beberapa komponen
seperti: tenaga kerja, bahan, dan peralatan (Tupan & Suryanto PLN Wilayah Maluku dan
Maluku Utara, 2019) (Sarasanty, 2023) (Liu et al., 2014) (Peraturan Menteri Pekerjaan Umum
Dan Perumahan Rakyat Republik Indonesia Nomor 8 Tahun 2023 Tentang Pedoman
Penyusunan Perkiraan Biaya Pekerjaan Konstruksi Bidang Pekerjaan Umum Dan Perumahan
Rakyat, 2023). Pemenuhan Permen Nomor 8 Tahun 2023 ini paling tidak dapat menjamin
kewajaran pembentuk anggaran yang disyaratkan oleh PSAK 60 (Eng & Wahyuni, 2012). 46 Vol. 3 No. 4 Desember 2023 Vol. 3 No. 4 Desember 2023 Dalam laporan RTT Perluasan Terminal Bandara Internasional Lombok, penganggaran
menggunakan metode langsung dengan perhitungan komponen-komponen pembentuknya
dengan nilai koefisien, ini mematuhi terkait aturan Permen Nomor 8 tahun 2023 tersebut. Berikut salah satu analisis harga satuan dari pekerjaan Perluasan Terminal Bandara
Internasional Lombok untuk pekerjaan 1 m2 pekerjaan Cat Exterior (luar bangunan) (Kontrak
Pengadaan Barang Dan/Atau Jasa 2020, 2020) (Ramadhan, 2021). Tabel 2. Analisis Harga Satuan pekerjaan Cat Eksterior 1 m3 salah satu bagian dari
Engineer Estimate dari Penganggaran Pekerjaan Perluasan
Sumber: Laporan Akhir RTT Perencanaan Perluasan Terminal Bandara Internasional Lombok (2018) Tabel 2. Analisis Harga Satuan pekerjaan Cat Eksterior 1 m3 salah satu bagian dari
Engineer Estimate dari Penganggaran Pekerjaan Perluasan 2. Analisis Harga Satuan pekerjaan Cat Eksterior 1 m3 salah satu bagian dari
Engineer Estimate dari Penganggaran Pekerjaan Perluasan r: Laporan Akhir RTT Perencanaan Perluasan Terminal Bandara Internasional Lombok (2018) Pemenuhan aspek ketelitian dan aktualitas ini adalah penting terutama karena PT. Angkasa Pura 1 (Persero) adalah perusahaan milik negara dimana kepemilikan mayoritasnya
ada pada Pemerintah Republik Indonesia. HASIL DAN PEMBAHASAN Proses pembentukan harga satuan dalam anggaran
pekerjaan ini selain harus mengikuti regulasi pemerintah (Peraturan Menteri Pekerjaan Umum
Dan Perumahan Rakyat Republik Indonesia Nomor 8 Tahun 2023 Tentang Pedoman
Penyusunan Perkiraan Biaya Pekerjaan Konstruksi Bidang Pekerjaan Umum Dan Perumahan
Rakyat, 2023), proses pembentukannya juga akan diperiksa ulang oleh Badan Pemeriksa
Keuangan RI sebagai audit eksternal untuk entitas PT. Angkasa Pura 1 (Persero). Dalam
penganggaran Perluasan Terminal dilaporan akhir RTT Perluasan Terminal Bandara
Internasional Lombok proses analisis harga satuan ini telah dilakukan seperti terlihat pada
gambar 3 diatas. Dengan adanya analisis harga satuan ini anggaran Perluasan Terminal Bandara
Internasional Lombok dapat dievaluasi dengan baik dan intrepertasi ganda dapat
dihindari/diminimumkan pada saat pelaksanaan anggaran. Proses penyusunan anggaran yang seimbang dan tidak berpihak adalah aspek
selanjutnya dalam penganggaran perusahaan (Nafarin, 2020). Anggaran yang seimbang dan
tidak berpihak adalah keluaran yang didalamnya terdapat ketentuan spesifikasi dan metode
pencapaian-pencapaian mutu sehingga pekerjaan dianggarkan jelas, terukur, dan tidak bias. Spesifikasi dan metode yang tidak jelas akan membuat anggaran menjadi tidak seimbang dan
tidak adil, ini berpotensi terjadi sengketa dalam pelaksanaan anggaran baik itu menguntungkan 47 iya & Santoso: Analisis Penganggaran Modal Pekerjaan Perluasan Terminal Bandara… pelaksana pekerjaan ataupun pemberi kerja (perusahaan) itu sendiri secara sepihak. Dampak-
dampak lain dari anggaran yang tidak seimbang dan berpihak adalah pelaksanaan anggaran
menjadi tidak menarik dan nilai/mutu yang optimal yang diinginkan sulit tercapai. Dalam
penganggaran pekerjaan Perluasan Terminal Bandara Internasional Lombok, Perencana dalam
laporan akhirnya juga telah mengeluarkan detail-detail spesifikasi teknis dan metode kerja
dalam bentuk Rencana Kerja dan Syarat-syarat (RKS), KAK (Kerangka Acuan Kerja), dan
Table of Content (TOC) atau Brand Koridor (PT. Angkasa Pura 1 (Persero)., 2018). Setelah ketiga aspek sebelumnya, aspek yang terakhir adalah anggaran sebaiknya
bersifat akurat dan tepat dimana kompleksitas penganggaran dapat didefinisikan dengan baik
dan seluruh proses pelaksanaan anggaran terjadwal atau dapat dikendalikan dalam penyelesaian
pekerjaannya. Anggaran yang tidak terjadwal dengan baik akan membuat pelaksanaan
anggaran menjadi tidak terkendali dan berpotensi terjadinya penambahan biaya yang besar. Untuk itu kerangka waktu yang baik dan terjadwal adalah faktor yang menentukan keberhasilan
anggaran tersebut dilaksanakan. Dalam laporan akhir perencanaan Perluasan Terminal Bandara
Internasional Lombok penjadwalan pelaksanaan anggaran dalam bentuk kurva S juga telah
dibuatkan (PT. Angkasa Pura 1 (Persero)., 2018). KESIMPULAN Pelaksanaan anggaran Perluasan Terminal Bandara Internasional Lombok telah selesai
dilaksanakan dengan baik dimana proses Handover dilakukan pada tanggal 23 Desember 2021. Saat ini Bandara Internasional Zainuddin Abdul Madjid Lombok telah beroperasi dengan
kapasitas baru dengan mendukung kemampuan 500.000 penumpang internasional pertahun dan
4,9 juta penumpang domestik pertahun (PT. Angkasa Pura 1 (Persero)., 2021). Untuk itu dilihat
dari aspek-aspek penganggaran perusahaan (Nafarin, 2020) dengan perspektif konstruksi
(Forsberg et al., 2005) (Project Management Institute, 2021) maka penganggaran Perluasan
Terminal Bandara Internasional Lombok dapat dikatakan cukup berhasil. p
p
Dalam aspek integrasi terhadap tujuan-tujuan strategis, penganggaran Perluasan
Terminal Bandara Internasional Lombok telah dilakukan meskipun beberapa ramalan-ramalan
sterategis keluar dari apa yang terjadi dari aktualnya. Tetapi ini tidak membuat ada kesalahan
strategis dalam proses penganggaran. Beberapa faktor terjadinya deviasi antara ramalan-
ramalan kapasitas bandara dengan aktual operasional sirkulasi penumpang adalah karena
adanya rentang periode waktu yang cukup panjang dari pandemi Covid-19 dan ini membatasi
pergerakan orang-orang baik dalam negeri ataupun luar negeri. Selain itu dengan kapasitas yang
ada sekarang ini Bandara Internasional Lombok dapat mendukung kegiatan internasional Balap
Motor GP di Mandalika dengan keterbatasan tersebut dimana pengetatan perjalanan akibat
pandemi baru saja diturunkan. Untuk itu perbedaan antara prediksi strategis tentang kapasitas
dengan aktual sirkulasi penumpang sekarang tidak terlalu jauh. Oleh karena itu keberhasilan
pelaksanaan Perluasan Terminal Bandara Internasional Lombok dalam menunjang
kepentingan-kepentingan strategis entitas perusahaan dan shareholder merupakan salah satu
indikator penting dalam pencapaian penganggaran modal perusahaan PT. Angkasa Pura 1
(Persero). Aspek anggaran yang teliti dan seimbang untuk menuju anggaran yang akurat juga
dicapai dalam penganggaran modal Perluasan Terminal Bandara Internasional Lombok ini. Dimana proses pemenuhan kewajaran harga, detail persyaratan komponen-komponen
pekerjaan, dan penjadwalan membentuk anggaran Perluasatan Terminal Bandara Internasional
Lombok telah dilakukan, sehingga dengan ini pelaksanaan anggaran dapat dikendalikan dengan
pencapaian mutu yang optimal sampai pelaksanaan anggaran tersebut selesai. Sehingga dapat
juga dikatakan anggaran Pekerjaan Perluasan Terminal Bandara Internasional ini cukup akurat. Dalam penganggaran Perluasan Terminal Bandara Internasional Lombok keluaran produk
termasuk khusus dan unik (mendukung kegiatan internasional), terdapat perubahan volume
produk yang acak dan kustom, dan kemudian dari pandangan siklus aset (perencanaan, instalasi, 48 Vol. 3 No. 4 Desember 2023 Vol. 3 No. 4 Desember 2023 Vol. 3 No. 4 Desember 2023 operasional, dan disposal) sehingga penganggaran ini dapat sebuah penganggaran modal dan
beberapa aspek-aspeknya dapat dikatakan terpenuhi. operasional, dan disposal) sehingga penganggaran ini dapat sebuah penganggaran modal dan
beberapa aspek-aspeknya dapat dikatakan terpenuhi. KESIMPULAN Dengan tulisan ini diharapkan timbulnya kesadaran-kesadaran akan posisi anggaran
modal dalam model gambar 1 dan 2 diatas. Kedua model juga dapat membantu proses kompleks
dan rumit dari pemetaaan anggaran/penganggaran modal yang harus dilalui dalam pengambilan
keputusan penganggaran perusahaan dimana tujuannya adalah maksimalisasi perolehan aset
dari perusahaan. Abdi, P., Direktorat, S., & Perbendaharaan, J. (2020). ANALISIS PENGANGGARAN MODAL
(CAPITAL BUDGETING) PROGRAM PEMBANGUNAN IRIGASI DI JAWA BARAT. Abdi, P., Direktorat, S., & Perbendaharaan, J. (2020). ANALISIS PENGANGGARAN MODAL
(CAPITAL BUDGETING) PROGRAM PEMBANGUNAN IRIGASI DI JAWA BARAT. Baramuli, D. N. (2009). Analisis Penganggaran Modal Dalam Rangka Ekspansi Pada PT
Telkom, Tbk. Jurnal Inovasi Manajemen. http://repo.unsrat.ac.id/id/eprint/42 Datar, S. M., & Rajan, M. V. (2018). Horngren’s cost accounting: a managerial emphasis. Pearson. Eng, J. N., & Wahyuni, E. T. (2012). Panduan Praktis Standar Akuntansi Keuangan. Salemba
Empat. Forsberg, K., Mooz, H., & Cotterman, H. (2005). Visualizing project management: models and
frameworks for mastering complex systems. John Wiley & Sons. Garrison, R. H., Noreen, E. W., Brewer, P. C., & McGowan, A. (2010). Managerial accounting. Issues in Accounting Education. Harimurti, F. (2008). Penyusunan Anggaran Perusahaan sebagai Alat Manajemen dalam …
(Fadjar H.). International Federation of Consulting Engineers. Conditions of Contracts for Construction,
FIDIC (1999). Lalli, W. R. (2012). Handbook of budgeting (Vol. 562) (Vol. 562). John Wiley & Sons. Liu, M., Lai, J., & Shen, W. (2014). A method for transformation of engineering bill of materials
to maintenance bill of materials. Robotics and Computer-Integrated Manufacturing, 30(2),
142–149. https://doi.org/10.1016/j.rcim.2013.09.008 Nafarin, M. (2020). Penganggaran Perusahaan. Salemba Empat. Nafarin, M. (2020). Penganggaran Perusahaan. Salemba Empat. Nafarani, B., Humaera, H., & Effendy, L. (2023). ANALISIS ANGGARAN SEBAGAI UPAYA
DALAM PERENCANAAN DAN PENGENDALIAN BIAYA PROYEK PADA PT DABAKIR
PUTRA MANDIRI (Vol. 3, Issue 1). Nidia Zuraya. (2023). Jumlah Penumpang di Bandara Lombok Mencapai 1,9 Juta di 2022. Republika.Co.Id. https://news.republika.co.id/berita/rnsu0f383/jumlah-penumpang-di-
bandara-lombok-mencapai-19-juta-di-2022 Peraturan Menteri Pekerjaan Umum Dan Perumahan Rakyat Republik Indonesia Nomor 8
Tahun 2023 Tentang Pedoman Penyusunan Perkiraan Biaya Pekerjaan Konstruksi Bidang
Pekerjaan Umum dan Perumahan Rakyat, Kementerian Pekerjaan Umum dan Perumahan
Rakyat Republik Indonesia (2023). 49 Biya & Santoso: Analisis Penganggaran Modal Pekerjaan Perluasan Terminal Bandara……....
PT. Angkasa Pura 1 (Persero). (2018). Laporan Akhir (Executive Summary) RTT Perluasan
Terminal Bandara Internasional Lombok.
PT. Angkasa Pura 1 (Persero). (2019). Laporan Tahunan 2019 PT. Angkasa Pura 1.
Kontrak Pengadaan Barang dan/atau Jasa 2020, PT. Angkasa Pura 1 (Persero) (2020).
PT. Angkasa Pura 1 (Persero). (2021). Laporan Tahunan 2021 PT. Angkasa Pura 1.
Ramadhan, P. (2021). Laporan Perubahan Pekerjaan.
Sarasanty, D. (2023). PELATIHAN PEMBUATAN RAB KEGIATAN PRASARANA
SECARA SEDERHANA SESUAI PERMEN PUPR No. 1 TAHUN 2022. Jurnal Edukasi
Pengabdian
Masyarakat.
https://ejournal.uniramalang.ac.id/index.php/eduabdimas/article/view/2865
Tupan, J. M., & Suryanto PLN Wilayah Maluku dan Maluku Utara, D. R. (2019). ANALISA
POLA PENENTUAN HARGA PERKIRAAN SENDIRI (HPS) UNTUK PROSES
PENGADAAN
BARANG
DAN
JASA
PEMELIHARAAN
PREVENTIF
PENYULANGAN 20 KV DI PT. PLN (PERSERO) AREA AMBON. Agustus, 13(2). Biya & Santoso: Analisis Penganggaran Modal Pekerjaan Perluasan Terminal Bandara PT. Angkasa Pura 1 (Persero). (2018). Laporan Akhir (Executive Summary) RTT Perluasan
Terminal Bandara Internasional Lombok. PT. Angkasa Pura 1 (Persero). (2019). Laporan Tahunan 2019 PT. Angkasa Pura 1. Kontrak Pengadaan Barang dan/atau Jasa 2020, PT. Angkasa Pura 1 (Persero) (2020). PT. Angkasa Pura 1 (Persero). (2021). Laporan Tahunan 2021 PT. Angkasa Pura 1. Ramadhan, P. (2021). Laporan Perubahan Pekerjaan. Sarasanty, D. (2023). PELATIHAN PEMBUATAN RAB KEGIATAN PRASARANA
SECARA SEDERHANA SESUAI PERMEN PUPR No. 1 TAHUN 2022. Jurnal Edukasi
Pengabdian
Masyarakat. https://ejournal.uniramalang.ac.id/index.php/eduabdimas/article/view/2865 Tupan, J. M., & Suryanto PLN Wilayah Maluku dan Maluku Utara, D. R. (2019). ANALISA
POLA PENENTUAN HARGA PERKIRAAN SENDIRI (HPS) UNTUK PROSES
PENGADAAN
BARANG
DAN
JASA
PEMELIHARAAN
PREVENTIF
PENYULANGAN 20 KV DI PT. PLN (PERSERO) AREA AMBON. Agustus, 13(2). 50
|
https://openalex.org/W2065261681
|
https://www.scielo.br/j/abmvz/a/9w7f7DyKHbWyhwT8M9KBt4s/?lang=pt&format=pdf
|
Portuguese
| null |
Avaliação genética de populações naturais e de estoques de um programa de repovoamento de pacu (Piaractus mesopotamicus) utilizando marcadores microssatélite
|
Arquivo Brasileiro de Medicina Veterinária e Zootecnia/Arquivo brasileiro de medicina veterinária e zootecnia
| 2,010
|
cc-by
| 5,667
|
Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 N.M. Lopera-Barrero1, R.P. Ribeiro2, J.A. Povh1, R.N. Sirol3, C.A. Mangolin4 1Instituto de Ciências Agrárias e Tecnológicas – UFMT – Rondonópolis, MT
2Departamento de Zootecnia - UEM – Maringá, PR
3CPFL Geração – São Paulo, SP 1Instituto de Ciências Agrárias e Tecnológicas – UFMT – Rondonópolis, MT
2Departamento de Zootecnia - UEM – Maringá, PR
3CPFL Geração – São Paulo, SP ç
4Departamento de Biologia Celular e Genética - UEM – Maringá, PR RESUMO Utilizaram-se marcadores microssatélites para estimar a diversidade genética de grupos de pacu (Piaractus
mesopotamicus) coletados nas escadas de transposição das hidroelétricas de Canoas I (CI) e Canoas II (CII), no
Rio Paranapanema, e de um estoque e uma progênie utilizados em programas de repovoamento nesse rio. Os
loci microssatélites produziram 16 alelos e heterozigosidade observada média similar entre os indivíduos do rio
nos dois tempos de coleta (CI14 = 0,7356; CI28 = 0,7361; CII14 = 0,7442; e CII28 = 0,7507), do estoque e da
progênie (0,7261 e 0,7287, respectivamente). Foram observados desvios no equilíbrio de Hardy-Weinberg, e
valores negativos do índice de fixação com excesso de heterozigotos que indicaram ausência de endogamia. As
análises de diversidade genética (distância e identidade genética, índice de Shannon, FST e AMOVA) foram
indicativas de baixa diferenciação genética e conduziram ao agrupamento dos indivíduos do rio, sugerindo que
essa espécie está geneticamente estruturada como uma única população. Foram verificados baixa diferenciação
genética e altos valores do número de migrantes entre os indivíduos do rio, do estoque e da progênie, o que
presume a origem comum derivada dos constantes repovoamentos realizados nesse rio a partir dessas
populações estocadas. Palavras-chave: peixe, pacu, conservação genética, diversidade genética, escadas de transposição Avaliação genética de populações naturais e de estoques de um programa de
repovoamento de pacu (Piaractus mesopotamicus) utilizando
marcadores microssatélite [Genetic evaluation of pacu (Piaractus mesopotamicus) natural populations and from the
broodstocks of a stock enhancement program using microsatellite markers] MATERIAL E MÉTODOS Amostras
de
nadadeira
caudal
de
P. mesopotamicus foram coletadas nas escadas
utilizadas para a transposição dos peixes nas
barragens da usina hidroelétrica Duke Energy
International
(Geração
Paranapanema),
localizadas nos reservatórios Canoas I (22º 56’S;
50º 31’W) e Canoas II (22º 56’S; 50º 15’W), nos
municípios de Cândido Mota, SP, e Palmital, SP,
respectivamente. Foram realizadas duas coletas
durante o período de piracema da espécie
(14/02/09 = 30 amostras e 28/02/09 = 26
amostras). Quinze amostras do estoque de
reprodutores de P. mesopotamicus e 69 larvas
destinadas a programas de repovoamento no Rio
Paranapanema (geradas a partir do cruzamento
de indivíduos procedentes desse estoque de
reprodutores) foram coletadas para análise da
diversidade genética. O estoque de reprodutores,
pertencente
à
Estação
de
Aquicultura
e
Hidrologia da usina hidroelétrica Duke Energy,
localizada às margens do Rio Paranapanema (22
54’ S; 50 00’ W), em Salto Grande, SP, foi
formado a partir de coletas realizadas no Rio
Paraná. Como tentativa de minimizar o impacto negativo
da construção de barragens hidroelétricas,
algumas ações de conservação vêm sendo
utilizadas, como, por exemplo, a construção de
escadas de transposição de peixes (Sirol e Britto,
2006)
e
a
utilização
de
programas
de
repovoamento (Lopera-Barrero et al., 2007). As escadas de transposição são mecanismos que
visam principalmente ao acesso dos peixes
migradores a montante ou a jusante da barragem
durante o período reprodutivo. Limitações na sua
eficácia advindas do processo de recrutamento e
subtração dos peixes da jusante (Levin e
Schiewe, 2001), atraso da migração e da desova
(Agostinho et al., 2002) e impedimento da
conclusão do processo reprodutivo (Paula, 2006)
podem ocasionar diminuição da variabilidade
genética dessas populações pela pressão de
seleção. Os programas de repovoamento são estratégias
de conservação da biodiversidade aquática, que
consiste em restabelecer populações naturais a
partir da liberação de alevinos obtidos de
estações de piscicultura (Lopera-Barrero et al.,
2007). O manejo reprodutivo realizado nessas
estações, quando feito de forma inadequada
(poucos reprodutores durante o acasalamento,
por exemplo), pode diminuir a variabilidade
genética das progênies que serão liberadas no rio
e a capacidade de adaptação às diferentes
condições ambientais (Povh et al., 2008a). Por
esses motivos, é primordial o monitoramento
genético dos programas
de repovoamento
(Lopera-Barrero et al., 2008b) e da efetividade
das escadas de transposição na preservação de Para extração de DNA, foi utilizado o protocolo
de extração com NaCl, descrito por Lopera-
Barrero
et
al. ABSTRACT This study used microsatellites markers to determine the genetic diversity of pacu (Piaractus mesopotamicus)
groups collected at passage ladders of the hydroelectric plants (HEP) Canoas I (CI) and Canoas II (CII) –
Paranapanema River – and of a broodstock and a progeny in stock enhancement programs in that river. The
microsatellite loci produced 16 alleles and a similar heterozygosity between the individuals of the river at both
times of collection (CI14 = 0.7356, CI28 = 0.7361, CII14 = 0.7442, and CII28 = 0.7507), as well of the
broodstock and the progeny (0.7261 and 0.7287, respectively). Deviations were observed in Hardy-Weinberg
equilibrium and negative values of fixation index with excess of heterozygosity indicated endogamy absence. The genetic diversity analyses (distance and genetic identity, Shannon index, FST, and AMOVA) were signs of
low genetic differentiation, and they led to the clustering of river individuals, suggesting that the species is
genetically structured as a single population. Low genetic differentiation and high values of numbers of
migrates among the river, the stock, and the progeny individuals were verified, suggesting a common origin
derived from the constant stocks enhancement programs accomplished in that river with those stock
populations. Keywords: fish, genetic conservation, genetic diversity, passage ladders Recebido em 3 de abril de 2009
Aceito em 16 de julho de 2010
E-mail: nelson.peixegen@gmail.com Recebido em 3 de abril de 2009
Aceito em 16 de julho de 2010
E-mail: nelson.peixegen@gmail.com Avaliação genética de populações... INTRODUÇÃO populações de peixes migradores (Paula, 2006). Para isso, análises genéticas de populações
naturais e de estoques mantidos em cativeiro são
fundamentais para a conservação das espécies de
peixes (Povh et al., 2008a) e do ecossistema. Apesar da grande importância que os peixes
representam para os ecossistemas aquáticos e
para o homem como fonte de alimentação,
mudanças
ambientais
e
principalmente
interferências
antrópicas
têm
reduzido
drasticamente a população natural de diversas
espécies migradoras neotropicais. Entre essas
espécies,
destaca-se
o
pacu,
Piaractus
mesopotamicus, segundo peixe nativo mais
cultivado no Brasil, que, embora apresente
excelentes características de adaptação ao
cativeiro, vem apresentando redução progressiva
de sua população natural (Lopera-Barrero et al.,
2008a). O objetivo deste estudo foi estimar a diversidade
genética de grupos de pacu coletados nas escadas
de transposição das hidroelétricas de Canoas I e
Canoas II em dois tempos diferentes, durante o
período reprodutivo, e de um estoque e uma
progênie
utilizados
em
programas
de
repovoamento do Rio Paranapanema, usando os
marcadores microssatélites. Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 MATERIAL E MÉTODOS (2008c),
quantificado
em
espectrofotômetro Shimadzu com absorvância de
260nm. As amostras foram diluídas para as
concentrações de 10ng/µL (reprodutores) e
5ng/µL (larvas). Para conferir a qualidade do
DNA, foi realizada eletroforese em gel de
agarose 1%, conduzida em tampão TBE 1X
(500mM Tris-HC1, 60mM ácido bórico e 83mM
EDTA) por uma hora a 70V. O gel foi 955 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 Lopera-Barrero et al. computacionais
que
calcularam
vários
parâmetros que permitiram a determinação da
diversidade genética intra e interpopulacional. O
número de alelos, as heterozigoses observada e
esperada, o teste do equilíbrio de Hardy-
Weinberg, o número de migrantes (Nm) e o
índice de fixação (Fis) de Wright (1978) foram
calculados para cada locus usando-se o programa
Genepop 1.2 (Raymond e Rousset, 1995). Esse
programa também foi utilizado para avaliar a
deficiência ou o excesso de heterozigotos,
calculados pelo método de cadeia de Markov. A
frequência alélica, a distância e identidade
genética, o índice de Shannon e o dendrograma
baseado na distância genética de Nei (Nei, 1972)
foram calculados utilizando-se o programa
PopGene 1.31 (Yeh et al., 1999). Os valores de
diferenciação genética FST (Weir e Cockerham,
1984), o desequilíbrio de ligação e a análise de
variância molecular – AMOVA (Excoffier et al.,
1992) foram estimados pelo programa Arlequim
3.1 (Excoffier et al., 2005). Nestas duas últimas
análises e na estimativa do índice de Shannon, as
populações foram analisadas formando cinco
agrupamentos: Canoas I 14/02/09 x Canoas I
28/02/09; Canoas II14/02/09 x Canoas II
28/02/09; Canoas I (CI14 + CI28) x Canoas II
(CI14 + CI28); Estoque x Progênie e Canoas
(CI14 + CI28 + CII14 + CII28) x Estoque +
Progênie. Como método de diferenciação dos
valores de FST foi utilizada a definição de Wright
(1978), em que valores entre 0,00 e 0,05; 0,05 e
0,15; 0,15 e 0,25 e >0,25 indicam pequena,
moderada, alta e elevada diferenciação genética,
respectivamente. visualizado sob radiação UV, depois da sua
exposição com brometo de etídio (0,5g/mL) por
uma hora. Posteriormente, a imagem foi
fotografada utilizando-se o programa Kodak
EDAS (Kodak 1D Image Analysis 3.5). O DNA foi amplificado para o volume final de
reação de 15L, e utilizaram-se 1X do tampão
Tris-KCl, 2,0mM de MgCl2, 0,8µM de cada
primer (Forward e Reverse), 0,4mM de cada
dNTP, uma unidade de Platinum Taq DNA
polimerase, 10ng de DNA para larvas e 20ng de
DNA para os reprodutores. MATERIAL E MÉTODOS Inicialmente o DNA
foi desnaturado a 94ºC por quatro minutos, e, em
seguida, realizaram-se 30 ciclos, cada um
consistindo de: 30 segundos de desnaturação a
94ºC,
30
segundos
de
anelamento,
em
temperatura variável para cada primer (Tab. 1), e
um minuto de extensão a 72ºC, e extensão final a
72ºC por 10 minutos. Foram amplificados quatro
loci descritos por Calcagnotto et al. (2001) –
Pme2-AF362445; Pme14-AF362448; Pme28-
AF362451 e Pme32-AF362452. As reações
foram realizadas em termociclador “Eppendorf
Mastercycler Gradient”. As amostras amplificadas foram submetidas à
eletroforese em gel de poliacrilamida 10%
(acrilamida:bisacrilamida – 29:1) desnaturante
(6M de ureia), e conduzidas em tampão TBE 1X
(90mM de Tris-Borato e 2mM de EDTA) com
320V e 250mA por sete horas. Para a
visualização dos alelos microssatélites, foi
utilizada a coloração com nitrato de prata pelo
método descrito por Bassam et al. (1991)
modificado. O gel foi submetido a uma solução
de fixação (10% de etanol e 0,5% de ácido
acético) por 20 minutos, corado (6mM de nitrato
de prata) por 10 minutos e, posteriormente,
visualizado (0,75M de NaOH e 0,22% de
formol-40%) e fotografado com câmera Nikon
CoolPix 5200. Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 RESULTADOS E DISCUSSÃO Os quatro loci produziram 16 alelos com
variação de três a cinco alelos por locus. O
tamanho dos alelos variou de 194pb (locus
Pme14) a 247pb (locus Pme32). Nenhum alelo
foi eliminado no estoque ou na progênie quando
comparado
com
as
populações
naturais. Contudo, houve alteração no alelo de maior
frequência nas populações naturais (alelo C), no
estoque e na progênie (alelo B). Não foram
observados alelos exclusivos (Tab. 1). O tamanho dos alelos foi calculado pelo
programa Kodak EDAS-290, utilizando-se DNA
ladder (Invitrogen) de 10, 50 e 100pb. O tipo (A,
B, C, D e E) e o tamanho dos alelos observados
nas populações de pacu (194 – 247pb) utilizando
os loci microssatélites organizaram-se em
matrizes de dados submetidas aos programas 956 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 Avaliação genética de populações... Tabela 1. Frequência dos alelos para os loci microssatélites analisados nas populações naturais, estoque e
progênie de pacu, Piaractus mesopotamicus
Locus
T (pb)
Alelos
CI (14)
CI (28)
CII (14)
CII (28)
Estoque
Progênie
Pme2
195-207
A
0,2000
0,1923
0,2333
0,2308
0,1923
0,2391
B
0,2667
0,2308
0,2333
0,1923
0,3846*
0,3696*
C
0,4333*
0,4231*
0,3667*
0,3846*
0,2692
0,2319
D
0,1000
0,1538
0,1667
0,1923
0,1538
0,1594
Pme14
194-208
A
0,2000
0,2692
0,2000
0,2308
0,1923
0,2609
B
0,2667
0,1538
0,2667
0,1923
0,4615*
0,3841*
C
0,3667*
0,3462*
0,3667*
0,3846*
0,2308
0,2174
D
0,1667
0,2308
0,1667
0,1923
0,1154
0,1377
Pme28
209-227
A
0,1667
0,1538
0,2000
0,2308
0,1538
0,2029
B
0,1812
0,1923
0,1333
0,1154
0,4231*
0,2754*
C
0,3000*
0,3846*
0,3333*
0,3077*
0,1154
0,0667**
D
0,2667
0,1538
0,1667
0,1923
0,1538
0,1739
E
0,2000
0,1154
0,1667
0,1538
0,1538
0,1667
Pme32
242-247
A
0,3000
0,2308
0,2333
0,2692
0,3077
0,3333
B
0,3000
0,3077
0,3333
0,3462
0,4231*
0,4058*
C
0,4000*
0,4615*
0,4333*
0,3846*
0,2692
0,2609
CI14: Canoas I 14/02/09; CI28: Canoas I 28/02/09; CII14: Canoas II 14/02/09; CII28: Canoas II 28/02/09. *Alelos de maior frequência. **Alelo de baixa frequência. 0,7442 e CII28 = 0,7507) e entre o estoque e a
progênie (0,7261 e 0,7287, respectivamente). Considerando
todos
os
loci,
a
maior
heterozigosidade observada foi encontrada no
grupo CII28 (0,8092) (Tab. 2). 0,7442 e CII28 = 0,7507) e entre o estoque e a
progênie (0,7261 e 0,7287, respectivamente). Considerando
todos
os
loci,
a
maior
heterozigosidade observada foi encontrada no
grupo CII28 (0,8092) (Tab. 2). RESULTADOS E DISCUSSÃO Contudo, os valores de Ho apresentaram desvio
significativo dos valores de He, o que, segundo
Romana-Eguia et al. (2004), é sempre esperado em populações mantidas em cativeiro, pois os
desvios na frequência provocada eventualmente
pela deriva genética têm tendência de ampliar-se
com o passar das gerações. Tabela 2. Número de alelos por locus (N.A), heterozigose observada (Ho), heterozigose esperada (He),
índice de fixação (Fis) e teste do equilíbrio de Hardy-Weinberg (PWH) para as populações natural, estoque
e progênie de pacu, Piaractus mesopotamicus Tabela 2. Número de alelos por locus (N.A), heterozigose observada (Ho), heterozigose esperada (He),
índice de fixação (Fis) e teste do equilíbrio de Hardy-Weinberg (PWH) para as populações natural, estoque
e progênie de pacu, Piaractus mesopotamicus
Locus
Pop
CI (14)
CI (28)
CII (14)
CII (28)
Estoque
Progênie
Média
N
15
13
15
13
15
69
140
Pme2
N.A
4
4
4
4
4
4
---
Ho
0,7149
0,7354
0,7540
0,7538
0,7477
0,7324
0,7397
He
0,6911
0,7071
0,7289
0,7249
0,7189
0,7271
0,7163
Fis
-0,419
-0,381
-0,342
-0,345
-0,357
-0,369
-0,369
PHW
NS
NS
NS
NS
(0,0000)*
NS
---
Pme14
N.A
4
4
4
4
4
4
---
Ho
0,7517
0,7600
0,7517
0,7538
0,7108
0,7235
0,7419
He
0,7267
0,7308
0,7267
0,7249
0,6834
0,7182
0,7184
Fis
-0,346
-0,333
-0,346
-0,345
-0,431
-0,386
-0,365
PHW
NS
NS
NS
NS
NS
(0,0000)*
---
Pme28
N.A
5
5
5
5
5
5
---
Ho
0,7931
0,7846
0,8023
0,8092
0,7662
0,7979
0,7922
He
0,7667
0,7544
0,7756
0,7781
0,7367
0,7922
0,7672
Fis
-0,273
-0,289
-0,257
-0,248
-0,322
-0,256
-0,274
PHW
NS
NS
NS
NS
(0,0007)*
NS
---
Pme32
N.A
3
3
3
3
3
3
---
Ho
0,6828
0,6646
0,6690
0,6862
0,6800
0,6610
0,6739
He
0,6600
0,6391
0,6467
0,6598
0,6538
0,6562
0,6526
Fis
-0,489
-0,537
-0,522
-0,486
-0,500
-0,244
-0,463
PHW
NS
(0,0183)*
(0,0260)*
NS
NS
NS
---
Média
N.A
16
16
16
16
16
16
---
Ho
0,7356
0,7361
0,7442
0,7507
0,7261
0,7287
0,7369
He
0,7111
0,7078
0,7195
0,7219
0,6982
0,7234
0,7136
Fis
-0,382
-0,385
-0,367
-0,356
-0,402
-0,314
-0,368
CI14: Canoas I 14/02/09; CI28: Canoas I 28/02/09; CII14: Canoas II 14/02/09; CII28: Canoas II 28/02/09. * P>0,01. fortuitas nas frequências alélicas (Rengmark et
al., 2006) e pelo efeito de boca de garrafa (Tab. 2). fortuitas nas frequências alélicas (Rengmark et
al., 2006) e pelo efeito de boca de garrafa (Tab. 2). RESULTADOS E DISCUSSÃO A presença dos mesmos alelos nos indivíduos do
rio, no estoque e na progênie e a sua frequência
similar – com exceção dos alelos B e C –
sugerem que existe similaridade genética entre as
populações e que a variabilidade genética foi
preservada no estoque e na progênie. Segundo
Innes e Elliott (2006), a perda no número de
alelos é usualmente o primeiro sinal da redução
de diversidade genética numa população. Os dados de heterozigosidade também refletem
alta variabilidade genética intrapopulacional nos
indivíduos coletados no rio, semelhante aos
resultados encontrados por Povh et al. (2008b),
ao
analisarem
uma
população
do
Rio
Paranapanema, utilizando o marcador RAPD,
onde foram observados altos valores de índice de
Shannon
e
porcentagem
de
fragmentos
polimórficos (0,345 e 61,17%, respectivamente). Essa alta variabilidade genética intrapopulacional
demonstra
que,
apesar
dos
constantes
repovoamentos
realizados
nesse
rio,
a
diversidade genética da população natural ainda
exibe altos valores, o que pode significar maior
adaptação dessa espécie às condições ambientais
desse ecossistema. Quanto ao estoque e à
progênie, também foram encontrados altos
valores de heterozigosidade observada, o que,
segundo Povh et al. (2008a), demonstra que
essas populações apresentam uma base genética
suficientemente ampla para serem utilizadas em
programas de repovoamento, na formação de
novos estoques ou na sua liberação no meio
ambiente sem ocasionar riscos genéticos na
população natural. Este resultado implicou a
formação de estoques com grande número de De forma geral, foram observados alelos de alta
frequência nas populações naturais e nos
estoques, porém um alelo de baixa frequência
(menor que 0,1000 - 10%) foi observado no
locus Pme28 da progênie (alelo C). A presença
desse alelo nessa população pode indicar que
existe um processo de
perda de alelos
possivelmente devido ao efeito de deriva
genética (Bengtsson et al., 1995), que implica
alteração da composição genética que pode ser
responsável pela diminuição das taxas de
reprodução e de sobrevivência (Povh et al.,
2008a). A
heterozigosidade
média
observada
na
população de Canoas I não revelou diferenças
genéticas entre os indivíduos analisados em
diferentes tempos nesse ponto de coleta (CI14 =
0,7356 e CI28 = 0,7361), o que evidencia
similaridade genética entre os seus indivíduos. A
mesma
situação
foi
observada
entre
os
indivíduos da população de Canoas II (CII14 = 957 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 Lopera-Barrero et al. reprodutores (Aho et al., 2006) que apresentem
alta variabilidade genética (Melo et al., 2006). RESULTADOS E DISCUSSÃO Os valores de Fis, que representam a medida de
desvio da frequência genotípica em relação à
frequência panmítica, expressas em termos de
deficiência ou excesso de heterozigotos, e que
também
podem
ser
interpretados
como
coeficientes de endogamia (Moreira et al., 2007),
apresentaram valores médios negativos em todos
os loci, com excesso de heterozigotos, indicando
ausência de endogamia. Os maiores valores
médios de Fis foram encontrados em CI28 (-
0,385) e no estoque (-0,402). Foram observados
desvios no equilíbrio de Hardy-Weinberg nos
loci Pme32 de CI28 e CII14, Pme2 e Pme28 no
estoque e no Pme14 na progênie. Estes
resultados mostram que as populações podem
estar
sendo
influenciadas
pelas
mudanças O desequilíbrio de ligação, que é a associação
não aleatória de alelos em dois ou mais loci
(Caujapé-Castells, 2006), foi observado em seis
diferentes
pares
nos
cinco
agrupamentos
analisados (Pme2 x Pme32, Pme14 x Pme32,
Pme28 x Pme32, Pme2 x Pme14, Pme2 x Pme32
e Pme2 x Pm28). No entanto, ocorreu diferente
padrão
de
desequilíbrio
dentro
de
cada
combinação. Isto, segundo Povh (2007), sugere
que estes não estejam ligados fisicamente. Para Innes e Elliott (2006), populações que
experimentam o efeito boca de garrafa podem 958 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 Avaliação genética de populações... Estoque/Progênie (1,350). Por outro lado, o valor
de FST, que, segundo Caujapé-Castells (2006),
quantifica a consanguinidade e mede a redução
da heterozigosidade, mostrou que, entre a
população natural, o estoque e a progênie (nos
diferentes
agrupamentos),
existe
alta
consanguinidade e, conforme a classificação de
Wright (1978), sugere pequena diferenciação
genética entre as populações estudadas. Em
reforço a essa hipótese, o valor de Nm calculado
foi elevado em todos os agrupamentos, o que
pode ser considerado evidência de fluxo gênico. O maior valor de Nm foi encontrado em Canoas
I e Canoas II, com 180,14 indivíduos por geração
(Tab. 3). mostrar incremento no nível do desequilíbrio de
ligação. Por isso, ao se analisar o desvio no
equilíbrio de Hardy-Weinberg e o desequilíbrio
de ligação encontrados neste trabalho, é possível
afirmar que as populações do rio, o estoque e a
progênie podem estar sendo influenciados pelo
efeito boca de garrafa (variação aleatória das
frequências alélicas a qual se produz na redução
do tamanho populacional), e que ainda não foi
observada drástica diminuição da variabilidade
genética. O índice de Shannon foi similar entre todos os
agrupamentos, indicando que existe baixa
diferenciação genética entre eles. Lopera-Barrero et al. Pelo fato de as amostragens no complexo de
Canoas terem sido realizadas em dois pontos
diferentes de coleta e em épocas reprodutivas
diferentes, é esperado que, entre as populações
das duas escadas, haja diferenciação genética. Os
resultados indicaram, de forma contraditória, que
existe baixa diferenciação, fato que poderia ser
atribuído ao pequeno número de amostras
coletado em cada escada. Porém, resultados
similares foram observados em outras pesquisas
realizadas no mesmo complexo com outras
espécies migradoras, demonstrando a integridade
e a confiabilidade dos dados encontrados neste
trabalho. evidencia a existência de uma única população
dessa espécie. Lopes et al. (2007), após
analisarem populações de Salminus brasiliensis
capturados
em
Canoas
I
e
II,
também
encontraram maior variância molecular dentro de
cada grupo (98,2%) e baixa diferenciação
genética (FST = 0,018), e concluíram que os
grupos formam uma única população. Os resultados obtidos de distância e identidade
genética (Tab. 4) e do dendrograma (Fig. 1)
mostram que existe maior relacionamento
genético entre Canoas I x Canoas II e Estoque x
Progênie, sendo observada a formação de dois
agrupamentos: um formado pelas quatro coletas
realizadas no complexo de Canoas e o outro
pelas populações estocadas. Apesar disso, pelos
resultados de diversidade genética analisados
anteriormente, é evidente a similaridade genética
entre a população natural, o estoque e a progênie,
a qual pode ser decorrente do contínuo
repovoamento realizado no Paranapanema a
partir dessa população estocada (Duke Energy,
2009). Nesse sentido, Ramos (2007), ao analisar a
diversidade genética de populações de Leporinus
elongatus no complexo de Canoas em três anos
consecutivos de período reprodutivo, concluiu
que existe baixa diferenciação genética entre as
populações, sendo estruturadas como uma única
população. Paula (2006), ao estudar a estrutura
populacional de Prochilodus lineatus durante
todo
o
período
reprodutivo,
encontrou
igualmente baixa diferenciação genética, que Figura 1. Dendrograma da distância genética de Nei para as populações naturais, estoque e progênie de
pacu, Piaractus mesopotamicus. Figura 1. Dendrograma da distância genética de Nei para as populações naturais, estoque e progênie d
pacu, Piaractus mesopotamicus. Resultados similares foram observados por Povh
et al. (2008b) ao analisarem, com o marcador
RAPD, um grupo de pacu coletado em Canoas I
e II. Esses autores recomendaram uma análise
com marcadores microssatélites para inferir a
verdadeira procedência desses indivíduos e
corroborar os dados obtidos pelo RAPD. RESULTADOS E DISCUSSÃO O maior valor
foi apresentado pelo agrupamento Canoas x Tabela 3. Índice de Shannon, FST e número de migrantes (Nm) para os diferentes agrupamentos
analisados nas populações naturais, estoque e progênie de pacu, Piaractus mesopotamicus
Agrupamento
Índice de Shannon
FST
Nm
Canoas I (14) x Canoas I (28)
1,317
0,0232*
36,36
Canoas II (14) x Canoas II (28)
1.331
0,0334*
172,62
Canoas I x Canoas II
1,326
0,0151*
180,14
Estoque x Progênie
1.330
0,0195*
62,25
Canoas x Estoque/Progênie
1,350
0,0149*
14,73
*P>0,05. a 3. Índice de Shannon, FST e número de migrantes (Nm) para os diferentes agrupamentos
ados nas populações naturais, estoque e progênie de pacu, Piaractus mesopotamicus forma, esse componente de variação dentro de
cada grupo indica que o tamanho amostral
utilizado capturou uma grande proporção de
variabilidade genética contida no complexo
Canoas, o que, segundo Paula (2006), é de
grande importância para estudos de manejo e
conservação (Tab. 4). Segundo a AMOVA, a maior parte da variação
observada nos agrupamentos está dentro de
grupo e não entre grupos. Isso demonstra que os
indivíduos coletados em Canoas I e II nos
diferentes
tempos
de
coleta
podem
ser
considerados como um grupo geneticamente
estruturado numa única população. Da mesma Tabela 4. Análise de variância molecular (AMOVA), distância (D) e identidade genética (I) para os
diferentes agrupamentos utilizados nas populações naturais, estoque e progênie de pacu, Piaractus
mesopotamicus mesopotamicus
Agrupamento
FV
SMQ
CV
%V
D
I
CI14 x CI28
EG
0,543
0,0333
2,32*
0,0187
0,9664
DG
79,474
1,4384
97,68
Total
80,018
1,4717
100
CII14 x CII28
EG
0,148
0,0484
3,34*
0,0075
0,9925
DG
80,905
1,4497
96,66
Total
81,054
1,4981
100
CI x CII
EG
0,241
0,0218
1,51*
0,0070
0,9930
DG
161,071
1,4424
98,49
Total
161,312
1,4642
100
Estoque x
Progênie
EG
2,077
0,0140
0,95*
0,0189
0,9813
DG
237,154
1,4639
99,05
Total
239,232
1,4779
100
Canoas x
Estoque/Progênie
EG
4,405
0,0221
1,49*
0,0913
0,9127
DG
400,544
1,4618
98,51
Total
404,949
1,4839
100
EG: entre grupos; DG: dentro de grupos. *P>0,05. Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 959 Lopera-Barrero et al. Lopera-Barrero et al. Os
resultados do presente trabalho são importantes,
pertinentes e conclusivos sobre a real influência
dos programas de repovoamento na composição
genética da população natural no médio Rio
Paranapanema. De modo geral, para os grupos de pacu das duas
escadas de transposição, foi verificado alto grau
de variabilidade genética, o que para populações
naturais é de grande importância, pois a presença
de variações herdáveis as tornam hábeis em
responder à seleção (Ramos, 2007) e mais aptas
à sobrevivência e reprodução, quando se
exercerem pressões seletivas e evolutivas (Lowe
et al., 2004). Apesar disso, foi verificado que a
quantidade de indivíduos coletados nas escadas
durante os dois períodos diminuiu (coleta
14/02/09 = 15 indivíduos x coleta 28/02/09 = 13 960 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 Avaliação genética de populações... genética (efeito fundador), que se utilizaram de
sistemas reprodutivos e cruzamentos eficientes
(Povh, 2007) e permitiram manter o pool
genético na progênie (Ho = 0,7261 e 0,7287,
respectivamente). Essa
alta
variabilidade
genética
do
estoque/progênie,
somada
à
similaridade genética similar a população natural
do complexo Canoas (apesar das primeiras serem
oriundas do Rio Paraná), permite concluir que o
pool de genes é semelhante, fato relevante
quando se realizam programas de repovoamento,
pois um pool diferente entre eles poderia
significar baixa viabilidade do uso do estoque
(Povh et al., 2008b) e provocar perda de genes
importantes de adaptação ao ambiente na
população natural (Sønstebø et al., 2007) e baixa
sobrevivência das progênies repovoadas (Frost et
al., 2006). indivíduos), inclusive quando comparado com
outros estudos na mesma espécie realizados em
diferentes anos de coleta (Povh et al., 2008). Esse resultado de diminuição populacional
durante o período reprodutivo pode ser atribuído
a dois efeitos: o físico das barragens e o da
depleção na população a jusante do complexo. O efeito das barragens fundamenta-se na
interrupção das rotas migratórias, o que impede o
correto amadurecimento do sistema reprodutivo
dos peixes e evita a realização do ciclo completo
de reprodução, afetando, dessa forma, a
abundância de peixes migradores aptos para a
reprodução e provocando baixo desenvolvimento
e alta depredação de ovos e larvas (Agostinho et
al., 2002). As condições observadas nos
reservatórios de Canoas I e II – águas lénticas,
com escassa vegetação ciliar e ausência de
lagoas larginais – (Dias, 2003), permitem pensar
na possibilidade da pouca contribuição dos
peixes migrantes na formação de novos grupos
de indivíduos na montante. Lopera-Barrero et al. O efeito da depleção
na população a jusante do complexo fundamenta-
se no fato de que, depois de realizar a migração a
montante,
não
ocorre
o
retorno
desses
indivíduos. Esse efeito já foi comprovado para
outras espécies, como o L. elongatus (Ramos,
2007) e P. Lineatus (Paula, 2006), o que,
segundo Britto e Sirol (2006), pode ser devido à
amortização do fluxo hidráulico descendente. Por
esse motivo, são necessários maiores estudos que
verifiquem a real eficiência das escadas de
transposição
e
seus
efeitos
genéticos
na
população natural. REFERÊNCIAS BIBLIOGRÁFICAS AHO, T.; RÖNN, J.; PIIRONEN, J. et al. Impacts of effective population size on genetic
diversity in hatchery reared Brown trout (Salmo
trutta L.) populations. Aquaculture, v.253,
p.244-248, 2006. AGOSTINHO,
A.A.;
GOMES,
L.C.;
FERNANDEZ, D.R. et al. Efficiency of fish
ladders for a neotropical ichthyofauna. River Res. Appl., v.18, p.299-306, 2002. BASSAM, B.J.; CAETANO-ANOLLÉS, G.;
GRESSHOFF, P.M. Fast and sensitive silver
staining of DNA in polyacrylamide gels. Anal. Biochem., v.196, p.80-83, 1991. BENGTSSON,
B.O.;
WEIBULL,
P.;
GHATNEKAR, L. The loss of alleles by
sampling: a study of the common outbreeding
grass Festuca ovina over three geografical
scales. Hereditas, v.122, p.221-238, 1995. Devido
à
diminuição
populacional,
a
variabilidade genética nas populações naturais
pode diminuir, levando ao efeito de boca de
garrafa. Como demonstrado com os resultados da
frequência alélica, o equilíbrio de Hardy-
Weinberg e o desequilíbrio de ligação, esse
efeito pode estar acontecendo nas populações de
pacu, o que, a longo prazo, pode comprometer a
sustentabilidade
da
população,
diminuir
a
prevalência da espécie no complexo Canoas e
aumentar o risco de extinção (Hatanaka e Galetti
Jr., 2003). BRITTO, S.G.; SIROL, R.N. Transposição de
peixes como forma de manejo: as escadas do
complexo Canoas, médio rio Paranapanema,
bacia do Alto Paraná. In: NOGUEIRA, M.G.;
HENRY, R.; JORCIN, A. (Eds). Ecologia de
reservatórios: impactos potenciais, ações de
manejo e sistemas em cascata. São Carlos:
RiMA, 2006. p.285-304. Ao analisar as populações estocadas, foi possível
verificar a existência de alta variabilidade
genética intrapopulacional, o que, segundo
Lopera-Barrero et al. (2008a), indica que o
estoque foi formado com suficiente variabilidade CAUJAPÉ-CASTELLS,
J. Brújula
para
botánicos desorientados en la genética de
poblaciones. Las Palmas de Gran Canária:
Exegen Ediciones. 2006. 133p. 961 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 Lopera-Barrero et al. CALCAGNOTTO,
D.,
RUSSELLO,
M.;
DESALLE, R. Isolation and characterization of
microsatellite loci in Piaractus mesopotamicus
and their applicability in other Serrasalminae
fish. Mol. Ecol. Notes, v.1, p.245-247, 2001. LOPERA-BARRERO, N.M.; RIBEIRO, R.P.;
VARGAS, L. et al. Caracterização genética de
estoques de Prochilodus lineatus (Valenciennes,
1836)
(Characiformes:
Prochilodontidae),
utilizados em programas de repovoamento:
importância para a conservação da ictiofauna e
do ecossistema. Biosci. J., v.24, p.86-93, 2008b. DIAS, J.H.P. Distribuição espacial e temporal
da
ictiofauna
do
trecho
médio
do
rio
Paranapanema
e
suas
relações
com
as
características morfométricas e limnológicas dos
compartimentos da bacia. 2003. 103f. Tese
(Doutorado) - Universidade Federal de São
Carlos, São Carlos. LOPERA-BARRERO,
N.M.;
POVH,
J.A.;
RIBEIRO, R.P. REFERÊNCIAS BIBLIOGRÁFICAS et al. Comparación de protocolos
de extracción de ADN con muestras de aleta y
larva de peces: extracción modificada con sal
(NaCl). Cien. Inv. Agr., v.35, p.15-24, 2008c. LOPERA-BARRERO, N.M.; RIBEIRO, R.P.;
POVH, J.A. O repovoamento de peixes: uma
estratégia multidisciplinar? Aquic. Pesca, v.30,
p.71-74, 2007. DUKE ENERGY. Meio ambiente. Disponível
em:
<http://www.duke-
energy.com.br/PT/Meioambiente>. Acessado
em: 15 abr. 2009. LOPES, C.M.; ALMEIDA, F.S.; ORSI, M.L. et
al. Fish passage ladders from Canoas Complex –
Paranapanema River: evaluation of genetic
structure maintenance of Salminus brasiliensis
(Teleostei: Characiformes). Neotrop. Ichthyol.,
v.5, p.131-138, 2007. EXCOFFIER, L.; SMOUSE, P.E.; QUATTRO,
J.M. Analysis of molecular variance inferred
from metric distances among DNA haplotypes:
application to human mitochondrial DNA
restriction data. Genetics, v.131, p.479-491,
1992. LOWE,
A.;
HARRIS,
S.;
ASHTON,
P. Ecological
genetics:
Desing,
analysis
and
application. Malden: Blackwell, 2004. 326p. EXCOFFIER, L.; LAVAL, G.; SCHNEIDER, S. Arlequin Ver. 3.1: an integrated software
package for population genetics data analysis. Evol. Bioinform. Online., v.1, p.47-50, 2005. MELO, D.C.; OLIVEIRA, D.A.A.; RIBEIRO,
L.P. et al. Caracterização genética de seis
plantéis comerciais de tilápia (Oreochromis)
utilizando marcadores microssatélites. Arq. Bras. Med. Vet. Zootec., v.58, p.87-93, 2006. FROST, L.A.; EVANS, B.S.; JERRY, D.R. Loss
of genetic diversity due to hatchery culture
practices in barramundi (Lates calcarifer). Aquaculture, v.261, p.1056-1064, 2006. MOREIRA, A.A.; HILSDORF, A.W.S.; SILVA,
J.V. et al. Variabilidade genética de duas
variedades de tilápia nilótica por meio de
marcadores
microssatélites. Pesq. Agropec. Bras., v.42, p.521-526, 2007. HATANAKA, T.; GALETTI Jr., P.M. RAPD
markers indicate the occurrence of structured
populations in a migratory freshwater fish
species. Genet. Mol. Biol., v.26, p.19-25, 2003. INNES, B.H.; ELLIOTT, N.G. Genetic diversity
in a Tasmanian hatchery population of Atlantic
salmon (Salmo salar L.) compared with its
Canadian progenitor population. Aquac. Res.,
v.37, p.563-569, 2006. NEI, M. Genetic distance between populations. Am. Nat., v.106, p.283-292, 1972. PAULA,
F.M. Diversidade
genética
de
Prochilodus lineatus (Pisces Characiformes) das
escadas de transposição de peixes das usinas
hidroelétricas do complexo Canoas – Rio
Paranapanema. 2006. 138f. Dissertação
(Mestrado) – Universidade Estadual de Londrina,
Londrina. LEVIN, P.S.; SCHIEWE, M.H. Preserving
salmon biodiversity. Am. Sci., v.89, p.220-227,
2001. LOPERA-BARRERO, N.M.; RIBEIRO, R.P.;
POVH, J.A. et al. Caracterización genética de
lotes de peces usados en programas de
repoblamiento
y
su
importancia
en
la
conservación
genética
en
la
piscicultura. Zootecnia Trop., v.26, p.515-522, 2008a. POVH, J.A. Avaliação da diversidade genética e
do manejo reprodutivo do pacu, Piaractus
mesopotamicus. 2007. 75f. Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 REFERÊNCIAS BIBLIOGRÁFICAS Tese (Doutorado) -
Universidade Estadual de Maringá, Maringá. 962 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010 Avaliação genética de populações... SIROL, R.N.; BRITTO, S.G. Conservação e
manejo
da
ictiofauna:
repovoamento. In:
NOGUEIRA, M.G.; HENRY, R.; JORCIN, A. (Ed). Ecologia de reservatórios: impactos
potenciais, ações de manejo e sistemas em
cascata. São Carlos: RiMA, 2006. p.275-284. POVH, J.A.; LOPERA BARRERO, N.M.;
RIBEIRO, R.P. et al. Importancia del monitoreo
genético de programas de repoblamiento de
peces mediante marcadores moleculares. Cien. Inv. Agr., v.35, p.25-35, 2008a. POVH, J.A.; RIBEIRO, R.P.; SIROL, R.N. et al. Diversidade
genética
de
pacu
do
Rio
Paranapanema e do estoque de um programa de
repovoamento. Pesq. Agropec. Bras., v.43,
p.201-206, 2008b. SØNSTEBØ, J.H.; BORGSTRØM, R.; HEUN,
M. Genetic structure of brown trout (Salmo trutta
L.) from the Hardangervidda mountain plateau
(Norway) analyzed by microsatellite DNA: a
basis for conservation guidelines. Conserv. Genet., v.8, p.33-44, 2007. RAYMOND, M.; ROUSSET, F. Genepop
(version 1.2): population genetics software for
exact tests and ecumenicism. J. Heredity, v.86,
p.248-249, 1995. WEIR, B.S.; COCKERHAM, C.C. Estimating F-
statistics for the analysis of population structure. Evolution, v.38, p.1358-1370, 1984. RAMOS, J.V.B. Estudo da estrutura genética de
Leporinus elongatus (Pisces, Characiformes) no
complexo Canoas – Rio Paranapanema. 2007. 85f. Dissertação (Mestrado) – Universidade
Estadual de Londrina, Londrina. WRIGHT, S. Evolution and Genetics of
Populations. Chicago: University of Chicago,
1978. 511p. YEH, F.C.; BOYLE, T.Y.Z.; XIYAN, J.M. PopGene Version 131: Microsoft Window-based
freeware
for
population
genetic
analysis. Alberta: University of Alberta and Center for
International Forestry Research, 1999. 29p. RENGMARK, A.H.; SLETTAN, A.; SKAALA,
Ø. et al. Genetic variability in wild and farmed
Atlantic salmon (Salmo salar) strains estimated
by SNP and microsatellites. Aquaculture, v.253,
p.29-237, 2006. ROMANA-EGUIA,
M.R.R.;
IKEDA,
M.;
BASIAO, Z.U. et al. Genetic diversity in farmed
Asian and red hybrid tilapia stocks evaluated
from microsatellite and mitochondrial DNA
analysis. Aquaculture, v.236, p.131-150, 2004. 963 Arq. Bras. Med. Vet. Zootec., v.62, n.4, p.954-963, 2010
|
https://openalex.org/W2975362439
|
https://escholarship.org/content/qt81v310qs/qt81v310qs.pdf?t=qafy2s
|
English
| null |
Immune factors preceding diagnosis of glioma: a Prostate Lung Colorectal Ovarian Cancer Screening Trial nested case–control study
|
Neuro-oncology advances
| 2,019
|
cc-by
| 6,019
|
Title Immune factors preceding diagnosis of glioma: a Prostate Lung Colorectal Ovarian
Cancer Screening Trial nested case–control study UCSF
UC San Francisco Previously Published Works
Title
Immune factors preceding diagnosis of glioma: a Prostate Lung Colorectal Ovarian
Cancer Screening Trial nested case–control study UCSF
UC San Francisco Previously Published Works
Title
Immune factors preceding diagnosis of glioma: a Prostate Lung Colorectal Ovarian
Cancer Screening Trial nested case–control study UCSF
UC San Francisco Previously Published Works
Title
Immune factors preceding diagnosis of glioma: a Prostate Lung Colorectal Ovarian
Cancer Screening Trial nested case–control study Permalink https://escholarship.org/uc/item/81v310qs Abstract Background. Epidemiological studies of adult glioma have identified genetic and environmental risk factors,
but much remains unclear. The aim of the current study was to evaluate anthropometric, disease-related, and
prediagnostic immune-related factors for relationship with glioma risk. Background. Epidemiological studies of adult glioma have identified genetic and environmental risk factors,
but much remains unclear. The aim of the current study was to evaluate anthropometric, disease-related, and
prediagnostic immune-related factors for relationship with glioma risk. Methods. We conducted a nested case–control study among the intervention arm of the Prostate, Lung, Colorectal, and
Ovarian Cancer (PLCO) Screening Trial. One hundred and twenty-four glioma cases were identified and each matched
to four controls. Baseline characteristics were collected at enrollment and were evaluated for association with glioma
status. Serum specimens were collected at yearly intervals and were analyzed for immune-related factors including
TGF-β1, TNF-α, total IgE, and allergen-specific IgE. Immune factors were evaluated at baseline in a multivariate condi-
tional logistic regression model, along with one additional model that incorporated the latest available measurement. Results. A family history of glioma among first-degree relatives was associated with increased glioma risk (OR = 4.41,
P = .002). In multivariate modeling of immune factors at baseline, increased respiratory allergen-specific IgE was
inversely associated with glioma risk (OR for allergen-specific IgE > 0.35 PAU/L: 0.59, P = .03). A logistic regression
model that incorporated the latest available measurements found a similar association for allergen-specific IgE
(P = .005) and showed that elevated TGF-β1 was associated with increased glioma risk (P-value for trend <.0001). Conclusion. The results from this prospective prediagnostic study suggest that several immune-related factors are
associated with glioma risk. The association observed for TGF-β1 when sampling closer to the time of diagnosis
may reflect the nascent brain tumor’s feedback on immune function. Neuro-Oncology Advances Ivo S. Muskens, Mi Zhou, Lucie McCoy, Paige M. Bracci, Helen M. Hansen, W. James Gauderman,
John K. Wiencke, Margaret R. Wrensch, Joseph L. Wiemels 1Center for Genetic Epidemiology, Department of Preventive Medicine, Keck School of Medicine, University of
Southern California, Los Angeles, CA (I.S.M., J.L.W.); 2Department of Epidemiology and Biostatistics (M.Z., P.M.B., J.L.W.), 2Department of Epidemiology and Biostatistics (M.Z., P.M.B., J.L.W.), 3Department of Neurological Surgery, School of Medicine, University of California, San Francisco, San Francisco, CA
(L.M., H.M.H., J.K.W., M.R.W.); 4Division of Biostatistics, Department of Preventive Medicine, Keck School of Medicine, University of Southern
California, Los Angeles, CA (W.J.G.). Corresponding Author: Joseph Leo Wiemels, PhD, Center for Genetic Epidemiology, Keck School of Medicine, University of Southern
California, 1450 Biggy St. Los Angeles, CA 90033, USA (wiemels@usc.edu).wiemels@usc.edu Corresponding Author: Joseph Leo Wiemels, PhD, Center for Genetic Epidemiology, Keck School of Medicine, University of Southern
California, 1450 Biggy St. Los Angeles, CA 90033, USA (wiemels@usc.edu).wiemels@usc.edu Powered by the California Digital Library
University of California eScholarship.org Importance of the Study This nested case–control study within the inter-
vention arm of the Prostate, Lung, Colorectal,
and Ovarian Cancer (PLCO) Screening Trial rep-
licated that allergen-specific IgE is inversely as-
sociated with glioma risk. This is also the first
prospective study to show that a family history
of glioma is associated with increased glioma
risk, which is consistent with the literature. TGF-β1, which was analyzed in prospectively
collected serum samples, was not associated with glioma risk at baseline but became sig-
nificant closer towards diagnosis, which may
reflect the presence of a tumor before tumor
diagnosis or manipulation of the immune
system by the tumor prior to diagnosis. These
results are indicative of a protracted prod-
romal immune impact of glioma which may be
capitalized for early detection, prevention, or
treatment modalities to improve outcomes for
glioma patients. screening tools (NCT00339495). A total of 154,897 subjects
between ages 55 and 74 were randomized between 1993
and 2001 at 10 centers located across the United States
(Alabama,
Colorado,
Hawaii,
Michigan,
Minnesota,
Missouri, Pennsylvania, Utah, Washington D.C., and
Wisconsin). All participants provided informed consent and
completed a self-administered baseline questionnaire.14
All participants were cancer-free at inclusion and received
routine care with those in the intervention arm also re-
ceived cancer screening. Participants in the intervention
arm also provided blood samples at five predefined times
during the trial and form the basis of the Etiology and Early
Markers Study (EEMS), an ongoing observational cohort
with prediagnostic specimens. Follow-up for all partici-
pants lasted until at least 2010. Cancer occurrences were as-
certained by annual mailed questionnaire (>95% follow-up
rate) and verified through death certificates and medical
records. Ethical approval was obtained at all PLCO Cancer
Screening Trial sites. The current study was performed
on de-identified samples and data from the PLCO Cancer
Screening Trial, and was approved by IRBs at the University
of California San Francisco (UCSF), University of Southern
California (USC), and the National Cancer Institute Special
Studies Institutional Review Board (NCI-SSIRB). Nested Case–Control Study Nested Case–Control Study Only participants in the PLCO intervention arm were used for
this report because of the availability of blood samples. During
the follow-up period, newly diagnosed glioma cases were
identified as those diagnosed with International Classification
of Diseases for Oncology version 2 (ICD-O-2) site codes:
C71.0-C71.9. All cases had a histopathological glioma confir-
mation and the glioma diagnosis was the first cancer diag-
nosis for each individual glioma case. A total of 124 glioma
cases were identified and matched to 496 cancer-free controls
(1:4 ratio) based on age at enrollment (<60, 60–64, 65–69, ≥70),
sex, ethnicity, and month of blood draw (2 month groups
starting at January/February, March/April, etc.). Key Points This is an Open Access article distributed under the terms of the Creative Commons Attribution License (http://creativecommons.org/licenses/by/4.0/),
which permits unrestricted reuse, distribution, and reproduction in any medium, provided the original work is properly cited. © The Author(s) 2019. Published by Oxford University Press, the Society for Neuro-Oncology and the European Association of Neuro-Oncology. Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study 2 Importance of the Study Over recent decades, substantial progress has been made
with regard to the understanding of glioma epidemiology.1
A long-established risk factor for glioma is a history of ex-
posure to ionizing radiation.1,2 Several recent studies have
identified common germline genetic variants that are asso-
ciated with increased risk.3 Various other factors including
family history and allergy or atopy have also been consist-
ently associated with glioma risk.4–8 Apart from the question of glioma risk factors, another
relevant question remains whether certain factors may
reflect an underlying disease process before glioma di-
agnosis. Although the lifetime history of immune-related
diseases such as allergy and autoimmunity seems to
influence gliomagenesis,9,10 the tumor itself clearly ex-
hibits immunoevasive features such as secretion of
immunomodulatory cytokines, altered expression of
immunoregulatory receptors, and manipulation of the im-
mune cellular landscape proximal to the tumor.11 One of
the most clinically relevant questions is how long a glioma
may reside within the brain before it becomes sympto-
matic, and if and how it may undergo malignant transfor-
mation to higher grade gliomas. This is likely to vary by the
type of glioma. We believe that part of this process will be
found to include immunomodulatory manipulations. This study was designed to evaluate characteristics
at study entry and immune factors within prediagnostic
blood samples from the Prostate Lung Colorectal Ovarian
Cancer (PLCO) Cancer Screening Trial among glioma cases
and matched controls.12,13 The original aim of the PLCO
Cancer Screening Trial was to evaluate screening methods
in stored blood samples for utility in screening for common
cancers.12,13 The PLCO Cancer Screening Trial was extended
to include other diseases identified during follow-up,12,13 al-
lowing for evaluation of various immune factors and their
association with glioma risk at baseline and over time. Exposure Assessment Additional repeated serum samples were obtained by
PLCO staff at years 1, 2, 4, and 5 of follow-up. However,
only a subset of the repeated serum samples was analyzed,
with a higher proportion being requested from cases. One
or more repeated (post-baseline) serum samples were
obtained for 87% of cases (n = 108) and 15% of controls
(n = 72). Immune factors were measured using Luminex
for the cytokines (Millipore) and Phadia for the two IgE-
related measures. All tests were performed in duplicate
and in reference to appropriate standard curves. When du-
plicate measurements had a coefficient of variation of over
20%, the test was redone. Duplicate measures were aver-
aged for analysis. kU/mL.16 Respiratory allergen-specific IgE was categor-
ized as elevated if >0.35 PAU/L.10,17 TGF-β1 was categorized
by quartiles in controls at baseline (with cutpoints 1,027,
1,284.6, and 1,533.2 pg/mL). TNF-α was categorized by
quartiles in controls at baseline (with cutpoints 12.4, 16.5,
and 22.0 pg/mL). Variables that were evaluated by quar-
tiles were also visualized using boxplots by case–control
status and by measurement year and were created in R
(version 3.6.0). The association between evaluated baseline character-
istics and glioma was estimated by odds ratios (ORs) and
95% confidence intervals (CIs) using conditional logistic
regression. All models for BMI and weight were adjusted
for diabetes status and education. Models for smoking
history were adjusted for diabetes status, education, and
hypertension, and models for a family history of cancer or
glioma were adjusted for smoking status. BMI, weight, and
height were analyzed as categorical variables in all models. P-values for trend were calculated for BMI, weight, height,
and factors that were categorized by quartiles by entering
the ordinal values representing categories for these factors
as continuous variables in the models to evaluate trends. Conditional logistic regression was performed using the
“clogistic” function from the Epi package in R.18,19 Immune
factors were evaluated using a multivariate conditional lo-
gistic regression model with correction for batch number. An additional multivariate logistic regression model was
created, which incorporated measurements from the latest
available serum sample when available. This model was
adjusted for age, sex, ethnicity, and month of blood draw
as matching had to be broken for this analysis. Statistical Analysis Height and weight at age 20 and at study entry were de-
termined, and each was categorized based on quartile
cutpoints in controls for use in statistical models. Body
mass index (BMI) at age 20 and study entry was calcu-
lated as weight in kg divided by height in m2 and categor-
ized as <25, 25 to <30, and ≥30 kg/m2. Smoking status was
categorized as never smoker, past smoker, and current
smoker. IgEs were classified according to clinically ac-
cepted criteria and were categorized as elevated if >100 Exposure Assessment The PLCO Cancer Screening Trial was a prospective ran-
domized cancer screening trial with the aim of evaluating
the utility of X-rays for lung cancer diagnosis, sigmoidos-
copy for colorectal cancer, CA125 for ovarian cancer, and
Prostate Specific Antigen (PSA) for prostate cancer as Demographics, such as weight, height, smoking history,
cancer history among first-degree relatives, glioma his-
tory among first-degree relatives, diabetes, hypertension, Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study Neuro-Oncology
Advances comorbidities, and other potential risk factors for glioma,
were obtained from the baseline questionnaire admin-
istered at study entry. Data on exogenous hormone use,
parity, age of the first child, and menopausal status were
collected for female participants. Prostate-related factors
were also evaluated among male participants. Serum sam-
ples for subjects in our nested case–control study were
transferred to University of California at San Francisco
for conducting immune-related measurements, including
TGF-β1, TNF-α, total IgE, and respiratory allergen-specific
IgE (Phadiatop: mite, oak, ragweed, grass, dog, cat, and
Alternaria).15 Immune factors were measured using serum
samples collected at baseline for all cases and controls. Additional repeated serum samples were obtained by
PLCO staff at years 1, 2, 4, and 5 of follow-up. However,
only a subset of the repeated serum samples was analyzed,
with a higher proportion being requested from cases. One
or more repeated (post-baseline) serum samples were
obtained for 87% of cases (n = 108) and 15% of controls
(n = 72). Immune factors were measured using Luminex
for the cytokines (Millipore) and Phadia for the two IgE-
related measures. All tests were performed in duplicate
and in reference to appropriate standard curves. When du-
plicate measurements had a coefficient of variation of over
20%, the test was redone. Duplicate measures were aver-
aged for analysis. comorbidities, and other potential risk factors for glioma,
were obtained from the baseline questionnaire admin-
istered at study entry. Data on exogenous hormone use,
parity, age of the first child, and menopausal status were
collected for female participants. Prostate-related factors
were also evaluated among male participants. Serum sam-
ples for subjects in our nested case–control study were
transferred to University of California at San Francisco
for conducting immune-related measurements, including
TGF-β1, TNF-α, total IgE, and respiratory allergen-specific
IgE (Phadiatop: mite, oak, ragweed, grass, dog, cat, and
Alternaria).15 Immune factors were measured using serum
samples collected at baseline for all cases and controls. Results The baseline characteristics of glioma cases and con-
trols are depicted in Table 1. The mean age at entry was
63 years (SD = 5.2). The majority of both cases and Table 1. Baseline characteristics for the glioma cases and controls for matching variables and days to case–control status
Variable
Cases (N = 124)
Controls (N = 496)
P-value
Overall (N = 620)
Sex (N (%))
Male
81 (65)
324 (65)
>.99
405 (65)
Female
43 (35)
172 (35)
215 (35)
Ethnicity (N (%))
Non-Hispanic White
118 (95)
472 (95)
>.99
590 (95)
Hispanic
1 (1)
4 (1)
5 (1)
Black non-Hispanic
3 (2)
12 (2)
15 (2)
Other
2 (2)
8 (2)
10 (2)
Age (years (SD)
Mean (SD)
63.5 (±5.0)
63.4 (±5.3)
.884
63 (5.2)
Time to disease (cases) or censoring (controls, in years (SD))
Mean (SD)
6.5 (3.9)
12.4 (2.6)
<.001
11.2 (3.7)
The table depicts the variables that were used to match cases to controls. P-values were calculated using t-test for continuous variables and chi-
squared test for categorical variables. 1. Baseline characteristics for the glioma cases and controls for matching variables and days to case–control status The table depicts the variables that were used to match cases to controls. P-values were calculated using t-test for continuous variables and chi-
squared test for categorical variables. Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study 4 controls were male (65%). Non-Hispanic whites were the
most common ethnicity (95%), followed by non-Hispanic
blacks (2%), and Hispanics (1%). Observation time for
cases ended at diagnosis and therefore cases (mean
6.5 years) were observed for a shorter time than con-
trols (mean 12.4 years, P < .001). Ninety-three out of the
124 glioma cases were diagnosed with a glioblastoma
(GBM, 75.0%). Smoking status was not associated with glioma risk. No
comorbidity evaluated at baseline was associated with
glioma risk (Supplementary Table S1). None of the evalu-
ated factors specific to males and females were associated
with glioma risk (Supplementary Tables S2 and S3). Comparison of the distribution of TGF-β1 and TNF-α ap-
pears to indicate that, at later years of measurement,
higher TGF-β1 is observed among cases compared with
controls (Figure 1). In multivariate modeling of immune
factors at baseline, increased respiratory allergen-specific
IgE was inversely associated with glioma risk (OR for IgE
> 0.35 PAU/L: 0.59, P = 0.03, Table 3). Results No significant asso-
ciations were observed for TGF-β1, TNF-α, and total IgE. The multivariate logistic regression model that incorpo-
rated the latest available measures also showed that in-
creased respiratory allergen-specific IgE was significantly
inversely associated with glioma risk (OR for respiratory A family history among first-degree relatives of glioma
was associated with increased glioma risk (OR = 4.41,
P = .002, Table 2). A history of any cancer among first-de-
gree relatives was not associated with increased glioma
risk (P = .18). Increased weight (Q3 with Q1 as reference)
was associated with increased glioma risk (P = .03), but
the pattern across quartiles was not consistent (trend
P-value = .12). No other anthropometric factor at base-
line was significantly associated with case–control status. Table 2. Associations between anthropometric factors, smoking history, and family history of cancer and glioma among first-degree relatives at
baseline
Variable
Cases
Controls
OR
95% CI
P-value
P-value for trend
Low
High
BMI (kg/m2)a,b
<25
40
151
Ref. .86
25 to <30
53
226
1.01
0.59
1.73
.97
≥ 30
29
115
1.06
0.57
1.98
.86
BMI at age 20 (kg/m2)a
<25
93
419
Ref. .15
25 to <30
23
62
1.74
0.93
3.24
.08
≥30
3
9
1.10
0.20
6.02
.91
Weight (kg)a
Q1 (<70.6)
26
124
Ref. .12
Q2 (≥70.6 to <79.8)
24
123
1.13
0.51
2.48
.76
Q3 (≥79.8 to <90.7)
48
133
2.26
1.09
4.69
.03
Q4 (≥90.7)
25
116
1.49
0.66
3.35
.34
Height (cm)
Q1 (<165.2)
30
140
Ref. .09
Q2 (≥165.2 to <175)
34
125
1.49
0.78
2.84
.22
Q3 (≥175 to <182)
26
135
1.19
0.51
2.74
.69
Q4 (≥182)
32
92
2.16
0.93
5.02
.07
Smoking historyc
Nonsmoker
54
222
Ref. Past smoker
61
240
1.04
0.64
1.68
.88
Current smoker
9
34
1.89
0.71
5.01
.20
Family history of cancerd
Family history of cancer
77
275
1.33
0.88
2.00
.18
Family history of gliomad
Family history of glioma
9
8
4.41
1.69
11.47
.002
Height and weight were evaluated by quartiles among controls Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study Muskens et al. Results Risk factors for glioma: a PLCO cancer screening trial study Advances Neuro-Oncology
Ad 4000
0
1
2
4
5
P = 0.24
P = 5.1e–06
P = 6e–07
P = 0.0015
P = 0.0054
P = 0.45
P = 0.044
P = 0.068
P = 0.19
P = 0.024
0
1
2
4
5
3000
2000
150
100
50
0
TGF
TNF
1000
Control
Case
Control
Case
Control
Case
Control
Case
Control
Case
Control
Case
Control
Case
Control
Case-control status
Case
Control
Case
Control
Case
0
Fig. 1 Boxplots depicting TGF-β1 and TNF-α by case-control status and by measurement year. The boxplots depict the measures of TGF-β1 and
TNF-α by case–control status for each of the years of measurements (0, 1, 2, 4, and 5). No measurements were taken at year 3. P-values were
derived from t-tests. Fig. 1 Boxplots depicting TGF-β1 and TNF-α by case-control status and by measurement year. The boxplots depict the measures of TGF-β1 and
TNF-α by case–control status for each of the years of measurements (0, 1, 2, 4, and 5). No measurements were taken at year 3. P-values were
derived from t-tests. allergen-specific IgE > 0.35 PAU/L: 0.48, P = .005, Table 4). Unlike the baseline model, increased TFG-β1 was associ-
ated with increased glioma risk (OR for TGF-β1: Q4 vs. Q1:
2.96, P-value for trend: <.0001, Table 4). elevated respiratory allergen-specific IgE was associated
with decreased risk. This association was also identified
in a logistic regression model that incorporated the latest
available measurements to account for updated longitu-
dinal measurements in a portion of the study population. The logistic regression that incorporated the latest avail-
able measurements showed that elevated TGF-β1 is associ-
ated with increased glioma risk.i Discussion A family history of glioma among first-degree relatives
has previously been associated with increased glioma
risk,5–7,20 which is consistent with our study. To the best
of our knowledge, this is the first prospective cohort
study to show that a family history of glioma is associ-
ated with increased risk. The result is also unlikely to be
affected by diagnostic bias, since this history was col-
lected prior to glioma diagnosis among study subjects. This finding may be explained by families harboring
rare putative germline mutations that result in increased
risk, which is supported by studies that identified rare
germline variants in glioma predisposing genes among
such families.21–23 It has even been suggested that family In this study, glioma cases and matched controls among
the intervention arm of the EEMS component of the
PLCO Cancer Screening Trial were evaluated for base-
line characteristics and various immune-related factors
in prediagnostic blood serum for association with glioma
case–control status. With regard to baseline character-
istics, this study supported a role for family history of
glioma among first-degree relatives and increased glioma
risk but did not demonstrate significant associations with
various anthropometric factors such as BMI and height. We also evaluated various immune factors for associ-
ation with glioma case–control status and showed that Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study Table 3. Multivariate conditional logistic regression model for immune factors at baseline for association with glioma
OR
95% CI
P-value
P-value for trend
Low
High
Total IgE (kU/mL)
Normal (≤100)
Ref. Elevated (>100)
1.06
0.62
1.83
.82
Respiratory allergen-specific IgE (PAU/L)
Normal (≤0.35)
Ref. Elevated (>0.35)
0.59
0.37
0.95
.03
TNF-α (pg/mL)
.56
Q1 (≤12.4)
Ref. Q2 (>12.4 to ≤16.5)
0.89
0.48
1.65
.72
Q3 (>16.5 to ≤22.0)
0.95
0.52
1.73
.85
Q4 (>22.0)
1.18
0.65
2.15
.59
TGF-β1 (pg/mL)
.14
Q1 (≤1,027)
Ref. Q2 (>1,027 to ≤1,284.61)
0.98
0.52
1.85
.95
Q3 (>1284.61 to ≤1,533.15)
1.60
0.90
2.85
.11
Q4 (>1,533.15)
1.36
0.73
2.52
.34
ORs were stratified by matching set and adjusted for batch number. OR = odds ratio; CI = confidence interval. Bold values indicate significant P-values (i.e., P < .05). Table 3. Multivariate conditional logistic regression model for immune factors at baseline for association with glioma Table 3 i
Bold values indicate significant P-values (i.e., P < .05). Table 4. Strengths and Limitations This study has various strengths and limitations. The study’s
primary strengths are the availability of prediagnostic serum
samples, prospective nature, relatively large sample size,
and long duration of follow-up. Although the longitudinal
samples are helpful, one of the limitations is incomplete-
ness of analyzed repeated serum samples in the logistic
regression model that incorporated the latest available
measurements which were the result of selection consid-
erations. Estimates may, therefore, be less precise because
of the incompleteness of the follow-up measures. The use
of completely cancer-free controls may also have been too
restrictive. Cases were relatively oversampled for repeated
measures compared with controls, but we believe that this
has not introduced bias as the selection of cases and con-
trols and the selection of serum samples was not based on
any criteria other than availability for cases. At 75%, GBM
was a more common diagnosis than would be expected in
the general population44 probably due to the age of inclusion
of the PCLO Cancer Screening Trial. Another limitation is that
TGF-β1 was the only TGF isoform to be evaluated. To the best of our knowledge, this is the first study to
report an association between prediagnostic serum TGF-
β1 with regard to glioma risk. Our findings indicate that
increased prediagnostic TGF-β1 may reflect an underlying
disease process but may also be produced by the systemic
immune system in response to the glioma. Inhibition of
TGF-β has been shown to improve glioma survival in a
mouse model potentially due to inhibition of tumor fil-
tration and restoration of the immune surveillance.31
TGF-β1 greatly influences the immune system through
influencing T-cell development, limiting B-cell prolifera-
tion and differentiation, limiting the development of nat-
ural killer cells, and limiting dendritic cell functioning.32–34
It has been suggested that this immunologic inhibition by
TGF-β1 is necessary for the creation of tolerance for self-
and innocuous antigens such as gut bacteria and food and
TGF-β1 malfunctioning may result in severe autoimmu-
nity.34 Secretion of TGF-β1 by glioma cells may, therefore,
facilitate an immunotolerant environment necessary for
cancerous growth. Discussion Multivariate logistic regression model using the latest available measurements for each study participant
Variable
OR
95% CI
P-value
P-value for trend
Low
High
Total IgE (kU/mL)
Normal (≤100)
Ref. Elevated (>100)
0.88
0.48
1.55
.67
Respiratory allergen-specific IgE (PAU/L)
Normal (≤0.35)
Ref. Elevated (>0.35)
0.48
0.28
0.97
.005
TNF-α (pg/mL)
.60
Q1 (≤12.4)
Ref. Q2 (>12.4 to ≤16.5)
1.05
0.56
2.00
.87
Q3 (>16.5 to ≤22.0)
1.40
0.76
2.59
.28
Q4 (>22.0)
1.07
0.58
2.01
.82
TGF-β1 (pg/mL)
<.0001
Q1 (≤1,027)
Ref. Q2 (>1,027 to ≤1,284.61)
0.80
0.40
1.55
.50
Q3 (>1,284.61 to ≤1,533.15)
1.43
0.76
2.69
.27
Q4 (>1,533.15)
2.96
1.68
5.31
.0002
ORs were stratified by matching set and adjusted for batch number. OR = odds ratio; CI = confidence interval. Bold values indicate significant P-values (i.e., P < .05). Table 4. Multivariate logistic regression model using the latest available measurements for each study participant Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study Neuro-Oncology
Advances members of a particular family with multiple reported
gliomas tend to develop gliomas of the same molecular
subtype.24 Increased height has previously been associ-
ated with increased glioma risk,25,26 but this was not ob-
served in this study. be used clinically to identify people at high risk for glioma,
identify cases before symptoms occur, and identify pa-
tients with tumors responsive to anti-TGF-β therapy. While
targeting the TGF beta pathway is under development and
has been problematic,42,43 other prediagnostic markers
certainly need to be discovered for the use of high-quality
prediagnostic cohorts may help facilitate developments in
preclinical prevention of a deadly disease that has resisted
clinical breakthroughs for decades. y
The negative association between allergen-specific IgE
and glioma risk has been previously identified,10 but this
was not significant in another study.27 A reported history of
atopy has also previously been associated with decreased
glioma risk.4,8 However, a recent Mendelian randomization
study only provided weak evidence for an association be-
tween atopy risk and glioma28; hence, the genetic compo-
nent of this risk may be low. Keywords Although these results have not yet been validated by
other studies, they may provide a potential roadmap for
early detection and treatment of prodromal glioma prior
to clinical symptoms. TGF-β1 and other factors such as
tumor-secreted exosomes41 and germline mutations3 may Supplementary Material Supplementary material is available at Neuro-Oncology
Advances online. Discussion Higher prediagnostic total IgE
has also been associated with decreased glioma risk,10 al-
though one other study did not observe this association.27
A meta-analysis using a combination of studies of pre-
and post-diagnostic sera identified that higher total IgE
was associated with decreased risk, but that respiratory
allergen-specific IgE was not,29 which is not in line with
the findings of the current study as total IgE was not asso-
ciated with glioma case–control status. We were not able
to assess self-reported allergy as the PLCO cohort had not
collected data on this factor, but our result is in line with
other studies that assessed hay fever and other reported
measures of respiratory allergy as being inversely associ-
ated with glioma.9,30 Strengths and Limitations TGF-β may result in T-cell sequestra-
tion in the bone marrow among GBM patients through
down-regulation of S1P1,35 but it should be noted that
TGF-β blockade did not result in less T-cell sequestration.35
Glioma cell line studies have also shown that glioma
cells produce TGF-β1 for retention of stemness of glioma
initiating cells (GICs) through an induced expression
of various genes including Sox2, a stemness gene.36,37
Furthermore, TGF-β1 has been shown to promote cell mi-
gration and invasiveness in glioma and may be involved
in angiogenesis.38–40 In conclusion, this study suggests that certain lifetime
immune-related factors may be associated with glioma risk
long before diagnosis such as respiratory allergen-specific
IgE. This study also shows that TGF-β1 becomes associated
with glioma risk closer towards diagnosis which may reflect
the underlying disease process. Further evaluation in other
and larger glioma cohorts with access to prediagnostic blood
samples are needed to confirm these associations and to eval-
uate potential clinical utility as a diagnostic or screening tool. Supplementary Material
Supplementary material is available at Neuro-Oncology
Advances online. Keywords
allergy | glioma | PLCO | TGF-β1
Funding
This study was supported by U01CA182371 from the NIH. References 18. Carstensen B, Plummer M, Laara E, Hills M. Epi: A Package for
Statistical Analysis in Epidemiology. 2019; https://CRAN.R-project.org/
package=Epi. 1. Ostrom QT, Barnholtz-Sloan JS. Current state of our knowledge on
brain tumor epidemiology. Curr Neurol Neurosci Rep. 2011;11(3):
329–335. 19. Team. RC. R: A language and environment for statistical computing. 2018; https://www.R-project.org/. 20. Blumenthal DT, Cannon-Albright LA. Familiality in brain tumors. Neurology. 2008;71(13):1015–1020. 2. Braganza MZ, Kitahara CM, Berrington de Gonzalez A, Inskip PD,
Johnson KJ, Rajaraman P. Ionizing radiation and the risk of brain and
central nervous system tumors: a systematic review. Neuro Oncol. 2012;14(11):1316–1324. 21. Andersson U, Wibom C, Cederquist K, et al. Germline rearrangements in
families with strong family history of glioma and malignant melanoma,
colon, and breast cancer. Neuro Oncol. 2014;16(10):1333–1340. 22. Bainbridge MN, Armstrong GN, Gramatges MM, et al. Germline muta-
tions in shelterin complex genes are associated with familial glioma. J
Natl Cancer Inst. 2015;107(1):384. 3. Melin BS, Barnholtz-Sloan JS, Wrensch MR, et al. Genome-wide associ-
ation study of glioma subtypes identifies specific differences in genetic
susceptibility to glioblastoma and non-glioblastoma tumors. Nat Genet. 2017;49(5):789–794. 23. Ronellenfitsch MW, Oh JE, Satomi K, et al. CASP9 germline mutation in
a family with multiple brain tumors. Brain Pathol. 2018;28(1):94–102. 4. Amirian ES, Zhou R, Wrensch MR, et al. Approaching a scientific con-
sensus on the association between allergies and glioma risk: a report
from the glioma international case-control study. Cancer Epidemiol
Biomarkers Prev. 2016;25(2):282–290. 24. Ruiz VY, Praska CE, Armstrong G, et al. Molecular subtyping of tumors
from patients with familial glioma. Neuro Oncol. 2018;20(6):810–817. 25. Wiedmann MKH, Brunborg C, Di Ieva A, et al. The impact of body mass
index and height on the risk for glioblastoma and other glioma subgroups:
a large prospective cohort study. Neuro Oncol. 2017;19(7):976–985. 5. Wrensch M, Lee M, Miike R, et al. Familial and personal medical history
of cancer and nervous system conditions among adults with glioma and
controls. Am J Epidemiol. 1997;145(7):581–593. 26. Cote DJ, Downer MK, Smith TR, Smith-Warner SA, Egan KM,
Stampfer MJ. Height, waist circumference, body mass index, and body
somatotype across the life course and risk of glioma. Cancer Causes
Control. 2018;29(8):707–719. 6. Scheurer ME, Etzel CJ, Liu M, et al. Aggregation of cancer in first-degree
relatives of patients with glioma. Cancer Epidemiol Biomarkers Prev. 2007;16(11):2491–2495. 27. Calboli FC, Cox DG, Buring JE, et al. Acknowledgments 12. Black A, Huang WY, Wright P, et al. PLCO: evolution of an epidemiologic
resource and opportunities for future studies. Rev Recent Clin Trials. 2015;10(3):238–245. The authors thank the participants of Prostate, Lung, Colorectal,
and Ovarian (PLCO) Cancer Screening Trial and the PLCO inves-
tigators and staff of them for their help generating the datasets
and samples for this study. Contents of this manuscript were
presented at the Brain Tumor Epidemiology Consortium (BTEC)
meeting in Los Angeles (July 2019). 13. Gohagan JK, Prorok PC, Hayes RB, Kramer BS, Prostate LC, Ovarian
Cancer Screening Trial Project T. The Prostate, Lung, Colorectal
and Ovarian (PLCO) Cancer Screening Trial of the National Cancer
Institute: history, organization, and status. Control Clin Trials. 2000;21(6
Suppl):251S–272S. 14. Hayes RB, Sigurdson A, Moore L, et al. Methods for etiologic
and early marker investigations in the PLCO trial. Mutat Res. 2005;592(1–2):147–154. Conflict of interest statement. The authors report no con-
flicts of interest. Conflict of interest statement. The authors report no con-
flicts of interest. 15. Williams PB, Siegel C, Portnoy J. Efficacy of a single diagnostic test
for sensitization to common inhalant allergens. Ann Allergy Asthma
Immunol. 2001;86(2):196–202. 16. Culver EL, Sadler R, Bateman AC, et al. Increases in IgE, eosinophils,
and mast cells can be used in diagnosis and to predict relapse of IgG4-
related disease. Clin Gastroenterol Hepatol. 2017;15(9):1444–1452
e1446. Authorship statement: Concept of study: JLW, laboratory
work and analyses: MZ, LM, HH, PMB, statistical analyses: ISM,
WJG, JLW, draft of the manuscript: ISM, JLW, careful review of
manuscript: MZ, LM, PMB, HH, JKW, MRW, WJG. 17. Zeng G, Hu H, Zheng P, et al. The practical benefit of Phadiatop test as
the first-line in vitro allergen-specific immunoglobulin E (sIgE) screening
of aeroallergens among Chinese asthmatics: a validation study. Ann
Transl Med. 2018;6(8):151. Funding This study was supported by U01CA182371 from the NIH. Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study 8 11. Boussiotis VA, Charest A. Immunotherapies for malignant glioma. Oncogene. 2018;37(9):1121–1141. References Prediagnostic plasma IgE levels and
risk of adult glioma in four prospective cohort studies. J Natl Cancer
Inst. 2011;103(21):1588–1595. 7. Hemminki K, Li X. Familial risks in nervous system tumors. Cancer
Epidemiol Biomarkers Prev. 2003;12(11 Pt 1):1137–1142. 8. Wiemels JL, Wilson D, Patil C, et al. IgE, allergy, and risk of glioma:
update from the San Francisco Bay Area Adult Glioma Study in the
temozolomide era. Int J Cancer. 2009;125(3):680–687. 28. Disney-Hogg L, Cornish AJ, Sud A, et al. Impact of atopy on risk of
glioma: a Mendelian randomisation study. BMC Med. 2018;16(1):42. 29. Ma C, Cao L, Zhao J, et al. Inverse association between prediagnostic
IgE levels and the risk of brain tumors: a systematic review and meta-
analysis. Biomed Res Int. 2015;2015:294213. 9. Wiemels JL, Wiencke JK, Sison JD, Miike R, McMillan A, Wrensch M. History of allergies among adults with glioma and controls. Int J Cancer. 2002;98(4):609–615. 30. Wiemels JL, Wiencke JK, Patoka J, et al. Reduced immunoglobulin E
and allergy among adults with glioma compared with controls. Cancer
Res. 2004;64(22):8468–8473. 10. Schwartzbaum J, Ding B, Johannesen TB, et al. Association be-
tween prediagnostic IgE levels and risk of glioma. J Natl Cancer Inst. 2012;104(16):1251–1259. Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study Muskens et al. Risk factors for glioma: a PLCO cancer screening trial study Neuro-Oncology
Advances 31. Tran TT, Uhl M, Ma JY, et al. Inhibiting TGF-beta signaling restores
immune surveillance in the SMA-560 glioma model. Neuro Oncol. 2007;9(3):259–270. 38. Lu Y, Jiang F, Zheng X, et al. TGF-beta1 promotes motility and inva-
siveness of glioma cells through activation of ADAM17. Oncol Rep. 2011;25(5):1329–1335. 39. Zhang J, Yang W, Zhao D, et al. Correlation between TSP-1, TGF-beta
and PPAR-gamma expression levels and glioma microvascular density. Oncol Lett. 2014;7(1):95–100. 32. Yamamoto T, Imoto S, Sekine Y, et al. Involvement of NF-kappaB in
TGF-beta-mediated suppression of IL-4 signaling. Biochem Biophys Res
Commun. 2004;313(3):627–634. 33. Li MO, Flavell RA. TGF-beta: a master of all T cell trades. Cell. 2008;134(3):392–404. 40. Platten M, Wick W, Wild-Bode C, Aulwurm S, Dichgans J, Weller M. Transforming growth factors beta(1) (TGF-beta(1)) and TGF-beta(2)
promote glioma cell migration via Up-regulation of alpha(V)beta(3)
integrin expression. Biochem Biophys Res Commun. 2000;268(2):
607–611. 34. Sanjabi S, Oh SA, Li MO. Regulation of the immune response by TGF-
beta: from conception to autoimmunity and infection. Cold Spring Harb
Perspect Biol. 2017;9(6):a022236. 41. Kros JM, Mustafa DM, Dekker LJ, Sillevis Smitt PA, Luider TM, Zheng PP. Circulating glioma biomarkers. Neuro Oncol. 2015;17(3):343–360. 35. Chongsathidkiet P, Jackson C, Koyama S, et al. Sequestration of T cells
in bone marrow in the setting of glioblastoma and other intracranial tu-
mors. Nat Med. 2018;24(9):1459–1468. 42. de Gramont A, Faivre S, Raymond E. Novel TGF-beta inhibitors ready for
prime time in onco-immunology. Oncoimmunology. 2017;6(1):e1257453. 36. Ikushima H, Todo T, Ino Y, Takahashi M, Miyazawa K, Miyazono K. Autocrine
TGF-beta signaling maintains tumorigenicity of glioma-initiating
cells through Sry-related HMG-box factors. Cell Stem Cell. 2009;
5(5):504–514. 43. Connolly EC, Freimuth J, Akhurst RJ. Complexities of TGF-beta targeted
cancer therapy. Int J Biol Sci. 2012;8(7):964–978. 44. Ostrom QT, Gittleman H, Truitt G, Boscia A, Kruchko C, Barnholtz-
Sloan JS. CBTRUS statistical report: primary brain and other central
nervous system tumors diagnosed in the United States in 2011–2015. Neuro Oncol. 2018;20(suppl_4):iv1–iv86. 37. Penuelas S, Anido J, Prieto-Sanchez RM, et al. TGF-beta increases
glioma-initiating cell self-renewal through the induction of LIF in human
glioblastoma. Cancer Cell. 2009;15(4):315–327.
|
https://openalex.org/W2584540670
|
https://zaguan.unizar.es/record/60706/files/texto_completo.pdf
|
English
| null |
Field efficacy of acaricides against Varroa destructor
|
PloS one
| 2,017
|
cc-by
| 8,190
|
RESEARCH ARTICLE Editor: Wolfgang Blenau, University of Cologne,
GERMANY Received: February 3, 2016
Accepted: January 17, 2017
Published: February 3, 2017 Marı´a Jesu´s Gracia1*, Carlos Moreno2, Montserrat Ferrer3, Alfredo Sanz4, Miguel
A´ ngel Periba´ñez1, Rosa Estrada1 1 Parasitologı´a y Enfermedades Parasitarias, Departamento de Patologı´a Animal, Facultad de Veterinaria,
Universidad de Zaragoza-CITA, Zaragoza, Spain, 2 Gene´tica Animal, Departamento de Anatomı´a,
Embriologı´a y Gene´tica Animal, Facultad de Veterinaria, Universidad de Zaragoza-CITA, Zaragoza, Spain,
3 Servicio de Ordenacio´n y Sanidad Animal, Departamento de Agricultura y Alimentacio´n, Diputacio´n
General de Arago´n, Zaragoza, Spain, 4 ARNA, Asociacio´n Apı´cola, Zaragoza, Spain * mjgracia@unizar.es a1111111111
a1111111111
a1111111111
a1111111111
a1111111111 Abstract a1111111111
a1111111111
a1111111111
a1111111111
a1111111111 Field trials were conducted in Northeast Spain (Arago´n) to evaluate the effectiveness of two
acaricides against Varroa destructor. These experiments took into account the season of
the year, apiary, colony, and developmental state and strength of the colony. The acaricides
used were a synthetic (amitraz, Apivar®) and a natural (formulated from Api Life Var®, thy-
mol oil and thymol alcohol) product. The treatments used in the present study reduce high
infestations of V. destructor, although they do not eliminate the infestation. Similar efficacies
between treatments were found. Nevertheless, the efficacy of a treatment depends on the
apiary where applied. Moreover, the detected variability in the apiary and hive poses a chal-
lenge to the identification of the significant factors. Therefore, more field studies to assess
efficacies in several apiaries are needed to obtain a better understanding of the effects of
the applied treatments. Introduction Varroa destructor (Anderson and Trueman) (Acari: Mesostigmata) is the main parasite of
Apis mellifera, and it can cause the collapse of untreated colonies in a few years. Mite control
is imperative to maintain the honey bee colonies in most beekeeping regions around the
world. Synthetic acaricides such as fluvalinate, flumetrine, amitraz, coumaphos, and cymia-
zole have been used successfully to control V. destructor. However, pesticides can leave resi-
dues in the wax and honey, and in recent years, the intensive utilization of many chemicals
against V. destructor has resulted in the development of resistance in the mites to acaricides
[1]. Copyright: © 2017 Gracia et al. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which
permits unrestricted use, distribution, and
reproduction in any medium, provided the original
author and source are credited. OPEN ACCESS Citation: Gracia MJ, Moreno C, Ferrer M, Sanz A,
Periba´ñez MA´, Estrada R (2017) Field efficacy of
acaricides against Varroa destructor. PLoS ONE 12
(2): e0171633. doi:10.1371/journal.pone.0171633 Editor: Wolfgang Blenau, University of Cologne,
GERMANY Field efficacy of acaricides against Varroa
destructor Marı´a Jesu´s Gracia1*, Carlos Moreno2, Montserrat Ferrer3, Alfredo Sanz4, Miguel
A´ ngel Periba´ñez1, Rosa Estrada1 Marı´a Jesu´s Gracia1*, Carlos Moreno2, Montserrat Ferrer3, Alfredo Sanz4, Miguel
A´ ngel Periba´ñez1, Rosa Estrada1 * mjgracia@unizar.es Acaricides against Varroa destructor major criticism of using plant-derived treatments for Varroa control is that their efficacy is less
reliable [1]. Amitraz and thymol are two of the main products used to control V. destructor in Spain,
both having acaricidal activity, whereas thymol also has repellent effects [15]. Amitraz (a for-
mamidine pesticide) acts on the target pest species by interacting with the octopamine receptor
of the central nervous system and is known as a neurotoxic, sublethal miticide [16]. Amitraz is
spread in the colony from the contact between the honey bees and the plastic strips containing
the active ingredient. Its effectiveness has been demonstrated with values from 83.8% to 99.5%
[17–21]. Thymol is a constituent of plant-derived essential oils. The miticidal action of thymol
is exerted mainly by evaporation on a support but also by contact, as bees access the medium,
and thereby "disintegrate" and "disperse it" throughout the hive. Its effectiveness has been dem-
onstrated with values ranging from 70% to 97% [4–14]. Numerous factors contribute to the overall efficacy of an acaricide, including the concentra-
tion of the compound involved, treatment period, and the colony and apiary environment. Moreover, the efficacy of some compounds depends on the evaporation pressure within the
colony; therefore, the time of year or the ambient temperature during treatment application
[6] can influence the effectiveness of the treatment. Bee activity influences the amount of the
active substance that will be distributed on the surface of the bees [21]; therefore, a larger pop-
ulation could favor the dispersion of the product and consequently achieve greater efficacy
[10, 14]. Other factors, such as the amount of brood in the hive [21, 22], the severity of the
infestation [10, 23], delivery method used [10, 11, 15, 24], and hive type [6], have also been sug-
gested to affect treatment efficacy. Because different factors may influence the effectiveness of
an acaricide, field studies to establish this possibility should be carried out in different apiaries
[25]. Efficient control of the honey bee parasite V. destructor is a major concern for beekeepers
around the world. For this reason, the present study intends to evaluate, in different apiaries,
the effectiveness of a synthetic (amitraz, Apivar1) and a natural product (Api Life Var1, thy-
mol oil and thymol alcohol) against Varroa destructor in relation to the season of the year, api-
ary, colony, and the developmental state and strength of the colony. PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 Data Availability Statement: All relevant data are
within the paper. Data Availability Statement: All relevant data are
within the paper. Data Availability Statement: All relevant data are
within the paper. For these reasons, alternative methods of control have been promoted. Over the past few
years, the worldwide trend has been to use natural substances, particularly some organic acids,
especially formic acid [2] and oxalic acid [3], and essential oils and their components, espe-
cially thymol [4–14]. The general advantages of these natural compounds are sufficient efficacy
against V. destructor and the low risk of residues and accumulation in bee products [11]. A Funding: This study was carried out with the
financial contribution of the Spanish Government,
INIA project (API 98-008). Competing Interests: The authors have declared
that no competing interests exist. 1 / 14 PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 For that, the surface occupied by adult and immature worker honey
bees (eggs, larva and capped brood) on each side of every frame (frame size: 42 x 20 cm) was
evaluated [21, 26, 27] and the number of frames occupied by adult and brood allows us to quan-
tify the colony strength. For each colony, the infestation rates in the adult bees and brood were
measured on day 0 (initial infestation) and on day 42 (final infestation) of the treatment. For the
adult bees, approximately 500 workers from each colony were obtained by brushing one comb
taken from the center of the brood nest. They were placed in a plastic pot containing ethanol
(25%, in water) which was shaken vigorously. The mites were separated from bees by means of
a 3 mm sieve placed on top of a 0.1 mm sieve [28, 29]. The mites and bees were counted and the
results were expressed as the percentage of the ratio of number of mites/number of bees. For the
sealed brood, approximately 400 cells of the sealed brood- each one contained one worker pupa
—were examined per colony. To obtain a representative sampling; the samples were taken from
the center of the brood nest from a minimum of three different frames (near, mid and far of
treatment). The infestation was measured by a standardized method [29, 30]. Briefly explained,
it consisted on opening individual cells, extracting larva, pre-pupa or pupa and examining cell
walls using an appropriate source of light to finally confirm the presence of the mites themselves
in the cell or on the brood. The results were expressed as the percentage of the number of mites/
number of brood cells. Table 2 shows the initial strength and the initial (final) infestation in
adult and brood for each treatment in each apiary. Statistical analysis
In this experiment, efficacy is the studied trait. Specifically, efficacy of the “ith” hive for a con-
crete stage (adult or brood) is defined as the ratio between the final infestation and initial
* The duration and repetition of treatments follow the maker´s guidelines. doi:10.1371/journal.pone.0171633.t001 * The duration and repetition of treatments follow the maker´s guidelines. In each apiary, the hives were randomly arranged into five groups, A, B, C, D and E, of five
hives each (Table 1). To obtain a representative sampling; the samples were taken from
the center of the brood nest from a minimum of three different frames (near, mid and far of
treatment). The infestation was measured by a standardized method [29, 30]. Briefly explained,
it consisted on opening individual cells, extracting larva, pre-pupa or pupa and examining cell
walls using an appropriate source of light to finally confirm the presence of the mites themselves
in the cell or on the brood. The results were expressed as the percentage of the number of mites/
number of brood cells. Table 2 shows the initial strength and the initial (final) infestation in
adult and brood for each treatment in each apiary. Materials and methods The study was carried out in Northeast Spain (mid-Ebro valley, Arago´n), in eight apiaries of
25 colonies each. The climate in the Ebro River valley is Mediterranean continental, with little
rain (average annual rainfall 300–400 mm). Most precipitation falls in autumn and spring,
while winter and summer are dry. The climate is characterized by important diurnal and
seasonal oscillations. The average median temperature is 25˚C in July and August (absolute
maximum above 40˚C) and the coldest month is January with an average of 5˚C (absolute
minimum below -10˚C). The treatments were applied during a period of 6 weeks in autumn (September-November)
and spring (April-June) (four apiaries each season) outside the honey flow, when honey bees
are active and a sealed brood is usually present. The apiaries were composed of Langstroth
hives. All hives were occupied by A. mellifera colonies naturally infested by V. destructor. The
honey bee colonies had not received any treatment for a year before the field trials. The study
was carried out on private land, and the landowners gave permission to conduct the study on
these sites. No specific permissions were required for these locations/activities, and the field
studies did not involve endangered or protected species. All relevant regulations (e.g. national,
legal) were followed when applying the pesticide mixtures and conducting the experiments. PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 2 / 14 Colonies of group A each received Api Life Var1, (Chemicals LAIF, Vig-
onza, Italy); colonies of group B each received Apivar1 (Laboratorios Calier S.A. Barcelona,
Spain); colonies of group C each received a mix of thymol in olive oil; colonies of group D
each received a mix of thymol in ethanol; and colonies of group E were used as control and
received no treatment. The two thymol homemade preparations, thymol oil and thymol alco-
hol, were produced following the methodology of previous assays [8, 10] by mixing thymol
(PRS Panreac minimum purity of 99–101%) in oil or ethanol, respectively. The oil or ethanol
(20 ml) was heated, and the thymol (15 g) was added during agitation until complete dissolu-
tion was achieved. The mix was poured into a piece of floral foam, which was sealed to prevent
evaporation prior to its use in the apiary. Before and after each treatment, the colony strength and the mite infestation levels were
monitored. Colony strength indicates the potential of a hive of bees to pollinate horticultural or
agricultural crops and is evaluated by estimating the number of adult honey bees and the
amount of brood in a hive. For that, the surface occupied by adult and immature worker honey
bees (eggs, larva and capped brood) on each side of every frame (frame size: 42 x 20 cm) was
evaluated [21, 26, 27] and the number of frames occupied by adult and brood allows us to quan-
tify the colony strength. For each colony, the infestation rates in the adult bees and brood were
measured on day 0 (initial infestation) and on day 42 (final infestation) of the treatment. For the
adult bees, approximately 500 workers from each colony were obtained by brushing one comb
taken from the center of the brood nest. They were placed in a plastic pot containing ethanol
(25%, in water) which was shaken vigorously. The mites were separated from bees by means of
a 3 mm sieve placed on top of a 0.1 mm sieve [28, 29]. The mites and bees were counted and the
results were expressed as the percentage of the ratio of number of mites/number of bees. For the
sealed brood, approximately 400 cells of the sealed brood- each one contained one worker pupa
—were examined per colony. To obtain a representative sampling; the samples were taken from —were examined per colony. Acaricides against Varroa destructor Table 1. Description of the experimental groups. Group
A
B
C
D
E
Name
Api Life Var®
Apivar®
Thymol-oil
Thymol-alcohol
Control
Active ingredient
thymol, eucalyptol, menthol, camphor
amitraz
Thymol
Thymol
No a.i. How applied
Vermiculite carrier matrix
Polyethylene strips
Floral foam (8x5x1 cm)
Floral foam (8x5x1 cm)
Dose
2 tablets x 10 g
2 strips x 0.5 g
2 floral foam x 15 g
2 floral foam x 15 g
Localization
Upper part of the brood combs
Into the brood nest
Upper part of the brood combs
Upper part of the brood combs
Duration*
42 days (replace at 21 days)
42 days
42 days (replace at 21 days)
42 days (replace at 21 days)
* The duration and repetition of treatments follow the maker´s guidelines. Table 1. Description of the experimental groups. In each apiary, the hives were randomly arranged into five groups, A, B, C, D and E, of five
hives each (Table 1). Colonies of group A each received Api Life Var1, (Chemicals LAIF, Vig-
onza, Italy); colonies of group B each received Apivar1 (Laboratorios Calier S.A. Barcelona,
Spain); colonies of group C each received a mix of thymol in olive oil; colonies of group D
each received a mix of thymol in ethanol; and colonies of group E were used as control and
received no treatment. The two thymol homemade preparations, thymol oil and thymol alco-
hol, were produced following the methodology of previous assays [8, 10] by mixing thymol
(PRS Panreac minimum purity of 99–101%) in oil or ethanol, respectively. The oil or ethanol
(20 ml) was heated, and the thymol (15 g) was added during agitation until complete dissolu-
tion was achieved. The mix was poured into a piece of floral foam, which was sealed to prevent
evaporation prior to its use in the apiary. Before and after each treatment, the colony strength and the mite infestation levels were
monitored. Colony strength indicates the potential of a hive of bees to pollinate horticultural or
agricultural crops and is evaluated by estimating the number of adult honey bees and the
amount of brood in a hive. Statistical analysis In this experiment, efficacy is the studied trait. Specifically, efficacy of the “ith” hive for a con-
crete stage (adult or brood) is defined as the ratio between the final infestation and initial 3 / 14 PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 Acaricides against Varroa destructor infestation with respect to the mean of the same ratio obtained from the control hives of the
apiary where the hive is placed: Efficacyi ¼
(
ðFIi=IIiÞ=
X
j¼1;nc
ðFIi=IIiÞ=nc
) where FIi (IIi) is the final (initial) infestation of the “ith” hive for a concrete stage (adult or brood),
FIj (IIj) is the final (initial) infestation of the “jth” control hive for a concrete stage, and nc is the
number of control hives of the apiary where the “ith” hive is placed. Moreover, the final (initial)
infestation is expressed as the percentage of mites in adult or brood stages in the “ith” hive after
(before) the treatment. Because the definition of efficacy is a ratio between the final and initial infestation, the most
efficient treatment is that with a zero value of efficacy. Moreover, with this definition, the final
infestation is related not only to the initial level of infestation but also to the development of
the infestation process in the corresponding apiary. In this sense, to reduce the initial infesta-
tion in an apiary where the infestation in control hives has increased does not show the same
efficacy as when the infestation has decreased. Statistical analysis Efficacy is justified with the following mixed linear model: Yijklm ¼ m þ si þ aij þ tk þ cijkl þ pm þ bðxijklm mxÞ þ sitk þ sipm þ tkaij þ tkpm þ pmaij þ sitkpm
þ aijtkpm þ eijklm; where Yijklm is the efficacy obtained in the “lth” hive located in the “jth” apiary of the “ith” season
when the “kth” treatment is applied in the “mth” stage; μ is the population mean; si is the season
effect (spring (s1), autumn (s2)); aij is the apiary effect, with four apiaries analyzed in spring and
the other four in autumn; tk is the treatment effect, also with four levels (Api Life Var1 (t1), Api-
var1 (t2), thymol-oil (t3) and thymol-alcohol (t4)); cijkl is the hive effect, with a maximum of five
hives for each combination of apiary and treatment; pm is the physiological stage effect (adult (p1),
brood (p2)); b is the coefficient of regression defined between efficacy and the initial number of
frames in the corresponding hive (xijklm), being μx the mean number of frames in the population;
sitk is the season-treatment interaction; sipm is the season-physiological stage interaction; tkaij is
the treatment-apiary interaction; tkpm is the treatment- physiological stage interaction; pmaij is the
physiological stage-apiary interaction; sitkpm is the season-treatment-physiological stage interac-
tion; aijtkpm is the apiary-treatment-physiological stage interaction; and eijklm is the residual term. In this model, all factors were assumed to be fixed, except apiary, hive and the residual,
which are random. The proposed model is solved using the Univariate General Linear Model
option of the IBM SPSS Statistics program. Furthermore, a backward stepwise selection strat-
egy has been followed to reach the final model, where the factor with a greater p-value is elimi-
nated in each step. This process stops when only factors with a p-value lower or equal to 0.2 or
factors that are essential for the architecture of the model remain. Results The mean initial and final infestation, and mean efficacy of the raw data are shown in Table 3
for each combination of the season-physiological stage-treatment levels. The results of this
Table lead us to suspect that the season-treatment-physiological stage interaction can be
important (in spring, the efficiency mean of the thymol alcohol in the brood is worse than in
the adult, whereas in autumn, it is just the opposite). The results of the analysis of variance applied to the data are displayed in Table 4, where
only the covariate has been eliminated because of its lack of signification. Hence, in the 4 / 14 PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 Acaricides against Varroa destructor obtained final model, the season-treatment-physiological stage interaction is very close to sig-
nificance, whereas the apiary-treatment-physiological stage interaction is clearly significant, as
are the physiological stage-apiary and the treatment-apiary interactions, and the apiary factor. To understand the significance of the apiary-treatment-physiological stage interaction, Fig 1
shows the interaction between the first four apiaries (apiaries of spring) and treatments at the
second level of stage (brood), with this being the only conditional interaction that is signifi-
cant. The same interaction at the first level of stage (adult) is not significant, as it happens, as
well as the interaction between the apiaries of autumn and treatments at both levels of stage. Clearly, the significance of this conditional interaction is justified by the poor effect of treat-
ment four (thymol-alcohol) in the first apiary. In fact, when an analysis of the residuals is con-
ducted, an outlier is detected, which corresponds to the efficacy of this treatment obtained in
the brood of the third hive. The value of this observation (293.4%) suggests an error, justifying
its exclusion from the analysis. When an analysis of variance is done from the data without the outlier, the results shown in
Table 5 are obtained where, because of the backward stepwise selection strategy applied, the
covariate, the season-treatment-physiological stage interaction and the apiary-treatment-phys-
iological stage interaction are eliminated from the model. Moreover, the Akaike’s Information
Criterion of this final model is 857.4, whereas the value of this criterion in the complete model
is 945.2; this result, therefore, confirms the adequacy of the achieved model. Hence, as
Table 2. (Continued)
Api Life Var
Apivar
Thymol oil
Thymol alcohol
Control
Adult
MNF
6.4
6.0
6.8
6.4
8.8
MII
7.5
9.5
14.0
11.4
14.7
MFI
0.0
0.0
1.1
1.2
23.0
Brood
MNF
2.0
3.0
3.5
3.0
MII
40.7
118.2
50.9
39.0
MFI
0.0
2.4
0.0
35.8
Apiary 7
Adult
MNF
9.4
8.7
10.8
8.8
9.4
MII
13.5
1.4
2.6
1.1
1.7
MFI
1.3
2.8
1.2
1.1
6.1
Brood
MNF
2.5
2.5
2.0
2.5
MII
24.2
46.7
1.1
5.7
MFI
4.9
4.9
0.0
12.5
Apiary 8
Adult
MNF
7.2
10.4
7.8
7.6
9.2
MII
6.3
7.4
5.9
8.4
12.4
MFI
2.5
0.1
2.7
2.2
13.3
Brood
MNF
MII
MFI
doi:10.1371/journal.pone.0171633.t002
| Table 2. Acaricides against Varroa destructor Table 2. Strength, expressed as mean number of initial frames (MNF), mean initial (MII) and mean final infestation (MFI) of the raw data, the last
two concepts expressed as a percentage, for each combination of apiary, physiological stage and treatment levels. Blank boxes: no brood in the
colony Table 2. Strength, expressed as mean number of initial frames (MNF), mean initial (MII) and mean final infestation (MFI) of the raw data, the last
two concepts expressed as a percentage, for each combination of apiary, physiological stage and treatment levels. Blank boxes: no brood in the
colony. Api Life Var
Apivar
Thymol oil
Thymol alcohol
Control
Apiary 1
Adult
MNF
6.3
5.3
6.0
6.8
4.5
MII
7.6
26.4
11.5
10.8
11.5
MFI
0.3
0.4
0.1
2.4
15.6
Brood
MNF
4.7
3.5
5.3
6.0
4.0
MII
2.9
12.6
8.0
2.1
23.4
MFI
0.3
0.6
0.0
7.2
47.2
Apiary 2
Adult
MNF
16.0
16.0
13.8
13.7
13.2
MII
1.3
3.5
6.8
9.6
8.3
MFI
0.2
0.8
1.2
1.5
15.3
Brood
MNF
7.3
6.3
8.2
4.8
7.0
MII
6.9
22.2
17.8
36.0
23.9
MFI
0.0
24.1
0.3
6.9
67.1
Apiary 3
Adult
MNF
7.6
8.0
7.6
7.4
7.0
MII
9.2
12.4
13.3
11.7
13.9
MFI
2.8
0.7
0.7
8.6
26.1
Brood
MNF
6.0
6.7
6.4
6.2
4.8
MII
17.0
8.2
14.0
11.6
23.5
MFI
9.2
3.8
1.2
11.3
42.9
Apiary 4
Adult
MNF
8.4
9.6
9.8
5.2
5.8
MII
14.9
16.5
6.4
8.8
5.4
MFI
1.6
0.6
0.9
0.3
10.4
Brood
MNF
6.0
5.8
6.0
2.0
4.3
MII
8.8
35.6
11.1
23.8
6.5
MFI
9.0
3.3
3.4
0.0
16.8
Apiary 5
Adult
MNF
13.8
18.8
14.3
7.0
17.0
MII
8.9
8.1
2.1
0.7
5.2
MFI
1.9
0.3
1.2
0.0
5.6
Brood
MNF
9.0
5.7
8.0
3.3
5.5
MII
27.2
85.0
4.6
5.3
6.1
MFI
1.8
7.4
7.0
0.0
21.3
Apiary 6
(Continued) PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 5 / 14 PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 Spring
Autumn
Adult
Brood
Adult
Brood
Api Life Var
N
18
15
20
8
MNF
9.9
6.1
9.2
5.8
MII
8.3
9.8
9.0
25.7
MFI
1.3
4.9
1.4
3.3
ME
9.5(2.7)
19.8(9.8)
18.0(5.4)
9.1(6.4)
12.1(3.2)
Apivar
N
19
15
17
4
MNF
10.0
5.5
10.8
4.8
MII
14.1
20.4
7.1
73.9
MFI
0.6
8.2
0.6
5.5
ME
8.2(3.1)
20.2(7.6)
4.3(2.5)
18.3(16.8)
11.7(3.4)
Thymol oil
N
19
19
17
5
MNF
9.5
6.5
9.4
4.8
MII
9.4
13.0
6.9
44.2
MFI
0.8
1.3
1.6
5.2
ME
13.8(6.5)
5.0(3.3)
23.7(8.9)
17.8(16.2)
11.6(3.1)
Thymol alcohol
N
18
13
16
6
MNF
8.1
5.1
7.4
3.2
MII
10.2
19.5
6.5
19.8
MFI
3.3
8.8
1.3
0.0
ME
10.2(3.3)
52.9(24.7)
16.1(5.7)
0.0(0.0)
17.5(3.5)
doi:10.1371/journal.pone.0171633.t003
Table 4. Results of the analysis of variance corresponding to efficacy. Source
Degrees of freedom
Mean square
F
p-value
Season
1
1598.4
0.550
0.4863
Apiary
6
2906.2
4.181
0.0008
Treatment
3
1086.2
0.379
0.7693
Hive
114
695.2
1.338
0.1120
Phys. stage
1
3435.5
1.156
0.3314
Season-Treat. inter. 3
250.6
0.087
0.9663
Season-Phys. inter. 1
1831.0
0.616
0.4681
Treat.-Apia. inter. 18
2864.6
4.121
0.0000
Treat.-Phys. inter. 3
2506.8
1.098
0.3850
Phys.-Apia. inter. 5
2972.6
5.721
0.0002
Seas-Treat-Phy inter. 3
1380.8
2.657
0.0569
Api-Treat-Phy inter. 13
2282.8
4.393
0.0000
Residual
57
519.6
doi:10.1371/journal.pone.0171633.t004
PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017
7 / 14 presented in Table 5, the significant factors of the model are the apiary, the hive, and the treat-
ment-apiary and the physiological stage-apiary interactions, whereas the treatment-physiologi-
cal stage interaction is very close to significance. presented in Table 5, the significant factors of the model are the apiary, the hive, and the treat-
ment-apiary and the physiological stage-apiary interactions, whereas the treatment-physiologi-
cal stage interaction is very close to significance. presented in Table 5, the significant factors of the model are the apiary, the hive, and the treat-
ment-apiary and the physiological stage-apiary interactions, whereas the treatment-physiologi-
cal stage interaction is very close to significance. Table 4. Results of the analysis of variance corresponding to efficacy. Source
Degrees of freedom
Mean square
F
p-value
Season
1
1598.4
0.550
0.4863
Apiary
6
2906.2
4.181
0.0008
Treatment
3
1086.2
0.379
0.7693
Hive
114
695.2
1.338
0.1120
Phys. stage
1
3435.5
1.156
0.3314
Season-Treat. inter. 3
250.6
0.087
0.9663
Season-Phys. inter. 1
1831.0
0.616
0.4681
Treat.-Apia. inter. 18
2864.6
4.121
0.0000
Treat.-Phys. inter. 3
2506.8
1.098
0.3850
Phys.-Apia. inter. (Continued)
Api Life Var
Apivar
Thymol oil
Thymol alcohol
Control
Adult
MNF
6.4
6.0
6.8
6.4
8.8
MII
7.5
9.5
14.0
11.4
14.7
MFI
0.0
0.0
1.1
1.2
23.0
Brood
MNF
2.0
3.0
3.5
3.0
MII
40.7
118.2
50.9
39.0
MFI
0.0
2.4
0.0
35.8
Apiary 7
Adult
MNF
9.4
8.7
10.8
8.8
9.4
MII
13.5
1.4
2.6
1.1
1.7
MFI
1.3
2.8
1.2
1.1
6.1
Brood
MNF
2.5
2.5
2.0
2.5
MII
24.2
46.7
1.1
5.7
MFI
4.9
4.9
0.0
12.5
Apiary 8
Adult
MNF
7.2
10.4
7.8
7.6
9.2
MII
6.3
7.4
5.9
8.4
12.4
MFI
2.5
0.1
2.7
2.2
13.3
Brood
MNF
MII
MFI
doi:10.1371/journal.pone.0171633.t002 obtained final model, the season-treatment-physiological stage interaction is very close to sig-
nificance, whereas the apiary-treatment-physiological stage interaction is clearly significant, as
are the physiological stage-apiary and the treatment-apiary interactions, and the apiary factor. To understand the significance of the apiary-treatment-physiological stage interaction, Fig 1
shows the interaction between the first four apiaries (apiaries of spring) and treatments at the
second level of stage (brood), with this being the only conditional interaction that is signifi-
cant. The same interaction at the first level of stage (adult) is not significant, as it happens, as
well as the interaction between the apiaries of autumn and treatments at both levels of stage. Clearly, the significance of this conditional interaction is justified by the poor effect of treat-
ment four (thymol-alcohol) in the first apiary. In fact, when an analysis of the residuals is con-
ducted, an outlier is detected, which corresponds to the efficacy of this treatment obtained in
the brood of the third hive. The value of this observation (293.4%) suggests an error, justifying
its exclusion from the analysis. When an analysis of variance is done from the data without the outlier, the results shown in
Table 5 are obtained where, because of the backward stepwise selection strategy applied, the
covariate, the season-treatment-physiological stage interaction and the apiary-treatment-phys-
iological stage interaction are eliminated from the model. Moreover, the Akaike’s Information
Criterion of this final model is 857.4, whereas the value of this criterion in the complete model
is 945.2; this result, therefore, confirms the adequacy of the achieved model. Hence, as 6 / 14 PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 Acaricides against Varroa destructor Table 3. Number of observations (N), mean number of initial frames (MNF), mean initial infestation (MII), mean final infestation (MFI), and mean
efficacy of the raw data (ME, standard error is in parentheses), expressed as a percentage, for each combination of season, physiological stage
and treatment levels. In the right margin, the estimated marginal mean efficacy (standard error is in parentheses) for each treatment is shown. Table 3. Number of observations (N), mean number of initial frames (MNF), mean initial infestation (MII), mean final infestation (MFI), and mean
efficacy of the raw data (ME, standard error is in parentheses), expressed as a percentage, for each combination of season, physiological stage
and treatment levels. In the right margin, the estimated marginal mean efficacy (standard error is in parentheses) for each treatment is shown. Spring
Autumn
Adult
Brood
Adult
Brood
Api Life Var
N
18
15
20
8
MNF
9.9
6.1
9.2
5.8
MII
8.3
9.8
9.0
25.7
MFI
1.3
4.9
1.4
3.3
ME
9.5(2.7)
19.8(9.8)
18.0(5.4)
9.1(6.4)
12.1(3.2)
Apivar
N
19
15
17
4
MNF
10.0
5.5
10.8
4.8
MII
14.1
20.4
7.1
73.9
MFI
0.6
8.2
0.6
5.5
ME
8.2(3.1)
20.2(7.6)
4.3(2.5)
18.3(16.8)
11.7(3.4)
Thymol oil
N
19
19
17
5
MNF
9.5
6.5
9.4
4.8
MII
9.4
13.0
6.9
44.2
MFI
0.8
1.3
1.6
5.2
ME
13.8(6.5)
5.0(3.3)
23.7(8.9)
17.8(16.2)
11.6(3.1)
Thymol alcohol
N
18
13
16
6
MNF
8.1
5.1
7.4
3.2
MII
10.2
19.5
6.5
19.8
MFI
3.3
8.8
1.3
0.0
ME
10.2(3.3)
52.9(24.7)
16.1(5.7)
0.0(0.0)
17.5(3.5)
doi:10.1371/journal.pone.0171633.t003 presented in Table 5, the significant factors of the model are the apiary, the hive, and the treat-
ment-apiary and the physiological stage-apiary interactions, whereas the treatment-physiologi-
cal stage interaction is very close to significance. and treatment levels. In the right margin, the estimated marginal mean efficacy (standard error is in parentheses) for each treatment is shown. 5
2972.6
5.721
0.0002
Seas-Treat-Phy inter. 3
1380.8
2.657
0.0569
Api-Treat-Phy inter. 13
2282.8
4.393
0.0000
Residual
57
519.6
doi:10.1371/journal.pone.0171633.t004 Table 4. Results of the analysis of variance corresponding to efficacy. 7 / 14 Acaricides against Varroa destructor Fig 1. Interaction between the apiaries of spring and the treatments on the brood. Fig 1. Interaction between the apiaries of spring and the treatments on the brood. doi:10.1371/journal.pone.0171633.g001 Fig 1. Interaction between the apiaries of spring and the treatments on the brood. doi:10.1371/journal.pone.0171633.g001 To explain the significant treatment-apiary interaction, Fig 2 shows the interaction between
the first four apiaries (spring apiaries) and the treatments, which is the only partial interaction
that is significant (the interaction between the apiaries in autumn and the treatments is not
significant). In this Fig, the treatment effect is clearly shown to depend on the apiary where Table 5. Results of the analysis of variance corresponding to efficacy from the data without the outlier. Source
Degrees of freedom
Mean square
F
p-value
Season
1
5302.3
2.491
0.1656
Apiary
6
2128.8
3.255
0.0054
Treatment
3
353.8
0.314
0.8150
Hive
114
654.1
1.461
0.0420
Phys. stage
1
585.5
0.507
0.5083
Season-Treat. inter. 3
430.2
0.382
0.7670
Season-Phys. inter. 1
338.8
0.293
0.6111
Treat.-Apia. inter. 18
1125.6
1.721
0.0452
Treat.-Phys. inter. 3
1182.1
2.641
0.0561
Phys.-Apia. inter. 5
1154.9
2.580
0.0332
Residual
72
447.7
doi:10.1371/journal.pone.0171633.t005 Results of the analysis of variance corresponding to efficacy from the data without the outlier. PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 8 / 14 Acaricides against Varroa destructor Fig 2. Interaction between the apiaries in spring and the treatments. Fig 2. Interaction between the apiaries in spring and the treatments. doi:10.1371/journal.pone.0171633.g002 Fig 2. Interaction between the apiaries in spring and the treatments. doi:10.1371/journal.pone.0171633.g002 applied, as observed with treatment four (thymol alcohol), which shows the least efficacy in
the first apiary and the best in the fourth. With respect to the physiological stage-apiary interaction, Fig 3 shows the only partial sig-
nificant interaction between the apiaries in spring and the physiological stage. This Fig indi-
cates that the efficacy in the adult or brood stages depends on the location of the apiary. In this
sense, the efficacy registered in the brood in the second apiary is the best, whereas it is the
worst in the third one. Finally, although the treatment-physiological stage interaction is not significant, the analy-
sis of this interaction was interesting. Fig 4 shows that the efficacy of treatments could depend
of the stage when applied. Fig 3. Interaction between the apiaries in spring and the physiological stage. doi:10.1371/journal.pone.0171633.g003 must be replaced after twenty-one days) because the treatments were applied following the
manufacturer’s recommendations. The formulation of the product appeared to be one of the
major factors affecting its effectiveness [10, 11, 15, 24], and important differences were
observed between the different formulations of thymol [11]. In our work, the lack of statistical
significance in the efficacy between a marketed product, Api Life Var1, and the handmade
products, thymol dissolved in oil and thymol dissolved in alcohol was interesting. Anyway,
although there are no differences between the two kinds of products (marketed vs handmade
treatments) the use of homemade chemical mixtures in honeybee colonies to control V. destructor should follow the specific legal regulations of each country. Nevertheless, as dis-
cussed below, the most important result obtained from the treatments was the different effect
of the treatment as a function of the apiary where applied. must be replaced after twenty-one days) because the treatments were applied following the
manufacturer’s recommendations. The formulation of the product appeared to be one of the
major factors affecting its effectiveness [10, 11, 15, 24], and important differences were
observed between the different formulations of thymol [11]. In our work, the lack of statistical
significance in the efficacy between a marketed product, Api Life Var1, and the handmade
products, thymol dissolved in oil and thymol dissolved in alcohol was interesting. Anyway,
although there are no differences between the two kinds of products (marketed vs handmade
treatments) the use of homemade chemical mixtures in honeybee colonies to control V. destructor should follow the specific legal regulations of each country. Nevertheless, as dis-
cussed below, the most important result obtained from the treatments was the different effect
of the treatment as a function of the apiary where applied. Spring and autumn constitute the most common seasons for beekeepers to apply control
measures for Varroa, and thus any difference between how the treatments work in spring or
autumn is important. This is especially important for those treatments most dependent on
external temperature [31], as with the products that evaporate (thymol) compared to those
spread by contact (amitraz). PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 Discussion As shown in the right margin of Table 3, all treatments decrease the level of infestation of V. destructor although they do not eliminate the infestation. In our work, the similarity in efficacy
among the four treatments was notable. We might have expected greater efficacy from amitraz
(Apivar1), a synthetic acaricide in comparison with the natural products [1]. Nevertheless, no
significant differences were observed between them, whether the product was marketed or
handmade. We think that these results cannot be justified as a consequence of the repetition of
some but not all treatments (one application of Apivar1 compared to other treatments which PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 9 / 14 Acaricides against Varroa destructor Fig 3. Interaction between the apiaries in spring and the physiological stage. Fig 3. Interaction between the apiaries in spring and the physiological stage. doi:10.1371/journal.pone.0171633.g003 PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 Manufacturers recommend treatment in spring and/or autumn;
however, application during the late autumn is usually not effective enough, and studies show
that in autumn the parasitism in the brood is higher and could cause a decreased effectiveness
of the acaricides [10, 23, 32]. However, with respect to season, in our trial, no differences were PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 10 / 14 Acaricides against Varroa destructor Fig 4. Interaction between treatments and physiological stage. doi:10.1371/journal.pone.0171633.g004 Fig 4. Interaction between treatments and physiological stage. doi:10.1371/journal.pone.0171633.g004 doi:10.1371/journal.pone.0171633.g004 detected between the seasons. Moreover, the lack of significance of the season-treatment inter-
action means that we cannot recommend one treatment over another with regard to the time
of application. In this experiment, a statistical significance of efficacy between the apiaries was detected, a
result that agrees with those previously obtained [21, 25]. Moreover, the interaction between
treatment and apiary is also significant, which states that the efficacy of the treatment depends
on the apiary where is applied, particularly when treatments are carried out in spring. This is
especially evident (Fig 2) with treatment four (thymol alcohol), which showed the worst effi-
cacy in the first apiary and showed the best in the fourth one. Other interesting responses are
shown by the good efficacy of Api Life Var1 (treatment 1) in apiaries one, two and four
against the poor results in apiary three; or by the different efficacy of treatment three (thymol
oil) in apiary one versus the results in apiary four. The efficacy depends on the apiary to which
treatment is applied but we can see a similar efficacy in some treatments. In spring, except api-
ary 1, the efficacy of treatment 1 (Api Life Var1) is identical to that of treatment 4 (thymol
alcohol); good efficacy in apiaries 2 and 4 and poor efficacy in apiary 3. This could be due to
the use of the same active ingredient and that the homemade preparation of thymol alcohol
acts in a manner more similar to the commercial product Api Life Var1 than the other treat-
ment with thymol (thymol oil). Although not as obvious, a similar efficacy is also observed for
treatments 2 and 3 (Apivar1 and thymol oil), depending on the apiary where the test is PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 11 / 14 Acaricides against Varroa destructor performed. One possible explanation for this similarity of two products with different a.i. and
way they spread in the colony is that the oil, in certain circumstances, does not allow the evap-
oration of thymol and acts more like a contact acaricide. That is, certain conditions occurring
in apiaries cause similarity in effectiveness of acaricides. Most trials of efficacy against Varroa
have been performed in a single apiary, but the management, variety of bees used, humidity,
temperature and other location-dependent factors influence the results; therefore, testing in a
single apiary can yield inaccurate results. Our study confirms the need to design experiments
where treatments are proven in various apiaries. The statistically significant differences found among the hives are interesting. This result
agrees with reports from other authors; significant variability in the level of susceptibility to
amitraz between the mite populations originating from different colonies in the same apiary
has been noted [33]. In addition, a high colony-to-colony variability of the thymol effectiveness
against V. destructor was found [6, 11, 24], suggesting that the high variability in the efficacy of
the volatile compound was influenced by biological and/or climatic factors [11] and the model
of the hive [6]. Our work does not allow us to draw explicit conclusions on the causes of the
different efficacy of treatments among the hives. The active substance dosage acting on the
Varroa mites through the adult bees is of decisive importance; thus, not only the amount of
active ingredient contained in the treatment but also the bees’ activities influence the amount
of the active substance that will appear on the surface of the bees’ bodies [21]. The efficacy of
an acaricide can be conditional on the colony environment and especially on its placement in
the apiary. That is, a hive placed in a sunny and warmer area would allow a more effective
treatment; the external temperature not only would affect the release of the treatment but
would have a bigger impact on the activity of the honey bee colonies. With regard to the developmental state, we might think that the treatments are more effec-
tive against the phoretic mites on the workers than in the brood population, especially if we
consider the life cycle of this parasite and the shelter the mite receives in the capped cells [1]. However, in this assay, an absence of differences in the efficacy of treatments relative to the
developmental state was found. Nevertheless, the significant physiological stage-apiary interac-
tion must be highlighted. Our results indicate that the efficacy in the adult or brood state in the
spring depends on the apiary where the treatments are applied (Fig 3). In this sense, we obtain
the best efficacy in the brood in apiary two and the worst in the apiary three, and similar effica-
cies in apiaries one and four, whereas the efficacy registered in the adult is similar in the four
apiaries. Another interesting point is that, although the treatment-physiological stage interac-
tion is not significant, Fig 4 indicates that the efficacy of the treatments could depend of the
stage where applied. Hence, according to the conditions under which this study was con-
ducted, we could recommend one treatment or another depending of the size of the brood
present in the hive; when a small brood is present, we would recommend Apivar1, whereas
in times of increased brood, we recommend the use of thymol oil. Finally, it is also important to know which treatments will work best depending on the
strength of the hive. A larger population could favor the dispersion of the product and conse-
quently would achieve greater efficacy [10, 14]. In the present study, the lack of significance of
the covariate introduced in the model (the number of initial frames of the hive) indicates that
no differences in efficacy were found relative to this aspect. Hence, we cannot recommend a
concrete treatment according to the strength of the hive. Writing – review & editing: MJG CM MAP. Writing – review & editing: MJG CM MAP. Conclusions Similar efficacies between treatments were found. Nevertheless, the efficacy of the treatment
depends on the apiary where applied. Moreover, the detected variability of the apiary and hive 12 / 14 PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 Acaricides against Varroa destructor poses a challenge regarding the identification of those factors that are significant. Therefore, poses a challenge regarding the identification of those factors that are significant. Therefore,
more field studies are necessary to assess the efficacies in several apiaries and thereby obtain a
better understanding of the effects of the applied treatments. poses a challenge regarding the identification of those factors that are significant. Therefore,
more field studies are necessary to assess the efficacies in several apiaries and thereby obtain a
better understanding of the effects of the applied treatments. Software: CM. Supervision: MJG MF. Validation: MJG MF CM. Writing – original draft: MJG CM. Acknowledgments We are grateful to the beekeeping associations in Arago´n (Spain) that made the assays
possible. Conceptualization: MJG MF. Data curation: CM RE. Formal analysis: CM. Funding acquisition: MJG MF CM. Investigation: MJG MF AS MAP RE. Methodology: MJG MF CM. PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 Project administration: MJG MF. Resources: AS. Resources: AS. Software: CM. References 15. Imdorf A, Bogdanov S, Iba´ñez Ochoa R, Calderone NW. Use of essential oils for the control of Varroa
jacobsoni Oud. in honey bee colonies. Apidologie. 1999; 30: 209–228. 16. Evans PD., Gee JD. Action of formamidine pesticides on octopamine receptors. Nature. 1980; 28: 60–
62. 17. Floris I, Satta A, Garau VL, Melis M, Cabras P, Aloul N. Effectiveness, persistence, and residue of ami-
traz plastic strips in the apiary control of Varroa destructor. Apidologie. 2001; 32: 577–585. 18. Chuda-Mickiewicz B, Prabucki J, Samborski J, Rostecki P. Evaluation of varroacidal efficacy of Biowar
preparation. J Apic Sci. 2007; 51(2): 47–53. 19. Faucon JP., Drajnudel P, Chauzat MP, Aubert M. Controˆle de l’efficacite´ du me´dicament APIVAR ND
contre Varroa destructor, parasite de l’abeille domestique. Rev Med Vet. 2007; 158(6): 283–290. 20. Vallon J, Savary F, Jourdan P. Suivi de l’efficacite´ des traitements contre Varroa destructor be´ne´ficiant
d’une AMM au cours de l’automne et l’hiver 2006/2007. Bulletin Technique Apicole. 2007; 34(2): 49–
54. 21. Semkiw P, Skubida P, Pohorecka K. The amitraz strips efficacy in control of Varroa destructor after
many years application of amitraz in apiaries. J Apic Sci. 2013; 57(1): 107–121. 22. Emsen B, Dodologlu A. The effects of using different organic compounds against Honey Bee Mite (Var-
roa destructor Anderson and Trueman) on colony developments of honey bee (Apis mellifera L.) and
residue levels in honey. J Anim Vet Adv. 2009; 8(5): 1004–1009. 23. Mattila HR, Otis GW. The efficacy of Apiguard against Varroa and tracheal mites, and its effect on
honey production: 1999 trial. Am Bee J. 2000; 140: 969–973. 24. Arculeo P. Studio comparativo di prodotti a base di timolo nel controllo Della Varroa in Sicilia. In: Atti
Conv. AMA Il ruolo Della recerca in apicultura, 25–26 March 2002, Bologna, Italy. Instituto Nazionale
Apicoltura, Bologna, Italy. 2002. 25. Ferrer-Dufol M, Moreno-Manera C, Martı´nez-Viñuales AI, Sa´nchez-Acedo C, Gracia-Salinas MJ. Field
trials of treatments against Varroa jacobsoni using fluvalinate and flumethrin strips in honey bee colo-
nies containing sealed brood. J Apicult Res. 1995; 34(3): 147–152. 26. Giovenazzo P, Dubreuil P. Evaluation of spring organic treatments against Varroa destructor (Acari:
Varroidae) in honey beee Apis mellifera (Hymenoptera: Apidae) colonies in eastern Canada. Exp Appl
Acarol. 2011; 55: 65–76. doi: 10.1007/s10493-011-9447-3 PMID: 21442305 27. Delaplane KS, Van Der Steen J, Guzman E. Standard methods for estimating strength parameters of
Apis mellifera colonies. In Dietemann V.; Ellis J. References 1. Rosenkranz P, Aumeier P, Ziegelmann B. Biology and control of Varroa destructor. J Invertebr
Pathol.2010; 103: S96–S119. doi: 10.1016/j.jip.2009.07.016 PMID: 19909970 2. Van Engelsdorp D, Underwood RM, Cox-Foster DL. Short-term fumigation of honey bee (Hymenoptera:
Apidae) colonies with formic and acetic acids for the control of Varroa destructor (Acari: Varroidae). J
Econ Entomol.2008; 101(2): 256–264. PMID: 18459386 3. Rademacher E, Harz M. Oxalic acid for the control of varroosis in honey bee colonies–a review. Apido-
logie. 2006; 37(1): 98–120. 4. Chiesa F. Effective control of varroatosis using powdered thymol. Apidologie. 1991; 22: 135–145. 5. Calderone NW, Spivak M. Plant extracts for control of the parasitic mite Varroa jacobsoni (Acari: Varroi-
dae) in colonies of the western honey bee (Hymenoptera: Apidae). J Econ Entomol.1995; 88(5): 1211–
1215. 6. Imdorf A, Bogdanov S, Kilchenmann V, Maquelin C. Apilife Var: A new varroacide with thymol as the
main ingredient. Bee World. 1995; 76(2): 77–83. 7. Mattila HR, Otis GW. Trials of Apiguard, a Thymol based miticide. Part 1. Efficacy for control of parasitic
mites and residues in honey. Am Bee J. 1999; 139: 947–952. 8. Flores JM, Ruiz JA, Cunha SR, Ruz JM, Puerta F, Campano F, et al. Situacio´n actual y perspectivas de
los tratamientos en el control de Varroa jacobsoni Oud. en Andalucı´a. Vida Apı´cola. 2000; 104: 26–31. 9. Isman M. Plant essential oils for pest and disease management. Crop Prot. 2000; 19: 603–608. 10. Carmona M, Valero A, Zalacaı´n I, Zalacaı´n A, Salinas MR. Influencia del timol en la puesta de crı´a de la
abeja melı´fera. Vida Apı´cola. 2002; 113: 35–43. PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 13 / 14 Acaricides against Varroa destructor 11. Floris I, Satta A, Cabras P, Garau VL, Angioni A. Comparison between two thymol formulations in the
control of Varroa destructor: effectiveness, persistence, and residues. J Econ Entomol. 2004; 97: 187–
191. PMID: 15154435 12. Eguaras M, Ruffinengo S. Estrategia para el control de Varroa. Ed. Martin, Mar del Plata, Argentina. 2006; 149 pp. 13. Schmidt V, Neira M, Carrillo R. Evaluacio´n comparative de los acaricidas Bayvarol (Flumetrina) y Apilife
Var (Timol, Eucaliptol, Mentol y Alcanfor) en el control del a´caro Varroa destructor Anderson & Trueman
en e´poca primaveral. Agro Sur. 2008; 36(1): 8–14. 14. Bulacio Cagnolo N, Basualdo N, Eguaras M. Actividad Varroocida del timol en colonias de Apis melli-
fera L. de la provincia de Santa Fe. InVet. 2010; 12(1): 85–90. PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 References D.; Neumann P. (Eds) The COLOSS BEEBOOK, Vol-
ume I: standard methods for Apis mellifera research. J Apicult Res. 2013; 52(1): 28. Go´mez Pajuelo A, Molins-Marı´n JL, Pe´rez-Garcı´a F. Diagno´stico ra´pido de campo de Varroa jacobsoni,
Oud. Vida Apı´cola. 1987; 21: 32–33. 29. OIE (World Organisation for Animal Health) Varoosis of honey bees. Chapter 2.2.7. In: OIE. Manual of
diagnostic tests and vaccines for terrestrial animals (mammals, birds and bees), Vol. 1. 6th ed. OIE. Paris. pp. 424–430. 2008. 30. Accorti M, Barbattini R, Marchetti S. Le diagnosi ed il controllo di Varroa jacobsoni Oud. In campo: pro-
posta di unificazione nelle prove sperimentali, Apicoltura. 1986; 2: 165–185. 31. Calderone NW. Evaluation of formic acid and a thymol-based blend of natural products for the fall con-
trol of Varroa jacobsoni (Acari: Varroidae) in colonies of Apis mellifera (Hymenoptera: Apidae). J Econ
Entomol. 1999; 92: 253–260. 32. Calderone NW, Wilson WT, Spivak M. Plant extracts used for control of the parasitic mites Varroa
jacobsoni (Acari: Varroida) and Acarapis woodi (Acari: Tarsonemidae) in colonies of Apis mellifera
(Hymenoptera: Apidae). J Econ Entomol. 1997; 90(5): 1080–1086. 33. Pohorecka K, Bober A. Amitraz sensitivity of Varroa destructor populations from apiaries treated with
amitraz and fluvalinate. In Proceedings of the XXV Science Conference Apiculture, Pulawy, Poland,
11–12 March 2008, pp. 83–85. PLOS ONE | DOI:10.1371/journal.pone.0171633
February 3, 2017 14 / 14
|
https://openalex.org/W4389816003
|
https://www.researchsquare.com/article/rs-3708268/latest.pdf
|
English
| null |
Maximum Likelihood Estimation of Parameters of the Elliptical Distribution Using Depth-based Multivariate Records
|
Research Square (Research Square)
| 2,023
|
cc-by
| 9,420
|
Maximum Likelihood Estimation of Parameters of
the Elliptical Distribution Using Depth-based
Multivariate Records Samaneh Tat ( s_tat@sbu.ac.ir )
Shahid Beheshti University
Mohammad Reza Faridrohani
Shahid Beheshti University Samaneh Tat ( s_tat@sbu.ac.ir )
Shahid Beheshti University
Mohammad Reza Faridrohani
Shahid Beheshti University Research Article Keywords: Data depth, Multivariate record values, Depth-based record values, Maximum likelihood
estimation Posted Date: December 15th, 2023 DOI: https://doi.org/10.21203/rs.3.rs-3708268/v1 License: This work is licensed under a Creative Commons Attribution 4.0 International License. Read Full License Additional Declarations: No competing interests reported. Additional Declarations: No competing interests reported. ∗Corresponding Author: m faridrohani@sbu.ac.ir 1Department of Statistics, Faculty of Mathematical Sciences,, Shahid
Beheshti University, Iran
2Department of Statistics, Faculty of Mathematical Sciences,, Shahid
Beheshti University, Tehran, Iran 1Department of Statistics, Faculty of Mathematical Sciences,, Shahid
Beheshti University, Iran
2Department of Statistics, Faculty of Mathematical Sciences,, Shahid
Beheshti University, Tehran, Iran December 12, 2023 Maximum Likelihood Estimation of
Parameters of the Elliptical Distribution
Using Depth-based Multivariate Records Samaneh Tat1 and Mohammad Reza Faridrohani, ∗2 1
Introduction Let R1, R2, · · · and L(1), L(2), · · · denote the consecutive record values and the cor-
responding record times, respectively, observed in a sequence of univariate indepen-
dent random variables {X1, X2, · · · } with common continuous cumulative distribu-
tion function (cdf) F(x, θ), where θ is a vector of parameters. An univariate upper
record is defined as follows. By convention, L(1) = 1, R1 = X1 and then for i ≥2,
L(i) = min{j > L(i −1) : Xj > XL(i−1)} and Ri = XL(i). Univariate lower records
are defined analogously. Now assume that the first m records, R1, · · · , Rm, are ob-
served. The parameter estimation based on R1, · · · , Rm, is an important problem in
the univariate record literature. Numerous works have been done in this field so far. When the underlying distribution is normal, the best linear unbiased estimators of
the parameters via records are discussed by Balakrishnan and Chan (1998). Jaheen
(2004) considers the empirical Bayesian estimation for the parameter of the expo-
nential model based on record values. When the record values arise from a geometric
distribution, non-Bayesian and Bayesian estimators for the unknown parameters are
derived by Doostparast and Ahmadi (2006). Moreover, for estimation based on uni-
variate record values, we can refer to Doostparast
(2009), Kizilaslan and Nadar
(2013) and Ahsanullah and Nevzorov (2015) which contain the estimation of param-
eters for several distributions assuming that only record value data are available. In multivariate cases, studying the inferential problems based on record values
is far from developed while there are various definitions for records such as Pareto
record, dominating record, chain record and the newly defined depth-based record. To get familiar with them and to study their properties one can refer to Tat and
Faridrohani (2021) and the references therein. Let X1, X2, · · · be a sequence of independent identically distributed (i.i.d) Rp-
valued random vectors with an absolutely continiuous distribution function F(x, θ)
and probability density function f(x, θ), where θ is a vector of parameters. Suppose,
the first m record values R1, · · · , Rm from the common distribution with the cdf
F(x, θ) are observed. These values can be derived from each concept of the mul-
tivariate record types. Abstract In this article, the maximum likelihood estimation approach is considered for
estimating the unknown parameters of some members of the elliptical distributions
using the depth-based multivariate record values, a new innovative concept of records
recently defined by the authors. Unlike other multivariate records, depth-based mul-
tivariate records have the advantage that based on these records, inferences about
the unknown parameters of the distribusion can be made.The problem is discussed
under some scenarios in which the Mahalanobis and projection depth functions are
employed. For all the scenarios, the maximum likelihood equations are formulated
and the maximum likelihood estimates are obtained through numerical methods. The behavior of which is evaluated by using some simulation studies and studying
the drought in Kermanshah, Iran. The results demonstrate the good performance of
MLEs. Keywords:Data depth, Multivariate record values, Depth-based record value
Maximum likelihood estimation. MSC codes: 62H12, 62G32. MSC codes: 62H12, 62G32. 1 1 1
Introduction In this paper, we confine our attention to the case where
R1, · · · , Rm are depth-based record values. According to Tat and Faridrohani (2021), depth-based multivariate record is de-
fined employing the concept of data depth. Data depth is a measure of outlyingness
of a given point with respect to an underlying distribution or a multivariate data
cloud. This measure leads to center-outward ordering of multivariate sample points
which based on that, some points are located in a considerable distances from the
rest of the observations and may represent a record. So, a new point is a depth-based
record, if its depth value is the smallest with respect to depth of the former obser-
vations. In other words, a new observation is depth-based record if its depth value
has the smallest rank in the set of depth values of the observations in a data cloud,
contains all the observations from beginning to the new observed point. The depth 2 value of a depth-based record is a lower record in the sense of univariate records Tat
and Faridrohani (2021) have studied some outstanding features of this record which
are more in line with univariate records. In addition, the marginal and joint distri-
bution of depth-based record times and record values have been investigated. These
knowledge, valuable for inferential problems, are restricted to depth-based records
and other multivariate records lack them. So the aim of this paper is defined the es-
timation problem when only the information of depth-based record values are stored. This issue, despite its importance in the field of records, has been less addressed in
the literature. Amini and Ahmadi
(2013) defined the bivariate record value, based on the
marginal univariate record with respect to one of the contributed variables. They
derived the maximum likelihood estimation (MLE) of some bivariate normal dis-
tribution parameters based on record data and considered the asymptotic relative
efficiency of the estimator. Also, they pointed out to a few limited works about the
estimation of parameters of bivariate normal distribution based on bivariate ordered
random variables. Therefore, the present article can be considered as one of the first
steps in the field of inference based on multivariate records. p
In this paper, we try to find the MLE of the parameter θ in F(x, θ) using the depth-
based record values R1, · · · , Rm. 2
Depth notion and depth-based records As pointed out in Tat and Faridrohani
(2021), in depth-based viewpoint, an ob-
servation is more likely to be a record if it is located on the outskirts relative to a
given sample. So, we are in need of a tool for measuring the relative location of an
observation concerning to the previous ones. Depth function fills the gap. In this
section, at the outset, we give a brief review of the notion of data depth and intro-
duce some depth functions which will be used here. Then we present the definition
of the depth-based multivariate records. Finally, the joint distribution of the first n
depth-based records will be reviewed. 1
Introduction It turns out that the problem would be very well
behaved if the underlying distribution function F(x, θ) is limited to some members
of the family of distributions commonly known as elliptical distributions. Indeed the
joint distribution of Mahalanobis depth- (MD-)based and Projection depth- (PD-
)based record values have explicit forms when the underlying distribution is a member
of the elliptical distributions. So, in this paper, we emphasize on the multivariate
normal and multivariate t distributions which are two specific families of the elliptical
distributions. For each of these distribution functions, we create two scenarios in
terms of MD and PD functions. In each scenario, we find the likelihood equation
which yields the MLE. The MLEs don’t have closed forms and should be calculated
using numerical methods. The paper is organized as follows. In Section 2, we briefly point to the notion of
data depth and the depth-based multivariate records. Then, we present the marginal
and joint distributions of them. Section 3 presents the elliptical distribution and then
discusses likelihood functions and maximum likelihood estimations of the multivariate
normal distribution and the family of multivariate t distributions based on MD- and
PD-based records. Section 4 contains the simulation studies carried out under various
parameter settings of bivariate normal and t distributions. A comparison between the
results obtained by the MD-based records and the PD-based records is also provided
in this section. Finally, Section 5 concludes the paper. 3 2.1
Depth function Data depth is a device for measuring the centrality of a given point with respect to
a multivariate dataset or its underlying distribution. The word of depth was used
for the first time by Tukey (1975) to provide an outward ordering in a multivariate
sample and to introduce the halfspace depth function. A statistical depth function D(., F), or simply D(.), for a given cumulative dis-
tribution function F on Rp, p ≥1, is bounded and non-negative which provides a
center-outward ordering of points x ∈Rp, p ≥1, relative to the distribution F, that
satisfies the following properties: P1 . Affine invariance: for any non-singular p×p matrix A and p-vector b, D(Ax+
b, FAx+b) = D(x, F), where FAx+b is the distribution function of the random
vector Ax + b. P1 . Affine invariance: for any non-singular p×p matrix A and p-vector b, D(Ax+
b, FAx+b) = D(x, F), where FAx+b is the distribution function of the random
vector Ax + b. P2 . Maximality at center: if F is symmetric about θ in some sense, then D(θ, F) =
supx∈RpD(x, F). P3 . Monotonocity relative to the deepest point: if D(θ, F) ≥D(x, F) for any
x ∈Rp, then D(θ + α(x −θ), F) ≥D(x, F) for each α ∈[0, 1] and x ∈Rp. P4 . Vanishing at infinity: as ||x|| →∞, D(x, F) →0. P4 . Vanishing at infinity: as ||x|| →∞, D(x, F) →0. P4 . Vanishing at infinity: as ||x|| →∞, D(x, F) →0. For a formal definition of depth functions and a detailed description of them refer t
Zuo and Serfling (2000a). For a formal definition of depth functions and a detailed description of them refer to
Zuo and Serfling (2000a). Depth value of a point is measured with respect to the underlying distribution F,
but when F is unknown, it is calculated with respect to the present data cloud. Let
χn = {X1, X2, · · · , Xn} be a data cloud, i.e., a random sample from p-dimensional
distribution function F. D(Xi, Fn) = Dn(Xi), i = 1, · · · , n, is the depth value of Xi
with respect to the χn. In other words, D(., Fn) is the sample version of D(.; F) in
which F has been replaced with the sample distribution Fn. Several kinds of depth functions are introduced and studied in the literature. • The Mahalanobis depth (Liu and Singh , 1993) : • The Mahalanobis depth (Liu and Singh , 1993) :
The Mahalanobis depth of x ∈Rp with respect to the underlying distribution
F is measured by The Mahalanobis depth of x ∈Rp with respect to the underlying distribution
F is measured by The Mahalanobis depth of x ∈Rp with respect to the underlying distribution
F is measured by F is measured by MD(x, F) =
1
1 + (x −µF )
′Σ−1
F (x −µF ), where (x −µF )
′Σ−1
F (x −µF ) is the Mahalanobis distance between x and the
centered vector, µF , with respect to the dispersion matrix of distribution F,
ΣF . The sample version of Mahalanobis depth which is desirable for the goal of this
paper is expressed by where (x −µF )
′Σ−1
F (x −µF ) is the Mahalanobis distance between x and the
centered vector, µF , with respect to the dispersion matrix of distribution F,
ΣF . where (x −µF )
′Σ−1
F (x −µF ) is the Mahalanobis distance between x and the
centered vector, µF , with respect to the dispersion matrix of distribution F,
ΣF . The sample version of Mahalanobis depth which is desirable for the goal of this
paper is expressed by MD(x, Fn) =
1
1 + (x −¯x)
′S−1(x −¯x), where ¯x is the centroid of the data and S is the empirical covariance matrix. where ¯x is the centroid of the data and S is the empirical covariance matrix. • Projection-based depth (Liu , 1992; Zuo , 2003) :
Suppose,
′ • Projection-based depth (Liu , 1992; Zuo , 2003) :
Suppose,
′ O(x, F) = sup||u||=1
|u
′x −µ(Fu)|
σ(Fu)
, and Fu is the distribution of u
′X, |u
′x−µ(Fu)|
σ(Fu)
equals 0 , if u
′x−µ(Fu) = σ(Fu) =
0. Then the projection-based depth (PD) of a point x ∈Rp with respect to the
given F is defined as:
1 PD(x, F) =
1
1 + O(x, F). Sample version of PD is denoted by PD(x, Fn). A specific pair of (µ, σ) results
in specific PD, but, the pair (µ, σ) = (Med, MAD) which have had long-term
use, is eligible in this paper. It should be noted that Med is median and MAD
is median absolute deviation. 2.1
Depth function Here, we present only two metric types of them that will be dealt with in this paper. 4 4 • The Mahalanobis depth (Liu and Singh , 1993) : • The Mahalanobis depth (Liu and Singh , 1993) : 2.2
Depth-based records Let χn = {X1, · · · , Xn} be the n’th data cloud, containing all the first n’th random
samples from the p-dimensional distribution function F(x, θ). The observation Xi is
a sample depth-based record if either i = 1 or i > 1 and Dn(Xi) = min(Dn(X1), Dn(X2), · · · , Dn(Xi)), where Dn(Xi) is the depth value of the observation Xi with respect to the data cloud
χn. χn. 5 5 Also, the sequences of depth-based record times {Tn} and record values {Rn} are
defined as follows: T1 = 1,
R1 = X1, Tm = min{j > Tm−1 : DTm(Xj) = min(DTm(X1), DTm(X2), · · · , DTm(Xj))}, Tm = min{j > Tm−1 : DTm(Xj) = min(DTm(X1), DTm(X2), · · · , DTm(Xj))}, Rm = XTm. Let X1, X2, · · · be a sequence of p-dimensional random vectors with common abso-
lutely continuous distribution function FX(x) and joint density function fX(x) and
let Yi = Dn(Xi), i = 1, 2, · · · , n, be the univariate random variables with com-
mon continuous distribution function FY (y). If Rj = XTj, j = 1, 2, · · · , m, then
r = {r1, · · · , rm} denotes a set of the first m observed depth-based record values
from χn. Correspondingly, there is z = {ˆz1, · · · , ˆzm}, where ˆzj = Dn(rj), the depth
value of the j’th observed depth-based record with respect to the data cloud χn and
ˆz1 > ˆz2 > · · · > ˆzm. Then the density function of the j’th depth-based record value
is as follows:
j
1 fRj(r) = fX(r)(−logFY (ˆz))j−1
(j −1)! ,
(1) (1) and the joint distribution of the first n depth-based records is: fR1,··· ,Rn(r1, · · · , rn) = fX(r1)
FY (ˆz1) · · · fX(rn−1)
FY (ˆzn−1)fX(rn),
(2) (2) where ˆzj = Dn(rj) for j = 1, · · · , n. For more details see Tat and Faridrohani (2021 where ˆzj = Dn(rj) for j = 1, · · · , n. For more details see Tat and Faridrohani (2021). 3
Maximum Likelihood Estimation of the pa-
rameters 3
Maximum Likelihood Estimation of the pa-
rameters In this section, we assume that only the set of depth-based records, r, is stored and
we are going to estimate the unknown parameter vector θ by using it. By equation (2), the likelihood function has the form L(θ, r) = fX(rm; θ)
m−1
Y
i=1
fX(ri; θ)
FY (ˆzi) . (3) (3) The loglikelihood function l(θ, r) = log(L(θ, r)) is: The loglikelihood function l(θ, r) = log(L(θ, r)) is: l(θ, r) =
m
X
i=1
log(fX(ri; θ)) −
m−1
X
i=1
log(FY (ˆzi)). (4) (4) Based on the above equations, the likelihood function of depth-based records consists
of two parts. The first one belongs to the records and the second is related to the 6 depth of records. As we will see, l(θ, r) has more explicit form when the distribution
function of X is confined to some members of the elliptical distribution family and
the depth function is supposed Mahalanobis or projection. depth of records. As we will see, l(θ, r) has more explicit form when the distribution
function of X is confined to some members of the elliptical distribution family and
the depth function is supposed Mahalanobis or projection. A random vector X in Rp has an elliptical distribution, denoted by X ∼Ed(h; µ, Σ),
if its density function is in the form of f(x; µ, Σ) = Cp|Σ|−1
2 h
(x −µ)
′Σ−1(x −µ)
,
(5) (5) where Cp is a constant depending on p and the function h; µ is the center of the
distribution; Σ is a positive definite matrix and h(.) is a nonnegative function (Liu
et al. , 1999). Based on Zuo and Serfling (2000b), when X has elliptical distribution defined in
(5) and if D(., F) is an affine invariant (property P1) and attains maximum value at
µ (property P2), then D(x, F) is in the form of D(x, F) = g
(x −µ)
′Σ−1(x −µ)
,
(6) (6) for some nonincreasing function g. Note that the function g is accessible for Maha-
lanobis and projection depth functions. In fact, for the Mahalanobis depth function
and t ∈R, g(t) = 1/(1+t) and from Zuo (2003), g(t) = 1/(1+
√
t), for the projection
depth function. 3
Maximum Likelihood Estimation of the pa-
rameters The distribution of D(x, F) can be stated in special forms for the family of mul-
tivariate t distribution and the multivariate normal distribution which are the two
specific members of elliptically symmetric distributions. In continue, we investigate the MLE of unknown parameters in multivariate nor-
mal and multivariate t distributions cases when r consists of MD-based or PD-based
record values. 3.1
Multivariate normal distribution The multivariate normal distribution in p-dimensions is parameterized by a mean
vector µ ∈Rp and a covariance matrix Σ ∈Rp×p, where Σ ≥0 is symmetric and
positive semi-definite. This distribution is displayed by Np(µ, Σ) and its probability
density function can be written in the form of elliptical distribution family (5) with h
(x −µ)
′Σ−1(x −µ)
= exp{−(x −µ)
′Σ−1(x −µ)
2
},
Cp =
1
(2π)p/2 . (µ, Σ). h
(x −µ)
′Σ−1(x −µ)
= exp{−(x −µ)
′Σ−1(x −µ)
2
}, and and and
Cp =
1
(2π)p/2 . Also θ = (µ, Σ). Cp =
1
(2π)p/2 . Also θ = (µ, Σ). 7 Now suppose that X ∼Np(µ, Σ). It is well known (DeGroot , 2005) that T = (X −µ)
′Σ−1(X −µ) ∼χ2
p,
(7) (7) where χ2
p demonstrates a Chi-square distribution with p degrees of freedom. Recall
that Mahalanobis and projection depths can be presented as a function of T intro-
duced in equation (7). So, we hope that their distribution functions are considerable. In continue, we will study the problem of parameter estimation in this family once
with the Mahalanobis depth and then with the projection depth functions. (13)
olving these equations yields the ML estimates for the parameters. 3.1.1
The first scenario: MLE of the parameters under Mahalanobis
depth function Let X1, X2, · · · be a sequence of i.i.d observations from Np(µ, Σ). Suppose that
Mahalanobis depth function is employed for measuring the depth values of these
observations. We define, Y = D(x) =
1
1+T , where T = (X −µ)
′Σ−1(X −µ). By (7),
the distribution function of Y is given by FY (y) =
Z ∞
1−y
y
1
Γ( p
2)(1
2)
p
2 t
p
2 −1e−t
2 dt. (8) (8) Now let R1 = r1, · · · , Rm = rm be the first m MD-based records from a multivariate
normal distribution. So, the loglikelihood function of the MD-based record has been
made from two parts: Now let R1 = r1, · · · , Rm = rm be the first m MD-based records from a multivariate
normal distribution. So, the loglikelihood function of the MD-based record has been
made from two parts: l(µ, Σ, r) = l1(µ, Σ, r) + l2(µ, Σ, r),
(9) (9) which which l1(µ, Σ, r) = −mp
2 log(2π) −m
2 log|Σ| −1
2
m
X
i=1
(ri −µ)
′Σ−1(ri −µ),
(10) (10) and and l2(µ, Σ, r) = −
m−1
X
i=1
log
Z ∞
1−ˆzi
ˆzi
1
Γ( p
2)(1
2)
p
2 t
p
2 −1e−t
2 dt. (11) (11) From (10) and (11) the likelihood equations for the parameters are: ∂l(µ, Σ, r)
∂µ
= Σ−1
m
X
i=1
(ri −µ) −2
m−1
X
i=1
(ri −µ)( 1−ˆzi
ˆzi )
p/2−1e−1−ˆzi
2ˆzi
R ∞
1−ˆzi
ˆzi
t
p
2 −1e−t
2 dt
= 0,
(12) ∂l(µ, Σ, r)
∂µ
= Σ−1
m
X
i=1
(ri −µ) −2
m−1
X
i=1
(ri −µ)( 1−ˆzi
ˆzi )
p/2−1e−1−ˆzi
2ˆzi
R ∞
1−ˆzi
ˆzi
t
p
2 −1e−t
2 dt
= 0,
(12)
∂l(µ, Σ, r)
∂Σ−1
= m
2 Σ−1
2
m
X
(ri−ˆµ)(ri−ˆµ)
′+
m−1
X (ri −ˆµ)(ri −ˆµ)
′( 1−ˆzi
ˆzi )
p/2−1e−1−ˆzi
2ˆzi
R ∞
t
p
2 −1 −t
2 dt
= 0. (12) ∂l(µ, Σ, r)
∂Σ−1
= m
2 Σ−1
2
m
X
i=1
(ri−ˆµ)(ri−ˆµ)
′+
m−1
X
i=1
(ri −ˆµ)(ri −ˆµ)
′( 1−ˆzi
ˆzi )
p/2−1e−1−ˆzi
2ˆzi
R ∞
1−ˆzi
ˆzi
t
p
2 −1e−t
2 dt
= 0. 3.1.2
The second scenario: MLE of the parameters under projection
depth function Suppose that X1, X2, · · · be a sequence of i.i.d observations from Np(µ, Σ). If the
depth values are measured by the projection depth function, then Y = D(X) =
1
1+
√
T . The distribution function of Y is of the form FY (y) =
Z ∞
( 1−y
y )2
1
Γ( p
2)(1
2)
p
2 t
p
2 −1e−t
2 dt. (14) (14) Let the first m PD-based records, R1 = r1, · · · , Rm = rm are observed from Np(µ, Σ). The loglikelihood function of the PD-based records consists of two parts: Let the first m PD-based records, R1 = r1, · · · , Rm = rm are observed from Np(µ, Σ). The loglikelihood function of the PD-based records consists of two parts: l(µ, Σ, r) = l1(µ, Σ, r) + l2(µ, Σ, r),
(15) (15) where, l1(µ, Σ, r) is exactly the equation (10) and where, l1(µ, Σ, r) is exactly the equation (10) and l2(µ, Σ, r) = −
m−1
X
i=1
log
Z ∞
( 1−ˆzi
ˆzi
)2
1
Γ( p
2)(1
2)
p
2 t
p
2 −1e−t
2 dt. (16) (16) Differentiating (15) with respect to the parameters yields to the following ML esti-
mating equations: ∂l(µ, Σ, r)
∂µ
= Σ−1
m
X
i=1
(ri −µ) −2
m−1
X
i=1
(ri −µ)( 1−ˆzi
ˆzi )
p−2e−1
2 ( 1−ˆzi
ˆzi
)2
R ∞
( 1−ˆzi
ˆzi
)2 t
p
2 −1e−t
2 dt
= 0,
(17)
and,
∂l(µ Σ r)
m
1
m
m−1 (ri −ˆµ)(ri −ˆµ)
′( 1−ˆzi
ˆ
)
p−2e−1
2 ( 1−ˆzi
2ˆzi )2 ∂l(µ, Σ, r)
∂µ
= Σ−1
m
X
i=1
(ri −µ) −2
m−1
X
i=1
(ri −µ)( 1−ˆzi
ˆzi )
p−2e−1
2 ( 1−ˆzi
ˆzi
)2
R ∞
( 1−ˆzi
ˆzi
)2 t
p
2 −1e−t
2 dt
= 0,
(17) (17) and, and, ∂l(µ, Σ, r)
∂Σ−1
= m
2 Σ−1
2
m
X
i=1
(ri−ˆµ)(ri−ˆµ)
′+
m−1
X
i=1
(ri −ˆµ)(ri −ˆµ)
′( 1−ˆzi
ˆzi )
p−2e−1
2 ( 1−ˆzi
2ˆzi )2
R ∞
( 1−ˆzi
ˆzi
)2 t
p
2 −1e−t
2 dt
= 0
(18) (18) (
)
Solving these equations yields the ML estimates for the parameters. 3.1.2
The second scenario: MLE of the parameters under projection
depth function Obviously, max-
imum likelihood estimators in equations (12), (13), (17) and (18), can not be found
in closed forms. So, we require some numerical methods to compute the estimates. 3.1.1
The first scenario: MLE of the parameters under Mahalanobis
depth function (13) ∂l(µ, Σ, r)
∂Σ−1
= m
2 Σ−1
2
m
X
i=1
(ri−ˆµ)(ri−ˆµ)
′+
m−1
X
i=1
(ri −ˆµ)(ri −ˆµ)
′( 1−ˆzi
ˆzi )
p/2−1e−1−ˆzi
2ˆzi
R ∞
1−ˆzi
ˆzi
t
p
2 −1e−t
2 dt
= 0. (13) (13) (13)
Solving these equations yields the ML estimates for the parameters. (13)
Solving these equations yields the ML estimates for the parameters. 8 8 3.2
Multivariate t distribution The multivariate t distribution in p-dimensions which is written tp(µ, Σ, ν), has the
probability density function as: f(x; µ, Σ, ν) = Γ( p+ν
2 )|Σ|−1
2
(πν)
p
2 Γ( ν
2)
1 + 1
ν (x −µ)
′Σ−1(x −µ)
−p+ν
2
,
(19) (19) 9 where µ is the mean vector, Σ is a positive definite scatter matrix and, ν is a degree
of freedom parameter. In the multivariate t distribution, the parameter ν is also
referred to as the shape parameter which controls the peakedness of density. When
ν tends to infinity, the limiting form of (19) will be the joint pdf of the p-variate
normal distribution with the mean vector µ and the covariance matrix Σ (Dogru et
al. , 2018). )
It is well known that the multivariate t distribution belongs to the family of the
elliptical distributions. So, this distribution can be written in the form of (5) with h
(x −µ)
′Σ−1(x −µ)
=
1 + 1
ν (x −µ)
′Σ−1(x −µ)
−p+ν
2
,
(20) (20) and Cp =
Γ( p+ν
2 )
Γ( ν
2)(πν)
p
2 , Cp =
Γ( p+ν
2 )
Γ( ν
2)(πν)
p
2 , where ν > 0. Suppose that X ∼tp(µ, Σ, ν). So, Suppose that X ∼tp(µ, Σ, ν). So, F = T
p = 1
p(X −µ)
′Σ−1(X −µ) ∼F(p, ν),
(21) (21) where F(p, ν) is the F distribution with p numerator degrees of freedom and ν de-
nominator degrees of freedom. Again, similar to the multivariate normal distribution, Mahalanobis and projec-
tion depth functions can be written as a function of F introduced in equation (21)
when the underlying distribution is multivariate t. In the following, we will consider
the problem of parameter estimation when the depth-based records are from a mul-
tivariate t distribution. It means that X1, X2, · · · , is a sequence of i.i.d observations,
from tp(µ, Σ, ν) with the pdf given by the equation (19). 3.2.1
The third scenario:
MLE of the parameters under Maha-
lanobis depth function These procedures yield to the following likelihood eqau-
tions: ∂l(µ, Σ, ν, r)
∂µ
= Σ−1[(p + ν)
m
X
i=1
(ri −µ)
ν + si
(26)
−2(1
p)p/2
m−1
X
i=1
(ri −µ)( 1−ˆzi
ˆzi )
p/2−1(1 + 1−ˆzi
νˆzi )−p+ν
2
R ∞
1−ˆzi
pˆzi
f
p
2 −1(1 + pf
ν )−p+ν
2 df
] = 0,
∂l(µ, Σ, r)
∂Σ−1
= m
2 Σ −p + ν
2
m
X
i=1
(ri −ˆµ)(ri −ˆµ)
′
ν + si
(27)
+ (1
p)p/2
m−1
X
i=1
(ri −ˆµ)(ri −ˆµ)
′( 1−ˆzi
ˆzi )p/2−1(1 + 1−ˆzi
νˆzi )−p+ν
2
R ∞
1−ˆzi
pˆzi
f
p
2 −1(1 + pf
ν )−p+ν
2 df
= 0. The ML estimates for the parameters will be obtained by solving the above equations. ∂l(µ, Σ, ν, r)
∂µ
= Σ−1[(p + ν)
m
X
i=1
(ri −µ)
ν + si
(26)
−2(1
p)p/2
m−1
X
i=1
(ri −µ)( 1−ˆzi
ˆzi )
p/2−1(1 + 1−ˆzi
νˆzi )−p+ν
2
R ∞
1−ˆzi
pˆzi
f
p
2 −1(1 + pf
ν )−p+ν
2 df
] = 0, ∂l(µ, Σ, ν, r)
∂µ
= Σ−1[(p + ν)
m
X
i=1
(ri −µ)
ν + si
(26) (26) −2(1
p)p/2
m−1
X
i=1
(ri −µ)( 1−ˆzi
ˆzi )
p/2−1(1 + 1−ˆzi
νˆzi )−p+ν
2
R ∞
1−ˆzi
pˆzi
f
p
2 −1(1 + pf
ν )−p+ν
2 df
] = 0, ∂l(µ, Σ, r)
∂Σ−1
= m
2 Σ −p + ν
2
m
X
i=1
(ri −ˆµ)(ri −ˆµ)
′
ν + si
(27)
+ (1
p)p/2
m−1
X
i=1
(ri −ˆµ)(ri −ˆµ)
′( 1−ˆzi
ˆzi )p/2−1(1 + 1−ˆzi
νˆzi )−p+ν
2
R ∞
1−ˆzi
pˆzi
f
p
2 −1(1 + pf
ν )−p+ν
2 df
= 0. ∂l(µ, Σ, r)
∂Σ−1
= m
2 Σ −p + ν
2
m
X
i=1
(ri −ˆµ)(ri −ˆµ)
′
ν + si
(27) (27) + (1
p)p/2
m−1
X
i=1
(ri −ˆµ)(ri −ˆµ)
′( 1−ˆzi
ˆzi )p/2−1(1 + 1−ˆzi
νˆzi )−p+ν
2
R ∞
1−ˆzi
pˆzi
f
p
2 −1(1 + pf
ν )−p+ν
2 df
= 0. The ML estimates for the parameters will be obtained by solving the above equation The ML estimates for the parameters will be obtained by solving the above equations. The ML estimates for the parameters will be obtained by solving the above equations. 3.2.1
The third scenario:
MLE of the parameters under Maha-
lanobis depth function In this subsection, suppose the depth values of the observations are measured by
Mahalanobis depth function. Similar to the normal distribution, we define Y =
D(x) =
1
1+T . By (21) the distribution function of Y is given by FY (y) =
Z ∞
1−y
py
Γ( p+ν
2 )
Γ( v
2)Γ( p
2)(p
ν )
p
2
f
p−2
2
[1 + fp
ν ]
p+ν
2
df. (22) (22) Let R1 = r1, · · · , Rm = rm be the first m MD-based records from a multivariate t
distribution which are observed. The loglikelihood function of the Mahalanobis–based
records consists of two parts: Let R1 = r1, · · · , Rm = rm be the first m MD-based records from a multivariate t
distribution which are observed. The loglikelihood function of the Mahalanobis–based
records consists of two parts: l(µ, Σ, ν, r) = l1(µ, Σ, ν, r) + l2(µ, Σ, ν, r),
(23) (23) 10 where, r) = mlogΓ(p + ν
2
) −mlogΓ(ν
2)
(24) l1(µ, Σ, ν, r) = mlogΓ(p + ν
2
) −mlogΓ(ν
2)
(24)
−mp
2 (log(ν) + log(π)) −m
2 log(|Σ|) −p + ν
2
m
X
i=1
(log(ν + si) −log(ν)), (24) −mp
2 (log(ν) + log(π)) −m
2 log(|Σ|) −p + ν
2
m
X
i=1
(log(ν + si) −log(ν)), where si = (ri −µ)
′Σ−1(ri −µ). Also,
1
2 where si = (ri −µ)
′Σ−1(ri −µ). Also, l2(µ, Σ, ν, r) = −
m−1
X
i=1
log
Z ∞
1−ˆzi
pˆzi
Γ( p+ν
2 )
Γ( v
2)Γ( p
2)(p
ν )
p
2
f
p−2
2
[1 + fp
ν ]
p+ν
2
df. (25) (25) For finding the ML estimators, the loglikelihood function (23) is differentiated with
respect to the parameters. 3.2.2
The fourth scenario: MLE of the parameters under projection
depth function Let the projection depth function be employed for measuring the depth values of the
observations. So, it is possible to define Y = D(x) =
1
1+
√
T . By (21) the distribution
function of Y is as follows: FY (y) =
Z ∞
(1−y)2
py2
Γ( p+ν
2 )
Γ( v
2)Γ( p
2)(p
ν )
p
2
f
p−2
2
[1 + fp
ν ]
p+ν
2
df. (28) (28) 11 If the first m PD-based records, R1 = r1, · · · , Rm = rm, from a multivariate t
distribution are observed, then the loglikelihood function of them consisting of two
parts can be written as follows: If the first m PD-based records, R1 = r1, · · · , Rm = rm, from a multivariate t
distribution are observed, then the loglikelihood function of them consisting of two
parts can be written as follows: l(µ, Σ, ν, r) = l1(µ, Σ, ν, r) + l2(µ, Σ, ν, r),
(29) (29) where, l1(µ, Σ, ν, r) is equal to what was for the MD-based records in equation (24)
and l2(µ, Σ, ν, r) = −
m−1
X
i=1
log
Z ∞
(1−ˆzi)2
pˆz2
i
Γ( p+ν
2 )
Γ( v
2)Γ( p
2)(p
ν )
p
2
f
p−2
2
[1 + fp
ν ]
p+ν
2
df. (30) (30) Now, if we differentiate from the equation (29) with respect to the parameters, the
ML estimators will be obtained. Now, if we differentiate from the equation (29) with respect to the parameters, the
ML estimators will be obtained. 3.2.2
The fourth scenario: MLE of the parameters under projection
depth function ∂l(µ, Σ, ν, r)
∂µ
= Σ−1[(p + ν)
m
X
i=1
(ri −µ)
ν + si
(31) ∂l(µ, Σ, ν, r)
∂µ
= Σ−1[(p + ν)
m
X
i=1
(ri −µ)
ν + si
(31)
−2(1
p)p/2
m−1
X
i=1
(ri −µ)( 1−ˆzi
ˆzi )
p−2(1 + ( 1−ˆzi
ˆzi )2/ν)−p+ν
2
R ∞
(1−ˆzi)2
pˆz2
i
f
p
2 −1(1 + pf
ν )−p+ν
2 df
] = 0, (31) −2(1
p)p/2
m−1
X
i=1
(ri −µ)( 1−ˆzi
ˆzi )
p−2(1 + ( 1−ˆzi
ˆzi )2/ν)−p+ν
2
R ∞
(1−ˆzi)2
pˆz2
i
f
p
2 −1(1 + pf
ν )−p+ν
2 df
] = 0, and ∂l(µ, Σ, ν, r)
∂Σ−1
= m
2 Σ −p + ν
2
m
X
i=1
(ri −ˆµ)(ri −ˆµ)
′
ν + si
(32)
−(1
p)p/2
m−1
X
i=1
(ri −ˆµ)(ri −ˆµ)
′( 1−ˆzi
ˆzi )p−2(1 + ( 1−ˆzi
ˆzi )2/ν)−p+ν
2
R ∞
(1−ˆzi)2
pˆz2
i
f
p
2 −1(1 + pf
ν )−p+ν
2 df
= 0. ∂l(µ, Σ, ν, r)
∂Σ−1
= m
2 Σ −p + ν
2
m
X
i=1
(ri −ˆµ)(ri −ˆµ)
′
ν + si
(32) (32) The outcome of solving these equations is the ML estimates of the parameters. The outcome of solving these equations is the ML estimates of the parameters. Note that the estimating equations cannot be solved analytically. So, the ML
estimators of the multivariate t parameters, similar to the multivariate normal dis
tribution, should be computed using some numerical methods. 4.1
Simulation results In this section we implement the wide range of simulation studies to evaluate the
behavior of the MLE’s under some members of the elliptical distributions based on
MD-based and PD-based record values. For this purpose, we consider the biivari-
ate normal distribution, Np(µ, Σ), and the family of the bivariate t distribution, 12 tp(µ, Σ, ν). For p > 2 data generation and calculations are time consuming. So, the
problem is confined to p = 2, with two sets of parameters: tp(µ, Σ, ν). For p > 2 data generation and calculations are time consuming. So, the
problem is confined to p = 2, with two sets of parameters: µ =
5
7
, Σ =
20
17
17
15
, ν = 3, 10,
(33)
µ =
5
7
, Σ =
20
10
10
15
, ν = 3, 10. (34) (33) µ =
5
7
, Σ =
20
10
10
15
, ν = 3, 10. (34) (34) where Σ is the covariance matrix for the multivariate normal distribution and the
scatter matrix for the multivariate t distribution. In these two parameter sets, the
off-diagonal entries in Σ are merely altered. So, the intensity of correlation between
the 2-dimensions of observations has been varied. For the parameter set (33), the
correlation is more intense; the density is more compressed, and more generally, the
contours form ellipses. The contours of the bivariate normal and t distributions
corresponding to the mentioned parameter sets (33) and (34) in Figure (1) depict the
distinctions well. Data are generated from the bivariate normal and then the bivariate t distribution
with the the parameter sets (33) and (34) according to the following algorithm: (34) (33) 1. Determine the number of records that should be generated, n. Define the set of
depth-based records as r and the number of its members as count(r). 1. Determine the number of records that should be generated, n. Define the set of
depth-based records as r and the number of its members as count(r). 2. generate 4 data from the desired distribution, x1, x2, x3, x4, and calculate the
depth values of them, y1, y2, y3, y4, based on the assumed depth function (Ma-
halanobis or projection functions). 3. By convention x1 ∈r. 4.1
Simulation results Each of the other three observations ∈r if yi =
min{y1, · · · , yi} for i = 2, 3, 4. 4. If count(r) < n, generate a new observation, xk for k > 4, from the predeter-
mined distribution, otherwise, stop. 5. If yk = min{y1, · · · , yk} for k > 4, xk ∈r, and then the fourth step is repeated. 5. If yk = min{y1, · · · , yk} for k > 4, xk ∈r, and then the fourth step is repeated. In fact, the process of sampling is initiated and continued until the desired number
of depth-based records is obtained. In each setting, 200 repetitions of independent
random sample are generated sequentially to reach the predetermined number of
depth-based records, n = 6, 8, 10. To study the effects of the different depth functions
and the off-diagonal entries of Σ on reaching the desired number of records, the
average of the 200 samples in each scenario is computed and reported in the Table
(1). According to the Table (1), under each of the parameter sets (33) and (34) pro-
jection depth function is yielded to the result earlier than the Mahalanobis depth
function. Under the bivariate t distribution, when the correlation is more intense,
regardless of the type of the depth function, less effort is needed to reach the de-
sired number of records. For the bivariate normal distribution, this result remains 13 Distribution
parameter set 33
parameter set 34
n
Mahalanobis
Projection
Mahalanobis
Projection
6
694
267
428
348
Bivariate
normal
8
1590
499
1387
686
10
3029
1859
2714
1953
6
583
320
785
348
Bivariate t
with ν=3
8
1545
682
2015
813
10
3122
1886
3616
2375
6
655
381
932
630
Bivariate t
with ν=10
8
1765
754
2196
1190
10
3404
1988
2263
3005
Table 1: Average of the sample sizes for reaching to the n = 6, 8, 10 depth-based records Table 1: Average of the sample sizes for reaching to the n = 6, 8, 10 depth-based records Table 1: Average of the sample sizes for reaching to the n = 6, 8, 10 depth-based records valid when projection depth function has been used. But, using the Mahalanobis
depth function has altered the outcome. Moreover, in the same conditions, when the
bivariate t distribution is more heavy tail, the depth-based records are made faster. 4.1
Simulation results valid when projection depth function has been used. But, using the Mahalanobis
depth function has altered the outcome. Moreover, in the same conditions, when the
bivariate t distribution is more heavy tail, the depth-based records are made faster. Using the available information about depth-based records and the likelihood func-
tions presented in the previous section, we endeavored to obtain the empirical biases
(E.B) of the maximum likelihood estimates from the true values and the empirical
standard of errors (E.S.E). For this aim, we used the programs written in a 3.6.0 R
environment by authors. It should be mentioned that all of the used likelihood functions involve integrals
which could not be evaluated analytically. So, we applied the Monte Carlo method
to estimate them. Moreover, we used the Nelder-Mead method implemented in the
built-in maxLik function in the R package maxLik (Henningsen and Toomet (2011))
to maximize the likelihood functions in terms of suitable parameters. For using the
optimization algorithms, some initial values for the parameters should be specified. Our suggestion for the specification of the initial values related to the µ, and Σ, was
their sample versions obtained from the complete dataset. Also, for calculating the
amount of S.E, we required the score function and the Hessian matrix. Differentiat-
ing the log-likelihood function with respect to the unknown parameters yields to the
score function. Also, the observed Hessian matrix is acquired as negative observed
second derivatives of the log-likelihood function. Since the likelihood functions in-
clude some integrals without analytical solutions, neither score function nor observed
Hessian matrix could be expressed in any closed-form. Thus, we computed them
using “fdHess” function in the “nlme” package of the R software, Inevitably. The estimation results for the multivariate normal and the bivariate t distributio 14 (a) The parameter set (33)
(b) The parameter set (34)
Figure 1: The contour plots for bivariate normal and bivariate t distributions with respect
to the parameter sets in (33) and (34). (b) The parameter set (34) (33) (b) The parameter set (34) Figure 1: The contour plots for bivariate normal and bivariate t distributions with respect
to the parameter sets in (33) and (34). with the degrees of freedom 3 and 10 for the parameter sets (33) and (34) are reported
in Tables (2), (3) and (4), respectively. 4.1
Simulation results In these tables, the values of the E.S.E and
E.B for the depth-based records with n = 6, 8, 10 are provided. The relative efficiency
of estimators under the Mahalanobis and projection-based depth function has been
reported in these tables by the abbreviation Eff. In the Tables (2)-(4), the effects of the number of depth-based records, the type of
depth functions and the intensity of the correlation are considerable. As reported by
these tables, it can be observed that the value of E.S.E of parameters decrease as the
number of depth-based records increase in all cases, as expected. Moreover, with the
more intense correlation, the parameters are estimated with fewer E.S.E than that
of less intense correlation. Furthermore, the MLEs corresponding to the PD-based
records perform more properly in a variety of settings than the MLEs corresponding
to the MD-based records. More precisely, under the heavy-tailed, light-tailed t and
normal distributions with the parameter set (34), the MLEs corresponding to the
PD-based records are more efficient. This result is maintained for the t distribution
with the 10 degrees of freedom in any number of records and for the normal distribu-
tion under 8 and 10 PD-based records, whereas, it is violated for variety of settings
under the heavy-tailed t distribution. It maybe interesting to note that the unknown
parameters of the multivariate t distribution have been estimated with more E.S.E
and mostly, more E.B when the distribution is more heavy-tailed. (34) 15 Depth function
n
µ1
µ2
σ2
1
σ12
σ2
2
µ1
µ2
σ2
1
σ12
σ2
2
True value
5
7
20
17
15
5
7
20
10
15
6
E.S.E. 1.531
1.183
3.997
3.324
3.192
2.077
1.668
8.231
6.302
6.692
E.B. 0.327
0.326
-0.166
0.147
0.094
-0.138
0.143
-0.207
0.860
0.911
Mahalanobis
8
E.S.E. 1.333
1.125
3.936
3.297
2.981
1.477
1.816
4.749
3.489
3.747
E.B. 0.284
0.297
0.131
0.106
0.042
-0.271
0.110
0.096
0.646
0.080
10
E.S.E. 0.924
0.776
1.841
1.543
1.421
1.453
1.138
4.005
2.264
2.962
E.B. 0.196
0.180
0.083
0.027
0.093
0.134
-0.004
0.365
0.411
0.373
True value
5
7
20
17
15
5
7
20
10
15
6
E.S.E. 1.976
1.663
7.532
6.483
5.529
1.893
1.575
7.740
5.632
5.247
E.B. 0.347
0.247
0.009
0.136
0.009
-0.270
0.332
0.499
0.976
0.956
Eff. 0.609
0.533
0.282
0.263
0.334
1.185
1.082
1.127
1.238
1.604
Projection
8
E.S.E. 4.1
Simulation results Table 3: Estimates of the parameters using depth-based records arising from the bivariate
t distribution with ν = 3 with the parameter sets (33) and (34). Table 3: Estimates of the parameters using depth-based records arising from the bivariate
t distribution with ν = 3 with the parameter sets (33) and (34). (33) 4.1
Simulation results 1.359
1.168
3.575
2.948
2.687
1.411
1.206
4.436
3.019
3.216
E.B. 0.317
0.266
0.052
0.083
0.017
0.056
0.141
0.109
0.820
0.455
Eff. 0.953
0.943
1.213
1.251
1.231
1.130
2.246
1.146
1.286
1.331
10
E.S.E. 0.184
0.148
0.393
0.326
0.304
1.206
0.996
3.540
2.460
2.717
E.B. 0.225
0.163
0.137
0.034
0.043
-0.022
0.054
0.099
0.565
0.174
Eff. 10.561
13.091
19.606
22.168
21.513
1.463
1.302
1.289
0.831
1.202
Table 2: Estimates of the parameters using depth-based records arising from the bivariate
normal distribution with the parameter sets (33) and (34). Table 2: Estimates of the parameters using depth-based records arising from the bivariate
normal distribution with the parameter sets (33) and (34). Table 2: Estimates of the parameters using depth-based records arising from the bivariate
normal distribution with the parameter sets (33) and (34). Table 2: Estimates of the parameters using depth-based records arising from the bivariate
normal distribution with the parameter sets (33) and (34). Depth function
n
µ1
µ2
σ2
1
σ12
σ2
2
µ1
µ2
σ2
1
σ12
σ2
2
True value
5
7
20
17
15
5
7
20
10
15
6
E.S.E. 0.952
0.840
1.135
0.914
0.841
4.968
4.283
14.302
11.018
11.095
E.B. 1.643
-1.122
0.232
0.281
0.331
-1.360
-4.256
0.438
2.203
0.103
Mahalanobis
8
E.S.E. 0.926
0.806
1.133
0.879
0.805
4.434
3.833
11.997
8.959
8.669
E.B. 1.603
-0.989
0.197
0.173
0.250
-0.435
-2.207
0.416
1.386
0.236
10
E.S.E. 0.815
0.803
1.107
0.979
0.796
3.762
3.549
8.806
5.656
6.565
E.B. 0.534
-0.103
0.146
0.141
0.362
0.017
-1.380
0.331
0.753
0.102
True value
5
7
20
17
15
5
7
20
10
15
6
E.S.E. 1.733
0.926
0.970
0.955
0.983
3.976
3.343
15.095
13.041
13.939
E.B. 1.695
-1.264
0.619
0.863
0.824
-1.709
-4.796
0.441
2.539
0.937
Eff. 0.614
0.800
1.014
0.552
0.496
1.416
1.067
0.898
0.715
0.631
Projection
8
E.S.E. 1.678
0.648
0.560
0.385
0.427
3.835
3.459
10.366
7.329
7.453
E.B. 1.361
-1.046
0.492
0.748
0.802
-0.606
-2.242
0.400
1.770
0.890
Eff. 0.734
1.075
2.380
1.134
0.861
1.317
1.151
1.399
1.446
1.335
10
E.S.E. 1.176
0.927
1.176
0.847
0.847
2.310
2.071
8.377
5.135
6.190
E.B. 1.689
-0.889
0.378
0.718
0.778
0.037
-1.450
0.346
1.276
0.698
Eff. 0.224
0.397
0.817
0.793
0.878
2.651
2.269
1.094
1.163
1.111
Table 3: Estimates of the parameters using depth-based records arising from the bivariate
t distribution with ν = 3 with the parameter sets (33) and (34). 4.2
Kermanshah city drought The maximum likelihood estimation problem described in this paper is now applied to
a real dataset. The dataset is related to the Kermanshah city drought and consists of 16 Depth function
n
µ1
µ2
σ2
1
σ12
σ2
2
µ1
µ2
σ2
1
σ12
σ2
2
True value
5
7
20
17
15
5
7
20
10
15
6
E.S.E. 1.860
1.736
3.298
3.063
3.149
3.988
3.383
13.821
9.818
10.389
E.B. 1.299
-1.642
0.267
0.401
0.236
-0.921
-3.018
0.407
1.635
-0.465
Mahalanobis
8
E.S.E. 1.095
0.933
1.782
1.466
1.356
3.907
3.420
9.607
6.805
7.481
E.B. 0.197
0.180
0.351
1.011
1.023
0.045
-2.522
0.363
0.954
0.455
10
E.S.E. 0.829
0.781
0.801
0.649
0.634
2.514
2.238
5.176
3.215
3.994
E.B. 0.178
-0.104
0.156
1.004
1.024
0.297
-0.816
0.292
0.602
0.288
True value
5
7
20
17
15
5
7
20
10
15
6
E.S.E. 0.581
0.495
0.272
0.212
0.191
3.991
3.354
12.176
8.783
9.337
E.B. 1.265
-1.473
0.235
0.532
0.497
-0.894
-3.648
0.004
1.621
0.329
Eff. 2.656
2.365
84.73
29.097
35.175
1.001
0.837
1.290
1.242
1.239
Projection
8
E.S.E. 0.437
0.405
0.410
0.328
0.342
3.844
3.263
9.811
6.899
7.631
E.B. 0.307
-0.448
0.433
0.524
0.524
0.199
-2.270
-0.078
1.164
0.234
Eff. 4.340
2.476
9.277
8.298
7.369
1.030
1.143
0.960
0.9645
1.058
10
E.S.E. 0.538
0.505
0.519
0.363
0.380
2.343
2.103
5.125
3.344
3.655
E.B. 0.148
-0.143
0.529
0.477
0.607
0.230
-0.644
0.066
0.581
0.134
Eff. 2.309
2.253
1.213
3.978
2.828
1.156
1.173
1.023
0.929
1.199
Table 4: Estimates of the parameters using depth-based records arising from the bivariate
t distribution with ν = 10 with the parameter sets (33) and (34). Table 4: Estimates of the parameters using depth-based records arising from the bivariate
t distribution with ν = 10 with the parameter sets (33) and (34). based
(33) two measurements, total monthly precipitation (TMP) and average monthly temper-
ature (AMT) during 66 water years, 1951-2016. The term water year is equivalent to
12-months period for which precipitation totals are measured. In Iran, water year is
defined the period between September 23th of one year to September 22th of the fol-
lowing year. The data used in this case are gathered by the department of meteorology
of the province Kermanshah, which is a subset of Islamic Republic (I.R.) of Iran me-
teorological organization (IRIMO) and are accessible from www.kermanshahmet.ir. These data were analyzed earlier by Tat and Faridrohani (2021). 4.2
Kermanshah city drought two measurements, total monthly precipitation (TMP) and average monthly temper-
ature (AMT) during 66 water years, 1951-2016. The term water year is equivalent to
12-months period for which precipitation totals are measured. In Iran, water year is
defined the period between September 23th of one year to September 22th of the fol-
lowing year. The data used in this case are gathered by the department of meteorology
of the province Kermanshah, which is a subset of Islamic Republic (I.R.) of Iran me-
teorological organization (IRIMO) and are accessible from www.kermanshahmet.ir. These data were analyzed earlier by Tat and Faridrohani (2021). The Shapiro-Wilk goodness of fit test demonstrated that the distribution of the
present data do not comply with a bivariate normal distribution. By applying a box-
cox transformation, a dataset with a multivariate normal distribution was achieved. Now we can apply our proposed estimation method using MD-based and PD-based
records recognized for the new transformed data to estimate the unknown parame-
ters. The resulting depth-based record times and record values are tabulated in the
Table(5). The MLE will be considered by using these depth-based records and implementing
the Nelder-Mead method. The initial values for this method is obtained from the set
of depth-based record values. The result of the MLEs for the transformed data is
reported in the first part of Table(6). For better understanding, we transformed these
results into the primitive dataset, that is contained in the second part of Table(6). According to the above table it seems that unlike the simulation results, in the real
example, estimations based on MD-based records are closer to reality than PD-based 17 MD-based record
PD-based record
record time
(TMP,AMT)
record time
(TMP,AMT)
1
(0.991,2.357)
1
(0.991,2.357)
13
(0.993,2.376)
2
(0.993,2.431)
21
(0.990,2.346)
13
(0.993,2.376)
48
(0.933,2.601)
57
(0.994,2.546)
57
(0.994,2.546)
66
(0.989,2.542)
66
(0.989,2.542)
-
-
Table 5: MD-based and PD-based records in term of transformed TMP and AMT variables MD-based record
PD-based record
record time
(TMP,AMT)
record time
(TMP,AMT)
1
(0.991,2.357)
1
(0.991,2.357)
13
(0.993,2.376)
2
(0.993,2.431)
21
(0.990,2.346)
13
(0.993,2.376)
48
(0.933,2.601)
57
(0.994,2.546)
57
(0.994,2.546)
66
(0.989,2.542)
66
(0.989,2.542)
-
- Table 5: MD-based and PD-based records in term of transformed TMP and AMT variables. 4.2
Kermanshah city drought Table 5: MD-based and PD-based records in term of transformed TMP an parameters of bivariate Normal distibution
Depth function
µ1
µ2
σ2
1
σ12
σ2
2
Mahalanobis
0.99
2.49
9.76×10−7
2.28×10−5
3.98×10−3
projection
0.99
2.50
1.37×10−6
1.24×10−5
1.55×10−3
complete data
0.99
2.47
5.39×10−7
1.10×10−5
3.74×10−3
main parameters
µT MP
µAMT
σ2
T MP
σT MP,AMT
σ2
AMT
Mahalanobis
37.78
14.88
246.11
-6.31
1.21
projection
37.78
15.01
345.45
-3.43
0.47
complete data
37.78
14.53
140.52
-3.04
1.14
Table 6: MLEs of the parameters of bivariate Normal distibution fitted to the transformed
Kermanshah city drought data and MLEs of the main parameters Table 6: MLEs of the parameters of bivariate Normal distibution fitted to the transformed
Kermanshah city drought data and MLEs of the main parameters Table 6: MLEs of the parameters of bivariate Normal distibution fitted to the transformed
Kermanshah city drought data and MLEs of the main parameters records. 5
Concluding Remarks In this paper, we studied the problem of the maximum likelihood estimation of some
unknown parameters by the depth-based multivariate records arised from the mul-
tivariate normal or the multivariate t distributions, as the members of the elliptical
distribution. Likelihood equations have explicit forms under the Mahalanobis and
projection-based depth functions and when the underlying distribution is confined
to the class of elliptical distributions. So, we considered the inferential problem of
this paper under four scenarios inwhich a combination of one mentioned distribution
and one of the depth functions was considered. In all of the scenarios, the likelihood
equations contain some integrals without analytical solutions. So, we used the Monte
Calro method for solving them. Finally, we performed a simulation study to mon-
itor the behavior of the MLEs developed in this paper. The results of simulation
revealed that the speed of producing PD-based records arised from two distribution
functions, was much higher than the MD-based records. In particular, when the cor- 18 relation between dimensions of observations is more intense, the speed of production
of PD-based records is higher. Moreover, in the estimation problem, the results of the
simulation study reveal the more satisfactory performance of the PD-based records
relative to the MD-based records. Acknowledgments Not Applicable Funding Not Applicable Competing interests Not Applicable Authors’ contributions All authors have major contributions to this work and have approved the version to
be published. Availability of supporting data Not Applicable Ethical Approval All authors certify that they have no affiliations with or involvement in any orga-
nization or entity with any financial interest or non-financial interest in the subject
matter or materials discussed in this manuscript. Zuo, Y. (2003). Projection-based depth functions and associated medians. The Annals
of Statistics, 31(5), 1460-1490. References Ahsanullah, M., and Nevzorov, V. B. (2015). Records via probability theory. Atlantis
Press. 19 Amini, M. and Ahmadi, J. (2013). Asymptotic efficiencies of the MLE based on
bivariate record values from bivariate normal distribution, textitJIRSS, 12(2), 235-
252. Balakrishnan, N. and Chan, P. S. (1998). On the normal record values and associated
inference, Statistical Probability Letters, 39, 73-80. DeGroot, M. H. (2005). Optimal statistical decisions. John Wiley. Dogru, F. Z. and Murat Bulut, Y. and Arslan, O., Double reweighted estimators
for the parameters of the multivariate t distribution, Communications in Statistics
-Theory and Methods, 47, 4751-4771. Doostparast, M. and Ahmadi, J. (2006). Statistical analysis for geometric distribution
based on records, Computers and Mathematics with Applications, 52, 905-916. Doostparast, M. (2009). A note on estimation based on record data, Metrika, 69,
69-80. Henningsen, A., and Toomet, O. (2011). maxLik: A package for maximum likelihood
estimation in R. Computational Statistics, 26, 443-458. Jaheen, Z. F. (2004). Emperical Bayes analysis of record statistics based on linex
and quadratic loss function, Computers and Mathematics with Applications, 47,
947-954. Kizilaslan, F. and Nadar, M. (2013). Estimation with the generalized exponential
distribution based on record values and inter-record times, Journal of Statistical
Computation and Simulation, 85, 978-999. Liu, R. Y. (1992). Data depth and multivariate rank tests, L1-statistical analysis and
related methods, 279-294. Liu, R. Y., Parelius, J. M., and Singh, K. (1999). Multivariate analysis by data depth:
descriptive statistics, graphics and inference,(with discussion and a rejoinder by liu
and singh). The annals of statistics, 27(3), 783-858. Liu, R. Y., and Singh, K. (1993). A quality index based on data depth and multivari-
ate rank tests. Journal of the American Statistical Association, 88(421), 252-260. Tat, S., and Faridrohani, M. R. (2021). A new type of multivariate records: depth-
based records. Statistics, 55(2), 296-320. Tukey, J. (1975). Mathematics and picturing data.(RD James, ed.) 523–531. In Cana-
dian Math. Congress. MR0426989. 20 Zuo, Y. (2003). Projection-based depth functions and associated medians. The Annals
of Statistics, 31(5), 1460-1490. Zuo, Y., and Serfling, R. (2000a). General notions of statistical depth function, Annals
of statistics, 461-482. Zuo, Y., and Serfling, R. (2000b). Structural properties and convergence results for
contours of sample statistical depth functions, Annals of Statistics, 483-499. 21
|
https://openalex.org/W4239830599
|
https://ojs.library.queensu.ca/index.php/IEE/article/download/1949/2054
|
English
| null |
Ideas in Ecology and Evolution – A new open-access model dedicated to the rapid release of creativity in peer-review publication
|
Ideas in ecology and evolution
| 2,008
|
cc-by
| 6,856
|
“It is better to be wrong than boring”.
– Jacob Weiner recognized sub-discipline of ecology or evolution, or
they may be broader in scope, including articles that aim
to inform fields of study outside of biology. All articles
will be joined by a conceptual foundation in the core
principles of ecology and evolution studied by
biologists. It may seem bold, if not brazen, for the first words
published in a new peer-reviewed journal to suggest
wrong is right. It may seem scurrilous to suggest the
broken clock is still right twice a day. And it may seem
to most that only a dreamer would ponder the value of a
simple stone found along a beach. Maybe this sounds traditional. But here’s the
difference: Ideas in Ecology and Evolution
will get under your skin. As a rapidly published
repository for cutting-edge, novel thinking and opinion-
pieces, it will make readers raise an eyebrow with
intrigue. Modelers, empiricists, educators and the media
will consider it a catalogue, brimming with original
ideas and hypotheses that have been critically evaluated
by professional biologists. The contents can be
explored, debated, tested and tried on wide audiences. As a reliable source of inspiration, Ideas in
Ecology and Evolution will guide the
direction and progress of future research and public
awareness in ecology and evolution. And it will never
be boring. Yet, commonly in the progress of science, it is
necessary to be wrong before choosing the right path
along the often circuitous journey that leads to truth. The broken clock owner needs to find a way to make the
flawed timepiece right more often. Repair? Replace? That’s discovery. The stone on the beach may indeed
turn out to be worthless, but another one discovered
nearby becomes a beautiful sculpture when the inspired
beachcomber is an Inuit artisan. That’s creativity. Wrong
can
be
exciting,
especially
when
it’s
instrumental in the process of discovery. Creativity,
challenge, and controversy are the catalysts of scientific
enquiry. Ideas in Ecology and Evolution – A new open-access model
dedicated to the rapid release of creativity in peer-review publication Lonnie W. Aarssen enl@queensu.ca), Dept. of Biology, Queen’s University, Kingston, ON, Canada, K7L 3N6 L.W. Aarssen (aarssenl@queensu.ca), Dept. of Biology, Queen’s University, Kingston, ON, Can “It is better to be wrong than boring”. – Jacob Weiner iee
iee
Editorial iee
iee
Editorial Ideas in Ecology and Evolution 1: 1-9, 2008
doi:10.4033/iee.2008.1.1.e
© 2008 The Author. © Ideas in Ecology and Evolution 2008
Accepted 9 October 2008 Ideas in Ecology and Evolution 1: 1-9, 2008
doi:10.4033/iee.2008.1.1.e
© 2008 The Author. © Ideas in Ecology and Evolution 2008
Accepted 9 October 2008 Rationale for a new journal and page numbers, within five days of acceptance
and receipt of signed publication agreement; and page numbers, within five days of acceptance
and receipt of signed publication agreement; • No-blind reviewing; referees are automatically
acknowledged within published papers; The mere formulation of a problem is far more essential
than its solution, which may be merely a matter of
mathematical or experimental skill. To raise new
questions, new possibilities, to regard old problems
from a new angle requires creative imagination and
marks real advances in science. • Credit for referees; referees are paid, both for their
reviewing service and to forfeit their anonymity as
a public endorsement (or counter-argument) for
published papers; – Albert Einstein • Optional credit for referees through no-cost peer-
reviewed publication of their response to reviewed
papers; The mission of science is to seek truth. We are guided
in this mission not just by the generation of data but also
by the generation of ideas. Both have been, and always
will be essential to the progress of science (Aarssen
1997, Gardner et al. 2007). But data are subject to
measurement error, scientific misconduct, and other
sources of bias resulting from the imperfection of
human skills and the subjectivity of human nature (e.g. Ioannidis 2005, Martinson et al. 2005, Montgomerie and
Birkhead 2005, Lortie et al. 2007, Titus et al. 2008,
Young et al. 2008). Our confidence in data, therefore, is
rarely as complete as we would like, often leaving
questionable inspiration and qualified recommendations. Ideas, in contrast, are not encumbered by these sources
of error and bias, and their plausibility and merit can be
judged objectively. Those
ideas
that
survive
assessment, therefore, provide bias-free inspiration and
recommendations in the quest for truth. This in turn can
promote empirical research that is driven by interesting
and important questions, instead of just a ‘fishing
expedition’, where data collection is used to find
interesting
and
important
questions
(often
unsuccessfully), motivated by a need to look busy
(Weiner 1995). • Additional
post-publication
review
through
‘commentaries’ (also peer-reviewed) submitted by
readers; • Referee registry with ‘email-alerts’ to provide
notification of the latest manuscripts available for
review; • Efficient checklist/questionnaire-based platform for
referees to streamline manuscript evaluation; • Completely transparent protocol for decisions to
accept or reject, available to authors; rejection is
never based on arbitrary journal ‘page limits’, or on
editorial imperatives to boost journal impact factor. Summary of unique combination of features And so, acknowledging the complex and often
nebulous interplay between wrong, right and boring, we
launch Ideas in Ecology and Evolution
(http://library.queensu.ca/ojs/index.php/IEE). It’s
an
open-access, peer-reviewed publication designed for
forward-thinking ecologists and evolutionists. Ideas
in Ecology and Evolution will publish only
lively, short forum-style articles that develop new ideas
or that involve original commentaries on topics broadly
focused on applied or fundamental ecology or evolution. They
may
encompass any level of biological
organization, and involve any taxa, including humans. Articles may concern subject matter within any • A novel scope, publishing exclusively short ‘ideas
and perspectives’ – style papers, not reviews, and
with no experimental data or mathematical
modelling, thus serving as a rapid and easily
accessible source of inspiration for further research
and public debate aimed at a broad base of
readership, from students to professionals in both
science and the media. • The speed of ‘blog-style’ communication combined
with formal credit as a peer-reviewed publication;
accepted papers are published on-line, with volume iee 1 (2008) 1 Riding on a revolution in science communication The ‘open’ concept (‘open-access’, ‘open-science’) is
poised to transform communication in science. It is
quickly expanding the ability “not just to consume
online information but to publish it, edit it and
collaborate about it – forcing such old-line institutions
as journalism, marketing and even politicking to adopt
whole new ways of thinking and operating … Since the
time of Galileo and Newton, scientists have built up
their knowledge about the world by ‘crowd-sourcing’
the contributions of many researchers and then refining
that knowledge through open debate” Waldrop (2008). Yet, despite the importance of idea development to
the progress of science, new ideas are very often not
assessed objectively and are difficult to get published. Good empirical studies that support established theory
are especially easy to publish in traditional refereed
journals. Even mediocre data seem to be easily
publishable, judging from the fact that about half of the
papers published in science never get cited (Hamilton
1991), and many papers even in high-impact factor
journals get very few citations (Koricheva & Leimu
2005). By comparison, authors who propose good
novel ideas have a much harder time getting their
manuscripts
accepted
for
publication
(e.g. see
Campanario 1993, 1995, 1996). According to Waldrop (2008), the transformation to
open-science will be driven by the “fear factor”; “if you
wait for the journals, your work won’t appear for
another six to nine months. But with open science, your
claim to priority is out there right away.” The ‘credit’
problem however remains a big barrier; “the peer-
reviewed paper is the cornerstone of jobs and
promotion, … Scientists don’t blog because they get no
credit for that … publications were always the one thing
you could measure. Now, however, as more of this
informal communication goes online, that will get easier
to measure, too” (Waldrop 2008). It appears, therefore, to be part of human nature to be
strongly skeptical of new ideas. Of course this is a good
thing for science, where progress depends on new ideas
being ‘put to the test’. But it is not a good thing when
constructive
criticism
turns
to
aggressive
bias. Publication bias in particular, limits the opportunities
for new ideas to be put to the text. When a new idea Ideas in Ecology and Evolution solves
the credit problem by combining all the advantages of
rapid, open-concept communication with formal credit
as a peer-reviewed publication of original ideas and
commentaries. Riding on a revolution in science communication 2 iee 1 (2008) challenges,
proposes
an
alternative
view,
or
recommends a change of perspective for an established
body of theory, it can be very difficult to find referees
who do not have a conflict of interest. Many referees
embrace established theory with tenacity, either because
they contributed to its development, or because their
own research is consistent with it, or may depend upon
it for validation. If the new idea casts some doubt on
the value or potential impact of the referee’s own
research, then the referee may perceive the idea as a
threat. Other referees may feel threatened simply
because they have ‘new-idea-envy’. “Great spirits have
always encountered violent opposition from mediocre
minds ” – Albert Einstein. proposes
an
alternative
view,
o that rejects elitism, guards against sources of publication
bias, and serves to break down traditional barriers to the
release of creativity. Its mission is to promote wider
dissemination and more rapid flow, evaluation, and
maturation of new ideas (and their rejection based on
objective unbiased criteria), and hence, speed the
progress of science. Importantly, because articles are
published only on-line, there is no bias resulting from
the arbitrary page-space limitations imposed routinely
by paper-based traditional journals, as a self-serving
mechanism to maximize journal impact factor. A novel scope These effects generate a systemic resistance to new
ideas, often associated with unfair and sometimes
hostile derogatory accusations and labeling such as
‘hand-waving’, ‘just-so stories’, and ‘arm-chair
ecology’ leveled against authors who propose new
ideas. These
referee
biases
pre-dispose
recommendations for rejection of new ideas by journal
editors, with reasons that at first glance may appear
credible and convincing, but upon closer examination,
are often based on grounds that are subjective,
debatable, and/or weakly argued. The journal editors,
who are often over-worked and under-paid, are in turn
readily
inclined
to
follow
the
referees’
recommendations in order to relieve the exasperation of
having too many manuscripts that need clearing off their
desks, which in most cases is a consequence of the
arbitrarily limited number of ‘pages’ available in the
journal for printing them all – another source of bias,
unjustified in the age of electronic communication. The
author must then submit the new idea to another journal,
and perhaps another after that. Eventually, perhaps a
year or more later, acceptance for publication may be
found, but only provided that the author’s available
time, energy, or morale has not expired first. There are lots of journals that publish reports of
empirical studies, lots that publish mathematical
modeling, and lots that publish review articles. A few
ecology / evolution journals have small forum-type
sections, where new ideas can be published. Ideas in
Ecology and Evolution, however, is the first
journal in its field to be dedicated exclusively to forum /
commentary type papers. All papers submitted to Ideas in Ecology and
Evolution are published provided that they meet the
following five core criteria, as judged by the editors: (i) The paper must present a genuinely novel idea or
commentary. (ii) The new idea /commentary must be well-argued
and plausible. (iii) The paper must demonstrate the potential for the
new idea /commentary to impact significantly on
the subject area or broader discipline. (iv) The paper must clearly differentiate the idea or
commentary from any previously published
similar ideas or commentaries. The rejection of manuscripts resulting from the
above process represents a crippling source of bias and
delay in the progress of science, imposed to a large
extent by dominant elitists who often hold the power in
institutions of peer-review academic journalism. An
obsession with impact factor has given many journals
(and authors) a blurred vision of the purpose of science
(Raff et al. 2008). 1 William Whewell (1840, “The Philosophy of the Inductive Sciences”) explained that, "The Consilience of
Inductions takes place when an Induction obtained from one class of facts, coincides with an Induction obtained
from another different class. Thus Consilience is a test of the truth of the Theory in which it occurs." Much of
the history of support for Darwin’s theory of evolution is based entirely on this form of testability. A novel peer-review model However, if the referee
does not support the paper, or if she has her own views
for modification or elaboration of the proposed idea,
then she should be compelled to provide a well-
reasoned argument in the event that the paper is
nevertheless published (with her name necessarily
identified); the referee’s ‘well-reasoned argument’ can
then be published as well (at her request), thus giving
the referee the assurance of having her views published
and clarified for readers. In order to be published, of
course, the review must meet the same standard of
quality as for all submitted manuscripts. In addition to this monetary incentive, referees also
receive another incentive for giving up their anonymity
and for providing a high quality review. If the paper is
accepted for publication, each referee is entitled to
publish his views on the paper as a companion article –
peer reviewed by both the editors and the author; the
author of the original paper is, in this case, required to
provide a ‘review of the review’ as a concluding section
within the original paper (see Appendix). This provides
the referees with a peer-reviewed publication within the
journal without being charged the usual author fees (see
below). In this sense therefore, referees play a role that
is similar to that of paid syndicated columnists that
provide reviews for new books and movies within the
popular media. Some talented professionals might
develop respected reputations as critics in high demand,
and collect a lucrative source of income accordingly. At the end of this review process, therefore, each of
the three contributors (author plus two referees) may get
individual credit for their own separate peer-reviewed
publications of their proposals, critiques, revisions,
and/or development of the idea, thus promoting rapid
and thorough evaluation and maturation of the idea. With refereed publications of their own as incentives
(together with monetary remuneration), we anticipate
that referees will be inclined to be objective, thoughtful,
and prompt in their review of the manuscript, thus
promoting rapid high-quality reviews. Once the
author’s idea and its evaluation by referees are
published, readers of the journal should be well
equipped to make informed predictions concerning the
value of the idea and its likelihood of affecting the
future progress of the discipline. Moreover, readers also
have
the
opportunity
to
provide
further
development/critique of the idea through submission of
a Commentary article to the journal. A novel peer-review model automate the review process, providing a streamlined
mechanism for editors to quickly verify qualifications,
and to approve and assign referees for a particular
paper. Only referees that hold a PhD, or are registered
in, and expected soon to complete, a PhD program, are
enlisted. Preference is given to referees that hold an
academic appointment at an accredited post-secondary
educational or research institution. Referees
for
Ideas
in
Ecology
and
Evolution are not anonymous; they are paid – not
just for their reviewing services, but importantly, they
are paid to forfeit their anonymity. In other words, in
the event that the paper is published, payment of
referees secures their consent to reveal their identities –
directly within the published paper – as having refereed
the paper. Referee identity is also revealed to authors of
rejected papers. Referees must agree to these conditions
in advance, before receiving the paper for review. This
is done on-line, and the referee is paid upon receipt of
the
review
(see
“Peer
Review
Guidelines”
at
http://library.queensu.ca/ojs/index.php/IEE/about/editori
alPolicies#peerReviewProcess). We anticipate that
referees will be particularly attracted to the efficient
‘pipeline’ model for submitting reviews (see Appendix). In this way, a well written paper that proposes a novel,
plausible, and testable idea that has potential to impact
on the discipline can be quickly reviewed, with a referee
stipend (currently $150) that is easily earned after a few
mouse clicks on a standard form, and with no
requirement for additional written comments. At the time of submission, authors must provide the
names, affiliations and email addresses of at least three
potential referees who would be qualified to review
their manuscript. These may or may not be used at the
discretion of the editors. The above scheme provides important advantages
over traditional models of peer-review. Most
importantly, it provides a method of ‘quality assurance’
for reviews by putting in place strong incentives for
referees to do a good, honest job – because the referee’s
name will be ‘on the line’ through his/her identification
within the paper, should it be accepted. If the referee
truly does support the paper, then his/her identification
as a referee within the paper speaks for itself as an
endorsement, and so ‘all is well’ – i.e., the referee may
then have no particular interest in publishing a
companion response paper. A novel scope Addressing these problems requires a
new model of peer-review publication. Ideas in
Ecology
and
Evolution
represents
a
completely transparent peer-review publication model (v) A new idea must be accompanied by a proposal
for testing the idea, even if it is completely
impractical with current technology. Testability
may
be
addressed
directly,
e.g. through
empiricism, or in terms of the consilience of
inductions.1 (see also “Author Guidelines” at:
http://library.queensu.ca/ojs/index.php/IEE/about/submi
ssions#authorGuidelines iee 1 (2008) iee 1 (2008) 3 A novel peer-review model A novel financial policy Authors pay a submission fee (currently $400) at the
time of submission. From these funds, two referees are
paid (currently $150 each). If the paper is accepted for
publication,
authors
are
charged
an
additional
processing fee (currently $300) to cover handling and
publication costs. Having page and publication charges
is not novel; what is novel for this journal however, is
that some of the cost to authors – the submission fee – is
upfront, and does not guarantee publication (although
this fee is refundable in certain instances – see below). Importantly, this policy also serves to alleviate
disadvantage for authors with low funding sources; they
can earn their own funds to cover the cost of the fees for
their paper by registering with the journal as a potential
referee, and applying to referee papers that are of
interest to them that are advertised through email alerts
(see above). After reviewing four papers, a referee will
have earned enough remuneration to pay for virtually all
of the fees associated with one accepted paper. [Note
also that because the journal is open-access, authors
who can afford to pay the author fees are subsidizing
access to the journal for readers – e.g. in less developed
countries – who cannot afford the journal subscription
fees of more traditional journals]. At first this may sound off-putting. However, there
are at least two reasons to consider this a reasonable and
worthwhile fee for authors. First, the requirement that
authors pay for reviewing service is no different from
the payment for consultation fees that is routinely
practiced in most other professional domains. Referees
are busy people and their time is valuable. Authors
commonly complain that they receive poor reviews
from journals, and journals commonly find it difficult to
even find people who are willing to review. The
traditional view – that referees should feel obliged to
provide their reviewing time as a gratuitous service to
the profession – is a noble idea, but in practice
encourages freeloaders. Authors want good, fast
reviewing, but nothing that is both good and fast comes
cheap; it requires incentive, which involves referee
compensation that is fair and meaningful. The journal also includes a component for promoting
and rewarding good editorial service, which is lacking
in most contemporary journals. As an incentive, for
every 10 published papers handled, an editor may
submit a paper to the journal with all fees waived. A novel peer-review model This in turn
provides additional (post-publication) peer-review of the Another important feature of this journal is a referee
registry. Potential referees may register on-line with the
journal to receive regular ‘email alerts’, containing
notification of recently submitted manuscripts that are in
need of referees ‘for hire’. The email alert includes
information on how the referee can submit an
application to review a particular paper. Hence, this
journal is expected to generate a community of active,
motivated, high quality referees that keep an eye on
submissions. We anticipate that this will avoid the
perennial and growing problem that many editors of
traditional journals now face in trying to find referees
that are willing to review. Referee registration allows the building of a data-
base of referees and their credentials, which serves to iee 1 (2008) 4 iee 1 (2008) original paper. This up-front cost also provides an important
efficiency advantage for both authors and the journal: it
serves as a real incentive for authors to take great care in
addressing the above five core criteria before
submission, thus providing a filter for maximizing the
likelihood that the journal will receive only relatively
high quality papers. The editors want authors who have
taken the time and effort to be confident in the quality of
their paper. If an author is not willing to take the
financial risk of the submission fee, it probably means
that the paper is not very good anyway, and this filter
minimizes the number of these papers on the desks of
our editors. Accordingly, a low rejection rate is
anticipated, not because the journal will ‘publish
anything’, but because the above policy promotes high
quality submissions. Visibility, impact, and readership Those ideas that turn
out to be less profound or destined to be forgotten, and
those that are ahead of their time and destined to be
rediscovered in the future, can reside in perpetuity with
DOI numbers and journal volume and page numbers
within Ideas in Ecology and Evolution,
without wasting paper and without collecting dust in
multiple paper copies on the shelves of libraries around
the world. So, next time that you have an interesting new idea,
or a potentially important opinion, don’t just sit on it. Take time to develop your idea or opinion carefully into
a good manuscript, and submit it for peer-review to
Ideas in Ecology and Evolution, where it
can be quickly subjected to critical analysis, revision,
debate, and further development – where it can therefore
play a significant role in the maturation of theory within
your broader discipline. Through the promotion of your
original views in this journal, you can rapidly explore
their full potential for the release of creativity within
your academic or applied community, and within the
public at large – creativity that is essential for driving
the progress of research, and shaping the public
valuation of science. The readers of this journal will be those who are
interested in newly published ideas and commentaries
that might guide the direction of future research. We
anticipate that new graduate students and grant
applicants will be drawn to this journal when searching
for topics to develop into research proposals. Journal
clubs
and
graduate
courses
within
University
departments can look to this journal as a source of
inspiring articles to focus on for discussion groups. Ideas in Ecology and Evolution will
provide a shopping catalogue for modelers and
empiricists; a directory for educators and students, and a
promotional flier for the general media. Acknowledgements In developing the issues considered in this editorial, I
have benefited greatly from feedback and discussions
with several colleagues, including Tom Tregenza,
Brandon Schamp, Jennifer Waugh, Owen Roberts, and
especially Christopher Lortie. The Henry Ford model for success was to do one
thing really well. By being the only journal that
specializes exclusively in the publication of ideas and
commentary papers in ecology and evolution, we
anticipate that authors of such papers will be
encouraged to submit their work to Ideas in
Ecology and Evolution, both because of the
visibility provided by a specializing journal, and
because of the unnecessarily high rejection rates of
other traditional journals. Most current journals don’t
even want to publish your speculation, or they want to
severely restrict it. Reviewers and editors commonly
request that authors ‘tone down’ the speculation in their
Discussion,
and
some
journals
that
feature
‘perspectives’
sections
are
willing
to
consider
submissions only by invitation. In Ideas in
Ecology and Evolution, we want speculation,
and only speculation, and we are not so elitist to assume Visibility, impact, and readership that only certain people have legitimate speculation, nor
do we presume to already know who they are, waiting to
be invited. As with all journals now, particularly open-access
journals, visibility of a paper no longer depends on
journal reputation or impact factor. Neither does it
depend on payment of subscription fees, or having to
wait for every paper issue to arrive at a library. Because
of on-line publication, indexing/searching services like
Google Scholar, plus advertisement through list-serves
like ECOLOG and EvolDir, in addition to the journal’s
own email-alert service, Ideas in Ecology and
Evolution will have visibility for the entire world
after just a few mouse clicks on a computer. A recent review of how the internet has shaped
science (Evans 2008) suggests that, because of the way
that the growing volume of publications are now so
readily available and presented to researchers through
on-line searches, new ideas that don't receive attention
early on may now be at greater risk of being overlooked
f
tt A recent review of how the internet has shaped
science (Evans 2008) suggests that, because of the way
that the growing volume of publications are now so
readily available and presented to researchers through
on-line searches, new ideas that don't receive attention
early on may now be at greater risk of being overlooked
or
forgotten. Ideas
in
Ecology
and
Evolution provides a new publication model that
will guard against this trend by showcasing new ideas,
and by providing a conspicuous repository for retrieving
and resurrecting important ideas and opinions that might
be more easily lost in other journals. or
forgotten. Ideas
in
Ecology
and
Evolution provides a new publication model that
will guard against this trend by showcasing new ideas,
and by providing a conspicuous repository for retrieving
and resurrecting important ideas and opinions that might
be more easily lost in other journals. The ‘best of the best’ ideas and commentaries
published in this journal will – like cream – rise
naturally to the top, and will receive the merit that they
deserve through future citation. A novel financial policy Some of the processing fees collected for the 10 papers
previously handled by the editor (currently $30 per
paper) is used to pay reviewers for a paper submitted by
the editor. Editors may also elect to serve as referees of
submitted manuscripts, thus providing them with the
usual remuneration (currently $150 per review). Second, when paying this submission fee, authors are
free of worry (unlike with many traditional journals)
that their paper might be at risk of being rejected based
on biased arbitrary criteria like page limits, or editorial
imperatives based on elitist ‘impact factor’ goals to
publish ‘only the best of the best’. Authors have
completely transparent access to the protocol/rubric
used by editors for decisions to accept or reject (see
Appendix). No other journal provides this level of
comfort to authors. If the author’s idea really is novel,
plausible, potentially testable, and is likely to impact on
the discipline, the paper will be published. On the other
hand, if it has serious flaws, then a $400 fee is a bargain
for fast service that provides their detection, allowing
the author to quickly re-focus and possibly rework an
improved manuscript for a future submission. Of
course an author might minimize the chance of this
happening by asking colleagues to review the paper
before submitting it to the journal, but like editors,
authors also have difficulty finding colleagues who are
not too busy to provide feedback on their manuscripts. The onus is on the author to provide manuscripts that
will attract potential referees. If the editor is unable to
secure referees for a paper, therefore, the author is
refunded most (currently $300) of the submission fee. Authors also receive this refund if the manuscript is
rejected prior to review, because of failure to follow the
required manuscript specifications. In addition, if a
reviewer takes longer than four weeks to submit a
review, the author is issued a refund (currently $150 per
late review). If a reviewer fails to submit a review
within six weeks, the author will be notified and given
the option to wait longer for the review, to request a
replacement reviewer, or to withdraw the manuscript
and receive a refund – currently $150 – for each
unsuccessful review attempt. 5 iee 1 (2008) iee 1 (2008) Appendix: The IEE review pipeline for
manuscript evaluation of the author’s original idea or commentary, and in
particular must effectively address the reasoning
provided in association with the selection of points D, E,
F, or G in the ‘pipeline’ of Figure 1, if applicable. Referee commentary based on identification of routine
errors (e.g. in grammar) or minor oversights (e.g. failure to provide citation to a reference mentioned in
the text) will not be published. of the author’s original idea or commentary, and in
particular must effectively address the reasoning
provided in association with the selection of points D, E,
F, or G in the ‘pipeline’ of Figure 1, if applicable. Referee commentary based on identification of routine
errors (e.g. in grammar) or minor oversights (e.g. failure to provide citation to a reference mentioned in
the text) will not be published. (1) A paper is accepted as is, without revisions, if both
referees check the choices associated with the red line
trajectory in the ‘pipeline’ of Figure 1. (2) If a referee selects A, B, or C in the ‘pipeline’ (Fig. 1) (based on core criteria 1 – 3; see main text), then a
subject editor from the Advisory Editorial Board is
normally consulted to evaluate the referee’s criticism. The paper is rejected if at least one referee provides
well-reasoned support, as judged by the editors, for
selecting points A, B, or C in the ‘pipeline’, and the
referees’ comments (with their identities revealed) are
forwarded to the author. In this case, authors are not
permitted to submit a revised paper under the same
submission number (although they may pursue an
entirely new submission with a cover letter that explains
how they have addressed referee concerns from their
earlier submission). (5) At this stage, the decision to publish rests with the
author, who may elect to withdraw the paper if he would
prefer not to publish his original paper together with the
published reviews from the referee(s). (6) If both the author and at least one referee indicate
their wish to publish in (4) and (5), then the author may
elect to invite the referee(s) to co-author the paper, and
this will be particularly encouraged by the editor if the
referee has provided important further development or
clarification
of
the
author’s
original
argument. Appendix: The IEE review pipeline for
manuscript evaluation Alternatively, the author (or the referee) may elect not
to collaborate, but in this case the author must provide a
review of the referee’s responding article (limited to
1500 words and one illustration); this author’s review
(which may be supportive or may take the form of a
rebuttal) must be incorporated as a concluding section
under separate subtitle (‘Response to referees’) added to
the end of the originally submitted manuscript. In this
case, no revisions of content, to address the referee’s
responding comments, are permitted in the author’s
originally submitted text of the manuscript (except for
referee corrections arising from routine errors or minor
oversights – as judged by the editors). This
arrangement is designed to maximize quality control
because authors should be inclined under this
arrangement to take great care in developing their
original manuscript before it is submitted. In addition,
with this arrangement, referees should be particularly
inclined to provide high quality reviews because their
reviews are in turn subjected to published peer-review
by the submitting author, as well as peer review by the
editors. (3) If a referee selects A, B, or C in the ‘pipeline’, but in
the judgment of the editors has NOT provided a well-
reasoned supporting argument, then the referee’s input
in this case does not affect the editor’s decision to
accept or reject. If, after this, the editors have no sound
argument for selecting points A, B or C, then the author
is given the benefit of the doubt, and the paper is
processed as indicated in (4). Importantly, if the
referee’s criticisms involving A, B or C are judged as
debatable, the manuscript is likely to be accepted for
publication and the editor will encourage the referee to
publish his/her objections/concerns as a companion
article (see below). (4) After (3), or if neither referee selects A, B, or C in
the ‘pipeline’, then the paper is accepted for publication
provided that core criteria 4 and 5 (see main text),
concerning points D, E, F, and G in the ‘pipeline’ (Fig. 1) can be met – as judged by the editor – either through
published reviews from referees, or in a revised
manuscript from the author. A member of the Advisory
Editorial Board is normally consulted to facilitate this
decision. References Aarssen, L.W. 1997. On the progress of ecology. Oikos
80: 177-178. CrossRef Campanario, J.M. 1993. Consolation for the scientist:
sometimes it is hard to publish papers that are later
highly cited. Social Studies of Science 23: 342-
362. CrossRef Campanario, J.M. 1995. Commentary on influential
books and journal articles initially rejected because
of
negative
referees’
evaluations. Science
Communication 16: 304-325. CrossRef Campanario, J.M. 1996. Have referees rejected some of
the most-cited papers of all times? Journal of the
American Society for Information Science 47: 302- iee 1 (2008) iee 1 (2008) 6 Evans, J. 2008. Electronic Publication and the
Narrowing of Science and Scholarship. Science
321: 395 – 399. CrossRef Gardner, J., Marsack, P., Trueman, J., Calcott, B. and R. Heinsohn. 2007. Story-telling: an essential part of
science. Trends in Ecology and Evolution 22: 510. CrossRef Hamilton, D.P. 1991. Research papers: who’s uncited
now? Science 251: 25. CrossRef Hamilton, D.P. 1991. Research papers: who’s uncited
now? Science 251: 25. CrossRef
Ioannidis, J.P.A. 2005. Why most published research
findings are false. PLoS Med 2(8): e124. CrossRef Ioannidis, J.P.A. 2005. Why most published research
findings are false. PLoS Med 2(8): e124. CrossRef Koricheva, J. and R. Leimu. 2005. What determines the
citation frequency of ecological papers? Trends in
Ecology and Evolution 20: 28-32. CrossRef Martinson, B.C., Anderson, M.S. and R. de Vries. 2005. Scientists behaving badly. Nature 435: 737-738. CrossRef Lortie, C.J., Aarssen, L.W., Budden, A.E., Koricheva,
J.K., Leimu, R., and T. Tregenza. 2007. Publication
bias and merit in ecology. Oikos 116: 1247-1253. CrossRef Montgomerie, R. and T. Birkhead. 2005. A beginner’s
guide to scientific misconduct. ISBE Newsletter
17: 16-24. Raff, M., A. Johnson, and P. Walter. 2008. Painful
publishing. Science 321: 36. CrossRef Titus, S.L., Wells, J.A. and L.J. Rhoades. 2008. Repairing research integrity. Nature 453: 980-982. CrossRef Waldrop, M.M. 2008. Science 2.0 – Is open access
science
the
future? Scientific
American. http://www.sciam.com/article.cfm?id=science-2-
point-0 Weiner, J. 1995. On the practice of ecology. Journal of
Ecology 83: 153-158. CrossRef Young N.S., Ioannidis, J.P.A., and O. Al-Ubaydli. 2008. Why current publication practices may distort
science. PLoS
Med
5(10):e201
CrossRef 7 iee 1 (2008) iee 1 (2008) Appendix: The IEE review pipeline for
manuscript evaluation If the paper is accepted, the referees must
indicate at this point whether they wish to have their
comments published as companion articles together
with
the
accepted
manuscript. The
referee’s
review/response, if it is to be published, may be critical
or supportive of the idea, but must – as judged by the
editors – be based on substantive comments involving
refutation (if debate regarding A, B or C is involved),
further clarification, extension, modification, or revision (7) In the event that one or both referees choose not to
publish their reviews, the author of an accepted
manuscript may revise the original manuscript in any
ways that may be necessary to adequately address any
comments from this/these referee(s). Some revisions, as
determined by the editor, may be mandatory before final
acceptance. Papers are published on-line within five
working days of final acceptance, payment of the
processing fee and receipt of the signed publication
agreement. iee 1 (2008) iee 1 (2008) 8 Is the proposed
idea / commentary
novel to the best of
your knowledge? YES. Is the idea / commentary well-
argued and plausible? NO. Provide citation to
previous publication of the idea
/ commentary in the space
provided. YES. Is the idea / commentary likely
to have an impact on the
subject area? NO. Explain your reasoning in the
space provided
YES. Has the author effectively
illustrated this? NO. Explain your reasoning in the
space provided. YES. NO. Explain your reasoning in the
space provided. Is the proposed idea /
commentary similar to any
other previous publications to
the best of your knowledge? NO. YES. Has the author cited these? YES. NO. Provide citation to these
previous publications
Has the author effectively
distinguished these previous
publications from the proposed
idea/commentary? YES. NO. Explain, in the space provided,
how they are similar to the
proposed idea/commentary,
yet different
[For New Ideas only; bypass
for commentaries]. Has the
author adequately addressed
the testability of the idea ? YES. (SUPPORT FOR
PUBLICATION)
NO. Click here to justify your
reasoning
C
B
E
F
G
D
A
Fig. 1. ‘Pipeline’ model for
manuscript evaluation. Is the proposed
idea / commentary
novel to the best of
your knowledge? YES. Is the idea / commentary well-
argued and plausible? NO. Provide citation to
previous publication of the idea
/ commentary in the space
provided. YES. Appendix: The IEE review pipeline for
manuscript evaluation Is the idea / commentary likely
to have an impact on the
subject area? NO. Explain your reasoning in the
space provided
YES. Has the author effectively
illustrated this? NO. Explain your reasoning in the
space provided. YES. NO. Explain your reasoning in the
space provided. Is the proposed idea /
commentary similar to any
other previous publications to
the best of your knowledge? NO. YES. Has the author cited these? YES. NO. Provide citation to these
previous publications
Has the author effectively
distinguished these previous
publications from the proposed
idea/commentary? YES. NO. Explain, in the space provided,
how they are similar to the
proposed idea/commentary,
yet different
[For New Ideas only; bypass
for commentaries]. Has the
author adequately addressed
the testability of the idea ? YES. (SUPPORT FOR
PUBLICATION)
NO. Click here to justify your
reasoning
C
B
E
F
G
D
Is the proposed
idea / commentary
novel to the best of
your knowledge? YES. Is the idea / commentary well-
argued and plausible? NO. Provide citation to
previous publication of the idea
/ commentary in the space
provided. YES. Is the idea / commentary likely
to have an impact on the
subject area? NO. Explain your reasoning in the
space provided
YES. Has the author effectively
illustrated this? NO. Explain your reasoning in the
space provided. YES. NO. Explain your reasoning in the
space provided. Is the proposed idea /
commentary similar to any
other previous publications to
the best of your knowledge? NO. YES. Has the author cited these? YES. NO. Provide citation to these
previous publications
Has the author effectively
distinguished these previous
publications from the proposed
idea/commentary? YES. NO. Explain, in the space provided,
how they are similar to the
proposed idea/commentary,
yet different
[For New Ideas only; bypass
for commentaries]. Has the
author adequately addressed
the testability of the idea ? YES. (SUPPORT FOR
PUBLICATION)
NO. Click here to justify your
reasoning
C
B
E
F
G
D
A
Fig. 1. ‘Pipeline’ model for
manuscript evaluation. Is the proposed
idea / commentary
novel to the best of
your knowledge? Is the proposed
idea / commentary
novel to the best of
your knowledge? Is the proposed
idea / commentary
novel to the best of
your knowledge? Is the proposed idea /
commentary similar to any
other previous publications to
the best of your knowledge? Appendix: The IEE review pipeline for
manuscript evaluation Is the proposed idea /
commentary similar to any
other previous publications to
the best of your knowledge? Is the proposed idea /
commentary similar to any
other previous publications to
the best of your knowledge? Fig. 1. ‘Pipeline’ model for
manuscript evaluation. Fig. 1. ‘Pipeline’ model for
manuscript evaluation. Fig. 1. ‘Pipeline’ model for
manuscript evaluation. Fig. 1. ‘Pipeline’ model for
manuscript evaluation. iee 1 (2008) 9
|
https://openalex.org/W4306366839
|
https://cityterritoryarchitecture.springeropen.com/counter/pdf/10.1186/s40410-022-00179-w
|
English
| null |
Indicators for local policies of cultural welfare: content, dimensions, and quality criteria
|
City, territory and architecture
| 2,022
|
cc-by
| 10,100
|
© The Author(s) 2022. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which
permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the
original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or
other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line
to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory
regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this
licence, visit http://creativecommons.org/licenses/by/4.0/. The long way from GDP to wellbeing: is there a place
for the arts and culture? From the 1950s to the end of the 1980s, several new
measures explored the social preconditions and dimen-
sions of wellbeing as an alternative to GDP-based assess-
ments. Among them, Bauer’s Social Indicators (Bauer
1966), Bhutan’s Gross National Happiness (Royal Gov-
ernment of Bhutan 2012) and Nordhaus and Tobin’s
Measure of Economic Welfare (Nordhaus and Tobin
1973), the OECD List of Social Indicators (OECD 1982),
and Miringoff’s Index of Social Health (Miringoff 1997)
all contributed to the effort. The Brundtland Report
(Brundtland 1987) boosted the popularity of the notion
of sustainable development, and in 1992, the UN Sum-
mit in Rio de Janeiro introduced the same concept into
the political debate. Other measures include the UN
Human Development Index (UNDP 1994); the Genuine Simon Kuznets, one of the fathers of the System of
National Accounts, and of the concept of GDP, wrote as
early as 1934 that “the welfare of a nation can scarcely be
inferred from a measure of national income.” (Kuznets
1934). On March 18th, 1968, Senator Robert Kennedy
delivered his famous speech on the failure of GDP (it
‘measures everything except that which is worthwhile’)
(Kennedy 1968). Distinguished academic communities in the U.S. were on the same wavelength, and the Social Indicators
Movement, advocating the use of social indicators for 1 ISTAT - Istituto Nazionale di Statistica, Rome, Italy
Full list of author information is available at the end of the article Introduction measuring societal progress and development, was on its
way (Noll and Zapf 1994; Land 1983; US Department of
Health, Education and Welfare 1969). Abstract Wellbeing measures are gaining consensus as complementary to the traditional GDP approach when it comes to
assessing the development of countries and communities. Cultural Welfare is a new, integrated approach aimed
at promoting the wellbeing and health of individuals and communities through practices rooted in the arts and
in cultural heritage. Recently, experimental tools have been devised and applied, with reference to either specific
target groups of beneficiaries or individual cultural/artistic disciplines, the purpose of which is to measure and assess
the contribution to individual and societal wellbeing, as well as the health of cultural and artistic participation and
practice in general. Policies aimed at promoting cultural welfare need a robust body of evidence, and indicators may
contribute to supporting them. While measures for the assessment of the culture-and-wellbeing relationship have
been proposed at the national level or at the level of individual organizations or programmes, the level of local poli-
cies appears still largely unexplored. The article discusses a few theoretical and methodological issues and proposes a
set of quality criteria for designing cultural welfare indicators on a local scale. Keywords: Arts-and-health, Culture and health, Culture and wellbeing, Cultural indicators, Cultural welfare, Wellbeing
indicators Keywords: Arts-and-health, Culture and health, Culture and wellbeing, Cultural indicators, Cultural welfare, Wellbeing
i di
t Cicerchia City, Territory and Architecture (2022) 9:32
https://doi.org/10.1186/s40410-022-00179-w Open Access Indicators for local policies of cultural
welfare: content, dimensions, and quality
criteria Annalisa Cicerchia1,2* *Correspondence: acicerchia@istat.it
1 ISTAT - Istituto Nazionale di Statistica, Rome, Italy
Full list of author information is available at the end of the article Arts and health as an emerging topic Wellbeing and health are closely intertwined. Since 1948,
the World Health Organisation has defined health as
“a state of complete physical, mental and social wellbe-
ing and not merely the absence of disease or infirmity”
(World Health Organization 1948). At the heart of this
definition is the recognition of the importance of health
promotion, disease prevention, and, above all, the social
and cultural determinants of health, i.e., the conditions
and abilities needed for people to be well, from both an
individual and a social perspective (World Health Organ-
isation 1948, 2008; Allen and Allen 2014). This vision
considers health as rooted within society and culture.h Arts and culture are sometimes listed among the key
domains which contribute to wellbeing, albeit not fre-
quently. This was the case with two national projects: the
Italian Measures of Sustainable and Equitable Wellbeing
and the Canadian Index of Wellbeing. g
Since 2010, the Italian National Institute of Statistics
has been developing a system of Measures of Equitable
and Sustainable Wellbeing (Benessere Equo e Sosteni-
bile—BES) that lists Landscape and Cultural heritage
among its 12 basic definitional pillars of wellbeing. More-
over, it includes Cultural participation indicators in the
domain of Education and indicators related to Occupa-
tion in the cultural and creative sector in the domain of
Innovation, Research and Creativity (Istat 2013, 2021). The Canadian Index of Wellbeing is built upon eight
domains, one of which is devoted to Leisure and culture,
with four main components: participation in leisure, rec-
reation, arts, and cultural activities; perceptions/feelings
about leisure activities, including why people partici-
pate, which needs are being met through participation,
and how leisure and culture participation benefits them;
Leisure experience, or the meaning it holds for people
in relation to their quality of life, and the provision of
leisure and culture opportunities, such as access to rec-
reation facilities, open spaces and parks, and other arts,
culture, and recreation sites (Canadian Index of Wellbe-
ing 2016). Indexes for measuring wellbeing in cities have
been published in recent years (Orii et al. 2020; Pineo and
Rydin 2018; Gaffaney 2017; The Wellbeing Project 2017;
Chadha et al. 2015). However, only a few of them include
culture and the arts as fundamental dimensions of well-
being. Cicerchia City, Territory and Architecture (2022) 9:32 Page 2 of 11 Page 2 of 11 Cicerchia City, Territory and Architecture (2022) 9:32 Cicerchia City, Territory and Architecture (2022) 9:32 Progress Indicator (Cobb et al. 1995), and the Quality-
of-Life Index (Diener and Suh 1997). The issue gained
momentum once more during the first decade of the
third millennium, also thanks to relevant stirrups such
as the Stiglitz-Sen-Fitoussi Report (Stiglitz et al. 2009);
the European Commission’s GDP and Beyond projects
(Eurostat 2010); OECD’s Better Life Initiative (OECD
2011); the UN General Assembly’s Resolution on Hap-
piness (United Nations General Assembly 2012); and the
World Happiness Report (Helliwell et al. 2012). Many of
the alternative measures share a domain-based approach:
they break down the concept—too big, and too qualita-
tive to be easily and directly measured—into building
blocks, or domains. Domains are further deconstructed
into themes, themes into eminent phenomena, and phe-
nomena are linked to measurable variables. Capitals of Culture—EcoC programme, and the Joint
Research Centre with their Cultural and Creative Cities
Monitor (Montalto et al. 2019) have all proposed their
measures. The United Cities and Local Governments
created a system of indicators for assessing cultural sus-
tainability (James 2015). At the end of 2019, UNESCO
published Culture Indicators 2030, a system of 22 indica-
tors devised to assess the contribution of culture to the
Sustainable Development Goals (SDGs), which are meant
for covering both the national and the urban level (Une-
sco 2019; Cicerchia 2021). Capitals of Culture—EcoC programme, and the Joint
Research Centre with their Cultural and Creative Cities
Monitor (Montalto et al. 2019) have all proposed their
measures. The United Cities and Local Governments
created a system of indicators for assessing cultural sus-
tainability (James 2015). At the end of 2019, UNESCO
published Culture Indicators 2030, a system of 22 indica-
tors devised to assess the contribution of culture to the
Sustainable Development Goals (SDGs), which are meant
for covering both the national and the urban level (Une-
sco 2019; Cicerchia 2021). Evidence for the policies In recent years, several experimental tools have been
devised and applied with the aim of measuring and
assessing the contribution of cultural and artistic partici-
pation and practice in general to individual and societal
wellbeing and health, also during the Covid-19 pandemic
(Hill 2021; Ascolani et al. 2020; Sacco and Grossi 2015;
Carnwath and Brown 2014; McLellan et al. 2012; Brajsa-
Zganec et al. 2011; Cuyper et al. 2011; Wilkinson et al. 2007; Clow and Fredhoi 2006). Under these premises, the entire range of behaviour
settings (Lewin 1951; Barker 1968; Gump 1971; Fox and
Ghosh 1981; Fox 1985, 1986) where individuals and
groups live are essential factors of health and wellbeing
for the people involved. To explain human behaviour, we
need to look at the environment where this behaviour
unfolds. The 2021 American Time Use Survey Well-being
Module Questionnaire (US Bureau of Labour Statistics
2021), as a matter of fact, tries to identify the settings of
said behaviour. “The arts-and-health field is making an
important contribution to the wellbeing agenda in many
countries, as the social injustices behind inequalities in
health are addressed” (Owen 2013). The resulting strate-
gies are sometimes labeled as Cultural Welfare. Cultural
Welfare is a new integrated approach to promoting the
well-being and health of individuals and communities. Part of this approach is “to include the processes of cul-
tural production and dissemination appropriately and
effectively within a welfare system and thus make them
an integral part of the social welfare and health services
that guarantee citizens the forms of care and support
needed to overcome critical issues related to health, age-
ing, disabilities, social integration and all the problems
associated with the recognition of a duty of social protec-
tion” (Sacco 2017a, b).h Many of those studies are population-wide, with
national and international samples. Other indicator-based measurements have addressed
the impacts of individual artistic disciplines and cultural
practices on wellbeing (see, for instance, Clift and Han-
cox 2010; Clift et al. 2008; Clair 1996 on music; Hui and
Stickley 2010; Durdey 2006; Copeland and Cohen 1983
on dance; Clow and Fredhoi 2006 on art galleries; The
Beaney House of Art and Knowledge 2021; The Herit-
age Alliance 2020; Desmarais et al. 2018; Veall et al. 2017;
Noble and Chatterjee 2013; Fears 2011 on cultural herit-
age and museums; Meeks et al. Arts and health as an emerging topic Over the last two decades, scoreboards of indica-
tors have been proposed for measuring cultural vibrancy
or vitality at the urban level, which are somehow related
to quality of life, sustainability, and (indirectly) wellbeing. Among others, the Urban Institute (Jackson et al. 2006);
Garcia and Cox (2013) with reference to the European y
The practice of relying on the arts for healing and hap-
piness is ancient (see, among others, Cork 2012; Belf-
iore 2015; Owen 2013; Sigurdson 2015; Cicerchia 2021). Beauty and harmony contribute to the balance between
the body, the mind, and the environment, thus to good
health (Clow and Fredhoi 2006; Grossi et al. 2019). At
the beginning of the new millennium, an editorial in the
British Medical Journal suggested: ‘Spend (slightly) less
on health and more on the arts—health would prob-
ably be improved’. Doubtless with a hint of provocative
intent, the author—a medical doctor and the editor of the
authoritative journal—argues that even a minimal diver-
sion of healthcare funds towards the arts would improve
the health of people: “The arts don’t solve problems. Books or films may allow you temporarily to forget your
pain, but great books or films (…) will ultimately teach
you something useful about your pain. […] If health is
about adaptation, understanding, and acceptance, then
the arts may be more potent than anything that medicine
has to offer” (Smith 2002; cited by Belfiore 2015).i fi
Since the 1948 definition, the concept of health has
expanded. “Health depend[s] on whether a person has
established a state of balance within oneself and with the
environment. […] Those with a disease or impairment
will be considered as being healthy to a level defined by
their ability to […] get the most they can from their life
despite the presence of the disease” (Sartorius 2006). On a similar line, the allostasis model defines health as Cicerchia City, Territory and Architecture (2022) 9:32 Cicerchia City, Territory and Architecture Page 3 of 11 sustained participation in specific cultural, artistic, and
creative activities as a factor: “optimal responsiveness” (Sterling 2019). The salutogenic
approach does not focus on the elements that threaten
health, but rather on those that enable people to manage
themselves in the best possible way (Antonovsky 1996). Arts and health as an emerging topic As a relevant source of life skills, “culture, by contributing
to the intellectual, emotional, moral and spiritual wellbe-
ing of people, and by enabling everyone to exercise their
human rights, including their cultural rights, also con-
tributes to sustainable development” (UNESCO 2015). • of subjective well-being, life satisfaction, and health, • in combating health-related inequalities and foster-
ing social cohesion, g
• of active aging, combating abandonment and isola-
tion, • of inclusion and empowerment for people with dis-
abilities or marginalised people, In a recent strategic report on the economic and social
impact of the cultural and creative sectors, the OECD
mentions evidence on how cultural participation posi-
tively affects both life expectancy and quality of life,
even after statistically controlling for factors such as
income, education, or health status (OECD 2021). The
comprehensive 2019 World Health Organisation review
on the role of the arts in preventing illness and promot-
ing health, as well as in managing and treating illnesses
throughout people’s lives (Fancourt and Finn 2019) is
specially mentioned; references are made to well-estab-
lished practices in the arts and health field, such as the
“arts on prescription” programmes that recommend cul-
tural experiences (e.g., visiting museums) and cultural
and artistic engagement as part of therapeutic plans and
active ageing programmes (Dalziel et al. 2019; Clift and
Camic 2015; Brandling and House 2009). • supporting traditional therapeutic practices and the
doctor-patient relationship, • of support for carers, especially non-professional
ones, • of mitigation and delay of several degenerative condi-
tions (Cicerchia et al. 2020). Evidence for the policies 2020; Michalak 2014; Sex-
tou and Monk 2013 on theatre; Hjort 2019; Cohen et al. 2016; Matthew et al. 2012; Dermer and Hutchings 2010;
Powell and Newgent 2010 on cinema). Other studies report the contribution of the arts and
culture to the wellbeing of specific segments of the popu-
lation with various mental and physical conditions: from
the elderly to teenagers, from recent immigrants to new-
borns, from prison inmates to oncological patients, peo-
ple with severe depression, Alzheimer’s, or Parkinson’s. A
useful open source is the Repository of Arts and health
Resources
(https://www.artshealthresources.org.uk/
repositorysearch/), with over 700 records as of January
2022. The recent report published by the European Office The notion of Cultural Welfare is policy-oriented,
and is based on the recognition of the effectiveness of Cicerchia City, Territory and Architecture (2022) 9:32 Page 4 of 11 Page 4 of 11 (Meadows 1998). To avoid pitfalls, an initial point to con-
sider is the limit of the significance of the indicators we
construct, i.e., defining what they can accurately, reliably,
and correctly represent. Indicators do not have an unlim-
ited semantic carrying capacity. If too many phenomena
are crammed into the semantic content of an indicator,
the overload results in ambiguous messages that are dif-
ficult to interpret and unreliable measurements. There-
fore, indicators must be designed in ways that emphasize
the logical link between the measured phenomena and
the concept that they are supposed to represent as their
proxy. This is particularly true in a complex and multi-
dimensional field such as Cultural Welfare. of the WHO offers a scoping review with details on the
characteristics of the different beneficiaries (Fancourt
and Finn 2019). Clift and colleagues, however, adopt a more cautious
attitude in recalling the early critiques by Belfiore and
Mirza (Mirza 2006) on the role of the arts in promoting
health and reducing social and health inequalities, and
suggest that “broad scoping reviews are ill-advised as a
guide for practice and policy development, and future
progress should be guided by rigorous, systematic and
transparent methods that ensure that review results are
trustworthy” (Clift et al. 2021). Policies aiming at harnessing the full potential of the
arts and culture in promoting wellbeing and health need
specific, reliable tools to plan interventions and monitor,
assess, and evaluate their impacts and results (Cicerchia
2019). Evidence for the policies Among those tools, besides qualitative in-depth
analyses, narratives and stories, scenario techniques, etc.,
indicators represent a valuable and popular option. i
The phenomena we use to build indicators should
be dynamic and sensitive enough to allow us to record
changes—usually on a yearly basis—in correspondence
with interventions or variations in their context. Let us
assume that we need to assess the contribution of the
visual arts in terms of improving the quality of patients’
stay in hospitals. A first option would be an indica-
tor that measures the “Percentage of hospitals that have
commissioned artistic decorations of their wards in the
last year”. This is an input indicator, and it quantifies the
effort, rather than the result (results are measured by
outcome indicators). It is likely to remain stationary for
a long time, as the potential increase in the number of
local hospitals that promote artistic decoration tends to
be marginal. An alternative measure could be “Percent-
age of patients in local hospitals who found that deco-
rated wards had a positive effect on their mood”. Such an
indicator focuses on the results, involves a larger number
of units, and may show variations over time, and possibly
across age groups, genders, nationalities, wards, hospi-
tals, etc. In this exercise, I will discuss a few theoretical and
methodological aspects that should be considered when
devising indicators aimed at assessing the contribution of
culture and the arts to the wellbeing of individuals and
groups for the purpose of policy planning and implemen-
tation at the local level. I will also propose a first, tenta-
tive list of indicators. What we can measure, what we should measureh artistic practice and participation to the needs of spe-
cific groups (e.g., low-income people, the elderly, NEETs,
migrants, etc.), also with targeted interventions on local
services and facilities. Supply indicators associated with this perspective
describe differences in the availability of goods and ser-
vices, in terms of territorial distribution, quality, variety,
etc. The second direction investigates how specific indi-
viduals or groups may respond to specific and targeted
cultural and artistic activities, specially designed for their
health and wellbeing. Demand indicators quantify access, frequency of expe-
rience, perception, practice, and their reported impact
on different levels of health and wellbeing. Indicators of
this sort may be used in support of urban policy goal set-
ting and goal attainment evaluation. Excessive fragmen-
tation should be avoided. While cultural indicators used
in economic assessment tend to measure the intensity
of consumption of separate cultural goods and services,
like cinemas, theatres, museums, books, magazines,
radio, tv, etc., in the context of cultural welfare policies,
the focus of measurement should rather be on the contri-
bution that the different cultural experiences may bring
to the general wellbeing in an urban/local and everyday
dimension. The pioneering study by the University of
Umeå (Bygren et al. 1996), showed that the overall cul-
tural and artistic diet of people throughout their lives is
what impacts their longevity and quality of life the most. Indicators of this kind should capture, on the supply side,
the opportunities for an artistic and cultural experience
in the selected urban or sub-urban dimension, i.e., the
operational daily setting (behaviour setting) of people liv-
ing in it. Indicators of this kind are used by cultural and artis-
tic organizations when designing their activities aimed
at promoting wellbeing and health, and when assessing
their impact on different beneficiaries, as well as on their
practitioners and other stakeholders. In this sense, indi-
cators provide evidence of the effectiveness of dedicated
cultural and artistic practices in bringing about planned
and sought-after benefits for selected recipients. About
museums, an interesting example is a toolkit devised by
researchers at the University College of London and the
Arts and Humanities Research Council: “a set of scales
of measurement used to assess levels of wellbeing arising
from participation in museum and gallery activities that
have been trialed across the UK. What we can measure, what we should measureh The indicators we are talking about ideally lie at the inter-
section of various social and medical sciences, political
decision-making systems, and statistics. To be useful,
they must strike a balance between policy relevance, sci-
entific consistency, and, of course, measurability. Meas-
urability comes at a price. If indicators, on the one hand,
increase the measurability of phenomena, they may lead
to their simplification on the other hand. Thus, compared
to qualitative information, indicators are more concise
and less complex at the same time.i For its composite and complex nature, the culture and
wellbeing field is remarkably vast and comprehensive. For this reason, I will focus on two purposes of evidence
generation in the context of local policies for Cultural
Welfare: As a result, while improving the quantification, com-
munication, and positioning of the phenomena they
represent, indicators do sacrifice a considerable amount
of information in the process. The advantage of these
measures is obvious, especially when it comes to commu-
nicating with stakeholders and focusing attention on spe-
cific aspects of complex issues. The disadvantage is the
ever-present danger of reducing complexity too much,
of flattening out, of losing details and nuances, which are
sometimes decisive. i. Surveying and assessment of the level of well-being
and health associated with different levels of cul-
tural participation of individuals and groups, also
taking into consideration any inequalities in terms
of opportunity and any impediments to accessing
goods and services related to the arts and culture. ii. Identifying, monitoring, and evaluating the impact
that practiced and experienced cultural activities
may have on both individuals and groups. “Indicators arise from values (we measure what we
care about), and they create values (we care about what
we measure). When […] poorly chosen, they can cause
serious malfunctions. Indicators are often poorly chosen”. In the first case, a combination of supply and demand
indicators shape evidence for policies aimed at reducing
inequalities and tailoring opportunities for cultural and Cicerchia City, Territory and Architecture (2022) 9:32 Page 5 of 11 of attitudes and feelings (Istat 2019, 2021). This requires
investing significant resources, not just for carrying out,
but also for re-thinking targeted research. This complex
issue is discussed, and recommendations are put forward
in a recent Policy Brief submitted to the European Com-
mission (SoPHIA 2021). What we can measure, what we should measureh The Toolkit has been
designed to help people involved in running in-house or
outreach museum projects, evaluate the impact of this
work on the psychological wellbeing of their audiences. The Toolkit is flexible in its application and supports a
‘pick and mix’ approach. It can be used to evaluate the
impact of a one-off activity or programme of events”
(Thomson and Chatterjee 2013). On the demand side, indicators should grasp the inten-
sity, variety, and continuity of people’s artistic and cul-
tural activities and experiences over a given period. h
In both cases, as in other comprehensive wellbeing
measures, cultural welfare indicators should describe
“wellbeing outcomes, as opposed to wellbeing driv-
ers measured by input or output indicators. Outcomes
may be imperfectly correlated with inputs (e.g., health
expenditure may be a poor predictor of health status if
the health care system is inefficient) or outputs (e.g., the
number of surgical interventions performed may say little
about people’s health conditions)” (OECD 2013). On the supply side, to assess the differences in the
amount, distribution, and variety of public cultural and
artistic facilities in different city zones, a possible indica-
tor could be: “varied offer of public cultural and artistic
facilities (museums, libraries, theatres, cinemas, concert
halls, galleries, etc.) by city district or neighborhood,
every 100,000 residents” (UNESCO 2019). On the demand side, a possible indicator could be
“Average number of hours per week spent in cultural
and artistic activities, including informal—singing, danc-
ing, painting, playing music, listening to music, reading
books, visiting museums or galleries, watching theatre
performances, etc.—perceived as pleasant and mood-lift-
ing, by city residents by district or neighborhood, gender,
and age”. Table 1 proposes examples of indicators that could be
used at the local/urban scale for orienting cultural wel-
fare measures. Table 1 combines objective indicators of supply and
subjective demand and impact indicators. As suggested
earlier in this section, the focus of measurement is both
on cultural goods and services with a potential impact on
wellbeing made available and on the subjective impact
that the various publics report on their wellbeing. Data, in this case, are necessarily obtained from sur-
veys and could profit from the integration of objec-
tive descriptions of behaviours, like time-budgets,
self-reported attendance, automatic or digital counting
of admissions and exits, etc., and subjective descriptions Time horizons: short, medium, and long term Cultural welfare indicators may address the impact of the
arts and culture on wellbeing at diverse time horizons. Page 6 of 11 Cicerchia City, Territory and Architecture (2022) 9:32 Table 1 Input and outcome indicators of cultural welfare
Purpose
Input
Outcome
Assessment of level of well-being and health
associated with different levels of cultural
vivacity of individuals and groups, inequalities
in terms of opportunity and any impediments
to access goods and services related to the arts
and culture
(OBJECTIVE INDICATOR, supply). Range of public cultural and artistic ven-
ues (museums, libraries, theatres, cinemas, concert halls, galleries, etc.) by
city district or neighborhood, every 100,000 residents
(SUBJECTIVE INDICATOR, demand/impact). Average number of hours per
week spent engaging in cultural and artistic activities, including infor-
mal—singing, dancing, painting, playing music, listening to music, reading
books, visiting museums or galleries, watching theatre performances,
etc.—perceived as pleasant and mood-lifting, by city residents by district
or neighborhood, gender, and age
(OBJECTIVE INDICATOR, supply). Total amount of integrated artistic and
cultural offer (e.g.net hours; net performance units, etc.), per year and
territorial area
(SUBJECTIVE INDICATOR, demand/impact). Overall satisfaction with life
of people with varying types and levels of cultural and artistic activity:
percentage by age, gender, territory
Identifying, monitoring, and evaluating the
impact that practiced and experienced cultural
activities may have on both individuals and
groups
(OBJECTIVE INDICATOR, supply). Percentage of local hospitals that have
commissioned artistic decorations of their wards in the last year
(SUBJECTIVE INDICATOR, impact). Percentage of patients in local hospitals
who found that decorated wards had a positive effect on their mood
(OBJECTIVE INDICATOR, supply). Percentage of local museums that have
promoted cultural welfare projects in the last year by beneficiary type,
number, and duration
(SUBJECTIVE INDICATOR, impact). Percentage of participants in projects of
cultural welfare promoted by local museums in the last year who report
benefits by beneficiary type, age, gender, and type of benefit Page 7 of 11 Page 7 of 11 Cicerchia City, Territory and Architecture (2022) 9:32 Cicerchia City, Territory and Architecture (2022) 9:32 Cicerchia City, Territory and Architecture (2022) 9:32 Long-term horizons are most common in longitudi-
nal studies, while cross-sectional studies compare dif-
ferent population groups at a single point in time. The
first Swedish longitudinal study (Bygren et al. 1996)
observed a simple random sample of 15,198 individu-
als aged 16–74 years. Scale, or the appropriate dimension So far, while measures for assessing the relationship
between culture and wellbeing have been proposed at the
national level or at the level of individual organizations
or programmes, the level of local/urban policies appears
practically unexplored. g
y
g
g
Several practices and studies have selected the com-
munity as their preferred local scale for measuring well-
being—often only with a very tenuous reference to the
contribution of culture and the arts. The literature is rich
(Pope 2021; Co-Op 2020; Bagnall et al. 2017; Camic 2015;
Lee and Kim 2015; Morton and Edwards 2013); its inves-
tigation, however, goes beyond the scope of the present
exercise. I will simply observe that the notion of com-
munity, although fascinating, is blurred and open, chang-
ing, and complex, so that specifications are required to
operationalize it. “Community can refer to a geographi-
cal location such as a neighborhood, village, town, or
city; a group of people with shared interests or values;
but also, increasingly, to a virtual community based on
shared interests, problems, or activities. The term also
refers to a participatory process, which encourages col-
laboration between community members, artists, and
others” (Camic 2015). To ensure comparisons and gener-
alisations, fine-grained detail should be counterbalanced
by an adequate level of standardisation. This might be
hard to attain in practice with the concept of community,
whose contents are largely non-territorial. The territorial scale of indicators is not a given,
although most of the available statistics tend to polar-
ize between the nationwide approach and individual
organization focus. Indeed, quantitative measures at the
national or sub-national (regional or NUTS III) scale may
help comparisons based on rankings. However, when it
comes to practical policy choices, indicators tailored
to the urban and sub-urban or micro scale are of pri-
mary importance, although data collection is costly and
often unfeasible due to the insufficient statistical capac-
ity of the local administrations. The basic and regular
experiences of culture and the arts which are relevant
to the wellbeing and health of individuals, families, and
groups take place with diverse frequencies and intensi-
ties in their daily milieux, made of a plurality of places
and activities reachable within 1-h isochrone (Archibugi
1983; Cicerchia 1996). Time horizons: short, medium, and long term Of these, 85% (12,982) were inter-
viewed between 1982 and 1983 about cultural activities. They were followed up with respect to survival until 31
December 1991. to their residents: some are rich and vibrant, and some
are poor and inert. Those experiences develop into hab-
its and shape different profiles of cultural activity and
vibrancy that reveal social differences and inequalities
(Bourdieu 1984; Levine 1988; Istat 2017). Sure enough,
the occasional contact with extraordinary manifestations
of art and beauty can trigger violent passions, which can
be measured by changes in cortisol and adrenaline levels
and can culminate dramatically in Stendhal syndrome—
the psychosomatic response experienced while facing
aesthetic artistic beauty (Guerrero et al. 2010), but that
falls outside the scope of the present exercise. Our focus
here is the practical opportunity for sustained access to
cultural and artistic experiences offered by territories
at the scale of everyday life, as well as the set of policies
that help reduce access-related inequalities and break
barriers.h Another 14 year Swedish study (Konlaan et al. 2000)
interviewed 10,609 individuals in 1982 and 1983. The
outcome measure was survival until 31st December 1996. In other cases, indicators are tailored to targeted cul-
tural programmes and adopt a medium-term timeframe
(Fontanesi and De Souza 2021 on dance and people with
Parkinson’s; Bucci et al. 2015 on museums and people
with Alzheimer’s), while others measure individual cul-
tural activities immediately after their completion (Clow
and Fredhoi 2006 on visiting art galleries; Thomson and
Chatterjee 2013 on visiting museums). The national scale and the sub-national (regional) scale
are unable to grasp and render such dynamics. There-
fore, official urban and sub-urban delimitations (districts,
neighborhoods, etc.), when available, represent a prefer-
able alternative. Indeed, a functional, empirical micro-
scale, built on empirical patterns of use rather than fixed
administrative or geographical delimitations, would be
ideal, although costly and challenging (SoPHIA 2021). Scale, or the appropriate dimension Reading or writing novels, sing-
ing in a choir, listening to music, playing in a marching
band or simply among friends, watching movies, decorat-
ing the house, dancing, drawing, and strolling in an area
with nice buildings or beautiful monuments, are normal
artistic and cultural experiences that enhance the mood,
develop abilities and competences, build, and strengthen
social capital and networks. Different places diverge in
terms of the intensity, quality, variety, and accessibility
of the opportunities and artistic experiences they offer Another option is to resort to empirically detected
functional areas, to reconstruct the behavior settings
where people have those ordinary—and often infor-
mal—experiences of art and culture that create habits,
tastes, relations, knowledge, and skills. The Functional
Economic Areas in the United States (Fox and Krishna Cicerchia City, Territory and Architecture (2022) 9:32 Page 8 of 11 Kumar 1965), and the Local Commuting Systems in Italy
(Istat 2010), just to mention some, are functional ex-post
areas based upon the detection of usual paths and routes
and used for planning and evaluation purposes. “Behav-
ior settings—in the definition by Fox—are the immedi-
ate environments of all human behavior and experience. They are objectively defined, directly observable entities
with clear-cut boundaries in space and clear-cut begin-
nings, durations, and endings in time” (Fox 1985). Behav-
ior settings specifically designed for cultural welfare
could be delimited by the places, outside of households,
where individuals living in an urban center usually expe-
rience culture and art: from schools to cinema, from the-
atre to museums, from galleries to concert halls, libraries,
dancing venues, city squares, etc. Data could be obtained
through targeted surveys among the resident citizens, as
well as from administrative sources, like registries of visi-
tors, the public, etc. This could help create maps, routes,
and itineraries to be used as a basis to analyse inequali-
ties. A somewhat similar project is being carried out
since 2016 in the city of Rome, which entails the crea-
tion of 29 thematic maps of inequalities (Lelo et al. 2019,
2021). The construction of functional areas of cultural
activity and engagement could help develop an integrated
vision of the territorial offer of cultural and artistic ser-
vices, venues, opportunities, and facilities, as well as of
the personal experience of individuals. with artistic and cultural activities and experiences. Conclusions Upstream of the creation of a system of indicators, there
is long and complex work to be done, which needs to ful-
fill a few conditions. i
First, it is necessary to clarify and make explicit the
reason for the indicator system, together with who is the
most suitable individual or collective subject to build it
and for whom.h The second step is to make the framework explicit. Sometimes, the framework is a plan, a programme, or a
policy. In the case at hand, it would be preferable to base
the indicators on phenomena the development of which
depends directly on the outcome of policies, which are
measurable at the local level. To define a system of cul-
tural welfare measures, it is necessary to shape the logi-
cal model from the generic quality to be measured to
the single indicator that represents it satisfactorily and
adequately. The indicators of a system should also be lim-
ited in number (principle of parsimony) and complemen-
tary to each other, covering all dimensions of the system
without overlapping, eliminating inconsistencies and
redundancies.hi Scale, or the appropriate dimension To
meet the basic qualitative standards, cultural welfare
indicators must guarantee independence, impartial-
ity, and objectivity, high quality of the information used
(sources, temporal and spatial coverage, etc.), consistency
and transparency. Author details Author details
1 ISTAT - Istituto Nazionale di Statistica, Rome, Italy. 2 Cultural Welfare Center,
Turin, Italy. Cicerchia A (2021) Che cosa muove la cultura. Impatti, m Cicerchia A (2021) Che cosa muove la cultura. Impatti, misure e racconti tra i Cicerchia A (2021) Che cosa muove la cultura. Impatti, mis
economia e immaginario. Bibliografica, Milano Cicerchia A (2021) Che cosa muove la cultura. Impatti,
economia e immaginario. Bibliografica, Milano Received: 23 January 2022 Accepted: 23 September 2022 Received: 23 January 2022 Accepted: 23 September 2022 Cicerchia A, Rossi Ghiglione A, Seia C (2020) Welfare culturale. Atlante della
cultura Treccani, Roma Clair AA (1996) Therapeutic uses of music with older adults. Health Professions
Press, Baltimore Clift S, Camic PM (eds) (2015) Oxford textbook of creative arts, health and
wellbeing: international perspectives on practice, policy and research. Oxford University Press, Oxford Data‑driven indicators vs framework‑driven data
collections Cicerchia City, Territory and Architecture (2022) 9:32 Page 9 of 11 Cicerchia City, Territory and Architecture (2022) 9:32 Culture statistics, which have been almost exclusively
dominated by the economic focus for a long time, could
benefit significantly from investments for addressing new
emerging phenomena, like wellbeing as a subjectively
reported impact. Barker RG (1968) Ecological psychology: concepts and methods for studying
the environment of human behavior. Stanford University Press, Stanford Bauer RA (ed) (1966) Social indicators. MIT Press, Cambridge Belfiore E (2015) The arts and healing: the power of an idea. In: Clift S, Camic
PM (eds) Oxford textbook of creative arts, health and wellbeing:
international perspectives on practice, policy and research. Oxford
University Press, Oxford Bourdieu P (1984) Distinction: a social critique of the judgement of taste. Routledge & Kegan Paul, London Bourdieu P (1984) Distinction: a social crit
Routledge & Kegan Paul, London Availability of data and materials
Not applicable. Availability of data and materials
Not applicable. Availability of data and materials
Not applicable. Not applicable. Chadha N, Coticchia B, Harpreet G, Pokharna R, Posadas F, Pereira E, Richter P,
Stopak-Behr Z (2015) State of New Yorkers—a well-being index. https://
www1.nyc.gov/assets/cidi/downloads/pdfs/nyc_well_being_index_
full_report_2015.pdf Acknowledgements Routledge & Kegan Paul, London This article is developed and funded under the umbrella of the MESOC
Project. MESOC (Measuring the Societal Value of Culture) Project has received
funding from the European Union’s Horizon 2020 Research and Innovation
Programme under Grant Agreement No. 870935. (More info at: https://mesoc-
project.eu/). The opinions expressed herein are solely by the authors and do
not reflect the official point of any EU institutions or any other member of the
MESOC Consortium. Brajsa-Zganec A, Merkas M, Sverko I (2011) Quality of life and leisure activities:
how do leisure activities contribute to subjective well-being? Soc Indic
Res 102:81–91 Brandling J, House W (2009) Social prescribing in general practice: adding
meaning to medicine. Br J Gen Pract 59(563):454–456 Brundtland G (1987) Report of the World Commission on environment and
development: our common future. United Nations General Assembly
Document A/42/427 Authors’ information Annalisa Cicerchia is a culture economist. She works on impact evaluation of
cultural policies, cultural indicators, and the relationship between culture, art,
health, and well-being. Since 2017 she has been leading a line of research on
cultural welfare at the Italian National Statistical Institute in the Laboratory
of Transformations of the Welfare State. She is one of the founders and Vice-
President of the Cultural Welfare Center. She is part of the editorial staff of the
journal Economia della cultura, of which she has edited several issues. She is
the author of numerous books, research reports and scientific articles. Bygren LO, Konlaan BB, Johansson SE (1996) Attendance at cultural events,
reading books or periodicals, and making music or singing in a choir as
determinants for survival: Swedish interview survey of living conditions. BMJ 313(7072):1577–1580 Camic PM (2015) Community cultural development for health and wellbeing. In: Clift S, Camic PM (eds) Oxford textbook of creative arts, health and
wellbeing: international perspectives on practice, policy and research. Oxford University Press, Oxford, p 49 Canadian Index of Wellbeing (2016) How are Canadians really doing? The 2016
CIW national report. Canadian Index of Wellbeing and University of
Waterloo, Waterloo Funding The MESOC Project (GA No. 870935) covers the publication costs of the
present article. Carnwath J, Brown AS (2014) Understanding the value and impacts of cultural
experiences: a literature review. Arts Council England. https://www.
artscouncil.org.uk/publication/understanding-value-andimpacts-cultu
ralexperiences Competing interests
Th
h
d
l
h Competing interests
The author declares that she has no competing interests. Cicerchia A (1996) Indicators for the measurement of the quality of urban life. Soc Indic Res 39(480):321–358 Cicerchia A (2019) Evidence-based policy making for cultural heritage. SCIRES-
IT 1:99–108 Data‑driven indicators vs framework‑driven data
collections The next steps concern the definition of rules and qual-
ity criteria (sources, frequency of updates, territorial cov-
erage, etc.) and the final content of the indicator system. Most of the usual indicators related to cultural and artis-
tic supply and demand are built on data collected for
purposes different than describing culture and the arts. Eurostat, for instance, declares that “Culture statistics for
the EU are not collected by a single stand-alone survey,
but come from different Eurostat data collections”. Short
of detailed, targeted, harmonized surveys, the artistic
and cultural sector and the related practice and partici-
pation are underrepresented by the available data, which
lack the necessary level of detail, both in territorial and
in disciplinary terms. International measures, devised for
being universally applicable, are forced to rely on exist-
ing data. On the contrary, in the perspective of the pre-
sent exercise, indicators should reflect a consistent and
relevant frame of reference and represent the most sig-
nificant phenomena, those best suited to describe cul-
tural welfare. The general idea is to encourage targeted
data collection, with the specific purpose of populating
indicators of cultural wellbeing and welfare. This entails
that data will cover both objective—e.g., provision of ser-
vices, availability of goods and places, etc.—and subjec-
tive aspects—e.g., personal assessment or perception of
changes in mood, satisfaction, etc., somehow associated i
To support planning and evaluation processes, cultural
welfare policies need specific, targeted data and indi-
cators. This requires surpassing the limits of a strictly
data-driven approach; in other words, rather than shap-
ing the measures solely upon the existing statistics, it is
necessary to invest in new data collections tailored to the
theoretical and logical framework of the topics involved. I have proposed to consider outcome indicators together
with input indicators and suggested that subjective meas-
ures could provide valuable information. I have also
argued that the urban dimension is the ideal territory for
cultural welfare indicators, possibly with further detail,
such as official administrative sub-urban units, or, prefer-
ably, empirically defined functional areas (communities,
behavior settings, etc.). Sets of input and outcome indica-
tors tailored to the individual cultural or artistic organi-
zation could also provide valuable information. Welfare policies that include a substantial contribu-
tion of culture and the arts demand to expand and refine
the body of evidence at their disposal to orient choices,
allocate resources and evaluate impacts and outcomes. Author contributions Bucci C, Carli Ballola L, Černikienė G, Ganß M, Harkin B-A, Jaseliūnienė A,
Karpavičiūtė S, Kastner S, Lachi C, Mei M, Petkutė I (2015) Communicat-
ing through the arts: a toolkit. http://www.maaproject.eu/moodle/
pluginfile.php/244/mod label/intro/output-ENG.pdf The author read and approved the final manuscript. References Radcliffe
Publishing Ltd., London Fontanesi C, DeSouza JFX (2021) Beauty that moves: dance for Parkinson’s
effects on affect, self-efficacy, gait symmetry, and dual task perfor-
mance. Front Psychol. https://doi.org/10.3389/fpsyg.2020.600440 Fox KA (1985) Social system accounts based on behavior settings: some next
steps. Social system accounts. Theory and decision library, vol 199. Springer, Boston (
)
y
p
,
Matthew A, Lenahan P, Pavlov A (eds) (2012) Cinemeducation: using film
and other visual media in graduate and medical education. Radcliffe
Publishing Ltd., London Fox KA (1986) The present status of objective social indicators: a review of
theory and measurement. Am J Agric Econ 68(5):1113–1120 McLellan R, Galton M, Steward S, Page C (2012) The impact of creative
initiatives on wellbeing: a literature review. Creativity, Culture and
Education (CCE), Newcastle upon Tyne Fox KA, Ghosh S (1981) A behavior setting approach to social accounts com-
bining concepts and data from ecological psychology, economics, and
studies of time use. Social accounting systems: essays on the state of
the art. Academic Press, New York, pp 131–217 Meadows DH (1998) Indicators and information systems for sustainable
development. Sustainability Institute, Hartland, p 2 Fox KA, Krishna Kumar T (1965) The functional economic area: delineation and
implications for economic analysis and policy. Pap Reg Sci 15(1):57–85 Meeks S, Vandenbroucke RJ, Shryock SK (2020) Psychological benefits of
attending the theatre associated with positive affect and wellbeing
for subscribers over age 60. Aging Ment Health 24(2):333–340 Gaffaney J (2017) Thriving cities: how to define, apply, and measure well-being
at scale. Master of applied positive psychology (MAPP) Capstone Pro-
jects. 120. https://repository.upenn.edu/mapp_capstone/120 Michalak EE, Livingston JD, Maxwell V, Hole R, Hawke LD, Parikh SV (2014)
Using theatre to address mental illness stigma: a knowledge transla-
tion study in bipolar disorder. Int J Bipolar Disord 2:1 Garcia B, Cox T (2013) European capitals of culture: success strategies and
long-term effects. study for the European parliament’s committee on
culture and education. https://www.europarl.europa.eu/RegData/
etudes/etudes/join/2013/513985/IPOLCULT_ET%282013%29513985_
EN.pdf Miringoff ML (1997) The index of social health 1996: monitoring the social
well-being of the nation. Fordham Institute for Innovation in Public
Policy, Tarrytown Mirza M (ed) (2006) Culture vultures: is UK arts policy damaging the arts? Policy Exchange. https://www.policyexchange.org.uk/wp-content/
uploads/2016/09/culture-vultures-jan-06.pdf Grossi E, TavanoBlessi G, Sacco PL (2019) Magic moments: determinants of
stress relief and subjective wellbeing from visiting a cultural heritage
site. References Scand J Public Health 28(3):174–178
Kuznets S (1934) National Income, 1929–1932. A report on national income,
1929–32 January 4, 1934. Referred to the Committee on Finance. United States Government Printing Office, Washington DC, p 7
Land K (1983) Social indicators Ann Rev Sociol 9:1 26 Diener E, Suh E (1997) Measuring quality of life: economic, social, and subjec-
tive indicators. Soc Indic Res 40:189–216 Durdey T (2006) Advance: creating wellbeing through movement and dance,
Dance 4 Kuznets S (1934) National Income, 1929–1932. A report on national income,
1929–32 January 4, 1934. Referred to the Committee on Finance. United States Government Printing Office, Washington DC, p 7
L
d K (
) S
l
d
A
R
S
l Kuznets S (1934) National Income, 1929–1932. A report on national income,
1929–32 January 4, 1934. Referred to the Committee on Finance. United States Government Printing Office, Washington DC, p 7 Eurostat (2010) GDP and beyond. Sygma—The Bulletin of European Statistics
02 2010 Fancourt D, Finn S (2019) Health evidence network synthesis report 67. What
is the evidence on the role of the arts in improving health and well-
being? A scoping review. WHO Regional Office for Europe, Copenhagen Lee SJ, Kim Y (2015) Searching for the meaning of community well-being. In: Kim Y, Phillips R (eds) Community well-being and community
development. Springer, New York Lee SJ, Kim Y (2015) Searching for the meaning of community well-being. In: Kim Y, Phillips R (eds) Community well-being and community
development. Springer, New York Lelo K, Monni S, Tomassi F (2019) Le mappe della disuguaglianza. Una
geografia sociale metropolitana. Donzelli, Roma Lelo K, Monni S, Tomassi F (2019) Le mappe della disuguaglianza. Una
geografia sociale metropolitana. Donzelli, Roma Fears A (2011) The museum as a healing space: addressing museum visitors’
emotional responses through viewing and creating artwork. Boston
University, Boston g
gi
p
Lelo K, Monni S, Tomassi F (2021) Le sette Rome. La capitale delle disugua-
glianze raccontate in 29 mappe. Donzelli, Roma
Levine LW (1988) Highbrow/lowbrow: the emergence of cultural hierarchy
in America. Harvard University Press, Cambridge
Lewin K (1951) Field theory in social science. Harper and Row, New York
Matthew A, Lenahan P, Pavlov A (eds) (2012) Cinemeducation: using film
and other visual media in graduate and medical education. References Allen J, Allen M (2014) The social determinants of health, empowerment, and
participation. In: Clift S, Camic PM (eds) Oxford textbook of creative arts,
health and wellbeing: international perspectives on practice, policy and
research. Oxford University Press, Oxford y
Clift S, Hancox G (2010) The significance of choral singing for sustaining psy-
chological wellbeing: findings from a survey of choristers in England,
Australia and Germany. Music Perform Res 3(1):79–96 y
Clift S, Hancox G, Staricoff R, Whitmore C (2008) Singing and health: a system-
atic mapping and review of non-clinical research. Canterbury Christ
Church University, Canterbury Antonovsky A (1996) The salutogenic model as a theory to guide health
promotion. Health Promot Int 11(1):11–18 Archibugi F (1983) Per una tassonomia generale della domanda di trasporto
nei processi di pianificazione dei trasporti. In: CNR. La ricerca sui tras-
porti in Italia. Franco Angeli, Milano y
y
Clift S, Phillips K, Pritchard S (2021) The need for robust critique of research on
social and health impacts of the arts. Cultural Trends 30(5):442–459 Clow A, Fredhoi C (2006) Normalisation of salivary cortisol levels and self-
report stress by a brief lunchtime visit to an art gallery by London City
workers. J Holist Healthc 3(2):29–32 Ascolani F, Cacovean C, Passaretti A, Portaluri T, Sacco PL, Uboldi S, Zbranca R
(2020) Art consumption and well-being during the Covid-19 pandemic. https://art-wellbeing.eu/wpcontent/uploads/2021/02/Research-Art-
Well-being-during-Covid-19.pdf Ascolani F, Cacovean C, Passaretti A, Portaluri T, Sacco PL, Uboldi S, Zbranca R
(2020) Art consumption and well-being during the Covid-19 pandemic. https://art-wellbeing.eu/wpcontent/uploads/2021/02/Research-Art-
Well-being-during-Covid-19.pdf Cobb C, Halstead T, Rowe J (1995) The genuine progress indicator, summary of
data and methodology. Redefining Progress, San Francisco Bagnall AM, South J, Mitchell B, Pilkington G, Newton R, Di Martino S (2017)
Systematic scoping review of indicators of community wellbeing in the
UK. https://whatworkswellbeing.org/wp-content/uploads/2020/02/
community-wellbeingindicatorsscoping-review-v1-2-aug2017_02057
46100.pdf Cohen JL, Johnson L, Orr P (eds) (2016) Video and filmmaking as psychother-
apy. Research and practice. Routledge, London Co-Op (2020) The community wellbeing index October 2020 update. https://
communitywellbeing.coop.co.uk/media/1041/cwi_technical_report-
2021.pdf Page 10 of 11 Page 10 of 11 Cicerchia City, Territory and Architecture (2022) 9:32 Cicerchia City, Territory and Architecture (2022) 9:32 Copeland R, Cohen M (1983) What is dance? Readings in theory and criticism. Oxford University Press, Oxford Istat (2017) Aspetti demografici e condizioni di vita. In Rapporto 2017. La
situazione del Paese. Istituto Nazionale di Statistica, Roma Istat (2017) Aspetti demografici e condizioni di vita. In Rapporto 2017. References La
situazione del Paese. Istituto Nazionale di Statistica, Roma Istat (2019) i tempi della vita quotidiana. Lavoro, conciliazione, parità di
genere e benessere soggettivo. Istituto Nazionale di Statistica, Roma y
Cork R (2012) The healing presence of art. Yale University Press, New Haven Istat (2019) i tempi della vita quotidiana. Lavoro, conciliazione, parità di
genere e benessere soggettivo. Istituto Nazionale di Statistica, Roma Istat (2019) i tempi della vita quotidiana. Lavoro, conciliazione, parità di
genere e benessere soggettivo. Istituto Nazionale di Statistica, Roma Cuyper K, Krokstad S, Lingaas Holmen T, SkjeiKnudtsen M, OlovBygren L, Hol-
men J (2011) Patterns of receptive and creative cultural activities and
their association with perceived health, anxiety, depression and satis-
faction with life among adults: the HUNT study, Norway. J Epidemiol
Community Health 66(8):698–703 Istat (2021) Il Benessere Equo e Sostenibile in Italia 2021. Istituto Nazionale
di Statistica, Roma Istat (2021) Il Benessere Equo e Sostenibile in Italia 2021. Istituto Nazionale
di Statistica, Roma Jackson MR, Kabwasa-Green F, Herranz J (2006) Cultural vitality in communi-
ties: interpretation and indicators. The Urban Institute, Washington,
DC Jackson MR, Kabwasa-Green F, Herranz J (2006) Cultural vitality in communi-
ties: interpretation and indicators. The Urban Institute, Washington,
DC Dalziel P, Saunders C, Savage C (2019) Culture, wellbeing, and the living
standards framework: a perspective. Discussion paper 19/02—prepared
for the Ministry for Culture and Heritage and the Treasury. New Zealand
Treasury, Wellington James P (2015) Urban sustainability in theory and practice. Circles of sustain-
ability. London and New York: Routledge James P (2015) Urban sustainability in theory and practice. Circles of sustain-
ability. London and New York: Routledge Kennedy RF (1968) Remarks at the University of Kansas, March 18, 1968. MR
89-34. Miscellaneous recordings, John F. Kennedy Presidential Library. https://www.jfklibrary.org/learn/about-jfk/the-kennedy-family/
robert-f-kennedy/robert-fkennedy-speeches/remarks-at-the-unive
rsity-of-kansas-march-18-1968 Dermer SB, Hutchings JB (2010) Utilizing movies in family therapy: applications
for individuals, couples, and families. Am J Fam Ther 28(2):163–180 Desmarais S, Bedford L, Chatterjee HJ (2018) Museums as spaces for wellbeing:
a second report from the National Alliance for Museums, Health and
Wellbeing. www.museumsandwellbeingalliance.wordpress.com Konlaan BB, Bygren LO, Johansson SE (2000) Visiting the cinema, concerts,
museums or art exhibitions as determinant of survival: a Swedish
fourteen-year cohort follow-up. Scand J Public Health 28(3):174–178 Wellbeing. www.museumsandwellbeingalliance.wordpress.com Konlaan BB, Bygren LO, Johansson SE (2000) Visiting the cinema, concerts,
museums or art exhibitions as determinant of survival: a Swedish
fourteen-year cohort follow-up. References Sustainability 12:9458 World Health Organization (1948) Constitution of the World Health Organiza-
tion. WHO Press, Geneva, p 1 World Health Organization Commission on Social Determinants of Health
(2008) Closing the gap in a generation. Health equity through action
on the social determinants of health. WHO Press, Geneva Owen JW (ed) (2013) Arts, health and wellbeing beyond the millennium: how
far have we come and where do we want to go? p 4. https://www.rsph.
org.uk/our-work/policy/wellbeing/arts-andhealth.html Pineo H, Rydin Y (2018) Cities, health, and well-being. The Royal Institution of
Chartered Surveyors (RICS), London Pineo H, Rydin Y (2018) Cities, health, and well-being. The Royal Institution of
Chartered Surveyors (RICS), London Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in pub-
lished maps and institutional affiliations. Pope J (2021) Indicators of community wellbeing for the southern and hills
local government area. The Southern and Hills Local Government
Association, Adelaide Pope J (2021) Indicators of community wellbeing for the southern and hills
local government area. The Southern and Hills Local Government
Association, Adelaide Powell ML, Newgent RA (2010) Improving the empirical credibility of cin-
ematherapy: a single-subject interrupted time-series design. Couns
Outcome Res Eval 1(2):40–49 Powell ML, Newgent RA (2010) Improving the empirical credibility of cin-
ematherapy: a single-subject interrupted time-series design. Couns
Outcome Res Eval 1(2):40–49 Royal Government of Bhutan (2012) The report of the high-level meeting on
wellbeing and happiness: defining a new economic paradigm. Office
of the Prime Minister, Thimphu Royal Government of Bhutan (2012) The report of the high-level meeting on
wellbeing and happiness: defining a new economic paradigm. Office
of the Prime Minister, Thimphu Sacco PL (2017a) Appunti per una definizione di welfare culturale. Giornale
delle Fondazioni. http://www.ilgiornaledellefondazioni.com/content/
appunti-una-definizione-diwelfare-culturale-1 Sacco PL (2017a) Appunti per una definizione di welfare culturale. Giornale
delle Fondazioni. http://www.ilgiornaledellefondazioni.com/content/
appunti-una-definizione-diwelfare-culturale-1 Sacco PL (2017b) Health and cultural welfare: a new policy perspective? Econ
Cult 27:165–174 Sacco PL (2017b) Health and cultural welfare: a new policy perspective? Econ
Cult 27:165–174 Sacco PL, Grossi E (2015) Impact of culture on individual well-being. PPP Ispra
11 June 2015 Sacco PL, Grossi E (2015) Impact of culture on individual well-being. PPP Ispra
11 June 2015 Sartorius N (2006) The meanings of health and its promotion. Croat Med J
47(4):662–666 Sartorius N (2006) The meanings of health and its promotion. Croat Med J
47(4):662–666 Sextou P, Monk C (2013) Bedside theatre performance and its effects on hospi-
talised children’s wellbeing. Arts Health 5(1):81–88 Sextou P, Monk C (2013) Bedside theatre performance and its effects on hospi-
talised children’s wellbeing. Arts Health 5(1):81–88 Sigurdson O (2015) Culture and health. A wider horizon. University of Gothen-
burg, Gothenburg
Smith R (2002) Spend (slightly) less on health and more on the arts—health
would probably be improved. BMJ 325:1432–1433 Sigurdson O (2015) Culture and health. A wider horizon. University of Gothen-
burg, Gothenburg
Smith R (2002) Spend (slightly) less on health and more on the arts—health
would probably be improved. References Cult Med Psychiatry 43:4–24 Montalto V, Tacao Moura C, Panella F, Alberti V, Becker W, Saisana M (2019)
The cultural and creative cities monitor: 2019 edition. Publications
Office of the European Union, Luxembourg Guerrero AL, Barceló Rosselló A, Ezpeleta D (2010) Síndrome de Stendhal:
origen, naturaleza y presentación en un grupo de neurólogos. Neurolo-
gia 25(6):349–356 Morton A, Edwards L (2013) Community wellbeing indicators. Measures for
local government. Survey template for local government, Australian
Centre of Excellence for Local Government, University of Technology,
Sydney Gump PV (1971) The behavior setting: a promising unit for environmental
designers. Landsc Archit 61:130–134 Helliwell J, Layard R, Sachs J (2012) World happiness report. The Hearth Insti-
tute, Columbia University, New York Noble G, Chatterjee H (2013) Museums, health and well-being. Ashgate,
Farnham Hill K (2021) Canadians’ arts participation, health, and well-being. SIA report 53. Hill Strategies Research Inc., Hamilton Noll H-H, Zapf W (1994) Social indicators research: societal monitoring and
social reporting. In: Borg I, Ph Mohler P (eds) Trends and perspectives
in empirical social research. Walter de Gruyter, Berlin Hjort M (2019) The public value of film: moving images, health, and well-
being. J Scand Cine 9(1):7–23 Nordhaus WD, Tobin J (1973) Is growth obsolete? In: Moss M (ed) The measure-
ment of economic and social performance. NBER—National Bureau of
Economic Research, Cambridge Hui A, Stickley T (2010) The elders dance project: a study of a culturally sensi-
tive initiative. Br J Wellbeing 1(1):29–34 Istat (2010) I Sistemi Locali del Lavoro. Nota Metodologica. https://www.istat.
it/it/files//2014/12/nota-metodologica_SLL2011_rev20150205.pdf OECD (1982) The OECD list of social indicators. OECD, Paris Istat (2013) Il Benessere Equo e Sostenibile in Italia 2013. Istituto Nazionale di
Statistica, Roma OECD (2011) How’s Life?: Measuring Well-being, OECD Publishing, Paris. https://doi.org/10.1787/9789264121164-en Cicerchia City, Territory and Architecture (2022) 9:32 Page 11 of 11 Page 11 of 11 OECD (2013) How’s life? Measuring well-being 2013. OECD Publishing, Paris,
p 22 OECD (2021) Economic and social impact of cultural and creative sectors. Note
for Italy G20 Presidency Culture Working Group. https://www.oecd.org/
cfe/leed/OECD-G20-Culture-July2021.pdf Wilkinson AV, Waters AJ, Bygren LO, Tarlov AR (2007) Are variations in rates of
attending cultural activities associated with population health in the
United States? BMC Public Health 7:226 Orii L, Alonso L, Larson K (2020) Methodology for establishing well-being
urban indicators at the district level to be used on the CityScope plat-
form. Veall D et al (2017) Museums on prescription: a guide to working with older
people. Arts and Humanities Research Council, Swindon
Wilkinson AV, Waters AJ, Bygren LO, Tarlov AR (2007) Are variations in rates of
attending cultural activities associated with population health in the
United States? BMC Public Health 7:226
World Health Organization (1948) Constitution of the World Health Organiza-
tion. WHO Press, Geneva, p 1
World Health Organization Commission on Social Determinants of Health Publisher’s Note BMJ 325:1432–1433 SoPHIA—Social Platform for Holistic Heritage Impact Assessment Consortium
(2021) Deliverable D 3.5: policy brief with recommendations on eco-
nomic impact for policy makers. https://sophiaplatform.eu/en/archive SoPHIA—Social Platform for Holistic Heritage Impact Assessment Consortium
(2021) Deliverable D 3.5: policy brief with recommendations on eco-
nomic impact for policy makers. https://sophiaplatform.eu/en/archive Sterling P (2019) What is health? Allostasis and the evolution of human design. MIT Press, Cambridge Sterling P (2019) What is health? Allostasis and the evolution of human design. MIT Press, Cambridge Stiglitz J, Sen A, Fitoussi J-P (2009) Report by the commission on the measure-
ment of economic performance and social progress, Paris. www.Stigl
itz-Sen-Fitoussi.fr Stiglitz J, Sen A, Fitoussi J-P (2009) Report by the commission on the measure-
ment of economic performance and social progress, Paris. www.Stigl
itz-Sen-Fitoussi.fr The Beaney House of Art and Knowledge (2021) The Beaney health and
wellbeing in museums toolkit. Canterbury Museums and Galleries,
Canterbury The Beaney House of Art and Knowledge (2021) The Beaney health and
wellbeing in museums toolkit. Canterbury Museums and Galleries,
Canterbury The Heritage Alliance (2020) Heritage, health and wellbeing. A heritage alli-
ance report. https://www.theheritagealliance.org.uk/wp-content/uploa ds/2020/10/Heritage-AllianceAnnualReport_2020_Online.pdf The Wellbeing Project (2017) Creating a city for wellbeing: key findings about
wellbeing perspectives and assets in Santa Monica Wave 2/Version
2.0. PPP. https://santamonicawellbeing.org/Media/Default/docs/CSM_
wellbeing_briefing_deck_2017_FINAL.pdf wellbeing_briefing_deck_2017_FINAL.pdf g_
g_
_
_
p
Thomson J, Chatterjee HJ (2013) UCL museum wellbeing measures toolkit. p
3. https://www.ucl.ac.uk/culture/sites/culture/files/ucl_museum_wellb
eing_measures_toolkit_sept2013.pdf
UNDP—United Nations Development Program (1994) Human development
report 1994: new dimensions of human security. http://www.hdr.undp.
org/en/content/human-developmentreport-1994
UNESCO (2015) UNESCO’s work on culture and sustainable development:
evaluation of a policy theme. IOS/EVS/PI/145 REV.5. UNESCO, Paris, p 62
UNESCO (2019) Culture 2030 indicators. UNESCO, Paris
United Nations General Assembly (2012) Resolution adopted by the General
Assembly on 28 June 2012. International Day of Happiness. (A/66/L.48/
Rev.1) 66/281. The United Nations, New York
US Bureau of Labour Statistics (2021) ATUS well-being module questionnaire. h
//
bl
/
/ b
i
i
df Thomson J, Chatterjee HJ (2013) UCL museum wellbeing measures toolkit. p
3. https://www.ucl.ac.uk/culture/sites/culture/files/ucl_museum_wellb
eing_measures_toolkit_sept2013.pdf Thomson J, Chatterjee HJ (2013) UCL museum wellbeing measures toolkit. p
3. https://www.ucl.ac.uk/culture/sites/culture/files/ucl_museum_wellb
eing_measures_toolkit_sept2013.pdf UNDP—United Nations Development Program (1994) Human development
report 1994: new dimensions of human security. http://www.hdr.undp.
org/en/content/human-developmentreport-1994 org/en/content/human-developmentreport-1994 UNESCO (2015) UNESCO’s work on culture and sustainable development:
evaluation of a policy theme. IOS/EVS/PI/145 REV.5. UNESCO, Paris, p 62
UNESCO (2019) Culture 2030 indicators. Publisher’s Note UNESCO, Paris US Bureau of Labour Statistics (2021) ATUS well-being module questionnaire. https://www.bls.gov/tus/wbmquestionnaire.pdf US Department of Health, Education and Welfare (Hew) (1969) Toward a social
report. US Government Printing Office, Washington, DC US Department of Health, Education and Welfare (Hew) (1969) Toward a social
report. US Government Printing Office, Washington, DC
|
https://openalex.org/W4242009046
|
https://www.qeios.com/read/16834V/pdf
|
English
| null |
JAK2 Gene Mutation
|
Definitions
| 2,020
|
cc-by
| 70
|
Qeios · Definition, February 7, 2020 Open Peer Review on Qeios Open Peer Review on Qeios JAK2 Gene Mutation National Cancer Institute Qeios ID: 16834V · https://doi.org/10.32388/16834V Source National Cancer Institute. JAK2 Gene Mutation. NCI Thesaurus. Code C84255. Mutation of the Janus 2 kinase gene at chromosome 9. It is seen in most patients with
polycythemia vera and less frequently in other myeloproliferative neoplasms. Qeios ID: 16834V · https://doi.org/10.32388/16834V 1/1
|
https://openalex.org/W2891086623
|
http://bura.brunel.ac.uk/bitstream/2438/20055/1/FullText.pdf
|
English
| null |
It’s Not About Their Citizenship, it’s About Ours
|
IMISCOE research series
| 2,018
|
cc-by
| 1,184
|
© The Author(s) 2018
R. Bauböck (ed.), Debating Transformations of National Citizenship,
IMISCOE Research Series,
https://doi.org/10.1007/978-3-319-92719-0_35 1
Pinker, S. (2011), The Better Angels of our Nature. New York: Viking. It’s Not About Their Citizenship,
it’s About Ours This would bring
me already quite close to the position of the ‘deprivationists’. What I find difficult to accept is the unquestioned assumption that this
gesture would serve any of the goals Joppke, and the politicians favouring
banishment, may have. If the jihadists were as cosmopolitan as he takes
them to be, deprivation would not have any meaning, neither for the actual
fighters, nor for any like-minded followers. It might be the case that taking
their passport will have the practical effect of preventing them from travel-
ling to Syria or back, but as a person who is genuinely outraged by their
deeds, I would rather see them locked up in prison rather than left at large in
a legal limbo (in the Middle East out of all places!). For Joppke the practical
side is only of secondary concern, but I am afraid his theoretical argument is
self-defeating. Now, if we accept that the jihadists just do not care if they are deprived
of their western citizenships, let us consider whether this would still matter
for anyone else. On the one hand, there are the ‘normal’ citizens of the same
country who may wish to see the extremists publicly excommunicated. This
is a legitimate concern. However, it is in no way different from the desire of
many law-abiding citizens to see murderers and rapists sent to the electric
chair. So the usual objections to the latter punishments apply here too. More
importantly, while there is some commensurability between a murder and a
death sentence, the very gravity of the offences of the jihadists make citizen-
ship deprivation superfluous. Ironically, not the cruelty of citizenship depri-
vation, but its softness make it appear quite inappropriate for the case of
terrorists. If we take into account also the practical difficulties arising in the
prosecution of a foreigner, on balance it might be better to keep him as a citi-
zen. On the other hand, the possibility or impossibility of revocation defines
and redefines the meaning of the concept of citizenship itself – of our citi-
zenship, not of theirs. That is why many academics, whose professional duty
is to care for precisely such nuance, are so uneasy about the recent trend. It’s Not About Their Citizenship,
it’s About Ours Vesco Paskalev The very passion and fury pouring from Christian Joppke’s contribution
should prompt both the lawyer and the political philosopher that he is wrong. I too am outraged by what ISIS fighters are doing, but it is well known that
the function of constitutional rights, and of the constitutions themselves, is
precisely to assure that the legislator is not driven by the passion of the day. One decade after 9/11 we know that the actions taken both by the President
and the Congress of the US, based on the rationale that it is a new world that
we have woken up into, were not all reasonable, to put it mildly. So may be
today’s rush to strip terrorist suspects of their citizenship. When watching
the daily news on TV, one is easily tempted to think that we are living in
extraordinarily dangerous times, which warrant a return to what the US
Supreme Court considered to be ‘cruel punishment’ half a century ago. Yet
as a matter of statistics, and despite our contrary impressions, violence of all
kinds in the world is actually declining.1 On the other hand, the capacity of
law enforcement agencies for surveillance and control, especially in the
OECD countries, has increased dramatically, so the return to practices which
have long been abandoned is difficult to justify. This is not to say that that
citizenship is a sacred cow and any return to abandoned practices is excluded
by some historic laws of human progress. Nothing can be further from the
truth. But it does follow that the proponents of banishment must provide a
more subtle justification than we have seen so far. Joppke has a point when distinguishing the old school revolutionaries
from the contemporary jihadists, who conceive of themselves as members
of the global ummah, and not of any state. (Do we know that for sure? ISIS
aims to create an Islamic state after all). He also has a point that waging war
against a country is a good reason to strip the warrior of the citizenship of
that country. I can accept even stretching this argument to apply to all those
who take up arms against any allies of that country, or even to those who 185 186 V. Paskalev V. Paskalev V. Paskalev have taken arms against the international system of states. It’s Not About Their Citizenship,
it’s About Ours I
would be glad if this concern remains confined to the ivory towers of the
academia, but I suspect that the conditionality of citizenship is more than a
theoretical concern for those citizens who are not white, Anglo-Saxon and
Christian and have only recently arrived from the wrong side of the OECD
border. One may argue, as Peter Schuck does, for deprivation administered under
narrowly circumscribed conditions. Indeed, due process can alleviate some
of the anxieties the conditionality of citizenship would create, but he does
not provide much of a justification for this conditionality in the first place. He also relies on the intuitive, yet questionable assumption that citizenship It’s Not About Their Citizenship, it’s About Ours 187 deprivation serves to protect the state and its people. But all grounds for
deprivation he suggests already constitute a serious crime, and if the
perpetrator must be convicted to be denationalised as he suggests, then
again, what difference would it make if those imprisoned for a very long
time remain citizens or not? If deprivation were administered properly – for
grave crimes and with due process, it becomes redundant. Beyond these conceptual concerns, and paying due consideration to the
all too present terrorist threats, I want the Islamic State bombed out of exis-
tence, and I want all jihadists punished for what they do. But as a citizen I
also want my tax money spent on police to put the bad apples in jail, not on
border patrols to keep them out. Open Access This chapter is licensed under the terms of the Creative Commons
Attribution 4.0 International License (http://creativecommons.org/licenses/by/4.0/),
which permits use, sharing, adaptation, distribution and reproduction in any medium
or format, as long as you give appropriate credit to the original author(s) and the
source, provide a link to the Creative Commons license and indicate if changes
were made. The images or other third party material in this chapter are included in the
chapter’s Creative Commons license, unless indicated otherwise in a credit line to
the material. If material is not included in the chapter’s Creative Commons license
and your intended use is not permitted by statutory regulation or exceeds the
permitted use, you will need to obtain permission directly from the copyright holder.
|
https://openalex.org/W4288313698
|
https://zenodo.org/records/3253722/files/13.pdf
|
Ukrainian
| null |
«<...> I DIDN'T WANT TO LIVE IN THE SOVIET UNION, I WANTED TO LIVE IN GERMANY. FOR THIS I WAS TAKING ACTIONS TO FLEE TO GERMANY <...>». PAGES OF LIFE OF YUTA GUSTAVIVNA KELM (LIDIA IVANIVNA KELMAN)
|
Zenodo (CERN European Organization for Nuclear Research)
| 2,019
|
cc-by
| 8,744
|
УДК 94(477) УДК 94(477) 1 Демчина А. Зі Сходу на Захід / Пер. з англ. Б.Мельник. Київ : Юніверс, 2000. С.5. 2 Архів Управління Служби Безпеки України в Чернігівській області (далі АУ СБУ в
Чернігівській області). Ф. 7. Спр. 15543. Арк. 32 зв.
3 Держархів Чернігівської області, Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 20 зв.
4 Держархів Чернігівської області. Ф.-8840. Оп.1. Спр. 51941. Арк. 5–5 зв., 20–21.
5 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 6, 16; Держархів Чернігівської області.
Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 20–21.
6 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 30 зв.–31.
7 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 58. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Лідія Нестеренко Статтю присвячено доньці німецького колоніста Густава Йогановича Кельма –
Юті Густавівні Кельм, яку в 1942 р. було вивезено з м. Прилуки на примусові роботи
до Німеччини, а в 1947 р., після її повернення назад до міста, засуджено до 10 років по-
збавлення волі. Після введення в дію Указу Президії Верховної Ради СРСР від 17 вересня
1955 р. «Про амністію радянських громадян, які співробітничали з окупантами в роки
Великої Вітчизняної війни 1941–1945 рр.» молоду жінку було звільнено та знято з неї
судимість. У 1991 р. її було реабілітовано. у
р
у
р
Ключові слова: Юта Кельм, м. Прилуки, нацистська окупація, остарбайтер,
Німеччина, фольксдойче, Прилуцький міськвідділ МДБ, УМДБ у Чернігівській області. Один з найвизначніших істориків сьогодення Норман Дейвіс в інтерв’ю, яке
взяла у нього Даяна Купрел, сказав їй про події ХХ століття: «Я є певний, що як Ви
запитаєте людей Північно-Американського континенту, який народ потерпів най-
більшу кількість жертв цивільного населення, ніхто не зможе відповісти. Можете
відгадати?» На відповідь Даяни: «Польща», Дейвіс мовив: «Я думаю, що це не так. Це Україна». А далі пояснив, що це були не тільки жертви Другої світової війни, а й
мільйони жертв у мирний час1. Одними з цих жертв стали остарбайтери – робітники, яких під час нацистської
окупації України (1941–1944 рр.) примусово було вивезено на роботи до Німеччини. До розряду політично неблагонадійних вони були віднесені сталінським режимом
ще під час Другої світової війни, адже вони не вписувалися до ідеологічно-про-
пагандистської доктрини «масового героїзму радянського народу» та «відданості
Батьківщині». Ніхто не задумувався над тим, що в переважній більшості цих людей
було вивезено до Третього Рейху примусово. Нікого не цікавило й те, що довелося
пережити бранцям з України на чужині. Не набагато кращим стало їхнє життя після повернення додому. Відразу ж після
приїзду на місця постійного проживання всі вони пройшли через допити в РВ МВС
та НКВС–КДБ, заповнення опитувальних листів тощо. Значну ж кількість укра-
їнських бранців та бранок було заарештовано та згодом ув’язнено на різні терміни
позбавлення волі. Життя однієї з таких бранок, а саме Юти Густавівни Кельм, яку в шістнадцяти-
річному віці примусово було вивезено до Німеччини, а після повернення до України,
у 1946 р. засуджено до 10 років позбавлення волі, ми спробуємо висвітлити в даній
розвідці. 138 Сіверянський літопис р
)
р
р
3 Держархів Чернігівської області, Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 20 зв. 5 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 6, 16; Держархів Чернігівської області.
Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 20–21. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Для вирішення даної мети поставлено наступні завдання: на основі фільтраційних
документів та кримінальної справи, на конкретному прикладі життя родини Кельм Сіверянський літопис 137 показати трагедію німців-колоністів, які проживали в Україні у воєнний та повоєн-
ний час; проаналізувати життєвий шлях Юти Густавівни Кельм; показати методи
проведення слідчих дій та всю несправедливість звинувачення. Джерельною базою є матеріали архіву Управління Служби Безпеки України в
Чернігівській області (спр. П-15543) та Держархіву Чернігівської області (Ф. Р.-
8840, Ф.Р-3013). Юта Густавівна Кельм народилась 28 січня 1926 р. у містечку Шостка Сумської
області. За національністю дівчина була німкенею. Батько, Густав Йоганович Кельм,
був німцем-колоністом. Він народився в німецькій колонії Шарума, що в Жито-
мирській області. Мати, Євгенія Данилівна Самойленко-Кельм, була полькою2, за
іншими даними – українкою3. Жінка ніде не працювала, була домогосподаркою. У
Юти було ще дві сестри. Найстаршою донькою в родині була Емілія (1921 р. н.), а
наймолодшою Лілія (1932 р. н.). До 1932 р. родина мешкала в м. Шостка, де батько працював на механічному заводі
токарем. У 1932 р. родина переїхала до с. Ладан Прилуцького району, де прожила
близько півроку. Батько працював токарем на заводі протипожежного обладнання. У
цьому ж році померла Євгенія Данилівна. Її було поховано в с. Ладан Прилуцького
району. Після цього в родині сталося ряд змін. У 1934 р. вони переїхали до м. Прилуки
й стали проживати за адресою: вул. Фабрична, 82. Незабаром батько одружився
вдруге з уродженкою м. Ічня Марфою Іванівною Марковою. Нова дружина за на-
ціональністю була українкою. У 1937 р. в новій родині батька народився син Юрій,
а в 1939 р. – Отто. Через певний час покинула родину й старша донька Емілія. У 1939 р. вона працю-
вала в м. Києві телефоністкою на м’ясокомбінаті. Подальші відомості про неї відсутні4. вала в м. Києві телефоністкою на м ясокомбінаті. Подальші відомості про неї відсутні . Юта навчалася в Прилуцькій школі № 13. У 1937 дівчина вступила до Харків-
ської балетної школи, де вона й навчалася по 1939 р. Після закінчення навчання й
до початку німецько-радянської війни Юта з родиною жила в м. Прилуки. Батько
працював на Прилуцькій тютюновій фабриці токарем.5. За словами Юти, на по-
чатку війни батька мобілі-
зували до лав радянської
армії. Насправді його як
німця вислали на схід напе-
редодні нацистської окупації
м. Прилуки67. У зв’язку з ма-
теріальними труднощами ді-
вчина змушена була шукати
роботу. Вона влаштувалася
ученицею в мотальний цех
Прилуцької панчішної фа-
брики. Там Юта працювала
до окупації міста нацистами
у вересні 1941 р. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Через пів-
тора місяця після початку
окупації Прилук дівчина
знову повернулася трудити-
Фото 1. Паспорт Густава Йогановича Кельма (4
травня 1941 – 4 травня 1946 рр.)6 Юта навчалася в Прилуцькій школі № 13. У 1937 дівчина вступила до Харків-
ської балетної школи, де вона й навчалася по 1939 р. Після закінчення навчання й
до початку німецько-радянської війни Юта з родиною жила в м. Прилуки. Батько
працював на Прилуцькій тютюновій фабриці токарем.5. у
За словами Юти, на по-
чатку війни батька мобілі-
зували до лав радянської
армії. Насправді його як
німця вислали на схід напе-
редодні нацистської окупації
м. Прилуки67. У зв’язку з ма-
теріальними труднощами ді-
вчина змушена була шукати
роботу. Вона влаштувалася
ученицею в мотальний цех
Прилуцької панчішної фа-
брики. Там Юта працювала
до окупації міста нацистами
у вересні 1941 р. Через пів-
тора місяця після початку
окупації Прилук дівчина
знову повернулася трудити- Фото 1. Паспорт Густава Йогановича Кельма (4
травня 1941 – 4 травня 1946 рр.)6 Фото 1. Паспорт Густава Йогановича Кельма (4
травня 1941 – 4 травня 1946 рр.)6 ся ученицею мотального цеху цієї ж фабрики. На цій роботі вона пропрацювала до
червня 1942 р. Із матеріалів допиту дівчини дізнаємося, що одного літнього дня 1942 р. директор
підприємства, німець-колоніст Іван Абрамович Коломієць, на зборах колективу за-
читав список молоді 1925–1926 рр. народження. До списку було включено близько
40 дівчат, серед яких була і Юта. Керівник пояснив, що біля Прилуцької в’язниці
відкривається нове підприємство, де будуть виготовляти каски для німецьких воїнів. Умови роботи та матеріальне забезпечення робітників, за словами керівника, там бу-
дуть кращими. Тому всі названі ним особи будуть працювати на новому підприємстві. Після зборів усі розійшлися працювати. О 14 годині дня усіх названих на зборах
осіб посадили на вантажний автомобіль та повезли на біржу праці, яка була розта-
шована біля станції. Працівниця біржі занотувала особисті дані (прізвище, ім’я та по
батькові, дату народження, національність та місце роботи) кожної з дівчат. Згодом
молодим людям були видані документи, які посвідчували особу. Дівчат знову погру-
зили в автомобіль і привезли на залізничну станцію, де вже стояв ешелон, в якому
відправляли молодь до Німеччини. Лише тут їм сказали, що вони також поїдуть туди. На прохання дівчат відпустити їх додому за особистими речами від коменданта вони
отримали відповідь, що в Німеччині їх усім необхідним забезпечать. Через добу Юту разом з іншими бранцями було відправлено до Києва, де вони
на збірно-пересильному пункті пробули тиждень. У Києві всі пройшли медичну
комісію. 8 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 16 зв.–17 зв.
9 Там само. Арк. 18–19.
10 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 19 зв.–20; Держархів Чернігівської
області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 5. 8 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 16 зв.–17 зв.
9 Там само. Арк. 18–19.
10
АУ СБУ в Чернігівській області Ф 7 Спр 15543 Арк 19 зв 20; Держархів Чернігівсь р
9 Там само. Арк. 18–19. 10 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 19 зв.–20; Держархів Чернігівської
області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 5. в Чернігівській області. Ф. 7. Спр. 15543. Арк. 16 зв.–17 зв УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) дівчина працювала в буфеті офіцерської столової 29
гвардійського корпусу п/п (польова пошта) №17995 «А». У травні 1946 р. її перевели
на посаду завгоспа неповної середньої школи при
цій же військовій частині11. Фото 2. Юта Густавівна Кельм
(липень 1945 – жовтень 1946) цій же військовій частині . Першого січня 1946 р. дівчина пройшла пер-
шу фільтрацію в м. Готті. У вересні 1946 р. вона
подала рапорт про повернення додому на ім’я
командира військової частини п/п 17995 гене-
рал-лейтенанта Хетагурова. 18 (20) – 23 вересня
1946 р. дівчина проходила другу фільтрацію
в таборі № 363 м. Дебельн. У фільтраційних
документах зазначено її подвійні дані, а саме:
прізвище – Кельман–Кельм, ім’я – Лідія–Юта,
по батькові – Іванівна–Густавівна, а також зафік-
совано, що дівчина співробітничала з гестапо12. Згідно з одними даними, вона залишила філь-
траційний табір м. Дебельн 23 вересня 1946 р., а за
іншими – 29 вересня. 19 жовтня 1946 р. дівчина
приїхала до м. Прилуки13. Про причини свого
повернення в Україну Юта повідомила наступне:
«<...> Відправляючи листи в Прилуки, я не могла
встановити, що трапилося з моєю родиною. З цією метою я, отримавши відповідні
документи з цієї частини, приїхала в Прилуки. Сім’ї моєї тут не було і я вирішила
залишитися тут, розшукуючи своїх батьків <...>»14. Фото 2. Юта Густавівна Кельм
(липень 1945 – жовтень 1946) Першого січня 1946 р. дівчина пройшла пер-
шу фільтрацію в м. Готті. У вересні 1946 р. вона
подала рапорт про повернення додому на ім’я
командира військової частини п/п 17995 гене-
рал-лейтенанта Хетагурова. 18 (20) – 23 вересня
1946 р. дівчина проходила другу фільтрацію
в таборі № 363 м. Дебельн. У фільтраційних
документах зазначено її подвійні дані, а саме:
прізвище – Кельман–Кельм, ім’я – Лідія–Юта,
по батькові – Іванівна–Густавівна, а також зафік-
совано, що дівчина співробітничала з гестапо12. Згідно з одними даними, вона залишила філь-
траційний табір м. Дебельн 23 вересня 1946 р., а за
іншими – 29 вересня. 19 жовтня 1946 р. дівчина
приїхала до м. Прилуки13. Про причини свого
повернення в Україну Юта повідомила наступне:
«<...> Відправляючи листи в Прилуки, я не могла
встановити, що трапилося з моєю родиною. З цією метою я, отримавши відповідні
документи з цієї частини, приїхала в Прилуки. Сім’ї моєї тут не було і я вирішила
залишитися тут, розшукуючи своїх батьків <...>»14. Фото 2. Юта Густавівна Кельм
(липень 1945 – жовтень 1946) Фото 2. Юта Густавівна Кельм
(липень 1945 – жовтень 1946) Повернувшись додому, вона розпочала пошуки своїх близьких. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Забезпечивши харчовими пайками на п’ять діб, на залізничній станції Ки-
єва молодих людей посадили в ешелон, який складався з 32 вагонів, та відправили
до Німеччини. Про кінцеву станцію бранцям не було повідомлено нічого. Переїзд
зайняв близько 9 діб8. На станції м. Ордруф (Німеччина) до ешелону підійшов директор льонопереробної
фабрики Франкенберг. Із партії новоприбулих він відібрав 80 дівчат для роботи на
своїй фабриці. На цьому підприємстві Юта Кельм була єдиною з колишніх робітників
Прилуцької панчішної фабрики. Решту дівчат було розкидано по інших німецьких
містах та підприємствах. Проте Юта була не єдиною з м. Прилуки. На цю фабрику
потрапили прилучанки Надія Медведєва, Марія Попова, Ольга Перепуст, Марія
Щербина, Марія Музиченько, Феня Джевага та ін. 9 У 1944 р. начальник табору, в якому проживали робітники фабрики, подав списки
своїх працівників до поліції м. Ордруф. У цих документах Юта значилася як нім-
кеня. Кілька разів дівчину викликали до поліції міста, де під час допитів детально
фіксували її автобіографію. У квітні 1944 р. директор фабрики дав дівчині документ,
якого прислали йому з Берліна. Згідно з ним, Юту, як фольксдойче, викликали до
гестапо м. Майнінген. Мета виклику була відсутньою. По приїзду до м. Майнінген дівчину разом з іншими фольксдойче поселили в
приміщенні школи. Тут же перебували й співробітники гестапо. Після того, як дів-
чина пройшла медкомісію та було проведено допити співробітників гестапо, їй було
видано довідку на право повернення до Ордруф. Через кілька днів після повернення
Юти на підприємство їй через поліцію м. Ордруф було вручено німецький паспорт
«фольксдойче». Від цього часу вона отримала всі права німців та відповідні привілеї,
як-то: гарний пайок, проживання в окремій квартирі та право на вільне пересування. Підсобною працівницею Юта пропрацювала тут до серпня 1944 р. Після пожежі,
яка виникла в обладнанні для сушіння льону та призвела до значних пошкоджень,
фабрику було зупинено. Усіх 200 робітників було розіслано по інших містах. Юту
та ще шістьох дівчат відвезли до м. Ерфурт на фабрику «Олімпія», де виготовляли
друкарські машинки. Тут дівчина готувала німецький шрифт10. У травні 1945 р. до м. Ерфурт вступили американські війська. Юта потрапила до
збірно-пересильного пункту. Вона там пробула близько 1,5–2 місяці. У другій полови- Сіверянський літопис 139 ні літа місто та збірно-пересильний пункт було передано радянському командуванню. Юта, узявши нові паспортні дані на ім’я Лідії Іванівни Кельман, почала працювати
по вільному найму перекладачем у відділенні Армійського зернового складу № 3302
м. Ерфурт. З жовтня 1945 р. 140 Сіверянський літопис 16 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 79–79 зв. 17 Там само. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) начальник відділу Прилуцького міськвідділу МДБ старший
лейтенант Медведок провів допит Лідії Іванівни Кельман (Юти Густавівни Кельм). Запитання стосувалися біографічних даних дівчини та її перебування в Німеччині
(липень 1942 – вересень 1946 рр.)19. 27 травня 1947 р. начальник відділу Прилуцького міськвідділу МДБ старший
лейтенант Медведок допитав жительку м. Прилуки Марію Сергіївну Булатову, яка
з 24 червня 1942 до 6 червня 1945 рр. перебувала у Німеччині. Дівчина вказала, що
серед її знайомих, які перебували з нею в Німеччині, було 12 дівчат, серед яких була і
Юта Густавівна Кельм. Відповідаючи на запитання про осіб, які займалися злочинною
діяльністю в Німеччині, Марія назвала лише Ю. Кельм20. У пояснювальній записці, яку було подано в МДБ наступного дня, Марія написала
про їх з Ютою відправлення до Німеччини в 1942 р. З документа дізнаємося, що в
розподільчому таборі м. Вута їх з Ю.Кельм розділили. Юта, яка під час реєстрації
заявила про свою німецьку національність, залишилася на місці, а Марію направили
до м. Айзенах. Дівчина також вказала, що, перебуваючи в Німеччині, вони з Ютою
бачилися лише один раз, коли у 1944 р. Надя Медведєва та Юта Кельм приїхали до
неї в табір м. Штатленксфельд. Після цього вона з Ютою не листувалася й не знала
про неї нічого до її повернення в м. Прилуки. Проте далі Марія виклала на папері
зміст усіх останніх розмов з Ютою. Дуже детально дівчина описала підготовку Юти
до виїзду з СРСР до Німеччини21. Дівчину було звинувачено в тому, що, перебуваючи в Німеччині, у квітні 1944 р. вона прийняла німецьке підданство, чим зрадила Батьківщину; була завербована
співробітниками гестапо; з квітня 1944 до березня 1946 р. підтримувала таємний
зв’язок з таємними агентами гестапо. Повернувшись у 1946 р. до м. Прилуки, систе-
матично вихваляла життя в Німеччині та одночасно критикувала життя в СРСР; на
ґрунті свого ворожого ставлення до СРСР вела підготовку до нелегального виїзду
за кордон. Ці дії підпадали під ст. 54-1 «а» КК УРСР22. 15 вересня 1947 р. начальник відділу Прилуцького міськвідділу МДБ старший
лейтенант Медведок, розглянувши матеріали справи проти Юти Густавівни Кельм
(Лідії Іванівни Кельман), підписав постанову на її арешт. Причинами арешту стали:
реєстрація дівчини восени 1941 р. в німецької окупаційної влади як фольксдойче;
добровільний виїзд у червні 1942 р. в Німеччину, де вона проживала до осені 1946 р.;
зрада батьківщини та прийняття німецького громадянства (підданства); співробіт-
ництво з німецькими каральними органами та виконання їхніх завдань, що були
спрямовані проти радянських громадян, які перебували на примусових роботах на
території Третього Рейху23. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Так, Юта ді-
зналась, що молодша сестра Лілія, не витримавши знущань мачухи, у 1945 р. (за
іншими даними 1944 р.) втекла з дому до м. Ніжин. Вона змінила своє прізвище, щоб
не знайшли її близькі, і під прізвищем Сараненко (1932 р. народження) потрапила
до дитбудинку в с. Лосинівка цього ж району. Також Юта дізналася, що в 1946 р. її
мачуху, Марфу Михайлівну Маркову, вивезли до м. Луза Кіровської області, де на
той час проживав і її батько15. Пізніше вона знайшла свою сестру Лілію, якій уже виповнилося 14 років. Вона
навчалася у ФЗО в Прилуках і була зовсім самотньою, адже вся родина, за словами
Юти, на той час проживала в Казахстані. Але їхньої точної адреси дівчина на той
час не знала16. Після повернення з Німеччини в жовтні 1946 р. Юта влаштувалася працювати до
Прилуцького драмтеатру. Жити було дуже важко. Зарплатня була в розмірі 200 руб. на місяць, половину з яких вона віддавала за квартиру. Пізніше вона влаштувалася
закрійницею на шкіргалантерейну фабрику в м. Прилуки, де й працювала до арешту. Проте вона продовжувала перебувати в полі зору працівників МДБ17. 3 лютого 1947 р. члени перевірочно-фільтраційної комісії Прилуцького міського
відділу МДБ майор Куниця та капітан Іпатов розглянули фільтраційну справу на ре-
патрійовану громадянку Лідію Іванівну Кельман (Юту Густавівну Кельм). Керуючись
наказом МВС МДБ СРСР № 00708/00268 від 16 червня 1945 р., комісія постановила
11 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 26–27; Держархів Чернігівської 3 лютого 1947 р. члени перевірочно-фільтраційної комісії Прилуцького міського
відділу МДБ майор Куниця та капітан Іпатов розглянули фільтраційну справу на ре-
патрійовану громадянку Лідію Іванівну Кельман (Юту Густавівну Кельм). Керуючись
наказом МВС МДБ СРСР № 00708/00268 від 16 червня 1945 р., комісія постановила 11 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 26–27; Держархів Чернігівської
області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 3 зв. 5. р
р
12 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Фільтраційна картка Кельман-Кельм
Лідії-Юти Іванівни-Густавівни. Арк. 1–3; Спр. 51941. Арк. 3 зв.–5. 13 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 4, 5 зв. Д р
р
р
р
р
14 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 79–79 зв. передати справу на вищевказану особу до Прилуцького міського відділу МДБ для
подальшої агентурної розробки. Висновок комісії затвердив голова районної пере-
вірочно-фільтраційної комісії капітан міліції Попов18. 4 лютого 1947 р. 18 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк.8.
19 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 20–24.
20 Там само. Арк. 12.
21 Там само. Арк. 13–14 зв.
22 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 26–28.
23 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 3.
24 Там само. Арк. 1–5.
25 Там само. Арк. 1, 10, 11. 18 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк.8. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Наступного дня постанову санкціонував військовий прокурор військ МВС
Чернігівської області майор юстиції Пантюхов. У цей же день з Чернігівського обл-
управління Міністерства Державної безпеки було видано ордер №209 на проведення
обшуку в дівчини та її арешт24. 18 вересня Юті було пред’явлено постанову. Незважаючи на те, що під час обшуку
не було знайдено та вилучено нічого підозрілого, окрім 68 листів та 83 фотокарток,
дівчину заарештували. З цього ж дня було розпочато кримінальне провадження. Під час проведення слідства заарештована утримувалася у в’язниці № 1 УМВС
Чернігівської області25. Сіверянський літопис 141 Перед початком та в ході розслідування в м. Прилуки було проведено бесіди зі
свідками. Роботу з ними проводили начальник відділу Прилуцького міського від-
ділу МДБ старший лейтенант Медведок та оперуповноважений 4 відділу УМДБ
Чернігівської області капітан Купріянко26. Так, 22 травня 1947 р. було допитано
Надію Пилипівну Медеведську, 13 вересня 1947 р. – Ніну Степанівну Ромашко,
Марію Петрівну Щербину, Віру Іполитівну Дземанович, Марію Сергіївну Булатову,
18 вересня – Анастасію Григорівну Нікольську. р
р
р
у
у
22 травня 1947 р. Н. П Медеведська про Юту Кельм повідомила наступне:
«<...> Кельм Юта, будучи донькою німця-колоніста, пропрацювавши в м. Ордруф
на льонопереробній фабриці робочою недовгий період часу, почала добровільно
перед шефом-німцем фабрики та німецькою жандармерією добиватися привілеїв як
німкеня. Унаслідок прохань, Кельм весною 1943 р. отримала через шефа фабрики до-
кументи громадянина Німеччини. Отримавши ці документи, її перевели в м. Ерфурт,
де, як говорили мені дівчата, служила начальником табору над росіянами. У цей час
по-звірячому знущалася над радянськими громадянами, штрафувала, арештовувала
за непокору <...>»27. 22 травня 1947 р. Н. П Медеведська про Юту Кельм повідомила наступне:
«<...> Кельм Юта, будучи донькою німця-колоніста, пропрацювавши в м. Ордруф
на льонопереробній фабриці робочою недовгий період часу, почала добровільно
перед шефом-німцем фабрики та німецькою жандармерією добиватися привілеїв як р
ф
ф
р
р
р
р
німкеня. Унаслідок прохань, Кельм весною 1943 р. отримала через шефа фабрики до-
кументи громадянина Німеччини. Отримавши ці документи, її перевели в м. Ерфурт,
де, як говорили мені дівчата, служила начальником табору над росіянами. У цей час
по-звірячому знущалася над радянськими громадянами, штрафувала, арештовувала
за непокору <...>»27. Надія Пилипівна також пригадала, що в 1944 р. з їхнього табору три дівчини-нім-
кені їздили в м. Ерфурт на тренувальні стрільби, де вони бачили Юту Кельм. Дівчата
розповіли, що Юта була одягнена в німецьку форму. На заняттях зі стрільби вона
стала кращим стрільцем. 26 Там само. Арк. 37, 39, 42, 44, 47, 49.
27 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 40 зв.
28 Там само. Арк. 40 зв.–41.
29 Там само. Арк.47–48 зв.
30 АУ СБУ в Чернігівській області. Арк. 42 зв.–43.
31 Там само. Арк. 43.
32 Там само. Арк. 51 зв. 142 Сіверянський літопис звірячому знущал
непокору <...>»27. р
30 АУ СБУ в Чернігівській області. Арк. 42 зв.–43. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Ерфурт і призначили перекладачем у таборі східних робітників, а потім, коли
було оформлене її німецьке громадянство, вона вступила до стрілецької школи. У цій
школі її разом з іншими німкенями навчали німецької мови та стрільбі. Окрім цього,
у цій школі говорили щоб вона доносила в жандармерію на східних робітників, які
займалися шкідництвом, організовували мітинги, не виходили на роботу, крали і т. д». Про те, що Кельм повідомляла в німецьку жандармерію про таких осіб, яких
пізніше карали <...>33, – читаємо у протоколі. Марія також розповіла слідству про бажання подруги виїхати назад до Німеччини. б 18 вересня 1947 р. слідчими органами було допитано А. Г. Нікольську, яка повідо-
мила слідству, що з січня цього ж року у неї почала наймати житло Лідія Іванівна
Кельман. Жінка також розповіла, що у своїх розмовах дівчина не раз згадувала про
своє гарне життя в Німеччині; вихваляла життя в американській зоні та славила аме-
риканських військовослужбовців, які з нею добре поводилися; також висловлювала
незадоволення становищем в СРСР, вказуючи, що їй тут гірше, ніж у Німеччині34. Цього ж дня, а саме 18 вересня 1947 р., відбувся перший допит і самої заарештова-
ної. Його проводив начальник відділу Прилуцького міського відділу МДБ старший
лейтенант Медведок. Підозрювана повідомила слідству про причини зміни своїх паспортних даних. Перебуваючи в Німеччині з липня 1942 р. до літа 1945 р., Юта проживала із своїми
справжніми документами, в яких було зазначено її національність. Весною 1945 р. м. Ерфурт, де на той час мешкала дівчина, було звільнено американськими війська-
ми. Проте невдовзі місто було передане в радянську окупаційну зону. Тому з метою
приховання своєї належності до німецької нації вона знищила всі документи. Пред-
ставникам радянської військової влади вона назвалася українкою Лідією Іванівною
Кельман. У жовтні 1946 р., у порядку репатріації, вона повернулася до м. Прилуки. Обмінявши фільтраційні документи, які було видано в Німеччині, вона отримала
паспорт громадянина СРСР. За новим паспортом № 23501 вона стала Лідією Іва-
нівною Кельман, українкою за національністю35. Після 18 вересня дівчину перевели до м. Чернігів, і тут справу почав розслідувати
начальник слідчого відділу УМДБ по Чернігівській області капітан Власенко. Він
же й проводив допити заарештованої. р
р
У ході розслідування підозрювана повідомила, що весною 1944 р. в гестапо
м. Майнінген було зібрано близько 300 фольксдойче, серед яких була й вона. 33 Там само. Арк. 50 зв.
34 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 37–37 зв.
35 Там само. Арк. 15–15 зв.
36 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк.20–21 зв. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) І, як зрозуміла Надія Пилипівна з розповідей дівчат, Юта
або служила в німецькій армії, або навчалася на якихось курсах28. 13 вересня 1947 р. начальник відділу Прилуцького міського відділу МДБ стар-
ший лейтенант Медведок провів допит В. І. Дземанович. Проте дівчина сказала, що
нічого конкретного про життя Юти сказати не може, бо знає її дуже мало й бачила
лише раз в Німеччині, коли та провідувала в м. Айзенах М. Булатову та ще раз після
її повернення додому29. 13 вересня 1947 р. було проведено допит Н. С. Ромашко, яка знала Юту Кельм
з лютого 1947 р. Вона повідомила, що Юта неодноразово говорила, що в Німеччині
вона жила дуже добре, отримала німецьке громадянство та користувалася усіма приві-
леями німців. Про перебування Юти в американській зоні вона повідомила наступне:
«<...> Перебуваючи в американській зоні в Німеччині, їй також жилось добре. У неї
був знайомий американський військовослужбовець. <...> Мала намір поїхати в Аме-
рику й зараз дуже шкодує, що не поїхала <...>»30. За словами Ніни Степанівни, Юта
неодноразово висловлювала бажання виїхати з м. Прилуки, де її могли впізнати, та
боялася, що її можуть притягнути до відповідальності за її поведінку за кордоном31. Цього ж дня було допитано й М. С. Булатову, яка знала Юту як подругу дитинства
з 1934 р. До війни вони проживали в одному будинку. Марія розповіла, що у червні
1942 р. їх відправили до Німеччини разом, але на розподільчому пункті м. Вута їх
розділили, і після цього вона бачила Юту лише один раз у 1944 р., коли та з Надією
Медведєвою приїздила до неї в м. Айзенах. Але Марія пригадала, що в Німеччині вони з Ютою листувалися. Із змісту листів
вона знала, чим займається подруга. Ось що вона повідомила слідству: «<...> З кінця
1942 р. Кельм Юта почала писати мені листи, з яких я знала, що вона прохає німецьку
владу надати їй німецьке громадянство. Добре пам’ятаю, що Кельм писала мені в
листах за 1943 р. про те, що в зв’язку з її проханням надати їй німецьке громадянство
було зроблено запит до німецького коменданта м. Прилуки, який вислав довідку
про те, що Кельм німкеня за національністю, а дозвіл на прийняття громадянства
надійшов з Берліна <...>»32. Дівчина повідомила, що після повернення Юти додому та часто розповідала їй про
своє життя в Німеччині. «<...> У 1944 році її, як німкеню, перевели з міста Ордруф
до м. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) На-
чальник гестапо запропонував їм після повернення на свої робочі місця виявляти
комсомольців і комуністів, які до окупації обіймали високі керівні посади, та осіб,
які нині ведуть ворожу діяльність проти німців, та доносити про них своєму керів-
ництву. Повернувшись на фабрику до м. Ордруф, вона отримала таке ж завдання від
директора Франкенберга. Працюючи на заводі «Олімпія» в м. Ерфурт, до березня
1945 р. вона також отримувала від директора такі ж завдання36. 28 вересня 1946 р. начальником слідчого відділу УМДБ по Чернігівській області
капітаном Власенком було підписано постанову про пред’явлення звинувачення Юті
Густавівні Кельм за ст. 54-1 «а» КК УРСР. Цього ж дня на допиті дівчина визнала себе винною в тому, що: поїхала до Німеч-
чини в липні 1942 р.; працюючи на льонопереробній фабриці м. Ордруф, як німкеня
по національності, порушила клопотання перед владою про присвоєння їй німець-
кого громадянства; була завербована співробітниками гестапо в м. Майнінген для
агентурної діяльності; систематично підтримувала злочинний зв’язок з директорами
підприємств; як фольксдойче та агент гестапо користувалася всіма привілеями німців;
повернувшись до м. Прилуки й перебуваючи в скрутному матеріальному становищі, Сіверянський літопис 143 серед найближчого оточення порівнювала життя в м. Прилуки й за кордоном та
бажала виїхати за кордон на постійне місце проживання. Проте обвинувачена не підтвердила факт своєї втечі в травні 1945 р. від радянських
військ до американської окупаційної зони. Дівчина вказала, що вона проживала в
м. Ерфурт, коли його зайняли американські війська, й відразу ж потрапила до пере-
сильного табору. Юта також заперечила факти видачі нею в Німеччині радянських
громадян гестапівцям. Не підтвердила дівчина й того, що вона підмовляла зрадити
батьківщину й виїхати до Німеччини свою знайому М. С. Булатову37. Проте вже на допиті 10 листопада 1947 р. дівчина повідомила, що зимою та навесні
1947 р. на квартиру Анастасії Григорівни Нікольської, де вона проживала, приїздила
знайома господині Лєна. Розговорившись, дівчата пригадували своє минуле життя. Обидві були невдоволені скрутним матеріальним становищем. Під час чергового
приїзду Лєна розповіла про провідницю Валентину Володимирівну Дрягіну, яка за
окрему плату пообіцяла трьох дівчат переправити до Німеччини, і дала адресу жінки. Розпочалося листування. Проте в травні 1947 р. Юта відповіді не отримала. Так мрія
дівчини повернутися до Німеччини не здійснилася38. у
12 листопада 1947 р. капітаном Власенком було підписано постанову про уточ-
нення прізвища, імені та по-батькові заарештованої. Цього ж дня документ затвердив
начальник слідчого відділу УМДБ по Чернігівській області підполковник Чепиленко. Згідно з постановою, заарештована мала зватися Юта Густавівна Кельм39. 37 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк.24–29.
38 Там само. Арк. 31 зв.–32 зв.
39 Там само. Арк. 55.
40 Там само. Арк. 56.
41 Там само. Арк. 12–13.
42 АУ СБУ в Чернігівській області. Арк.57.
43 Там само. Арк. 59–60.
44 Там само. Арк. 71–74 зв. 144 Сіверянський літопис 37 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк.24–29. СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк.24–29. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Цього ж дня до матеріалів слідства було долучено листи Ю. Кельм від 30 травня
й 11 червня 1947 р. та спільний лист Ю. Кельм і М. Булатової від 23 травня 1947 р. до В. Дрягіної, в яких Юта просила допомогти їм нелегально перетнути кордон. Лист
з відповіддю В. Дрягіної до Ю. Кельм від 5 червня 1947 р. також було долучено до
справи як доказ40. Під час проведення розслідування справи заступником начальника слідчого від-
ділу УМДБ по Чернігівській області капітаном Власенком були вивчені та вилучені
під час обшуку всі 68 листів заарештованої. Враховуючи те, що 67 з них не мали
ніякого відношення до справи, 12 листопада 1947 р. кореспонденцію було спалено41. Постановою від 12 листопада 1947 р. матеріали на В. Дрягіну та М. Булатову було
вилучено зі справи № 3596 в окрему справу для додаткового розслідування їхньої
злочинної діяльності42. 12 листопада 1947 р. слідство було завершене. Цього ж дня лікар в’язниці Шехтман
підписав довідку про те, що Ю. Кельм придатна до фізичної праці43. 28 листопада 1947 р. Військовий Трибунал військ НКВС у Чернігівській області
в складі підполковника юстиції Чечеля (голови), старшого лейтенанта Пашинника,
лейтенанта Александрова та секретаря Пагубка на закритому судовому засіданні без
участі представників звинувачення та захисту розглянули дану справу. Згідно зі ст. 54-1 «а» КК УРСР Ю. Г. Кельм було позбавлено волі на термін 10 років
без конфіскації майна за відсутністю такого та з відбуванням покарання у трудових
таборах. Згідно з п. «а» і «б» ст. 29 КК УРСР, її позбавили громадських прав терміном
на п’ять років. Термін початку відбування покарання датовано 18 вересня 1947 р.44 Вироком допускалося подання касаційної скарги, яку Ютою було підготовлено
та подано до Верховного Суду УРСР 2 грудня 1947 р. 31 грудня 1947 р. Військовий Трибунал військ МВС Українського округу в складі
майора юстиції Збаращенка (голова), майора юстиції Гамаюнова та капітана юстиції
Малиха на судовому засіданні розглянули касаційну скаргу Ю. Г. Кельм та постано- вили вирок залишити в силі, а касаційну скаргу відхилити45. у
у
Після смерті Й. Сталіна в 1954 р. було проведено часткову реабілітацію жертв
репресій. 22 грудня 1954 р. співробітник УМВС Чернігівської області, старший лей-
тенант Шило, проаналізувавши архівно-слідчу справу № 301, яку було заведено на
Юту Густавівну Кельм, підготував висновок, в якому обґрунтував причини відмови
в перегляді вироку Військового Трибуналу щодо неї. Цю пропозицію підтримав за-
ступник прокурора Чернігівської області, радник юстиції Попов46. 29 грудня 1954 р. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) комісія з перегляду кримінальних справ на осіб, засуджених за
контрреволюційні злочини, у складі прокурора області, старшого радника юстиції
Шратченка (голова) та трьох членів слухала доповідь співробітника УМВС Черні-
гівської області старшого лейтенанта Шила про кримінальну справу Юти Густавівни
Кельм. Члени комісії постановили, що підстави для перегляду вироку по ній відсутні47. 21 липня 1955 р. Ю. Г. Кельм, яка на той момент відбувала покарання в Мордовії48*,
відправила листа прокурору Чернігівської області, в якому описала своє дитинство,
поїздку до Німеччини та своє життя там. Не оминула вона й тему слідства щодо неї
в 1946–1947 рр. та методи ведення слідчих дій. Молода жінка, в якої на той час був
дворічний син, просила переглянути справу та зменшити покарання. Повний зміст
звернення подано в додатку А. 21 липня 1955 р. Ю. Г. Кельм, яка на той момент відбувала покарання в Мордовії48*,
відправила листа прокурору Чернігівської області, в якому описала своє дитинство,
поїздку до Німеччини та своє життя там. Не оминула вона й тему слідства щодо неї
в 1946–1947 рр. та методи ведення слідчих дій. Молода жінка, в якої на той час був
дворічний син, просила переглянути справу та зменшити покарання. Повний зміст
звернення подано в додатку А. 14 травня 1956 р., після повторного перегляду справи Ю. Г. Кельм, військовий
прокурор Київського військового округу, генерал-майор юстиції І. Бударгін подав
протест до Військового Трибуналу Київського військового округу, в якому просив три-
бунал змінити вирок Військового Трибуналу військ НКВС в Чернігівській області від
28 листопада 1947 р.; згідно зі ст. 46, знизити міру покарання для даної громадянки до
8 років з відбуванням у виправно-трудових таборах; застосувати с. 6 Указу Президії
Верховної Ради СРСР від 17 вересня 1955 р. «Про амністію радянських громадян,
які співробітничали з окупантами в роки Великої Вітчизняної війни 1941–1945 рр.»,
зняти з неї судимість та позбавлення громадянських прав. Свій протест прокурор
мотивував тим, що Ю. Кельм було вивезено до Німеччини у віці 16 років, тобто не-
повнолітньою; до арешту вона займалася суспільно-корисною працею, працювала
робітницею на Прилуцькій шкіргалантерейній фабриці; практичну зрадницьку ді-
яльність матеріалами справи не було встановлено49. у
3 липня 1956 р. Військовий Трибунал Київського військового округу в складі
полковника юстиції Якунова, підполковників юстиції Коротича та Зорикова на під-
ставі ст.1 та 6 вищезгаданого Указу від 17 вересня 1955 р. вирішив наступне: зняти
судимість з негайним звільненням Ю. Г. Кельм з місць позбавлення волі; вважати
Юту Густавівну такою, що не має судимості та позбавлення громадських прав50. 3 липня 1956 р. 45 Там само. Арк. 79–80 зв.
46 АУ СБУ в Чернігівській області. Арк. 82–83.
47 Там само. Арк. 84.
48
* С. Явас, Зубово-Полянський район Мордовської АРСР, а/с 385/3
49 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 91–94.
50 Там само. Арк. 95–96 зв.
51 Там само. Арк. 99–111. 52 Держархів Чернігівської області. Ф. Р-3013. Оп.1. Спр. 55. Арк. 40.
53 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 24.
54 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Фільтраційна картка Кельман-Кельм
Лідії-Юти Іванівни-Густавівни. Арк. 1–3.
55 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 50.
56
* У протоколі допиту зустрічається обидва прізвища
57 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 12–13.
58 Держархів Чернігівської області. Ф. Р-8840. Оп. 1. Спр. 51941. Арк. 15–19.
59 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 42–42 зв.
60 Там само. Арк.50 УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Військовий Трибунал Київського військового округу в складі
полковника юстиції Якунова, підполковників юстиції Коротича та Зорикова на під-
ставі ст.1 та 6 вищезгаданого Указу від 17 вересня 1955 р. вирішив наступне: зняти
судимість з негайним звільненням Ю. Г. Кельм з місць позбавлення волі; вважати
Юту Густавівну такою, що не має судимості та позбавлення громадських прав50. З метою ознайомлення та внесення в особисті документи Ю. Г. Кельм відповідних
змін, рішення Військового Трибуналу Київського військового округу було надіслано
в табір с. Явас Зубово-Полянського району Мордовії, де вона відбувала покарання. Проте матеріали надійшли із запізненням. 16 січня 1956 р. жінку було звільнено й
вона залишила табір. Згідно з документами табору, вона поїхала до м. Луга Ленін-
градської області. Проте, за даними міліції м. Луга, 11 травня 1956 р. вона покинула
місто й відправилася в Ташкентську область. Міліцією Ташкента та області влітку
1956 р. громадянку Кельм також знайдено не було. Запит Військового Трибуналу
Київського військового округу про місце проживання Ю. Г. Кельм було надіслано в
м. Прилуки, де її також не знайшли51. 17 квітня 1991 р. в УРСР було видано Закон «Про реабілітацію жертв політичних
репресій в Україні». 6 грудня 1991 р. заступником генерального прокурора Української Сіверянський літопис 145 РСР, державним радником юстиції 2 класу Д. А. Усатовим були затверджені докумен-
ти про реабілітацію Ю. Г. Кельм, яка на той час проживала в м. Севастополь. Через
44 роки кримінальну справу № 3596 нарешті було закрито. А влітку 1992 р. жінка
звернулась до Держархіву Чернігівської області з метою підтвердження інформації
про її перебування в Німеччині в 1942–1946 рр. р
р
у
рр
На цьому можна було б і закінчити розгляд даної проблеми. Кримінальна справа
стала одним з яскравих прикладів поводження органів МДБ з репатріантами. Адже в
перші післявоєнні роки такі кримінальні справи проти колишніх остарбайтерів як в
Україні, так і по всьому СРСР було відкрито тисячами. Часто ні в чому не винні люди
згідно зі ст.54-1 КК УРСР отримували термін ув’язнення 5–10 років з позбавленням
громадських прав на певний термін часу. р
р
р
у
Повертаючись до написаного, хочеться зупинитися на деяких розбіжностях, які
було знайдено автором під час аналізу документів. Одним з недосліджених питань
залишилася точна дата вивезення Ю. Кельм до Німеччини. Так, у матеріалах При-
луцької комісії по встановленню та розслідуванню злочинів нацистів, яку було
створено в 1944 р., вказано лише 1942 рік52. На допиті 25 вересня 1947 р. 146 Сіверянський літопис УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Слідство до уваги не взяло й того, що Юта Кельм наро-
дилася в 1926 р.62 Отже, на момент відправки (1942 р.) вона була ще неповнолітньою,
їй виповнилося лише 16 років. Хочемо звернути увагу й на часі та тривалості шести допитів заарештованої. Пер-
ший допит було проведено в м. Прилуки 18 вересня відразу ж після затримання. Він
тривав лише півгодини, з 15.10 до 15.4063. Решта допитів були значно тривалішими. р
у
р
25 вересня 1947 р. відбувся другий допит. Він розпочався о 21 год. 30 хв., тривав
усю ніч і закінчився вже 26 вересня о 4 год. ранку. Загальна його тривалість стано-
вила 6 год. 30 хв.64 р
у
р
25 вересня 1947 р. відбувся другий допит. Він розпочався о 21 год. 30 хв., тривав
усю ніч і закінчився вже 26 вересня о 4 год. ранку. Загальна його тривалість стано-
вила 6 год. 30 хв.64 28 вересня заарештовану було допитано ще раз, проте тривалість у документі не
зазначено65. Четвертий допит відбувся в м. Чернігові 10 листопада 1947 р. Він роз-
почався о 20 год., а закінчився 11 листопада о 2 год. 30 хв. Загальна його тривалість
становила 6 год. 30 хв. Його проводив заступник начальника слідчого відділу УМДБ
Чернігівської області капітан Власенко. Саме тоді на останнє питання слідчого про
небажання Юти проживати в СРСР, дівчина відповіла: «<...> Я не бажала жити в
Радянському Союзі, я бажала жити в Німеччині й для цього вживала заходи, щоб
втекти до Німеччини <...>»66. На цьому допит було завершено. Тим самим вона до-
дала собі термін ув’язнення. 12 листопада підозрювану було допитано аж двічі: перший допит тривав з 13.00 до
17.00, а другий з 21.00 до 22 год. 67 Як бачимо, допити відбувалися в другій половині
дня, увечері й уночі. Вони тривали від 30 хв. до 6 год. 30 хв. Загальна тривалість лише
зазначених у документах п’яти допитів становила 18 год. 30 хв. Можна було б лише здогадуватися й про методи вибивання потрібних слідству
дізнань на допитах, але в 1955 р. Ю. Г. Кельм у зверненні до прокурора Чернігів-
ської області про перегляд кримінальної справи проти неї написала про це відверто. «<...> Дійсно довелося себе неправдиво признати винною, бо не в змозі було слухати
нецензурні слова й переносити побиття залізною рейкою <...>»68. Таким чином, проаналізувавши фільтраційні документи та кримінальну справу
Ю. Г. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) дівчина
назвала липень 1942 р.53; у фільтраційній справі вказаний квітень 1942 р.54; подруга
дитинства Юти – Марія Булатова, з якою вони разом їхали до Німеччини, назвала
червень 1942 р.55 Скоріше за все, це був або кінець червня, або ж початок липня 1942 р.,
коли відбувалося масове вивезення молоді з Прилуччини. у
р
у
Кидається в очі ще ряд недоречностей. Так, до фільтраційної справи Ю. Кельм було
долучено копію протоколу допиту Ольги Єфремівни Хабатович, яка давала свідчення
ще 21 березня 1946 р. в м. Гомель Білорусі. Дівчина розповідала про своє знайомство
в квітні 1945 р. та подальші стосунки в Німеччині з жителькою м. Чернігів Ларисою
Келем (Кельм)56*. Проте жодного разу в протоколі ми не зустрічаємо ні імені Юти
Кельм, ні Лідії Кельман. Очної ставки між дівчатами проведено не було57. Можливо,
у документі мова йдеться про зовсім іншу особу. Тому ми не вважаємо свідчення
О. Є. Хабатович причетними до даної справи. р
р
Змушують також задуматися й матеріали допитів свідків. Їхні показання були
відверто спрямовані проти Юти Кельм. Не виключено, що їх свідки давали під пси-
хологічним, а то й фізичним тиском. Наведемо ряд прикладів. 27 травня 1947 р. на-
чальник відділу Прилуцького міськвідділу МДБ старший лейтенант Медведок опитав
жительку м. Прилуки Марію Сергіївну Булатову. Із 12 знайомих, які перебували в
Німеччині разом з нею, акцент робився лише на Юті Кельм. Дивним здається і той
факт, що Марія, яка бачила Юту в Німеччині лише один раз у 1944 р. в себе в таборі
й навіть з нею не листувалася, повідомила слідству, що Юта в Німеччині займалася
злочинною діяльністю58. Насторожує й те, що 13 вересня 1947 р. Ніна Степанівна Ромашко, яка знала
Ю. Кельм лише з лютого 1947 р., повідомила слідству, що в 1942 р. Юта поїхала до
Німеччини добровільно59. Підтвердила ці дані й Марія Булатова, яку також було до-
питано цього ж дня. «<...> У червні міс. 1942 року, не зважаючи на те, що вона була
німкенею за національністю, могла б не їхати до Німеччини виїхала на роботу до
Німеччини, де й знаходилася до кінця 1946 р.<...>»60 – читаємо в протоколі допиту. Проте чомусь слідчі не взяли до уваги матеріали Прилуцької комісії по встанов-
ленню та розслідуванню злочинів нацистів 1944 р., де вказано, що Юту Кельм було
насильно вивезено до Німеччини згідно з розпорядженням німецького коменданта та бургомістра м. Прилуки61. УДК 94(477)
Лідія Нестеренко
.
«<...> Я НЕ ЖЕЛАЛА ЖИТЬ В СОВЕТСКОМ
СОЮЗЕ, Я ЖЕЛАЛА ЖИТЬ В ГЕРМАНИИ
И ДЛЯ ЭТОГО ПРЕДПРИНИМАЛА МЕРЫ
БЕЖАТЬ В ГЕРМАНИЮ <...>».
СТОРІНКИ ЖИТТЯ ЮТИ ГУСТАВІВНИ
КЕЛЬМ (ЛІДІЇ ІВАНІВНИ КЕЛЬМАН) Кельм, можна зробити висновок, що кримінальні провадження проти колиш-
ніх остарбайтерів як за кодоном, так і після повернення їх на батьківщину органи
МДБ часто порушували за найменшої підозри, а то й зовсім безпідставно. Справи
глибоко не розслідували, а навпаки, щоб довести вину людини, залучали недоведені,
а часто й неправдиві свідчення. Окрім цього, під час допитів, вибиваючи необхідну
інформацію, слідчі використовували психічний тиск та фізичне насильство стосовно
заарештованих. Сіверянський літопис 147 Додаток А Звернення Ю. Г. Кельм до прокурора Чернігівської області
про перегляд кримінальної справи проти неї69 Звернення Ю. Г. Кельм до прокурора Чернігівської області
про перегляд кримінальної справи проти неї69 р
р
Прокурору
От З/К Кельм Ютты Густавовны
находящейся: Мордовская АССР,
ст. Чотьма, пос. Явас и.я.385/3 Кельм Ютта Густавовна, 1926 г. рожд. Национальность немка, гражданка СССР
Род. Сумская обл. г. Шостка в семье рабочего. Мать моя умерла в 1930 год, отец
Кельм Густав Йоганович, женился вторично в 1934 г. на Марковой Марии Ивановне в 61 Держархів Чернігівської області. Ф. Р-3013. Оп. 1. Спр. 55. Арк.40. 62 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 58. 63 Там само. Арк. 15–15 зв. 64 АУ СБУ в Чернігівській області. Арк. 18, 21 зв. 65 Там само. Арк. 24–29. 66 Там само. Арк. 30–32 зв. 67 Там само. Арк. 33–35, 36. 68 Там само. Арк. 86–87 зв. 69 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 86–87 зв. 61 Держархів Чернігівської області. Ф. Р-3013. Оп. 1. Спр. 55. Арк.40. 62 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 58. 63 Там само. Арк. 15–15 зв. 64 АУ СБУ в Чернігівській області. Арк. 18, 21 зв. 67 Там само. Арк. 33–35, 36. 68 Там само. Арк. 86–87 зв. р
69 АУ СБУ в Чернігівській області. Ф. 7. Спр. 15543. Арк. 86–87 зв. г. Прилуках Чер. обл. Сладко было нам с нашей мачехой, моя старшая сестра Эмилия
в 1935 г. была выгнана из дому, по сегоднешний день о ней ничего не известно. В 1941
год. Меня выгнали из дома, поступила я работать ученицей на чулочную ф-ку. Мне
было очень тяжело, не имея даже рубашки на сменку. Когда зашли немцы, я не смела обратится к ним за помощью, как делали остальные
русские-немцы, я не хотела их помощи, ибо она легко доставалась. В один прекрасный
день – месяца и числа не помню, получаю повестку: о явке на биржу труда. Со мной
много в тот день было, Булатова Мария – подруга детства, Щербина, Медведева Надя
и много других, я сейсас их забыла. Нас забрали в Германию, не добровольно – как
мне говорил мой следователь, а угнали нас. Очевидцем была Булатова Екатерина
проживает в Прилуках. Прибыли в Германию работала вместе с нашими девочками на ф-ке переробки
льна. И в конце 1944 г. мне как фольксдойч дали на руки паспорт, квартиру и улуч-
шили питание. Додаток А Мне следователь твердил, что я была тайным агентом, да какой с меня агент, когда
я толком не знаю немецкого языка. Конечно пришлось себя ложно признать винов-
ной, ибо не в силах было слышать нецензурные слова, и переносить побои железной
рейкой. Фамилию следователя я не помню, но лицо помню хорошо. Меня обвинили
в измене родине, до сегодняшнего дня я не пойму почему. Возможно я недопонимала
тогда, мне было тогда ещё 17 лет, и в отношении развития я и сейчас тупа, ибо кроме
физического труда я ничего не знаю. А поэтому я прошу расмотрите моё дело. Полностью своего дела я не помню, описать не могу, ведь прошло 8 лет моего
заключения. Прошу Вас расмотрите моё дело. Ведь я мать своего единственного сына. Дайте
мне возможность воспитать его честным и добросовестным гр. Советского Союза. К сему Кельм Ютта Густавовна К сему Кельм Ютта Густавовна 148 Сіверянський літопис References 1. Arkhiv Upravlinnia Sluzhby Bezpeky Ukrainy v Chernihivskii oblasti (AU SBU). F.7. Spr.15543. 116 ark. 1. Arkhiv Upravlinnia Sluzhby Bezpeky Ukrainy v Chernihivskii oblasti (AU SBU)
F.7. Spr.15543. 116 ark. p
2. Derzharkhiv Chernihivskoi oblasti. F. R.-8840. Op.1. Spr. 51941. 80 ark. h
kh
h
h
k
bl
l
k
k p
2. Derzharkhiv Chernihivskoi oblasti. F. R.-8840. Op.1. Spr. 51941. 80 ark. p
p
3. Derzharkhiv Chernihivskoi oblasti. F. R.-8840. Оp. 1. Filtratsiina kartka Kelman-
Kelm Lidii-Yuty Ivanivny-Hustavivny. 3 аrk. 3. Derzharkhiv Chernihivskoi oblasti. F. R.-8840. Оp. 1. Filtratsiina kartka Kelman-
Kelm Lidii-Yuty Ivanivny-Hustavivny. 3 аrk. y
y
y
4. Derzharkhiv Chernihivskoi oblasti. F. R-3013. Оp.1. Spr.55. 117 ark. y
y
y
4. Derzharkhiv Chernihivskoi oblasti. F. R-3013. Оp.1. Spr.55. 117 ark. h
kh d
kh d
k 5. Demchyna A. (2000) Zi Skhodu na Zakhid. Kyiv, Ukraina, Yunivers. 5. Demchyna A. (2000) Zi Skhodu na Zakhid. Kyiv, Ukraina, Yunivers. 5. Demchyna A. (2000) Zi Skhodu na Zakhid. Kyiv, Ukraina, Yunivers. Нестеренко Лідія Олександрівна – кандидат історичних наук, доцент кафедри
суспільних дисциплін та методики їх викладання Чернігівського обласного інсти-
туту післядипломної педагогічної освіти імені К.Д. Ушинського (м. Чернігів, вул. Слобідська, 83) Nesterenko Lidia Oleksandrivna, the Candidate of Historical Sciences and Associate
Professor of Social Sciences and their Teaching Methods at K. Ushynskyi Chernihiv Re-
gional Institute of Postgraduate Pedagogical Education (Chernihiv city, Slobidska St., 83) «<...> I DIDN’T WANT TO LIVE IN THE SOVIET UNION, I WANTED TO LIVE
IN GERMANY. FOR THIS I WAS TAKING ACTIONS TO FLEE TO GERMANY
<...>». PAGES OF LIFE OF YUTA GUSTAVIVNA KELM (LIDIA IVANIVNA KEL-
MAN)
The article is devoted to the daughter of the German colonist Gustav Johannovych Kelm
named Yuta Gustavivna Kelm, who in 1942 at the age of sixteen was taken from Pryluky city
to Germany for forced labour. At first, the girl worked at a flax processing plant in Ohrdruf
town for the period from July 1942 to August 1944. After a fire that caused the factory to
stop, Yuta worked at «Olympia» factory in Erfurt, where typewriters were produced. Here
the girl was working on a German font. In April 1944 she got German citizenship. In May 1945, after arrival of American forces to Erfurt, Yuta went to a collection and
transit center where she stayed for about 1.5-2 months. DOI: 10.5281/zenodo.3253722 References After the city became a part of the
Soviet Zone of Occupation, Yuta, obtaining a passport with new data in the name of Lidiia
Ivanivna Kelman, began to work as a freelance translator at the Army Grain Warehouse No. 3302 in Erfurt. Since October 1945, the girl worked at the buffet of the officers’ mess No. 29
of the Guards Corps of the Army Post Office No. 17995 «А”. In May 1946, she was trans-
ferred to the post of supply manager of a junior secondary school in the same military unit. In January 1946, the girl went through the first filtration in the city of Gotha. In Septem-
ber 1946, she went through the second filtration at the camp No. 363 in the town of D beln. The filtration documents indicate her dual data, namely, the surname – Kelman/Kelm, the
name – Lidiia/Yuta, patronymic – Ivanivna/Gustavivna, and also it was recorded that the
girl collaborated with the Gestapo. In order to find her relatives, the girl came to Pryluky city
in October 1946. In 1947, Yuta Gustavivna was sentenced to 10 years in prison. After the adoption of
the Decree of the Presidium of the USSR Supreme Soviet dated September 17, 1955 «On
amnesty of the Soviet citizens collaborating with occupants during the Great Patriotic War
1941–1945”, the young woman was released and her criminal record was canceled. She was
rehabilitated in 1991. Key words: Yuta Kelm, Pryluky city, the Nazi occupation, Germany, Ostarbeiter,
arrest, imprisonment, rehabilitation. Дата подання: 2.04.2019 р. Дата подання: 2.04.2019 р. Дата подання: 2.04.2019 р. Сіверянський літопис 149
DOI: 10.5281/zenodo.3253722 DOI: 10.5281/zenodo.3253722
|
https://openalex.org/W4245215564
|
https://www.researchsquare.com/article/rs-6194/v1.pdf?c=1585622480000
|
English
| null |
Long-lasting severe immune dysfunction in Ebola virus disease survivors
|
Research Square (Research Square)
| 2,019
|
cc-by
| 5,882
|
Aurélie Wiedemann, Ph.D. Vaccine Research Institute, Université Paris-Est Créteil, Faculté de Médecine, INSERM U955, Team 16,
Créteil, France Research Institute, Université Paris-Est Créteil, Faculté de Médecine, INSERM U955, Team 16, Créteil,
France Hakim Hocini, Ph.D. Research Institute, Université Paris-Est Créteil, Faculté de Médecine, INSERM U955, Team 16, Créteil,
France Cécile Lefebvre, M.Sc. Research Institute, Université Paris-Est Créteil, Faculté de Médecine, INSERM U955, Team 16, Créteil,
France Alpha Kabinet Keita, Ph.D. TransVIHMI, IRD UMI 233, INSERM U1175, Montpellier University, France; CERFIG, Gamal Nasser
University, Conakry, Guinea Ahidjo Ayouba, Ph.D. TransVIHMI, IRD UMI 233, INSERM U1175, Montpellier University, France Stéphane Mély, M.Sc. Laboratoire P4 Inserm-Jean Mérieux, US003 INSERM, Lyon, France Stéphane Mély, M.Sc. Laboratoire P4 Inserm-Jean Mérieux, US003 INSERM, Lyon, France José-Carlos Fernandez, M.Sc. Vaccine Research Institute, Université Paris-Est Créteil, Faculté de Médecine, INSERM U955, Team 16,
Créteil, France Abdoulaye Touré, Ph.D. Abdoulaye Touré, Ph.D. Abdoulaye Touré, Ph.D. TransVIHMI, IRD UMI 233, INSERM U1175, Montpellier University, France; CERFIG, Gamal Nasser
University, Conakry, Guinea; Pôle de Recherche Clinique (PRC), INSERM, Paris, France Claire Lévy-Marchal, M.D. Pôle de Recherche Clinique (PRC), INSERM, Paris, France Claire Lévy-Marchal, M.D. Pôle de Recherche Clinique (PRC), INSERM, Paris, France Claire Lévy-Marchal, M.D. Pôle de Recherche Clinique (PRC), INSERM, Paris, France Hervé Raoul, Ph.D. Laboratoire P4 Inserm-Jean Mérieux, US003 INSERM, Lyon, France Hervé Raoul, Ph.D. Laboratoire P4 Inserm-Jean Mérieux, US003 INSERM, Lyon, France Eric Delaporte, M.D. TransVIHMI, IRD UMI 233, INSERM U1175, Montpellier University, France Eric Delaporte, M.D. TransVIHMI, IRD UMI 233, INSERM U1175, Montpellier University, France Lamine Koivogui, Ph.D. Institut National de Santé Publique (INSP), Conakry, Guinea P
1/17
Lamine Koivogui, Ph.D. Institut National de Santé Publique (INSP), Conakry, Guinea Lamine Koivogui, Ph.D. Institut National de Santé Publique (INSP), Conakry, Guinea Christine Lacabaratz, Ph.D. Vaccine Research Institute, Université Paris-Est Créteil, Faculté de Médecine, INSERM U955, Team 16,
Créteil, France
Yves Lévy, M.D. (
yves.levy@aphp.fr
)
Vaccine Research Institute, Université Paris-Est Créteil, Faculté de Médecine, INSERM U955, Team 16,
Créteil, France
Research Article
Keywords: immunological dysfunction, Ebola, biomarkers of inflammation, immune activation, gut tissue
damage
Posted Date: September 27th, 2019
DOI: https://doi.org/10.21203/rs.2.15530/v1
License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Read Full License
Version of Record: A version of this preprint was published on July 24th, 2020. See the published version
at https://doi.org/10.1038/s41467-020-17489-7. Research Article Version of Record: A version of this preprint was published on July 24th, 2020. See the published version
at https://doi.org/10.1038/s41467-020-17489-7. Page 2/17 Abstract Clinical follow-up of Ebola virus disease (EVD) survivors revealed a persistence of clinical symptoms and
higher risk of mortality. Long-term analyses of the immune and inflammatory profiles of EVD survivors
are currently lacking. Here, we evaluate immune profile status and gene expression profiles in 35 Guinean
EVD survivors (EBOV_S) from the last West African outbreak, a median of 23 months (IQR [18-25]) after
discharge from the Ebola treatment center. We show a persistent increase of several biomarkers of
inflammation, immune activation and gut tissue damage in EBOV_S compared to healthy donors living in
the same area. These results are confirmed by phenotypic characterization of immune cell subsets
revealing increases in activation marker expression and the frequencies of CD8+ T cells, exhausted B
cells, non-classical NK cells and circulating dendritic cells. All survivors have EBOV-specific IgG
antibodies and robust and polyfunctional EBOV-specific memory T-cell responses. Deep sequencing
studies of the genes expressed in blood revealed a significant enrichment in genes associated with
antiviral responses in EBOV_S. This study assess the long-term persistence of immunological dysfunction in survivors and identify a set
of biological and genetic markers that could be used to define a signature of “chronic Ebola virus disease
(CEVD)”. Introduction In the 2013–2016 West African outbreak, Ebola virus infected more than 28,000 people, causing 11,310
deaths by May 11, 2016, in six countries (Sierra Leone, Liberia, Guinea, Mali, Nigeria, and Senegal) 1,2. In
the most affected countries, unprecedented follow-up of large numbers of Ebola Virus disease (EVD)
survivors has revealed long-term clinical sequelae. These observations raise questions about the
pathophysiology of EVD, the risk of virus re-emergence and patient clinical care and treatment of EVD 3,4. Two large cohorts of survivors from the West African outbreak have been reported 3–5. Their clinical
follow-up revealed symptom persistence more than one year after acute EVD (Prevail III cohort) or
discharge from the Ebola treatment center (ETC) (Postebogui cohort). The clinical symptoms recorded
during follow-up were predominantly general symptoms, musculoskeletal pain, neurocognitive and ocular
disorders. The incidence of several new systemic symptoms was higher in survivors than in controls over six to 12
months of follow-up in the Prevail III cohort 4. Symptom prevalence decreased overall, but the incidence
of uveitis was significantly higher in survivors than in seronegative contacts. In the Postebogui cohort, long-term follow-up of 802 survivors of the Guinea outbreak provided a
temporal description of clinical incidence through the reporting of clinical events up to 600 days post-ETC
discharge 3. The frequencies of all clinical symptoms except ocular disorders decreased. Surprisingly, at
inclusion, many patients presented symptoms similar to those experienced during acute-phase infection, Page 3/17 Page 3/17 suggesting the persistence or recurrence of a pathogenic process. These studies, and smaller previous
case series 6–9, have refined definitions of the clinical spectrum of post-EVD sequelae. suggesting the persistence or recurrence of a pathogenic process. These studies, and smaller previous
case series 6–9, have refined definitions of the clinical spectrum of post-EVD sequelae. The symptoms and clinical findings reported for EVD survivors resemble those of chronic post-infectious
and/or immune dysfunction diseases. Several hypotheses concerning EVD pathogenesis have been
proposed based on the persistence or increase in incidence of clinical disorders long after acute Ebola
infection 10. The immune responses of EVD patients have been reported during acute-phase infection or soon after the
resolution of infection 11–17. These studies identified immune signatures associated with death from EVD
rather than survival. Fatal EVD was characterized by high inflammatory marker levels and a high viral
load 12,16,17. Conversely, survivors had significantly lower levels of inflammation 15 and robust EBOV-
specific T-cell responses 12. Participants We enrolled a subgroup of post-EVD survivors from the Postebogui cohort in this ancillary immunological
study. The design of the Postebogui cohort and patient characteristics have been described
elsewhere3,5,18. Eligible patients with laboratory-confirmed EVD subsequently declared virus-free were
recruited at the ETCs in Guinea between March 2015 and July 2016. All patients gave immunological
study-specific written informed consent. Healthy volunteers enrolled in the PREVAC (Partnership for
Research on Ebola Vaccination) vaccine trial Guinean center agreeing to participate in the immunological
evaluation were included, at baseline, as controls. Whole blood, peripheral blood mononuclear cells
(PBMC) and serum samples were collected and stored on site. The study protocols were approved by the
Research Committee of the National Ebola Response Coordination and the National Ethics and Health
Research Committee in Guinea and ethics committees in France (INSERM/CEEI, IRD/CCDE). Introduction Persistent immune activation and weak CD8+ EBOV–specific T-cell responses
were detectable for up to 46 days after viral clearance from plasma13. In this study, we took advantage of the long-term follow-up of EVD survivors (EBOV_S), for detailed
analyses of inflammatory, immune functional and phenotypic characteristics and gene expression
patterns, up to two years after acute EVD. Comparing these profiles with those of non-infected healthy
donors (HD), we found that EVD survivors continued to display severe abnormalities of immune function
and persistent EBOV-associated immune activation. Characterization of EBOV-specific immune responses Cellular responses to EBOV peptides were assessed with EpiMax technology 22. Briefly, PBMC were
stimulated in vitro with 158 overlapping 15-mer peptides (11-amino acid overlaps), covering the Ebola
virus Mayinga variant GP, in two pools of 77 (EBOV1) and 81 peptides (EBOV2) (JPT Technologies). Cell
functionality was assessed by intracellular cytokine staining (ICS), with Boolean gating (Fig. 1A,
supplementary appendix). The flow cytometry panel included a viability marker, CD3, CD4 and CD8 to
determine T-cell lineage, and CD107a, IFN-γ, TNF-α, MIP–1β and IL–2 antibodies. Distributions were
plotted with SPICE version 5.22, downloaded from http://exon.niaid.nih.gov/spice 23. Cell phenotyping Immune phenotyping was performed with an LSRII Fortessa 4-laser (488, 640, 561 and 405 nm) flow
cytometer (BD Biosciences), and FlowJo software version 9.9.6 (Tree Star Inc.) The antibodies used are
described in the supplementary appendix. CD4+ and CD8+ T cells were analyzed for CD45RA and CCR7
expression, to identify the naive, memory and effector cell subsets, and for co-expression of the activation
markers HLA-DR and CD38. CD19+ B-cell subsets were analyzed for the CD21 and CD27 markers. Antibody-secreting cells (ASC, plasmablasts) were identified as CD19+ cells expressing CD38 and CD27. We used CD16 and CD56 to identify NK cell subsets. HLA-DR, CD33, CD45RA, CD123, CD141 and CD1c
were used to identify dendritic cell (DC) subsets, as previously described. 21 Blood EBOV-RNA and serum EBOV antibody determinations The Real-Star Filovirus Screen RT-PCR kit 1.0 (Altona Diagnostics GmbH, Hamburg, Germany) was used
to test for EBOV RNA at the European West African Mobile Laboratory (EuWamlab) or the Institut National
de Sante Publique (INSP) in Conakry. EBOV-specific IgG was quantified in Luminex assays, as previously Page 4/17 Page 4/17 described 19. Samples were considered positive for IgG against EBOV if they reacted simultaneously and
repeatedly with nucleoprotein (NP) and glycoprotein (GP) or NP ± viral protein (VP40) + GP (weakly
positive: 200 to 399 MFI) 20. Quantification of serum analytes We quantified 29 analytes (see supplementary appendix) in serum samples with the Human XL Cyt Disc
Premixed Mag Luminex Perf Assay Kit, Human Magnetic Luminex Assay kits and Human Quantikine
ELISA kits (R&D Systems). Participants We enrolled 35 EBOV_S, with a median age of 30 years (interquartile range (IQR): 25–36) in this study. Median [IQR] time between ETC discharge and enrollment was 23 months [19–25]. No EBOV RNA was
detectable in the blood at time of sampling. The enrolled subjects received only supportive care (no
experimental drugs, no convalescent plasma) during the acute phase of EBOV infection and were
seronegative for HIV, HCV and HBV. On inclusion in Postebogui cohort, 23 of the 35 patients (66%) had
post-EVD symptoms similar to those for the whole cohort 3 (Table 1). The median mean fluorescence
intensity (MFI) [IQR] of EBOV-specific antibodies was 3341 [1365–7154], 930 [548–1621], 640 [413–919],
and 1288 [649–2328] against NP, GP-Kissidougou, GP-Mayinga, and VP40, respectively. By contrast, none
of the serum samples from HD tested positive for these antibodies (Fig. 2, supplementary appendix). Thus, 23 months after EVD infection, EBOV_S had EBOV-specific IgG. RNA isolation and mRNA sequencing Total RNA was purified from whole blood with the Tempus™ Spin RNA Isolation Kit (Invitrogen). Gene
expression profiles were analyzed by mRNA sequencing (see supplementary appendix). Only genes with
adjusted P-values (FDR) ≤ 0.05 and a fold-change in expression ≥1.5 were considered to be differentially
expressed. The differentially expressed genes were subjected to functional enrichment analysis with
Ingenuity Pathway software. Page 5/17 Page 5/17 Statistical analysis Graphpad Prism software version 6 was used for nonparametric statistics and plots, as described in the
figure legends. Cellular phenotype Cell phenotyping on blood from survivors (representative data, Fig. 3 in supplementary appendix) showed
a higher frequency of total CD8+ T cells among CD3+ cells (P = 0.0004) and higher levels of activated
CD8+ T cells (CD8+HLADR+CD38+) (P = 0.01) than in controls (Fig. 2A). Total CD19+ B-cell frequency was
similar in the two groups, as was the frequency of plasmablasts (data not shown) but the frequencies of
activated memory and exhausted B cells were higher in EBOV_S (P = 0.006 and P<0.0001, respectively)
(Fig. 2B). There was a trend towards lower total NK cell frequencies in EBOV_S, but the activation marker
NKG2D was significantly downregulated relative to controls (P = 0.004). Moreover, the frequency of non-
classical CD56-CD16+ NK cells remained high in EBOV_S (P<0.0001) (Fig. 2C). Blood analysis revealed a
severe deficit of total DCs (HLA-DR+, Lin-) (P = 0.01), mostly due to a deficit of plasmacytoid DC (pDC)
(HLADR+/Lin-/CD45RA+/CD123+) (P = 0.006), whereas conventional DC (cDC) levels remained in the
normal range. Higher levels of expression were observed for the activation marker CD40 in both cDC (P =
0.02) and pDC (P = 0.02), with higher levels of HLA–ABC expression in pDC (P = 0.02) (Fig. 2D). EBOV-specific cellular responses A high frequency of functional CD4+ and CD8+ T cells producing cytokines in response to various EBOV
peptides was detected in survivors. Median frequencies [IQR] of CD4+ and CD8+ cytokine+ specific T cells
were 4.89% [1.93–11.2] and 12.4% [8.9–25.9], respectively, for the EBOV1 peptide pool and 5.18% [3.4–
12.6] and 11.8% [5.1–19], respectively, for the EBOV2 peptide pool (P<0.0001 for all comparisons to non-
stimulated conditions) (Fig. 3A). EBOV stimulation elicited IFN-γ+, TNF-α+, MIP–1β+ and IL–2+ CD4+ T
cells (P<0.0001, for each cytokine) and IFN-γ+, TNF-α+, MIP–1β+ CD8+ T cells (P<0.0001 for each
cytokine) (Supplementary Fig. 1B). EBOV-specific CD8+ T cell expressing the cytotoxicity markers CD107a
and IFN-γ after peptide stimulation were also detected at high frequency (P<0.0001, for all stimulation
conditions) (Fig. 3B). A large proportion of the EBOV-specific CD4+ and CD8+ T cells were polyfunctional,
producing up to four cytokines simultaneously (Fig. 3C). Serum proteins Eleven of the 29 soluble mediators quantified in serum were present at significantly higher levels in
EBOV_S than in controls. Median [IQR] pro-inflammatory cytokine concentrations were 33 pg/ml [15.9–
118.9] vs. 14 pg/ml [9.8–21.6] (P = 0.001) for IL–8 and 16.5 pg/ml [11–28] vs. 12.6 pg/ml [9.3–16.4] for
TNFα (P = 0.015). For the anti-inflammatory cytokine IL–1RA, median [IQR] concentrations were 433.8
pg/ml [315–657] vs. 327.9 pg/ml [221–419] (P = 0.0004) (Fig.1A). The T-cell function markers sCD40L
and CCL5 were also present at significantly higher levels in survivors than in HD (P = 0.0002 and P =
0.005, respectively) (Fig. 1B). The persistence of markers of chronic activation in the blood of survivors suggested possible microbial
translocation from a leaky gut, as described in other chronic infectious diseases 24,25. Survivors had
significantly higher levels of soluble CD14 (P<0.0001), lipopolysaccharide binding protein (LBP) (P =
0.007), fatty acid binding protein (iFABP), a marker of gut epithelial damage (P = 0.006) and soluble
CD163, a specific marker of monocyte/macrophage activation, (P = 0.014) (Fig. 1C). Consistently,
epidermal growth factor (EGF), a secreted gastric protection protein 26 was also present at higher levels in
EBOV_S than in HD: 483.6 pg/ml [356–665] vs. 282.6 pg/ml [230–388] (P <0.0001). The EGF-like
molecule, amphiregulin (AREG), was also present at higher levels in EBOV_S: 8.4 pg/ml [6.2–13.8] vs. 5.45 pg/ml [4–7.7]; (P = 0.001) (Fig. 1C). Page 6/17 Page 6/17 Discussion The 2013-2016 Ebola outbreak in West Africa revealed how little was known about the pathogenicity of
this virus and markers predictive of its clinical outcome. Several studies have investigated the acute
phase of infection in EVD patients, or the period shortly after viral clearance. By contrast, we studied long-
term survivors of the recent outbreak in Guinea. By comparing these survivors with a cohort of volunteers
who had not had EVD and lived in the same areas, we were able to identify a profile specific to survivors. Our results, obtained with a large array of assays, highlight the existence of a consistent, intense chronic
immune activation and inflammatory profile in survivors. Up to two years after healing and discharge
from the ETC, survivors have persistently high serum levels of pro-inflammatory cytokines (IL-8 and TNF-
α) and chronic immune activation markers (CCL5 and sCD40L). Consistent with these observations, an
abnormal expression of activation markers was observed on circulating dendritic cells, and the balance
of immune cells was shifted towards circulating activated CD8+ T cells, exhausted B cells and non-
classical NK cells, a population reported to be abundant in other chronic viral infections 27,28 and in
patients with acute EVD who subsequently survived 29. Finally, deep sequencing analyses of gene
expression in the blood showed a significant enrichment in the expression of genes associated with IFN
signaling, complement, pattern recognition receptor and acute-phase response signaling. Previous
studies have reported similar profiles for patients with acute EVD 14,30. It has been suggested that survivors have a profile of weaker inflammation, and less intense cytokine and
chemokine “storms” than fatal cases, in whom these abnormalities are correlated with viral replication
and tend to increase until death. Our data extend these findings, by showing that the long-term
persistence of these abnormalities, in the absence of detectable viral replication, may be a signature of a
“chronic Ebola virus disease (CEVD)”, and shedding light on its pathophysiology. Clinically, the production of a damage-associated molecular pattern (DAMP) during acute EVD was
thought to be associated with tissue damage leading to a pathogenic activation cascade and, ultimately,
to a clinical syndrome resembling septic shock 17. Gene expression profiles An analysis of whole-blood gene expression profiles (26 EBOV_S and 33 HD) revealed differential
expression for 559 annotated genes (112 upregulated and 447 downregulated in survivors) defining the
cluster of survivors (Figure 4A). The differentially expressed genes characteristic of survivors included
genes involved in immune responses: acute-phase response signaling, interferon signaling, the
complement system, phagosome formation and pattern recognition receptors (PRR) (Figure 4B). EBOV_S
displayed a clear upregulation of genes relating to the antiviral response involving IFN signaling (IFIT1,
IFI6, IFIT3, ISG15, OAS1, IFITM3 and MX1),, the complement system (C4BPA, SERPING1, C1QC, C1QB,
C1QA) and pattern recognition receptor (PRR) (C1QA, C1QB, C1QC, IL10, OAS1, OAS3, PRKD1) signaling
pathways (Figure 4C). Page 7/17 Page 7/17 Discussion We did not perform gut biopsies on these survivors, for
practical reasons, but our results show that the chronic activation profile in CEVD is associated with high
blood levels of markers of intestinal permeability and microbial translocation from a leaky gut (sCD14,
iFABP, LBP, sCD163). Acute EVD is characterized by severe gastrointestinal symptoms 31,32. Our data
suggest there may be substantial long-term gut damage, resulting in structural impairment of the
epithelial barrier, as reported in several other chronic infectious diseases 24,25. Consistently, levels of EGF,
which is present at higher levels during the acute phase of EVD in individuals who survive than in those
who die 15 and AREG, which restores tissue integrity following inflammation-associated damage 33,
remained higher in EVD survivors than HD. Identifying the immune responses associated with protection against Ebola infection or survival is
crucial. The development of strong T-cell responses during acute infection has been shown to be
important for viral clearance and survival, whereas B-cell responses seem to be less efficient with very Page 8/17 few potent B-cell clones 12,34. However, data remain scarce for humans. We show here that survivors
display strong, robust polyfunctional memory T-cell responses to various Ebola epitopes. The antiviral
functional capacity of these cells was not studied, but the phenotype of CD8+ T cells after in vitro
stimulation (strong cytotoxicity marker expression) suggested that they remained cytotoxic. We were
unable to study the progression of these responses longitudinally, but the high frequency of these cells
two years after viral clearance is intriguing. Survivors also maintained strong specific IgG responses
against various Ebola proteins, confirming previous studies from precedent outbreaks 35,36 . These data
and the recent demonstration of a change in IgG isotype during maturation of the anti-Ebola IgG
repertoire in four survivors 37 suggest that specific anti-Ebola responses change over time, consistent with
possible persistent exposure to viral proteins captured at immunological sites or localized smoldering
viral replication at sites of immune privilege (testes, eyes, central nervous system) 38-40. The ability of
these responses to protect against secondary infection or control residual replication, thereby containing
viral reservoirs, is unknown, but would have major implications for vaccine development. Ebola disease remains a public threat. The mobilization of national and international organizations,
community health workers and patients, civil society and policy makers is crucial to contain epidemic
spread and decrease mortality. Acknowledgments We thank The French Task Force against Ebola, INSERM and IRD for institutional support, the Postebogui
team for their daily work and the survivors. We thank Aminata Diallo, head of the immunology laboratory
at Institut National de Santé Publique and Nathan Peiffer-Smadja and Maxime Schvartz for their help
setting up a laboratory in Conakry. Author Contributions YL, CL and AW conceived and designed the study. AKK, SM, J-CF, AT, HR, ED, CL-M, LK participated in
sample collection. EF, CLe and AA performed experiments and analyzed data. AW, HH, CLe, YL and AA
analyzed and interpreted data. AW and YL drafted the first version and wrote the final version of the
manuscript. All authors approved the final version. Discussion Survivors of the 2013-2016 epidemic in West Africa and the current
outbreak in the Democratic Republic of Congo (“les vainqueurs d’Ebola”) are at risk of developing a
profile of severe immune dysfunction and increased morbidity that we propose to call “CEVD”. Our data
provide a set of biological and genetic markers for assessing clinical outcomes and highlight the
importance of developing such leading-edge studies despite limited infrastructures in an epidemic
context and the need for resources for the long-term follow-up of survivors. Conflict of interest statement Page 9/17 None of the authors has any conflict of interest to declare. None of the authors has any conflict of interest to declare. None of the authors has any conflict of interest to declare. Funding statement This work was supported by INSERM and by the Investissements d’Avenir program, Vaccine Research
Institute (VRI), managed by the ANR under reference ANR–10-LABX–77–01 This work was supported by INSERM and by the Investissements d’Avenir program, Vaccine Research
Institute (VRI), managed by the ANR under reference ANR–10-LABX–77–01 References 1WHO. Ebola data and Statistics. Situation summary. May 11,2016,
<http://apps.who.int/gho/data/view.ebola-sitrep.ebola-summary–20160511?lang = en> (
2Baize S et al Emergence of Zaire Ebola virus disease in Guinea N Engl J Med 371 1418–1425 1WHO. Ebola data and Statistics. Situation summary. May 11,2016,
htt //
h
i t/ h /d t / i
b l
it
b l
201 1WHO. Ebola data and Statistics. Situation summary. May 11,2016,
<http://apps.who.int/gho/data/view.ebola-sitrep.ebola-summary–20 1WHO. Ebola data and Statistics. Situation summary. May 11,2016,
<http://apps.who.int/gho/data/view.ebola-sitrep.ebola-summary–20160511?lang = en> ( 2Baize, S. et al. Emergence of Zaire Ebola virus disease in Guinea. N Engl J Med 371, 1418–1425,
doi:10.1056/NEJMoa1404505 (2014). 3Etard, J.-F. et al. Multidisciplinary assessment of post-Ebola sequelae in Guinea (Postebogui): an
observational cohort study. The Lancet Infectious Diseases 17, 545–552, doi:10.1016/s1473–
3099(16)30516–3 (2017). 4Group, P. I. S. et al. A Longitudinal Study of Ebola Sequelae in Liberia. N Engl J Med 380, 924–934,
doi:10.1056/NEJMoa1805435 (2019). 5Msellati, P. et al. [Revival after Ebola: multidisciplinary assessment at 1 year, prospect and follow-up
study of surviving patients from Ebola in Guinea (PostEboGui cohort)]. Bull Soc Pathol Exot 109, 236–
243, doi:10.1007/s13149–016–0526-x (2016). 6Bwaka, M. A. et al. Ebola hemorrhagic fever in Kikwit, Democratic Republic of the Congo: clinical
observations in 103 patients. J Infect Dis 179 Suppl 1, S1–7, doi:10.1086/514308 (1999). 7Kibadi, K. et al. Late ophthalmologic manifestations in survivors of the 1995 Ebola virus epidemic in
Kikwit, Democratic Republic of the Congo. J Infect Dis 179 Suppl 1, S13–14, doi:10.1086/514288 (1999). 8Rodriguez, L. L. et al. Persistence and genetic stability of Ebola virus during the outbreak in Kikwit,
Democratic Republic of the Congo, 1995. J Infect Dis 179 Suppl 1, S170–176, doi:10.1086/514291
(1999). 9Rowe, A. K. et al. Clinical, virologic, and immunologic follow-up of convalescent Ebola hemorrhagic fever
patients and their household contacts, Kikwit, Democratic Republic of the Congo. Commission de Lutte
contre les Epidemies a Kikwit. J Infect Dis 179 Suppl 1, S28–35, doi:10.1086/514318 (1999). 10Mattia, J. G. et al. Early clinical sequelae of Ebola virus disease in Sierra Leone: a cross-sectional study. The Lancet Infectious Diseases 16, 331–338, doi:10.1016/s1473–3099(15)00489–2 (2016). 10Mattia, J. G. et al. Early clinical sequelae of Ebola virus disease in Sierra Leone: a cross-sectional study. The Lancet Infectious Diseases 16, 331–338, doi:10.1016/s1473–3099(15)00489–2 (2016). Page 10/17 Page 10/17 11McElroy, A. K. et al. Human Ebola virus infection results in substantial immune activation. Proc Natl
Acad Sci U S A 112, 4719–4724, doi:10.1073/pnas.1502619112 (2015). 12Ruibal, P. et al. References Unique human immune signature of Ebola virus disease in Guinea. Nature 533, 100–
104, doi:10.1038/nature17949 (2016). 13Dahlke, C. et al. Comprehensive Characterization of Cellular Immune Responses Following Ebola Virus
Infection. J Infect Dis 215, 287–292, doi:10.1093/infdis/jiw508 (2017). 14Kash, J. C. et al. Longitudinal peripheral blood transcriptional analysis of a patient with severe Ebola
virus disease. Sci Transl Med 9, doi:10.1126/scitranslmed.aai9321 (2017). 15Kerber, R. et al. Kinetics of Soluble Mediators of the Host Response in Ebola Virus Disease. J Infect Dis
218, S496-S503, doi:10.1093/infdis/jiy429 (2018). 16Colavita, F. et al. Inflammatory and Humoral Immune Response during Ebola Virus Infection in Survivor
and Fatal Cases Occurred in Sierra Leone during the 2014(-)2016 Outbreak in West Africa. Viruses 11,
doi:10.3390/v11040373 (2019). 17Reynard, S. et al. Immune parameters and outcomes during Ebola virus disease. JCI Insight 4,
doi:10.1172/jci.insight.125106 (2019). 18Sow, M. S. et al. New Evidence of Long-lasting Persistence of Ebola Virus Genetic Material in Semen of
Survivors. J Infect Dis 214, 1475–1476, doi:10.1093/infdis/jiw078 (2016). 19Ayouba, A. et al. Development of a Sensitive and Specific Serological Assay Based on Luminex
Technology for Detection of Antibodies to Zaire Ebola Virus. J Clin Microbiol 55, 165–176,
doi:10.1128/JCM.01979–16 (2017). 20Keita, A. K. et al. Serological Evidence of Ebola Virus Infection in Rural Guinea before the 2014 West
African Epidemic Outbreak. Am J Trop Med Hyg 99, 425–427, doi:10.4269/ajtmh.18–0105 (2018). 21See, P. et al. Mapping the human DC lineage through the integration of high-dimensional techniques. Science 356, doi:10.1126/science.aag3009 (2017). 22Chujo, D. et al. ZnT8-Specific CD4+ T cells display distinct cytokine expression profiles between type 1
diabetes patients and healthy adults. PLoS One 8, e55595, doi:10.1371/journal.pone.0055595 (2013). 22Chujo, D. et al. ZnT8-Specific CD4+ T cells display distinct cytokine expression profiles between type 1
diabetes patients and healthy adults. PLoS One 8, e55595, doi:10.1371/journal.pone.0055595 (2013). 23Roederer, M., Nozzi, J. L. & Nason, M. C. SPICE: exploration and analysis of post-cytometric complex
multivariate datasets. Cytometry A 79, 167–174, doi:10.1002/cyto.a.21015 (2011). 23Roederer, M., Nozzi, J. L. & Nason, M. C. SPICE: exploration and analysis of post-cytometric complex
multivariate datasets. Cytometry A 79, 167–174, doi:10.1002/cyto.a.21015 (2011). 24Caradonna, L. et al. Biological and clinical significance of endotoxemia in the course of hepatitis C
virus infection. Curr Pharm Des 8, 995–1005 (2002). Page 11/17 25Brenchley, J. M. & Douek, D.C. The mucosal barrier and immune activation in HIV pathogenesis. Curr
Opin HIV AIDS 3, 356–361, doi:10.1097/COH.0b013e3282f9ae9c (2008). 26Olsen, P. S. References Clin Infect Dis 63, 1353–1356,
doi:10.1093/cid/ciw601 (2016). 40Deen, G. F. et al. Ebola RNA Persistence in Semen of Ebola Virus Disease Survivors - Final Report. N
Engl J Med 377, 1428–1437, doi:10.1056/NEJMoa1511410 (2017). 40Deen, G. F. et al. Ebola RNA Persistence in Semen of Ebola Virus Disease Survivors - Final Report. N
Engl J Med 377, 1428–1437, doi:10.1056/NEJMoa1511410 (2017). Table 1: Characteristics of survivors (EBOV_S) and healthy donors (HD) *Blood samples were taken from patients enrolled in the Postebogui cohort. Before PBMC and serum
freezing, EBOV RT-PCR was performed on each sample to exclude the presence of EBOV in the blood. ¥
Symptoms and findings on physical examination for the EBOV_S on inclusion in the Postebogui cohort. Table 1 Table 1
HD
EBOV_S
No. of subjects
39
35
Median Age (yr)
25 [21-36]30 [25-36]
Sex (male)
31 (80%) 19 (54%)
Median time from ETC discharge to inclusion (months) N/A
23 [19-25]
EBOV RT PCR *
N/A
Negative (100%)
Clinical events
Joint pain
N/A
14 (40%)
Fatigue
N/A
12 (34%)
Ocular disorders
N/A
6 (17%)
Headache
N/A
6 (17%)
Muscle pain
N/A
5 (14.3%)
Fever
N/A
4 (11.4%)
Abdominal pain
N/A
2 (5.7%)
Anorexia
N/A
1 (2.8%)
Table 1: Characteristics of survivors (EBOV_S) and healthy donors (HD)
*Blood samples were taken from patients enrolled in the Postebogui cohort. Before PBMC and serum
freezing, EBOV RT-PCR was performed on each sample to exclude the presence of EBOV in the blood. ¥
Symptoms and findings on physical examination for the EBOV_S on inclusion in the Postebogui cohort. Figures
¥ HD
EBOV_S
No. of subjects
39
35
Median Age (yr)
25 [21-36]30 [25-36]
Sex (male)
31 (80%) 19 (54%)
Median time from ETC discharge to inclusion (months) N/A
23 [19-25]
EBOV RT PCR *
N/A
Negative (100%)
Clinical events
Joint pain
N/A
14 (40%)
Fatigue
N/A
12 (34%)
Ocular disorders
N/A
6 (17%)
Headache
N/A
6 (17%)
Muscle pain
N/A
5 (14.3%)
Fever
N/A
4 (11.4%)
Abdominal pain
N/A
2 (5.7%)
Anorexia
N/A
1 (2.8%)
Table 1: Characteristics of survivors (EBOV S) and healthy donors (HD)
¥ References Role of Epidermal Growth-Factor in Gastroduodenal Mucosal Protection. Journal of Clinical
Gastroenterology 10, S146-S151, doi:Doi 10.1097/00004836–198812001–00022 (1988). 27Gonzalez, V. D. et al. Expansion of functionally skewed CD56-negative NK cells in chronic hepatitis C
virus infection: correlation with outcome of pegylated IFN-alpha and ribavirin treatment. J Immunol 183,
6612–6618, doi:10.4049/jimmunol.0901437 (2009). 28Milush, J. M. et al. CD56negCD16(+) NK cells are activated mature NK cells with impaired effector
function during HIV–1 infection. Retrovirology 10, 158, doi:10.1186/1742–4690–10–158 (2013). 29Cimini, E. et al. Different features of Vdelta2 T and NK cells in fatal and non-fatal human Ebola
infections. PLoS Negl Trop Dis 11, e0005645, doi:10.1371/journal.pntd.0005645 (2017). 30Liu, X. et al. Transcriptomic signatures differentiate survival from fatal outcomes in humans infected
with Ebola virus. Genome Biol 18, 4, doi:10.1186/s13059–016–1137–3 (2017). 31Schieffelin, J. S. et al. Clinical illness and outcomes in patients with Ebola in Sierra Leone. N Engl J
Med 371, 2092–2100, doi:10.1056/NEJMoa1411680 (2014). 32Hunt, L. et al. Clinical presentation, biochemical, and haematological parameters and their association
with outcome in patients with Ebola virus disease: an observational cohort study. Lancet Infect Dis 15,
1292–1299, doi:10.1016/S1473–3099(15)00144–9 (2015). 33Monticelli, L. A. et al. IL–33 promotes an innate immune pathway of intestinal tissue protection
dependent on amphiregulin-EGFR interactions. Proc Natl Acad Sci U S A 112, 10762–10767,
doi:10.1073/pnas.1509070112 (2015). 34Williamson, L. E. et al. Early Human B Cell Response to Ebola Virus in Four U.S. Survivors of Infection. J Virol 93, doi:10.1128/JVI.01439–18 (2019). 35Rimoin, A. W. et al. Ebola Virus Neutralizing Antibodies Detectable in Survivors of theYambuku, Zaire
Outbreak 40 Years after Infection. J Infect Dis 217, 223–231, doi:10.1093/infdis/jix584 (2018). 36Sobarzo, A. et al. Profile and persistence of the virus-specific neutralizing humoral immune response in
human survivors of Sudan ebolavirus (Gulu). J Infect Dis 208, 299–309, doi:10.1093/infdis/jit162 (2013). 37Davis, C. W. et al. Longitudinal Analysis of the Human B Cell Response to Ebola Virus Infection. Cell
177, 1566–1582 e1517, doi:10.1016/j.cell.2019.04.036 (2019). 38Varkey, J. B. et al. Persistence of Ebola Virus in Ocular Fluid during Convalescence. N Engl J Med 372,
2423–2427, doi:10.1056/NEJMoa1500306 (2015). Page 12/17 Page 12/17 39Diallo, B. et al. Resurgence of Ebola Virus Disease in Guinea Linked to a Survivor With Virus
Persistence in Seminal Fluid for More Than 500 Days. Clin Infect Dis 63, 1353–1356,
doi:10.1093/cid/ciw601 (2016). 39Diallo, B. et al. Resurgence of Ebola Virus Disease in Guinea Linked to a Survivor With Virus
Persistence in Seminal Fluid for More Than 500 Days. Figures Page 13/17 Figure 1
: Quantification of serum soluble mediators differentially expressed in HD and EBOV_S. Measureme
serum soluble mediators (pg/ml) from n=39 HD and n=35 EBOV_S with the Bio-Plex 200 SystemTM
d) P
i fl
t
d
ti i fl
t
t ki
(A) M
k
f T
ll f
ti
(B) M
k Page 14/17
Figure 1
: Quantification of serum soluble mediators differentially expressed in HD and EBOV_S. Measureme
serum soluble mediators (pg/ml) from n=39 HD and n=35 EBOV_S with the Bio-Plex 200 SystemTM
rad). Pro-inflammatory and anti-inflammatory cytokines (A). Markers of T-cell function (B). Markers
gastric tissue integrity (C). The differences between HD and EBOV_S were evaluated in nonparamet
Mann-Whitney U tests. Median values ± IQR are shown. Figure 1 : Quantification of serum soluble mediators differentially expressed in HD and EBOV_S. Measurement of
serum soluble mediators (pg/ml) from n=39 HD and n=35 EBOV_S with the Bio-Plex 200 SystemTM (Bio-
rad). Pro-inflammatory and anti-inflammatory cytokines (A). Markers of T-cell function (B). Markers of
gastric tissue integrity (C). The differences between HD and EBOV_S were evaluated in nonparametric
Mann-Whitney U tests. Median values ± IQR are shown. Page 14/17 Page 14/17 Figure 2
PBMC phenotypic characterization in EBOV_S. Cumulative T-cell frequency and CD8 T-ce
analyses (A), B-cell subsets (B), NK cell subsets (C), dendritic cell subsets and activation
strategy is shown in supplementary Figure 3. The differences between HD and EBOV_S w
with nonparametric Mann-Whitney U tests. Median values ± IQR are shown. Figure 2
PBMC phenotypic characterization in EBOV_S. Cumulative T-cell frequency and CD8 T-cell activation
analyses (A), B-cell subsets (B), NK cell subsets (C), dendritic cell subsets and activation (D). DC gating
strategy is shown in supplementary Figure 3. The differences between HD and EBOV_S were evaluated
with nonparametric Mann-Whitney U tests. Median values ± IQR are shown. Figure 2 Figure 2 PBMC phenotypic characterization in EBOV_S. Cumulative T-cell frequency and CD8 T-cell activation
analyses (A), B-cell subsets (B), NK cell subsets (C), dendritic cell subsets and activation (D). DC gating
strategy is shown in supplementary Figure 3. The differences between HD and EBOV_S were evaluated
with nonparametric Mann-Whitney U tests. Median values ± IQR are shown. Page 15/17 Page 15/17 Page 15/17 Figure 3
Characterization of functional responses in EBOV_S. EBOV GP-specific CD4+ T-cell (left panel) and CD8+
T-cell (right panel) responses of EBOV_S (n=27) after nine days of EBOV GP-specific (EBOV1 and EBOV2
peptide pools) T-cell expansion in vitro (all cytokines) (A). Analysis of the co-expression of CD107a and
IFN-γ by EBOV GP-specific CD8 T cells from EBOV_S (n=27) after nine days of antigen-specific T-cell
expansion in vitro (B). Median values ± IQR are shown, and Friedman’s test was used for comparisons. Functional composition of EBOV GP-specific CD4+ and CD8+ T-cell responses (C). Responses are color-
coded according to the combinations of cytokines produced. The arcs identify cytokine-producing
subsets (IFN-γ, IL-2, MIP-1β, TNF-α) within the CD4+ and CD8+ T-cell populations. Figure 4 Whole-blood gene expression profiles of EBOV_S and HD. Unsupervised principal component analysis
(PCA) of EBOV_S (n=26) and HD (n=33). EBOV_S are indicated in red and HD in blue (A). Ingenuity
Pathway software analysis of the genes involved in immune responses differentially expressed in
EBOV_S and HD (B). Heatmap of genes from the main pathways associated with differentially expressed
genes in EBOV_S and HD, including IFN signaling, the complement system and PRR signaling pathways
(C). (C). Figure 3 Characterization of functional responses in EBOV_S. EBOV GP-specific CD4+ T-cell (left panel) and CD8+
T-cell (right panel) responses of EBOV_S (n=27) after nine days of EBOV GP-specific (EBOV1 and EBOV2
peptide pools) T-cell expansion in vitro (all cytokines) (A). Analysis of the co-expression of CD107a and
IFN-γ by EBOV GP-specific CD8 T cells from EBOV_S (n=27) after nine days of antigen-specific T-cell
expansion in vitro (B). Median values ± IQR are shown, and Friedman’s test was used for comparisons. Functional composition of EBOV GP-specific CD4+ and CD8+ T-cell responses (C). Responses are color-
coded according to the combinations of cytokines produced. The arcs identify cytokine-producing
subsets (IFN-γ, IL-2, MIP-1β, TNF-α) within the CD4+ and CD8+ T-cell populations. Page 16/17 Figure 4
Whole-blood gene expression profiles of EBOV_S and HD. Unsupervised principal component analysis
(PCA) of EBOV_S (n=26) and HD (n=33). EBOV_S are indicated in red and HD in blue (A). Ingenuity
Pathway software analysis of the genes involved in immune responses differentially expressed in
EBOV_S and HD (B). Heatmap of genes from the main pathways associated with differentially expressed
genes in EBOV_S and HD, including IFN signaling, the complement system and PRR signaling pathways
(C). Supplementary Files This is a list of supplementary files associated with this preprint. Click to download. supplementalfileLonglastingsevereimmunedysfunction.docx supplementalfileLonglastingsevereimmunedysfunction.docx supplementalfileLonglastingsevereimmunedysfunction.docx NatureResearchReportingSummary.pdf Page 17/17
|
https://openalex.org/W2295347646
|
http://www.jiem.org/index.php/jiem/article/download/1783/744
|
English
| null |
The measurement invariance of job diagnostic survey (JDS) across three university student groups
|
Journal of industrial engineering and management
| 2,016
|
cc-by
| 6,327
|
Journal of Industrial Engineering and Management
JIEM, 2016 – 9(1): 17-34 – Online ISSN: 2013-0953 – Print ISSN: 2013-8423
http://dx.doi.org/10.3926/jiem.1783 Journal of Industrial Engineering and Management
JIEM, 2016 – 9(1): 17-34 – Online ISSN: 2013-0953 – Print ISSN: 2013-8423
http://dx.doi.org/10.3926/jiem.1783 The Measurement Invariance of Job Diagnostic Survey (JDS) Across
Three University Student Groups 1Universitat Politècnica de Valencia, 2Facultad de Psicología, Universidad de Valencia (Spain) momargo@eio.upv.es, jamarin@omp.upv.es, marthaomeara@gmail.com Received: November 2015
Accepted: January 2016 Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 in the context of a Spanish university and the generalization to other questionnaire, or
population, should be proved with specific data. Furthermore, the sample size is rather small. in the context of a Spanish university and the generalization to other questionnaire, or
population, should be proved with specific data. Furthermore, the sample size is rather small. Originality/value: In the current process of change that is taking place in universities
according to the plan developed by the European Space of Higher Education, focused on
increasing the student skills, validate instruments as the satisfaction scale of JDS, are necessary
to evaluate students’ satisfaction with new active methodologies. These findings are useful for
researchers since they add the first sample in which the MI of a student’s satisfaction survey is
tested. Keywords: measurement equivalence, student's satisfaction and motivation, Job Diagnosis Survey,
multigroup confirmatory analysis, higher education, invariance Keywords: measurement equivalence, student's satisfaction and motivation, Job Diagnosis Survey,
multigroup confirmatory analysis, higher education, invariance Abstract: Purpose: The main purpose of this study is to apply a multigroup confirmatory analysis to
examine the measurement invariance (MI) of the adapted version of the Job Diagnosis Survey
(JDS) as a measurement tool that analyses the relationship between the features of teaching
methodologies with university students’ motivation and satisfaction across data collected on
different degrees and academic years. Design/methodology/approach: Confirmatory factor analysis was carried out using a
multigroup structural equation model, using the program EQS 6.1 to test the invariance of the
adapted version of JDS in a sample constituted by 535 student of a Spanish public university. The assessment of invariance included the levels of configural, metric, scalar, covariance and
latent variables invariance. Several goodness-of-fit measures were assessed. Findings: The results show that measurements are equivalent at the configural, metric,
covariance and latent factors invariance. Although the hypotheses of scalar invariance is
rejected, results suggest that JDS is partial strict invariant and has satisfactory psychometric
properties on all samples. Research limitations/implications: The sample is framed in university students aged
between 18 and 30 and for a questionnaire on teaching methodology and students’ satisfaction -17- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 This study is structured as follows. First, the theoretical framework of how to measure student
satisfaction. Second, the background of measurement equivalence (MI) of satisfaction
students’ surveys across different groups. Third, we present the research methodology and the
results obtained. Finally, this paper conclude with the main reflection of findings achieved in
our analysis, their limitations and recommendations for further research. This study is structured as follows. First, the theoretical framework of how to measure student
satisfaction. Second, the background of measurement equivalence (MI) of satisfaction
students’ surveys across different groups. Third, we present the research methodology and the
results obtained. Finally, this paper conclude with the main reflection of findings achieved in
our analysis, their limitations and recommendations for further research. 1. Introduction Student satisfaction is a concept that has become more prevalent in higher education, since it
is related to motivation, and to learning outcomes (Richardson, 2005). Satisfied students tend
to work harder in their educational activities (Tessema, Ready & Yu, 2012), to perform better
in these activities (Cotton, Dollard & Jonge, 2002), and to finish the academic year (Mason,
2012). Satisfaction has been widely investigated, both in academic and enterprise world (Alves &
Raposo, 2009; Van Saane, Sluiter, Verbeek & Frings-Dresen, 2003). It is a very complex
concept and, despite all the research around it, in education, there is not a clear definition in
order to measure it (García-Aracil, 2009; Tessema et al., 2012). In the last decades, it has been an increased interest about how to enlarge the level of
participation of the students in the process of learning. For that purpose, is necessary to
change traditional teaching towards a more active educational methodology where the
characteristics of the context of student learning are taken into account and be designed so,
that increases motivation and student satisfaction. Many universities have incorporated some
instruments to measure student satisfaction, however, little attention has been given to the
structure and psychometric properties of this satisfaction surveys. Only few studies have
validated students satisfaction surveys and none have evaluated the comparability of the
questionnaire across other cultures, languages or universities. The main purpose of this study is to apply a multigroup confirmatory analysis to examine the
measurement invariance (MI) of the Job Diagnostic Survey (JDS) adapted to teaching, which
incorporates items about teaching methodology and items about student’s motivation and
satisfaction, across data collected on different degrees and academic years. -18- 2.1. How to Measure Student Motivation and Satisfaction There are many and varied instruments to measure student satisfaction, however, Beltyukova
and Fox (2002) noted that all satisfaction instruments use different satisfaction subscales
determined by different items. Beltyukova and Fox (2002) further explained that there are
different instrument to evaluate student satisfaction but each one is related to a different
definition of this concept which is a frequent criticism on the researches. From a learning
perspective, satisfaction is related to student perceptions about characteristics of academic
activities, autonomy (Mason, 2012), relationship with the teacher, degree of customization of
the class, meeting goals and teamwork (Reinig, Horwitz & Whittenburg, 2011). Moreover,
several studies have investigated the factors related to student motivation and the influence in
their satisfaction (Adler, Milne & Stablein, 2001; Ames, 1992; Paris & Turner, 1994; Ünal &
Inan, 2010). Over the last few years, reflections on the analogy between the business and academic worlds
has been studied in various disciplines (i.e. Adler et al., 2001; Armstrong, 2003; Cotton et al.,
2002; DeShields, Kara & Kaynak, 2005; Donaldson, 2002; Freed, 2005; Martínez-Gómez &
Marín-García, 2009; O’Neil & Hopkins, 2002), especially in business management and
engineering. The identification of the need for improvement the job, working so that increase satisfaction
and motivation of employers is called in the business world redesign of jobs. The purpose is to
create a more motivating job by increasing the level of autonomy, significance, variety,
feedback, identity with the product or service carried out, and social contact (Hackman &
Oldham, 1980). One of the tools used to measure and guide the process of redesigning job
positions, is the model of the job characteristics of Hackman and Oldham (1975) and the
questionnaire derived from this model, the Job Diagnosis Survey (JDS). In the analogy between the business and academic worlds, we consider the teacher as a
leader, managing a group of people (French, 2006) and we can consider our subjects as
employees. The job designing is related to the teaching methodology and we can use tools that
are useful in business management to measure students motivation and satisfaction. In this -19- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 paper, we used the academic version of the global Job Diagnostic Survey (JDS), a validated
questionnaire (Martínez-Gómez & Marín-García, 2009), as a diagnosis tool of active
methodologies to measure students’ satisfaction. 2.3. Purpose and Contributions of Present Study The purpose of this study is to analyse MI of academic version of JDS when is completed by
students of different degrees and academic years. This study represents the first attempt to
investigate the MI of a student satisfaction survey. A progressive complete invariance was
developed, so the researchers can find the cause of failure of the structural parameter
considered in each stage (Elosua, 2005). Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Finally, other studies use samples of students to test the invariance across cross-cultures or
cross-nations. For example, Li, Saklofske, Bowden, Yan and Fung (2012), assessed the
measurement equivalence of the Wong & Law Emotional Intelligence Scale (WLEIS) with three
groups of Chinese university students. Finally, other studies use samples of students to test the invariance across cross-cultures or
cross-nations. For example, Li, Saklofske, Bowden, Yan and Fung (2012), assessed the
measurement equivalence of the Wong & Law Emotional Intelligence Scale (WLEIS) with three
groups of Chinese university students. We have been unable to locate any studies that have investigated MI of teaching evaluation
questionnaires across different career programmes. So, there is a lack of empirical studies that
have addressed MI issues concerning students’ satisfaction across multiple contexts. 3.1. Sample The total sample was constituted by 535 student of a Spanish public university. The first group
was from Faculty of Business Administration and Management (FBAM) from academic year
2008-2009 (N=205). The second group, was also from Faculty of Business Administration and
Management but from the academic year 2009-2010 (N=189). Finally, the third group was
from Faculty of Industrial Engineering (FIE) from academic year 2007-2008 (N=141). Dates of
all samples were from different subjects and different courses. Questionnaires were completed
as well in paper as web surveys. In a prior studied we established MI between both modes of
administering the questionnaire, so we can use them jointly. 2.2. Research on Measurement Invariance on Teaching’s Students Surveys A major task ahead is to establish whether the instruments to measure students’ satisfaction
are invariant across different situations and with different groups of people. Jöreskog (1971)
was the first to question the need to test equivalence between factor structures and
recommended that all equivalence tests began with a global analysis of the covariance
structures across groups. Byrne (1989) established the importance of assessing if means
across different groups were equivalent, but researchers seldom tested it. In the same line,
Elosua (2005) argues that the comparison between findings obtained with a test in different
contexts, can only be accepted if their formal and substantive equivalence is empirically
justified. A review of efforts to assess the invariance of measurement instruments across different
respondent groups using confirmatory factor analysis is provided for the years (Vandenberg &
Lance, 2000). Afterwards, Schmitt and Kuljanin (2008) developed a review to identify articles
that used CFA in assessing factor invariance but the issues addressed in those studies were
quite diverse. Nowadays, the most common way to assess MI is by a multigroup confirmatory factor analysis,
an aspect highly studied by Cheung and Rensvold (2002) and subsequently widened by
Cheung (2008) for second-order models. Few formal studies related to MI of satisfaction’s questionnaires have been conducted at the
moment and many of them are for test MI across different data collection modes. Leung and
Kember (2005), carried out a study of the program evaluation questionnaire from students of
Hong Kong university, in order to assess if the mode of administering the questionnaire had an
effect in the interpretation of the items. They concluded that there are not different between
both modes, with same scales reliability across samples, with same common factor structure
and, finally, that factor structure of the model is invariant, except in the case of factors
variance invariance. Later, Peinado, Chávez, Viciana and Rivero (2012) studied the
psychometric equivalence of the Self-Efficacy scale in Academic Behaviour (EACA) in health
sciences and social sciences students, revealing that metric invariance and strong factorial
invariance (across intercepts) was met. Klieger, Centra, Young, Holtzman and Kotloff (2014)
developed a review about students evaluation teachers surveys (SET) and the comparability of
the online and paper versions using the SIR II™ Student Instructional Report (SIR II) to
examine interrater reability between both surveys modes. -20- 3.2. Instrument We selected the validated scale of the Job Diagnostic Survey (JDS) in its academic version
(Martínez-Gómez, Marín-García & Girado-O’Meara, 2013) to examine MI across students of
different degrees and academic years. The JDS (Hackman & Oldham, 1975) is one of the main
tools to evaluate how stimulating a job position is (Fried, 1991; Griffin, 1991; De Treville &
Antonakis, 2006). Its adapted version is a tool to diagnose teaching methodologies in -21- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Figure 1. Model for the second-order factor model of teaching adapted version of JDS (Latent factor with
acronym in parentheses. “significance” (SIG); “variety” (VAR); IDE=identity; AUT=autonomy;
FB=feedback from the job itself; SFB=feedback from agents; SAT=Satisfaction. Items or observable
variable were reverse coded are denoted with SiPi) Figure 1. Model for the second-order factor model of teaching adapted version of JDS (Latent factor with
acronym in parentheses. “significance” (SIG); “variety” (VAR); IDE=identity; AUT=autonomy;
FB=feedback from the job itself; SFB=feedback from agents; SAT=Satisfaction. Items or observable
variable were reverse coded are denoted with SiPi) Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 university and includes a satisfaction single-item scale, the Motivating Potential Score (MPS)
and job characteristics scales (Figure 1). university and includes a satisfaction single-item scale, the Motivating Potential Score (MPS)
and job characteristics scales (Figure 1). Satisfaction with the students’ workplace is measured by a single item (Overall, I am very
satisfied with the course), with 7 levels of response, where higher values indicate greater
satisfaction with the course. The job characteristics are measured by six scales assessing the variety, identity, significance,
autonomy, feedback from the job itself and feedback from agents (Figure 1). The scales
contain 14 items measured in a seven-points Likert scale. The response scale is presented in
two ways: one, measured with three items with anchorage phrases in a graphic scale (items of
Section 1, S1). The second one, a phrase that they have to answer according to the level of
agreement or disagreement (items of section 2, S2). The sum of the 6 characteristics of the
job is the motivating potential score (MPS). Each of the items of the features of the teaching method is valued on a Likert scale with 7
levels of response (very inappropriate - very appropriate). -22- 3.3. Method of Analysis The first step in testing measurement invariance is to assess whether the factor structure of
the academic version of JDS can be replicated across different groups. A confirmatory factor
analysis (CFA) examined whether the second-order factor model of teaching adapted version of
JDS validated in previous studies, (Martínez-Gómez et al., 2013) with the total sample, can be
replicated in each of the three groups. Since the sample size is not very large and the 2 is
very sensible with respect to sample variations (Bentler & Bonett, 1980; Bollen & Long, 1993;
Browne & Cudek, 1993; Santos-Rego, Godás-Otero, Lorenzo-Moledo & Gómez Fraguela, 2010), -23- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 we have decided to include other additional indexes which compare discrepancies between the
baseline model and the proposed one. The goodness of fit index (GFI), the adjusted goodness
of fit index (AGFI) and the McDonald fit index (MFI) which show the relative amount of
variance and covariance, comparing the observed sample matrix and the reproduced one. For
a good fit, the GFI and the AGFI has to be above .85, the same as the comparative CFI. The
incremental fit index (IFI), the Bentler and Bonnet’s (1980) normed fit index and the
non-normed fit index (NNFI) by the same authors, compare the fit function of the null model
with the proposed model. For a good fit, they have to be above .90. The root mean square
error of approximation (RMSEA) measures the discrepancy between expected and observed
covariance matrix and values have to be below .08 (Ullman & Bentler, 2004). The next step is to assess MI across groups. The invariance testing process involves several
steps of increasingly restrictive measurement assumptions to evaluate the significance of the
decrement of these indexes for each of the more constrained model (Byrne & Stewart, 2006;
French & Finch, 2008; Millsap & Yun-Tien, 2004; Vandenberg & Lance, 2000; Widaman &
Reise, 1997). We applied the multistep process suggested by Steemkamp and Buamgarther
(1998). We employed multigroup confirmatory factor analysis (MGCFA) using the programme EQS 6.1
and robust maximum likelihood estimation. As goodness of fit indexes, we used the
Sattora-Bentler scaled chi-square adjusted to nonnormality (SB2) with robust standard errors
(Satorra & Bentler, 1994, 2001). The SB2 works appropriately with all type of sample sizes
and several researchers have recommended using it for multivariate nonnormal data (Curran,
West & Finch, 1996). 4.1. Confirmatory Factor Analysis The results of CFA revealed that the second-order factor model was replicated in the three
groups (see Table 2). Although the value of 2 is non-significant in all cases (p-valor=.00021,
.00000, .00126, .00000) the values of the other indexes are above or very close to the limit
value for a good fit, except in the sample of FBAM 0809, where MFI and RMSEA are lower and
upper its ideal values (MFI=.714 and RMSEA=.090). Goodeness of fit index
FBAM 08-09
FBAM 09-10
FIE
Total Sample
2
137,457
189,704
128,604
239,578
Df
84
84
84
84
p-value
.00021
.00000
.00126
0,00
GFI
.881
.869
.893
.929
AGFI
.830
.810
.847
.898
MFI
.822
.714
.853
.836
NFI
.869
.820
.798
.907
NNFI
.929
.861
.895
.921
CFI
.943
.889
.916
.937
RMSEAi
.069
.090
.062
.065
Table 1. Goodness of fit indexes of the three subgroups and the total sample Table 1. Goodness of fit indexes of the three subgroups and the total sample 3.3. Method of Analysis Although the SB2 difference statistic has been the primary criterion, we
used other index in this study, such as, the Robust Comparative Fit Index (RCFI) whose value
should be above .90 for a good fit. Also, following Hu and Bentler (1999) considerations, we
used the RMSEA (Standarized Root Mean Square Residual), whose value should be less than . 08 to indicate a good fit (Hair, Anderson, Thatam & Black, 1998). Nevertheless, some authors
(i.e. Cheung & Rensvold, 2002; Byrne & Stewart, 2006; Chen, 2007) argued that it is still
possible to use these fit indices to test for measurement equivalence, but focusing on the
changes in these measures when adding the constraints at the different steps. They consider
that a change in CFI than .01 or less indicate that the invariance hypothesis should not be
reject and Vandenberg and Lance (2000) suggest that when comparing successive invariance
models across groups, a change in RMSEA values below .06, reflect excellent fit. -24- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 able 2. Goodness of fit indexes for configural invariance (means and variances-covariances) 4.2. Configural Invariance We tested configural invariance across surveys modes. We began by equality of means, to
continue with equality of variances and covariances matrixes. As Table 3 shows, the value of
SB2 (p-valor=.0000) for means and variances covariances don’t support the equally
assumption. In such cases, Satorra proposes to study the invariance of both parameters
jointly. These results are shown in Table 4. Although the value of SB2 (p-value=.00726) does
not allow the hypothesis of invariance, the rest of indexes contradict this conclusion. The
Robust configural fit index (RCFI=.955) allow us, with caution, accept the equality of the
number of factors and factor pattern matrices. Model
2
(p-value)
SB2
(p-value)
Df
RMSEA
CFI
Robust
RMSEA
Robust
CFI
Equality of means
2925,431
(.00000)
2493,328
(.00000)
345
.232
n.a
.212
n.a
Equality of covariances
and variances
138,209
(.00000)
118,1128
(.00000)
31
.155
.956
.140
.953
Table 2. Goodness of fit indexes for configural invariance (means and variances-covariances) Table 2. Goodness of fit indexes for configural invariance (means and variances-covariances) -25- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783
Model
2
(p-value)
SB2
(p-value)
Df
RMSEA
CFI
Robust
RMSEA
Robust
CFI
Equality of means and
variances
226,122
(.00282)
210,4562
(.00726)
31
.163
.955
.131
.950
Table 3. Goodness of fit indexes for invariance of means and variances together Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Table 3. Goodness of fit indexes for invariance of means and variances together 4.3. Metric Invariance As configural invariance can be established, we evalued metric invariance across surveys
models, constraining factor loadings in each group separately. As shown in Tables 5 and 6, the
value of SB2 change (p-value=.041850757) is significant with a 90% confidence level and
allow us to accept that the nested model was still well-fitting. Therefore we could not reject the
hypothesis null. Model
2
(p-value)
SB2
(p-value)
Df
RMSEA
CFI
Robust
RMSEA
Robust
CFI
Metric Invariance
374,736
(.00000)
319,6106
(.00005)
218
.071
.935
.057
.946
Metric Invariance
without constraints
354,286
(.0000)
295,0138
(.00000)
204
.072
.93
.056
.951
Table 4. Goodness of fit indexes for metric Table 4. Goodness of fit indexes for metric Table 4. Goodness of fit indexes for metric Satorra-Bentler Scaled Difference
D.f. p-value
24,3246
14
.041850757
Table 5. Difference of adjusted Satorra-Bentler Chi Squared indexes 4.4. Scalar Invariance Next, we evaluated if scalar invariance can be established constraining the intercepts of all
surveys modes. As shown in Tables 7 and 8, the value of SB2 change is very significant
(p<.001), which indicates that the scalar invariances was not supported. However, if we
consider again the value of Robust CFI (RCFI=.939) and Robust RMESA (.061), we can
cautiously establish that there is scalar invariance across the three groups. -26- -26- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783
Model
2
(p-value)
SB2
(p-value)
Df
RMSEA
CFI
Robust
RMSEA
Robust
CFI
Scalar Invariance
497,411
(.0000)
396,2519
(.0000)
222
.092
.900
.073
.924
Scalar Invariance
without constraints
470,119
(.00000)
326,5043
(.00001)
192
.092
.894
.061
.939
Table 6. Goodness of fit indexes for scalar invariance Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Table 6. Goodness of fit indexes for scalar invariance Table 6. Goodness of fit indexes for scalar invariance Satorra-Bentler Scaled Difference
D.f. p-value
69,7476
30
5,24741E-11
Table 7. Difference of adjusted Satorra-Bentler Chi Squared indexes 4.5. Covariance Invariance Among Latent Factors The next step is to test if there are differences in covariance among latent factors across the
three groups. Since scalar invariance could be established with caution, we conducted this test,
imposed restrictions on the metric invariance model. Table 9 and 10 show the results. This
comparison yielded a value of SB2 change significant, (p-value=.12299) and we can state that
there is covariance invariance across groups. Model
2
(p-value)
SB2
(p-value)
Df
RMSEA
CFI
Robust
RMSEA
Robust
CFI
Covariance Invariance
392,74
(.00000)
332,3300
(.00000)
226
.072
.931
.057
.943
Metric Invariance
374,737
(.00000)
319,6106
(.00001)
218
.071
.935
.057
.963
Table 8. Goodness of fit indexes for covariance invariance Table 8. Goodness of fit indexes for covariance invariance Satorra-Bentler Scaled Difference
D.f. p-value
12,6894
8
.122992637
Table 9. Difference of adjusted Satorra-Bentler Chi Squared indexes Satorra-Bentler Scaled Difference
D.f. p-value
12,6894
8
.122992637
Table 9. Difference of adjusted Satorra-Bentler Chi Squared indexes Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 the same in the original model, independent of the group. Results are showed in Tables 11 and
12. As the change of p-value achieved when comparing the SB2 index is .01556, we can
accept that invariance across latent factors is equivalent across samples with 90% confidence
level, as well as the values of the robust CFI (RCFI=.936) and robust RMESA (RRMESA=.055). Model
2
(p-value)
SB2
(p-value)
Df
RMSEA
CFI
Robust
RMSEA
Robust
CFI
Invariance factors
variance
392,74
(.00000)
332,3300
(.00000)
226
.072
.931
.057
.943
Invariance errors
variance
417,174
(.00000)
36,0362
(.00000)
240
.072
.927
.059
.936
Table 10. Goodness of fit indexes for latent factors variance invariance Table 10. Goodness of fit indexes for latent factors variance invariance 4.6. Variance Invariance Across Latent Factors To evaluate variance invariance of latent factors is necessary adds a new restriction about the
standard errors across survey modes. If we can establish factor latent variance invariance
across groups, as covariance invariance have yet established, correlation across latent factors
will be the same across groups, which means that the relation of the factors with the MPS is -27- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 that we can integrate data collected from different degrees programmes to increase the
response rate, following the recommendation of the Standards for Educational Research
Association (American Educational Research Association, American Psychological Association &
National Council on Measurement in Education, 1999). that we can integrate data collected from different degrees programmes to increase the
response rate, following the recommendation of the Standards for Educational Research
Association (American Educational Research Association, American Psychological Association &
National Council on Measurement in Education, 1999). 4.7. Variance Invariance of Errors Finally, we analyzed the invariance of measurement errors variance across samples. In this
case, as we can see in Table 13 and 14, the p-value for the change of SB2 is .66187, so we
can state that reliability of the surveys items is similar across the students of the three degree
programmes. Model
2
(p-value)
SB2
(p-value)
Df
RMSEA
CFI
Robust
RMSEA
Robust
CFI
Covariance Invariance
417,174
(.00000)
360,0362
(.00001)
240
.072
.927
.059
.936
Latent factors variance
invariance
447,890
(.00000)
384,4060
(.00000)
268
.068
.926
.055
.939
Table 12. Goodness of fit indexes for errors variance invariance of latent factors
Satorra-Bentler Scaled Difference
D.f. p-value
24,3698
28
.661874583
Table 13. Difference of adjusted Satorra-Bentler Chi Squared indexes Model
2
(p-value)
SB2
(p-value)
Df
RMSEA
CFI
Robust
RMSEA
Robust
CFI
Covariance Invariance
417,174
(.00000)
360,0362
(.00001)
240
.072
.927
.059
.936
Latent factors variance
invariance
447,890
(.00000)
384,4060
(.00000)
268
.068
.926
.055
.939
Table 12. Goodness of fit indexes for errors variance invariance of latent factors The results indicate that we can state that JDS adapted to university teaching reveal the same
factor structure, factor loadings, factors latent variances and reliability of scales. This mean -28- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 References 5. Conclusions The purpose of our study was to evaluate if the underlying factor structure of the teaching
version of JDS was equivalent with data collected across different samples. Results show that
the global model proposed to evaluate the relationship between satisfaction, MPS and job
characteristics is invariant across the samples, regarding to configural, metric, covariance,
latent factors and measurement error of latent factors invariance. Chen (2007) established
there would be not such a big difference across the groups, if the scale would have offered a
similar reliability in all groups. So, the non-fulfilment of scalar invariance is not important for
the purpose of this study. For these reasons, we can conclude that the three samples can be considered equivalent, with the
same factor structure, factor loadings, measurement errors of factors and the same reliability even
when complete invariance could not be proved. As Van de Schoot, Lugtig and Hox (2012) set out,
when checking if factor loadings, items coefficients and residual variances are equivalent across
groups, we can state that comparisons made across groups are valid at all levels. These findings are useful for researchers since they add the first sample in which the MI of a
student’s satisfaction survey is tested. This sample is framed in university students aged
between 18 and 30 and for a questionnaire on teaching methodology and students’ satisfaction
in the context of a Spanish university. We also offer the procedure to follow to test MI with
progressive complete invariance test. There were of course, limitations to this study. As stated previously, we used a student sample
with a specific questionnaire and the generalization to other questionnaire, or population,
should be proved with specific data. Furthermore, the sample size is rather small. It is possible
that analyses based on larger sizes or different context or universities would yield different
results. That determination requires additional investigation. Finally, we only tested measurement invariance of a second-order model but we should tested
invariance in first-order models since although second-order models fit well against invariance,
the theoretical explanation of MI is always ambiguous. As future research lines, first we extend the sample to a representative population of the
university students’ population (Spanish or other countries). Secondly, we analyse first-order
models invariance. -29- -29- Adler, R.W., Milne, M.J., & Stablein, R. (2001). Situated Motivation: An Empirical Test in an
Accounting Course.
Canadian Journal of Administrative Sciences,
18, 101-115.
http://dx.doi.org/10.1111/j.1936-4490.2001.tb00248.x Adler, R.W., Milne, M.J., & Stablein, R. (2001). Situated Motivation: An Empirical Test in an
Accounting Course. Canadian Journal of Administrative Sciences,
18, 101-115. http://dx.doi.org/10.1111/j.1936-4490.2001.tb00248.x Alves, H., & Raposo, M. (2009). The measurement of the construct satisfaction in higher
education. The service industrial journal, 29, 203-218. http://dx.doi.org/10.1080/02642060802294995 American Educational Research Association, American Psychological Association, & National
Council on Measurement in Education (1999). Standards for educational and psychological
testing. Washington, DC: American Educational Research Association. Ames, C. (1992). Classrooms: Goals, Structures, and Student Motivation. Journal of
Educational Psychology, 84, 261-271. http://dx.doi.org/10.1037/0022-0663.84.3.261 Armstrong, M.J. (2003). Students as Clients: A Professional Services Model for Business
Education. Academy of Management Learning and Education,
2, 371-374. http://dx.doi.org/10.5465/AMLE.2003.11901964 Beltyukova, S.A., & Fox, C. (2002). Student satisfaction as a measure of student development:
Towards a universal metric. Journal of College Student Development, 43, 161-172. Bentler, P.M., & Bonett, D.G. (1980). Significance tests and goodness of fit in the analysis of
covariance structures. Psychological Bulletin, 88, 588-606. http://dx.doi.org/10.1037/0033-
2909.88.3.588 Bollen, K.A., & Long, J.S. (Eds.). (1993). Testing structural equation models. Newbury Park,
California: Sage. Brown, M.W., & Cudeck, R. (1993). Alternative ways of assessing model fit. In Bollen, K.A., & Long,
J.S. (Eds.). Testing structural equation models. Newbury Park, California: Sage. 136-162. Byrne, B.M. (1989). Multigroup comparisons and the assumption of equivalent construct
validity across groups: Methodological and substantive issues. Multivariate Behavioural
Research, 24, 503-523. http://dx.doi.org/10.1037/0033-2909.88.3.588 Byrne, B.M., & Stewart, S.M. (2006). The MACS approach to testing for multigroup invariance
of a second-order structure: a walk through the process. Structural Equation Modeling, 13(2),
287-321. http://dx.doi.org/10.1207/s15328007sem1302_7 Chen, F.F. (2007). Sensitivity of goodness of fit indices to lack of measurement invariance. Structural Equation Modeling, 14, 464-504. http://dx.doi.org/10.1080/10705510701301834 -30- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Cheung, G.W., & Rensvold, R.B. (2002). Evaluating goodness-of-fit indices for testing
measurement
Equivalence. Structural
Equation
Modeling,
9,
233-255. http://dx.doi.org/10.1207/S15328007SEM0902_5 Cheung, G.W. (2008). Testing equivalence in the structure, means, and variances of higher-
order constructs with structural equation modeling. Organizational Research Methods, 11(3),
593-613. http://dx.doi.org/10.1177/1094428106298973 Cotton, S., Dollard, M., & de Jonge, J. (2002). Stress and Student Job Design: Satisfaction,
Well-Being, and Performance in University Students. International Journal of Stress
Management, 9, 147-162. http://dx.doi.org/10.1023/A:1015515714410 Curran, P.J.; West, S.G., & Finch, J.F. (1996). The robustness of test statistics to nonnormality
and specification error in confirmatory factor analysis. Psychological Methods, 1(11), 16-29. http://dx.doi.org/10.1037/1082-989X.1.1.16 DeShields, O.W., Kara, A., & Kaynak, E. (2005). Determinants of business student satisfaction and
retention in higher education: Applying Herzberg’s two-factor theory. International, 19, 128-139. http://dx.doi.org/10.1108/09513540510582426 De Treville, S., & Antonakis, J. (2006). Could Lean production job design be intrinsically
motivating? Contextual, configuracional, and levels-of-analysis issues. Journal of Operations
Management, 24, 99-123. http://dx.doi.org/10.1016/j.jom.2005.04.001 Donaldson, L. (2002). Damn by Our Own Theories: Contradictions Between Theories and
Management Education. Academy of Management Learning and Education, 1, 96-106. http://dx.doi.org/10.5465/AMLE.2002.7373701 Elosua, P. (2005). Evaluación progresiva de la invarianza factorial entre las versiones original y
adaptada de una escala de autoconcepto. Psicothema, 17(2), 356-362. Freed, J.E. (2005). Creating a Total Quality Environment (TQE) for Learning. Journal of
Management Education, 29, 60-81. http://dx.doi.org/10.1177/1052562904264283 French, B.F., & Finch, W.H. (2008). Multigroup confirmatory factor analysis: Locating the
invariant
referent
sets. Structural
Equation
Model,
15(1),
96-113. http://dx.doi.org/10.1080/10705510701758349 French, N.K., & Chopra, R.V. (2006). Teachers as executives. Theory into Practice, 45,
230-238. http://dx.doi.org/10.1207/s15430421tip4503_5 Fried, Y. (1991). Meta-analytic comparison of the job diagnostic survey and job characteristics
inventory as correlates of work satisfaction and performance. Journal of Applied Psychology,
76(5), 690-697. http://dx.doi.org/10.1037/0021-9010.76.5.690 Fried, Y. (1991). Meta-analytic comparison of the job diagnostic survey and job characteristics
inventory as correlates of work satisfaction and performance. Journal of Applied Psychology,
76(5), 690-697. http://dx.doi.org/10.1037/0021-9010.76.5.690 -31- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 García-Aracil, A. (2009). European graduates’ level of satisfaction with higher education. Higher Education, 57, 1-21. http://dx.doi.org/10.1007/s10734-008-9121-9 Griffin, R.W. (1991). Effects of work redesign on employee perceptions, attitudes and
behaviours: A long-term investigation. Academy of Management Journal, 34, 425-435. http://dx.doi.org/10.2307/256449 Hackman, J.R., & Oldham, G.R. (1975). Development of the Job Diagnostic Survey. Journal of
Applied Psychology, 60(2), 159-170. http://dx.doi.org/10.1037/h0076546 Hackman, J.R., & Oldham, G.R. (1980). Work Redesign. Addison-Wesley. ackman, J.R., & Oldham, G.R. (1980). Work Redesign. Addison-Wesley. Hair, J.F., Anderson, R.E., Thatam, R.L., & Black, W.C. (1998) Multivariate data analysis. 6th
edition. New York, Prentice Hall International. Hu, L., & Bentler, P.M. (1999). Cutoff criteria for fit indexes in covariance structure analysis:
Conventional criteria versus new alternatives. Structural Equation Modeling: A
Multidisciplinary Journal, 6(1), 1-55. http://dx.doi.org/10.1080/10705519909540118 Jöreskog, K.G. (1971). Simultaneous factor analysis in several populations. Psychometrika, 36,
409-426. http://dx.doi.org/10.1007/BF02291366 Klieger, D., Centra, J., Young, J., Holtzman, S., & Kotloff, J.L. (2014). Testing the invariance of
interrater reliability between paper-based and online modalities of the SIR II™ student
instructional report. Available at: http://www.ets.org/Media/Research/pdf/SIRII-Report-
Klieger-Centra-2014.pdf Leung, D., & Kember, D. (2005). Comparability of data gathered from evaluation questiionnaires
on paper and through the internet. Research in Higher Education, 46(5), 571-591. http://dx.doi.org/10.1007/s11162-005-3365-3 Li, T., Saklofske, D.H., Bowden, S.C., Yan, G., & Fung, T.S. (2012). The measurement
invariance of the Wong and Law Emotional Intelligence Scale (WLEIS) across three Chinese
university student groups from Canada and China. Journal of Psychoeducational Assessment,
30(4), 439-452. http://dx.doi.org/10.1177/0734282912449449 Martínez-Gómez, M., & Marín-García, J.A. (2009). Como medir y guiar el cambio hacia entornos
educativos universitarios más motivadores para los alumnos. Formación Universitaria, 2, 3-14. http://dx.doi.org/10.4067/S0718-50062009000400002 Martínez-Gómez, M., Marín-García, J.A., & Girado-O’Meara, M. (2013). Validation of the JDS
satisfaction scales applied to educational university environments. Journal of Industrial
Engineering and Management, 7(1), 72-99. http://dx.doi.org/10.3926/jiem.906 -32- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Mason, M.M. (2012). Motivation, Satisfaction, and Innate Psychological Needs. International
Journal of Doctoral Studies, 7, 259-277. Millsap, E.R., & Yun-Tein, J. (2004). Assessing Factorial Invariance in Ordered-Categorical
Measures. Multivariate
Behavioral
Research,
39(3),
479-515. http://dx.doi.org/10.1207/S15327906MBR3903_4 Mason, M.M. (2012). Motivation, Satisfaction, and Innate Psychological Needs. International
Journal of Doctoral Studies, 7, 259-277. Millsap, E.R., & Yun-Tein, J. (2004). Assessing Factorial Invariance in Ordered-Categorical
Measures. Multivariate
Behavioral
Research,
39(3),
479-515. http://dx.doi.org/10.1207/S15327906MBR3903_4 O’Neil, D.A., & Hopkins, M.M. (2002). The Teacher as Couch Approach: Pedagogical Choices for
Management Educators. Journal of Management Education,
26, 402-414. http://dx.doi.org/10.1177/105256290202600406 Paris, S.G., & Turner, J.C. (1994). Situated motivation. In Pintrich, P., Brown, D., & Einstein, C. (Eds.). Student motivation, cognition, and learning: Essays in honor of Wilbert J. McKeachie. Hillsdale, NJ: Lawrence Erlbaum Associates, Inc. Peinado, J.E., Chávez, A., Viciana, J., & Rivero, J.G. (2012). Invarianza factorial del
cuestionario de autoeficacia EACA en universitarios de ciencias de la salud y ciencias sociales. Formación Universitaria, 5(4), 37-48. http://dx.doi.org/10.4067/S0718-50062012000400005 Reinig, B.A., Horowitz, I., & Whittenburg, G.E. (2011). The Effect of Team-Based Learning on
Student Attitudes and Satisfaction. Decision Sciences Journal of Innovative Education, 9, 27-47. http://dx.doi.org/10.1111/j.1540-4609.2010.00289.x Richardson, J.T.E. (2005). Instruments for obtaining student feedback: a review of the
literature. Assessment & Evaluation in Higher Education,
30, 387-415. http://dx.doi.org/10.1080/02602930500099193 Santos-Rego, M.Á., Godás-Otero, A., Lorenzo-Moledo, M., & Gómez-Fraguela, J.A. (2010). Eficacia y satisfacción laboral de dos profesores no universitarios: Revisión de un instrumento
de medida. Revista Española de Pedagogía, 245, 151-168. Satorra, A., & Bentler, P.M. (1994). Corrections to test statistic and standard errors in
covariance structure analysis. In von Eye, A., & Clogg, C.C. (Eds.). Analysis of Latent
Variables in Developmental Research. Thousand Oaks, CA: Sage. 399-419. Satorra, A., & Bentler, P.M. (2001). A Scaled difference chi-square test statistic for moment
structure analysis. Psychometrika, 66(4), 507-514. http://dx.doi.org/10.1007/BF02296192 Schmitt, N., & Kuljanin, G. (2008). Measurement invariance: Review of practice and
implications. Human
Resource
Management
Review,
18(4),
210-222. http://dx.doi.org/10.1016/j.hrmr.2008.03.003 -33- Journal of Industrial Engineering and Management – http://dx.doi.org/10.3926/jiem.1783 Steenkamp, J.B.E.M., & Baumgartner, H. (1998). Assessing measurement invariance in
crossnational consumer research. Journal of Consumer Research,
25, 78-90. http://dx.doi.org/10.1086/209528 Tessema, M.T., Ready, K., & Yu, W.C. (2012). Factors Affecting College students’ Satisfaction
with Major Curriculum: Evidence from Nine Years of Data. International Journal of Humanities
and Social Science, 2, 34-44. Ullman, J.B., & Bentler, P.M. (2004). Structural Equation Modeling. In Hardy, M., & Bryman, A. (Eds.). Handbook of Data Analysis. SAGE. 431-458. http://dx.doi.org/10.4135/9781848608184.n19 Ünal, C., & Inan, H.Z. (2010). Students’ perceptions of a situated learning environment. Procedia
-
Social
and
Behavioral
Sciences,
2,
2171-2175. http://dx.doi.org/10.1016/j.sbspro.2010.03.301 Vandenberg, R.J., & Lance, C.E. (2000). A review and synthesis on the measurement
invariance literature: Suggestions, practices and recommendations for organisational
research. Organizational Research Methods, 3, 4-70. http://dx.doi.org/10.1177/109442810031002 Van de Schoot, R., Lugtig, P., & Hox, J. (2012). A checklist for testing measurement
invariance. European Journal of Developmental Psychology,
9(4), 486-492. http://dx.doi.org/10.1080/17405629.2012.686740 Van Saane, N., Sluiter, J.K., Verbeek, J.H.A.M., & Frings-Dresen, M.H.W. (2003). Reliability and
validity of instruments measuring job satisfaction - a systematic review. Occupational
Medicine, 53, 191-200. http://dx.doi.org/10.1093/occmed/kqg038 Widaman, K.F., & Reise, S.P. (1997). Exploring the measurement invariance of psychological
instruments: Applications in the substance abuse domain. In Bryant, K.J., & Windle, M. (Eds.). The science of prevention: Methodological advance from alcohol and substance abuse
research. Washington,
DC:
American
Psychological
Association. 281-324. http://dx.doi.org/10.1037/10222-009 Journal of Industrial Engineering and Management, 2016 (www.jiem.org)
Article's contents are provided on an Attribution-Non Commercial 3.0 Creative commons license. Readers are allowed to copy, distribute
and communicate article's contents, provided the author's and Journal of Industrial Engineering and Management's names are included. It must not be used for commercial purposes. To see the complete license contents, please visit
http://creativecommons.org/licenses/by-nc/3.0/. Journal of Industrial Engineering and Management, 2016 (www.jiem.org) Article's contents are provided on an Attribution-Non Commercial 3.0 Creative commons license. Readers are allowed to copy, distribute
and communicate article's contents, provided the author's and Journal of Industrial Engineering and Management's names are included. It must not be used for commercial purposes. To see the complete license contents, please visit
http://creativecommons.org/licenses/by-nc/3.0/. Article's contents are provided on an Attribution-Non Commercial 3.0 Creative commons license. Readers are allowed to copy, distribute
and communicate article's contents, provided the author's and Journal of Industrial Engineering and Management's names are included. It must not be used for commercial purposes. To see the complete license contents, please visit
http://creativecommons.org/licenses/by-nc/3.0/. -34-
|
https://openalex.org/W3116431697
|
https://www.researchsquare.com/article/rs-110956/latest.pdf
|
English
| null |
Infection control Knowledge, Practices, and Perceived barriers towards COVID-19 among physicians in university hospitals, Cairo, Egypt.
|
Research Square (Research Square)
| 2,020
|
cc-by
| 5,716
|
Infection control Knowledge, Practices, and
Perceived barriers towards COVID-19 among
physicians in university hospitals, Cairo, Egypt. d Hussein
(
rasha_saad@med.asu.edu.eg
)
Medicine, Ain Shams University
https://orcid.org/0000-0003-4139-2971 Rasha Saad Hussein
(
rasha_saad@med.asu.edu.eg
) Abstract Background: WHO declared COVID-19 a global pandemic on 11th March 2020. Due to the lack of
adequate treatment and approved vaccines, proper infection control practices are the only effective tools
for prevention and control of COVID-19 infection among the health care facilities. Objectives: This study aimed to assess the infection control knowledge, practices, and perceived barriers
towards COVID-19 among physicians working at Ain Shams University hospitals. Methods: Cross-sectional was carried out among a sample of physicians working at Ain Shams
university hospitals, Cairo, Egypt, by using an online questionnaire. The design of the questionnaire was
based mainly on the WHO guidance for infection prevention and control during health care when novel
coronavirus infection is suspected and CDC guidance for COVID-19. Results: A total of 318 physicians with different job titles and specialties participated in this study, results
showed average infection control knowledge (the mean correct answer rate was 57.1%+ 15.9%) and
practices (infection control practices score was 78.76% + 12.17%) among our studied group. Patients
overload and improper design of the working places were perceived as barriers to infection control
practices by the majority (90%) of our participants. Conclusion: Our study results showed average infection control knowledge and practices towards COVID-
19. There are defects in certain aspects related to infection control knowledge and practices that needed
more practical training and properly designed working places to improve it. Research Article Keywords: COVID-19, Knowledge, infection control practices, Barriers
Posted Date: November 20th, 2020
DOI: https://doi.org/10.21203/rs.3.rs-110956/v1
License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Read Full License Page 1/14 Page 1/14 Page 1/14 Background On 31st December 2019, it was announced the presence of viral pneumonia of unknown cause in Wuhan
city, China. The pathogen causing this pneumonia has been defined as severe acute respiratory syndrome
coronavirus-2 (SARS-CoV-2) [1]. SARS-COV-2 is an enveloped single-stranded RNA virus, previously known as 2019-nCov, and causing
a disease called Coronavirus disease 2019 (COVID-19) [2-3].WHO declared coronavirus disease 2019
(COVID-19) as a global pandemic on 11th March 2020 [4]. SARS-COV-2 is an enveloped single-stranded RNA virus, previously known as 2019-nCov, and causing
a disease called Coronavirus disease 2019 (COVID-19) [2-3].WHO declared coronavirus disease 2019
(COVID-19) as a global pandemic on 11th March 2020 [4]. SARS-COV-2 is a highly transmissible viral infection. It got discovered more than twenty million
people were infected worldwide. It is transmitted from person-to-person by close contact via the
respiratory droplets during coughing and sneezing or through touching contaminated surfaces by the
virus [5-6]. Due to the lack of adequate treatment and approved vaccines. The WHO recommends for the
prevention of COVID-19 spread to apply primary preventive measures that include Proper hand washing,
physical distancing, respiratory hygiene, cough etiquette, and wearing face masks in crowded areas that Page 2/14 will serve as the first line of defense in public and also applying effective infection control measures
within the different health care settings [7-8]. will serve as the first line of defense in public and also applying effective infection control measures
within the different health care settings [7-8]. Physicians are at the front-line of COVID-19 fighting during this pandemic. They are exposed to
infection due to frequent contact with and exposure to confirmed and suspected cases. They are also
exposed to psychological stress, fatigue due to long working hours, and physical violence [9-10]. The transmission of COVID 19 among physicians is enhanced by multiple factors as patients
overcrowding, lack of isolation rooms within the health care facilities, soiled environment by patient
secretions, and absence of knowledge or insufficient awareness of infection control practices among
them [11]. A prospective cohort study has been conducted in the UK and the USA to compare the risk of
COVID-19 infection among front-line Health care workers (HCWs) with the general community. Background The result
revealed that front-line HCW had a twelvefold increase in the risk of COVID- 19 infection [12] Understanding physicians’ knowledge, attitudes, and possible perception of risk of infection directly
influence practices and lead to proper diagnosis and decrease the spread of disease. So, this study has
been conducted to assess the infection control knowledge, practice, and perceived barriers toward COVID-
19 among physicians at Ain Shams University, Egypt. 1. Demographic data (e.g. age, gender, specialty). 2. Level of COVID-19 Related infection control Knowledge: Knowledge has been assessed using 12
questions covering mode of transmission and general infection control practices. Each question has been
answered as follows: yes, no, or I don't know. The correct answer was assigned 1 point and an incorrect
answer or ‘I don’t know’ were assigned 0 points. The total score ranged from 0-12 and has been converted
into a percentile. 3. Infection control practices: This section consisted of nine items covering the infection control practices
related to applying the standard precautions and other WHO recommended empirical precautions during
contact suspicious or confirmed COVID-19 cases. The choices were provided as ‘Rare, sometimes’ or
Always, and answers have been coded as rare=1, sometimes=2, and always=3. The total score ranged
from 0 to 27 and has been converted to a percentile. 4. Infection control perceived barriers: Based on reviewing results from a previous study [7], six items
have been selected to assess the perception of physicians regarding infection control barriers. Responses
have been coded as yes, or no for each barrier. Data management and analysis: Data have been revised, coded and analyzed using SPSS package
version number 25. Quantitative data has been described as mean, standard deviation (SD), and range
values. Qualitative data has been described as numbers and percentages. Data management and analysis: Data have been revised, coded and analyzed using SPSS package
version number 25. Quantitative data has been described as mean, standard deviation (SD), and range
values. Qualitative data has been described as numbers and percentages. To study the association between the physicians' socio-demographic characteristic and their infection
control knowledge and practice scores, independent t-test, and ANOVA test have been used. P-value ≤
0.05 has been considered significant. The questionnaire was composed of four sections: The questionnaire was composed of four sections: 1. Demographic data (e.g. age, gender, specialty). 1. Demographic data (e.g. age, gender, specialty). Methods Study design, setting, and population: This Cross-sectional survey has been carried out among
physicians working at Ain Shams university hospitals, Cairo, Egypt, using an online questionnaire in
English language form from 1 June to 30 July 2020. During this period, most of the Physicians worked at
either the emergency units or at the COVID-19 isolation hospital, so it was not feasible to contact them,
we have been designing an online questionnaire to allow proper reaching to our target population. Ain Shams university hospital is one of the largest university hospitals in Egypt, it includes 7 hospitals
(surgery hospital, internal medicine hospital, pediatrics hospital, obstetrics, and gynecology hospital,
emergency hospital , and geriatrics hospital), and multiple specific units and centers as clinical toxicology
center, psychiatric center, bone marrow transplant unit, digestive endoscopy unit and clinical research
unit. It involves more than 3000 inpatient beds, in addition to ICUs at the different hospitals. Our study population represents physicians with different specialties and positions, who working at
Ain Shams university hospitals. The sample size has been calculated using the PASS11 program based
on reviewing results of previous relevant studies which have shown that the mean correct answer rate of
knowledge related to COVID-19 was (80.4%) [13], and good infection control practices were (94.3%) [7],
with a margin of error = 0.05 and at 95% confidence level. The required sample size was 250 physicians,
but at the end of the specified time period, the collected sample was 318 physicians. Data collection tool: Data has been collected using an anonymous online questionnaire. The design of
the questionnaire mainly was based on the WHO guidance for infection prevention and control during Page 3/14 Page 3/14 health care when novel coronavirus infection is suspected [8], and CDC guidance for COVID-19[14]. The
validity of the items has been verified by three experts, including microbiologists, infection control
specialties and epidemiologists. A pilot study has been conducted on 10 physicians before the gathering
of data. The data of this study has been excluded from the final analysis. The questionnaire has been
created on Google Forms. The URL link has been shared with all physicians on the WhatsApp group so
that they can participate in the questionnaire. The questionnaire was composed of four sections: Results (Yes)
171(53.8%)
12. Do you know the correct sequence of Doffing PPE? (Yes)
172(54.1%)
Total Knowledge score: mean + SD (Range)
Total knowledge score %: mean + SD (Range)
6.85+
1.91(3- 12)
57.1+
15.9(25-100) The knowledge items
The correct
answer
N (%)
1. COVID-19 is spread from person to person through infectious
Droplets (Yes)
310 (97.5%)
2. Gloves can provide complete protection against transmission of COVID-
19(No)
19(6.0%)*
3. Washing hands with soap or use of an alcohol-based antiseptic decreases
the risk of the infection (Yes)
317(99.7%)
4. Maintain 1-1.5 meters distance between you and others decrease the risk
of infection transmission (Yes)
310(97.5%)
5. Face mask decrease the risk of transmission of COVID from a case to
others (Yes)
243(76.4%)
6. COVID cases can't transmit the infections when fever is not present (No)
26(8.2%)*
7. Contacts to COVID cases must be isolated in proper place for 14
days (Yes)
275(86.5%)
8. Isolation of the cases must be done at a negative pressure room (NO)
86(27.0%)*
9. All types of face masks have the same protection level against the
infection (NO)
12(3.8%)*
10. The same personal protective requirements set (PPE) used for all medical
producers done for COVID cases (NO)
66(20.8%)*
11. Do you know the correct sequence of donning PPE? (Yes)
171(53.8%)
12. Do you know the correct sequence of Doffing PPE? (Yes)
172(54.1%)
Total Knowledge score: mean + SD (Range)
Total knowledge score %: mean + SD (Range)
6.85+
1.91(3- 12)
57.1+
15.9(25-100) Results A total of 318 physicians with different job titles and specialties have participated in our study (mean
age 30.18+ 6.07 years; [60.7%] females), and about half of them (52.5%) reported previous attendance of
infection control course. Table1 Table 1. Socio-demographic characteristics of the study group (N=318) Page 4/14 Page 4/14 N
%
Age
mean + SD (Range)
30.18+ 6.07(24-
53)
Gender
Female
193
60.7%
male
125
39.3%
Job
House officer
94
29.6%
Resident
90
28.3%
specialist
93
29.2%
consultant
41
12.9%
specialty
House officer
94
29.6%
general surgery
78
24.5%
Internal medicine
86
27.0%
Obstetrics and
gynecology
32
10.1%
pediatrics
28
8.8%
Years of working experience
mean + SD (Range)
5.23+ 5.09(0-30)
Attendance of infection control training
courses
No
151
47.5%
Yes
167
52.5% Assessment of Covid-19 related knowledge has revealed that the mean correct answer rate was ( 57.1+
15.9), the highest correct answer was related to the item" Washing hands with soap or use of an alcohol-
based antiseptic decrease the risk of the infection" as 99.7% of the participants answered it correctly. While the least correct answer was related to the item "All types of face masks have the same protection
level against the infection" as only 3.6% of the participants answered it correctly. Table2
Table 2. Physicians' knowledge about COVID 19 dynamics and prevention (N=318) Page 5/14 Page 5/14 The knowledge items
The correct
answer
N (%)
1. COVID-19 is spread from person to person through infectious
Droplets (Yes)
310 (97.5%)
2. Gloves can provide complete protection against transmission of COVID-
19(No)
19(6.0%)*
3. Washing hands with soap or use of an alcohol-based antiseptic decreases
the risk of the infection (Yes)
317(99.7%)
4. Maintain 1-1.5 meters distance between you and others decrease the risk
of infection transmission (Yes)
310(97.5%)
5. Face mask decrease the risk of transmission of COVID from a case to
others (Yes)
243(76.4%)
6. COVID cases can't transmit the infections when fever is not present (No)
26(8.2%)*
7. Contacts to COVID cases must be isolated in proper place for 14
days (Yes)
275(86.5%)
8. Isolation of the cases must be done at a negative pressure room (NO)
86(27.0%)*
9. All types of face masks have the same protection level against the
infection (NO)
12(3.8%)*
10. The same personal protective requirements set (PPE) used for all medical
producers done for COVID cases (NO)
66(20.8%)*
11. Do you know the correct sequence of donning PPE? (*) Items with lowest self-reporting infection control practices (*) Items with lowest self-reporting infection control practices
Table 4, Shows the association between socio-demographic characteristics and the level of COVID-19
related knowledge, the mean knowledge score was significantly higher in the old age group(>30 years),
males, consultants, pediatric specialty , and among physicians who attended infection control courses. Regarding the safe infection control practices, participants who attended infection control courses have a
significantly higher safe practice than others. Table 4: Relation between socio-demographic characteristics and their infection control
knowledge and practices scores regarding COVID-19. (*) Items with lowest correct answers percentages Regarding the self-reported infection control practices assessment, the mean practice score was 78.76
+ 12.17, most of our participants reported that they have been safely disposing of the used PPE. While
only (20.8%) of them reported that they were always making seal test for N95 mask before use. Table 3 Table 3: Physicians' infection control practices (N=318) Page 6/14 Page 6/14 of infection control practices
N (%)
ly hand hygiene in a proper way and according to WHO 5
ments
rare
5 (1.6%)
Sometimes127 (39.9%)
Always
186 (58.5%)
ng PPE in a proper way
rare
26 (8.2%)
Sometimes157 (49.4%)
Always
135 (42.5%)
g N95 mask During all patient management procedures
rare
97(30.5%)
Sometimes146 (45.9%)
Always
75(23.6%)*
king seal test for N95 mask before use
rare
154(48.4%)
Sometimes 98(30.8%)
Always
66(20.8%)*
hing hand between steps of doffing PPE
rare
79(24.8%)
Sometimes 106(33.3%)
Always
133(41.8%)
nging the torn gloves immediately after proper hand washing
rare
16(5.0%)
Sometimes 66(20.8%)
Always
236(74.2%)
nging Medical/surgical mask if it get wet during work
ediate
rare
32(10.1%)
Sometimes 90(28.3%)
Always
196(61.6%)
g single use gloves for one patient
rare
31(9.7%)
Sometimes 88(27.7%)
Always
199(62.6%)
osable of used PPF in infectious waste
rare
12(3.8%)
Sometimes 42(13.2%)
Always
264(83.0%)
ction control practices score: mean + SD (Range)
ction control practices score %: mean + SD (Range)
21.26+ 3.29(12-27)
78.76 + 12.17(44.4-
100) (*) Items with lowest self-reporting infection control practices
Table 4, Shows the association between socio-demographic characteristics and the level of COVID-19
related knowledge, the mean knowledge score was significantly higher in the old age group(>30 years),
males, consultants, pediatric specialty , and among physicians who attended infection control courses. Regarding the safe infection control practices, participants who attended infection control courses have a
significantly higher safe practice than others. Patients' overload and improper design of the working places have been mentioned as perceived as
barriers to infection control by the majority (90%) of our participants. Table 5
Table 5: Infection control perceived barriers. Table 4: Relation between socio-demographic characteristics and their infection control
knowledge and practices scores regarding COVID-19. Page 7/14 Mean Knowledge
score %
Mean infection
control practices %
Mean SD
P value Mean
SD
P value
Age
<=30
58.6515.3
78.59 12.30
>30
54.2416.6 0.018*¥
79.07 11.98 0.73
Gender
Female
54.7 15.2
78.41 11.62
male
60.7 16.2 0.001*¥
79.29 13.00 0.53
Job title
House officer
52.8515.77
80.06 12.79
Resident
56.4815.59
76.21 12.30
specialist
55.7316.07
79.77 12.78
consultant
60.9015.600.027*ǂ
79.04 7.80
0.12
specialty
House officer
52.8515.77
80.06 12.79
general surgery
54.7015.05
77.49 11.99
Internal medicine 53.3915.15
77.86 12.22
Obstetrics and
gynecology
58.3316.93
79.86 12.76
pediatrics
61.0117.580.008*ǂ
79.37 9.69
0.61
Years of working experience
0 to5
59.1915.63
79.81 11.78
>5-10
54.6715.89
78.11 12.32
>10
54.4416.090.034*ǂ
76.91 12.81 0.14
Attending infection control
training courses
No
53.5 15.2
77.04 10.99
Yes
60.3 15.8 <0.001*¥80.31 12.99 0.01*
Significant (ǂ) ANOVA (¥)independent t test Significant (ǂ) ANOVA (¥)independent t test Patients' overload and improper design of the working places have been mentioned as perceived as
barriers to infection control by the majority (90%) of our participants. Table 5
Table 5: Infection control perceived barriers. Page 8/14 Perceived barriers
%
Less commitment of health care workers to the infection control policies
77.80%
Insufficient training on infection control measures
87.20%
Overcrowding of the emergency room
89%
limitation of materials needed to apply infection control practices
89.50%
Patients overload
90%
Narrow and improper design of the working places
90% Perceived barriers
%
Less commitment of health care workers to the infection control policies
77.80%
Insufficient training on infection control measures
87.20%
Overcrowding of the emergency room
89%
limitation of materials needed to apply infection control practices
89.50%
Patients overload
90%
Narrow and improper design of the working places
90% Perceived barriers Discussion Our study results have revealed that physicians have an average level of COVID-19 related knowledge, the
mean correct answer rate was 57.1%+ 15.9%. This is consistent with the results of a study conducted in
the United Arab Emirates And another study conducted in Iran as the level of knowledge was 61% and
56.5% [15,16] But, lower than that reported in other studies conducted in Egypt, China, Vietnam and
Uganda as the knowledge correct answer rate were 80.4%, 90%, 88.4%, and 82.4% respectively
[17,18,19,20]. These dissimilarities could be due to differences in the characteristics of the surveyed
populations and the scientific level of the items used in evaluating the degree of the infection control
knowledge among different studies. In the current study, the most prevalent correct answers were related to the importance of hand
washing with soap or the use of an alcohol-based antiseptic in decreasing the risk of the infection
(99.7%), and the importance of maintenance of social distance (97.5%). These results are similar to that
have been mentioned in two studies conducted among Saudi HCWs, and Indian undergraduate students
were participants reported the importance of hand hygiene before touching the patients in a percentage
of 94.1% and 85.4% respectively [21,22] .while the importance of social distancing was in line with a
study conducted in El Fayoum governorate, Egypt and another study conducted in Iran as 97% of the
participants reported that coronavirus spread via close contact [13,23] Knowledge level about COVID-19 has been significantly associated with younger age groups (less than
30 years old). Several studies results have found that the younger age group has a higher level of
knowledge [17, 18, 24], contrary to other studies that have shown that a higher level of knowledge has
associated with the older age group >30 years old [25, 26]. While other studies have reported that there
has no association between knowledge and age [27, 28]. Page 9/14
In the present study, a statistically significant relationship between physicians' knowledge and their years
of experience was detected. This result is dissimilar to that have been mentioned in a study conducted in
Pakistan as there was no association between years of experience and the knowledge level [29], on the Page 9/14 other hand, other studies have shown that the mean knowledge score was significantly higher among
those who had more than ten years of experience [25, 30]. Limitations Our study has been conducted among a sample of physicians who have accepted to fulfill the online
questionnaire. Lack of presentation of all physicians has interfered with the generalization of our results. Discussion other hand, other studies have shown that the mean knowledge score was significantly higher among
those who had more than ten years of experience [25, 30]. Regarding infection control practices we found that the mean infection control practices score was
(78.76 + 12.17), this is in accordance with a study done in Saudi Arabia as 87.9% of health care workers
reported good infection control practice [25]. In our study, the most prevalent correct practice was related to hand washing as only 5% of our
participants rarely apply proper hand washing, while 58.5% of them always apply it properly. This is
higher than that has been found in a study conducted in Brazil as the hand washing adherence rate was
46.25% in critical care unit [31] About 58.5.5% of the studied group always wears PPE, while only 8.2% rarely wears it properly and
23% always Uses N95 mask during all patient management procedures, this is in line with a study
conducted in Saudi Arabia which has reported that 71% of health workers wear the mask during work
[32]. Another study that has been carried out in Pakistan has shown that the correct usage of masks was
good in 35.2%, moderate in 45.4%, and poor in 19.3% of the studied group [33].In contrast, a study has
been carried out in Vietnam has reported that there is a limited number of correct responses regarding
items related to the use of personal protective equipment [34]. Our results have revealed that the previous attendance of infection control training courses was the
only significant factor affecting physicians' infection control practices. This result reflects the importance
of practical training and learning by doing as essential and mandatory requirements for applying proper
infection control practices. Patients' overcrowding and limited infection control material have been reported as perceived
barriers by the majority of our study participants, this is consistent with the results of other relevant
studies that mentioned these factors as barriers to infection control practices [17, 29, and 35]. Abbreviations CDC: Centers for Disease Control and prevention
COVID-19: Coronavirus Disease 2019
HCWs: Health Care Workers
ICUs: Intensive Care Units
PPE: Personal Protective Equipment
SARS: Sever Acute Respiratory Syndrome
WHO: World Health Organization WHO: World Health Organization Author Contributions: Author Contributions: RS conceptualized the study idea, designed the online form, analyzed the data, and was a major
contributor in writing the manuscript. SA conceptualized the study idea and participated in writing the
manuscript. AF participated in writing and editing the draft of the manuscript. All authors participated in
data collection. All authors have read and approved the manuscript Acknowledgements Authors would like to express their great appreciation to participants who
generously shared their time and agreed to participate in this study Conclusion The overall Knowledge and practice of physicians regarding the infection control were found to be on
average compared to other studies. Patients overload, improper design of the working places, limitations
of materials needed to apply infection control measures and insufficient infection control training
measures were perceived as barriers to infection control by most of our participants. Continues infection
control training, providing adequate supplies of PPE and proper designing of working places are essential
requirements for infection control practices within the health care facilities. Page 10/14 Page 10/14 1. Huang, C., Wang, Y., Li, X., Ren, L., Zhao, J., Hu, Y., et al. Clinical features of patients infected with
2019 novel coronavirus in Wuhan, China. The lancet. (2020) ;395(10223), pp.497-506. DOI: Declarations Ethics approval and consent to participate: The research ethics committee (REC) in the Faculty of
Medicine, Ain Shams University approved this study (Approval number: FMASU R 50/2020). Filling
the questionnaire by physicians is considered an approval to participate in the study. Confidentiality
of data has been maintained through the anonymity of the questionnaire. Consent for publication: Not applicable Availability of data and material: The datasets generated and analyzed during the current study are
available from the corresponding author on request. Availability of data and material: The datasets generated and analyzed during the current study are
available from the corresponding author on request. Competing interests: The authors state that they have no competing interests. Competing interests: The authors state that they have no competing inte Funding There has been no significant financial support for this work that could have influenced its
outcome. 10.1016/S0140-6736(20)30183-5. 10.1016/S0140-6736(20)30183-5. 2. World Health Organization. Coronavirus disease 2019 (COVID-19) Situation Report—51. Geneva:
WHO. (2020). Retrieved May13, 2020 from www.who.int/emergencie s/diseases/novel -coronavirus-
2019/situation-reports. Last accessed Sept.2020 3. Guan, W., Ni, Z., Hu, Y., Liang, W.H., Ou, C.Q., He, J.X., et al. Clinical characteristics of coronavirus
disease 2019 in China. New England Journal of Medicine. (2020) ;382(18), pp.1708-1720. https
://doi.org/10.1056/nejmo a2002 032. 4. World Health Organization. WHO Director-General’s opening remarks at the media briefing onCOVID-
19e11March2020.Geneva: WHO;2020.Available at: https://www.who.int/dg/speeches/detail/who-
director-general-s-opening-remarks-at-the-mediabriefing-on-covid-19—11-march-2020. Last accessed
Sept.2020 5. Song, P. and Karako, T. COVID-19: Real-time dissemination of scientific information to fight a public
health emergency of international concern. Bioscience trends. 2020;14(1):1-2. PMID: 32092748. DOI:
10.5582/bst.2020.01056. 6. Li, Q., Guan, X., Wu, P., Wang, X., Zhou, L., Tong, Y. et al. Early transmission dynamics in Wuhan,
China, of novel coronavirus-infected pneumonia. New England Journal of Medicine. (2020) ; 382,
1199–1207. https ://doi. org/10.1056/NEJMo a2001 316. DOI: 10.1056/NEJMoa2001316 7. Salman, M., Mustafa, Z.U., Asif, N., Zaidi, H.A., Hussain, K., Shehzadi, N. et al. Knowledge, attitude
and preventive practices related to COVID-19: a cross-sectional study in two Pakistani university
populations. Drugs & Therapy Perspectives. 2020; May 9:1. DOI: https://doi.org/10.1007/s40267-
020-00737-7 8. World Health Organization. Infection prevention and control during health care when novel
coronavirus (nCoV) infection is suspected, World Health Organization: Geneva (2020). Retrieved May
10, 2020 from https ://www.who.int. Last accessed Sept.2020. 8. World Health Organization. Infection prevention and control during health care when novel
coronavirus (nCoV) infection is suspected, World Health Organization: Geneva (2020). Retrieved May
10, 2020 from https ://www.who.int. Last accessed Sept.2020. 9. World Health Organization. Coronavirus Disease (COVID-19) Outbreak: Rights, roles and
responsibilities of health workers, including key considerations for occupational safety and health. (2020). Retrieved May 13, 2020 from www.who.int/publi cations-detail/coronavirus-disease-(covid-
19)-outbreak. Last accessed Sept.2020 9. World Health Organization. Coronavirus Disease (COVID-19) Outbreak: Rights, roles and
responsibilities of health workers, including key considerations for occupational safety and health. (2020). Retrieved May 13, 2020 from www.who.int/publi cations-detail/coronavirus-disease-(covid-
19)-outbreak. Last accessed Sept.2020 10. Gan, W. H., Lim, J. W., & Koh, D. Preventing intra-hospital infection and transmission of COVID-19 in
healthcare workers. Safety and Health at Work, (2020); 11, 241. doi: 10.1016/j.shaw.2020.03.001 11. Wu, Z., & McGoogan, J. M. Characteristics of and important lessons from the coronavirus disease
2019 (COVID-19) outbreak in China: Summary of a report of 72314 cases from the Chinese centre for
disease control and prevention (2020). https ://doi.org/10.1001/jama.2020.2648. 11. References 1. Huang, C., Wang, Y., Li, X., Ren, L., Zhao, J., Hu, Y., et al. Clinical features of patients infected with
2019 novel coronavirus in Wuhan, China. The lancet. (2020) ;395(10223), pp.497-506. DOI: Page 11/14 Page 11/14 Page 11/14 Community Health (2020). https://doi.org/10.1007/s10900-020-00882-0 Community Health (2020). https://doi.org/10.1007/s10900-020-00882-0 14. CDC guidance document for coronavirus disease available at
https://www.cdc.gov/coronavirus/2019-ncov/communication/guidance-list.html? Sort=Date%3A%3Adesc . Last accessed Sept.2020 14. CDC guidance document for coronavirus disease available at
https://www.cdc.gov/coronavirus/2019-ncov/communication/guidance-list.html? Sort=Date%3A%3Adesc . Last accessed Sept.2020 15. Bhagavathula AS, Aldhaleei WA, Rahmani J, Mahabadi MA, Bandari DK. Knowledge and Perceptions
of COVID-19 among Health Care Workers: Cross-Sectional Study. JMIR Public Health Surveill. 2020
Apr 30;6(2):e19160. doi: 10.2196/19160. PMID: 32320381; PMCID: PMC7193987. 15. Bhagavathula AS, Aldhaleei WA, Rahmani J, Mahabadi MA, Bandari DK. Knowledge and Perceptions
of COVID-19 among Health Care Workers: Cross-Sectional Study. JMIR Public Health Surveill. 2020
Apr 30;6(2):e19160. doi: 10.2196/19160. PMID: 32320381; PMCID: PMC7193987. 16. Nemati, Marzieh & Ebrahimi, Bahareh. Assessment of Iranian Nurses’ Knowledge and Anxiety toward
COVID-19 During the Current Outbreak in Iran. Archives of Clinical Infectious Diseases. In Press.2020. 10.5812/archcid.102848. doi: 10.5812/archcid.102848 16. Nemati, Marzieh & Ebrahimi, Bahareh. Assessment of Iranian Nurses’ Knowledge and Anxiety toward
COVID-19 During the Current Outbreak in Iran. Archives of Clinical Infectious Diseases. In Press.2020. 10.5812/archcid.102848. doi: 10.5812/archcid.102848 16. Nemati, Marzieh & Ebrahimi, Bahareh. Assessment of Iranian Nurses’ Knowledge and Anxiety toward
COVID-19 During the Current Outbreak in Iran. Archives of Clinical Infectious Diseases. In Press.2020. 10.5812/archcid.102848. doi: 10.5812/archcid.102848 17. Abdelhafiz, A.S., Mohammed, Z., Ibrahim, M.E., Ziady,H.H., Alorabi,M.A.,Sultan,E.A,. Knowledge,
Perceptions, and Attitude of Egyptians Towards the Novel Coronavirus Disease (COVID-19). J
Community Health 45, 881–890 (2020). https://doi.org/10.1007/s10900-020-00827-7 17. Abdelhafiz, A.S., Mohammed, Z., Ibrahim, M.E., Ziady,H.H., Alorabi,M.A.,Sultan,E.A,. Knowledge,
Perceptions, and Attitude of Egyptians Towards the Novel Coronavirus Disease (COVID-19). J
Community Health 45, 881–890 (2020). https://doi.org/10.1007/s10900-020-00827-7 18. Zhang M, Zhou M, Tang F, Wang Y, Nie H, Zhang L, You G. Knowledge, attitude, and practice
regarding COVID-19 among healthcare workers in Henan, China. J Hosp Infect. 2020 Jun;105(2):183-
187. doi: 10.1016/j.jhin.2020.04.012. Epub 2020 Apr 9. PMID: 32278701; PMCID: PMC7194961. 19. Huynh G, Nguyen TN, Tran VK, Vo KN, Vo VT, Pham LA. Knowledge and attitude toward COVID-19
among healthcare workers at District 2 Hospital, Ho Chi Minh City. Asian Pac J Trop Med [serial
online] 2020 [cited 2020 Oct 7]; 13:260-5. Available from: https://www.apjtm.org/text.asp? 2020/13/6/260/280396 20. Olum R, Kajjimu J, Kanyike AM, Chekwech G, Wekha G, Nassozi DR, Kemigisa J, Mulyamboga P,
Muhoozi OK, Nsenga L, Lyavala M, Asiimwe A, Bongomin F. Perspective of Medical Students on the
COVID-19 Pandemic: Survey of Nine Medical Schools in Uganda.JMIR Public Health Surveill
2020;6(2):e19847. DOI: 10.2196/19847. 20. 10.1016/S0140-6736(20)30183-5. Wu, Z., & McGoogan, J. M. Characteristics of and important lessons from the coronavirus disease
2019 (COVID-19) outbreak in China: Summary of a report of 72314 cases from the Chinese centre for
disease control and prevention (2020). https ://doi.org/10.1001/jama.2020.2648. 12. Nguyen, L. H., Drew, D. A., Graham, M. S., Joshi, A. D., Guo, C. G., Ma, W.,et al. Risk of COVID-19
among front-line health-care workers and the general community: a prospective cohort study. The
Lancet Public Health, (2020). 5(9), e475–e483. https://doi.org/10.1016/S2468-2667(20)30164-X 12. Nguyen, L. H., Drew, D. A., Graham, M. S., Joshi, A. D., Guo, C. G., Ma, W.,et al. Risk of COVID-19
among front-line health-care workers and the general community: a prospective cohort study. The
Lancet Public Health, (2020). 5(9), e475–e483. https://doi.org/10.1016/S2468-2667(20)30164-X 13. Abdel Wahed, W.Y., Hefzy, E.M., Ahmed, M.I.,Hamed M.I. Assessment of Knowledge, Attitudes, and
Perception of Health Care Workers Regarding COVID-19, A Cross-Sectional Study from Egypt. J 13. Abdel Wahed, W.Y., Hefzy, E.M., Ahmed, M.I.,Hamed M.I. Assessment of Knowledge, Attitudes, and
Perception of Health Care Workers Regarding COVID-19, A Cross-Sectional Study from Egypt. J Page 12/14 Community Health (2020). https://doi.org/10.1007/s10900-020-00882-0 Olum R, Kajjimu J, Kanyike AM, Chekwech G, Wekha G, Nassozi DR, Kemigisa J, Mulyamboga P,
Muhoozi OK, Nsenga L, Lyavala M, Asiimwe A, Bongomin F. Perspective of Medical Students on the
COVID-19 Pandemic: Survey of Nine Medical Schools in Uganda.JMIR Public Health Surveill
2020;6(2):e19847. DOI: 10.2196/19847. 21. Al Mutairi SM, Alotaibi A, Kofi M, Alsuraimi A, Bawazir A.To What Extent the Hand Hygiene among
Health Care Workers Become the Core of Best Practice in the COVID-19 Era?. Int Arch Nurs Health
Care.2020; 6:144. doi.org/10.23937/2469-5823/1510144 21. Al Mutairi SM, Alotaibi A, Kofi M, Alsuraimi A, Bawazir A.To What Extent the Hand Hygiene among
Health Care Workers Become the Core of Best Practice in the COVID-19 Era?. Int Arch Nurs Health
Care.2020; 6:144. doi.org/10.23937/2469-5823/1510144 22. Brahmbhatt KR, Lodhiya KK. Hand hygiene knowledge among undergraduate medical students in
Junagadh, Gujarat, India. International Journal of Community Medicine and Public Health.2019 6:
1917-1922. DOI: http://dx.doi.org/10.18203/2394-6040.ijcmph20191449 22. Brahmbhatt KR, Lodhiya KK. Hand hygiene knowledge among undergraduate medical students in
Junagadh, Gujarat, India. International Journal of Community Medicine and Public Health.2019 6:
1917-1922. DOI: http://dx.doi.org/10.18203/2394-6040.ijcmph20191449 23. Maleki, S., Najafi, F., Farhadi, K., Fakhri, M., Hosseini, F., & Naderi, M. (2020). Knowledge, Attitude and
Behavior of Health Care Workers in the Prevention of COVID-19. 1–17. https://doi.org/10.21203/rs.3.rs-23113/v1. 23. Maleki, S., Najafi, F., Farhadi, K., Fakhri, M., Hosseini, F., & Naderi, M. (2020). Knowledge, Attitude and
Behavior of Health Care Workers in the Prevention of COVID-19. 1–17. https://doi.org/10.21203/rs.3.rs-23113/v1. 24. Zhong, B. L., Luo, W., Li, H. M., Zhang, Q. Q., Liu, X. G., Li, W. T., & Li, Y.Knowledge, attitudes, and
practices towards COVID-19 among Chinese residents during the rapid rise period of the COVID-19
outbreak: a quick online cross-sectional survey. International journal of biological
sciences.2020. 16(10), 1745–1752. https://doi.org/10.7150/ijbs.45221 24. Zhong, B. L., Luo, W., Li, H. M., Zhang, Q. Q., Liu, X. G., Li, W. T., & Li, Y.Knowledge, attitudes, and
practices towards COVID-19 among Chinese residents during the rapid rise period of the COVID-19
outbreak: a quick online cross-sectional survey. International journal of biological
sciences.2020. 16(10), 1745–1752. https://doi.org/10.7150/ijbs.45221 Page 13/14 25. Nour, M.O., Babalghith, A.O., Natto, H.A., Alawneh, S.M. and Elamin, F.O. Raising awareness of health
care providers about MERSCoV infection in public hospitals in Mecca, Saudi Arabia. East Mediterr
Health J.2017;23(8), pp.534.42 https://doi.org/10.26719/2017.23.8.53. 26. Asaad A, El-Sokkary R, Alzamanan M, El-Shafei M. Community Health (2020). https://doi.org/10.1007/s10900-020-00882-0 Knowledge and attitudes towards Middle East
respiratory sydrome-coronavirus (MERS-CoV) among health care workers in south-western Saudi
Arabia. East Mediterr Health J. 2020 Apr 16;26(4):435-442. doi: 10.26719/emhj.19.079. PMID:
32338362. 27. Al-Amri S, Bharti R, Alsaleem SA, Al-Musa HM, Chaudhary S, Al-Shaikh AA. Knowledge and practices
of primary health care physicians regarding updated guidelines of MERS-CoV infection in Abha
city. J Family Med Prim Care. 2019;8(2):455-461. doi:10.4103/jfmpc.jfmpc336_18. 28. Apisarnthanarak A, Phattanakeitchai P, Warren DK, Fraser VJ. Impact of knowledge and positive
attitudes about avian influenza (H5N1 virus infection) on infection control and influenza vaccination
practices of Thai healthcare workers. Infect Control Hosp Epidemiol. 2008 May;29(5):472-4. doi:
10.1086/587495. PMID: 18419378. 29. Saqlain, Muhammad , Munir Muhammad , Rehman, Saif , Gulzar, Aqsa , Naz Sahar ,Ahmed, Zaheer ,
etal .Knowledge, attitude, practice and perceived barriers among healthcare professionals regarding
COVID-19: A Cross-sectional survey from Pakistan. Journal of hospital infections 105 (2020) 419-
423.DOI:10.1101/2020.04.13.20063198. 30. Nas, F., Ali, M., azu, L., Abdallah, M., Yusuf, S. Epidemiology of novel COVID-19 in Nigeria. Microbes
and Infectious Diseases, 2020; 1(2): 49-56. doi: 10.21608/mid.2020.103530 31. Bezerra, TB, Valim, MD, Bortolini, J, Ribeiro, RP, Marcon, SR, Moura, MEB. Adherence to hand hygiene
in critical sectors: Can we go on like this?. J Clin Nurs. 2020; 29: 2691– 2698. https://doi.org/10.1111/jocn.15293. 32. Unaib Rabbani and Abdullah Mohammed Al Saigul. Knowledge, Attitude and Practices of Health
Care Workers about Corona Virus Disease 2019 in Saudi Arabia. Journal of Epidemiology and Global
Health.2020. https://doi.org/10.2991/jegh.k.200819.002 33. Kumar J, Katto MS, Siddiqui AA, Sahito B, Jamil M, Rasheed N, et al. Knowledge, Attitude, and
Practices of Healthcare Workers Regarding the Use of Face Mask to Limit the Spread of the New
Coronavirus Disease (COVID-19). Cureus. 2020 Apr 20;12(4):e7737. doi: 10.7759/cureus.7737. PMID:
32455057; PMCID: PMC7241223. 34. Thu T , QuocAnh N, QuyChau N and Hung N. Knowledge, Attitude and Practices regarding Standard
and Isolation Precautions among Vietnamese Health Care Workers: A Multicenter Cross-Sectional
Survey. Internal Medicine:2012. Open Access, 02(04), 2–6. https://doi.org/10.4172/2165-
8048.1000115. 35. Ogolodom MP, Mbaba AN, Alazigha N, Erondu OF, Egbe NO, Golden I, et al. Knowledge, Attitudes and
Fears of HealthCare Workers towards the Corona Virus Disease (COVID-19) Pandemic in South-
South, Nigeria. Health Sci J. Sp.2020; Iss 1: 002. DOI: 10.36648/1791-809X.S1.002. Page 14/14 Page 14/14
|
https://openalex.org/W4308972966
|
https://discovery.dundee.ac.uk/ws/files/90561486/applsci_12_11470_v3_1_.pdf
|
English
| null |
Mode of Action of the Natural Product Allicin in a Plant Model: Influence on the Cytoskeleton and Subsequent Shift in Auxin Localization
|
Applied sciences
| 2,022
|
cc-by
| 9,372
|
Mode of Action of the Natural Product Allicin in a Plant Mode Link to publication in Discovery Research Portal Citation for published version (APA):
Noll, U., Schreiber, M., Hermanns, M., Mertes, C. A., Slusarenko, A. J., & Gruhlke, M. C. H. (2022). Mode of
Action of the Natural Product Allicin in a Plant Model: Influence on the Cytoskeleton and Subsequent Shift in
Auxin Localization. Applied Sciences, 12(22), Article 11470. https://doi.org/10.3390/app122211470 General rights
Copyright and moral rights for the publications made accessible in Discovery Research Portal are retained by the authors and/or other
copyright owners and it is a condition of accessing publications that users recognise and abide by the legal requirements associated with
these rights. Citation for published version (APA):
Noll, U., Schreiber, M., Hermanns, M., Mertes, C. A., Slusarenko, A. J., & Gruhlke, M. C. H. (2022). Mode of
Action of the Natural Product Allicin in a Plant Model: Influence on the Cytoskeleton and Subsequent Shift in
Auxin Localization. Applied Sciences, 12(22), Article 11470. https://doi.org/10.3390/app122211470 University of Dundee University of Dundee Mode of Action of the Natural Product Allicin in a Plant Model Mode of Action of the Natural Product Allicin in a Plant Model Citation: Noll, U.; Schreiber, M.;
Hermanns, M.; Mertes, C.A.;
Slusarenko, A.J.; Gruhlke, M.C.H. Mode of Action of the Natural
Product Allicin in a Plant Model:
Influence on the Cytoskeleton and
Subsequent Shift in Auxin
Localization. Appl. Sci. 2022, 12,
11470. https://doi.org/10.3390/
app122211470 Keywords: allicin; redox; tradescantia; arabidopsis; cytoskeleton; auxin; mode of action Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. General rights
i h
d Take down policy
If you believe that this document breaches copyright please contact us providing details, and we will remove access to the work immediately
and investigate your claim. Download date: 24. Oct. 2024 Download date: 24. Oct. 2024 Download date: 24. Oct. 2024 Download date: 24. Oct. 2024 applied
sciences applied
sciences Ulrike Noll 1,2, Miriam Schreiber 1,3, Monika Hermanns 1, Christopher A. Mertes 1, Alan J. Slusarenko 1,2
and Martin C. H. Gruhlke 1,2,* Miriam Schreiber 1,3, Monika Hermanns 1, Christopher A. Mertes 1, Alan J. Slusarenko 1,2
H Gruhlke 1,2,* 1
Department of Plant Physiology, RWTH Aachen University, Worringer Weg 1, 52074 Aachen, Germany
2
Society for Natural Product and Drug Research, Lukasstrasse 1, 52070 Aachen, Germany
3
College of Life Sciences, University of Dundee, Division of Plant Science, Errol Road, Invergowrie,
Dundee DD2 5DA, UK
*
Correspondence: martin.gruhlke@genawif.com; Tel.: +49-241-98091551 1
Department of Plant Physiology, RWTH Aachen University, Worringer Weg 1, 52074 Aachen, Germany
2
Society for Natural Product and Drug Research, Lukasstrasse 1, 52070 Aachen, Germany
3
College of Life Sciences, University of Dundee, Division of Plant Science, Errol Road, Invergowrie,
Dundee DD2 5DA, UK
*
Correspondence: martin.gruhlke@genawif.com; Tel.: +49-241-98091551 Abstract: Allicin is a defense substance produced by garlic cells when they are injured. It is a
redox-active thiosulfinate showing redox-activity with a broad range of dose-dependent antimicro-
bial and biocidal activity. It is known that allicin efficiently oxidizes thiol-groups, and it has been
described as a redox toxin because it alters the redox homeostasis in cells and triggers oxidative
stress responses. Allicin can therefore be used as a model substance to investigate the action of
thiol-specific prooxidants. In order to learn more about the effect of allicin on plants, we used pure
synthetized allicin, and studied the influence of allicin on organelle movement in Tradescantia flumi-
nensis as a cytoskeleton-dependent process. Furthermore, we investigated cytoplasmic streaming in
sterile filaments of Tradescantia fluminensis, organelle movement using transgenic Arabidopsis with
organelle-specifics GFP-tags, and effects on actin and tubulin in the cytoskeleton using GFP-tagged
lines. Tubulin and actin were visualized by GFP-tagging in transgenic lines of Arabidopsis thaliana
to visualize the influence of allicin on the cytoskeleton. Since auxin transport depends on recycling
and turnover of the PIN protein involving cytoskeletal transport to and from the membrane local-
ization sites, auxin distribution in roots was investigated using of transgenic PIN1–GFP, PIN3–GFP,
DR5–GFP and DII–VENUS Arabidopsis reporter lines. Allicin inhibited cytoplasmic streaming
in T. fluminensis, organelle movement of peroxi-somesperoxisomes, and the Golgi apparatus in a
concentration-dependent manner. It also destroyed the correct root tip distribution of auxin, which
probably contributed to the observed inhibition of root growth. These observations of the disruption
of cytoskeleton-dependent transport processes in plant cells add a new facet to the mechanism of
action of allicin as a redox toxin in cells. 1. Introduction Actin and tubulin are major structural components of the cytoskeleton, and their
polymerization and depolymerization are important, amongst other things, for cytoplasmic
streaming and intracellular trafficking [1]. Soon after the discovery of actin, it was shown
that oxidizing agents not only inhibited the polymerization of globular actin, but also
depolymerized actin filaments [2]. The importance of sulfhydryl groups for protoplasmic
streaming in plant cells was reported in 1964 by Abe [3] who showed the effect of the specific
thiol-trapping reagent p-chloromercuribenzoate in bringing cytoplasmic streaming to a
standstill in the internodal cells of Nitella flexilis, the leaf cells of Elodea densa, the root hair
cells of Hydrocharis morsus ranae, and the stamen hair cells of Tradescantia reflexa. Elements
of the cytoskeleton are known to be highly sensitive to oxidation [4,5], and redox-mediated Copyright:
© 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). https://www.mdpi.com/journal/applsci Appl. Sci. 2022, 12, 11470. https://doi.org/10.3390/app122211470 Appl. Sci. 2022, 12, 11470 2 of 12 posttranslational modifications of the cytoskeleton affect polymerization [6,7]. The redox
regulation of actin and tubulin dynamics is now a well characterized phenomenon [8–10]. Allicin from garlic is the most prominent sulfur-containing bioactive compound in
freshly damaged garlic tissue [11,12]. It oxidizes thiol-groups in a thiol-disulfide-exchange-
like manner, leading to S-thioallylated adducts [13–17]. Since allicin is a strongly antimi-
crobial compound with a broad-spectrum of activity, it has the potential for application
in agricultural pest control [18–22]. Allicin‘s degradation products, primarily polysul-
fanes, ajoenes, and vinyldithiins, can also show biological activity and can be active as
antimicrobial components. The effect of these sulfur-containing components in allelopathic
interactions with other organisms can be of importance, as is observed in particular for
wild garlic (Allium ursinum L.), to which is attributed the exudation of sulfur-containing
secondary metabolites [23]. y
In animal cells, it was shown that allicin, which acts as a “redox-toxin” [13], affects
the integrity and function of the cytoskeleton [24]. It was reported that 0.5 µM of allicin
preferentially affected the tubulin cytoskeleton, while the actin cytoskeleton was a minor
target (ibid.). However, at a higher 25 µM concentration of allicin, the actin cytoskeleton
was also reported to be disrupted [25]. 1. Introduction Furthermore, 16 cytoskeletal proteins were shown to
be S-thioallylated by 100 µM of allicin in human Jurkat cells within 10 min of exposure [26]. y
y
p
The actin cytoskeleton is of particular importance for the correct polar transport of
auxin in relation to PIN efflux carrier recycling [27–29]. Auxin also exerts an influence
on the regulation of actin turnover [30]. The high redox sensitivity of actin is probably
significant for the observation that auxin transport is related to the state of the total cellular
glutathione pool, which is the most important thiol-based redox buffer of the cell [31]. Thus,
treatment of Arabidopsis thaliana seedlings with buthionine sulphoximine (BSO), a specific
inhibitor of glutathione biosynthesis, led to a clear concentration-dependent inhibition
of root growth and a loss of the auxin efflux carriers PIN1, PIN2, and PIN7, as well as
the consequent destruction of the correct auxin distribution in the root tip (ibid.). This
observation correlates with the finding that mutants in glutathione biosynthesis formed
shortened roots, such as was seen in the weak allele mutants pad2 and cad2 of the Arabidopsis
thaliana GSH1 gene, which had reduced glutathione levels [32]. Mutants of the strong rml1
(root meristemless) allele of GSH1 were almost unable to produce glutathione, could not
maintain the root apical meristem, and consequently could not form a root [33,34]. Due to the need to understand the phytotoxicity of allicin with regard to its possible use
in organic farming, as well as the allelopathic effects of these substances, we are interested
in understanding the molecular causes of the effects of allicin on plants. It has already
been reported that allicin inhibits Arabidopsis thaliana primary and lateral root growth
in a concentration-dependent manner [35,36]. In the work reported here, we analyzed
the effect of allicin, applied as a solution of chemically synthesized pure allicin, on the
cytoskeleton and consequent cytoskeleton-dependent cellular processes like cytoplasmic
streaming, organelle movement, and auxin distribution, which may have led to the root
growth-inhibiting effects of allicin. 2. Materials and Methods 2.1. Plant material and cultivation 2.3. Measurement of Protoplasmic Streaming As a measure of the influence of allicin on protoplastic flow, the time was recorded
for cytoplasmic flow to cease following exposure to allicin. For this purpose, individual
sterile flower filaments were plucked off with tweezers and placed under a microscope
as a water preparation. To prevent the specimen from being crushed, the cover glass was
slightly raised by small amounts of plasticine at the corners. Treatment with allicin or
garlic juice was carried out by using a filter paper to draw off the water under the coverslip
and replace it with allicin solutions of the appropriate concentration. In the same way,
the allicin solution was exchanged for distilled water for the regeneration experiments. Microscopy was carried out at 400× magnification using transmitted light microscopy. Separate staining was not necessary. 2.4. Confocal Laser Scan Microscopy For GFP-visualization, a Confocal Laser Scan Microscope (TCS SP1, Leica GmbH,
Wetzlar, Germany) was used with an excitation wavelength of 488 nm and an emission
filter of 500–550 nm. For microscopy, a 63× water immersion objective was used and
processed with ImageJ (http://rsbweb.nih.gov/ij, last accessed on 18 August 2018). For analysis of the cytoskeleton, two-day-old seedlings were used; the seedlings were
placed on a slide in water or in an allicin solution of the indicated concentration. The
analysis was carried out after 30 min. For the PIN and auxin localization study, seedlings
were placed in Hoagland medium containing a concentration of 2 mM. The seedlings
were incubated for 24 h under short day conditions (22 ◦C, 16 h dark, 8 h light) before
microscopic analysis. 2.2. Synthesis of Allicin and Quantification of Allicin The chemical synthesis of allicin was conducted as described previously [13]. The
purity of the chemically synthesized allicin was >95% (ibid.). 2.1. Plant material and cultivation Tradescantia fluminensis VELL was cultivated in the greenhouse. For the induction of
flowering, the plants were grown in nutrient-poor soil. Mutants and different GFP-tagged Arabidopsis thaliana lines used in this study are
listed in Table 1. The plants were grown in solid Hoagland-medium (1 mM CaNO3; 5.1 mM
KNO3; 0.5 mM MgSO4; 0.5 mM MgCl2; 0.13 mM (NH4)H2PO4; 30 µM NH3NO3; 31 µM
NaOH; 22 µM EDTA-Iron-Sodium Salt; 9.7 µM BH3O3; 22 µM FeSO4; 2 µM MnSO4; 0.31 µM
ZnCl2, 0.21 µM CuSO4; 0.14 µM Na2MoO4; 86 nM Co(NO3)2, containing 8 g/L of plant
agar (Duchefa, Haarlem, The Netherlands). After stratification for two days at 4 ◦C, the
seedlings were grown under long day conditions (16 h light, 8 h dark; 22 ◦C) for two days
before treatment. Appl. Sci. 2022, 12, 11470 3 of 12 Table 1. Mutants and transgenic Arabidopsis thaliana lines used in this study. Mutant
Phenotype
Reference
ABD2–GFP
GFP-fusion protein with actin binding protein ABD2
allows visualization of actin cytoskeleton
[37]
Tubulin–GFP
GFP-fusion with beta-tubulin allows visualization of
tubulin cytoskeleton
[38]
GFP–PTS
Fusion of GFP with peroxisomal targeting sequence
allows visualization of peroxisomes
[39]
pad2
weak GSH1 allele, homozygote has ~30% GSH content of
the wild type
[40]
axr1-12
No auxin perception
[41]
aux1-2
Lack of auxin importer AUX1-2. [41]
DR5–GFP
GFP expression dependent on the auxin-responsive
DR5 promoter. [42]
DII–VENUS
Degradation of the fluorescent protein depending on the
presence of auxin
[43]
2.2. Synthesis of Allicin and Quantification of Allicin
The chemical synthesis of allicin was conducted as described previously [13]. The
it
f th
h
i
ll
th
i
d lli i
>95% (ibid ) Table 1. Mutants and transgenic Arabidopsis thaliana lines used in this study. 2.6. Statistics Statistical analyses were carried out using the program SigmaStat. Data were tested for
statistical significance using a multivariate data analysis (ANOVA) with a significance level
of p < 0.05. The data were first tested for normal distribution to allow for valid application
of the statistical tests. 2.5. Growth Assays Arabidopsis thaliana seeds were surface sterilized with ethanol and spread with a
toothpick onto solid Hoagland medium. Plates were stored at 4 ◦C for two days for strati-
fication before incubation at 22 ◦C for an additional two days under long day conditions
(16 h light/8 h dark). After this time, seedlings were carefully transferred with forceps
to Hoagland medium plates containing allicin at a final concentration of 0.5 mM and fur- Appl. Sci. 2022, 12, 11470 4 of 12 ther incubated under these conditions. Root length was measured at day zero and after
three days. ther incubated under these conditions. Root length was measured at day zero and after
three days. 3.3. Influence of Allicin on the Movement of Peroxisomes in Leaves Since the movement of organelles, such as peroxisomes, also takes place within the
framework of protoplasmic flow, an Arabidopsis thaliana line was used whose peroxisomes
were tagged with GFP [39]. This made their movement traceable. Leaves of this Arabidopsis
thaliana line were infiltrated by vacuum infiltration, with either water as a control treatment
or an allicin solution of the indicated concentration, and the movement of the organelles was
observed under a confocal laser scanning microscope (Figure 2A,B). While in the control,
it was clearly indicated by observing the curved trail of peroxisome movements between
the arrows that the peroxisomes moved substantially over the 10 min observation period
(Figure 2A), in the sample infiltrated with 4 mM of allicin, movement of the peroxisomes
was not observed (Figure 2B). 6 of 13
the control, it was clearly indicated by observing the curved trail of peroxisome move-
ments between the arrows that the peroxisomes moved substantially over the 10 min ob-
servation period (Figure 2A), in the sample infiltrated with 4 mM of allicin, movement of
the peroxisomes was not observed (Figure 2B). Figure 2. Movement of GFP-labelled peroxisomes in Arabidopsis thaliana treated with either (A) wa-
ter as a control or (B) 4 mM allicin. The images show a stack of 20 images each, taken 30 s apart. 3 4 Allicin Inhibits Primary- and Lateral Root Growth and Root Hair Development
Figure 2. Movement of GFP-labelled peroxisomes in Arabidopsis thaliana treated with either (A) water
as a control or (B) 4 mM allicin. The images show a stack of 20 images each, taken 30 s apart. 3 4 Allicin Inhibits Primary and Lateral Root Growth and Root Hair Development Figure 2. Movement of GFP-labelled peroxisomes in Arabidopsis thaliana treated with either (A) wa-
ter as a control or (B) 4 mM allicin. The images show a stack of 20 images each, taken 30 s apart. Figure 2. Movement of GFP-labelled peroxisomes in Arabidopsis thaliana treated with either (A) water
as a control or (B) 4 mM allicin. The images show a stack of 20 images each, taken 30 s apart. 3.4. Allicin Inhibits Primary- and Lateral Root Growth and Root Hair Development
3.4. 3. Results and Discussion 3.1. Protoplasmic Streaming in Tradescantia Fluminensis VELL As a model system for the influence of allicin on the cytoskeleton, we chose the
sterile hyaline filaments from the flower of T. fluminensis (shown in Figure 1A–C). The
time that elapsed until cytoplasmic streaming ceased after exposure to allicin solutions
of various concentrations was considered as a measure of the relative activity of allicin
on the cytoskeleton. Particles carried in the cytoplasmic stream were observed to have
locomotion (Figure 1D,E). Soon after the hyaline filaments of T. fluminensis were exposed,
the flow slowed down and stopped entirely after a certain time, which was dependent on
the allicin concentration. As the concentration of allicin increased, the time required for the
protoplasmic flow to come to a standstill decreased (Figure 1D). While a concentration of
0.5 mM of allicin led to a cessation of protoplasmic flow after approx. 13 min, a treatment
with 4 mM of allicin led to a complete cessation of protoplasmic flow after approx. 2 min
(Figure 1D). 5 of 13 Figure 1. (A–C) Sterile filaments in the flower of Tradescantia fluminensis are made up of hyaline cells
and are well suited to observe protoplasmic streaming. The scale bar in (C) = 0.1 mm (D) Allicin led
to a concentration- and time-dependent decrease in protoplasmic flow. The time that elapsed at a
certain concentration of allicin until protoplasmic flow stopped was measured, showing a correla-
Figure 1. (A–C) Sterile filaments in the flower of Tradescantia fluminensis are made up of hyaline cells
and are well suited to observe protoplasmic streaming. The scale bar in (C) = 0.1 mm (D) Allicin led Figure 1. (A–C) Sterile filaments in the flower of Tradescantia fluminensis are made up of hyaline cells
and are well suited to observe protoplasmic streaming. The scale bar in (C) = 0.1 mm (D) Allicin led
o a concentration- and time-dependent decrease in protoplasmic flow. The time that elapsed at a
Figure 1. (A–C) Sterile filaments in the flower of Tradescantia fluminensis are made up of hyaline cells
and are well suited to observe protoplasmic streaming. The scale bar in (C) = 0.1 mm (D) Allicin led Appl. Sci. 2022, 12, 11470 5 of 12 to a concentration- and time-dependent decrease in protoplasmic flow. 3.2. The Effect of Allicin on the Protoplasmic Streaming Was Partially Reversible 3.2. The Effect of Allicin on the Protoplasmic Streaming Was Partially Reversible In the following experiments, it was investigated as to whether the effect of allicin was
reversible by washing out the allicin. Filaments of Tradescantia were treated with allicin
with a final concentration of 0.25 mM. After cytoplasmic flow stopped, the allicin solution
was washed by capillary suction with filter paper that drew in pure water at the coverslip
edge to exchange the bathing solution. After about 12 min, protoplasmic flow began again
in isolated cells, although at a slower rate than before allicin treatment (not shown). Thus,
it can be concluded that the inhibition of protoplasmic flow by allicin can be reversible after
a certain regeneration phase; at a concentration higher than 0.25 mM allicin, this reversal
did not occur even after a long observation period (>30 min). 3. Results and Discussion The time that elapsed at a
certain concentration of allicin until protoplasmic flow stopped was measured, showing a correlation
between the allicin concentration and the time that elapsed until flow stopped. (E) Movement of
structures in the protoplasmic stream, in this case a fork in cytoplasmic strands, could be used to
measure the protoplasmic streaming. A further observation for 5, 10, and 30 min after treatment showed that, in the presence
of allicin, no new onset of protoplasmic disturbance was observed. 3.3. Influence of Allicin on the Movement of Peroxisomes in Leaves Allicin Inhibits Primary- and Lateral Root Growth and Root Hair Development The morphology of Arabidopsis thaliana wild type Col-0 seedlings germinated for two
days and exposed to 0.5 mM of allicin was very reminiscent of the morphology of the rml1
mutant [33]. The roots of wild type Col-0 ceased growing in the presence of allicin, while
the shoot axis appeared to be largely unaffected and developed normally (Figure 3A). Compared to the untreated control, the roots of plants exposed to allicin were generally
The morphology of Arabidopsis thaliana wild type Col-0 seedlings germinated for
two days and exposed to 0.5 mM of allicin was very reminiscent of the morphology of
the rml1 mutant [33]. The roots of wild type Col-0 ceased growing in the presence of
allicin, while the shoot axis appeared to be largely unaffected and developed normally
(Figure 3A). Compared to the untreated control, the roots of plants exposed to allicin Appl. Sci. 2022, 12, 11470 6 of 12 were generally much shorter and showed no lateral roots or root hairs. The prooxidant
cumene hydroperoxide also led to a similarly shortened root (Figure 3B). Root growth in
the pad2 mutant was also similarly inhibited by allicin and cumene hydroperoxide under
the conditions tested (Figure 3B). 7 Figure 3. Allicin inhibited primary root growth and root hair development. Seeds were germi
for two days on filter paper discs, which were then lifted and transferred to fresh medium con
ing allicin (A) or cumene hydroperoxide at the stated concentrations. (B) Wild type Col-0 was
pared to the GSH-deficient pad2 mutant. The scale bars = 1 mm. N = 20, experiment was rep
three times with similar results. The letters A,B above the respective graph columns indicate
tical differences as determined by ANOVA analysis. Figure 3. Allicin inhibited primary root growth and root hair development. Seeds were germinated
for two days on filter paper discs, which were then lifted and transferred to fresh medium containing
allicin (A) or cumene hydroperoxide at the stated concentrations. (B) Wild type Col-0 was compared
to the GSH-deficient pad2 mutant. The scale bars = 1 mm. N = 20, experiment was repeated three
times with similar results. The letters A, B above the respective graph columns indicate statistical
differences as determined by ANOVA analysis. gure 3. Allicin inhibited primary root growth and root hair development. 3.3. Influence of Allicin on the Movement of Peroxisomes in Leaves Seeds were germin
r two days on filter paper discs, which were then lifted and transferred to fresh medium con
g allicin (A) or cumene hydroperoxide at the stated concentrations. (B) Wild type Col-0 was
ared to the GSH-deficient pad2 mutant. The scale bars = 1 mm. N = 20, experiment was repe
ree times with similar results. The letters A,B above the respective graph columns indicate s
cal differences as determined by ANOVA analysis. Figure 3. Allicin inhibited primary root growth and root hair development. Seeds were germinated
for two days on filter paper discs, which were then lifted and transferred to fresh medium containing
allicin (A) or cumene hydroperoxide at the stated concentrations. (B) Wild type Col-0 was compared
to the GSH-deficient pad2 mutant. The scale bars = 1 mm. N = 20, experiment was repeated three
times with similar results. The letters A, B above the respective graph columns indicate statistical
differences as determined by ANOVA analysis. . Effect of Allicin on Actin- and Tubulin Cytoskeleton in Arabidopsis thalia
3.5. Effect of Allicin on Actin- and Tubulin Cytoskeleton in Arabidopsis thaliana 5. Effect of Allicin on Actin- and Tubulin Cytoskeleton in Arabidopsis thalia
3.5. Effect of Allicin on Actin- and Tubulin Cytoskeleton in Arabidopsis thaliana 5. Effect of Allicin on Actin- and Tubulin Cytoskeleton in Arabidopsis thalia
3.5. Effect of Allicin on Actin- and Tubulin Cytoskeleton in Arabidopsis thaliana 5. Effect of Allicin on Actin and Tubulin Cytoskeleton in Arabidopsis thaliana
To understand in more detail how allicin affects root development and whether
associated with the putative effect on the cytoskeleton that was observed in Trades
, Arabidopsis thaliana lines were used whose actin or tubulin filaments were visual
To understand in more detail how allicin affects root development and whether this is
associated with the putative effect on the cytoskeleton that was observed in Tradescantia,
Arabidopsis thaliana lines were used whose actin or tubulin filaments were visualized with
by beta-tubulin–GFP fusion [38] and GFP–actin-binding protein expression [37]. ith by beta-tubulin–GFP fusion [38] and GFP–actin-binding protein expression [37]
Confocal microscopy of the actin cytoskeleton clearly showed typical filamen
ructures in the root of the untreated control (Figure 4A). After exposure to 2 mM o
cin for 24 h, the filamentous structures were destroyed; instead, GFP aggregate st
ures were visible at the margins of the cells Allicin thus destroyed the integrity of
Confocal microscopy of the actin cytoskeleton clearly showed typical filamentous
structures in the root of the untreated control (Figure 4A). After exposure to 2 mM of allicin
for 24 h, the filamentous structures were destroyed; instead, GFP aggregate structures
were visible at the margins of the cells. Allicin thus destroyed the integrity of the actin
cytoskeleton in the roots of Arabidopsis thaliana. 7 of 12 Appl. Sci. 2022, 12, 11470
pl. Sci. 2022, 12, 11470 Figure 4. Effect of 2 mM allicin on the actin and tubulin cytoskeleton after exposur
controls exposed to water only showed a typical filamentous structure of both the a
they were completely dissolved after 24 h exposure to allicin. (A) shows the influe
the actin cytoskeleton, (B) shows the influence of allicin from the plexus of tubulin
Figure 4. Effect of 2 mM allicin on the actin and tubulin cytoskeleton after exposure for 24 h. While
controls exposed to water only showed a typical filamentous structure of both the actin and tubulin,
they were completely dissolved after 24 h exposure to allicin. (A) shows the influence of allicin on
the actin cytoskeleton, (B) shows the influence of allicin from the plexus of tubulin in the cell. Figure 4. 5. Effect of Allicin on Actin- and Tubulin Cytoskeleton in Arabidopsis thalia
3.5. Effect of Allicin on Actin- and Tubulin Cytoskeleton in Arabidopsis thaliana Effect of 2 mM allicin on the actin and tubulin cytoskeleton after exposur
controls exposed to water only showed a typical filamentous structure of both the a
they were completely dissolved after 24 h exposure to allicin. (A) shows the influ
the actin cytoskeleton, (B) shows the influence of allicin from the plexus of tubulin
Figure 4. Effect of 2 mM allicin on the actin and tubulin cytoskeleton after exposure for 24 h. While
controls exposed to water only showed a typical filamentous structure of both the actin and tubulin,
they were completely dissolved after 24 h exposure to allicin. (A) shows the influence of allicin on
the actin cytoskeleton, (B) shows the influence of allicin from the plexus of tubulin in the cell. 3.6. Effect of Allicin on Auxin Distribution PIN Localization
The cytoskeleton fulfils a wide variety of tasks in the cell and is in
other things, in transport processes in the cell. In order to investigate the i
toskeletal integrity—here primarily concerning actin—on important cel
In addition to the actin cytoskeleton, the tubulin cytoskeleton was also examined in
an analogous manner. Here, too, the typical filament pattern was seen in the untreated
control; treatment with allicin resulted in the dissolution of these filament structures and
the diffuse fine-particulate distribution of GFP fluorescence, in contrast to the aggregate
formation observed for the actin. processes, we chose the localization of PIN pro
3.6. Effect of Allicin on Auxin Distribution PIN Localization Accordingly, in the control (G), fluorescence is seen in the marginal areas of the root,
but not in the meristematic and quiescent zone, whereas under allicin exposure, fluorescence is
observed everywhere in the cells (H). All treated samples were exposed to 2 mM allicin for 24 h. ce of allicin on the localization of PIN1 and PIN3 proteins and on auxin distribution
A) While the localization of PIN1 in the control was restricted to the central cylinder
tion of PIN1 is seen in (B) allicin-exposed plants. (C) The localization of PIN3 in th
the central cylinder and in the meristematic zone of the root tip, but under allicin
localization of PIN 3 protein was also diffuse. This was also reflected in the locali
n control plants, where GFP expression was under the auxin-responsive DR5 pro
distribution of auxin is seen in the root tip, meristematic and quiescent zone (E)
ar localization was abolished under allicin exposure (F). The detection of auxin dis
oot by means of DII–VENUS indicated in a complementary way that no auxin wa
he fluorescent protein was observed, because auxin led to the degradation of th
ngly, in the control (G), fluorescence is seen in the marginal areas of the root, bu
t
ti
d
i
t
h
d
lli i
fl
i
b
Figure 5. Influence of allicin on the localization of PIN1 and PIN3 proteins and on auxin distribution
in the root tip. (A) While the localization of PIN1 in the control was restricted to the central cylinder,
a diffuse localization of PIN1 is seen in (B) allicin-exposed plants. (C) The localization of PIN3 in
the control is seen in the central cylinder and in the meristematic zone of the root tip, but under
allicin exposure (D) the localization of PIN 3 protein was also diffuse. This was also reflected in
the localization of auxin. In control plants, where GFP expression was under the auxin-responsive
DR5 promoter, a typical distribution of auxin is seen in the root tip, meristematic and quiescent
zone (E), whereas this clear localization was abolished under allicin exposure (F). The detection of
auxin distribution in the root by means of DII–VENUS indicated in a complementary way that no
auxin was present where the fluorescent protein was observed, because auxin led to the degradation
of the protein. processes, we chose the localization of PIN pro
3.6. Effect of Allicin on Auxin Distribution PIN Localization processes, we chose the localization of PIN pro
3.6. Effect of Allicin on Auxin Distribution PIN Localization ulated auxin transport in tissues. Again, GFP-tagged versions of the prote
PIN1 and PIN3, were used to track their localization in vivo. In addition,
of the constructs was under the respective native promoter, so that the loc
expression could also be followed at the tissue level. In the untreated control, the PIN1 showed expression mainly in th
central cylinder (Figure 5A); at the cellular level, the strongest fluorescenc
on the basipetal side of the cell. The exposure to allicin with a concentrati
The cytoskeleton fulfils a wide variety of tasks in the cell and is involved, among other
things, in transport processes in the cell. In order to investigate the influence of cytoskeletal
integrity—here primarily concerning actin—on important cellular transport processes, we
chose the localization of PIN proteins, whose localization is crucial for regulated auxin
transport in tissues. Again, GFP-tagged versions of the proteins, in this case PIN1 and PIN3,
were used to track their localization in vivo. In addition, the expression of the constructs
was under the respective native promoter, so that the localization of the expression could
also be followed at the tissue level. on the basipetal side of the cell. The exposure to allicin with a concentrati
to a complete loss of this clear localization pattern, and GFP fluorescence w
tributed throughout the cell (Figure 5B). This corresponded exactly to th
made by Koprivova during treatment with BSO, which suggests that allic
tive here via the glutathione pool [31]. In contrast to the PIN1, the localization of the PIN3 was also found in
cortex but it was more prominent in the area of the root apical meristem
In the untreated control, the PIN1 showed expression mainly in the region of the
central cylinder (Figure 5A); at the cellular level, the strongest fluorescence was observed
on the basipetal side of the cell. The exposure to allicin with a concentration of 2 mM
led to a complete loss of this clear localization pattern, and GFP fluorescence was weakly
distributed throughout the cell (Figure 5B). This corresponded exactly to the observations
made by Koprivova during treatment with BSO, which suggests that allicin was also active
here via the glutathione pool [31]. 8 of 12
9 of 13 8 of 12
9 of 1 Appl. Sci. 2022, 12, 11470 Figure 5. processes, we chose the localization of PIN pro
3.6. Effect of Allicin on Auxin Distribution PIN Localization Influence of allicin on the localization of PIN1 and PIN3 proteins and on auxin distribution
in the root tip. (A) While the localization of PIN1 in the control was restricted to the central cylinder
a diffuse localization of PIN1 is seen in (B) allicin-exposed plants. (C) The localization of PIN3 in th
control is seen in the central cylinder and in the meristematic zone of the root tip, but under allicin
exposure (D) the localization of PIN 3 protein was also diffuse. This was also reflected in the locali
zation of auxin. In control plants, where GFP expression was under the auxin-responsive DR5 pro
moter, a typical distribution of auxin is seen in the root tip, meristematic and quiescent zone (E)
whereas this clear localization was abolished under allicin exposure (F). The detection of auxin dis
tribution in the root by means of DII–VENUS indicated in a complementary way that no auxin wa
present where the fluorescent protein was observed, because auxin led to the degradation of th
protein. Accordingly, in the control (G), fluorescence is seen in the marginal areas of the root, bu
t i
th
i t
ti
d
i
t
h
d
lli i
fl
i
b
Figure 5. Influence of allicin on the localization of PIN1 and PIN3 proteins and on auxin distribution
in the root tip. (A) While the localization of PIN1 in the control was restricted to the central cylinder,
a diffuse localization of PIN1 is seen in (B) allicin-exposed plants. (C) The localization of PIN3 in
the control is seen in the central cylinder and in the meristematic zone of the root tip, but under
allicin exposure (D) the localization of PIN 3 protein was also diffuse. This was also reflected in
the localization of auxin. In control plants, where GFP expression was under the auxin-responsive
DR5 promoter, a typical distribution of auxin is seen in the root tip, meristematic and quiescent
zone (E), whereas this clear localization was abolished under allicin exposure (F). The detection of
auxin distribution in the root by means of DII–VENUS indicated in a complementary way that no
auxin was present where the fluorescent protein was observed, because auxin led to the degradation
of the protein. processes, we chose the localization of PIN pro
3.6. Effect of Allicin on Auxin Distribution PIN Localization Accordingly, in the control (G), fluorescence is seen in the marginal areas of the root,
but not in the meristematic and quiescent zone, whereas under allicin exposure, fluorescence is
observed everywhere in the cells (H). All treated samples were exposed to 2 mM allicin for 24 h. q
p
re in the cells (H). All treated samples were exposed to 2 mM allicin for 24 h. cin on Auxin Distribution
In contrast to the PIN1, the localization of the PIN3 was also found in the area of
the cortex, but it was more prominent in the area of the root apical meristem. Again,
fluorescence was strongest at the basipetal end of the cell (Figure 5C). icin on Auxin Distribution
he observation that allicin destroyed the localization of PIN proteins, and
oteins are essential for the directional transport of auxin, the final aim wa
whether the aberrant localization of auxin occurred after allicin treatment
ent methods based on fluorescent proteins were used to check the localiza
g
p
g
As observed with the PIN1, complete disruption of the PIN localization had also
occurred with PIN3 by treatment with 2 mM of allicin. The GFP signal, which indicated
the localization of the PIN1 protein, was diffusely present at both the cellular and tissue
levels (Figure 5D). These results exactly mirrored the effects of the GSH1 inhibitor buthione
sulfoximine (BSO) on PIN distribution [31]. BSO led to a reduction in cellular GSH levels,
and this mirrored the result of allicin titrating out and oxidizing the GSH pool [13]. The DR5–GFP reporter system was
DR5 promoter and thus drove GF
3.7. Effect of Allicin on Auxin Distribution DR5 promoter and thus drove GFP expression. GFP fluorescence thus in
ence of auxin. Arabidopsis thaliana roots showed a clear localization of auxin around th
of the root apical meristem, in the central cylinder and in the epiderma
ot (Figure 5E) Treatment with allicin resulted in the localization of GFP
Based on the observation that allicin destroyed the localization of PIN proteins, and
because PIN proteins are essential for the directional transport of auxin, the final aim was to
investigate whether the aberrant localization of auxin occurred after allicin treatment. Two
independent methods based on fluorescent proteins were used to check the localization of
allicin. The DR5–GFP reporter system was based on the fact that auxin induced the activity Appl. Sci. 2022, 12, 11470 9 of 12 of the DR5 promoter and thus drove GFP expression. GFP fluorescence thus indexed the
presence of auxin. of the DR5 promoter and thus drove GFP expression. GFP fluorescence thus indexed the
presence of auxin. p
Untreated Arabidopsis thaliana roots showed a clear localization of auxin around the
quiescent zone of the root apical meristem, in the central cylinder and in the epidermal
layers of the root (Figure 5E). Treatment with allicin resulted in the localization of GFP
fluorescence being restricted to the root apex; auxin-dependent expression of GFP was no
longer found in the quiescent and division zone of the root apex (Figure 5F). This showed
that allicin caused a clear redistribution of auxin localization at the root tip. As an alternative method to detect the localization of auxin at the tissue level, the
DII–VENUS construct was used, in which a “fast maturing” form of yellow-fluorescent
protein (YFP) was expressed in frame with an IAA protein under the control of a constitutive
promoter. Because IAA proteins are degraded in the presence of auxin, a lack of fluorescence
of the VENUS protein would indicate a high concentration of auxin, whereas a strong
fluorescence of the protein would indicate a low concentration of auxin. The results
obtained by means of DII–VENUS corresponded to the statements we also perceived with
DR5–GFP. While the control showed that auxin was present in the root meristem area, the
distribution was diffuse after allicin exposure (Figure 5G). 4 C
l
i
4. Conclusions 4. Conclusions
The thiosulfinate allicin directly affects the cytoskeleton through its thiol-oxidizing
properties. In the model system Tradescantia fluminensis, it was shown that the protoplasm
flow was stopped. GFP-tagged cytoskeletal components revealed that the direct disrup-
tion of both actin and tubulin filaments also occurred. Since the localization of the phyto-
hormone auxin, which is crucial for root development, is regulated by the orientation of
PIN channels and crucially depends on the functionality of the cytoskeleton, we tested the
hypothesis of whether, on the one hand, PIN channels showed an altered localization and,
on the other hand, auxin was localized in an altered manner as a result. Both could be
shown by GFP probes. This resulted in a shortening of the roots due to auxin mislocaliza-
tion in the growth zone. Thus, it was clear that oxidative stress in roots led to a shortening
of the roots, which was due to an influence on the cytoskeleton integrity and subsequent
mislocalization of the auxin. This has far reaching environmental relevance, far beyond
The thiosulfinate allicin directly affects the cytoskeleton through its thiol-oxidizing
properties. In the model system Tradescantia fluminensis, it was shown that the protoplasm
flow was stopped. GFP-tagged cytoskeletal components revealed that the direct disruption
of both actin and tubulin filaments also occurred. Since the localization of the phytohor-
mone auxin, which is crucial for root development, is regulated by the orientation of PIN
channels and crucially depends on the functionality of the cytoskeleton, we tested the hy-
pothesis of whether, on the one hand, PIN channels showed an altered localization and, on
the other hand, auxin was localized in an altered manner as a result. Both could be shown
by GFP probes. This resulted in a shortening of the roots due to auxin mislocalization in the
growth zone. Thus, it was clear that oxidative stress in roots led to a shortening of the roots,
which was due to an influence on the cytoskeleton integrity and subsequent mislocalization
of the auxin. This has far reaching environmental relevance, far beyond the study of the
effect of allicin as a model substance. y
Author Contributions: Conceptualization, M.C.H.G. and A.J.S.; methodology, M.C.H.G. and A.J.S.;
nvestigation, U.N., M.H., M.S., C.A.M.; writing—original draft preparation, U.N., M.C.H.G., A.J.S. Author Contributions: Conceptualization, M.C.H.G. and A.J.S.; methodology, M.C.H.G. and A.J.S.;
investigation, U.N., M.H., M.S. and C.A.M.; writing—original draft preparation, U.N., M.C.H.G. and
A.J.S. 3.8. Effect of Allicin on Mutants Impaired in Auxin Homeostasis and Signaling 10 of 12
1 of 13 10 of 12
1 of 13 Appl. Sci. 2022, 12, 11470
Appl. Sci. 2022, 12, 11470 Figure 6. Influence of allicin (A) and cytochalasin (B) on aux1-2 and axr1-12 mutants. (N = 20) The
experiments were repeated three times with similar results. Mutants were compared against the
underlying Col-0 wild type; treatment with DMSO served as a solvent control. The letters A–C
above the respective graph columns indicate statistical differences as determined by ANOVA anal-
ysis. Figure 6. Influence of allicin (A) and cytochalasin (B) on aux1-2 and axr1-12 mutants. (N = 20) The
experiments were repeated three times with similar results. Mutants were compared against the
underlying Col-0 wild type; treatment with DMSO served as a solvent control. The letters A–C above
the respective graph columns indicate statistical differences as determined by ANOVA analysis. igure 6. Influence of allicin (A) and cytochalasin (B) on aux1-2 and axr1-12 mutants. (N = 20) The
xperiments were repeated three times with similar results. Mutants were compared against the
underlying Col-0 wild type; treatment with DMSO served as a solvent control. The letters A–C
bove the respective graph columns indicate statistical differences as determined by ANOVA anal-
sis. Figure 6. Influence of allicin (A) and cytochalasin (B) on aux1-2 and axr1-12 mutants. (N = 20) The
experiments were repeated three times with similar results. Mutants were compared against the
underlying Col-0 wild type; treatment with DMSO served as a solvent control. The letters A–C above
the respective graph columns indicate statistical differences as determined by ANOVA analysis. 3.8. Effect of Allicin on Mutants Impaired in Auxin Homeostasis and Signaling 3.8. Effect of Allicin on Mutants Impaired in Auxin Homeostasis and Signaling Because we observed an effect on auxin distribution and PIN localization after allicin
treatment (Figure 5), we investigated the effects of allicin on the auxin transport mutant
aux1-2 and the auxin-resistant mutant axr1-12 in comparison to wild type Col-0. Whereas
the PIN proteins are functional in auxin efflux at the basal cell pole, the AUX1 protein
transports auxin into the cell from the apoplast at the apical pole. The Col-0 wild type showed that its exposure to 0.5 mM of allicin led to a significantly
shortened root. The aux1-2 mutant root length, which already had a significantly shortened
root in the control compared to the Col-0, was not further affected by the presence of allicin,
i.e., this mutant showed a degree of allicin resistance (Figure 6A) and this suggests that
the root phenotype we observed with allicin may have been dependent upon auxin over-
accumulating to supraoptimal levels and that inhibited root growth. The axr1-12 mutant,
on the other hand, showed no significant change in root length phenotype compared to
the wild type in the control, but treatment with allicin caused the roots to be shortened,
but to a much lesser extent than in the Col-0 control. This suggests that the influence of
allicin on auxin transport was partly responsible for the observation that the roots did not
grow as well under allicin exposure (Figure 6B). Possibly, another auxin receptor could
have partially complemented the phenotype of axr1-12. To test this hypothesis, Col-0 and
axr1-12 mutants were exposed to 20 µM of cytochalasin, which led to disruption of the actin
cytoskeleton. As a control, it was examined whether the solvent DMSO at the concentration
used (1% v/v) would lead to an effect, which was not the case. While the Col-0 wild type
showed significantly shortened roots after treatment with cytochalasin, the axr1-12 mutant
did not, which suggested that it was disruption of the actin cytoskeleton which altered
auxin localization. Accordingly, a mutant that was not an auxin receptor mutant showed
no phenotype in terms of root length upon destruction of the actin cytoskeleton. These
results suggest that the effect allicin has on root development correlates, at least in part,
with its influence on auxin distribution in the root, which are dependent upon allicin’s
effects on the cytoskeleton. 4 C
l
i
4. Conclusions All authors have read and agreed to the published version of the manuscript. All authors have read and agreed to the published versi
Funding: This research received no external funding. ll authors have read and agreed to the published vers
Funding: This research received no external funding. Funding: This research received no external funding. Institutional Review Board Statement: Not applicable. Funding: This research received no external funding. Institutional Review Board Statement: Not applicable. Funding: This research received no external funding. Institutional Review Board Statement: Not applicable. Institutional Review Board Statement: Not appli
I f
d C
t St t
t N t
li
bl
Informed Consent Statement: Not applicable. 11 of 12 Appl. Sci. 2022, 12, 11470 11 of 12 Data Availability Statement: The original data presented in this study are available upon request. Data Availability Statement: The original data presented in this study are available upon request. Acknowledgments: The authors thank Ralph Panstruga, from the Institute of Biology I at RWTH
Aachen University for the opportunity to use his Confocal Laser Scan microscopy facilities. Data Availability Statement: The original data presented in this study are available upon request. Acknowledgments: The authors thank Ralph Panstruga, from the Institute of Biology I at RWTH
Aachen University for the opportunity to use his Confocal Laser Scan microscopy facilities. Conflicts of Interest: The authors declare no conflict of interest. Acknowledgments: The authors thank Ralph Panstruga, from the Institute of Biology I at RWTH
Aachen University for the opportunity to use his Confocal Laser Scan microscopy facilities. Conflicts of Interest: The authors declare no conflict of interest. References 1. Allen, N.S.; Allen, R.D. Cytoplasmic Streaming in Green Plants. Annu. Rev. Biophys. Bioeng. 1978, 7, 497–526. [CrossRef] [PubMed]
2. Feuer, G.; Molnar, F.; Pettko, E.; Straub, F.B. Studies on the composition and polymerization of actin. Hung. Acta Physiol. 1948, 1,
150–163. [PubMed]
3
Abe S The effect of p chloromercuribenzoate on rotational protoplasmic streaming in plant cells Protoplasma 1964 58 483 492 1. Allen, N.S.; Allen, R.D. Cytoplasmic Streaming in Green Plants. Annu. Rev. Biophys. Bioeng. 1978, 7, 497–526. [CrossRef] [PubMed]
2
Feuer G ; Molnar F ; Pettko E ; Straub F B Studies on the composition and polymerization of actin Hung Acta Physiol 1948 1 1. Allen, N.S.; Allen, R.D. Cytoplasmic Streaming in Green Plants. Annu. Rev. Biophys. Bioeng. 1978, 7, 497–526. [CrossRef] [PubMed] 1. Allen, N.S.; Allen, R.D. Cytoplasmic Streaming in Green Plants. Annu. Rev. Biophys. Bioeng. 1978, 7, 497–526. [CrossRef] [PubMed]
2. Feuer, G.; Molnar, F.; Pettko, E.; Straub, F.B. Studies on the composition and polymerization of actin. Hung. Acta Physiol. 1948, 1,
150–163. [PubMed] [
]
be, S. The effect of p-chloromercuribenzoate on rotational protoplasmic streaming in plant cells. Protoplasma
rossRef] 4. Farah, M.E.; Amberg, D.C. Conserved actin cysteine residues are oxidative stress sensors that can regulate cell death in yeast. Mol. Biol. Cell. 2007, 18, 1359–1365. [CrossRef] [PubMed] 5. Farah, M.E.; Sirotkin, V.; Haarer, B.; Kakhniashvili, D.; Amberg, D.C. Diverse protective roles of the actin cytoskeleton during
oxidative stress. Cytoskeleton 2011, 68, 340–354. [CrossRef] [PubMed] y
6. Johansson, M.; Lundberg, M. Glutathionylation of beta-actin via a cysteinyl sulfenic acid intermediary. BCM Biochem. 2007, 8, 26. [CrossRef] 6. Johansson, M.; Lundberg, M. Glutathionylation of beta-actin via a cysteinyl sulfenic acid intermediary. [CrossRef] [
]
7. Wang, J.; Boja, E.S.; Tan, W.; Tekle, E.; Fales, H.M.; English, S.; Mieyal, J.J.; Chock, P.B. Reversible glutathionylation regulates actin
polymerization in A431 cells. J. Biol. Chem. 2001, 276, 47763–47766. [CrossRef] 8. Wilson, C.; Terman, J.R.; Gonzalez-Billault, C.; Ahmed, G. Actin filaments—A target for redox regulation. Cytoskeleton 2016, 73,
577–595. [CrossRef] 9. Landino, L.M.; Robinson, S.H.; Skreslet, T.E.; Cabral, D.M. Redox modulation of tau and microtubule-as
glutathione/glutaredoxin reductase system. Biochem. Biophys. Res. Commun. 2004, 323, 112–117. [Cross 9. Landino, L.M.; Robinson, S.H.; Skreslet, T.E.; Cabral, D.M. Redox modulation of tau and microtubule-associated protein-2 by the
glutathione/glutaredoxin reductase system. Biochem. Biophys. Res. Commun. 2004, 323, 112–117. [CrossRef] [PubMed]
10. Livanos, P.; Galatis, B.; Apostolakos, P. References The interplay between ROS and tubulin cytoskeleton in plants. Plant Signal Behav. 2014,
9, e28069. [CrossRef] [PubMed] g
g
y
p y
[
] [
]
10. Livanos, P.; Galatis, B.; Apostolakos, P. The interplay between ROS and tubulin cytoskeleton in plants. Plant Signal Behav. 2014,
9, e28069. [CrossRef] [PubMed] 11. Cavallito, C.J.; Bailey, J.H. Allicin, the Antibacterial Principle of Allium sativum L. Isolation, Physical Properties and Antibacterial
Action. J. Am. Chem. Soc. 1944, 66, 1950–1951. [CrossRef] 12. Block, E. The Organosulfur Chemistry of the Genus Allium—Implications for the Organic Chemistry of Sulfur. Angew. Chem. Int. Edit. 1992, 31, 1135–1178. [CrossRef] 13. Gruhlke, M.C.H.; Portz, D.; Stitz, M.; Anwar, A.; Schneider, T.; Jacob, C.; Schlaich, N.L.; Slusarenko, A.J. Allicin disrupts the cell’s
electrochemical potential and induces apoptosis in yeast. Free Rad. Biol. Med. 2010, 49, 1916–1924. [CrossRef] [PubMed] 14. Gruhlke, M.C.H.; Nwachukwu, I.; Arbach, M.; Anwar, A.; Noll, U.; Slusarenko, A.J. Allicin from Garlic, Effective in Controlling
Several Plant Diseases, is a Reactive Sulfur Species (RSS) that Pushes Cells into Apoptosis. In Modern Fungicides and Antifungal
Compounds VI; Dehne, H.W., Deising, H.B., Gisi, U., Kuck, K.H., Russell, P.E., Lyr, H., Eds.; Deutsche Phytomedizinische
Gesellschaft: Braunschweig, Germany, 2011; pp. 325–330. g
y
15. Miron, T.; Listowsky, I.; Wilchek, M. Reaction mechanisms of allicin and allyl-mixed disulfides with proteins and small thiol
molecules. Eur. J. Med. Chem. 2010, 45, 1912–1918. [CrossRef] 16. Pinto, J.T.; Krasnikov, B.F.; Cooper, A.J.L. Redox-sensitive proteins are potential targets of garlic-derived mercaptocysteine
derivatives. J. Nutr. 2006, 136, 835–841. [CrossRef] [PubMed] 17. Winkler, G.; Iberl, B.; Knobloch, K. Reactivity of Allicin and its Transformation Products with Sulfhydryl Groups, Disulfide
Groups, and Human Blood. Planta Med. 1992, 58, 665. [CrossRef] 18. Auger, J.; Arnault, I.; Diwo-Allain, S.; Ravier, M.; Molia, F.; Pettiti, M. Insecticidal and fungicidal potential of Allium substances as
biofumigants. Agroindustria 2004, 3, 5–8. g
19. Freeman, F.; Kodera, Y. Garlic Chemistry: Stability of S(2-Propenyl) 2-Propene-1-sulfinothioate (Al
Simulated Physiological Fluids. J. Agric. Food Chem. 1995, 43, 2332–2338. [CrossRef] , Y. Garlic Chemistry: Stability of S(2-Propenyl) 2-Propene-1-sulfinothioate (Allicin) in Blood, Solvents, and
gical Fluids. J. Agric. Food Chem. 1995, 43, 2332–2338. [CrossRef] 20. Portz, D.; Koch, E.; Slusarenko, A.J. Effects of garlic (Allium sativum L.) juice containing allicin on Phytophthora infestans
(Mont.deBary) and on downy mildew of cucumber caused by Pseudoperonospora cubensis (Berk. & M.A. Curtis) Rostovzev. Eur. J. Plant Pathol. 2008, 122, 197–206. A.J.; Patel, A.; Portz, D. References Auxin, actin and growth of the Arabidopsis thaliana
primary root. Plant J. 2007, 50, 514–528. [CrossRef] [PubMed] 29. Rahman, A.; Bannigan, A.; Sulaman, W.; Pechter, P.; Blancaflor, E.B.; Baskin, T.I. Auxin, actin and grow
primary root. Plant J. 2007, 50, 514–528. [CrossRef] [PubMed] p
y
J
30. Zou, M.; Ren, H.; Li, J. An Auxin Transport Inhibitor Targets Villin-Mediated Actin Dynamics to Regulate Polar Auxin Transport. Plant Physiol. 2019, 181, 161–178. [CrossRef] [PubMed] 31. Koprivova, A.; Mugford, S.; Kopriva, S. Arabidopsis root growth dependence on glutathione is linked to auxin transport. Plant
Cell Rep. 2010, 29, 1157–1167. [CrossRef] p
32. Bashandy, T.; Guilleminot, J.; Vernoux, T.; Caparros-Ruiz, D.; Ljung, K.; Meyer, Y.; Reichheld, J.-P. Interplay between the
NADP-Linked Thioredoxin and Glutathione Systems in Arabidopsis Auxin Signaling. Plant Cell 2010, 22, 376–391. [CrossRef]
[PubMed] 33. Cheng, J.C.; Seeley, K.A.; Sung, Z.R. RML1 and RML2, Arabidopsis Genes Required for Cell Proliferation at the Root Tip. Plant
Physiol. 1995, 107, 365–376. [CrossRef] [PubMed] 34. Vernoux, T.; Wilson, R.C.; Seeley, K.A.; Reichheld, J.P.; Muroy, S.; Brown, S.; Maughan, S.C.; Cobbett, C.S.; Montagu, M.V.; Inzé,
D.; et al. The ROOT MERISTEMLESS1/CADMIUM SENSITIVE2 gene defines a glutathione-dependent pathway involved in
initiation and maintenance of cell division during postembryonic root development. Plant Cell 2000, 12, 97–110. [CrossRef]
[PubMed] [
]
35. Borlinghaus, J.; Albrecht, F.; Gruhlke, M.; Nwachukwu, I.; Slusarenko, A. Allicin: Chemistry and Biological Properties. Molecules
2014, 19, 12591–12618. [CrossRef] [PubMed] 36. Leontiev, R.; Hohaus, N.; Jacob, C.; Gruhlke, M.C.H.; Slusarenko, A.J. A Comparison of the Antibacterial and Antifungal Activities
of Thiosulfinate Analogues of Allicin. Sci. Rep. 2018, 8, 6763. [CrossRef] [PubMed] g
p
37. Voigt, B.; Timmers, A.C.J.; Amaj, J.S.; Müller, J.; Baluska, F.; Menzel, D. GFP-FABD2 fusion construct allows in vivo visualization
of the dynamic actin cytoskeleton in all cells of Arabidopsis seedlings. Eur. J. Cell Biol. 2005, 84, 595–608. [CrossRef] 38. Ueda, K.; Matsuyama, T.; Hashimoto, T. Visualization of microtubules in living cells of transgenic Arabidopsis thaliana. Protoplasma
1999, 206, 201–206. [CrossRef] 39. Mano, S.; Nakamori, C.; Hayashi, M.; Kato, A.; Kondo, M.; Nishimura, M. Distribution and Characterization of Peroxisomes in
Arabidopsis by Visualization with GFP: Dynamic Morphology and Actin-Dependent Movement. Plant Cell Physiol. 2002, 43,
331–341. [CrossRef] 40. Glazebrook, J.; Ausubel, F.M. Isolation of phytoalexin-deficient mutants of Arabidopsis thaliana and characterization of their
interactions with bacterial pathogens. Proc. Natl. Acad. Sci. USA 1994, 91, 8955–8959. [CrossRef] 41. References Control of plant diseases by natural products: Allicin from garlic as a case study. Eur. 121, 313–322. [CrossRef] 21. Slusarenko, A.J.; Patel, A.; Portz, D. Control of plant diseases by natural products: Allicin from garlic as
Pathol. 2008, 121, 313–322. [CrossRef] ,
,
[
]
22. Slusarenko, A.J.; Anwar, A.; Portz, D.; Noll, U. Garlic—A Call to Arms. Outlooks Pest Manag. 2011, 22, 83–86. [CrossRef] 22. Slusarenko, A.J.; Anwar, A.; Portz, D.; Noll, U. Garlic—A Call to Arms. Outlooks Pest Manag. 2011, 22, 83–86. [CrossRef] 22. Slusarenko, A.J.; Anwar, A.; Portz, D.; Noll, U. Garlic—A Call to Arms. Outlooks Pest Manag. 2011, Anwar, A.; Portz, D.; Noll, U. Garlic—A Call to Arms. Outlooks Pest Manag. 2011, 22, 83–86. [CrossRef] usarenko, A.J.; Anwar, A.; Portz, D.; Noll, U. Garlic—A Call to Arms. Outlooks Pest Manag. 2011, 22, 83–86. k E G
li
d Oth
Alli
Th L
d th S i
R
l S
i t
f Ch
i t
C
b id
UK 2010 23. Block, E. Garlic and Other Alliums—The Lore and the Science; Royal Society of Chemistry: Cambridge, UK y
y
y
g
24. Prager-Khoutorsky, M.; Goncharov, I.; Rabinkov, A.; Mirelman, D.; Geiger, B.; Bershadsky, A.D. Allicin inhibits cell polarization,
migration and division via its direct effect on microtubules. Cytoskeleton 2007, 64, 321–337. [CrossRef] g
y
[
]
25. Sela, U.; Ganor, S.; Hecht, I.; Brill, A.; Miron, T.; Rabinkov, A.; Wilchek, M.; Mirelman, D.; Lider, O.; Hershkoviz, R. Allicin inhibits
SDF-1α-induced T cell interactions with fibronectin and endothelial cells by down-regulating cytoskeleton rearrangement, Pyk-2
phosphorylation and VLA-4 expression. Immunology 2004, 111, 391–399. [CrossRef] 12 of 12 12 of 12 Appl. Sci. 2022, 12, 11470 26. Gruhlke, M.C.H.; Antelmann, H.; Bernhardt, J.; Kloubert, V.; Rink, L.; Slusarenko, A.J. The human allicin-proteome: S-
thioallylation of proteins by the garlic defence substance allicin and its biological effects. Free Radic. Biol. Med 2019, 131,
144–153. [CrossRef] [
]
27. Vieten, A.; Sauer, M.; Brewer, P.B.; Friml, J. Molecular and cellular aspects of auxin-transport-mediated d
Sci. 2007, 12, 160–168. [CrossRef] [
]
28. Nick, P.; Han, M.-J.; An, G. Auxin Stimulates Its Own Transport by Shaping Actin Filaments. Plant Physiol. 2009, 151, 155–167. [CrossRef] 28. Nick, P.; Han, M.-J.; An, G. Auxin Stimulates Its Own Transport by Shaping Actin Filaments. Plant Ph
[CrossRef] [
]
29. Rahman, A.; Bannigan, A.; Sulaman, W.; Pechter, P.; Blancaflor, E.B.; Baskin, T.I. References Timpte, C.; Lincoln, C.; Pickett, F.B.; Turner, J.; Estelle, M. The AXR1 and AUX1 genes of Arabidopsis function in separate
auxin-response pathways. Plant J. 1995, 8, 561–569. [CrossRef] p
p
y
42. Friml, J.; Vieten, A.; Sauer, M.; Weijers, D.; Schwarz, H.; Hamann, T.; Offringa, R.; Jürgens, G. Efflux-de
establish the apical–basal axis of Arabidopsis. Nature 2003, 426, 147–153. [CrossRef] Sauer, M.; Weijers, D.; Schwarz, H.; Hamann, T.; Offringa, R.; Jürgens, G. Efflux-dependent auxin gradients
basal axis of Arabidopsis. Nature 2003, 426, 147–153. [CrossRef] 43. Brunoud, G.; Wells, D.M.; Oliva, M.; Larrieu, A.; Mirabet, V.; Burrow, A.H.; Beeckman, T.; Kepinski, S.; Traas, J.; Bennett, M.J.; et al. A novel sensor to map auxin response and distribution at high spatio-temporal resolution. Nature 2012, 482, 103–106. [CrossRef]
[PubMed]
|
https://openalex.org/W2991991719
|
https://zenodo.org/records/5118479/files/Thaiszia-2019-2-2-Amini-et-al..pdf
|
English
| null |
Systematic and molecular biological study of Sambucus L. (Caprifoliaceae) in Iran
|
Thaiszia
| 2,019
|
cc-by
| 6,881
|
THAISZIA
JOURNAL OF BOTANY THAISZIA
JOURNAL OF BOTANY Thaiszia - J. Bot., Košice, 29 (2): 133-150, 2019
https://doi.org/10.33542/TJB2019-2-02 Keywords: Iran, micro-morphological, molecular, nrDNA ITS, pollen, Sambucus,
seed. Introduction Sambucus L. (Caprifoliaceae) is a small genus of approximately 25 species of
deciduous shrubs, small trees and a few perennial herbs (Mabberley 2008). It
is mainly distributed in temperate and subtropical regions of the Europe, Asia,
North Africa, and naturalized in the United States. Sambucus consists of two
species in Iran namely, S. ebulus L. and S. nigra L. The species of Sambucus
are distributed in north, northwest and northeast of Iran (Jamzad 1993). These plants are deciduous shrub or more rarely a small tree to 10 m, often
with straight, vigorous erect shoots from the base. The leaves are pinnate to
ovate–lanceolate or ovate–elliptic. Cream-white flowers are pentamerous and
actinomorphic. The fruit is a drupe and containing 3–5 compressed seeds. Pollen
grains are pale yellow, ellipsoidal and densely tuberculated (Judd et al. 2007). As
a medicinal plant, the genus has been used for their diaphoretic, laxative and
diuretic properties (Uncinimanganelli et al. 2005; Merica et al. 2006) and to treat
various illnesses such as stomach ache, sinus congestion, constipation, diarrhea,
sore throat, common cold and rheumatism (Novelli 2003; Uncinimanganelli et
al. 2005).i )
Micro-morphological characters are of good diagnostic value to recognize
many taxa, principally at the species level. Palynological studies for this genus
are not so extensive (Accorsi et al. 1987; Hu & He 1988; Chen et al. 1992;
Du et al. 2007). Punt et al. (1976) divided the family Caprifoliaceae into 10
distinct pollen types, Lonicera alpigena-type, Lonicera caprifolium-type,
Lonicera coerulea-type, Lonicera periclymenum-type, Lonicera xylosteum-
type, Sambucus ebulus-type, Sambucus nigra-type, Viburnum lantana-type,
Viburnum opulus-type and Viburnum tinus-type. Maciejewska (1997) studied 5
polish species (genera Sambucus and Viburnum L.), and results showed that all
examined species have small to medium-sized grains, with prolate polar axis and
reticulate ornamentation. Hu et al. (1996) studied the seed micromorphology
of Sambucus in Jilin province preliminary and show that Sambucus endocarps
provide highly reliable diagnostic characteristics at both of generic and specific
levels. The anatomical structure of these species has not been studied yet. Petiole anatomical studies in Caprifoliaceae have provided diagnostic features
in some taxa (Gundersen 1910; Petit 1887). Molecular data have been used in
phylogenetic and species divergence studies (Sheidai et al. 2014, 2016). These
data can also provide supportive and extra criteria for systematic classification of
the species studied that have been only based on the morphological characters
(Chen et al. 1992). Elham Amini1, Fatemeh Nasrollahi2, Ali Sattarian1*, Mohsen Isazadeh-Araei1, Meisam
Habibi1 Elham Amini1, Fatemeh Nasrollahi2, Ali Sattarian1*, Mohsen Isazadeh-Araei1, Meisam
Habibi1 1Department of Biology, Faculty of Sciences, Gonbad Kavous University, Gonbad, Iran. 2Department of Biology, Faculty of Sciences, University of Qom, Qom, Iran. *Corresponding author: Sattarian.ali@gmail.com *Corresponding author: Sattarian.ali@gmail.com Amini E., Nasrollahi F., Sattarian A., Isazadeh-Araei M. & Habibi M. (2019): Systematic and molecular biological study of Sambucus L. (Caprifoliaceae) in Iran. – Thaiszia – J. Bot. 29 (2): 133-150 Abstract: Sambucus is a medicinal plant with approximately 25 accepted taxa in
the world from which two are present in Iran, S. nigra and S. ebulus. In order to
evaluate the affinities and relationships in Sambucus and resurrect subspecies
or verities in these two species, the micro-morphological, anatomical and
molecular properties of Sambucus species of Iran have been studied. Pollen and
seed surfaces of two species were examined with scanning electron microscope. In micro-morphological studies, the pollen shape is prolate-spheroidal in S. nigra
but subprolate in S. ebulus. The exine sculpture is microperforate in S. nigra and is
reticulate-microechinate in S. ebulus. The surface of the seed in S. nigra is smooth,
not elongated and no clear organizational pattern is discernable and the anticlinal
walls are shallowly undulate. In S. ebulus, the seeds have a microperforate
surface and the anticlinal walls are observed deeply undulate. Petiole anatomical
studies show that vascular bundles and existence of druse crystals are diagnostic
characters in studied species. Using nuclear (nrDNA ITS) marker, we reconstructed
phylogenetic relationships within two species of Sambucus. The ITS dataset was
analyzed by phylogenetic methods including Bayesian inference, maximum likelihood
and maximum parsimony. In phylogenetic analyses, all members of this genus
form a well-supported clade (PP = 1, ML/BS = 100/100). The Sambucus clade is
composed of two clades. Clade I includes the populations of S. nigra and the clade
II comprises the rest of the species of Sambucus (S. ebulus). NeighborNet diagram
demonstrated separation of the studied populations. In general, molecular studies
supported micro-morphological findings. Pollen, seed-coat characters and
molecular phylogeny support the separation of S. nigra and S. ebulus
. Keywords: Iran, micro-morphological, molecular, nrDNA ITS, pollen, Sambucus
seed. 133 Material and Methods In the present study, 18 populations from two Sambucus species including
three populations of S. nigra and 15 populations of S. ebulus were collected
during spring and summer in 2016 from Iran (Tab. 1, Fig. 1) and preserved in
the Gonbad Kavous University herbarium (GKUH). The Flora Iranica (Wendelbo
1965) was used for the identification. Introduction The internal transcribed spacer (ITS) is the region of the 18S-
5.8S- 26S nuclear ribosomal cistron (Baldwin et al. 1995). Several phylogenetic
studies of Dipsacales have appeared in recent years, based on molecular
evidence (Judd et al. 1994; Backlund & Donoghue 1996; Pyck et al. 1999; Pyck
& Smets 2000; Bell et al. 2001; Donoghue et al. 2001, 2003) and they clarified
phylogenetic relationships within Adoxaceae and Caprifoliaceae.i Since there is no comprehensive systematic study on Sambucus species in
Iran and Sambucus nigra is located in the Arasbaran region with very limited
distribution, the researchers have encouraged to study the genus Sambucus in 134 Iran. Moreover, due to different populations of Sambucus nigra and S. ebulus
collected from different parts of Iran, we expect to resurrect subspecies or
verities in these two species. Therefore, the objective of present study is to
investigate the genus Sambucus in Iran and specifically (1) to find diagnostic
micro-morphological characters, (2) to investigate molecular properties of
Sambucus in Iran and (3) to evaluate the affinities and relationships of taxa. Morphological methods The palynological part of this study was made using Olympus Light Microscope
(LM, VANOX AHBS3, Japan) and Scanning Electron Microscope (SEM, VEGA II
TESCAN-LMU, Czech Republic) on pollens of S. nigra and S. ebulus. The pollen
samples were obtained mostly from freshly collected herbarium specimens. For LM studies, the samples were acetolyzed following Erdtman's technique
(Erdtman 1952). The measurements were based on at least 30 pollen grains per
population. These were made with the help of an Olympus light microscope by
using an Olympus DP12 Digital (Japan) Camera. For SEM investigation, the pollen
grains were transferred directly to double-sided tape affixed stubs and were
sputter-coated with gold plates. Photomicrographs were taken with a VEGA II
TESCAN-LMU Electron Microscope at an accelerating voltage of 15–22 kV at
Research Institute of Razi (Tehran, Iran). The applied terminology follows Punt et
al. (2007). The characters of pollen grains of the studied Sambucus species are
summarized in Tab. 2. In order to detect significant differences in the studied
characters among the various studied species, analysis of variance (ANOVA) was
done. To determine the species relationships, we have used cluster analysis and
principal component analysis (PCA, Ingrouille 1986). For multivariate analysis,
the mean of the quantitative characters was calculated. Qualitative characters
were coded as binary or multistate. Variables were standardized for multivariate
statistical analysis. Average taxonomic distances and squared Euclidean distances
were done as dissimilarity coefficients in the cluster analysis of pollen data. In
order to determine the most variable characters among the studied species,
factor analysis based on principal component analysis was performed. SPSS ver. 19 (Chicago) and PAST ver. 2.17 (Hammer et al. 2001) softwares were applied for
statistical analysis. ii
Seeds of the two species of Sambucus were taken from herbarium specimens. The seeds of every species were examined under the stereomicroscope to ensure
the normal size and development, mounted directly on aluminum stubs using
double-sided adhesive. After having been coated with a thin layer (ca. 25 nm)
of gold they were analyzed using a VEGA II TESCAN-LMU Electron Microscope at 135 Fig. 1 Distribution map of studied species in Iran. Fig. 1 Distribution map of studied species in Iran. Tab. 1 List of species used in the study along with localities and vouchers. Taxon
DNA source (location, voucher)
GenBank acces
sion no. ITS
S. nigra L. East Azarbaijan: Arasbaran, Vayghan, Isazade-Araei, 803308, GKUH
LC466572
S. Morphological methods nigra
East Azarbaijan: Arasbaran, Aynalu, Isazade-Araei, 803307, GKUH
LC466573
S. nigra
East Azarbaijan: Arasbaran, Shabkhaneh, Isazade-Araei, 803309, GKUH
LC466574
S. ebulus L. Golestan: Gorgan, Tuskestan forest, Isazade-Araei, 803315, GKUH
LC466575
S. ebulus
Golestan: Golestan National Park, Isazade-Araei, 803314, GKUH
LC466576
S. ebulus
Golestan: Nowkandeh, Isazade-Araei, 803311, GKUH
LC466577
S. ebulus
Golestan: Bandar Gaz, Isazade-Araei, 803310, GKUH
-
S. ebulus
Golestan: Kordkuy, Isazade-Araei, 803313, GKUH
-
S. ebulus
Mazandaran: Babol, Isazade-Araei, 803318, GKUH
LC466578
S. ebulus
Mazandaran: Nur, Nurforest, Isazade-Araei, 803319, GKUH
LC466579
S. ebulus
Mazandaran: Sari, Isazade-Araei, 803317, GKUH
-
S. ebulus
Mazandaran :6 km to Daryakenar, Isazade-Araei, 803326, GKUH
-
S. ebulus
Gilan: Lahijan, near to Rasht, Isazade-Araei, 803316, GKUH
LC466580
S. ebulus
Gilan: Berenjanestak, Isazade-Araei, 803321, GKUH
LC466581
S. ebulus
Gilan: Rasht, Isazade-Araei, 803322, GKUH
-
S. ebulus
Gilan: Lefur, Isazade-Araei, 803320, GKUH
-
S. ebulus
Gilan: Anzali, Isazade-Araei, 803323, GKUH
-
S. ebulus
Gilan: Lahijan, Isazade-Araei, 803324, GKUH
- Tab. 1 List of species used in the study along with localities and vouchers. Tab. 1 List of species used in the study along with localities and vouchers. DNA source (location, voucher) 136 Tab. 2 Pollen morphological characters for the examined taxa of Sambucus. Taxon
Length of polar
axis (µm ±SD)
Length of
equatorial axis
(µm±SD)
P/E
Shape
Colpus length
(µm±SD)
Colpus width
(µm±SD)
Exine thickness
(µm±SD)
Ornamentation
S. nigra
16.72±0.25
13.36±0.23
1.25
Prolate- spheroidal
16.60±0.29
3.68±0.21
0.33±0.05
Microperforate
S. nigra
15.92±0.15
14.26±0.20
1.11
Prolate- spheroidal
16.80±0.25
3.88±0.15
0.46±0.04
Microperforate
S. nigra
16.92±0.21
15.36±0.15
1.10
Prolate- spheroidal
16.70±0.35
3.78±0.25
0.38±0.02
Microperforate
S. ebulus
21.85±0.25
17.70±0.35
1.23
Subprolate
19.36±0.15
5.68±0.25
1.56±0.10
Reticulate-microechinate
S. ebulus
22.16±0.18
17.72±0.30
1.25
Subprolate
18.19±0.24
5.24±0.11
1.73±0.19
Reticulate-microechinate
S. ebulus
19.95±0.18
17.23±0.33
1.15
Subprolate
19.00±0.17
5.60±0.15
1.30±0.06
Reticulate-microechinate
S. ebulus
22.82±0.23
17.09±0.25
1.33
Subprolate
18.60±0.19
4.74±0.21
1.83±0.14
Reticulate-microechinate
S. ebulus
19.47±0.20
17.74±0.28
1.09
Subprolate
17.12±0.34
4.98±0.20
1.41±0.17
Reticulate-microechinate
S. ebulus
21.67±0.30
17.04±0.27
1.27
Subprolate
18.00±0.26
6.49±0.25
1.58±0.13
Reticulate-microechinate
S. ebulus
20.50±0.29
16.04±0.35
1.27
Subprolate
18.50±0.25
5.18±0.30
1.26±0.05
Reticulate-microechinate
S. ebulus
20.32±0.27
16.01±0.33
1.40
Subprolate
17.14±0.20
4.86±0.15
1.25±0.25
Reticulate-microechinate
S. ebulus
19.32±0.11
17.24±0.26
1.29
Subprolate
18.56±0.15
4.79±0.25
1.45±0.11
Reticulate-microechinate
S. ebulus
21.24±0.34
16.50±0.29
1.11
Subprolate
18.34±0.19
6.56±0.15
1.34±0.14
Reticulate-microechinate
S. ebulus
21.15±0.37
17.46±0.32
1.30
Subprolate
19.24±0.27
5.18±0.17
1.26±0.12
Reticulate-microechinate
S. ebulus
19.70±0.31
17.35±0.35
1.14
Subprolate
19.54±0.33
4.34±0.18
1.39±0.12
Reticulate-microechinate
S. ebulus
18.40±0.25
16.80±0.18
1.24
Subprolate
18.23±0.34
5.67±0.11
1.43±0.09
Reticulate-microechinate
S. ebulus
19.50±0.15
16.94±0.25
1.06
Subprolate
19.30±0.26
4.43±0.12
1.70±0.11
Reticulate-microechinate
S. Morphological methods ebulus
21.43±0.21
17.60±0.22
1.15
Subprolate
18.43±0.22
6.67±0.15
1.65±0.15
Reticulate-microechinate 137 an accelerating voltage of 15–22 kV at Research Institute of Razi (Tehran, Iran). For recording gross morphology and size parameters, at least 10 seeds were
measured. The list of voucher specimens and details of localities are given in
Tab. 1. DNA extraction, PCR and sequencing Total genomic DNA was extracted from dried leaf materials deposited in
Gonbad Kavous University herbarium (GKUH), using Kit method. The nrDNA ITS
region was amplified using the primers ITS5m of Sang et al. (1995) and ITS4 of
White et al. (1990). PCR amplification of the DNA regions followed procedures
described in detail by Naderi Safar et al. (2014). The quality of PCR products was
checked by electrophoresis in 1 % agarose gels in 1 × TAE (pH = 8) buffer and
were photographed with an UV gel documentation system (UVItec, Cambridge,
UK). PCR products along with the same primers were sent for Sanger sequencing
at Macrogen (Seoul, South Korea) through Pishgam Inc., Tehran-Iran. Anatomical methods The materials for anatomical studies were fixed in FAA (formalin-acetic acid-
alcohol) and preserved in 70 % ethanol. Sections of petiole were taken manually,
cleaned with sodium hypochlorite, stained with methyl green and carmen-vest. Sections were studied and photographed with the help of an Olympus light
microscope by using a Olympus DP12 Digital Camera (Japan). Taxon Sampling Sampling includes plants from three populations of S. nigra and seven
populations of S. ebulus and were chosen as ingroup for nrDNA ITS. Viburnum
opulus L. was chosen as outgroup following previous molecular phylogenetic
studies (Errikson & Donoghue 1997). A list of all the taxa used in this study and
the sources, voucher information and GenBank accession numbers are given in
Tab. 1. Sequence alignment Single dataset was aligned using the web-based version of MUSCLE (Edgar
2004, at http://www.ebi.ac.uk/Tools/msa/muscle/) under default parameters
followed by manual adjustment. The alignment of dataset required the
introduction of numerous single and multiple-base indels (insertions/deletions). Positions of indels were treated as missing data for the ITS dataset. Maximum parsimony Maximum parsimony (MP) analyses were conducted using PAUP* version
4.0a157 (Swofford 2002). The heuristic search option was employed for nuclear
dataset using tree bisection-reconnection (TBR) branch swapping, with 1000 138 replications of random addition sequence and an automatic increase in the
maximum number of trees. Uninformative characters were excluded from the
analyses. Branch support values (MPBS) were estimated using a full heuristic
search with 1000 bootstrap replicates (Felsenstein 1985) each with simple
addition sequence. replications of random addition sequence and an automatic increase in the
maximum number of trees. Uninformative characters were excluded from the
analyses. Branch support values (MPBS) were estimated using a full heuristic
search with 1000 bootstrap replicates (Felsenstein 1985) each with simple
addition sequence. Phylogenetic networks NeighborNet (NN) a distance-based network construction method (Bryant &
Moulton 2004) was implemented in SplitsTree4, version 4.14.4 (Huson & Bryant
2006), based on the uncorrected p-distance between populations that was
calculated from the ITS sequence data. The ITS matrice was modified prior to
analysis by excluding the outgroup. Maximum likelihood Maximum likelihood (ML) analyses were carried out using the RAxML-HPC2
on XSEDE (8.2.8) at the CIPRES Science Gateway. Bootstrap values (LBS) were
calculated in RAxML-HPC2 based on 1000 replicates with one search replicate
per bootstrap replicate. Phylogenetic networks Bayesian inference y
For Bayesian inference (BI) analyses, models of sequence evolution were
selected using the program MrModeltest version 2.3 (Nylander 2004) based on
the Akaike information criterion (AIC) (Posada & Buckley 2004). This program
indicated a GTR+G+I model for nrDNA ITS, the best model for nucleotide
substitution. BI analyses were performed using MrBayes version 3.2 (Ronquist et
al. 2012) on the CIPRES Science Gateway (Cyber infrastructure for Phylogenetic
Research cluster) (Miller et al. 2010, https://www.phylo.org) for the dataset. Bayesian analyses were performed, with default priors (uniform priors) and the
best-fit model of sequence evolution for dataset, with two runs of ten million
generations and four simultaneous chains (one cold and three heated with a
heating parameter of 0.2), by saving trees every 100 generations. The trees
sampled after discarding 25% as “burn-in” were collected to build a 50% majority
rule consensus phylogram and used to calculate posterior probability values (PP). Tree visualization was carried out using Tree View version 1.6.6 (Page 2001). Pollen morphology The pollen grains of the studied species revealed some variations and separated
two species of Sambucus. All palynological structures and measurements for the
examined species concerning pollen type from polar view, polar (P) and equatorial
(E) measurements, P/E ratio, pollen shape and exine ornamentation are shown
in Tab. 2. Selected SEM micrographs of the pollens and their surfaces are shown
in Fig. 2. Generally, type of pollen grain aperture is observed tricolporate among
studied species (Fig. 2). Length of polar and equatorial axis were found useful 139 in separating two species. Polar axis (P) length of pollen grains ranging from the
smallest size for S. nigra (15.92 μm) to the largest size for S. ebulus (22.82 μm). Equatorial axis (E) length of pollen grains ranged from the smallest size in S. nigra
(13.36 μm) to the largest size in S. ebulus (17.74 μm). The shape classes are based
on the ratio between the length of polar axis (P) and equatorial diameter(E). The P/E ratio ranged from 1.09 to 1.33, therefore the pollen shape is prolate-
spheroidal in S. nigra but subprolate in S. ebulus. Exine thickness in S. nigra (0.33
μm) is smaller than S. ebulus (1.83 μm). The exine sculpture is microperforate in
S. nigra (Fig. 2B) and is reticulate-microechinate in S. ebulus (Fig. 2D).iii in separating two species. Polar axis (P) length of pollen grains ranging from the
smallest size for S. nigra (15.92 μm) to the largest size for S. ebulus (22.82 μm). Equatorial axis (E) length of pollen grains ranged from the smallest size in S. nigra
(13.36 μm) to the largest size in S. ebulus (17.74 μm). The shape classes are based
on the ratio between the length of polar axis (P) and equatorial diameter(E). The P/E ratio ranged from 1.09 to 1.33, therefore the pollen shape is prolate-
spheroidal in S. nigra but subprolate in S. ebulus. Exine thickness in S. nigra (0.33
μm) is smaller than S. ebulus (1.83 μm). The exine sculpture is microperforate in
S. nigra (Fig. 2B) and is reticulate-microechinate in S. ebulus (Fig. 2D).iii g
( g
)i
( g
)
In order to define the diagnostic value of pollen grains in species delimitations
in studied Sambucus species, cluster analysis by Ward's method was performed
on the base of eight qualitative and quantitative features (Fig. 3). Ward's
dendrogram showed two main clusters (Fig. 3). Pollen morphology First cluster composed of
populations of S. nigra. Second cluster composed of two subclusters and
contained populations of S. ebulus. Fig. 2 Scanning electron
micrographs
(SEM)
of pollen surface in S. nigra and S. ebulus. For each taxon the first
micrograph shows the
outline of the pollen
indicating its general
shape, and the second
micrograph is a close
view of the pollen
surface. (A, B) S. nigra,
(C, D) S. ebulus, (E, F) S. ebulus, (G, H) S. ebulus,
(I, J) S. ebulus, (K, L) S. ebulus. Fig. 2 Scanning electron
micrographs
(SEM)
of pollen surface in S. nigra and S. ebulus. For each taxon the first
micrograph shows the
outline of the pollen
indicating its general
shape, and the second
micrograph is a close
view of the pollen
surface. (A, B) S. nigra,
(C, D) S. ebulus, (E, F) S. ebulus, (G, H) S. ebulus,
(I, J) S. ebulus, (K, L) S. ebulus. Fig. 2 Scanning electron
micrographs
(SEM)
of pollen surface in S. nigra and S. ebulus. For each taxon the first
micrograph shows the
outline of the pollen
indicating its general
shape, and the second
micrograph is a close
view of the pollen
surface. (A, B) S. nigra,
(C, D) S. ebulus, (E, F) S. ebulus, (G, H) S. ebulus,
(I, J) S. ebulus, (K, L) S. ebulus. Fig. 2 Scanning electron
micrographs
(SEM)
of pollen surface in S. nigra and S. ebulus. For each taxon the first
micrograph shows the
outline of the pollen
indicating its general
shape, and the second
micrograph is a close
view of the pollen
surface. (A, B) S. nigra,
(C, D) S. ebulus, (E, F) S. ebulus, (G, H) S. ebulus,
(I, J) S. ebulus, (K, L) S. ebulus. 140 Fig. 3 Cluster analysis (Ward's method) based on pollen features of Sambucus. Fig. 3 Cluster analysis (Ward's method) based on pollen features of Sambucus. Fig. 4 PCA plot of Sambucus species based on observed pollen data. Fig. 4 PCA plot of Sambucus species based on observed pollen data. 141 Principal component analysis revealed that there were two components
providing more than 78 % of total observed variation in studied pollen grains. Studying the component loadings it was evident that exine thickness and
ornamentation of tectum are most important features in the first factor and
pollen size, P/E ratio and shapes are most significant in the second factor. Seed Sculpturing In terms of exomorphology, the surface of the seed in S. nigra is smooth,
not elongated and no clear organizational pattern is discernable and the
anticlinal walls are shallowly undulate (Fig. 5B). In S. ebulus, the seeds have a
microperforate surface and the anticlinal walls are observed deeply undulate
(Fig. 5D, 5F & 5H). Leaf anatomy Transverse sections from the leaf blades revealed the following elements (Fig. 6). The outline of the midrib in leaf blades are semicircular in both species. The
epidermis is composed of single layered cells. The collenchyma tissue is located
under the epidermis of the leaf blade. They are 4-5 layered in both species. The
cortex tissue is composed of 4-5 layered parenchyma cells. Everywhere, but
especially near the vascular bundle, cells with crystals of calcium oxalate can be
frequently found in S. nigra (Fig. 6A). In S. nigra, the vascular tissue forms a single
lamellary bundle, slightly curved toward the adaxial face, whereas there are 3-4
vascular bundles in S. ebulus. Both species showed a bifacial leaf anatomical
structure, so the mesophyll is differentiated into palisade and spongy tissues. The spongy cells are almost elongated in S. ebulus. Seed shape and size Taxonomic importance of selected seed features in the examined taxa
are summarized in Tab. 3. Selected SEM micrographs of the seeds and their
surfaces are shown in Fig. 5. Seed size differs significantly between two species
of Sambucus. Generally, seeds of S. ebulus are slightly smaller than those of S. nigra. The length of the seeds ranged from 2.62 mm in S. ebulus to 3.64 mm in
S. nigra (column 2 in Tab. 3), and their width varied from 1.21 mm in S. ebulus to
1.42 mm in S. nigra (column 3 in Tab. 3). In general, the seeds are almond-shape. Pollen morphology PCA
confirmed the results of cluster analysis by Ward's method based on qualitative
and quantitative features of pollen grains (Fig. 4). Phylogenetic analysis Numbers of the branches are posterior probability (PP) from the BI and
bootstrap support (BS) values from a MP and ML analysis, respectively (values <50 % were not
shown). Tab. 3 Some diagnostic seed micro-morphological features in species of Sambucus. includes the populations of S. nigra (PP =0.97, ML/BS=0.98/100) and the clade
II (PP =0.95, ML/BS =100/100) comprises the rest of the species of Sambucus (S. ebulus) (Fig. 7).i
Tab. 3 Some diagnostic seed micro-morphological features in species of Sambucus. Taxon (voucher
specimen)
Length
(mm±SD)
Width
(mm±SD)
Shape
Anticlinal wall
Sculpturing
S. nigra (803308)
3.64±0.15
1.42±0.08
Almond
Shallowly undulate
Smooth
S. nigra (803307)
3.53±0.18
1.42±0.09
Almond
Shallowly undulate
Smooth
S. nigra (803309)
3.43±0.13
1.42±0.07
Almond
Shallowly undulate
Smooth
S. ebulus (803315)
2.69±0.12
1.25±0.20
Almond
Deeply undulate
Microperforate
S. ebulus (803314)
2.63±0.12
1.21±0.19
Almond
Deeply undulate
Microperforate
S. ebulus (803311)
2.64±0.13
1.23±0.10
Almond
Deeply undulate
Microperforate
S. ebulus (803318)
0.14±2.67
1.33±0.11
Almond
Deeply undulate
Microperforate
S. ebulus (803319)
2.66±0.12
1.31±0.13
Almond
Deeply undulate
Microperforate
S. ebulus (803316)
2.67±0.15
1.29±0.11
Almond
Deeply undulate
Microperforate
S. ebulus (803321)
2.62±0.12
1.27±0.12
Almond
Deeply undulate
Microperforate includes the populations of S. nigra (PP =0.97, ML/BS=0.98/100) and the clade
II (PP =0.95, ML/BS =100/100) comprises the rest of the species of Sambucus (S. ebulus) (Fig. 7). Phylogenetic analysis Detailed information about alignment characteristics, selected model of
nucleotide substitution, as well as tree statistics from the single analysis of
the nrDNA ITS region, are summarized in Tab. 4. The aligned nrDNA ITS matrix
comprises 682 characters. The maximum parsimony, maximum likelihood and
Bayesian analyses of the nrDNA ITS produced congruent trees and gave similar
results. All members of this genus form a well-supported clade (PP=1, ML/
BS=100/100) (Fig. 7). The Sambucus clade is composed of two clades. Clade I 142 Fig. 5 Scanning electron micrographs (SEM) of seed surface in S. nigra a
taxon the first micrograph shows the outline of the seed indicating its g
second micrograph is a close view of the seed surface. (A, B) S. nigra, (C
ebulus, (G, H) S. ebulus. Fig. 5 Scanning electron micrographs (SEM) of seed surface in S. nigra and S. ebulus. For each
taxon the first micrograph shows the outline of the seed indicating its general shape, and the
second micrograph is a close view of the seed surface. (A, B) S. nigra, (C, D) S. ebulus, (E, F) S. ebulus, (G, H) S. ebulus. 143 Fig. 6 (A, B) S. nigra, (C, D) S. ebulus, (E, F) S. ebulus, (G, H) S. ebulus. (Ad: Ada
u.e.l.: upper epiderm lamina, l.e.l.: lower epiderm lamina, l.e.m.: lower epid
phloem, xy: xylem, col: collenchymas, pal: palisade, sp.m.: spongy mesop
trichom). Fig. 6 (A, B) S. nigra, (C, D) S. ebulus, (E, F) S. ebulus, (G, H) S. ebulus. (Ad: Adaxial, Ab: Abaxial,
u.e.l.: upper epiderm lamina, l.e.l.: lower epiderm lamina, l.e.m.: lower epiderm midrib, phl:
phloem, xy: xylem, col: collenchymas, pal: palisade, sp.m.: spongy mesophyll, c: covering
trichom). Fig. 6 (A, B) S. nigra, (C, D) S. ebulus, (E, F) S. ebulus, (G, H) S. ebulus. (Ad: Adaxial, Ab: Abaxial,
u.e.l.: upper epiderm lamina, l.e.l.: lower epiderm lamina, l.e.m.: lower epiderm midrib, phl:
phloem, xy: xylem, col: collenchymas, pal: palisade, sp.m.: spongy mesophyll, c: covering
trichom). 144 Fig. 7 50 % majority rule consensus tree resulting from the Bayesian phylogenetic analysis of
the nrDNA ITS dataset. Numbers of the branches are posterior probability (PP) from the BI and
bootstrap support (BS) values from a MP and ML analysis, respectively (values <50 % were not
shown) Fig. 7 50 % majority rule consensus tree resulting from the Bayesian phylogenetic analysis of
the nrDNA ITS dataset. Discussion Sambucus has gained little attention in previous micro-morphological and
phylogenetic studies, hence, this study presents the first comprehensive
investigation of this genus in Iran. Micro-morphological evaluation of the
Sambucus species has shown the diagnostic value of these characters. All pollen
grains are small, tricolporate with prolate polar axis. Our results are consistent
with the findings of Maciejewska (1997). Intraspecific pollen morphology of
studied Sambucus species is homogeneous. Ornamentation of tectum in the
area of apocolpia appears to be the most important quality feature for Sambucus
pollen. Besides quantitative features (pollen size, P/E ratio and thickness of exine)
clearly separate S. ebulus from S. nigra. This finding confirms the result of Punt
et al. (1976) that show two distinct pollen types of Sambucus. Our palynological
investigations on different species of Sambucus confirmed importance of pollen
traits for distinguishing taxa. As it is evident in PCA graph species are clearly
separated by their pollen features.f All of the taxa have no difference in several aspects regarding seed shape, but
the seed size and surface distinguished two species, so that S. nigra has no clear
organizational pattern and anticlinal walls are seen shallowly wrinkle but S. ebulus
has a microperforate surface and anticlinal walls are observed deeply undulate. Jacobs et al. (2010) revealed that the shape, size and surface characteristics of
endocarps are variable in different Sambucus species, and are therefore useful
for infrageneric classification and it is in concordance with our results. The
present study emphasizes the findings of Hu et al. (1996) that transverse furrows
and ridges on the surface are exclusively diagnostic of Sambucus endocarps. The results of present study show that the number of vascular bundles and
existence the crystals of calcium oxalate are diagnostic characters in studied
species. Although, many features in two species are identical, there are some
anatomical variations between S. nigra and S. ebulus. Our observations are in
accordance with previous records in other Caprifoliaceae elements (Rugină &
Toma 2007; Gundersen 1910; Petit 1887).i Phylogenetic analyses displayed the monophyly of studied species with strong
support and resolve relationships between two species. The issue of monophyly
needs to be assessed critically in all molecular-based phylogenetic studies,
especially when considering the weight currently being placed on phylogenies
and the consequent implications for evolution, ecology, biogeography and more
importantly taxonomic adjustments (Ramdhani et al. 2011). Phylogenetic networks The NeighborNet diagram (Fig. 8) revealed almost complete separation of the
studied populations within the network, supporting the phylogenetic results that
the Sambucus is composed of two clades. Populations of S. nigra (1, 2 & 3) are 145 Tab. 4 Dataset and tree statistics from single analysis of the nuclear regio
Statistics / Characteristics
nrDNA ITS
Number of sequences
10
Number of ingroup sequences
9
Alignment length [bp]
682
Number of parsimony-informative characters
53
Number of MPTs
187
Length of MPTs
96
Consistency index (CI)
0.68
Retention index (RI)
0.81
Evolutionary model selected (under AIC)
GTR+G+I Tab. 4 Dataset and tree statistics from single analysis of the nuclear region. distinct and stand separately from the other populations at a major distance. The
groups formed in the splits graph are readily correlated to the clades recovered
in the phylogenies. We use the term “lineage” to refer to groups of specimens
in the NN diagram (Fig. 8), and “clade” to refer to groups in the phylogenies (Fig. 7). The ITS splits graph revealed two main groups (Fig. 8). One of these, lineage
“I” correlates to clade “I” in Fig. 7 and is composed of populations of S. nigra. The later, lineage “II” that is includes the populations of S. ebulus, corresponding
to clade “II” in Fig. 7. Populations of S. ebulus (4, 5, 6, 7, 8, 9 & 10) show a more
near genetic affinity and are placed close to each other. Fig. 8 NeighborNet for ITS sequences of Sambucus. Two major groups were recovered (i.e.,
lineage I and lineage II). Fig. 8 NeighborNet for ITS sequences of Sambucus. Two major groups were recovered (i.e.,
lineage I and lineage II). Fig. 8 NeighborNet for ITS sequences of Sambucus. Two major groups were recovered (i.e.,
lineage I and lineage II). 146 Discussion Nuclear molecular
technique has been successfully used for investigation of infraspecific variations
in different genera (Sheidai et al. 2014, 2016; Koohdar et al. 2016). Therefore,
we decided to use the molecular approach for investigation of infraspecific
variations between Sambucus species. Our results confirmed separation of these
species. In the phylogram of nrDNA ITS and NeighborNet diagram, samples of
each species were placed separately and we revealed complete separation of the
studied populations. Separation of two species of Sambucus was recovered in
nrDNA ITS phylogenetic study by Jacobs et al. (2009). In conclusion, the present
work revealed the great difference between two species. These taxa differ in 147 taxonomically important micro-morphological and molecular characteristics. Populations of S. ebulus nested in a polytomy, so it is necessary to use chloroplast
markers and some other molecular techniques useful at the population level, for
example AFLP, ISSR, microsatellites to better resolve the relationships between
the populations of one species. A number of fast evolving genes will be necessary
for resurrecting subspecies or verities in these two species. Acknowledgement The authors would like to thank Razi Institute (Tehran, Iran) staff for their
assistance in scanning electron microscope, and all of persons who helped us in
this research work. References Accorsi C. A., Bandini Mazzanti M., Forlani L. & Speranza M. (1987): Morfologia pollinica
di Sambucus L. in Italia. – Arch. Bot. Biogeogr. Ital. 63: 153–194. Backlund A. & Donoghue M. J. (1996): Morphology and phylogeny of the order
Dipsacales. – In: Backlund A. (ed.): Phylogeny of the Dipsacales, p. 1–55. – Uppsala:
Uppsala University. Baldwin B. G., Sanderson M. J., Porter J. M., Wojciechowski M. F., Campbell C. S. &
Donoghue M. J. (1995): The ITS region of nuclear ribosomal DNA: a valuable source
of evidence on angiosperm phylogeny. – Ann. Missouri Bot. Gard. 82/2: 247–277. DOI: 10.2307/2399880 Bell C. D., Edwards E. J., Kim S. T. & Donoghue M. J. (2001): Dipsacales phylogeny based
on chloroplast DNA sequences. – Harvard Pap. Bot. 6/2: 481–499. (
)i Bryant D. & Moulton V. (2004): Neighbor-Net: An agglomerative method for the
construction of phylogenetic networks. – Mol. Biol. Evol. 21/2: 255–265. https://
doi.org/10.1093/molbev/msh018 Chen K. G., Du F. G., Song J. H. & Huang Y. (1992): A preliminary study on the pollen
morphology of Sambucus in Jilin province. – J. Jilin Forest. Univ. 8: 39–46 (in Chinese,
with English Abstract). Donoghue M. J., Ericksson T., Reeves P. A. & Olmstead R. G. (2001): Phylogeny and
phylogenetic taxonomy of Dipsacales, with special reference to Sinadoxa and
Tetradoxa (Adoxaceae). – Harvard Pap. Bot. 6/2: 459–479.ii (
)
p
/
Donoghue M. J., Bell C. D. & Winkworth R. C. (2003): The evolution of reproductive
characters in Dipsacales. – Int. J. Plant Sci. 164/5: 453–464. DOI: 10.1086/376874
Du F. G., Zhu T. C., Zhu J. Y., Luan Z. H., Wang B. Q., Ma J. Y. & Dong Y. (2007): Sculpture
f
ll
f
f
b
h
h (
)
p
Donoghue M. J., Bell C. D. & Winkworth R. C. (2003): The evolution of reproductive
characters in Dipsacales. – Int. J. Plant Sci. 164/5: 453–464. DOI: 10.1086/376874 Du F. G., Zhu T. C., Zhu J. Y., Luan Z. H., Wang B. Q., Ma J. Y. & Dong Y. (2007): Sculpture
type of pollen surface of Sambucus Linn. in China. – J. Beihua Univ. Nat. Sci. 8: 271–
275 (in Chinese, with English Abstract).i (
,
g
)
Edgar R. C. (2004): Muscle: Multiple sequence alignment with high accuracy and high
throughput. – Nucleic Acids Res. 32/5: 1792–1797. DOI: 10.1093/nar/gkh340 Erdtman G. (1952): Pollen Morphology and Plant Taxonomy. Angiosperms. Chronica
Botanica Co., Waltham, Massachusettes. References – Copenhagen.ii Errikson T. & Donoghue M. J. (1997): Phylogenetic relationships of Sambucus and Adoxa
(Adoxoideae, Adoxaceae) based on nuclear ribosomal ITS sequences and preliminary
morphological data. – Syst. Bot. 22/3: 555-573. DOI: 10.2307/2419828i p
g
y
Felsenstein J. (1985): Confidence limits on phylogenies: An approach using the bootstrap. – Evolution 39/4: 783–791. doi: 10.1111/j.1558-5646.1985.tb00420.x. p
g
y
Felsenstein J. (1985): Confidence limits on phylogenies: An approach using the bootstrap. – Evolution 39/4: 783–791. doi: 10.1111/j.1558-5646.1985.tb00420.x. Gundersen A. L. (1910). – Recherches anatomique sur les Caprifoliaceae. Thèse. – Paris. – Evolution 39/4: 783–791. doi: 10.1111/j.1558-5646.1985.tb00420.x. Gundersen A. L. (1910). – Recherches anatomique sur les Caprifoliaceae. Thèse. – Paris. i
/
/j
Gundersen A. L. (1910). – Recherches anatomique sur les Caprifoliaceae. Thèse. – Paris. 148 Hammer O., Harper D. A. T & Ryan P. D. (2001): PAST: Paleontological Statistics software
package for education and data analysis. – Palaeonton. Electron. 4/1: 1–9. Hu C. C. & He C. X. (1988): Pollen morphology of Caprifoliaceae from China and its
taxonomic significance. – J. Syst. Evol. 26/5: 343–352 (in Chinese, with English
Abstract). Hu R., Du F. G. & Jiang B. W. (1996): A preliminary study on the seed morphology of
Sambucus in Jilin province. – J. Jilin Forest. Univ. 12: 104–108 (in Chinese, with
English Abstract).iii g
)
Huson D. H. & Bryant D. (2006): Application of phylogenetic networks in evolutionary
studies. – Mol. Biol. Evol. 23/2: 254–267. DOI: 10.1093/molbev/msj030
(
)i Ingrouille M. J. (1986): The construction of cluster webs in numerical taxonomic
investigation. – Taxon 35/3: 541–545. DOI: 10.2307/1221911
J
b B L
F & S
E (2009) E
l ti
f f
i
d
d h
i
h Di
ill Jacobs B., Lens F. & Smets E. (2009): Evolution of fruit and seed characters in the Diervilla
and Lonicera clades (Caprifoliaceae, Dipsacales). – Ann. Bot. 104/2: 253–276. doi:
10.1093/aob/mcp131ii Jacobs B., Huysmans S. & Smets E. (2010): Evolution and systematic value of fruit
and seed characters in Adoxaceae (Dipsacales). – Taxon 59/3: 850–866. DOI:
10.2307/25677673 Jamzad Z. (1993): Sambucus L. – In: Assadi M., Khatamsaz M. & Maassoumi A. A. (eds.):
Flora of Iran 8. Dipsacaceae – Tehran: Research Institute of Forests and Rangelands. J dd W S S
d
R W & D
h
M J (1994) A
i
F
il P i
P
li i Jamzad Z. (1993): Sambucus L. – In: Assadi M., Khatamsaz M. References & Maassoumi A. A. (eds.):
Flora of Iran 8. Dipsacaceae – Tehran: Research Institute of Forests and Rangelands. Judd W. S., Sanders R. W. & Donoghue M. J. (1994): Angiosperm Family Pairs: Preliminary
Phylogenetic Analyses. – Harvard Pap. Bot. 1/5: 1–51. pi
g
Judd W. S., Sanders R. W. & Donoghue M. J. (1994): Angiosperm Family Pairs: Preliminary
Phylogenetic Analyses. – Harvard Pap. Bot. 1/5: 1–51. Judd W. S., Campbell C. S., Kellogg E. A., Stevens P. F. & Donoghue M. J. (2007): Plant
systematics: a phylogenetic approach, 3rd edition. – Sunderland, M. A: Sinauer. K
hd
F
Sh id i M
T l bi S M
N
h
di Z & Gh
d h B
ki S Koohdar F., Sheidai M., Talebi S. M., Noormohammadi Z. & Ghasemzadeh-Baraki S. (2016): Genetic diversity, population structure and morphological variability in the
Lallemantia royleana (Lamiaceae) from Iran. – Phytol. Balcan. 22/1: 29–38.i Mabberley D. J. (2008): The Plant Book, a Portable Dictionary of Higher Plants. –
Cambridge University Press. – Cambridge. Maciejewska I. (1997): Pollen morphology of the polish species of the family
Caprifoliaceae. Part 1. – Acta Soc. Bot. Poloniae 66/2: 133–142. DOI: 10.5586/
asbp.1997.017i p
Merica E., Lungu M., Balan I. & Matei M. (2006): Study on the chemical composition of
Sambucus nigra L. Essential oil and extracts. – Nutra Cos. 5/1: 25–27. ill
f iff
& S h
(20 0) C
ti
h
C
S S i
G Miller M. A., Pfeiffer W. & Schwartz T. (2010): Creating the CIPRES Science Gateway
for Inference of Large Phylogenetic Trees. Proceedings of the Gateway Computing
Environments Workshop (GCE), New Orleans, Louisiana. – Piscataway: IEEE. 45–52. DOI:10.1109/GCE.2010.5676129 Naderi Safar K., Kazempour-Osaloo Sh., Maassoumi A. A. & Zarre Sh. (2014): Molecular
phylogeny of Astragalus section Anthylloidei (Fabaceae) inferred from nrDNA ITS
and plastid rpl32-trnL(UAG) sequence data. – Turkish J. Bot. 38/4: 637-652. DOI:
10.3906/bot-1308-44i Novelli S. (2003): Developments in berry production and use. – Bi-weekly Bul. 16: 5–6. –
Agriculture et Agroalimentaire Canada.i Nylander J. A. A. (2004): MrModeltest v2. Program distributed by the author. Evolutionary
Biology Centre .– Uppsala University, Uppsala. (
)
(
)
l bl
ht
//
l age D. M. (2001): Tree View (Win32) version 1.6.6. Available: http:// taxonomy. zoolo
gla.ac.uk/rod/treeview. html.i
(
)
éi
l d
léd
d
d l' Petit L. References (1887): – Le pétiole de Dicotylédones au point de vue de l'anatomie comparée
et de la taxonomie. 149 Posada D. & Buckley T. R. (2004): Model selection and model averaging in phylogenetics:
Advantages of akaike information criterion and Bayesian approaches over likelihood
ratio tests. – Syst. Biol. 53/5: 793–808. DOI: 10.1080/10635150490522304 Punt W., Reitsma T. J. & Reuvers, A. A. M. L. (1976): The Northwest European Pollen
Flora, 2. Caprifoliaceae. – Rev. Palaeobot. Palynol. 17: 5–29. l
k
l
h
(
)
l
f
ll Punt W., Hoen P. P., Blackmore S., Nilsson S. & Thomas A. L. (2007): Glossary of pollen
and spore terminology. – Rev. Palaeobot. Palynol. 143/1–2: 1–81. https://doi. org/10.1016/j.revpalbo.2006.06.008iil Pyck N. & Smets E. (2000): A search for the phylogenetic position of the seven-son flower
(Heptacodium, Dipsacales): combining molecular and morphological evidence. –
Plant Syst. Evol. 225/1–4: 185–199. https://doi.org/10.1007/BF00985467i Pyck N., Roels P. & Smets E. (1999): Tribal relationships in Caprifoliaceae: evidence from
a cladistic analysis using ndhF sequences. – Syst. Geogr. Pl. 69/2: 185–199. DOI:
10.2307/3668539i Ramdhani S., Barker N. P. & Cowling R. M. (2011): Revisiting monophyly in Haworthia
Duval (Asphodelaceae): Incongruence, hybridization and contemporary speciation. – Taxon 60/4: 1001–1014. DOI: 10.1002/tax.604005 Ronquist F., Teslenko M., Vandermark P., Ayres D. L, Darling A., Höhna S., Larget B.,
Liu L., Suchard M. A. & Huelsenbeck J. P. (2012): MrBayes 3.2: efficient bayesian
phylogenetic inference and model choice across a large model space. – Syst. Biol. 61/3: 539–542. DOI: 10.1093/sysbio/sys029 y
y
Rugină R. & Toma C. (2007): Histo-anatomical aspects of some Lonicera L. species. –
Biologievegetală. 26–33.iii Sang T., Crawford D. J. & Stuessy T. (1995): Documentation of reticulate evolution in
peonies (Paeonia) using internal transcribed spacer sequences of nuclear ribosomal
DNA: Implication for biogeography and concerted evolution. – Proc. Natl. Acad. Sci. U. S. A. 92/15: 6813–6817. doi: 10.1073/pnas.92.15.6813 Sheidai M., Ziaee S., Farahani F., Talebi S. Y., Noormohammadi Z. & Hasheminejad-
Ahangarani-Farahani Y. (2014): Infra-specific genetic and morphological diversity in
Linum album (Linaceae). – Biologija 69/1: 32–39. DOI: 10.2478/s11756-013-0281-4
h d
b
l b
&
h
d
(
)i
d
h l
l Sheidai M., Taban F., Talebi S. M. & Noormohammadi Z. (2016): Genetic and morphological
diversity in Stachys lavandulifolia (Lamiaceae) populations. – Biologija 62/1: 9–24. DOI:10.6001/biologija.v62i1.3286fi Swofford D. L. (2002): PAUP*: Phylogenetic Analysis Using Parsimony (*and Other
Methods), Version 4.0b10. – Sunderland: Sinauer Associates. DOI: 10.1111/j.0014-
3820.2002.tb00191.xiii Uncinimanganelli R. References E., Zaccaro L. & Tomei P. E. (2005): Antiviral activity in-vitro of Urtica
dioica L., Parietaria diffusa and Sambucus nigra L. – J Ethnopharmacol. 98/3: 323–
327. DOI: 10.1016/j.jep.2005.01.021
(
)
f
(
) Wendelbo P. (1965): Caprifoliaceae. – In: Rechinger K. H. (ed.): Flora Iranica 10. – Graz:
Akademische Druck-u. Verlagsanstalt. Whi
T J
B
T L
S & T
l
J (1990) A
lifi
ti
d di
i
f Wendelbo P. (1965): Caprifoliaceae. – In: Rechinger K. H. (ed.): Flora Iranica 10. – Graz:
Akademische Druck-u. Verlagsanstalt. h
l
(
)
l fii
f White T. J., Bruns T., Lee S. & Taylor J. (1990): Amplification and direct sequencing of
fungal ribosomal RNA genes for phylogenetics. – In: Innis D. H., Gelfand J. J., Sninsky
et al. (eds.): PCR protocols: a guide to methods and applications, p. 315–322. –
Academic Press, San Diego. Received: June 10th 2018
Revised: March 17th 2019
Accepted: June 27th 2019 150
|
https://openalex.org/W4386801432
|
https://strategicjournals.com/index.php/journal/article/download/2152/2056
|
English
| null |
EFFECTS OF PERFORMANCE APPRAISAL ON JOB SATISFACTION AMONG PUBLIC SECONDARY SCHOOL TEACHERS IN KAPSARET SUB COUNTY, UASIN-GISHU COUNTY KENYA
|
The strategic journal of business & change management
| 2,021
|
cc-by
| 13,931
|
Jepngetich, M., Ochieng, I., Gakobo, T., & Onyango, R. EFFECTS OF PERFORMANCE APPRAISAL ON JOB SATISFACTION AMONG PUBLIC SECONDARY SCHOOL
TEACHERS IN KAPSARET SUB COUNTY, UASIN-GISHU COUNTY KENYA EFFECTS OF PERFORMANCE APPRAISAL ON JOB SATISFACTION AMONG PUBLIC SECONDARY SCHOOL
TEACHERS IN KAPSARET SUB COUNTY, UASIN-GISHU COUNTY KENYA EFFECTS OF PERFORMANCE APPRAISAL ON JOB SATISFACTION AMONG PUBLIC SECONDARY SCHOOL
TEACHERS IN KAPSARET SUB COUNTY, UASIN-GISHU COUNTY KENYA ABSTRACT ABSTRACT
Performance appraisal is one of the key elements of any organizations drive towa
through continuous performance improvement. When effectively carried out perfo
and enhance teachers’ job satisfaction that entail productivity, accountability a
improve performance of students and the school in general. Despite these clear b
established that teachers have negative perception about performance appraisal
indiscipline, resistance and significant staff turnover from the teaching pro
investigated the effect of performance appraisal on job satisfaction among te
school in Kapsaret Sub County, Kenya. Specifically, the study examined the effec
training and performance-based compensation/rewards on teachers’ job satisfact
The study was guided by Alderfer’s Erg Theory and Maslow hierarchy of needs
design was used with a study population of 80 heads of departments from th
Kapseret Sub- County using census inquiry. The data collected was analyzed using
statistics. The study findings showed that there was a statistically significant effec
training and performance-based compensation/rewards on teachers’ job satisfact
thus rejecting the null hypotheses. However performance appraisal training had
satisfaction amongst the teachers. In this regard there is need for strengthening
strategies to strengthen performance evaluation towards enhancing job satisfactio
Key words: performance appraisal training, performance-based compensation and
CITATION: Jepngetich, M., Ochieng, I., Gakobo, T., & Onyango, R. (2021). Effect
on job satisfaction among public secondary school teachers in Kapsaret Sub C
Kenya. The Strategic Journal of Business & Change Management, 8 (4), 911 – 933. Performance appraisal is one of the key elements of any organizations drive towards competitive advantage
through continuous performance improvement. When effectively carried out performance appraisal promote
and enhance teachers’ job satisfaction that entail productivity, accountability and efficiency at work, thus
improve performance of students and the school in general. Despite these clear benefits, recent studies have
established that teachers have negative perception about performance appraisal which has caused truancy,
indiscipline, resistance and significant staff turnover from the teaching profession. Thus, this study
investigated the effect of performance appraisal on job satisfaction among teachers in public secondary
school in Kapsaret Sub County, Kenya. Specifically, the study examined the effect of performance appraisal
training and performance-based compensation/rewards on teachers’ job satisfaction in Kapsaret Sub County. The study was guided by Alderfer’s Erg Theory and Maslow hierarchy of needs Theory. Descriptive survey
design was used with a study population of 80 heads of departments from the 18 secondary schools in
Kapseret Sub- County using census inquiry. Vol. 8, Iss. 4, pp 911 – 933. December 10, 2021. www.strategicjournals.com, ©Strategic Journals
EFFECTS OF PERFORMANCE APPRAISAL ON JOB SATISFACTION AMONG PUBLIC SECONDARY SCHOOL
TEACHERS IN KAPSARET SUB COUNTY, UASIN-GISHU COUNTY KENYA
1 Jepngetich, M., 2 Ochieng, I., 3 Gakobo, T., & 4 Onyango, R.
1 Laikipia University, Kenya
2 Professor, Laikipia University, Kenya
3 Doctor, Laikipia University, Kenya
4Masinde Muliro University [MMUST], Kenya
Accepted: December 10, 2021 Vol. 8, Iss. 4, pp 911 – 933. December 10, 2021. www.strategicjournals.com, ©Strategic Journals pp
g j
g
EFFECTS OF PERFORMANCE APPRAISAL ON JOB SATISFACTION AMONG PUBLIC SECONDARY SCHOOL
TEACHERS IN KAPSARET SUB COUNTY, UASIN-GISHU COUNTY KENYA
1 Jepngetich, M., 2 Ochieng, I., 3 Gakobo, T., & 4 Onyango, R. 1 Laikipia University, Kenya
2 Professor, Laikipia University, Kenya
3 Doctor, Laikipia University, Kenya
4Masinde Muliro University [MMUST], Kenya
Accepted: December 10, 2021 Accepted: December 10, 2021 CITATION: Jepngetich, M., Ochieng, I., Gakobo, T., & Onyango, R. (2021). Effects of performance appraisal
on job satisfaction among public secondary school teachers in Kapsaret Sub County, Uasin-Gishu County
Kenya. The Strategic Journal of Business & Change Management, 8 (4), 911 – 933. Jepngetich, M., Ochieng, I., Gakobo, T., & Onyango, R. Jepngetich, M., Ochieng, I., Gakobo, T., & Onyango, R. ABSTRACT By
1950s performance appraisal was recognized as a
potential tool for managing employee rewards
through pay increases. Based on its results,
employees were also counseled, demoted or
identified for lay off. Today, performance appraisal
is one of the key elements of any organizations
drive towards competitive advantage through
continues performance improvement (Gruman &
Saks, 2011). A regular review of each individual
employee’s performance provides information
about his or her competence and aspirations. This is
essential for planning (Kong, Cheung, & Song,
2012). It can also serve a wide range of specific uses
for the manager including identifying employees’
training needs, potentials for higher responsibilities,
determining pay and redeployment ((Kong, Cheung,
& Song, 2012). However, performance appraisal has
been operated frequently as a top-down and largely
bureaucratic system owned by the Human Resource
(HR) department rather than by line managers. It
has been perceived by many as a means of
exercising managerial control (Poister, 2010). Several researches have been conducted on teacher
appraisal. Gichuki (2015) researched on the
teachers’ perceptions on performance appraisal
system effectiveness in public secondary school. The study established that there was a problem in
communication of the performance feedback
among the appraisers and appraise. Muli (2012)
researched on the impact of performance appraisal
on
secondary
school
teachers’
professional
development in Kitui west sub County. The study
showed unsatisfactory feedback which translated to
little or no effect on teachers’ performance. Onyaro
(2016)
revealed
that
teacher’
performance
appraisal practices in public secondary schools in
Kenya display flaws which require to be reviewed
immediately if teachers’ performance evaluation is
to be used to improve quality of education in
Kenya. The research studies that have been
conducted have failed to explain whether the
recently reviewed teachers’ performance appraisal
policy by TSC had effectively addressed the
weakness raised by previous studies in Kenya. It is
evident that studies on performance appraisal and
job satisfaction are lacking. It is against this
background that this study will seek to fill this
knowledge gap by determining the effect of
performance
appraisal
on
performance
of
secondary school teachers in Kapsaret Sub-County. Teacher appraisals have remained a vital part of the
education system in Kenya since independence. Existing literature recognizes the potential benefits
of
appraisals
such
as
increasing
teacher’s
productivity
thereby
improving
students’
performance (Morton & Montgomery, 2013), and
promoting accountability and efficiency at work. ABSTRACT The data collected was analyzed using descriptive and inferential
statistics. The study findings showed that there was a statistically significant effect of performance appraisal
training and performance-based compensation/rewards on teachers’ job satisfaction in Kapsaret Sub County
thus rejecting the null hypotheses. However performance appraisal training had a negative variation on job
satisfaction amongst the teachers. In this regard there is need for strengthening monitoring an evaluation
strategies to strengthen performance evaluation towards enhancing job satisfaction. y words: performance appraisal training, performance-based compensation and job satisfactio he Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.c INTRODUCTION difficulties in determining the relationship between
appraising teachers and effective learning. This is
against Teachers Service Commission (TSC) position
that
Teachers
Performance
Appraisal
and
Development (TPAD) improves teaching standards. This has arisen partially because of the evaluation
mechanisms. Introduction
of
performance
appraisal
was
witnessed in the United States of America during
the Second World War (1940s) as a method of
justifying employees’ wages (Hughes, 2012). It was
then known as merit rating. The merit rating was
based on material outcome where higher output
was rewarded with higher pay and vice-versa. By
1950s performance appraisal was recognized as a
potential tool for managing employee rewards
through pay increases. Based on its results,
employees were also counseled, demoted or
identified for lay off. Today, performance appraisal
is one of the key elements of any organizations
drive towards competitive advantage through
continues performance improvement (Gruman &
Saks, 2011). A regular review of each individual
employee’s performance provides information
about his or her competence and aspirations. This is
essential for planning (Kong, Cheung, & Song,
2012). It can also serve a wide range of specific uses
for the manager including identifying employees’
training needs, potentials for higher responsibilities,
determining pay and redeployment ((Kong, Cheung,
& Song, 2012). However, performance appraisal has
been operated frequently as a top-down and largely
bureaucratic system owned by the Human Resource
(HR) department rather than by line managers. It
has been perceived by many as a means of
exercising managerial control (Poister, 2010). Introduction
of
performance
appraisal
was
witnessed in the United States of America during
the Second World War (1940s) as a method of
justifying employees’ wages (Hughes, 2012). It was
then known as merit rating. The merit rating was
based on material outcome where higher output
was rewarded with higher pay and vice-versa. ABSTRACT Despite these clear benefits authoritative sources
have established that teachers’ holds negative
perception about the performance appraisal which
has caused truancy, indiscipline, resistance and
significant staff turnover from the teaching
profession because of job satisfaction. In addition,
study
conducted
Wanzare
(2012)
showed A performance appraisal is an official management
system that facilitates the evaluation of individual’s
discharge of assigned duties within an organization
in order to gain human capital advantage (Daoanis,
2012). Performance appraisal involves a process of
creating work standards, evaluating employees’
performance in relation to the work standard and
giving feedback on the performance with the aim of
improving on areas of weakness (Yee & Chen, Page: - 912 -
The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com 2009). At the school level, a performance appraisal
has served to evaluate teachers’ current and past
performance
against
certain
set
standards
(Armstrong, 2009). Among the aspects that it
evaluates include teacher work output, knowledge,
skills, character and individual contribution to
institution (Yee & Chen, 2009). The major aim of an
appraisal is to develop teachers in order to improve
their delivery in teaching by correcting individual
weaknesses to a more effective working habit,
providing feedback about progress and receiving
guidance and support (Daoanis, 2012). Appraisals
have been used globally to make teachers
accountable in a visible way to employers, students
and parents (Bruns & Luque, 2014). In England for
example a teacher appraisal was used to assist
teachers in their professional development and
career planning (Wiliam & Thompson, 2017),
whereas in Kenya, the Commission’s annual staff
report indicates usage of appraisals to assess
teachers’
performance
comprehensively
and
objectively with reference to job description
(TSC/TPAD/01). teachers with the directive to visit and inspect any
school at any time with or without notice- and
report on the state of the school (Marecho, 2012). The schools were inspected to determine if the
curriculum was properly implemented and whether
teachers were competent professionals. The system encouraged principals to submit written
reports to the commission about a teacher’s
performance without formal or informal reference
to the teacher about the content of the report. In
view
of
the
then
prevailing
circumstances,
alternative ways were sought to improve the quality
of teaching and learning in Kenya’s secondary
schools. ABSTRACT In 2005 with the publication of the Revised
Code of Regulations for Teachers (TSC, 2005), the
teacher appraisal policy changed from confidential
to an open appraisal system. The Commission in
administering the open appraisal system required
heads of institutions to provide an overall role in
performance appraisal for teachers in their
respective institutions (TSC, 2014). The desire by
the Commission to improve the open teacher
appraisal system and its outcome lead to the
introduction of an appraisal system known as
Performance Appraisal and Development (TPAD) in
2014 (TSC/TPAD/01). The teacher Appraisal went
through a pilot study process between 2013 and
2016
before
it
was
unveiled
nationally. TSC/TPAD/01 indicated that the purpose of the
ongoing appraisal was to review and improve
teaching standards through a systematic appraisal
approach, with a view to evaluate teachers’
performance
and
promote
professional
development so as to enhance learning outcomes. To date its objectives, remain to provide quality
education to learners to all public institutions, to
provide an opportunity for teachers to improve
their
performance
competencies,
to
analyze
performance
gaps,
to
provide
support
for
professional development and to provide a fair,
effective and consistent teacher evaluation. Appraisal reports derived from the exercise, besides
facilitating on analysis of training needs for
teachers, equally guide the determination of
promotions and demotions (TSC annual staff report,
TSC/TPAD/01). Kenya’s tradition of teachers’
performance appraisal was inaugurated early at
independence, for instance in 1964 when Ominde
proposed policy recommendation depicting aspects
of education. One such suggestion stated that
teachers’ performance be evaluated through
inspections. This necessitated the government of
Kenya to initiate inspectoral evaluation of schools
and teachers to improve standards of education
(Ratemo,
2016). Furthermore,
chapter
211,
section18 of the 1980 Education Act, entrusted the
ministry of education-through its professional arm
the known as the inspectorate (later renamed
directorate of Quality Assurance and standards in
2003)- with the provision of quality education. The
Act allowed the ministry to appoint inspectors from
the ministry pertinent department or serving The Code of Regulations for Teachers 2015
stipulates that a teacher in a post-primary
institution shall be appraised by the head of Page: - 913 -
The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com that people have about their current jobs. ABSTRACT People’s
levels or degrees of jobs satisfaction can range from
extreme satisfaction to extreme dissatisfaction. Teachers have attitudes about various aspects of
their jobs such as the kind of work they do; their co-
workers’ supervisors, subordinates or their pay. A
teacher who has high job satisfaction is perceived to
have a high level of commitment to his/her work
(Deepa, Palaniswamy & Kuppusamy, 2014). Job
satisfaction has the potential to affect a wide range
of behaviour in organizations. Teachers’ job
satisfactions have strong implications for student
achievement. Deepa, Palaniswamy & Kuppusamy
(2014) showed that improvement in teacher
satisfaction has benefits for both students and
stakeholders. department or in the absence of the head of the
institution, the deputy head of the institution and
the appraisal report confirmed by the head of
institution, also the appraisal instruments shall be
jointly discussed, completed and signed by both the
appraiser and appraise Code of Regulations for
Teachers (2015). The introduction of teacher
performance appraisal and development in January
2016 remains one of the most transformative
reform programs to be implemented in the teaching
service. According to Dr. Lydia Nzomo the
Commission Chairperson, Performance Contract
(PC) and Teacher Performance Appraisal and
Development (TPAD) is the best legacy by Teachers
Service Commission to Kenya’s children as the two
programs are focused towards delivery of quality
education in public learning institutions Teachers
Image (2018), she says from the initial anxiety,
uncertainty and apprehension that greeted the
appraisal programs head teachers, teachers and all
stakeholders have now agreed that PC and TPAD
are
great
transformational
agents
in
professionalization of the teaching service Teachers’
Image (2018). Evidence shown by the monitoring
report 2017 is that there are reduced cases of
teacher absenteeism, teachers are more prepared
to teach, increased teamwork and professional
learning communities. Job satisfaction is either a global feeling about the
job or a related constellation of attitudes about
various aspects of facets of the job. The facet
approach is used to find out which parts of the job
produce satisfaction or dissatisfaction. The more
important factors conducive to job satisfaction
include mentally challenging work, equitable
rewards,
conducive
working
conditions
and
supportive colleagues. For most employees work
also fills the need for social interaction and so,
friendly supportive employees also lead to
increased job satisfaction (Chamundeswari, 2013). ABSTRACT Job satisfaction can also be seen as an indicator of
emotional well-being or psychological health
(Deepa,
Palaniswamy
&
Kuppusamy,
2014). Similarly,
the
utilitarian
perspective
to
job
satisfaction, asserts that job satisfaction can lead to
behaviours that can have either a positive or
negative effect on organizational functioning. Job satisfaction is considered a key cause for
teacher
shortage,
according
to
educational
policymakers in Northern Carolina in America
(Tickle, Chang & Kim, 2011). Turner, Tamura,
Mulholland and Baier (2007) contended that many
teachers raise concerns about dissatisfaction with
working conditions, time allocated for planning
instructions,
poor
relations
at
school
with
colleagues and the general school environment. Teacher Job satisfaction is defined as the “teachers”
affective relation to his/her teaching role and is a
function of the perceived relationship between
what one perceives it is offering to a “teacher”. Job
satisfaction also refers to the fulfillment a teacher
derives from day-to-day activities in his/her job. Job
satisfaction is the collection of feelings and beliefs Performance
Appraisal
System
(PAS)
was
introduced by the government of Kenya (GOK) to
refocus the mind of the public from a culture of
inward looking to a culture of business like
environment, focused on the customer and results
in addition to improving service delivery (Obong'o,
2009). According to the performance appraisal
system (PAS), the evaluation of staff performance is
supposed to enable them meet acceptable quality egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com standards. The process is regarded as interactive,
for mutual agreement between supervisors and
appraisers (GOK, 2009). The government of Kenya
has in the past made some efforts in launching and
implementing Public Service Reform initiatives
aimed at improving the performance of public
servants in service delivery (Hope, 2012). However,
these reforms have not achieved the envisaged
results (Opiyo, 2006). The introduction of the
performance appraisal system (PAS) (GOK, 2006) is
yet another attempt by the Government to manage
and improve performance of the Civil Service by
enabling a higher level of staff participation and
involvement in planning, delivery and evaluation of
work performance. Different industries and jobs
need different kinds of appraisal methods, and for
our purpose we will discuss some ways to assess
performance, this will change based upon the job
specifications for each position within the company. parents/guardians and stakeholders called “the
seven competency areas”. ABSTRACT Job expectation are tools managers use to compare
actual results to job expectations or standards, can
also be a list of tasks, duties and responsibilities and
the manner in which an employee should perform
her/his job, having up-to-date accurate and
professional job expectation list is critical to an
organization’s ability to attract qualified candidates,
orient
and
train
employees
establish
job
performance standards, develop compensation
programs, conduct performance review, set goals
and meet legal requirements. Job expectation allow
a manager to compare the performance of
employees competing for the same job, this helps in
assessing training and development needs for a
particular worker, can also be used to prepare
formal employee evaluation. Training supervisors and managers how to conduct
appraisal meetings is just one of the developing and
effective
performance
appraisal
program. Continuing performance appraisal training is
needed because teachers require continuous
training
on
emerging
issues
in
classroom
management, curriculum implementation and for
instructional improvement in their subjects of
specialization. Performance
appraisal
training
enables an organization to validate that their
employees have the right skills and knowledge to
complete job tasks and produce quality products
and services, can provide opportunities for teachers
to grow personally and professionally and increases
their capacity for effectiveness. An effective
performance
appraisal
benefits
both
the
organization and employees, the employees get the
opportunity to get formal feedback from line
management on how their performance is viewed,
ensures clarity regarding work expectations and
standards, reduces anxiety/stress and conflict with
line managers, it also provides an opportunity for
employees to discuss their job competence-leading
to targeted training and development, provides a
forum to share new ideas and to air their views. In
addition, such experiences increase the opportunity Teaching standards are the clear expressions of the
baseline of expectations for the professional
practice and conduct of teachers and define the
minimum level of practice expected of teachers in
Kenya. Teachers are expected to use the teaching
standards to support their own professional
development, planning teaching and learning
programs, and for assessing learners progress. Teachers will find the standards useful in reviewing
their practice and inform their plans for continuous
professional development since they provide
shared understanding of the essentials of great
teaching. Quality teaching occurs when the
teachers’ ongoing analysis of the context, the
decisions about which pedagogical knowledge and
abilities to apply result in optimum learning by
students. Statement of the Problem Teacher appraisals have remained a vital part of the
education system in Kenya since independence. Benefits of appraisals such as increasing teacher’s
productivity by improving students’ performance,
promoting accountability and efficiency at work is
evident amongst teachers. Despite these clear
benefits authoritative sources have established that
teachers’ holds negative perception about the
performance appraisal which has caused resistance,
indiscipline, truancy, which to a greater extend have
affected effective learning in schools and has led to
poor results. In addition, previous studies have
failed to show how performance appraisal in this
area (Kapseret Sub-County) has affected teacher’s
job satisfaction which has an important role in
student and even teacher performance in Kenya. Therefore, it was against this background that this
study sort to examine the effect of performance
appraisal
on
job
satisfaction
among
public
secondary school teachers in Uasin Gishu County. The complexity of their roles enables the
organization to generate sufficient data from all
stakeholders for a meaningful assessment, in a
school set up where teachers play very challenging
and very important duty of helping students in their
performance, this kind of feedback enables the
supervisors HODs get the right information faster
and accurately about teachers using the tools of
teacher performance appraisal which are student
supervisory roles, clocking in and out register,
students record of work ,the teachers’ approved
schemes of work records, notes prepared for every
lesson, lesson plans for every lesson this contributes
to whole round information about a teacher. These
are commonly used performance appraisal methods
used by the Teachers Performance Appraisal and
Development tool (TPAD). The essence of teachers’
performance appraisal according to Teachers
Service
Commission
is
to
improve
learning
outcomes in primary and secondary schools
(Teacher appraisal and development manual, 2014). Another use of performance appraisal is to enable ABSTRACT The standards should help teachers set
targets,
monitor
achievement
and
develop
programs that support and improve student
learning. Teaching standards according to TPAD are:
Professional knowledge and application, time
management, innovation and creativity, learner
protection, safety, discipline and teacher conduct,
promotion of co-curriculum activities, professional
development
and
collaboration
with egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com to interact with colleagues to get a fresh vision for
teaching and classroom leadership, to learn or
develop a new method of instructional leadership
or a new way to assess student learning. Compensation is a fundamental component of
Human Resource Management. It covers economic
reward in the form of wages and salaries as well as
benefits, indirect compensation or supplementary
pay (Salisu, Chinyio & Suresh, 2015). Compensation
emanates basically from the fact that it provides
income to workers and constitutes an important
cost item to the employer (Matrocchio 2011). There
are four groups of compensation classifications
used in Kenya: Salary, allowances, gratuity and
pensions, Salary is a fixed amount paid to workers
for the service or work done (monthly salary, yearly
salary and promotional salary increase). Salary is
calculated on a weekly, monthly or annual basis. It
is designated to pay white- collar workers
administrative
professionals
and
executive
employees (Salisu, Chinyio & Suresh, 2015). Thus
salary is also called basic pay and allowances. the teachers’ service to improve performance in
every public learning institution in line with its
vision of being an institution of excellence in the
provision of efficient and effective service for
quality teaching (Teachers’ image, 2018). Job
satisfaction is the collection of feelings and beliefs
that people have about their current jobs. People’s
levels or degrees of jobs satisfaction can range from
extreme satisfaction to extreme dissatisfaction. People have attitudes about various aspects of their
jobs such as the kind of work they do; their co-
workers’ supervisors, subordinates or their pay job
satisfaction has strong implications for student
achievement (Deepa, et al., 2014). Objective of the Study The study investigated the effects of performance
appraisal on job satisfaction among teachers in
public secondary schools in Kapsaret Sub County
Uasin-Gishu County, Kenya. The specific objectives
were;
Examine the effects of performance appraisal
training on teachers’ job satisfaction in Kapsaret
Sub-County, Uasin- Gishu County. egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com
Asses the effects of performance based
compensation/rewards
on
teachers’
job
satisfaction in Kapsaret Sub-County, Uasin-
Gishu County performance appraisal and training & development
on job satisfaction. Questionnaire were adopted
from previous papers with 5 likert scale and the
sample size was 200. Study shows the positive and
significant relationship between dependent and
independent variables. Job training and job
satisfaction are a major factor in any organization. The study was guided by the following research
hypothesis;
H01: Performance appraisal does not have
statistically significant effect on teachers’ job
satisfaction in Kapsaret Sub County Usin-Gishu
County Continuing performance appraisal training is
needed because teachers require continuous
training
on
emerging
issues
in
classroom
management, curriculum implementation and for
instructional improvement in their subjects of
specialization. Performance
appraisal
training
enables an organization to validate that their
employees have the right skills and knowledge to
complete job tasks and produce quality products
and services, can provide opportunities for teachers
to grow personally and professionally and increases
their capacity for effectiveness. An effective
performance
appraisal
benefits
both
the
organization and employees, the employees get the
opportunity to get formal feedback from line
management on how their performance is viewed,
ensures clarity regarding work expectations and
standards, reduces anxiety/stress and conflict with
line managers, it also provides an opportunity for
employees to discuss their job competence-leading
to targeted training and development, provides a
forum to share new ideas and to air their views. In
addition, such experiences increase the opportunity
to interact with colleagues to get a fresh vision for
teaching and classroom leadership, to learn or
develop a new method of instructional leadership
or a new way to assess student learning.
H02: Performance based compensation/rewards
do not have statistically significant effect on
teachers’ job satisfaction in Kapsaret Sub
County Uasin-Gishu County. Effects of Performance based compensation
/rewards on Job Satisfaction professionalism among principals which could have
a positive influence on their job satisfaction and
retention in their schools and their profession. The
established
views
showed
that
performance
appraisal training leads to job satisfaction and some
studies
revealed
that
teacher’s
learning
opportunities have a direct relationship with their
self-reported commitment to the profession or
indirect
effect
mediated
by
the
level
of
collaboration and input into decision making (Rutter
& Jacobson, 2006). Professional training is a very
important factor in service delivery (Sarah 2007). Research has shown that it is only achieved through
meaningful well designed employee training which
serve to help workers with adequate knowledge on
standards and this help to refine their practices
(Hung, Lai & Chang, 2011). The authors further
asserted that once workers have completed training
from college, some hardly attend seminars and
workshops to keep abreast with trend changes in
the work force. These revelations triggered the
current research. The current study intends to find
out whether continuous teacher development has
an input on job satisfaction. Compensation is the major factor in any firm. If
employee is doing good bonus, holidays, formal and
informal recognition are their rights. Output and
excellence of work boost (Pilar Carbonella, 2016). Financial and non-financial awards are comprised
on it. The study shows the regression analysis that
indicates a stronger relationship of financial awards
stronger the employee satisfaction. (Farah Liyana
Bustamama, 2014). As reward has a positive
consequence on job satisfaction and consequential
promotion is a gift but not working hard can be a
result of demotion and punishment (Akhter, Raza,
Ashraf, Ahmad & Aslam, 2016). Salisu, et. al (2015) carried out a study on impact of
compensation on job satisfaction of public sector
construction workers of Jigawa state of Nigeria, the
study showed that compensation packages have
relationships with workers’ job satisfaction, it
established a theoretical framework based on
equity theory and used it to examine how different
compensation packages might influence workers’
job satisfaction. The reviewed study looked at
construction workers in Nigeria while the current
study will be looking at teachers in public secondary
schools in Kenya. De Rljdt, Stes, van der Vleuten and Dochy (2013)
conducted a study on factors that affect the
performance of locomotive employees in Japan. The research design composed of both qualitative
and quantitative methods. Data collection was
through use of questionnaires, observation and
document analysis. Effects of Performance Appraisal Training and Job
Satisfaction Training is a set of activities which is helpful for the
employees of the organization that augment its
knowledge, skills and competencies. After training
he/she can perform even better and be helpful to
the organization to achieve its goals (Schmidt,
2010). Training is provided at every level but, skill
and back ground information may differ. Some
years ago training was not paid too much attention
in any organization but today it has become a major
part of every organization’s calendar (Truitt, 2011). Training effect employee performance and its
satisfaction. A survey was conducted by United
Kingdom in 2006 that shows that 87% of
organizations has to face difficulty while recruiting
the staff, 72% of them were those who have skill
gaps, 60% need improvement and in a recent
review organization of Economic Corporation States
that shortage of skills can also effect economic
growth. In any organization industry training is
needed to be sure and this is the major
responsibility of an HR manager. Training is also
conducted to increase information technology,
skills, problem solving and to increase their
communication skills (Sila, 2014).Huma Raza did a
study
on
relationships
between
rewards, Participation in performance appraisal training
activities signals the teacher’s level of commitment
to their school and profession, that is, they would
be less likely to invest their time, and in some cases
their own money, if they plan to depart. At the
same time, participation in performance appraisal
training activities can serve to enhance job
satisfaction by helping teachers increase their skills
and core content knowledge (their human capital). Professional development is a means for increasing egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com Effects of Performance based compensation
/rewards on Job Satisfaction Effects of Performance based compensation
/rewards on Job Satisfaction Random sampling was used to
select participant for the study. The study sample
consisted of locomotives employees. The study
findings revealed that workers lack mechanical
knowledge related to their initial college training to
handle programs in their work place. Random
sampling was employed on this study to select 200
participants. This study investigated on training as a
factor affecting locomotive employees but the
researcher did not show how workers training
affect job satisfaction of workers a variable which
the current study intends to study on but the target
population of the present study will be teachers. Compensation is a fundamental component of
Human Resource Management. It covers economic
reward in the form of wages and salaries as well as
benefits, indirect compensation or supplementary
pay (Salisu, et. al., 2015). Compensation emanates
basically from the fact that it provides income to
workers and constitutes an important cost item to
the employer (Matrocchio, 2011). There are four
groups of compensation classifications used in
Kenya: Salary, allowances, gratuity and pensions. Salary is a fixed amount paid to workers for the
service or work done (monthly salary, yearly salary
and
promotional
salary
increase). Salary
is
calculated on a weekly, monthly or annual basis. It
is
designated
to
pay
white-collar
workers
administrative
professionals
and
executive The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com employees (White & Drucker, 2000). Thus salary is
also called basic pay and allowances. and recognition are intangible rewards and teachers
feel a sense of self-worth if their endeavors receive
recognition and praise. Recognition is an aspect
that makes individuals feel motivated (Herzberg,
1968). Individuals at all levels of the organization
want to be recognized for the job satisfaction. Jehanzeb, Rasheed, & Rasheed (2012) are of the
view that if an employee performs successfully, it
leads to organizational rewards and as a result
motivational factor of employees lies in their
performance. Allowances are monetary benefits other than salary
offered to workers for specific purposes such as
personnel
movement,
financial
support
and
personnel engagement allowances. Benefits are
supplementary compensations awarded to workers
apart from basic salary as a result of some certain
circumstances like retirement in this context. Pension is benefits to workers paid upon retirement
monthly. A worker to be entitled for pension pay
must put in at least ten years of service. Effects of Performance based compensation
/rewards on Job Satisfaction Gratuity is
lamp sum amount paid to workers after retirement
(Poister, 2010). According to Edginton, Hudson, and Lankford
(2001), reward plays an exceedingly important role
in moving an organization towards excellence. Cerasoli, Nicklin & Ford (2014) have suggested that
employee performance is a joint of ability and
reward. Therefore,
rewarding
employees
to
perform to the best of their ability is seen as one of
the manager’s primary tasks. This fact wills be
reiterated in the 1990s when public recreation
managers ranked rewarding employees as their
most, important goal to pursue (Edginton, Hudson
& Landford, 2001). Anitha (2014) argued that
monetary rewards programs keep high spirits
among employees, boosts up their morale and
create a linkage between performance and
motivation of the employees. The basic purpose of
reward program is to define a system to pay and
communicate it to the employees so that they can
link their reward to their performance which
ultimately leads to employee’s job satisfaction. The importance of pay and benefits in satisfying
economic need of an employee could never over
emphasis since what employee will gain in his/her
employment relationships is salary and benefits. There
is
a
correlation
between
compensation/reward and workers job satisfaction
(Nelson 2008). Armstrong (2009) viewed that
reward is a means through which various workers’
need are satisfied. Thus unsatisfied workers
normally reduce workplace moral and lower
productivity (Johns, 2010). Job satisfaction can be
enhanced by increasing autonomy, stress reduction
and above all rises in compensation package (White
2006). Causes of job satisfaction are: Work itself,
Reward, Supervision, Promotion opportunities, and
co-workers. Voon, Lo, Ngui & Ayob (2011) stated
that workers’ job satisfaction is contingent upon job
component like work setting. The views were echoed by Gallup (2012) who
established that Japan women employees get
satisfied with the recognition they receive at work
for their accomplishments. The other finding of the
survey was that men employees get unsatisfied
with
companies’
recognition
programs
and
management’s acknowledgment of achievements. However, the survey further revealed that there is
an obvious disconnect between leadership and staff
as to what drives an individual’s satisfaction within
a position. Gallup concluded that employees need
to feel appreciated by managers and other workers
around them because one spends majority of Recognition is one of the intangible rewards in all
organizations it is important as it helps in having
satisfied workers (Wang & Hou, 2015). Effects of Performance based compensation
/rewards on Job Satisfaction Further,
according to this author, maintaining a culture of
recognition and appreciation in an organization can
go a long way in building job satisfaction, which
directly can be equated to sustaining a higher level
of employee engagement at work. The drive and
reinforcement theories of motivation emphasize
the importance of rewards such as recognition and
praise to motivate employees to perform well and
sustain good practice (Perrachoine, 2008). Praise Page: - 919 -
The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com teachers. This report is based on practices of the
ministry of education in a different locality from
where the current study is being carried out. Constructing an effective performance appraisal
programe
requires
collaborative
work
with
compensation and benefits specialist to determine
allocation for salary increases, incentives and other
monetary rewards. Communication should be clear
for employees. his/her time during the week at the work place. Without recognition, there is normally low
satisfaction at a work place and this directly affects
the ability of workers to be creative, innovative, and
productive. This reviewed study focused on how recognition
influences job satisfaction whereas this current
study will include another variable besides job
satisfaction which is motivation. The CareerBuilder
Candidate Behavior study carried out in America in
2013 showed that 77% of full-time employed
workers are either open to or actively looking for
new job opportunities because they are unsatisfied
with state of recognition at the workplace and thus
retaining them is difficult. This reviewed study was
conducted in America and the target population
were builders this prompted the researcher to
conduct a study in Kenya and with the current
study, the researcher will target secondary school
teachers this is because workers in different sectors
have different perceptions on various strategies
that lead to job satisfaction or motivation. Teachers’ job satisfaction The extent to which teachers are satisfied with their
job is a potential indicator of their commitment to
their responsibilities, teacher effectiveness and
motivation. If there is a poor relationship between
and
among
persons,
environment
and
job
characteristics, there may be problems with their
behaviour at work (Jaiyeoba, Mukhtari & Ado,
2010). Job satisfaction is very important and of
major
concern
in
educational
organizations. Teachers’ satisfaction is important for student
achievement and school performance. To begin
with, job satisfaction influences job performance
(Deepa, et. al., 2014). It increases teacher
motivation and commitment to teaching (Van
Maele & Van Houtte, 2012: OECD, 2014; Deepa, et. al., 2014). Another survey by Society for Human Resource
Management in Australia (2011) revealed that
nearly half of human resource managers say
showing appreciation to employees helps reduce
turnover and increase profit. This reviewed survey
targeted only human resource officers but the
current study will target teachers of public
secondary schools this is because workers in various
departments within an organization have different
opinions on which compensation strategies increase
their job satisfaction and thus motivation increases. Satisfied teachers are more likely to provide higher
quality teaching that benefits students’ success
(Demirtas, 2010; Collie, 2012; Griva, 2012). Teacher
Job satisfaction has serious implications for the
student performance and teachers themselves. Particularly, it can influence teacher absenteeism,
turnover and school effectiveness (Griva, 2012). Satisfied and motivated teachers are more
interested in professional development which
subsequently can improve the quality of teaching
(OECD, 2014). In South Africa, since 2000 the department of
education has been rewarding excellence for best
practice in education through incentive schemes
such as the National Teaching Awards (NTA), the
awarding of cash bonuses in recognition of long
service (20 and 30 years’ service awards) and the
awarding of cash bonuses for improvement in
educational qualifications (DoE, 2005). At present,
the Doe’s Laptop Initiative (The Teacher, 2010) is
also being negotiated for teachers as an attempt to
subsidize purchases of computer laptops for High quality effective leadership for high schools is
critical due to the social, political, and economic
pressures placed upon public education. Due to
these increasing pressures and ever higher
accountability placed on teachers, job satisfaction
may decrease. The teacher’s job is complex and
demanding; however, thoughtful examination of Page: - 920 -
The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com egic Journal of Business & Change Management. Teachers’ job satisfaction ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com regressions completed for this study revealed that
the significant predictors of job satisfaction were
the number of assistant principals and Virginia
Accreditation status. This research targeted high
school principals in Virginia, while the current study
is targeting teachers in secondary schools in Kenya
a different area from the current study. the teaching profession and the variables that
contribute to job satisfaction can better equip
teachers to retain them. To improve performance evaluation to be more
effective in influencing organizational commitment,
satisfaction of the teachers as well as fair
performance management within the school should
be given priority. James (2004) did a study on job
satisfaction of high school principals in Virginia. For
this study 183 high school principals in Virginia
responded to an internet survey using the
Minnesota Satisfaction Questionnaire to explore
the specific variables of gender, age, salary, number
of assistant principals, years as principal, tenure,
school socio-economic status, school size, and
school accreditation status to determine which
variables may or may not contribute to job
satisfaction. A multiple regression was utilized to
determine the relative impact that the criterion
variables in predicting job satisfaction. The findings
of this study suggest that high school principals in
Virginia were generally satisfied with their jobs. The
principals who responded were least satisfied with
their level of compensation and most satisfied with
being of service to others. The step-wise multiple Maforah and Schulze (2015) did a study on the job
satisfaction
of
principals
of
previously
disadvantaged schools: New light on an old issue in
South Africa. This study identified influences on the
job satisfaction of previously disadvantaged school
principals in North- West Province. A mixed-
methods explanatory research design was used. Thirty principals of secondary schools located in the
rural villages and townships in the province were
purposefully selected. A structured questionnaire
was used during the quantitative phase. The
findings were that power versus powerlessness was
a key factor to lack of job satisfaction. While the
current study is investigating on the effects of
teacher performance appraisal on job satisfaction
among public secondary school teachers in Kapsaret
Sub-County Uasin-Gishu Couty. RESULTS Effect of Performance Appraisal Training on
Teachers Job Satisfaction Teachers’ job satisfaction Independent Variables
Dependent Variables
Figure 1: Conceptual Framework
Source (Author, 2021)
Performance appraisal training
Induction and orientation
Continuous career training
Mentorship programs
Performance based compensation /rewards
Monitory reward
Non- monetary
Job Satisfaction
Productivity
Absenteeism
Employee turn over Performance appraisal training
Induction and orientation
Continuous career training
Mentorship programs ob Satisfaction
Productivity
Absenteeism
Employee turn over Performance based compensation /rewards
Monitory reward
Non- monetary Dependent Variables Independent Variables
Figure 1: Conceptual Framework
Source (Author, 2021) Effects of performance appraisal training was
indicated by the induction and orientation offered
to teachers by the teachers’ service commission to
enable teachers copy with the policies and
expectations of effective teaching for quality service
of the teachers’, giving feedback to the teachers’ is
a very important indicator of performance appraisal
training this is because teachers respond according to the feedback it can be a positive or a negative
feedback. The indicators of performance based
compensation/reward include monetary reward,
these are financial rewards provided to employees
for meeting their goals, this may include cash
awards, bonuses, commission, gift cards and more. Money is an effective motivator for improving
employee performance. Non-minatory reward Page: - 921 -
The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com social sciences (SPSS) version 25.0 package. Descriptive statistics were summarized using
frequencies and percentages. Correlation and
simple linear regression were used to determine
the magnitude and direction of relationship
between performance appraisal and teachers’ job
satisfaction. Significant
relationships
was
considered at p < 0.05. The regression model was as
follows: Where y is Teachers Job Satisfaction which
is the dependent variable, β is the standardized
regression coefficient. incentives was another indicator of performance
based compensation/reward which are designed to
recognize a special achievement or the completion
of something that enhance employee’s job
performance. Non-monetary rewards do not
involve the direct money. There are benefits of non-
monetary rewards which include promotion,
flexible timings and health care benefits. The
benefits which are in non-monetary form derives
more benefits to the organization because it
involves some of emotional bondage with the
employee loyalty, which automatically increase job
performance. Y=α +β1X1
Y=α +β2X2
β0= Constant
X1= Performance Appraisal Training
X2=Performance based compensation
ԑ = Error term Y=α +β1X1
Y=α +β2X2
β0= Constant
X1= Performance Appraisal Training
X2=Performance based compensation
ԑ = Error term METHODOLOGY The study adopted a descriptive survey design
targeting a population of 80 Heads of Department
(HODs) in the 18 public secondary schools but 2
schools, St. Georges Secondary School and AIC
Chepyakwai secondary Schools were excluded from
the study because they didn’t have Heads of
Departments (HOD) in Kapseret Sub-County. A
census of the Heads of Department of these schools
formed 80 sample units. This study used a structure
administered questionnaire to collect the data from
the respondents. Data obtained was organized,
coded and analyzed through statistical package for Effect of Performance Appraisal Training on
Teachers Job Satisfaction In addition 27 (36%) of the respondents showed
that more literacy teachers were available to
implement teachers gap to a very small extent, 23
(30.7%) indicated small extent, 12 (16%) indicated
neutral, 8 (10.7%) indicated great extent while 5
(6.7%) indicated that this practice there to a very
great extent. The findings show that majority of the
HoDs agreed to the fact that literacy teachers were
available to a very small extent. Findings further
indicated that 29 (38.7%) of the respondents
showed that access to instructional leaders,
mentors and peers was available to a very small
extent, 24 (32%) indicated small extent, 7 (9.3%)
indicated neutral, 7 (9.3%) indicated great extent
while 8 (10.7%) indicated that this activity was done
to a very great extent. The findings show that
majority of the HoDs agreed that mentors were not
extensively available. The finding shows that with
such as environment teacher may not achieve job
satisfaction. Research has shown that it is only achieved through
meaningful well designed employee training which
serve to help workers with adequate knowledge on
standards and this help to refine their practices
(Hung, Lai & Chang, 2011). The authors further
asserted that once workers have completed training
from college, some hardly attend seminars and
workshops to keep abreast with trend changes in
the work force. Findings in further indicated that 47 (62.7%) of the
respondents showed that training programmes and
models for good practices have been established to
a very small extent, 15 (20%) indicated small extent,
7 (9.3%) indicated neutral, 3 (4%) indicated great
extent while 3 (4%) indicated that this standard was
done to a very great extent. The findings show that
majority of the HoDs have to a very small extent
coordinated establishment of training programmes. Findings indicated that 35 (46.7%) of the
respondents showed that there is early career
training to a very small extent, 10 (13.3%) indicated
small extent, 17 (22.7%) indicated neutral, 10
(13.3%) indicated great extent while 3 (4%)
indicated that this practice was done to a very great
extent. The findings show that majority of the HoDs
may not be engaged in organizing early training. This is contrary to the broad belief that training
employees early and later to widen their career
progression is essential. Effect of Performance Appraisal Training on
Teachers Job Satisfaction The researcher sought to analyze descriptively the
effect of performance appraisal training on
teachers’ job satisfaction in Kapsaret Sub County in
Uasin Gishu County. The findings were indicated in
Table 1. Table 1: Effect of Performance appraisal training Table 1: Effect of Performance appraisal training
1
2
3
4
5
Time is allotted during the term for professional
development
47(62.7%)
13(17.3%)
6(8%)
9(12%)
Training programmes and models for good
practices have been established
47(62.7%)
15(20%)
7(9.3%)
3(4%)
3(4%)
There is training for teachers in impact areas
43(57.3%)
19(25.3%)
9(12%)
4(5.3%)
More
literacy
teachers
are
available
to
implement teachers gap
27(36%)
23(30.7%)
12(16%)
8(10.7%)
5(6.7%)
Access to instructional leaders, mentors and
peers is available
29(38.7%)
24(32%)
7(9.3%)
7(9.3%)
8(10.7%)
There is early career training
35(46.7%)
10(13.35)
17(22.7%)
10(13.3%)
3(4%)
Seminars and workshops organised by MoE assist
teachers to be abrest of new policies
11(14.7%)
19(25.3%)
4(5.3%)
24(32%)
17(22.7%)
Teachers are inducted and given opportunity to
seek advice from experienced teachers
8(10.7%)
25(33.3%)
42(56%)
Mentoring programmes have been adopted to
enhance training
9(12%)
4(5.3%)
25(33.3%)
37(49.3%)
Performance appraisal training on how to do
personal appraisal was done
13(17.3%)
3(4%)
24(32%)
35(46.7%) Findings in Table 1 indicated that 47 (62.7%) of the
respondents showed that time is allotted during the
term for professional development on a very small
extent, 13 (17.3%) indicated small extent, 6 (8)
indicated great extent while 9 (12%) indicated that
allocation was done to a very great extent. The
findings show that majority of the HoDs allocated
time for professional development to a very small
extent. This implied that teachers may not be able
to learn and rectify areas that needed training so
that they are improved later. It is important for
schools and other organization to invest in
professional training because it leads to job
satisfaction. This agrees with Sarah (2007) assertion
that professional training is a very important factor
in service delivery. was done to a very great extent. The findings show
that majority of the HoDs felt that training in impact
areas was done to a very small extent. This finding
implies that such impact areas such as ICT and
communication skills will continue to be a challenge
given the little trainings that are carried out to
mitigate the situation. This finding is in line with Sila
(2014) assertion that training is conducted to
increase information technology, skills, problem
solving and to increase their communication skills. Effect of Performance Appraisal Training on
Teachers Job Satisfaction This is in line with the
finding by De Rljdt, Stes, van der Vleuten and Dochy
(2013) who pointed that employees cherish the
opportunities in which they can acquire new Teacher performance appraisal requires continuous
training on new and emerging issues. Its arguable
that when such training are done at a very minimal
level then job satisfaction may be impacted. Findings further indicated that 43 (57.3%) of the
respondents showed that there is more training for
teachers in impact areas at a very small extent, 19
(25.3%) indicated small extent, 9 (12%) indicated
great extent while 4 (5.3%) indicated that training Page: - 923 -
The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com inducted and given opportunity to seek advice from
experienced teachers to a very small extent, 25
(33.3%) indicated small extent, while 42 (56%)
indicated that this practice was done to a very great
extent. The findings show that majority of the HoDs
ensured that there was induction of new teachers
on matters related to teacher appraisal. Induction is
very important as it ensures that new teachers are
taken through the processes of teacher evaluation. This exercise may make them to settle and be
satisfied with what they will be doing. knowledge and skills that broaden their horizon
regarding the job and that enhances their worth
and marketability in their current job as well as
future positions. Thus, leaders should support
employees to learn new ideas, skills and acquire
more knowledge relating to their job by discussing
career options with them. Findings in Table 1 further indicated that 11 (14.7%)
of the respondents showed that seminars and
workshops organized by MoE assist teachers to
address new policies and changes were being used
to a very small extent, 19 (25.3%) indicated small
extent, 4 (5.3%) indicated neutral, 24 (32%)
indicated great extent while 17 (22.7%) indicated
that this practice was done to a very great extent. The findings show that majority of the HoDs agreed
that seminars and workshops were used to a great
extent so as to improve on the teacher training. Such seminars and workshops presents the
continuous opportunities provided for professional
development of teachers. Effect of Performance Appraisal Training on
Teachers Job Satisfaction These assertions are in
line with Rutter and Jacobson (2006) who
established that performance appraisal training
leads to job satisfaction and some studies revealed
that teacher’s learning opportunities have a direct
relationship with their self-reported commitment to
the profession or indirect effect mediated by the
level of collaboration and input into decision
making. Findings further indicated that 9 (12%) of the
respondents showed that mentoring programmes
have been adopted to enhance training to a small
extent, 4 (5.3%) indicated neutral, 25 (33.3%)
indicated great extent while 37 (49.3%) indicated
that this practice was done to a very great extent. The findings show that majority of the HoDs felt
that mentoring was being done to a very great
extent. Mentoring is a very important function in
teacher training that most likely leads to teacher
job satisfaction. Findings further indicated that 9 (12%) of the
respondents showed that mentoring programmes
have been adopted to enhance training to a small
extent, 4 (5.3%) indicated neutral, 25 (33.3%)
indicated great extent while 37 (49.3%) indicated
that this practice was done to a very great extent. Lastly, findings indicated that 9 (12%) of the
respondents showed that performance appraisal
training on how to do personal appraisal was done
to small extent, 3 (4%) indicated neutral, 24 (32%)
indicated great extent while 35 (46.7%) indicated
that this standard was done to a very great extent. The findings showed that majority of the HoDs felt
that personal performance appraisal training was
carried to a very great extent. This implies that
teachers may be satisfied with their jobs because
they understand what they are doing. From the findings 13 (17.3%) of the respondents
showed that they engaged in teacher professional
activities to a very small extent, 12 (16%) indicated
small extent, 5 (6.7%) indicated neutral, 9 (12%)
indicated great extent while 36 (48%) indicated that
this standard was done to a very great extent. The
findings show that majority of the HoDs ensured
that they participated in profession activities that
may end up influencing their job satisfaction. This
implied that HoDs were engaging in activities that
enhance teaching in school such as instructional
activities, evaluation and measurement. Effect of Performance Appraisal Training on
Teachers’ Job Satisfaction Effect of Performance Appraisal Training on
Teachers’ Job Satisfaction Effect of Performance Appraisal Training on
Teachers’ Job Satisfaction
A simple linear regression was run to show the
effects of performance appraisal training on
teachers’ job satisfaction. The results are presented
in Table 2. A simple linear regression was run to show the
effects of performance appraisal training on
teachers’ job satisfaction. The results are presented
in Table 2. Findings further indicated that 8 (10.7%) of the
respondents showed that new teachers are egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com Table 2: Model Summary appraisal training. In the model there was an R2 of
.066 denoting a 6.6 % variation on job satisfaction
as explained by performance appraisal training. The
R-square value indicates that this model succeeds in
predicting up to 6.6 % of the variance in teacher job
satisfaction in secondary school education. Table 3
presented the ANOVA output analysis. As shown in Table 2, the R value was 0.257. R is a
measure of correlation between the observed value
and the predicted value of the dependent variable. Thus, 0.257 is the correlation coefficient between
the levels of teacher job satisfaction in secondary
school as reported by the respondents and the
levels as would be predicted by performance As shown in Table 2, the R value was 0.257. R is a
measure of correlation between the observed value
and the predicted value of the dependent variable. Thus, 0.257 is the correlation coefficient between
the levels of teacher job satisfaction in secondary
school as reported by the respondents and the
levels as would be predicted by performance Table 3: ANOVAa
Model
Sum of Squares
Df
Mean Square
F
Sig. 1
Regression
106.715
1
106.715
5.166
.026b
Residual
1507.871
73
20.656
Total
1614.587
74
a. Dependent Variable: Teacher job satisfaction
b. Predictors: (Constant), Performance appraisal training b. Predictors: (Constant), Performance appraisal training rejected
hence
it
can
be
concluded
that
performance appraisal training significantly affects
teacher job satisfaction. Table 4 presents the
coefficient arising from the analysis. The ANOVA output was examined to check whether
the proposed model was viable. Results shown in
Table 4 revealed that the F-statistic was highly
significant (F= 5.166 p < 0.05) this showed that the
model was valid. Thus, the null hypothesis is Table 4: Coefficients
Coefficientsa
Model
Unstandardized Coefficients
Standardized Coefficients
T
Sig. B
Std. Effect
of
Performance
Based
Compensation/Rewards
on
Teachers
Job
Satisfaction Effect
of
Performance
Based
Compensation/Rewards
on
Teachers
Job
Satisfaction Effect
of
Performance
Based
Compensation/Rewards
on
Teachers
Job
Satisfaction Descriptive Statistical Analysis of Effects of
Performance Based/Rewards The researcher sought to analyze descriptively the
effect of performance based/Rewards on teachers’
job satisfaction in Kapsaret Sub County in Uasin
Gishu County. The findings were indicated in Table
5. This section analyses, interprets, presents and
discusses descriptive and inferential statistics
relating to objective four of the study which was set
to explore the effects of performance based Table 5: Effects of Performance Based Compensation/Rewards
1
2
3
4
5
Immediate formal and informal recognition
has been exercised
30(40%)
28(37.3%)
2(2.7%)
5(6.7%)
10(13.3%)
Appraisee and appraiser have freedom to
make decisions
3(4%)
5(6.7%)
4(5.3%)
31(41.3%)
32(42.7%)
Supervisors give direction and assistance
when needed
10(13.3%)
6(8%)
7(9.3%)
26(34.7%)
26(34.7%)
Those who are positively appraised are
rewarded positively
15(20%)
13(17.3%)
12(16%)
12(16%)
23(30.7%)
There is fairness of getting rewards
37(49.3%)
26(34.7%)
2(2.7%)
10(13.3%)
Promotion process procedures are fair
5(6.7%)
10(13.3%)
6(8%)
23(30.7%)
31(41.3%)
Benefits received are as good as other
organization
10(13.3%)
35(46.7%)
30(40%) Table 5: Effects of Performance Based Compensation/Rewards Findings in Table 5 indicated that30 (40%) of the
respondents showed that immediate formal and
informal recognition has been exercised to a very
small extent, 28 (37.3%) indicated small extent, 5
(6.7%) indicated great extent while 10 (13.3%)
indicated recognition has been exercised to a very
great extent. The findings show that majority of the
HoDs were recognized to a very small extent. This
implied that most of the HoDs may not be satisfied
with their jobs because of the inadequate
compensation. These findings agreed with a study
done by James (2004) who did a study on job
satisfaction of high school principals in Virginia. The
findings of this study suggest that high school
principals in Virginia were least satisfied with their
level of compensation. Though the study focused
on principals the study feels that the same can
apply for the HoDs because they too are in
leadership position and can also be affected by job
satisfaction. Findings further indicated that 3 (4%) of the respondents showed that appraisee and
appraiser have freedom to make decisions to a very
small extent, 5 (6.7%) indicated small extent, 4
(5.3%) indicated neutral, 31 (41.3%) indicated great
extent while 32 (42.7%) indicated that this practice
was done to a very great extent. The findings show
that majority of the HoDs did not have the freedom
to make decisions. Effect of Performance Appraisal Training on
Teachers’ Job Satisfaction Error
Beta
1 (Constant)
35.541
3.122
11.385
.000
Performance
appraisal training
-.251
.111
-.257
-2.273
.026
a. Dependent Variable: teacher job satisfaction a. Dependent Variable: teacher job satisfaction Table 4 further presented the coefficient arising
from the analysis. The simple linear regression
analysis was conducted so as to determine the
relationship
between
performance
appraisal
training and teacher job satisfaction. The equation
Y=α + β1X1 generated from this model therefore
become: training. According to the simple linear regression
equation established, taking all o t h e r factors
constant at zero, teacher job satisfaction will be
35.541. The data findings analyzed also show that
taking all other variables at zero, there will be a -
0 .251 unit decrease in teacher job satisfaction as
explained by performance appraisal training based
on the β values. The (t = -2.276,P<0.05) implied
that
performance
appraisal
training
has
a
statistically significant effect on teacher job Y= 35.541 + -.251 X3 Y= 35.541 + -.251 X3 Where Y is the dependent variable (teacher job
satisfaction), X3 teacher performance appraisal Page: - 925 -
The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com satisfaction in secondary schools in Kapsaret Sub
County thus the rejection of the null hypothesis. compensation/
Rewards
on
teachers’
job
satisfaction in Kapsaret Sub County. job Effect
of
Performance
Based
Compensation/Rewards
on
Teachers
Job
Satisfaction Descriptive Statistical Analysis of Effects of
Performance Based/Rewards of the respondents showed that appraisee and
appraiser have freedom to make decisions to a very
small extent, 5 (6.7%) indicated small extent, 4
(5.3%) indicated neutral, 31 (41.3%) indicated great
extent while 32 (42.7%) indicated that this practice
was done to a very great extent. The findings show
that majority of the HoDs did not have the freedom
to make decisions. Findings further indicated that 10 (13.3%) of the
respondents showed that supervisors give direction
and assistance when needed to a very small extent,
6 (8%) indicated small extent, 7 (9.3%) indicated
neutral, 26 (34.7%) indicated great extent while 26
(34.7%) indicated that this standard was done to a
very great extent. The findings show that majority
of the HoDs supervised and gave directions to a
very great extent. Supervision is a very critical
practice in appraisal process because it enables a
rational way of giving evaluation. Findings further egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com indicated that 15 (20%) of the respondents showed
that those who are positively appraised are
rewarded positively to a very small extent, 13
(17.3%) indicated small extent, 12 (16%) indicated
neutral, 12 (16%) indicated great extent while 23
(30.7%) indicated that this standard was done to a
very great extent. The findings show that majority
of the HoDs were rewarded positively. It is arguable
to note that an equally good number of HoDs felt
that they had not been rewarded positively. This
implies that job satisfaction may be affected. This is
in line with a study by Odhiambo (2005) on Teacher
Appraisal: The Experiences of Kenyan Secondary
Schools’ found out the following as the most
common advantages of appraisals: a potential
contributor to quality education, capacity to
identify developmental needs, encouraging hard
work and accountability, and the ability to motivate
and boost teachers’ morale by giving them
promotion. that majority of the HoDs felt that the promotion
process was fair. Literature has suggested measures
taken after appraisals as indicated by Oke (2016)
and Espinilla et al., (2013) to include guidance and
counselling, promotion, demotion as well as
recommendation
for
instructional
training. According to Piper and Zuilkowski (2015) there is
need to provide teachers with instructional support
by training them more on pedagogy even though
this is not done occasionally. Descriptive Statistical Analysis of Effects of
Performance Based/Rewards Lastly, findings
indicated that 30 (40%) of the respondents showed
benefits received are as good as other organization
to a very great extent, 35 (46.7%) indicated great
extent while 10 (13.3%) indicated neutral. The
findings showed that majority of the HoDs had
better benefits than other organization. Inferential Statistical Analysis of Effects of
Performance Based Compensation/Rewards on
Teachers’ Job Satisfaction The researcher sought to analyze inferentially the
effect
of
performance
based
compensation/
Rewards on teachers’ job satisfaction in Kapsaret
Sub County in Uasin Gishu County. The findings
were indicated in the following sections. According to the results 37 (49.3%) of the
respondents showed that there is fairness of getting
rewards to a very small extent, 26 (34.7%) indicated
small extent, 2 (2.7%) indicated neutral, while 10
(13.3%) indicated that this standard was done to a
very great extent. The findings show that majority
of the HoDs were getting rewards fairly. Findings
further indicated that 5 (6.7%) of the respondents
showed that promotion process was fair to a very
small extent, 10 (13.3%) indicated small extent, 6
(8%) indicated neutral, 23 (12%) indicated great
extent while 31 (41.3%) indicated that this standard
was done to a very great extent. The findings show Simple Linear Regression Analysis Model Summary
of
Effects
of
Performance
Based
Compensation/Rewards
on
Teachers
Job
Satisfaction
A simple linear regression was run to show the
effect of performance based
compensation/rewards on teachers’ job
satisfaction. The results are presented in Table 6. Simple Linear Regression Analysis Model Summary
of
Effects
of
Performance
Based
Compensation/Rewards
on
Teachers
Job
Satisfaction Table 6: Model Summaryb
Model
R
R Square
Adjusted R Square
Std. Error of the Estimate
1
.386a
.149
.137
4.33838
a. Predictors: (Constant), performance based compensation/rewards
b. Dependent Variable: teachers job satisfaction Table 6: Model Summaryb Table 6: Model Summaryb Table 6: Model Summaryb a. Predictors: (Constant), performance based compensation/rewards
b. Dependent Variable: teachers job satisfaction predicted value of the dependent variable. Thus,
0.386 is the correlation coefficient between the As shown, the R value was 0.386. R is a measure of
correlation between the observed value and the Page: - 927 -
The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com value indicates that this model succeeds in
predicting up to 14.9 % of the variance in teachers
job satisfaction in secondary school education in
Kapsaret Sub County. Up to 14.9 % of the variation
seen in the area under study is accounted for by the
performance based compensation/ rewards. Table
7 presented the ANOVA output analysis. levels of teachers’ job satisfaction in secondary
school as reported by the respondents and the
levels as would be predicted by performance-based
compensation/rewards. Table 7: ANOVAa Table 7: ANOVA
Model
Sum of Squares
Df
Mean Square
F
Sig. 1
Regression
240.613
1
240.613
12.784
.001b
Residual
1373.974
73
18.822
Total
1614.587
74
a. Dependent Variable: teacher job satisfaction
b. Predictors: (Constant), performance based compensation/ rewards a. Dependent Variable: teacher job satisfaction b. Predictors: (Constant), performance based compensation/ rewards The ANOVA output was examined to check whether
the proposed model was viable. Results shown in Table 8 revealed that the F-statistic was highly
significant (F= 12.784 p < 0.05). Table 8: Coefficientsa
Model
Unstandardized Coefficients
Standardized Coefficients
T
Sig. B
Std. Error
Beta
1 (Constant)
17.367
3.167
5.484
.000
Compensation
.481
.135
.386
3.575
.001
a. Dependent Variable: teachers job satisfaction Table 8: Coefficientsa rewards. According to the regression equation
established, taking all other variables at zero, a unit
increase in performance-based compensation will
lead to a 0 .481 increase in teacher job. Thus, the
null hypothesis was rejected and this can be
explained further by the assessment of the value of
the t – test = 3.575 which indicated that teacher job
satisfaction would be attributed to performance-
based compensation. Table 8 further presents the coefficient arising from
the analysis. The simple linear regression analysis
was conducted so as to determine the relationship
between
performance
based
compensation/rewards
and
teachers
job
satisfaction. The equation Y=α +β4X4 generated
from this model therefore become: Table 8 further presents the coefficient arising from
the analysis. The simple linear regression analysis
was conducted so as to determine the relationship
between
performance
based
compensation/rewards
and
teachers
job
satisfaction. The equation Y=α +β4X4 generated
from this model therefore become: Inferential Statistical Analysis of Effects of
Performance Based Compensation/Rewards on
Teachers’ Job Satisfaction In the model R2 x 100 =
.149 x 100% = 14.9 % indicating that 14.9 % of the
variation in teachers’ job satisfaction in secondary
school is explained by the performance-based
compensation/rewards in the study. The R-square Y= .17.367 + 0.481 X4 Where Y is the dependent variable (teachers’ job
satisfaction), X4 performance-based compensation/ egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com Table 9: Teachers Job Satisfaction Table 9: Teachers Job Satisfaction
1
2
3
4
5
Appraisals
have
provided
opportunities for professional
advancement
5(6.7%)
15(20%)
5(6.7%)
25(33.3%)
25(33.%)
Appraisals have improved the
working conditions in the school
25(33.3%)
20(26.7%)
10(13.3%)
15(20%)
5(6.7%)
Appraisals
provide
limited
opportunities for advancement
33(44%)
22(29.3%)
5(6.7%)
8(10.7%)
7(9.3%)
Appraisals makes teachers to feel
about losing their jobs
13(17.3%)
13(17.3%)
12(16%)
12(16%)
25(33.3%)
Appraisals has made teaching
interesting
40(5.3%)
25(33.3%)
10(13.3%)
Appraisal has made teaching job
insecure
5(6.7%)
10(13.3%)
4(5.3%)
23(30.7%)
33(44%)
Appraisals have improved salary
45(60%)
15(20%)
10(13.3%)
5(6.7%)
Enthusiasm to teaching is low
because of appraisal
25(33.3%)
30(40%)
10(13.3%)
10(13.3%)
10(13.3%)
Appraisal have made quitting
teaching an option
10(13.3%)
10(13.3%)
1013.3%)
10(13.3%)
10(13.3%)
Teaching is now stressful and full
of disappointment
33(44%) 30(40%)
33(44%) 40(53.3%)
35(46.7) small extent, 22 (29.7%) indicated small extent, 5
(6.7%) indicated neutral, 8 (10.7%) indicated great
extent while 7 (9.3%) indicated to a very great
extent. The findings show that majority of the HoDs
felt
that
appraisals
have
provided
limited
opportunities for advancement. Findings further
indicated that 13 (17.3%) of the respondents
showed that appraisals makes teachers to feel
about losing their jobs to a very small extent, 13
(17.3%) indicated small extent, 12 (16%) indicated
neutral, 12 (16%) indicated great extent while 25
(33.3%) indicated to a very great extent. The
findings show that majority of the HoDs felt that
appraisals makes them feel about losing their jobs. This finding implies that HoDs may not be satisfied
as a result of appraisals. Similar sentiments are
raised in a study by Bartlett (2000) which revealed a
negative scenario when the views of all staff
involved in the appraisal were considered. Bartlett
pointed out those teachers who value appraisals
and felt threatened by its motives. Majority echoed
suspicion about the motives of the government in
the introduction of appraisals hence indicating high
levels of mistrust which hindered the desire to Findings in Table 9 indicated that 5 (6.7%) of the
respondents showed that appraisals have provided
opportunities for professional advancement to a
very small extent, 15 (20%) indicated small extent, 5
(6.7%) indicated neutral. 25 (33.3%) indicated great
extent while 25 (33%) indicated to a very great
extent. Y= .17.367 + 0.481 X4 The findings show that majority of the HoDs
were satisfied with appraisals when it comes to
professional observed classroom teaching to a very
great extent. This implies that this teaching
standard was been done and may impact on the job
satisfaction of the teachers job satisfaction. Findings
further
indicated
that
25
(33.3%)
of
the
respondents showed that appraisals have improved
the working conditions in the school to a very small
extent, 20 (26.7%) indicated small extent, 10
(13.3%) indicated neutral, 15 (20%) indicated great
extent while 5 (6.7%) indicated that this standard
was done to a very great extent. The findings show
that majority of the HoDs felt that appraisals have
improved working conditions to a very small extent. Findings further indicated that 33 (44%) of the
respondents showed that appraisals have provided
limited opportunities for advancement to a very egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com promote professional development. Findings in The findings further indicated that 10
(13.3%) neutral that appraisal have made quitting
teaching an option. Lastly findings indicated that 40
(53.3%) of the respondents showed that teaching is
now stressful and full of disappointment to a great
extent while 35 (46.7%) indicated to a very great
extent. These findings showed that majority of the
respondents felt that teaching is now stressful as a
result of appraisal. This may be attributed to the
rigorous documentation that is involved in the
appraisal process. Findings further indicated that 40 (5.3%) of the
respondents showed that appraisals had made
teaching interesting to a very small extent, 25
(33.3%) indicated small extent while 10 (13.3%)
indicated to a very great extent. The findings show
that majority of the HoDs felt teaching is no longer
interesting because of appraisal. This explains the
fears that teachers have had for long period of time. Many teachers have associated appraisal with a lot
of paper work that has made teachers to become
disinterested. This finding is consistent with a
research by Hult and Edström (2016) which focused
on finding teachers’ views of internal and external
evaluations as practiced in various schools. Teachers explained that external evaluations had
unclear objectives and that too much time was
needed to do this kind of evaluations. Majority of
teachers explained that there was too much paper
work and increased work load in these evaluations. Y= .17.367 + 0.481 X4 Findings further indicated that 5 (6.7%) of the
respondents showed that appraisals has made
teaching job insecure to a very small extent, 10
(13.3%) indicated small extent, 4 (5.3%) indicated
neutral, 23 (30.7%) indicated great extent while 33
(44%) indicated to a very great extent. The findings
show that majority of the HoDs felt that they were
insecure because of the appraisals thus impacting
on their job satisfaction. Findings further indicated that 40 (5.3%) of the
respondents showed that appraisals had made
teaching interesting to a very small extent, 25
(33.3%) indicated small extent while 10 (13.3%)
indicated to a very great extent. The findings show
that majority of the HoDs felt teaching is no longer
interesting because of appraisal. This explains the
fears that teachers have had for long period of time. CONCLUSION
f Performance appraisal training had a negative
influence on teachers’ job satisfaction in Kapsaret
Sub County. This implies that training was not
geared
towards
attainment
of
teacher
job
satisfaction. Teacher performance appraisal training
requires continuous training on new and emerging
issues. It’s arguable that when such training is done
at a very minimal level then job satisfaction may be
impacted adversely. Therefore, there is need for
development and adherence to a policy framework
which guarantees access to instructional leaders,
mentors and peers besides continuous monitoring
and evaluation of seminars and workshops
organised by MoE for positive outcomes as teachers
job
satisfaction
and
performance. This
recommendation is in tune with the teacher’s
strong disagreement on availability of training
programmes and models for good practices. If this
trend continues then the realisation of job
satisfaction would be a pipedream. In fine HoDs
should be properly trained on performance
appraisal by the Teachers Service Commission. According to the findings 45 (60%) of the
respondents showed that appraisal have improved
salary to a very small extent, 15 (20%) indicated
small extent, 10 (13.3%) indicated neutral while 5
(6.7%) indicated great extent. The findings show
that majority of the HoDs felt that appraisal has
done little in improving their salary thus may
contribute to low job satisfaction. Findings further
indicated that 25 (33.3%) of the respondents
showed that there enthusiasm to teaching was low
to a very small extent, 30 (40%) indicate small
extent, 10 (13.3%) indicated neutral while 10
(13.3%) indicated to a very great extent. The
findings show that majority of the HoDs had a low
enthusiasm to teaching as a result of appraisal. Performance based compensation/ Rewards is
positively correlated to teachers’ job satisfaction in
Kapsaret
Sub
County. Thus,
strengthening
performance-based compensation would positively
impact on job satisfaction of the teachers. HoDs
perception was that there was freedom to make
decisions, HoDs supervised and gave directions
besides HoDs were rewarded positively by giving
them promotion. In addition, promotion process
was fair. However, they had reservation and in Page: - 930 -
The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com satisfaction. All these are grounded on Maslow’s
theory and Existence, Relatedness and Growth
theory. CONCLUSION
f A teacher beginning their career will be very
concern with psychological needs such as adequate
wages and stable income and security needs such
as benefits and a safe work environment. The more
a job allows for growth and acquisition of higher-
level needs, the more likely the teachers report
satisfaction with their jobs. Existence, Relatedness
and Growth theory shows that a teacher works on
fulfilling these needs simultaneously or separately
depending on the difference of goals, status, and
the environment. Finally, there is need for other
studies from different counties to be conducted
with a much larger sample to shed light on whether
the same sentiments about appraisals are shared. disagreement with the fact that there is fairness of
getting rewards, immediate formal and informal
recognition has been exercised. HoDs opinion was
that appraisals have not improved the working
conditions in the school, appraisals have not
improved salary, appraisals have not made teaching
interesting. This paints the appraisal system in
negative light and the teachers do not perceive
performance as instrumental for their satisfaction. To attenuate all this negative perception this study
recommends that paper work involved in the
appraisal process be reduced by digitalizing
appraisals to reduce the paper work and time
wastage. Besides there is need for improvement of
both monetary and non-monetary reward systems
for the HoDs and the teachers to sustain their job REFERENCES Adebola, O. J., & Jibril, M. A. (2010). A Study of Job Satisfaction of Secondary School Administrators in Kano
State, Nigeria (published Master’s Thesis). Adeoye, A. A. (2005).The Art of Managing Business and People in Nigeria. Pertnam Enterprise Ltd .Somolu
Lagos Agyare, R. Yuhui, G. Mensah, L. Aidoo, Z and Ansah, I. 2016.The impact of performance appraisal on
employee‘s job satisfaction and organizational commitment: A case of microfinance institutions in
Ghana. International journal of business management; vol. 11, No Akampurira, A. (2010). The effect of teachers performance appraisal in secondary schools. Unpublished
dissertation, Grin Verlag. Akhter, N., Raza, H., Ashraf, A., Ahmad, A., & Aslam, N. (2016). Impact of Training and Deveolpment,
Performance Appraisal and Reward System on Job Satisfaction. International Review of Management
and Business Research, 5(2), 561. Armstrong, M. (2009). Armstrong's handbook of performance management: an evidence-based guide to
delivering high performance. Kogan Page Publishers. Ayinla, (2006). Strategic Human Resource Management, A Press Approach. Mulink Publishing house, Lagos. Bartlett, S. 2000. The development of teacher appraisal: A recent history. British Journal of Educational
Studies, 48, 24-37. Buitendach, J., & De Witte, H. (2005). Job insecurity, extrinsic & intrinsic job satisfaction and effective
organizational commitment of maintenance workers in a parastatal. South African Journal of Business
Management, 36, 27-37. Code of Regulations for Teachers 2015 appraisal of teachers’ p 26 Daily Nation (2018, 3rd Sep) Teachers Burn Teacher Performance materials. Daily Nation (2018, 3rd Sep) Teachers Burn Teacher Performance materials. trategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com Daoanis, L.E. (2012). Performance appraisal system: it’s implication to employee performance: International
journal of economics and management science, 2(3), 55-62 Deepa, E., Palaniswamy, R., & Kuppusamy, S. (2014). Effect of performance appraisal system in
organizational commitment, job satisfaction and productivity. Journal of Contemporary Management
Research, 8(1), 72. Demirtas, Z. (2010.Teachers’ job satisfaction levels. Procedia - Social and Behavioral Sciences, 9 010.Teachers’ job satisfaction levels. Procedia - Social and Behavioral Sciences, 9, 1069-1073. Espinilla, M., de Andrés, R., Martínez, F.J. and Martínez, L., 2013. A 360-degree performance appraisal model
dealing with heterogeneous information and dependent criteria.Information Sciences,222, pp.459-
471. Farah Liyana Bstamama s. s (2014). Reward management and job satisfaction among frontline employee in
hotel industry in Malaysia. Procedia-social and Behavioural Science, 144,392-402 GOK , (2009).Notes on implementation on PAS in the public sector. Nairobi. Government print Gruman, J. A., & Saks, A. M. (2011). REFERENCES Performance management and employee engagement. Human resource
management review, 21(2), 123-136. Hult, A. and Edström, C. 2016. Teacher ambivalence towards school evaluation: promoting and ruining
teacher professionalism.Education Inquiry,7(3). James, D. S. (2004).Job satisfaction of high school principals in Virginia (Published PhD dissertation) Virginia
Polytechnic Institute and State University. Jehanzeb, K., Rasheed, M. F., & Rasheed, A. (2012). Impact of rewards and motivation on job satisfaction in
banking sector of Saudi Arabia. International Journal of Business and Social Science, 3(21). Johns, G. (2010). Presenteeism in the workplace: A review and research agenda. Journal of Organizational
Behavior, 31(4), 519-542. Jonyo, O. D. &Owour, J. (2017). Teachermanagement emerging issues European journal of Science
Education4(1) 1857-6036 Kahugu, K. (2011). Relationship between performance appraisal and teacher commitment in Kenya (case
study of public schools in Nakuru. Kong, H., Cheung, C., & Song, H. (2012). From hotel career management to employees’ career satisfaction:
The mediating effect of career competency. International Journal of Hospitality Management, 31(1),
76-85. Leah, M. N. (2014). Job Satisfaction and Motivation among teachers of Kiharu District in Kenya. Journal of
Social Sciences, 5, Rome-Italy. Moison, D. (1997). A study of job satisfaction among directors of classified personnel inmerit (civil service)
systems in California Public School Districts, county offices ofeducation, and community college
districtsDissertation.Com. (ISBN: 1-58112-144-X). Muli, R.K. (2012). The impact of performance appraisal on secondary schoolteachers’professional
development. Unpublished MBA dissertation Kenyatta University. Musungu, L. L. & Nasongo, J. W. (2008). The Head teacher’s instructional role in academic achievement in
secondary school in Vihiga district, Kenya.Educational research and review Vol.3 (10) The Strategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com egic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com Nelson, R. (2008). A looks at global compensation and job satisfaction. Supp. Innovators, 53(22),8. Odhiambo, G. 2005. Teacher appraisal: the experiences of Kenyan secondary school teachers. Journal of
Educational Administration, Vol. 43 (4): 402 -416 OECD (2014). TALIS 2013 Results: An International Perspective on Teaching and Learning. OECD (2014). TALIS 2013 Results: An International Perspective on Teaching and Learning. OECD Publishing.doi:10.1787/9789264196261-10-en (
)
p
g
g
OECD Publishing.doi:10.1787/9789264196261-10-en OECD Publishing.doi:10.1787/9789264196261-10-en Ogula, P. A. (2011). Monitoring and evaluation of educational projects and programmes (2nd ed.); New
Nairobi: Kemit publishers. Pilar Carbonella .A. I-E(2016).The individual and joint effects of process control and process-based rewards
on new product performance. BRQ Business Research Quartely, 19, 26-39 Piper, B. REFERENCES and Zuilkowski, S.S., 2015. Teacher coaching in Kenya: Examining instructional support in public and
nonformal schools.Teaching and Teacher Education,47, pp.173-183. Schmidt, S. W. (2010, april-june). The Relationship between Job satisfaction and job training. International Journal of Adult Vocational Education and Technology, 19-28. Sila, A. K. (2014). Relationship between training and performance: A case study of Kenya women finance
trust eastern Nyanza region, Kenya. European Journal of Business and Social Sciences, 3(1), 95-117. Smith, P. A., & Hoy, W. K. (2007). Academic optimism and student achievement in urban elementary schools. Journal of Educational Administration, 45,556-558. Stahl, G., Björkman, I., Farndale, E., Morris, S. S., Paauwe, J., Stiles, P., ... & Wright, P. (2012). Six principles of
effective global talent management. Sloan Management Review, 53(2), 25-42. Tickle, B. R., Chang, M., & Kim, S. (2011). Administrative support and its mediating effect on US public school
teachers. Teaching and Teacher Education, 27(2), 342-349. eachers Performance Appraisal and Development tool. TPAD (2016). Teachers Performance Appraisal and Development tool. Voon, M. L., Lo, M. C., Ngui, K. S., & Ayob, N. B. (2011). The influence of leadership styles on employees’ job
satisfaction in public sector organizations in Malaysia. International Journal of Business, Management
and Social Sciences, 2(1), 24-32. Whitt, W. (2006).The impact of increased employee retention on Performance in a customer contact centre. Manufacturing and Service Operation Management 235-252 Wiliam, D., & Thompson, M. (2017). Integrating assessment with learning: What will it take to make it work?. In The future of assessment (pp. 53-82). Routledge. Williams, S. J. (2009). A study of workshop motivation and labour Turnover in the Public Sector of Nigerian
Economy. Journal of Business Management and Economics, 6(5), 34-41 World Bank (2002). Constructing Knowledge Societies: L New Challenges for Tertiary Education. Washington
DC: The World Bank. Yang, Y., & Green, S. B. (2011). Coefficient alpha: A reliability coefficient for the 21st century? Journal of
Psychoeducational Assessment, 29(4), 377-392. trategic Journal of Business & Change Management. ISSN 2312-9492 (Online) 2414-8970 (Print). www.strategicjournals.com
|
https://openalex.org/W2615467651
|
https://jmedicalcasereports.biomedcentral.com/track/pdf/10.1186/s13256-017-1301-8
|
English
| null |
Presence of new mutations in the TP53 gene in patients with low-risk myelodysplastic syndrome: two case reports
|
Journal of medical case reports
| 2,017
|
cc-by
| 2,970
|
© The Author(s). 2017 Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. CASE REPORT Open Access CASE REPORT
Open Access
Presence of new mutations in the TP53
gene in patients with low-risk
myelodysplastic syndrome: two case reports
Fernando Barroso Duarte1, Romélia Pinheiro Gonçalves Lemes2, Talyta Ellen de Jesus dos Santos2*,
Maritza Cavalcante Barbosa 2, João Paulo Leitão de Vasconcelos1, Francisco Dário Rocha-Filho1, Ilana Zalcberg3,
Diego Coutinho3, Monalisa Feliciano Figueiredo2, Luciana Barros Carlos4 and Paulo Roberto Leitão de Vasconcelos1 * Correspondence: talytaellen08@hotmail.com
2Research Laboratory in Hemoglobinopathies and Genetics of Hematologic
Diseases, Federal University of Ceará, Capitão Francisco Pedro street, n. 1210,
Rodolfo Teófilo, Fortaleza, Ceara, Brazil
Full list of author information is available at the end of the article Abstract Background: Myelodysplastic syndromes are heterogeneous disorders. Patients with myelodysplastic syndrome
disease often have ineffective hematopoiesis, cytopenias, blood cell dysplasia in one or more cell types, and are at
high risk for developing acute myeloid leukemia. In myelodysplastic syndrome, mutations of TP53 gene are usually
associated with complex karyotype and confer a worse prognosis. In the present study, two mutations in this gene
are presented and discussed with the clinical evolution of the patients. Case presentation: The first case is a 77-year-old Brazilian woman diagnosed as having multiple lineage dysplasia
myelodysplastic syndrome according to World Health Organization 2016 and classified as very low-risk by Revised
International Prognostic Scoring. The second case is an 80-year-old Brazilian man also diagnosed as having multiple
lineage dysplasia myelodysplastic syndrome and classified as low risk. The mutation described in the first case was
already identified in some neoplasias and it is associated with a poor prognosis, but it had never been reported
before in myelodysplastic syndrome. The second mutation has never been described. Conclusions: This is a novel report for the scientific community and may be very helpful as we can better
understand the disease and the impact of mutations through the follow-up of these patients and others in the
future. Both patients are in a good clinical condition, suggesting that these mutations may not alter the clinical
course of the disease or may be associated with a good prognosis, but their role in the disease must be
investigated more deeply in a larger population. Keywords: Myelodysplastic syndromes, TP53 mutations, Prognosis Keywords: Myelodysplastic syndromes, TP53 mutations, Prognosis and the study of mutations are important tools, mainly
for the prognosis of MDS [1]. Presence of new mutations in the TP53
gene in patients with low-risk
myelodysplastic syndrome: two case reports Fernando Barroso Duarte1, Romélia Pinheiro Gonçalves Lemes2, Talyta Ellen de Jesus dos Santos2*,
Maritza Cavalcante Barbosa 2, João Paulo Leitão de Vasconcelos1, Francisco Dário Rocha-Filho1, Ilana Zalcberg3,
Diego Coutinho3, Monalisa Feliciano Figueiredo2, Luciana Barros Carlos4 and Paulo Roberto Leitão de Vasconcelos1 Duarte et al. Journal of Medical Case Reports (2017) 11:143
DOI 10.1186/s13256-017-1301-8 Duarte et al. Journal of Medical Case Reports (2017) 11:143
DOI 10.1186/s13256-017-1301-8 Background Myelodysplastic syndromes (MDS) are heterogeneous
disorders. The TP53 gene is implicated in the manifest-
ation of hematologic features, specifically macrocytic
anemia, frequently involved in MDS. Mutations in the
TP53 gene are usually associated with complex karyo-
type and confer a worse prognosis. Somatic mutations in
the TP53 tumor suppressor gene are found in approxi-
mately 50% of all human tumors, making it the most
commonly mutated gene. The expression of p53 protein Although the biological and clinical roles that a nor-
mal and altered p53 protein play in cancer remain areas
of intense investigation and debate, a number of studies
have shown that alterations in p53 are either associated
or not with patient outcomes, such as response to ther-
apy or survival [2]. In this context, we present two case reports of very
low-risk and low-risk MDS, according to the Revised
International Prognostic Scoring System (IPSS-R), with
two TP53 gene mutations described for the first time in
patients with MDS and we describe the outcomes of
these patients. * Correspondence: talytaellen08@hotmail.com
2Research Laboratory in Hemoglobinopathies and Genetics of Hematologic
Diseases, Federal University of Ceará, Capitão Francisco Pedro street, n. 1210,
Rodolfo Teófilo, Fortaleza, Ceara, Brazil
Full list of author information is available at the end of the article Duarte et al. Journal of Medical Case Reports (2017) 11:143 Page 2 of 4 Page 2 of 4 Table 1 Clinical and hematological features of both patients
Mutation
c.394A > T
c.783-1_784delGTG
Age (years)
79
82
Gender
Female
Male
Complete blood count
Hemoglobin, g/dL
10.3
10.82
Hematocrit, %
30.0
33.0
Mean corpuscular volume (fL)
88.08
92.5
Leukocytes (×109/L)
5.5
4.59
Neutrophils(×109/L)
3.3
0.77
Platelets (×109/L)
208
113.2
Karyotype
46,XX
46,XY
Bone marrow blasts
0.5%
2.2%
Bone marrow fibrosis
Degree II
Without fibrosis
Bone marrow iron
Normal
Normal
Bone marrow cellularity
Hypocellular
Hypercellular
CD34 immunoreactivity
Negative
Negative
p53 immunohistochemistry
Negative
Positive (2%)
Transfusion dependence
No
No Table 1 Clinical and hematological features of both patients Molecular analysis of the TP53 gene was performed at
the
Laboratory
of Molecular Biology of
the
Bone
Marrow Transplant Center (CEMO), Cancer Institute
(INCA) in Rio de Janeiro, by direct sequencing (Sanger
sequencing). Four
pairs
of
primers
were
used
for
complete coverage of exons: 3–9; primer exon 3–4,
primer exon 5–6, primer exon 7, and primer exon 8–9. Exons 3–9 of the gene were amplified by polymerase
chain reaction (PCR) in deoxyribonucleic acid (DNA)
extracted from leukocytes. Background The PCR primers and condi-
tions for amplification of genomic DNA followed those
established by the International Agency for Research on
Cancer (p53.iarc.fr/ProtocolsAndTools.aspx). All PCR
products were confirmed by 1.5% agarose gel, purified
using Wizard SV Gel kits and PCR Clean-Up (both by
Promega) and sequenced in a 16-capillary automated se-
quencer (ABI PRISM® 3100 Genetic Analyzer, Applied
Biosystems). The sequence data files were analyzed using
Mutation Surveyor (SoftGenetics) software. All variants
found were compared with the databases: COSMIC,
dbSNP, and 1000 genomes UniProtKB. Case report 1 Both patients are enrolled in a cross-sectional analyt-
ical study with adult patients of both genders diagnosed
with low-risk MDS, receiving out-patient treatment at
Walter Cantídio University Hospital. The differential
diagnosis was performed in all patients. Peripheral blood
samples were collected with ethylenediaminetetraacetic
acid (EDTA) for laboratory analysis. In 2011, a 77-year-old Brazilian woman was admitted to
our service due to refractory anemia. She was treated with
vitamin B12, folic acid, and iron, but she showed no im-
provement. A bone marrow aspirate (5 January 2011)
showed dyserythropoiesis greater than 20%, dysgranulo-
poiesis greater than 20%, and 4% of blasts; her iron level
was normal. A second bone marrow aspirate (8 June
2011) showed hypocellularity with dyserythropoiesis and
dysgranulopoiesis (less than 10%), 1% of blasts, and absent
iron. A third myelogram (18 August 2013) showed mild
dysmyelopoiesis, hypocellularity with 7% dysmegakaryo-
poiesis, and moderate dysgranulopoiesis (12%); there was
also a reduced deposit of iron and 0.5% of blasts (Fig. 1). The first bone marrow biopsy (8 June 2011) showed hypo-
cellularity, 20% of dyserythropoiesis, abnormal localization
of immature myeloid precursors (ALIPs), and dysplastic
megakaryocytes. The
second
bone
marrow
biopsy
(12 August 2013) showed hypocellular bone marrow with
dysmegakaryopoiesis
and
dyserythropoiesis
associated Initially, p53 protein expression of 38 patients with
low-risk MDS was determined by immunohistochemis-
try [3, 4]. At a second stage, 37 patients were evaluated
for mutations in the TP53 gene by Sanger sequencing. Among these, only two patients had mutations. The
study was approved by Walter Cantídio University
Hospital Ethics Committee. Informed consent was ob-
tained from all patients. Other causes of clonal or non-
clonal cytopenias were excluded. Common etiologies of
cytopenias or morphological abnormalities that may
mimic MDS, such as aplastic anemia or paroxysmal noc-
turnal hemoglobinuria were investigated. Fig. 1 Myelogram of patient 1. a Dyserythropoiesis; b dysmegakaryopoiesis; c reticulin stain Fig. 1 Myelogram of patient 1. a Dyserythropoiesis; b dysmegakaryopoiesis; c reticulin stain Duarte et al. Journal of Medical Case Reports (2017) 11:143 Page 3 of 4 Fig. 2 a Myelogram of patient 2. a Hypercellularity; b mild focal thickening with reticulin staining; c p53 expression by immunohistochemistry at 2% f patient 2. a Hypercellularity; b mild focal thickening with reticulin staining; c p53 expression by immunohistochemistry at 2% with myelofibrosis degree II. The immunohistochemical
studies of p53 expression and anti-CD34+ were negative. Case report 1 Serology for hepatitis B, hepatitis C, human immunodefi-
ciency virus (HIV), and human T-cell lymphotropic virus
(HTLV) were negative. Her thyroid hormones, ferritin,
and dehydrogenase lactate levels were normal. A differen-
tial diagnosis for aplastic anemia was performed. Cytogen-
etic analysis showed a normal female karyotype. She was
diagnosed as having multiple lineage dysplasia MDS,
according to World Health Organization (WHO) 2016
and classified as very low risk based on IPSS-R (score-1). She currently shows no clinical or laboratory manifesta-
tions of the disease (Table 1). dysgranulopoiesis, and dysmegakaryopoiesis; blasts were
approximately 2.2% (Fig. 2). Cytogenetic analysis showed
a normal karyotype. A bone marrow biopsy showed
hypercellularity with significant expansion of granulo-
cytic and megakaryocytic series. Mild focal reticulin
thickening was observed. He had not received any
blood
transfusions
and
had
no
infection
reports. Routine examinations, including renal function and
electrolytes, were within the normal ranges. An im-
munohistochemistry analysis showed normal expression
of precursor cells; there was a moderate increase in vascu-
lature and nuclear positive reaction to p53 (2%). The diag-
nosis was MDS with multiple lineage dysplasia. He was
classified as low-risk MDS, according to IPSS-R (score-
2.2 (Table 1)). Ethics approval and consent to participate The study was approved by the Ethics Committee of the Federal University
of Ceará with protocol number 129/12, and carried out in accordance with
the Declaration of Helsinki for experiments involving humans. Informed
consent was obtained from all patients. In our case reports, the patients were low risk and very
low risk and both had a normal karyotype. Case 1 exhib-
ited c.394A > T (p.K132*) nonsense mutation, which
generates a non-functional protein [7]. Case 2 had a
novel TP53 c.783-1_784delGTG mutation (Fig. 3). Case report 2 Case report 2
In 2011, an 80-year-old Brazilian man, presented to our
hospital with anemia, thrombocytopenia, and monocyto-
sis (>1000/mm3). He had dizziness and normal blood
pressure levels. A myelogram showed dyserythropoiesis, Currently, he is 85 and has difficulty walking, but with
a good overall health status, despite his limitations. In
both cases, patients with these mutations have had a
good evolution despite a positive p53 expression. Fig. 3 Electropherogram of c.783-1_784delGTG mutation in exon 8 of case report 2. The red arrow is pointing the TP53 region where it has been
observed the change on reading frame due to c.783-1_784delGTG mutation detected by Sanger sequencing Fig. 3 Electropherogram of c.783-1_784delGTG mutation in exon 8 of case report 2. The red arrow is pointing the TP53 region where it has been
observed the change on reading frame due to c.783-1_784delGTG mutation detected by Sanger sequencing Page 4 of 4 Duarte et al. Journal of Medical Case Reports (2017) 11:143 Page 4 of 4 Duarte et al. Journal of Medical Case Reports (2017) 11:143 References 1. Jhanwar SC. Genetic and epigenetic pathways in myelodysplastic
syndromes: A brief overview. Adv Biol Regul. 2015;58:28–37. 1. Jhanwar SC. Genetic and epigenetic pathways in myelodysplastic
syndromes: A brief overview. Adv Biol Regul. 2015;58:28–37. 2. Haferlach C, Dicker F, Herholz H, Schnittger S, Kern W, Haferlach T. Mutations of the TP53 gene in acute myeloid leukemia are strongly
associated with a complex aberrant karyotype. Leukemia. 2008;22:1539–41 y
y
3. Reis SC, Traina F, Metze K, Saad ST, Lorand-Metze I. Variation of bone
marrow CD34+ cell subsets in myelodysplastic syndromes according to
who types. Neoplasma. 2009;56(5):435–40. Author details
1 1Department of Surgery, Federal University of Ceará, Fortaleza, Ceara, Brazil. 2Research Laboratory in Hemoglobinopathies and Genetics of Hematologic
Diseases, Federal University of Ceará, Capitão Francisco Pedro street, n. 1210,
Rodolfo Teófilo, Fortaleza, Ceara, Brazil. 3Laboratory of Molecular
Biology-Center for Bone Marrow Transplantation, CEMO-National Cancer
Institute - INCA, Rio de Janeiro-Rio de Janeiro, Brazil. 4Center of Hematology
and Hemotherapy of Ceara – Cryobiology Laboratory, Fortaleza, Ceara, Brazil. Received: 22 September 2016 Accepted: 29 March 2017 In both cases, mutations were found in low-risk MDS. Considering the impact of TP53 gene on hematologic
malignancies, these two mutations may or may not con-
tribute to the knowledge of the role of TP53 in disease
pathogenesis, tumor progression, and to the identifica-
tion of new therapeutic targets. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. P53 normally interacts with a variety of proteins in-
volved in transcriptional regulation, DNA repair, cell
cycle progression, apoptosis, and proteasome-mediated
protein degradation. Although the biological and clinical
roles that normal and altered p53 play in cancer remain
areas of intense investigation and debate, a number of
studies have shown that alterations in p53 are either as-
sociated or not with patient outcomes, such as response
to therapy or survival [8, 9]. Authors’ contributions FDR, RPGL PRLV, and LBC participated in the design and coordination of the
study and helped to draft the manuscript. FDR and JPLV conceived of the study
and participated in the design of the study. FDRF conducted medical
examinations and image acquisition. IZ and DC carried out the molecular
genetic studies. TEJS, MCB, and MFF participated in the sequence alignment
and drafted the manuscript. All authors read and approved the final manuscript. P53 protein is a key regulator of stem cell homeostasis
that impacts on the array of cellular functions including
genomic surveillance, cell cycle regulation, and apoptotic
and inflammatory response [5]. Inactivation of p53 has been reported in hematologic
malignancies in association with disease progression. In
adult patients with de novo MDS or acute myeloid
leukemia (AML), somatically acquired TP53 mutations
are observed in approximately 10% of cases, and are
often associated with loss of the short arm of chromo-
some 17, a complex karyotype, resistance to chemother-
apy, and a short survival [2, 6]. Competing interests The authors declare that they have no competing interests. Conclusions The present study discloses a surprising outcome to the
scientific
community. The TP53
c.783-1_784delGTG
mutation has been identified for the first time. Regarding
the other mutation, p.K132*, it has been considered in
other types of tumors as a poor prognostic factor; in this
specific case, it does not seem to be associated with com-
plications regarding the patient’s clinical condition. This is
a relevant result and more studies are needed to evaluate
the role of these mutations in MDS. 4. Della Porta MG, Malcovati L, Boveri E, Travaglino E, Pietra D, Pascutto C,
Passamonti F, Invernizzi R, Castello A, Magrini U, Lazzarino M, Cazzola M. Clinical relevance of bone marrow fibrosis and CD34-positive cell clusters in
primary myelodysplastic syndromes. J Clin Oncol. 2009;27(5):754–62. 5. McGraw KL, Zhang LM, Rollison DE, Basiorka AA, Fulp W, Rawal B, Jerez A,
Billingsley DL, Lin HY, Kurtin SE, Yoder S, Zhang Y, Guinta K, Mallo M, Solé F,
Calasanz MJ, Cervera J, Such E, González T, Nevill TJ, Haferlach T, Smith AE,
Kulasekararaj A, Mufti G, Karsan A, Maciejewski JP, Sokol L, Epling-Burnette
PK, Wei S, List AF. The relationship of TP53 R72P polymorphism to disease
outcome and TP53 mutation in myelodysplastic syndromes. Blood Cancer J. 2015;5, e291. 5. McGraw KL, Zhang LM, Rollison DE, Basiorka AA, Fulp W, Rawal B, Jerez A,
Billingsley DL, Lin HY, Kurtin SE, Yoder S, Zhang Y, Guinta K, Mallo M, Solé F,
Calasanz MJ, Cervera J, Such E, González T, Nevill TJ, Haferlach T, Smith AE,
Kulasekararaj A, Mufti G, Karsan A, Maciejewski JP, Sokol L, Epling-Burnette
PK, Wei S, List AF. The relationship of TP53 R72P polymorphism to disease
outcome and TP53 mutation in myelodysplastic syndromes. Blood Cancer J. 2015;5, e291. Acknowledgements
h
h
ld l k The authors would like to thank the patients for their collaboration, the staff
of the Hematology service from University Hospital Walter Cantídio, and the
academic researchers. 9.
Reles A, Wen WH, Schmider A, et al. Correlation of p53 mutations with
resistance to platinum-based chemotherapy and shortened survival in
ovarian cancer. Clin Cancer Res. 2001;7:2984–97. 6.
Seifert H, Mohr B, Thiede C, Oelschlägel U, Schäkel U, Illmer T, Study Allianc
e Leukemia (SAL), et al. The prognostic impact of 17p (p53) deletion in 2272
adults with acute myeloid leukemia. Leukemia. 2009;23:656–63. 8.
Shahin MS, Hughes JH, Sood AK, et al. The prognostic significance of p53
tumor suppressor gene alterations in ovarian carcinoma. Cancer. 2000;89:
2006–17. Consent for publication Written informed consent was obtained from the patients for publication of
this case report and any accompanying images. A copy of the written
consent is available for review by the Editor-in-Chief of this journal. Data sharing is not applicable to this article as no datasets were generated
or analyzed during the current study. 7.
Catalogue of somatic mutations in cancer. http://cancer.sanger.ac.uk/
cosmic/mutation/overview?id=44641. Accessed 28 May 2015. Funding Not applicable. 5.
McGraw KL, Zhang LM, Rollison DE, Basiorka AA, Fulp W, Rawal B, Jerez A,
Billingsley DL, Lin HY, Kurtin SE, Yoder S, Zhang Y, Guinta K, Mallo M, Solé F,
Calasanz MJ, Cervera J, Such E, González T, Nevill TJ, Haferlach T, Smith AE,
Kulasekararaj A, Mufti G, Karsan A, Maciejewski JP, Sokol L, Epling-Burnette
PK, Wei S, List AF. The relationship of TP53 R72P polymorphism to disease
outcome and TP53 mutation in myelodysplastic syndromes. Blood Cancer J.
2015;5, e291. Availability of data and materials Data sharing is not applicable to this article as no datasets were generated
or analyzed during the current study.
|
https://openalex.org/W4200373649
|
https://link.springer.com/content/pdf/10.1007/978-3-030-84451-6_6.pdf
|
English
| null |
Conclusion
|
Springer eBooks
| 2,021
|
cc-by
| 3,392
|
© The Author(s) 2022
S. Ça˘gatay et al., Feminist and LGBTI+ Activism across Russia,
Scandinavia and Turkey, Thinking Gender in Transnational Times,
https://doi.org/10.1007/978-3-030-84451-6_6 © The Author(s) 2022
S. Ça˘gatay et al., Feminist and LGBTI+ Activism across Russia,
Scandinavia and Turkey, Thinking Gender in Transnational Times,
https://doi.org/10.1007/978-3-030-84451-6_6
239 6
Conclusion 6 Conclusion The political and intellectual work with this book has been sustained
by an ambition to provide a pluralist image of feminist and LGBTI+
activisms. Influenced by significant interventions in feminist and queer
postcolonial and postsocialist theory and inspired by new developments
in critical geographies of resistance and space (Browne et al. 2017;
Ghodsee 2019; Roy 2016; Stella 2015; Suchland 2011; Tlostanova et al. 2019), this ambition shaped our point of departure for the book as we
have sought to develop a nuanced account of feminist and LGBTI+
formations and exchanges across diverse spaces and scales. In our endeavor we have aimed to push forward an intellectual
concern about the rigidity and taken-for-grantedness of categories such
as North/West and South/East in current geopolitical and epistemo-
logical projects (Müller 2020; Tlostanova 2012). Struggling ourselves
to clearly position Russia, Turkey, and even Scandinavia within these
distinctions, we have strived to show throughout the book that the
boundaries of these categories are contested, multiple, ambivalent, and
fluid. By introducing such inconvenient geopolitical contexts within the
same project, we have been doomed to “complicate and disrupt the bina-
rism” (Tlostanova 2012, 131) of the West–East and the North–South 239 240 S. Ça˘gatay et al. divides. Rather than comparing two non-Western/Northern and “not-
quite” Eastern/Southern (Müller 2020) contexts, such as Russia and
Turkey, between each other or both of them with “the Western ideal” of
gender progressive and homotolerant Scandinavia, in this book, we have
employed a multi-scalar transnational methodology to analyze and draw
new insights from our rich ethnographic material. This has enabled us to
catch sight on the relationality between places, histories, and subjects, to
grasp how such relationality has shaped gender and sexual politics differ-
ently in various times and places, and to shine a light on the multiplicities
of activist practices within specific locations, highlighting some of the
many and diversely situated lives and livabilities, as they are embedded
in particular situations and affective and embodied relations. Across the pages of this book, we have aligned with an understanding
of resistance as context-specific. Such an understanding involves a recog-
nition of resistance as contingent on, adaptive to, and reproductive of
existing relations of power. This implies, in turn, that aspirations to
understand resistance have to address the overlapping hierarchies that
exist in situated contexts, at the intersections of notions and practices of
geopolitical regions, national states, cultures, and social and economic
relations. Conclusion From this starting point, our analytical strategy consisted in
a careful tracing of overlaps and convergences as well as shifts and
differences in feminist and LGBTI+ activism across and within our
respective contexts. Processing and analyzing our ethnographies took
place in the shape of an ongoing dialogue between us three authors,
in various constellations and intellectual spaces, in project meetings,
during coffee breaks, in seminar rooms, in parks, at conferences, in one
of our kitchens, in restaurants, on trains, in cafés, and in the shape
of reflections on written accounts. We have had the true pleasure to
engage in a generous amount of ethnographic material, collected over
the course of five years (2016–2021) on various offline and online
events, campaigns, demonstrations, protests, day-to-day exchanges, festi-
vals, organizational activities, and ongoing struggles within feminist and
LGBTI+ activisms. We have developed professional friendships with
some of the activists whose accounts appear in this book, and deep-
ened our affinities to the struggles exercised. Through this engagement, 241 6
Conclusion we have developed a multi-scalar understanding of resistance character-
ized by a mutually determining relation between resistances at different
scales, from invisible or hidden practices of the everyday to large-scale
events and street actions. Thinking feminist and queer struggles in terms
of the multifaceted nature of resistance, we argue, carries a potential to
challenge, dismantle, or transform political, social, and economic hier-
archies because it incites and inspires new practices, fluctuating between
mundane, invisible, or hidden forms of political action, and collective
types of contentious politics. Actors who struggle to realize social justice and strengthen democ-
racy find the contradictions of present times perplexing and vexing:
While feminist and queer solidarities and resistances show an unprece-
dent proliferation as diverse forms of feminist and queer activism
are becoming increasingly visible (Alvarez 2014; Arruzza et al. 2019;
Bacchetta 2017), current times reveal deep oppositions to rights-based
movements, as far-right ideologies and neo- and ultra-conservatisms
appropriate feminist and queer concepts to mobilize concerns about
gender equality and sexual rights in support of their conservative or
nationalist agendas (Kuhar and Paternotte 2017; Corrêa et al. 2018). In the meantime, neoliberal forms of governance administer popula-
tions by economic logics of calculation, forging new global patterns of
exploitation and inequality (Newman 2014; Fraser 2009). Conclusion This imme-
diate context has impacted this book in several ways, not least in relation
to our focus on the material conditions of feminist and LGBTI+ orga-
nizing in such unpredictable and changeable times as our contemporary
present. As we have shown in Chapter 3, feminist and LGBTI+ activists
from various localities develop innovative ways to navigate hegemonic
relations at the intersections between the state, civil society, transnational
actors, and the market. They do so with different rationales: while some
seek to secure resources in order to continue or expand their activities,
others wish to gain more visibility, and yet others seek to remain “under
the radar.” While activists in Scandinavia are assumed to have more
harmonious relations with the state, our analysis elaborates that activist-
state relations in this context are dependent on the agenda of activists,
the “maturity” of their collaborations with other political actors, and
their proximity to the integral state. Small-scale organizations with more 242 S. Ça˘gatay et al. radical political interests, such as rights and livabilities of queer asylum
seekers, are sidelined from direct interactions with the state by well-
established mainstream women’s and LGBTI+ organizations. Whereas
activists in Russia and Turkey are usually in explicit or implicit opposi-
tion to the anti-gender and homophobic governments in these contexts,
mainstream CSOs in Scandinavia perceive contentious politics in rela-
tion to the state as unnecessarily provocative and politically damaging. With this, we also note the differential scholarly treatment of the align-
ment between NGOs/CSOs and the state in the three research contexts;
while in Turkey and Russia activists are assumed to be indiscriminately
against the oppressive state, in the Scandinavian context, the organic
relationship between mainstream CSOs and the neoliberal state remains
under-problematized. The varieties detected here have brought attention to the complex
nature of state–civil society relations, highlighting that while relations
with the state are important, they are by no means exhaustive in
explaining the conditions of activist work. The strategies and tactics of
resistance depend on the positionality of activist groups in relation to
hegemonic struggles as these are embodied by relations between state
actors, global and local civil society actors, and the market. The state
still remains an important source of financial support for activist work,
even though in the case of Turkey and Russia this support usually
comes from the states abroad. Conclusion However, there are many intermediaries
in this process—from large transnational organizations responsible for
distributing governmental and private funds to individual employees—
whose relations with activists on the ground—whether paternalist or
supportive, bureaucratic, or personal—can substantially influence the
process and the outcome of activist work. Our findings have illuminated that, as much as transnational activism
has the potential to transgress national borders, it can also contribute
to the reproduction of inequalities among activists, both within and
between countries. Thus, rather than drawing the major line of distinc-
tion in transnational feminist and LGBTI+ activism along the hier-
archies of the North–South and West–East, we have attended to
an array of differences including generational and geographical (e.g. metropole/province) belongings, the content and nature of activist work, 243 6
Conclusion political commitments, and ethical concerns. By bringing to the fore the
agentive experience of activists across the three contexts and the crit-
ical potential of “similarity in difference” (Tlostanova 2012, 131) in
their work, our research destabilizes the North–South and West–East
divisions. Moving from a focus on material conditions in feminist and LGBTI+
activism to embodied and affective processes, Chapter 4 examined prac-
tices of solidarity across difference in community- and coalition-building
efforts in transnational as well as local settings, and revealed the affec-
tive dissonances and ambivalences inscribed in transnational solidarities. Focusing on relationships in multiple life fields and between as well as
within borders, belongings, and movements, this chapter highlighted the
fluidity between informal, small-scale action, and more co-ordinated,
institutionalized organizing with important implications for the making
of spaces of resistance, resilience, and repair. Engaging with exam-
ples ranging from transnational campaigns and conferences with actors
from Turkey and postsocialist geographies to local anti-colonial strug-
gles of Sami people, our discussions in this chapter illuminated that
tensions, disagreements, and conflicts between feminist and LGBTI+
actors are inseparable from friendship, affinity, and care, and thus impor-
tant aspects of solidarity work that call for more attention in solidarity
research. This chapter also brought forth the significance of solidarity as
involving a practical and emotional shared labor on an everyday basis
over time. We found that solidarity practices necessarily ask for crit-
ical interrogation and confrontation of power dynamics, and we became
convinced that a focus on temporality in explorations of solidarity prac-
tices is key, seeing that longevity appeared as a crucial aspect of solidarity
in broader struggles for social justice. Conclusion In Chapter 4, our analysis further highlighted the need for a crit-
ical reconsideration of the North–South and East–West binaries as
the salient framework in which to understand transnational solidari-
ties and the hierarchies inscribed in them. While global inequalities
along the North/West and South/East axis certainly shape—and jeopar-
dize—community- and coalition-building efforts in feminist and queer
struggles, activists’ multiple belongings beyond the national context, for 244 S. Ça˘gatay et al. example, professional, geo/political, religious, and racial/ethnic identifi-
cations on sub-national and regional levels, complicate the picture. g
p
p
While in line with our approach to resistance oscillating between the
mundane and the spectacular, we illuminated less remarkable, quotidian,
even hidden and covert, modes of resistance in previous chapters,
Chapter 5 brought attention to larger-scale forms of political action in
the analysis of March 8 celebrations through our three contexts. With a
departure in our theoretical interest in the multi-scalar nature of resis-
tance, and in the role of such resistance in producing the space of
appearance, we focused on corporeality and embodiment in struggles
for the right to appear and attended to the distinct and overlapping
ways in which face-to-face encounters and bodily assemblies took shape
across Sweden, Russia, and Turkey. Throughout the discussions in this
chapter, we recognized how bodily assemblies visualized a broad femi-
nist agenda that reintroduced a focus on materiality in the intersectional
strands of feminist and LGBTI+ resistance. Highlighting the frustration
experienced by Muslim feminists in a Swedish context with being both
hypervisible, such as in situations of racial profiling, and non-visible,
like in the mainstream feminist movement, we interrogated the double-
edged nature of visibility as both being a route to change and a measure
of control. This was an issue that had resonance with the Turkish anal-
ysis and in particular with the responses to the “booing the Islamic call
for prayer (ezan) debate” among feminists in this context. Taken against
the background of a longer history of exchange, conflict, and collabo-
ration between pious women and Muslim and secular feminists, which
had shaped alliances across the religion-secularity divide and gave suste-
nance to the community at the Feminist Night March, this example also
brought to the fore temporal aspects of coalitional frameworks between
differently positioned activists. Conclusion As we attended to the multi-scalar rela-
tionship between the individual and the collective in producing the space
of appearance, this discussion also illuminated how the emphasis on
being an anonymous collective presents an efficient resistance in contexts
of police brutality and state intervention, as it at the same time allows for
plurality in the struggle, providing space for many differential political
b l
i
d b dil 245 6
Conclusion Yet, in spite of the value and potential of bodily assemblies in resis-
tance, our discussion also illuminated that bodily assemblies are not
free from tensions. Rather, they can be illustrative of the brute reality
in which particular groups often are excluded from more mainstream
versions of queer and feminist politics. While offering examples of such
exclusionist attempts, the occasions analyzed in Chapter 5 also provided
contexts for contestation. In addition to and beyond the logocentrism
of discourse and verbalized performance, these contestations took bodily
expression, for instance, when other bodies took a stand on the line to
lend support and empower a person in need. Demonstrating the capacity
of corporeal action to signify by other means, and in excess of what
is said, this and other examples in this chapter showed that the polit-
ical body does not act alone, as one single body, but that the space of
appearance takes place between bodies, claiming space (Butler 2015). As
we kept a focus on political agency and subjectivity, this discussion devel-
oped insight into the ways in which the position of bodies shifts, from
individual expression to collective agendas. Seeing that embodied strug-
gles for the right to appear express a resistance against the biopolitical
power of the state and state experts over the self, body, and sexuality, the
corporeality of resistance is located at the core of feminist and LGBTI+
activism. This capacity of corporeality, we argued, makes bodily assem-
blies both individually rewarding and allows for a collective experience
of resistance to emerge. We found these enactments shedding elucidating
light on the empowering and political dimensions of embodied action. Through the examples illuminated across the pages of this book,
we have sought to unsettle the common West–East and North–South
dichotomies by attending to the relationality between places, histories,
and subjects in the contexts of our research and grasp the influence
of this relationality on gender and sexual politics. Conclusion In doing so, we
have highlighted multiple convergences and shifts in the ways in which
feminist and LGBTI+ actors in Russia, Turkey, and the Scandinavian
countries resist and negotiate the material conditions of struggle in the
state-market-civil society nexus. We have attended to how activists navi-
gate the ambivalences of solidarity in various local and transnational
contexts, and illuminated the simultaneous vulnerability and power of
the body in corporeal modes of resistance, shifting from the individual 246 S. Ça˘gatay et al. to the collective. As spaces of resistance, we conclude, these feminist and
LGBTI+ resistances have a potential to shape other spatialities than of
those defined through relations of domination. In their capacity to both
express collective forms of protest and to build new relations of connec-
tivity and belonging, these spaces influence the multifaceted dynamics
of political identities. However, we maintain, a focus on collective and
larger-scale forms of resistance should not be read as emphasizing a
politics of visibility as the preferred kind of activism. Rather, these enact-
ments should be understood within a broader context of both more
spectacular, attention-seeking forms of political expression as well as less
visible and small-scale, everyday forms of resistance. Within such broader
contexts of resistance, it is possible to catch sight on the fluidity between
various scales of resistance—individual/collective, micro/meso/macro,
local-transnational—which can incite and inspire new practices of resis-
tance. By so doing, these struggles also carry a hope for more open-ended
futures. While this book finalizes our collaborative research on transnational
feminist and LGBTI+ activism in Russia, Scandinavia, and Turkey, our
commitment to activist struggles in these contexts is far from being over. As our concern throughout this 5-year research journey has been to
bridge activism and academia in common struggles instead of dividing
them in the dichotomy of a researching versus researched subject, we
have launched the networking project “Feminist and Queer Solidarities
beyond Borders” engaging further with some of our research partners
from the respective contexts in the discussions we featured in this book. As this project develops, we are reminded again and again that our
livabilities—as feminist and queer activists and academics—are in many
ways similarly shaped by neoliberal conditions as well as anti-gender
mobilizations that threaten the prospect of gender equality and sexual
rights. Conclusion Yet, in the spirit of our intellectual endeavor in this book, we do
not take these conditions for granted but disrupt and challenge them
from various sides, incorporating different resources that are available to
us through our variegated experiences. 6
Conclusion 247 References Alvarez, Sonia E. 2014. “Beyond NGOIzation? Reflections from Latin
America.” In Theorizing NGOs: States, Feminisms, and Neoliberalism, edited
by Victoria Bernal and Inderpal Grewal, 285–300. Durham: Duke Univer-
sity Press. Arruzza, Cinzia, Tithi Bhattacharya, and Nancy Fraser. 2019. Feminism for the
99 Percent: A Manifesto. London: Verso. Bacchetta, Paula. 2017. “Murderous Conditions and LTQ+ POC Decolonial,
Anti-Capitalist and Anti-Misogyny Life Imaginings in France.” Lambda
Nordica 22 (2–3): 153–73. Browne, Kath, Niharika Banerjea, Nick McGlynn, B. Sumita, Leela Bakshi,
Rukmini Banerjee, and Ranjita Biswas. 2017. “Towards Transnational
Feminist Queer Methodologies.” Gender, Place & Culture 24 (10): 1376–97. Rukmini Banerjee, and Ranjita Biswas. 2017. “Towards Transnational
Feminist Queer Methodologies.” Gender, Place & Culture 24 (10): 1376–97. Butler, Judith. 2015. Notes Toward a Performative Theory of Assembly. Cambridge: Harvard University Press. Butler, Judith. 2015. Notes Toward a Performative Theory of Assembly. Cambridge: Harvard University Press. Corrêa, Sonia, David Paternotte, and Roman Kuhar. 2018. “The Globalisa-
tion of Anti-Gender Campaigns Transnational Anti-Gender Movements in
Europe and Latin America Create Unlikely Alliances.” International Poli-
tics and Society, May. https://www.ips-journal.eu/topics/human-rights/the-
globalisation-of-anti-gender-campaigns-2761/. Fraser, Nancy. 2009. “Feminism, Capitalism and the Cunning of History.” New
Left Review, no. 56 (March/April): 97–117. Ghodsee, Kristen. 2019. Second World, Second Sex: Socialist Women’s Activism
and Global Solidarity during the Cold War. Illustrated edition. Durham:
Duke University Press. Kuhar, Roman, and David Paternotte, eds. 2017. Anti-Gender Campaigns in
Europe: Mobilizing against Equality. London and New York: Rowman &
Littlefield Publishers. Müller, Martin. 2020. “In Search of the Global East: Thinking between North
and South.” Geopolitics 25 (3): 734–55. p
Newman, Janet. 2014. “Landscapes of Antagonism: Local Governance, Neolib-
eralism and Austerity.” Urban Studies 51 (15): 3290–3305. Roy, Srila. 2016. “Women’s Movements in the Global South: Towards a Scalar
Analysis.” International Journal of Politics, Culture, and Society 29 (3): 289–
306. Stella, F. 2015. Lesbian Lives in Soviet and Post-Soviet Russia: Post/Socialism and
Gendered Sexualities. London and New York: Palgrave Macmillan. 248 S. Ça˘gatay et al. Suchland, Jennifer. 2011. “Is Postsocialism Transnational?” Signs: Journal of
Women in Culture and Society 36 (4): 837–62. Suchland, Jennifer. 2011. “Is Postsocialism Transnational?” Signs: Journal of
Women in Culture and Society 36 (4): 837–62. Tlostanova, Madina. 2012. “Postsocialist ̸= postcolonial? On postSoviet imagi-
nary and global coloniality.” Journal of Postcolonial Writing 48 (2): 130–142. Tlostanova, Madina, Suruchi Thapar-Björkert, and Redi Koobak. 2019. “The
Postsocialist ‘Missing Other’ of Transnational Feminism?” Feminist Review
121 (1): 81–87. Tlostanova, Madina, Suruchi Thapar-Björkert, and Redi Koobak. 2019. “The
Postsocialist ‘Missing Other’ of Transnational Feminism?” Feminist Review
121 (1): 81–87. Tlostanova, Madina. 2012. “Postsocialist ̸= postcolonial? On postSoviet imagi-
nary and global coloniality.” Journal of Postcolonial Writing 48 (2): 130–142. Suchland, Jennifer. 2011. “Is Postsocialism Transnational?” Signs: Journal of
Women in Culture and Society 36 (4): 837–62. References Open Access This chapter is licensed under the terms of the Creative
Commons Attribution 4.0 International License (http://creativecommons.org/
licenses/by/4.0/), which permits use, sharing, adaptation, distribution and
reproduction in any medium or format, as long as you give appropriate
credit to the original author(s) and the source, provide a link to the Creative
Commons license and indicate if changes were made. The images or other third party material in this chapter are included in the
chapter’s Creative Commons license, unless indicated otherwise in a credit line
to the material. If material is not included in the chapter’s Creative Commons
license and your intended use is not permitted by statutory regulation or
exceeds the permitted use, you will need to obtain permission directly from
the copyright holder.
|
https://openalex.org/W3165514883
|
https://arpi.unipi.it/bitstream/11568/1116028/2/Addressing_Event-Driven_Concept_Drift_in_Twitter_Stream_A_Stance_Detection_Application.pdf
|
English
| null |
Addressing Event-Driven Concept Drift in Twitter Stream: A Stance Detection Application
|
IEEE access
| 2,021
|
cc-by
| 10,875
|
Received March 24, 2021, accepted May 17, 2021, date of publication May 25, 2021, date of current version June 3, 2021. Digital Object Identifier 10.1109/ACCESS.2021.3083578 Addressing Event-Driven Concept Drift in Twitter
Stream: A Stance Detection Application ALESSIO BECHINI
, ALESSANDRO BONDIELLI
, PIETRO DUCANGE
,
FRANCESCO MARCELLONI
, (Member, IEEE), AND ALESSANDRO RENDA
Department of Information Engineering, University of Pisa, 56122 Pisa, Italy ork was supported in part by the Italian Ministry of Education and Research (MIUR) in the framework of the CrossLab Project
ments of Excellence). is work was supported in part by the Italian Ministry of Education and Research (MIUR) in the framework of the CrossLab Proje
epartments of Excellence). ABSTRACT The content posted by users on Social Networks represents an important source of information
for a myriad of applications in the wide field known as ‘social sensing’. The Twitter platform in particular
hosts the thoughts, opinions and comments of its users, expressed in the form of tweets: as a consequence,
tweets are often analyzed with text mining and natural language processing techniques for relevant tasks,
ranging from brand reputation and sentiment analysis to stance detection. In most cases the intelligent
systems designed to accomplish these tasks are based on a classification model that, once trained, is deployed
into the data flow for online monitoring. In this work we show how this approach turns out to be inadequate
for the task of stance detection from tweets. In fact, the sequence of tweets that are collected everyday
represents a data stream. As it is well known in the literature on data stream mining, classification models
may suffer from concept drift, i.e. a change in the data distribution can potentially degrade the performance. We present a broad experimental campaign for the case study of the online monitoring of the stance expressed
on Twitter about the vaccination topic in Italy. We compare different learning schemes and propose yet a
novel one, aimed at addressing the event-driven concept drift. INDEX TERMS Automatic stance detection, concept drift, social media analysis, text stream classification. INDEX TERMS Automatic stance detection, concept drift, social media analysis, text stream classification. under a Creative Commons Attribution 4.0 License. For more information, see https://creativecommons.org/licenses/by/4.0/
VOLUME 9 This work is licensed under a Creative Commons Attribution 4.0 License. For more information, see https://creativecommons.org/licenses/by/4.0 The associate editor coordinating the review of this manuscript and
approving it for publication was Yufeng Wang
. I. INTRODUCTION Center:
tweets about Gucci brand. Bottom: tweets about coronavirus epidemic. and philosophy [11]. The term semantic association actually
lacks a formal definition. According to Jabeen et al. [12],
it can be considered as a semantic connection between textual
units, such as words, sentences or entire documents [13], [14]. The semantic association between two units of text quantifies
their degree of association based on one or more relations
that occur between them. In the present work we consider
tweets as units of text, and we consider them to be seman-
tically associated if they relate to similar sub-topics within a
broader topic. The appropriateness of vaccination is the main,
broad topic under investigation; over time, the debate may
evolve into several subtopics depending on the occurrence
of real world events (e.g. news about the incidence of a
disease, statements and political acts, discussion about the
obligation for children). On the one hand we are interested
in capturing the stance of users towards the vaccination topic
in general, regardless of the specific subtopics. On the other
hand, we also aim to capture how sub-topics are associated
with, and thus related to, one another, to improve the perfor-
mance of the classification system. This paper is organized
as follows: Section II describes the background on stance
detection and concept drift, and it discusses the related works. Section III frames the problem of tweets classification in
presence of concept drift and introduces two baseline learn-
ing and evaluation schemes. Section IV describes the pro-
posed, semantic-based, learning scheme. Section V presents
the experimental setup: we describe the vaccination dataset
adopted in this work, the basic classification pipeline, and the
learning schemes involved in the empirical comparison. The
results are reported in Section VI, while Section VII draws
some conclusion. FIGURE 1. Daily number of italian tweets for different topics over
different time windows. Top: tweets about vaccination topic. Center:
tweets about Gucci brand. Bottom: tweets about coronavirus epidemic. adopted for avoiding considerable performance loss. Figure 1
reports the daily number of tweets for three example topics
(i.e vaccination, Gucci, coronavirus), analyzed in the Italian
setting over three different periods. The three graphs share
the presence of few spikes in the plot of the daily volume
of tweets: we can easily verify that such peaks are placed
immediately after events that triggered the online debate. I. INTRODUCTION I. INTRODUCTION trends over time of the opinion expressed through tweets. The
particular relevance of online monitoring services in Business
Intelligence tools has been stressed for brand reputation [8]
and for decision support systems [9]. Nowadays, millions of users mention and comment real world
events by posting short messages, i.e. tweets, on the well-
known Twitter platform. Its ease of use and widespread
diffusion have rendered it a key source of information for
a great variety of data mining applications. For instance,
the analysis of tweets has been used for the early detection of
real-time events [1], such as traffic congestion and incidents
[2], earthquakes [3] and spread of epidemic [4]. pp
y
The above mentioned applications demand for specific
software modules, able to analyze and extract knowledge
from the noisy and irregular textual content of tweets, rely-
ing on methods from data mining, machine learning, and
NLP (Natural Language Processing) domains. Furthermore,
Twitter can be seen as a particular form of a temporal data
stream [10]. Indeed, the volume and features of the collected
tweets may change over time, driven by real worlds events of
social, cultural or political nature. This observation applies,
for instance, to the online monitoring of public opinion: in
opinion mining / stance detection tasks, a classification model
is typically trained to discern between tweets that express a
positive, negative, and possibly neutral opinion. The deploy-
ment of the learned model on the online tweet stream may
be affected by concept drift, namely a change in the data dis-
tribution over time, and adequate countermeasures should be Since political and social events typically fuel the online
debates, another prominent field of application includes pub-
lic opinion mining from tweets. A recent investigation [5]
addressed the case of 2016 Brexit referendum, quantifying
the average stance towards the topic and the influence exerted
by Twitter users. More recently, the case of the vaccination
topic in Italy has been investigated as well [6], [7]: an intel-
ligent system has been devised with the aim of uncovering The associate editor coordinating the review of this manuscript and
approving it for publication was Yufeng Wang
. 77758 VOLUME 9, 2021 VOLUME 9, 2021 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream FIGURE 1. Daily number of italian tweets for different topics over
different time windows. Top: tweets about vaccination topic. II. BACKGROUND AND RELATED WORKS In this section, we first recall the definition of the stance
detection task and briefly review the most relevant works in
the field of microblogging stance detection. Then, we formal-
ize the notion of concept drift and report the most relevant
adaptive solutions that have been proposed for text stream
classification. The present work stems from the observation that the way
people express their opinion and thoughts may change over
time according to the events-related landscape that charac-
terizes the Twitter stream in online monitoring applications. The event-driven concept drift may alter the relation between
the input data (text of a tweet) and the target variable (class
of opinion/stance) in the supervised learning setting. In this
work, we explore this phenomenon by analyzing the case of
the classification of stance towards the vaccination topic in
Italy. We extend the original vaccination dataset described
in [6] with the aim of carrying out a long-term monitoring
campaign. This enables the comparison of different general
learning schemes in terms of classification performances. Furthermore, a novel learning scheme is proposed, based
on the semantic association of the tweets extracted from
different events, and specifically designed for fighting the
event-driven concept drift. The term semantics denotes pre-
cise fields of a wide range of disciplines including linguistic I. INTRODUCTION As
for coronavirus epidemic, the first peak relates to news about
the severity of the infection in China, whereas the second
one relates to the first confirmed cases in Italy. As for Gucci
keyword, the first peak may be associated with the news of
the leading role of the singer Harry Styles in the advertising
of the new unisex fragrance of Gucci, and the second one may
be associated with the broadcasting of the spot on Italian TV. The detailed analysis of the vaccination case study will be
presented in Section V. II. BACKGROUND AND RELATED WORKS A. STANCE DETECTION According to a recent definition [15], stance detection from
text is a classification problem where the stance (or position)
of the author of the text towards a target is expressed in the
form of a category label in the set {Favor, Against, Neither}. In some works, the Neutral class is also added, or it replaces
the Neither class. in a stance detection task, the target of
interest is predetermined [16], and the stance towards it must
be assessed even if it is not explicitly mentioned in the text. The nature of the contents posted on Twitter, i.e. the
popular status update messages dubbed tweets, makes the
platform particularly suitable for stance detection studies. However, Twitter stance detection is regarded as a challeng-
ing task in the NLP panorama: Twitter users typically express
their thoughts and opinions using unstructured and irregu-
lar sentences, with informal, abbreviated words, colloquial 77759 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream In practical applications the adaptation strategy depends on
the particular type of concept drift: in [21] authors distinguish
between different forms of changes in data distribution over
time, referring to the one-dimensional toy example reported
in Figure 2. Sudden or abrupt concept drift refers scenarios
where the mean of the data distribution suddenly switches
from one value (or concept) to another, without exploring
intermediate values. This also happens in gradual concept
drift, but in this case both concepts are maintained during a
transitional period. Conversely, in incremental concept drift
the data distribution switches from one concept to another
exploring many intermediate concepts. Notably, data distri-
bution concepts may exhibit redundancy or periodicity: when
the drift restores already seen concepts it is referred to as
reoccurring concept drift. expressions, and often misspellings and grammatical errors. New words and hashtags continuously appear and become
popular; irony, sarcasm or ambiguity are frequently present
in messages, and Favor and Against stances can be expressed
with both sentiment polarities. All these aspects, combined
with the limited length of tweets, make Twitter a particularly
harsh environment for automatic analysis of text messages. y
g
Recent state of the art works on stance detection are in
general far from achieving performances comparable to those
of other NLP branches, e.g. ordinary sentiment analysis. A. STANCE DETECTION Authors in [16] carried out an extensive experimental study
that led to the following contributions: the introduction of a
new stance dataset, the organization of a shared task com-
petition on such dataset (SemEval 2016 - Task 6), and the
development of a state-of-the-art stance detection system. The best performance has been obtained with a Linear SVM
classifier; the exploitation of features drawn from training
samples along with external resources led to an average
F-score of 70.3. The outcomes of the above mentioned com-
petition have been widely described [17], and the average
values of F-scores, obtained by 19 different teams, ranged
from 46.19 to 67.82. More recently, an approach based on
a deep learning architecture to tackle the stance detection
task on the same dataset has been proposed [18]: it consists
of a two-phase LSTM model with attention, getting to a
best-case average F-score of 68.84 and a best-case accuracy
of 60.2%. The shared representation between stance and sen-
timent that has been proposed in [19] has not led to significant
improvements, with an average F-score of 60.2. The rather
poor performance figures are also observed with regard to
other datasets, e.g. for the Chinese microblog stance detection
task (NLPCC 2016), with a best case accuracy of 60.6% and
average F-score of 62.2 [20]. As the concept drift problem affects various domains and
application areas, detection and adaptation techniques are
extremely varied as well. A thorough description of such
techniques is beyond the scope of the present work: in the
following section we focus on the adaptation strategy in social
network environment. C. ADAPTIVE SOLUTIONS FOR TEXT STREAM
CLASSIFICATION Few works have addressed the issue of text stream classifica-
tion in presence of concept drift. p
p
Costa et al. [10] analyzed the issue of concept drift adapta-
tion for a classification task over a tweet stream. The purpose
of their classification problem was to predict the hashtag
of each tweet on the basis of its text. They compared three
different schemes: the time-window approach, the incre-
mental approach, and the ensemble approach. The time-
window approach learns a new model for each new chunk of
tweets, thus implementing an abrupt forgetting mechanism;
the incremental approach extends the learning set and retrain
the model at each new chunk of tweets, preserving all pre-
vious examples; finally, the ensemble approach consists in
combining the prediction of different classifiers trained on
different time-windows. Their experimental setup was based
on a dataset in which the order of tweets (and indeed the
frequency of each hashtag) had been artificially altered in
different ways to induce different types of concept drift; by
using Bag of Words for numerical representation and SVM
as classification algorithm, they observed that the incremental
scheme outperformed the other approaches in almost all the
drift settings. Nevertheless, they highlighted that such an
approach is viable only whenever the storage capability is
not a concern. On the other hand, the time-window model
does not suffer from this problem, but it requires sophisticated
policies for data forgetting, depending on the type of drift that
occurs. In addition, it should be noted that the fictitious nature
of the drift undermines the generalization of the results into
real-world applications. III. PROBLEM DEFINITION AND BASELINE LEARNING
SCHEMES The scenario of our investigation is a monitoring campaign,
focused on a certain topic and based on a supervised learning
task, carried out on the Twitter data stream. The case study
concerning the stance towards the vaccination topic in Italy
will be detailed in the experimental section. As we pointed out in Section I, the occurrence of a topic-
related real-world event is often reflected in a spike in the
daily volume of collected tweets, regardless of the topic under
investigation (Fig. 1). In the online monitoring of stance
based on Twitter stream it can be reasonably assumed that
we are mostly interested in measuring the stance during such
events. Thus, besides having a large number of messages
available, we can assess how the event has affected people’s
stance about the topic. A completely different approach has been pursued in yet
another research work [27]: the authors adopted an active
learning scheme for sentiment analysis of tweet streams in
the stock market domain, with the final goal of predicting the
future value of stock prices on the basis of the public mood
expressed on social network. The active learning scheme
provides the algorithm with the ability to select new training
data and query an expert for hand labeling. As a result,
the classifier performance was improved. In the following, we introduce the notation adopted along
the paper. However, none of the above mentioned works explicitly
exploit the semantic information (intended as subtopic or
scope of meaning) contained in the text messages. We argue
that a semantic-aware approach could be helpful in text clas-
sification task, specifically when the text stream is affected
by event-driven concept drift. • ti indicates the time window of each event i; • DSi indicates the set of tweets collected within the time
window ti; • chunki indicates the labelled subset of DSi. In this work we do not discuss the problem of new event
detection: looking at Fig. 1, we can hypothesize the exploita-
tion of a peak detection algorithm on the daily volume of
tweets, possibly combined with the analysis of the news
stream on the topic. For the purpose of this work, we manually
select the most relevant peaks and set a time window ti of the
size of 3 days from the date of the triggering event. B. CONCEPT DRIFT A formal general definition of concept drift is given in [21]. Concept drift between two timestamps t0 and t1 can be
defined as: ∃X : pt0(X, y) ̸= pt1(X, y)
(1) (1) where pti represents the joint probability distribution at times-
tamp ti between the set of input variables X and the target
variable y. In a classification task the goal is to predict the categorical
target variable y given the set of input variables X. When
dealing with continuous classification of data streams over
time, a naive solution can be devised on training the classifi-
cation model using data extracted in an initial time interval,
and using the predictive model to classify new examples. In this setting, a change in the prior probability of classes
p(y) or in the class conditional probability p(X|y) may lead
to concept drift, causing the performance of the classification
system to deteriorate. Thus, such naive solution turns out to
be inadequate for dealing with evolving data, and adaptive
learning strategies, i.e. capable of reacting to concept drift,
should be considered. In a later work [22], the same authors deepened the analysis
of the ensemble approach by comparing a novel scheme,
named DARK (Drift Adaptive Retain Knowledge), with the 77760 77760 VOLUME 9, 2021 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream FIGURE 2. Different types of concept drift. Figure adapted from [21]. FIGURE 2. Different types of concept drift. Figure adapted from [21]. extremely wide scope of the dataset, and the limited types of
concept drift that the damped window model can cope with. Learn++. NSE algorithm [23], an extension of Learn++
algorithm [24] for non-stationary environments. DARK con-
sists in a dynamically weighted ensemble of classifiers. Dif-
ferently from Learn++. NSE, it implements two forgetting
mechanisms: the first one is regulated by the size of the train-
ing time window for each base classifier, whereas the second
one is regulated by the number of classifiers in the ensemble. Corroborating the results presented in [25], they showed that
an increased training window size positively contributes to
the ensemble classification. At the same time, limiting the
ensemble size makes DARK a lightweight solution, capable
of achieving comparable or even better performance than the
Learn++. NSE algorithm. B. CONCEPT DRIFT The analysis presented in [26]
shows how the choice of classifiers’ performance metric for
dynamic weighting and the use of a feedback strategy for
exploiting misclassified examples allow boosting ensemble
performance in presence of concept drift. A novel method named Learn# [30] addresses the issues of
long training time and catastrophic forgetting in incremental
learning for a deep learning architecture. It shows remark-
able results on several text classification tasks, yet without
discussing the concept drift adaptation problem. III. PROBLEM DEFINITION AND BASELINE LEARNING
SCHEMES A recent work in this direction [28] proposes an
informative-adaptation-to-change approach to deal with con-
cept drift for polarity learning in opinionated data stream. A damped window aging mechanism gives lower importance
to older objects and is embedded in the classification model,
a Multinomial Naive Bayes classifier, with an aging factor
continuously tuned according to the stream dynamics. When-
ever a change between the current window vocabulary and
past window vocabulary is detected, the parameter lambda is
increased and the model tends to forget outdated data more
rapidly. The experimental evaluation on the TwitterSentiment
dataset [29] showed that the aging mechanism is benefi-
cial for the classification task, but it also revealed that the
informed vocabulary-based adaptation scheme is equivalent
to a blind adaptation scheme, i.e. without change detection. This shortcoming may be due to several aspects, such as the Furthermore, we assume that we can rely on an initial
training set, train0, prior to the online monitoring phase,
that can be used to train an initial classification model C0. This training set may be built with an initial portion of the
data stream under investigation, or may belong to another
dataset and be used in a transfer learning fashion. From an
operational point of view, the cost of the online annotation of
a set of tweets at each event (chunki) may be counterbalanced
by the following advantages: on the one hand, the availability
of labelled data enables the evaluation of the performance 77761 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream FIGURE 3. Schematic representation of two baseline learning schemes. Algorithm 2 Retrain Learning and Evaluation Scheme
Require: stream: the stream of tweets
Require: train0: initial training set
1: performance_metrics ←empty list
2: traini ←train0
3: Ci ←classification_model.train(traini)
4: for each new detected event EVi on stream do
5:
DSi ←collection of tweets related to EVi
6:
chunki ←labeled subset of DSi
7:
metrics ←evaluate_prediction(Ci, chunki)
8:
performance_metrics.add(metrics)
9:
traini ←traini ∪train0
10:
Ci ←classification_model.train(traini)
11: end for
12: return performance_metrics Algorithm 2 Retrain Learning and Evaluation Scheme FIGURE 3. Schematic representation of two baseline learning schemes. classification model. In particular, we incrementally extend
the training set with the new labelled data and retrain the
classification pipeline from scratch on the new extended
training set. 1https://scikit-learn.org/stable/modules/generated/sklearn.feature_
extraction.text.HashingVectorizer.html III. PROBLEM DEFINITION AND BASELINE LEARNING
SCHEMES Notably, an alternative approach would consist
in incremental learning: unlike the Retrain scheme, it does
not replace an old model with a new one trained from
scratch. Instead, it updates the existing model by just con-
sidering the new labelled data. An emblematic example is
the optimization through stochastic gradient descent where
the model can be updated with partial fitting on a minibatch
of new data. However, as previously pointed out, the intro-
duction of new words or hashtags is frequent in the Twitter
Stream and the collection of new instances could alter the
attribute space on which each sample is represented, thus giv-
ing rise to the so-called feature drift [31]: ignoring new words
and not updating the attribute space may result in a significant
loss of information. In this regard, the Hashing Vectorizer1
can be used to incrementally training a text classification
pipeline: the hashing trick [32] allows mapping a string token
into a feature integer index, without the need to store a fixed
vocabulary dictionary in memory. However, this approach has
several drawbacks: (i) there is no way to evaluate the inverse
mapping (i.e. from feature index to string representation),
(ii) IDF weighting scheme cannot be applied (iii) hash col-
lisions may occur. Furthermore, several recent works have
highlighted that it delivers weaker performance compared to
vectorization based on TF-IDF [33], [34]. We have therefore
decided not to adopt a purely incremental approach, but
rather an approach (i.e. Retrain) that re-evaluate the whole
classification pipeline at every incoming event. of any classification system throughout the monitoring cam-
paign. On the other hand, such data can be used to update
the classification model and to devise alternative learning
schemes. Indeed, our experimental analysis is designed to address
the following research questions: (i) is the initial classifier
adequate for the online classification of the tweets stream? and (ii) what is the most effective learning scheme to cope
with the event-driven concept drift? A. BASELINE LEARNING AND EVALUATION SCHEMES Figure 3 illustrates two baseline schemes for learning and
evaluation: Static (Figure 3a) and Retrain (Figure 3b). Static scheme simply consists in using the initial model to
classify the whole stream of tweets. The pseudocode of the
approach is reported in Algorithm 1. Algorithm 1 Static Learning and Evaluation Scheme
Require: stream: the stream of tweets
Require: train0: initial training set
1: performance_metrics ←empty list
2: C0 ←classification_model.train(train0)
3: for each new detected event EVi on stream do
4:
DSi ←collection of tweets related to EVi
5:
chunki ←labeled subset of DSi
6:
metrics ←evaluate_prediction(C0, chunki)
7:
performance_metrics.add(metrics)
8: end for
9: return performance_metrics Algorithm 1 Static Learning and Evaluation Scheme
Require: stream: the stream of tweets
Require: train0: initial training set
1: performance_metrics ←empty list
2: C0 ←classification_model.train(train0)
3: for each new detected event EVi on stream do
4:
DSi ←collection of tweets related to EVi
5:
chunki ←labeled subset of DSi
6:
metrics ←evaluate_prediction(C0, chunki)
7:
performance_metrics.add(metrics)
8: end for
9: return performance_metrics Algorithm 1 Static Learning and Evaluation Scheme
Require: stream: the stream of tweets
Require: train0: initial training set
1: performance_metrics ←empty list
2: C0 ←classification_model.train(train0)
3: for each new detected event EVi on stream do
4:
DSi ←collection of tweets related to EVi
5:
chunki ←labeled subset of DSi
6:
metrics ←evaluate_prediction(C0, chunki)
7:
performance_metrics.add(metrics)
8: end for
9: return performance_metrics 8: end for 9: return performance_metrics Static and Retrain schemes are diametrically opposed: the
Static approach minimizes the computational cost, by just
exploiting the information available in the initial training set
train0; the Retrain approach, conversely, leverages all the
available data for model training, but it entails the cost of Retrain scheme consists in retraining the classification
model at each newly detected event. The pseudocode of the
approach is reported in Algorithm 2. In data stream min-
ing this approach is often referred to as prequential eval-
uation or interleaved-test-then-train. After collecting and
labelling samples from an incoming event, we first evalu-
ate the performance of the current classification model on
the new labelled set. Then, such data are used to train the VOLUME 9, 2021 VOLUME 9, 2021 77762 77762 A. IV. THE PROPOSED SEMANTIC LEARNING SCHEME It is widely recognized that, for concept drift adaptation,
it may be useful to discard part of the information acquired
in the past, that is no longer relevant for the current task. However, traditional forgetting schemes, namely sliding win-
dow model or damped window model, rely on the following
hypothesis: the more recent instances are more important
than the less recent ones. In other words this is equivalent
to decide the type of concept drift and specifically to assume
its incremental nature (see Fig. 2). Algorithm 4 Evaluate Similarity
Require: DSi: collection of tweets related to last event
Require: train_pool: list of available labelled sets of tweets
Require: k: nearest neighbors parameter
Require: N: number of new event tweets used to assess
similarity
1: subseti ←random.sample(DSi, N)
2: kNN ←NearestNeighbors(k).fit(train_pool)
3: indices, distances ←kNN.get_neighbors(subseti)
4: events_freq ←map_on_event(indices)
5: events_weights ←normalize(evenst_freq,train_pool)
6: events_weights ←scale(events_weights)
7: return event_weights Algorithm 4 Evaluate Similarity
Require: DSi: collection of tweets related to last event
Require: train_pool: list of available labelled sets of tweets
Require: k: nearest neighbors parameter
Require: N: number of new event tweets used to assess
similarity
1: subseti ←random.sample(DSi, N)
2: kNN ←NearestNeighbors(k).fit(train_pool)
3: indices, distances ←kNN.get_neighbors(subseti)
4: events_freq ←map_on_event(indices)
5: events_weights ←normalize(evenst_freq,train_pool)
6: events_weights ←scale(events_weights)
7: return event_weights Algorithm 4 Evaluate Similarity g
The dynamic of tweets stream from Twitter environment,
though, cannot be traced back to a simple, monotonic, trend. The online discussion is often driven by real-world events and
different types of concept drift, other than the incremental
one, may arise, e.g. reoccurring drift. Therefore, we argue
that it is not appropriate to give importance to the past
instances merely on the basis of the remoteness in time from
the current evaluation, but rather to conceive an alternative
criterion. This is the rationale behind our proposed approach,
namely the Semantic scheme: in the evaluation of the current
event, the weight of the samples collected during a past event
should be proportional to the semantic association between
the current event and the past event itself. The pseudocode of
the approach is reported in Algorithms 3 and 4 and detailed
below. sample belonging to that event (line 8). Hence, a new clas-
sifier is trained by taking into account the weighted samples
and is evaluated on the labelled set of the new event. Finally
the train_pool is updated by including the recently labelled
elements, i.e. chunki. A. THE OVERALL APPROACH In the initialization stage (Algorithm 3, lines 2:3) we train
the initial classification model with the available training set
(train0) as in the baseline approaches. Furthermore, we define
a list of sets of labelled tweets, denoted as train_pool, which
at the beginning only contains train0. Whenever a new event
i is detected we select the tweets related to the event from the
stream (DSi). The procedure Eval_Similarity (line 6) evalu-
ates the similarity between the data of the new event and each
subset of train_pool, traceable to a past event or to the initial
training set, and it returns a list of weights of the same length
as train_pool. The train_pool list is flattened (line 7) and the
weight coefficient assigned to an event is transferred to each A. BASELINE LEARNING AND EVALUATION SCHEMES Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream Algorithm 3 Semantic Learning and Evaluation Scheme
Require: stream: the stream of tweets
Require: train0: initial training set
Require: k: nearest neighbors parameter
Require: N: number of new event tweets used to assess
similarity
1: performance_metrics ←empty list
2: Ci ←classification_model.train(train0)
3: train_pool ←[train0]
4: for each new detected event EVi on stream do
5:
DSi ←collection of tweets related to EVi
6:
events_weights
←
Eval_Similarity(train_pool, DSi, k, N)
7:
traini ←S train_pool
8:
wi ←map_sample(train_pool, events_weights)
9:
Ci ←classification_model.train(traini,wi)
10:
chunki ←labeled subset of DSi
11:
metrics ←evaluate_prediction(Ci, chunki)
12:
performance_metrics.add(metrics)
13:
train_pool.add(chunki)
14: end for
15: return performance_metrics periodically re-training the model. As a result, the Retrain
scheme is designed to achieve adaptation to concept drift. The inclusion of new instances in the training set is not
the only path to adaptation: a popular approach consists in
discarding outdated information from the model [28]. The
most intuitive implementation of such a forgetting mecha-
nism is through the adoption of a sliding window model or a
damped window model. In the former case, least recent
objects (outside the sliding window) are abruptly discarded;
in the latter case, the weight of an instance decreases with
its age. However, both approaches require the setting of a
hyper-parameter, either the size of the sliding window or the
decay factor, which makes them less attractive in real appli-
cations. Another major drawback of the traditional forgetting
approaches is discussed in the next section, where the pro-
posed learning scheme is introduced. V. EXPERIMENTAL SETUP a tweet from the event itself has been among such k nearest
neighbors. Since the subsets of train_pool may have different
size, we normalize the events_freq array by dividing the value
associated to an event by the size of the related labelled subset
(line 5). In other words, given a subset J of labelled tweets
from train_pool and the cumulative number Nt of times a
labelled tweet t from J has been among the k nearest neigh-
bors of the new event tweets, the weight wJ to be assigned to
the samples of J is derived as follows: a tweet from the event itself has been among such k nearest
neighbors. Since the subsets of train_pool may have different
size, we normalize the events_freq array by dividing the value
associated to an event by the size of the related labelled subset
(line 5). In other words, given a subset J of labelled tweets
from train_pool and the cumulative number Nt of times a
labelled tweet t from J has been among the k nearest neigh-
bors of the new event tweets, the weight wJ to be assigned to
the samples of J is derived as follows: In this section, we first describe the extended vaccination
dataset, object of our experimental investigation, and then we
provide the details of the basic text classification pipeline,
shared among all the different learning schemes. Finally,
we discuss the implementations of the learning schemes
involved in the experimental analysis. A. THE EXTENDED VACCINATION DATASET AND RELATED
REAL-WORLD EVENTS wJ =
P
t∈J Nt
|J|
(2) (2) In one of our previous works [6] we introduced the ‘‘vaccina-
tion stance’’ dataset: we carried out a monitoring campaign of
the vaccination topic in Italy over a period of intense public
discussions ranging from September 1st, 2016 till June 30th,
2017. We queried Twitter API with a list of 38 vaccine-
related keywords, such as #iovaccino (hashtag for ‘‘I vac-
cinate’’) or rischio vaccinale (vaccine risk). In the present
work, we have extended the monitoring campaign until
September 2019. The resulting daily volume of tweets is
shown in Fig. 5; after filtering out non-Italian tweets and
removing duplicate, we gathered 806,672 tweets. Finally, we scale the weights by its maximum value. A schematic example of the Evaluate Similarity procedure
is reported in Fig. 4. Finally, we scale the weights by its maximum value. A schematic example of the Evaluate Similarity procedure
is reported in Fig. 4. The distance assessment underlying the Nearest Neighbors
algorithm requires a numerical representation of the tweets
that can encode semantically-driven information. To this aim,
we resort to the recently proposed BERT language model
[35]. Unlike classical word embedding, like Word2Vec [36],
Glove [37] and FastText [38], which map the same token
to the same vector regardless of its context, BERT is a lan-
guage model based on the Transformer architecture [39] and
implements a masked language model learning strategy to
learn a contextualized representation of words and sequences. BERT models have been applied to a broad set of NLP tasks,
including language understanding and question answering,
by using them in a transfer learning setting where the pre-
trained model is subsequently fine-tuned on the downstream Most of the peaks of the tweets volume distribution have
been highlighted with a red circle in Fig. 5: by examining
the news and press review of those days, we were able to
match the peaks with specific real-world events, related to the
vaccination topic. Table 1 collects the details of such events. For the purpose of performance evaluation and concept
drift adaptation, we need labelled data for each event. To this
aim, we have randomly sampled a subset of the related dataset Most of the peaks of the tweets volume distribution have
been highlighted with a red circle in Fig. B. SEMANTIC SIMILARITY USING BERT The Eval_Similarity procedure, described in Algorithm 4,
assigns a weight to each subset of the train_pool based on the
semantic association or similarity with the incoming event. We randomly select N tweets from DSi (line 1): in this way
we standardize the conditions of the various incoming events
and reduce the computational load. For each of the N tweets
in this subset, we evaluate its k nearest neighbors among the
tweets of the train_pool (lines 2-3). Then, in events_freq,
we store for each past event the cumulative number of times 77763 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream FIGURE 4. Example of operation of the evaluate similarity procedure for
the incoming event 3: scaled events weights are used for weighting each
sample of the training pool. task [35]. However, pre-trained models can be directly lever-
aged as feature extractor, in order to obtain contextualized
representations of words and sequences. We opted to compute
the final representation of each tweet as the dimension-wise
average of the representations of individual words. We argue
that the average vectors of semantically related tweets may be
similar in the embedding space. As it is common practice for
NLP related tasks, the similarity between embeddings used in
the Nearest Neighbors algorithm is computed by means of the
cosine distance. We must point out that other language mod-
els specifically focused on providing semantically-relevant
sequence vectors, such as Sentence-BERT [40]. However,
our choice of exploiting standard BERT models is motivated
by the fact that no pre-trained Sentence-BERT models are
specifically available for Italian. We would also like to underline that the assessment of the
semantic similarity relies on the availability of tweets for the
newly detected event: we therefore assume that inference on
the event will be performed with a slight latency. However,
the similarity evaluation is an unsupervised procedure, and it
does not require the costly and time consuming manual anno-
tation of tweets to be performed immediately. For the purpose
of our empirical comparison across learning schemes, and
indeed in Algorithms 1,2 and 3, we supposed to have the
labelled chunk of tweets immediately available for perfor-
mance evaluation. FIGURE 4. Example of operation of the evaluate similarity procedure for
the incoming event 3: scaled events weights are used for weighting each
sample of the training pool. A. THE EXTENDED VACCINATION DATASET AND RELATED
REAL-WORLD EVENTS 5: by examining
the news and press review of those days, we were able to
match the peaks with specific real-world events, related to the
vaccination topic. Table 1 collects the details of such events. For the purpose of performance evaluation and concept
drift adaptation, we need labelled data for each event. To this
aim, we have randomly sampled a subset of the related dataset 77764 VOLUME 9, 2021 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream FIGURE 5. The daily number of tweets for the extended vaccination dataset. Peaks in the distribution are located at dates in which a real-world event
has stirred up the online discussion about the vaccination topic. Red dots highlight the events that have been analyzed in our work. TABLE 1
Real
orld conte t related e ents FIGURE 5. The daily number of tweets for the extended vaccination dataset. Peaks in the distribution are located at d
has stirred up the online discussion about the vaccination topic. Red dots highlight the events that have been analyze FIGURE 5. The daily number of tweets for the extended vaccination dataset. Peaks in the distribution are located at dates in which a real-world event
has stirred up the online discussion about the vaccination topic. Red dots highlight the events that have been analyzed in our work. FIGURE 5. The daily number of tweets for the extended vaccination dataset. Peaks in the distribution are located at dates in which a real-world event
has stirred up the online discussion about the vaccination topic. Red dots highlight the events that have been analyzed in our work. TABLE 1. Real world context related events. has stirred up the online discussion about the vaccination topic. Red dots highlight the events that have been analyzed in our work. TABLE 1. Real world context related events. reduced to its stem or root form with analogous semantics. Then, a vector of numeric features is computed by using
TF-IDF index (Term Frequency - Inverse Document Fre-
quency). A Support Vector Machine with linear kernel is used
as classification algorithm. Such approach allows achieving
an average accuracy of 64.84% using 10-fold stratified cross-
validation on a well-balanced dataset of 693 labelled tweets,
which is in line with the performance figures reported in
Section II-A. A. THE EXTENDED VACCINATION DATASET AND RELATED
REAL-WORLD EVENTS The labelled dataset of 693 tweets collected
between September 1st, 2016 and April 30th, 2017, is used
as initial training set, namely train0. and manually labelled around 70 tweets, always pursuing a
good balance among the three classes. We excluded from
the sampling the tweets belonging to the train0 set, built in
the initial months of the monitoring campaign and possibly
concomitant with the first few events. An overview on the
number of tweets for each event is reported in Table 2. B. THE STANCE CLASSIFICATION PIPELINE:
PREPROCESSING, NUMERICAL REPRESENTATION,
CLASSIFICATION MODEL In our case study the stance detection problem is instantiated
as a three-class classification problem intended as the assess-
ment of whether the text of a tweet conveys an opinion in
favor, not in favor, or neutral toward the target. C. LEARNING SCHEMES, PARAMETER SETTING AND
EVALUATION METRICS Our empirical study is aimed at comparing the following
learning schemes: Whatever the learning scheme used for concept drift adap-
tation, the stance detection task requires the definition of a
base classification pipeline. In the present work we rely on the
algorithm described in [6], which has proven to be appropri-
ate after an extensive model selection phase. It encompasses
the following steps: the text of each tweet is pre-processed
by removing links, mentions, numbers and special characters,
and by converting it into lower case. A subset of stop words
for Italian language are filtered out. Hence, to obtain a numer-
ical representation, each tweet is first converted into a set of
tokens according to the Bag of Words model: tokenization
has been performed considering uni-grams (n-grams with
n = 1) and bi-grams (n-grams with n = 2) and each word is • Static: baseline scheme, as described in Algorithm 1; • Retrain: baseline scheme, as described in Algorithm 2; • DARK: state of the art approach proposed in [22] and
discussed in Section II-C; • Semantic: our proposed approach, as described in Algo-
rithms 3 and 4; Static and Retrain schemes do not require any configura-
tion parameter. For the configuration of DARK scheme we
take advantage of the main findings presented by authors in
[22]: we test the approach varying the windows size (number
of recent events considered for training a new classifier) 77765 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream TABLE 2. Total number of tweets (DSi ) and labelled tweets (chunki )
related to each event, along with their cumulative sum. TABLE 3. Comparison of learning schemes. Accuracy values obtained on
the test set associated with each event and average values. TABLE 4. Comparison of learning schemes. F-measure values obtained
on the test set associated with each event and average values. the Semantic learning scheme w.r.t. the two parameters in TABLE 2. Total number of tweets (DSi ) and labelled tweets (chunki )
related to each event, along with their cumulative sum. TABLE 3. Comparison of learning schemes. Accuracy values obtained on
the test set associated with each event and average values. TABLE 4. Comparison of learning schemes. F-measure values obtained
on the test set associated with each event and average values. TABLE 2. C. LEARNING SCHEMES, PARAMETER SETTING AND
EVALUATION METRICS Total number of tweets (DSi ) and labelled tweets (chunki )
related to each event, along with their cumulative sum. TABLE 3. Comparison of learning schemes. Accuracy values obtained on
the test set associated with each event and average values. the Semantic learning scheme w.r.t. the two parameters in
Section VI-B. The choice of N obviously depends on the
volume of available data: in our case study, we have chosen
a value slightly lower than the minimum value of |DSi|,
as reported in Table 1. As for the pre-trained BERT model,
we resort to AlBERTo [41], a BERT-based model pre-trained
on Italian texts obtained from social media, and specifically
tailored to Twitter. The dimensionality of the resulting vector
space is 768. the Semantic learning scheme w.r.t. the two parameters in
Section VI-B. The choice of N obviously depends on the
volume of available data: in our case study, we have chosen
a value slightly lower than the minimum value of |DSi|,
as reported in Table 1. As for the pre-trained BERT model,
we resort to AlBERTo [41], a BERT-based model pre-trained
on Italian texts obtained from social media, and specifically
tailored to Twitter. The dimensionality of the resulting vector
space is 768. Performance are evaluated in terms of accuracy and macro-
averaged F-measure. VI. EXPERIMENTAL RESULTS Results
of
the
experimental
campaign
are
reported
in Tables 3 and 4 for accuracy and F-measure, respectively. The trends of the performance metrics over time are also
shown in the graphs of Figures 6a and 6b. First of all, we observe a considerable variability of the
results among the various events. In many cases, perfor-
mances are consistent with or better than expected (accuracy
> 60%) with figures roughly coherent with those reported in
state-of-the-art works in the stance detection literature (see
Section II-A). On the other hand, for few events, namely
events 5, 7, 10, 15, performances are rather poor, regardless
of the adopted learning scheme: the accuracy value settles
around 50%, which can be considered inadequate even if we
are dealing with a three-class classification problem. Possible
explanations may lie in the occurrence of concept drift and the
intrinsic complexity associated with certain events or deriving
from the annotation procedure. These conditions may be quite
common in real applications. Furthermore, it should be under-
lined that, in the framework of the empirical comparison,
we are more interested in the relative, rather than absolute,
performances of different approaches. between 4 and 5, and the ensemble size (number of classifiers
in the ensemble) considering both 4 and all available classi-
fiers. Notably, the sliding window is just applied to the events
data: train0 is excluded from the forgetting mechanism,
so that the training set is always large enough. Furthermore,
we vary the criterion for dynamic weighting of base classi-
fiers as in [26], by using simple majority voting or previous
performance of each classifier, namely F-measure and accu-
racy. For the sake of clarity, in the following we just report
the best configuration, which has been obtained with window
size equal to 5, ensemble size equal to 4 and F-measure as the
performance metric for the combination of classifiers. Semantic scheme requires the definition of a few parame-
ters: k represents the number of neighbors of each tweet for
the evaluation of the similarity between events. N represents
the number of tweets of the new event used to assess the
similarity with past events. In our experiments we set k = 5
and N = 2000 and we also investigate the sensitivity of Fig. 7 reports the frequencies of the ranks scored by the
four models throughout the whole monitoring campaign,
both for accuracy and F-measure. VI. EXPERIMENTAL RESULTS The visual analysis of 77766 VOLUME 9, 2021 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream FIGURE 6. Comparison of learning schemes along the monitoring
campaign in terms of (a) Accuracy and (b) F-measure. FIGURE 7. Frequencies of ranks scored by the four learning schemes on
19 events. trivial. In general, it can be noticed that almost all the events
of the second half of the monitoring campaign are linked to FIGURE 7. Frequencies of ranks scored by the four learning schemes on
19 events. FIGURE 6. Comparison of learning schemes along the monitoring
campaign in terms of (a) Accuracy and (b) F-measure. FIGURE 7. Frequencies of ranks scored by the four learning schemes on
19 events. trivial. In general, it can be noticed that almost all the events
of the second half of the monitoring campaign are linked to
political aspects, i.e. political declarations and statements of
position on the vaccines obligations. This might motivate the
slight superior performance of the Semantic approach after
event 10. FIGURE 6. Comparison of learning schemes along the monitoring
campaign in terms of (a) Accuracy and (b) F-measure. Figures 6a, 6b and 7 clearly reveals that the Static scheme
achieves the worst results. The lack of a strategy for concept
drift adaptation leads this scheme to achieve poor perfor-
mance. Although such degradation does not seem to depend
solely on the time distance from the initial training instant,
it is more evident in the second half of the monitoring
campaign. To have a better awareness of the outcome of the similar-
ity assessment procedure based on BERT language model,
however, we consider it appropriate to reduce the granularity
of the analysis to single tweets. Table 5 shows the results of
the k-Nearest Neighbors assessment procedure on two tweets
extracted from event 14 and 17, respectively. Obviously, in the first event all the schemes perform iden-
tically since they are based on the same classifier, trained on
train0. In general the discrepancies between the approaches
are more noticeable from event 10 onwards. The average
values of accuracy and F-measure reported at the end of
Tables 3 and 4 confirm that the highest gap occurs between
Static learning scheme and the others. Retrain and DARK
schemes show comparable performance: the slight difference
in favour of Retrain approach mainly stems from events
13 and 18. VI. EXPERIMENTAL RESULTS We argue that the information embedded in the
labelled sets of older events, those included in Retrain but
excluded from the DARK model, seems to be essential to
achieve a better classification. In the first case the tweet refers to the government majority
decision about the obligation of vaccinations: all the five
closest tweets belonging to the training pool make explicit
reference to political entities and/or to the vaccines obliga-
tion. In the second example, the incoming tweet refers to the
vaccines obligation for children to have access to school. The
five most similar examples in terms of cosine distance date
back to the most recent events and relate to the subjects of
obligation, school and children. B. PARAMETER SENSITIVITY Nevertheless, in our case study, exploiting and giving equal
importance to all the past samples, as it happens in the Retrain
scheme, is not the optimal strategy: our Semantic approach
often outperforms other learning schemes both in terms of
accuracy and F-measure and it achieves the highest average
metrics values. The approach based on the semantic similarity
of events allows to obtain a better adaptation to the evolving
Twitter stream for the stance detection application. We investigate the sensitivity of the Semantic approach to its
input parameters, namely k, the number of nearest neighbors,
and N, the size of the subset of the new event dataset DSi
used to assess the semantic similarity with past events. The
sampling procedure on DSi makes the approach stochastic:
indeed we should also evaluate the variability induced by
using different seeds for the pseudo-random number gener-
ator. Specifically, we vary the parameters as follows: • seed: three different integers denoted as A, B and C;
• k: in the set {3, 4, 5, 10};
• N: in the set {200, 500, 1000, 2000, 5000, 15000}. A. QUALITATIVE ASSESSMENT OF SEMANTIC SIMILARITY Explaining the effectiveness of the Semantic approach based
only on the list of events previously reported is anything but 77767 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream TABLE 5. Qualitative assessment of tweets similarity: the five nearest neighbors of two tweets (sampled from event 14 and event 17 respectively). Original tweets and english translation. TABLE 5. Qualitative assessment of tweets similarity: the five nearest neighbors of two tweets (sampled from event 14 and event 17 respectively). Original tweets and english translation. TABLE 6. Sensitivity of the semantic approach w.r.t. random seed, k and N. Average accuracy over all events. TABLE 6. Sensitivity of the semantic approach w.r.t. random seed, k and N. Average accuracy over all events. the online debate. As a consequence, concept drift should be
taken into account and proper adaptation techniques should
be used. Notably, when N exceeds the size of DSi, we simply consider
all samples from that dataset. Results are reported in terms of
accuracy, averaged over all events, in Table 6. y
g
Although such exploration of the three-dimensional
parameter space is not exhaustive, it gives a preliminary
insight on the parameter sensitivity. Results are substantially
stable across different values of seed, N, and k: the average
accuracy is almost always higher than 0.59 and indeed at least
one percentage point higher than the second best learning
scheme, i.e. Retrain. Intuitively, the higher the value of N,
the lower the influence of the random seed. At the same time,
the influence of sampling is greater if N is low, e.g. 200. Furthermore we can notice that a low value of k (e.g. 3, 4, 5)
seems to be appropriate, not only from a computational point
of view but also for slightly better performance. With reference to the case study of stance detection towards
the vaccination topic, we perform an experimental analy-
sis to compare different learning schemes for the evolving
setting. We have observed that just resorting to an initial
classification model that does not implement any adapta-
tion technique is not suitable, at least for our long-term
monitoring campaign. Among the approaches designed for
fighting concept drift, our novel learning scheme, based on
the evaluation of the semantic similarity of events, shows
promising results since it slightly outperforms both retrain
and ensemble-based learning scheme. A. QUALITATIVE ASSESSMENT OF SEMANTIC SIMILARITY Future works will
investigate the integration of the proposed approach in an
end-to-end intelligent system for the online monitoring of
the public opinion from Twitter: it might be interesting, for
example, to find out how decisions made by government
authorities during the Covid-19 pandemic were perceived
by general public and affected the opinion towards policy
makers. REFERENCES [26] J. Costa, C. Silva, M. Antunes, and B. Ribeiro, ‘‘Boosting dynamic ensem-
ble’s performance in Twitter,’’ Neural Comput. Appl., vol. 32, pp. 1–13,
Nov. 2019. [1] A. Dhiman and D. Toshniwal, ‘‘An approximate model for event detection
from Twitter data,’’ IEEE Access, vol. 8, pp. 122168–122184, 2020. [27] J. Smailović, M. Grčar, N. Lavrač, and M. Žnidaršič, ‘‘Stream-based active
learning for sentiment analysis in the financial domain,’’ Inf. Sci., vol. 285,
pp. 181–203, Nov. 2014. [2] E. D’Andrea, P. Ducange, B. Lazzerini, and F. Marcelloni, ‘‘Real-time
detection of traffic from Twitter stream analysis,’’ IEEE Trans. Intell. Transp. Syst., vol. 16, no. 4, pp. 2269–2283, Aug. 2015. [28] V. Iosifidis, A. Oelschlager, and E. Ntoutsi, ‘‘Sentiment classification over
opinionated data streams through informed model adaptation,’’ in Proc. Int. Conf. Theory Pract. Digit. Libraries. Cham, Switzerland: Springer, 2017,
pp. 369–381. [3] T. Sakaki, M. Okazaki, and Y. Matsuo, ‘‘Tweet analysis for real-time event
detection and earthquake reporting system development,’’ IEEE Trans. Knowl. Data Eng., vol. 25, no. 4, pp. 919–931, Apr. 2013. [4] L. Samaras, E. García-Barriocanal, and M.-A. Sicilia, ‘‘Comparing social
media and Google to detect and predict severe epidemics,’’ Sci. Rep.,
vol. 10, no. 1, pp. 1–11, Dec. 2020. pp
[29] A. Go, R. Bhayani, and L. Huang, ‘‘Twitter sentiment classification using
distant supervision,’’ Stanford, CA, USA, Project Rep. CS224N, 2009,
pp. 1–6. [5] M. Grčar, D. Cherepnalkoski, I. Mozetič, and P. K. Novak, ‘‘Stance and
influence of Twitter users regarding the brexit referendum,’’ Comput. Social Netw., vol. 4, no. 1, pp. 1–25, Dec. 2017. [30] G. Shan, S. Xu, L. Yang, S. Jia, and Y. Xiang, ‘‘Learn#: A novel incremen-
tal learning method for text classification,’’ Expert Syst. Appl., vol. 147,
Jun. 2020, Art. no. 113198. [6] E. D’Andrea, P. Ducange, A. Bechini, A. Renda, and F. Marcelloni, ‘‘Moni-
toring the public opinion about the vaccination topic from tweets analysis,’’
Expert Syst. Appl., vol. 116, pp. 209–226, Feb. 2019. [31] A. Cano and B. Krawczyk, ‘‘Kappa updated ensemble for drifting data
stream mining,’’ Mach. Learn., vol. 109, no. 1, pp. 175–218, Jan. 2020. [32] K. Weinberger, A. Dasgupta, J. Langford, A. Smola, and J. Attenberg,
‘‘Feature hashing for large scale multitask learning,’’ in Proc. 26th Annu. Int. Conf. Mach. Learn. (ICML), 2009, pp. 1113–1120. [7] A. Bechini, P. Ducange, F. Marcelloni, and A. REFERENCES Renda, ‘‘Stance analysis of
Twitter users: The case of the vaccination topic in Italy,’’ IEEE Intell. Syst.,
early access, Dec. 15, 2020, doi: 10.1109/MIS.2020.3044968. [33] M. Di Giovanni, M. Brambilla, S. Ceri, F. Daniel, and G. Ramponi,
‘‘Content-based classification of political inclinations of Twitter users,’’
in Proc. IEEE Int. Conf. Big Data (Big Data), Dec. 2018, pp. 4321–4327. y
[8] A. Bechini, B. Lazzerini, F. Marcelloni, and A. Renda, ‘‘Integration of
Web-scraped data in CPM tools: The case of project Sibilla,’’ in Proc. 5th
Int. Congr. Inf. Commun. Technol. Singapore: Springer, 2021, pp. 279–287. [34] I. Irawaty, R. Andreswari, and D. Pramesti, ‘‘Vectorizer comparison for
sentiment analysis on social media youtube: A case study,’’ in Proc. 3rd
Int. Conf. Comput. Informat. Eng. (ICIE), Sep. 2020, pp. 69–74. [9] P. Ducange, M. Fazzolari, M. Petrocchi, and M. Vecchio, ‘‘An effective
decision support system for social media listening based on cross-source
sentiment analysis models,’’ Eng. Appl. Artif. Intell., vol. 78, pp. 71–85,
Feb. 2019. [35] J. Devlin, M.-W. Chang, K. Lee, and K. Toutanova, ‘‘BERT: Pre-training
of deep bidirectional transformers for language understanding,’’ in Proc. Conf. North Amer. Chapter Assoc. Comput. Linguistics, Hum. Lang. Tech-
nol., vol. 1, 2019, pp. 4171–4186. [10] J. Costa, C. Silva, M. Antunes, and B. Ribeiro, ‘‘Concept drift awareness in
Twitter streams,’’ in Proc. 13th Int. Conf. Mach. Learn. Appl., Dec. 2014,
pp. 294–299. [36] T. Mikolov, I. Sutskever, K. Chen, G. S. Corrado, and J. Dean, ‘‘Distributed
representations of words and phrases and their compositionality,’’ in Proc. Adv. Neural Inf. Process. Syst., 2013, pp. 3111–3119. [11] H. Zhuge, ‘‘Interactive semantics,’’ Artif. Intell., vol. 174, no. 2,
pp. 190–204, Feb. 2010. [12] S. Jabeen, X. Gao, and P. Andreae, ‘‘Semantic association computation:
A comprehensive survey,’’ Artif. Intell. Rev., vol. 53, no. 6, pp. 3849–3899,
Aug. 2020, doi: 10.1007/s10462-019-09781-w. [37] J. Pennington, R. Socher, and C. Manning, ‘‘Glove: Global vectors for
word representation,’’ in Proc. Conf. Empirical Methods Natural Lang. Process. (EMNLP), 2014, pp. 1532–1543. g
[13] M. Strube and S. P. Ponzetto, ‘‘Wikirelate! Computing semantic related-
ness using wikipedia,’’ in Proc. 21st Nat. Conf. Artif. Intell. (AAAI), vol. 2,
2006, pp. 1419–1424. [38] P. Bojanowski, E. Grave, A. Joulin, and T. Mikolov, ‘‘Enriching word
vectors with subword information,’’ Trans. Assoc. Comput. Linguistics,
vol. 5, pp. 135–146, Dec. 2017. [14] S. Hassan and R. Mihalcea, ‘‘Semantic relatedness using salient seman-
tic analysis,’’ in Proc. 25th AAAI Conf. Artif. REFERENCES Intell. (AAAI), 2011,
pp. 884–889. [39] A. Vaswani, N. Shazeer, N. Parmar, J. Uszkoreit, L. Jones, A. N. Gomez,
U. Kaiser, and I. Polosukhin, ‘‘Attention is all you need,’’ in Proc. 31st
Int. Conf. Neural Inf. Process. Syst. (NIPS). Red Hook, NY, USA: Curran
Associates, 2017, pp. 6000–6010. [15] D. Küçük and F. Can, ‘‘Stance detection: A survey,’’ ACM Comput. Surv.,
vol. 53, no. 1, pp. 1–37, 2020. [40] N. Reimers and I. Gurevych, ‘‘Sentence-BERT: Sentence embed-
dings using siamese BERT-networks,’’ in Proc. Conf. Empirical Meth-
ods Natural Lang. Process. Stroudsburg, PA, USA: Association for
Computational Linguistics, Nov. 2019, pp. 1–11. [Online]. Available:
https://arxiv.org/abs/1908.10084 [16] S. M. Mohammad, P. Sobhani, and S. Kiritchenko, ‘‘Stance and senti-
ment in tweets,’’ ACM Trans. Internet Technol., vol. 17, no. 3, pp. 1–23,
Jul. 2017. [17] S. Mohammad, S. Kiritchenko, P. Sobhani, X. Zhu, and C. Cherry,
‘‘SemEval-2016 task 6: Detecting stance in tweets,’’ in Proc. 10th Int. Workshop Semantic Eval. (SemEval), 2016, pp. 31–41. [41] M. Polignano, P. Basile, M. de Gemmis, G. Semeraro, and V. Basile,
‘‘AlBERTo: Italian BERT language understanding model for NLP chal-
lenging tasks based on tweets,’’ in Proc. 6th Italian Conf. Comput. Lin-
guistics (CLiC-it), vol. 2481, 2019, pp. 1–6. [18] K. Dey, R. Shrivastava, and S. Kaushik, ‘‘Topical stance detection for
Twitter: A two-phase LSTM model using attention,’’ in Proc. Eur. Conf. Inf. Retr. Cham, Switzerland: Springer, 2018, pp. 529–536. p
g
pp
[19] Q. Sun, Z. Wang, S. Li, Q. Zhu, and G. Zhou, ‘‘Stance detection via
sentiment information and neural network model,’’ Frontiers Comput. Sci.,
vol. 13, no. 1, pp. 127–138, Feb. 2019. [20] W. Li, Y. Xu, and G. Wang, ‘‘Stance detection of microblog text
based on two-channel CNN-GRU fusion network,’’ IEEE Access, vol. 7,
pp. 145944–145952, 2019. pp
[21] J. Gama, I. Žliobait˙e, A. Bifet, M. Pechenizkiy, and A. Bouchachia,
‘‘A survey on concept drift adaptation,’’ ACM Comput. Surv., vol. 46, no. 4,
pp. 1–37, Apr. 2014. ALESSIO BECHINI received the Laurea degree
in electronics engineering and the Ph.D. degree
in information engineering from the University
of Pisa, in 1996 and 2003, respectively. He is
currently a Researcher with the Department of
Information Engineering, University of Pisa. His
research interests span the fields of concurrent and
distributed systems, enterprise information sys-
tems, data management and integration, service
management, with particular interest in bioinfor-
matics problems. VII. CONCLUSION VII. CONCLUSION The analysis carried out in the present work focuses on an
aspect that is often neglected in applications of knowledge
discovery from Twitter: the volume and characteristics of the
tweets stream vary according to real-world events that trigger VOLUME 9, 2021 VOLUME 9, 2021 77768 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream ALESSANDRO BONDIELLI FRANCESCO MARCELLONI (Member, IEEE) is
currently a Full Professor with the Department of
Information Engineering, University of Pisa, Italy. He has co-edited three volumes and four journal
special issues. He is the coauthor of a book and
published more than 230 articles in international
journals, books, and conference proceedings. His
main research interests include data mining for
big data, sentiment analysis and opinion mining,
multi-objective evolutionary algorithms, genetic
fuzzy systems, fuzzy clustering algorithms, and data compression and aggre-
gation in wireless sensor networks. He has coordinated various research
projects funded by both public and private entities. He has been selected to
receive the 2021 IEEE TFS Outstanding Paper Award. He has been the TPC
co-chair, the general co-chair, and the tutorial chair of some international
conferences and has held invited talks in a number of events. He currently
serves as an Associate Editor for IEEE TRANSACTIONS ON FUZZY SYSTEMS
(IEEE), Information Sciences (Elsevier), and Soft Computing (Springer), and
the editorial board of a number of other international journals. ALESSANDRO BONDIELLI received the M.Sc. degree in digital humanities from the University
of Pisa, Italy, in 2016. He is currently pursuing the
Ph.D. degree with the Smart Computing Program,
a joint program of the Universities of Florence,
Pisa and Siena. He is currently working with the
Department of Information Engineering, Univer-
sity of Pisa. His research interests include the
problem of fact-checking and fake news detection,
and more broadly the evaluation and application of
machine learning and neural language models for NLP and text mining tasks. PIETRO DUCANGE received the M.Sc. degree
in computer engineering and the Ph.D. degree in
information engineering from the University of
Pisa, Italy, in 2005 and 2009, respectively. He is
currently an Associate Professor of information
systems and technologies with the Department
of Information Engineering, University of Pisa. He has coauthored over 70 articles in international
journals and conference proceedings. He has been
involved in a number of research and development
projects in which data mining and computation intelligence algorithms have
been successfully employed. His main research interests include explainable
artificial intelligence, big data mining, social sensing, and sentiment analysis. He is a member of the Editorial Board of Soft Computing journal (Springer). He served as the General Co-Chair of the First International Workshop
on Higher Education Learning Methodologies and Technologies Online
(HELMeTO 2019), in June 2019. REFERENCES Currently, his work has been focused on issues in data
mining for big data. He has served as the TPC co-chair, the general co-chair
and the program co-chair of ACM international conferences. [22] J. Costa, C. Silva, M. Antunes, and B. Ribeiro, ‘‘Adaptive learning for
dynamic environments: A comparative approach,’’ Eng. Appl. Artif. Intell.,
vol. 65, pp. 336–345, Oct. 2017. [23] R. Elwell and R. Polikar, ‘‘Incremental learning of concept drift in non-
stationary environments,’’ IEEE Trans. Neural Netw., vol. 22, no. 10,
pp. 1517–1531, Oct. 2011. [24] R. Polikar, L. Upda, S. S. Upda, and V. Honavar, ‘‘Learn++: An incre-
mental learning algorithm for supervised neural networks,’’ IEEE Trans. Syst., Man, Cybern. C, Appl. Rev., vol. 31, no. 4, pp. 497–508, Nov. 2001. [25] J. Costa, C. Silva, M. Antunes, and B. Ribeiro, ‘‘The impact of longstand-
ing messages in micro-blogging classification,’’ in Proc. Int. Joint Conf. Neural Netw. (IJCNN), Jul. 2015, pp. 1–8. 77769 VOLUME 9, 2021 A. Bechini et al.: Addressing Event-Driven Concept Drift in Twitter Stream ALESSANDRO BONDIELLI He is currently the Program Co-Chair
of HELMeTO 2021 and the Chair of the HELMeTO Task Force Steering
Committee. ALESSANDRO
RENDA
received the M.Sc. degree in biomedical engineering from the Univer-
sity of Pisa, Italy, in 2017. He is currently pursu-
ing the Ph.D. degree with the Smart Computing
Program, jointly awarded by the Universities of
Florence, Pisa and Siena. He is currently work-
ing as a Research Fellow with the Department
of Information Engineering, University of Pisa. His research interests include machine learning
algorithms for data streams, applications of deep
, and affective computing. ALESSANDRO
RENDA
received the M.Sc. degree in biomedical engineering from the Univer-
sity of Pisa, Italy, in 2017. He is currently pursu-
ing the Ph.D. degree with the Smart Computing
Program, jointly awarded by the Universities of
Florence, Pisa and Siena. He is currently work-
ing as a Research Fellow with the Department
of Information Engineering, University of Pisa. His research interests include machine learning
algorithms for data streams, applications of deep
learning methodologies, and affective computing. 77770 VOLUME 9, 2021
|
https://openalex.org/W4220991157
|
https://recisatec.com.br/index.php/recisatec/article/download/114/95
|
Portuguese
| null |
DISTÚRBIOS DA COAGULAÇÃO
|
RECISATEC
| 2,022
|
cc-by
| 3,291
|
Logos University international
2 Biomédica Auditora Interna NBR ISO 9001:2015 e NBR ISO/IEC 17025:2017. Docente e tutora de cursos de
graduação e pós-graduação EAD e presencial. Doze anos de experiência como plantonista em todos os setores
do laboratório de análises clínicas. Responsável técnica do setor de Microbiologia e Controle de Qualidade.
Implantação de novas metodologias, validação, criação de POPs e treinamento de equipes. Garantia da
qualidade na indústria alimentícia e farmacêutica. Mestre em ciências médicas e pós-graduada em biologia
molecular, docência e acreditação hospitalar. v.2, n.4, 2022 v.2, n.4, 2022 ABSTRACT Blood is composed of several substances, each of which has a function. Among these substances are
proteins called coagulation factors, which help to stop bleeding when blood vessels are ruptured. Imbalances, errors in the formation or deficiencies of these proteins can lead to hyper- or
hypocoagulation disorders. This article will discuss thrombosis and hemophilia as well as treatment
and prevention. KEYWORDS: Coagulation disorders. Thrombosis. Hemophilia. RESUMO O sangue é composto por várias substâncias, onde cada uma delas tem uma função. Dentre essas
substâncias, encontram-se as proteínas denominadas fatores de coagulação, que ajudam a estancar
sangramentos quando ocorre o rompimento dos vasos sanguíneos. Desequilíbrios, erros na
formação ou deficiências destas proteínas, podem ocasionar desordens de hiper ou hipocoagulação. Neste artigo serão abordadas as tromboses e hemofilias, assim como o tratamento e a prevenção. PALAVRAS-CHAVE: Distúrbios da coagulação. Tromboses. Hemofilias. Fabiano de Abreu Rodrigues1, Natália Barth2 e
https://doi.org/10.53612/recisatec.v2i4.114 1 Logos University international DISTÚRBIOS DA COAGULAÇÃO
COAGULATION DISORDERS Fabiano de Abreu Rodrigues1, Natália Barth2 INTRODUÇÃO As perturbações da coagulação são condições que afectam as actividades de coagulação do
sangue. Hemofilia, doença de Von Willebrand, deficiências do factor de coagulação, estados
hipercoaguláveis e trombose venosa profunda são todas desordens da coagulação. Podemos referir
que os distúrbios de coagulação se referem a condições que afectam a forma como o corpo controla
a coagulação sanguínea. Se o sangue de uma pessoa não coagular, ou coagular, normalmente, pode
sofrer complicações por sangramento excessivo após lesão ou cirurgia ou por ter bloqueios que
impedem o fluxo sanguíneo. Os distúrbios de coagulação provocam que o corpo forme demasiados
ou poucos coágulos de sangue. São geralmente devidos a uma mutação genética e são muitas
vezes tratáveis com medicamentos. As perturbações da coagulação podem causar hemorragias
excessivas se o corpo for incapaz de formar coágulos de sangue adequadamente. Noutros casos, RECISATEC - REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA 1 1 1 v.2, n.4, 2022 RECISATEC – REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA
ISSN 2763-8405 DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth podem fazer com que o corpo produza coágulos de sangue muito rapidamente e aumentar o
risco de obstrução dos vasos sanguíneos. A genética pode causar muitos tipos de distúrbios de coagulação. As pessoas herdam estas
alterações genéticas dos seus pais biológicos, ou adquirem-nas após o nascimento. Os genes
fornecem instruções sobre como o corpo faz coágulos de sangue - algumas mutações genéticas
provocam erros na formação de coágulos de sangue, o que pode levar a uma desordem. Por
exemplo, a hemofilia é uma condição que as pessoas normalmente herdam de um dos pais. É devido
a uma mutação no cromossoma X que afecta os factores de coagulação VIII ou IX. Os homens
possuem normalmente um cromossoma X e um Y, enquanto que as mulheres têm frequentemente
dois cromossomas X. Devido a ter apenas uma cópia de um cromossoma X, os machos são mais
propensos a desenvolver hemofilia na Fonte de Confiança. A maioria das pessoas com a doença de von Willebrand herdam uma mutação genética que
afecta a produção do factor von Willebrand. Em casos raros, a mutação pode ocorrer
espontaneamente ou devido a outro problema médico sem um historial familiar da doença. A causa do distúrbio de coagulação nem sempre é clara. Por exemplo, a deficiência de
vitamina K com hemorragia pode ser devida a bebés que não recebem uma injecção de vitamina K à
nascença, que têm doenças hepáticas ou digestivas, ou que têm um progenitor biológico que usa
certos medicamentos, tais como isoniazida. Alguns factores de risco de distúrbios de coagulação podem incluir a: •
idade, tais como recém-nascidos para deficiência de vitamina K ou adultos mais velhos em
hemofilia A •
idade, tais como recém-nascidos para deficiência de vitamina K ou adultos mais velhos em
hemofilia A •
uma história familiar da condição RECISATEC - REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA 2 2 v.2, n.4, 2022 A trombose RECISATEC – REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA
ISSN 2763-8405 DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth A trombose A trombose é o processo de formação do trombo, o trombo é definido como uma massa
sólida formada na luz dos vasos ou do coração com os elementos do sangue in vivo (SILVA et al.,
2010). A trombose pode ocorrer em diversas partes do corpo e é classificada segundo a localização
do trombo: ●
Trombose venosa ou tromboflebite: os trombos formam-se no interior de uma veia,
normalmente nos membros inferiores, são ricos em hemácias e fibrinas e pobres em
plaquetas. A complicação mais grave de uma trombose venosa nos membros inferiores é a
liberação de um trombo, que recebe o nome de êmbolo, o qual pode obstruir uma artéria
pulmonar, dando origem a uma embolia pulmonar. ●
Trombose arterial: os trombos formam-se no interior de uma artéria, são constituídos
principalmente de plaquetas e fibrinas. As localizações mais graves são as artérias cerebrais,
retinianas, coronárias, intestinais e as dos membros inferiores. A obstrução parcial destas
artérias e a consequente isquemia ou déficit de oxigênio no tecido por elas irrigado podem
determinar vários tipos de manifestações que em casos mais graves levam a infarto cerebral
e do miocárdio. ●
Trombose cardíaca: Corresponde à formação de trombos no interior das cavidades
cardíacas e produz-se quando, por alguma razão, o sangue circula pelo interior deste órgão
de forma muito lenta ou com uma considerável turbulência. A presença de trombos na
cavidade cardíaca não costuma gerar grandes complicações no interior do próprio coração. Entretanto, como estes trombos se fragmentam com alguma frequência, acabam por dar
origem a êmbolos que podem obstruir artérias e veias pelo corpo todo (SILVA et al., 2010). Os fatores de risco para trombose são classificados em adquiridos e genéticos. Os fatores de risco para trombose são classificados em adquiridos e genéticos. Dentre os fatores adquiridos estão: Dentre os fatores adquiridos estão: Para trombose venosa: o envelhecimento, obesidade, intervenções cirúrgicas, imobilização
prolongada, varizes, insuficiência cardíaca, administração de hormônios esteroides, gravidez e
câncer. Trombose arterial: história familiar, sexo masculino, hipercolesterolemia, hipertrigliceridemia,
aterosclerose, hipertensão arterial, diabetes e o tabagismo. Trombose cardíaca: valvulopatias, determinadas arritmias, endocardite e insuficiência
cardíaca (ZÉTOLA, 2001; BAUDUER; LACOMBE, 2005). Dentre os fatores genéticos estão: Genes candidatos a mutações que predispõem a trombose por terem atividade diminuída: RECISATEC - REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA 3 3 v.2, n.4, 2022 RECISATEC – REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA
ISSN 2763-8405 DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth Antitrombina III, Proteína C, Proteína S, Fibrinogênio, Plasminogênio, Ativador tipo tissular do
fibrinogênio, Fator XII, Trombomodulina, Inibidor da rota do fator tissular, Co-fator II da heparina, α2-
glicoproteína, α2-macroglobulina, α2-antitripsina, Pró-uroquinase e Pré-calicreína. Genes candidatos a mutações que predispõem a trombose por terem atividade aumentada:
Fator tissular, Fator VIII, Fibrinogênio, Fator VII, Protrombina, Inibidor-1 do ativador do fibrinogênio,
fator von Willebrand, lipoproteína (a), Glicoproteína rica em histidinas, α2-antiplasmina, Inibidor da
proteína C, Fator IX, Fator X e Fator V. Bases moleculares envolvidas nas tromboses A proteína C limita a via intrínseca da coagulação impedindo a formação de coágulo
trombótico excessivo. Quando há a deficiência congênita heterozigota da proteína C, ou seja, quando
a redução do nível da proteína C gira em torno de cinqüenta por cento, geralmente ocorre a
instalação da trombose a partir da segunda ou terceira décadas de vida por ocasião de traumas,
cirurgias, etc. A deficiência congênita na forma homozigótica é incompatível com a vida (DUQUE;
MELLO, 2003). Uma mutação de ponto no gene do fator V que o torna Fator V de Leiden (pois foi descoberto
na universidade de Leiden) aumenta sua ação por não sofrer bloqueio natural da proteína C, o que
facilita a formação de trombos. A mutação do fator V de Leiden heterozigótica aumenta em 3-8
vezes o risco de tromboembolismo, enquanto a mutação homozigótica aumenta em 50-80 vezes este
risco (BAUER; ROSENDAAL; HEIT, 2002). A protrombina é precursora da trombina e induz a formação de fibrina, também se liga a
trombomodulina ativando o sistema da proteína C que tem papel fundamental no equilíbrio
anticoagulante. A mutação G20210A do gene da protrombina pode facilitar a incidência de trombose
venosa ou arterial (coronarianas, cerebrais). Nos indivíduos heterozigotos, a incidência do distúrbio é
entre 1% e 4% (HERKENHOFF et al., 2012). Diagnóstico molecular das tromboses Nos casos de portadores de mutações que geram a deficiência de antitrombina, deficiência
de proteína C, deficiência de proteína S, resistência à proteína C ativada, hiperhomocisteinemia,
síndrome do anticoagulante lúpico, síndrome dos anticorpos antifosfolipidos, desfibrinogenemia,
deficiência do fator II da heparina, deficiência de plasminogênio, entre outros, os métodos
diagnósticos mais usuais ainda são por dosagem funcional e métodos imunológicos. No entanto, para
a análise da mutação do fator V de Leiden e mutação G20210A do fator II somente existem métodos
moleculares sendo que o mais utilizado e de melhor sensibilidade e especificidade para estas
mutações são a PCR seguida de RFLP. Grandes centros de pesquisa e laboratórios mais especializados já utilizam PCR em tempo
real, que diminui muito os riscos de contaminação, pois as duas etapas que são utilizadas na técnica RECISATEC - REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA 4 4 v.2, n.4, 2022 RECISATEC – REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA
ISSN 2763-8405 DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth anterior, na PCR em tempo real são feitas em um único tubo sem manipulação. Para todas as causas
genéticas de trombofilia é possível se usar a biologia molecular, no entanto , esta ainda não é uma
realidade no país (OLIVEIRA-FILHO et al., 2009; SILVA et al., 2010). Fator VIII: Na fase plasmática da coagulação a fibrina recém-formada ativa o fator VIII que se ativa
tornando-se fator VIIIa que juntamente com o o fator Va aceleram em mais de mil vezes a conversão
de proteínas inativas (zimogênios) circulantes no plasma para suas formas ativas (proteases), essa
conversão é essencial para a formação dos complexos tenase e protrombinase. Esses complexos
protease-cofator formados nas superfícies celulares (plaquetas e endotélio), na presença de íons
cálcio desencadeiam uma cascata de reações que resulta na geração de trombina e formação de
fibrina. Hemofilias As hemofilias são doenças hemorrágicas resultantes da deficiência quantitativa do fator VIII
(hemofilia A) ou IX (hemofilia B) da coagulação podendo ser adquirida ou hereditária, são de herança
recessiva ligada ao cromossomo X. As formas adquiridas, mais raras, são devidas a autoanticorpos,
associados a doenças autoimunes, câncer ou causas de origem idiopática. Já as formas hereditárias
ocorrem quase que exclusivamente em indivíduos do sexo masculino, com mãe portadora (cerca de
70% dos casos). Porém, em cerca de 30% dos casos, a doença origina-se a partir de mutação nova,
evento que pode acometer a mãe ou o feto. Apesar de muito raro, a hemofilia pode acontecer em
mulher, decorrente da união de homem com hemofilia e mulher portadora. Mulheres filhas de homem
hemofílico obrigatoriamente serão portadoras da doença. A hemofilia A é conhecida como hemofilia
clássica e ocorre com frequência de 4:1 de hemofilia B (PIO; OLIVEIRA; REZENDE, 2009;
REZENDE, 2010) Fator IX: Via intrínseca: Após a exposição do colágeno, da pré-calicreína, do cininogênio de alto peso
molecular (HMWK), dos fatores XI e XII as cargas negativas na superfície endotelial do vaso
sanguíneo, a pré-calicreína então converte-se em calicreína e esta ativa o fator XII. O fator XII
ativado (XIIa) converte mais pré-calicreína em calicreína e ativa o fator XI. Na presença de íos cálcio,
o fator XI ativado ativa o fator IX. Por sua vez o fator IX ativado (IXa) junto com o fator VIII ativado
(VIIIa) levam à ativação do fator X. Deste modo, o complexo enzimático constituído pelo fator X
ativado juntamente com o fator V ativado e Cálcio iônico denomina-se Protrombinase (REZENDE,
2010). RECISATEC - REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA 5 5 5 v.2, n.4, 2022 DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth Via extrínseca: o complexo Fator Tecidual/Fator VII ativado é o principal ativador do Fator IX. Uma célula (fibroblasto, monócito ou endotelial) expressa o fator tecidual (FT) que se associa com o
fator VII ativado (VIIa) e conduza à geração de fator Xa, IXa e trombina. Após esta fase, a reação se
move para a superfície das plaquetas que são ativadas juntamente com os co-fatores da coagulação
(fator V e fator VIII). O fator VIII ativado (VIIIa) é o co-fator do Fator IX ativado (IXa) e ativa o fator X
convertendo-o em FXa. Este se associa com o fator V ativado (Va) formando o complexo
FXa/FVa/Ca2+/fosfolipídeos, que resulta na formação de trombina que converte o fibrinogênio em
fibrina e consequentemente se transforma em coágulo (CASTILHO-FERNANDES; PESSOLATO;
FONTES, 2012). Diagnóstico das hemofilias Para os 20-30% dos pacientes que não apresentam história familiar da doença o diagnóstico
é feito dosando-se a atividade dos fatores VII e IX no plasma. Hemofilia A: As técnicas utilizadas para a análise do DNA podem ser diretas ou indiretas. As
indiretas são baseadas em análise de ligação e empregam marcadores polimórficos específicos. Enquanto as diretas são baseadas em diversas técnicas moleculares que permitem a identificação
precisa da mutação. No entanto, o extenso tamanho do gene do FVIII se torna uma dificuldade por
ser um gene muito complexo e possuir uma grande diversidade de mutações. Mutações envolvendo
grandes sequências de DNA, deleções, inserções ou rearranjos podem ser identificadas por meio de
Southern blotting. Para a detecção da inversão do intron 22, vêm sendo utilizadas técnicas de PCR
longa e mais recentemente por técnica de PCR multiplex. Mutações envolvendo pequenas alterações
na sequência de DNA (mutações em ponto) utiliza-se a amplificação por PCR, seguida de um ensaio
de mobilidade eletroforética (DGGE - Denaturing, Gradient Gel eletrophoresis, SSCP - Single Strand
Conformation Polymorphism, CSGE - Conformation Sensitive Gel Eletrophoresis, DHPLC -
Denaturing High Performance Liquid Chromatography, e CCMA - Chemical Cleavage Mismatch
Analysis) e/ou sequenciamento (PIO; OLIVEIRA; REZENDE, 2009). Hemofilia B: Como a maioria do exons do gene da hemofilia B (fator IX) são curtos, é
possível fazer o sequenciamento direto de um exon completo após amplificação por PCR. No entanto
como alternativas mais baratas e rápidas, utiliza-se a análise indireta com técnica de RFLP que utiliza
enzimas de restrição específicas para regiões do fragmento amplificado, STS que analisa repetições
curtas em tandem ou VNTR que avalia repetições de número variável em tandem, estas três técnicas
podem ser analisadas por Southern blotting utilizando marcadores fluorescentes ou por corrida em
gel de agarose (SALAZAR-SÁNCHEZ, 2004). RECISATEC – REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA
ISSN 2763-8405 DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth RECISATEC - REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA TRATAMENTO A melhor abordagem de tratamento dependerá do tipo de distúrbio de coagulação, da sua
gravidade, e da saúde geral da pessoa. Os tratamentos visam tipicamente gerir os sintomas e reduzir RECISATEC - REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA 6 6 6 v.2, n.4, 2022 RECISATEC – REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA
ISSN 2763-8405 DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth o risco de complicações. Os médicos podem recomendar um ou mais medicamentos, incluindo
medicamentos anti-fibrinolíticos para tratar hemorragias após o parto ou cirurgias, pílulas
anticoncepcionais para reduzir a hemorragia menstrual, medicamentos imunossupressores,
suplementos de vitamina K, anticoagulantes para reduzir o risco de coagulação em pessoas com
estados hipercoaguláveis, inibidores de trombina ou trombolíticos. Os médicos podem também recomendar outros tratamentos, tais como a terapia de
substituição de factores. Isto envolve a substituição de factores de coagulação em falta, utilizando
dádivas de sangue ou substituições de um laboratório. As pessoas que experimentam um coágulo de sangue podem necessitar de cuidados de
emergência. A remoção de trombos assistidos por cateter envolve um médico que utiliza um tubo
flexível para quebrar coágulos de sangue - podem inserir filtros de veia cava nas veias profundas
para apanhar coágulos de sangue antes de viajarem para os pulmões ou coração. CONCLUSÃO As perturbações da coagulação afectam a capacidade do corpo de formar coágulos de
sangue - ou causam muito poucos ou muitos coágulos de sangue, ambos podendo ter
consequências graves. Algumas perturbações da coagulação são genéticas e podem passar através
das famílias. No entanto, as pessoas podem também adquiri-los durante a sua vida a partir de certos
medicamentos ou condições. Qualquer pessoa que apresente sinais de uma perturbação da coagulação deve contactar
imediatamente um médico. Os tratamentos incluem tipicamente um ou mais medicamentos para gerir
a condição, enquanto que algumas pessoas podem necessitar de tratamentos adicionais, tais como a
substituição de factores. REFERÊNCIAS BAUDUER, F.; LACOMBE, D. Factor V Leiden, prothrombin 20210A, methylenetetrahydrofolate
reductase 677T, and population genetics. Molecular Genetics and Metabolism, v. 86, p. 91-99,
2005. BAUDUER, F.; LACOMBE, D. Factor V Leiden, prothrombin 20210A, methylenetetrahydrofolate
reductase 677T, and population genetics. Molecular Genetics and Metabolism, v. 86, p. 91-99,
2005. BAUER, K. A.; ROSENDAAL, F. R.; HEIT, J. A. Hipercoagulability: too many tests, too much conflicting
data. Hematology, p. 353-68, 2002. BAUER, K. A.; ROSENDAAL, F. R.; HEIT, J. A. Hipercoagulability: too many tests, too much conflicting
data. Hematology, p. 353-68, 2002. CASTILHO-FERNANDES, A.; PESSOLATO, A. G. T.; FONTES, A. M. Hemofilia B sob um olhar
panorâmico. Revista da Universidade Vale do Rio Verde, Três Corações, v. 10, n. 1, p. 275-289,
2012. CASTILHO-FERNANDES, A.; PESSOLATO, A. G. T.; FONTES, A. M. Hemofilia B sob um olhar
panorâmico. Revista da Universidade Vale do Rio Verde, Três Corações, v. 10, n. 1, p. 275-289,
2012. DUQUE, F. L. V.; MELLO, N. A. Trombogênese – Trombofilia. J Vasc Br, v. 2, n. 2, 2003. HERKENHOFF, M. E. Análise da mutação G20210A no gene da protrombina (fator II) em pacientes
com suspeita de trombofilia no sul do Brasil. J Bras Patol Med Lab, v. 48, n. 2, p. 85-89, abr. 2012. RECISATEC - REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA 7 v.2, n.4, 2022 RECISATEC – REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA
ISSN 2763-8405 DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth DISTÚRBIOS DA COAGULAÇÃO
Fabiano de Abreu Rodrigues, Natália Barth OLIVEIRA FILHO, A. B. et al. Discriminação alélica do fator V da coagulação por PCR em tempo real:
diagnóstico simples e preciso. Rev. Bras. Hematol. Hemoter, v. 31, n. 1, p. 25-28, 2009. OLIVEIRA FILHO, A. B. et al. Discriminação alélica do fator V da coagulação por PCR em tempo real:
diagnóstico simples e preciso. Rev. Bras. Hematol. Hemoter, v. 31, n. 1, p. 25-28, 2009. PIO, S. F.; OLIVEIRA, G. C.; REZENDE, S. M. As bases moleculares da hemofilia A. Rev Assoc
Med Bras, v. 55, n. 2, p. 213-9, 2009. REZENDE, S. M. Distúrbios da hemostasia: doenças hemorrágicas. Rev Med Minas Gerais, v. 20, n. 4, p. 534-553, 2010. REZENDE, S. M. Distúrbios da hemostasia: doenças hemorrágicas. Rev Med Minas Gerais, v. 20, n.
4, p. 534-553, 2010. SALAZAR-SÁNCHEZ, L. Molecular diagnosis of hemophilia A and B. Report of five families from
Costa Rica. Rev. Biol. Trop., v. 52, n. 3, p. 521-530, 2004. SILVA, A. S. et al. Distúrbios pró-trombóticos/Trombofilias. Revista da Sociedade Portuguesa de
Medicina Interna, v. 17, n. 1, p. 49-64, jan./mar. 2010. ZÉTOLA, V. H. F. et al. Acidente vascular cerebral em pacientes jovens. Arq. Neuro Psiquiatr, São
Paulo, v. 59, n. 3B, sept. 2001. RECISATEC - REVISTA CIENTÍFICA SAÚDE E TECNOLOGIA 8 8 8
|
https://openalex.org/W3035207270
|
https://econjournals.com/index.php/irmm/article/download/9814/pdf/26311
|
English
| null |
GOING DOWN MEMORY LANE IN THE APPLICATION OF AJZEN’S THEORY OF PLANNED BEHAVIOUR MODEL TO MEASURE ENTREPRENEURIAL INTENTION: AN SEM-PLS APPROACH
|
International review of management and marketing
| 2,020
|
cc-by
| 10,074
|
ABSTRACT Undoubtedly, technical education is the backbone of every nation’s growth and development. Understanding and predicting business creation
initiatives demand empirical studies using theory-oriented models that appropriately mirror the multi-faceted perception-based processes underlying
entrepreneurial intentional and behaviour. Drawing on a model adapted from a study by Linan and Chen (2009), and based on the Theory of Planned
Behaviour (TPB) by Ajzen, this article empirically investigates the influence of Perceived Behavioural Control, Subjective Norm and Attitude
towards Entrepreneurship, on Entrepreneurial Intention using Structural Equation Modelling (SEM) – Smart Partial Least Square (PLS) approach. In addition, several hypotheses (demographic-oriented variables) in relation to TPB are investigated. Data were collected on 574 students from a
public technical university in Ghana. The findings suggest that TPB is an important tool for predicting entrepreneurial intentions. Thus, the findings
support the TPB for EI in Ghana. Two motivational factors (Attitude towards Entrepreneurship and Perceived Behavioural Control) related to EI,
but SN showed a non-significant association with EI. This study also found SN positively affecting attitude toward entrepreneurship and perceived
behavioural control. However, only one (PSE-SN relationship) of the demographic-based hypotheses was significant. This study, however, cautions
against the generalizability of the findings as the sample size comprises of students from a single institution. One of the theoretical implications of
our study relates to evidence of the consistency of the theory of planned behavior in explaining entrepreneurial intention in the Ghanaian context. Future studies could replicate this research by sampling more technical universities in Ghana and other settings. Keywords: Entrepreneurial Intentions, Partial Least Square, Theory of Planned Behaviour
JEL Classification: MO Going Down Memory Lane in the Application of Ajzen’s Theory
of Planned Behaviour Model to Measure Entrepreneurial
Intention: An Sem-Pls Approach Going Down Memory Lane in the Application of Ajzen’s Theory
of Planned Behaviour Model to Measure Entrepreneurial
Intention: An Sem-Pls Approach 1. INTRODUCTION 4 seeks to substantially increase the number of youth and adults
who have relevant skills, including technical and vocational skills,
for employment, decent jobs and entrepreneurship. Technical
universities are expected to play an important role in the support
of knowledge creation and knowledge transfer via science and
technology, which is critical for the development and wellbeing
of any country. This is particularly exemplified by the conversion
of public polytechnics into technical universities in Ghana. These technical universities are expected to provide high-level
technical skills training in the area of Technical and Vocational Education is arguably an indispensable component in the
knowledge-driven society (Schleicher, 2003). Quality education
is also quintessential for technological advancement, creativity
and innovation to the economic growth and development of any
country. Ghana has reached a stage in its development where
creativity and innovation have become imperative in propelling
its industrialisation agenda for accelerated economic turnaround. For instance, target 4 of the Sustainable Development Goal (SDG) 110 This Journal is licensed under a Creative Commons Attribution 4.0 International License Kwaku Amofah1*, Ramon Saladrigues2 1Law and Business Administration, University of Lleida, Lleida, Spain, Sunyani Technical University, Faculty of Business and
Management, Sunyani, Ghana (Affiliate Institution), 2Department of Business Administration, Faculty of Law and Economics
University of Lleida, Lleida, Spain. *Email: ka3@alumnes.udl.cat DOI: https://doi.org/10.32479/irmm.9814 DOI: https://doi.org/10.32479/irmm.9814 Accepted: 25 May 2020 Received: 14 March 2020 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 Furthermore, an application of the TPB
will help in a comparison with prior studies, of which the majority
has taken place in developed countries. The findings of this study
will go a long in evaluating the technical university concept and
its implications for Ghana’s educational system. TVET, as an integral part of the technical university concept,
would provide employment avenues for the teeming youth who
are seeking for non-existent white-collar jobs in the country after
graduation. In the quest to address the challenge of unemployment,
industrialisation, and labour utilisation, policy makers in Ghana
perceive technical education as the policy instrument to promote
social progress using entrepreneurship education. Furthermore,
technical universities in Ghana are mandated to excel at both basic
and applied research by positioning themselves strategically in the
delivery of services like professional training, marketing of new
knowledge, consultancy, career guidance and counselling, etc. An
important theme that runs through the vision and mission of the
technical universities in Ghana is entrepreneurship. The immense
contribution of entrepreneurship to the fortune of global economies
in the area of employment creation opportunities and economic
development has necessitated the promotion of entrepreneurship
as a topmost agenda for most nations across continents, especially
Ghana. However, there seem to be limited studies on the promotion of
entrepreneurship in developing countries, since the attention
of previous research on the promotion of entrepreneurship has
been on developed countries (Bruton et al., 2008). According to
Nabi and Linan (2013) little is known about the factors affecting
entrepreneurial intention in developing countries. The knowledge
and information about entrepreneurship in the advanced countries
may not necessarily be applicable in developing countries due to
perhaps diversity in cultural tendencies and other dynamics. This
paper seeks to unravel the factors affecting the entrepreneurial
intentions of students and offer some valuable insight into aspects
of the technical education curriculum that empower students to
be entrepreneurially-oriented. Over the years, policy makers and
researchers have explored the factors affecting entrepreneurial
intentions, given it’s immense socio-economic importance
(Carree and Thurik, 2006). The tremendous significance of
entrepreneurship in any nation’s development probably accounts
for the reason why the proponents of the technical education
concept to situate entrepreneurial education as a focal point in
the curriculum. Despite the interest in entrepreneurial intentions,
there is scant evidence about entrepreneurial intentions in different
entrepreneurship contexts, especially in developing countries
like Ghana. International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model t
Measure Entrepreneurial Intention: An Sem-Pls Approach Education and Training (TVET) as well as provide opportunities
for technical and vocational students from the second cycle
institutions. According to Lewin (1997) there are five justifications
for governments’ fixation and investment in TVET, which include;
increasing the importance of schooling by imparting individuals
with skills and knowledge required for making the individual
an integral member of the community; curtailing the level of
unemployment as a result of provision of employable skills to
the youth and those who cannot excel academically; increasing
economic development because it enhances the quality and skill
level of the working population; reducing poverty by virtue of
accessibility to higher-income occupations, and changing the
attitude of individuals to opt for occupations that have prospects
for the future. 1975) and it is worth emphasising that examining entrepreneurial
intention is an important strategy towards studying actual
entrepreneurial behaviour. The most prevalently used theoretical
framework in the area of entrepreneurial intention research is
the Theory of Planned Behaviour (TPB), which conceptualises
that the strength of intentions as an immediate antecedent of
behaviour (Ajzen, 1991; 2002; 2019). Entrepreneurship education
may nurture a student’s attitudes and intentions, as well as the
establishment of a new firm (Linan, 2008). According to the
Global Entrepreneurship Monitor (2016), people that study
entrepreneurship in school are more likely to be entrepreneurs
compared to those without entrepreneurial knowledge. The data obtained from 574 respondents is applied to test the
robustness of Ajzen’s (1991) TPB, using structural equation
techniques to ascertain the existence of structural relationships. Prior studies on entrepreneurial intentions have used linear
regression models (Chandler and Lyon, 2001) despite the limitation
of biased results. Thus, this study will contribute to the illumination
of a specific pattern of relationships among the intention
antecedents in a developing country like Ghana where there seems
to be a paucity of research on the theory of planned behavior. To
our knowledge, this is the first study in which the robustness of
the TPB is being tested using a technical university sample in
the Ghanaian context. The main objective of this paper is to test
and apply the TPB (Ajzen, 1991) to examine the entrepreneurial
intention among Sunyani Technical University students. This will
contextualize the contribution of the TPB and its applicability to the
technical university system. International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 Individuals with the intention to pursue a business
are highly likely to carry it out (Ajzen 1991; Fishbein and Ajzen, The structure of this article is as follows. After this introduction,
we present a research model and hypotheses. Then we present the
research methodology, data analysis and results, followed by the
discussion and conclusions. We conclude with limitations of the
study, theoretical and practical implications and directions for
future research. 1.1. Sunyani Technical University in Context Other empirical studies have found support
for SN positively affecting antecedents of entrepreneurship
intentions: attitude toward entrepreneurial behavior and
perceived behavioural (Linan and Santos, 2007; Linan et al.,
2011a; 2011b; Santos et al., 2014). Consistent with studies
by Linan (2004), Linan and Chen (2009) and Linan et al. (2011), a probability of indirect effects of subjective norms on
entrepreneurial intention is analysed in this paper, considering
the controversy on the relationship. In this sense, there may be
reasons to consider the relation SN has on both PA and PBC. Figure 1 exemplifies this notioni The mission of Sunyani Technical University is, “a public
institution of higher learning that is committed to the provision of
career-focused education in engineering, science and technology,
technical and vocational, applied arts and related disciplines with
hands-on experience and entrepreneurial development to meet the
higher and middle-level manpower needs of the country” (Sunyani
Technical University 5-year Strategic Plan). Perceived behavioral control (PBC) is defined as the perception
of the ease or difficulty of becoming an entrepreneur. In
conceptual terms, there is no difference between perceived
behavioural control and self-efficacy but operationally,
PBC and SE are normally assessed differently. Both refer to
people’s beliefs that they are capable of performing a given
behavior (Ajzen, 2019). The vision of STU is, “to become a top-notch Technical University
for the provision of career-focused, practically-oriented and
entrepreneurially-inclined higher and middle level manpower
training for the socio-economic development of the Brong Ahafo
region and Ghana as a whole.” The vision and mission statements of the university show the
relevance of entrepreneurship as the focal point of the institution. In fact, Act 922 requires all Technical universities in Ghana to
integrate the entrepreneurship curriculum. Prior studies have empirically applied the TPB to student’s
Entrepreneurial Intentions and confirmed that Attitude Towards
Entrepreneurship, Subjective Norm and Perceived Behavioural all
play significant roles (Iakovleva et al., 2011; Karimi et al., 2014;
Krueger et al., 2000; Linan and Chen, 2009). 1.1. Sunyani Technical University in Context Following Perez-Esparrells and Orduna-Malea (2018) we consider
Technical Universities as all those universities that contain the
words “technical,” “technology” or “polytechnic” in their official
institutional names. In the Ghanaian context, such institutions
include those that focus on vocational training, engineering,
business and other related courses. Sunyani Technical University (STU) was established by the
Technical Universities Act, 2016 Act 922. The history of the
technical university dates back to the Sunyani Technical Institute
in 1967 as a non-tertiary institution under the Ghana Education
Service. It was subsequently upgraded to a Polytechnic in January
1997, following the passage of the Polytechnics Law of 1992
(P.N.D.C. L. 321) by the Government of Ghana as a Tertiary
Institution of Education. This gave the institution the mandate
to run the Higher National Diploma program as certified by the 111 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model to
Measure Entrepreneurial Intention: An Sem-Pls Approach Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model t
Measure Entrepreneurial Intention: An Sem-Pls Approach National Board for Professional and Technician Examinations
(NAPTEX) and accredited by the National Accreditation Board
(NAB). The Technical Universities Act mandates the University
to award certificates, diplomas, degrees and others subject to
the approval of the Council. Sunyani Technical University as of
2015/2016 academic year offered six (6) Bachelor of Technology
(B. Tech) programmes and fourteen (14) HND programmes and
a total student population of 4992. National Board for Professional and Technician Examinations
(NAPTEX) and accredited by the National Accreditation Board
(NAB). The Technical Universities Act mandates the University
to award certificates, diplomas, degrees and others subject to
the approval of the Council. Sunyani Technical University as of
2015/2016 academic year offered six (6) Bachelor of Technology
(B. Tech) programmes and fourteen (14) HND programmes and
a total student population of 4992. a particular behavior (e.g. starting an entrepreneurial venture). It has been found to be the weakest link of entrepreneurial
intention in some studies (Almobaireek and Manolova, 2012;
Krueger et al., 2000). However, a couple of other studies have
professed that subjective norms influenced entrepreneurial
intention (Iakovleva et al., 2011; Kautonen et al., 2013; Siu
and Lo, 2011). 2. THEORETICAL FRAMEWORK AND
RESEARCH HYPOTHESES Of the three motivational antecedents in entrepreneurial intentions
in the model (Figure 1), ATE and PBC have been shown to relate
most strongly to not only EI (e.g. Karimi et al., 2014; Linan and
Chen, 2009) but also on both personality factor (Fini et al., 2012;
Nabi and Linan, 2013; Obschonka et al., 2010; Zhao et al., 2005) and
contextual factors (Fini et al., 2012; Goethner et al., 2012). Previous
studies on entrepreneurship (Fini et al., 2012; Goethner et al.,
2012; Nabi and Linan, 2013) perceive subjective norms as less
relevant than ATE and PBC for entrepreneurial intention because
entrepreneurs can be generally characterized as more inward as
opposed to outward and directed and thus less oriented towards
social norms than non-entrepreneurs (Goethner et al., 2012). Ajzen (2019) defines intentions as “a person’s readiness to perform
a given behavior.” Entrepreneurial intention can be defined as
conscious awareness and conviction by an individual to establish
a new business venture and plan to do so in the future (e.g. Bird,
1988; Thompson, 2009). The route to starting a new firm may be
regarded as voluntary with conscious intentionality. Arguably,
intention has been perceived as the single most powerful predictor
of entrepreneurial behavior (Autio et al., 2001; Krueger et al.,
2000), and also an important dependent variable in its own right
(Thompson, 2009). According to the TPB, entrepreneurial intention indicates the
effort that the person will make to discharge that entrepreneurial
behavior. The TPB depicts the three motivational factors
influencing behavior (Ajzen, 1991; Linan, 2004): 2.1. Demographic Factors and Entrepreneurial
Intentions A plethora of studies have established the direct link between
demographic variables and entrepreneurial intention (Boyd and •
Attitude toward start-up (personal attitude) refers to the extent to
which one holds a positive or negative personal valuation about
being an entrepreneur (Ajzen, 2001; Autio et al., 2001; Kolvereid,
1996b). Generally, the more favorable the attitude towards a
behavior, the greater the intention to actualize that behavior iew of Management and Marketing | Vol 10 • Issue 3 • 2020
Demographic Variables
Personal Attitude
Subjective Norm
Perceived
Behavioural Control
Entrepreneurial
Intention
Figure 1: Entrepreneurial Intention Model Demographic Variables
Personal Attitude
Subjective Norm
Perceived
Behavioural Control
Entrepreneurial
Intention
Figure 1: Entrepreneurial Intention Model Figure 1: Entrepreneurial Intention Model Demographic Variables •
Subjective norms (SNs) refer to the perceived social pressure
to carry out or not to carry out entrepreneurial behaviours. Thus, the perception that “reference people” would approve of
the decision to become an entrepreneur or not (Ajzen, 2001). SNs examine the sum of individuals’ perceptions about how
important people in their lives think about their engagement in 112 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model t
Measure Entrepreneurial Intention: An Sem-Pls Approach Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model t
Measure Entrepreneurial Intention: An Sem-Pls Approach Table 1: Hypotheses (Core and Demographic)
Description
Core hypotheses
Personal attitude positively influences
entrepreneurial intention
PA → EI
Perceived behavioral control positively
influences entrepreneurial intention
PBC → EI
Subjective norm positively influences
entrepreneurial intention
SN → EI
Subjective norm positively influences
personal attitude
SN → PA
Subjective norm positively influences
perceived behavioral control
SN → PBC
Demographic hypotheses
Gender positively influences ATE
Gender positively influences SN
Gender positively influences PBC
PEE positively influences ATE
PEE positively influences SN
PEE positively influences PBC
PSE positively influences ATE
PSE positively influences SN
PSE positively influences PBC Vozikis, 1994; Gird and Bagaim, 2008; Lee and Wong, 2004;
Malebana, 2014). Others have incorporated in the original
theoretical TPB framework some demographic variables which
are likely to have a given effect on intention, such as family
background (e.g. p
p
Entrepreneurial Antecedents (EA) Entrepreneurship education consists of “any pedagogical or
process of education for entrepreneurial attitudes and skills”
(Fayolle et al., 2006b. p.702). According to Ajzen (2002), a greater knowledge of differential
entrepreneurial aspects will definitely contribute to more realistic
perceptions about entrepreneurial activity, thus indirectly
influencing intentions. The role of entrepreneurship education in
the generation of entrepreneurial behavior is gaining popularity
in academic circles (Bae et al., 2014; Entrialgo and Iglesias,
2016; Fayolle and Gailly, 2015). In Ghana, the products
of technical universities are expected to display a positive
entrepreneurial propensity and disposition because of their
exposure to entrepreneurial education. However, studies on EE
and entrepreneurial antecedents have produced inconsistent
results. For instance, Rauch and Hulsink (2015) and Souitaris et al. (2007) found a direct correlation between EE and attitudes and
PBC, while studies conducted by Auken Van (2013) reported a
negative association and Diaz-Casero et al. (2012) and do Paço
et al. (2015) did not find any significant link. 3.2. Measures The survey is structured by a series of close-ended questions in
which varied block of statements are subjectively valued on a
Likert-type scale concerning entrepreneurial intention. The 5-point
Likert-type on which the items were belt on are; 5 = strongly agree,
4 = agree, 3 = neither agree nor disagree, 2 = disagree, 1 = strongly
disagree. Four core variables were used in this direction: PBC,
SN, ATE and EI. A range of variables were measured including:
age, gender, participation in entrepreneurial education, parental
self-employment. The foregoing observations are the base of the following core
and demographic hypothesis of the paper, as depicted in Table 1. 2.1. Demographic Factors and Entrepreneurial
Intentions parents), gender, past business, entrepreneurship
and social and social experiences, entrepreneurship training and
education (Davisson, 1995; Fayolle and Gailly, 2015; Guerrero
et al., 2008; Kolvereid, 1996b; Krueger et al., 2000; Ozyilmaz,
2011; Tkachev and Kolvereid, 1999). These variables were found
to indirectly affect intentions through their effect on ATB, SN and
PBC (Kolvereid, 1996b; Solesvik, 2013; Tkachev and Kolvereid,
1999). ATB, SN, and PBC serve as mediating variables, hence
information on them could be used to better assess the impact of
demographic characteristics on entrepreneurial intention (Gird
and Bagaim, 2008; Krueger et al., 2000; Tkachev and Kolvereid,
1999). Figure 1, depicts the model we will be using in our study
which is similar to the TPB by Ajzen (2019) and applied by Autio
et al. (2001), Linan and Chen (2009), Fayolle et al. (2006b),
Kolvereid and Isaksen (2006), and Veciana et al. (2005). By
virtue of past researches’ inability to show a consistent impact of
social norms on intentions, and for consistency with respect to our
hypotheses we expect that social norms will mediate the effects of
demographic factors on entrepreneurial intentions. For instance
studies by Carsrud and Brannaback, (2011), Kolvereid and Isaksen
(2006) and Conner and Armitage (1998) have all produced mixed
results about social norms. Table 1: Hypotheses (Core and Demographic) 2.2. Entrepreneurship Education (EE) and 2.2. Entrepreneurship Education (EE) and p
p
(
Entrepreneurial Antecedents (EA) 3. METHODS This study examines the application of Ajzen’s TPB model to
measure entrepreneurial intention among STU students using an
SEM-PLS approach. Entrepreneurial intention was measured with three items and based
on the proposals of Autio, et al. (2001), Linan and Chen (2009), 3.1. Sample and Procedure Participants in the study consisted of students from all the four
faculties of the Sunyani Technical University namely, the Faculty
of Applied Science and Technology, Faculty of Built Environment
and Applied Art, Faculty of Business and Management Studies and
Faculty of Engineering. University students constitute a common
sampling frame in entrepreneurship research (Almobaireek
and Manolova, 2012; Autio et al., 2001; Fayolle et al., 2006b;
Kolvereid, 1996b; Krueger et al., 2000; Linan and Chen, 2009;
Moriano et al., 2012; Tkachev and Kolvereid, 1999; Kautonen
et al., 2013; Siu and Lo, 2011; Veciana et al., 2005). According
to Linan and Chen (2009), a sample of university students offers
the advantage of similar age and qualifications, which promotes
homogeneity. Reynolds et al. (2002) established that university
graduates between the ages of 25 and 34 show the highest
propensity toward starting a business. Data were collected via
paper and pencil close-ended questionnaire which was designed
in order to measure those variables that have an impact on
entrepreneurial intentions. Questionnaires were administered in
class, with prior permission from the lecturer. Students were briefed
on the purpose of the study by a member of the research team and
then asked to voluntarily fill the questionnaire. All questionnaires
were completed anonymously to ensure confidentiality. 4. RESULTS The theoretical framework presented in Figure 1 was tested using
Partial Least Squares (PLS), a multivariate analysis technique
for testing structural models (Barroso et al., 2010). PLS also
allows assessment of the reliability and validity the of measure
of theoretical constructs and estimation of the relationships
among these constructs (Barclay et al., 1995). According to
Wold (1985), the PLS is basically intended for causal-predictive
analysis, where the problems explored are complex and prior
theoretical knowledge is scarce. Concerning our study, little is
known about the application of TPB in the technical university
context, hence PLS is a suitable technique to use in this research. PLS is robust for small to moderate sample sizes (Cassel et al.,
1999) which makes it appropriate for this study. Lee and Tsang
(2001) posit that this technique has been applied in numerous
researches developed recently in the entrepreneurship discipline. According to Rigdon (1998) SEM has taken an important
centre stage within the academic literature of many disciplines. Currently, SEM is the preferred methodology among researchers
in assessing the relationship between constructs such as intention,
attitude, satisfaction and role ambiguity. Since SEM is intended
for working with manifold related equations simultaneously, it
has a number of advantages over some more familiar methods,
hence gives a general framework for linear modeling (Monecke
and Leisch, 2012). According to the framework for this
study, demographic variables will exert a direct influence on
entrepreneurial antecedents. Therefore some variables are captured
as explaining ATE, SN and PBC. The demographic variables;
Gender, Participation in Entrepreneurial Education and Parental
Self-Employment) are dichotomous in nature. The statistical
analysis conducted using SMART PLS 3.0. The initial model to
be tested is presented in Figure 1. International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 113 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model t
Measure Entrepreneurial Intention: An Sem-Pls Approach Miranda et al. (2017). Miranda et al. (2017)’s Cronbach Alpha was
0.891. The Cronbach Alpha value for Entrepreneurial Intention in
this study is 0.791 as depicted in Table 2. who said YES. With reference to age, 51.2% fall in the 20–24 age
category and 37.3% fall into the 25-29 age category. In connection
with the year or level of the respondents, 48.3% were in the 1st
year, 26.3% in the 2nd year and 25.4% were in the 3rd year. Vis-
a-vis, parental self-employment, 65.9% responded YES whereas
34.1% indicated NO. On the subject of whether they have plans
to be self-employed in the foreseeable future after graduation, an
overwhelming percentage of 79.8 affirmed YES whereas 20.2%
responded NO. With respect to religion, 82.8% were Christians
and 16.2% were Moslems. Attitude towards Entrepreneurship was measured with an adapted
questionnaire by Kolvereid (1996). The Cronbach Alpha value for
Attitude towards Entrepreneurship is 0.680 as depicted in Table 2,
compared to Kolvereid’s (1996) values which ranged from 0.68
to 0.90, though he used a 7-point Likert-type scale. Subjective Norm was measured based on previous studies by
Kolvereid (1996), Krueger et al. (2000), Obschonka et al. (2015). Miranda et al. (2017)’s Cronbach Alpha was 0.819. Autio et al. (2001) reported a Cronbach’s alpha value of 0.70. The Cronbach
Alpha value for Subjective Norm is 0.698 as depicted in Table 2. 4.2. Partial Least Squares According to Hair et al. (2010) a two-dimensional process can be
applied for structural equation modelling (SEM): an According to Hair et al. (2010) a two-dimensional process can be
applied for structural equation modelling (SEM): an •
Assessment of the proposed measurement model and •
Assessment of the structural model. This process ensures the
constructs’ measures are valid and reliable before attempting
to draw conclusions regarding any relationships among
constructs (Barclay et al., 1995). PBC was measured with four items and based on the proposals of
Autio, et al. (2001). The Cronbach Alpha value for PBC is 0.553
as depicted in Table 2. 4.1. Profile of Respondents i
p
A total of 574 respondents completed the questionnaire and were
subjected to analysis, of which 78.2% were males and 21.8% were
females. In terms of Educational Background of Respondents’
parents, 25.3% ticked No formal education, 16.9% for Secondary
school, 25.8% for University or higher education, 15.3% for Below
high school, 10.3% for Technical and Vocational education and Not
Applicable was 6.4%. With respect to programme or department
5.9% are from Secretaryship and Management Studies, 6.6%
from Accountancy, 11.8% from Computer Science, 14.5% from
Electrical Engineering, 24.9% from Building Technology, 7.7%
from Marketing, 13.2% from Procurement and Supply Chain
Management, 6.6% from General Agriculture, 5.1% from Civil
Engineering, and 3.7% from Mechanical Engineering. With regard
to studying entrepreneurship course, 74.2% said No, they have not
previously taken a class in entrepreneurship as opposed to 25.8% Table 2: Full-sample measurement model (reliability
indicators)
Construct/
Indicator
Loadings
Composite
reliability
AVE
Cronbach’s
alpha
ATE
0.862
0.758
0.680
ATE1
0.880
ATE2
0.860
EI
0.878
0.706
0.791
EI 1
0.829
EI 2
0.818
EI 3
0.872
Gender
1.000
1.000
1.000
PBC
0.814
0.687
0.553
PBC 1
0.881
PBC 2
0.774
PEE
1.000
1.000
1.000
PSE
1.000
1.000
1.000
SN
0.831
0.622
0.698
SN 1
0.725
SN 2
0.798
SN 3
0.839 Table 2: Full-sample measurement model (reliability
indicators) 4.3. Measurement Model Assessing the measurement model for the reflective indicator in
PLS is based on individual item reliability, construct reliability,
average variance extracted analysis and discriminant validity. Individual item reliability is considered adequate when an item
has a factor loading greater than 0.707 on its respective construct. 114 4.5. Coefficient of Determination (R2) A major part of structural model evaluation is the assessment
of the coefficient of determination (R2). In this study, EI is the
main construct of interest. From the PLS Path model estimation
diagram (Figure 2), the overall R2 is found to be relatively
good. A threshold value of 0.25, 0.5 and 0.7 are often used to
describe a weak, moderate and strong coefficient of determination
(Hair et al., 2013). In our case, it suggests that the three constructs
ATE, SN and PBC can jointly explain 44.2% of the variance of
the endogenous construct EI. The Average Variance Extracted quantifies the amount of variance
that a construct captures from its manifest indicators relative to
the amount due to measurement error (Chin, 1998). The Average
variance extracted value should be greater than 0.50. This means
that 50% or more variance of the indicators should be accounted
for. Consistent with this rule, the average variance extracted
measures for the common latent variables for this study are greater
than 0.580 (Table 2). International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 (ATE, SN and PBC) moderately explain 44.2% of the variance
in EI as shown below. (ATE, SN and PBC) moderately explain 44.2% of the variance
in EI as shown below. This means more shared variance between the construct and its
measures than error variance. In this study, the reflective indicators
have loadings above or very near 0.7 (Table 2: Outer Loadings). R Square
ATE
0.089
EI
0.442
PBC
0.127
SN
0.030 R Square
ATE
0.089
EI
0.442
PBC
0.127
SN
0.030 Construct Reliability was assessed using a measure of internal
consistency: Composite Reliability (rc). We interpreted this value
using the rules offered by Nunnally (1978), who suggest 0.7 as
a benchmark for a “modest” reliability applicable in the initial
stages of research. In this study, both the construct and reflective
dimensions are reliable (Table 2). 4.6. Indicator Reliability In order to assess Discriminant Validity, Average Variance
Extracted should be greater than the variance shared between
the construct and other constructs in the model (i.e. the squared
correlation between two constructs). For adequate discriminant
validity, the diagonal elements should be significantly greater than
the off-diagonal elements in the corresponding rows and columns
(Barclay et al., 1995). This condition is met as depicted in Table 3. After examining the outer loadings for all latent variables, one
indicator that formed the ATE was removed because its outer
loading was smaller than the 0.4 threshold level (Hair et al.,
2013). Meanwhile, five indicators (ATE10, ATE11, ATE12,
PBC18 and PBC19) were found to have loadings between 0.4
and 0.7. A loading relevance test is therefore performed for these
5 indicators to check if they should be retained in the model. In a
loading relevance test, problematic indicators should be deleted
only if their removal from the PLS model leads to an increase of
AVE and Composite Reliability of their constructs over the 0.5
thresholds. As the elimination of these 5 indicators would result
in an increase of AVE and composite reliability of their respective
latent construct, they are removed from the PLS model. The
remaining indicators are retained because their outer loadings are
all 0.7 or higher. An indicator’s outer loading should be 0.708 or
above since that number squared (0.7082) equals 0.50, meaning
the latent variable should be able to explain at least 50% of each
indicator’s variance. The PLS algorithm is re-run and the resulting
path model estimation is presented in Figure 2. The outer loadings
of various constructs are shown in Table 2. 4.9. Discriminant Validity Fornell and Larcker (1981) suggest that the square root of AVE in
each latent variable can be used to establish discriminant validity,
assuming this value is larger than other correlation values among
the latent variables. Table 3 clearly shows that discriminant validity
is met for this study because the square root of ATE, SN, PBC
and EI are much larger than the r corresponding LVC. It should
be noted that the AVE values are shown on the diagonal and
printed in bold; non –diagonal elements are the latent variable
correlations (LVC). moderate explained variance figure (0.442). As may be observed,
the model is generally supported by this analysis, with the only
exception of subjective norm-intention relationship. Therefore,
hypotheses 1 and 2 are confirmed, whereas hypothesis 3 is not. It has been argued earlier that the main influence of SN would
be exerted through its effects on PA and PBC. Hypotheses 4 and
5 were intended to test this possibility. They have been fully
supported since both paths are significant. Demographic variables
have relatively small significant effects on the antecedents
of entrepreneurial intention and in general, they are small in
magnitude. Only the effect of PSE on SN is significant. The
model explains 44.2% of the variance in entrepreneurial intention
based on SN, ATE and PBC. This result is satisfactory since most
previous research using linear models typically explain <40%. moderate explained variance figure (0.442). As may be observed,
the model is generally supported by this analysis, with the only
exception of subjective norm-intention relationship. Therefore,
hypotheses 1 and 2 are confirmed, whereas hypothesis 3 is not. It has been argued earlier that the main influence of SN would
be exerted through its effects on PA and PBC. Hypotheses 4 and
5 were intended to test this possibility. They have been fully
supported since both paths are significant. Demographic variables
have relatively small significant effects on the antecedents
of entrepreneurial intention and in general, they are small in
magnitude. Only the effect of PSE on SN is significant. The
model explains 44.2% of the variance in entrepreneurial intention
based on SN, ATE and PBC. This result is satisfactory since most
previous research using linear models typically explain <40%. p
Variancefi The coefficient of determination R2 is 0.442 for the EI endogenous
latent variable. This implies that the three latent variables Table 3: Discriminant validity Table 3: Discriminant validity Table 3: Discriminant validity
ATE
EI
Gender
PBC
PEE
PSE
SN
ATE
0.870
EI
0.533
0.840
Gender
0.027
0.032
1.000
PBC
0.506
0.610
0.056
0.829
PEE
0.034
0.042
–0.133
0.042
1.000
PSE
–0.012
0.055
0.012
–0.049
0.055
1.000
SN
0.291
0.296
0.062
0.348
–0.069
–0.152
0.789 Figure 2: PLS-SEM results International Review of Management and Marketing | Vol 10 • Issue 3 • 2020
115
Figure 2: PLS-SEM results Figure 2: PLS-SEM results 115 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 mofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model to
Measure Entrepreneurial Intention: An Sem-Pls Approach 4.7. Internal Consistency Reliability Table 4: Outer VIF value
Items
VIF
Gender
1.000
ATE1
1.362
ATE2
1.362
EI1
1.604
EI2
1.622
EI3
1.893
PBC1
1.171
PBC2
1.171
PEE
1.000
PSE
1.000
SN1
1.291
SN2
1.407
SN3
1.408 The Composite Reliability for the constructs ATE, SN, PBC and
EI are shown to be 0.862, 0.831, 0.814 and 0.878 respectively
(Table 2), indicating high levels of internal consistency reliability
(Nunnally and Bernstein, 1994). Prior research suggests that
a threshold level of 0.60 or higher is required to demonstrate
satisfactory composite reliability in an exploratory study (Bagozzi
and Yi, 1988) but not exceeding the 0.95 level (Hair et al., 2013). 4.8. Convergent Validity To check convergent validity, each latent variable’s AVE is
evaluated. The AVE of the constructs ATE, SN, PBC and EI are
shown to be 0.758, 0.622, 0.687 and 0.706 respectively (Table 2). It is found that all of the AVE values are greater than the acceptable
threshold of 0.5, so convergent validity is confirmed. Table 5: Inner VIF values Table 5: Inner VIF values
ATE
EI
Gender
PBC
PSE
SN
ATE
1.372
EI
Gender
1.022
1.022
1.018
PBC
1.429
PEE
1.024
1.024
PSE
1.026
1.026
1.003
SN
1.031
1.161
1.031 Table 5: Inner VIF values 4.11. Checking Structural Path Significance in
Bootstrappingi The effect size is assessed with a tool known as F Square indicated
in Table 6 and Figure 4. Following Cohen (1988) an F Square
value of above 0.35 is considered large effect size; values ranging
from 0.15 to 0.35 are medium effect size; values between 0.02 and
0.15 is considered small effect and values <0.02 are considered
NO effect size. From Figure 4 it can be observed that the PBC-EI
relationship is the highest i.e. 0.245. As can be inferred from the
other relationship (i.e. SN-ATE, SN-PBC, PSE-SN and ATE-EI),
their P-values were significant but going by the F Square rule,
their significant effect is not a meaningful one. Regardless, the
model has successfully explained more than 40% of the variance
of entrepreneurial intention. Using a two-tailed t-test with a significance level of 5%, the path
coefficient is significant if the T-statistics is larger than 1.96. In
this paper it can be observed that only the SN – EI linkage (1.462)
is not significant as depicted in Table 6; referring to the core
hypotheses. Figure 3 shows the variance explained (R2) in the
dependent constructs and the path coefficients (b) for the model. Consistent with Chin (1998), bootstrapping (500 re-samples)
was used to generate standard errors and t-statistics. Bootstrap
represents a non-parametric approach for estimating the accuracy
of PLS estimation. This helps in the assessment of the statistical
significance of the path coefficients. Four out of our five core
hypotheses were supported since these exceed the minimum
level prescribed by a Student’s t-distribution with one tail and n-1
(n = number of re-samples) degrees of freedom (Table 7). H3 was
not supported. This shows that SN is not a significant antecedent
variable of EI. The model seems to have an appropriate predictive
power for the dependent variable (Figure 3). Hence EI attains a 4.10. Evaluation of the Structural Model in PLS-SEM:
Collinearity Assessment In addition to checking the measurement model, the structural
model has to be appropriately evaluated before drawing any
conclusion. Collinearity is a potential issue in the structural
model and that variance inflation factor (VIF) value of 5 or
above typically indicates such a problem (Hair et al., 2011). The
collinearity assessment results are summarized in Tables 4 and 5. It can be observed that all VIF values are lower than 5, signifying
that there is no indicative collinearity between each set of predictor
variables. 5. DISCUSSION Based on the findings presented in this article, support for the
entrepreneurial intention model can be professed. The applicability
of the TPB to entrepreneurship has received wide empirical 116 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 mofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model to
Measure Entrepreneurial Intention: An Sem-Pls Approach Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model to
Measure Entrepreneurial Intention: An Sem-Pls Approach
Figure 3: Boost rapping run Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model to
Measure Entrepreneurial Intention: An Sem-Pls Approach
Figure 4: F square
Figure 3: Boost rapping run Figure 4: F square
Figure 3: Boost rapping run Figure 3: Boost rapping run Figure 4: F square education should possess a higher likelihood of being self-employed. The existence of direct relationships between demographic variables
and entrepreneurial intention was tested, with all but one showing a
non-significant relationship. Table 6: F square
ATE
EI
Gender
PBC
PEE
PSE
SN
ATE
0.112
EI
Gender
0.000
0.002
0.003
PBC
0.245
PEE
0.003
0.006
0.003
PSE
0.001
0.000
0.023
SN
0.095
0.005
0.136 Table 6: F square The results reveal that SN is not only insignificant but also the
weakest link of entrepreneurial intention which is consistent
with previous studies (Autio et al., 2001; Linan and Chen, 2009;
Krueger et al., 2000). However, the results confirm previous
empirical studies that found support for SN positively affecting
antecedents of entrepreneurship intentions: attitude toward
entrepreneurial behavior and perceived behavioural control (Linan
and Chen, 2009; Mathews and Moser, 1996; Scherer et al., 1991). It is relevant to note that hypotheses 1, 2, 4 and 5 are confirmed
hence, the robustness of the model seems to be confirmed. In fact,
the research findings have shown that SN exerts influence on both
ATE and PBC, which is consistent with previous studies (Linan,
2004; Linan and Chen, 2009). Thus the findings are in line with
previous studies concerning the application of TPB as an important
model in predicting entrepreneurial intentions of students (Engle
et al., 2010; Gird and Bagaim, 2008; Iakovleva et al., 2011; Luthje
and Franke, 2003; Souitaris et al., 2007). 5. DISCUSSION Previous testing of the
TPB in the entrepreneurial research suggested that ATE, SN and
PBC typically explain 30-45% of the variance in intentions (Linan
and Chen, 2009; Sutton, 1998). Contrary to most studies portraying
ATE to be the strongest predictor of EI (Linan and Chen, 2009; support over the years (Kolvereid and Isaksen, 2006). Generally,
the results are satisfactory since most of the core hypotheses have
been confirmed and the explained variance is moderately high
(44.2%), compared to prior studies. In particular, 4 out of the
5 core-model relationships were significant. SN would exert its
influence on both ATE and PBC (which in turn explain intention),
but not significant on entrepreneurial intention. support over the years (Kolvereid and Isaksen, 2006). Generally,
the results are satisfactory since most of the core hypotheses have
been confirmed and the explained variance is moderately high
(44.2%), compared to prior studies. In particular, 4 out of the
5 core-model relationships were significant. SN would exert its
influence on both ATE and PBC (which in turn explain intention),
but not significant on entrepreneurial intention. According to Wyrwich (2015) socialization in a family of entrepreneurs
enhances the development of positive values and attitudes towards
entrepreneurship. Role models (e.g. parents) can be an influential force
on PBC regarding the start-up of a business because wards can learn
certain skills and behavior essential for an entrepreneurial venture
by observing their role models or parents (Zellweger et al., 2011),
which has the propensity to increase PBC. According to Lazear (2005)
individuals with a balanced set of skills provided by entrepreneurial 117 6.2. Theoretical and Practical Implications Taking into consideration TPB, three variables that make up this
model were analysed: ATE, PBC and SN. The findings suggest that
TPB is an important tool for predicting entrepreneurial intentions. However, the subjective norm predictor was not upheld as an
antecedent of entrepreneurial intention. The importance of support
from family, friends and other social groups fall in a state of limbo
with respect to entrepreneurial intention. However, the other two
antecedents of entrepreneurial intention (ATE and PBC) were
validated, hence stakeholders in the technical universities should
take the lead in preparing graduate for the changing needs of the
job market by inculcating in them the 21st century skills such as
TVET, critical and creative thinking and problem-solving skills. In spite of its limitations, this paper demonstrates some theoretical
and practical implications. The theoretical implications of
our study relate to evidence of the consistency of the theory
of planned behavior in explaining entrepreneurial intention
in the Ghanaian context. The robustness of entrepreneurial
antecedents of the TPB was shown by the STU students. One of
the reasons for the conversion of some polytechnics to technical
universities is to promote entrepreneurship among the students,
where unemployment is relatively high. Our knowledge of the
antecedents of entrepreneurial intention and the factors affecting
these antecedents is critical in the promotion of entrepreneurship
among the technical university students. In view of this technical
and vocational training programmes can be designed to change the
mentality and attitudes of the students. There should be pragmatic
measures to pull the students from the conventional career
mentality to an entrepreneurial orientation by probably exposing
them to entrepreneurial role models, a strong entrepreneurial
culture, and the institution of an enabling environment among
others. Another key proposition of the technical university
concept is university-industry collaboration. In this current
dispensation, educational institution of higher learning cannot
afford to operate in isolation, hence they should collaborate with
industry, community and government. Fortunately, this is one of
the key ingredients in the technical university model, in which the
students, lecturers and other stakeholders are expected to liaise
with industry. In fact prominent among the aims of technical
universities in Ghana is to remain focused on the application of
Competency-Based Training to all teaching staff. International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model to
Measure Entrepreneurial Intention: An Sem-Pls Approach Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model to
Measure Entrepreneurial Intention: An Sem-Pls Approach Measure Entrepreneurial Intention: An Sem-Pls Approach
Table 7: Structural model results
Construct
(O)
(M)
STDEV
T statistics
P-values
Hypothesis
PBC -> EI
0.442
0.441
0.046
9.687
0.000
Accept
SN -> PBC
0.350
0.352
0.048
7.256
0.000
Accept
SN -> ATE
0.298
0.300
0.046
6.449
0.000
Accept
ATE -> EI
0.293
0.294
0.052
5.669
0.000
Accept
PEE -> PBC
0.072
0.073
0.040
1.800
0.072
Reject
GENDER -> SN
0.057
0.057
0.043
1.335
0.182
Reject
SN -> EI
0.057
0.058
0.039
1.462
0.144
Reject
PEE -> ATE
0.055
0.055
0.043
1.292
0.196
Reject
GENDER -> PBC
0.044
0.044
0.040
1.108
0.268
Reject
PSE -> ATE
0.030
0.031
0.040
0.745
0.457
Reject
GENDER -> ATE
0.016
0.016
0.040
0.394
0.694
Reject
PSE -> PBC
-0.000
0.001
0.041
0.011
0.992
Reject
PEE -> SN
-0.053
-0.053
0.041
1.302
0.193
Reject
PSE -> SN
-0.150
-0.150
0.041
3.635
0.000
Accept
(O): Original sample, (M): Sample mean, STDEV: Standard deviation (O): Original sample, (M): Sample mean, STDEV: Standard deviation Furthermore, the focus of this study is on the intention rather than
on actual start-up decisions. A caveat is that there could be a gap
between students’ entrepreneurial intention and actual action. Entrepreneurial intention is only assessed at the current point
in time, hence we are not certain that students’ entrepreneurial
intention may or may not be altered in the future, bearing in mind
that a successful formulation of dreams or intentions may not
necessarily lead to successful implementation. Nabi and Linan, 2013), our study found PBC to be the strongest
predictor of EI, which is consistent with a study by Karimi et al. (2017). In fact Schlaegel and Koenig (2014) meta-analysis study
found strong SN-EI and ATE-EI relationships. These differences
may be attributed to cultural differences. Besides, the turbulent
economic conditions, political climate and self-efficacy can impact
on entrepreneurial intention and behavior. 6.1. Limitations of the Study One limitation of this study was the structural equations, which
assume linearity of relationships between latent variables (Hair
et al., 1998). Secondly, as the study was carried out in a particular geographical
context (Ghana), we must be cautious in the generalization of the
results to include other jurisdictions. Besides, the generalizability
of the findings may be constrained by the sample which comprises
students from a single technical university. The potential for bias
prevails inasmuch as the sample respondents may have had an
intrinsically high orientation towards entrepreneurship. Therefore,
there is a need to examine a more diverse population of students. Moreover, the study is cross-sectional, hence we cannot claim
causality in any of the relationships. For this reason, we have
emphasized that the results support our hypotheses, but we cannot
optimistically suggest that the causal correlations are as proffered
until a longitudinal study is carried out. 6.3. Directions for Future Research 6.3. Directions for Future Research Taking into consideration both the conclusions and the limitations
of this paper, we propose the following lines of future research. 118 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 REFERENCES Conner, M., Armitage, C.J. (1998), Extending the theory of planned
behaviour: A review and avenues for further research. Journal of
Applied Social Psychology, 28(15), 1429-872. Ajzen, I. (1991), The theory of planned behaviour. Organizational
Behaviour and Human Decision Processes, 50(2), 179-211. Davisson, P. (1995), Determinants of Entrepreneurial Intentions. Piacenza:
Paper Presented at the RENT IX. Ajzen, I. (2001), Nature and operation of attitudes. Annual Review of
Psychology, 52, 27-58.fi Diaz-Casero, J.C., Hernandez-Mogollon, R., Roldan, J.L. (2012), A
structural model of the antecedents to entrepreneurial capacity. International Small Business Journal, 30(8), 850-872. Ajzen, I. (2002), Perceived behavioural control, self-efficacy, locus of
control, and the theory of planned behaviour. Journal of Applied
Social Psychology, 32(4), 665-683. do Paço, A., Ferreira, J.M., Raposo, M., Rodrigues, R.G., Dinis, A. (2015),
Entrepreneurial intentions: Is education enough? International
Entrepreneurship and Management Journal, 11(1), 57-75. Ajzen, I. (2019), Theory of Planned Behaviour. Available from: http//
www.people.umass.edu/aizen/tpb.html. [Last accessed on 2019
Nov 22]. Engle, R.L., Dimitriadi, N., Gavidia, J.V., Schlaegel, C., Delanoe, S.,
Alvarado, I., He, X., Baume, S., Wolff, B. (2010), Entrepreneurial
intent: A twelve-country evaluation of Ajzen’s model of planned
behavior. International Journal of Entrepreneurial Behaviour and
Research, 16(1), 35-57. Almobaireek, W.N., Manolova, T.S. (2012), Who wants to be an
entrepreneur? Entrepreneurial intention among Saudi university
students. African Journal of Business Management, 6(11), 4029-
4040. Entrialgo, M., Iglesias, V. (2016), The moderating role of entrepreneurship
education on the antecedents of entrepreneurial intention. International Entrepreneurship Management Journal, 12, 1209-1232. Auken Van, H. (2013), Influence of a culture-based entrepreneurship
program on student interest in business ownership. International
Entrepreneurship and Management Journal, 9(2), 261-272. Fayolle, A., Gailly, B. (2015), The impact of entrepreneurship education
on entrepreneurial attitudes and intentions: Hysteresis and
persistence. Journal of Small Business Management, 53(1), 75-93. Autio, E., Keeley, R.H., Klofsten, M., Parker, G.G.C., Hay, M. (2001),
Entrepreneurial intent among students in Scandinavia and in the
USA. Enterprise and Innovation Management Studies, 2(2), 145-160. Fayolle, A., Gailly, B., Lassas-Clerc, N. (2006b), Assessing the impact
of entrepreneurship education programmes: A new methodology. Journal of European Industrial Training, 30(9), 701-720. Bae, J.T., Qian, S., Miao, C., Fiet, J.O. (2014), The relationship between
entrepreneurship education and entrepreneurial intentions: A meta-
analytic review. Entrepreneurship Theory and Practice, 38(2),
217-245. Fini, R., Grimaldi, R., Marzocchi, G.L., Sobrero, M. (2012), The
determinants of corporate entrepreneurial intention within small
and newly established firms. Entrepreneurial Theory and Practice,
36(2), 387-414. Bagozzi, R.P., Yi, Y. International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 squares method for estimating latent variables quality structures. Journal of Applied Statistics, 26(4), 435-446. squares method for estimating latent variables quality structures. Journal of Applied Statistics, 26(4), 435-446. This paper used cross-sectional data, though the variables under
consideration shape a process that develops over time and
whose impacts are only embraced in the long run. Future studies
might delve into a longitudinal study that implements measures
at different times to test the correlation in the framework. Furthermore, future research is needed to test the generalization
of the findings, by covering more technical universities in Ghana
and if possible beyond the boundaries of Ghana. Chandler, G.N., Lyon, D.W. (2001), Issues of research design and
construct measurement in entrepreneurship research: The past
decade. Entrepreneurship Theory and Practice, 25(4), 101-113. Chin, W.W. (1988), The partial least squares approach to structural
equation modelling. In: Marcoulides, G.A., editors. Modern Methods
in Business Research. Hillsdale, NJ: Erlbaum. p295-336. Cohen, J. (1988), Statistical Power Analysis for the Behavioural Sciences. Hilldale, NJ: Lawrence Erlbaum. REFERENCES (1988), On the evaluation of structural equation
models. Journal of the Academy of Marketing Science, 16(1), 74-94. Barclay, D., Higgins, C., Thompson, R. (1995), The partial least squares
approach to causal modelling: Personal computer adoption and use
as an illustration. Technology Studies, 2(2), 285-309. Fishbein, M., Ajzen, I. (1975), Belief, Attitude, Intention and Behavior:
An Introduction to Theory and Research. Reading, MA: Addison-
Wesley. Barroso, C., Cepeda, G., Roldán, J.L. (2010), Applying maximum
likelihood and PLS on different sample sizes: Studies on SERVQUAL
model and employee behaviour model. In: Vinzi, V.E., Chin, W.W.,
Henseler, J., editors. Handbook of Partial Least Squares: Concepts,
Methods and Applications. Berlin: Spronger-Verlag. p427-447. Fornell, C., Larcker, D.F. (1981), Evaluating structural equation models
with unobservable variables and measurement error. Journal of
Marketing Research, 18(1), 39-50. Gird, A., Bagaim, J.J. (2008), The theory of planned behaviour as predictor
of entrepreneurial amongst final-year university students. South
African Journal of Psychology, 38(4), 711-724. Bird, B. (1988), Implementing entrepreneurial ideas: The case for
intention. Academy of Management Review, 13, 442-453. Global Entrepreneurship Monitor. (2016), GEM 2015/2016 Global
Report. New Delhi: Global Entrepreneurship Monitor. Boyd, N.G., Vozikis, G.S. (1994), The influence of self-efficacy
on the development of entrepreneurial intentions and actions. Entrepreneurship Theory and Practice, 18, 63-77. Goethner, M., Obschonka, M., Silbereisen, R.K., Cantner, U. (2012),
Scientists’ transition to academic entrepreneuirship: Economic
and psychological determinants. Journal of Economic Psychology,
33(3), 628-641. Bruton, G.D., Ahlstrom, D., Obloj, K. (2008), Entrepreneurship in
emerging economies: Where are we today and where should the
research go in the future. Entrepreneurship Theory and Practice,
32(1), 1-15. Guerrero, M., Rialp, J., Urbano, D. (2008), The impact of desirability and
feasibility on entrepreneurial intentions: A structural equation model. International Entrepreneurship and Management Journal, 4(1), 35-50. Carree, M., Thurik, R. (2006), Understanding the role of entrepreneurship
for economic growth. In: Carree, M.A., Thurik, A.R., editors. The
Handbook of Entrepreneurship and Economic Growth. Cheltenham,
UK, Northampton, MA, US: Edward Elgar Publishing Limited. Hair, J. Jr., Anderson, R., Tatham, R., Black, W. (1998), Multivariate Data
Analysis. 5th ed. Upper Saddle River, NJ: Prentice Hall. Hair, J.F., Black, W.C., Babin, B.J., Anderson, R.E. (2010), Multivariate
Data Analysis: A Global Perspective. Upper Saddle River, NJ:
Pearson Education. Carsrud, A., Brannaback, M. (2011), Entrepreneurship motivations: What
do we still need to know? Journal of Small Business Management,
49(1), 9-26. Cassel, C., Hackl, P., Westlund, A.H. REFERENCES New
York: McGraw-Hill. Obschonka, M., Silbereisen, R.K., Cantner, U., Goethner, M. (2015),
Entrepreneurial self-identity: Predictors and effects within the theory
of planned behavior framework. Journal of Business and Psychology,
30(4), 773-794. Kolvereid, L., Isaksen, E. (2006), New business start-up and subsequent
entry into self-employment. Journal of Business Venturing, 21,
866-885. Krueger, N.F. Jr., Reilly, M.D., Carsrud, A.L. (2000), Competing models
of entrepreneurial intentions. Journal of Business Venturing, 15,
411-432. Obschonka, M., Silbereisen, R.K., Schmitt-Rodermund, E. (2010),
Entrepreneurial intention as development outcome. Journal of
Vocational Behaviour, 77(1), 63-72.f Lazear, E.P. (2005), Entreprenurship. Journal of Labour Economics,
23(4), 649-680.f Ozyilmaz, A. (2011), The effects of demographic characteristics on
entrepreneurial intention in the pre-venture of entrepreneurship. International Journal of Entrepreneurship and Small Business,
14(3), 406-424. Lee, D.Y., Tsang, E.W.K. (2001), The effect of entrepreneurial personality,
background and network activities on activities on venture growth. Journal of Management Studies, 8(4), 583-602. Perez-Esparrells, C., Orduna-Malea, E. (2018), Do the technical
universities exhibit distinct behavior in global university rankings? A times higher education (THE) case study. Journal of Engineering
and Technology Management, 48, 97-108. Lee, S.H., Wong, P.K. (2004), An exploratory study of technopreneurial
intentions: A career anchor perspective. Journal of Business
Venturing, 19(1), 7-28.i Lewin, K.M. (1997), Education and Development: Defining the Issues:
Educational Research Paper, 06. England: Centre for International
Education, University of Sussex. Rauch, A., Hulsink, W. (2015), Putting entrepreneurship where
the intention to act lies: An investigation into the impact of
entrepreneurship education on entrepreneurship behavior. Academy
of Management Learning and Education, 14(2), 187-204. Linan, F. (2004), Intention-based models of entrepreneurship education. Piccola Impresa Small Business, 2004(3), 11-35.f Reynolds, P.D., Bygrave, W., Autio, E., Hay, M. (2002), Global
Entrepreneurship Monitor, 2002 Summary Report. Kansas: Ewin
Marion Kauffiman Foundation. Linan, F. (2008), Skills and value perceptions: How do they affect
entrepreneurial intentions? International Entrepreneurial and
Management Journal, 4(3), 257-272. Rigdon, E.E. (1998), Structural equation modelling. In: Marcoulides, G.A.,
editor. Modern Methods for Business Research. Mahwah: Erlbaum. p251-294.f Linan, F., Chen, Y.W. (2009), Development and cross-cultural application
of a specific instrument to measure entrepreneurial intentions. Entrepreneurship Theory and Practice, 33(3), 593-617. Santos, F.J., Roomi, M.A., Linan, F. (2014), About gender differences
and the social environment in the development of entrepreneurial
intentions. Journal of Small Business Management, 54, 49-66. Linan, F., Rodriguez-Cohard, J.C., Rueda-Cantuche, J.M. (2011a), Factors
affecting entrepreneurial intention levels: A role for education. REFERENCES (1999), Robustness of partial least Hair, J.F., Hult, G.T.M., Ringle, C.M., Sarstedt, M. (2013), A Primer on 119 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 Partial Least Squares Structural Equation Modelling (PLS-SEM). Thousand Oaks: SAGE. Partial Least Squares Structural Equation Modelling (PLS-SEM). Thousand Oaks: SAGE. university students: A test of the theory of planned behaviour. Journal
of Economics and Behavioural Studies, 6(2), 130-143. Hair, J.F., Ringle, C.M., Sarstedt, M. (2011), PLS-SEM: Indeed a silver
bullet. Journal of Marketing Theory and Practice, 19(2), 139-151. Mathews, C.H., Moser, S.B. (1996), A longitudinal investigation of the
impact of family background and gender on interest in small firm
ownership. Journal of Small Business Management, 34(2), 29-43. Iakovleva, T., Kolvereid, L., Stephan, U. (2011), Entrepreneurial
intentions in developing and developed countries. Education and
Training, 53(5), 353-370. Miranda, F.J., Chamorro-Mera, A., Rubio, S. (2017), Academic
entrepreneurship in Spanish universities: An analysis of the
determinants of entrepreneurial intention. European Research on
Management and Business Economics, 23(2), 113-122. Karimi, S., Biemans, H.J.A., Lans, T., Chizari, M., Mulder, M. (2014),
Effects of role models and gender on students’ entrepreneurial
intentions. European Journal of Training and Development, 38(8),
694-727. Monecke, A., Leisch, F. (2012), semPLS: Structural equation modeling
using partial least squares. Journal of Statistical Software, 48(3),
1-32. Karimi, S., Biemans, J.A.H., Mahdei, N.A., Lans, T., Chizari, M.M.,
Mulder, M. (2017), Testing the relation between personality
characterisitcs, contextual factors and entrepreneurial intentions in
a developed country. International Journal of Psychology, 52(3),
227-240. Moriano, J.A., Gorgievski, M., Laguna, M., Stephan, U., Zarafshani, K. (2012), A cross-cultural approach to understanding entrepreneurial
intention. Journal of Career Development, 39(2), 162-185. Nabi, G., Linan, F. (2013), Considering business start-up in recession
time: The role of risk perception and economic context in shaping
the entrepreneurial intent. International Journal of Entrepreneurship
Behavior and Research, 19(6), 633-655. Kautonen, T., Van Gelderen, M., Tornokoski, E.T. (2013), Predicting
entrepreneurial behavior: A test of the theory of planned behaviour. Applied Economics, 45(6), 697-707. ( )
Nunnally, J. (1978). Psychometric Theory, 2nd ed., McGraw-Hill, New
York, NY. Kolvereid, L. (1996), Prediction of employment status choice intentions. Entrepreneurship Theory and Practice, 21(1), 47-57. Kolvereid, L. (1996b) Organizational employment versus self-
employment: reasons for career choice intentions. Entrepreneurship
Theory and Practice, 20( 3), 23-31. Nunnally, J.C., Bernstein, I.H. (1994), Psychometric Theory. 3rd ed. REFERENCES International Entrepreneurship and Management Journal, 7(2),
195-218.f Scherer, R.F., Brodzinsky, J.D., Wiebe, F.A. (1991), Examining the
relationship between personality and entrepreneurial career
preference. Entrepreneurship and Regional Development, 3, 195-206. Linan, F., Santos, F.J. (2007), Does social capital affect entrepreneurial
intentions? International Advances in Economic Research, 13(4),
443-453. Schlaegel, C., Koenig, M. (2014), Determinants of entrepreneurial
intent: A meta-analytic test and integration of competing models. Entrepreneurship Theory and Practice, 38(2), 291-332. Linan, F., Santos, F.J., Fernandez, J. (2011b), The influence of perceptions
on potential entrepreneurs. International Entrepreneurship and
Management Journal, 7(3), 373-390. Schleicher, A. (2003), Progress education: Studying the signs. OCED
Observer, 239, 33-35. Luthje, C., Franke, N. (2003), The making of an entrepreneur: Testing a
model of entrepreneurial intent among engineering students at MIT. R & D Management, 33(2), 135-147. Siu, W. and Lo, E.S. (2011). Cultural contingency in the cognitive model
of entrepreneurial intention, Entrepreneurship Theory and Practice,
37(2),147–173. Malebana, J. (2014), Entrepreneurial intentions of South African rural Souitaris, V., Zerbinati, S., Al-Laham, A. (2007), Do entreprenurship 120 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 Amofah and Saladrigues: Going Down Memory Lane in the Application of Ajzen’s Theory of Planned Behaviour Model t
Measure Entrepreneurial Intention: An Sem-Pls Approach attitudes towards entrepreneurship: A two countries comparison. International Entrepreneurship Management Journal, 1(2), 165-182. programs raise entrepreneurial intention of science and engineering
students? The effect of learning, inspiration and resources. Journal
of Business Venturing, 22(4), 566-591. Wold, H. (1985), Systems analysis by partial least squares. In: Nijkamp, P.,
Leitner, H., Wrigley, N., editors. Measuring the Unmeasurable. Dordrecht: Martinus Nijhoff Publishers. p221-251. Sutton, S. (1998), Predicting and explaining intentions and behavior:
How well are we doing? Journal of Applied Social Psychology,
28(15), 1317-1338. Wyrwich, M. (2015), Entrepreneurship and the intergenerational
transmission of values. Small Business Economics, 45(1), 191-213. Thompson, E.R. (2009), Individual entrepreneurial intent: Construct
clarification and development of an internally reliable metric. Entrepreneurship Theory and Practice, 33(3), 669-694. Zellweger, T., Sieger, P., Halter, F. (2011), Should I stay or should I go? Career choice intentions of students with family background. Journal
of Business Venturing, 26(5), 521-536. Tkachev, A., Kolvereid, L. (1999), Self-employment intentions among
Russian students. Entrepreneurial and Regional Development, 11(3),
269-280. Zhao, H., Hills, G.E., Siebert, S.E. REFERENCES (2005), The mediating role of self-
efficacy in the development of entrepreneurial intentions. Journal of
Applied Psychology, 90(6), 1265-1272. Veciana, J.M., Aponte, M., Urbano, D. (2005), University students’ 121 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020 International Review of Management and Marketing | Vol 10 • Issue 3 • 2020
|
https://openalex.org/W4245796286
|
https://www.qeios.com/read/VSR7IP/pdf
|
English
| null |
In-Hospital Cardiac Arrest
|
Definitions
| 2,020
|
cc-by
| 50
|
Qeios · Definition, February 8, 2020 Open Peer Review on Qeios Open Peer Review on Qeios In-Hospital Cardiac Arrest National Cancer Institute National Cancer Institute Qeios ID: VSR7IP · https://doi.org/10.32388/VSR7IP Source National Cancer Institute. In-Hospital Cardiac Arrest. NCI Thesaurus. Code C66928. Cardiac arrest which occurs in the hospital setting. 1/1
|
https://openalex.org/W3156901304
|
https://europepmc.org/articles/pmc8069200?pdf=render
|
English
| null |
Early Experience with the New XEN63 Implant in Primary Open-Angle Glaucoma Patients: Clinical Outcomes
|
Journal of clinical medicine
| 2,021
|
cc-by
| 9,309
|
Article
Early Experience with the New XEN63 Implant in Primary
Open-Angle Glaucoma Patients: Clinical Outcomes Fea 1,*, Martina Menchini 2
, Alessandro Rossi 1
, Chiara Posarelli 2
, Lorenza Malinverni
2 Antonio Maria Fea 1,*, Martina Menchini 2
, Alessandro Rossi 1
, Chiara Posarelli 2
, Lorenza Malinverni 1
and Michele Figus 2 1
Struttura Complessa Oculistica, Città Della Salute e Della Scienza di Torino,
Dipartimento di Scienze Chirurgiche-Università Degli Studi di Torino, 10126 Torino, Italy;
alessandro.rossi012309@gmail.com (A.R.); lorenza.malinverni@unito.it (L.M.)
2
Department of Surgical, Medical and Molecular Pathology and Critical Care Medicine, University of Pisa,
56126 Pisa, Italy; martina.mmenchini@gmail.com (M.M.); chiara.posarelli@med.unipi.it (C.P.);
michele.figus@unipi.it (M.F.)
*
Correspondence: antoniomfea@gmail com; Tel : +39-349-560-1674 1
Struttura Complessa Oculistica, Città Della Salute e Della Scienza di Torino,
Dipartimento di Scienze Chirurgiche-Università Degli Studi di Torino, 10126 Torino, Italy;
alessandro.rossi012309@gmail.com (A.R.); lorenza.malinverni@unito.it (L.M.)
2
Department of Surgical, Medical and Molecular Pathology and Critical Care Medicine, University of Pisa,
56126 Pisa, Italy; martina.mmenchini@gmail.com (M.M.); chiara.posarelli@med.unipi.it (C.P.);
michele.figus@unipi.it (M.F.) g
(
)
(
)
2
Department of Surgical, Medical and Molecular Pathology and Critical Care Medicine, University of Pisa,
56126 Pisa, Italy; martina.mmenchini@gmail.com (M.M.); chiara.posarelli@med.unipi.it (C.P.);
michele.figus@unipi.it (M.F.) g
p
(
)
*
Correspondence: antoniomfea@gmail.com; Tel.: +39-349-560-1674 g
p
*
Correspondence: antoniomfea@gmail.com; Tel.: +39-349-560-1674 Abstract: The new XEN63 implant is a minimally invasive glaucoma surgery device with limited ex-
perience in real life. This retrospective study included open-angle glaucoma patients who underwent
XEN63 implant, either alone or in combination with cataract surgery. Primary endpoints were the
intraocular pressure (IOP) at month 3 and the incidence of serious adverse events. Twenty-three eyes
of 23 patients were included. Mean age was 67.8 ± 15.3 years and 15 (65.2%) were women. Mean
IOP was significantly lowered from 27.0 ± 7.8 mmHg at baseline to 12.2 ± 3.4 mmHg at month 3
(p < 0.0001). Mean IOP lowering was 40.8 ± 23.5%, with 14 (60.9%) and 16 (69.6%) eyes achieving
an IOP lowering ≥30% and ≥20% without hypotensive medication, respectively. The number of
hypotensive medications (NHM) was significantly reduced from 2.27 ± 0.94 drugs at baseline to 0.09
± 0.42 drugs at month 3, p < 0.0001. Four (17.4%) eyes had hypotony (IOP ≤6 mmHg) at postopera-
tive day one, which was successfully resolved without sequelae. Four (17.4%) eyes had choroidal
detachment (3 at day 7 and 1 at day 15), which was successfully resolved with medical treatment,
at the month 1 visit.
Citation: Fea, A.M.; Menchini, M.;
Rossi, A.; Posarelli, C.; Malinverni, L.;
Figus, M. Early Experience with the
New XEN63 Implant in Primary
Open-Angle Glaucoma Patients:
Clinical Outcomes. J. Clin. Med. 2021,
10, 1628. https://doi.org/10.3390/
jcm10081628 Keywords: glaucoma; open-angle glaucoma; XEN; minimally invasive glaucoma surgery; intraocular
pressure; glaucoma surgery Academic Editor: Georgios Labiris Academic Editor: Georgios Labiris Received: 18 March 2021
Accepted: 8 April 2021
Published: 12 April 2021 Citation: Fea, A.M.; Menchini, M.;
Rossi, A.; Posarelli, C.; Malinverni, L.;
Figus, M. Early Experience with the
New XEN63 Implant in Primary
Open-Angle Glaucoma Patients:
Clinical Outcomes. J. Clin. Med. 2021,
10, 1628. https://doi.org/10.3390/
jcm10081628 Journal of
Clinical Medicine Journal of
Clinical Medicine Journal of
Clinical Medicine Journal of
Clinical Medicine Article
Early Experience with the New XEN63 Implant in Primary
Open-Angle Glaucoma Patients: Clinical Outcomes Three (13.0%) eyes required needling (mean time for needling 35.6 ± 9.7 days). XEN63 significantly lowered IOP and reduced the NHM, with a good short-term safety profile. 1. Introduction Although many studies have shown the good efficacy/safety profile of XEN45 [12– Although many studies have shown the good efficacy/safety profile of XEN45 [12–17],
the evidence assessing the outcomes of XEN63 is very limited [18–21] and those trials
were done with a previous version of the device during development, which was never
commercialized and differs from the current commercially available XEN63 device in many
aspects (i.e., needle gauge, injector design, implantation technique, etc.). Although many studies have shown the good efficacy/safety profile of XEN45 [12
17], the evidence assessing the outcomes of XEN63 is very limited [18–21] and those trials
were done with a previous version of the device during development, which was never
commercialized and differs from the current commercially available XEN63 device in
many aspects (i.e., needle gauge, injector design, implantation technique, etc.). The main difference between XEN45 and XEN63 is the bore of the stent [10 11 18–21] The main difference between XEN45 and XEN63 is the bore of the stent [10,11,18–21]. The new XEN63 device is introduced by using a 27G needle, similarly to the XEN45 stent. Since the outer diameter of XEN63 is greater than that of XEN45, the side flow with the
XEN63 is reduced compared with the XEN45 (Figure 1). The main difference between XEN45 and XEN63 is the bore of the stent [10,11,18–21]. The new XEN63 device is introduced by using a 27G needle, similarly to the XEN45 stent. Since the outer diameter of XEN63 is greater than that of XEN45, the side flow with the
XEN63 is reduced compared with the XEN45 (Figure 1). Figure 1. A comparison of the outer and inner diameters of the former XEN63, new XEN63, and
XEN45 devices. The former XEN63 device was inserted by using a 25G needle injector (with an
outer diameter of 0.5144 mm), while the new XEN63 device is inserted by using a 27G needle in-
ector (with an outer diameter of 0.4128 mm, which is 19.8% smaller). As compared to XEN45 im-
plant, the outer diameter of XEN63 is only 12% greater, while the inner diameter is 1.4 times
greater. Since the new XEN63 and the XEN45 devices are inserted by using a 27G injector needle,
he side flow with the XEN63 is reduced compared with the XEN45. Figure 1. A comparison of the outer and inner diameters of the former XEN63, new XEN63, and
XEN45 devices. 1. Introduction The term glaucoma covers a wide range of multifactorial, chronic, and progressive op-
tic neuropathies, characterized by progressive loss of retinal ganglion cells and subsequent
visual field defects [1]. Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Glaucoma is a leading cause of irreversible blindness, and is estimated to affect over
111 million people worldwide by 2040 [2]. The main goal of glaucoma treatment is to slow the progression of the disease and to
preserve, as much as possible, the patient quality of life. Up to now, decreasing intraocular pressure (IOP) has been the only proven method to
treat glaucoma [3]. To do so, different treatment strategies, such as medical therapy, laser,
and surgery are currently available. Copyright: © 2021 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). Although topical hypotensive medication is usually the first treatment approach,
many patients do not achieve adequate glaucoma control due to different causes, including
poor adherence, side effects, or lack of maintained efficacy [4,5]. Despite trabeculectomy being considered the gold standard in glaucoma surgery, due
mainly to its well-established efficacy in terms of lowering IOP [6], it may lead to potential
vision-threatening complications [7]. https://www.mdpi.com/journal/jcm J. Clin. Med. 2021, 10, 1628. https://doi.org/10.3390/jcm10081628 2 of 11
gery,
ad to J. Clin. Med. 2021, 10, 1628 Minimally invasive glaucoma surgery (MIGS) devices have been developed as a safer
and less traumatic means of lowering IOP in patients with glaucoma [8–11]. ®
Minimally invasive glaucoma surgery (MIGS) devices have been developed as a safer
and less traumatic means of lowering IOP in patients with glaucoma [8–11]. Among the different MIGS devices, the ab interno gel Implant XEN® (Allergan, Dub- g
p
g
Among the different MIGS devices, the ab interno gel Implant XEN® (Allergan, Dublin,
Ireland) allows flow of aqueous humor from the anterior chamber to the subconjunctival
space [8–11]. Among the different MIGS devices, the ab interno gel Implant XEN (Allergan, Dub
in, Ireland) allows flow of aqueous humor from the anterior chamber to the subconjunc-
ival space [8–11]. 1. Introduction The former XEN63 device was inserted by using a 25G needle injector (with an outer
diameter of 0.5144 mm), while the new XEN63 device is inserted by using a 27G needle injector (with
an outer diameter of 0.4128 mm, which is 19.8% smaller). As compared to XEN45 implant, the outer
diameter of XEN63 is only 12% greater, while the inner diameter is 1.4 times greater. Since the new
XEN63 and the XEN45 devices are inserted by using a 27G injector needle, the side flow with the
XEN63 is reduced compared with the XEN45. Figure 1. A comparison of the outer and inner diameters of the former XEN63, new XEN63, and Figure 1. A comparison of the outer and inner diameters of the former XEN63, new XEN63, and
XEN45 devices. The former XEN63 device was inserted by using a 25G needle injector (with an
outer diameter of 0.5144 mm), while the new XEN63 device is inserted by using a 27G needle in-
ector (with an outer diameter of 0.4128 mm, which is 19.8% smaller). As compared to XEN45 im-
plant, the outer diameter of XEN63 is only 12% greater, while the inner diameter is 1.4 times
greater. Since the new XEN63 and the XEN45 devices are inserted by using a 27G injector needle,
the side flow with the XEN63 is reduced compared with the XEN45. XEN45 devices. The former XEN63 device was inserted by using a 25G needle injector (with an outer
diameter of 0.5144 mm), while the new XEN63 device is inserted by using a 27G needle injector (with
an outer diameter of 0.4128 mm, which is 19.8% smaller). As compared to XEN45 implant, the outer
diameter of XEN63 is only 12% greater, while the inner diameter is 1.4 times greater. Since the new
XEN63 and the XEN45 devices are inserted by using a 27G injector needle, the side flow with the
XEN63 is reduced compared with the XEN45. The new XEN63 device was developed for decreasing the incision site as compared
o the former XEN63 device, and at the same time increasing the aqueous humor flow rate
as compared to XEN45 which would provide lower IOPs
The new XEN63 device was developed for decreasing the incision site as compared to
the former XEN63 device, and at the same time increasing the aqueous humor flow rate as
compared to XEN45, which would provide lower IOPs. 2. Materials and Methods
2.1. Design .1. Design
Retrospective, open-label, and bicenter clinical study. .1. Design
Retrospective, open-label, and bicenter clinical study. Retrospective, open-label, and bicenter clinical study. The study protocol was approved by the Ethic Committee of the University of Torino,
which waived the need for written informed consent. The study was conducted in accord-
The study protocol was approved by the Ethic Committee of the University of Torino,
which waived the need for written informed consent. The study was conducted in accor-
dance with the principles of the Declaration of Helsinki. 1. Introduction s compared to XEN45, which would provide lower IOPs. The purpose of this study is to assess the efficacy in terms of IOP lowering and re-
duction in number of ocular hypotensive drugs of the upcoming new model of XEN63
tent implant. Additionally, the current study also aimed to evaluate the incidence of ad-
verse events in the early postoperative period
p
p
The purpose of this study is to assess the efficacy in terms of IOP lowering and
reduction in number of ocular hypotensive drugs of the upcoming new model of XEN63
stent implant. Additionally, the current study also aimed to evaluate the incidence of
adverse events in the early postoperative period. i l
d
h d
2. Materials and Methods . Materials and Methods
2. Materials and Methods
2.1. Design 2. Materials an
2.1. Design 2. Materials a
2.1. Design 2.4. Surgical Technique filtering bleb, BCVA, IOP, dilated fundus examination, and the incidence of adverse events. Topical and systemic IOP-lowering medications were suspended on the day of surgery. Patients with bleb fibrosis, flat bleb, and/or elevated IOP underwent needling, which g
Topical and systemic IOP-lowering medications were suspended on the day of surgery. Patients with bleb fibrosis, flat bleb, and/or elevated IOP underwent needling, which
was performed in the theater. Special attention was paid to avoid or delay ocular hypotensive drug reintroduction
as much as possible. Before starting any postoperative antiglaucoma medications, surgeons
performed either needling or bleb revision. If this approach failed or the patient refused to
undergo these procedures, topical hypotensive medication was reintroduced. 2.3. Device In the current study, a MIGS device (Allergan, Irvine, CA, USA) was used. It is
composed of porcine gelatin crosslinked with glutaraldehyde. The stent is 6 mm in length,
with an outer diameter of 250 µm and an inner diameter of 63 µm. ance with the p
2.2. Patients The study was conducted on consecutive OAG patients who underwent a XEN63
implant, either alone or in combination with cataract surgery, between February and
June 2020. All participants were required to meet the following inclusion criteria: age ≥40 years,
clinical diagnosis of OAG, and an unmet target IOP despite medical therapy. Patients with J. Clin. Med. 2021, 10, 1628 3 of 11 narrow-angle glaucoma (unless the surgeon believed that there was sufficient space to
safely implant the device), severe conjunctival scars, ocular pemphigoid, phacodonesis,
progressive retinal or optic nerve disease of any cause, or history of major ocular surgery
(except phacoemulsification) within the previous 6 months were excluded from the study. narrow-angle glaucoma (unless the surgeon believed that there was sufficient space to
safely implant the device), severe conjunctival scars, ocular pemphigoid, phacodonesis,
progressive retinal or optic nerve disease of any cause, or history of major ocular surgery
(except phacoemulsification) within the previous 6 months were excluded from the study. 2.4. Surgical Technique All the surgical procedures were performed, under local anesthesia, by the same two
experienced surgeons (AMF and MF). g
The XEN implant was placed in the superior nasal quadrant using a standard ab
interno technique [16,17,20]. After anesthesia and skin disinfection, conjunctival upper-
nasal quadrant was marked 3 mm from the limbus. Before surgery, 0.1 mL of mitomycin C
(MMC) 0.02–0.03% was injected intra-tenon in the supero-nasal quadrant. j
p
q
After injecting a viscoelastic with high cohesivity, the pre-loaded injector needle was
inserted at the inferotemporal quadrant through a 1.8 mm corneal paracentesis. An in-
traoperative goniolens was used to verify placement through the non-pigmented part
of the trabecular meshwork. Once the goniolens was removed, the tip was advanced
approximately 3 mm through the sclera, and the implant was finally positioned into the
subconjunctival space. The position of the implant in the anterior chamber was checked,
by gonioscopy, before removing the viscoelastic. In order to confirm the lack of adhe-
sions, sideways movements of the implant were performed until it moved freely under
the conjunctiva. j
Afterwards, implant function and bleb formation were assessed by constant irrigation
with balanced salt solution (BSS). Finally, the corneal incisions were hydrated with BSS. In eyes that underwent cataract surgery, phacoemulsification was performed using the
surgeon’s preferred technique and XEN63 was implanted in all cases after cataract surgery. Perioperative care included antibiotic therapy 4 times a day for 1 week and anti-
inflammatory therapy with steroids 6 times daily, which was slowly tapered over three months. At baseline, each subject underwent a standard ophthalmic exam, which included a
detailed medical history, anterior segment and fundus examination, best corrected visual
acuity (BCVA), IOP measurement assessed at 9 am (±1 h) using Goldmann applanation
tonometry, and gonioscopy. A computerized visual field (Humphrey visual field ana-
lyzer; Carl Zeiss Meditec, Dublin, CA, USA) performed within 6 months before XEN63
implantation was considered as the baseline examination. Follow-up visits included anterior segment examination, paying special attention to
filtering bleb, BCVA, IOP, dilated fundus examination, and the incidence of adverse events. Follow-up visits included anterior segment examination, paying special attention to
filtering bleb, BCVA, IOP, dilated fundus examination, and the incidence of adverse events. Topical and systemic IOP-lowering medications were suspended on the day of surgery. Patients with bleb fibrosis, flat bleb, and/or elevated IOP underwent needling, which
was performed in the theater. 2.6. Statistical Analysis A standard statistical analysis was performed using Prism 9 version 9.0 (GraphPad
Software; San Diego, CA, USA). Although sample size was not calculated before the study, we conducted a post
hoc analysis for testing the adequacy of the sample. The post hoc power analyses was
determined for an alpha level of 0.05, the study sample size, and the effect size observed in
the study [22]. Data are expressed as number (percentage), mean ± standard deviation (SD), or mean
(95% confidence interval, CI) as appropriate. (
)
pp
p
Data were tested for normal distribution using a Shapiro–Wilks test. Changes in IOP and number of ocular hypotensive medications were performed by
means of repeated measures ANOVA and the Greenhouse–Geisser correction test. The last-observation-carried-forward method was used to impute missing data. A p value of less than 0.05 was considered significant. 2.5. Outcomes Primary endpoints were the IOP at month 3 and the incidence of serious adverse events. Secondary endpoints included incidence of any adverse event, reduction in number of
ocular hypotensive medications from baseline to month 3, proportion of patients achieving
an IOP lowering ≥30% and ≥20% without antiglaucoma medications, proportion of J. Clin. Med. 2021, 10, 1628 4 of 11 patients achieving a final IOP ≤12 mm Hg, ≤14 mm Hg, ≤16 mm Hg, or ≤18 mm Hg
without medications, and incidence of non-serious adverse events. patients achieving a final IOP ≤12 mm Hg, ≤14 mm Hg, ≤16 mm Hg, or ≤18 mm Hg
without medications, and incidence of non-serious adverse events. 2.6. Statistical Analysis 3. Results Abbreviations: Phaco: Phacoemulsification;
SD: Standard deviation; POAG: Primary open-angle glaucoma; PXG: Pseudoexfolitive glaucoma; PACG: Primary
angle-closure glaucoma; SLT: Selective laser trabeculoplasty; YAG: Neodymium-doped Yttrium Aluminium
Garnet; MIG: Minimally invasive glaucoma device; BCVA: Best corrected visual acuity; ETDRS: Early treatment
diabetic retinopathy study; ECC: Endothelial cell count; MD: Mean defect; PSD: Pattern standard deviation;
NTOHM: Number of topical ocular hypotensive medications; IOP: Intraocular pressure. n ± SD
−17.03 ± 9.96
−16.71 ± 10.51
−18.23 ± 9.44
D, dB
n ± SD
7.00 ± 2.28
7.10 ± 3.08
6.66 ± 3.2
OHM
n ± SD
2.27 ± 0.94
2.26 ± 0.99
2.33 ± 0.58
mm Hg
n ± SD
27.0 ± 7.8
26.5 ± 8.2
30.3 ± 3.2
have undergone more than one procedure. Abbreviations: Phaco: Phacoemulsifica-
ard deviation; POAG: Primary open-angle glaucoma; PXG: Pseudoexfolitive glau-
rimary angle-closure glaucoma; SLT: Selective laser trabeculoplasty; YAG: Neodym-
rium Aluminium Garnet; MIG: Minimally invasive glaucoma device; BCVA: Best
al acuity; ETDRS: Early treatment diabetic retinopathy study; ECC: Endothelial cell
an defect; PSD: Pattern standard deviation; NTOHM: Number of topical ocular hy-
ications; IOP: Intraocular pressure. verall study population, baseline IOP was significantly reduced from 27.0 ± In the overall study population, baseline IOP was significantly reduced from
27.0 ± 7.8 mm Hg to 12.2 ± 3.4 mm Hg at month 3 (p < 0.0001) (Figure 2). 12.2 ± 3.4 mm Hg at month 3 (p < 0.0001) (Figure 2). shows the mean IOP over the course of the study follow-up. Figure 2. Scatter plot of the intraocular pressure at baseline and month 3. Mean difference −14.8 ±
6.0 mm Hg, 95 Confidence interval −18.4 to −11.2 mm Hg; p < 0.0001 (two-tailed paired-samples
Student t test). The 20% and the 30% lines indicate the level beneath which an IOP reduction of
more than 20% or 30%, respectively, compared to baseline value before surgery was reached by
the individual cases. IOP: Intraocular pressure. Figure 2. Scatter plot of the intraocular pressure at baseline and month 3. Mean difference −14.8 ± 6.0 mm Hg, 95
Confidence interval −18.4 to −11.2 mm Hg; p < 0.0001 (two-tailed paired-samples Student t test). The 20% and the 30%
lines indicate the level beneath which an IOP reduction of more than 20% or 30%, respectively, compared to baseline value
before surgery was reached by the individual cases. IOP: Intraocular pressure. 3. Results Twenty-three patients met the inclusion/exclusion criteria requirements. Mean age was 67.8 ± 15.3 years and 15 (65.2%) were women. Table 1 shows the main
baseline clinical and demographic characteristics of the study population. Table 1. Main baseline clinical and demographic characteristics of the study sample. Variable
Overall (n = 23)
XEN 63 (n = 20)
Phaco + XEN63 (n = 3)
Age, years
Mean ± SD
67.8 ± 15.3
67.3 ± 15.9
71.3 ± 12.4
Sex, n (%)
Women
Men
15 (65.2)
8 (34.8)
14 (70.0)
6 (30.0)
1 (33.3)
2 (66.7)
Type of glaucoma
POAG
Uveitic
PXG
PACG
Traumatic
Missing information
14 (60.9)
4 (17.4)
1 (4.3)
1 (4.3)
1 (4.3)
2 (8.7)
12 (60.0)
3 (15.0)
1 (5.0)
1 (5.0)
1 (5.0)
2 (10.0)
2 (66.7)
1 (33.3)
0 (0.0)
0 (0.0)
0 (0.0)
0 (0.0)
Previous laser, n (%)
No
SLT
Nd:YAG Iridotomy
21 (91.3)
1 (4.3)
1 (4.3)
18 (90.0)
1 (5.0)
1 (5.0)
3 (100.0)
0 (0.0)
0 (0.0)
Previous surgery *, n (%)
None
Cataract
Refractive (laser)
Trabecular MIG
Subconjunctival MIG
2 (8.7)
14 (60.9)
3 (13.0)
2 (8.7)
2 (8.7)
0 (0.0)
14 (70.0)
3 (15.0)
2 (10.0)
2 (10.0)
3 (100.0)
0 (0.0)
0 (0.0)
0 (0.0)
0 (0.0)
BCVA, ETDRS
Mean ± SD
0.49 ± 0.26
0.54 ± 0.24
0.23 ± 0.15
ECC
Mean ± SD
2217.9 ± 343.1
2223.4 ± 297.0
2161.0 ± 563.8 Table 1. Main baseline clinical and demographic characteristics of the study sample. J. Clin. Med. 2021, 10, 1628 5 of 11 Table 1. Cont. Variable
Overall (n = 23)
XEN 63 (n = 20)
Phaco + XEN63 (n = 3)
MD, dB
Mean ± SD
−17.03 ± 9.96
−16.71 ± 10.51
−18.23 ± 9.44
PSD, dB
Mean ± SD
7.00 ± 2.28
7.10 ± 3.08
6.66 ± 3.2
NTOHM
Mean ± SD
2.27 ± 0.94
2.26 ± 0.99
2.33 ± 0.58
IOP, mm Hg
Mean ± SD
27.0 ± 7.8
26.5 ± 8.2
30.3 ± 3.2
* Patients may have undergone more than one procedure. 3. Results er of topical ocular hypotensive medications was significantly reduced
rugs at baseline to 0 09 ± 0 42 drugs at month 3 (p < 0 0001) At month 3
(
) y
y
g
BCVA did not change over the course of the study (mean change: 0.1 ± 0.2). drugs at baseline to 0.09 ± 0.42 drugs at month 3 (p < 0.0001). At month 3,
did not receive any antiglaucoma medication. h
h
f h
d
(
h
0 1
0 2)
g
y
g
At day-7, 4 (17.4%) eyes showed a ≥2-line worsening in BCVA as compared to baseline
where two of them belonged to the combo group (Table 2). not change over the course of the study (mean change: 0.1 ± 0.2). (17.4%) eyes showed a ≥2-line worsening in BCVA as compared to base-
of them belonged to the combo group (Table 2). Table 2. Overview of the number (%) of patients who experienced changes in best corrected visual
acuity throughout the study. g
y (
g
)
4 (17.4%) eyes showed a ≥2-line worsening in BCVA as compared to base-
of them belonged to the combo group (Table 2). w of the number (%) of patients who experienced changes in best corrected visual
t the study. Table 2. Overview of the number (%) of patients who experienced changes in best corrected visual
acuity throughout the study. Day 1
Day 7
Month 1
Month 3
Worse ≥2 lines, n (%)
4 (17.4)
4 (17.4)
2 (8.7)
2 (8.7)
W
≥1 li
(%)
6 (26 1)
7 (30 4)
3 (13 0)
3 (13 0) g
y (
g
)
4 (17.4%) eyes showed a ≥2-line worsening in BCVA as compared to base-
of them belonged to the combo group (Table 2). w of the number (%) of patients who experienced changes in best corrected visual
t the study. Day 1
Day 7
Month 1
Month 3
rse ≥2 lines, n (%)
4 (17.4)
4 (17.4)
2 (8.7)
2 (8.7)
rse ≥1 line, n (%)
6 (26.1)
7 (30.4)
3 (13.0)
3 (13.0)
Table 2. Overview of the number (%) of patients who experienced changes in best corrected visual
acuity throughout the study. 3. Results Figure 3 shows the mean IOP over the course of the study follow-up. Figure 2. Scatter plot of the intraocular pressure at baseline and month 3. Mean difference −14.8 ±
6.0 mm Hg, 95 Confidence interval −18.4 to −11.2 mm Hg; p < 0.0001 (two-tailed paired-samples
Student t test). The 20% and the 30% lines indicate the level beneath which an IOP reduction of
more than 20% or 30%, respectively, compared to baseline value before surgery was reached by
Figure 2. Scatter plot of the intraocular pressure at baseline and month 3. Mean difference −14.8 ± 6.0 mm Hg, 95
Confidence interval −18.4 to −11.2 mm Hg; p < 0.0001 (two-tailed paired-samples Student t test). The 20% and the 30%
lines indicate the level beneath which an IOP reduction of more than 20% or 30%, respectively, compared to baseline value
before surgery was reached by the individual cases. IOP: Intraocular pressure. IOP: Intraocular pressure. Figure 3 shows the mean IOP over the course of the study follow-up. 6 of 11 J. Clin. Med. 2021, 10, 1628
FOR PEER REVIEW Figure 3. Overview of the mean intraocular pressure (IOP) and number of hypotensive medica-
tions over the course of the study follow-up in the overall study population. Vertical bars repre-
Figure 3. Overview of the mean intraocular pressure (IOP) and number of hypotensive medications over the course of the
study follow-up in the overall study population. Vertical bars represent standard deviation. IOP: Intraocular pressure. Figure 3. Overview of the mean intraocular pressure (IOP) and number of hypotensive medica-
tions over the course of the study follow-up in the overall study population. Vertical bars repre-
Figure 3. Overview of the mean intraocular pressure (IOP) and number of hypotensive medications over the course of the
study follow-up in the overall study population. Vertical bars represent standard deviation. IOP: Intraocular pressure. on. IOP: Intraocular pressure. 3. Results Three (13.0%) eyes required needling over the course of the study
follow-up (mean time for needling 35.6 ± 9.7 days), one eye with mitomycin-c and two
with 5-fluorouracil. Only one eye underwent needling due to elevated IOP. Five (21.7%)
eyes underwent digital ocular massage. One (4.3%) eye had anterior chamber bleeding
during the surgery, one (4.3%) eye had a 1.5 mm hyphema at day 1, and 4 (17.4%) had
choroidal detachment (3 at day 7 and 1 at day 15), which was successfully resolved with
medical treatment, at the month-1 visit. 4 Di
i nchanged, n (%)
9 (39.1)
6 (26.1)
8 (34.8)
6 (26.1)
ement ≥1 line, n (%)
0 (0.0)
2 (8.7)
3 (13.0)
2 (8.7)
ement ≥2 lines, n (%)
4 (17.4)
4 (17.4)
7 (30.4)
8 (34.8)
safety, four (17.4%) eyes had hypotony (an IOP ≤ 6 mm Hg) at postopera-
hich was successfully resolved without sequelae and resolved with medi-
hin a month. Three (13.0%) eyes required needling over the course of the
p (mean time for needling 35.6 ± 9.7 days), one eye with mitomycin-c and
orouracil. Only one eye underwent needling due to elevated IOP. Five
Regarding safety, four (17.4%) eyes had hypotony (an IOP ≤6 mm Hg) at postopera-
tive day one, which was successfully resolved without sequelae and resolved with medical
therapy within a month. Three (13.0%) eyes required needling over the course of the study
follow-up (mean time for needling 35.6 ± 9.7 days), one eye with mitomycin-c and two
with 5-fluorouracil. Only one eye underwent needling due to elevated IOP. Five (21.7%)
eyes underwent digital ocular massage. One (4.3%) eye had anterior chamber bleeding
during the surgery, one (4.3%) eye had a 1.5 mm hyphema at day 1, and 4 (17.4%) had
choroidal detachment (3 at day 7 and 1 at day 15), which was successfully resolved with
medical treatment, at the month-1 visit. 3. Results When compared to baseline, mean (95% confidence interval) IOP lowering was −17.6 d
b
li
(95%
fid
i
l) IOP l
i
17 6
p
g
22.0 to −13.1) mm Hg, p < 0.0001; −16.3 (−20.8 to −11.8) mm Hg, p < 0.0001; −14.0 pared to baseline, mean (95% confidence interval) IOP lowering was −17.6
mm Hg, p < 0.0001; −16.3 (−20.8 to −11.8) mm Hg, p < 0.0001; −14.0 (−18.6 to
(−22.0 to −13.1) mm Hg, p < 0.0001; −16.3 (−20.8 to −11.8) mm Hg, p < 0.0001; −14.0
(−18.6 to −9.4) mm Hg, p < 0.0001; −15.4 (−20.2 to −10.6) mm Hg, p < 0.0001; and −14.8
(−20.1 to −9.5) mm Hg, p < 0.0001 at day 1, day 7, and months 1, 2, and 3, respectively. < 0.0001; −15.4 (−20.2 to −10.6) mm Hg, p < 0.0001; and −14.8 (−20.1 to −9.5)
001 at day 1, day 7, and months 1, 2, and 3, respectively. 3, mean lowering IOP was 40.8 ± 23.5%, with 14 (60.9%) and 16 (69.6%) eyes
OP lowering ≥30% and ≥20% without hypotensive medication, respectively. g p
y
y
p
y
At month-3, mean lowering IOP was 40.8 ± 23.5%, with 14 (60.9%) and 16 (69.6%) eyes
achieving an IOP lowering ≥30% and ≥20% without hypotensive medication, respectively. Mean number of topical ocular hypotensive medications was significantly reduced
from 2.27 ± 0.94 drugs at baseline to 0.09 ± 0.42 drugs at month 3 (p < 0.0001). At month 3,
(
%)
d d
l
d < 0.0001; −15.4 (−20.2 to −10.6) mm Hg, p < 0.0001; and −14.8 (−20.1 to −9.5)
001 at day 1, day 7, and months 1, 2, and 3, respectively. At month-3, mean lowering IOP was 40.8 ± 23.5%, with 14 (60.9%) and 16 (69.6%) eyes
achieving an IOP lowering ≥30% and ≥20% without hypotensive medication, respectively. 001 at day 1, day 7, and months 1, 2, and 3, respectively. 3, mean lowering IOP was 40.8 ± 23.5%, with 14 (60.9%) and 16 (69.6%) eyes
OP lowering ≥30% and ≥20% without hypotensive medication, respectively. mber of topical ocular hypotensive medications was significantly reduced
g
g
yp
p
y
Mean number of topical ocular hypotensive medications was significantly reduced
from 2.27 ± 0.94 drugs at baseline to 0.09 ± 0.42 drugs at month 3 (p < 0.0001). At month 3,
22 (95.7%) eyes did not receive any antiglaucoma medication. 3. Results Day 1
Day 7
Month 1
Month 3
Worse ≥2 lines, n (%)
4 (17.4)
4 (17.4)
2 (8.7)
2 (8.7)
Worse ≥1 line, n (%)
6 (26.1)
7 (30.4)
3 (13.0)
3 (13.0)
Unchanged, n (%)
9 (39.1)
6 (26.1)
8 (34.8)
6 (26.1)
Improvement ≥1 line, n (%)
0 (0.0)
2 (8.7)
3 (13.0)
2 (8.7)
Improvement ≥2 lines, n (%)
4 (17.4)
4 (17.4)
7 (30.4)
8 (34.8) g
y (
g
)
4 (17.4%) eyes showed a ≥2-line worsening in BCVA as compared to base-
of them belonged to the combo group (Table 2). w of the number (%) of patients who experienced changes in best corrected visual
t the study. Day 1
Day 7
Month 1
Month 3
se ≥2 lines, n (%)
4 (17.4)
4 (17.4)
2 (8.7)
2 (8.7)
rse ≥1 line, n (%)
6 (26.1)
7 (30.4)
3 (13.0)
3 (13.0)
nchanged, n (%)
9 (39.1)
6 (26.1)
8 (34.8)
6 (26.1)
ement ≥1 line, n (%)
0 (0.0)
2 (8.7)
3 (13.0)
2 (8.7)
ement ≥2 lines, n (%)
4 (17.4)
4 (17.4)
7 (30.4)
8 (34.8)
safety, four (17.4%) eyes had hypotony (an IOP ≤ 6 mm Hg) at postopera-
hich was successfully resolved without sequelae and resolved with medi-
hin a month. Three (13.0%) eyes required needling over the course of the
p (mean time for needling 35.6 ± 9.7 days), one eye with mitomycin-c and
orouracil. Only one eye underwent needling due to elevated IOP. Five
nderwent digital ocular massage. One (4.3%) eye had anterior chamber
Table 2. Overview of the number (%) of patients who experienced changes in best corrected visual
acuity throughout the study. Day 1
Day 7
Month 1
Month 3
Worse ≥2 lines, n (%)
4 (17.4)
4 (17.4)
2 (8.7)
2 (8.7)
Worse ≥1 line, n (%)
6 (26.1)
7 (30.4)
3 (13.0)
3 (13.0)
Unchanged, n (%)
9 (39.1)
6 (26.1)
8 (34.8)
6 (26.1)
Improvement ≥1 line, n (%)
0 (0.0)
2 (8.7)
3 (13.0)
2 (8.7)
Improvement ≥2 lines, n (%)
4 (17.4)
4 (17.4)
7 (30.4)
8 (34.8)
Regarding safety, four (17.4%) eyes had hypotony (an IOP ≤6 mm Hg) at postopera-
tive day one, which was successfully resolved without sequelae and resolved with medical
therapy within a month. nderwent digit
the surgery o
4. Discussion g the surgery, one (4.3%) eye had a 1.5 mm hyphema at day 1, and 4 (17.4%)
detachment (3 at day 7 and 1 at day 15), which was successfully resolved
eat
e t at the
o th 1
i it
Over the past several years there has been growing interest in MIGS devices, mainly
due to the need for a safer alternative to traditional surgery. eatment, at the month-1 visit. According to the results of the collaborative initial glaucoma treatment study (CIGTS) [7],
trabeculectomy was associated with a fifty percent incidence of early postoperative complica- J. Clin. Med. 2021, 10, 1628 7 of 11 tions. In the same study, choroidal detachment, anterior chamber bleeding, or anterior chamber
flattening had an incidence equal to or greater than 10% [7]. tions. In the same study, choroidal detachment, anterior chamber bleeding, or anterior chamber
flattening had an incidence equal to or greater than 10% [7]. Additionally, the results of the tube versus trabeculectomy study showed that the rate
of early postoperative complications (those developed within the first month after surgery)
was 37% in the trabeculectomy group [23]. y g
p
According to the results of the current study, even if they are limited to only 23 eyes
and with short follow-up of 3 months, XEN63 provided a better IOP lowering effect than
XEN45 [12–17,24–27]. It is important to mention the good hypotensive profile found in our study, with a
mean IOP lowering of 40.8 ± 23.5% and 16 (69.6%) eyes achieving an IOP lowering ≥30%
without hypotensive medication. The XEN45 implant has shown a good early and long-term postoperative safety profile,
while maintaining good IOP lowering [12–17]. When comparing our results with other studies, which reported IOP data of XEN45
stent at month-3, it can be observed that the mean IOP achieved with XEN63 was consis-
tently lower (see Table 3). The same holds true if we examine the differential reduction in
pressure [15,26] (Table 3). Table 3. Overview of the intraocular pressure (IOP) and number of hypotensive medications in eyes that underwent XEN45
implant surgery in different studies at month-3. Study
MMC
Type of
Glau-
coma
Baseline
IOP, mm
Hg
M3 IOP,
mm Hg
IOP
Lowering
(%)
IOP
Lowering,
mm Hg
Mean Pre-
operative
Medications
Mean Post-
operative
Medica-
tions at
M3
Needling
Rates at the
End of the
Study, n
(%)
Reitsamer
et al. nderwent digit
the surgery o
4. Discussion [13]
10–80 µg/mL 1
POAG
21.4 (3.6) *
15.7 †
−25.0 †
N.A. 2.7 (0.9)
0.5 (0.9)
83 (41.1)
Marcos-
Parra et al. [15]
10 µg/mL
OAG 3
19.1 (5.4) *
N.A. N.A. −6.1 (−9.9
to −0.1) **
2.5 (0.8)
N.A. 13 (20.0)
Fea et al. [16]
20 µg/mL
OAG 3
23.9 (7.6) *
15.1 †
N.A. N.A. 3.0 (1.0)
0.4 †
79 (46.2)
Grover et al. [24]
20 µg/mL 2
Refractory
OAG 3
25.1 (3.7) *
16.6 (5.5) *
−32.7 †
−8.5 †
3.5 (1.0)
0.5 †
21 (32.3)
Ibáñez-
Muñoz et al. [25]
10 µg/mL
OAG 3
22.8 (20.8 to
24.7) **
16.4 (14.3 to
18.5) **
N.A. N.A. 3.4 (0.8)
N.A. 19 (26.0)
Laborda-
Guirao et al. [26]
20 µg/mL
OAG 3
21.0 (5.2) *
14.5 (13.6 to
15.4) **
N.A. −6.7 (−8.8
to −4.6)
2.8 (2.7 to
3.0) **
N.A. 7 (8.8)
Theilig et al. [27]
10 µg/mL
POAG
24.5 (6.7) *
16.8 (6.3)
N.A. N.A. 3.0 (1.1) *
1.1 (1.4) *
42 (42.0)
Hengerer
et al. [28]
10 µg/mL
OAG 4
32.2 (9.1) *
14.6 †
N.A. N.A. 3.1 (1.0) *
−2.7 (1.2) ‡
67 (27.7) ***
Current
study
20–30 µg/mL 1
OAG 3
27.0 (7.8) *
12.2 (3.4) *
−40.8
(23.5) *
−14.8
(−20.1 to
−9.5) **
2.3 (0.9) *
0.1 (0.4) *
3 (13.0)
* Mean (Standard deviation); ** Mean (95% confidence interval); † Data about standard deviation was not provided; ‡ Mean reduction from
baseline; *** All the needling procedures were done between week 1 and month 3; Abbreviations: MMC: Mitomycin C; IOP: Intraocular
pressure; M: Month; POAG: Primary open-angle glaucoma, OAG: Open-angle glaucoma; NA: Not available. 1 MMC dose at the surgeon’s
discretion (2 patients received 5-fluorouracil); 2 Sponges saturated with MMC; 3 It includes primary and secondary open-angle glaucoma;
4 Besides open-angle glaucoma patients, it included patients with uveitic glaucoma, angle closure glaucoma, and neovascular glaucoma. w of the intraocular pressure (IOP) and number of hypotensive medications in eyes that underwent XEN45
in different studies at month-3. Table 3. Overview of the intraocular pressure (IOP) and number of hypotensive medications in eyes that un
implant surgery in different studies at month-3. nderwent digit
the surgery o
4. Discussion While the former XEN63 stent was implanted through a 2.2 mm peripheral
corneal incision with a 25G injector needle, the new XEN63 device is implanted through
a 1.8 mm corneal paracentesis by using a 27G injector needle (see Figure 1). This new
surgical approach reduces the side flow of the new XEN63 as compared with the former
one. Additionally, previous studies were performed without MMC [18–21]. Regarding safety, the most commonly reported adverse event was choroidal detach-
ment (4 eyes), which was successfully resolved without treatment at the month-1 visit. In this study, four (17.4%) eyes had an IOP ≤6 mm Hg at postoperative day one, but
they were resolved without consequences. On this subject, Lenzhofer et al. [19], using the former XEN63 device, reported that
3 (4.7%) eyes required some intervention (between surgery and end of the study) due to
low IOP. Additionally, Lavin-Dapena et al. [21], also evaluating the former XEN63 device,
found hypotony (similar criterion than ours) in 3 (27.3%) eyes at day 1. However, it should
be noted that both studies did not use MMC, which in theory might reduce the incidence
of hypotony. This brings us to the question of whether the better IOP lowering effect obtained with
XEN63 would theoretically be associated with a greater risk of hypotony. Despite the greater inner diameter of XEN63, the incidence of hypotony was not
significantly different than that observed with XEN45 [12–17]. This may be because the
resistance is determined by the subconjunctival bleb [20]. Another explanation may be
related to our surgical technique. Since the needle caliper used to make the track through
the sclera is smaller than the previous one, the risk of peritubular filtration should not be
greater than with XEN45. Avoidance of hypotony in the early post-operative phase following glaucoma drainage
device surgery is paramount if serious complications are to be avoided. Hypotony in
the early postoperative period is a common and significant complication that has been
associated with delayed visual recovery following trabeculectomy [32,33]. The reason
why early post-operative complications are lower than in trabeculectomy may be due
to the fact that the pre-determined lumen allows for a much more controlled outflow
as compared to the traditional filtration surgery. nderwent digit
the surgery o
4. Discussion * Mean (Standard deviation); ** Mean (95% confidence interval); † Data about standard deviation was not provided; ‡ Mean reduction from
baseline; *** All the needling procedures were done between week 1 and month 3; Abbreviations: MMC: Mitomycin C; IOP: Intraocular
pressure; M: Month; POAG: Primary open-angle glaucoma, OAG: Open-angle glaucoma; NA: Not available. 1 MMC dose at the surgeon’s
discretion (2 patients received 5-fluorouracil); 2 Sponges saturated with MMC; 3 It includes primary and secondary open-angle glaucoma;
4 Besides open-angle glaucoma patients, it included patients with uveitic glaucoma, angle closure glaucoma, and neovascular glaucoma. With the exception of the Hengerer et al. study [28], the baseline IOP of our study
was higher than that reported by other authors [13,15,16,24–27]. Despite its short-term
follow-up, this study points to the fact that XEN 63, is not only able to achieve lower
IOP but also that a greater lumen size of the device may benefit patients with a higher
baseline pressure. p
The relevance of this finding critically depends on whether early post-operative
pressures may be predictive of long-term success. We have evidence suggesting that lower
IOP in the early postoperative period was associated with successful outcomes in patients
undergoing trabeculectomy [29,30]. Moreover, these findings seem to be applicable to J. Clin. Med. 2021, 10, 1628 8 of 11 the XEN45 device [16,31]. In a previous study conducted by our group [16], week-1 and
month-1 postoperative IOP significantly correlated with the final IOP and those eyes with
a lower IOP at week 1 had a higher success rate. the XEN45 device [16,31]. In a previous study conducted by our group [16], week-1 and
month-1 postoperative IOP significantly correlated with the final IOP and those eyes with
a lower IOP at week 1 had a higher success rate. Currently available scientific evidence evaluating the efficacy and safety of the XEN63
implant is very limited and information about the former device was never commercially
available [18–21]. Although in general terms the results of these studies have shown
good efficacy and safety profile of the former device, due to differences in the surgical
technique and the device, it is difficult to compare our results with those of the previous
XEN63 studies. The main difference between the former XEN63 device and the new one is the surgical
technique. nderwent digit
the surgery o
4. Discussion Although restriction of outflow using
different suturing techniques can improve the safety profile and reduce the rate of early
complications observed with trabeculectomy, this carries the disadvantage of manipulation
of the sutures in the post-operative period [34]. In this study, early hypotony was not related to ocular complications or visual acuity
loss. In the overall study sample, mean visual acuity did not change over the course of the
study. Although at day-7, 4 (17.4%) eyes had a ≥2-line worsening in BCVA as compared to
baseline, two eyes recovered within a month. y
Moreover, it should be highlighted that at month 3, eight (34.8%) eyes showed a
≥2-line improvement in BCVA as compared to baseline. Unfortunately, as far as we know, visual acuity changes have not been reported in
detail in previous studies, beyond its relationship with hypotonic maculopathy. This issue
makes it extremely difficult to compare our results with other studies. Vision loss associated with hypotony can be bothersome especially for one-eyed
patients. Studies comparing the different kinds of glaucoma treatment using quality of J. Clin. Med. 2021, 10, 1628 9 of 11 life as an outcome are rare. However, patients that have undergone trabeculectomy have
reported a worsening in quality of life in the early postoperative stage, which was directly
linked to the local effects of the surgery [35]. life as an outcome are rare. However, patients that have undergone trabeculectomy have
reported a worsening in quality of life in the early postoperative stage, which was directly
linked to the local effects of the surgery [35]. Regarding needling, in the present study, 3 (13.0%) eyes underwent post-operative
needling, which was a low rate compared to that reported in previous XEN45 papers [12–17]. Moreover, it should be noted that in 2 out of these 3 cases, needling was performed as a
preventive measure and not because of a frank elevation of IOP. The current study has several limitations that should be taken into consideration
when assessing its results. The first one is its retrospective design. Potential bias and
confounding factors are inherent of retrospective studies. Nevertheless, selection of strict
inclusion/exclusion criteria tried to minimize their impact. The second limitation is its
limited follow-up time. Nevertheless, the assessment of short-term clinical outcomes may
be useful, since early postoperative IOP seems to be associated with the success of the
procedure. nderwent digit
the surgery o
4. Discussion The third limitation is the lack of sample size calculation before starting the
study. However, according to the results of the study, the power for detecting mean IOP
lowering and ocular hypotensive drug reduction, between baseline and month 3, was 99%
for each. Finally, the last limitation was the lack of a control group. It would have been
interesting to conduct a head-to-head comparison, preferably a randomized clinical trial,
between XEN45 and XEN63. 5. Conclusions The results of the current study clearly suggested that XEN63 was an effective and
safe surgical procedure in OAG patients. XEN63 significantly lowered IOP and reduced the
number of antiglaucoma medications, with a good safety profile. Its limited incidence of
hypotony, in combination with a better understanding of the use of MMC (both in terms of
concentration and area of injection), may allow physicians to treat more advanced patients
and to obtained a lower target-IOP in the long-term. g
g
Further research is needed to assess its long-term clinical outcomes, as well as to
identify potential factors associated with clinical success. Author Contributions: Conceptualization, methodology, funding acquisition, supervision, and re-
view and editing the manuscript, A.M.F.; Validation, methodology, and project administration, M.M.,
Investigation and data curation, A.R.; Investigation and data curation, C.P.; Investigation, software,
and formal analysis, L.M.; Conceptualization, methodology, funding acquisition, supervision, and
review and editing the manuscript, M.F. All authors have read and agreed to the published version
of the manuscript. Funding: The authors wish to acknowledge Allergan for their support with the with the medical
writing. It should be noted that Allergan was not involved in the preparation of the manuscript
nor did the company influence in any way the scientific conclusions reached. Editorial assistance in
the preparation of this manuscript was provided by Antonio Martinez MD (Ciencia y Deporte S.L.). Support for this assistance was funded by Allergan, an AbbVie company. Institutional Review Board Statement: The study protocol was approved by the Ethic Committee
of the University of Torino, which waived the need for written informed consent. Informed Consent Statement: The local ethics committee waived the need for written informed
consent of the participants. Data Availability Statement: The data presented in this study are available on reasonable request
from the corresponding author. Acknowledgments: Medical writing and Editorial assistant services have been provided by Ciencia
y Deporte S.L. and covered by a Grant from Allergan. Support for this assistance was funded by
Allergan, an AbbVie company. Conflicts of Interest: Dr Fea has received a Grant from Allergan during the conduct of the study. None of the Co-authors have any conflict of interest to declare. 10 of 11 J. Clin. Med. 2021, 10, 1628 References Pillunat, L.E.; Erb, C.; Jünemann, A.G.; Kimmich, F. Micro-invasive glaucoma surgery (MIGS): A review of surgical procedures
using stents. Clin. Ophthalmol. 2018, 12, 287. [CrossRef] [PubMed] 11. Chaudhary, A.; Salinas, L.; Guidotti, J.; Mermoud, A.; Mansouri, K. XEN Gel Implant: A new surgica
Expert Rev. Med. Devices 2018, 15, 47–59. [CrossRef] nas, L.; Guidotti, J.; Mermoud, A.; Mansouri, K. XEN Gel Implant: A new surgical approach in glaucoma
vices 2018, 15, 47–59. [CrossRef] 12. De Gregorio, A.; Pedrotti, E.; Russo, L.; Morselli, S. Minimally invasive combined glaucoma and cataract surgery: Clinical results
of the smallest ab interno gel stent. Int. Ophthalmol. 2018, 38, 1129–1134. [CrossRef] 13. Reitsamer, H.; Sng, C.; Vera, V.; Lenzhofer, M.; Barton, K.; Stalmans, I.; Apex Study Group. Two-year results of a multicenter study
of the ab interno gelatin implant in medically uncontrolled primary open-angle glaucoma. Graefes Arch. Clin. Exp. Ophthalmol. 2019, 257, 983–996. [CrossRef] 14. Chatzara, A.; Chronopoulou, I.; Theodossiadis, G.; Theodossiadis, P.; Chatziralli, I. XEN Implant for Glaucoma Treatment: A
Review of the Literature. Semin. Ophthalmol. 2019, 34, 93–97. [CrossRef] [PubMed]
15
M
P
M T S li
Ló
J A
Ló
G
N S
C
A M
Pé
S
j
J J XEN i
l
d
i 15. Marcos-Parra, M.T.; Salinas-López, J.A.; López-Grau, N.S.; Ceausescu, A.M.; Pérez-Santonja, J.J. XEN implant device versus
trabeculectomy, either alone or in combination with phacoemulsification, in open-angle glaucoma patients. Graefes Arch. Clin. Exp. Ophthalmol. 2019, 257, 1741–1750. [CrossRef] [PubMed] 16. Fea, A.M.; Bron, A.M.; Economou, M.A.; Laffi, G.; Martini, E.; Figus, M.; Oddone, F. European s
cross-linked gel stent for the treatment of glaucoma. J. Cataract Refract. Surg. 2020, 46, 441–450. [CrossR 17. Fea, A.M.; Durr, G.M.; Marolo, P.; Malinverni, L.; Economou, M.A.; Ahmed, I. XEN® Gel Stent: A Comprehensive Review on Its
Use as a Treatment Option for Refractory Glaucoma. Clin. Ophthalmol. 2020, 14, 1805–1832. [CrossRef] [PubMed] 18. Sheybani, A.; Lenzhofer, M.; Hohensinn, M.; Reitsamer, H.; Ahmed, I.I. Phacoemulsification combined with a new ab interno gel
stent to treat open-angle glaucoma: Pilot study. J. Cataract Refract. Surg. 2015, 41, 1905–1909. [CrossRef] [PubMed] 19. Lenzhofer, M.; Kersten-Gomez, I.; Sheybani, A.; Gulamhusein, H.; Strohmaier, C.; Hohensinn, M.; Dick, H.B.; Hitzl, W.; Eisenkopf,
L.; Sedarous, F.; et al. Four-year results of a minimally invasive transscleral glaucoma gel stent implantation in a prospective
multi-centre study. Clin. Exp. Ophthalmol. 2019, 47, 581–587. [CrossRef] [PubMed] y
p
p
20. References 1. Weinreb, R.N.; Khaw, P.T. Primary open-angle glaucoma. Lancet 2004, 363, 1711–1720. [CrossRef] y p
g
g
2. Tham, Y.C.; Li, X.; Wong, T.Y.; Quigley, H.A.; Aung, T.; Cheng, C.Y. Global prevalence of glaucoma and projections of glaucoma
burden through 2040: A systematic review and meta-analysis. Ophthalmology 2014, 121, 2081–2090. [CrossRef] g
y
y
p
gy
3. Boland, M.V.; Ervin, A.M.; Friedman, D.S.; Jampel, H.D.; Hawkins, B.S.; Vollenweider, D.; Chelladurai, Y.; Ward, D.; Suarez-
Cuervo, C.; Robinson, K.A. Comparative effectiveness of treatments for open-angle glaucoma: A systematic review for the U.S. Preventive Services Task Force. Ann. Intern. Med. 2013, 158, 271–279. [CrossRef] 4. Newman-Casey, P.A.; Robin, A.L.; Blachley, T.; Farris, K.; Heisler, M.; Resnicow, K.; Lee, P.P. The Most Common Barriers to
Glaucoma Medication Adherence: A Cross-Sectional Survey. Ophthalmology 2015, 122, 1308–1316. [CrossRef] [PubMed] y
p
gy
5. Lichter, P.R.; Musch, D.C.; Gillespie, B.W.; Guire, K.E.; Janz, N.K.; Wren, P.A.; Richard, M.P.H.; CIGTS Study Group. Interim
clinical outcomes in the Collaborative Initial Glaucoma Treatment Study comparing initial treatment randomized to medications
or surgery. Ophthalmology 2001, 108, 1943–1953. [CrossRef] g
y
p
gy
6. Landers, J.; Martin, K.; Sarkies, N.; Bourne, R.; Watson, P. A twenty-year follow-up study of trabeculectomy: Risk factors and
outcomes. Ophthalmology 2012, 119, 694–702. [CrossRef] 7. Jampel, H.D.; Musch, D.C.; Gillespie, B.W.; Lichter, P.R.; Wright, M.M.; Guire, K.E.; Collaborative Initial Glaucoma Treatment
Study Group. Perioperative complications of trabeculectomy in the collaborative initial glaucoma treatment study (CIGTS). Am. J. Ophthalmol. 2005, 140, 16–22. [CrossRef] [PubMed] , C.; Dallorto, L.; Maule, M.; Ceccarelli, M.; Fea, A.M. Minimally-invasive glaucoma surgeries (MIGS) f p
avia, C.; Dallorto, L.; Maule, M.; Ceccarelli, M.; Fea, A.M. Minimally-invasive glaucoma surgeries (MIG
aucoma: A systematic review and meta-analysis PLoS ONE 2017 12 e0183142 [CrossRef] [PubMed] 8. Lavia, C.; Dallorto, L.; Maule, M.; Ceccarelli, M.; Fea, A.M. Minimally-invasive glaucoma surgerie
glaucoma: A systematic review and meta-analysis. PLoS ONE 2017, 12, e0183142. [CrossRef] [PubMed g
y
y
9. Ansari, E. An Update on Implants for Minimally Invasive Glaucoma Surgery (MIGS). Ophthalmol. Ther. 2017, 6, 233–241. [CrossRef] 9. Ansari, E. An Update on Implants for Minimally Invasive Glaucoma Surgery (MIGS). Ophthalmol. Ther. 2017, 6, 233–241. [CrossRef]
10. Pillunat, L.E.; Erb, C.; Jünemann, A.G.; Kimmich, F. Micro-invasive glaucoma surgery (MIGS): A review of surgical procedures 9. Ansari, E. An Update on Implants for Minimally Invasive Glaucoma Surgery (MIGS). Ophthalmol. Ther. 2017, 6, 233 241. [CrossRef]
10. 27.
Theilig, T.; Rehak, M.; Busch, C.; Bormann, C.; Schargus, M.; Unterlauft, J.D. Comparing the efficacy of trabeculectomy and XEN
gel microstent implantation for the treatment of primary open-angle glaucoma: A retrospective monocentric comparative cohort
study. Sci. Rep. 2020, 10, 19337. [CrossRef] [PubMed] References Fernández-García, A.; Zhou, Y.; García-Alonso, M.; Andrango, H.D.; Poyales, F.; Garzón, N. Comparing Medium-Term Clinical
Outcomes following XEN® 45 and XEN® 63 Device Implantation. J. Ophthalmol. 2020, 2020, 4796548. [CrossRef] 21. Lavin-Dapena, C.; Cordero-Ros, R.; D’Anna, O.; Mogollón, I. XEN 63 gel stent device in glaucoma surgery: A 5-years follow-up
prospective study. Eur. J. Ophthalmol. 2020, 1120672120952033. [CrossRef] K.-H.; Maxwell, S. On the Post Hoc Power in Testing M 22. Yuan, K.-H.; Maxwell, S. On the Post Hoc Power in Testing Mean Differences. J. Educ. Behav. Stat. 2005, 30, 141–167. [CrossRef]
23. Gedde, S.J.; Herndon, L.W.; Brandt, J.D.; Budenz, D.L.; Feuer, W.J.; Schiffman, J.C.; Tube Versus Trabeculectomy Study Group. Postoperative complications in the Tube Versus Trabeculectomy (TVT) study during five years of follow-up. Am. J. Ophthalmol. 2012, 153, 804–814.e1. [CrossRef] 24. Grover, D.S.; Flynn, W.J.; Bashford, K.P.; Lewis, R.A.; Duh, Y.J.; Nangia, R.S.; Niksch, B. Performance and Safety of a New Ab
Interno Gelatin Stent in Refractory Glaucoma at 12 Months. Am. J. Ophthalmol. 2017, 183, 25–36. [CrossRef] [PubMed] 25. Ibáñez-Muñoz, A.; Soto-Biforcos, V.S.; Chacón-González, M.; Rúa-Galisteo, O.; Santos, A.A.-L.; Lizuain-Abadía, M.E.; Mayor,
J.L.D.R. One-year follow-up of the XEN® implant with mitomycin-C in pseudoexfoliative glaucoma patients. Eur. J. Ophthalmol. 2019, 29, 309–314. [CrossRef] 26. Laborda-Guirao, T.; Cubero-Parra, J.M.; Hidalgo-Torres, A. Efficacy and safety of XEN 45 gel stent alone or in combination with
phacoemulsification in advanced open angle glaucoma patients: 1-year retrospective study. Int. J. Ophthalmol. 2020, 13, 1250–1256. [CrossRef] [PubMed] 11 of 11 J. Clin. Med. 2021, 10, 1628 11 of 11 27. Theilig, T.; Rehak, M.; Busch, C.; Bormann, C.; Schargus, M.; Unterlauft, J.D. Comparing the efficacy of trabeculectomy and XEN
gel microstent implantation for the treatment of primary open-angle glaucoma: A retrospective monocentric comparative cohort
study. Sci. Rep. 2020, 10, 19337. [CrossRef] [PubMed] y
p
28. Hengerer, F.H.; Kohnen, T.; Mueller, M.; Conrad-Hengerer, I. Ab Interno Gel Implant for the Trea
With or Without Prior Glaucoma Surgery: 1-Year Results. J. Glaucoma 2017, 26, 1130–1136. [CrossRe With or Without Prior Glaucoma Surgery: 1 Year Results. J. Glaucoma 2017, 26, 1130 1136. [CrossRef] [PubMed]
29. Okimoto, S.; Kiuchi, Y.; Akita, T.; Tanaka, J. Using the early postoperative intraocular pressure to predict pressure control after a
trabeculectomy. J. Glaucoma 2014, 23, 410–414. [CrossRef] [PubMed] g
y
29. Okimoto, S.; Kiuchi, Y.; Akita, T.; Tanaka, J. Using the early postoperative intraocular pressure to pr
trabeculectomy. J. Glaucoma 2014, 23, 410–414. 35.
Burr, J.; Azuara-Blanco, A.; Avenell, A.; Tuulonen, A. Medical versus surgical interventions for o
Database Syst. Rev. 2012, 9, CD004399. [CrossRef] [PubMed] References [CrossRef] [PubMed] y
30. Esfandiari, H.; Pakravan, M.; Loewen, N.A.; Yaseri, M. Predictive value of early postoperative IOP and bleb morphology in
Mitomycin-C augmented trabeculectomy. F1000Research 2017, 6, 1898. [CrossRef] 31. Karimi, A.; Lindfield, D. Is a Day 1 postoperative review foll
Ophthalmol. 2018, 12, 2331–2335. [CrossRef] [PubMed] 31. Karimi, A.; Lindfield, D. Is a Day 1 postoperative review following ab interno Xen gel stent surgery for glaucoma needed? Clin. Ophthalmol. 2018, 12, 2331–2335. [CrossRef] [PubMed] p
32. Popovic, V. Early hypotony after trabeculectomy. Acta Ophthalmol. Scand. 1995, 73, 255–260. [Cross p
,
y
yp
y
y
p
,
,
[
] [
]
33. Saeedi, O.J.; Jefferys, J.L.; Solus, J.F.; Jampel, H.D.; Quigley, H.A. Risk factors for adverse consequences of low intraocular pressure
after trabeculectomy. J. Glaucoma 2014, 23, e60–e68. [CrossRef] [PubMed] 33. Saeedi, O.J.; Jefferys, J.L.; Solus, J.F.; Jampel, H.D.; Quigley, H.A. Risk factors for adverse consequences of low intraocular pressure
after trabeculectomy. J. Glaucoma 2014, 23, e60–e68. [CrossRef] [PubMed] y J
34. Lin, S. Building a safer trabeculectomy. Br. J. Ophthalmol. 2006, 90, 4–5. [CrossRef] [PubMed y
34. Lin, S. Building a safer trabeculectomy. Br. J. Ophthalmol. 2006, 90, 4–5. [CrossRef] [PubMed] y
34. Lin, S. Building a safer trabeculectomy. Br. J. Ophthalmol. 2006, 90, 4–5. [CrossRef] [PubMed]
|
https://openalex.org/W2034319293
|
https://europepmc.org/articles/pmc3519578?pdf=render
|
English
| null |
Computational Prediction of Protein-Protein Interactions in Leishmania Predicted Proteomes
|
PloS one
| 2,012
|
cc-by
| 10,879
|
Received June 9, 2012; Accepted October 31, 2012; Published December 10, 2012 ende et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits
tion, and reproduction in any medium, provided the original author and source are credited. Copyright: 2012 Rezende et al. This is an open-access article distributed under the terms of the Creative Commons Attribut
unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Funding: Fapemig (Fundac¸a˜o de Amparo a` Pesquisa do Estado de Minas Gerais) grant APQ-02382-10 and APQ-01835-10. CNPq (National Counsel of
Technological and Scientific Development) grant 476539/2010-2 and GENOPROT (Rede Integrada de Estudos Genoˆmicos e Proteoˆmicos) grant 560943/2010-5. The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. Competing Interests: The authors have declared that no competing interests exist. * E-mail: am.rezende@cpqrr.fiocruz.br (AMR); jeronimo@cpqrr.fiocruz.br (JCR) M. Rezende1,2*, Edson L. Folador1,3, Daniela de M. Resende1,4, Jeronimo C. Ruiz1* 1 Laborato´rio de Parasitologia Celular e Molecular, Centro de Pesquisa Rene´ Rachou – FIOCRUZ, Belo Horizonte, Minas Gerais, Brazil, 2 Departamento de Bioquı´mica e
Imunologia, Instituto de Cieˆncias Biolo´gicas, Universidade Federal de Minas Gerais, Belo Horizonte, Minas Gerais, Brazil, 3 Instituto Oswaldo Cruz, Fundac¸a˜o Oswaldo Cruz,
Rio de Janeiro, Rio de Janeiro, Brazil, 4 Laborato´rio de Pesquisas Clı´nicas, Universidade Federal de Ouro Preto, Ouro Preto, Minas Gerais, Brazil December 2012 | Volume 7 | Issue 12 | e51304 PLOS ONE | www.plosone.org Abstract The Trypanosomatids parasites Leishmania braziliensis, Leishmania major and Leishmania infantum are important human
pathogens. Despite of years of study and genome availability, effective vaccine has not been developed yet, and the
chemotherapy is highly toxic. Therefore, it is clear just interdisciplinary integrated studies will have success in trying to
search new targets for developing of vaccines and drugs. An essential part of this rationale is related to protein-protein
interaction network (PPI) study which can provide a better understanding of complex protein interactions in biological
system. Thus, we modeled PPIs for Trypanosomatids through computational methods using sequence comparison against
public database of protein or domain interaction for interaction prediction (Interolog Mapping) and developed a dedicated
combined system score to address the predictions robustness. The confidence evaluation of network prediction approach
was addressed using gold standard positive and negative datasets and the AUC value obtained was 0.94. As result, 39,420,
43,531 and 45,235 interactions were predicted for L. braziliensis, L. major and L. infantum respectively. For each predicted
network the top 20 proteins were ranked by MCC topological index. In addition, information related with immunological
potential, degree of protein sequence conservation among orthologs and degree of identity compared to proteins of
potential parasite hosts was integrated. This information integration provides a better understanding and usefulness of the
predicted networks that can be valuable to select new potential biological targets for drug and vaccine development. Network modularity which is a key when one is interested in destabilizing the PPIs for drug or vaccine purposes along with
multiple alignments of the predicted PPIs were performed revealing patterns associated with protein turnover. In addition,
around 50% of hypothetical protein present in the networks received some degree of functional annotation which
represents an important contribution since approximately 60% of Leishmania predicted proteomes has no predicted
function. Citation: Rezende AM, Folador EL, Resende DdM, Ruiz JC (2012) Computational Prediction of Protein-Protein Interactions in Leishmania Predicted
Proteomes. PLoS ONE 7(12): e51304. doi:10.1371/journal.pone.0051304
Editor: John Parkinson, Hospital for Sick Children, Canada Editor: John Parkinson, Hospital for Sick Children, Canada Editor: John Parkinson, Hospital for Sick Children, Canada Received June 9, 2012; Accepted October 31, 2012; Published December 10, 2012 Received June 9, 2012; Accepted October 31, 2012; Publis Received June 9, 2012; Accepted October 31, 2012; Published December 10, 2012 Introduction Moreover, the PPIs are undirected networks, in general are
scale-free [9] and modular [10]. False Positive Rate (FPR) against the True Positive Rate (TPR or
sensitivity) for a given approach prediction. A random prediction
will give value of 0.5 for the area under the ROC curve (or AUC)
and a perfect prediction method would have an AUC value equal
to 1 [21]. One of the main branches of Systems Biology refers to network
studies. Here, there are different types of networks: protein-protein
interaction network, metabolic network, regulatory network, etc. These networks can provide valuable information about different
characteristics of an organism. More specifically, on a protein-
protein interaction network (PPI) it represents a set of proteins of
an organism, and how they interact with each other [8]. Moreover, the PPIs are undirected networks, in general are
scale-free [9] and modular [10]. 3– Predictions of Protein-Protein Interaction Pairs To predict the protein-protein interaction pairs for the three
organisms (L. braziliensis, L. major and L. infantum), the Interolog
Mapping method was used. To apply the approach, we used four
public databases namely: Domine [28], PSI-Base [29], IntAct [30],
and String [31]. Here, it is worth mentioning the String database
are not limited to direct, physical interactions between two
proteins. Indirect interactions between proteins also exist such as
genetic and metabolic interaction. Nevertheless, according to the
last work describing the String database [32], most association
currently can not be specified with much precision in terms of their
mode of interaction. Thus the fundamental unit stored in String is
the ‘functional association’. In addition, the String has flat files
which have some degree of description about the interactions. If
we consider in these files the term ‘‘binding’’ as physical
interaction, we obtain nearly 94% of all interactions present in
String. Besides, the other terms present in these files do not
guarantee that the interactions are not physical interaction. Therefore, the impact of indirect interactions in our networks is
minor. The first step here was to download all the interactions and
all the protein sequences present in those databases. After that, the
sequences from the predicted proteomes of the three protozoa
were compared against the protein sequences from the databases
and vice versa. To perform this comparison, we used the blastp
from the BLAST software package [33] for searching sequences
from PSI-Base, IntAct, and String. For the Domine database, the
sequence comparisons were made by hmmpfam (sequence against
HMM)
and
hmmsearch
(HMM
against
sequence)
from
the
HMMER software package [34], since the Domine uses the
HMMs (Hidden Markov Models) present in the PFAM database
[35] to describe its proteins. In this work, the Interolog Mapping method was used. Specifically on this approach, it assumes that if two proteins have
a great sequence similarity against two proteins from a public
database, and these latter ones interact, then the former ones
interact too. Therefore, the main point of this work is to predict a PPI
network for each one of the target organisms, Leishmania braziliensis,
Leishmania major and Leishmania infantum. Ultimately, we intend to
use these networks to identify proteins and protein interactions
that can be used as new targets for drugs and vaccines
development. 2– Data Filtering Before starting with the network prediction, a filtering was
performed on the predicted parasite proteomes to remove possible
annotation errors. The proteome versions utilized here were
version 2, final version, and version 3 for L. braziliensis, L. major and
L. infantum, respectively. The following three criteria were utilized
in this filtering. First, protein sequences should start with the
methionine amino acid. Second, protein sequences should not
have illegal characters such as X, B, Z, U, and ‘‘*’’ that are
ambiguous or do not represent any of the 20 amino acids. Third,
they should be bigger than 100 amino acids. Currently, there are many different experimental methods to
predict a PPI, among them we have the yeast two-hybrid method
and affinity purification coupled with mass spectrometry [8]. Nevertheless, they may not be feasible for all proteins for all
organisms, and they are susceptible to systematic errors. Thus, a
number of computational approaches have been developed to
predict protein-protein interactions based on protein or nucleotide
sequence
in
large-scale
[11]. Some
of
the
computational
approaches most known are the Phylogenetic Profile [12,13],
Genome Neighborhood [8], Gene Fusion [13,14], Sequence Co-
evolution [15], and comparison against the interaction public
database or Interolog Mapping [16–19]. Introduction leishmaniasis, but some of them are not economically feasible for
many endemic countries [1]. According to the World Health Organization (www.who.int),
there are roughly 12 million people infected with parasites from
the Leishmania genus, which can cause visceral, cutaneous, or
mucosal leishmaniasis [1], with an annual incidence from one to
two million. Leishmaniasis is considered a neglected tropical
disease responsible for a high estimated burden in Latin America
[2]. To aggravate this situation, there are no effective vaccines for
leishmaniasis. Despite abundant clinical and experimental evi-
dence suggesting that leishmaniasis can be prevented by vaccina-
tion, the only proven vaccine agent in human beings is live
Leishmania major, and it is discontinued because of unacceptable
lesions in some recipients [1]. Therefore, based on the facts cited above, the necessity to
develop new drugs and vaccine approaches is apparent. In order
to reach this goal, new targets should be evaluated and the choice
and evaluation method should consider the many different aspects
of the complex biology of the agents of leishmaniasis. This
challenging task can be achieved by integrating different data sets
(e.g.; genome, transcriptome, proteome) in a systemic approach. Currently, this biology-based interdisciplinary approach focusing
on the study of complex interactions in the biological system is
called Systems Biology [7]. For case control and the treatment of leishmaniasis, the major
drugs used are either expensive, toxic, or both, and frequently
require long periods of supervised therapy [2]. In addition, the
pentavalent antimony based drugs that are the major chemical
compounds used for leishmaniasis treatment have many side
effects, such as pain, erythema, edema, abdominal pain, nausea,
thrombocytopenia or leucopenia, and cardiotoxicity [1]. Further-
more, many reports of parasite resistance have been published [3–
6]. It is worth mentioning that there are other medicines against December 2012 | Volume 7 | Issue 12 | e51304 December 2012 | Volume 7 | Issue 12 | e51304 1 PLOS ONE | www.plosone.org PPI Networks in Leishmania Genus One of the main branches of Systems Biology refers to network
studies. Here, there are different types of networks: protein-protein
interaction network, metabolic network, regulatory network, etc. These networks can provide valuable information about different
characteristics of an organism. More specifically, on a protein-
protein interaction network (PPI) it represents a set of proteins of
an organism, and how they interact with each other [8]. 4– Calculating Confidence Score for Protein-Protein
Interaction In order to attribute a confidence score for the predicted
interactions, we adopted the same rational described by [16,36]
and built a dedicated interaction combined score for our
methodology. This combined score takes into account the
prediction scores obtained from Domine, PSI-Base, IntAct and
String Databases from each protein interaction and is calculated
according to the formula shown below: Here, ‘‘A’’ is a protein from a target organism, ‘‘X’’ is a protein
from a database, k is the number of results from the comparison
made using ‘‘X’’ as a query and ‘‘l’’ is the number of results from
the comparison made using ‘‘A’’ as a query. From each
comparison, the maximum values of each measure were taken. Afterward, just the minimum values from the two comparisons
were used further. In addition, these measures were calculated for
each database if the e-value for each comparison was smaller than
10285 for String and IntAct results, 10245 for Domine and 10210
for PSI-Base. scorecomb(AB)~1{ P
i[E (1{Si), where score_comb(AB) is the combined score for the interaction
between proteins ‘‘A’’ and ‘‘B’’, E is all the methods that were used
to predict the interactions, and Si is the score normalized by the
biggest value calculated for the method i. gg
Many observed networks fall into the class of scale-free
networks, meaning that they have power-law (or scale-free) degree
distributions and this does not occur with random networks. Thus,
after the calculation of score_comb, the three predicted PPIs were
tested against the scale-free model for PPIs suggested by Barabasi
and Oltvai [37] and the hierarchical model suggested by Ravasz
et al [10]. The evaluation was made using Network Analyzer
Version 2.7 [38] plug-in at Cytoscape Version 2.8.3 [39,40]. Besides, our networks had their Clustering Coefficient and Mean
Shortest Path compared against 1,000 random networks produced
by Random Network Version 1.0 (http://sites.google.com/site/
randomnetworkplugin/) plug-in at Cytoscape. For that, the
empirical P-values were calculated. We then mapped the interactions present in the databases on
the three proteomes. To do that, we firstly knew that ‘‘X’’ and ‘‘Y’’,
which are proteins from a database, interact. Second, we knew
that ‘‘X’’ was the BBH for ‘‘A’’, which is a protein from a target
organism, and ‘‘Y’’ was the BBH for ‘‘B’’, which is also a protein
from the same target organism of ‘‘A’’ protein. Hence, we assumed
that A and B interact. similarity(AX)~ similarity(AX)~
(minfmax
i,:::,k similarity((A/X)i), max
j,:::,l similarity((A?X)j)g) 4– Calculating Confidence Score for Protein-Protein
Interaction 4– Calculating Confidence Score for Protein-Protein
Interaction In general each database has a confidence score for its
interactions, thus these scores were used to compose the final
combined score. In our case, we were not able to find this kind of
score for PSI-Base repository. In the end, for each database, the
score for each prediction was calculated according to the
followings: 1– Evaluation of PPI Prediction Approach A ROC curve is a plot of the December 2012 | Volume 7 | Issue 12 | e51304 PLOS ONE | www.plosone.org 2 PPI Networks in Leishmania Genus identity(AX)~
(minfmax
i,:::,k identity((A/X)i), max
j,:::,l identity((A?X)j)g) scoreDo min e~ ffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffi
alignScore(AX)|alignScore(BY)
p
|scoreDo min e(X,Y) scorePSIBase~
(similarity(AX)zsimilarity(BY))
2
z (identity(AX)zidentity(BY))
2
z (coverage(AX)zcoverage(BY))
2
3
0
@
1
A
|
ffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffi
alignScore(AX)|alignScore(BY)
p
4– Calculating Confidence Score for Protein-Protein
Interaction scorePSIBase~
(similarity(AX)zsimilarity(BY))
2
z (identity(AX)zidentity(BY))
2
z (coverage(AX)zcoverage(BY))
2
3
0
@
1
A
|
ffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffiffi
alignScore(AX)|alignScore(BY)
p December 2012 | Volume 7 | Issue 12 | e51304 1– Evaluation of PPI Prediction Approach 1– Evaluation of PPI Prediction Approach In order to evaluate the confidence of our network prediction
methodology and consequently predict PPI networks for Leishmania
sp, a performance evaluation was conducted. The gold standard positive dataset was extracted from DIP
(Database of Interacting Proteins) [7,20]. The DIP database
contains experimentally determined interactions between proteins,
integrates information from many sources and is manually curated
by experts. Given the information consistency of this database and
taking into account the amount of information concerning PPI
networks, E.coli was selected for the performance evaluation. Regarding the specific selection of positive pairs, we considered
some points addressed on a recent work of Muley and Ranjan
[21]. In this context, 702 interactions were selected as positive gold
standard dataset. Therefore, a protein ‘‘X’’ from a database is only considered as a
homolog to protein ‘‘A’’ from one of the three organisms if protein
‘‘X’’ is the best hit for protein ‘‘A’’, and protein ‘‘A’’ is the best hit
for protein ‘‘X’’. This is called the Best Bidirectional Hit (BBH). For each BBH, several measures were extracted. When a BBH
came from blastp result, we extracted from it the minimum
identity, minimum similarity and minimum alignment score
between two sequences. In addition, the alignment coverage was
extracted. When a BBH came from HMMER software, we
extracted just minimum alignment score. In summary, the
following formulas were applied: The negative standard dataset used for the performance
evaluation was built based on the works of [22–26]. In summary,
considering all possible interactions in the model organism and
subtracting the experimentally validated ones, a random selection
was performed and only pairs containing proteins located in
different subcellular localizations were maintained. A ratio of 1:5
between positive and negative interaction pairs was used resulting
into 3,510 negative interactions. Using these gold standards datasets and the model organism we
could identify the true positive (TP) or true negative (TN) protein
pairs predicted by our network prediction methodology. The
properly performance evaluation was made using ROC (Receiver
Operating Characteristic) curves using the ROCR package for R
(http://www.r-project.org/) [27]. 9– Hypothetical Proteins Analysis In the strict sense, hypothetical proteins are defined as proteins
computational predicted from nucleic acid sequences that have not
been shown to exist by any experimental evidence. Furthermore,
these proteins are characterized by low identity to the known
annotated proteins in public domain databases. here, N is equal to total number of proteins in the background
distribution, which is the number of proteins in a PPI network that
received at least one GO term, M represents the number of
proteins within that background distribution that are annotated
(either directly or indirectly) to any GO term of interest. n is the
size of the list of proteins of interest (in our case it is the number of
proteins in the module of interest). Finally, k is the number of
proteins within that list or module which are annotated to the GO
term of interest. Besides, as we were dealing with multiple
hypotheses test, a correction for each P-value should be applied. Here, GO::TermFinder applied the Bonferroni correction. here, N is equal to total number of proteins in the background
distribution, which is the number of proteins in a PPI network that
received at least one GO term, M represents the number of
proteins within that background distribution that are annotated
(either directly or indirectly) to any GO term of interest. n is the
size of the list of proteins of interest (in our case it is the number of
proteins in the module of interest). Finally, k is the number of
proteins within that list or module which are annotated to the GO
term of interest. Besides, as we were dealing with multiple
hypotheses test, a correction for each P-value should be applied. Here, GO::TermFinder applied the Bonferroni correction. The term ‘‘conserved hypothetical proteins’’ is also broadly
employed and describes a fraction of genes in sequenced genomes
that are found in organisms from several phylogenetic lineages but
that have not been functionally characterized and described at the
protein chemical level. Trypanosomatids genomes are known to have a large amount of
hypothetical proteins (,60%) [56,57], and these might be involved
in essential cellular processes. 6– Predicting Functional and Conserved Modules At this part of the work, our goal was to identify functional
modules that are conserved in the predicted networks. Functional
modules can be understood as a group of proteins functionally or
physically linked that work together to reach a distinct function
[43]. Moreover, according to Ravasz et al [10], PPIs in general
have a modular or hierarchical architecture. Complementarily, the immunologic potential of the selected top
ranked proteins was addressed using BCPred12 [48], which is a
predictor for potential epitopes recognized by B cells, NetCTL
[49] and NetMHCII [50] which are predictors for potential
epitopes with affinity binding to MHC class I and II alleles
respectively. Finally, the predicted proteomes of Mus musculus
(mouse), Canis lupus familiaris (dog) and Homo sapiens (human) were
downloaded from NCBI repositories (http://www.ncbi.nlm.nih. gov/) on August 24, 2012 and used to address the sequence
similarity between these genomes and the top 20 proteins ranked
by MCC. Then, to perform this prediction, we chose the networkBLAST
program [44] that performs two basic tasks: a) the comparison of
multiple PPI networks; and b) the prediction of functional
modules. The algorithm also combines interactions along with
sequence information in order to produce a network alignment
graph. Each node in this graph defines a group of similar proteins
whereas links between nodes defines putative complexes that are
evolutionarily conserved across the three predicted networks. Interactions reliability scores are assigned using a probabilistic
model and the similarity information necessary for that is obtained
from a comparison of all versus all sequences present in the
predicted PPI networks. 8– Evolutionary Analysis It has been described that the proteins with high Degree (the
degree of a node in a network is the number of connections it has
to other nodes) probably are proteins more conserved and ancient
[51–53]. Then, in order to assess this assertion, we compared
Degree and the nucleotide diversity index (p) [54] of the proteins
present in the predicted PPI networks. This measure was obtained
first by defining a Degree range in the predicted networks. The
ranges were 2 to 10, 11 to 20, 21 to 30, 31 to 40, 41 to 50, and
greater than 50. The selected proteins jointly with their orthologs
extracted from the TriTrypDB were aligned using MAFFT, and
then the p was calculated for each ortholog group using the
Variscan program [55]. Afterwards, in order to characterize the clusters or modules
found, a functional annotation schema is required. As described in
an earlier section, the GO functional annotation was used. Following the functional annotation described above and
considering the Biological Process ontology, a GO term enrich-
ment analysis was performed using the GO::TermFinder [45] for
each cluster. In this approach, the statistical significance is
determined using the hypergeometric distribution to calculate
the P-value: P~1{
X
k{1
i~0
M
i
N{M
n{i
N
i
9– Hypothetical Proteins Analysis Therefore, due to the importance
and amount of these proteins in the genomes that we are working
with and the possibility to use the PPI network to infer a function
for them, we decided to apply an approach called FS-Weight [58]
to try to obtain a clue on the possible functions for the hypothetical
proteins. 7– Topological Analysis The metrics used in order to extract biological information from
the predicted PPIs were calculated using the CytoHubba Version
1.6 plug-in [46] at Cytoscape. In this work we used Degree and
Maximal Centrality Clique (MCC). According to CytoHubba
developer
site
(http://hub.iis.sinica.edu.tw/cytoHubba/
supplementary/index.htm), the MCC topological index showed
the highest overlap with known essential proteins of PPI network
of Saccharomyces cerevisiae. The reported overlap was 80% for the top
10 proteins and 70% for the top 100 proteins of the network. Considering this outstanding performance, we use the MCC index
to rank the top 20 proteins from the three predicted PPI network. Moreover, the variability of the top ranked proteins was also
assessed based on the ortholog group information present in the
TriTrypDB. In this database, the proteins of the Kinetoplastids
are clustered in groups based on OrthoMCL database information
(http://www.orthomcl.org/cgi-bin/ OrthoMclWeb.cgi). Thus, for The metrics used in order to extract biological information from
the predicted PPIs were calculated using the CytoHubba Version
1.6 plug-in [46] at Cytoscape. In this work we used Degree and
Maximal Centrality Clique (MCC). According to CytoHubba
developer
site
(http://hub.iis.sinica.edu.tw/cytoHubba/
supplementary/index.htm), the MCC topological index showed
the highest overlap with known essential proteins of PPI network
of Saccharomyces cerevisiae. The reported overlap was 80% for the top
10 proteins and 70% for the top 100 proteins of the network. Considering this outstanding performance, we use the MCC index
to rank the top 20 proteins from the three predicted PPI network. The FS-Weight method, which stands for Functional Similarity
Weight, is based on direct and indirect functional association using
PPI networks as the main input. Either direct or indirect neighbors
of a protein may share some physical or biochemistry features that
allow them to bind to this protein. Therefore, this method has as
an advantage that it does not use only direct interaction partners,
which would limit prediction to proteins that have at least one
interaction partner with known annotation, actually, FS-Weight
also uses indirect interaction partners which increases the chance
of predicting a protein function [58]. Furthermore, it calculates a
functional similarity between two proteins, not necessarily from
direct partners, based on the topological context of both proteins
and the reliability of the interactions they do. This calculation is
applied in order to reduce the effects of including erroneous
interactions. December 2012 | Volume 7 | Issue 12 | e51304 PPI Networks in Leishmania Genus PPI Networks in Leishmania Genus each ortholog group associated with the top ranked proteins a
multiple sequence alignment was performed using MAFFT [47]
and the mean identity evaluated with the alistat program from
HMMER package. – Predicting Functional and Conserved Module 5– Gene Ontology Annotation For the functional annotation attribution we adopted the
classification vocabulary defined by the Gene Ontology Consor-
tium [41] (GO - http://www.geneontology.org/). The ontology
covers three domains: cellular component, the parts of a cell or its
extracellular environment; molecular function, the elemental
activities of a gene product at the molecular level, such as binding
or catalysis; and biological process, operations or sets of molecular
events with a defined beginning and end, pertinent to the
functioning of integrated living units: cells, tissues, organs, and
organisms. scoreSTRING~
similarity(AX)zsimilarity(BY)
2
z
identity(AX)zidentity(BY)
2
z
coverage(AX)zcoverage(BY)
2
3
0
@
1
A
|scoreString(X,Y)
scoreIntAct~
similarity(AX)zsimilarity(BY)
2
z
identity(AX)zidentity(BY)
2
z
coverage(AX)zcoverage(BY)
2
3
0
@
1
A
|scoreIntAct(X,Y)
PLOS ONE | www.plosone.org scoreSTRING~
similarity(AX)zsimilarity(BY)
2
z
identity(AX)zidentity(BY)
2
z
coverage(AX)zcoverage(BY)
2
3
0
@
1
A
|scoreString(X,Y)
scoreIntAct~
similarity(AX)zsimilarity(BY)
2
z
identity(AX)zidentity(BY)
2
z
coverage(AX)zcoverage(BY)
2
3
0
@
1
A
|scoreIntAct(X,Y) scoreSTRING~ scoreIntAct~ The GO annotation schema adopted in this work came from
the public Kinetoplastid database TriTrypDB version 4.1 (http://
tritrypdb.org/tritrypdb/) [42]. This database provides for each of
three GO ontologies two kinds of evidence of annotation, one is
called annotated and the other predicted. In order to guarantee a
higher confidence on the functional annotation, when possible the
annotated terms were used for further analysis. |scoreIntAct(X,Y) PLOS ONE | www.plosone.org PLOS ONE | www.plosone.org December 2012 | Volume 7 | Issue 12 | e51304 December 2012 | Volume 7 | Issue 12 | e51304 3 4– Characterizing Modules At this point, the algorithm networkBLAST was used to identify
the modules in the PPIs. The number of conserved modules
shared by the three species of Leishmania was 199. Despite over
millions years of proposed divergence for the analyzed species, this
result is not surprising considering that a high synteny was already
observed and reported between all sequenced Leishmania species
[59]. Subsequent to the filtering process, the three proteomes were
used for PPIs prediction. These predictions were made based on
different databases, such as Domine, PSI-Base, IntAct and String. Using these evidences, we proposed and calculated a combined
score for the interactions predicted in the PPIs which ranged from
0 to 1. Afterwards, it was possible to demonstrate the wellness of fit
of scale-free models for the three predicted PPIs (Table 3). Subsequently, as detailed in Methods section, a function
annotation assignment to the network modules was performed
using the Biological Process hierarchy of the Gene Ontology and
the Perl programming modules GO::TermFinder. This approach
allowed the identification of 153 modules which had GO terms
with a frequency higher than the expected. In that cases where a
given network module received more than one GO term, the most
significant one characterized by the smallest P-value in the
enrichment analysis was chosen. A complete description including
the results obtained for all 153 networks modules annotated can be
found in the Table S4. It worths to mention that differently from
standard clustering algorithms the networkBLAST approach can
produce overlapping modules which makes sense from the
biological point of view since one protein can belong to more
than one network module. The PPIs predicted were then compared against 1,000 random
networks. The Clustering Coefficient and the Mean Shortest Path
were compared (Table 3). The values of the Clustering Coefficient
of the PPIs are much greater than the random networks adding an
extra layer of credibility for the predicted networks. As a result, the predicted PPIs incorporated 23%, 24%, and
25% (Table 4) of the proteins from the filtered proteomes of L. braziliensis (Table S1), L. major (Table S2) and L. infantum (Table S3)
respectively. Figure 2 shows one of the three networks. Furthermore, we used GO terms to try to draw a function
profile of the networks. For this analysis, we used the predicted
terms present in TritrypDB database instead of annotated terms. 7– Topological Analysis Hence, the more common proteins exist interacting Moreover, the variability of the top ranked proteins was also
assessed based on the ortholog group information present in the
TriTrypDB. In this database, the proteins of the Kinetoplastids
are clustered in groups based on OrthoMCL database information
(http://www.orthomcl.org/cgi-bin/ OrthoMclWeb.cgi). Thus, for December 2012 | Volume 7 | Issue 12 | e51304 PLOS ONE | www.plosone.org 4 PPI Networks in Leishmania Genus Table 1. Performance evaluation of approach used to predict
PPI networks. Measure of confidence
AUC value
Developed method
0.94
Geometric mean of score
0.74
Geometric mean of evalue
0.57
Maximum evalue
0.55
doi:10.1371/journal.pone.0051304.t001 Table 1. Performance evaluation of approach used to predict
PPI networks. with two any proteins the chances that these two proteins share
some biological function are higher. In addition, FS-Weight gives
greater weight to common neighbors than non-common ones [58]. It is also worth mentioning that the FS-Weight performance was
not re-evaluated for Leishmania species. The work that described
the approach utilized data of S. cerevisae to validate the method. Therefore, some caution must be taken in using the function
predictions
made
for
hypothetical
proteins
present
in
our
networks. Moreover, to apply this annotation approach it is necessary to
use an annotation schema that has already been used for the
proteins with known functions. For this purpose we used the three
GO ontologies already described. Molecular Function) were applied and similar results were found. Considering a frequency larger than 2 for a given GO term, it is
worth pointing out that the total intersection among the predicted
networks was 79%, 84%, and 75% for Biological Process, Cellular
Component, and Molecular Function, respectively. In fact, from
the top 10 most frequent GO terms for each ontology, 8 of them
for Biological Process, 7 of them for Molecular Function and all of
them for Cellular Component are the same for the three networks. 1– Evaluation of PPI Prediction Approach 1
Evaluation of PPI Prediction Approach
As detailed at Methods section, in order to evaluate the
confidence of our network prediction methodology, gold standards
positive and negative datasets were built from DIP database using
the protein interaction data from E.coli, used here as model
organism. This high quality control dataset that integrates 702
positive protein pairs and 3,510 negative protein pairs was used in
the performance evaluation made by Receiver Operating Char-
acteristics (ROC) graphs. 3– Evolution Analysis In order to obtain information relative to the correlation
between the number of interactions that a protein does and its
conservation degree, we compared the number of interactions of
the proteins of our networks against the nucleotide diversity of the
genes that encode them (Figure 3). Based on this analysis, as the
proteins increase the number of interactions that they participate
in, their diversity degree, measured here by p (nucleotide diversity
index), decrease. From the results obtained for the three predicted
networks we can suggest the existence of an evolutionary pressure
for the maintenance of a lower diversity in proteins with a high
number of interactions. The accuracy of the proposed methodology measured by the
area under the ROC curve can be addressed on Table 1 and
through the plot presented on Figure 1. The AUC value of 0.94
obtained for score_comb indicates the robustness of the approach
adopted. However, this result should be considered carefully since
the databases used for the interolog-mapping contain many E. coli
interactions. This might lead the evaluation of the confidence of
our networks to some degree of bias. 2– Filtering of Data and PPIs Prediction As mentioned earlier, a filtering step was performed on the three
proteomes in study in order to select sequences that were correctly
annotated. A small percentage of proteins were excluded from our
analyses since they presented possible errors. Then, the predicted
proteome of L. braziliensis, L. major and L. infantum lost 4.33%,
2.95%, and 4.78% of proteins, respectively (Table 2). December 2012 | Volume 7 | Issue 12 | e51304 4– Characterizing Modules The rationale underlying this choice was associated with the small
number of GO terms annotated for L. braziliensis that would
prevent its comparison against the other two leishmanias. The
three ontologies (Biological Process, Cellular Component, and It is also important to highlight that only 57 unique GO terms
were used to describe the 153 network modules predicted and the
most frequent terms were assigned to modules which are likely
involved in biological processes related to protein folding,
translation, tRNA aminoacylation for protein translation, energy PLOS ONE | www.plosone.org December 2012 | Volume 7 | Issue 12 | e51304 5 PPI Networks in Leishmania Genus Figure 1. Performance evaluation of approached used to predict PPI networks using the ROC curve. Here the predictions were
compared against a gold standard data of interactions extracted from DIP database for E. coli (see text for details). doi:10.1371/journal.pone.0051304.g001 Figure 1. Performance evaluation of approached used to predict PPI networks using the ROC curve. Here the predictions were
compared against a gold standard data of interactions extracted from DIP database for E. coli (see text for details). doi:10.1371/journal.pone.0051304.g001 proteins that are central for different cliques (subgraphs) and with
high interaction degree (Table S6). derivation by oxidation of organic compounds and carbohydrate
metabolism. Taking into consideration the biological significance of this
functional analysis, these results were overlapped with topological
analysis. The following analyses were conducted for that list of proteins:
a) amino acid variability present in orthologs groups; b) degree of
conservation against proteins of three potential hosts (M. musculus,
C. lupus familiaris and H. sapiens); and c) epitope computational
prediction. 5– Topological Analysis Regarding the variability of these proteins, our results revealed
an average identity of 80% between the top 20 proteins ranked by
MCC index and their orthologs. Therefore, it was possible to According to our proposed methodology, two topological
indexes (Degree and MCC) were utilized to study the interaction
networks predicted here (Table S5). Then, we sorted the proteins
present in the PPIs using the MCC index, and we obtained a list of December 2012 | Volume 7 | Issue 12 | e51304 December 2012 | Volume 7 | Issue 12 | e51304 PLOS ONE | www.plosone.org 6 PPI Networks in Leishmania Genus Table 2. Number of proteins in the predicted proteome of the target organisms before and after the filtering. Organism
Total of proteins
Total of proteins after filtering
Relative number of lost
proteins (%)
L. braziliensis
8310
7950
4.33
L. major
8408
8160
2.95
L. infantum
8216
7823
4.78
doi:10.1371/journal.pone.0051304.t002 notice that these proteins were relatively conserved among the
Kinetoplastids. them are shared by the top 20 ranked proteins of each predicted
PPI network. Finally, in respect to immunological potential for these proteins,
all of them had more than 5 epitopes predicted for B cells
receptors. For the epitope prediction for MHC class I, 12 different
alleles were tested and all tested proteins had at minimum of 2
predicted epitopes with potential binding affinity to at least 11
alleles. The last analysis was for epitope predictions of MHC class
II. The predictor used for this analysis provides along with the
epitope prediction a measure of binding affinity between the
epitope and the receptor, and this measure is divided in two
categories: weak binding (WB) and strong binding (SB). We
selected just predictions which were categorized as SB. Thus, all
proteins have at least 2 epitopes with binding affinity to at
minimum of 1 allele tested. The total of tested alleles was 17. On the other hand, only two proteins, LbrM22_V2.0510
(proteasome regulatory ATPase subunit 1) and LmjF36.1650
(proteasome beta 5 subunit), from L. braziliensis and L.major
respectively, had identity higher than 60% when compared against
the host proteomes. In addition, L. infantum presented 2 proteins
with
identity
higher
than
60%,
they
are
LinJ36_V3.1730
(proteasome beta 5 subunit) and LinJ22_V3.0490 (proteasome
regulatory ATPase subunit 5). 6– Annotation Prediction for Hypothetical Proteins y
In order to address the usefulness of the predicted network to
assign some level of functional annotation to hypothetical proteins,
we decided to use an approach called FS-Weight that takes into
account both direct and indirect neighbors as detailed at Method
section. From the total number of proteins covered by the
networks, approximately 21% were originally annotated as
hypothetical. From this set of proteins, nearly 40%, 48%, and
55% of them received some GO term based on the FS-Weight
approach (Table 4). In addition, it is important to point out that
this approach provides a score for all annotation prediction that
ranges from 0 to 1, and that just GO terms which received a score
equal to 1 were considered. Furthermore, when we crossed the
information on modules against the hypothetical proteins that
received a putative function it was possible to note that for the
three networks the hypothetical proteins are more frequently
present in modules involved in RNA metabolism. All proteins that
received a functional annotation are available in Table S7. Table 3. Fitting results for scale-free model, and Clustering
Coefficient and Mean Shortest Path for PPIs compared against
the same measure extracted from 1000 Random PPIs. the same measure extracted from 1000 Random PPIs. Leishmania braziliensis
Scale free model
Correlation
R2
0.941
0.816
Random model
Measure
Modeled PPI
Random PPIs
P-value
Clustering Coefficient
0.433
0.15960,003
p,0.05
Mean Shortest Path
2.877
2.57960,004
p,0.05
Leishmania major
Scale free model
Correlation
R2
0.925
0.815
Random model
Measure
Modeled PPI
Random PPIs
P-value
Clustering Coefficient
0.430
0.15760.003
p,0.05
Mean Shortest Path
2.914
2.58460.004
p,0.05
Leishmania infantum
Scale free model
Correlation
R2
0.940
0.829
Random model
Measure
Modeled PPI
Random PPIs
P-value
Clustering Coefficient
0.424
0.16060.003
p,0.05
Mean Shortest Path
2.886
2.57360.004
p,0.05
doi:10.1371/journal.pone.0051304.t003 5– Topological Analysis In this context, we can suggest that the low identity presented by
the great majority of the top ranked proteins can be interesting for
drug and vaccine studies. The rationale in suggesting that these proteins could be used for
medical purposes can be reinforced by the predicted function of
the network modules that they are inserted in. We noted that the
most of modules were involved in protein turnover which is known
to be involved in responses to vaccination [60]. In addition, we
found a total of 9 GO terms describing these modules and 7 of December 2012 | Volume 7 | Issue 12 | e51304 doi:10.1371/journal.pone.0051304.t003 December 2012 | Volume 7 | Issue 12 | e51304 Discussion Graph of median of Nucleotide Diversity (p) measure (Y axis) versus Degree range (X axis) of three
PPIs. doi:10.1371/journal.pone.0051304.g003 Figure 3. Degree versus diversity analysis. Graph of median of Nucleotide Diversity (p) measure (Y axis) versus Degree range (X axis) of three
PPIs. doi:10.1371/journal.pone.0051304.g003 doi:10.1371/journal.pone.0051304.g003 annotation for the three different leishmanias, which is valuable
since our main input data was the protein sequences and the final
results depended on the quality of them. number of proteins mapped in PPIs is a reflection of low levels of
similarity between leishmania species and the used database
content. On the other hand, the differences between the predicted
number of interactions observed in our work and Flo´rez 2010 can
be explained by the different sources of information and
approaches used. Still on the computational prediction quality issue, in our results
we described the assessment of the PPIs based on some known
network models such as scale-free model [9] to guarantee their
confidence. It is possible to suggest that the PPI networks predicted
are consistent as they present features which are common for
biological networks currently described. In addition, when the
PPIs were compared to random networks (Table 3), it was possible
to notice that the values of the Clustering Coefficient of the PPIs
are much greater than the random networks, a find that once
again suggests the PPIs prediction strength and the absence of
spurious interactions. Both results can be used to illustrate the
confidence of interolog mapping approach and to reinforce the
result found for its evaluation performance, even when there might
be a possibility of bias on the evaluation. Following the network assessment, the first analysis performed
in the three PPIs was a Gene Ontology functional annotation. Moreover, it is also noteworthy that the most frequent terms for
the three networks regarding Molecular Function ontology are
related with binding function, which makes sense since the
proteins present in the PPIs are predicted to interact with each
other. On the other hand, about the Cellular Component
category, we observed terms associated with protein complexes
such as proteasome and ribosome. Again, this was somehow
expected since a set of interacting proteins possibly are going to
form complexes. However, for Biological Process, we obtained a
higher diversity of terms that can be hypothesized to be explained
by the fact that the same protein can participate in many different
processes in a cell. December 2012 | Volume 7 | Issue 12 | e51304 Discussion Based on the results obtained regarding the accuracy of the
proposed approach for network prediction (AUC value equal to
0.94), we can state that the prediction methodology is relatively
reliable (Figure 1), and the predicted protein interactions own a
good confidence. However, as it was said on Results section, the
databases used for the methodology have many interactions of E. coli. This might make the performance evaluation a practice of
circular reasoning, and thus lead it to some degree of bias. In addition, we compared our interaction score schema against
others previously published [61]. It is clear from the obtained
results (AUC values presented in Table 1) that the score schema
we used outperformed the others. Therefore, we applied our
interaction score schema for leishmania PPI networks predictions. Furthermore, the lost associated with the filtering step (detailed
in results) was small and this result reflects the quality of genome PLOS ONE | www.plosone.org December 2012 | Volume 7 | Issue 12 | e51304 December 2012 | Volume 7 | Issue 12 | e51304 7 PPI Networks in Leishmania Genus Table 4. General features of the three predicted PPI Networks. Organism
Number of Nodes (Proteins)
Number of Interactions
Number of hypothetical
protein
Number of hypothetical
protein annotated (%)*
L. braziliensis
1818
39420
381
153 (40%)
L. major
1947
43531
416
200 (48%)
L. infantum
1959
45235
415
229 (55%)
*Proteins were annotated following the methodology described in the text. doi:10.1371/journal.pone.0051304.t004 Organism
Number of Nodes (Proteins)
Number of Interactions
Number of hypothetical
protein
Number of hypothetical
protein annotated (%)*
L. braziliensis
1818
39420
381
153 (40%)
L. major
1947
43531
416
200 (48%)
L. infantum
1959
45235
415
229 (55%)
*Proteins were annotated following the methodology described in the text. Figure 2. Protein-Protein Interaction for L. infantum visualized using Cytoscape 2.8.3 and the Edge-weighted spring embedded
layout. doi:10.1371/journal.pone.0051304.g002 Figure 2. Protein-Protein Interaction for L. infantum visualized using Cytoscape 2.8.3 and the Edge-weighted spring embedded
layout. doi:10.1371/journal.pone.0051304.g002 y
doi:10.1371/journal.pone.0051304.g002 December 2012 | Volume 7 | Issue 12 | e51304 December 2012 | Volume 7 | Issue 12 | e51304 PLOS ONE | www.plosone.org 8 PPI Networks in Leishmania Genus Figure 3. Degree versus diversity analysis. Graph of median of Nucleotide Diversity (p) measure (Y axis) versus Degree range (X axis) of three
PPIs. doi:10.1371/journal.pone.0051304.g003 Figure 3. Degree versus diversity analysis. PPI Networks in Leishmania Genus PPI Networks in Leishmania Genus We also performed an evolution analysis in order to verify
whether there was any trend related to the number of interactions
and protein sequence diversity. Our results indicate that the
number of interactions and diversity are inversely proportional,
meaning that as the diversity increases, the number of interactions
decreases. In
protein-protein
interaction
networks,
proteins
presenting several interactions (high degree) are generally called
hub nodes and genome-wide studies [62,63] have shown that the
deletion of a hub protein is more likely to be lethal than the
deletion of a non-hub protein (centrality-lethality rule). In
addition, this finding makes sense because these proteins probably
are involved in different biological process within a cell with
relative success and, in this context, if a random mutation
happens, it will likely produce a negative outcome. importance, since some organisms, which comprise a part of this
group such as the ones that are targets of this work, have around
60% of their predicted proteomes composed of uncharacterized
proteins [56,57]. This scenario is kept current even within the
‘omics’ age because the majority of studies often focus on already
well understood and established molecular scenarios. Therefore,
the opportunity to expand knowledge further than the known and
expected is rarely attempted [65]. Furthermore, the majority of researchers are not interested in
investigating the molecular data that are hard to interpret in the
light of current biological knowledge, i.e. data on hypothetical
proteins [65]. However, the Systems Biology approaches can help
to improve these numbers. Thus, there is a group of methods in
the Systems Biology context that aims at exploiting information
derived from networks to elucidate functional prediction. Hence,
various classification methods allow for general function predic-
tions utilizing ‘homology-free’ protein sequence features [65]. Therefore, the points raised herein show that the predicted PPI
networks are biologically consistent. Otherwise, we had a trend of
proteins with a wide diversity of conservation as hubs. Another point addressed in our analysis was the network
modularity of the predicted PPIs. Modularity is one measure of the
structure of networks and many previous works have reported that
biological networks are modular [10,37,43,64]. This feature is
important for their robustness since a modular architecture
guarantees that a system failure is isolated [37]. Thus, if we are
interested in destabilizing the PPIs for drug or vaccine purposes,
we need to know the modules present in the networks. PPI Networks in Leishmania Genus An example of the application of a network study to elucidate a
function of an uncharacterized protein can be found in the work of
Cui et al where they built a protein-protein interaction network for
Mycobacterium tuberculosis using an homology protein mapping
approach [66]. In this study, a hypothetical protein with a high
degree of interaction was found and evidence for its function came
from the fact that it interacts with the same group of ABC
transporter ATPase subunits as does a known protein [66]. Thus,
this rationale of assigning a function based on the neighbors of a
protein can be extremely useful. In this context, aiming to measure modularity, a clustering
analysis was performed in order to identify conserved modules. As
it was stated in results section, we found 153 conserved modules
which had a function assigned by the enrichment analysis, and
these modules can be grouped in 57 different functions. In our results, around 50% of the hypothetical proteins present
in the networks received some functional annotation. Moreover,
the most frequent modules, where those proteins are present, are
related to RNA metabolism. This could be interesting as there is
currently a huge amount of studies involving different types of
RNA and their roles in distinct biological phenomena. Based on these findings, it is possible to note that there are many
protein complexes (modules) that are essential for the studied
organisms. Thus, it is worth to explore in more details these
complexes along with the topological information of the network
proteins with the potential to elect new potential proteins targets
for vaccine and drug development. Finally, our group is involved in analysis concerning ‘‘Intrinsi-
cally Unstructured Proteins’’ (IUPs) and our previous results (still
unpublished) link many features of this group of proteins with the
group of hypothetical proteins in Trypanosomatids (data not
published). This should be investigated in the future since there are
many articles showing how important the IUPs are for the protein-
protein interaction networks [67–70]. In addition, other sources of information were integrated to
topological analysis, such as immunological potential, degree of
protein sequence conservation among orthologs and degree of
identity compared to proteins of potential parasite hosts (human,
dog and mouse).This information integration provides a better
understanding that can be valuable to select new potential
biological targets. Discussion In terms of the number of proteins present in the PPIs, our
findings are comparable to those found for L. major by Flo´rez 2010,
which found nearly 16% of the L. major predicted proteome in a
predicted PPI. According to the authors, the reason for the small December 2012 | Volume 7 | Issue 12 | e51304 PLOS ONE | www.plosone.org 9 December 2012 | Volume 7 | Issue 12 | e51304 References 1. Murray HW, Berman JD, Davies CR, Saravia NG (2005) Advances in
leishmaniasis. Lancet 366: 17. 17. Florez AF, Park D, Bhak J, Kim BC, Kuchinsky A, et al. (2010) Protein network
prediction and topological analysis in Leishmania major as a tool for drug target
selection. Bmc Bioinformatics 11: 484. 2. Hotez PJ, Bottazzi ME, Franco-Paredes C, Ault SK, Periago MR (2008) The
Neglected Tropical Diseases of Latin America and the Caribbean: A Review of
Disease Burden and Distribution and a Roadmap for Control and Elimination. Plos Neglected Tropical Diseases 2: e300. doi:10.1371/journal.pntd.0000300. 18. Matthews LR, Vaglio P, Reboul J, Ge H, Davis BP, et al. (2001) Identification of
potential interaction networks using sequence-based searches for conserved
protein-protein interactions or ‘‘interologs’’. Genome research 11: 2120–2126. p
p
g
19. Yu H, Luscombe NM, Lu HX, Zhu X, Xia Y, et al. (2004) Annotation transfer
between genomes: protein–protein interologs and protein–DNA regulogs. Genome research 14: 1107–1118. 3. Hadighi R, Boucher P, Khamesipour A, Meamar AR, Roy G, et al. (2007)
Glucantime-resistant Leishmania tropica isolated from Iranian patients with
cutaneous leishmaniasis are sensitive to alternative antileishmania drugs. Parasitology Research 101: 1319–1322. 20. Xenarios I, Rice DW, Salwinski L, Baron MK, Marcotte EM, et al. (2000) DIP:
the Database of Interacting Proteins. Nucleic Acids Research 28: 289–291. 4. Rojas R, Valderrama L, Valderrama M, Varona MX, Ouellette M, et al. (2006)
Resistance to antimony and treatment failure in human Leishmania (Viannia)
infection. Journal of Infectious Diseases 193: 1375–1383. 21. Muley VY, Ranjan A (2012) Effect of Reference Genome Selection on the
Performance of Computational Methods for Genome-Wide Protein-Protein
Interaction Prediction. PloS one 7: e42057. 5. Lira R, Sundar S, Makharia A, Kenney R, Gam A, et al. (1999) Evidence that
the high incidence of treatment failures in Indian kala-azar is due to the
emergence of antimony-resistant strains of Leishmania donovani. Journal of
Infectious Diseases 180: 564–567. 22. Gomez SM, Noble WS, Rzhetsky A (2003) Learning to predict protein-protein
interactions from protein sequences. Bioinformatics 19: 1875–1881. p
q
23. Jansen R, Yu HY, Greenbaum D, Kluger Y, Krogan NJ, et al. (2003) A
Bayesian networks approach for predicting protein-protein interactions from
genomic data. Science 302. 6. Rijal S, Yardley V, Chappuis F, Decuypere S, Khanal B, et al. (2007)
Antimonial treatment of visceral leishmaniasis: are current in vitro susceptibility
assays adequate for prognosis of in vivo therapy outcome? Microbes and
Infection 9: 529–535. 24. Conclusion This work was the first to predict three protein-protein
interaction networks for three different species of Leishmania and
to compare them to each other. A new interaction score schema
was proposed and proved to be reliable. Using this strategy, we
observed that it is possible to extract important information related
to the biology of the studied organism. In addition, using the
topological information, we can select proteins that are potential
targets for drugs and vaccine development. However, since
vaccine and drug prediction represent a complex and multifacto-
rial problem, more data, such as structural data, expression data,
etc could be added in order to choose the proteins for future
studies in a more efficient way. Using this rationale, we suggested a list of proteins (Table S6)
that can be attractive for medical purposes. These proteins have a
low identity against proteins from hosts, they are potentially
recognized by B cells and T cell receptors and are highly
conserved compared to their orthologs. In addition, they seem to
be central for many biological processes as they have high values of
MCC and degree indexes, thus if they are neutralized all the
system of protein interaction might suffer severe damage. Moreover, those proteins do not have high level of identity
against the proteins from host proteomes, a desirable characteristic
for proteins that will be selected for vaccine development and/or
drug therapy. Consequently, side effects can be avoided. Other
important feature is the high level of conservation of them when
compared against their orthologs; this can guarantee a wide
spectrum of action. In the end, they have several potential epitopes
which
are
fundamental
for
the
most
important
kinds
of
immunological responses. In addition, addressing the network information, it was possible
to infer some clues regarding some hypothetical proteins that did
not have any information related to their molecular functions in
the cell. In summary, based on the evidences reported here, we believe
that the networks modeled are biologically consistent and can be
useful as tool for different kinds of studies on these organisms. Finally, we are interested in using the PPI network information
in an annotation framework to assign a putative function to the
currently predicted hypothetical proteins. Within the Trypanosa-
matids context, the study of hypothetical proteins has huge December 2012 | Volume 7 | Issue 12 | e51304 PLOS ONE | www.plosone.org 10 PPI Networks in Leishmania Genus Acknowledgments We thank for the following agencies for their past and current support for
our research: CPqRR – FIOCRUZ (Centro de Pesquisas Rene´ Rachou –
FIOCRUZ); CAPES (Coordenac¸a˜o de Aperfeic¸oamento de Pessoal de
Ensino Superior); FAPEMIG (Fundac¸a˜o de Amparo a` Pesquisa do Estado
de Minas Gerais) grant APQ-02382-10 and APQ-01835-10. CNPq
(National Counsel of Technological and Scientific Development) grant
476539/2010-2, GENOPROT (Rede Integrada de Estudos Genoˆmicos e
Proteoˆmicos) grant 560943/2010-5. We thank for the following agencies for their past and current support for
our research: CPqRR – FIOCRUZ (Centro de Pesquisas Rene´ Rachou –
FIOCRUZ); CAPES (Coordenac¸a˜o de Aperfeic¸oamento de Pessoal de
Ensino Superior); FAPEMIG (Fundac¸a˜o de Amparo a` Pesquisa do Estado
de Minas Gerais) grant APQ-02382-10 and APQ-01835-10. CNPq
(National Counsel of Technological and Scientific Development) grant
476539/2010-2, GENOPROT (Rede Integrada de Estudos Genoˆmicos e
Proteoˆmicos) grant 560943/2010-5. Table S3
Leishmania infantum PPI network. Description
of all predicted protein interactions and their confidence scores for
L. infantum predicted proteome. (TXT) Table S4
Annotation of Functional Modules (Clusters)
predicted for the three PPI networks. Description of
predicted modules including their scores, p-values and GO term id. (TXT) Table S7
Annotation of hypothetical proteins. Predicted
annotation based on FS-Weight and GO ontology assigned to
hypothetical proteins present in the networks.
(TXT) Table S2
Leishmania major PPI network. Description of
all predicted protein interactions and their confidence scores for L. major predicted proteome. (TXT) References Zhang LV, Wong SL, King OD, Roth FP (2004) Predicting co-complexed
protein pairs using genomic and proteomic data integration. Bmc Bioinformatics
5: 38. 7. Sauer U, Heinemann M, Zamboni N (2007) Genetics - Getting closer to the
whole picture. Science 316: 550–551. 25. Jansen R, Gerstein M (2004) Analyzing protein function on a genomic scale: the
importance of gold-standard positives and negatives for network prediction. Current Opinion in Microbiology 7: 535–545. 8. Harrington ED, Jensen LJ, Bork P (2008) Predicting biological networks from
genomic data. Febs Letters 582: 1251–1258. 26. Qi YJ, Klein-Seetharaman J, Bar-Joseph Z (2005) Random forest similarity for
protein-protein interaction prediction from multiple sources. Pacific Symposium
on Biocomputing 2005: 531–542. 9. Barabasi AL, Albert R (1999) Emergence of scaling in random networks. Science
286: 509–512. 10. Ravasz E, Somera AL, Mongru DA, Oltvai ZN, Barabasi AL (2002)
Hierarchical organization of modularity in metabolic networks. Science 297:
1551–1555. p
g
27. Sing T, Sander O, Beerenwinkel N, Lengauer T (2005) ROCR: visualizing
classifier performance in R. Bioinformatics 21: 3940–3941. 28. Raghavachari B, Tasneem A, Przytycka TM, Jothi R (2008) DOMINE: a
database of protein domain interactions. Nucleic Acids Research 36: D656–
D661. 11. Skrabanek L, Saini HK, Bader GD, Enright AJ (2007) Computational
Prediction of Protein-Protein Interactions. Molecular Biotechnology 38: 17. 29. Gong S, Yoon G, Jang I, Bolser D, Dafas P, et al. (2005) PSIbase: A database of
Protein Structural Interactome map (PSIMAP). Bioinformatics 21: 2541–2543. 12. Huynen MA, Bork P (1998) Measuring genome evolution. Proceedings of the
N i
l A
d
f S i
f h U i d S
f A
i
95 5849 5856 12. Huynen MA, Bork P (1998) Measuring genome evolution. Proceedings of the
National Academy of Sciences of the United States of America 95: 5849–5856. 30. Aranda B, Achuthan P, Alam-Faruque Y, Armean I, Bridge A, et al. (2010) The
IntAct molecular interaction database in 2010. Nucleic Acids Research 38:
D525–D531. y
13. Marcotte EM, Pellegrini M, Ng HL, Rice DW, Yeates TO, et al. (1999)
Detecting protein function and protein-protein interactions from genome
sequences. Science 285: 751–753. 31. Jensen LJ, Kuhn M, Stark M, Chaffron S, Creevey C, et al. (2009) STRING 8-a
global view on proteins and their functional interactions in 630 organisms. Nucleic Acids Research 37: D412–D416. 14. Author Contributions Table S5
Topological analysis. Values of MCC and Degree
indexes calculated for the proteins present in the three PPI
networks modeled. (TXT) Conceived and designed the experiments: AMR JCR. Performed the
experiments: AMR ELF JCR. Analyzed the data: AMR ELF DMR JCR. Contributed reagents/materials/analysis tools: JCR. Wrote the paper:
AMR JCR. Table S6
Analysis of top 20 ranked proteins of each PPI
network. Detailed description of top 20 ranked proteins by MCC Supporting Information index including product description, MCC and Degree values, host
protein analysis, orthologs analysis and immunological analysis. (XLS) index including product description, MCC and Degree values, host
protein analysis, orthologs analysis and immunological analysis. (XLS) index including product description, MCC and Degree values, host
protein analysis, orthologs analysis and immunological analysis. Table S1
Leishmania braziliensis PPI network. Descrip-
tion of all predicted protein interactions and their confidence
scores for L. braziliensis predicted proteome. (TXT) (XLS) Table S7
Annotation of hypothetical proteins. Predicted
annotation based on FS-Weight and GO ontology assigned to
hypothetical proteins present in the networks. (TXT) PPI Networks in Leishmania Genus PPI Networks in Leishmania Genus 35. Finn RD, Mistry J, Tate J, Coggill P, Heger A, et al. (2010) The Pfam protein
families database. Nucleic Acids Research 38: D211–D222. 53. Fraser HB, Hirsh AE, Steinmetz LM, Scharfe C, Feldman MW (2002)
Evolutionary rate in the protein interaction network. Science 296: 750–752. 54. Nei M, Li WH (1979) MATHEMATICAL-MODEL FOR STUDYING
GENETIC-VARIATION IN TERMS OF RESTRICTION ENDONUCLE-
ASES. Proceedings of the National Academy of Sciences of the United States of
America 76: 5269–5273. 36. von Mering C, Jensen LJ, Snel B, Hooper SD, Krupp M, et al. (2005) STRING:
known and predicted protein-protein associations, integrated and transferred
across organisms. Nucleic Acids Research 33: D433–D437. g
37. Barabasi AL, Oltvai ZN (2004) Network biology: Understanding the cell’s
functional organization. Nature Reviews Genetics 5: 101-U115. 55. Vilella AJ, Blanco-Garcia A, Hutter S, Rozas J (2005) VariScan: Analysis of
evolutionary patterns from large-scale DNA sequence polymorphism data. Bioinformatics 21: 2791–2793. 38. Assenov Y, Ramirez F, Schelhorn SE, Lengauer T, Albrecht M (2008)
Computing topological parameters of biological networks. Bioinformatics 24:
282–284. 56. Ivens AC, Peacock CS, Worthey EA, Murphy L, Aggarwal G, et al. (2005) The
genome of the kinetoplastid parasite, Leishmania major. Science 309: 436–442. 39. Shannon P, Markiel A, Ozier O, Baliga NS, Wang JT, et al. (2003) Cytoscape: A
software environment for integrated models of biomolecular interaction
networks. Genome Research 13: 2498–2504. 57. Peacock CS, Seeger K, Harris D, Murphy L, Ruiz JC, et al. (2007) Comparative
genomic analysis of three Leishmania species that cause diverse human disease. Nature Genetics 39: 839–847. 40. Smoot ME, Ono K, Ruscheinski J, Wang PL, Ideker T (2011) Cytoscape 2.8:
new features for data integration and network visualization. Bioinformatics 27:
431–432. 58. Chua HN, Sung WK, Wong L (2006) Exploiting indirect neighbours and
topological weight to predict protein function from protein-protein interactions. Bioinformatics 22: 1623–1630. 41. Ashburner M, Ball CA, Blake JA, Botstein D, Butler H, et al. (2000) Gene
Ontology: tool for the unification of biology. Nature Genetics 25: 25–29. 59. El-Sayed NM, Myler PJ, Blandin G, Berriman M, Crabtree J, et al. (2005)
Comparative genomics of trypanosomatid parasitic protozoa. Science 309: 404–
409. 42. Aslett M, Aurrecoechea C, Berriman M, Brestelli J, Brunk BP, et al. (2010)
TriTrypDB: a functional genomic resource for the Trypanosomatidae. Nucleic
Acids Research 38: D457–D462. 60. PPI Networks in Leishmania Genus Garlick PJ, McNurlan MA, Fern EB, Tomkins AM, Waterlow JC (1980)
STIMULATION OF PROTEIN-SYNTHESIS AND BREAKDOWN BY
VACCINATION. British Medical Journal 281. 43. Hartwell LH, Hopfield JJ, Leibler S, Murray AW (1999) From molecular to
modular cell biology. Nature 402: C47–C52. J
61. Yu HY, Luscombe NM, Lu HX, Zhu XW, Xia Y, et al. (2004) Annotation
transfer between genomes: Protein-protein interologs and protein-DNA
regulogs. Genome Research 14. 44. Sharan R, Suthram S, Kelley RM, Kuhn T, McCuine S, et al. (2005) Conserved
patterns of protein interaction in multiple species. Proceedings of the National
Academy of Sciences of the United States of America 102: 1974–1979. g
g
62. Jeong H, Mason SP, Barabasi AL, Oltvai ZN (2001) Lethality and centrality in
protein networks. Nature 411: 41–42. 45. Boyle EI, Weng SA, Gollub J, Jin H, Botstein D, et al. (2004) TermFinder - open
source software for accessing Gene Ontology information and finding
significantly enriched Gene Ontology terms associated with a list of genes. Bioinformatics 20: 3710–3715. 63. Lee I, Lehner B, Crombie C, Wong W, Fraser AG, et al. (2008) A single gene
network accurately predicts phenotypic effects of gene perturbation in
Caenorhabditis elegans. Nature Genetics 40: 181–188. 46. Lin CY, Chin CH, Wu HH, Chen SH, Ho CW, et al. (2008) Hubba: hub objects
analyzer - a framework of interactome hubs identification for network biology. Nucleic Acids Research 36: W438–W443. 64. Barabasi AL, Ravasz E, Oltvai Z (2003) Hierarchical organization of modularity
in complex networks. Statistical Mechanics of Complex Networks 625: 46–65. complex networks. Statistical Mechanics of Complex Networks 625: 65. Pawłowski K (2008) Uncharacterized/hypothetical proteins in biomedical
‘omics’ experiments: is novelty being swept under the carpet? Briefings in
functional genomics & proteomics 7: 283–290. 47. Katoh K, Misawa K, Kuma K, Miyata T (2002) MAFFT: a novel method for
rapid multiple sequence alignment based on fast Fourier transform. Nucleic
Acids Research 30: 3059–3066. g
p
66. Cui T, Zhang L, Wang X, He Z-G (2009) Uncovering new signaling proteins
and potential drug targets through the interactome analysis of Mycobacterium
tuberculosis. Bmc Genomics 10. 48. El-Manzalawy Y, Dobbs D, Honavar V (2008) Predicting linear B-cell epitopes
using string kernels. Journal of Molecular Recognition 21: 243–255. 49. Larsen MV, Lundegaard C, Lamberth K, Buus S, Lund O, et al. (2007) Large-
scale validation of methods for cytotoxic T-lymphocyte epitope prediction. Bmc
Bioinformatics 8: 424. 67. References Enright AJ, Iliopoulos I, Kyrpides NC, Ouzounis CA (1999) Protein interaction
maps for complete genomes based on gene fusion events. Nature 402: 86–90. 15. Sato T, Yamanishi Y, Kanehisa M, Toh H (2005) The inference of protein-
protein interactions by co-evolutionary analysis is improved by excluding the
information about the phylogenetic relationships. Bioinformatics 21: 3482–3489. 15. Sato T, Yamanishi Y, Kanehisa M, Toh H (2005) The inference of protein-
protein interactions by co-evolutionary analysis is improved by excluding the
information about the phylogenetic relationships. Bioinformatics 21: 3482–3489. 16. Kim JG, Park D, Kim BC, Cho SW, Kim YT, et al. (2008) Predicting the
Interactome of Xanthomonas oryzae pathovar oryzae for target selection and
DB service. Bmc Bioinformatics 9: 41. 32. Szklarczyk D, Franceschini A, Kuhn M, Simonovic M, Roth A, et al. (2011) The
STRING database in 2011: functional interaction networks of proteins, globally
integrated and scored. Nucleic acids research 39: D561–D568. p y g
p
16. Kim JG, Park D, Kim BC, Cho SW, Kim YT, et al. (2008) Predicting the
Interactome of Xanthomonas oryzae pathovar oryzae for target selection and
DB service. Bmc Bioinformatics 9: 41. 33. SF A, W G, W M, EW M, DJ L (1990) Basic Local Alignment Tool. Journal of
Molecular Biology 5: 7. 34. Eddy SR (1998) Profile hidden Markov models. Bioinformatics 14: 755–763. PLOS ONE | www.plosone.org December 2012 | Volume 7 | Issue 12 | e51304 11 PPI Networks in Leishmania Genus Oldfield CJ, Meng J, Yang JY, Yang MQ, Uversky VN, et al. (2007) Flexible
nets: disorder and induced fit in the associations of p53 and 14-3-3 with their
partners. Bmc Genomics 9:. 50. Nielsen M, Lund O (2009) NN-align. An artificial neural network-based
alignment algorithm for MHC class II peptide binding prediction. BMC
bioinformatics 10: 296. p
68. Haynes C, Iakoucheva LM (2006) Serine/arginine-rich splicing factors belong to
a class of intrinsically disordered proteins. Nucleic Acids Research 34: 305–312. 69. Dunker AK, Cortese MS, Romero P, Iakoucheva LM, Uversky VN (2005)
Flexible nets - The roles of intrinsic disorder in protein interaction networks. Febs Journal 272: 5129–5148. 51. Wuchty S (2004) Evolution and topology in the yeast protein interaction
network. Genome Research 14: 1310–1314. 52. Wuchty S (2006) Topology and weights in a protein domain interaction network
- a novel way to predict protein interactions. Bmc Genomics 7: 122–133. 70. Dyson HJ, Wright PE (2005) Intrinsically unstructured proteins and their
functions. Nature Reviews Molecular Cell Biology 6: 197–208. PLOS ONE | www.plosone.org December 2012 | Volume 7 | Issue 12 | e51304 12
|
https://openalex.org/W4321477121
|
https://zenodo.org/record/7665622/files/17.%20%20Dr.%20Anuja%20Joshi.pdf
|
English
| null |
RESILIENCE IN HIGHER EDUCATION DELIVERY TO ENDURE CHALLENGES DURING AND AFTER COVID-19 PANDEMIC
|
Zenodo (CERN European Organization for Nuclear Research)
| 2,023
|
cc-by
| 4,820
|
Abstract: COVID-19 had demoralising effects on almost every sector in its period of existence. It opened a challenge
in every form that humankind could contemplate. It has changed the way education is delivered. This
paradigm shift has made the teaching community as well as the students face challenges and converting
them into opportunities by accepting technology along with the digital world. This paper aims to study and
understand educator’s perceptions of the digital world, their Resilience as well as Digital Resilience in
these times and how have they evolved during pandemic. There are obvious disparities in teaching
pedagogies of teachers across various courses in an institute, but how has the institute ensured that all the
Programme Outcomes are attained in totality, is a matter of concern and has formed the basis for this
paper. Covid-19 has put focus on educator’s resilience and digital competencies while they deliver their
postgraduate programme. Resilience means “an ability to recover from or adjust easily to misfortune or
change” (Merriam-Webster) and Digital Resilience is “being more agile by adapting to digital change”. The paper aims to discuss how this pandemic outbreak has influencedteaching of an educator, their
participation in the digital world and their ability to accept this digital transformation and challenges faced
by them. The paper also tries to emphasise the efforts taken by the institute in ensuring quality and timely
learning is being provided to all students without any compromise in delivery and content of the course. This study will try to find out hurdles that could affect digital change and learning support for students to
enhance their digital competence. Keywords: Online Teaching and Learning, Higher Education, Teaching Pedagogies, Digital Resilience,
Covid-19 Pandemic Copyright © 2022 The Author(s): This is an open-access article distributed under the terms of the Creative Commons Attribution 4.0
International License (CC BY-NC 4.0) which permits unrestricted use, distribution, and reproduction in any medium for non-commercial use
provided the original author and source are credited. Copyright © 2022 The Author(s): This is an open-access article distributed under the terms of the Creative Commons Attribution 4.0
International License (CC BY-NC 4.0) which permits unrestricted use, distribution, and reproduction in any medium for non-commercial use
provided the original author and source are credited. RESILIENCE IN HIGHER EDUCATION DELIVERY TO ENDURE CHALLENGES
DURING AND AFTER COVID-19 PANDEMIC RESILIENCE IN HIGHER EDUCATION DELIVERY TO ENDURE CHALLENGES
DURING AND AFTER COVID-19 PANDEMIC Dr. Anuja Joshi,
Associate Professor,
Chetana’s Institute of Management Research ISSN–2277- 8721 ISSN–2277- 8721 ISSN–2277- 8721 ISSN–2277- 87
EIIRJ
Volume–XII, Issue– I (b) Jan – Feb 2023
Electronic International Interdisciplinary Researc
Journal
Original Research Article
RESILIENCE IN HIGHER EDUCATION DELIVERY TO ENDURE CHALLENGES
DURING AND AFTER COVID-19 PANDEMIC
Dr. Anuja Joshi,
Associate Professor,
Chetana’s Institute of Management Research Electronic International Interdisciplinary Research
Journal Jan – Feb 2023 Copyright © 2022 The Author(s): This is an open-access article distributed under the terms of the Creative Commons Attribution 4.0
International License (CC BY-NC 4.0) which permits unrestricted use, distribution, and reproduction in any medium for non-commercial use
provided the original author and source are credited. Introduction: Students had to face sev
they were not aware of the futu
especially students who were in th
those who were to appear entrance t
of educational institutions disrupted
learning; assessment and examinatio
Online teaching has come to res
reflected as the threat. However,
started coming up along with the
online mode of teaching in high
institutions (HEIs).One of the sign
arises regarding online teaching lear
it is effective? However, it is effectiv
have right access to the technology
very vital role for better learn ISSN–2277- 8721 EIIRJ
Volume–XII, Issue– I (b)
Electronic
Journal
WHO which were ratified by the most of the
countries
across
the
world
compelled
the
governments to shut down the institutions of mass
gatherings. So
along
with
the
educational
institutions the academic year-end exams and
competitive exams were postponed indefinitely. This step was taken in order to slow down and
contain the spread of Corona virus in India by
segregating the people who were infected with
COVID-19. This process known as Lockdown
wherein the Government had imposed severe
restrictions on the movement and the gatherings of
the people in order to control the spread of this
disease. All the educational institutions in India had
to be shut down Right from the primary schools to
the universities. The regular classes were suspended
citing threat to the lives of the learners and the
teachers. It also affected the lives of the aspirants
who were preparing for competitive & entrance
exams. The major and devastating impact this
pandemic brought in the global education is, it led
to sudden shift of education from classroom
teaching to the online mode of teaching and learning
that has affected the teaching and learning process
in Universities, colleges and schools and thus it has
significantly disrupted the higher education sector
in India. EIIRJ
Volume–XII, Issue– I (b) EIIRJ
Volume–XII, Issue– I (b) Electronic International Interdisciplinary Research
Journal Jan – Feb 2023 This paper intends to understand the issues that are
associated with the higher education in India due to
COVID-19 and to focus on certain drawbacks in the
context of online education and its psychological
impact on the lives of the students. Introduction: the most due to this pandemic. This pandemic has
made the world to observe social distancing in the
public space. In 2020,the WHO declared it as
pandemic. The guidelines that were issued by the The outbreak of COVID-19 has forced many
countries to enforce lockdowns that brought
everything to a standstill including the teaching and
learning process. The educational sector suffered 100 | P a g e Peer Reviewed Refereed Journal Peer Reviewed Refereed Journal SJIF Impact Factor: 8.095 IS
EIIRJ
Volume–XII, Issue– I (b) Jan
Electronic International Interdisciplinar
Journal
Original Resea
WHO which were ratified by the most of the
countries
across
the
world
compelled
the
governments to shut down the institutions of mass
gatherings. So
along
with
the
educational
institutions the academic year-end exams and
competitive exams were postponed indefinitely. This step was taken in order to slow down and
contain the spread of Corona virus in India by
segregating the people who were infected with
COVID-19. This process known as Lockdown
wherein the Government had imposed severe
restrictions on the movement and the gatherings of
the people in order to control the spread of this
disease. All the educational institutions in India had
to be shut down Right from the primary schools to
the universities. The regular classes were suspended
citing threat to the lives of the learners and the
teachers. It also affected the lives of the aspirants
who were preparing for competitive & entrance
exams. The major and devastating impact this
pandemic brought in the global education is, it led
to sudden shift of education from classroom
teaching to the online mode of teaching and learning
that has affected the teaching and learning process
in Universities, colleges and schools and thus it has
significantly disrupted the higher education sector
in India. We can say that with the introduction of learning
This paper intends to understand th
associated with the higher education
COVID-19 and to focus on certain d
context of online education and it
impact on the lives of the students. Impact on Higher Education:
Around the second week of Mar
government across the country beg
the schools, colleges due to COVI
the crucial time for students as diffe
institute usually hold examination du
and different entrance test of vari
and competitive examination were t
this period. EIIRJ
Volume–XII, Issue– I (b) EIIRJ
Volume–XII, Issue– I (b)
Electronic Internat
Journal
in India lot of people are not completely well
equipped with all the facilities and many times they
cannot get access to fast internet thatis neededfor
online teaching &learning process. Lack of student involvement during the online
classes has increased absenteeism and poor
performance. Unfortunately, student’s passive role
in the classroom became one of the significant
reason for ineffective online teaching and learning
process. Mobile applications or virtual meeting
platforms like Zoom, Google meet became the
virtual meeting hubs. dimension
Though
learning,
situation
literacy. P
technolog
informati
and Dista
it encoura
positive r
during th
available Electronic International Interdisciplinary Research
Journal Jan – Feb 2023
Original Research Article
dimension to the teaching learning process in India. Though there are many drawbacks of online
learning, it became survivor during the worst
situation in the country. It enhanced the digital
literacy. People started learning and using digital
technology. Electronic media was used for sharing
information worldwide. Students preferred Open
and Distance Learning (ODL) mode of learning as
it encourages self-learning. The HEIs also gave their
positive response by adopting different strategies
during this crisis. UGC, MHRD also have made
available teaching and learning materials for
students to motivate learning. Some of the digital
initiatives have proved to be very effective during
the COVID crisis. Some of them are listed below:
Swayam- It is said that SWAYAM covers over
1900 courses are available which covers school and
higher education. It has been designed as per the
guidelines prescribed by SWAYAM for MOOCS to
enhance the experience of the learner and to make
that platform more learner centric. The main Motto
of this platform is to create a repository of the e-
content as in step with the prescribed syllabus. The
principle cause is to provide the students with
lectures both in online mode as well as in offline
mode. Secondly this platform has strengthened the
educational system or one can say that it has made
educational system immune against the serious
challenges arising from pandemic or disastrous
situations like this. Development and change is one
of the inevitable part of human life however during
the pandemic people had to accept sudden change as
it became necessary for the survival. It encouraged
personalized learning which in long run will be
beneficial for qualitative teaching and learning
process. Impact on Higher Education: Impact on Higher Education:
Around the second week of March 2020, state
government across the country began to shut down
the schools, colleges due to COVID-19. This was
the crucial time for students as different University,
institute usually hold examination during this period
and different entrance test of various universities
and competitive examination were to be held during
this period. Students had to face severe problem, as
they were not aware of the future examination
especially students who were in the final year and
those who were to appear entrance test. This closure
of educational institutions disrupted the structure of
learning; assessment and examination. Online teaching has come to rescue which was
reflected as the threat. However, several issues
started coming up along with the introduction of
online mode of teaching in higher educational
institutions (HEIs).One of the significant question
arises regarding online teaching learning is whether
it is effective? However, it is effective for those who
have right access to the technology. Internet plays
very vital role for better learning for higher
education. In India, not all students have the
required facilities due to different socio-economic
background. This might cause discomfort and
frustration among students which might give the
student a feeling of segregation and thus create
digital divide between the rich who can avail all the
facilities and the poor who cannot afford to purchase
the equipment’s that are required for E-Learning. So We can say that with the introduction of learning
through digital mode, learning became very easy to
the students as they can sit at home and get access
to digital learning. At the same time, some students
had to face problems due to the poor internet
connectivity. Even after India is adapting to online
learning methods, still there lies an obstacles as
entire population donot have access to internet and
E-learning facility. 101 | P a g e Peer Reviewed Refereed Journal Peer Reviewed Refereed Journal SJIF Impact Factor: 8.095 ISSN–2277- 8721 EIIRJ
Volume–XII, Issue– I (b) EIIRJ
Volume–XII, Issue– I (b) Electronic International Interdisciplinary Research
Journal Jan – Feb 2023
Original Research Article Jan – Feb 2023 g
competencies. Resilience thus has a positive impact
on students’ health, well-being, performance, and
achievement (Cassidy, 2016). Traditionally, digital
resilience is related to matters concerning cyber-
safety, security, or bullying. In this study, we define
digital resilience as the ability of learners to
overcome technological difficulties and persist with
online learning as they adapted to the changing
trends in higher education due to COVID-19. Existing literature largely probes into and seeks
strategies for solidifying and enhancing students’
general resilience such as psychological resilience
(Beale, 2020) and wellbeing (Sood, & Sharma,
2020). Four
themes
including
control,
resourcefulness, involvement, and growth, were
explored when considering building resilience in
students (Wadi et al., 2020). Some other studies
evidenced that resilience in curriculum evaluation
systems facilitated students’ learning outcomes and
benefited curriculum design and delivery during the
pandemic (Muscat-Inglott, 2020). However, how to
develop digital resilience in students has been
overlooked. competencies. Resilience thus has a positive impact
on students’ health, well-being, performance, and
achievement (Cassidy, 2016). Traditionally, digital
resilience is related to matters concerning cyber-
safety, security, or bullying. In this study, we define
digital resilience as the ability of learners to
overcome technological difficulties and persist with
online learning as they adapted to the changing
trends in higher education due to COVID-19. Existing literature largely probes into and seeks
strategies for solidifying and enhancing students’
general resilience such as psychological resilience
(Beale, 2020) and wellbeing (Sood, & Sharma,
2020). Four
themes
including
control,
resourcefulness, involvement, and growth, were
explored when considering building resilience in
students (Wadi et al., 2020). Some other studies
evidenced that resilience in curriculum evaluation
systems facilitated students’ learning outcomes and
benefited curriculum design and delivery during the
pandemic (Muscat-Inglott, 2020). However, how to
develop digital resilience in students has been
overlooked. E-Gyankosh,- One of the initiative taken by
national government to share digital learning
resources which are developed by the open and
distance learning institutions in the country. Study
material was made available for the students. E-Adhyayan, Gyandhara- It is internet service
where students can listen live discussions made by
experts and also can interact with them through
telephonic conversation EIIRJ
Volume–XII, Issue– I (b) It also facilitate improvement in Jan – Feb 2023 Original Research Article
dimension to the teaching learning process in India. Though there are many drawbacks of online
learning, it became survivor during the worst
situation in the country. It enhanced the digital
literacy. People started learning and using digital
technology. Electronic media was used for sharing
information worldwide. Students preferred Open
and Distance Learning (ODL) mode of learning as
it encourages self-learning. The HEIs also gave their
positive response by adopting different strategies
during this crisis. UGC, MHRD also have made
available teaching and learning materials for
students to motivate learning. Some of the digital
initiatives have proved to be very effective during
the COVID crisis. Some of them are listed below: Educational institutions directed teachers to engage
classes through online mode using the virtual
meeting platforms like Zoom & Google meet. The
teachers who were not well versed with modern
technology and mobile applications had to struggle
a lot to engage online classes due to the sudden shift
from face to face teaching to online teaching. Some
teachers were just conducting classes because they
were asked to do so. Many students were just joining
the classes to mark themselves present. They hardly
paid attention towards what was being taught by the
teacher as class control is a challenge on these
virtual platforms. Many entrance tests, job recruitment got cancelled
which created a negative impact on the lives of the
students. All these imply towards increase in
unemployment in India. Thus with the increase of
unemployment situation, there were enough
chances of diminishing interest for education due to
the struggle for food. This growing issues have
caused mental stress amongst the youngsters and
youths who are the future of India. Though COVID-19 created many negative impacts
on education, at the same time it has brought new 102 | P a g e Peer Reviewed Refereed Journal SJIF Impact Factor: 8.095 SJIF Impact Factor: 8.095 ISSN–2277- 8721 EIIRJ
Volume–XII, Issue– I (b) Electronic International Interdisciplinary Research
Journal EIIRJ
Volume–XII, Issue– I (b)
Journal
organised by universities improved students’
resilience (Appolloni et al., 2021). Similarly, the
design, development, and implementation of
learning activities promoted resilience in students
(Naidu, 2021). However, how well the tertiary
institutions prepare for the digitalisation of learning
to
develop
resilience
remains
unknown
(Houlden&Veletsianos, 2020). To fill the gap, the
present study critically assesses ways to strengthen
tertiary students’ online academic success and
cyber-based well-being by exploring the digital
resilience in students during and after the pandemic. Secondly, it investigates strategies to help students
to manage and bounce back from adversities
through
rebuilding
digital
supports
and
choreographies provided by tertiary educational
institutions
in
the
transitioning
educational
scenarios. Jan – Feb 2023
Original Research Article
online teaching. Although teachers received
various types of training during the outbreak,
the short-term effect of such training remains
arguably minimal. Further, the urban-rural
disparity, different levels of knowledge about
information technology acquired by teachers,
and teachers’ differing attitudes towards, and
ability to learn, information technology, are all
having an impact on the general effectiveness
of online education across the country Jan – Feb 2023 organised by universities improved students’
resilience (Appolloni et al., 2021). Similarly, the
design, development, and implementation of
learning activities promoted resilience in students
(Naidu, 2021). However, how well the tertiary
institutions prepare for the digitalisation of learning
to
develop
resilience
remains
unknown
(Houlden&Veletsianos, 2020). To fill the gap, the
present study critically assesses ways to strengthen
tertiary students’ online academic success and
cyber-based well-being by exploring the digital
resilience in students during and after the pandemic. organised by universities improved students’
resilience (Appolloni et al., 2021). Similarly, the
design, development, and implementation of
learning activities promoted resilience in students
(Naidu, 2021). However, how well the tertiary
institutions prepare for the digitalisation of learning
to
develop
resilience
remains
unknown
(Houlden&Veletsianos, 2020). To fill the gap, the
present study critically assesses ways to strengthen
tertiary students’ online academic success and
cyber-based well-being by exploring the digital
resilience in students during and after the pandemic. (4) (4) Students and teachers face problems when
studying and teaching at home. First of all, there
is a wide range of distractions from teaching
and studying at home. For example, the burden
of housework and childcare can be heavy for
young teachers, which may have a negative
impact on their online teaching. Literature Review: Digital resilience in higher education in response to
COVID-19 pandemic: Digital competence has
emerged with the digitalisation of society, extending
across work, learning, leisure, socialisation, and
consumerism (Ferrari, 2012). Society’s shift
towards a digitalised world necessitates knowledge,
attitudes, and skills of digital competence. Digital
competence refers to the capacity of using digital
technologies consciously and critically (Klassen,
2019), as users in public and private life (Pötzsch,
2019) conduct problem solving, communicating,
information managing, collaborating, and effective
knowledge building (Ferrari, 2012). In academic
contexts, resilience is “a student’s capacity to
overcome acute or chronic adversities in academic
settings that could constitute major impediments to
their academic success” (Martin & Marsh, 2009,
p.353). Additionally, some studies have contributed
practical implications regarding how tertiary
educational institutions facilitated resilience in face
of the pandemic (Crawford et al., 2020b). For
example, universities across 20 countries actioned
strategies, including on-campus social isolation and
redevelopment for fully online education (Crawford
et al., 2020a). Higher education providers have
faced challenges of organisational agility (Wu,
2020), technological infrastructure (Zhong, 2020),
and online environments (Xie& Rice, 2021), when
reengineering resilience for students. Another example confirmed that distance learning Digitally resilient students in tertiary education
sustain motivation, achievement and performance in
their studies while being able to overcome and deal
with stressful events (Alva, 1991). The inevitable
stress for such students, does not result in poor
educational outcomes or lead to the risk of dropping
out, as they adopt resilience into their digital Another example confirmed that distance learning 103 | P a g e 3 | P a g e Peer Reviewed Refereed Journal Peer Reviewed Refereed Journal SJIF Impact Factor: 8.095 ISSN–2277- 8721 EIIRJ
Volume–XII, Issue– I (b) Secondly, not
all teachers and students are able to find suitable
spaces for teaching and studying at home. Third, teaching and studying can be constrained
by insufficient hardware and an unstable
network at home. Secondly, it investigates strategies to help students
to manage and bounce back from adversities
through
rebuilding
digital
supports
and
choreographies provided by tertiary educational
institutions
in
the
transitioning
educational
scenarios. Discussion: Difficulties in Implementation of
digital teaching learning Discussion: Difficulties in Implementation of
digital teaching learning (1) Online teaching is constrained by infrastructure. The network coverage in remote areas is
insufficient, which may further lead to
educational inequity. (5) It remains unclear what teaching mode and
pedagogy may work best for online education. Additionally, how to take into account and
integrate the unique attributes of online
education into daily online teaching and
learning still needs further exploration. (5) (5) It remains unclear what teaching mode and
pedagogy may work best for online education. Additionally, how to take into account and
integrate the unique attributes of online
education into daily online teaching and
learning still needs further exploration. (2) The proportion and efficiency of the use of
online teaching resources are still rather low. a
large proportion of teachers had little use and
knowledge of online resources before the
outbreak, but had to precipitously copy offline
teaching content to the network space, without
making appropriate adaptations. (6) To equip teachers with standardized home-based
teaching
equipment
across
the
country,
especially with standardized electronic devices
to meet the needs of online teaching and
individual tutoring in the home environment. Students’ need for basic learning equipment
should also be considered. (6) To equip teachers with standardized home-based
teaching
equipment
across
the
country,
especially with standardized electronic devices
to meet the needs of online teaching and
individual tutoring in the home environment. Students’ need for basic learning equipment
should also be considered. (3) The effect of online education is, to a large
extent, contingent on teachers’ online teaching
ability and experience. As online teaching was
not yet a major form of education in institutes,
many teachers had no previous experience in (3) The effect of online education is, to a large
extent, contingent on teachers’ online teaching
ability and experience. As online teaching was
not yet a major form of education in institutes,
many teachers had no previous experience in (7) To provide systematic training for teachers. Suggestions: Formulating guidelines to prepare for smooth
transition back to normal offline education after the
epidemic. Teachers were advised to make full use of
“the National Elite Online Open Courses” as
examples, and to teach in an independent way while
drawing on online teaching resources such as those
on MOOCs. Various MOOC platforms were also
encouraged
to
develop
new
modules
on
epidemiology and infectious diseases, the aim of
which was to equip students and the public with
relevant knowledge. Moreover, the government
urged students to strike a balance between work and
rest, continue physical exercise, and protect their In order to strengthen the backbone of e-learning the
government
should
deploy
the
necessary
infrastructure at remote places where people don’t
have access to internet; thereby fixing the internet
gap which would facilitate students to learn
digitally. Every state government in India should come up
with creative strategies to make the education
accessible to each and every student especially for
those who come from marginalised, underprivileged
and remote sections of the society. Conclusion: EIIRJ
Volume–XII, Issue– I (b) (7) To provide systematic training for teachers. 104 | P a g e Peer Reviewed Refereed Journal SJIF Impact Factor: 8.095 ISSN–2277- 8721 Electronic International Interdisciplinary Research
Journal Jan – Feb 2023
Original Research Article
better the world in which they live. Technology
today has become need of an hour. It is difficult to
imagine colleges and university education without
the use of digital resources which has provided
different educational and academic information. However it is also necessary to understand that it
shouldn’t reinforce structures of power and
inequality. It should not create digital divide
between rich and poor. As we cannot expect in
country like India to have availability of all required
resources
due
to
different
socio-economic
conditions in India. Online mode of learning can be
the best mode of teaching if it can be accessed by all
the sections of the society however it can pose threat
if certain section of society cannot avail this facility
and thus exclusion. It is therefore important to take
cognizance of online education and plan for
interventions that will prioritize greater inclusivity,
connectivity and equitability. It is important that
colleges and University understands the experience
and issues of the students and prepare according the
further and design the study pattern in such a way
that all students benefits. Jan – Feb 2023 Arguably the use of online platforms for high-
quality teaching is an inevitable trend in the
Internet era. Thus, preparing teachers with
relevant
skills
through
professional
development,
with
legal,
financial,
and
administrative support from the government,
becomes crucial. Arguably the use of online platforms for high-
quality teaching is an inevitable trend in the
Internet era. Thus, preparing teachers with
relevant
skills
through
professional
development,
with
legal,
financial,
and
administrative support from the government,
becomes crucial. (8) To support and call for research into online
education, at a national level, to enlighten
approaches to effective online education. In
addition, to encourage and support social
organizations and schools to play their roles
fully is also of paramount importance. (8) To support and call for research into online
education, at a national level, to enlighten
approaches to effective online education. In
addition, to encourage and support social
organizations and schools to play their roles
fully is also of paramount importance. (9) Arguably, one of the most pressing current tasks
is to conduct in-depth investigations into online
education,
especially
concerning
student
support. EIIRJ
Volume–XII, Issue– I (b) The findings of these investigations
would enable schools to provide a targeted
instruction and counseling service for students
with learning difficulties during the epidemic,
and support students’ successful re-adaptation
to offline school education after the epidemic. Conclusion: The purpose of education is to enable oneself to 105 | P a g e Peer Reviewed Refereed Journal Peer Reviewed Refereed Journal SJIF Impact Factor: 8.095 ISSN–2277- 8721 EIIRJ
Volume–XII, Issue– I (b) Electronic International Interdisciplinary Research
Journal Jan – Feb 2023 eyesight from looking at the screen too much, with
an aim to maintain their physical and mental health. Singh, J., Steele, K., & Singh, L. (2021). Combining
the Best of Online and Face-to-Face Learning:
Hybrid and Blended Learning Approach for
COVID-19, Post Vaccine, & Post Pandemic
World. Journal of Educational Technology
Systems, 50(2), 140-171. Bibliography: Eri, R., Gudimetla, P., Star, S., Rowlands, J.,
&Girgla, A. (2021). Digital resilience in
higher education in response to COVID-19
pandemic. Journal of University Teaching and
Learning Practice, 18(5). Eri, R., Gudimetla, P., Star, S., Rowlands, J.,
&Girgla, A. (2021). Digital resilience in
higher education in response to COVID-19
pandemic. Journal of University Teaching and
Learning Practice, 18(5). Sood, S., & Sharma, A. (2021). Resilience and
Psychological
Well-Being
of
Higher
Education Students During COVID-19: The
Mediating Role of Perceived Distress. Journal
of Health Management, 22(4). Mishra, L., Gupta, T., &Shreeb, A. (2020). Online
teaching-learning in higher education during
lockdown period of COVID-19 pandemic. International Journal of Educational Research
Open, 1. Mishra, L., Gupta, T., &Shreeb, A. (2020). Online
teaching-learning in higher education during
lockdown period of COVID-19 pandemic. International Journal of Educational Research
Open, 1. Sun, X., Wandelt, S., & Zhang, A. (2021). Technological and educational challenges
towards
pandemic-resilient
aviation. Transport Policy, 104-115. Sun, X., Wandelt, S., & Zhang, A. (2021). Technological and educational challenges
towards
pandemic-resilient
aviation. Transport Policy, 104-115. Nguyen, U., & Nguyen, L. V. (2021). Resilience to
withstand COVID-19 crisis: Lessons from a
Foreign Language Institution in Vietnam. Computer
Assisted
Language
Learning
Electronic Journal, 22(2), 40-55. Talanquer, V., Bucat, R., Tasker, R., &Mahaffy, P. G. (2020). Lessons from a Pandemic:
Educating
for
Complexity,
Change,
Uncertainty, Vulnerability, and Resilience. Journal of Chemical Education, 2696-2700. Raghunathan, S., Singh, A. D., & Sharma, B. (2022,
January). Study of Resilience in Learning
Environments
During
the
Covid-19
Pandemic. Frontiers in Education. Cite This Article:
Dr. Joshi A., (2023). Resilience in Higher
Education Delivery to Endure Challenges during
and
after
Covid-19
Pandemic,
Electronic
International Interdisciplinary Research Journal, XII,
Issue – I(b), Jan-Feb, 100-106. Román, D. X., Castro, M., Baeza, C., Knab, R.,
Huss-Lederman, S., & Chacon, M. (2021). Resilience,
collaboration,
and
agency:
Galapagos teachers confronting the disruption
of COVID-19. The Journal of Environmental
Education, 325-334. 106 | P a g e
Peer Reviewed Refereed Journal 106 | P a g e Peer Reviewed Refereed Journal Peer Reviewed Refereed Journal SJIF Impact Factor: 8.095
|
https://openalex.org/W2594640551
|
http://www.scielo.cl/pdf/rmc/v145n1/art17.pdf
|
Spanish; Castilian
| null |
Catatonia ictal en el Servicio de Urgencia: una rara forma de presentación del estado epiléptico no convulsivo
|
Revista médica de Chile
| 2,017
|
cc-by
| 2,674
|
Caso clínico Caso clínico Rev Med Chile 2017; 145: 126-130 Ictal catatonia presentation as a non-convulsive
status epilepticus. A case report Recibido el 19 de mayo de 2016,
aceptado el 12 de octubre de
2016. Recibido el 19 de mayo de 2016,
aceptado el 12 de octubre de
2016. The differential diagnosis of non-convulsive status epilepticus (NCSE) is
often complex due to a wide clinical variability of its presentation, including
psychiatric manifestations. We report a 68 years old male with a history of
depression treated with venlafaxine, mirtazapine, quetiapine and risperidone,
presenting in the emergency room with confusion and generalized rigidity. A
brain CT scan did not show lesions. A neuroleptic syndrome was initially sus-
pected. At the third day the obtundation worsened and an electroencephalogram
(EEG) was performed, which showed epileptiform abnormalities. Treatment
with valproic acid resulted in disappearance of such abnormalities. After three
weeks of mechanical ventilation, the patient was extubated and remained lucid
and partially orientated in time and space. p
y
p
(Rev Med Chile 2017; 145: 126-130) p
y
p
(Rev Med Chile 2017; 145: 126-130) Key words: Catatonia; Electroencephalography; Emergency Nursing; Status
Epilepticus. C
o
e son la clave del diagnóstico del EENC y permiten
diferenciarlo de entidades no epilépticas con ma-
nifestaciones clínicas similares. C
onocer el estado epiléptico no convulsivo
(EENC) para el neurólogo, especialmente
en el servicio de urgencia (SU), es de suma
importancia. Este cuadro puede confundirse con
otras patologías que presentan manifestaciones clí-
nicas similares, con las consiguientes implicacio-
nes terapéuticas y pronósticas. Lo diverso de estas
presentaciones se refleja en una mayor dificultad
en el diagnóstico diferencial, especialmente con
entidades psiquiátricas, las que muchas veces son
indistinguibles utilizando solo criterios clínicos. En un estudio realizado para determinar la
frecuencia en la solicitud de EEG en el SU y la
Unidad de Cuidados Intensivos (UCI), la principal
razón para solicitar un EEG fue el compromiso
de conciencia sin causa explicable, representan-
do el 36,3%3. El empleo del EEG en el SU cobra
importancia si consideramos que entre el 2% y el
10% de los pacientes que acuden al SU en Estados
Unidos presentan algún grado de alteración en
el estado mental. Si bien la mayoría de las causas
son reconocibles y tratadas rápidamente, el EEG
es fundamental en el diagnóstico diferencial de
las crisis no epilépticas y el EENC4. El diagnós-
tico oportuno facilita el manejo agudo, evita
procedimientos diagnósticos innecesarios, largas
hospitalizaciones y reduce la morbilidad. Catatonia ictal en el Servicio
de Urgencia: una rara forma de
presentación del estado epiléptico no
convulsivo 1Unidad de Neurofisiología. Hospital de Carabineros de Chile. Santiago, Chile. 2Liga Chilena Contra la Epilepsia. Santiago, Chile. 3Unidad de Neurofisiología. Clínica Alemana de Santiago. Chile. Fuente de apoyo financiero:
No se recibió ninguna clase de
financiamiento. Recibido el 19 de mayo de 2016,
aceptado el 12 de octubre de
2016. Correspondencia a:
Dr. Álvaro Velásquez
Avenida Simón Bolivar 2200,
Ñuñoa, Santiago de Chile. alvarovn@gmail.com 1Unidad de Neurofisiología. Hospital de Carabineros de Chile. Santiago, Chile. 2Liga Chilena Contra la Epilepsia. Santiago, Chile. 3Unidad de Neurofisiología. Clínica Alemana de Santiago. Chile. Germán Gaete1,2, Álvaro Velásquez1,2,3 Fuente de apoyo financiero:
No se recibió ninguna clase de
financiamiento. Correspondencia a:
Dr. Álvaro Velásquez
Avenida Simón Bolivar 2200,
Ñuñoa, Santiago de Chile.
alvarovn@gmail.com 1Unidad de Neurofisiología.
Hospital de Carabineros de Chile.
Santiago, Chile.
2Liga Chilena Contra la Epilepsia.
Santiago, Chile.
3Unidad de Neurofisiología.
Clínica Alemana de Santiago.
Chile. Ictal catatonia presentation as a non-convulsive
status epilepticus. A case report g
Las actuales definiciones del EENC propuestas,
primero por Meierkord y Holtkamp, y luego por
Maganti et al, describen una alteración prolonga-
da en el nivel de conciencia, asociada a actividad
epileptiforme continua o descargas eléctricas
prolongadas en el electroencefalograma (EEG)1,2. La simultaneidad de ambos fenómenos, cambios
clínicos junto con los electroencefalográficos, 126 Caso clínico Catatonia ictal en Servicio de Urgencia - G. Gaete et al En la literatura son escasos los reportes de ca-
tatonia como forma de presentación de un EENC. Las primeras descripciones corresponden a Gol-
densohn y Gold, luego a Thompson y Greenhouse
en la década del 605,6. Posteriormente uno de los
primeros reportes de casos corresponde a Gómez
et al., en 1982, quienes describen un paciente que
ingresó en estupor catatónico al SU, luego de la
administración de neurolépticos de alta potencia7. Lim, también en la década del 80, describe tres
pacientes con catatonia ictal como manifestación
de un EENC con respuesta favorable a la adminis-
tración de fenitoína endovenosa8. Al ingreso al SU se encontraba afebril y hemo-
dinámicamente estable. Evaluado por neurólogo,
se describe confuso, con rigidez generalizada. La
tomografía computarizada cerebral no mostró le-
siones agudas y estudios de laboratorio para causas
tóxico-metabólica, incluida creatin-kinasa, fueron
normales. La evaluación psiquiátrica consignó
mutismo y rigidez cérea planteando síndrome ca-
tatónico en paciente con depresión mayor y como
diagnóstico diferencial de síndrome neuroléptico. Se indicó traslado a clínica psiquiátrica donde no
fue recibido. Al tercer día en SU, empeora, describiéndose
sopor profundo. Se realizó EEG (Figura 1) que
mostró actividad de fondo lenta theta, polimorfa,
generalizada no reactiva, sobre la que se observan
descargas generalizadas de puntas y punta onda
lenta de máximo bifrontal, con patrón pseudope-
riódico a 1 Hz, presentándose en salvas de hasta 8
segundos de duración, seguidas de periodos de
depresión de voltaje (GPEDs). Se intentó realizar
resonancia magnética nuclear de cerebro, no
pudiendo concretarse por emesis y broncoaspi-
ración durante examen, requiriendo sedación
con midazolam, intubación y apoyo ventilatorio
(VM) en UCI, recibiendo tratamiento antibiótico
por neumonía aspirativa. Presentamos un paciente con catatonia ictal en
el SU, su semiología, correlato electroencefalográ-
fico concomitante y respuesta al tratamiento con
fármacos antiepilépticos. Paciente y Método Varón de 68 años de edad, sin antecedentes de
epilepsia, en control con psiquiatra por depresión
en tratamiento con venlafaxina 225 mg, mirtaza-
pina 30 mg, quetiapina 200 mg y risperidona 3
mg al día. Tres días antes de su ingreso al SU tuvo con-
trol con psiquiatra, quien lo describe orientado
en tiempo y espacio, autovalente y sin signos de
impregnación. En dicho control redujo risperi-
dona y mantuvo resto de terapia. Al día siguiente
inició cambios conductuales, anorexia y paulatina
disminución de la actividad motora, no reconoce
a su familia y presenta alucinaciones visuales. Dado los hallazgos de EEG se inició terapia
empírica con aciclovir en espera de resultados de
punción lumbar que reveló líquido cefalorraquí-
deo claro, látex para meningitis, PCR para herpes
y enterovirus negativos. Simultáneamente inició
terapia antiepiléptica, dado la necesidad del uso Figura 1. EEG que evidencia actividad de fondo lenta theta polimorfa generalizada no reactiva, se agregan frecuentes des-
cargas generalizadas de puntas y punta onda lenta de máximo bifrontal que adopta un patrón pseudoperiódico a 1 Hz y se
presentan en salvas de hasta 8 segundos de duración seguidas de breves periodos de depresión de voltaje (GPEDs). Figura 1. EEG que evidencia actividad de fondo lenta theta polimorfa generalizada no reactiva, se agregan frecuentes des-
cargas generalizadas de puntas y punta onda lenta de máximo bifrontal que adopta un patrón pseudoperiódico a 1 Hz y se
presentan en salvas de hasta 8 segundos de duración seguidas de breves periodos de depresión de voltaje (GPEDs). Rev Med Chile 2017; 145: 126-130 127 Caso clínico Catatonia ictal en Servicio de Urgencia - G. Gaete et al Figura 2. EEG post carga de AV. Actividad de base theta con supresión de la actividad epileptiforme previamente visualizada. EEG post carga de AV. Actividad de base theta con supresión de la actividad epileptiforme previamente visualizad Figura 2. EEG post carga de AV. Actividad de base theta con supresión de la actividad epileptiforme previamente visualizada. de midazolam para la conexión a ventilación
mecánica se decide iniciar acido valproico (AV). Al cuarto día de tratamiento con AV, el EEG de
control (Figura 2) mostró actividad de base lenta
en rango theta generalizada y ausencia de activi-
dad epileptiforme. Clínicamente, permaneció en
VM, adquirió vigilia al estímulo, siguiendo con
la mirada y obedeciendo órdenes simples. Por
insuficiencia respiratoria estuvo 3 semanas en VM. Paciente y Método Tras la extubación, se realizó control de EEG que
fue normal. Clínicamente, parcialmente orientado
en tiempo y espacio, sin otros déficits. neurocirugía, tumor, meningoencefalitis) junto
con algunas alteraciones en el examen físico,
principalmente oculomotoras (nistagmos, par-
padeo rítmico, desviación ocular mantenida) y
neurovegetativas como la sudoración profusa10, sin
embargo, la certeza diagnóstica requiere del EEG,
que en nuestro caso tardó tres días en ser solicita-
do, período en que el paciente presentó neumonía
por aspiración, complicación ampliamente des-
crita asociada al compromiso de conciencia11 que
podría haberse evitado disminuyendo el tiempo
de hospitalización. p
Una de las principales causas del EENC es
la suspensión de la terapia antiepiléptica sin
embargo, el 70% de los mayores de 60 años que
presentan un EENC no tiene una epilepsia co-
nocida, proporción que se invierte a edades más
tempranas12. En esta población las causas son
otras y una vez descartado el daño encefálico o
metabólico siempre debe sospecharse acción de
fármacos, tal como el caso del EENC por retiro
brusco de benzodiacepinas13. Se describen también
en relación al tratamiento con antidepresivos14,15
y neurolépticos16. Nuestro paciente no presen-
taba historia de epilepsia y tanto los estudios
de imágenes como de laboratorio no revelaron
alteraciones significativas, aunque se encontraba
en tratamiento con altas dosis de antidepresivos
y neurolépticos por un cuadro depresivo mayor. Asumimos que la combinación de estos fármacos
generó el EENC en nuestro paciente. Discusión El EENC es una entidad subdiagnosticada en
el SU, tanto porque no se reconoce el cuadro clí-
nico como por la dificultad para realizar un EEG
que lo confirme. La anamnesis y el examen físico
pueden ser indistinguibles de otras entidades e
incluso desorientar al médico de urgencia, como lo
ocurrido con nuestro paciente donde la historia de
depresión previa y los hallazgos de “rigidez cérea”
y “mutismo” en el examen físico generaron que
se solicitará evaluación psiquiátrica demorando el
diagnóstico definitivo. Se han descrito criterios clínicos con el fin de
aumentar la sensibilidad diagnóstica tales como
la pesquisa de factores de riesgo para desarrollar
un foco epileptógeno (accidente cerebrovascular, Rev Med Chile 2017; 145: 126-130 128 Caso clínico Catatonia ictal en Servicio de Urgencia - G. Gaete et al Variados fueron los intentos por definir las ca-
racterísticas electroencefalográficas del EENC. Sin
una definición universalmente aceptada, existe ac-
tualmente cierto grado de consenso sobre algunos
patrones “característicos”. Especialmente impor-
tantes son los patrones de EEG periódicos, si bien
siguen siendo motivo de debate, muchos autores
sugieren que son inequívocamente epilépticos en
algunos casos. Estos patrones incluyen la actividad
delta rítmica, ondas trifásicas generalizadas, las
descargas epileptiformes periódicas lateralizadas,
descargas epileptiformes periódicas generalizadas
(GPEDs), las descargas epileptiformes periódicas
con lateralización bilateral independientes (BI-
PLEDs), y el estímulo inducido por descargas
rítmicas, periódica o ictal (SIRPIDs). Los patro-
nes periódicos se ven en una amplia variedad de
etiologías, por lo tanto, los pacientes deberán ser
estudiados cuidadosamente para enfermedades
infecciosas, tóxico-metabólicas y/o lesiones in-
tracraneales considerando siempre el EENC en el
diagnóstico diferencial1,2,17-19. El EEG en nuestro
paciente coincide con lo descrito en la literatura
e igual que los escasos reportes de casos de cata-
tonia ictal donde se documentó adecuadamente
la evolución “electroclínica”, nuestro paciente
presentó una mejoría tanto clínica como en el EEG
posterior al inicio del tratamiento antiepiléptico. un EEG frente a cualquier alteración en el estado
mental sin causa explicable. Remarcamos la importancia del estudio y
reconocimiento de ciertos patrones en el EEG
sugerentes de EENC, con el fin de unificar criterios
en su interpretación, aunque sabemos, muchas
veces esto no es posible y lo que para un intérprete
pareciera un patrón de EEG de EECN, no lo es para
otro, lo cual refleja el “arte” de la interpretación
del EEG17. Referencias 1. Meierkord H, Holtkamp M. Non-convulsive status epi-
lepticus in adults: clinical forms and treatment. Lancet
Neurol 2007; 6 (4): 329-39. 2. Maganti R, Gerber P, Drees C, Chung S. Nonconvulsive
status epilepticus. Epilepsy Behav 2008; 12 (4): 572-86. 3. Ricardo JA, França MC Jr, Lima FO, Yassuda CL,
Cendes F. The impact of EEG in the diagnosis and
management of patients with acute impairment of cons-
ciousness. Arq Neuropsiquiatr 2012 Jan; 70 (1): 34-9. p
p
p
El tratamiento del EENC sigue siendo contro-
versial. No hay actualmente evidencia científica
de ensayos clínicos randomizados sobre un tra-
tamiento establecido para el EENC por lo que las
recomendaciones están basadas en la experiencia
clínica y estudios de casos. Nosotros decidimos
el empleo de AV basados en la experiencia del
uso de este fármaco en nuestro centro y estudios
que postulan una mayor eficacia y seguridad con
AV en este tipo de pacientes20. Al asumir un me-
canismo de acción GABAérgico, el AV sería de
primera elección en el manejo del EENC porque
abarcaría todos los subtipos clínicos de este, sin el
riesgo de empeorar algunos, como se describe para
los bloqueadores de canales de sodio. Además, es
mejor tolerado, tiene menos efectos adversos y el
manejo sería más sencillo. 4. Zehtabchi S, Abdel Baki SG, Malhotra S, Grant AC
Nonconvulsive seizures in patients presenting with al-
tered mental status: an evidence-based review. Epilepsy
Behav 2011 Oct; 22 (2): 139-43. 5. Goldensohn ES, Gold AP. Prolonged behavioral distur-
bances as ictal phenomena. Neurology 1960; 10: 1-9. 6. Thompson SW, Greenhouse AH. Petit mal status in
adults. Ann Intern Med 1968; 68 (6): 1271-9. 7. Gómez EA, Comstock BS, Rosario A. Organic versus
etiology in catatonia: case report. J Clin Psychiatry
1982 May; 43 (5): 200-1. 8. Lim J, Yagnik P, Schraeder P, Wheeler S. Ictal catatonia
as a manifestation of nonconvulsive status epilepticus. J
Neurol Neurosurg Psychiatry 1986; 49 (7): 833-6. 9. Kanemoto K, Miyamoto T, Abe R. Ictal catatonia as a
manifestation of de novo absence status epilepticus fo-
llowing benzodiazepine withdrawal. Seizure 1999 Sep; 8
(6): 364-6. 10. Husain AM, Horn GJ, Jacobson MP. Non-convulsive
status epilepticus: usefulness of clinical features in
selecting patients for urgent EEG. J Neurol Neurosurg
Psychiatry 2003; 74 (2): 189-91. Discusión Finalmente, frente a la sospecha clínica de
EENC y en presencia de un electroencefalograma
compatible, entendiendo que los patrones eléctri-
cos aún son motivo de controversia, recomenda-
mos prueba clínica con antiepilépticos. Conclusión Esperamos que nuestra experiencia aporte en
el reconocimiento de manifestaciones clínicas
inusuales del EENC y recomendamos realizar 11. Petroianni A, Ceccarelli D, Conti V, Terzano C. Aspira- Rev Med Chile 2017; 145: 126-130 129 Caso clínico Catatonia ictal en Servicio de Urgencia - G. Gaete et al Hara T. J Clin Psychopharmacol. Non convulsive status
epilepticus in two patients with neuroleptic malignant
syndrome. 1998 Aug; 18 (4): 347-9. tion pneumonia. Pathophysiological aspects, prevention
and management. A review. Panminerva Med 2006 Dec;
48 (4): 231-9. 12. De Lorenzo RJ, Hauser WA, Towne AR, Boggs JG,
Pellock JM, Penberthy L, et al. A prospective, popula-
tion-based epidemiologic study of status epilepticus in
Richmond, Virginia. Neurology 1996; 46 (4): 1029-35. 17. Sutter R, Kaplan PW. Electroencephalographic crite-
ria for nonconvulsive status epilepticus: synopsis and
comprehensive survey. Epilepsia 2012 Aug; 53 Suppl 3:
1-51. 18. Liberalesso PB, Garzon E, Yacubian EM, Sakamoto AC. Refractory non convulsive status epilepticus in coma:
analysis of the evolution of ictal patterns. Arq Neurop-
siquiatr 2012 Jul; 70 (7): 501-5. 13. Thomas P, Beaumanoir A, Genton P, Dolisi C, Chatel
M. “De novo” absence status of late onset: report of 11
cases. Neurology 1992; 42 (1): 104-10. 14. Yoshino A, Watanabe M, Shimizu K, Goto T, Ichi-
nowatari N, Yoshimasu H, et al. Nonconvulsive status
epilepticus during antidepressant treatment. Neuropsy-
chobiology 1997; 35 (2): 91-4. 19. Andraus ME, Andraus CF, Alves-Leon SV. Periodic EEG
patterns: importance of their recognition and clinical
significance. Arq Neuropsiquiatr 2012 Feb; 70 (2): 145-
51. 15. Miyata H, Kubota F, Shibata N, Kifune A. Non-con-
vulsive status epilepticus induced by antidepressants. Seizure 1997; 6 (5): 405-7. 20. Sinha S, Naritoku DK. Intravenous valproate is well
tolerated in unstable patients with status epilepticus. Neurology 2000; 55: 722-4. 16. Yoshino A, Yoshimasu H, Tatsuzawa Y, Asakura T, 130 Rev Med Chile 2017; 145: 126-130
|
https://openalex.org/W2053590265
|
https://europepmc.org/articles/pmc4043191?pdf=render
|
English
| null |
PReS-FINAL-2338: Fate of lymphocytes after withdrawal of Tofacitinib treatment
|
Pediatric rheumatology online journal
| 2,013
|
cc-by
| 643
|
Introduction Here we showed that Tofa exerts a rapid and strong effect
on lymphocyte activation, leading to a complete arrest
in proliferation and to a strong down-regulation of activa-
tion markers in PHA stimulated lymphocytes. Notably,
these results are achieved with a negligible toxicity on
lymphocyte viability. However, after the withdrawal of the
drug, stimulated lymphocytes resume proliferation. Thus,
transient treatment with Tofa didn’t lead to a relevant
inhibition of final proliferation, but it strongly affected the
distribution of lymphocyte subsets, with a reduction of NK
cells, B cells and CD8 cells. Tofacitinib (Tofa) is an inhibitor of Janus Kinase 3, devel-
oped for the treatment of autoimmune diseases and for
the prevention of transplant rejection. Thanks to its selec-
tive action on proliferating cells, Tofa can offer a way to
block T cell activation. The potential field of clinical appli-
cation is thus represented by disorders with inappropriate
T cell response, such as rheumatoid arthritis, psoriasis,
graft rejection, ulcerative colitis and graft versus host
disease. However, the tuning of efficacy (suppression of
pathogenic lymphocytes) and safety (suppression of pro-
tective immunity) remains an open issue. Unexpectedly, whereas the drug has been widely used
in animal models and has been already introduced into
the clinics, only few studies had investigated its immu-
nological potential in vitro. Conclusion Based on these data, we can presume that discontinua-
tion of the drug after a short treatment may lead reacti-
vation of diseased lymphocytes and to a reduction of
NK and B cells as well in vivo, possibly resulting in
undesired effects of the drug. To evaluate this possibi-
lity, a careful study of the expression of lymphocyte acti-
vation markers and of the distribution of lymphocyte
subsets should be performed in all subjects after discon-
tinuation of Tofa treatment. Disclosure of interest
None declared. Disclosure of interest
None declared. Methods None declared. Healthy donors’ peripheral blood mononuclear cells are
stimulated or not with phytohemoagglutinin and incu-
bated for 4-days with different concentrations of tofaciti-
nib. After the first incubation, cells are washed twice and
further incubated for 4-days without stimuli and drug. Cell proliferation is assessed by CFSE dilution assay; cell
viability by 7-AAD staining; lymphocyte subsets are ana-
lyzed by multicolour flow cytometry. Tommasini et al. Pediatric Rheumatology 2013, 11(Suppl 2):P328
http://www.ped-rheum.com/content/11/S2/P328 Tommasini et al. Pediatric Rheumatology 2013, 11(Suppl 2):P328
http://www.ped-rheum.com/content/11/S2/P328 Open Access Objectives To study the effect of tofacitinib in vitro stimulated
lymphocytes. In particular, to measure the effect of the
drug on cell proliferation, lymphocyte subsets and cell
viability during treatment and after interruption of
treatment. Authors’ details
1 1Department of Pediatrics, Trieste, Italy. 2Institute for Maternal and Child
Health IRCCS Burlo Garofolo, Trieste, Italy. 3Università di Trieste, Trieste, Italy. Published: 5 December 2013 Published: 5 December 2013 doi:10.1186/1546-0096-11-S2-P328
Cite this article as: Tommasini et al.: PReS-FINAL-2338: Fate of
lymphocytes after withdrawal of Tofacitinib treatment. Pediatric
Rheumatology 2013 11(Suppl 2):P328. 1Department of Pediatrics, Trieste, Italy
Full list of author information is available at the end of the article 1Department of Pediatrics, Trieste, Italy
Full list of author information is available at the end of the article © 2013 Tommasini et al.; licensee BioMed Central Ltd. This is an Open Access article distributed under the terms of the Creative
Commons Attribution License (http://creativecommons.org/licenses/by/2.0), which permits unrestricted use, distribution, and
reproduction in any medium, provided the original work is properly cited. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. © 2013 Tommasini et al.; licensee BioMed Central Ltd. This is an Open Access article distributed under the terms of the Creative
Commons Attribution License (http://creativecommons.org/licenses/by/2.0), which permits unrestricted use, distribution, and
reproduction in any medium, provided the original work is properly cited. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated.
|
https://openalex.org/W2763111559
|
https://acp.copernicus.org/articles/18/11529/2018/acp-18-11529-2018.pdf
|
English
| null |
Investigating the role of dust in ice nucleation within clouds and further effects on the regional weather system over East Asia – Part 2: modification of the weather system
|
Atmospheric chemistry and physics
| 2,018
|
cc-by
| 12,856
|
Atmos. Chem. Phys., 18, 11529–11545, 2018
https://doi.org/10.5194/acp-18-11529-2018
© Author(s) 2018. This work is distributed under
the Creative Commons Attribution 4.0 License. Atmos. Chem. Phys., 18, 11529–11545, 2018
https://doi.org/10.5194/acp-18-11529-2018
© Author(s) 2018. This work is distributed under
the Creative Commons Attribution 4.0 License. Correspondence: Lin Su (lsu@connect.ust.hk) Correspondence: Lin Su (lsu@connect.ust.hk) Received: 12 August 2017 – Discussion started: 13 October 2017
Revised: 25 July 2018 – Accepted: 2 August 2018 – Published: 15 August 2018 Received: 12 August 2017 – Discussion started: 13 October 2017
Revised: 25 July 2018 – Accepted: 2 August 2018 – Published: 15 August 2018 Abstract. An updated version of the Weather Research and
Forecast model coupled with Chemistry (WRF-Chem) was
applied to quantify and investigate the full effects of dust
on the meteorological field over East Asia during March and
April 2012. The performances of the model in simulating the
shortwave and longwave radiation, surface temperature, and
precipitation over East Asia are improved by incorporating
the effects of dust in the simulations. The radiative forcing
induced by the direct radiative effect of dust is greater than
that by the dust-enhanced cloud radiative effect. The indirect
effects of dust result in a substantial increase in ice clouds
at the middle to upper troposphere and a reduction in liquid
clouds at the low to mid-troposphere. The radiative forcing
combined with the redistribution of atmospheric water va-
por results in an overall decrease in near-surface temperature
and an increase in temperature at the middle to upper tro-
posphere over East Asia, leading to an inhibition of atmo-
spheric instability over most land areas, but an enhancement
of atmospheric instability over south China. Upon consider-
ing the effects of dust, convective precipitation exhibits an
inhibition over areas from central to east China and an en-
hancement over south China. Meanwhile, the locations of
non-convective precipitation are shifted due to the perturba-
tion of cloud water path. The total amount of precipitation
over East Asia remains unchanged; however, the precipita-
tion locations are shifted. The precipitation can be enhanced
or inhibited by up to 20 % at particular areas. 1
Introduction Dust is recognized as an “essential climate variable” be-
cause it is a major component of atmospheric aerosols and
has significant impacts on the weather and climate system
(Solomon, 2007). East Asian dust is an important contribu-
tor to global dust emissions (Ginoux et al., 2001) and thus
plays a significant role in affecting the regional weather sys-
tem through direct, semi-direct, and indirect effects. Dust particles affect the radiation budget directly by ab-
sorbing, reflecting, and scattering shortwave and longwave
radiation (Satheesh et al., 2006; Seinfeld et al., 2004; Lacis,
1995). The absorption of radiation by dust can further affect
atmospheric static stability and the surface energy budget,
which may lead to an evaporation of cloud droplets. This
effect is referred as a semi-direct effect of dust (Solomon,
2007). The indirect effects of dust are related to dust–cloud
interaction (Hansen et al., 1997; Perlwitz and Miller, 2010). Dust particles are recognized as effective ice nuclei (IN) and
considered to play an important role in cold cloud processes
(Broadley et al., 2012; Connolly et al., 2009; Sassen, 2002),
leading to variation in the ice water content in mixed-phase
and ice clouds, which further affects the formation and de-
velopment of clouds, as well as precipitation (Sassen et al.,
2003; Targino et al., 2006; Teller and Levin, 2006; Lohmann
and Feichter, 2005). In light of the significance of dust for the weather and cli-
mate system, assessing the effects of dust has become in-
creasingly important. On the one hand, the direct (Mallet et
al., 2009; Nabat et al., 2015a; Ge et al., 2010; Hartmann Investigating the role of dust in ice nucleation within clouds and
further effects on the regional weather system over East Asia –
Part 2: modification of the weather system Lin Su1 and Jimmy C. H. Fung2,3
1School of Science, Hong Kong University of Science and Technology, Hong Kong, China
2Division of Environment, Hong Kong University of Science and Technology, Hong Kong, China
3Department of Mathematics, Hong Kong University of Science and Technology, Hong Kong, China Lin Su1 and Jimmy C. H. Fung2,3
1School of Science, Hong Kong University of Science and Technology, Hong Kong, China
2Division of Environment, Hong Kong University of Science and Technology, Hong Kong, China
3Department of Mathematics, Hong Kong University of Science and Technology, Hong Kong, China L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 et al., 2013; Huang et al., 2009; Bi et al., 2013; Liu et al.,
2011a, b; Palacios et al., 2015; Chen et al., 2017) and semi-
direct (Tesfaye et al., 2015; Nabat et al., 2015b; Seigel et al.,
2013) effects of dust have being extensively studied world-
wide by applying numerical methods. On the other hand,
various ice nucleation parameterizations have been imple-
mented into global models to estimate the importance of dust
in atmospheric ice nucleation (Lohmann and Diehl, 2006;
Karydis et al., 2011; Hoose et al., 2008; Zhang et al., 2014),
revealing that the effect of dust as IN should not be neglected
in numerical models, especially in simulations over arid re-
gions during strong wind events (DeMott et al., 2003, 2015;
Koehler et al., 2010; Lohmann and Diehl, 2006; Atkinson et
al., 2013). Unfortunately, only limited work has been carried
out to investigate the indirect effects of dust on the regional
weather system, especially over East Asia, which is one of
the major contributors to global dust emissions (Ginoux et
al., 2001). IN. In the GOCART–Thompson microphysics scheme, con-
densation and immersion freezing are parameterized by the
DeMott2015 ice nucleation scheme, and two factors of the
DeMott2015 scheme were tuned through sensitivity experi-
ments in the first part of this study. cf is a calibration factor
in the DeMott2015 ice nucleation parameterization scheme,
which was used for the nucleation of the heterogeneous nu-
cleation of ice crystals by dust particles in the GOCART–
Thompson scheme, and it ranges from 1 to 6. According to
the results of the sensitivity experiments in Part I, the calibra-
tion factor cf was set to be 4 for the simulations in this study. Furthermore, it was also demonstrated that ice water content
was still underestimated by using the GOCART–Thompson
scheme. To improve the simulation of ice nucleation by dust
particles, the threshold relative humidity with respect to ice
(RHi) was lowered from 105 to 100 % in the ice nucleation
parameterization to allow for the heterogeneous nucleation
of ice crystals by dust particles to occur at a lower RHi (Su
and Fung, 2017). Therefore, a threshold RHi of 100 % for
the simulations was run with dust emissions in this study. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 In
addition, deposition nucleation is determined by the Phillips
parameterization scheme (Phillips et al., 2008), and the freez-
ing of deliquesced aerosols using the hygroscopic aerosol
concentration is parameterized following Koop’s parameter-
ization scheme (Koop et al., 2000). The GOCART aerosol
model was applied to simulate aerosol processes (Ginoux
et al., 2001, 2004) and produce ice nuclei that were served
by dust particles in DUST. Shao’s dust emissions (Kang et
al., 2011; Shao et al., 2011) with soil data from the United
states Geological Survey (Soil Survey Staff, 1993), which
have been demonstrated to have good performance in repro-
ducing dust emissions over East Asia, were used to gener-
ate dust emission in the TEST simulations. The ice nuclei
were then fed into the GOCART–Thompson microphysics
scheme for calculating the indirect effects of dust by using
the DeMott2015 parameterization scheme. In addition, the
pre-given climatological profiles applied in the Thompson–
Eidhammer scheme (Thompson and Eidhammer, 2014) were
used to provide the number concentration of water-friendly
aerosols for the freezing of deliquesced aerosols to consider
the background indirect effects of aerosols on ice nucleation
for all the simulations in this study. This series of studies aimed to investigate the role of East
Asian dust in affecting the regional weather system. In the
first part of the study, the Goddard Chemistry Aerosol Radi-
ation and Transport (GOCART) model was coupled with the
aerosol-aware Thompson–Eidhammer microphysics scheme
(Thompson and Eidhammer, 2014), enabling the model to
estimate the indirect effect of dust along with the direct and
semi-direct effects, which improved the simulation of the
ice nucleation process involving dust particles (Su and Fung,
2015). In this work, by applying an updated version of WRF-
Chem, we aim to investigate the full effects of dust, includ-
ing direct, semi-direct, and indirect effects, on the regional
weather system over East Asia during a dust-intensive pe-
riod. As the semi-direct effect and indirect effect of dust
cannot be separated in our simulation, these two effects are
merged and discussed as a part of the effects of dust apart
from the direct effect and represented by “indirect effects” in
the rest of the paper. This is the first study to document the
full effects of dust during a typical dust-intensive period over
East Asia by applying an online coupled regional numerical
model. The remainder of the paper is organized as follows. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 The
model configuration is described in Sect. 2, followed by the
model validation in Sect. 3. The results along with the discus-
sion will be presented in Sect. 4, followed by the concluding
remarks in Sect. 5. Four numerical simulations were carried out to evaluate
the separate effects of dust over East Asia. The configura-
tions for the four simulations are summarized in Table 1. The first simulation was termed NO-DUST/NO-CLOUD and
was conducted without dust, with both the aerosol radiative
feedback and cloud radiative feedback turned off. The second
simulation, NO-DUST/CLOUD, was also conducted without
dust, with the aerosol radiative feedback turned off but the
cloud radiative feedback turned on to estimate the intrinsic
radiative effect of cloud. The third simulation, DUST/NO-
CLOUD, was conducted with the presence of dust, with the
aerosol radiative feedback turned on, while the cloud radia-
tive feedback was still turned off. The difference between Published by Copernicus Publications on behalf of the European Geosciences Union. Published by Copernicus Publications on behalf of the European Geosciences Union. Published by Copernicus Publications on behalf of the European Geosciences Union. 11530 2
Model configurations The simulations were performed using an updated version
of WRF-Chem based on version 3.8.1 (Peckham et al.,
2017). GOCART–Thompson, which is the coupling of the
GOCART aerosol model and the aerosol-aware Thompson–
Eidhammer microphysics scheme, has been implemented in
the updated WRF-Chem to evaluate the indirect effects of
dust on the atmospheric ice nucleation process by serving as Atmos. Chem. Phys., 18, 11529–11545, 2018 www.atmos-chem-phys.net/18/11529/2018/ L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2
Table 1. Model configurations for the numerical simulations. Experiment
NO-DUST/
NO-DUST/
DUST/
DUST/
NO-CLOUD
CLOUD
NO-CLOUD
CLOUD
Scheme
Dust emission scheme
–
–
Shao
Shao
Dry deposition
–
–
Gravitational settling and
Gravitational settling and
surface deposition
surface deposition
Wet deposition
–
–
In-cloud and below-cloud
In-cloud and below-cloud
Aerosol optical scheme
–
–
Maxwell Garnett
Maxwell Garnett
Aerosol radiative feedback
off
off
on
on
Cloud radiative feedback
off
on
off
on 11531 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 domains have 40 layers, with the top layer at 50 hPa. The
simulation period was 9 March to 30 April 2012, with the
first 8 days as “spin-up” time. Only the results from 17 March
to 30 April 2012 were used for further analysis. Final re-
analysis data provided by the United States National Center
of Environmental Prediction, with a horizontal resolution of
1◦, were used for generating the initial and boundary con-
ditions for the meteorological field. The simulations were re-
initialized every 4 days, with the aerosol field being recycled;
i.e., the output of the aerosol field from the previous 4-day
run was used as the initial aerosol state for the next 4-day
run. NO-DUST/NO-CLOUD and DUST/NO-CLOUD therefore
represented the direct effect of dust on the radiation bud-
get and other meteorological parameters. The last simula-
tion, DUST/CLOUD, was conducted with the presence of
dust and with both aerosol radiative feedback and cloud ra-
diative feedback turned on to estimate the full effect of dust
on the meteorological field over East Asia. g
The important physical and chemical parameterization
schemes applied for the four simulations are as follows. The
GOCART aerosol model was applied to simulate aerosol pro-
cesses (Ginoux et al., 2001, 2004). 2
Model configurations For the dust emission sim-
ulation in DUST/NO-CLOUD and DUST/CLOUD, the Shao
dust emission scheme (Shao, 2004; Shao et al., 2011) was
applied, which has been demonstrated to closely reproduce
dust emissions over East Asia (Su and Fung, 2015). Note
that no aerosol emissions were considered in the simulations
other than dust. The Mellor–Yamada–Janjic (MYJ) turbulent
kinetic energy scheme was used for the planetary bound-
ary layer parameterization (Janji´c, 1994, 2002); the mois-
ture convective processes were parameterized by the Grell–
Freitas scheme (Grell and Freitas, 2014); the shortwave (SW)
and longwave (LW) radiation budgets were calculated by
the Rapid Radiative Transfer Model for General Circula-
tion (RRTMG) SW and LW radiation schemes (Mlawer et
al., 1997; Iacono et al., 2008); gravitational settling and
surface deposition were combined for aerosol dry deposi-
tion (Wesely, 1989); a simple washout method was used for
the below-cloud wet deposition of aerosols; and the aerosol
optical properties were calculated based on the volume-
averaging method. The newly implemented wet scavenging
scheme described in Part 1 of this study was used for the in-
cloud wet scavenging of dust particles caused by microphys-
ical processes. As no dust was simulated in NO-DUST/NO-
CLOUD and NO-DUST/CLOUD, these two simulations did
not include a dust emission scheme, aerosol dry and wet de-
position schemes, or aerosol optical schemes. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 Nevertheless, an improvement in the simulation
of the SW radiation budget over East Asia can be seen in the
results from DUST/CLOUD compared with those from NO-
DUST/CLOUD. Specifically, the SW radiation produced in
DUST/CLOUD (Fig. 1e and f) was substantially lower than
that produced in NO-DUST/CLOUD (Fig. 1c and d) over
China, especially at the dust sources and surrounding areas
over the north and northwest of the country, which is clearly
more consistent with the observations. During the simulation period, precipitation increased from
north to south China in both months and increased from
March to April over the entire region (Fig. 4a and b). The
spatial patterns of precipitation in March and April were
mostly reproduced by the model in both NO-DUST/CLOUD
(Fig. 4c and d) and DUST/CLOUD (Fig. 4e and f), but the
model underestimated the precipitation in March in both sim-
ulations, especially over central and north China. In April,
the observed precipitation center was located over south
China. Apart from underestimating the precipitation over
central and north China, the NO-DUST/CLOUD simulation
predicted the precipitation center to be located in an area to
the north of the observed center (Fig. 4d), and it also under-
estimated the precipitation over south China. In contrast, in
the results of DUST/CLOUD (Fig. 4f), the precipitation band
to the north of south China was weaker, and the precipitation
over south China was slightly stronger than that produced
by NO-DUST/CLOUD, which was more consistent with the
observations. The comparison of the simulation results with the obser-
vational data demonstrated that the model reasonably repro-
duced the meteorological field over East Asia. Moreover, the
meteorological field was produced more accurately when the
effects of dust were considered in the simulations, which
consequently allows the dust-induced modification of the
meteorological field to be investigated. For downward surface LW radiation, two high-value ar-
eas can be observed (Fig. 2a and b). One is over northwest
China, where the Taklimakan Desert is located. The strong
downward LW radiation over this region was likely due to
the abundance of dust particles in the local atmosphere. The
other area of strong LW radiation was located over south
China, which is warmer and contains more atmospheric wa-
ter vapor. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11532 represent the intrinsic meteorological field and the meteoro-
logical field modified by the effects of dust, respectively. For
March, the comparison is restricted to the observational data
from 17 to 31 March 2012 to ensure temporal overlay with
the corresponding simulation period. No observational data
over the ocean were available, so the simulated results over
the ocean are also omitted to simplify the comparison. get more accurately upon taking the effects of dust into ac-
count. Similarly to the spatial distributions for LW radiation,
higher near-surface temperatures were observed over north-
west China, which is a dry, arid area, and south China, which
is closer to the Equator (Fig. 3a and b). The spatial distribu-
tions of the near-surface temperature over this region were
well reproduced by the model for both March and April in
both NO-DUST/CLOUD (Fig. 3c and d) and DUST/CLOUD
(Fig. 3e and f). The model accurately captured the spatial pat-
tern of the surface temperature, and the two simulations did
not show remarkable difference in their results. The spatial distributions for the monthly average obser-
vational downward surface SW radiation for March and
April 2012 are shown in Fig. 1a and b. Overall, the SW ra-
diation was stronger in April than in March. The SW radia-
tion was significantly higher over western and northwestern
China due to the higher elevation of terrain over these re-
gions and lower over east and south China due to the lower
elevation and greater cloud coverage over those regions. The
model closely reproduced the spatial distributions of SW
radiation in both months and accurately captured the trend
from March to April in the simulation results from both NO-
DUST/CLOUD and DUST/CLOUD despite a certain over-
estimation, especially over coastal areas in east and south
China. This overestimation was likely due to the underes-
timation of clouds by the model over these areas. Compared
with inland areas, cloud coverage is always greater over the
coastal areas of east and south China due to the abundant
water vapor. Therefore, the SW radiation budget over coastal
areas was more sensitive to the underestimation of clouds by
the model. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 Water vapor is a potent greenhouse gas, which effi-
ciently absorbs LW radiation emitted by the Earth, heats the
surrounding area, and thus increases the emission of LW ra-
diation downward (and upward) by the heated atmosphere. The model accurately simulated the spatial distributions of
LW radiation over this region for both March and April in
both NO-DUST/CLOUD (Fig. 2c and d) and DUST/CLOUD
(Fig. 2e and f) and indeed closely captured the spatial pat-
tern of LW radiation over China. The LW radiation over the
Gobi Desert produced by DUST/CLOUD (Fig. 2e and f) is
slightly higher than that produced by NO-DUST/CLOUD,
indicating that the model reproduced the LW radiation bud- 3
Model validation The simulation for dust emissions was validated in Part 1
of this study, and the model was demonstrated to closely
reproduce dust emissions over East Asia during the inves-
tigated period by comparison with comprehensive observa-
tional data. As this study focused on the modification of the
meteorological field by the effects of dust over East Asia, the
capability of the model to simulate the meteorological field
itself over this region requires further validation. The China Meteorological Forcing Dataset (Yang et al.,
2010; Chen et al., 2011) was used to assess the perfor-
mance of the model in reproducing the spatial distribution
of the meteorological field over China. The dataset was de-
veloped by the hydrometeorological research group at the
Institute of Tibetan Plateau Research, Chinese Academy of
Science, by merging the Princeton meteorological forcing
data (Sheffield et al., 2006), the Global Energy and Wa-
ter Cycle Experiment–Surface Radiation Budget (GEWEX-
SRB) forcing data (Pinker and Laszlo, 1992), and the Global
Land Data Assimilation System forcing dataset (Rodell et al.,
2004). The dataset contains gridded observations of the near-
surface temperature, precipitation rate, and surface down-
ward SW and LW radiation across China, with a spatial res-
olution of 0.25◦dating from 1996. As described in the first part of this paper, two nested do-
mains were used for all four simulations. The outer domain
had a horizontal resolution of 27 km, covering the entire East
Asia region, and the inner domain had a horizontal resolution
of 9 km, covering the entirety of central to east China. Both Note
that
only
simulation
results
from
NO-
DUST/CLOUD and DUST/CLOUD are shown, as they Atmos. Chem. Phys., 18, 11529–11545, 2018 www.atmos-chem-phys.net/18/11529/2018/ 4.1.1
Spatial distribution The indirect effects of dust particles lead to modifications
of cloud properties and cloud lifetime and a redistribution
of atmospheric water vapor. The spatial distributions of the
simulated ice water path (IWP) and cloud water path (CWP)
from NO-DUST/CLOUD and DUST/CLOUD and the dif-
ference between the two simulations (DUST/CLOUD–NO-
DUST/CLOUD) are presented in Fig. 5. The atmospheric
IWP and CWP are the column sums of cloud ice water con-
tent and cloud water content in the atmosphere per unit area. Atmos. Chem. Phys., 18, 11529–11545, 2018 www.atmos-chem-phys.net/18/11529/2018/ L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11533 Figure 1. Spatial distributions of the average downward SW radiation at the surface from observations (a, b), from NO-DUST/CLOUD (c,
d), and from DUST-CLOUD (e, f) during March (left panels) and April (right panels) 2012. Figure 1. Spatial distributions of the average downward SW radiation at the surface from observations (a, b), from NO-DUST/CLOUD (c,
d), and from DUST-CLOUD (e, f) during March (left panels) and April (right panels) 2012. Note that the difference between NO-DUST/CLOUD and
DUST/CLOUD is entirely due to the full effects of dust, i.e.,
the direct effect of dust, the cloud radiative effect enhanced
by dust, and the microphysical effect of dust serving as IN in
the atmosphere. The spatial distributions shown in Fig. 5 are
the mean IWP and CWP averaged over the whole simulation
period. shown in Fig. 5d and e, in both of which the CWPs are con-
centrated over south China and the western Pacific Ocean,
with comparable values to each other. However, the com-
parison of CWPs produced from DUST/CLOUD and NO-
DUST/CLOUD in Fig. 5f shows that the existence of dust
leads to a slight reduction of CWP over west, north, and cen-
tral China, where the IWP increases substantially. Moreover,
there are perturbations of CWP over east and south China,
as well as the western Pacific Ocean. Particularly, the CWP
is generally reduced by up to 10 g m−2 over west, north, and
central China and increased by up to 10 g m−2 over south
China, which accounts for over 10 % of the total cloud water
vapor at these regions. 4.1.1
Spatial distribution Figure 5a and b show the spatial distributions of the
mean atmospheric IWP over East Asia produced from NO-
DUST/CLOUD and DUST/CLOUD. The IWP is concen-
trated over midlatitude areas (30–40◦N) in the results of NO-
DUST/CLOUD (Fig. 5a), with values of 10–20 g m−2. These
ice crystals are mostly formed through the freezing of deli-
quesced water-friendly aerosols. By contrast, the IWP pro-
duced by DUST/CLOUD is substantially higher than that
produced by NO-DUST/CLOUD over midlatitude areas in
the simulation domain, which are the dust sources and their
downstream areas (Fig. 5b). This corresponds to an increase
by 25 to 50 % over vast areas from dust source regions to the
northwest Pacific (Fig. 5c) due to the dust particles serving
as IN and leading to a substantial enhancement of ice crys-
tals in the atmosphere. Dust nuclei in the atmosphere enable
the supercooled water droplets to freeze into ice crystals at a
much higher temperature and lower relative humidity. Atmos. Chem. Phys., 18, 11529–11545, 2018 4.1.2
Vertical profile A possible cause of the higher peak over the
ocean is that only those particles small enough to be lifted
to high altitudes can be transported as far as the open ocean
of the west Pacific, whereas over land, more dust particles
with larger sizes are suspended in lower layers before set-
tling down to the surface. than 10 km over the whole of East Asia, as shown in Fig. 6a. The cloud ice mixing ratio is uniformly increased between
the surface and 10 km over land with a peak located at around
7 km (Fig. 6b), which results from the increase in IN served
by the abundant dust particles in the atmosphere. In contrast,
the increase in the cloud ice mixing ratio over the ocean
is much less significant, with a higher peak located at 8–
9 km (Fig. 6c). A possible cause of the higher peak over the
ocean is that only those particles small enough to be lifted
to high altitudes can be transported as far as the open ocean
of the west Pacific, whereas over land, more dust particles
with larger sizes are suspended in lower layers before set-
tling down to the surface. The increase in ice clouds at the middle to upper tropo-
sphere is attributed to the indirect effects of dust. The abun-
dant IN in the atmosphere served by dust particles substan-
tially increase the amount of ice crystals in mixed-phase and
ice clouds at these altitudes. In contrast, the decrease in liq-
uid clouds at the low to middle troposphere is the result of
two factors. One is the warming within the atmosphere in-
duced by the dust, leading to a much higher saturation pres-
sure required for atmospheric water vapor to form clouds and
a much faster evaporation rate of cloud droplets, which is due
to the cloud burning effect of dust. The other factor is that the
supercooled cloud droplets in the upper layers of the tropo-
sphere freeze into ice crystals at a much higher temperature
and lower relative humidity when dust particles serve as IN
in the atmosphere, leading to an increase in atmospheric IWP. Combined with the direct radiative effect of dust, the modi-
fications of ice and liquid clouds induced by dust will alter
the radiation budget over the region. 4.1.2
Vertical profile As the spatial distributions of IWP and CWP over East Asia
are altered by the effects of dust, the cloud ice mixing ra-
tio and cloud water mixing ratio are also modified vertically. Figure 6 shows the modifications on vertical profiles of the
cloud ice and cloud water mixing ratios induced by the full
effects of dust. Note that the vertical profiles over land, over
the ocean, and over the entire simulation domain for East
Asia are averaged across the whole simulation period. The spatial distributions for the mean CWP over East Asia
produced from NO-DUST/CLOUD and DUST/CLOUD are Due to the effects of dust, the cloud ice mixing ratio is in-
creased at all altitudes from the near-surface layer to higher www.atmos-chem-phys.net/18/11529/2018/ Atmos. Chem. Phys., 18, 11529–11545, 2018 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11534 Figure 2. Spatial distributions of the average downward LW radiation at the surface from observations (a, b), from NO-DUST/CLOUD (c,
d), and from DUST-CLOUD (e, f) during March (left panels) and April (right panels) 2012. Figure 2. Spatial distributions of the average downward LW radiation at the surface from observations (a, b), from NO-DUST/CLOUD (c,
d), and from DUST-CLOUD (e, f) during March (left panels) and April (right panels) 2012. To summarize, the effects of dust result in a general in-
crease in ice clouds and a slight decrease in liquid clouds
over East Asia as a whole, whereby the increase in cloud ice
is mainly concentrated at the middle to upper troposphere,
while the decrease in cloud water mostly occurs in low- and
mid-altitude clouds. than 10 km over the whole of East Asia, as shown in Fig. 6a. The cloud ice mixing ratio is uniformly increased between
the surface and 10 km over land with a peak located at around
7 km (Fig. 6b), which results from the increase in IN served
by the abundant dust particles in the atmosphere. In contrast,
the increase in the cloud ice mixing ratio over the ocean
is much less significant, with a higher peak located at 8–
9 km (Fig. 6c). 4.1.2
Vertical profile Compared to that of the
increase for the ice clouds, the magnitude of the decrease for
liquid clouds is smaller. However, the radiative effect of liq- The vertical modification of the cloud water mixing ra-
tio due to the effects of dust is fundamentally different from
that of the cloud ice mixing ratio. Due to the effects of dust,
the cloud water mixing ratio shows a decrease on average
over East Asia from the surface to 7 km (Fig. 6d). The over-
all decrease is dominated by the reduction in the cloud water
mixing ratio over land (Fig. 6e). The cloud water mixing ra-
tio is also decreased over the ocean near surface and above
4 km, but slightly increase between 1 and 4 km (Fig. 6f). The
vertical modification of the cloud water mixing ratio suggests
that the effects of dust reduce liquid clouds at the low to mid-
troposphere over East Asia, especially over land. Atmos. Chem. Phys., 18, 11529–11545, 2018 www.atmos-chem-phys.net/18/11529/2018/ www.atmos-chem-phys.net/18/11529/2018/ L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11535 Figure 3. Spatial distributions of the average near-surface temperature from observations (a, b), from NO-DUST/CLOUD (c, d), and from
DUST-CLOUD (e, f) during March (left panels) and April (right panels) 2012. Figure 3. Spatial distributions of the average near-surface temperature from observations (a, b), from NO-DUST/CLOUD (c, d), and from
DUST-CLOUD (e, f) during March (left panels) and April (right panels) 2012. SWATM = SWTOA + SWBOT,
(3) (3) uid clouds, especially low clouds, is much greater than that
of ice clouds; therefore, the decrease in liquid clouds might
have a greater impact on the radiative budget over East Asia,
which will be discussed in the following section. SWTOA is the SW radiative forcing at the top of the atmo-
sphere, and SWBOT is the SW radiative forcing at the bot-
tom of the atmosphere, both with positive values represent-
ing downwelling radiation. SWATM is the radiative forcing
within the atmosphere, which is the sum of SWTOA and
SWBOT, with positive values representing a net warming ef-
fect within the atmosphere. SWDOWNTOA and SWUPTOA
are the downwelling and upwelling SW radiation at the
top of the atmosphere, respectively, and SWUPBOT and
SWDOWNBOT are the upwelling and downwelling SW ra-
diation at the bottom of the atmosphere, respectively. 4.2
Radiative effect The radiative effect of dust particles is demonstrated by dust-
induced SW, LW, and net radiative forcing at the top of the
atmosphere (TOA), at the bottom of the atmosphere (BOT),
and within the atmosphere (ATM). In this study, the dust-
induced radiative effect is represented by the difference be-
tween the SW, LW, and net radiative budget produced from
NO-DUST/CLOUD and DUST/CLOUD, both of which out-
put clear-sky and all-sky SW and LW radiation budget. The LW radiative forcing was calculated as follows. LWTOA = −LWUPTOA
(4)
LWBOT = LWDOWNBOT −LWUPBOT
(5)
LWATM = LWTOA + LWBOT. (6) (4)
(5)
(6) The spatial distributions for the mean radiative forcing in-
duced by dust at the top of the atmosphere, at the bottom
of the atmosphere, and within the atmosphere over East Asia
during the simulation period are shown in Figs. 7 and 8. Note
that all of the spatial distributions for radiative forcing shown
in the two figures are the temporal mean over the entire sim-
ulation period. The SW radiative forcing was calculated as
follows. (5)
(6) (6) LWTOA is the LW radiative forcing at the top of the atmo-
sphere, and LWBOT is the LW radiative forcing at the bot-
tom of the atmosphere, both with positive values represent-
ing downwelling radiation. LWATM is the radiative forcing
within the atmosphere, which is the sum of LWTOA and
LWBOT, with positive values representing warming effect
within the atmosphere. LWUPTOA is the upwelling LW ra-
diation at the top of the atmosphere, and LWUPBOT and SWTOA = SWDOWNTOA −SWUPTOA
(1)
SWBOT = SWDOWNBOT −SWUPBOT
(2) (1)
(2) (2) www.atmos-chem-phys.net/18/11529/2018/ Atmos. Chem. Phys., 18, 11529–11545, 2018 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11536 Figure 4. Spatial distributions of the average precipitation rate from observations (a, b), from NO-DUST/CLOUD (c, d), and from
DUST/CLOUD (e, f) during March (left panels) and April (right panels) 2012. Figure 4. Spatial distributions of the average precipitation rate from observations (a, b), from NO-DUST/CLOUD (c, d), and from
DUST/CLOUD (e, f) during March (left panels) and April (right panels) 2012. Figure 5. Spatial distributions of the average simulated IWP (a–c) and CWP (d–f) from NO-DUST/CLOUD (left panels), DUST/CLOUD
(middle panels), and the difference between DUST/CLOUD and NO-DUST/CLOUD (right panels). Figure 5. Spatial distributions of the average simulated IWP (a–c) and CWP (d–f) from NO-DUST/CLOUD (left panels), DUST/CLOUD
(middle panels), and the difference between DUST/CLOUD and NO-DUST/CLOUD (right panels). 4.2.1
Clear-sky radiative forcing LWDOWNBOT are the upwelling and downwelling LW ra-
diation at the bottom of the atmosphere. p
The net radiative forcing is the sum of SW and LW radia-
tive forcing. The radiative forcing induced by dust shown in Fig. 7 is also
referred to as clear-sky radiative forcing and is due to the
reflection, absorption, and emission of radiation by dust par-
ticles suspended in the atmosphere. RaTOA = SWTOA + LWTOA
(7)
RaBOT = SWBOT + LWBOT
(8)
RaATM = SWATM + LWATM. (9) The clear-sky downwelling SW radiation at the top of the
atmosphere is slightly reduced over most land areas of East Atmos. Chem. Phys., 18, 11529–11545, 2018 Atmos. Chem. Phys., 18, 11529–11545, 2018 www.atmos-chem-phys.net/18/11529/2018/ L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11537 (a)
(b)
(c)
(d)
(e)
(f)
[g kg day ]
-1
-1
[g kg day ]
-1
-1
[g kg day ]
-1
-1
[g kg day ]
-1
-1
[g kg day ]
-1
-1
[g kg day ]
-1
-1
Figure 6. Vertical profile of the modification of cloud ice (a–c) and cloud water content (e–f) induced by dust over the entire simulation
domain (left panels), over land (middle panels), and over ocean (right panels). (b)
(c)
[g kg day ]
-1
-1
[g kg day ]
-1
-1 (a)
(b)
(c)
[g kg day ]
-1
-1
[g kg day ]
-1
-1
[g kg day ]
-1
-1 (d)
(e)
(f)
[g kg day ]
-1
-1
[g kg day ]
-1
-1
[g kg day ]
-1
-1
Figure 6 Vertical profile of the modification of cloud ice (a–c) and cloud water content (e–f) induced by dust over the entire simulation (e)
(f)
[g kg day ]
-1
-1
[g kg day ]
-1
-1 (d)
[g kg day ]
-1
-1 (e) Figure 6. Vertical profile of the modification of cloud ice (a–c) and cloud water content (e–f) induced by dust over the entire simulation
domain (left panels), over land (middle panels), and over ocean (right panels). m-simulated SW, LW, and net radiative forcing (W m−2) induced by dust over East Asia at TOA, BOT, and ATM Table 2. WRF-Chem-simulated SW, LW, and net radiative forcing (W m−2) induced by dust over East Asia at TOA, BOT, and ATM. Clear sky
All sky
SW
LW
Net
SW
LW
Net
TOA (+down)
−0.63
0.18
−0.45
−0.49
0.31
−0.18
ATM (+warm)
1.56
−1.26
0.30
1.44
−0.88
0.57
BOT (+down)
−2.19
1.44
−0.75
−1.94
1.19
−0.75
SW: shortwave radiative forcing; LW: longwave radiative forcing; Net: net radiative forcing. TOA: radiative forcing at the top of the atmosphere; ATM: radiative effect within the atmosphere;
BOT: radiative effect at the bottom of the atmosphere. Asia (Fig. 7a), indicating that the upwelling SW radiation at
the top of the atmosphere increases due to the reflection and
scattering of SW radiation by dust particles. The clear-sky
SW radiative forcing at the bottom of the atmosphere is neg-
ative over most of East Asia (Fig. www.atmos-chem-phys.net/18/11529/2018/ 7g), especially over dust
source regions, which suggests that the solar radiation that Asia (Fig. 7a), indicating that the upwelling SW radiation at
the top of the atmosphere increases due to the reflection and
scattering of SW radiation by dust particles. The clear-sky
SW radiative forcing at the bottom of the atmosphere is neg-
ative over most of East Asia (Fig. 7g), especially over dust
source regions, which suggests that the solar radiation that reaches the Earth’s surface is substantially reduced through
the absorption by dust particles suspended in the atmosphere. The absorption of solar radiation by dust particles heats up
the dust layers, leading to a significant net warming effect
within the atmosphere (Fig. 7d). Averaged over the entire
simulation domain, the SW radiative forcing over East Asia reaches the Earth’s surface is substantially reduced through
the absorption by dust particles suspended in the atmosphere. The absorption of solar radiation by dust particles heats up
the dust layers, leading to a significant net warming effect
within the atmosphere (Fig. 7d). Averaged over the entire
simulation domain, the SW radiative forcing over East Asia www.atmos-chem-phys.net/18/11529/2018/ Atmos. Chem. Phys., 18, 11529–11545, 2018 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 11538 Figure 7. Spatial distributions of the clear-sky SW (left panels), LW (middle panels), and net (right panels) radiative forcing at the top of the
atmosphere (TOA, a–c), within the atmosphere (ATM, d–f), and at the bottom of the atmosphere (BOT, g–i). Figure 7. Spatial distributions of the clear-sky SW (left panels), LW (middle panels), and net (right panels) radiative forcing at the top of the
atmosphere (TOA, a–c), within the atmosphere (ATM, d–f), and at the bottom of the atmosphere (BOT, g–i). Figure 8. Spatial distributions of the all-sky SW (left panels), LW (middle panels), and net (right panels) radiative forcing at the top of the
atmosphere (TOA, a–c), within the atmosphere (ATM, d–f), and at the bottom of the atmosphere (BOT, g–i). Figure 8. Spatial distributions of the all-sky SW (left panels), LW (middle panels), and net (right panels) radiative forcing at the top of the
atmosphere (TOA, a–c), within the atmosphere (ATM, d–f), and at the bottom of the atmosphere (BOT, g–i). is −0.63 W m−2 at the top of the atmosphere, −2.19 W m−2
at the bottom of the atmosphere, and 1.56 W m−2 within the
atmosphere, accounting for 0.19, 0.87, and 1.98 % of the total
clear-sky radiation budget in these three zones, respectively,
as shown in Table 2. regions and downstream areas due to the absorption of LW
radiation by the thick dust layer with a large fraction of
coarse particles in the atmosphere. In comparison, the clear-
sky downwelling LW radiation is reduced at the bottom of the
atmosphere (Fig. 7h), which is attributed to the Earth’s sur-
face being cooled as it receives less solar radiation (Fig. 7g). Combining the LW radiative forcing at the top of the atmo- In Fig. 7b, the clear-sky downwelling LW radiation at the
top of the atmosphere is slightly increased over dust source Atmos. Chem. Phys., 18, 11529–11545, 2018 4.2.2
All-sky radiative forcing The all-sky radiative forcing induced by dust shown in Fig. 8
is the total radiative forcing, including the radiative forcing
directly induced by dust displayed in Fig. 7, and that induced
by the cloud radiative effect enhanced by dust. In summary, the direct radiative effect of dust combined
with the cloud radiative effect enhanced by dust generally
causes a net loss of radiation at the Earth’s surface, but a
net gain within the atmosphere, leading to a cooling at the
surface and lower troposphere and a warming in middle to
upper troposphere. Nevertheless, as ice clouds enhanced by
dust are thin clouds, which contribute little to the modifica-
tions of both LW and SW radiation, the radiative forcing in-
duced by the indirect effects of dust is much less significant
than that by the direct radiative effect of dust; therefore, the
dust-induced radiative forcing over East Asia is dominated
by the direct radiative effect of dust. However, the perturba-
tion of the radiation budget, especially over the south part of
the simulation domain and the Pacific Ocean, is likely due to
the fluctuation of the liquid cloud amount. On average, the
radiative effect caused by the increase in ice clouds compen-
sates with that resulting from the decrease in liquid clouds,
leaving comparable modifications of the net radiative forcing
in the clear-sky case and the all-sky case. As SW radiation is not sensitive to ice crystals in the at-
mosphere, the all-sky downwelling SW radiation shows a
smaller reduction at the top (Fig. 8a) and the bottom (Fig. 8g)
of the atmosphere over dust sources and downstream areas
compared to the clear-sky case. The perturbations of all-sky
SW radiation over the southern part of the simulation do-
main and the Pacific Ocean in Fig. 8a and g are likely due
to the fluctuation of cloud cover. Similarly, the all-sky SW
radiative radiation shows a warming effect within the atmo-
sphere (Fig. 8d), with an identical magnitude and spatial dis-
tribution to the clear-sky case, as the warming is mostly at-
tributed to the absorption of SW radiation by dust particles. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11539 also leads to less cooling within the atmosphere (Fig. 8e)
compared to the clear-sky case. Moreover, a greater cloud
amount results in an increase in surface temperature, leading
to more upwelling LW radiation emitted by the surface and
thus a smaller positive LW radiative forcing at the bottom of
the atmosphere (Fig. 8h). As shown in Table 2, the mean all-
sky LW radiative forcing over the entire simulation domain is
0.31 W m−2 at the top of the atmosphere, 1.19 W m−2 at the
bottom of the atmosphere, and −1.26 W m−2 within the at-
mosphere, accounting for 0.07, 1.57, and 0.74 % of the total
all-sky radiation budget in the three zones, respectively. sphere and at the bottom of the atmosphere, there is a net neg-
ative LW radiative forcing within the atmosphere (Fig. 7e). Overall, the mean LW radiative forcing averaged over the
entirety of East Asia is 0.18 W m−2 at the top of the atmo-
sphere, 1.44 W m−2 at the bottom of the atmosphere, and
−1.94 W m−2 within the atmosphere, accounting for 0.07,
1.57, and 0.74 % of the total clear-sky radiation budget in
those three zones, respectively. Combining the SW and LW radiative forcing, the net
downwelling clear-sky radiation at the top of the atmosphere
is reduced over most of East Asia (Fig. 7c). The downwelling
clear-sky net radiation at the bottom of the atmosphere is also
reduced over most parts of East Asia, especially over dust
source regions and downstream areas (Fig. 7i), leading to a
net warming effect within the atmosphere (Fig. 7f), which
is slightly smaller than the warming caused by SW radiative
forcing (Fig. 7d). The net radiative forcing is −0.45 W m−2
at the top of the atmosphere, −0.75 W m−2 at the bottom of
the atmosphere, and 0.30 W m−2 within the atmosphere, ac-
counting for 0.67, 0.47, and 0.33 % of the total clear-sky ra-
diation budget in those three zones. y
g
p
y
Summing the SW and LW radiative forcing, the net down-
welling all-sky radiation at the top of the atmosphere is gen-
erally increased over dust sources, whereas it is reduced over
the downstream land areas (Fig. 8c). By contrast, the net
downwelling all-sky net radiation at the bottom of the atmo-
sphere is reduced significantly over most land areas over East
Asia (Fig. 8i). L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 Radiative forcing results in pronounced warm-
ing within the atmosphere over East Asia as a whole (Fig. 8f). Averaged over the simulation domain, the net all-sky radia-
tive forcing is −0.18, −0.75, and 0.57 W m−2 at the top of
the atmosphere, at the bottom of the atmosphere, and within
the atmosphere during the simulation period, accounting for
0.38, 0.56, and 0.66 % of the total net radiation budget in
those three zones, respectively. 4.2.2
All-sky radiative forcing Averaged over the entire simulation domain, the mean SW
radiative forcing is −0.49 W m−2 at the top of the atmo-
sphere, −1.94 W m−2 at the bottom of the atmosphere, and
1.44 W m−2 within the atmosphere (Table 2), accounting for
0.17, 0.93, and 1.81 % of the total all-sky radiation budget in
the three zones, respectively. 4.3
Vertical temperature profile Compared to the clear-sky case, the positive LW radia-
tive forcing at the top of the atmosphere is slightly increased
over dust sources and downstream land areas over East Asia
(Fig. 8b), indicating less upwelling LW radiation at the top
of the atmosphere. This is likely caused by the combination
of the lower surface temperature due to less solar radiation
reaching the Earth’s surface and the absorption of LW radi-
ation by more ice clouds induced by dust plumes over these
areas. The absorption of LW radiation by more ice clouds Due to radiative forcing induced by the effects of dust, the
vertical temperature profile is modified. Figure 9 shows the
modifications of the vertical temperature profiles resulting
from the direct radiative effect of dust, the cloud radiative
effect enhanced by dust, and the full radiative effect of dust
over East Asia, over land, and over the ocean during the in-
vestigated period. www.atmos-chem-phys.net/18/11529/2018/ www.atmos-chem-phys.net/18/11529/2018/ www.atmos-chem-phys.net/18/11529/2018/ L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11540 (a)
(b)
(c)
(d)
(e)
(f)
(g)
(h)
(i)
[degree day ]
-1
[degree day ]
-1
[degree day ]
-1
[degree day ]
-1
[degree day ]
-1
[degree day ]
-1
[degree day ]
-1
[degree day ]
-1
[degree day ]
-1
Figure 9. Modification of the vertical temperature profile induced
by the full effects of dust (left panels), the direct radiative effect of
dust (middle panels), and the semi-direct and indirect effects of dust
(right panels) over the entire simulation domain (a–c), over land (d–
f), and over ocean (g–i). increased from the surface to 3 km and then decreased from
3 to 15 km. (a)
[degree day ]
-1 (c)
[degree day ]
-1 (b)
[degree day ]
-1 As the radiative forcing induced by dust over land differs
from that over the ocean, the effects on the vertical temper-
ature profile require further discussion. The modifications of
the vertical temperature profile over land induced by the full
effects (Fig. 6d), direct effect (Fig. 6e) and indirect effects
(Fig. 6f) of dust exhibit similar distributions to those over the
entire domain, but with larger magnitudes. The decrease in
temperature at the lower level is composed of roughly equal
contributions from the direct radiative effect and the dust-
enhanced cloud radiative effect. The decrease in temperature
at lower layers is mainly attributable to the negative SW ra-
diative forcing at the surface induced by dust, and the in-
crease in temperature at the mid-troposphere is due to the
absorption of SW radiation by dust plumes. The decrease in
temperature at the upper troposphere might be due to the fact
that the enhancement of ice clouds in the middle to upper
troposphere prevents the upwelling LW radiation from being
absorbed by ice clouds at higher altitudes. [degree day ]
-1 [degree day ]
-1 [degree day ]
-1 (e)
[degree day ]
-1 (f)
[degree day ]
-1 (d)
[degree day ]
-1 The modification of the vertical temperature profile over
the ocean is different from that over land. The temperature is
increased from the surface to the mid-troposphere (Fig. 9g),
which is caused by two factors. One is the increase in temper-
ature at lower layers (Fig. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 9i) attributed to more absorption of
LW radiation and latent heat released by the enhancement of
low clouds. The other is the increase in temperature at the
mid-troposphere (Fig. 9h) caused by the absorption of SW
radiation by dust plumes. [degree day ]
-1 (g)
(h)
[degree day ]
-1
[degree day ]
-1 (h)
[degree day ]
-1 (i)
[degree day ]
-1 (g)
[degree day ]
-1 www.atmos-chem-phys.net/18/11529/2018/ Atmos. Chem. Phys., 18, 11529–11545, 2018 4.4
Atmospheric stability Fung: Investigating the role of dust in ice nucleation – Part 2 11541 Figure 10. Spatial distributions of the monthly average K index
from NO-DUST/CLOUD. by dust, are shown in Fig. 11b and the combined effects of
the previous two in Fig. 11c. As shown in Fig. 10, the mean KI over East Asia is lower
in the north and increases gradually from north to south,
with the highest values located over the South China Sea
and Southeast Asia and the lowest values over the central
to northern Pacific. The contributions of the direct radiative effect of dust and
the indirect effects of dust to the modification of the mean
KI are shown in Fig. 11a and b. The direct radiative effect
of dust inhibits atmospheric instability over most land areas,
indicated by a decrease in the mean KI, as shown in Fig. 11a. However, the indirect effects of dust result in an opposite
modification of the mean KI, with a slight enhancement of
mean KI over most areas of the investigated domain. Upon
considering the full effects of dust, the mean modification of
KI over most land areas in East Asia is a general decrease
(Fig. 11c). The largest decrease occurs over the dust source
regions and central to east China and results from the vertical
modification over land. In contrast, KI increases over south
China and most of the southern parts of the domain due to
the different effects of dust on the vertical temperature over
these areas. Figure 10. Spatial distributions of the monthly average K index
from NO-DUST/CLOUD. Figure 11. Spatial distributions of the modification of the K index
induced by the direct radiative effect of dust (a), the semi-direct and
indirect effects of dust (b), and the full effects of dust (c). Overall, the atmosphere is stabilized over the dust source
regions and central to east China, but destabilized over south
China and most ocean areas due to the effects of dust. 4.4
Atmospheric stability As discussed above, the radiative forcing and the redistribu-
tion of atmospheric water content induced by dust result in
a modification of the vertical temperature profile over East
Asia. The corresponding shift of the thermal energy in the
atmosphere eventually leads to a modification of the atmo-
spheric stability over this region. Figure 9. Modification of the vertical temperature profile induced
by the full effects of dust (left panels), the direct radiative effect of
dust (middle panels), and the semi-direct and indirect effects of dust
(right panels) over the entire simulation domain (a–c), over land (d–
f), and over ocean (g–i). The K index (KI) is a metric widely used in meteorology
to evaluate atmospheric stability and is calculated with the
following equation (George, 2014): (10) KI = T850 −T500 + Td850 −(T700 −Td700),
(10) where T850, T700, and T500 are the respective temperatures
at 850, 700, and 500 hPa, and Td850 and Td700 are the dew
points at 850 hPa and 700 hPa. The calculation of KI con-
siders atmospheric stability as a function of the vertical tem-
perature lapse rate, the moisture content of the lower atmo-
sphere, and the vertical extent of the moist layer. The larger
the value of KI, the more unstable the atmosphere. To evalu-
ate the effect of dust on atmospheric stability, KI was calcu-
lated from the simulation outputs. On average, the temperature over the simulation domain
as a whole is decreased below 2 km, increased from 2 to
7 km, and then decreased above 7 km (Fig. 9a). The contribu-
tions of the direct radiative effect of dust and dust-enhanced
cloud radiative effect to the vertical temperature modifica-
tion are shown in Fig. 9b and c. The direct radiative effect
of dust (Fig. 9b) results in a decrease in temperature below
3 km and an increase from 3 to 14 km. In contrast, the pat-
tern of the vertical temperature modification caused by the
dust-enhanced cloud radiative effect (Fig. 9c) is opposite to
that caused by the direct effect of dust. The temperature is Figure 10 shows the spatial distributions for the mean KI
from NO-DUST/CLOUD over East Asia during the simu-
lation period, which represents the intrinsic average atmo- Atmos. Chem. Phys., 18, 11529–11545, 2018 www.atmos-chem-phys.net/18/11529/2018/ L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 L. Su and J. C. H. 4.5
Precipitation The modification of atmospheric stability and the redistribu-
tion of atmospheric water content induced by dust eventu-
ally alter precipitation over East Asia. The spatial distribu-
tions for the mean precipitation rate, including total precipi-
tation, convective precipitation, and non-convective precipi-
tation from NO-DUST/CLOUD and DUST/CLOUD, as well
as the difference between the two simulations, are shown in
Fig. 12. Note that the precipitation rate shown in Fig. 12 is
the mean daily precipitation rate averaged over the simula-
tion period. The spatial pattern of the mean total precipitation rate from
NO-DUST/CLOUD shown in Fig. 12a is generally similar
to that from DUST/CLOUD shown in Fig. 12b. However,
Fig. 12c clearly shows that precipitation is modified due to
the effects of dust, leading to an overall reduction of the total
precipitation by as much as 1 mm day−1 or more to the east
of central to south China, where the main precipitation area is
located, while there is an increase by up to 1 mm day−1 to the
west. Meanwhile, the precipitation rate over south China is
slightly enhanced. The modifications of precipitation account
for up to 20 % of the total simulated precipitation rate over
land areas in the simulation domain. Figure 11. Spatial distributions of the modification of the K index
induced by the direct radiative effect of dust (a), the semi-direct and
indirect effects of dust (b), and the full effects of dust (c). spheric stability free from the effects of dust, and Fig. 11
shows the spatial distributions for the mean difference in KI
between DUST/NO-CLOUD and NO-DUST/NO-CLOUD
(Fig. 11a), between DUST/CLOUD and NO-DUST/CLOUD
(Fig. 11b), and between DUST/CLOUD and NO-DUST/
CLOUD (Fig. 11c). The differences represent the modifica-
tion of KI induced by the direct radiative effect of dust in
Fig. 11a; the indirect effects, including cloud radiative effects
and the redistribution of atmospheric water content enhanced The simulated convective precipitation mostly occurs over
the southern part of the simulation domain, with precipitation
centers located over east and south China, the South China
Sea, and Southeast Asia (Fig. 12d and e). Due to the ef- www.atmos-chem-phys.net/18/11529/2018/ 5
Conclusions Non-convective precipitation mainly occurs at the west-
ern rim of the Taklimakan Desert, northeast China, Japan,
and the areas between 27 and 36◦N over East Asia during
the simulation period. The spatial distribution of the non-
convective precipitation rate produced in DUST/CLOUD
(Fig. 12h) is similar to that produced in NO-DUST/CLOUD
(Fig. 12g). However, Fig. 12i shows that the non-convective
precipitation rate is modified upon considering the effects
of dust. The non-convective precipitation band over central
China exhibits a shift of location, with less precipitation to
the east and west, but more in the middle. This is likely due
to the modification of liquid clouds over the same area, with
fewer clouds to the east and west, but more in the middle
(Fig. 5f). Similarly, the enhancement or inhibition of non-
convective precipitation over south to east China is also re-
lated to the perturbation of the cloud amount over these areas. On average, the amount of non-convective precipitation is in-
creased or decreased by up to 20 % at the main precipitation
regions. By applying the updated WRF-Chem, which is capable of
evaluating the indirect effects of dust along with the direct
effect in dust simulations, the full effects of dust, including
direct radiative, cloud radiative, and indirect microphysical
effects, on the meteorological field over East Asia during
March and April 2012 were quantified and discussed. By considering the effects of dust in the simulation, the at-
mospheric IWP is substantially increased from west China to
the northwest Pacific Ocean, which are the dust sources and
their downstream areas with abundant dust particles avail-
able to serve as IN. By contrast, the atmospheric CWP is
generally reduced over the same areas, while it shows pertur-
bations over the rest of the areas in East Asia. Vertically, the
effects of dust result in a general increase in cloud ice and
a decrease in cloud water over East Asia as a whole, as the
increase in ice clouds is mainly concentrated at the middle
to upper troposphere. However, the decrease in liquid clouds
mostly occurs at the low to middle troposphere. The increase
in ice clouds is due to the enhancement of the ice nucleation
process with abundant dust particles serving as IN. The re-
duction in liquid clouds is attributed to two factors. One is
the burning effect of dust. www.atmos-chem-phys.net/18/11529/2018/ Atmos. Chem. Phys., 18, 11529–11545, 2018 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11542 Figure 12. Spatial distributions of the average simulated total precipitation rate (a–c), convective precipitation rate (d–f), and non-convective
precipitation rate (g–i) from NO-DUST/CLOUD (left panels), DUST/CLOUD (middle panels), and the difference between DUST/CLOUD
and NO-DUST/CLOUD (right panels). Figure 12. Spatial distributions of the average simulated total precipitation rate (a–c), convective precipitation rate (d–f), and non-convective
precipitation rate (g–i) from NO-DUST/CLOUD (left panels), DUST/CLOUD (middle panels), and the difference between DUST/CLOUD
and NO-DUST/CLOUD (right panels). fects of dust, convective precipitation is enhanced over south
China, but inhibited over east China (Fig. 12f). The inhibi-
tion of convective precipitation over central to east China is
likely due to the general enhancement of atmospheric sta-
bility, which reduces convective motion over this region. The
greater convective precipitation over south China is attributed
to the more unstable atmosphere, which promotes convective
motion. precipitation might be shifted, and precipitation can be en-
hanced or inhibited by up to 20 % over regions with relatively
abundant precipitation during the investigated period, such as
central to east China and south China. www.atmos-chem-phys.net/18/11529/2018/ References Atkinson, J. D., Murray, B. J., Woodhouse, M. T., Whale, T. F.,
Baustian, K. J., Carslaw, K. S., Dobbie, S., O’sullivan, D., and
Malkin, T. L.: The importance of feldspar for ice nucleation by
mineral dust in mixed-phase clouds, Nature, 498, 355–358, 2013. The modification of clouds, including ice and liquid
clouds, as well as the radiative forcing induced by dust lead to
an altering of the vertical temperature profile. Consequently,
the atmosphere is stabilized over most land areas, but desta-
bilized over south China and most oceanic areas. Bi, J., Huang, J., Fu, Q., Ge, J., Shi, J., Zhou, T., and Zhang,
W.: Field measurement of clear-sky solar irradiance in Badain
Jaran Desert of Northwestern China, J. Quant. Spectrosc. Radiat. Transf., 122, 194–207, 2013. Convective precipitation is inhibited over south China due
enhanced atmospheric stability, while it is enhanced over
central China as a result of the more unstable atmosphere. The modification of cloud amount results in a shift of loca-
tions of non-convective precipitation over China. On aver-
age, the total amount of precipitation over the entire investi-
gated domain remains the same by taking the effects of dust
into account; however, the locations of precipitation might
be shifted, and precipitation can be enhanced or inhibited by
up to 20 % over particular regions with relatively abundant
precipitation during the investigated period. Broadley, S. L., Murray, B. J., Herbert, R. J., Atkinson, J. D., Dob-
bie, S., Malkin, T. L., Condliffe, E., and Neve, L.: Immersion
mode heterogeneous ice nucleation by an illite rich powder rep-
resentative of atmospheric mineral dust, Atmos. Chem. Phys., 12,
287–307, https://doi.org/10.5194/acp-12-287-2012, 2012. Chen, Y., Yang, K., He, J., Qin, J., Shi, J., Du, J., and
He,
Q.:
Improving
land
surface
temperature
modeling
for
dry
land
of
China,
J. Geophys. Res.-Atmos.,
116,
https://doi.org/10.1029/2011JD015921, 2011. Chen, S., Huang, J., Kang, L., Wang, H., Ma, X., He, Y., Yuan, T.,
Yang, B., Huang, Z., and Zhang, G.: Emission, transport, and ra-
diative effects of mineral dust from the Taklimakan and Gobi
deserts: comparison of measurements and model results, At-
mos. Chem. Phys., 17, 2401–2421, https://doi.org/10.5194/acp-
17-2401-2017, 2017. Data availability. The WRF-Chem outputs are available from
the authors upon request (lsu@connect.ust.hk). The China me-
teorological dataset can be obtained freely from the web-
site of the Data Assimilation and Modeling Center for Ti-
betan
Multi-spheres,
Institute
of
Tibetan
Plateau
Research,
Chinese Academy of Sciences (http://westdc.westgis.ac.cn/data/
7a35329c-c53f-4267-aa07-e0037d913a21). L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 of the China Meteorological Forcing Dataset used in this study
for model validation. Lin Su would like to thank Georg Grell,
Stuart McKeen, and Ravan Ahmandov from the Earth System
Research Laboratory, U.S. National Oceanic and Atmospheric
Administration, for insightful discussions. All data used in this
paper are properly cited and referred to in the reference list. All
data shown in the results are available upon request. This work
was supported by NSFC/RGC grant no. HKUST631/05, NSFC-FD
grant U1033001, and RGC grant 16303416. of the China Meteorological Forcing Dataset used in this study
for model validation. Lin Su would like to thank Georg Grell,
Stuart McKeen, and Ravan Ahmandov from the Earth System
Research Laboratory, U.S. National Oceanic and Atmospheric
Administration, for insightful discussions. All data used in this
paper are properly cited and referred to in the reference list. All
data shown in the results are available upon request. This work
was supported by NSFC/RGC grant no. HKUST631/05, NSFC-FD
grant U1033001, and RGC grant 16303416. absorb radiation and warm up the surrounding environment,
leading to a much greater saturation pressure required for
atmospheric water vapor to form clouds and a much faster
evaporation rate of cloud droplets. The other factor is that
the ice nucleation process enhanced by dust facilitates the
freezing of atmospheric supercooled water droplets into ice
crystals. absorb radiation and warm up the surrounding environment,
leading to a much greater saturation pressure required for
atmospheric water vapor to form clouds and a much faster
evaporation rate of cloud droplets. The other factor is that
the ice nucleation process enhanced by dust facilitates the
freezing of atmospheric supercooled water droplets into ice
crystals. For the radiative forcing induced by dust, the direct radia-
tive effect of dust combined with the dust-enhanced cloud
radiative effect causes a net loss of radiation at the Earth’s
surface, but a net gain of radiation within the atmosphere,
leading to cooling at the surface and lower troposphere and
warming in the middle to upper troposphere. The radiative
forcing caused by the direct radiative effect of dust is greater
than that induced by the dust-enhanced cloud radiative effect
over land areas, as the thin ice clouds enhanced by dust par-
ticles have limited impacts on altering the radiation budget. Edited by: Corinna Hoose
Reviewed by: two anonymous referees Competing interests. The authors declare that they have no conflict
of interest. Competing interests. The authors declare that they have no conflict
of interest. DeMott, P. J., Prenni, A. J., McMeeking, G. R., Sullivan, R. C.,
Petters, M. D., Tobo, Y., Niemand, M., Möhler, O., Snider, J. R., Wang, Z., and Kreidenweis, S. M.: Integrating laboratory and
field data to quantify the immersion freezing ice nucleation activ-
ity of mineral dust particles, Atmos. Chem. Phys., 15, 393–409,
https://doi.org/10.5194/acp-15-393-2015, 2015. Acknowledgements. We would like to acknowledge the principal
investigators and their staff from the Data Assimilation and
Modeling Center for Tibetan Multi-spheres, Institute of Tibetan
Plateau Research, Chinese Academy of Sciences, for the provision Atmos. Chem. Phys., 18, 11529–11545, 2018 5
Conclusions Dust particles in the atmosphere To summarize, the total amount of precipitation over the
entire investigated domain remains the same by taking the
effects of dust into account; however, the locations of the Atmos. Chem. Phys., 18, 11529–11545, 2018 www.atmos-chem-phys.net/18/11529/2018/ www.atmos-chem-phys.net/18/11529/2018/ 11543 References Connolly, P. J., Möhler, O., Field, P. R., Saathoff, H., Burgess,
R., Choularton, T., and Gallagher, M.: Studies of heterogeneous
freezing by three different desert dust samples, Atmos. Chem. Phys., 9, 2805–2824, https://doi.org/10.5194/acp-9-2805-2009,
2009. Data Assimilation and Modeling Center for Tibetan Multi-
spheres, Institute of Tibetan Plateau Research, Chinese Academy
of
Sciences,
available
at:
(http://westdc.westgis.ac.cn/data/
7a35329c-c53f-4267-aa07-e0037d913a21, last access: 3 Au-
gust 2018. Author contributions. LS performed the research. LS and JCHF
wrote the paper. Author contributions. LS performed the research. LS and JCHF
wrote the paper. DeMott, P. J., Sassen, K., Poellot, M. R., Baumgardner, D., Rogers,
D. C., Brooks, S. D., Prenni, A. J., and Kreidenweis, S. M.:
African dust aerosols as atmospheric ice nuclei, Geophys. Res. Lett., 30, https://doi.org/10.1029/2003GL017410, 2003. DeMott, P. J., Sassen, K., Poellot, M. R., Baumgardner, D., Rogers,
D. C., Brooks, S. D., Prenni, A. J., and Kreidenweis, S. M.:
African dust aerosols as atmospheric ice nuclei, Geophys. Res. Lett., 30, https://doi.org/10.1029/2003GL017410, 2003. DeMott, P. J., Prenni, A. J., McMeeking, G. R., Sullivan, R. C.,
Petters, M. D., Tobo, Y., Niemand, M., Möhler, O., Snider, J. R., Wang, Z., and Kreidenweis, S. M.: Integrating laboratory and
field data to quantify the immersion freezing ice nucleation activ-
ity of mineral dust particles, Atmos. Chem. Phys., 15, 393–409,
https://doi.org/10.5194/acp-15-393-2015, 2015. Atmos. Chem. Phys., 18, 11529–11545, 2018 L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11544 Ge, J., Su, J., Ackerman, T., Fu, Q., Huang, J., and Shi,
J.: Dust aerosol optical properties retrieval and radiative
forcing over northwestern China during the 2008 China
US joint field experiment, J. Geophys. Res.-Atmos., 115,
https://doi.org/10.1029/2009JD013263, 2010. Koop, T., Luo, B., Tsias, A., and Peter, T.: Water activity as the de-
terminant for homogeneous ice nucleation in aqueous solutions,
Nature, 406, 611–614, 2000. Lacis, A.: Climate forcing, climate sensitivity, and climate response:
A radiative modeling perspective on atmospheric aerosols,
Aerosol Forc. Climate, 17, 11–42, 1995. George, J. J.: Weather forecasting for aeronautics, Academic Press,
673, 2014. Liu, Y., Huang, J., Shi, G., Takamura, T., Khatri, P., Bi, J., Shi, J.,
Wang, T., Wang, X., and Zhang, B.: Aerosol optical properties
and radiative effect determined from sky-radiometer over Loess
Plateau of Northwest China, Atmos. Chem. Phys., 11, 11455–
11463, https://doi.org/10.5194/acp-11-11455-2011, 2011a. Ginoux, P., Chin, M., Tegen, I., Prospero, J. M., Holben, B.,
Dubovik, O., and Lin, S. J.: Sources and distributions of dust
aerosols simulated with the GOCART model, J. Geophys. Res.-
Atmos., 106, 20255–20273, 2001. Ginoux, P., Prospero, J. M., Torres, O., and Chin, M.: Long-term
simulation of global dust distribution with the GOCART model:
correlation with North Atlantic Oscillation, Environ. Model. Softw., 19, 113–128, 2004. Liu, Zheng, Y., Li, Z., Flynn, C., Welton, E. J., and Cribb, M.: Trans-
port, vertical structure and radiative properties of dust events in
southeast China determined from ground and space sensors, At-
mos. Environ., 45, 6469–6480, 2011b. Grell, G. A. and Freitas, S. R.: A scale and aerosol aware
stochastic convective parameterization for weather and air
quality
modeling,
Atmos. Chem. Phys.,
14,
5233–5250,
https://doi.org/10.5194/acp-14-5233-2014, 2014. Lohmann, U. and Feichter, J.: Global indirect aerosol ef-
fects:
a
review,
Atmos. Chem. Phys.,
5,
715–737,
https://doi.org/10.5194/acp-5-715-2005, 2005. Lohmann, U., and Diehl, K.: Sensitivity studies of the importance of
dust ice nuclei for the indirect aerosol effect on stratiform mixed-
phase clouds, J. Atmos. Sci., 63, 968–982, 2006. Hansen, J., Sato, M., and Ruedy, R.: Radiative forcing and climate
response, J. Geophys. Res.-Atmos., 102, 6831–6864, 1997. Hartmann, D., Tank, A., and Rusticucci, M.: IPCC fifth assessment
report, climate change 2013: The physical science basis, IPCC
AR5, 31–39, 2013. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 Mallet, M., Tulet, P., Serça, D., Solmon, F., Dubovik, O., Pelon, J.,
Pont, V., and Thouron, O.: Impact of dust aerosols on the radia-
tive budget, surface heat fluxes, heating rate profiles and convec-
tive activity over West Africa during March 2006, Atmos. Chem. Phys., 9, 7143–7160, https://doi.org/10.5194/acp-9-7143-2009,
2009. Hoose, C., Lohmann, U., Erdin, R., and Tegen, I.: The global in-
fluence of dust mineralogical composition on heterogeneous ice
nucleation in mixed-phase clouds, Environ. Res. Lett., 3, 025003,
https://doi.org/10.1088/1748-9326/3/2/025003, 2008. Mlawer, E. J., Taubman, S. J., Brown, P. D., Iacono, M. J., and
Clough, S. A.: Radiative transfer for inhomogeneous atmo-
spheres: RRTM, a validated correlated k model for the longwave,
J. Geophys. Res.-Atmos., 102, 16663–16682, 1997. Huang, J., Fu, Q., Su, J., Tang, Q., Minnis, P., Hu, Y., Yi, Y.,
and Zhao, Q.: Taklimakan dust aerosol radiative heating derived
from CALIPSO observations using the Fu-Liou radiation model
with CERES constraints, Atmos. Chem. Phys., 9, 4011–4021,
https://doi.org/10.5194/acp-9-4011-2009, 2009. Nabat, P., Somot, S., Mallet, M., Michou, M., Sevault, F., Dri-
ouech, F., Meloni, D., di Sarra, A., Di Biagio, C., Formenti, P.,
Sicard, M., Léon, J.-F., and Bouin, M.-N.: Dust aerosol radiative
effects during summer 2012 simulated with a coupled regional
aerosol–atmosphere–ocean model over the Mediterranean, At-
mos. Chem. Phys., 15, 3303–3326, https://doi.org/10.5194/acp-
15-3303-2015, 2015a. Iacono, M. J., Delamere, J. S., Mlawer, E. J., Shephard, M. W., Clough, S. A., and Collins, W. D.: Radiative forc-
ing by long-lived greenhouse gases: Calculations with the
AER radiative transfer models, J. Geophys. Res.-Atmos., 113,
https://doi.org/10.1029/2008JD009944, 2008. Janji´c, Z. I.: The step-mountain eta coordinate model: Further de-
velopments of the convection, viscous sublayer, and turbulence
closure schemes, Mon. Weather Rev., 122, 927–945, 1994. Nabat, P., Somot, S., Mallet, M., Sevault, F., Chiacchio, M., and
Wild, M.: Direct and semi-direct aerosol radiative effect on the
Mediterranean climate variability using a coupled regional cli-
mate system model, Clim. Dynam., 44, 1127–1155, 2015b. Janji´c, Z. I.: Nonsingular implementation of the Mellor–Yamada
level 2.5 scheme in the NCEP Meso model, NCEP office note,
437, 1–61, 2002. Palacios, L., Baró, R., and Jiménez-Guerrero, P.: An on-line mod-
elling study of the direct effect of atmospheric aerosols over Eu-
rope, Física de la Tierra, 27, 155–170, 2015. Kang, J. Y., Yoon, S. C., Shao, Y., and Kim, S. W.: Compar-
ison of vertical dust flux by implementing three dust emis-
sion schemes in WRF/Chem, J. Geophys. Res.-Atmos., 116,
https://doi.org/10.1029/2010JD014649, 2011. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 11545 Solomon, S.: Climate change 2007-the physical science basis:
Working group I contribution to the fourth assessment report of
the IPCC, Cambridge University Press, p. 565, 2007. Rodell, M., Houser, P., Jambor, U., Gottschalck, J., Mitchell, K.,
Meng, C., Arsenault, K., Cosgrove, B., Radakovich, J., and
Bosilovich, M.: The global land data assimilation system, B. Am. Meteorol. Soc., 85, 381–394, 2004. Su, L. and Fung, J. C.: Sensitivities of WRF Chem to dust emission
schemes and land surface properties in simulating dust cycles
during springtime over East Asia, J. Geophys. Res.-Atmos., 120,
11–215, https://doi.org/10.1002/2015JD023446, 2015. Sassen,
K.:
Indirect
climate
forcing
over
the
western
US
from
Asian
dust
storms,
Geophys. Res. Lett.,
29,
https://doi.org/10.1029/2001GL014051, 2002. Targino, A. C., Krejci, R., Noone, K. J., and Glantz, P.: Single
particle analysis of ice crystal residuals observed in orographic
wave clouds over Scandinavia during INTACC experiment, At-
mos. Chem. Phys., 6, 1977–1990, https://doi.org/10.5194/acp-6-
1977-2006, 2006. Sassen, K., DeMott, P. J., Prospero, J. M., and Poellot, M. R.: Saharan dust storms and indirect aerosol effects on
clouds: CRYSTAL FACE results, Geophys. Res. Lett., 30,
https://doi.org/10.1029/2003GL017371, 2003. Satheesh, S., Deepshikha, S., and Srinivasan, J.: Impact of dust
aerosols on Earth–atmosphere clear sky albedo and its short wave
radiative forcing over African and Arabian regions, Int. J. Re-
mote Sens., 27, 1691–1706, 2006. Teller, A. and Levin, Z.: The effects of aerosols on precipitation
and dimensions of subtropical clouds: a sensitivity study us-
ing a numerical cloud model, Atmos. Chem. Phys., 6, 67–80,
https://doi.org/10.5194/acp-6-67-2006, 2006. Seigel, R. B., van den Heever, S. C., and Saleeby, S. M.: Mineral
dust indirect effects and cloud radiative feedbacks of a simulated
idealized nocturnal squall line, Atmos. Chem. Phys., 13, 4467–
4485, https://doi.org/10.5194/acp-13-4467-2013, 2013. Tesfaye, M., Tsidu, G. M., Botai, J., and Sivakumar, V.: Mineral
dust aerosol distributions, its direct and semi-direct effects over
South Africa based on regional climate model simulation, J. Arid
Environ., 114, 22–40, 2015. Seinfeld, J. H., Carmichael, G. R., Arimoto, R., Conant, W. C.,
Brechtel, F. J., Bates, T. S., Cahill, T. A., Clarke, A. D., Do-
herty, S. J., and Flatau, P. J.: ACE-ASIA: Regional climatic and
atmospheric chemical effects of Asian dust and pollution, B. Am. Meteorol. Soc., 85, 367–380, 2004. Thompson, G. and Eidhammer, T.: A study of aerosol impacts on
clouds and precipitation development in a large winter cyclone,
J. Atmos. Sci., 71, 3636–3658, 2014. L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 Peckham, S. E., Grell, G., McKeen, S. A., Ahmadov, R., Wong,
K. Y., Barth, M., Pfister, G., Wiedinmyer, C., Fast, J. D., and
Gustafson, W. I.: WRF-Chem version 3.8. 1 user’s guide, 2017. Karydis, V., Kumar, P., Barahona, D., Sokolik, I., and Nenes, A.:
On the effect of dust particles on global cloud condensation nu-
clei and cloud droplet number, J. Geophys. Res.-Atmos., 116,
https://doi.org/10.1029/2011JD016283, 2011. Perlwitz, J., and Miller, R. L.: Cloud cover increase with in-
creasing aerosol absorptivity: A counterexample to the conven-
tional semidirect aerosol effect, J. Geophys. Res.-Atmos., 115,
https://doi.org/10.1029/2009JD012637, 2010. Phillips, V. T., DeMott, P. J., and Andronache, C.: An empiri-
cal parameterization of heterogeneous ice nucleation for multi-
ple chemical species of aerosol, J. Atmos. Sci., 65, 2757–2783,
2008. Koehler, K. A., Kreidenweis, S. M., DeMott, P. J., Petters, M. D.,
Prenni, A. J., and Möhler, O.: Laboratory investigations of the
impact of mineral dust aerosol on cold cloud formation, Atmos. Chem. Phys., 10, 11955–11968, https://doi.org/10.5194/acp-10-
11955-2010, 2010. Pinker, R. and Laszlo, I.: Modeling surface solar irradiance for
satellite applications on a global scale, J. Appl. Meteorol., 31,
194–211, 1992. Atmos. Chem. Phys., 18, 11529–11545, 2018 www.atmos-chem-phys.net/18/11529/2018/ L. Su and J. C. H. Fung: Investigating the role of dust in ice nucleation – Part 2 Wesely, M.: Parameterization of surface resistances to gaseous dry
deposition in regional-scale numerical models, Atmos. Environ.,
23, 1293–1304, 1989. Shao,
Y.:
Simplification
of
a
dust
emission
scheme
and
comparison
with
data,
J. Geophys. Res.-Atmos.,
109,
https://doi.org/10.1029/2003JD004372, 2004. Yang, K., He, J., Tang, W., Qin, J., and Cheng, C. C.: On downward
shortwave and longwave radiations over high altitude regions:
Observation and modeling in the Tibetan Plateau, Agr. Forest
Meteorol., 150, 38–46, 2010. Shao,
Y.,
Ishizuka,
M.,
Mikami,
M.,
and
Leys,
J.:
Pa-
rameterization
of
size
resolved
dust
emission
and
vali-
dation with measurements, J. Geophys. Res.-Atmos., 116,
https://doi.org/10.1029/2010JD014527, 2011. Zhang, C., Wang, M., Morrison, H., Somerville, R. C., Zhang, K.,
Liu, X., and Li, J. L. F.: Investigating ice nucleation in cirrus
clouds with an aerosol enabled Multiscale Modeling Framework,
J. Adv. Model. Earth Syst., 6, 998–1015, 2014. Sheffield, J., Goteti, G., and Wood, E. F.: Development of a 50-year
high-resolution global dataset of meteorological forcings for land
surface modeling, J. Climate, 19, 3088–3111, 2006. Soil Survey Staff: Soil survey manual, US Department of Agricul-
ture, 1–503, 1993. Atmos. Chem. Phys., 18, 11529–11545, 2018
|
https://openalex.org/W2045611048
|
https://jlm.ipipan.waw.pl/index.php/JLM/article/download/58/27
|
English
| null |
The Case for the Journal's Use of a CC-BY License
|
Journal of Language Modelling
| 2,012
|
cc-by
| 1,491
|
Journal of Language Modelling Vol 0, No 1 (2012), pp. 5–8 The Case for the Journal’s Use
of a CC-BY License Stuart M. Shieber
School of Engineering and Applied Sciences, Harvard University,
Cambridge, Massachusetts, USA Scholarly writing is different from other writing. Scholars write
articles to disseminate their research results without any thought or
desire for direct financial recompense. We write so that science and
society can benefit from our insights. We write so that our work can
be read, used, and reused. It bears thinking, then, about how best to make our articles avail-
able to the world. Under what conditions should we ideally distribute
our articles? The issue is especially apposite in the context of an open-
access (OA) journal such as Journal of Language Modelling (JLM). As
an open-access journal, a journal for which online distribution is free,
JLM is freer to rethink the legal regime under which its articles are
distributed, since that distribution does not affect its business model. As a new journal, JLM is in the position to design its policies ab ini-
tio, without having to worry about past practice or precedent. As a
language-related journal, text is both the medium of communication
in JLM and its object of study, bringing front and center the idea of
reuse, especially computational reuse, of the text that comprises its
articles.f JLM’s staff, in consultation with its editorial board, have thought
long and hard about the ideal way to achieve the goal of widest possi-
ble use and reuse of its articles. In the scholarly communications com-
munity, the consensus view, and the view that JLM has settled upon,
is to make sure that articles published in the journal are licensed to
the world under a broad license that allows every sort of use, subject
only to the crucial moral right of proper attribution to the authors. The most direct implementation of that notion is through a Creative
Commons license known as cc-by. Journal of Language Modelling Vol 0, No 1 (2012), pp. 5–8 Stuart M. Shieber When authors provide their work under a cc-by license, they al-
low anyone to share their work (copy, distribute, and transmit it),
to remix the work (to adapt it in various ways), and to make com-
mercial use of the work. However, any use of the work is subject
to an attribution requirement: a user must attribute the work prop-
erly to the authors, but may not suggest that the authors endorse
their use. The Case for the Journal’s Use
of a CC-BY License Among the many organizations endorsing cc-by as the license
of choice for OA journals are the Open Access Scholarly Publishers
Association, SPARC Europe, SURF, and the Directory of Open Access
Journals. The SPARC Europe Seal of Approval for journals even re-
quires cc-by. All the major OA publishers (Public Library of Science,
BioMed Central, Hindawi, and many others) have settled on cc-by
as the license to use, as have essentially all OA experts. Community
consensus for cc-by has been expressed by the authors of the Bu-
dapest Open Access Initiative’s 10th anniversary recommendation in
their crisp statement “We recommend cc-by for all OA journals.” (Bu-
dapest Open Access Initiative, 2012) Extended arguments for journals’
use of cc-by have been provided by OASPA (Redhead, 2012) and by
Michael Carroll (Carroll, 2011). Some prospective authors may have concerns about the breadth
of the cc-by license. Such worries are important to assuage. What if someone misuses the material, presenting it in
a misleading or inappropriate way, for instance, distributing
a version under his or her own name (that is, plagiarizing the
work), or providing an inaccurate summary of the work or
a bad translation that would reflect badly on me? What if someone misuses the material, presenting it in
a misleading or inappropriate way, for instance, distributing
a version under his or her own name (that is, plagiarizing the
work), or providing an inaccurate summary of the work or
a bad translation that would reflect badly on me? Such uses would violate the cc-by license. Plagiarism directly violates
the attribution requirement of the cc-by license. Misleading state-
ments or implications that the original author provided or endorses
a bad summary or translation similarly violate the license. But more
importantly, such misuses violate the social norms of all scholarship,
norms that have kept such practices in check throughout the mod-
ern history of scholarship. Far more than legalistic remedies, norms of
behavior are strong incentives not to misuse others’ work. Indeed, if
moral suasion is insufficient to stop someone from plagiarism or inap- [
6
] The Case for the Journal’s Use of a CC-BY License The Case for the Journal’s Use of a CC-BY License propriate attribution, mere legalities of a license are hardly likely to
fare better. What if someone starts selling my articles or running other
kinds of businesses making use of my writings? Shouldn’t I get
paid? But if someone reuses my article in some way, shouldn’t they
be required to at least share the results with the community
for free? Licenses like the “copy-left” license that requires “sharing alike”
are appropriate for many situations, especially open-source software
projects, where individual modifications of a single item (a software
application, say) by themselves can have major value that could oth-
erwise be locked up. But for scholarly articles, any added value would
typically come from the ability to aggregate large volumes of articles
and extract value from the aggregation. Requiring share-alike would
disallow such aggregations, especially when the aggregation includes
materials under more restrictive licenses. The overhead of tracking
these combined licenses has led many, even in the open-source soft-
ware community, to eschew share-alike licenses. I’m proud to be associated with a journal that has made the right
choice in ensuring that its articles can be used in the most open and
appropriate manner. Journals like JLM that act in the best interest of
our community of scholars deserve our support. What if someone starts selling my articles or running other
kinds of businesses making use of my writings? Shouldn’t I get
paid? What if someone starts selling my articles or running other
kinds of businesses making use of my writings? Shouldn’t I get
paid? Scholars write for their impact on society, and part of that impact
is uptake of their ideas by commercial ventures that improve society
through their efforts. Seeing one’s work move into the market is a tes-
timony to its importance, not a detriment to be quashed. (As Howard
Aiken, the founder of computing research at my own university, has
been quoted as saying, “Don’t worry about people stealing your ideas. If your ideas are any good, you’ll have to ram them down people’s
throats.”) Keep in mind that although cc-by allows for commercial reuse,
such reuses would need to be something more than simply reselling
content. When articles are available for free as in an OA journal like
JLM, there is essentially no market for pure resale of the articles. Any
commercial venture using cc-by-licensed articles as a part of the busi-
ness process would need to add value to those raw materials, and in-
sofar as it does so, there would seem to be no argument against le-
gitimate compensation of the business for its efforts in providing that
value. If value is added, why not allow recouping of expenses and
profit? The knee-jerk reaction against commercial use of scholarly ar-
ticles has been termed “profit-spite” by Jan Velterop. The sentiment
that “if I can’t make money off of my article, no one should” may be
appealing at first blush, but collapses under an understanding of the
scholarly enterprise. Some of this reaction may be a natural result of popular sentiment
against perceived gouging by certain publishers of subscription jour-
nals. But the reaction to problems in the subscription journal market
is not to blame the publishers, but rather to blame the cause of the sys-
temic market dysfunction, monopolistic ownership. Cc-by eliminates
that fundamental problem. When the raw materials for a business are
freely available, it’s hard for a business to gouge in selling its value-
added products and services, because any potential competitor has the
same free access to those raw materials. [
7
] Stuart M. Shieber Stuart M. Shieber This work is licensed under the Creative Commons Attribution 3.0 Unported License.
http://creativecommons.org/licenses/by/3.0/ references Budapest Open Access Initiative (2012), Ten years on from the Budapest
Open Access Initiative: setting the default to open, URL http://www. opensocietyfoundations.org/openaccess/boai-10-recommendations. Budapest Open Access Initiative (2012), Ten years on from the Budapest
O
A
I iti ti
tti
th d f
lt t
URL htt
// Michael W. Carroll (2011), Why Full Open Access Matters, PLoS Biology,
9(11):e1001210, doi:10.1371/journal.pbio.1001210,
URL http://dx.doi.org/10.1371%2Fjournal.pbio.1001210. Michael W. Carroll (2011), Why Full Open Access Matters, PLoS Biology,
9(11):e1001210, doi:10.1371/journal.pbio.1001210,
URL http://dx.doi.org/10.1371%2Fjournal.pbio.1001210. Claire Redhead (2012), Why CC-BY?, Open Access Scholarly Publishers
Association Blog, URL http://oaspa.org/why-cc-by/. [
8
]
|
https://openalex.org/W2761911209
|
http://ijam.co.in/index.php/ijam/article/download/08272017/411
|
English
| null |
Ksharasutra Ligation Treatment for Arsha (3rd Degree Piles): A Case Report
|
International journal of Ayurvedic medicine
| 2,017
|
cc-by
| 1,870
|
Introduction rectum during defecation for last 10 years. Bleeding per
rectum during defecation in syringing form for last 2
months and pain-in-ano was noticed for 2 weeks. During local examination, piles at 3, 5, 7 and 11 o`
clock positions were noticed on inspection. After
investigation for HIV, VDRL, HbsAg, proctoscopy
examination was performed and there were intero-
external piles at 3, 5, 7 and 11 clock position were
observed (Fig-1). Patient had tried conservative
Ayurvedic treatment for 15 days but did not get relief. Hence, he was visited in Shalya OPD for Ksharasutra
treatment. Routine laboratory investigation for blood,
urine and stool were done and found within normal
limit. Chest X-ray and USG of whole abdomen were
done and all reports were found normal. The case was
planned for Ksharasutra ligation under spinal anesthesia. Arsha is included in Ashtomahagada (Eight
dreadful diseases) (1) which occurs in Guda Pradesh. Guda is included in Sadyopranahara Marma which
requires delicate management. At present, different
types of treatment modalities like rubber band ligation,
cryo-surgery,
infra-red
coagulation
therapy,
haemorrhoidectomy, sclerosing injection therapy etc. are available with their own limitations.(2) There may
be complication like incontinence, haemorrhage and
anal stricture.(3) Sushruta has described Pratisaraniya
Kshara (local application of Kshara) in treatment of
Arsha and ligation of Ksharasutra in Nadivrana
(sinus), various tumors and tumor like lesions. Arsha
can be co-related with Piles at modern parlance which
is nothing but a pedicle like lesion created due to the
engorgement of haemorrhoidal veins. In this study, a
case of third degree intero-external piles 3, 7, 11 and 5
o’ clock position of anus was treated by Ksharasutra
(medicated thread) ligation. That Ksharasutra was
prepared as per Ayurved Pharmacopeia of India (API)
by using Snuhi (Latex of Euphorbia nerifolia),
Apamarga Kshara (Ash of Achyranthus aspera Linn.)
and turmeric (Curcuma longa Linn.) powder coated
over the Barbour’s surgical thread No. 20.(4) Case history A 62 years old male patient of Vatakaphaja
Prakriti visited in the outpatient department of Shalya
Tantra for treatment of Arsha. He was habitual for
consuming spicy foods and has addiction for tobacco
chewing. By occupation, he was an unskilled laborer. The patient had complaints of protrusion of piles per Ksharasutra Ligation Treatment for Arsha (3rd Degree Piles): A Case Report Case Report Keywords: Arsha, Ksharasutra, KSL, Piles. Keywords: Arsha, Ksharasutra, KSL, Piles. Method of Ksharasutra ligation
Pre-operative: The informed written consent was taken from
patient. Shaving and cleaning of peri-anal area was done
on one day before operation. Soap water enema at
previous night and proctoclysis enema in morning on
the day of operation was given. Inj. Tetanus Toxoid,
0.5ml IM was given as prophylactic measure and
sensitivity test was done with Inj. Xylocaine on one day
before operation. Erand Bhrishta Haritaki, 5 gm was
given at night with luke warm water. The patient was
advised nil by mouth from 10:30 pm on previous day of
surgery. Priyanka Pravinbhai Chuahan1*, Sanjay Kumar Gupta2 1. Lecturer, Department of Shalya Tantra, SGAM College Jamnagar, Gujarat,
2. Head of the Department, Department of Shalya Tantra, All India Institute of Ayurveda, New Delhi Published online in http://ijam. co. in Published online in http://ijam. co. in ISSN: 0976-5921 Abstract Ksharasutra treatment is in practice since ancient time as Sushruta has mentioned its application in
Nadivrana, Arbuda and Arsha in Sushruta Samhita. It is safe, effective and economical for treatment of piles with
least side effect. In this study, a patient was suffering from 3rd degree interno-external pile masses at 3, 7 and 11
o’clock with one secondary pile mass at 5 o’clock position of anal canal. All pile masses were treated with
Ksharasutra ligation (KSL) under spinal anaesthesia. Post operative assessment was done daily by recording the
relief observed in signs and symptoms. The ligated pile masses were cut through by 6th / 7th post operative day and
resultant wounds were healed latest by 25 day uneventfully. There were some advantages observed in Ksharasutra
ligation in management of 3rd degree piles which is shared in this case report . Conclusion
hi This case demonstrated that interno-external piles
can be treated with Ksharasutra ligation without any
adverse effects. As it is a single case study so it requires
to study in more number of patients for concrete
conclusion. Post-operative p
Patient was kept nil by mouth for six hours and
intravenous fluid of Ringer Lactate and Dextrose
Normal Saline one litre each was given. Liquids allowed
after six hours of operation. Intravenous injection of
ceftriaxone 1gm two times, intravenous ornidazole two
times and injection diclofenac as per need was given for
two days. From next morning Eranda Bhrishta Haritaki,
5 gm at bed time for bowel regulation and Triphala
Guggulu, 500mg, thrice in a day was prescribed and sitz
bath with warm water and Panchavalkala Kwatha for
two times in a day was advised. Dressing was done
regularly and Matrabasti with 10 ml Jatyadi Taila was
given daily after dressing. From next day evening
patient advised to take diet like green vegetables, fruits,
rice, daal and plenty of water. Patient was also advised
to avoid non-veg, oily as well as spicy foods, junk foods
and alcohol. By 7th post-operative day, some ligated
necrosed piles masses were sloughed out and some were
required twisting of Ksharasutra so that necrosed piles
masses were sloughed out and fresh wounds were
observed in the respective places of the pile masses (Fig-
3). Dressing and Matra Basti with Jatyadi Taila was
continued for further 10 days. After 10th post-operative
day anal dilatation was started with anal dilator no. 4
lubricated with Jatyadi Ghrita daily. By the end of 25th
post operative day, all the wound were observed healed
and there was no feature of anal spasm / stricture or any
complication (Fig-4). g
The adjuvant drugs like Panchavalkal Kwath play
important role in maintaining local hygiene, Shodhan
(cleaning) and Ropan (healing) of the wound.(8). As
patient had history of constipation, the Erand Bhrishta
Haritaki powder was prescribed for the Anuloman and
patient get relieved from constipation. Triphala
Guggulu has anti-inflammatory property so it helped to
reduce post-operative swelling. After cut through of the
piles, anal dilatation was advised to avoid the anal
stricture. Hence, along with Ksharasutra ligation in
piles these adjuvant drugs play important role in smooth
healing of the post-operative wound. Patient was
advised to consult regularly and after 26 days, patient
was free from all symptoms of piles with normal scar of
wound without any complications. References 1. Sushruta Samhita with Ayurved Tatva Sandipika
commentary by Ambikadata Shastri, sutrasthana,
chapter 33, sutra 4, Page 35, published by
Chowkhambha Sanskrit SansthanVaranasi, 13th
edition, 2001. International Journal of Ayurvedic Medicine, 2017, 8(3), 151-153
ISSN: 0976 5921 In this study, Ksharasutra was applied under
spinal anesthesia and it was dislodge latest by 7th post
operative day. The applied Kshara on thread acts as anti
-microbial,
anti-inflammatory
and
chemical
cauterization which promotes healing process after
sloughing out of pile masses.(6) The pH of Ksharasutra
is alkaline (pH-10.3); hence, it does not allow growth of
bacteria in site of ligation. The cutting and sloughing
are presumed by local action of Kshara, Snuhi and
mechanical pressure effect of Ksharasutra ligation
during initial 1-2 days of its application followed by
healing in rest of the days. turmeric (Curcuma longa)
powder which is present in Ksharasutra, minimizes
reaction of excessive caustics and helped for healing
process.(7) Ksharasutra has shown combined effect of
all these three herbal drugs (Apamarga Kshara, Snuhi
Ksheera and, Haridra) and said to be unique drug
formulation for cutting of piles pedicle as well as
healing of resultant wound. holding forceps and skin of external part of piles was
incised by cutting scissors up to mucocutaneous junction
with saving the sphincter muscles and mucosal part. Then transfixation and ligation was done at the base of
pedicle by Ksharasutra with help of a round body curved
needle. The thread then placed along the incised part of
interno-external piles mass and reef knot was applied. Same procedure was adopted for piles situated at 5, 7
and 11 o’clock positions of anal canal (Fig-2). After
achieving proper haemostasis, the part was cleaned by
Betadine solution and a diclofenac suppository was
inserted inside rectum. Finally, T-bandage was applied
and patient was shifted to the recovery room with stable
vitals. Operative procedure Patient was laid in lithotomy position after giving
spinal anesthesia. Anus and peri-anal area was painted
with Betadine solution and spirit. Draping was done
with sterilized linen cut sheet. Up to four fingers anal
dilatation was carried out. First of all the interno-
external pile mass at 3 o’clock was hold by piles *Corresponding Author:
Priyanka Chauhan
Lecturer, Department of Shalya Tantra,
SGAM College Jamnagar, Gujarat,
Email address: drpriyankachauhan24@gmail.com 151 Published online in http://ijam. co. in ISSN: 0976-5921 Discussion Sushruta described fourfold modality for treatment
of Arsha (Piles) that is use of Aushadhi (Medicines),
Kshara (external use of Caustic), Agni (therapeutic
cauterization) and Shastra (Surgical procedure)(5). In
contemporary science there are many treatment options
for piles like cryo surgery, sclerosant injection therapy,
infra-red therapy, rubber band ligation and open and
closed
haemorrhoidectomy
etc. These
treatment
modalities have their own limitations in respect of
postoperative complications, pain, haemorrhage, delayed
healing, stricture formation etc. In comparison to
haemorrhoidectomy, Ksharasutra ligation therapy is said
be better as it has minimum post operative undesirable
sequels. In the present case there was no post-operative
haemorrhage and retention of urine after Ksharasutra
ligation. The delayed complications like anal stricture
and fecal incontinence, were not observed. 2. R.C.G. Russell, Norman S. Williams, Christopher
J.K. Bulstrode & P.Ronan O’Connell(2008) Bailey
& Love’s Short practice of Surgery, Chapter 75,
Page 1256 (25th Edition), Edward Arnold Publishers
Ltd., London. 2. R.C.G. Russell, Norman S. Williams, Christopher
J.K. Bulstrode & P.Ronan O’Connell(2008) Bailey
& Love’s Short practice of Surgery, Chapter 75,
Page 1256 (25th Edition), Edward Arnold Publishers
Ltd., London. 3. R.C.G. Russell, Norman S. Williams, Christopher
J.K. Bulstrode & P.Ronan O’Connell (2008) Bailey
& Love’s Short practice of Surgery, Chapter 75,
Page 1258 (25th Edition), Edward Arnold Publishers
Ltd., London. 4. Unanimously, Ayurvedic Pharmacopia of India part-
II volume-II chapter 51Ksharasutra (Medicated
thread) 1st ed. Published by AYUSH, Govt. of India,
Delhi. 2001 p.209-13 4. Unanimously, Ayurvedic Pharmacopia of India part-
II volume-II chapter 51Ksharasutra (Medicated
thread) 1st ed. Published by AYUSH, Govt. of India,
Delhi. 2001 p.209-13 p
5. Sushruta Samhita with Ayurved Tatva Sandipika 152 Published online in http://ijam. co. in ISSN: 0976-5921 7. Kohli K, Ali J, Ansari MJ, Raheman Z. (2005)
Curcumin: A natural antiinflammatory agent. Indian
Journal of Pharmacology. 37(3): 141-47. gy
( )
8. Arawatti S, Boppareddy S, Narinder S, Ashok K,
Shringi M. (2012) Clinical evaluation on the effect of
nishadya taila and Panchavalkal kwath in the
management of bhagandar vrana (Fistulotomy
wound). e: Publication, 5th WAC. Art. No.10969. 6. Londonkar M, Reddy VC and Abhay Ku (2011). Potential Antibacterial and Antifungal Activity of
Achyranthes aspera L., Recent Research in Science
and Technology. Discussion 3(4): 53-57 Fig-1: Interno-external piles
Fig-2: ligation with Ksharasutra
Fig-3: On 7th Post-operative day
Fig-4: On 25th Post-operative day Fig-1: Interno-external piles Fig-1: Interno-external piles Fig-2: ligation with Ksharasutra Fig-3: On 7th Post-operative day Fig-4: On 25th Post-operative day Fig-4: On 25th Post-operative day Fig-3: On 7th Post-operative day 153
|
https://openalex.org/W2564730608
|
https://europepmc.org/articles/pmc5223004?pdf=render
|
English
| null |
A Rare Case of Disseminated Pyogenic Gonococcal Infection in an Immunocompetent Woman
|
Case reports in infectious diseases
| 2,016
|
cc-by
| 2,544
|
Hindawi Publishing Corporation
Case Reports in Infectious Diseases
Volume 2016, Article ID 9629761, 4 pages
http://dx.doi.org/10.1155/2016/9629761 Hindawi Publishing Corporation
Case Reports in Infectious Diseases
Volume 2016, Article ID 9629761, 4 pages
http://dx.doi.org/10.1155/2016/9629761 Hindawi Publishing Corporation
Case Reports in Infectious Diseases
Volume 2016, Article ID 9629761, 4 pages
http://dx.doi.org/10.1155/2016/9629761 Iordanis Romiopoulos,1 Athina Pyrpasopoulou,1,2 Anna Varouktsi,2
Elisavet Simoulidou,2 Konstantina Kontopoulou,3 Ekaterini Karantani,4
Vivian Georgopoulou,5 Konstantinos Kitsios,6 Apostolos Mamopoulos,7
Charalampos Antachopoulos,1 Asterios Karagiannis,2 and Emmanuel Roilides1 1Infectious Diseases Unit, 3rd Department of Pediatrics, Faculty of Medicine, Aristotle University School of Health Sciences,
Hippokration General Hospital, Thessaloniki, Greece Hippokration General Hospital, Thessaloniki, Greece
22nd Propaedeutic Department of Internal Medicine, Faculty of Medicine, Aristotle University School of Health Sciences,
Hippokration General Hospital, Thessaloniki, Greece
3
b
f
b l
l
l Th
l
k 22nd Propaedeutic Department of Internal Medicine, Faculty of Medicine, Aristotle University School of Health Sciences,
Hippokration General Hospital, Thessaloniki, Greece h
3Laboratory of Microbiology, Gennimatas General Hospital, Thessaloniki, Greeceh h
4Laboratory of Microbiology, Hippokration General Hospital, Thessaloniki, Greeceh h
5Laboratory of Radiology, Hippokration General Hospital, Thessaloniki, Greeceh y f
gy
pp
ph
6Department of Medicine, Gennimatas Hospital, Thessaloniki, Greece 73rd Department of Obstetrics and Gynecology, Faculty of Medicine, Aristotle University School of Health Sciences,
Hippokration General Hospital, Thessaloniki, Greece 73rd Department of Obstetrics and Gynecology, Faculty of Medicine, Aristotle University School of Health Sciences
Hippokration General Hospital, Thessaloniki, Greece Correspondence should be addressed to Emmanuel Roilides; roilides@med.auth.gr Correspondence should be addressed to Emmanuel Roilides; roilides@med.auth.gr Received 3 September 2016; Accepted 22 November 2016 Received 3 September 2016; Accepted 22 November 2016 Academic Editor: Fariborz Mansour-ghanaei Academic Editor: Fariborz Mansour-ghanaei Copyright © 2016 Iordanis Romiopoulos et al. This is an open access article distributed under the Creative Commons Attribution
License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly
cited. We present a case of previously healthy, immunocompetent, 41-year-old woman who developed systemic inflammatory response
syndrome secondary to Neisseria gonorrhoeae bacteremia. Clinical course was complicated by the simultaneous formation of
multiple muscular abscesses, epidural abscess, and septic spondylodiscitis. The patient responded well to prolonged ceftriaxone
treatment and was released 10 weeks after initial admission. Spinal lesions and/or pyomyositis individually constitute rare
complications of disseminated gonococcal infection. This case, combining both manifestations, is to our knowledge unique. Apropos, diversity of the clinical presentation, and therapeutic challenges for this historical disease are discussed for the practicing
physician. Case Report
A Rare Case of Disseminated Pyogenic Gonococcal
Infection in an Immunocompetent Woman Iordanis Romiopoulos,1 Athina Pyrpasopoulou,1,2 Anna Varouktsi,2
Elisavet Simoulidou,2 Konstantina Kontopoulou,3 Ekaterini Karantani,4
Vivian Georgopoulou,5 Konstantinos Kitsios,6 Apostolos Mamopoulos,7
Charalampos Antachopoulos,1 Asterios Karagiannis,2 and Emmanuel Roilides 1. Introduction Despite
the normal abdominal ultrasound findings, the patient was
treated empirically for potential cholecystitis with intra-
venous cefoxitin, 1 g tid.h her husband who refused examination for gonorrhoea. Her
last sexual intercourse was reported to be 1 month before
admission. On day 7, new blood cultures incubated into the BacT/
ALERT automated system (Biom´erieux, Marcy-l’´Etoile,
France) revealed high bacterial load, evidenced by the fact
that positive signal was elicited as early as two hours after
incubation. A Gram-negative diplococcus was seen on micro-
scopy. The isolate was identified as N. gonorrhoeae on the au-
tomated system Vitek II (Biom´erieux). Due to absence of
N. gonorrhoeae susceptibility card the antimicrobial sus-
ceptibility testing was performed by Kirby Bauer disc
diffusion method and revealed susceptibility to ceftriaxone,
clindamycin, and ciprofloxacin but resistance to azithro-
mycin. g
The following day (day 2) the clinical course was further
complicated by arthritis of the right shoulder, the right elbow,
and the right ankle, which improved with administration of
NSAIDS. Abdominal pain, however, worsened involving the
lower abdomen, and tenderness of the right thigh developed,
which was aggravated by movement. Computed tomography
scan of the abdomen revealed no liver and biliary lesions
but increased size and calcifications of the uterus, thickening
of the perirectal fasciae, formation of perirectal abscesses,
collection of fluid in the epidural and presacral space with
presence of air, and presence of air within the subcutaneous
tissue of the anterior abdominal wall. Given the formation of
perirectal abscesses in the setting of a fever with abdominal
pain and arthritis, the patient underwent colonoscopy on day
5 and a potential diagnosis of inflammatory bowel disease
was excluded. On day 6 the patient had an episode of self-
limited vaginal bleeding (her last menstrual cycle being 2
weeks previously). The cervical swab was positive for Gram-
negative, coffee bean-shaped diplococci and culture grew
Neisseria gonorrhoeae. No other pathogens were isolated. Serological tests for HIV and syphilis were negative. The
patient denied previously extramarital sexual activity or
prior sexually transmitted diseases. She was living with On the same day the patient was referred to Hippokration
Hospital for further evaluation and management of pyogenic
pelvic inflammatory disease. At referral she was septic with
a temperature of 39.5∘C, hypoalbuminemic (2.0 g/dL), and
markedly oedematous. 1. Introduction Gonococcal disease is generally asymptomatic or mildly
symptomatic [1]. Disseminated disease and distal septic
complications such as spinal abscesses and pyomyositis have
been very rarely reported [2]. We describe the case of a
female, who developed disseminated disease accompanied
by severe systemic inflammatory response syndrome (SIRS),
pyomyositis, and spinal lesions including septic spondy-
lodiscitis and epidural abscess with neurological symptoms. To our knowledge, this is the first case reported of such exten-
sive complications including spinal lesions and pyomyositis. A 41-year-old woman was referred to the 3rd Department of
Obstetrics and Gynecology of Hippokration General Hospi-
tal for further investigation and treatment of pyogenic pelvic
inflammatory disease. The patient’s past history included
bowel obstruction at the age of 8 months with no more data
available and 3 caesarian sections; she was taking no chronic
medication. Symptoms started 9 days before referral with intense low
back pain of abrupt onset for which she had consulted an
orthopedic surgeon and had been prescribed nonsteroidal 2 2 Case Reports in Infectious Diseases (a)
(b)
Figure 1: (a) Presacral epidural inflammatory fluid collection (abscess) (black arrow) and adjacent spondylodiscitis that developed at the
level of L5-S1 vertebrae (white arrow). Due to its small size the epidural abscess was successfully managed with antibiotics alone. (b) Large
abscess of the right buttock (white arrow) that was drained under CT scan guidance. (a) (b) (a) (b) Figure 1: (a) Presacral epidural inflammatory fluid collection (abscess) (black arrow) and adjacent spondylodiscitis that developed at the
level of L5-S1 vertebrae (white arrow). Due to its small size the epidural abscess was successfully managed with antibiotics alone. (b) Large
abscess of the right buttock (white arrow) that was drained under CT scan guidance. anti-inflammatory drugs (NSAIDS) without response. Two
days later (day 1) the patient was admitted to the Depart-
ment of Medicine, Gennimatas Hospital, with fever (38.2∘C)
and abdominal pain, localized in the right upper quad-
rant and the epigastrium. Laboratory tests revealed leuko-
cytosis (WBC 14,900/𝜇L, 96% neutrophils), thrombocy-
topenia (60,000/𝜇L), markedly elevated C-reactive protein
(330mg/L), and mildly affected liver chemistry (SGOT
60 U/L, SGPT 84 U/L, 𝛾GT 104 U/L, ALP 160 U/L, total
bilirubin 2.79 mg/dL, and direct bilirubin 2.62 mg/dL). Initial
blood and urine cultures did not grow any pathogen. References [1] P. A. Cook, J. Evans-Jones, H. Mallinson et al., “Compari-
son of patients diagnosed with gonorrhoea through commu-
nity screening with those self-presenting to the genitourinary
medicine clinic,” BMJ Open, vol. 4, no. 3, Article ID e004862,
2014. [2] A. Belkacem, E. Caumes, J. Ouanich et al., “Changing patterns
of disseminated gonococcal infection in france: cross-sectional
data 2009–2011,” Sexually Transmitted Infections, vol. 89, no. 8,
pp. 613–615, 2013. [3] X. Muschart, “A case report with Fitz-Hugh-Curtis syndrome,
what does it mean?” Acta Clinica Belgica, vol. 70, no. 5, pp. 357–
358, 2015. Disseminated gonococcal disease is generally rare (1–
3%) and has been reported mostly in immunocompromised
patients with complement or other immunological deficien-
cies [6–9]. There are only few published cases of disseminated
pyogenic gonococcal infection either as spondylitis [5] or as
pyomyositis [10].h [4] W. Belda Jr., P. E. N. F. Velho, L. J. Fagundes, and M. Arnone,
“Evaluation of the in vitro activity of six antimicrobial agents
against Neisseria gonorrhoeae,” Revista do Instituto de Medicina
Tropical de Sao Paulo, vol. 49, no. 1, pp. 55–58, 2007. [5] S. Y. Y. Low, C. W. M. Ong, P.-R. Hsueh, P. A. Tambyah, and T. T. Yeo, “Neisseria gonorrhoeae paravertebral abscess: case report,”
Journal of Neurosurgery: Spine, vol. 17, no. 1, pp. 93–97, 2012. y
y
The prevalence of gonococcal pyomyositis is extremely
low. In 1992, a review included 100 cases of pyomyositis in
North America over a period of 20 years, of which no case was
gonococcal [11]. Gonococcal pyomyositis has been reported
in 6 patients [10, 12–16]. The involved muscular sites were
thigh and calf [10], biceps brachii [12, 14], and obturator inter-
nus [13, 15]. On the other hand, an axial skeleton involvement
in the setting of a disseminated gonococcal infection is maybe
an even more rare complication. In 1976, Seruzier et al. pub-
lished probably the first case of gonococcal spinal infection
in a 47-year-old male with spondylodiscitis at the level of 9th
and 10th thoracic vertebra [17]. In 2004, Van Hal and Post
reported a thoracic epidural mass at 6th to 7th vertebra [18]
and more recently Low et al. reported a case of gonococcal
spinal epidural abscess extended from the 6th cervical to the
2nd thoracic vertebra without cord compression [5]. [6] K. E. Miller, “Diagnosis and treatment of Neisseria gonorrhoeae
infections,” American Family Physician, vol. 73, no. 10, pp. 1779–
1784, 2006. 3. Discussion The case described in this report has several unusual and
interesting features. The clinical course of the infection
in an otherwise immunocompetent woman escalated from
asymptomatic gonorrhoea to disseminated gonococcal dis-
ease. At this point, Fitz-Hugh-Curtis syndrome, also known
as acute perihepatitis, characterized by inflammation of the
peritoneum and the perihepatic tissues [3] was considered
in relation to gonococcal disease. The syndrome can be
underdiagnosed because of subtle CT liver and peritoneal
findings. Of note, cefoxitin used to treat probable chole-
cystitis did not prove efficient against gonococcal syndrome
although it is considered in vitro active. This underlies the
fact that the efficacy of an antibiotic is not determined
only by antibiotic pharmacodynamics but is based on phar-
macokinetics/pharmacodynamics index, which was possibly
not fulfilled in this case [4]. On the other hand, although
azithromycin was resistant in vitro, it was included in the
therapeutic regimen at least for a potential broader and
enhanced activity given the rapid evolution of the clini-
cal condition. Septic arthritis is a well-characterized late
complication of the bacteremic stage of the disease; the
spinal vertebrae however become affected very rarely [5]. Our patient may have developed this complication due to
preexisting degenerative lesions of the spine and the adjacent
inflammatory fluid collection that developed in the course of
the disease. The authors have no conflict of interest. The authors have no conflict of interest. Acknowledgments The authors thank the patient who gave them written
informed consent for the publication of this case report. 1. Introduction A quadruple intravenous antibiotic
regimen was initiated (ceftriaxone 2 g q12 h, clindamycin
600 mg q6 h, gentamicin 6 mg/kg q24 h, and azithromycin
600 mg q24 h); the patient gradually responded and became
afebrile within a week. On day 8, she developed a hemor-
rhagic maculopapular rash in her lower extremities, painful
palpable lumps in the right thigh, and shin and splinter
hemorrhages. Endocarditis was excluded by transesophageal
echocardiography. Magnetic resonance imaging confirmed
the presence of a presacral epidural inflammatory collection
with associated septic spondylodiscitis of the 5th lumbar
and 1st sacral vertebrae and abscesses of multiple muscles
(pyomyositis) including psoas, gluteus maximus, and quadra-
tus femoris, the largest among them measuring 12.1 cm ×
6.7 cm (Figures 1(a) and 1(b)). On day 20, this large abscess was drained and 160 mL of
purulent fluid was removed under CT scan guidance. Gram
stain and cultures of the fluid were negative. In the setting 3 Case Reports in Infectious Diseases Our case is unique because, to our knowledge, dissemi-
nated gonococcal disease of an excessively suppurative form
affecting both spine and multiple muscles has not been
previously reported. The intensity of the symptomatology
in this otherwise healthy individual, the complications that
she developed, and the delayed response to appropriate
treatment necessitated increased medical care and prolonged
hospitalization. of a disseminated gonococcal disease with multiple compli-
cations, the possibility of an underlying immunodeficiency
was investigated by quantitative analysis of immunoglobulins
and components of complement, with normal findings. The antibiotic regimen was gradually deescalated to only
intravenous ceftriaxone, which was continued for 6 weeks. CRP levels normalized very slowly and finally the patient was
discharged with oral ciprofloxacin 500 mg bid for a month. N. gonorrhoeae has always been and probably will remain
a major health problem, which rarely may involve difficult-to-
manage spine and muscular septic complications. Awareness
of the diversity of the clinical presentation and therapeutic
challenges for this historical disease remains therefore impor-
tant for the practicing physician. References [7] O. Amir, V. D. Nguyen, and B. J. Barnett, “Acute human
immunodeficiency virus infection presenting as disseminated
gonococcal infection,” Southern Medical Journal, vol. 96, no. 3,
pp. 284–286, 2003. [8] H. D. Keiser, “Recurrent disseminated gonococcal infection in a
patient with hypocomplementemia and membranoproliferative
glomerulonephritis,” Journal of Clinical Rheumatology, vol. 3,
no. 5, pp. 286–289, 1997. [9] R. T. Ellison, J. G. Curd, P. F. Kohler, L. B. Reller, and F. N. Judson, “Underlying complement deficiency in patients
with disseminated gonococcal infection,” Sexually Transmitted
Diseases, vol. 14, no. 4, pp. 201–204, 1987. Case Reports in Infectious Diseases 4 [10] A. Jitmuang, A. Boonyasiri, N. Keurueangkul, A. Leelaporn,
and A. Leelarasamee, “Gonococcal subcutaneous abscess and
pyomyositis: a case report,” Case Reports in Infectious Diseases,
vol. 2012, Article ID 790478, 4 pages, 2012. [11] L. Christin and G. A. Sarosi, “Pyomyositis in North America:
case reports and review,” Clinical Infectious Diseases, vol. 15, no. 4, pp. 668–677, 1992. [12] R. L. Swarts, L. A. Martinez, and H. G. Robson, “Gonococcal
pyomyositis,” Journal of the American Medical Association, vol. 246, no. 3, article 246, 1981. [13] S. G. Gurbani, C. T. Cho, K. R. Lee, and L. Powell, “Gonococcal
abscess of the obturator internal muscle: use of new diagnostic
tools may eliminate the need for surgical intervention,” Clinical
Infectious Diseases, vol. 20, no. 5, pp. 1384–1386, 1995. [14] P. J. Haugh, C. S. Levy, E. Hoff-Sullivan, M. Malawer, Y. Kollender, and V. Hoff, “Pyomyositis as the sole manifestation
of disseminated gonococcal infection: case report and review,”
Clinical Infectious Diseases, vol. 22, no. 5, pp. 861–863, 1996. [15] D. Birkbeck and J. T. Watson, “Obturator internus pyomyositis. A case report,” Clinical Orthopaedics and Related Research, no. 316, pp. 221–226, 1995. [16] N. O. Owino, D. Goldmeier, and R. A. Wall, “Gonococcal
septicaemia presenting as a subcutaneous abscess,” British
Journal of Venereal Diseases, vol. 57, no. 2, pp. 143–144, 1981. [17] E. Seruzier, F. Blanquart, J. F. Lemeulant, and P. Deshayes,
“Gonococcal spondylodiscitis,” La Nouvelle Presse Medicale, vol. 5, no. 9, p. 2166, 1976. [18] S. J. Van Hal and J. J. Post, “An unusual cause of an epidural
abscess,” Medical Journal of Australia, vol. 180, no. 1, pp. 40–41,
2004.
|
https://openalex.org/W4245063200
|
https://europepmc.org/articles/pmc7780672?pdf=render
|
English
| null |
Exploring general practitioners’ perceptions about the primary care gatekeeper role in Indonesia
|
Research Square (Research Square)
| 2,020
|
cc-by
| 8,222
|
Mulyanto et al. BMC Family Practice (2021) 22:5
https://doi.org/10.1186/s12875-020-01365-w Mulyanto et al. BMC Family Practice (2021) 22:5
https://doi.org/10.1186/s12875-020-01365-w Open Access Exploring general practitioners’ perceptions
about the primary care gatekeeper role in
Indonesia Joko Mulyanto1,2*
, Yudhi Wibowo1 and Dionne S. Kringos2 Abstract Background: In the current healthcare delivery system funded by National Health Insurance (NHI) in Indonesia, the
gatekeeper role of primary care services is critical to ensuring equal healthcare access for the population. To be
effective, gatekeeping relies on the performance of general practitioners (GPs). However, the perceptions held by
Indonesian GPs about their gatekeeper role are not yet well documented. This study describes the self-perceived
knowledge, attitudes and performance of Indonesian GPs with respect to the gatekeeper role and explores
associated factors. Methods: We conducted a cross-sectional study of all primary care facilities (N = 75) contracted by the regional
NHI office in the Banyumas district. The 73 participating GPs completed a written questionnaire that assessed their
knowledge, attitudes and performance in relation to the gatekeeper role. Personal and facility characteristics were
analysed in a generalised linear model as possible associating factors, as well as for the association between GPs’
knowledge and attitude with performance as gatekeepers. Results: GPs scored relatively high in the domains of knowledge and performance but scored lower in their attitudes
towards the gatekeeper role of primary care. In the full-adjusted model, no factors were significantly associated with
the knowledge score. Work experience as GPs, private or civil service employment status and rural or urban location of
the primary care facility were linked to attitude scores. Full- or part-time employment and type of facility were factors
associated with the performance score. Attitude scores were positively associated with performance score. Conclusion: GPs in Indonesia are knowledgeable and report that they adequately perform their function as
gatekeepers in primary care. However, their attitudes towards the gatekeeper function are less positive. Attitudes and
performance with respect to the primary care gatekeeper role are likely influenced more by contextual factors such as
location and type of facility than by personal factors. Efforts to address contextual issues could include improvements
in practice standards for privately practising physicians and public information campaigns about gatekeeping
regulations. Such efforts will be crucial to improving the gatekeeper role of primary care in Indonesia and assuring
efficient access to high-quality care for all. Keywords: Primary care, Gatekeeper, Referral behaviour, General practitioner, Perception * Correspondence: j.mulyanto@amsterdamumc.nl
1Department of Public Health and Community Medicine, Faculty of
Medicine, Universitas Jenderal Soedirman, Purwokerto, Indonesia
2Department of Public and Occupational Health, Amsterdam UMC, University
of Amsterdam; and Amsterdam Public Health Research Institute, Amsterdam,
Netherlands © The Author(s). 2021 Open Access This article is licensed under a Creative Commons Attribution 4.0 International License,
which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give
appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if
changes were made. The images or other third party material in this article are included in the article's Creative Commons
licence, unless indicated otherwise in a credit line to the material. If material is not included in the article's Creative Commons
licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain
permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdomain/zero/1.0/) applies to the
data made available in this article, unless otherwise stated in a credit line to the data. Mulyanto et al. BMC Family Practice (2021) 22:5 Page 2 of 10 Mulyanto et al. BMC Family Practice (2021) 22:5 Page 2 of 10 Background may have hampered the effectiveness of primary care
facilities in their gatekeeper role, but empirical evidence
to support such an assumption is still limited [14–16]. Nor have factors been explored that might be associated
with GPs’ perceptions. g
Wide socioeconomic inequalities in secondary health-
care utilisation have been documented in Indonesia [1]. In the wake of the rapid expansion of National Health
Insurance (NHI) coverage during recent years, the util-
isation of secondary care now depends largely on the
functioning of primary care [2]. In the NHI-funded
healthcare delivery system, direct access to secondary
care is not covered except in emergency cases. NHI
beneficiaries must register at a single primary care facil-
ity within their district of residence, and that facility acts
as a gatekeeper, including the provision of referrals for
them to access secondary care [3]. By 2017, around 72%
of the Indonesian population, or 177 million people,
were covered by NHI, and the health insurance agency
had
contracted
approximately
21,700
primary
care
facilities to provide beneficiaries with healthcare and
gatekeeping services [4]. The numbers continue to grow
towards the aim of universal health coverage. The NHI-
funded healthcare delivery system in Indonesia is now
the largest single-payer system in the world [4]. Using the example of Indonesia, which has one of the
largest primary care networks among low- and middle-
income countries, we sought to fill this evidence gap by
assessing GPs’ perceptions of the gatekeeper role and
investigating associated factors. Specific aims were (i)
to examine the domains of knowledge, attitude and
performance in order to describe how GPs perceived
the gatekeeper role of primary care, (ii) to explore
associations of personal and facility characteristics
with the knowledge, attitudes and performance of
GPs with respect to the gatekeeper role, and (iii) to
assess the association between GPs’ knowledge and
attitude with the performance of GPs toward the
gatekeeper role of primary care. Methods The role of primary care as gatekeeper is intended to
ensure that beneficiaries have access to quality health-
care services while maintaining their efficiency. This is
to be achieved via two principal mechanisms. The first is
to provide patients with comprehensive health services
and continuity of care, which is much easier if patients
are registered at a single primary care facility [5]. The
second is to deliver healthcare services more efficiently,
for instance by curbing the unnecessary use of secondary
care [5]. The latter mechanism likely depends on the
behaviour of general practitioners (GPs), who share key
responsibility for carrying out the gatekeeper function
on a daily basis. Physicians’ perceptions of their role and
responsibilities in the healthcare system – including
their knowledge, attitudes and practices – have been
shown to influence whether they can optimally fulfil
their role as physicians [6]. Arguably, differences in how
GPs perceive their gatekeeping role may affect the
performance of primary care services as gatekeepers. Factors such as variations in referral behaviour could
create disparities in the utilisation of secondary healthcare. Studies on how primary care performs its role of gate-
keeper are still limited in Indonesia, and particularly
from the GP perspective. A study from the perspective
of NHI beneficiaries showed that patients perceived
gatekeepers as barriers to accessing advanced healthcare
services [7]. Most studies of GPs have focused on their
technical competence as primary care physicians and did
not specifically assess their gatekeeper role [8–10]. Stud-
ies in other countries have found that the gatekeeper
role was not always optimally carried out in primary care
settings and that this was likely attributable to GP
behaviour [11–13]. GPs’ perceptions about gatekeeping The role of primary care as gatekeeper is intended to
ensure that beneficiaries have access to quality health-
care services while maintaining their efficiency. This is
to be achieved via two principal mechanisms. The first is
to provide patients with comprehensive health services
and continuity of care, which is much easier if patients
are registered at a single primary care facility [5]. The
second is to deliver healthcare services more efficiently,
for instance by curbing the unnecessary use of secondary
care [5]. The latter mechanism likely depends on the
behaviour of general practitioners (GPs), who share key
responsibility for carrying out the gatekeeper function
on a daily basis. Methods Physicians’ perceptions of their role and
responsibilities in the healthcare system – including
their knowledge, attitudes and practices – have been
shown to influence whether they can optimally fulfil
their role as physicians [6]. Arguably, differences in how
GPs perceive their gatekeeping role may affect the
performance of primary care services as gatekeepers. Factors such as variations in referral behaviour could
create disparities in the utilisation of secondary healthcare. Study design, setting and population
We conducted a cross-sectional, paper-based survey
between March to October 2016, in the Banyumas dis-
trict, located in the southwest of Indonesia’s Central
Java province. With approximately 1.5 million inhabi-
tants, Banyumas is one of the province’s largest and
most populated districts. NHI coverage in Banyumas
was about 61% of the total population in 2016. By the
same
year,
75
primary
care
facilities
had
been
contracted by the district NHI agency to be entry
points to the healthcare system and to function as
gatekeepers for the NHI beneficiaries in Banyumas. Respondents were recruited based on facilities as the
primary sampling unit. For each facility, we targeted
the GP who serves as “physician in charge” (clinical
director) to obtain a sample size of at least 75 GPs. In
addition, we tried to further expand the study sample
to get more representation of the GPs by inviting
through the clinical director also the other GPs who
work in the same facility to participate in the survey. We finally recruited a total of 96 of 365 GPs from all
75 primary care facilities in the district for our study. Two research assistants visited those facilities and dis-
tributed and collected the paper-based questionnaires,
which were filled in manually by the respondents
within a two-week period. From the recruited sample,
81 GPs had agreed to participate and signed an
informed
consent
form
(84%
response
rate). We
excluded 8 GPs due to incomplete data, yielding a final
sample size of 73 GPs who act as clinical director from
73 primary care facilities which were 97% of the facil-
ities contracted by the NHI agency in Banyumas. Studies on how primary care performs its role of gate-
keeper are still limited in Indonesia, and particularly
from the GP perspective. A study from the perspective
of NHI beneficiaries showed that patients perceived
gatekeepers as barriers to accessing advanced healthcare
services [7]. Measurement age, gender, type of medical school curriculum (conven-
tional or competency-based), work experience as a GP (less
than 5 years, 5–10 years, more than 10 years), nature of
employment (full-time, part-time) and employment status
(civil service or private). All study data were collected at individual (GPs) level
using a tailor-made Indonesian-language questionnaire
specially designed for our study. We validated the
questionnaire in multiple steps. First, face validity was
assessed by two experts in related fields. One was a GP
with a certification in family medicine and 15 years’
experience practising at a primary care facility. The
other was a GP with professional experience at the
Indonesian NHI agency, providing a good understanding
of the relationship between primary care facilities and
the NHI agency. We used official guideline about
gatekeeper function for primary care facilities issued by
NHI agency as primary reference to develop the ques-
tionnaire. We ended up with twenty provisional items
for each of the three questionnaire domains. Second, to
assess the construct validity of the questionnaire, we
conducted a pilot test with twenty respondents consider-
ing the resources constraint, problem prevalence, and
power of the test. Using the formula of sample size
calculation for the pre-test questionnaire, our relatively
small sample size had a study power of more than 80%
which was sufficient for a robust pre-test questionnaire
[17]. We used the results to implement factor analysis
using principal component analysis (PCA) with varimax
rotation and Kaiser normalisation. We then excluded
items with factor loadings of less than 0.3. Third, follow-
ing the results from the PCA, we assessed the reliability
of the questionnaire by calculating Cronbach’s alpha. We altered the scale-item-deleted combination to maxi-
mise the value of alpha (≥.60) for each questionnaire
domain. We concluded that seven items were valid for
measuring the knowledge domain, ten items for the atti-
tude domain and seven for the performance domain. The results of the PCA and the reliability analysis, as
well as an English translation of the questionnaire, are
provided in the supplementary materials to this paper. For facility characteristics, we collected information on
location, type of primary care facility and duration of its
NHI contract relationship. We categorised location into
urban and rural, based on the urban–rural status of the
facility’s
sub-district
as
obtained
from
the
district
government. Statistical analysis
T
d
ib
h To describe the basic characteristics of the survey
respondents, we displayed the frequency and percentage
of each categorical variable. We tested the distribution
of the data using Kolmogorov-Smirnov test and the
results indicated that the data were not normally distrib-
uted (p=0.000). However, we still used means and stand-
ard deviations despite the data distribution was not
normal to describe the scores in the knowledge, attitude
and performance domains, as the differences between
mean and median were very small. In bivariate analysis,
we compared the scores for knowledge, attitude and per-
formance across various groupings of respondents based
on personal and facility characteristics. Considering the
data distribution was not normal, we applied two non-
parametric tests to compare scores between groups: the
Mann–Whitney test for two independent groups and the
Kruskal–Wallis test for three independent groups. This
analysis was intended to provide an initial description for
further exploration of factors associated with scores in
each domain. We used true–false questions to measure the know-
ledge domain, with each correct or incorrect answer
scored as 1 or 0 respectively. For the attitude domain,
we
used
a
two-category
rating
scale
(‘agree‘
and
‘disagree’), with each favourable or unfavourable answer
scored as 1 or 0. The performance domain was assessed
with questions with a yes/no answering option, indicat-
ing whether or not a particular gatekeeping function of
primary care was fulfilled as GPs perform their daily
duties in serving patients. A similar 1–0 scoring system
was applied. Respondents’ final scores per domain were
calculated as a percentage of the maximum score for
that domain. To assess associations of personal and facility characteris-
tics with the scores on knowledge, attitude and performance,
we conducted multivariate analysis using a generalised linear
model (GLM). A GLM has more flexible assumptions re-
lated to the data distribution than ordinary linear regression,
which requires a normal data distribution [18]. We used
gamma distribution and identity function in our analysis
considering that the value of dependent variable was always
positive likely skewed toward larger positive values. We
developed two models for the regression analysis so as to
provide more consistency in our analysis. In the first model,
we included a single independent variable adjusted for age,
because age (but not gender) had been identified in bivariate
analysis as strongly associated with the scores on each
domain. Methods Most studies of GPs have focused on their
technical competence as primary care physicians and did
not specifically assess their gatekeeper role [8–10]. Stud-
ies in other countries have found that the gatekeeper
role was not always optimally carried out in primary care
settings and that this was likely attributable to GP
behaviour [11–13]. GPs’ perceptions about gatekeeping Mulyanto et al. BMC Family Practice (2021) 22:5 Mulyanto et al. BMC Family Practice (2021) 22:5 Page 3 of 10 Page 3 of 10 Measurement Type of primary care facility was cate-
gorised into three groups: public primary healthcare
centre, private primary care clinic and private physician
practice. The first is owned by the district government
and usually available in every sub-district. The second
are private group or joint practices of GPs and the third
are solo GP practices. Characteristics of respondents Table 1 shows the basic characteristics of the study
respondents. Most were male (56.2%) and in the age
category between 30 and 50 years (68.5%). Most respon-
dents had been trained under the conventional medical
school curriculum (68.5%) and the majority had been
practising as GPs for more than 10 years (56.2%). In
terms of employment, the majority were working full
time (61.6%) and had civil servant status (67.1%). The
majority were practising in facilities located in rural
areas (69.9%), most worked in public primary healthcare
centres (49.3%), and most in facilities contracted by the
NHI less than 2 years previously (53.4%). Knowledge, attitude and performance with respect to the
gatekeeper role We display the respondents’ overall scores on knowledge,
attitude and performance, as well as the distribution of
scores among various groupings, in Table 2. The average
GP knowledge score was 75.1% (SD 20.5). Comparing the
knowledge scores among groups, we observed notable
differences between age groups and between public and
private primary care settings. GPs in the oldest age group
scored highest on knowledge, with a mean of 78.4% (SD
18.1), while those practising in private settings had the
highest means of around 81%. experience, in urban practice, and practising in public
facilities tended to have higher scores on performance
than those in the respective comparison categories, but
the differences were relatively small. In the attitude domain, GPs’ overall average score was
64.5% (SD 24.5). Differences in attitude scores emerged
among different age groups and in relation to medical
school curriculum, work experience as GPs, and location
and type of primary care setting. The highest mean
scores were found among GPs in the oldest age group
(77.7%, SD 19.2), the conventionally trained (67.3%, SD
25.6), the most experienced (71.0%, SD 20.9), those prac-
tising in rural areas (67.1%, SD 24.6) and the solo practi-
tioners (71.3%, SD 21.1). Statistical analysis
T
d
ib
h The second model was a full-adjusted model, On the same questionnaire we collected information
about respondents’ personal characteristics and those of
the facilities where they worked, to be used as independent
variables. We included as personal demographic variables Mulyanto et al. BMC Family Practice (2021) 22:5 Mulyanto et al. BMC Family Practice (20 Page 4 of 10 Table 1 Basic characteristics of the survey respondents
n
%
Personal characteristics
Gender
Male
41
56.2
Female
32
43.8
Age
< 30 years
12
16.4
30–50 years
50
68.5
> 50 years
11
15.1
Medical school curriculum
Conventional
50
68.5
Competency-based
23
31.5
Working experience
< 5 years
16
21.9
5–10 years
16
21.9
> 10 years
41
56.2
Nature of employment
Full-time
45
61.6
Part-time
28
38.4
Civil servant
Yes
49
67.1
No
24
32.9
Facility characteristics
Location
Rural
51
69.9
Urban
22
31.1
Type of primary care facility
Public health centre
36
49.3
Private clinic
13
17.8
Private physician practice
24
32.9
Duration contracted by NHI
≤2 years
39
53.4
> 2 years
34
46.6 including all independent variables and adjusted for
age. A similar approach was used to assess the associ-
ation between GPs’ knowledge and attitude and GP’s
performance. We provide two basic models which
assess the association between a single variable GPs’
knowledge or attitude and a combined variable of
GPs’ knowledge and attitude, with GP’s performance. For both models, we adjusted for age only and for all
variables including age, personal characteristics, and
facility characteristics which made a total of four
models in the analysis. The regression coefficient of
each independent variable was deemed statistically
significant if the p-value was less than .05. than those with civil servant status (B = 15.13, p = .02).
GPs practising in urban areas were likely to score lower in
attitude than those in rural areas (B = −14.05, p = .03). performance as gatekeepers In Table 3, we explore personal and facility characteristics
as factors potentially associated with GPs’ scores in terms
of knowledge, attitude and performance with regard to the
primary care gatekeeping role. For knowledge scores, we
found no personal or facility characteristics with signifi-
cant associations in either Model 1 or 2, although GPs in The GPs’ average overall score for the performance
domain was 78.5% (SD 11.2), the highest average score
of the three domains. GPs of older age, with more work Mulyanto et al. BMC Family Practice (2021) 22:5 Mulyanto et al. BMC Family Practice Page 5 of 10 Table 2 Distributions of GPs’ scores on knowledge, attitude and performance regarding the gatekeeper role of primary care
Knowledge
Attitude
Performance
Mean
SD
p
Mean
SD
p
Mean
SD
p
Overall
75.1
20.5
64.5
24.5
78.5
11.2
Personal characteristics
Gender
Male
75.9
20.3
.65
65.0
21.2
.67
77.3
11.9
.34
Female
74.1
20.9
63.9
21.1
79.9
10.2
Age
< 30 years
67.9
27.3
52.8
22.2
76.2
7.0
30–50 years
74.0
19.0
.04
64.4
24.9
.04
78.9
11.9
.67
> 50 years
88.3
12.5
77.7
19.2
79.2
11.7
Medical school curriculum
Conventional
76.8
17.9
.52
67.3
25.6
.09
79.7
11.9
.12
Competency-based
71.4
25.1
58.4
21.2
75.7
9.1
Working experience
< 5 years
67.9
28.3
47.2
22.0
75.0
8.2
5–10 years
74.1
18.2
.54
65.3
28.4
.00
78.6
12.7
.25
> 10 years
78.4
17.2
71.0
20.9
79.8
11.5
Nature of employment
Full-time
72.7
19.9
.14
62.9
24.6
.44
77.1
11.1
.34
Part-time
79.1
21.1
67.1
24.6
80.6
11.1
Civil servant
Yes
76.1
18.9
.86
63.5
24.3
.57
79.6
11.3
.18
No
73.2
23.6
66.7
25.3
76.2
10.8
Facility characteristics
Location
Rural
73.4
20.8
.18
67.1
23.9
.17
77.8
11.5
.40
Urban
79.2
19.6
58.5
25.4
79.9
10.5
Type of primary care facility
Public health centre
68.6
22.1
58.9
25.1
80.5
10.3
Private clinic
81.3
14.7
.03
67.5
26.6
.16
78.0
15.0
.24
Private physician practice
81.5
18.1
71.3
21.1
75.6
9.8
Duration contracted by NHI
≤2 years
74.3
19.4
.35
64.9
23.9
.89
76.5
10.6
.12
2 years
76.0
21.8
64.1
25.5
80.7
11.6 Table 2 Distributions of GPs’ scores on knowledge, attitude and performance regarding the gatekeeper role of primary care than those with civil servant status (B = 15.13, p = .02). performance as gatekeepers GPs practising in urban areas were likely to score lower in
attitude than those in rural areas (B = −14.05, p = .03). private practice tended to score higher on knowledge
than
those
working
in
public
primary
healthcare
centres (B = 10.27, p = .06; Model 2). In terms of performance, our findings showed that
part-time employment was associated with a higher
score than full-time work (B = 6.81, p = .01; Model 2). With regard to facility characteristics, employment in
private practice was associated with lower performance
scores than employment a public primary healthcare
centre (B = −6.00, p = .04). In the attitude domain, GPs’ work experience and
facility location were consistently associated with their
scores in both models. In Model 2, our finding showed
that GPs practising 5 to 10 years (B = 22.10, p = .00) and
more than 10 years (B = 32.20, p = .00) scored higher
than
those
practising
less
than
5
years. Privately
employed GPs were likely to have higher attitude scores Mulyanto et al. BMC Family Practice (2021) 22:5 Mulyanto et al. The association between GPs’ knowledge and attitude
with GPs’ performance as gatekeepers with GPs’ performance as gatekeepers In Table 4, we displayed the association between GPs’
knowledge and attitude with GPs’ performance as gate-
keepers. In all four models, GPs’ knowledge consistently
was not associated with GPs’ performance. For attitude,
our findings showed that GPs’ attitude was positively
associated with the GPs’ performance as gatekeeper. In
three of four models, the regression coefficients were
statistically significant. After adjusted for all variables, a performance as gatekeepers BMC Family Practice Page 6 of 10 Table 3 Factors associated with GPs’ scores on knowledge, attitude and performance regarding the gatekeeper role of primary care
Knowledge
Attitude
Performance
Model 1
Model 2
Model 1
Model 2
Model 1
Model 2
B
p
B
p
B
p
B
p
B
p
B
p
Personal characteristics
Medical school curriculum
Conventional
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Competency-based
0.29
.99
−0.31
.96
−1.27
.87
−5.50
.43
−4.40
.23
−4.72
.17
Working experience
< 5 years
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
5–10 years
5.35
.55
7.10
.45
25.00
.01
22.10
.00
5.10
.31
7.59
.14
> 10 years
5.92
.49
3.49
.70
28.93
.00
32.20
.00
6.68
.18
6.91
.16
Nature of employment
Full-time
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Part-time
6.88
.14
5.23
.31
5.34
.34
2.13
.70
3.99
.13
6.81
.01
Civil servant
Yes
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
No
−5.53
.33
−4.72
.44
5.64
.41
15.13
.02
−3.69
.25
0.65
.84
Facility characteristics
Location
Rural
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Urban
0.90
.87
3.77
.53
−17.31
.00
−14.05
.03
2.54
.62
4.12
.20
Type of primary care facility
Public health centre
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Ref
–
Private clinic
10.65
.10
10.26
.14
6.79
.15
4.87
.52
−3.40
.36
−4.73
.20
Private physician practice
10.24
.05
10.27
.06
9.40
.39
8.17
.17
−6.03
.04
−6.00
.04
Duration contracted by NHI
≤2 years
Ref
–
Ref
–
Ref
Ref
–
Ref
–
Ref
–
> 2 years
−0.81
.86
1.32
.70
−3.57
.52
1.14
.82
4.17
.11
3.69
.15
Model 1: each factor, adjusted for age; Model 2: all factors included, adjusted for age The association between GPs’ knowledge and attitude The association between GPs’ knowledge and attitude higher score of GPs’ attitude was associated with higher
score of GPs’ performance as gatekeepers (B = 0.160, p
= .00) as shown in the fourth model. Discussion Our study described how general practitioners (GPs) in
the Indonesian Banyumas district perceive the gate-
keeper role of primary care and it explored whether
those perceptions were associated with personal charac-
teristics of the GPs or with characteristics of the facilities Table 4 Association between knowledge and attitude of GPs’ with the performance of GPs as gatekeepers
Model 1
Model 2
Model 3
Model 4
B
p
B
p
B
p
B
p
Knowledge
−0.065
0.32
−0.075
0.23
−0.096
0.11
−0.114
0.06
Attitude
0.101
0.64
0.137
0.01
0.118
0.03
0.160
0.00
Model 1: Knowledge or attitude adjusted to age; Model 2: Knowledge or attitude adjusted to age, personal characteristics, and facility characteristics; Model 3:
Knowledge and attitude adjusted to age; Model 4: Knowledge and attitude adjusted to age, personal characteristics, and facility characteristics Mulyanto et al. BMC Family Practice (2021) 22:5 Page 7 of 10 Page 7 of 10 Mulyanto et al. BMC Family Practice where they worked. Findings showed that GPs scored
relatively high in the domains of knowledge and per-
formance, but lower in the attitude domain. No personal
or facility characteristics were associated with GPs’
knowledge about the primary care gatekeeper function. Longer work experience and private rather than civil ser-
vice employment were associated with higher attitude
scores, and urban practice location with lower scores. Part-time employment was associated with higher scores
on gatekeeping performance, while private practice was
linked to lower scores. Higher scores of GPs’ attitude
were associated with GPs’ performance as gatekeepers,
while GPs’ knowledge showed no association with GPs’
performance as gatekeepers. study in Indonesia has found that GPs perceive increas-
ing demand from patients as one of the barriers to
performing optimally as primary care physicians [10]. Moreover, it has been reported that patients perceive the
quality of primary care as low and that they view the
gatekeeper as an access barrier to more advanced ser-
vices perceived to be of higher quality [7]. This combin-
ation of gatekeeping-related factors likely leads to more
tension in the doctor–patient relationship and a more
stressful work environment for GPs. The gatekeeper role
may also be perceived by GPs to be in conflict with their
professional autonomy [19]. As part of that role, GPs are
expected to consider additional aspects in their clinical
decision making, such as costs for the patient. Strengths and limitations To the best of our knowledge, this is the first study in
Indonesia to explore how GPs perceive the gatekeeper
role of primary care and the factors associated with their
perceptions. Only a few studies have assessed the phys-
ician perspective on primary care in Indonesia, with
most prior studies focusing on the patients’ point of
view. Our study sought to provide new insights and ini-
tial evidence on key areas that can facilitate primary care
in performing its gatekeeping role. We found no personal or facility characteristics that
were significantly associated with the GPs’ knowledge
about the gatekeeper function of primary care, although
privately employed GPs tended to higher knowledge
scores than those practising in public facilities. This was
likely associated with the financial incentives system
currently employed by the NHI agency. Primary care
providers are paid by the agency under a capitation
system, with payments adjusted to their performance as
gatekeepers [4]. For private clinics and practices that rely
mainly on those payments as their revenue source, that
system will motivate them to a better understanding of
the gatekeeper role. In public facilities, where most
practising GPs are civil servants with salaries paid from
government budgets, the motivation to understand the
gatekeeper role may be lower, because there are no
direct consequences for financial rewards. Although no
studies
have
documented
such
an
association
in
Indonesia, studies elsewhere have reported strong associ-
ations
between
financial
incentives
and
physicians’
perceptions about the implementation of policies in
practice settings [22, 23]. p
g
g
p
g
Our study is not without limitations. Its relatively
small sample size may raise concern about the power of
the study and the robustness of our estimation. How-
ever, given the exploratory nature of our study and the
flexibility of the statistical technique we employed in the
data analysis, we believe the internal validity can be
considered adequate. The sample size may also imply
limited generalisability for our findings. We consider our
study site (Banyumas district) to bear a good resem-
blance – in terms of demographics and socioeconomic,
cultural and geographical background – to the majority
of districts on the islands of Java and Sumatra, where
around 70% of the Indonesian population lives. But the
findings should be interpreted cautiously with regard to
generalisability. Another issue is related to sample size
for the validity test which may less than usually used in
other studies. Discussion Studies in
other countries have shown that physicians have nega-
tive attitudes to policies they perceive as interventions in
their professional autonomy, particularly when those are
based on economic motives [20–22]. Strengths and limitations We acknowledge that resources constraint
hindered our ability to reach a larger sample size for the
questionnaire pre-test. However, our relatively small
pre-test sample size has been calculated properly based
on a robust method. Therefore, our sample size had suf-
ficient power required for a valid questionnaire pre-test. We observed that GPs who had longer work experi-
ence and those who were privately employed had more
positive attitudes towards the primary care gatekeeper
function. The more experienced GPs may have been
exposed to more learning activities, such as specific
training that shapes their attitudes more positively
towards specific roles or issues such as gatekeeping
[24, 25]. Just as with the gatekeeping knowledge scores
of private providers, financial incentives may play a
part in the higher attitude scores of GPs in private
employment. The rapid increases in NHI coverage
have prompted more private providers to rely on NHI
capitation funding as their main revenue sources. However, competition among private providers is relatively Interpretation Given that NHI capitation is calcu-
lated on a per capita basis and adjusted to the performance
of private providers, including in gatekeeping, this arguably
influences privately employed GPs to have more positive
attitudes towards the gatekeeper function. It also implies a
potential of private providers to provide better primary care
services in terms of quality, access and efficiency, presum-
ing the right incentives are forthcoming from government. The association between urban GPs and low gate-
keeper attitude scores may be explained by differences
in the composition of the populations of NHI beneficiar-
ies who live in rural and urban areas. The majority in
urban areas are non-subsidised beneficiaries of relatively
high socioeconomic status [3]. This segment consists
mostly of workers in formal economic sectors who are
known to be more demanding, having enjoyed more
flexible benefits from their previous insurance schemes
before these were subsumed under the NHI [26]. Per-
ceiving primary care to be of low quality, urban patients
often request direct referral to secondary care facilities
[7]. Currently, the strict regulations applying to NHI
beneficiaries for accessing healthcare curtail such swift
referrals and lead to more tension in physician–patient
relationships [10, 27]. Such frequent conflicts may
generate additional stress for GPs, thereby inducing
more negative attitudes towards the gatekeeping func-
tion. These critical issues need to be urgently addressed,
in order to avoid a further negative impact on the
geographical accessibility of primary care (urban–rural
disparities), on perceived quality due to low patient
satisfaction, and on low efficiency caused by unneces-
sary referrals to secondary care. In our final analysis, our study revealed that GPs’ atti-
tude but not their knowledge had a positive association
with GPs’ performance as gatekeepers. In many previous
studies that assessed the association between GPs’ know-
ledge with their practice in several issues such as clinical
guideline implementation, those associations were rarely
found [30, 31]. Knowledge depends more on personal
characteristics and can be straightforwardly improved,
while performance is largely influenced by contextual
factors which often go beyond individual capability and
may become significant barriers for translation of know-
ledge into practice [32]. For attitude, its linear associa-
tions with performance was commonly found in many
studies that investigate GPs’ behaviour related to the
care provision in primary care settings [33, 34]. Interpretation The findings indicated that GPs generally understood
and carried out the gatekeeper role adequately, although
they perceived the role less positively. Their less positive
attitude was likely related to a perception that gatekeep-
ing formed an additional burden in their daily duties. A Mulyanto et al. BMC Family Practice (2021) 22:5 Page 8 of 10 Mulyanto et al. BMC Family Practice (2021) 22:5 because of the inadequacy of other primary care facilities
to cope with the additional demand for healthcare that
arose after the rapid expansion of NHI coverage [28]. However, the required standards in terms of services such
as supporting equipment or office hours are somewhat
lower than those for the public and private clinics [4]. This
may impair the private GPs’ ability to carry out of the
gatekeeper function. Moreover, private practice physicians
usually work in solo GP practices without specific support
from a management team. This may considerably impede
implementation of the gatekeeper function in comparison
with healthcare facilities that have monitoring and evalu-
ation mechanisms in place to ensure that the function is
adequately carried out. A systematic review of studies in
low- and middle-income countries has found that individ-
ual private healthcare providers showed lower adherence
to regulations than institutional providers [29]. because of the inadequacy of other primary care facilities
to cope with the additional demand for healthcare that
arose after the rapid expansion of NHI coverage [28]. However, the required standards in terms of services such
as supporting equipment or office hours are somewhat
lower than those for the public and private clinics [4]. This
may impair the private GPs’ ability to carry out of the
gatekeeper function. Moreover, private practice physicians
usually work in solo GP practices without specific support
from a management team. This may considerably impede
implementation of the gatekeeper function in comparison
with healthcare facilities that have monitoring and evalu-
ation mechanisms in place to ensure that the function is
adequately carried out. A systematic review of studies in
low- and middle-income countries has found that individ-
ual private healthcare providers showed lower adherence
to regulations than institutional providers [29]. high, as they are allowed to register only non-subsidised
NHI beneficiaries. Subsidised (lower-income) beneficiaries
are automatically registered at the nearest public primary
healthcare centre [4]. Interpretation Attitude
reflects individual’s favourable or unfavourable feeling
towards a particular issue and forms a strong driving
factor for behaviours as much as others facilitating fac-
tors (e.g. contextual factors) permit [35]. The association between part-time employment status
and higher scores on gatekeeping performance can be
explained by the characteristics of part-time working
relationships in Indonesian GP practice. It is legal, and
common practice, that GPs work at multiple sites (up to
three different facilities) [3]. Such GPs usually practise in
one main facility in full-time employment and part-time
in one or more other facilities. In facilities where GPs
are working part-time, the working arrangements be-
tween the facilities and GPs are usually more flexible
[10]. Such an environment reduces the work pressure of
the GPs [9], which arguably may favourably influence
their
performance
in carrying
out
the
gatekeeping
function. Acknowledgements 11. Ward TR. Implementing a gatekeeper system to strengthen primary care in
Egypt: pilot study/Mise en oeuvre d'un système de filtrage pour renforcer
les soins de santé primaires en Égypte : étude pilote. East Mediterr Health J. 2010;16(6):684–9. The authors thank the Banyumas branch office of the Indonesian NHI agency
for providing data on primary care facilities contracted by the NHI in the
Banyumas district. 12. Takian A, Doshmangir L, Rashidian A. Implementing family physician
programme in rural Iran: exploring the role of an existing primary health
care network. Fam Pract. 2013;30(5):551–9. 12. Takian A, Doshmangir L, Rashidian A. Implementing family physician
programme in rural Iran: exploring the role of an existing primary health
care network. Fam Pract. 2013;30(5):551–9. Conclusions and policy implications Conclusions and policy implications
Our study demonstrates that GPs in Indonesia are
knowledgeable and that they adequately carry out the
function of gatekeeper in primary care. However, their
attitude towards that function is less positive. Contextual
factors such as location and type of facility likely play a
major role in influencing GPs’ perceptions towards the
gatekeeper function, although individual characteristics
such as work experience might also be determining
factors. Considering a longer working experience may
determine the attitude of GPs toward gatekeeper role, a
continued support to GPs which create a more positive
working experience may improve the attitude of GPs
toward the gatekeeper role. These include routine con-
tinuing medical education (CME) and continuing profes-
sional development (CPD). Since GPs in urban areas had
lower attitude scores and this likely related to a more Our finding also showed that GPs in private practice
were likely to score lower on gatekeeping performance. This may be attributable to the different practice
standards applied by the NHI agency to this type of
practice. The NHI agency has contracted private practices Page 9 of 10 Mulyanto et al. BMC Family Practice (2021) 22:5 Page 9 of 10 Mulyanto et al. BMC Family Practice (2021) 22:5 tense doctor-patient relationship in urban setting, effort
to improve the doctor-patient relationship in the context
or gatekeeping function become crucial. This includes a
social marketing programme about NHI gatekeeping
regulations which targeted particularly amongst higher-
income NHI beneficiaries living in urban areas. As pri-
vate providers particularly GP solo practice scored lower
in performance toward gatekeeper role, policies to sup-
port the improvement of practice standards in private
practices particularly for solo GP practice may be useful
in increasing their compliance with the gatekeeper func-
tion of primary care in the current system. Future stud-
ies which use more comprehensive approaches such as a
mix-method may provide a better insight on the associ-
ation between knowledge, attitude, and performance of
GPs toward gatekeeper role in Indonesia. Received: 5 August 2020 Accepted: 27 December 2020 Received: 5 August 2020 Accepted: 27 December 2020 Funding
h
d 15. Bowling A, Redfern J. The process of outpatient referral and care: the
experiences and views of patients, their general practitioners, and
specialists. Br J Gen Pract. 2000;50(451):116–20. This study was funded by an internal research grant from Universitas
Jenderal Soedirman, Purwokerto, Indonesia. The funder had no role in the
study design, the respondent selection, the data collection, analysis and
interpretation, the manuscript preparation and the decision to publish. 16. Zimlichman E, Mandel D, Mimouni FB, Vinker S, Kochba I, Kreiss Y, Lahad A. The role of primary care physician in the Israel defence forces: a self
perception study. IMAJ. 2005;7:4. 16. Zimlichman E, Mandel D, Mimouni FB, Vinker S, Kochba I, Kreiss Y, Lahad A. The role of primary care physician in the Israel defence forces: a self
perception study. IMAJ. 2005;7:4. Abbreviations GP: General practitioner; NHI: National health insurance; GLM: Generalised
linear model; CME: Continuing medical education; CPD: Continuing
professional development 10. Syah NA, Roberts C, Jones A, Trevena L, Kumar K. Perceptions of Indonesian
general practitioners in maintaining standards of medical practice at a time
of health reform. Fam Pract. 2015;32(5):584–90. Supplementary Information 7. Ekawati FM, Claramita M, Hort K, Furler J, Licqurish S, Gunn J. Patients’
experience of using primary care services in the context of Indonesian
universal health coverage reforms. Asia Pac Fam Med. 2017;16(1):4. The online version contains supplementary material available at https://doi. org/10.1186/s12875-020-01365-w. The online version contains supplementary material available at https://doi. org/10.1186/s12875-020-01365-w. 8. Widyahening IS, Thuraiappah DM, Han TM, Vidiawati D. Indonesian primary
care physicians profile in 2011: did practicing hours and conversion
program for family medicine differentiate their services and continuing
medical education activities? Asia Pac Fam Med. 2014;13(1):16. 8. Widyahening IS, Thuraiappah DM, Han TM, Vidiawati D. Indonesian primary
care physicians profile in 2011: did practicing hours and conversion
program for family medicine differentiate their services and continuing
medical education activities? Asia Pac Fam Med. 2014;13(1):16. Additional file 1: Table S1. Results of principal component analysis. Table S2. Results for reliability analysis. Additional file 1: Table S1. Results of principal component analysis. Table S2. Results for reliability analysis. 9. Istiono W, Claramita M, Ekawati FM, Gayatri A, Sutomo AH, Kusnanto H,
Graber MA. Physician's self-perceived abilities at primary care settings in
Indonesia. J Family Med Prim Care. 2015;4(4):551–8. 9. Istiono W, Claramita M, Ekawati FM, Gayatri A, Sutomo AH, Kusnanto H,
Graber MA. Physician's self-perceived abilities at primary care settings in
Indonesia. J Family Med Prim Care. 2015;4(4):551–8. Availability of data and materials 17. Perneger TV, Courvoisier DS, Hudelson PM, Gayet-Ageron A. Sample size for
pre-tests of questionnaires. Qual Life Res. 2015;24(1):147–51. 17. Perneger TV, Courvoisier DS, Hudelson PM, Gayet-Ageron A. Sample size for
pre-tests of questionnaires. Qual Life Res. 2015;24(1):147–51. The dataset used and analysed in this study is available from the
corresponding author on reasonable request. The dataset used and analysed in this study is available from the
corresponding author on reasonable request. 18. Mihaylova B, Briggs A, O'Hagan A, Thompson SG. Review of statistical
methods for analysing healthcare resources and costs. Health Econ. 2011;
20(8):897–916. Consent for publication
l
bl 22. Gross R, Tabenkin H, Brammli-Greenberg S. Factors affecting primary care
physicians’ perceptions of health system reform in Israel: professional
autonomy versus organizational affiliation. Soc Sci Med. 2007;64(7):1450–62. Ethics approval and consent to participate This study passed institutional review and received ethics approval from the
Health Research Ethics Commission, Faculty of Medicine, Universitas Jenderal
Soedirman, Purwokerto, Indonesia. All respondents agreed to participate and
signed the written informed consent document enclosed with the
questionnaire. 19. Rotar AM, Van Den Berg MJ, Schäfer W, Kringos DS, Klazinga NS. Shared
decision making between patient and GP about referrals from primary care:
does gatekeeping make a difference? PLoS One. 2018;13(6):e0198729. 20. Stoddard JJ, Hargraves JL, Reed M, Vratil A. Managed care, professional
autonomy, and income. J Gen Intern Med. 2001;16(10):675–84. 20. Stoddard JJ, Hargraves JL, Reed M, Vratil A. Managed care, professional
autonomy, and income. J Gen Intern Med. 2001;16(10):675–84. 21. Carlsen B, Frithjof Norheim O. Introduction of the patient-list system in
general practice changes in Norwegian physicians’ perception of their
gatekeeper role. Scand J Prim Health Care. 2003;21(4):209–13. 21. Carlsen B, Frithjof Norheim O. Introduction of the patient-list system in
general practice changes in Norwegian physicians’ perception of their
gatekeeper role. Scand J Prim Health Care. 2003;21(4):209–13. Authors’ contributions JM conceived the study. JM and YW designed the study. JM and YW
conducted the survey and collected the data. JM conducted the data
analysis. JM and DSK collectively interpreted the findings. JM wrote the initial
draft of the manuscript. JM, YW and DSK contributed to the revision of the
manuscript content. All authors read and approved the final manuscript. 13. Wammes JJG, Jeurissen PPT, Verhoef LM, Assendelft WJJ, Westert GP, Faber
MJ. Is the role as gatekeeper still feasible? A survey among Dutch general
practitioners. Fam Pract. 2014;31(5):538–44. 14. Grumbach K, Selby JV, Damberg C, et al. Resolving the gatekeeper
conundrum: what patients value in primary care and referrals to specialists. JAMA. 1999;282(3):261–6. 14. Grumbach K, Selby JV, Damberg C, et al. Resolving the gatekeeper
conundrum: what patients value in primary care and referrals to specialists. JAMA. 1999;282(3):261–6. References 1. Mulyanto J, Kringos DS, Kunst AE. Socioeconomic inequalities in healthcare
utilisation in Indonesia: a comprehensive survey-based overview. BMJ Open. 2019;9(7):e026164. 1. Mulyanto J, Kringos DS, Kunst AE. Socioeconomic inequalities in healthcare
utilisation in Indonesia: a comprehensive survey-based overview. BMJ Open. 2019;9(7):e026164. 2. Mboi N. Indonesia: on the way to universal health care. Health Syst Reform. 2015;1(2):91–7. 2. Mboi N. Indonesia: on the way to universal health care. Health Syst Reform. 2015;1(2):91–7. 3. Mahendradhata Y, Trisnantoro L, Listyadewi S, Soewondo P, Marthias T,
Harimurti P, Prawira J. The Republic of Indonesia health system review. In:
Hort K, Patcharanarumol W, editors. Health Systems in Transition, vol. 7. World Health Organization, Regional Office for South-East Asia: India; 2017. 3. Mahendradhata Y, Trisnantoro L, Listyadewi S, Soewondo P, Marthias T,
Harimurti P, Prawira J. The Republic of Indonesia health system review. In:
Hort K, Patcharanarumol W, editors. Health Systems in Transition, vol. 7. World Health Organization, Regional Office for South-East Asia: India; 2017. g
g
4. Agustina R, Dartanto T, Sitompul R, Susiloretni KA, Achadi EL, Taher A,
Wirawan F, Sungkar S, Sudarmono P, et al. Universal health coverage in
Indonesia: concept, progress, and challenges. Lancet. 2019;393(10166):
75–102. 5. Greenfield G, Foley K, Majeed A. Rethinking primary care’s gatekeeper role. BMJ. 2016;354:i4803. 6. Olson AL, Kemper KJ, Kelleher KJ, Hammond CS, Zuckerman BS, Dietrich AJ. Primay care pediatricians' role and perceived responsibilities in the
identification and management of maternal depression. Pediatrics. 2002;110:7. Competing interests Watkins C, Harvey I, Carthy P, Moore L, Robinson E, Brawn R. Attitudes and
behaviour of general practitioners and their prescribing costs: a national
cross sectional survey. Qual Saf Health Care. 2003;12:29–34. 35. Ajzen I. Attitude structure and behavior. Attitude Struct Funct. 1989;241:274. 35. Ajzen I. Attitude structure and behavior. Attitude Struct Funct. 1989;241:274. Competing interests Competing interests
The authors declare that they have no competing interests. The authors declare that they have no competing interests. Page 10 of 10 Mulyanto et al. BMC Family Practice (2021) 22:5 Mulyanto et al. BMC Family Practice (2021) 22:5 23. Safran D, Tarlov AR, Rogers WH. Primary care performance in fee-for-service
and prepaid health care systems: results from the medical outcomes study. JAMA. 1994;271(20):1579–86. 24. Elger BS. Factors influencing attitudes towards medical confidentiality
among Swiss physicians. J Med Ethics. 2009;35(8):517. 25. Ward MM, Vaughn TE, Uden-Holman T, Doebbeling BN, Clarke WR, Woolson
RF. Physician knowledge, attitudes and practices regarding a widely
implemented guideline. J Eval Clin Pract. 2002;8(2):155–62. 26. Sari MI, Prabandari YS, Claramita M. Physicians’ professionalism at primary
care facilities from patients’ perspective: the importance of doctors’
communication skills. J Family Med Prim Care. 2016;5(1):56–60. 27. Maharani C, Afief DF, Weber D, Marx M, Loukanova S. Primary care
physicians’ satisfaction after health care reform: a cross-sectional study from
two cities in Central Java, Indonesia. BMC Health Serv Res. 2019;19(1):290. 28. Kesehatan BPJS. The annual report of financial and Implemantation
Management of National Health Insurance in Indonesia 2017 in. Jakarta:
BPJS Kesehatan; 2018. 29. Basu S, Andrews J, Kishore S, Panjabi R, Stuckler D. Comparative
performance of private and public healthcare systems in low-and middle-
income countries: a systematic review. PLoS Med. 2012;9(6):e1001244. 30. Rahbar MH, Ibrahim K, Assassi P. Knowledge and attitude of general
practitioners regarding autism in Karachi, Pakistan. J Autism Dev Disord. 2011;41(4):465–74. 31. Tatlow-Golden M, Prihodova L, Gavin B, Cullen W, McNicholas F. What do
general practitioners know about ADHD? Attitudes and knowledge among
first-contact gatekeepers: systematic narrative review. BMC Fam Pract. 2016;
17(1):129. 32. Lugtenberg M, Zegers-van Schaick JM, Westert GP, Burgers JS. Why don't
physicians adhere to guideline recommendations in practice? An analysis of
barriers among Dutch general practitioners. Implement Sci. 2009;4(1):54. 32. Lugtenberg M, Zegers-van Schaick JM, Westert GP, Burgers JS. Why don't
physicians adhere to guideline recommendations in practice? An analysis of
barriers among Dutch general practitioners. Implement Sci. 2009;4(1):54. 33. Bocquier A, Verger P, Basdevant A, Andreotti G, Baretge J, Villani P,
Paraponaris A. Overweight and obesity: knowledge, attitudes, and practices
of general practitioners in France. Obes Res. 2005;13(4):787–95. 33. Bocquier A, Verger P, Basdevant A, Andreotti G, Baretge J, Villani P,
Paraponaris A. Overweight and obesity: knowledge, attitudes, and practices
of general practitioners in France. Obes Res. 2005;13(4):787–95. 34. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations.
|
https://openalex.org/W4382239002
|
https://www.matec-conferences.org/10.1051/matecconf/202337901007/pdf
|
English
| null |
The assessment of microalgae biochemistry through NMR non-invasive approach offers new perspectives for their monitoring in photobioreactors
|
MATEC web of conferences
| 2,023
|
cc-by
| 4,315
|
2: Université de Nantes, GEPEA, UMR CNRS 6144, 37 boulevard de l’Université, 44600 Saint-Nazaire
Cedex, France 2: Université de Nantes, GEPEA, UMR CNRS 6144, 37 boulevard de l’Université, 44600 Saint-Nazaire
Cedex, France MATEC Web of Conferences 379, 01007 (2023) MATEC Web of Conferences 379, 01007 (2023) MATEC Web of Conferences 379, 01007 (2023)
SFGP2022 https://doi.org/10.1051/matecconf/202337901007 SFGP2022 Scientific context The sustainable production of lipids by microalgae is widely developed among the bioprocess
community targeting various applications such as feed, food, health or bioenergy. The cultivation of
microalgae needs dedicated systems with the optimal enlightenment geometry. Performing non-
invasive online analyses on these bioprocesses is limited to few analytical techniques, often based on
optical properties and can however rarely be related to intracellular products. The real-time
knowledge of the lipids accumulation in microalgae is –in this case– not possible. Indeed, to analyze the microalgae lipids, the conventional method first consists in an extraction step
with –often customized– Bligh and Dyer [3] or Folch [4] methods. Then it is followed by a simple
gravimetric analysis or a more-informative FAME (Fatty Acid Methyl Ester) analysis using GC (Gas
Chromatography) after transesterification. The latest approach can be considered as being a flagship
method since it provides both qualitative and quantitative results, needing limited amount of sample. Moreover, the composition in fatty chains provides insights about the nutritional properties of the
lipid extract as determining also the quality of the oil for biodiesel application [5]. Other
analytical techniques, often depending on laboratory specialty and equipment, can be used in place
or in addition to GC. Briefly, lipid classes can be analyzed with different combined approaches: with
or without a preparative separation or extraction step, followed by analysis on a support such as TLC
(Thin Layer Chromatography) [6] or HPLC (High Performance Liquid Chromatography) [7],
sometimes improved with a MS (Mass Spectrometry) coupling [8]. In any way, the chosen analysis
needs several offline steps that are both time and sample-consuming and can only provide a result
several hours after sampling –in the best case scenario. Therefore, such methods do not allow
real-time monitoring. Other techniques without lipid extraction are also used: nile red staining [9],
flow cytometry [10], TD-NMR (Time-Domain Nuclear Magnetic Resonance) [11], Infrared
spectroscopy [12] or Raman spectroscopy [13]. These techniques have their own advantages and
limitations but –to the best of our knowledge–none of them has been used for online non-invasive
monitoring of lipids in living microalgae cells. Indeed, to analyze the microalgae lipids, the conventional method first consists in an extraction step
with –often customized– Bligh and Dyer [3] or Folch [4] methods. Then it is followed by a simple
gravimetric analysis or a more-informative FAME (Fatty Acid Methyl Ester) analysis using GC (Gas
Chromatography) after transesterification. © The Authors, published by EDP Sciences. This is an open access article distributed under the terms of the Creative Commons Attribution License 4.0
(http://creativecommons.org/licenses/by/4.0/). Scientific context The latest approach can be considered as being a flagship
method since it provides both qualitative and quantitative results, needing limited amount of sample. In this context, NMR spectroscopy is a good candidate for such analysis since this analytical technique
provides accurate quantitative information in a non-destructive way and is compatible with flow
measurements. The use of NMR on whole microalgae cells has already been studied in both solid-
and/or liquid-state NMR [14, 15]. The in-cell detection of lipids is feasible, but conventional NMR
suffers from practical incompatibilities since high-field spectrometers are expensive to purchase and
maintain but are also massive, unmovable and can only be coupled to customized culture systems
[16]. In order to improve the accessibility and cost of NMR, benchtop NMR spectroscopy devices
have emerged recently. Based on permanent magnets, they are cryogen-free and can easily be
coupled with all kinds of online set ups, thus being suitable for reaction and process monitoring. The
main drawback MATEC Web of Conferences 379, 01007 (2023)
SFGP2022 MATEC Web of Conferences 379, 01007 (2023) https://doi.org/10.1051/matecconf/202337901007 is the drastic decrease of the magnetic field (compared to conventional spectrometers), which is –on
current devices– in the 1-2 Tesla range. This implies a loss of both resolution and sensitivity. In addition
to this first limitation, obtaining NMR spectra on living microalgae in their cultivation medium requires
dealing with the predominant water signal, which covers all the other peaks. is the drastic decrease of the magnetic field (compared to conventional spectrometers), which is –on
current devices– in the 1-2 Tesla range. This implies a loss of both resolution and sensitivity. In addition
to this first limitation, obtaining NMR spectra on living microalgae in their cultivation medium requires
dealing with the predominant water signal, which covers all the other peaks. In this article, the proof-of-concept that lipids in entire cells can be detected by online NMR
spectroscopy and in their real culture medium is performed. Methodological NMR developments were
first carried out to efficiently remove the water peak and to enhance the lipid signal detection. The
spectra were acquired on whole microalgae for cultures of Parachlorella kesslerii with different
amount of accumulated neutral lipids. Through the analysis of this culture, the ability of benchtop NMR
to monitor lipid accumulation in living microalgae cells without disturbing the bioprocess was carried
out. Dry weight and cell number determination In order to characterize the three cultures, their dry weight and cell concentration were measured. 10
mL from each culture were filtered through a dried glass-fiber filter (Whatman GF/F). The filters were
dried 24 hours in an oven at 105°C before weighting. Filters were then weighted before and after
microalgae filtration to determine the biomass dry weight. Each culture was measured in triplicate. The cell number of each culture was then determined using a Malassez counting cell under optical
microscope. Microalgae cultures Cultures of Parachlorella kesslerii UTEX2229 were analyzed in this work with different starvation stages
in order to obtain different intracellular lipid concentrations. 100 mL of three cultures from three
independent photobioreactors were collected simultaneously. The microalgae were grown following
the recommendation established by Taleb et al. [17]. High-field NMR High-field NMR experiments were carried out on a 16.4 T Bruker Avance-III HD spectrometer operating
at a 1H frequency of 700.13 MHz, equipped with an inverse 1H/13C/15N/2H cryogenically cooled probe. 10% D2O was added to each culture as a lock reference. High-Field NMR was used for the sake of
comparison and also for control, especially to check that no signal overlapped with the peak of interest. Benchtop NMR The benchtop NMR spectrometer was a Spinsolve 1H/19F/13C from Magritek delivering a 1.0 T magnetic
field for a proton frequency of 43.5 MHz. As mentioned above, the device was equipped with a gradient
coil along the B0 direction. No deuterated substance was needed thanks to an external fluorine lock
system. The spectra were acquired using the SpinsolveExpert software. For each spectrum, 3600 scans
were accumulated with a repetition time of 1s to obtain a one-hour spectrum, which was chosen as a
good compromise between the sensitivity of detection (NMR scan accumulation) and the
measurement rate, to obtain an appropriate sampling of the kinetic data. The experiment duration for
one spectrum was set to be compatible with the kinetics of typical microalgae cultures, which lasts a
few weeks. For every recorded free induction decay (FID), 4096 points were sampled with a dwell time
of 50 µs resulting in a 204.8 ms acquisition time. The pulse sequences used in order to remove the
water peak are explained in the dedicated section below (3.1). The carrier frequency was adjusted to
the water frequency before each set of spectra. Five spectra were acquired on each culture to evaluate
the analytical repeatability. Spectra were manually phased and integrated with the MestReNova
software. Experimental setup The experimental setup represented in Figure 1 did not require any sophisticated equipment, thus
making it applicable in a routine context. A small volume of microalgae culture was conveyed with a
peristaltic pump through the benchtop spectrometer in a commercial glass flow cell. The total volume
of the loop -c.a. 5 mL- was negligible in comparison to the typical volume of a microalgae culture
(from 500 mL to several liters) so it would not disturb the culture in the study of real-scale
bioprocesses. The flow rate was set to 1.0 mL.min-1. As previously shown, this value does not
significantly impact the NMR detection since apparent relaxation times are not significantly affected
[18], while it ensures a good sample homogeneity, ensuring an optimal signal sensitivity during the
measurement. 2 2 MATEC Web of Conferences 379, 01007 (2023)
SFGP2022 https://doi.org/10.1051/matecconf/202337901007 Figure 1. coupling between a photobioreactor (PBR) (Parachlorella kesslerii culture) on the left and a
benchtop spectrometer (grey) on the right using a peristaltic pump (highlighted in blue). The loop
connects the PBR with capillaries (accentuated in full green line) to a smooth quartz tube (accentuated
in dashed green line). The sensitive volume of NMR is represented in red. Figure 1. coupling between a photobioreactor (PBR) (Parachlorella kesslerii culture) on the left and a
benchtop spectrometer (grey) on the right using a peristaltic pump (highlighted in blue). The loop
connects the PBR with capillaries (accentuated in full green line) to a smooth quartz tube (accentuated
in dashed green line). The sensitive volume of NMR is represented in red. Optimization of the water peak suppression Performing NMR spectroscopy on microalgae samples (i.e., without deuterated water) with a classical
one-pulse acquisition would lead to a unique and intense water peak, since water protons are
ubiquitous compared to protons from lipids of interest whose concentration is much lower (see the
top spectrum of Figure 2). Thanks to advanced pulse sequences, suppressing the solvent peak in order
to get a 1H spectrum in non-deuterated solvents is well-known in the high-field NMR community [19]. 3 3 MATEC Web of Conferences 379, 01007 (2023) MATEC Web of Conferences 379, 01007 (2023)
SFGP2022 https://doi.org/10.1051/matecconf/202337901007 The majority of these pulse sequences uses magnetic field gradients which requires therefore a
gradient coil in the hardware. This equipment has been recently implemented on commercial
benchtop NMR devices [18] and is essential for this work. Several strategies exist to get rid of the solvent peak, which either rely on a selective suppression of
the corresponding resonance or on the selective excitation of all the resonances except the solvent
one. The choice among these techniques relies on two main criteria: i) the efficiency of the solvent
peak reduction ii) the selectivity of the suppression. Indeed, a given bandwidth is impacted by the
pulse sequence and this suppressed bandwidth should be narrow enough to prevent the removing of
other peaks close to the solvent one. In concrete terms, each method is a compromise between these
two criteria. Therefore, a preliminary work to optimize the water peak suppression was carried out on
concentrated microalgae after centrifugation to obtain microalgae spectra in a reasonable time. These
preliminary experiments were performed on a non-starved oleo-microalgae: parachlorella Kessleri
UTEX2229. Fig. 2 presents four spectra acquired on the same concentrated microalgae sample in flow
conditions: the classical 1H spectrum which leads to a unique intense peak, and three different solvent
suppression pulse sequences which correspond to three different approaches for removing the water
peak: i) WET-180-NOESY (Water suppression Enhanced through T1 effects - 180° pulse - Nuclear Overhauser
Effect SpectroscopY), in a previous work on a similar device [20], this pulse sequence appeared as the
optimal solvent suppression pulse sequence for small molecules thanks to a high selectivity, i.e., a low
disturbance of peaks closed to the water one. ii) W5 (WATERGATE-5: WATER suppression by GrAdient-Tailored Excitation) [21], a well-known
suppression pulse sequence for its great efficiency in removing water peak despite poor selectivity for
water. Optimization of the water peak suppression This pulse sequence has been successfully employed in several studies on environmental
samples [22–24]. iii) JRS-6 (Jump-and-Return Sandwiches, with 6 indicating that it is a 6-pulse version of the pulse
sequence) a WATERGATE based pulse sequence with modulated pulses in order to modulate the
suppressed bandwidth [25]. Others water suppression variants have been tried but are not shown in
this article since they do not lead to better performance. All these pulse sequences were implemented
and optimized on the benchtop spectrometer and their performance was subsequently assessed. The results are shown on Figure 2. The regular 1H spectrum highlights the need to remove the
predominant water peak at 4.7 ppm. The broad peak around 1.2 ppm that can be observed on water-
suppressed spectra corresponds to the microalgae intracellular lipids (see attributions in the next
section) and thus is the peak of interest for this study. The evolution of SNR (Signal to Noise Ratio) of
both water and lipid peaks on the different spectra highlights that a strong water suppression is critical
to obtain an exploitable lipid peak. Due to the large frequency difference (150 Hz) between the water
and lipid peaks, the selectivity of the water suppression is not critical as it was the case for small
molecules [20]. The W5 pulse sequence leads to optimal results and was chosen for the online
monitoring. 4 MATEC Web of Conferences 379, 01007 (2023) MATEC Web of Conferences 379, 01007 (2023)
SFGP2022 https://doi.org/10.1051/matecconf/202337901007 Figure 2. Evaluation of water suppression pulse sequences on a benchtop spectrometer, on non-starved
concentrated Parachlorella Kessleri. From top to bottom: regular 1H spectrum (the water peak is so
intense that the spectrum intensity has been divided by 10); the WET-180-NOESY spectrum; the JRS-6
spectrum and the W5 spectrum. A manual baseline correction has been applied for the four spectra. Residual water peaks are visible at 4.7 ppm. The efficiency of the water peak reduction was taken into
account as the main criterion for choosing the pulse sequence. Peak SNR
Water / Lipid
Pulse sequence
Regular 1H (/10)
WET-180-NOESY
JRS-6
W5
1.8M / -
48k / 12
2,8k / 14
66 / 18
δ 1H (ppm)
10
5
4
2
0
-2
7
9
8
3
1
-1
-3
6 Pulse sequence Peak SNR
Water / Lipid Figure 2. Evaluation of water suppression pulse sequences on a benchtop spectrometer, on non-starved
concentrated Parachlorella Kessleri. Optimization of the water peak suppression From top to bottom: regular 1H spectrum (the water peak is so
intense that the spectrum intensity has been divided by 10); the WET-180-NOESY spectrum; the JRS-6
spectrum and the W5 spectrum. A manual baseline correction has been applied for the four spectra. Residual water peaks are visible at 4.7 ppm. The efficiency of the water peak reduction was taken into
account as the main criterion for choosing the pulse sequence. 1H NMR on microalgae - annotations The high-field 1H NMR spectrum on microalgae provides several lipid signals. Fig. 3 shows three spectra
with their assignments, acquired on starved microalgae studied in this work. As reference, a
triglyceride molecule is represented (Fig. 3.A) with assigned protons. The top spectrum (Fig. 3.B) is a
lipid extract after chloroform-methanol extraction [26] recorded at 700 MHz. This spectrum is a
typically-shaped lipid spectrum which can be observed on edible oils for example [27]. The most
intense peak at 1.2 ppm corresponds to all the methylene protons in saturated parts of fatty chains. Others protons differ in chemical shift due to unsaturation and/or to the carbonyl group proximity. The second spectrum (Fig 3.C) was acquired on the same culture with the same spectrometer (700
MHz) but without any extraction step, i.e., on whole microalgae cells. Lipid peaks can still be observed
but are much broader. This is due to the suspension state of the microalgae culture: this particular
suspension state makes peaks significantly broader in comparison to spectra of well-solubilized
analytes since solid samples are subjected to anisotropic interactions. Moreover, the cells settle
spontaneously at the bottom of the NMR tube in the measurement time, leading to a lack of sample
homogeneity. Around
2.5
and
3.0
ppm,
sharp
peaks
correspond
to
the
EDTA
(ethylenediaminetetraacetic acid) complex present in the cultivation medium. The bottom spectrum (Fig 3.D) is the same culture analyzed with the benchtop spectrometer at 43 MHz
in flow conditions, which actually help to keep the sample homogeneous all over the course of the
analysis, which was not the case with high field spectrometer. Despite the loss of magnetic field, the
major lipid peak around 1.2 ppm remains clearly visible, thus confirming that benchtop NMR is able to
selectively detect lipids inside the living microalgae cells. It should be kept in mind that the source of
this signal corresponds to all the protons in the saturated parts of the lipid chains (labeled B in Fig. 3.A). NMR provides a quantitative signal on these protons that corresponds to the majority of the lipid
protons. So it can be reasonably related to the total lipid amount biosynthesized by the microalgae. 5 5 MATEC Web of Conferences 379, 01007 (2023) MATEC Web of Conferences 379, 01007 (2023)
SFGP2022 https://doi.org/10.1051/matecconf/202337901007 Figure 3. 1H spectra from a starved Parachlorella Kessleri culture. 1H NMR on microalgae - annotations (A) is the structure of a triglyceride
with the assignment of protons which are visible on the spectra below (B) is a lipid extract from the
NG3 culture, dissolved in CDCl3 and analyzed at 700 MHz. (C) is the raw culture with D2O for lock
reference analyzed at 700 MHz after water peak suppression with W5 pulse sequence. (D) is the raw
culture analyzed at 43 MHz after water peak suppression with W5 pulse sequence. The more intense
lipid peaks on extract spectrum (B) are detectable on the whole microalgae spectrum at 700 MHz (C). The most intense peak B remains visible at 43 MHz and can be used for the non-invasive monitoring of
total lipids. Figure 3. 1H spectra from a starved Parachlorella Kessleri culture. (A) is the structure of a triglyceride
with the assignment of protons which are visible on the spectra below (B) is a lipid extract from the
NG3 culture, dissolved in CDCl3 and analyzed at 700 MHz. (C) is the raw culture with D2O for lock
reference analyzed at 700 MHz after water peak suppression with W5 pulse sequence. (D) is the raw
culture analyzed at 43 MHz after water peak suppression with W5 pulse sequence. The more intense
lipid peaks on extract spectrum (B) are detectable on the whole microalgae spectrum at 700 MHz (C). The most intense peak B remains visible at 43 MHz and can be used for the non-invasive monitoring of
total lipids. Figure 3. 1H spectra from a starved Parachlorella Kessleri culture. (A) is the structure of a triglyceride
with the assignment of protons which are visible on the spectra below (B) is a lipid extract from the
NG3 culture, dissolved in CDCl3 and analyzed at 700 MHz. (C) is the raw culture with D2O for lock
reference analyzed at 700 MHz after water peak suppression with W5 pulse sequence. (D) is the raw
culture analyzed at 43 MHz after water peak suppression with W5 pulse sequence. The more intense
lipid peaks on extract spectrum (B) are detectable on the whole microalgae spectrum at 700 MHz (C). The most intense peak B remains visible at 43 MHz and can be used for the non-invasive monitoring of
total lipids. Assessment of the usage of the benchtop NMR spectroscopy as a non-invasive lipid sensor A compact NMR spectrometer was then connected to the PBR in order to measure, in real-time and in
a non-invasive manner, the total lipid concentration, and that directly on the entire cells grown in their
culture medium. For the selective removing of the water signal, the W5 version of the WATERGATE
pulse sequence is employed. The experimental results indicates that the NMR signal nicely correlates
(R. > 0.99) with the offline FAME (Fatty Acid Methyl Ester) total lipid analysis as performed by GC-FID
(Gas Chromatography coupled to Flame Ionization Detector) within limits of detection and
quantification of respectively of 9 and 30 mg.L−1 (figure 3). The lipid specific signal appears also quite
robust regarding the dissolved dioxygen, making the benchtop NMR spectroscopy an appropriate
universal device for the online monitoring of lipids produced in bioprocesses. Figure 3. 3D stacked plot of half the 310 1H NMR spectra for the sake of readability, after phase and
baseline corrections. The residual water peak at 4.7 ppm and the significant growth of the main lipid
peak at 1.2 ppm over the course of the cultivation are highlighted. Figure 3. 3D stacked plot of half the 310 1H NMR spectra for the sake of readability, after phase and
baseline corrections. The residual water peak at 4.7 ppm and the significant growth of the main lipid
peak at 1.2 ppm over the course of the cultivation are highlighted. 6 6 MATEC Web of Conferences 379, 01007 (2023)
SFGP2022 MATEC Web of Conferences 379, 01007 (2023) https://doi.org/10.1051/matecconf/202337901007 Conclusion The present work demonstrates that compact NMR spectroscopy is able to provide a real-time signal
which is representative of the total lipid concentration. The relative evolution of this signal allows the
in-vivo non-invasive monitoring of the total lipids on microalgae grown under bioprocesses real
conditions. Furthermore, the comparison of the NMR data with a quantitative total lipid analysis makes
the NMR analysis quantitative, so lipid concentration and productivity values are calculated in real-
time. In this study conditions, the limit of detection was measured at 9 mg.L−1 and this limit can be
tuned in the case of different bioprocesses. Benchtop NMR present also all the monitoring potential
to microalgae cultivation systems. Bibliographical references [1]
Klok, A.J. et al.: Edible oils from microalgae: insights in TAG accumulation. Trends Biotechnol.,
32 (10), 2014, p. 521–528. [1]
Klok, A.J. et al.: Edible oils from microalgae: insights in TAG accumulation. Trends Biotechnol.,
32 (10), 2014, p. 521–528. [2]
Chisti, Y.: Biodiesel from microalgae beats bioethanol. Trends Biotechnol., 26 (3), 2008, p. 126–
131. [2]
Chisti, Y.: Biodiesel from microalgae beats bioethanol. Trends Biotechnol., 26 (3), 2008, p. 126–
131. [3]
Bligh, E.G., Dyer, W.J.: A Rapid Method of Total Lipid Extraction and Purification. Can. J. Biochem. Physiol., 37 (8), 1959, p. 911–917. [4]
Folch, J. et al.: A simple method for the isolation and purification of total lipides from animal
tissues. J. Biol. Chem., 226 (1), 1957, p. 497–509. [5]
Giakoumis, E.G.: A statistical investigation of biodiesel physical and chemical properties, and
their correlation with the degree of unsaturation. Renew. Energy, 50, 2013, p. 858–878. [6]
Yang, Y.-H. et al.: Fatty Acid and Lipid Class Composition of the Microalga Phaeodactylum
tricornutum. J. Oleo Sci., 66 (4), 2017, p. 363–368. [7]
Castejón, N., Señoráns, F.J.: Simultaneous extraction and fractionation of omega-3
acylglycerols and glycolipids from wet microalgal biomass of Nannochloropsis gaditana using
pressurized liquids. Algal Res., 37, 2019, p. 74–82. [8]
MacDougall, K.M. et al.: Triacylglycerol profiling of microalgae strains for biofuel feedstock by
liquid chromatography–high-resolution mass spectrometry. Anal. Bioanal. Chem., 401 (8), 2011, p. 2609–2616. [9]
Chen, W. et al.: A high throughput Nile red method for quantitative measurement of neutral
lipids in microalgae. J. Microbiol. Methods, 77 (1), 2009, p. 41–47. [10]
Hyka, P. et al.: Flow cytometry for the development of biotechnological processes with
microalgae. Biotechnol. Adv., 31 (1), 2013, p. 2–16. [11]
Gao, C. et al.: Rapid quantitation of lipid in microalgae by time-domain nuclear magnetic
resonance. J. Microbiol. Methods, 75 (3), 2008, p. 437–440. [12]
Coat, R. et al.: Unravelling the matrix effect of fresh sampled cells for in vivo unbiased FTIR
determination of the absolute concentration of total lipid content of microalgae. Bioprocess Biosyst. Eng., 37 (11), 2014, p. 2175–2187. 7 7 7 MATEC Web of Conferences 379, 01007 (2023) MATEC Web of Conferences 379, 01007 (2023)
SFGP2022 https://doi.org/10.1051/matecconf/202337901007 [13]
Wu, H. et al.: In vivo lipidomics using single-cell Raman spectroscopy. Proc. Natl. Acad. Sci., 108
(9), 2011, p. 3809. [14]
Davey, P.T. et al.: Rapid triacylglyceride detection and quantification in live micro-algal cultures
via liquid state 1H NMR. Bibliographical references Algal Res., 1 (2), 2012, p. 166–175. [15]
Akhter, M. et al.: Identification of aquatically available carbon from algae through solution-
state NMR of whole 13C-labelled cells. Anal. Bioanal. Chem., 408 (16), 2016, p. 4357–4370. [16]
Bouillaud, D. et al.: Benchtop NMR for the monitoring of bioprocesses. Magn. Reson. Chem., 0
(0), 2019. [17]
Taleb, A. et al.: Development and validation of a screening procedure of microalgae for
biodiesel production: Application to the genus of marine microalgae Nannochloropsis. Bioresour. Technol., 177, 2015, p. 224–232. [18]
Gouilleux, B. et al.: Real-time reaction monitoring by ultrafast 2D NMR on a benchtop
spectrometer. Analyst, 140 (23), 2015, p. 7854–7858. [19]
Giraudeau, P. et al.: Optimizing water suppression for quantitative NMR-based metabolomics:
a tutorial review. Metabolomics, 11 (5), 2015, p. 1041–1055. [20]
Gouilleux, B. et al.: Gradient-based solvent suppression methods on a benchtop spectrometer. Magn. Reson. Chem., 55 (2), 2017, p. 91–98. [21]
Piotto, M. et al.: Gradient-tailored excitation for single-quantum NMR spectroscopy of
aqueous solutions. J. Biomol. NMR, 2 (6), 1992, p. 661–665. [22]
Lam, B., Simpson, A.J.: Direct 1H NMR spectroscopy of dissolved organic matter in natural
waters. Analyst, 133 (2), 2008, p. 263–269. [23]
Masoom, H. et al.: From the environment to NMR: water suppression for whole samples in
their native state. Environ. Chem., 13 (4), 2016, p. 767–775. [24]
Bastawrous, M. et al.: In-Vivo NMR Spectroscopy: A Powerful and Complimentary Tool for
Understanding Environmental Toxicity. Metabolites, 8 (2), 2018, p. 35. [25]
Brenner, T. et al.: Jump-and-return sandwiches: A new family of binomial-like selective
inversion sequences with improved performance. J. Magn. Reson., 288, 2018, p. 100–108. [26]
Van Vooren, G. et al.: Investigation of fatty acids accumulation in Nannochloropsis oculata for
biodiesel application. Bioresour. Technol., 124, 2012, p. 421–432. [27]
Guillén, M.D., Ruiz, A.: Rapid simultaneous determination by proton NMR of unsaturation and
composition of acyl groups in vegetable oils. Eur. J. Lipid Sci. Technol., 105 (11), 2003, p. 688–696. [28]
Akoka, S. et al.: Concentration Measurement by Proton NMR Using the ERETIC Method. Anal. Chem., 71 (13), 1999, p. 2554–2557. [29]
Blümich, B.: Beyond compact NMR. Microporous Mesoporous Mater., 269, 2018, p. 3–6. 8 8
|
https://openalex.org/W3202579270
|
https://europepmc.org/articles/pmc8480066?pdf=render
|
English
| null |
Oral iron supplementation after antibiotic exposure induces a deleterious recovery of the gut microbiota
|
BMC Microbiology
| 2,021
|
cc-by
| 10,632
|
© The Author(s) 2021. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which
permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the
original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or
other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line
to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory
regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this
licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativeco
mmons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Abstract Background: Oral iron supplementation is commonly prescribed for anemia and may play an important role in the
gut microbiota recovery of anemic individuals who received antibiotic treatment. This study aims to investigate the
effects of iron supplementation on gut microbiota recovery after antibiotics exposure. Results: Mice were subjected to oral antibiotic treatment with neomycin and metronidazole and were fed diets with
different concentrations of iron. The composition of the gut microbiota was followed throughout treatment by 16S
rRNA sequencing of DNA extracted from fecal samples. Gut microbiota functions were inferred using PICRUSt2, and
short-chain fatty acid concentration in fecal samples was assessed by liquid-chromatography mass spectrometry. Iron
supplementation after antibiotic exposure shifted the gut microbiota composition towards a Bacteroidetes phylum-
dominant composition. At the genus level, the iron-supplemented diet induced an increase in the abundance of
Parasutterella and Bacteroides, and a decrease of Bilophila and Akkermansia. Parasutterella excrementihominis, Bacte-
roides vulgatus, and Alistipes finegoldii, were more abundant with the iron excess diet. Iron-induced shifts in micro-
biota composition were accompanied by functional modifications, including an enhancement of the biosynthesis of
primary bile acids, nitrogen metabolism, cyanoamino acid metabolism and pentose phosphate pathways. Recovery
after antibiotic treatment increased propionate levels independent of luminal iron levels, whereas butyrate levels
were diminished by excess iron. Conclusions: Oral iron supplementation after antibiotic therapy in mice may lead to deleterious changes in the
recovery of the gut microbiota. Our results have implications on the use of oral iron supplementation after antibiotic
exposure and justify further studies on alternative treatments for anemia in these settings. Keywords: Iron, Antibiotics, Gut microbiota, Dysbiosis, Anemia, Inflammation Thibault Cuisiniere1, Annie Calvé1, Gabriela Fragoso1, Manon Oliero1, Roy Hajjar1,2, Emmanuel Gonzalez3 and
Manuela M. Santos1,4* Thibault Cuisiniere1, Annie Calvé1, Gabriela Fragoso1, Manon Oliero1, Roy Hajjar1,2, Emmanuel Gonzalez3 and
Manuela M. Santos1,4* Backgroundh The gut microbiota is the population of microorgan-
isms inhabiting the gastrointestinal tract. Crosstalk
between the host and gut microbiota is important for
several key functions in the health of the host, such as
immunity maintenance, nutrient metabolism and pro-
tection against pathogens [1]. Perturbations in the gut
microbiota may lead to disturbed microbial homeosta-
sis, a state termed dysbiosis. Antibiotic treatments are
among the strongest inducers of gut dysbiosis [2, 3]. *Correspondence: manuela.santos@umontreal.ca *Correspondence: manuela.santos@umontreal.ca
1 Nutrition and Microbiome Laboratory, Institut du cancer de Montréal,
Centre de recherche du Centre hospitalier de l’Université de Montréal
(CRCHUM), CRCHUM ‑ R10.426, 900 rue Saint‑Denis, Montréal, Québec
H2X 0A9, Canada Full list of author information is available at the end of the article Oral iron supplementation after antibiotic
exposure induces a deleterious recovery
of the gut microbiota Thibault Cuisiniere1, Annie Calvé1, Gabriela Fragoso1, Manon Oliero1, Roy Hajjar1,2, Emmanuel Gonzalez3 and
Manuela M. Santos1,4* Cuisiniere et al. BMC Microbiol (2021) 21:259
https://doi.org/10.1186/s12866-021-02320-0 Cuisiniere et al. BMC Microbiol (2021) 21:259
https://doi.org/10.1186/s12866-021-02320-0 The structure of gut microbiota communities is affected
by dietary iron supplementation after antibiotic exposure The structure of gut microbiota communities is affected
by dietary iron supplementation after antibiotic exposure
To assess gut microbiota recovery from antibiotic treat-
ment in the presence or absence of oral iron supplemen-
tation, mice were first treated with metronidazole and
neomycin for one week while fed an iron-sufficient diet. Next, mice were divided into two groups: one contin-
ued to be fed the iron-sufficient diet while the other was
switched to an iron-supplemented diet (Fig. 1A). During the experimental period, mice gained weight
and no differences were detected between the iron-suf-
ficient and iron-excess groups (Fig. 1B). To confirm an
increase in luminal iron concentration in mice kept on
the high iron diet, we measured iron levels in fecal sam-
ples at day 80 (T80, Fig. 1C). The iron-supplemented diet
induced a 10-fold increase in luminal iron concentration.i y
g
Iron availability may constitute a determinant fac-
tor in microbiota recovery because iron functions as
a co-factor in iron-containing proteins in redox reac-
tions, electron transport chain mechanisms, and met-
abolic pathways, underscoring its role in the growth
and replication of most microorganisms [12]. As iron
is a limiting growth factor for most bacteria [13], the
host has a highly regulated system to control levels of
free iron within the gut lumen [14], resulting in intense
competition between host cells and gut bacteria for
iron acquisition [15, 16]. However, oral iron supple-
mentation increases the iron availability in the gut as
most of the supplemented iron is not absorbed [17, 18]. Excess iron in the gut lumen may potentially activate
latent virulence genes in commensal bacteria, turning
them into pathobionts [19]. Hence, the host iron sta-
tus and dietary iron availability have a profound impact
on microbial gut communities [20]. Importantly, iron
supplementation has also been shown to favor the
growth of pathogenic gut bacteria and the occurrence
of intestinal injury [21]. The adverse effects of iron may
be exacerbated in dysbiotic settings, with unabsorbed
luminal iron from diet or iron supplementation fur-
ther fueling the growth and virulence of gut bacterial
pathogens. In turn, iron-mediated modification of the
gut microbiome, particularly during the recovery phase
after antibiotic therapy, may have profound conse-
quences for the health of the host. © The Author(s) 2021. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which
permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the
original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or
other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line
to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory
regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this
licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativeco
mmons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Cuisiniere et al. BMC Microbiol (2021) 21:259 Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 2 of 15 Antibiotics are routinely administered to treat active
infections or for prophylaxis prior to invasive endo-
scopic or surgical interventions [4]. Antibiotic-induced
dysbiosis leads to a marked reduction in alpha-diversity
[5, 6] and beneficial bacteria [6], a decrease in the lev-
els of beneficial short-chain fatty acids (SCFAs) [7], a
weakening of the gut barrier function, and inflamma-
some activation [7, 8]. Most importantly, antibiotic-
induced dysbiosis is linked to an increased abundance
of enterobacteria species [7], including pathogenic spe-
cies [9]. Once antibiotic treatments are stopped, the gut
microbiota can return to its initial composition [10]. However, this return to baseline or recovery may be
impaired by several exogenous factors such as nutrient
availability in the gastrointestinal tract [11]. In this study, we evaluated the effects of oral iron sup-
plementation on the gut microbiota during the crucial
period of recovery after exposure to antibiotics. The structure of gut microbiota communities is affected
by dietary iron supplementation after antibiotic exposure We used 16S rRNA amplicon sequencing to profile
the fecal microbiota of mice before (T0) and after (T7)
antibiotic exposure as well as during the recovery period
(T14, T21 and T80). Raw data with the results of the 16S
rRNA gene microbial profiling analysis including com-
plete taxonomic profiles, alpha-diversity, and inferred
functional profiles are presented in Additional file 1f ii
To assess the effects of dietary iron on richness and
evenness of the gut microbiota during recovery, alpha-
diversity Chao1 and Shannon indexes were computed. Analysis of alpha-diversity indexes revealed that antibiot-
ics induced a strong perturbation characterized by a sig-
nificant decrease of Chao1 (755 ± 16 T0 vs 497 ± 11 T7,
P < 0.00001) and Shannon indexes (4.5 ± 0.05 T0 vs 3.2 ±
0.06 T7, P < 0.00001) (Fig. 2A-B). As reported by others
[28], our results confirm that antibiotic exposure induces
a strong decrease in alpha-diversity, affecting both rich-
ness and evenness of the gut microbiota. To assess how
iron supplementation affects the recovery of alpha-diver-
sity, we compared baseline (T0) with the last time point
(T80) in both groups. As shown in Fig. 2A-B, Chao1 and
Shannon indexes at T80 remained significantly lower
compared to T0, independent of dietary iron consump-
tion (iron-sufficient diet: Chao1 650 ± 19 T80, P < 0.05;
Shannon 3.7 ± 0.09 T80, P < 0.00005; and iron excess
diet: Chao1 634 ± 32 T80, P < 0.05; Shannon 3.5 ± 0.09
T80, P < 0.00001). No difference in alpha-diversity was
detected between mice fed the iron-sufficient and iron-
supplemented diets at T80. Oral iron supplementation, mostly in the form of fer-
rous sulphate [22], is a universal treatment for anemia
[23]. Both antibiotic treatment and iron supplementa-
tion are administered to anemic patients needing gas-
trointestinal surgery due to digestive diseases [24, 25]. In these cases, antibiotic treatment is given as a prophy-
laxis before surgical interventions to prevent infections
and consists routinely of oral regimens of neomycin and
metronidazole [26, 27], which confer a broad coverage
against gastrointestinal bacteria. Next, analysis of the level of differences between
experimental groups (beta-diversity) was computed
by weighted UniFrac and their principal coordinate Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 3 of 15 Fig. 1 Dietary iron supplementation increases luminal iron concentration of the gut without affecting body weight. The structure of gut microbiota communities is affected
by dietary iron supplementation after antibiotic exposure A Schematic representation of
the experimental design starting with mice fed a diet sufficient in iron and antibiotic delivery for one week, followed by either an iron-sufficient (50
mg.kg-1) or iron-supplemented (500 mg.kg-1) diet until day 80 (T80). B Body weight (means ± SEM) between iron-sufficient and iron-supplemented
groups. C Fecal non-heme iron measured by ferrozine assay at T80 (means ± SD). N = 9 per group. Differences were assessed by multiple t-test
corrected for false discovery rate (fdr) (B) and Welch t-test (C) Fig. 1 Dietary iron supplementation increases luminal iron concentration of the gut without affecting body weight. A Schematic representation of
the experimental design starting with mice fed a diet sufficient in iron and antibiotic delivery for one week, followed by either an iron-sufficient (50
mg.kg-1) or iron-supplemented (500 mg.kg-1) diet until day 80 (T80). B Body weight (means ± SEM) between iron-sufficient and iron-supplemented
groups. C Fecal non-heme iron measured by ferrozine assay at T80 (means ± SD). N = 9 per group. Differences were assessed by multiple t-test
corrected for false discovery rate (fdr) (B) and Welch t-test (C) Iron supplementation after antibiotic exposure influences
the gut microbiota composition at the phylum, family,
genus, and species levels analysis (PCoA). Analysis of antibiotic-induced dissimi-
larity revealed that axis 1 captured most of the variance
among microbiota samples (55.2%) depicting drastic
changes from baseline in antibiotic-treated gut micro-
biota structure (P < 0.001) (Fig. 2C). To detect perturbations in the gut microbiota composi-
tion after antibiotic exposure, bacterial relative abun-
dance at the phylum and family levels were analyzed
(Figs. 3 and 4). Antibiotic exposure induced a major
perturbation of the relative abundances of whole phyla
(Fig. 3A-B). In particular, antibiotics induced a bloom of
Verrucomicrobia (19% T0 vs 47% T7, P < 0.00005) driven
by Akkermansiaceae, and a rise in Proteobacteria (5% T0
vs 19% T7, P <0.002) driven mostly by Enterobacteriaceae
and other Proteobacteria, while all other phyla decreased
in terms of relative abundance. Most importantly, the
relative abundance of Firmicutes was strongly diminished
by antibiotic treatment (42% T0 vs 4% T7 P < 0.00001). Taken together, these results indicate that antibiotics
shift gut microbiota communities towards an unbalanced
state. The effects of iron were then assessed by comparing
both groups at the last timepoint (T80). The recov-
ery of community structures was significantly affected
under different luminal iron concentrations (Fig. 2D)
as shown by the 68% variation captured by PCoA axis
1 (P <0.01). Furthermore, a clear pattern significantly
differentiating the gut microbiota at baseline compared
to the end of the experiment (T80) was found inde-
pendent of dietary iron levels (Fig. 2E-F) (PCoA axis 1:
iron-sufficient diet 51.1%, P < 0.001 and iron excess diet
70.6%, P < 0.001). Taken together, these results indicate that antibiotic
exposure reduced alpha-diversity and differentially clus-
tered the structure of the gut microbiota. Dietary iron
affected gut microbiota structure at the end of the recov-
ery phase and did not affect alpha-diversity. Thus, after
antibiotic exposure, iron impacted the microbiota com-
position without affecting alpha-diversity. Analysis of the relative abundance comparing T0 vs
T80 (recovery) revealed persistent modifications at the
phylum level in mice fed iron-sufficient and iron-sup-
plemented diets (Fig. 3C-D). Independent of dietary iron Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 4 of 15 Fig. 2 Recovery of gut microbiota composition is incomplete at T80 and affected by luminal iron concentration. A Chao1 and B Shannon
measurements of alpha-diversity. Ribbons represent the standard error of the mean (SEM). C-F Principal coordinates analysis (PCoA) of weighted
UniFrac distance matrix. Iron supplementation after antibiotic exposure influences
the gut microbiota composition at the phylum, family,
genus, and species levels N = 18 mice per group for antibiotic exposure and N = 9 mice per group for iron diets. Differences were assessed by Welch
t-test (A, B) and Adonis (C-F). * P < 0.05, ** P < 0.01, *** P < 0.0001, comparison between T0 and T7 (N = 18), T14, T21 and T80 (N = 9) Fig. 2 Recovery of gut microbiota composition is incomplete at T80 and affected by luminal iron concentration. A Chao1 and B Shannon
measurements of alpha-diversity. Ribbons represent the standard error of the mean (SEM). C-F Principal coordinates analysis (PCoA) of weighted
UniFrac distance matrix. N = 18 mice per group for antibiotic exposure and N = 9 mice per group for iron diets. Differences were assessed by Welch
t-test (A, B) and Adonis (C-F). * P < 0.05, ** P < 0.01, *** P < 0.0001, comparison between T0 and T7 (N = 18), T14, T21 and T80 (N = 9) Fig. 2 Recovery of gut microbiota composition is incomplete at T80 and affected by luminal iron concentration. A Chao1 and B Shannon
measurements of alpha-diversity. Ribbons represent the standard error of the mean (SEM). C-F Principal coordinates analysis (PCoA) of weighted
UniFrac distance matrix. N = 18 mice per group for antibiotic exposure and N = 9 mice per group for iron diets. Differences were assessed by Welch
t-test (A, B) and Adonis (C-F). * P < 0.05, ** P < 0.01, *** P < 0.0001, comparison between T0 and T7 (N = 18), T14, T21 and T80 (N = 9) Verrucomicrobia expansion triggered by antibiotic treat-
ment (iron-sufficient diet, 28% T80 vs iron excess diet,
8% T80, P < 0.05). At T80 follow-up, the gut microbiota
composition did not return to baseline, and the iron
supplementation induced a shift towards Bacteroidetes
domination mostly belonging to the Tannerellaceae fam-
ily (iron-sufficient diet: 18% T0 vs 34% T80, P = 0.07; and
iron excess diet: 46% T80, P < 0.01; Figs. 3 and 4).f Verrucomicrobia expansion triggered by antibiotic treat-
ment (iron-sufficient diet, 28% T80 vs iron excess diet,
8% T80, P < 0.05). At T80 follow-up, the gut microbiota
composition did not return to baseline, and the iron
supplementation induced a shift towards Bacteroidetes
domination mostly belonging to the Tannerellaceae fam-
ily (iron-sufficient diet: 18% T0 vs 34% T80, P = 0.07; and
iron excess diet: 46% T80, P < 0.01; Figs. Iron supplementation after antibiotic exposure influences
the gut microbiota composition at the phylum, family,
genus, and species levels 3 and 4).f intake, Firmicutes did not return to basal levels as shown
in Fig. 3A (iron sufficient diet: 42% T0 vs 18% T80, P <
0.005; and iron excess diet: 19% T80, P < 0.0005). In con-
trast, Bacteroidetes were more abundant at T80 in both
groups but at a higher extent in mice fed the iron-sup-
plemented diet (iron-sufficient diet: 31% T0 vs 49% T80,
P < 0.05; and iron excess diet: 69% T80, P < 0.0005), indi-
cating that the Bacteroidetes expansion after antibiotic
treatment was dependent on luminal iron availability. In addition, iron supplementation strongly suppressed intake, Firmicutes did not return to basal levels as shown
in Fig. 3A (iron sufficient diet: 42% T0 vs 18% T80, P <
0.005; and iron excess diet: 19% T80, P < 0.0005). In con-
trast, Bacteroidetes were more abundant at T80 in both
groups but at a higher extent in mice fed the iron-sup-
plemented diet (iron-sufficient diet: 31% T0 vs 49% T80,
P < 0.05; and iron excess diet: 69% T80, P < 0.0005), indi-
cating that the Bacteroidetes expansion after antibiotic
treatment was dependent on luminal iron availability. In addition, iron supplementation strongly suppressed To detect differentially abundant bacterial genera and
species induced by the iron-enriched diet, we applied Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 5 of 15 Fig. 3 Antibiotics induce major perturbations in relative abundances and iron shapes the gut microbiota during recovery. Pie charts of phyla
relative abundances at (A) T0 (N = 18), (B) T7 (N = 18) and T80 for mice fed (C) iron-sufficient diet (N = 9) and (D) iron excess diet (N = 9). Differences were assessed by Welch t-test; n.s., non-significant, * P < 0.05, ** P < 0.01, *** P < 0.001, **** P < 0.0001 Fig. 3 Antibiotics induce major perturbations in relative abundances and iron shapes the gut microbiota during recovery. Pie charts of phyla
relative abundances at (A) T0 (N = 18), (B) T7 (N = 18) and T80 for mice fed (C) iron-sufficient diet (N = 9) and (D) iron excess diet (N = 9). Differences were assessed by Welch t-test; n.s., non-significant, * P < 0.05, ** P < 0.01, *** P < 0.001, **** P < 0.0001 Fig. 3 Antibiotics induce major perturbations in relative abundances and iron shapes the gut microbiota during recovery. Iron supplementation after antibiotic exposure influences
the gut microbiota composition at the phylum, family,
genus, and species levels 5 Oral iron supplementation shapes the gut microbiota recovery from antibiotic exposure at the genus level. A Heatmap of log2 fold change
(FC) of the relative abundances of the significantly different genera between mice before (T0) and after (T7) antibiotic exposure (GAMLSS-BEZI
analysis). Each square represents one mouse (N = 18 per group). B-C The effect of iron supplementation on the relative abundance of genera that
were significantly affected through the full recovery phase (T14, T21 and T80). D-E The effect of iron supplementation on the relative abundance
of genera that remained significantly affected at the last time point (T80). Vertical bars represent the standard error of the mean (SEM) (N = 9 per
group) abundant during the recovery phase in mice fed with
iron-supplemented diet compared to the control iron-
sufficient diet (Fig. 6). B. vulgatus (Fig. 6A) was more sen-
sitive to antibiotic exposure, with a relative abundance of
3.09% ± 1.03 at T0 and 0.04% ± 0.015 at T7 (P < 0.0001). The iron-supplemented diet induced a fast return to
baseline of the relative abundance of B. vulgatus at T14,
which then remained stable during the recovery phase. In contrast, the iron-sufficient diet induced a significantly
lower relative abundance at all remaining timepoints. of two genera, namely Ruminococcaceae UCG 004 and
UBA1819, increased. Two Proteobacteria genera had
also significantly changed, with a reduction of Bilophila
and a relative expansion of Parasutterella. Finally, anti-
biotic exposure also significantly increased the relative
abundance of Akkermansia (Verrucromicrobia phylum). The relative abundance of genera that remained affected
until the last time point (T80) compared to baseline (T0)
are presented in Additional file 2, Table 2 (iron-sufficient
diet, 50 ppm iron) and Table 3 (iron excess diet, 500 ppm
iron).f P. excrementihominis (Fig. 6B) exhibited resistance to
antibiotic exposure as shown by a 34-fold increase in its
relative abundance (0.24% ± 0.04 at T0 vs 8.04% ± 0.99
at T7, P < 0.0001). Oral iron supplementation during
the recovery phase induced a higher relative abundance
of P. excrementihominis compared to the iron-sufficient
diet. Notably, P. excrementihominis remained higher at
T80 compared to T0 (iron-sufficient diet: P < 0.002, iron
excess diet: P < 0.006), independent of dietary iron dur-
ing the recovery phase. Most importantly, dietary iron levels affected the return
to basal levels through the recovery period (T14, T21
and T80) of two genera. Iron supplementation after antibiotic exposure influences
the gut microbiota composition at the phylum, family,
genus, and species levels Pie charts of phyla
relative abundances at (A) T0 (N = 18), (B) T7 (N = 18) and T80 for mice fed (C) iron-sufficient diet (N = 9) and (D) iron excess diet (N = 9). Differences were assessed by Welch t-test; n.s., non-significant, * P < 0.05, ** P < 0.01, *** P < 0.001, **** P < 0.0001 Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 6 of 15 Fig. 4 Oral iron supplementation shapes gut microbiota recovery from antibiotic exposure at family level. Bar graph of relative abundances of
families throughout the experiment. Each stacked bar represents a single mouse and the vertical lines demark cages. Families representing more
than 5% of the relative abundance are shown Fig. 4 Oral iron supplementation shapes gut microbiota recovery from antibiotic exposure at family level. Bar graph of relative abundances of
families throughout the experiment. Each stacked bar represents a single mouse and the vertical lines demark cages. Families representing more
than 5% of the relative abundance are shown Generalized Additive Models for Location, Scale and
Shape (GAMLSS) with a zero-inflated beta (BEZI) fam-
ily (GAMLSS-BEZI). Antibiotic treatment (T0 vs T7)
resulted in a significant decrease of Bacteroides and Generalized Additive Models for Location, Scale and
Shape (GAMLSS) with a zero-inflated beta (BEZI) fam-
ily (GAMLSS-BEZI). Antibiotic treatment (T0 vs T7)
resulted in a significant decrease of Bacteroides and Alistipes, and an increase of Parabacteroides genera from
the Bacteroidetes phylum (Fig. 5A and Additional file 2,
Table 1). In addition, 19 genera in the Firmicutes phylum
had significantly decreased, while the relative abundance Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 7 of 15 Fig. 5 Oral iron supplementation shapes the gut microbiota recovery from antibiotic exposure at the genus level. A Heatmap of log2 fold change
(FC) of the relative abundances of the significantly different genera between mice before (T0) and after (T7) antibiotic exposure (GAMLSS-BEZI
analysis). Each square represents one mouse (N = 18 per group). B-C The effect of iron supplementation on the relative abundance of genera that
were significantly affected through the full recovery phase (T14, T21 and T80). D-E The effect of iron supplementation on the relative abundance
of genera that remained significantly affected at the last time point (T80). Vertical bars represent the standard error of the mean (SEM) (N = 9 per
group) Fig. Iron supplementation after antibiotic exposure influences
the gut microbiota composition at the phylum, family,
genus, and species levels Bilophila showed a diminished
recovery rate in mice fed the iron excess diet (Fig. 5B,
P < 0.0001), and Parasutterella presented a higher rela-
tive abundance in mice consuming the iron excess diet
(Fig. 5C, P < 0.001). The relative abundance of two addi-
tional genera remained significantly altered only at the
last time point (T80). Bacteroides was increased in mice
fed the iron excess diet (Fig. 5D; P < 0.05) and Akkerman-
sia was reduced, with iron supplementation suppressing
its expansion (Fig. 5E; P < 0.05) To validate the results obtained from 16S rRNA analy-
sis at the species level, we performed real-time PCR anal-
ysis on samples obtained at the last time point, T80. As
shown in Fig. 6C-D, real-time PCR analysis confirmed
the expansion of B. vulgatus and P. excrementihominis in
the gut microbiota of mice fed the iron excess diet. We further identified two species, namely Bacteroides
vulgatus (Bacteroidetes) and Parasutterella excremen-
tihominis (Proteobacteria), which were differentially Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 8 of 15 Fig. 6 Relative abundance of bacterial species in iron-supplemented mice after antibiotic exposure. A-B Relative abundance of the two bacterial
species that were detected as significantly different in abundance by GAMLSS-BEZI and C-D validated by real-time PCR, in mice fed an iron excess
diet compared to mice fed an iron-sufficient diet during the recovery phase. Differences were assessed by Welch t-test. Bars represent the standard
error of the mean (SEM) (N = 9 per time point and group). E, F Spearman’s correlations between luminal iron concentration at T80 of (E) B. vulgatus
and (F) P. excrementihominis. r represents the correlation coefficient and dotted lines represent confidence interval at 95%. (N = 18) Fig. 6 Relative abundance of bacterial species in iron-supplemented mice after antibiotic exposure. A-B Relative abundance of the two bacterial
species that were detected as significantly different in abundance by GAMLSS-BEZI and C-D validated by real-time PCR, in mice fed an iron excess
diet compared to mice fed an iron-sufficient diet during the recovery phase. Differences were assessed by Welch t-test. Bars represent the standard
error of the mean (SEM) (N = 9 per time point and group). E, F Spearman’s correlations between luminal iron concentration at T80 of (E) B. vulgatus
and (F) P. excrementihominis. r represents the correlation coefficient and dotted lines represent confidence interval at 95%. Iron supplementation after antibiotic exposure influences
the gut microbiota composition at the phylum, family,
genus, and species levels (N = 18) The data so far indicate that these two bacterial species
preferentially grew in an iron-rich luminal environment
during recovery from antibiotic exposure. To further ana-
lyze the dependency of their growth on iron luminal con-
centrations, we applied Spearman’s correlations analysis
(Fig. 6E-F) and showed that luminal iron concentrations
significantly correlated with the relative abundance of B. vulgatus (r = 0.60, P < 0.01) and P. excrementihominis (r
= 0.50, P < 0.05) measured at T80. that exhibited a significant decline by a factor eight of its
relative abundance after antibiotic exposure (0.41% ±
0.079 at T0 vs 0.053% ± 0.018 at T7, P < 0.0001). The rela-
tive abundance of A. finegoldii remained lower in mice
fed the iron-sufficient diet compared to mice fed the high
iron diet throughout the recovery phase and was higher
at the endpoint (T80) for both groups compared to base-
line. Further real-time PCR confirmed that at T21, but
not at T80, A. finegoldii was present at higher levels in
mice fed the iron excess diet compared to mice kept on
the iron-sufficient diet (Additional file 2, Fig. 1B-C). GAMLSS-BEZI analysis revealed a third species, Alis-
tipes finegoldii (Bacteroidetes) (Additional file 2, Fig. 1A) Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 9 of 15 Cuisiniere et al. BMC Microbiol (2021) 21:259 Iron supplementation during gut microbiota recovery
after antibiotic exposure induces changes in inferred gut
microbiota functionsf Since the composition of the gut microbiota did not
recover to its baseline level at T80 and dietary iron effec-
tively shaped the recovery towards a Bacteroidetes-domi-
nant phylum composition (mainly propionate producers)
[29] to the detriment of Firmicutes (mainly butyrate pro-
ducers) [30], we reasoned that the production of SCFAs
was affected. SCFAs are the major fermentation products
of the gut microbiota and are involved in diverse biologi-
cal functions that affect the host’s physiology [31]. We
investigated whether fecal SCFAs concentrations at the
final timepoint (T80) were affected by the iron-induced
recovery from antibiotic exposure (Fig. 8). The concentra-
tion of fecal propionate at T80 was significantly increased
in mice fed the iron-sufficient and iron-supplemented PICRUSt2 was used to infer differences in gut micro-
biota composition to differences in gut microbiota
functions. Four differentially abundant functions were
detected as significantly more abundant at T80 in mice
fed the high iron diet compared with those fed the iron-
sufficient diet (Fig. 7): primary bile acid biosynthesis,
nitrogen metabolism, cyanoamino acid metabolism,
and pentose phosphate pathway. Microbiota shifts
induced by iron were accompanied by a significant
increase in the abundance of genes of these four meta-
bolic pathways. Fig. 7 Dietary iron during recovery from antibiotic exposure significantly affects gut microbiota functions. Normalized relative abundances of
Kyoto Encyclopedia of Genes and Genomes (KEGG): A primary bile acid biosynthesis, B nitrogen metabolism, C cyanoamino acid metabolism, and
D pentose phosphate pathways were detected as significantly different by White’s t-test between mice under iron-sufficient and iron excess diet at
T80. Bars represent the standard error of the mean (SEM). (N = 9) Fig. 7 Dietary iron during recovery from antibiotic exposure significantly affects gut microbiota functions. Normalized relative abundances of
Kyoto Encyclopedia of Genes and Genomes (KEGG): A primary bile acid biosynthesis, B nitrogen metabolism, C cyanoamino acid metabolism, and
D pentose phosphate pathways were detected as significantly different by White’s t-test between mice under iron-sufficient and iron excess diet at
T80. Bars represent the standard error of the mean (SEM). (N = 9) Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 10 of 15 Fig. 8 Dietary iron significantly affects fecal SCFAs concentrations. A, B Comparison of concentrations of fecal propionate and C, D fecal butyrate in
mice fed an iron-sufficient diet (A and C) and iron excess diet (B and D). Statistical significances were determined by paired t-test. Iron supplementation during gut microbiota recovery
after antibiotic exposure induces changes in inferred gut
microbiota functionsf (N = 9) Fig. 8 Dietary iron significantly affects fecal SCFAs concentrations. A, B Comparison of concentrations of fecal propionate and C, D fecal butyrate in
mice fed an iron-sufficient diet (A and C) and iron excess diet (B and D). Statistical significances were determined by paired t-test. (N = 9) Here, we show that antibiotics disrupted the mouse
gut microbiota by dramatically reducing alpha-diver-
sity and inducing differentially clustered microbiota
composition. This dysbiotic state was characterized by
a dramatic decrease of Firmicutes and a bloom in Ver-
rucomicrobia, Bacteroidetes, and Proteobacteria, which
is in accordance with previous studies on the effects
of antibiotics on the gut microbiota [36–38]. The gut
microbiota composition remained altered until the
end of the experiment, as assessed by alpha- and beta-
diversity analyses. Moreover, relative abundances at
the phylum level were dominated by Bacteroidetes,
which includes both beneficial and harmful genera
[39]. Interestingly, Bacteroidetes dominance was more
pronounced in mice fed the high iron diet to the detri-
ment of the phylum Verrucomicrobia, while Firmicutes
remained lower in comparison to baseline, independent
of dietary iron. Previous studies suggest that low Firmi-
cutes/Bacteroidetes ratios represent a marker of dysbio-
sis [40] and report low ratios in overweight and obese
individuals [41], and in colon neoplastic lesions [40]. In our study, the Bacteroidetes dominance state was diets when compared to baseline (T0). Conversely, fecal
concentrations of butyrate significantly decreased in
mice under the iron-supplemented diet, but not in mice
under the iron-sufficient diet. Overall, these results indi-
cate that propionate levels were still above basal levels for
more than two months after antibiotic exposure and that
iron supplementation significantly prevented the return
to baseline of fecal butyrate concentrations. Discussionh The most known species in this genus is Akkerman-
sia muciniphila, which is associated with benefits that
extend beyond metabolic functions and can further pro-
mote intestinal homeostasis and healing [60], cognitive
functions [61], and the antineoplastic effects of immuno-
therapy in murine models [62]. An increase in the genus Parasutterella was also
found in mice receiving the iron excess diet. Parasut-
terella has been defined as a core component of the gut
microbiota and has been correlated with various health
outcomes, such as inflammatory bowel disease [46],
obesity, and fatty liver disease [47, 48]. In our study, the
relative abundance of P. excrementihominis increased in
mice receiving the iron excess diet after antibiotic expo-
sure. P. excrementihominis is a gram-negative, non-spore
forming, strict anaerobe that has been associated with
the development and progression of irritable bowel syn-
drome. Taken together, our data suggest that iron supple-
mentation leads to an increased abundance of this genus,
promoting gut inflammation, chronic debilitating symp-
toms and a weakening of the mucosal barrier. At the species level, A. finegoldii (phylum Bacteroi-
detes) was increased, particularly during the recovery of
iron-supplemented mice. This bacterium is a gram-neg-
ative, strict anaerobe. A higher abundance of the Alis-
tipes genus has been associated with ileal inflammation
in a mouse model of spontaneous inflammation of the
ileum [63]. Oral gavage with A. finegoldii induced intes-
tinal inflammation in wild-type, Il10-/-, and lipocalin 2
knockout (Lcn2-/-) mice [64]. Lcn2 is an antimicrobial
protein secreted by the host that sequesters siderophores
[65], limiting iron availability [66]. In Il10-/- mice, Lcn2
deficiency (Lcn2-/-/Il10-/- mice) created a niche for the
expansion of facultative pathogenic A. finegoldii spp.,
preferentially colonizing the cecum and proximal colon
[64]. When transferred into Il10–/– mice, A. finegoldii spp. were sufficient to induce colitis and right-sided tumors,
and the authors demonstrated that Lcn2 impacted the in
vitro growth of Alistipes spp. by limiting iron availability
[64]. These findings suggest that A. finegoldii thrives in an
iron-rich environment by a mechanism linked to sidero-
phore-mediated iron uptake.f Bacteroides is one of the most prevalent genera in
the gut microbiota [49], implying that alterations in its
abundance may have major effects on gut homeostasis
and the host’s health. The increased abundance of Bacte-
roides have been reported to induce different infections
in the gynecological, articular, cardiac and neurological
systems [50]. Discussionh The aim of this study was to investigate the effect of oral
iron supplementation on gut microbiota reconstitution
after antibiotic exposure. Several studies have highlighted
the recovery phase as a critical component in the return
to a balanced state of the gut microbiota [32, 33]. How-
ever, the impact of oral iron supplementation in this con-
text has not yet been explored. Antibiotic exposure and
anemia are prevalent in the general population; the daily
dose of antibiotics per 1000 inhabitants ranges from 4 to
64 worldwide [34], while anemia is present in more than
30% of the population [23] with many requiring iron sup-
plementation [35]. Cuisiniere et al. BMC Microbiol (2021) 21:259 Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 11 of 15 Page 11 of 15 characterized mainly by an increase in the Tannerel-
laceae family. The high abundance of the Verrucomi-
crobia phylum at T0 could be explained by the effect of
low fiber concentration [42] in our control diet, which
began one week prior to antibiotic delivery. In addition,
antibiotic exposure is also known to induce an increase
in the relative abundance of Verrucomicrobia [28, 36]. vulgatus avoids expending metabolic resources to pro-
duce siderophores by using the ones produced by other
bacterial species. In a gut environment rich in iron as in
our iron-supplemented experiments, B. vulgatus is likely
to benefit with enhanced virulence. This bacterium is
one of the most abundant in the gut [55] and has been
associated with inflammation [50, 56] via the activation
of inflammatory pathways [55]. An increased abundance
of B. vulgatus in an iron-rich environment is therefore
believed to sustain a pro-inflammatory environment,
which may in turn alter the gut barrier function and
impact the overall health of the host. At the genus level, we found a decrease of Bilophila
in iron-supplemented mice after antibiotic treatment. Similarly, previous reports in mice receiving iron supple-
mentation without antibiotic treatment reported a reduc-
tion in Bilophila [43]. While this genus contains known
pathobionts, it has more recently been associated with
beneficial effects in neurodegenerative diseases [44] and
cardiovascular health [45]. Iron supplementation after antibiotic treatment also
suppressed the expansion of the Akkermansia genus
(Verrucromicrobia). Consistent with our results, Akker-
mansia were reported to bloom after antibiotic exposure
[57, 58]. This genus has been shown to harbor a protec-
tive role against obesity and metabolic syndrome [59]. Discussionh This genus is frequently involved as causal
agents in intra-abdominal infections and associated bac-
teremia [50, 51], suggesting a pathogenic potential of
Bacteroides species, particularly when they escape the
gut environment [50]. Our findings are in agreement
with previous data reporting an increase in the relative
abundance of Bacteroides after iron supplementation
[52]. In addition, we found a member of this genus, B. vulgatus, that was significantly increased in mice receiv-
ing iron supplementation. B. vulgatus is an anaerobic,
gram-positive commensal bacterium, which relies on
stealing siderophores produced by other organisms to
ensure iron acquisition in the gut [53]. Siderophores are
small peptides secreted by bacteria to capture iron from
the environment. These siderophore-iron molecules are
taken up by bacteria expressing specific siderophore
receptors to acquire iron. As a “cheater” species [54], B. Differences in gut microbiota composition were accom-
panied by significant modifications in gut microbiota
functions. Oral iron supplementation induced a higher
number of genes involved in primary bile acid produc-
tion by gut bacteria. We also found that genes involved
in nitrogen metabolism pathways were present at higher
levels in the gut microbiota of mice fed the high iron diet. Bacterial nitrogen metabolism leads to production of Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 12 of 15 Page 12 of 15 weeks. Mice were allowed one week of acclimation fol-
lowing arrival to the CRCHUM animal facility, and were
then switched from standard chow (Teklad TD.2918;
Envigo, IN, USA) to an iron-sufficient diet containing
50 mg.kg-1 of iron sulphate (Teklad TD.120515; Envigo,
IN, USA). On the seventh day of dietary intervention,
oral antibiotics including metronidazole (1 mg.ml-1,
Hospira, St-Laurent, QC, Canada) and neomycin (1
mg.ml-1, Sigma, St-Louis, MO, USA) were added to the
drinking water for one week. After antibiotic exposure,
mice were randomly assigned to two groups and main-
tained under the iron-sufficient diet or switched to an
iron-supplemented diet containing 500 mg.kg-1 of iron
sulphate (Teklad TD.120517; Envigo, IN, United States)
until the end of the experiment. Fecal samples were col-
lected before (T0) and after antibiotic treatment (T7) and
at days 14, 21, and 80 (T14, T21, T80), snap-frozen and
stored at -80°C. Mice were euthanized using CO2 fol-
lowed by cervical dislocation. ammonia, which is cytotoxic for the colonic epithelium. Analysis of 16S rRNA sequencing y
q
g
Forward and reverse, raw, demultiplexed 16S rRNA
reads were denoised, chimera filtered, and clustered into
sequence variants with Dada2 package (version 1.16) in
R (version 4.0.1) [74]. Reads were trimmed at the first
instance of a quality score less than or equal to 2 or
removed if they contained ambiguous nucleotides (N) or
if two or more errors were expected based on the qual-
ity of the trimmed read. An average of 14664.19 (±297.35
SEM) high quality 16S rRNA sequences were generated
per sample. Amplicon sequence variants (ASVs) were
assigned taxonomy using Silva training set v132 [75]. ASVs present in less than 20% of the samples were fil-
tered. Alpha and beta-diversity were computed using
the Phyloseq package (version 1.32.0). Statistical signifi-
cance of weighted UniFrac distance between groups was
performed using Adonis function from vegan R pack-
age (version 2.5) [76]. Differential abundance analysis of Discussionh Expansion of Bacteroides and Akkermansia have been
associated with an increase in fecal ammonia concentra-
tions [67, 68], while a decrease of Parasutterella with a
decrease of nitrogen metabolism [69]. The pentose phos-
phate pathway genes were also present at higher levels in
mice fed the high-iron diet. An end product of the pen-
tose phosphate pathway is nicotinamide adenine dinu-
cleotide phosphate (NADPH), which has been shown to
be protective against oxidative stress [70]. Since iron is a
known oxidative stress inducer [71], excess luminal iron
may exert selective pressure resulting in a survival benefit
to bacteria that can efficiently control oxidative stress. fi
Finally, bacteria belonging to the Bacteroidetes phylum
are the main producers of propionate while Firmicutes
bacteria are the main producers of butyrate [30]. Consist-
ently, fecal propionate concentrations increased along-
side the abundance of the Bacteroidetes phylum and fecal
butyrate concentrations decreased alongside that of the
Firmicutes phylum only in mice under the high iron diet. A possible explanation could be the significantly higher
relative abundance of the butyrate producer A. mucin-
iphila in mice under iron-sufficient diet compared to mice
under iron excess diet [72]. Nonetheless, the lack of return
to baseline of fecal butyrate concentrations in mice fed the
iron-supplemented diet could potentially lead to harmful
effects on the gut homeostasis of the host. Iron measurements
f Measurement of iron concentration was performed on
harvested stool samples by the ferrozine method using
the QuantiChrom™ Iron Assay Kit (BioAssay Systems,
CA, USA) according to the manufacturer’s protocol and
as previously reported [73]. Conclusions Bacterial DNA was extracted using Qiagen DNeasy Pow-
erSoil® Kit (Qiagen, Toronto, ON, Canada). The 16S
ribosomal RNA (rRNA) library preparation and sequenc-
ing was performed using the Illumina MiSeq platform
at Genome Québec targeting the V3-V4 (Primers: 341F,
805R) region of the 16S rRNA gene. In conclusion, we describe the changes to the gut micro-
biota after exposure to antibiotics and the effects of oral
iron supplementation on its recovery. We also high-
lighted potential risks associated with long-term distur-
bances of gut microbiota functions and composition. We
identified preferential growth of three species, one Pro-
teobacteria and two Bacteroidetes. Taken together, our
results suggest deleterious changes in the gut microbiota
after exposure to antibiotics and oral iron supplementa-
tion. These findings require further studies to explore
their biological effects in animal models and confirm the
deleterious impact of oral iron supplementation after
antibiotic exposure on intestinal health. Animal experiments Four-week old female C57Bl/6 mice were purchased from
Charles River Laboratories (Saint-Constant, QC, Can-
ada). Mice were kept under controlled specific pathogen-
free (SPF) conditions in the CRCHUM animal facility at
a temperature of 22°C, 45-60% humidity and a light-dark
cycle of 12-12. They were housed at three mice per cage
with ad libitum access to chow and water. Cages were
enriched with nesting material and changed every two Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 13 of 15 Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 13 of 15 the recovery was performed using metamicrobiomeR
package (version 1.30.0) [77]. Metabolic pathway infer-
ence was performed by PICRUSt2 software with default
parameters (version 2.3.0) [78]. Pathways were then
regrouped in functions following BRITE hierarchy and
were analyzed with STAMP software (version 2.1.3) [79]. The results of the 16S rRNA profiling are presented in
Additional file 1. Graphical representations were per-
formed with ggplot2 R package (version 3.3.2) [80] and
GraphPad Prism (version 7.00). Acknowledgements The authors thank Julien Lamontagne and Alexia Grangeon of the Metabo-
lomics Core Facility of the CRCHUM for the quantification of fecal SCFAs. We
thank Jacqueline Chung for her help in editing the manuscript. Availability of data and materials Sequence data generated and analyzed during the current study are available
in the NCBI SRA repository [BioProject PRJNA724731] (https://www.ncbi.nlm.
nih.gov/bioproject/PRJNA724731). Consent for publication
Not applicable. Consent for publication
Not applicable. p
g
No conflict of interest declared. R [84] and STAMP were used to perform statistical anal-
yses. Statistically significant differences were evaluated
by two-tailed Welch t-test (comparison between two
groups or when applicable, paired t-test) and when indi-
cated, White’s t-test [85]. Multiple testing was corrected
using false discovery rate (FDR) [86] estimation. Abbreviations ASV: Amplicon sequence variants; SCFA: Short-chain fatty acid; ES-MS: Electro-
spray ionization mass spectrometry; FDR: False discovery rate; PCoA: Principal
coordinate analysis; GAMLSS: Generalized additive models for location, scale
and shape; BEZI: Beta zero-inflated; Lcn2: Lipocalin 2; NADPH: Nicotinamide
adenine dinucleotide phosphate; SD: Standard deviation; SEM: Standard error
of the mean; KEGG: Kyoto encyclopedia of genes and genomes. Received: 22 April 2021 Accepted: 16 September 2021 Received: 22 April 2021 Accepted: 16 September 2021 Funding g
This work was supported by grants from the Canadian Institutes of Health
Research (CIHR, grant FRN-159775), the Natural Sciences and Engineering
Research Council of Canada (NSERC, grant RGPIN-2018-06442) and the Institut
du cancer de Montréal (ICM) to MMS. TC is the recipient of the Rougier-
Armandie scholarship from the Université de Montréal. TC and MO are the
recipients of the Canderel scholarship from the Institut du cancer de Montréal. RH is the recipient of a scholarship from the Fonds de recherche du Québec
– Santé (FRQ-S)/Ministère de la Santé et des Services sociaux (MSSS); Resident
Physician Health Research Career Training Program. Authors’ contributions Conceptualization, methodology, formal analysis, data curation, writing -
original draft: TC and MMS. Data acquisition: TC, AC and GF. Writing - review
and editing: TC, AC, GF, RH, MO, EG and MMS. Project administration: TC and
MMS. Investigation: TC. Validation: MMS. Funding acquisition: MMS. All authors
approved the final manuscript. Real‑time PCR
l Real time PCR was performed using PowerUp™ SYBR™
Green Master Mix (Thermo Fisher) and the RG 3000A R
(Qiagen, Québec, Canada) as described previously [81]. Primers used in the study are presented in Additional file 2,
Table 4. Relative quantitation was performed using standard
curves constructed from serial dilutions of PCR products
[82]. DNA concentration for each targeted sequence was
determined by direct comparison with the standard curve
of the specific target generated in each PCR run. Expression
levels of targeted genes were normalized to 16S rRNA. Ethics approval Animal experiments were approved by the Institutional Animal Care com-
mittee of the Centre de recherche du Centre hospitalier de l’Université de
Montréal (CRCHUM) in agreement with the guidelines of the Canadian
Council of Animal Care. The study was carried out in compliance with the
ARRIVE guidelines. Author details 1 Nutrition and Microbiome Laboratory, Institut du cancer de Montréal,
Centre de recherche du Centre hospitalier de l’Université de Montréal
(CRCHUM), CRCHUM ‑ R10.426, 900 rue Saint‑Denis, Montréal, Québec H2X
0A9, Canada. 2 Digestive Surgery Service, Centre hospitalier de l’Université de
Montréal, Montréal, Canada. 3 Canadian Centre for Computational Genom-
ics, Department of Human Genetics; and Microbiome Platform Research,
McGill Interdisciplinary Initiative in Infection and Immunity, McGill University,
Montréal, Canada. 4 Department of Medicine, Faculty of Medicine, Université
de Montréal, Montréal, Canada. 1.
Jandhyala SM, Talukdar R, Subramanyam C, Vuyyuru H, Sasikala M,
Nageshwar RD. Role of the normal gut microbiota. World J Gastroen-
terol. 2015;21(29):8787–803. Short chain fatty acids quantificationi Quantification of SCFAs was performed using elec-
trospray ionization mass spectrometry (ES-MS) at the
Metabolomics Core Facility of the CRCHUM as previ-
ously reported [83]. 3.
Konstantinidis T, Tsigalou C, Karvelas A, Stavropoulou E, Voidarou C,
Bezirtzoglou E. Effects of antibiotics upon the gut microbiome: a review
of the literature. Biomedicines. 2020;8(11):502. Supplementary Information 1. Jandhyala SM, Talukdar R, Subramanyam C, Vuyyuru H, Sasikala M,
Nageshwar RD. Role of the normal gut microbiota. World J Gastroen-
terol. 2015;21(29):8787–803. The online version contains supplementary material available at https://doi.
org/10.1186/s12866-021-02320-0. 2. McDonnell L, Gilkes A, Ashworth M, Rowland V, Harries TH, Armstrong
D, et al. Association between antibiotics and gut microbiome dysbiosis
in children: systematic review and meta-analysis. Gut Microbes. 2021;13(1):1–18. 3. Konstantinidis T, Tsigalou C, Karvelas A, Stavropoulou E, Voidarou C,
Bezirtzoglou E. Effects of antibiotics upon the gut microbiome: a review
of the literature. Biomedicines. 2020;8(11):502. Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 14 of 15 Page 14 of 15 Cuisiniere et al. BMC Microbiol (2021) 21:259 4. Kim S, Covington A, Pamer EG. The intestinal microbiota: Antibiot-
ics, colonization resistance, and enteric pathogens. Immunol Rev. 2017;279(1):90–105. Before Elective Colorectal Surgery With Surgical Site Infection: A Network
Meta-analysis. JAMA Netw Open. 2018;1(6):e183226. Before Elective Colorectal Surgery With Surgical Site Infection: A Network
Meta-analysis. JAMA Netw Open. 2018;1(6):e183226. 27. Espin Basany E, Solís-Peña A, Pellino G, Kreisler E, Fraccalvieri D,
Muinelo-Lorenzo M, et al. Preoperative oral antibiotics and surgical-
site infections in colon surgery (ORALEV): a multicentre, single-blind,
pragmatic, randomised controlled trial. Lancet Gastroenterol Hepatol. 2020;5(8):729–38. 5. Becattini S, Taur Y, Pamer EG. Antibiotic-Induced Changes in the Intestinal
Microbiota and Disease. Trends Mol Med. 2016;22(6):458–78. 6. Heinsen FA, Knecht H, Neulinger SC, Schmitz RA, Knecht C, Kuhbacher
T, et al. Dynamic changes of the luminal and mucosa-associated gut
microbiota during and after antibiotic therapy with paromomycin. Gut
Microbes. 2015;6(4):243–54. 6. Heinsen FA, Knecht H, Neulinger SC, Schmitz RA, Knecht C, Kuhbacher
T, et al. Dynamic changes of the luminal and mucosa-associated gut
microbiota during and after antibiotic therapy with paromomycin. Gut
Microbes. 2015;6(4):243–54. 28. Rodrigues RR, Greer RL, Dong X, KNDS, Gurung M, Wu JY, et al. Antibiotic-
Induced Alterations in Gut Microbiota Are Associated with Changes in
Glucose Metabolism in Healthy Mice. Front Microbiol. 2017;8:2306. 7. Feng Y, Huang Y, Wang Y, Wang P, Song H, Wang F. Antibiotics induced
intestinal tight junction barrier dysfunction is associated with microbiota
dysbiosis, activated NLRP3 inflammasome and autophagy. PLoS One. 2019;14(6):e0218384. 7. Feng Y, Huang Y, Wang Y, Wang P, Song H, Wang F. Antibiotics induced
intestinal tight junction barrier dysfunction is associated with microbiota
dysbiosis, activated NLRP3 inflammasome and autophagy. PLoS One. 2019;14(6):e0218384. 29. Supplementary Information Pi H, Jones SA, Mercer LE, Meador JP, Caughron JE, Jordan L, et al. Role of
catecholate siderophores in gram-negative bacterial colonization of the
mouse gut. PLoS One. 2012;7(11):e50020. 36. Dubourg G, Lagier JC, Armougom F, Robert C, Audoly G, Papazian L,
et al. High-level colonisation of the human gut by Verrucomicrobia
following broad-spectrum antibiotic treatment. Int J Antimicrob Agents. 2013;41(2):149–55. 16. Ellermann M, Gharaibeh RZ, Maharshak N, Perez-Chanona E, Jobin C,
Carroll IM, et al. Dietary iron variably modulates assembly of the intestinal
microbiota in colitis-resistant and colitis-susceptible mice. Gut Microbes. 2020;11(1):32–50. 37. Ferrer M, Martins dos Santos VA, Ott SJ, Moya A. Gut microbiota distur-
bance during antibiotic therapy: a multi-omic approach. Gut Microbes. 2014;5(1):64–70. 17. Santiago P. Ferrous versus ferric oral iron formulations for the treat-
ment of iron deficiency: a clinical overview. ScientificWorldJournal. 2012;2012:846824. 38. Zarrinpar A, Chaix A, Xu ZZ, Chang MW, Marotz CA, Saghatelian A, et al. Antibiotic-induced microbiome depletion alters metabolic homeosta-
sis by affecting gut signaling and colonic metabolism. Nat Commun. 2018;9(1):2872. 18. Wienk K, Marx J, Santos M, Lemmens A, Brink E, VanderMeer R, et al. Dietary ascorbic acid raises iron absorption in anaemic rats through
enhancing mucosal iron uptake independent of iron solubility in the
digesta. Br J Nutr. 1997;77(1):123–31. 39. Johnson EL, Heaver SL, Walters WA, Ley RE. Microbiome and metabolic
disease: revisiting the bacterial phylum Bacteroidetes. J Mol Med (Berl). 2017;95(1):1–8. 19. Buret AG, Motta JP, Allain T, Ferraz J, Wallace JL. Pathobiont release from
dysbiotic gut microbiota biofilms in intestinal inflammatory diseases: a
role for iron? J Biomed Sci. 2019;26(1):1. 40. Mori G, Rampelli S, Orena BS, Rengucci C, De Maio G, Barbieri G, et al. Shifts of Faecal Microbiota During Sporadic Colorectal Carcinogenesis. Sci
Rep. 2018;8(1):10329. 20. Seyoum Y, Baye K, Humblot C. Iron homeostasis in host and gut bacteria
– a complex interrelationship. Gut Microbes. 2021;13(1):1–19. 41. Schwiertz A, Taras D, Schafer K, Beijer S, Bos NA, Donus C, et al. Microbiota
and SCFA in lean and overweight healthy subjects. Obesity (Silver Spring). 2010;18(1):190–5. 21. Botta A, Barra NG, Lam NH, Chow S, Pantopoulos K, Schertzer JD, et al. Iron Reshapes the Gut Microbiome and Host Metabolism. J Lipid Athero-
scler. 2021;10(2):160–83. 42. Jakobsdottir G, Xu J, Molin G, Ahrne S, Nyman M. Supplementary Information Salonen A, Lahti L, Salojarvi J, Holtrop G, Korpela K, Duncan SH,
et al. Impact of diet and individual variation on intestinal micro-
biota composition and fermentation products in obese men. ISME J. 2014;8(11):2218–30. 8. Tulstrup MV, Christensen EG, Carvalho V, Linninge C, Ahrne S, Hojberg O,
et al. Antibiotic Treatment Affects Intestinal Permeability and Gut Micro-
bial Composition in Wistar Rats Dependent on Antibiotic Class. PLoS One. 2015;10(12):e0144854. 30. Louis P, Flint HJ. Diversity, metabolism and microbial ecology of butyrate-
producing bacteria from the human large intestine. FEMS Microbiol Lett. 2009;294(1):1–8. 9. Holota Y, Dovbynchuk T, Kaji I, Vareniuk I, Dzyubenko N, Chervinska T,
et al. The long-term consequences of antibiotic therapy: Role of colonic
short-chain fatty acids (SCFA) system and intestinal barrier integrity. PLoS
One. 2019;14(8):e0220642. 31. Koh A, De Vadder F, Kovatcheva-Datchary P, Backhed F. From Dietary Fiber
to Host Physiology: Short-Chain Fatty Acids as Key Bacterial Metabolites. Cell. 2016;165(6):1332–45. 32. Suez J, Zmora N, Zilberman-Schapira G, Mor U, Dori-Bachash M,
Bashiardes S, et al. Post-Antibiotic Gut Mucosal Microbiome Reconstitu-
tion Is Impaired by Probiotics and Improved by Autologous FMT. Cell. 2018;174(6):1406–23 e16. 10. Sommer F, Anderson JM, Bharti R, Raes J, Rosenstiel P. The resilience of the
intestinal microbiota influences health and disease. Nat Rev Microbiol. 2017;15(10):630–8. 11. Raymond F, Ouameur AA, Deraspe M, Iqbal N, Gingras H, Dridi B, et al. The
initial state of the human gut microbiome determines its reshaping by
antibiotics. ISME J. 2016;10(3):707–20. 33. Ng KM, Aranda-Diaz A, Tropini C, Frankel MR, Van Treuren W, O’Loughlin
CT, et al. Recovery of the Gut Microbiota after Antibiotics Depends on
Host Diet, Community Context, and Environmental Reservoirs. Cell Host
Microbe. 2019;26(5):650–65 e4. 12. Andrews SC, Robinson AK, Rodríguez-Quiñones F. Bacterial iron homeo-
stasis. FEMS Microbiol Rev. 2003;27(2-3):215–37. 34. World Health Organization (WHO) report on surveillance of antibiotic
consumption: 2016-2018 early implementation. Geneva: World Health
Organization; 2018. Licence: CC BY-NC-SA 3.0 IGO. Retrieved from https://
apps.who.int/iris/rest/bitstreams/1167986/retrieve. 13. Braun V. Iron uptake mechanisms and their regulation in pathogenic
bacteria. Int J Med Microbiol. 2001;291(2):67–79. 14. Kortman GA, Raffatellu M, Swinkels DW, Tjalsma H. Nutritional iron turned
inside out: intestinal stress from a gut microbial perspective. FEMS Micro-
biol Rev. 2014;38(6):1202–34. 35. De Franceschi L, Iolascon A, Taher A, Cappellini MD. Clinical management
of iron deficiency anemia in adults: Systemic review on advances in
diagnosis and treatment. Eur J Intern Med. 2017;42:16–23. 15. Supplementary Information High-fat diet reduces
the formation of butyrate, but increases succinate, inflammation, liver fat
and cholesterol in rats, while dietary fibre counteracts these effects. PLoS
One. 2013;8(11):e80476. 22. Lopez A, Cacoub P, Macdougall IC, Peyrin-Biroulet L. Iron deficiency
anaemia. Lancet. 2016;387(10021):907–16. 23. Kassebaum NJ, Jasrasaria R, Naghavi M, Wulf SK, Johns N, Lozano R, et al. A systematic analysis of global anemia burden from 1990 to 2010. Blood. 2014;123(5):615–24. 43. Mahalhal A, Burkitt MD, Duckworth CA, Hold GL, Campbell BJ, Pritchard
DM, Probert CS. Long-term iron deficiency and dietary iron excess exac-
erbate acute dextran sodium sulphate-induced colitis and are associated
with significant dysbiosis. Int J Mol Sci. 2021;22(7):3646. 24. Coe CL, Meyers MH, Beaulieu DB, Scoville E, Schwartz DA, Horst SN, et al. Gastroenterologist-Lead Management of Iron Deficiency Anemia in
Inflammatory Bowel Disease Is Effective, Safe, and May Increase Quality of
Life. Crohns Colitis 360. 2020;2(3):otaa051. 44. Du G, Dong W, Yang Q, Yu X, Ma J, Gu W, et al. Altered Gut Microbiota
Related to Inflammatory Responses in Patients With Huntington’s Dis-
ease. Front Immunol. 2020;11:603594. 25. Kam PM, Chu CW, Chan EM, Liu OL, Kwok KH. Use of intravenous iron
therapy in colorectal cancer patient with iron deficiency anemia: a
propensity-score matched study. Int J Color Dis. 2020;35(3):521–7. 45. Kivenson V, Giovannoni SJ. An Expanded Genetic Code Ena-
bles Trimethylamine Metabolism in Human Gut Bacteria. mSystems. 2020;5(5):e00413–20. 26. Toh JWT, Phan K, Hitos K, Pathma-Nathan N, El-Khoury T, Richardson AJ,
et al. Association of Mechanical Bowel Preparation and Oral Antibiotics 46. Chiodini RJ, Dowd SE, Chamberlin WM, Galandiuk S, Davis B, Glassing A. Microbial Population Differentials between Mucosal and Submucosal 46. Chiodini RJ, Dowd SE, Chamberlin WM, Galandiuk S, Davis B, Glassing A. Microbial Population Differentials between Mucosal and Submucosal Cuisiniere et al. BMC Microbiol (2021) 21:259 Cuisiniere et al. BMC Microbiol (2021) 21:259 Page 15 of 15 67. Recharla N, Kim K, Park J, Jeong J, Jeong Y, Lee H, et al. Effects of amino
acid composition in pig diet on odorous compounds and microbial
characteristics of swine excreta. J Anim Sci Technol. 2017;59:28. Intestinal Tissues in Advanced Crohn’s Disease of the Ileum. PLoS One. 2015;10(7):e0134382. Intestinal Tissues in Advanced Crohn’s Disease of the Ileum. PLoS One. 2015;10(7):e0134382. 47. Blasco-Baque V, Coupe B, Fabre A, Handgraaf S, Gourdy P, Arnal JF, et al. Supplementary Information Associations between hepatic miRNA expression, liver triacylglycerols
and gut microbiota during metabolic adaptation to high-fat diet in mice. Diabetologia. 2017;60(4):690–700. 68. Jin W, Li Y, Cheng Y, Mao S, Zhu W. The bacterial and archaeal commu-
nity structures and methanogenic potential of the cecal microbiota of
goats fed with hay and high-grain diets. Antonie Van Leeuwenhoek. 2018;111(11):2037–49. 48. Shin NR, Whon TW, Bae JW. Proteobacteria: microbial signature of dysbio-
sis in gut microbiota. Trends Biotechnol. 2015;33(9):496–503. 69. Ma S, You Y, Huang L, Long S, Zhang J, Guo C, et al. Alterations in Gut
Microbiota of Gestational Diabetes Patients During the First Trimester of
Pregnancy. Front Cell Infect Microbiol. 2020;10:58. 49. Hiippala K, Kainulainen V, Suutarinen M, Heini T, Bowers JR, Jasso-Selles D,
Lemmer D, Valentine M, Barnes R, Engelthaler DM, Satokari R. Isolation of
anti-inflammatory and epithelium reinforcing bacteroides and parabac-
teroides spp. from a healthy fecal donor. Nutrients. 2020;12(4):935. g
y
70. Patra KC, Hay N. The pentose phosphate pathway and cancer. Trends
Biochem Sci. 2014;39(8):347–54. 50. Wexler HM. Bacteroides: the good, the bad, and the nitty-gritty. Clin
Microbiol Rev. 2007;20(4):593–621. 71. Carrier J, Aghdassi E, Platt I, Cullen J, Allard JP. Effect of oral iron sup-
plementation on oxidative stress and colonic inflammation in rats with
induced colitis. Aliment Pharmacol Ther. 2001;15(12):1989–99. 51. Pricop GR, Gheorghe I, Pircalabioru GG, Cristea V, Popa M, Marutescu L,
Chifiriuc MC, Mihaescu G, Bezirtzoglou E. Resistance and virulence fea-
tures of bacteroides spp. isolated from abdominal infections in Romanian
patients. Pathogens. 2020;9(11):940. 72. Xu Y, Wang N, Tan HY, Li S, Zhang C, Feng Y. Function of Akkermansia
muciniphila in Obesity: Interactions With Lipid Metabolism, Immune
Response and Gut Systems. Front Microbiol. 2020;11:219. 52. Dostal A, Fehlbaum S, Chassard C, Zimmermann MB, Lacroix C. Low iron
availability in continuous in vitro colonic fermentations induces strong
dysbiosis of the child gut microbial consortium and a decrease in main
metabolites. FEMS Microbiol Ecol. 2013;83(1):161–75. 73. Constante M, Fragoso G, Lupien-Meilleur J, Calve A, Santos MM. Iron Sup-
plements Modulate Colon Microbiota Composition and Potentiate the
Protective Effects of Probiotics in Dextran Sodium Sulfate-induced Colitis. Inflamm Bowel Dis. 2017;23(5):753–66. 53. Rocha ER, Krykunivsky AS. Anaerobic utilization of Fe(III)-xenosidero-
phores among Bacteroides species and the distinct assimilation of Fe(III)-
ferrichrome by Bacteroides fragilis within the genus. Microbiologyopen. 2017;6(4):e00479. 74. Callahan BJ, McMurdie PJ, Rosen MJ, Han AW, Johnson AJ, Holmes SP. Supplementary Information DADA2: High-resolution sample inference from Illumina amplicon data. Nat Methods. 2016;13(7):581–3. 75. Quast C, Pruesse E, Yilmaz P, Gerken J, Schweer T, Yarza P, et al. The SILVA
ribosomal RNA gene database project: improved data processing and
web-based tools. Nucleic Acids Res. 2013;41(Database issue):D590–6. 54. Hibbing ME, Fuqua C, Parsek MR, Peterson SB. Bacterial competition:
surviving and thriving in the microbial jungle. Nat Rev Microbiol. 2010;8(1):15–25. 76. Oksanen J, Blanchet GF, Friendly M, Kindt R, Legendre P, McGlinn D,
Minchin PR, O’Hara RB, Simpson GL, Solymos P, Stevens MHH, Szoecs E,
Wagner H. vegan: Community Ecology Package. R package version 2.5-
7. 2020. https://CRAN.R-project.org/package=vegan. 55. POC, de Wouters T, Giri R, Mondot S, Smith WJ, Blottiere HM, et al. The gut
bacterium and pathobiont Bacteroides vulgatus activates NF-kappaB in
a human gut epithelial cell line in a strain and growth phase dependent
manner. Anaerobe. 2017;47:209–17. 77. Ho NT, Li F, Wang S, Kuhn L. metamicrobiomeR: an R package for analysis
of microbiome relative abundance data using zero-inflated beta GAMLSS
and meta-analysis across studies using random effects models. BMC
Bioinformatics. 2019;20(1):188. 56. Zafar H, Saier MH Jr. Gut Bacteroides species in health and disease. Gut
Microbes. 2021;13(1):1–20. 57. Nobel YR, Cox LM, Kirigin FF, Bokulich NA, Yamanishi S, Teitler I, et al. Metabolic and metagenomic outcomes from early-life pulsed antibiotic
treatment. Nat Commun. 2015;6:7486. 78. Douglas GM, Maffei VJ, Zaneveld JR, Yurgel SN, Brown JR, Taylor CM,
et al. PICRUSt2 for prediction of metagenome functions. Nat Biotechnol. 2020;38(6):685–8. 58. Hansen CH, Krych L, Nielsen DS, Vogensen FK, Hansen LH, Sorensen
SJ, et al. Early life treatment with vancomycin propagates Akkermansia
muciniphila and reduces diabetes incidence in the NOD mouse. Diabeto-
logia. 2012;55(8):2285–94. 79. Parks DH, Tyson GW, Hugenholtz P, Beiko RG. STAMP: statistical analysis of
taxonomic and functional profiles. Bioinformatics. 2014;30(21):3123–4. i
80. Wickham H. ggplot2: Elegant Graphics for Data Analysis; 2016. 59. Zhou Q, Zhang Y, Wang X, Yang R, Zhu X, Zhang Y, et al. Gut bacteria
Akkermansia is associated with reduced risk of obesity: evidence from
the American Gut Project. Nutr Metab (Lond). 2020;17:90. 81. Hajjar R, Oliero M, Cuisiniere T, Fragoso G, Calvé A, Djediai S, et al. Improvement of colonic healing and surgical recovery with periopera-
tive supplementation of inulin and galacto-oligosaccharides. Clin Nutr. 2021;40(6):3842–51. 60. Alam A, Leoni G, Quiros M, Wu H, Desai C, Nishio H, et al. Supplementary Information The microenvi-
ronment of injured murine gut elicits a local pro-restitutive microbiota. Nat Microbiol. 2016;1:15021. 82. Makui H, Soares RJ, Jiang W, Constante M, Santos MM. Contribution of Hfe
expression in macrophages to the regulation of hepatic hepcidin levels
and iron loading. Blood. 2005;106(6):2189–95. 61. Ou Z, Deng L, Lu Z, Wu F, Liu W, Huang D, et al. Protective effects of
Akkermansia muciniphila on cognitive deficits and amyloid pathology in
a mouse model of Alzheimer’s disease. Nutr Diabetes. 2020;10(1):12. 83. Constante M, Fragoso G, Calve A, Samba-Mondonga M, Santos MM. Dietary Heme Induces Gut Dysbiosis, Aggravates Colitis, and Potentiates
the Development of Adenomas in Mice. Front Microbiol. 2017;8:1809. 62. Routy B, Le Chatelier E, Derosa L, Duong C, Alou MT, Daillère R, et al. Gut
microbiome influences efficacy of PD-1–based immunotherapy against
epithelial tumors. Science. 2018;359:91–7. 84. R Core Team. R: A language and environment for statistical computing. Vienna, Austria: R Foundation for Statistical Computing; 2020. 63. Rodriguez-Palacios A, Harding A, Menghini P, Himmelman C, Retuerto
M, Nickerson KP, et al. The Artificial Sweetener Splenda Promotes Gut
Proteobacteria, Dysbiosis, and Myeloperoxidase Reactivity in Crohn’s
Disease-Like Ileitis. Inflamm Bowel Dis. 2018;24(5):1005–20. 85. White JR, Nagarajan N, Pop M. Statistical methods for detecting differen-
tially abundant features in clinical metagenomic samples. PLoS Comput
Biol. 2009;5(4):e1000352. 86. Benjamini Y, Hochberg Y. Controlling the False Discovery Rate: A Practical
and Powerful Approach to Multiple Testing. J Royal Stat Soc Ser B (Meth-
odological). 1995;57(1):289–300. l
64. Moschen AR, Gerner RR, Wang J, Klepsch V, Adolph TE, Reider SJ, et al. Lipocalin 2 Protects from Inflammation and Tumorigenesis Associated
with Gut Microbiota Alterations. Cell Host Microbe. 2016;19(4):455–69. 65. Devireddy LR, Gazin C, Zhu X, Green MR. A cell-surface receptor for
lipocalin 24p3 selectively mediates apoptosis and iron uptake. Cell. 2005;123(7):1293–305. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in pub-
lished maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in pub-
lished maps and institutional affiliations. 66. Goetz DH, Holmes MA, Borregaard N, Bluhm ME, Raymond KN,
Strong RK. The Neutrophil Lipocalin NGAL Is a Bacteriostatic Agent
that Interferes with Siderophore-Mediated Iron Acquisition. Mol Cell. 2002;10(5):1033–43.
|
https://openalex.org/W3084030044
|
https://josr-online.biomedcentral.com/track/pdf/10.1186/s13018-020-01908-y
|
English
| null |
In cervical arthroplasty, only prosthesis with flexible biomechanical properties should be used for achieving a near-physiological motion pattern
|
Journal of orthopaedic surgery and research
| 2,020
|
cc-by
| 8,177
|
RESEARCH ARTICLE Open Access Manfred Muhlbauer1*
, Ernst Tomasch2, Wolfgang Sinz2, Siegfried Trattnig3 and Hermann Steffan2 Manfred Muhlbauer1*
, Ernst Tomasch2, Wolfgang Sinz2, Siegfried Trattnig3 and Hermann Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391
https://doi.org/10.1186/s13018-020-01908-y Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391
https://doi.org/10.1186/s13018-020-01908-y Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391
https://doi.org/10.1186/s13018-020-01908-y * Correspondence: manfred.muehlbauer@wienkav.at * Correspondence: manfred.muehlbauer@wienkav.at
1Neurosurgical Department, Donauspital SMZ-Ost, Langobardenstrasse 122,
1220 Vienna, Austria
Full list of author information is available at the end of the article * Correspondence: manfred.muehlbauer@wienkav.at
1Neurosurgical Department, Donauspital SMZ-Ost, Langobardenstrasse 122,
1220 Vienna, Austria
Full list of author information is available at the end of the article Abstract Background: In cervical arthroplasty, qualitative motion analysis generally investigates the position of the center of
rotation (COR) before and after surgery. But is the pre-op COR suitable as reference? We believe that only a comparison
against healthy individuals can answer whether a physiological motion pattern has been achieved. The aim of our
study was to examine how the COR for flexion/extension after insertion of 3 biomechanically completely different
types of disc prostheses compares to healthy volunteers, and whether and how prosthesis design contributes to a
more natural or maybe even worse motion pattern. Methods: In 15 healthy volunteers, MRI in flexion and in extension was taken, and the coordinates for the CORs (COR-
HV) from C3 to C7 were determined. Then pre- and post-op flexion/extension x-rays from 30 patients with a one-level
disc prosthesis underwent analysis for determination of COR from C3 to C7; 10 patients who received a Bryan, a
Prestige STLP, or a Discover prosthesis were chosen, respectively. Change of post-op COR position was investigated in
relation to the COR-HV. Results: The pre-operative COR is not congruent with the COR found in healthy subjects and therefore cannot be used as
reference for investigation whether a disc prosthesis resembles natural motion. However, the comparison with healthy
individuals shows that prosthesis insertion can change the coordinates of the COR to any direction in all levels from C3/4 to
C6/7 regardless of the operated segment. Prostheses with flexible biomechanical properties can contribute to shift the COR
toward normal, but devices with unphysiological biomechanical design, like fixed ball socket designs, for instance, can make
the motion pattern even worse. Conclusions: Even if the small cohorts in our study do not allow strong conclusions, it seems that in cervical arthroplasty,
the biomechanical concept of the prosthesis has a significant impact whether a near-physiological motion pattern can be
achieved or not. As it is a rumor but not scientifically proven that prosthesis design has no influence on clinical outcome,
surgeons should only choose devices with flexible biomechanical properties for disc replacement. Keywords: Cervical spine biomechanics, Cervical arthroplasty, In vivo kinematic study Prostheses We selected 3 prosthesestypes with a considerably differ-
ent biomechanical concept: one with a ball socket design
and its COR below (Discover; DePuy Spine, Raynham,
MA, USA); one with an inverse ball socket design allow-
ing longitudinal translation and its COR above (Prestige Fig. 1 Definition of the coordinate system It is widely believed that the biomechanical concept
has no impact on clinical outcome; however, this is hard
to imagine considering the completely different motion
patterns of these devices. And in fact, this is rumor and
was never verified with a randomized study directly
comparing different devices with respect to clinical out-
come. Therefore, we believe a cervical disc prosthesis
should resemble physiological motion as close as pos-
sible, and biomechanical studies on qualitative motion
are still important. A variety of studies already investi-
gated what can happen with the COR after insertion of a
prosthesis, but they all use the pre-op COR as reference
[1–8]. We believe that in patients with disc herniations,
the COR of the affected segment is not at a physiological
position anymore; therefore, investigation of qualitative
motion of a disc prosthesis must compare the post-op
COR against healthy volunteers rather than with the
pre-op COR. This was the aim of our study, to compare
pre- and post-OP COR for maximum flexion/extension
from 30 patients with 3 different types of disc prostheses
with 15 healthy volunteers in whom the COR was deter-
mined from flexion/extension MRI. Background respective CORs. Only datasets with no degenerative
disc disease or similar degenerative changes were used
for calculation. Cervical disc prostheses are used to preserve motion
after discectomy. But is quantitative motion preservation
enough, and is it really unimportant which biomechan-
ical concept they have? The market offers so many dif-
ferent devices, some with a ball socket design but with
totally different radii, devices with their COR below or
the COR above the respective motion segment, some
with modified ball socket design that allows translation,
again with their COR below or above the prosthesis, de-
vices with 2 articulating surfaces, and finally devices with
no articulating surfaces at all but motion through an
elastic nucleus. © The Author(s). 2020, corrected publication 2020. Open Access This article is licensed under a Creative Commons Attribution
4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as
long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence,
and indicate if changes were made. The images or other third party material in this article are included in the article's Creative
Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article's Creative
Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need
to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/
licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdomain/zero/1. 0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 2 of 14 Materials and methods
Healthy volunteers Fifteen healthy volunteers (6 males, 9 females; age 25–53
years; mean age 37.5 years) with no previous symptoms
of cervical spondylosis underwent MRI-investigation of
their cervical spines after giving informed consent to the
study protocol which was approved by the Ethic com-
mission of the Medical University of Vienna (EK Nr. 571/2007). All investigations were done using a 1.5T MRI (Siemens
Avanto 1.5T; Siemens Erlangen, Germany). The volunteers were placed in supine position and
were asked to actively move their heads into maximum
flexion and extension and were then supported with
cushions to remain in the respective position during
MRI data acquisition. T2-weighted median-sagittal slices
showing the entire contours of the vertebral bodies C3
to C7 were used for biomechanical calculation of the Fig. 1 Definition of the coordinate system Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391
Page 3 of 14 Surgery and Research (2020) 15:391
Page 3 of 14 Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 3 of 14 STLP; Medtronic, Minneapolis, MN, USA); and one with
2 articulating surfaces and a flexible COR (Bryan; Med-
tronic, Minneapolis, MN, USA). Patients
Thirty patients (20 females, 10 males, age 34–59 years,
mean 45 years) who received a cervical disc prosthesis in
Fig. 2 Determination of the COR. a Graphically illustrates the determination of the COR. b The respective mathematical algorithm. c An example
how the vertebral bodies in lateral flexion/extension x-rays are covered with quadrangles, the respective quadrangles of the lower vertebral body
are matched, and the quadrangles of the next cranial vertebral body allow graphical or mathematical determination of the COR. d An example
how the COR C6/7 can be determined using this technique ation of the COR. a Graphically illustrates the determination of the COR. b The respective mathematical algorithm. c An example
al bodies in lateral flexion/extension x-rays are covered with quadrangles, the respective quadrangles of the lower vertebral body
d the quadrangles of the next cranial vertebral body allow graphical or mathematical determination of the COR d An example Fig. 2 Determination of the COR. a Graphically illustrates the determination of the COR. b The respective mathematical algorithm. Materials and methods
Healthy volunteers c An example
how the vertebral bodies in lateral flexion/extension x-rays are covered with quadrangles, the respective quadrangles of the lower vertebral body
are matched, and the quadrangles of the next cranial vertebral body allow graphical or mathematical determination of the COR. d An example
how the COR C6/7 can be determined using this technique STLP; Medtronic, Minneapolis, MN, USA); and one with
2 articulating surfaces and a flexible COR (Bryan; Med-
tronic, Minneapolis, MN, USA). Coordinate system The coordinate-system for motion analysis of flexion/ex-
tension was determined using a line through the most
superior anterior and the most superior posterior point
of the respective vertebral body. The cutting point with
a second line through the most posterior inferior and
the most posterior superior point of the respective verte-
bral body was defined as the center of the coordinate
system with the x-axis passing through the most super-
ior anterior point of the respective vertebral body, the y-
axis directing cranially rectangular to the x-axis, and the
z-axis rising orthogonally against the viewer (Fig. 1). MRI slices were obtained in 3 mm thickness with the
same study protocol used for diagnostic MR-imaging of
the cervical spine. Patients Thirty patients (20 females, 10 males, age 34–59 years,
mean 45 years) who received a cervical disc prosthesis in Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 4 of 14 Table 1 ROM C3–C7 pre- and post-op for all operated patients and for the respective subgroups Bryan, Discover, and Prestige
Prosthesis and ROM in healthy volunteers HV pre- and post-op for all operated patients and for the respective subgroups Bryan, Discover, and Prestige
n healthy volunteers HV one level were included in the study, 10 patients who re-
ceived a Bryan prosthesis, 8 of them at C5/6 and 2 of
them at C6/7; 10 patients who received a Discover pros-
thesis, 1 of them at C4/5, 6 at C5/6 and 3 at C6/7; and
10 patients who received a Prestige STLP prosthesis, 6
of them at C5/6 and 4 at C6/7. Twenty-six patients were
operated at the author’s institution and 4 patients were
operated elsewhere; all of them for the generally ac-
cepted indications for arthroplasty. Surgery was per-
formed through a standard anterior approach with
micro-discectomy using the operating microscope. Cor-
rect implant position was verified intra-operatively with
fluoroscopy. vertebral bodies move against each other [9]. Figure 2 il-
lustrates the determination of the COR and shows an
example how this was done with functional x-rays, for
instance. Both the MRI pictures and the functional x-
rays were manually digitized using AutoCAD® software
(AutoCAD®, AUTODESK, San Rafael, CA, USA). The
vertebral bodies were covered with a quadrangle to allow
better overlay of the respective vertebral bodies and to
use all four edge-points of the quadrangle for a more
precise calculation of the COR. Coordinate calculation
was done using Microsoft Excel® software (Microsoft
Excel®, Microsoft, Redmont, WA, USA) The routinely taken pre- and post-operative cervical
flexion/extension x-rays were collected from their files
for biomechanical analysis. If the necessary landmarks
for biomechanical calculation could not be determined
at C6/7 because C7 was covered from the patients’
shoulders, data for C6/7 was spared from the respective
dataset. Also, data was spared from further analysis
when segmental ROM was below 2o and therefore reli-
able calculation of the COR was not possible. Fig. 3 Position of COR for maximum flexion/extension in
healthy volunteers Statistical analysis The t test was used for determination of significance re-
garding the differences between the respective data-sets
with a significance level of α = 0.05. COR COR for flexion/extension was calculated for all healthy
volunteers and all patients from C3/4 to C6/7 (if pos-
sible), and separately for the 3 respective prostheses sub-
groups; pre- and post-op CORs were compared with the
coordinates found in healthy volunteers; thus, it was de-
termined whether the COR changed its position toward Motion analysis The COR—or also described as instant center of rota-
tion ICR in several studies—is commonly used for quali-
tative motion analysis and can describe how adjacent Fig. 3 Position of COR for maximum flexion/extension in
healthy volunteers Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 5 of 14 COR or away from the COR-HV after insertion of the 3 differ-
ent types of disc prostheses. Discover subgroup
T bl
5
i Table 5 summarizes the pre- and post-operative COR-
coordinates (mean values) from the Discover-subgroup
compared with the COR-HV; in C3/4, the x-coordinates
of the COR are considerably shifted away from normal,
and the y-coordinates are mildly toward the normal
COR-HV. However, in C4/5, C5/6, and C6/7, the COR
is considerably shifted away from the normal COR-HV
both for the x- and the y-coordinates (Fig. 6). ROM healthy volunteers Fifteen datasets were analyzed; the mean ROM for
flexion/extension from C3 to C7 was 53.4° (SD 12.7). Table 1 shows the mean values for maximum flexion/ex-
tension of the respective motion segments Prestige subgroup
T bl Table 6 summarizes the pre- and post-operative COR-
coordinates (mean values) from the Prestige subgroup
compared with the COR-HV; for the CORs for C3/4 and
C4/5, the x-coordinates are shifted near to normal, but
the y-coordinates are shifted considerably away from the
normal COR-HV. In C5/6, the x-coordinates are shifted
mildly toward normal and the y-coordinates switch from
negative to positive values with a mild improvement to-
ward the normal COR-HV. In C6/7, the x-coordinates
remain nearly unchanged, and the y-coordinates are
shifted toward the normal COR-HV (Fig. 7). Statistical analysis Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 6 of 14 Table 3 COR mean values pre- and post-op: all
patients—irrespective of implanted prosthesis—compared with
COR in healthy volunteers (COR-HV)
Segment
COR-HV
COR pre-op
COR post-op
x
y
x
y
x
y
C6/7
Mean
4.9
−1.1
7.9
−5.1
7.7
−4.1
SD
3.2
2.6
4.5
9.2
7.0
13.2
p
0.029
0.115
0.146
0.397
C5/6
Mean
4.8
−4.0
6.9
−5.9
8.3
−5.2
SD
2.8
3.1
4.4
4.7
3.6
5.3
p
0.097
0.179
0.002
0.443
C4/5
Mean
4.8
−3.8
6.9
−5.7
7.1
−7.6
SD
2.3
3.7
3.6
6.2
4.8
3.2
p
0.055
0.305
0.099
0.001
C3/4
Mean
4.8
−5.8
7.8
−8.6
7.5
−8.3
SD
2.3
5.6
4.9
5.6
4.1
7.4
p
0.035
0.123
0.026
0.248 Table 3 COR mean values pre- and post-op: all
patients—irrespective of implanted prosthesis—compared with
COR in healthy volunteers (COR-HV) Results Data for C6/7 was spared from the datasets Bryan08—
post-op; Discover09 pre- and post-op; Discover10 pre-
op; Prestige05 pre-op because the necessary landmarks
for biomechanical calculation could not be determined
as C7 was covered from the patients’ shoulders. Also
data
was
spared
from
analysis
from
the
datasets
Bryan05–C5/6 pre-op; Bryan08–C5/6 post-op because
segmental ROM was below 2° and therefore reliable cal-
culation of the COR was not possible. The post-op
Prestige03-dataset was not suitable for COR analysis and
was therefore completely excluded from further analysis. COR for maximum flexion/extension all patients Table 2 shows the x- and y-coordinates of the COR from
all patients and levels. Table 3 compares the pre- and
post-operative COR-coordinates (mean values) from all
patients—irrespective of the prosthesis type and the op-
erated level—with the COR-HV. It shows that the pre-
operative x-coordinates of the patients differ consider-
ably in all levels from the COR-HV, and that the pre-
operative COR for flexion/extension is located more an-
teriorly than in healthy subjects. Post-operatively, the
COR for C3/4 remains nearly unchanged. The CORs for
C4/5 and C5/6 shift away from the normal COR-HV
(C4/5 inferiorly, C5/6 anteriorly). For the COR C6/7, the
x-coordinates remain nearly unchanged and the y-coor-
dinates mildly shift toward the normal COR-HV (Fig. 4). Statistical analysis Table 2 COR pre- and post-op: all patients and all levels
Level
C6/C7
C5/C6
C4/C5
C3/C4
x
y
x
y
x
y
x
y
Pre
Post
Pre
Post
Pre
Post
Pre
Post
Pre
Post
Pre
Post
Pre
Post
Pre
Post
Bryan01
C6/C7
6.1
17.4
−2
−4.5
5.9
4.6
−6
−6.5
3.8
9.6
−6.7
−7.8
7.3
9.3
−6.2
−10.7
Bryan02
C5/C6
10.8
5.6
−3.2
−0.8
9.8
12.3
−8.1
−8.7
3.9
8.4
−7.7
−5.1
8.8
6.3
−5
−9.3
Bryan03
C5/C6
3.3
1.6
−8.9
−6.7
6.6
9.6
−9.7
−10.6
3
4.7
−7.7
−7.9
4.3
9.5
−7
−9.4
Bryan04
C5/C6
8.3
11.1
2.1
3.6
6.1
8.2
−17
−5.5
10.7
4.1
4.7
−9.2
10.8
3.5
12
−8.7
Bryan05
C6/C7
14.9
6.5
−3.5
−9.2
7.7
−6.7
6.9
5.2
−23.5
−11.7
27.2
5.7
−14.2
−12.3
Bryan06
C5/C6
7.9
−5.1
0.2
−0.1
7.3
7.8
−12.3
−12.3
7.9
7.5
−7.2
−7.2
8.8
7.3
−15.6
−12.1
Bryan07
C5/C6
3.7
−2.1
−12.1
1
8.1
9.2
−5.1
−3.8
8.8
8.9
−6.5
−10.9
10.6
12.7
−10.9
−10.9
Bryan08
C5/C6
10.7
−35.7
−8.4
−2.4
4.3
−0.5
−5.4
−11
11.5
6.1
−5.7
−13.8
Bryan09
C5/C6
4.9
4.1
−4
−0.7
8.7
14.5
−6.8
8.5
10.9
8.2
−7.5
−7.3
8.2
10.4
−4.3
−5.9
Bryan10
C5/C6
6.6
12.5
4.2
2
2
2.5
−5.6
−5.2
3.2
8.7
−0.6
−0.8
1.7
2.8
−16
23.3
Discover01
C6/C7
5.9
8.6
0.1
−1.4
6.1
7.1
−5.7
−1.2
2.5
7.4
−8.2
−1.7
7.7
6.6
−4.1
2.8
Discover02
C5/C6
7.3
7.6
3.2
−4.6
4.4
10.3
−5.2
−13.2
1.9
7.5
−10.3
−9.8
3.3
8.6
−12.3
−10.8
Discover03
C5/C6
13.8
13.9
−1.5
9.4
11.9
10.4
7.4
2.1
7.2
6.4
−2.9
−1.3
12.5
15.7
−7
−8.6
Discover04
C5/C6
9.1
6.7
−5.4
−7.4
7.5
6.5
−8.1
−9.1
5.1
7
−2.5
−7.6
3
7.7
−16.1
−11.2
Discover05
C6/C7
9.5
8.5
−0.7
−7.1
8.5
15.2
−5.5
−11
7.9
9
−8.8
−11.5
7.5
15.6
−7.3
−21.7
Discover06
C5/C6
13.7
15.5
−1.5
−35.7
4.8
8.4
−5.9
−7.6
7.3
8.1
−5.4
−6.1
8.8
7.6
−5.1
−6.6
Discover07
C5/C6
7.6
7.4
−7.1
−20.8
9.7
12
−10.1
−6.8
9.2
27.8
−5
−12.9
3.1
10.9
−10.4
−7.9
Discover08
C4/C5
3.7
11.2
−3
3.6
6.6
7.6
−5.3
−3.9
4
8.3
−8.1
−9.6
3
10.8
−14.1
−10.6
Discover09
C5/C6
8.5
6.3
−6.5
−5.8
17.6
6.1
17.8
−6.8
6.5
8.7
−16.4
−6.3
Discover10
C6/C7
3.2
−0.7
9.3
15
−1.1
−8.5
7.5
2.3
−5.2
−6.5
2.2
5.9
−4.9
−5.8
Prestige01
C6/C7
13.4
−2.1
−14.1
−7.9
8.5
8.1
−5
−4.7
9.9
6.4
−8
−5.1
12.2
5.5
−7.6
−10.4
Prestige02
C6/C7
8.5
4.8
−3.8
−5.1
7.2
8.2
−8.5
−8.6
13
9.7
−2.7
−8.1
8.3
8.5
−5.9
−6.9
Prestige03
C5/C6
5.3
−10.5
9.3
−6.9
12.8
−12.3
Prestige04
C6/C7
6.5
6.6
−0.3
−2.1
20.2
11.8
6.4
−2.9
8
5.3
−7.9
−8.9
4
6.7
−9
−5.3
Prestige05
C5/C6
7.1
0.5
6.1
8.3
−2.3
6.6
4.2
9.3
−8.4
−8.6
5
14.7
−12.3
−8.8
Prestige06
C5/C6
4.9
−2
−32.8
−37.7
7.5
0.2
−8.5
−9.6
10.1
6
−10
−12.7
8.7
1.7
−8.3
−11.9
Prestige07
C5/C6
−2.7
10.8
−1.9
−7
6
6.8
−7.9
−8.1
2.9
1.1
−5.5
−5.6
4.8
−0.2
−8.9
−13.6
Prestige08
C5/C6
2.8
9
−1.3
6.5
7.7
6.6
−5.4
−4.3
2.6
2.5
−4.9
−8.7
4.7
1.8
−11.6
−5.8
Prestige09
C5/C6
8.7
7
−1.3
0
6.2
5.5
−4.6
1.9
7.5
1.5
−3.5
−3.5
4.8
1.2
−3.4
−8
Prestige10
C6/C7
19.7
27.6
−7.4
30.2
1.6
2.2
−5.2
0.3
4.4
8.5
−5
−7.7
10.6
5.5
−6.9
−14.1
Mean
7.9
7.7
−5.1
−4.1
6.9
8.3
−5.9
−5.2
6.9
7.1
−5.7
−7.6
7.8
7.5
−8.6
−8.3
Median
7.5
7.4
−2.0
−2.1
7.2
8.2
−5.7
−6.2
7.3
7.4
−6.6
−7.8
7.6
7.3
−8.0
−9.3
SD
4.5
7.0
9.2
13.2
4.4
3.6
4.7
5.3
3.6
4.8
6.2
3.2
4.9
4.1
5.6
7.4
p value
0.928
0.757
0.187
0.604
0.844
0.130
0.820
0.888
x- and y-coordinates in millimeters ble 2 COR pre- and post-op: all patients and all levels Muhlbauer et al. ROM patients Twenty-six datasets could be analyzed for pre- and post-
operative ROM from C3 to C7; 10 from the Bryan sub-
group, 8 from the Discover subgroup, and 8 from the
Prestige subgroup. The mean ROM for flexion/extension
from C3 to C7 was pre-operatively 38.3° (SD 11.7) and
post-operatively 43.4° (SD 8.9). The mean ROM of the
respective segments both for all patients and for the 3
subgroups are shown in Table 1. compared with the COR-HV; the COR for C3/4 is
shifted toward the normal COR-HV. The COR for C4/5
nearly remains unchanged. For C5/6, the x-coordinates
of the COR are shifted away from normal and the y-co-
ordinates are shifted toward the normal COR-HV. For
C6/7 the COR is shifted toward the normal COR-HV
(Fig. 5). COR for maximum flexion/extension healthy volunteers
The following coordinates (mean, SD) were found for
flexion/extension: C3/4: x4.8/y-5.8 (2. /5.6); C4/5: x4.8/y-
3.8 (2.3/3.7); C5/6: x4.8/y-4.0 (2.8/3.1); C6/7: x4.9/y-1.1
(3.2/2.6) (Fig. 3). 1. The pre-operative COR is not congruent with the
COR found in healthy subjects; once a disc hernia-
tions occurs, the motion pattern changes, and the
pre-op COR should not be used as reference
anymore. Discussion presented. In our study, the COR after inserting a Bryan
prosthesis was found more close to the COR-HV than
with the other devices. A great variety of biomechanical studies have been pub-
lished about cervical arthroplasty. Most studies focus on
the ROM or on changes in disc height and facet transla-
tion compared with normal individuals and with patients
after ACDF or on clinical results [10–22]. Several studies
also investigate qualitative motion of disc prostheses [1–
9], but we did not find studies investigating how the
COR after insertion of a prosthesis compares with
healthy individuals, which is important because our data
shows that the COR in patients with disc herniations is
not at a physiological position anymore and therefore
the pre-op COR cannot be used as reference: Rousseau et al. compared the kinematics of the Pres-
tige LP prosthesis with the ProDsic-C prosthesis in an
in vivo study [8]. The COR for the Prestige LP was
found above the disc level and the COR for the ProDisc
C below it. Only average values for both CORs are pre-
sented. They conclude that arthroplasty devices using a
ball socket design influence inter-vertebral kinematics
for flexion/extension. We found similar biomechanical
properties for the Prestige LP and the Discover (which is
in its biomechanical design very similar to the ProDisc
C), and we believe this reflects typical motion patterns
for devices with the COR above disc level (Prestige) or
below disc level (Discover, ProDisc C). Anderson et al. undertook a meta-analysis on kine-
matics of the cervical adjacent segments after disc
arthroplasty compared with anterior discectomy and
fusion [10]. Twelve papers were identified to meet the
inclusion criteria, but only 2 of them—Park et al. [5]
and Powell et al. [7]—investigated COR. The Powell
study compared COR after 22 Bryan prostheses with
26 patients after ACDF. At the index level, the COR
shifted more posterior (0.3 mm) and cephalad (4.9
mm) post-operatively. At the adjacent level above,
COR was significantly posterior compared with fusion. There was no significant difference at the level below
fusion. The study published by Park et al. investigated
272 patients after arthroplasty with a PCM cervical
artificial disc; at the index-level, COR-x was found 0.8
mm posterior to the disc center before surgery and
0.2 mm anterior to the center at 12 months after
TDR. Discussion COR-y was 2.5 mm below the endplate before
and 4.0 mm at 12 months after surgery. COR at the
adjacent levels was unaltered in this study by fusion
or arthroplasty. Comparing these 2 studies reveals
that different biomechanical prostheses concepts also
influence the post-op position of the COR differently;
however, other than in our study, none of these 2
studies provides data whether the change of the COR
represents
an
improvement
toward
physiological
values at the respective levels or rather a further shift
out of the physiological range of a normal COR. Koller et al. investigated biomechanical changes after
insertion of a Discover prosthesis in 19 patients [1]. They found that COR-x shifted anteriorly outside of
normal limits in approximately 50% of their patients. The shell angle and the position of the prostheses sig-
nificantly correlated with the position of the COR-x and
the COR-y. However, other than in our study, their
COR data were pooled and overlaid on the C5/6 level. Still, their findings compare well with our data from the
Discover patients showing worsening of the post-op
COR due to the fixed ball socket design. Kowalczyk et al. presented an in vivo kinematic study
comparing the Bryan-, ProDisc C, and the Prestige LP
prostheses and their impact on the sagittal balance and
segmental kinematics of the cervical spine [2]. In their
study, the Bryan disc did not change the COR-x or
COR-y significantly; in the ProDisc-C group, the COR-x Table 4 COR mean values pre- and post-op after implantation
of a Bryan prosthesis compared with COR in healthy volunteers
(COR-HV) of a Bryan prosthesis compared with COR in healthy volunteers
(COR-HV)
Segment
COR-HV
COR pre-op
COR post-op
x
y
x
y
x
y
C6/7
Mean
4.9
−1.1
7.7
−6.3
5.7
−1.7
SD
3.2
2.6
3.6
11.4
7.2
4.2
p
0.049
0.101
0.684
0.676
C5/6
Mean
4.8
−4.0
5.1
−8.1
8.5
−5.6
SD
2.8
3.1
5.5
4.4
3.6
6.0
p
0.832
0.014
0.010
0.389
C4/5
Mean
4.8
−3.8
6.3
−6.8
6.5
−7.9
SD
2.3
3.7
3.1
7.1
3.1
3.2
p
0.173
0.182
0.139
0.010
C3/4
Mean
4.8
−5.8
9.9
−7.3
7.4
−7.0
SD
2.3
5.6
6.8
8.1
3.1
10.9
p
0.012
0.587
0.028
0.720 Liu et al. Bryan subgroup Table 4 summarizes the pre- and post-operative COR-
coordinates (mean values) from the Bryan-subgroup These findings claim the following results: Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 7 of 14 Fig. 4 Change of COR after insertion of a disc prosthesis irrespective of the prosthesis type. Coordinate origin 0/0 represents the respective COR
in healthy volunteers 1. The pre-operative COR is not congruent with the
COR found in healthy subjects; once a disc hernia-
tions occurs, the motion pattern changes, and the
pre-op COR should not be used as reference
anymore. variable COR can considerably improve the position
of the COR toward normal at least in certain mo-
tion segments. g
3. The post-op shift of the COR was noted in all in-
vestigated levels irrespective of the operated level. This demonstrates that biomechanical changes in
one motion segment can cause a cascade of com-
pensatory effects in all other levels. y
2. The post-op position of the COR considerably var-
ies depending on the biomechanical concept of the
prosthesis: devices with a ball socket design (fixed
COR) can shift the COR considerably away from
the physiological COR; prostheses with inverse ball
socket design and potential for longitudinal transla-
tion can shift the x-coordinates moderately toward
normal, but the y-coordinates can be shifted consid-
erably off from the COR-HV; prostheses with 4. As long as it is not scientifically proven that
prosthesis design has no impact on clinical
outcome, surgeons should choose devices with a
more sophisticated biomechanical concept
considering that the COR varies between segments
and also changes its position during motion. Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 8 of 14 Page 8 of 14 Discussion presented an in vivo study investigating the
inter-segmental ROMs and introducing a mathematical
model calculating contact forces of normal, fused, and
post-arthroplasty cervical spines; they concluded that
arthroplasty can preserve motion and force patterns of
the normal cervical spine, but no data are presented on
COR [4]. Pickett et al. investigated the COR in 20 patients after
receiving a Bryan artificial disc [6]. It was found that the
COR did not change significantly at the index level or
any other level after surgery. They state that the Bryan
device is able to provide a clinically adequate range of
COR;
but
no
comparison
with
normal
values
is Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 9 of 14 Page 9 of 14 rather than to the motion pattern of a segment affected
by a damaged disc. was shifted anteriorly, and in the Prestige LP group, the
COR-y was shifted superiorly. This is similar to our find-
ings for these 3 different biomechanical concepts; how-
ever, other than in our study, no data on how these
findings compare to normal individuals are presented. Regarding clinical outcome, the literature does not sup-
port the wide-spread opinion that prosthesis-design does
not matter: Upadhyaya et al. [22] published an analysis of
3 randomized multicenter US FDA investigational device
exemption cervical arthroplasty trials (Heller et al. [14]:
Bryan; Mummaneni et al. [18]: Prestige; Murrey et al. [19]:
ProDisc C). Similar to our study, the prostheses in these
trials represent the same 3 different biomechanical con-
cepts: variable COR (Bryan), COR for flexion/extension
above the disc level with longitudinal translation (Pres-
tige), and fixed COR below the disc level and ball socket
design (ProDisc C), which is very similar to the design of
the Discover prosthesis which was investigated in our So, the findings from most of these studies support
our claim that the biomechanical design of a prosthesis
has an impact on the post-op motion pattern, and espe-
cially simple ball socket devices can make things even
worse. Our study adds additional information how the
post-op COR after inserting the different devices com-
pares to healthy individuals. We believe this is import-
ant, because a disc prosthesis can only claim to resemble
natural motion when the post-op motion pattern of the
operated segment compares well to healthy subjects Fig. 5 Change of COR after insertion of a Bryan disc prosthesis. Discussion The improvement for the NDI in these studies was
best for the Bryan device, followed by Prestige and Pro-
Disc C. The improvement for neck pain frequency and in-
tensity was best for the Bryan, followed by Prestige and
ProDisc C. Neurological success was best with the Prestige
prosthesis, followed by Bryan and ProDisc C. These
findings support our opinion that a more flexible bio-
mechanical prosthesis design can contribute to better
clinical results. The ranking for NDI improvement in
this study exactly reflects our findings for improve-
ment of post-op COR. study. The improvement for the NDI in these studies was
best for the Bryan device, followed by Prestige and Pro-
Disc C. The improvement for neck pain frequency and in-
tensity was best for the Bryan, followed by Prestige and
ProDisc C. Neurological success was best with the Prestige
prosthesis, followed by Bryan and ProDisc C. These
findings support our opinion that a more flexible bio-
mechanical prosthesis design can contribute to better
clinical results. The ranking for NDI improvement in
this study exactly reflects our findings for improve-
ment of post-op COR. Limitations of our study mainly arise from the small
number of datasets, and therefore strong conclusions
may not be drawn; we hope our findings will encourage
others to initiate further studies with larger cohorts to
define more precisely the biomechanical differences be-
tween healthy individuals and patients being candidates
for cervical disc surgery. However, a randomized study directly comparing clin-
ical outcome for these devices is still lacking, and the pa-
pers presenting the 10-year results for these 3 devices
are hardly comparable: regarding VAS neck/arm, for in-
stance, for the BRYAN prothesis improvement of Δ54.3/
Δ58.1 (75.4–20.9/71.2–14.1) is reported [23]; for PorDisc
C Δ45/Δ42 (64–19/63–21) [24], but the considerable
pre-op VAS-difference between BRYAN and ProDisc C
allows no valid conclusion; and for the Prestige LP, VAS
improvement is given as a percentage (60.7%/59.6%) [25]
and therefore is not comparable either. A multi-center
study relating clinical outcome to the biomechanical
concepts of the respective prostheses would be highly
desirable. Also, our patient data were collected retrospectively,
but we believe this has little or no influence on deter-
mination of the COR. Discussion Coordinate-origin 0/0 represents the respective COR in healthy volunteers Fig. 5 Change of COR after insertion of a Bryan disc prosthesis. Coordinate-origin 0/0 represents the respective COR in healthy volunteers Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 10 of 14 Page 10 of 14 Table 5 COR mean values pre- and post-op after implantation
of a Discover prosthesis compared with COR in healthy
volunteers (COR-HV) Table 5 COR mean values pre- and post-op after implantation
of a Discover prosthesis compared with COR in healthy
volunteers (COR-HV)
Segment
COR-HV
COR pre-op
COR post-op
x
y
x
y
x
y
C6/7
Mean
4.9
−1.1
8.2
−1.8
9.9
−8.0
SD
3.2
2.6
3.8
3.0
3.3
14.3
p
0.031
0.542
0.002
0.079
C5/6
Mean
4.8
−4.0
7.7
−4.6
9.9
−6.5
SD
2.8
3.1
2.3
4.8
3.3
4.6
p
0.011
0.721
0.000
0.118
C4/5
Mean
4.8
−3.8
7.0
−3.9
9.0
−7.4
SD
2.3
3.7
4.4
8.0
6.9
3.8
p
0.117
0.988
0.039
0.030
C3/4
Mean
4.8
−5.8
5.8
−9.8
9.8
−8.7
SD
2.3
5.6
3.4
4.7
3.5
6.1
p
0.419
0.076
0.000
0.234 Skeppholm reported a higher re-operation rate follow-
ing cervical arthroplasty compared to ACDF; in this
study, 151 patients received a Discover disc (DePuy
Spine) and 21 a Prestige LP disc (Medtronic) compared
to 504 patients with ACDF. The most common reason
for re-operation in the arthroplasty group was implant
migration or instability. Unfortunately, no data is given
whether re-operation rate could be related to implant
design [27], probably because of the significantly differ-
ent cohorts (151 Discover/21 Prestige prostheses), but
the question how implant migration in this study com-
pares to the biomechanical findings for the same devices
in our study would be of high interest. Ryu et al. [28] investigated radiological changes of the
operated
and
adjacent
segments
following
cervical
arthroplasty after a minimum 24-month follow-up: 19
patients with Bryan prosthesis were compared with 17
patients with ProDisc C prosthesis: progression of radio-
logical degeneration at the index level was seen in 1
Bryan patient and in 6 ProDisc C patients. This is re-
markable with respect to our findings, and the question
arises whether the humble biomechanical concept of a
fixed ball socket design not only influences qualitative
motion to a worse pattern as is showed in our study, but
also triggers further radiological degeneration. study. Discussion Limitations also arise from the technique how the re-
spective
coordinates
were
determined:
the
inter-
individual differences in the size of the vertebral bodies
were not reflected when giving the coordinates of the
COR in millimeters and not as a percentage of the verte-
bral bodies’ diameter. However, the error resulting from
this limitation is expected below 1 mm and should not
put our results into question. Further, COR-HV was determined from MRI; there
are techniques described in the literature that are more
precise, like stereoradiography plus 3D-CT; however,
this leads to radiation exposure of approx. 4MSV [29]
which is a high burden for healthy volunteers. Also, dif-
ferences in the motion pattern may occur whether the
cervical spine is investigated in supine position in MRI
compared to fluoroscopy where patients are in upright
weight-bearing position with. But nevertheless, at least
in Europe, one would hardly get permission from the
Ethics Committee for a study design exposing healthy Staudt published a review on a variety of first- and
second-generation cervical disc prosthesis and concludes
that knowledge of implant design and design-specific ad-
vantages and disadvantages will become increasingly im-
portant to guide surgeon decision-making [26]. We
completely share the opinion in this review, and we hope
that our study can also contribute to decision-making in
clinical practice by showing that a flexible biomechanical
prosthesis-design can lead to better post-op qualitative
motion. Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 11 of 14 Fig. 6 Change of COR after insertion of a Discover disc prosthesis. Coordinate-origin 0/0 represents the respective COR in healthy volunteers Fig. 6 Change of COR after insertion of a Discover disc prosthesis. Discussion Coordinate-origin 0/0 represents the respective COR in healthy volunteers Table 6 COR mean values pre- and post-op after implantation of a Prestige prosthesis compared with COR in healthy volunteers
(COR-HV)
Segment
COR-HV
COR pre-op
COR post-op
x
y
x
y
x
y
C6/7
Mean
4.9
−1.1
7.7
−6.9
7.7
−2.9
SD
3.2
2.6
6.3
10.7
9.3
18.7
p
0.163
0.054
0.289
0.718
C5/6
Mean
4.8
−4.0
7.6
−5.2
6.4
−3.3
SD
2.8
3.1
4.8
4.7
3.5
5.4
p
0.072
0.479
0.216
0.660
C4/5
Mean
4.8
−3.8
7.2
−4.7
5.6
−7.7
SD
2.3
3.7
3.5
2.3
3.3
2.7
p
0.052
0.078
0.511
0.014
C3/4
Mean
4.8
−5.8
7.6
−4.5
5.0
−9.4
SD
2.3
5.6
3.4
2.9
4.6
3.3
p
0.022
0.153
0.881
0.090 values pre- and post-op after implantation of a Prestige prosthesis compared with COR in healthy volunteers ble 6 COR mean values pre- and post-op after implantation of a Prestige prosthesis compared with COR in h
OR HV) Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Page 12 of 14 Fig. 7 Change of COR after insertion of a Prestige disc prosthesis. Coordinate-origin 0/0 represents the respective COR in healthy volunteers volunteers to such a radiation dose. We are aware that
for these reasons perfect consistency between the MRI-
and
the
fluoroscopic image
coordinates cannot
be
achieved, but even taking into account such small error,
we believe that the considerable differences we found for
the COR-HV compared to the pre-op COR allow to
claim that the COR in patients with disc herniations is
not anymore where it is found in healthy subjects. suitable to provide a physiological motion pattern for all
cervical segments, and that devices with a more variable
COR better contribute to re-establishing a more normal
motion pattern. We hope that our study delivers useful
new information for the daily practice of spine surgeons
and will encourage anyone who is involved in cervical
arthroplasty to look very closely on the biomechanical
properties of the devices they chose. Even taking in account these limitations, we believe
that our work shows how arthroplasty devices with
different biomechanical concepts can influence post-
operative cervical spine motion in a considerably differ-
ent manner. Discussion Considering that flexion/extension is not a
simple circular motion but has a variable COR even dur-
ing motion, it must be concluded that disc prostheses
with a simple ball socket design and fixed COR are not Conclusions Even if the small cohorts in our study do not allow
strong conclusions, it seems that once a disc herniations
occurs, the motion pattern changes, and the COR is not
anymore where it is in healthy individuals. If so, the pre-
op COR cannot be used as a reference when discussing
whether a disc prosthesis is resembling natural motion. Page 13 of 14 Page 13 of 14 Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 Received: 29 June 2020 Accepted: 20 August 2020 Received: 29 June 2020 Accepted: 20 August 2020 The biomechanical prosthesis-design considerably influ-
ences the post-op position of the COR: simple ball socket
devices can shift the already abnormal COR to an even
more unphysiological position; devices with a more flex-
ible biomechanical design can contribute to normalize the
coordinates of the COR. Funding
Thi g
This paper was supported by the Anniversary Fund of the Oesterreischische
National Bank (OeNB) project # 12685. The sponsor had no role in the
design or conduct of this research. 13. Gao F, Mao T, Sun W, Guo W, Wang Y, Li Z, Abhinav P. An updated meta-
analysis comparing artificial cervical disc arthroplasty (CDA) versus anterior
cervical discectomy and fusion (ACDF) for the treatment of cervical
degenerative disc disease. Spine (Phila Pa 1976). 2015;40:1816–23. Availability of data and materials
h d
d
d
l
d d 14. Heller JG, Sasso RC, Papadopoulos SM, Anderson PA, Fessler RG,
Hacker RJ, Coric D, Cauthen JC, Riew DK. Comparison of BRYAN
cervical disc arthroplasty with anterior cervical decompression and
fusion: clinical and radiographic results of a randomized, controlled,
clinical trial. Spine (Phila Pa 1976). 2009;34:101–7. The datasets used and/or analyzed during the current study (MRI pictures
and X-rays used for biomechanical calculations) are available from the corre-
sponding author on reasonable request. 15. Kelly MP, Mok JM, Frisch RF, Tay BK. Adjacent segment motion after anterior
cervical discectomy and fusion versus Prodisc-C cervical total disc
arthroplasty: analysis from a randomized, controlled trial. Spine (Phila Pa
1976). 2011;36:1171–9. Acknowledgements
W h hl
k
l d We highly acknowledge Dr. Karl Mahr, Dr. Karl-Heinz Pichler, Dr. Gabriele
Wurm, and Dr. Helmut Hierz for their support in collecting and providing x-
rays for this study, and Ingrid Dobsak for her brilliant artistic work regarding
the illustrations. 9. Bogduk N, Mercer S. Biomechanics of the cervical spine. I: Normal
kinematics. Clin Biomech. 2000;15:633–48. 10. Anderson PA, Sasso RC, Hipp J, Norvell DC, Raich A, Hashimoto R. Kinematics of the cervical adjacent segments after disc arthroplasty
compared with anterior discectomy and fusion: a systematic review and
meta-analysis. Spine (Phila Pa 1976). 2012;37(22 Suppl):S85–95. Authors’ contributions
h
b Author contributions to the study include the following: conception and
design: M.M., E.T.; acquisition of data: all authors. Biomechanical calculations:
E.T., W.S., H.S. Analysis and medical interpretation of data: M.M. and S.T.;
drafting the article: M.M; critically revising the article: all authors. The authors
read and approved the manuscript. Author contributions to the study include the following: conception and
design: M.M., E.T.; acquisition of data: all authors. Biomechanical calculations:
E.T., W.S., H.S. Analysis and medical interpretation of data: M.M. and S.T.;
drafting the article M M critically revising the article all authors The authors 11. Davis RJ, Nunley PD, Kim KD, Hisey M, Jackson RJ, Bae HW, Hoffmann GA,
Gaede SE, Danielson GO III, Gordon C, Stone MB. Two-level total disc
replacement with Mobi-C cervical artificial disc versus anterior discectomy
and fusion: a prospective, randomized, controlled multicenter clinical trial
with 4-year follow-up results. J Neurosurg Spine. 2015;22:15–25. drafting the article: M.M; critically revising the article: all authors. The authors
read and approved the manuscript. 12. Findlay C, Ayis S, Demetriades AK. Total disc replacement versus anterior
cervical discectomy and fusion. Bone Joint J. 2018;100-B(8):991–1001. 12. Findlay C, Ayis S, Demetriades AK. Total disc replacement versus anterior
cervical discectomy and fusion. Bone Joint J. 2018;100-B(8):991–1001. Abbreviations
ACDF A
i ACDF: Anterior cervical discectomy and fusion; COR: Center of rotation; COR-
HV: Center of Rotation in Healthy Volunteers; NDI: Neck Disability Index;
ROM: Range of motion 7. Powell JW, Sasso RC, Metcalf NH, Anderson PA, Hipp JA. Quality of spinal
motion with cervical disk arthroplasty: computer-aided radiographic
analysis. J Spinal Disord Tech. 2010;23:89–95. 8. Rousseau MA, Cottin P, Levante S, Alexis N, Lazennec JY, Skalli W. In vivo
kinematics of two types of ball-and-socket cervical disc replacements in the
sagittal plane: cranial versus caudal geometric center. Spine (Phila Pa 1976). 2008;33:E6–9. Consent for publication
Not applicable 18. Mummaneni PV, Burkus JK, Haid RW, Traynelis VC, Zdeblick TA. Clinical
and radiographic analysis of cervical disc arthroplasty compared with
allograft fusion: a randomized controlled clinical trial. J Neurosurg
Spine. 2007;6:198–209. References 1. Koller H, Meier O, Zenner J, Mayer M, Hitzl W. In vivo analysis of cervical
kinematics after implantation of a minimally constrained cervical artificial
disc replacement. Eur Spine J. 2013;22:747–58. An unphysiological post-op COR can cause a cascade
of compensatory effects in all other levels. p
p
2. Kowalczyk I, Lazaro BC, Fink M, Rabin D, Duggal N. Analysis of in vivo
kinematics of 3 different cervical devices: Bryan disc, ProDisc-C, and Prestig
LP disc. Clinical article. J Neurosurg Spine. 2011;15:630–5. 2. Kowalczyk I, Lazaro BC, Fink M, Rabin D, Duggal N. Analysis of in vivo
kinematics of 3 different cervical devices: Bryan disc, ProDisc-C, and Prestige
LP disc. Clinical article. J Neurosurg Spine. 2011;15:630–5. Because there is no scientific evidence that prosthesis
design does not influence clinical outcome, the biomech-
anical design should be taken into account when choos-
ing an arthroplasty device, and only prostheses with
flexible biomechanical properties should be used in clin-
ical practice. 3. Lind B, Sihlbom H, Nordwall A, Malchau H. Normal ranges of motion of the
cervical spine. Arch Phys Med Rehabil. 1989;70:692–5. 4. Liu F, Cheng J, Komistek RD, Mahfouz MR, Sharma A. In vivo evaluation of
dynamic characteristics of the normal, fused, and disc replacement cervical
spines. Spine (Phila Pa 1976). 2007;32:2578–84. 5. Park DK, Lin EL, Phillips F. Index and adjacent level kinematics after cervical
disc replacement and anterior fusion. Spine (Phila Pa 1976). 2011;36:721–30. 6. Pickett GE, Rouleau JP, Duggal N. Kinematic analysis of the cervical spine
following implantation of an artificial cervical disc. Spine (Phila Pa 1976). 2005;30:1949–54. 5. Park DK, Lin EL, Phillips F. Index and adjacent level kinematics after cervical
disc replacement and anterior fusion. Spine (Phila Pa 1976). 2011;36:721–30. p
p
6. Pickett GE, Rouleau JP, Duggal N. Kinematic analysis of the cervical spine
following implantation of an artificial cervical disc. Spine (Phila Pa 1976). 2005;30:1949–54. Competing interests Competing interests
The authors declare that they have no competing interests. 19. Murrey D, Janssen M, Delamarter R, Goldstein J, Zigler J, Tay B, Darden
B. Results of the prospective, randomized, controlled multicenter Food
and Drug Administration investigational device exemption study of the
ProDisc-C total disc replacement versus anterior discectomy and fusion
for the treatment of 1-level symptomatic cervical disc disease. Spine J. 2009;9:275–86. Ethics approval and consent to participate All procedures performed in studies involving human participants were in
accordance with the ethical standards of the institutional and/or national
research committee and with the 1964 Helsinki Declaration and its later
amendments or comparable ethical standards. The study protocol was
approved by the Ethic commission of the Medical University of Vienna (EK
Nr. 571/2007). 16. Kim SW, Limson MA, Kim SB, Arbatin JJ, Chang KY, Park MS, et al. Comparison of radiographic changes after ACDF versus Bryan disc
arthroplasty in single and bi-level cases. Eur Spine J. 2009;18:218–31. 17. McDonald CP, Chang V, McDonald M, Ramo N, Bey MJ, Bartol S. Three-
dimensional motion analysis of the cervical spine for comparison of anterior
cervical decompression and fusion versus artificial disc replacement in 17
patients. J Neueosurg Spine. 2014;20:245–55. Author details
1
l Radiological changes of the operated and
adjacent segments following cervical arthroplasty after a minimum 24-
month follow-up: comparison between the Bryan and Prodisc-C devices. J Neurosurg Spine. 2010;13:299–307. 29. Baillargeon E, Anderst W. Sensitivity, reliability and accuracy of the instant
center of rotation calculation in the cervical spine during in vivo dynamic
flexion-extension. J Biomech. 2013;46:670–6. 29. Baillargeon E, Anderst W. Sensitivity, reliability and accuracy of the instant
center of rotation calculation in the cervical spine during in vivo dynamic
flexion-extension. J Biomech. 2013;46:670–6. Author details
1
l 1Neurosurgical Department, Donauspital SMZ-Ost, Langobardenstrasse 122,
1220 Vienna, Austria. 2Vehicle Safety Institute, Graz University of Technology,
Graz, Austria. 3High Field MR Center, Department of Biomedical Imaging and
Image-guided Therapy, Medical University of Vienna, Vienna, Austria. Page 14 of 14 Muhlbauer et al. Journal of Orthopaedic Surgery and Research (2020) 15:391 20. Pointillart V, Castelain JE, Coudert P, Cawley DT, Gille O, Vital JM. Outcomes
of the Bryan cervical disc replacement: fifteen year follow-up. Int Orthop. 2018;42:851–7. 21. Sasso RC, Best NM, Metcalf NH, Anderson PA. Motion analysis of Bryan
cervical disc arthroplasty versus anterior discectomy and fusion: results from
a prospective, randomized, multicenter, clinical trial. J Spinal Disord Tech. 2008;21:393–9. 22. Upadhyaya CD, Wu JC, Trost G, Haid RW, Traynelis VC, Tay B, Coric D,
Mummaneni PV. Analysis of the three United States Food and Drug
Administration investigational device exemption cervical arthroplasty trials. J Neurosurg Spine. 2012;16:216–28. 23. Lavelle WF, Riew KD, Levi AD, Florman JE. Ten-years outcomes of cervical
disc replacement with the BRYAN cervical disc: Results from a prospective,
randomized, controlled clinical trial. Spine (Phila Pa 1976). 2019;44:601–8. 24. Mehren C, Heider F, Siepe CJ, Zillner B, Kothe R, Korge A, Mayer HM. Clinical
and radiological outcome at 10 years of follow-up after total cervical disc
replacement. Eur Spine J. 2017;26:2441–9. 25. Gornet MF, Burkus JK, Shaffrey ME, Schranck FW, Copay AG. Cervical disc
arthroplasty: 10-years outcomes of the Prestige LP cervical disc at a single
level. J Neurosurg Spine. 2019;31:317–25. g
26. Staudt MD, Das K, Duggal N. Does design matter? Cervical disc
replacements under review. Neurosurg Rev. 2018;41:399–407. 26. Staudt MD, Das K, Duggal N. Does design matter? Cervical disc
replacements under review. Neurosurg Rev. 2018;41:399–407. 27. Skeppholm M, Henriques T, Tullberg T. Higher reoperation rate following
cervical disc replacement in a retrospective, long-term comparative study of
715 patients. Eur Spine J. 2017;26:2434–40. 27. Skeppholm M, Henriques T, Tullberg T. Higher reoperation rate following
cervical disc replacement in a retrospective, long-term comparative study of
715 patients. Eur Spine J. 2017;26:2434–40. 28. Ryu KS, Park CK, Jun SC, Huh HY. Radiological changes of the operated and
adjacent segments following cervical arthroplasty after a minimum 24-
month follow-up: comparison between the Bryan and Prodisc-C devices. J Neurosurg Spine. 2010;13:299–307. 28. Ryu KS, Park CK, Jun SC, Huh HY. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations.
|
https://openalex.org/W2270871747
|
https://www.nature.com/articles/ncomms9063.pdf
|
English
| null |
Flexible transition metal dichalcogenide nanosheets for band-selective photodetection
|
Nature communications
| 2,015
|
cc-by
| 12,347
|
ARTICLE Received 3 Dec 2014 | Accepted 13 Jul 2015 | Published 2 Sep 2015 1 Department of Materials Science and Engineering, Yonsei University, Seoul 120-749, Korea. 2 School of Electrical and Electronic Engineering, Yonsei
University, Seoul 120-749, Korea. 3 Department of Chemical and Biological Engineering, Korea University, Anam-dong, Seongbuk-gu, Seoul 136-713, Korea.
4 Photonic Device Physics Laboratory, Institute of Physics and Applied Physics, Yonsei University, Seoul 120-749, Korea. Correspondence and requests for
materials should be addressed to C.P. (email: cmpark@yonsei.ac.kr) or H.C. (email: hychoi@yonsei.ac.kr). Results In
addition,
the computation of IR spectra for model systems (PS-NH2,
MoSe2/PS-NH2) based on density functional theory frequency
calculation also shows that the peak corresponding to bending
vibration of the NH2 in the absence of MoSe2 was shifted to
higher frequency in the MoSe2/PS-NH2 bound state, which
consolidates our experimental observation (Supplementary Fig. 1). Amine groups of polymers efficiently interact with transition
metals when surface of TMD nanosheets is exposed upon
sonication step. Simultaneously, flexible polymer chains from the
anchored amine on the TMD surface are fully extended in their
good solvent medium. Firmly anchored polymer chains on the
TMD surface prevent the exfoliated nanosheets from re-
aggregating on solvent evaporation. It should be noted that our
process does not involve the intercalation of TMD nanosheets,
different from ones previously developed with metal ions22–25
(Supplementary Fig. 2; Supplementary Note 1). The successful
interaction between amine groups of polymers and transition
metals in the TMD nanosheets is confirmed by density functional
tight binding38–40 and Born–Oppenheimer molecular dynamics
simulation (Supplementary Fig. 3). Combined with conventional
sonication and centrifugation processes, we were able to exfoliate
the bulk TMDs into few-layer nanosheets on a large scale, as
shown in the photograph in Fig 1 p
p
Many studies were devoted to liquid phase exfoliation and
stabilization of TMDs22–33 not only because the solvent medium
offers an extra driving force for the separation of the sheets but
also because 2D TMDs dispersed in solvent can be suitable for
various solution-based film processes such as spin-coating,
dip-coating and layer-by-layer assembly. To further promote
the separation of the sheets, additional interactions with TMDs
were required, including ion intercalation22, surfactant-driven
interaction29 and highly boiled medium33. Some of the previous
approaches are promising and scalable, but limited to specific
solvent medium. In addition, photoelectronic properties of
mechanically flexible TMD films have not been extensively
investigated,
in
particular,
comparable
with
those
with
mechanically exfoliated sheets. The non-destructive dispersion
strategy with synthetic polymers can be additionally beneficial
due to their long and flexible chains that adhere to the surface of
TMDs and thus provide sufficient physical gaps between two
sheets to mitigate the strong van der Waal interactions of the
sheets34. We envisioned that end-functionalized polymers can
meet the requirements aforementioned with end-functional
groups universally interactive with various TMDs. ARTICLE ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 T
wo-dimensional (2D) nanosheets of transition metal
dichalcogenides (TMDs) such as MoS2, WS2 and MoSe2
have been of great attraction due to their intriguing
photoelectronic properties associated with the 2D confined
chemical structures from insulators, direct bandgap semiconduc-
tors to metals1–3. These materials have potential for applications
in electronics, optics, energy conversion and storage4–11. In
particular, the photocurrent conversion at the characteristic
photon energies corresponding to their material-dependent
energy band gaps is impressive, making them great candidates
for wavelength-selective photodetectors12–18. Excellent visible
photodetection has been, for instance, achieved with devices
containing single or few layered MoS2, as well as WS2 fabricated
by mechanical exfoliation with Scotch film19; convenient but
hardly applicable for arrays of the devices. T between transition metal and non-pair electrons of amine,
allowing
us
to
develop
various
uniform
composite
films
with numerous combinations of TMD nanosheets and end-
functionalized
polymers. Films
of
MoSe2
nanosheets
with
amine-terminated poly(styrene) (PS-NH2) exhibited excellent
photodetection with an ON/OFF photocurrent ratio of 105,
a detectivity of 4 1012 Jones, a responsivity of 16 A W 1 and a
response time of 100 ms on 1,064-nm illumination, even when
the films were severely deformed at a bending radius of
B200 mm. Moreover, simple solution mixing of MoSe2 and
MoS2 modified with NH2-PS offers an extremely convenient
route for tuning the photodetection properties, and thus a
blended composite film allows for broad range photodetection
from visible to near infrared (NIR). The band-selective photo-
detection of our blended films is also evidenced by thorough
investigation of photo-induced, carrier-relaxation dynamics. These promising photoconversion performances of various 2D
TMDs is driving a demand for their technological implementa-
tion. Furthermore, considering the mechanically flexible nature of
the 2D TMDs20,21, arrays of the photodetectors on either plastic
or paper would be beneficial for wearable and patchable
applications. Several challenges are, however, ahead for the
successful realization. Most importantly, a scalable and universal
process suitable for various TMDs irrespective of their detailed
chemical structures is required for thin uniform film fabrication
on diverse substrates. The method should involve efficient
exfoliation of the sheets of 2D TMDs from stacked bulk
samples, as well as prevention of re-aggregation of the sheets
on film formation. ARTICLE In addition, individual or a few layers of 2D
TMDs should be well-connected with each other in the film to
readily develop conducting pathways between two electrodes for
efficient photocarrier transport. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. Results Universal exfoliation of TMDs with amine-terminated polymers. In this work, we achieved successful exfoliation of numerous
TMD nanosheets such as MoS2, WS2, MoSe2, WSe2, ReS2, ZrTe2
and NbSe2 with amine-terminated polymers. The principle is
based on the Lewis-like acid–base interaction22,35 between the
transition metal and primary amine, as shown in the scheme in
Fig. 1. The representative amine-terminated polymers employed
here
are
glassy
PS,
poly(methyl
methacrylate),
rubbery
poly(butadiene), semi-crystalline poly(ethylene), poly(ethylene
oxide) (PEO) and poly(styrene-b-isoprene) copolymer. The
interaction between the donated lone pairs of nitrogen atoms
and electron-accepting metal atoms was evidenced by Fourier
transform
infrared
spectroscopic
(FT-IR)
for
the
case
of
MoSe2 modified with PS-NH2. (Supplementary Note 1) The
characteristic peak at 1,600 cm 1 corresponding to neat NH2 was
significantly shifted to B1,650 cm 1, which resulted from the
N–H bonds bent due to the transition metal–amine interaction,
as shown in Fig. 1. Upshift of N–H mode occurred when primary
amines
interact
with
transition
metals36,37. In
addition,
the computation of IR spectra for model systems (PS-NH2,
MoSe2/PS-NH2) based on density functional theory frequency
calculation also shows that the peak corresponding to bending
vibration of the NH2 in the absence of MoSe2 was shifted to
higher frequency in the MoSe2/PS-NH2 bound state, which
consolidates our experimental observation (Supplementary Fig. 1). Universal exfoliation of TMDs with amine-terminated polymers. In this work, we achieved successful exfoliation of numerous
TMD nanosheets such as MoS2, WS2, MoSe2, WSe2, ReS2, ZrTe2
and NbSe2 with amine-terminated polymers. The principle is
based on the Lewis-like acid–base interaction22,35 between the
transition metal and primary amine, as shown in the scheme in
Fig. 1. The representative amine-terminated polymers employed
here
are
glassy
PS,
poly(methyl
methacrylate),
rubbery
poly(butadiene), semi-crystalline poly(ethylene), poly(ethylene
oxide) (PEO) and poly(styrene-b-isoprene) copolymer. The
interaction between the donated lone pairs of nitrogen atoms
and electron-accepting metal atoms was evidenced by Fourier
transform
infrared
spectroscopic
(FT-IR)
for
the
case
of
MoSe2 modified with PS-NH2. (Supplementary Note 1) The
characteristic peak at 1,600 cm 1 corresponding to neat NH2 was
significantly shifted to B1,650 cm 1, which resulted from the
N–H bonds bent due to the transition metal–amine interaction,
as shown in Fig. 1. Upshift of N–H mode occurred when primary
amines
interact
with
transition
metals36,37. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications Flexible transition metal dichalcogenide nanosheets
for band-selective photodetection Dhinesh Babu Velusamy1, Richard Hahnkee Kim1, Soonyoung Cha2, June Huh3, Reza Khazaeinezhad4,
Sahar Hosseinzadeh Kassani4, Giyoung Song1, Suk Man Cho1, Sung Hwan Cho1, Ihn Hwang1, Jinseong Lee1,
Kyunghwan Oh4, Hyunyoug Choi2 & Cheolmin Park1 The
photocurrent
conversions
of
transition
metal
dichalcogenide
nanosheets
are
unprecedentedly impressive, making them great candidates for visible range photodetectors. Here we demonstrate a method for fabricating micron-thick, flexible films consisting
of a variety of highly separated transition metal dichalcogenide nanosheets for excellent
band-selective photodetection. Our method is based on the non-destructive modification of
transition metal dichalcogenide sheets with amine-terminated polymers. The universal
interaction between amine and transition metal resulted in scalable, stable and high
concentration dispersions of a single to a few layers of numerous transition metal
dichalcogenides. Our MoSe2 and MoS2 composites are highly photoconductive even at
bending radii as low as 200 mm on illumination of near infrared and visible light, respectively. More interestingly, simple solution mixing of MoSe2 and MoS2 gives rise to blended com-
posite films in which the photodetection properties were controllable. The MoS2/MoSe2 (5:5)
film showed broad range photodetection suitable for both visible and near infrared spectra. 1 Department of Materials Science and Engineering, Yonsei University, Seoul 120-749, Korea. 2 School of Electrical and Electronic Engineering, Yonsei
University, Seoul 120-749, Korea. 3 Department of Chemical and Biological Engineering, Korea University, Anam-dong, Seongbuk-gu, Seoul 136-713, Korea. 4 Photonic Device Physics Laboratory, Institute of Physics and Applied Physics, Yonsei University, Seoul 120-749, Korea. Correspondence and requests for
materials should be addressed to C.P. (email: cmpark@yonsei.ac.kr) or H.C. (email: hychoi@yonsei.ac.kr). NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications 1 & 2015 Macmillan Publishers Limited. All rights reserved. Results Flexible
polymer chains dangled with end-functional moieties firmly
anchored on the surface of TMDs in solvents can allow for good
dispersion of the sheets with their minimum amount, leading to
flexible composite films with many conducting pathways. Amine groups of polymers efficiently interact with transition
metals when surface of TMD nanosheets is exposed upon
sonication step. Simultaneously, flexible polymer chains from the
anchored amine on the TMD surface are fully extended in their
good solvent medium. Firmly anchored polymer chains on the
TMD surface prevent the exfoliated nanosheets from re-
aggregating on solvent evaporation. It should be noted that our
process does not involve the intercalation of TMD nanosheets,
different from ones previously developed with metal ions22–25
(Supplementary Fig. 2; Supplementary Note 1). The successful
interaction between amine groups of polymers and transition
metals in the TMD nanosheets is confirmed by density functional
tight binding38–40 and Born–Oppenheimer molecular dynamics
simulation (Supplementary Fig. 3). Combined with conventional
sonication and centrifugation processes, we were able to exfoliate
the bulk TMDs into few-layer nanosheets on a large scale, as
shown in the photograph in Fig. 1. p
y
g p
y
Here we present mechanically flexible TMD nanosheets for
band-selective photodetection. Our strategy of modifying TMDs
with amine-terminated polymers successfully offers a scalable
platform suitable for fabricating various flexible TMD/polymer
composite films in which few-layer TMD nanosheets are properly
separated from each other and embedded in a polymer matrix. The pivotal process for the platform is the extremely efficient
liquid exfoliation of TMDs with primary amine-terminated
polymers whose end-functional amines are firmly anchored on
the surface of TMDs due to strong Lewis acid–base interaction To demonstrate the effectiveness of our strategy, we extensively
investigated the dispersion of MoSe2 nanosheets with PS-NH2
(Supplementary Note 2). The suspension of bulk MoSe2 with
1 mg ml 1
PS-NH2
in
Fig. 2a
exhibits
the
characteristic
absorbance spectrum of MoSe2 (blue colour) after optimization NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.natur NATURE COMMUNICATIONS | 6:8063 | DOI: 1 2 NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. & 2015 Macmillan Publishers Limited. Results Hexagonal layers of
transition metal atoms (M) sandwiched between two layers of
chalcogenides (X) are represented by a stoichiometry of MX2 by the yellow
and grey spheres, respectively. The amine-terminated polymers are
simplified for clarity. Interaction between the lone electron pairs of nitrogen
atoms and the electron-accepting metal atoms weakens the self layer–layer
attraction and the polymer chains provide further separation between the
layers, thereby ensuring good exfoliation and dispersion. FT-IR spectra of
MoSe2, PS-NH2 and MoSe2-PS-NH2 are shown. Few-layer MoSe2 and MoS2
nanosheets dispersed on the 2-l scale are apparent in the photographs
(Scale bar, 5 cm). of
the
sonication
time,
initial
MoSe2
concentration
and
centrifugation rate (Supplementary Fig. 4). Different from pure
PS-NH2, discernible peaks were observed at 800 and 690 nm,
which are similar to the characteristic peaks of exfoliated MoSe2
(red colour) obtained by other methods without PS-NH2,
confirming the stable exfoliation and dispersion of MoSe2 in
toluene26,29,41. The increased absorbance at the short wavelength
side is attributed to the background scattering arising from TMD
nanosheets with 2D anisotropic shape26,29. To further evidence
that the strong absorption peaks in Fig. 2a are attributed to the
A or B exciton peaks of MoSe2, we performed the absorbance
experiments
at
wavelength-selective
system
(Supplementary
Fig. 5) and the results are the same as Fig. 2a (Supplementary
Fig. 6). Additional experiments using X-ray photoelectron
spectroscopy, Raman spectroscopy and X-ray diffraction further
confirmed the exfoliation and dispersion of MoSe2 nanosheets
(Supplementary
Fig. 7). The characteristic
direct
bandgap
structure of mono and a few layered MoSe2 nanosheets
was
evidenced
by
photoluminescence
(PL)
measurement
(Supplementary Fig. 8). The PL peak centred at B808 nm of
the
sonication
time,
initial
MoSe2
concentration
and
centrifugation rate (Supplementary Fig. 4). Different from pure
PS-NH2, discernible peaks were observed at 800 and 690 nm,
which are similar to the characteristic peaks of exfoliated MoSe2
(red colour) obtained by other methods without PS-NH2,
confirming the stable exfoliation and dispersion of MoSe2 in
toluene26,29,41. The increased absorbance at the short wavelength
side is attributed to the background scattering arising from TMD
nanosheets with 2D anisotropic shape26,29. To further evidence
that the strong absorption peaks in Fig. 2a are attributed to the
A or B exciton peaks of MoSe2, we performed the absorbance
experiments
at
wavelength-selective
system
(Supplementary
Fig. 5) and the results are the same as Fig. 2a (Supplementary
Fig. 6). Results All rights reserved ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 Polystyrene (PS)
Poly(ethylene oxide) (PEO)
Polyethylene (PE), Polybutadiene (PBd)
Poly(methyl methacrylate) (PMMA)
1,800
1,700
1,600
1,500
1,400
1,300
Transmittance
Wavenumber (cm–1)
MoSe2
PS-NH2
MoSe2/PS-NH2
N
H
H
Transition metal dichalcogenides
Mo, W, Re, Nb, Zr, Ta
S, Se, Te
Poly(styrene-b-isoprene) (PS-b-PI)
End-functionalized polymers
MoSe2
MoS2
+
–
Figure 1 | Liquid phase exfoliation of TMDs with end-functionalized
polymers. Schematic representation of the proposed mechanism for the
exfoliation of various TMDs using different types of amine-terminated
end-functionalized polymers in organic solvents. Hexagonal layers of
transition metal atoms (M) sandwiched between two layers of
chalcogenides (X) are represented by a stoichiometry of MX2 by the yellow
and grey spheres, respectively. The amine-terminated polymers are
simplified for clarity. Interaction between the lone electron pairs of nitrogen
atoms and the electron-accepting metal atoms weakens the self layer–layer
attraction and the polymer chains provide further separation between the
layers, thereby ensuring good exfoliation and dispersion. FT-IR spectra of
MoSe2, PS-NH2 and MoSe2-PS-NH2 are shown. Few-layer MoSe2 and MoS2
nanosheets dispersed on the 2-l scale are apparent in the photographs
(Scale bar, 5 cm). (1.54±0.01 eV) from A excitons of MoSe2 is attributed to an
indirect-to-direct bandgap transition, which occurs at the K high
symmetry point of the Brillouin zone associated with the
quantum confinement in the perpendicular direction16,17,42–44. The PL emission peak from MoSe2 modified with PS-NH2 is
consistent with that from either mechanically exfoliated or
CVD synthesized monolayer and the results suggest that the
observed PL arises from the intrinsic electronic properties of
monolayer MoSe2 and our exfoliated MoSe2 nanosheets possess
semiconducting
2H
phase
with
hexagonal
prismatic
D3h
symmetry. The results we obtained with MoSe2 nanosheets
modified
with
PS-NH2
were
similarly
observed
with
the
nanocomposites of MoS2 with PS-NH2, which confirms the
universality of our method (Supplementary Fig. 9). N
H
H
+
– The effect of the molecular weight of PS-NH2 (9.5, 25 and 40 k,
and 108 k g mol 1) on the exfoliation of MoSe2 additionally
supports our arguments. For initial polymer concentrations
of 1 and 5 mg ml 1, the absorbance nearly linearly decreased
with increasing molecular weight of polymers due to the decrease
of the total number of end-amine groups with increasing
molecular weight of the polymers, as shown in Fig. 2b. Results Based on the results, 9.5 k PS-NH2 was further utilized for
the exfoliation and dispersions of the TMDs (Supplementary
Fig. 10). 1,800
1,700
1,600
1,500
1,400
1,300
Transmittance
Wavenumber (cm–1)
MoSe2
PS-NH2
MoSe2/PS-NH2 1,800
1,700
1,600
1,500
1,400
1,300
Transmittance
Wavenumber (cm–1)
MoSe2
PS-NH2
MoSe2/PS-NH2
MoSe2
MoS2 Transmittance g
A key advantage of our method is the capability of dispersing
MoSe2 in many solvents. Eight different solvents were examined,
which were all good solvents for PS. The results were well-fitted
on a single absorbance versus concentration plot of dispersed
MoSe2, which implies that the MoSe2 nanosheets were uniformly
dispersed
without
aggregation,
as
shown
in
Fig. 2c
(Supplementary Figs 11 and 12). The maximum amount of
dispersed MoSe2 as a function of the PS-NH2 concentration
depends on the solvent surface energy and the degree of solubility
of PS with solvents26,29,30,34 where the results are shown in
Fig. 2d. The concentration of dispersed MoSe2 increases with
increasing PS-NH2 concentration but rarely changes when the
polymer concentration is 5 mg ml 1, indicating the saturation of
interaction sites available on the TMD surface. Notably, for all of
the solvents examined, at least 0.55 mg ml 1 MoSe2 was stably
dispersed and B1.6 mg ml 1 MoSe2 was successfully exfoliated
with our PS-NH2 in NMP (Supplementary Fig. 13). The
maximum yield percentage of the dispersed MoSe2 is 412% in
NMP. (Fig. 2d) Compared with previous works25–32, the
maximum amount of dispersed MoSe2 is substantially high and,
in particular, it should be noted that the scalable exfoliation of
MoSe2 in various solvents was achieved without re-aggregation
for a period of 43 weeks (Supplementary Fig. 14). As proposed
in Fig. 1, other amine-terminated polymers also produced MoSe2
dispersed in various solvent medium, as shown in Fig. 2e. By
choosing PEO, for example, a large amount of MoSe2 nanosheets
was dispersed in polar media including ethanol and water. To confirm the universality of our method, we dispersed six
additional TMDs including MoS2, WS2, WSe2, ReS2, ZrTe2 and
NbSe2 with PS-NH2 in toluene where their absorbance spectra are
shown in Fig. 2f (Supplementary Fig. 15)29,41. Wavenumber (cm–1) Wavenumber (cm–1) Figure 1 | Liquid phase exfoliation of TMDs with end-functionalized Figure 1 | Liquid phase exfoliation of TMDs with end-functionalized
polymers. Schematic representation of the proposed mechanism for the
exfoliation of various TMDs using different types of amine-terminated
end-functionalized polymers in organic solvents. & 2015 Macmillan Publishers Limited. All rights reserved. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 PS-b-PI PMMA
PEO
PE
PB
100
200
300
400
500
600
700
Toluene
THF
O-xylene
MEK
Ethanol
H2O
Polymers
500
600
700
800
900
1,000
1,100
1,200
ReS2
WSe2
MoS2
NbSe2
ZrTe2
WS2
Absorbance (a.u)
Wavelength (nm)
9.5k
25k
40k
108k
0
300
600
900
1,200
1,500
1mg ml –1 polymer
5mg ml–1 polymer
in toluene
0.0
0.1
0.2
0.3
0.4
0.5
0
100
200
300
400
500
Benzene
DMF
Ethyl acetate
MEK
NMP
THF
Toluene
O-xylene
1 mg ml–1 Polymer
a
b
c
d
e
f
PS-NH2 Mol. Wt. (g mol–1)
MoSe2 concentration (mg ml–1)
500
600
700
800
900
1,000
0
200
400
600
800
A/I (m–1)
A/I (m–1)
A/I (m–1)
A/I (m–1)
Wavelength (nm)
PS-NH2
MoSe2/PS-NH2
MoSe2
1
2
3
5
0.0
0.3
0.6
0.9
1.2
1.5
1.8
MoSe2 concentration
(mg ml–1)
Benzene
DMF
Ethyl acetate
MEK
NMP
THF
Toluene
O-xylene
Polymer concentration (mg ml–1)
0
2
4
6
8
10
12
Yield (%)
Figure 2 | Dispersion characteristics of TMD nanosheets in organic solvents. (a) Absorbance spectra of PS-NH2 (black), MoSe2 dispersed with PS-NH2
in toluene (blue) and MoSe2 dispersed without PS-NH2 in NMP (red). (b) Effect of the molecular weight of PS-NH2 on the efficiency of the MoSe2
dispersion in toluene characterized by the absorbance values of the dispersions at 800 nm. The initial concentrations of MoSe2 and PS-NH2 were kept
constant at 10 mg ml 1 and 1 mg ml 1, respectively, for all of the molecular weights of PS-NH2 evaluated. Increasing the molecular weight of PS-NH2 leads
to a decrease of the efficiency of the MoSe2 dispersion. (c) Absorbance at a wavelength of 800 nm as a function of the MoSe2 concentration in each
solvent. The absorbance linearly increased with the amount of MoSe2 following Lambert–Beer behaviour, which implies uniform dispersion of MoSe2
without aggregation in all of the solvents. (d) Plots of the concentration of MoSe2 as a function of the initial concentration of PS-NH2 in different organic
solvents. Yield of one to three layers (70%) of the exfoliated MoSe2 nanosheets with PS-NH2 as a function of the initial concentration of PS-NH2 in
different organic solvents are also shown. (e) Absorbance per cell length (proportional to the concentration of dispersed MoSe2) of MoSe2 dispersed in a
range of solvents with a concentration of 3 mg ml 1 of the different amine-terminated polymers. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 Note that PE-NH2 was dissolved in hot toluene and xylene. For MoSe2 dispersion in water with PEO-NH2, sonication was applied for 2 h. (f) Absorbance spectra of the dispersions of different TMDs exfoliated in
toluene with PS-NH2. The absorbance spectra are vertically displaced for clarity. a
500
600
700
800
900
1,000
0
200
400
600
800
A/I (m–1)
Wavelength (nm)
PS-NH2
MoSe2/PS-NH2
MoSe2 9.5k
25k
40k
108k
0
300
600
900
1,200
1,500
1mg ml –1 polymer
5mg ml–1 polymer
in toluene
b
PS-NH2 Mol. Wt. (g mol–1)
A/I (m–1) Wavelength (nm) 0.0
0.1
0.2
0.3
0.4
0.5
0
100
200
300
400
500
Benzene
DMF
Ethyl acetate
MEK
NMP
THF
Toluene
O-xylene
1 mg ml–1 Polymer
c
MoSe2 concentration (mg ml–1)
A/I (m–1) d
2
(g
)
1
2
3
5
0.0
0.3
0.6
0.9
1.2
1.5
1.8
MoSe2 concentration
(mg ml–1)
Benzene
DMF
Ethyl acetate
MEK
NMP
THF
Toluene
O-xylene
Polymer concentration (mg ml–1)
0
2
4
6
8
10
12
Yield (%) d c f 500
600
700
800
900
1,000
1,100
1,200
ReS2
WSe2
MoS2
NbSe2
ZrTe2
WS2
Absorbance (a.u)
Wavelength (nm)
f
Polymer concentration (mg ml ) PS-b-PI PMMA
PEO
PE
PB
100
200
300
400
500
600
700
Toluene
THF
O-xylene
MEK
Ethanol
H2O
Polymers
e
2
(
g
)
A/I (m–1) e Polymers Wavelength (nm) Wavelength (nm) Figure 2 | Dispersion characteristics of TMD nanosheets in organic solvents. (a) Absorbance spectra of PS-NH2 (black), MoSe2 dispersed with PS-NH2
in toluene (blue) and MoSe2 dispersed without PS-NH2 in NMP (red). (b) Effect of the molecular weight of PS-NH2 on the efficiency of the MoSe2
dispersion in toluene characterized by the absorbance values of the dispersions at 800 nm. The initial concentrations of MoSe2 and PS-NH2 were kept
constant at 10 mg ml 1 and 1 mg ml 1, respectively, for all of the molecular weights of PS-NH2 evaluated. Increasing the molecular weight of PS-NH2 leads
to a decrease of the efficiency of the MoSe2 dispersion. (c) Absorbance at a wavelength of 800 nm as a function of the MoSe2 concentration in each
solvent. The absorbance linearly increased with the amount of MoSe2 following Lambert–Beer behaviour, which implies uniform dispersion of MoSe2
without aggregation in all of the solvents. (d) Plots of the concentration of MoSe2 as a function of the initial concentration of PS-NH2 in different organic
solvents. Results Additional experiments using X-ray photoelectron
spectroscopy, Raman spectroscopy and X-ray diffraction further
confirmed the exfoliation and dispersion of MoSe2 nanosheets
(Supplementary
Fig. 7). The characteristic
direct
bandgap
structure of mono and a few layered MoSe2 nanosheets
was
evidenced
by
photoluminescence
(PL)
measurement
(Supplementary Fig. 8). The PL peak centred at B808 nm The
microstructures
of
the
exfoliated
nanosheets
were
investigated using both surface probe and electron microscopy,
where the results show that the thickness of the single-layer
MoSe2 was 1.0±0.15 nm, which is thicker than that of pristine
MoSe2 (ref. 16) (B0.7 nm) due to the attached polymer chains on
both sides of the nanosheet. The single crystalline nature45 of the
single- and few-layer MoSe2 was preserved during the exfoliation
process as well (Supplementary Fig. 16). Statistical analysis of
both the lateral size and thickness of the exfoliated MoSe2
nanosheets (Supplementary Fig. 17) suggests that B70% of the
MoSe2 nanosheets was one to three layers with broadly 3 ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 Yield of one to three layers (70%) of the exfoliated MoSe2 nanosheets with PS-NH2 as a function of the initial concentration of PS-NH2 in
different organic solvents are also shown. (e) Absorbance per cell length (proportional to the concentration of dispersed MoSe2) of MoSe2 dispersed in a
range of solvents with a concentration of 3 mg ml 1 of the different amine-terminated polymers. Note that PE-NH2 was dissolved in hot toluene and xylene. For MoSe2 dispersion in water with PEO-NH2, sonication was applied for 2 h. (f) Absorbance spectra of the dispersions of different TMDs exfoliated in
toluene with PS-NH2. The absorbance spectra are vertically displaced for clarity. photodetectors, a suspension of MoSe2 nanosheets modified
with PS-NH2 was carefully poured on a filter paper through
which the solvent with non-interacted PS-NH2 chains was
quickly removed. A micron-thick composite film was developed
on the filter paper, as shown in Fig. 3a. The surface and cross-
sectional structures of the composite film exhibit that few-layer
MoSe2 nanosheets were stacked with each other, in which the
normal surface of the nanosheets is preferentially aligned parallel
to the film normal direction. Subsequent thermal deposition of
metal electrodes gave rise to mechanically flexible arrays of two-
terminal, parallel-type photodetectors, as schematically depicted
in Fig. 3a. On illumination with a NIR laser with a wavelength
of 1,064 nm, our composite film became conductive due to photo-
excited
carriers
in
the
exfoliated
MoSe2
nanosheets. The
photocurrent increases with increasing laser power, yielding a
maximum Ion/Ioff ratio of B105 at a power density and bias distributed lateral dimensions ranging from 400 to 800 nm. To
demonstrate the ability of controlling the number of TMD layers
by our dispersion process with amine-terminated polymers, we
varied the centrifuge rate. Statistical analysis of various samples
with different centrifuge rates shows that the mean number of
layers decreases with the rate and at an optimized condition, a
few layered TMDs dispersion was obtained (Supplementary
Fig. 17). As expected, bulk and many layers of MoSe2 nanosheets
prepared by low centrifugation rate do not exhibit any noticeable
PL. In addition, electron microscopy results of both bulk and
exfoliated TMDs including MoS2, WS2, WSe2, ReS2, ZrTe2 and
NbSe2 with PS-NH2 in toluene evidence the universality of our
method (Supplementary Fig. 18). NIR photodetection of flexible MoSe2 nanosheets with PS-NH2. NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 To prepare a flexible composite film for use in high performance NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. 4 4 ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 2D TMD/polymer
composite on paper
a
MoSe2/PS-NH2
composite
NIR
laser
(i)
(ii)
(iii)
(iv)
–10
–5
0
5
10
1E–11
1E–9
1E–7
1E–5
1E–3
1E–9
1E–7
1E–5
1E–3
1E–7
1E–5
1E–3
1E–7
1E–5
1E–3
Dark
23.8
75.6
131.3
173.1
210.5
b
c
f
g
Laser
power
0
200
400
1,064nm@238mW cm
–2
Photocurrent (A)
Time(s)
122.1
122.4
122.7
Time(s)
23.1
23.4
23.7
1E4
1E3
1E2
ION/IOFF
PS/WS2
PS/ReS2
PS/WSe2
PS/ZrTe2
PS/NbSe2
PS/MoS2
PS/MoSe2
MoSe2/PS
MoSe2/PEO
MoSe2/PMMA
MoSe2/PBd
MoSe2/PSI
EQE(%)
Responsivity (A W–1)
104 103102101100
0.01
0.1
1
10
1E9
1E10
1E11
1E12
1E13
Detectivity (J)
228.5
238.8
173.1
131
75.6
–10
–5
0
5
10
0
Dark
23.8
131.3
173.1
210.5
238mW cm–2
238mW cm–2
23.8mW cm
–2
Voltage (V)
Voltage (V)
Current (A)
Current (A)
d
e
Au
Au
B
MoSe2
-
-
-
+
+
+
hv
Photogenerated
carriers
Intrinsic
-
6×10–4
–3×10–4
3×10–4
–6×10–4
75.6
EF
EF
EV
EC
photodetection performance of thin TMD composite films. (a) Schematic illustration and photographs of the tw
device cells consisting of MoSe2 nanosheets exfoliated with PS-NH2. The composite film was deposited on nylon m
on method. SEM images of the surface and cross-sectional structure of the composite film reveal that few-layer
ach other with the normal surface of the nanosheets preferentially aligned parallel to the film normal direction. (
d (iii and iv) 500 nm) (b) Linear and (c) semi-log scale I–V characteristics of the MoSe2 photodetector in the dark
IR light at a wavelength of 1,064 nm with a bias voltage of ±10 V. The photocurrent increases with increasing ligh
s in the exfoliated MoSe2 nanosheets. (d) Band diagram of the MoSe2 photodetector device. NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 (e) The correspond
external quantum efficiency values of the photodetector as a function of the NIR intensity at a bias voltage of 9
h
h t d t
t
d
lt
ti
ON
d OFF NIR li ht
ith
i t
it
f 238
W
2 B th th
it h O 2D TMD/polymer
composite on paper
a a MoSe2/PS-NH2
composite
NIR
laser
(iii)
(iv) 2D TMD/polymer
composite on paper
MoSe2/PS-NH2
composite
(i)
(ii)
(iii)
(iv)
–10
–5
0
5
10
1E–11
1E–9
1E–7
1E–5
1E–3
1E–9
1E–7
1E–5
1E–3
1E–7
1E–5
1E–3
1E–7
1E–5
1E–3
Dark
23.8
75.6
131.3
173.1
210.5
b
c
f
g
Laser
power
0
200
400
1,064nm@238mW cm
–2
Photocurrent (A)
Time(s)
122.1
122.4
122.7
Time(s)
23.1
23.4
23.7
1E4
1E3
1E2
ION/IOFF
PS/WS2
PS/ReS2
PS/WSe2
PS/ZrTe2
PS/NbSe2
PS/MoS2
PS/MoSe2
MoSe2/PS
MoSe2/PEO
MoSe2/PMMA
MoSe2/PBd
MoSe2/PSI
EQE(%)
Responsivity (A W–1)
104 103102101100
0.01
0.1
1
10
1E9
1E10
1E11
1E12
1E13
Detectivity (J)
228.5
238.8
173.1
131
75.6
–10
–5
0
5
10
0
Dark
23.8
131.3
173.1
210.5
238mW cm–2
238mW cm–2
23.8mW cm
–2
Voltage (V)
Voltage (V)
Current (A)
Current (A)
d
e
Au
Au
B
MoSe2
-
-
-
+
+
+
hv
Photogenerated
carriers
Intrinsic
-
6×10–4
–3×10–4
3×10–4
–6×10–4
75.6
EF
EF
EV
EC
Figure 3 | NIR photodetection performance of thin TMD composite films. (a) Schematic illustration and photographs of the two-term
photodetector device cells consisting of MoSe2 nanosheets exfoliated with PS-NH2. The composite film was deposited on nylon membrane
vacuum filtration method. SEM images of the surface and cross-sectional structure of the composite film reveal that few-layer MoSe2
stacked with each other with the normal surface of the nanosheets preferentially aligned parallel to the film normal direction. (Scale ba
(ii) 500 mm and (iii and iv) 500 nm) (b) Linear and (c) semi-log scale I–V characteristics of the MoSe2 photodetector in the dark and und
intensities of NIR light at a wavelength of 1,064 nm with a bias voltage of ±10 V. The photocurrent increases with increasing light intens
excited carriers in the exfoliated MoSe2 nanosheets. (d) Band diagram of the MoSe2 photodetector device. (e) The corresponding resp
detectivity and external quantum efficiency values of the photodetector as a function of the NIR intensity at a bias voltage of 9 V. NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 (f) P
behaviour of the photodetector under alternating ON and OFF NIR light with an intensity of 238 mWcm 2. Both the switch-ON and -
detector were B100 ms. (g) Ratios of the photocurrent to the dark current of the MoSe2 composites with different amine-terminated
current ratios of various TMD composites with PS-NH2 are also shown. All of the values were obtained at a light intensity of 238 mW (ii) (ii) (iii) b
–10
–5
0
5
10
0
Dark
23.8
131.3
173.1
210.5
238mW cm–2
Voltage (V)
Current (A)
6×10–4
–3×10–4
3×10–4
–6×10–4
75.6 –10
–5
0
5
10
1E–11
1E–9
1E–7
1E–5
1E–3
Dark
23.8
75.6
131.3
173.1
210.5
c
Laser
power
238mW cm–2
Voltage (V)
Current (A) b c Current (A) d
Au
Au
B
MoSe2
-
-
-
+
+
+
hv
Photogenerated
carriers
Intrinsic
-
EF
EF
EV
EC EQE(%)
Responsivity (A W–1)
104 103102101100
0.01
0.1
1
10
1E9
1E10
1E11
1E12
1E13
Detectivity (J)
228.5
238.8
173.1
131
75.6
23.8mW cm
–2
e d e e 1E–9
1E–7
1E–5
1E–3
1E–7
1E–5
1E–3
1E–7
1E–5
1E–3
f
0
200
400
1,064nm@238mW cm
–2
Photocurrent (A)
Time(s)
122.1
122.4
122.7
Time(s)
23.1
23.4
23.7 f g
1E4
1E3
1E2
ION/IOFF
PS/WS2
PS/ReS2
PS/WSe2
PS/ZrTe2
PS/NbSe2
PS/MoS2
PS/MoSe2
MoSe2/PS
MoSe2/PEO
MoSe2/PMMA
MoSe2/PBd
MoSe2/PSI
) g Figure 3 | NIR photodetection performance of thin TMD composite films. (a) Schematic illustration and photographs of the two-terminal, parallel-type
photodetector device cells consisting of MoSe2 nanosheets exfoliated with PS-NH2. The composite film was deposited on nylon membrane filter paper by a
vacuum filtration method. SEM images of the surface and cross-sectional structure of the composite film reveal that few-layer MoSe2 nanosheets are
stacked with each other with the normal surface of the nanosheets preferentially aligned parallel to the film normal direction. (Scale bars: (i) 6 mm;
(ii) 500 mm and (iii and iv) 500 nm) (b) Linear and (c) semi-log scale I–V characteristics of the MoSe2 photodetector in the dark and under different light
intensities of NIR light at a wavelength of 1,064 nm with a bias voltage of ±10 V. The photocurrent increases with increasing light intensity due to photo-
excited carriers in the exfoliated MoSe2 nanosheets. (d) Band diagram of the MoSe2 photodetector device. ARTICLE The photodetection performance is independent of
film thickness ranging from 500 nm to 2 mm, which implies that
the laser was able to penetrate through the entire micron-thick
film (Supplementary Fig. 21). In addition, no degradation of
PS-NH2 was observed on NIR and visible laser exposure
(Supplementary Fig. 22). The performance of our MoSe2/PS-NH2 composite films
considering the Ion/Ioff ratio, detectivity and response time is
even comparable to the results of previous works of a visible
photodetector made of single- or few-layer TMDs. Although the
switching shorter than 100 ms were not able to be examined due
to the limitation of our switching facility, the switching
performance of our composite film is very comparable to that
with the monolayer device mechanically cleaved13. For the
detailed switching dynamics, we provide a zoom-in behaviour in
Fig. 3f. Only fast rising transient is observed, implying that the
increased photocurrent is largely determined by the photoelectric
effect, that is, band-to-band excitation, without the reversible
charge transfer from adsorbed molecules to TMD nanosheets. The OFF transient is similar to the ON transient, and comparable
to other published results13,16,17,18,46, suggesting that a fast
band-to-band recombination is dominant with absence of the
charge-transfer effect. pp
y
g
The photocurrent (Iph) arising from photo-excited photo-
carriers has in general the relation of IphpPa, and in consequence
the current linearly increases with laser power in both log scale13. In our system, a similar linear relation was observed in the low
power regime but the linearity was deviated at high power
4200 mW cm 2 with another slope (Supplementary Fig. 19). The rapid increase of photocurrent at high power illumination is
known as superlinearity dependence, which has been found in
several materials systems but no satisfactory understanding has
been made49–53. Recently, the superlinear photoresponse was also
observed in TMD system in which CVD-grown monolayers of
chemically alloyed TMDs exhibited very strong superlinearity in
particular at high power regimes, which is similar to our results54. The superlinear behaviour at high light intensity was explained
using
a
simplified
model
with
three
different
types
of
recombination centres in which initially empty and filled intra-
gap states exist close to the conduction and valence band,
respectively. At increased laser intensity, the occupancy change of
these centres arising from shifts in the quasi Fermi levels makes
the carrier lifetime longer and in turn the recombination rate
slower, leading to superlinear photocurrent. ARTICLE ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 voltage of 238 mW cm 2 and 10 V, respectively, as shown in
Fig. 3b,c (Supplementary Fig. 19). effect56. In this case, the ON/OFF photocurrent ratio is strongly
deteriorated with increasing switching cycle. This is because the
air-exposed TMD channel exhibits strong charge-transfer effect
between TMDs and the adsorbed H2O or O2, such that more
photo-induced
carriers
contribute
to
the
charge
transfer
with decreasing the switching cycle. On the contrary, our
photoresponse shows nearly identical ON/OFF photocurrent
ratio regardless of the switching cycle (Supplementary Fig. 24). The near zero variation of ON/OFF photocurrent ratio with
switching cycle is possibly because the TMD nanosheets are
protected by thin polymer composites dispersed in the matrix,
that is, TMDs are not exposed to the air. Dark current measured
in air was not different from that under vacuum (Supplementary
Fig. 24). Similar to the encapsulated TMD devices57, the
composite
amine-terminated
polymers
effectively
prevent
from adsorbing H2O or O2 redox couple, suppressing the
charge-transfer effect, with which we are able to achieve stable
photodetection operation. There exist mainly three sources of photocurrent arising from
TMDs on visible and NIR exposure: (1) photoconduction by
photo-induced band excited carriers that can be dissociated into
free electrons and holes thermally or by a large electric field; and
(2) one by photo-excited carriers decaying into heat that makes
TMDs warm, resulting in the reduction of electrical resistance,
that
is,
bolometric
photocurrent. (3)
Photothermoelectric
generation of current by light illumination across metal–TMD
interface. In our TMD composite film, we believe that the model
by the photo-induced band excitation was dominant while both
bolometric and photothermoelectric effect are very marginal
(Supplementary Fig. 20). As schematically shown in a band
diagram of our two-terminal device of Fig. 3d, the photo-excited
carriers in conduction band of MoSe2 are drifted to Au electrode
with quasi-Ohmic contact under bias field4,18,46,47. q
The amine-terminated polymer matrix may further promote
exciton dissociation on NIR exposure by two possible mechan-
isms as evidenced in polymer composites with networked
semiconducting carbon nanotubes48: (1) Exciton separation by
thermal energy built up in the insulating polymer around TMDs;
and (2) dissociation by enhanced local electric field at the
interface of the insulating polymer and TMDs due to the potential
barrier formed by the insulating polymer (Supplementary
Note 3). NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. ARTICLE NIR photodetectors consisting of MoSe2 nanosheets were
readily fabricated with other amine-terminated polymers such as
PEO, poly(methyl methacrylate), PB and PIS, as shown in Fig. 3g
(Supplementary Fig. 25). All of the MoSe2 composites showed
excellent photodetection with a high Ion/Ioff ratio (104) and a
detectivity 41012, similar to PS-NH2. It is also straightforward to
develop
PS-NH2-based
composite
films
containing
various
TMDs including MoS2, WS2, ReS2, WSe2, ZrTe2 and NbSe2. All of the photodetectors responded on NIR illumination with
little variation of the detection performance, which depends on
the characteristic photoelectronic properties
of the TMDs
(Supplementary Fig. 26). Band-selective photodetection of mixed TMDs with PS-NH2. More interestingly, our solution process is capable of fabricating
composite films with various TMDs in the same polymer matrix,
that is, PS-NH2, and this method offers a convenient route for
band-selective photodetection by simple mixing of two or more
different TMDs (Supplementary Note 4). For instance, the
excellent photodetection properties of MoSe2 and MoS2 on
illumination at 1,064 nm and 532 nm, respectively, immediately
suggest that the performance of a photodetector can be tuned by
mixing two TMDs in a PS-NH2 matrix (Supplementary Fig. 27). Moreover, our approach allows for a novel photodetector that can
detect over a broad optical spectrum range in both visible and
NIR regions, as schematically shown in Fig. 4a. Solution-blended
composite films of MoSe2 and MoS2 in a PS-NH2 matrix with
different compositions showed homogeneous mixing of the two
TMDs, as confirmed by energy dispersive X-ray spectroscopy
(EDX) in Fig. 4b (Supplementary Figs 28–30). g
p
p
Both the specific detectivity (D*) and external quantum
efficiency values55 of our detector increased with increasing
laser power up to 4 1012 Jones and 3 103, respectively, as
shown in Fig. 3e (Supplementary Note 3). The maximum
photoresponsivity of our device was B16 A W 1 at a power
intensity of 238 mW cm 2. Notably, our NIR photodetector
arrays demonstrated very high cell-to-cell and batch-to-batch
reliabilities (Supplementary Fig. 23). The device also exhibited a
very fast current switching feature in which a sharp response and
decay of photocurrent within B100 ms was observed on turn-ON
and -OFF of the pulsed laser illumination, as shown in Fig. 3f
(Supplementary Fig. 24). NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 (e) The corresponding responsivity, specific
detectivity and external quantum efficiency values of the photodetector as a function of the NIR intensity at a bias voltage of 9 V. (f) Photoswitching
behaviour of the photodetector under alternating ON and OFF NIR light with an intensity of 238 mWcm 2. Both the switch-ON and -OFF times of the
detector were B100 ms. (g) Ratios of the photocurrent to the dark current of the MoSe2 composites with different amine-terminated polymers. The
current ratios of various TMD composites with PS-NH2 are also shown. All of the values were obtained at a light intensity of 238 mWcm 2. 5 5 NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications ARTICLE On the other hand, blended MoSe2/MoS2 (5:5) composite film was investigated at both the wavelengths of
32 nm with a light intensity of 230 mWcm 2 and 63 mWcm 2, respectively. (g) Photographs of in situ measurements of the flexible
at different bending radii. MoSe
MoSe2/MoS
/MoS2/NH
/NH2-PS
-PS
composite for broad range
composite for broad range
detection
detection
MoSe2/MoS2/NH2-PS
composite for broad range
detection
NIR
Green
a
Mo
Se
S
Mo
Se b
Mo Se S
C
S
C
MoSe2/MoS2
5:5
MoSe2
MoS2 b a d
10:0 8:2
6:4
5:5
4:6
2:8 0:10
1E–9
1E–7
1E–5
1E–3
Current (A)
Dark
1,064 nm@238mW cm–2
532 nm@63mW cm–2
MoSe2:MoS2 d 600
800
1,000
1,200
8:2
6:4
5:5
4:6
2:8
0:10
Wavelength (nm)
Photocurrent (a.u.)
c
MoSe2/MoS2= 10:0 c MoSe2:MoS2 e
1,064 nm@238mW cm–2
532 nm@63mW cm–2
1E11
1E12
1E13
1E10
1E9
5:5
4:6
2:8 0:10
10:0 8:2
6:4
1E9
1E10
1E11
Detectivity (J)
Detectivity (J)
MoSe2:MoS2 e Detectivity (J) MoSe2:MoS2 f
ION/IOFF
101
100
10–1
MoSe2–1,064 nm
MoS2–532 nm
5:5–1,064 nm
Bending radius (mm)
Flat
1E5
1E3
1E1
5:5–532 nm g
Bending
radius:
2.5 mm
1
0.75
0.2 f g Bending radius (mm) Figure 4 | Flexible TMD composite films for band-selective photodetection. (a) Schematic illustration of the photodetector containing a mixture of
MoSe2 and MoS2 nanosheets exfoliated with PS-NH2. (b) Energy dispersive X-ray spectroscopy (EDX) mapping of blended MoS2/MoSe2 (5:5), MoSe2 and
MoS2 films with PS-NH2. Elemental mapping of the individual atoms in the MoS2/MoSe2 (5:5) film are also showed. (Mo, Blue; Se, Yellow; S, Green; C,
Red). The Se and S atoms are uniformly distributed over the composite film, which implies that both MoSe2 and MoS2 are mixed homogeneously. (In all
cases: the scale bar, 2 mm) (c) Photoresponse performance of blended composites with different mixing ratio of MoSe2 and MoS2 with PS-NH2 as a
function of wavelength in the visible to NIR. (d) Photocurrent and (e) specific detectivity as functions of the composition of the MoSe2 and MoS2 mixtures
embedded in PS-NH2 at wavelengths of 532 nm and 1,064 nm with light intensities of 63 mWcm 2 and 230 mWcm 2, respectively. (f) Ratios of the
photocurrent to the dark current of the detectors containing MoSe2, MoS2 and blended MoSe2/MoS2 (5:5) composites with PS-NH2 as a function of the
bending radius. ARTICLE In conventional TMD phototransistors
(air-exposed TMDs as a channel material), the photo-switching
characteristics are primarily determined by the photoconductive NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. 6 ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 MoSe
MoSe2/MoS
/MoS2/NH
/NH2-PS
-PS
composite for broad range
composite for broad range
detection
detection
MoSe2/MoS2/NH2-PS
composite for broad range
detection
NIR
Green
a
b
d
e
Mo Se S
C
g
Bending
radius:
2.5 mm
1
0.75
0.2
10:0 8:2
6:4
5:5
4:6
2:8 0:10
1E–9
1E–7
1E–5
1E–3
Current (A)
Dark
1,064 nm@238mW cm–2
1,064 nm@238mW cm–2
532 nm@63mW cm–2
532 nm@63mW cm–2
1E11
1E12
1E13
1E10
1E9
5:5
4:6
2:8 0:10
10:0 8:2
6:4
1E9
1E10
1E11
Detectivity (J)
Detectivity (J)
Mo
Se
S
f
ION/IOFF
101
100
10–1
MoSe2–1,064 nm
MoS2–532 nm
5:5–1,064 nm
Bending radius (mm)
Flat
1E5
1E3
1E1
5:5–532 nm
Mo
Se
S
C
600
800
1,000
1,200
8:2
6:4
5:5
4:6
2:8
0:10
Wavelength (nm)
Photocurrent (a.u.)
c
MoSe2/MoS2
5:5
MoSe2:MoS2
MoSe2/MoS2= 10:0
MoSe2:MoS2
MoSe2
MoS2
ble TMD composite films for band-selective photodetection. (a) Schematic illustration of the photodetector containing a mixture of
2 nanosheets exfoliated with PS-NH2. (b) Energy dispersive X-ray spectroscopy (EDX) mapping of blended MoS2/MoSe2 (5:5), MoSe2 and
PS-NH2. Elemental mapping of the individual atoms in the MoS2/MoSe2 (5:5) film are also showed. (Mo, Blue; Se, Yellow; S, Green; C,
d S atoms are uniformly distributed over the composite film, which implies that both MoSe2 and MoS2 are mixed homogeneously. (In all
bar, 2 mm) (c) Photoresponse performance of blended composites with different mixing ratio of MoSe2 and MoS2 with PS-NH2 as a
elength in the visible to NIR. (d) Photocurrent and (e) specific detectivity as functions of the composition of the MoSe2 and MoS2 mixtures
S-NH2 at wavelengths of 532 nm and 1,064 nm with light intensities of 63 mWcm 2 and 230 mWcm 2, respectively. (f) Ratios of the
the dark current of the detectors containing MoSe2, MoS2 and blended MoSe2/MoS2 (5:5) composites with PS-NH2 as a function of the
MoSe2 and MoS2 composites were examined at a wavelength of 1,064 nm with a light intensity of 230 mWcm 2 and 532 nm with a light
mWcm 2, respectively. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. & 2015 Macmillan Publishers Limited. All rights reserved. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications Discussion The origin of photocurrent from MoS2 and MoSe2 nanosheets in
composites was further revealed by the behaviour of the photo-
induced, carrier-relaxation dynamics of the films. Being strongly
quantum confined nature of TMD nanosheets, a well-established
fact is that TMDs become a direct-gap semiconductor when the
thickness is reduced down to a monolayer limit, and the band-to-
band exciton generation/recombination is dominant. At the same
time, the increased surface-to-volume ratio leads to fact that the
photo-induced exciton recombination suffers enhanced non-
radiative
recombination,
where
such
changes
are
strongly
dependent of the number of layers. Thus, understanding the
photo-induced response of TMD nanosheets and the photo-
detector performance requires detailed information on the light-
induced, time-dependent exciton dynamics. It is known that for
2D TMDs, the non-radiative recombination contains multiple
exponential decay components, typically in the sub-nanosecond
time scale, which are not easily accessible by conventional
electronic measurements. In addition, ultrafast spectroscopy
measurements can provide not only qualitative information on
the layer-number-dependent non-radiative recombination, but
also afford quantitative evaluation on the extracted lifetime. Two sets of ultrafast time-resolved pump–probe spectroscopy
measurements were performed: optical-pump and optical-probe
(OP–OP) and optical-pump and THz-probe (OP–TP) spectro-
scopy (Supplementary Fig. 35). p
g
Our
TMD
composite
photodetector
demonstrated
high
mechanical flexibility. The arrays of photodetectors fabricated
on conventional filter paper are readily bendable and photo-
current was detected in situ under various bending conditions, as
shown in Fig. 4g. Figure 4f shows three representative composite
films with PS-NH2: neat MoSe2, MoS2 and blended MoS2/MoSe2
(5:5). For all three composites, the initial Ion/Ioff ratio values
barely changed as a function of the bending radius. The values
were still maintained even at a bending radius of B200 mm. Our
mechanically flexible TMD composite photodetectors are also
resistant to multiple and repeated deformation. After 1,000
bending cycles at a bending radius of 1 mm, the devices worked
properly without any significant deterioration of performance
(Supplementary Fig. 34). To examine the effectiveness of liquid exfoliation of individual
TMDs and the corresponding photoresponse of uniformly
blended TMDs composite films, we first performed the spectrally
and temporally resolved OP–OP measurement on the individual
MoS2 and MoSe2 nanosheets modified with PS-NH2, as shown in
Fig. 5a,b, and the results are later compared with those from the
blended MoS2/MoSe2 composite (Supplementary Note 5). NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 To demonstrate broadband photoresponse of our blended
composites more in detail, we employed a tunable and highly
selective laser system (Supplementary Fig. 31) and examined
photoresponse performance of blended composites with different
mixing ratio of MoS2 and MoSe2 as a function of wavelength as
shown in Fig. 4c. The results clearly show that the wavelength at
the maximum photocurrent was controlled by the blend ratio. The band-selective photodetection performance of solution-
blended composite films of MoSe2 and MoS2 in a PS-NH2 matrix
with different compositions was examined at two representative
wavelengths—1,064
and
532 nm. The
photocurrent
and
photodetectivity arising from NIR almost linearly decrease while
those from visible light increase with increasing amount of
MoS2 in the composites, as shown in Fig. 4d,e, respectively
(Supplementary Fig. 32). The results clearly indicate that
broadband detection is possible, for example, by using a
MoS2/MoSe2 (5:5) composite film. Blended composite films
(Supplementary Fig. 33) instantly respond to both 1,064 and
532 nm light at the millisecond level, which is very similar to a
MoSe2 composite (Fig. 3f). ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 ARTICLE MoSe2 and MoS2 composites were examined at a wavelength of 1,064 nm with a light intensity of 230 mWcm 2 and 532 nm with a light
intensity of 63 mWcm 2, respectively. On the other hand, blended MoSe2/MoS2 (5:5) composite film was investigated at both the wavelengths of
1,064 nm and 532 nm with a light intensity of 230 mWcm 2 and 63 mWcm 2, respectively. (g) Photographs of in situ measurements of the flexible
photodetectors at different bending radii. 7 7 & 2015 Macmillan Publishers Limited. All rights reserved. Discussion Here
ultrashort 400-nm pump pulse excited the carriers into the a
0
5
10
650
675
700
725
ΔT/T0 (%)
Pump–probe delay(ps)
Probe wavelength (nm)
–2.0
–0.53
0.96
2.5
3.9
MoSe2 a
b
0
5
10
650
675
700
725
ΔT/T0 (%)
ΔT/T0 (%)
Pump–probe delay(ps)
Pump–probe delay(ps)
Probe wavelength (nm)
Probe wavelength (nm)
–2.0
–0.53
0.96
2.5
3.9
MoSe2
0
5
10
650
675
700
725
750
–7.2
–2.3
2.6
7.4
12
MoS2
c
Pump–probe delay(ps)
Pump–probe delay(ps)
Pump-probe delay (ps)
Pump-probe delay(ps)
0
20
40
60
80
100
0
50
0.1
1
Bulk
Exfoliated
0.0
0.5
1.0
d
0
50
100
150
200
250
0.0
0.2
0.4
0.6
0.8
1.0
Exfoliated
Bulk
Monolayer
ΔT (norm.)
ΔE (norm.)
ΔE (norm.)
ΔT (norm.)
1
10
100
0.0
0.5
Figure 5 | Ultrafast carrier-relaxation dynamics of the TMD composite films. Two-dimensional plots of transient differential transmission DT/T0 spectra
of the TMD/polymer film. Each plot represents the measurement result—(a) MoSe2 and (b) MoS2. (c) Time-resolved optical-pump and optical-probe
data. Normalized DT dynamics are shown for polymer-exfoliated MoS2 nanosheets (red), bulk (black) and monolayer MoS2 (blue). Inset: DT dynamics
plotted with a log scale on x-axis. (d) Transient dynamics measured by the optical-pump and THz-probe spectroscopy. Pump-induced field change (DE) of
the bulk and polymer-exfoliated MoS2 are plotted as a function of the pump–probe delay. Both of the signals were fitted with a bi-exponential decay. Inset: transient THz dynamics plotted on the log scale to emphasize the slow decay dynamics of the exfoliated sample. b
ΔT/T0 (%)
Pump–probe delay(ps)
Probe wavelength (nm)
0
5
10
650
675
700
725
750
–7.2
–2.3
2.6
7.4
12
MoS2 b a c
Pump–probe delay(ps)
Pump-probe delay(ps)
0
50
100
150
200
250
0.0
0.2
0.4
0.6
0.8
1.0
Exfoliated
Bulk
Monolayer
ΔT (norm.)
ΔT (norm.)
1
10
100
0.0
0.5 Pump–probe delay(ps)
Pump-probe delay (ps)
0
20
40
60
80
100
0
50
0.1
1
Bulk
Exfoliated
0.0
0.5
1.0
d
ΔE (norm.)
ΔE (norm.) d c Pump–probe delay(ps) ion dynamics of the TMD composite films. Two-dimensional plots of transient differential transmission DT/T0 spectra Figure 5 | Ultrafast carrier-relaxation dynamics of the TMD composite films. Two-dimensional plots of trans fast carrier-relaxation dynamics of the TMD composite films. Two-dimensional plots of transient differential transmis Figure 5 | Ultrafast carrier-relaxation dynamics of the TMD composite films. Two-dimensional plots of transient differential transmission DT/T0 spectra
of the TMD/polymer film. Discussion Each plot represents the measurement result—(a) MoSe2 and (b) MoS2. (c) Time-resolved optical-pump and optical-probe
data. Normalized DT dynamics are shown for polymer-exfoliated MoS2 nanosheets (red), bulk (black) and monolayer MoS2 (blue). Inset: DT dynamics
plotted with a log scale on x-axis. (d) Transient dynamics measured by the optical-pump and THz-probe spectroscopy. Pump-induced field change (DE) of
the bulk and polymer-exfoliated MoS2 are plotted as a function of the pump–probe delay. Both of the signals were fitted with a bi-exponential decay. Inset: transient THz dynamics plotted on the log scale to emphasize the slow decay dynamics of the exfoliated sample. Figure 5 | Ultrafast carrier relaxation dynamics of the TMD composite films. Two dimensional plots of transient differential transmission DT/T0 spectra
of the TMD/polymer film. Each plot represents the measurement result—(a) MoSe2 and (b) MoS2. (c) Time-resolved optical-pump and optical-probe
data. Normalized DT dynamics are shown for polymer-exfoliated MoS2 nanosheets (red), bulk (black) and monolayer MoS2 (blue). Inset: DT dynamics
plotted with a log scale on x-axis. (d) Transient dynamics measured by the optical-pump and THz-probe spectroscopy. Pump-induced field change (DE) of
the bulk and polymer-exfoliated MoS2 are plotted as a function of the pump–probe delay. Both of the signals were fitted with a bi-exponential decay. Inset: transient THz dynamics plotted on the log scale to emphasize the slow decay dynamics of the exfoliated sample. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. 8 ARTICLE ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 continuum, and the broadband white-light pulse was used to
probe the spectrally resolved exciton transients. For MoSe2
nanosheets, Fig. 5a shows pronounced peak at 710 nm (dashed
line), that is, A-exciton resonance of MoSe2. After a few
picosecond decays (B5 ps), negative signal (DT/T0o0) was
observed below/above the A-exciton resonance. The layer-
number-dependent dynamics show clear difference on the
carrier-relaxation dynamics between the exfoliated, bulk and
monolayer MoSe2 as shown in Fig. 5c (Supplementary Fig. 36). Being strongly quantum confined 2D nature of TMD, the large
surface-to-volume ratio implies multiple and yet very fast exciton
dissociation pathways. On the contrary, the carrier relaxation in
bulk typically exhibits much slower responses. Figure 5c shows
that our TMD/polymer composite film shows very different
carrier-relaxation dynamics compared with the bulk. This
corroborates that our TMD nanosheets are well-exfoliated. Similar spectral feature (negative DT/T0 around the A exciton
of MoS2 after 5-ps delay) was observed for MoS2 nanosheets, as
shown in Fig. 5b. highly doped MoS2 monolayer. Because the trion can be observed
in the high doping case, the possibility of trion formation is low
for the weakly doped system. In fact, the mechanically exfoliated
or CVD-grown MoS2 without any electrostatic doping or
chemical doping shows a non-degenerated n-type behaviour,
so that it is unlikely that the trion formation is contributed to the
THz conductivity dynamics for our case. The results of both
the OP–OP and OP–TP spectroscopy analyses suggest not only
the effectiveness of our exfoliation process with amine-terminated
polymers but also the independent response of MoSe2 and MoS2
nanosheets in a blended film, which validates our approach for a
band-selective detector. In summary, we demonstrated a scalable platform suitable for
fabricating various flexible TMD/polymer composite films in
which few-layer TMD nanosheets were properly separated from
each other and embedded in a polymer matrix. The pivotal
process for the successful platform is the extremely efficient liquid
exfoliation of TMDs with primary amine-terminated polymers
whose end-functional amines were firmly anchored on the surface
of TMDs. More interestingly, our MoSe2 and MoS2 composites
were highly photoconductive even at extreme bending radii as
low as 200 mm on illumination of NIR and visible light,
respectively. Furthermore, simple solution mixing of MoSe2 and
MoS2 gave rise to blended composite films in which the
photodetection properties were tunable. Methods
E f li ti Exfoliation of MoSe2 with amine-end-functionalized polymers. TMD powders
were purchased from Alfa Aeser and Sigma Aldrich. The amine-terminated
polymers and polystyrene homopolymer were procured from Polymer Source Inc.,
Doval, Canada. The physical properties of the TMD powders and polymers are
listed in the Supplementary Tables 1 and 2, respectively. All of the solvents were
purchased from Sigma Aldrich. All of the materials were used as received unless
otherwise stated. In a typical procedure, 250 mg of bulk MoSe2 powder and 25 mg
of PS-NH2 were added into a 30-ml glass vial containing 25 ml of toluene. The
solution was sonicated for 45 min by using a tip sonicator with a 10-s On pulse and
a 5-s OFF pulse at an amplitude of 50% in an ice bath. The dispersions were
allowed to settle for 24 h, and then the top dispersion was decanted and centrifuged
for 30 min at 1,500 r.p.m. to remove the unexfoliated and large particles. After
centrifugation, the top half of the dispersion was collected and the concentration of
MoSe2 nanosheets was determined by standard gravimetric analysis. g
The THz probe provides a straightforward measure of the
photo-induced conductivity dynamics due to the low-energy
nature of THz radiation (1 THz ¼ 4.136 meV; Supplementary
Note 6). In addition, the OP–TP measurements allowed us to
examine the validity of liquid polymer exfoliation of TMDs from
the bulk, in which the photogenerated THz intraband carrier
relaxation is expected to show different conductivity dynamics
between the exfoliated TMD-polymer nanosheets and the bulk
(Supplementary Figs 37 and 38). In Fig. 5d, we directly compare
the THz dynamics of bulk MoS2 (black) with the few-layer MoS2
nanosheets exfoliated with PS-NH2 (red). Immediately after
photoexcitation, both the bulk and few-layer MoS2 show almost
the same rising dynamics. This rapidly rising signal reflects the
extremely fast (within a 1-ps THz pulse width) intraband carrier
relaxation from the continuum to the bound exciton state. For the
long decay component, however, the time scale of the two
samples is largely different. The inset in Fig. 5d clearly shows that
the
MoS2-polymer
nanosheets
possess
much
faster
decay
dynamics than that of bulk MoS2, presumably due to the
interfacial traps arising from the high surface-to-volume ratio of
the few-layer MoS2 nanosheets56,58,59. ARTICLE The MoS2/MoSe2 (5:5)
film showed broad range photodetection suitable for both visible
and NIR spectra, as confirmed by photo-induced, carrier-
relaxation dynamics. g
It should be, however, noted that one should be cautious to
interpret the optical transient responses since there exist multiple
reasons for the observed responses such as exciton linewidth
broadening, resonance shift and biexcition formation, together
with defect- and Auger-induced recombination. We observed
both linewidth broadening and exciton energy shift in our
nanocomposite samples but it is not trivial to exactly identify the
physical origin of the transient responses from our TMD
nanocomposites. For instance, due to the dispersive characters
of the MoS2 sheet solution exfoliated with PS-NH2, inhomoge-
neous broadening of A and B resonances might occur, giving rise
to the energy shift. In addition, the ‘spectral wing’ of B exciton
overlapped with that of A exciton for the pump-excited non-
equilibrium response may result in the energy shift. Under high
pump excitation condition, Auger effect may influence our
measured signals. In spite of some unambiguity for interpreting
the transient responses, the results sufficiently support our claims
that our blended MoS2/MoSe2 composite is well-dispersed
individually, rather than just simply mixing two dissimilar
TMD powders, corroborating the band-selective photodetection
mechanism of Fig. 4. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. & 2015 Macmillan Publishers Limited. All rights reserved. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 recorded using a Dmax/2500-H (Rigaku, Japan). The nanostructures of the TMDs
were examined by tapping mode atomic force microscopy (Nanoscope IV Digital
Instruments) in the height and phase contrast mode, field emission scanning
electron microscopy (FESEM, JEOL JSM-7001F) with an acceleration voltage of
10 kV and high resolution transmission electron microscopy (HRTEM, JEOL
2100F) at 200 kV in the bright field. TEM samples were prepared by drop casting
the dispersions on a holy carbon grid, followed by drying under vacuum for 24 h at
50 C. Selected area electron diffraction patterns were obtained in the HRTEM
analysis. Energy dispersive X-ray (EDX) spectra of the TMD/polymer composite
films were obtained using an EDX spectrometer by FESEM with an acceleration
voltage of 10 kV. The electrical properties of all devices were measured at room
temperature in air with a Hewlett-Packard 4145B semiconductor parameter ana-
lyser. The 532 nm and 1,064 nm wavelength light were generated from different
continuous-wave semiconductor diode laser sources, Shanghai dream Lasers
Technology Co., Ltd., Model number: SDL-532-005T and Qbic Laser system,
Model number: QBFDL-1064-150-1000, respectively. A laser power meter was
used to measure the incident power of the laser pulses. The exciton formation and
recombination kinetics of the MoSe2 and MoS2 composite film with PS-NH2 was
measured with ultrafast optical-pump and optical-probe spectroscopy. The
photogenerated intraband carrier-relaxation dynamics of few-layer MoS2
nanosheets exfoliated by PS-NH2 was examined with ultrafast OP–TP
spectroscopy. The detailed experimental set-up for the ultrafast spectroscopy 26. Coleman, J. N. et al. Two-dimensional nanosheets produced by liquid
exfoliation of layered materials. Science 331, 568–571 (2011). 26. Coleman, J. N. et al. Two-dimensional nanosheets produced by liquid exfoliation of layered materials. Science 331, 568–571 (2011) 27. Zhou, K. G., Mao, N. N., Wang, H. X., Peng, Y. & Zhang, H. L. A mixed-solvent
strategy for efficient exfoliation of inorganic graphene analogues. Angew. Chem. Int. Ed. 50, 10839–10842 (2011). 28. Zeng, Z. et al. Single-layer semiconducting nanosheets: high-yield preparation
and device fabrication. Angew. Chem. Int. Ed. 50, 11093–11097 (2011). g
29. Smith, R. J. et al. Large-scale exfoliation of inorganic layered compounds in
aqueous surfactant solutions. Adv. Mater. 23, 3944–3948 (2011). 30. Cunningham, G. et al. Solvent Exfoliation of transition metal dichalcogenides:
dispersibility of exfoliated nanosheets varies only weakly between compounds. ACS Nano 6, 3468–3480 (2012). 31. May, P., Khan, U., Hughes, J. M. & Coleman, J. N. References et al. Enhanced catalytic activity in strained chemically exfoliated 11. Voiry, D. et al. Enhanced catalytic activity in strained chemically exfoliated
WS2 nanosheets for hydrogen evolution. Nat. Mater. 12, 850–855 (2013). y
42. Tonndorf, P. et al. Photoluminescence emission and raman response of
monolayer MoS2, MoSe2, and WSe2. Opt. Exp. 21, 4908–4916 (2013). y
y
y
y
WS2 nanosheets for hydrogen evolution. Nat. Mater. 12, 850–855 (2013). 12. Yin, Z. et al. Single-layer MoS2 phototransistors. ACS Nano 6, 74–80 (2012). 43. Eda, G. et al. Photoluminescence from chemically exfoliated MoS2. Nano Lett. 11, 5111–5116 (2011). 13. Lopez-Sanchez, O., Lembke, D., Kayci, M., Radenovic, A. & Kis, A. Ultrasensitive photodetectors based on monolayer MoS2. Nat. Nanotechnol. 8,
497–501 (2013). 44. Shaw, J. C. et al. Chemical vapor deposition growth of monolayer MoSe2
nanosheets. Nano Res. 7, 1–7 (2014). 14. Zhang, W. et al. High-gain phototransistors based on a CVD MoS2 monolayer. Adv. Mater. 25, 3456–3461 (2013). 45. Lee, Y.-H. et al. Synthesis and transfer of Single-layer transition metal disulfides
on diverse substrates. Nano Lett. 13, 1852–1857 (2011). on diverse substrates. Nano Lett. 13, 1852–1857 (2011). 15. Perea-Lo´pez, N. et al. Photosensor device based on few-layered WS2 films. Adv. Funct. Mater. 23, 5511–5517 (2013). 46. Cunningham, G. et al. Large variations in both dark- and photoconductivity in
nanosheet networks as nanomaterial is varied from MoS2 to WTe2. Nanoscale
7, 198–208 (2015). 16. Chang, Y.-H. et al. Monolayer MoSe2 grown by chemical vapor deposition for
fast photodetection. ACS Nano 8, 8582–8590 (2014). 47. Lembke, D. & Kis, A. Breakdown of high-performance monolayer MoS2
transistors. ACS Nano 6, 10070–10075 (2012). 17. Xia, J. et al. CVD synthesis of large-area, highly crystalline MoSe2 atomic
layers on diverse substrates and application to photodetectors. Nanoscale 6,
8949–8955 (2014). 48. Pradhan, B. et al. Carbon nanotube-polymer nanocomposite infrared sensor. Nano Lett. 8, 1142–1146 (2008). 18. Cunningham, G. et al. Photoconductivity of solution-processed MoS2 films. J. Mater. Chem. C 1, 6899–6904 (2013). 49. Rose, A. Recombination processes in insulators and semiconductors. Phy. Rev. 97, 322–333 (1955). 19. Novoselov, K. S. et al. Two-dimensional atomic crystals. Proc. Natl Acad. Sci. USA 102, 10451–10453 (2005). 50. Bakr, N. A. Anomalous photoconductive transport properties of As2Se3 films. Egypt. J. Sol. 25, 13–21 (2002). 20. Bertolazzi, S., Brivio, J. & Kis, A. Stretching and breaking of ultrathin MoS2. ACS Nano 5, 9703–9709 (2011). gyp
51. Kolomiets, B. T. & Lyubin, V. M. ARTICLE Role of solubility parameters
in understanding the steric stabilization of exfoliated two-dimensional
nanosheets by adsorbed polymers. J. Phys. Chem. C 116, 11393–11400 (2012). anosheets by adsorbed polymers. J. Phys. Chem. C 116, 11393–11 32. Liu, J. Q. et al. Preparation of MoS2-Polyvinylpyrrolidone nanocomposites for
flexible nonvolatile rewritable memory devices with reduced graphene oxide
electrodes. Small 8, 3517–3522 (2012). 33. Yoo, D., Kim, M., Jeong, S., Han, J. & Cheon, J. Chemical synthetic strategy
for single-layer transition-metal chalcogenides. J. Am. Chem. Soc. 136,
14670–14673 (2014). 34. Velusamy, D. B. et al. High throughput modification of chemically reduced
graphene oxides by a conjugated block copolymer in non-polar medium. J. Mater. Chem. 22, 25183–25189 (2012). Methods
E f li ti It is worth mentioning
that the existing THz study58 performed similar ultrafast THz
experiments
and
reported
the
transient
decrease
of
THz
conductivity after optical excitation, which is quite different
compared
with
our
measurements. There,
the
negative
conductivity dynamics was attributed to the trion formation in Photodetector fabrication. To fabricate the devices, stock solutions were
centrifuged for 90 min at 15,000 r.p.m. to remove the excess non-interacted
polymers in the dispersions. Then, the precipitate was collected and dried to
remove the solvents. The resultant powder consisted of B8:2 (w/w) ratio of MoSe2
and PS-NH2. The desired amount of powder was dispersed in the solvent by bath
sonication for 20 min and then filtered under vacuum onto a nylon membrane
filter paper with a pore size of 200 nm and a diameter of 25 mm. For the fabrication
of the mixture of the TMD composite films, first, powder of the individual TMD
nanosheets with polymers was dispersed in the solvent. Then, the solutions were
mixed together at different weight ratios by a simple solution blending method and
deposited on filter paper. The resulting film was dried in a vacuum oven at 60 C
for 4 h. Parallel Au electrodes with thicknesses of 50 nm were deposited onto a
MoSe2 film by thermal evaporation under a vacuum of 10 6 torr using a patterned
shadow mask. The length and width of the channels were 50 mm and 200 mm,
respectively. Equipment and characterization. A horn probe tip sonicator (VibraCell CVX;
750 W) was used to exfoliate the TMDs with amine-terminated polymers. Centrifugation was carried out using a Hettich Mikro 22R centrifuge. The optical
absorbance spectra were measured by a ultraviolet–visible–NIR spectrophotometer
(JASCO V-530) using 1-cm quartz cuvettes. FT-IR studies were performed using a
JASCO FT-IR 300E apparatus (Tokyo, Japan) with KBr as a standard. The
thermogravimetric analysis (TGA) of the samples was carried out using a TA Q500
thermal analyser at a heating rate of 10 C min 1 under a nitrogen atmosphere. X-ray photoelectron spectroscopy (K-alpha Thermo VG, .K.) measurements were
acquired using a monochromated Al X-ray source (Al Ka line: 1486.6 eV). Raman
and PL measurements (LabRamAramis) were carried out using a 532-nm laser at a
power of 0.5 mW and an exposition time of 10 s. X-ray diffraction patterns were 9 9 References 35. Gamble, F. R. et al. Intercalation complexes of Lewis bases and layered sulfides:
a large class of new superconductors. Science 174, 493–497 (1971). 1. Wang, Q. H., Kalantar-Zadeh, K., Kis, A., Coleman, J. N. & Strano, M. S. Electronics and optoelectronics of two-dimensional transition metal
dichalcogenides. Nat. Nanotechnol. 7, 699–712 (2012). 36. Li, J. et al. Enhanced-electrocatalytic activity of Ni1 xFex alloy supported on
polyethyleneimine functionalized MoS2 nanosheets for hydrazine oxidation. RSC Adv. 4, 1988–1995 (2014). g
2. Chhowalla, M. et al. The chemistry of two-dimensional layered transition metal
dichalcogenide nanosheets. Nat. Chem. 5, 263–275 (2013). 37. Sumboja, A. et al. Significant electrochemical stability of manganese
dioxide/polyaniline coaxial nanowires by self-terminated double surfactant
polymerization for pseudocapacitor electrode. J. Mater. Chem. 22, 23921–23928
(2012). g
3. Nicolosi, V., Chhowalla, M., Kanatzidis, M. G., Strano, M. S. & Coleman, J. N. Liquid exfoliation of layered materials. Science 340, 1420–1424 (2013). 4. Radisavljevic, B., Radenovic, A., Brivio, J., Giacometti, V. & Kis, A. Single-layer
MoS2 transistors. Nat. Nanotechnol. 6, 147–150 (2011). 5. Kim, S. et al. High-mobility and low-power thin-film transistors based on
multilayer MoS2 crystals. Nat. Commun. 3, 1011 (2012). 38. Aradi, B., Hourahine, B. & Frauenheim, T. DFTB þ , a sparse matrix-based
implementation of the DFTB method. J. Phys. Chem. A 111, 5678–5684
(2007). 6. Wang, H. et al. Integrated circuits based on bilayer MoS2 transistors. Nano Lett. 12, 4674–4680 (2012). 39. Porezag, D., Frauenheim, T., Ko¨hler, T., Seifert, G. & Kaschner, R. Construction
of tight-binding-like potentials on the basis of density-functional theory:
application to carbon. Phys. Rev. B 51, 12947 (1995). 7. Wang, K. et al. Ultrafast saturable absorption of two-dimensional MoS2
nanosheets. ACS Nano 7, 9260–9267 (2013). 8. Ross, J. S. et al. Electrically tunable excitonic light-emitting diodes based on
monolayer WSe2 p-n junctions. Nat. Nanotechnol. 9, 268–272 (2014). 40. Seifert, G. & Porezag, D. Frauenheim, calculations of molecules, clusters, and
solids with a simplified LCAO-DFT-LDA scheme. Int. J. Quant. Chem. 58,
185–192 (1996). 9. Pospischil, A. et al. Solar-energy conversion and light emission in an atomic
monolayer p-n diode. Nat. Nanotechnol. 9, 257–261 (2014). 41. Wilson, J. A. & Yoffe, A. D. Transition metal dichalcogenides: discussion and
interpretation of observed optical, electrical and structural properties. Adv. Phys. 18, 193–335 (1969). y
p
10. Stephenson, T. et al. Lithium ion battery applications of molybdenum disulfide
(MoS2) nanocomposites. Energy Environ. Sci. 7, 209–231 (2014). 11. Voiry, D. Competing financial interests: The authors declare no competing financial interests. This work was supported by the third Stage of the Brain Korea 21 Plus Project in 2014
and the National Research Foundation of Korea(NRF) grant funded by the Korea gov-
ernment (MEST) (No.2014R1A2A1A01005046). We gratefully acknowledge the financial
support provided by the Agency for Defense Development under the contract
UD110050GD. S.C. and H.C. were supported by NRF of Korea through MSIP
(NRF-2011-0013255). Reprints and permission information is available online at http://npg.nature.com/
reprintsandpermissions/ How to cite this article: Velusamy, D. B. et al. Flexible transition metal
dichalcogenide nanosheets for band-selective photodetection. Nat. Commun. 6:8063
doi: 10.1038/ncomms9063 (2015). ARTICLE ARTICLE NATURE COMMUNICATIONS | DOI: 10.1038/ncomms9063 analysed the data and wrote the paper. All authors discussed the results and commented
on the manuscript. 57. Late, D. J. et al. Hysteresis in single-layer MoS2 field effect transistors. ACS
Nano 6, 5635–5641 (2012). 58. Lui, C. et al. Trion induced negative photoconductivity in monolayer MoS2. Phys. Rev. Lett. 113, 166801 (2014). Additional information 59. Sun, D. et al. Observation of rapid exciton-exciton annihilation in monolayer
molybdenum disulfide. Nano Lett. 14, 5625–5629 (2014). Supplementary Information accompanies this paper at http://www.nature.com/
naturecommunications Acknowledgements Competing financial interests: The authors declare no competing financial interests. NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications
& 2015 Macmillan Publishers Limited. All rights reserved. References Photoelectric phenomena in amorphous
chalcogenide semiconductors. Phys. Stat. Sol. 17, 11–46 (1973). 21. Castellanos-Gomez, A. et al. Elastic properties of freely suspended MoS2
nanosheets. Adv. Mater. 24, 772–775 (2012). 52. Irvin, P. et al. Rewritable nanoscale oxide photodetector. Nat. Photonics 4,
849–852 (2010). 22. Joensen, P., Frindt, R. F. & Morrison, S. R. Single-layer MoS2. Mater. Res. Bull. 21, 457–461 (1986). 53. Feng, W. et al. Synthesis of two-dimensional b-Ga2O3 nanosheets for
high-performance solar blind photodetectors. J. Mater. Chem. C 2, 3254–3259
(2014). 23. Benavente, E., Santa Ana, M. A., Mendizabal, F. & Gonzalez, G. Intercalation chemistry of molybdenum disulfide. Coord. Chem. Rev. 224, 87–
109 (2002). Intercalation chemistry of molybdenum disulfide. Coord. Chem. Rev. 224, 87–
109 (2002). 54. Klee, V. et al. Superlinear composition-dependent photocurrent in CVD-grown
monolayer MoS2(1-x)Se2x alloy devices. Nano Lett. 15, 2612–2619 (2015). 24. Golub, A. S., Zubavichus, Y. V., Slovokhotov, Y. L. & Novikov, Y. N. Single-layer dispersions of transition metal dichalcogenides in the synthesis of
intercalation compounds. Russ. Chem. Rev. 72, 123–141 (2003). 55. Gong, X. et al. High-detectivity polymer photodetectors with spectral response
from 300 to 1450 nm. Science 325, 1665–1667 (2009). from 300 to 1450 nm. Science 325, 1665–1667 (2009). intercalation compounds. Russ. Chem. Rev. 72, 123–141 (2003 56. Furchi, M. M., Polyushkin, D. K., Pospischil, A. & Mueller, T. Mechanisms of
photoconductivity in atomically thin MoS2. Nano Lett. 14, 6165–6170 (2014). 25. Zheng, J. et al. High yield exfoliation of two-dimensional chalcogenides using
sodium naphthalenide. Nat. Commun. 5, 2995 (2014). 10 NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com/naturecommunications NATURE COMMUNICATIONS | 6:8063 | DOI: 10.1038/ncomms9063 | www.nature.com & 2015 Macmillan Publishers Limited. All rights reserved. Author contributions This work is licensed under a Creative Commons Attribution 4.0
International License. The images or other third party material in this
article are included in the article’s Creative Commons license, unless indicated otherwise
in the credit line; if the material is not included under the Creative Commons license,
users will need to obtain permission from the license holder to reproduce the material. To view a copy of this license, visit http://creativecommons.org/licenses/by/4.0/ C.P., H.C. and D.B.V. conceived and designed the experiments. D.B.V. performed the
dispersion, and fabrication of the photodetector devices. G.S. and S.M.C. performed the
morphology characterization. D.B.V., R.H.K., R.K., S.H.K., S.H.C., I.H., J.L. and K.O were
involved in the measurements and characterization of the photodetector devices. S.C. carried out the ultrafast spectroscopy measurements. J.H. carried out the molecular
dynamics simulation. C.P. and H.C. supervised the project. C.P., H.C., and D.B.V. 11 11
|
https://openalex.org/W4281262783
|
https://riuma.uma.es/xmlui/bitstream/10630/24312/1/ijerph-19-06261.pdf
|
English
| null |
Fournier’s Gangrene under Sodium–Glucose Cotransporter-2 Inhibitors Therapy in Gynecological Patients
|
International journal of environmental research and public health/International journal of environmental research and public health
| 2,022
|
cc-by
| 7,344
|
International Journal of
Environmental Research
and Public Health International Journal of
Environmental Research
and Public Health Citation: Serrano Olave, A.; Bueno
Moral, A.I.; Martínez Bañón, C.;
González Mesa, E.; Jiménez López,
J.S. Fournier’s Gangrene under
Sodium–Glucose Cotransporter-2
Inhibitors Therapy in Gynecological
Patients. Int. J. Environ. Res. Public
Health 2022, 19, 6261. https://
doi.org/10.3390/ijerph19106261
Academic Editors: Paul
B. Tchounwou and Ugo Indraccolo
Received: 5 March 2022
Accepted: 18 May 2022
Published: 21 May 2022 Citation: Serrano Olave, A.; Bueno
Moral, A.I.; Martínez Bañón, C.;
González Mesa, E.; Jiménez López,
J.S. Fournier’s Gangrene under
Sodium–Glucose Cotransporter-2
Inhibitors Therapy in Gynecological
Patients. Int. J. Environ. Res. Public
Health 2022, 19, 6261. https://
doi.org/10.3390/ijerph19106261
Academic Editors: Paul
B. Tchounwou and Ugo Indraccolo
Received: 5 March 2022
Accepted: 18 May 2022
Published: 21 May 2022 Citation: Serrano Olave, A.; Bueno
Moral, A.I.; Martínez Bañón, C.;
González Mesa, E.; Jiménez López,
J.S. Fournier’s Gangrene under
Sodium–Glucose Cotransporter-2
Inhibitors Therapy in Gynecological
Patients. Int. J. Environ. Res. Public
Health 2022, 19, 6261. https://
doi.org/10.3390/ijerph19106261 Keywords: gangrene; SGLT-2 inhibitor; diabetes; genital lump; gas; emphysema; surgery Fournier’s Gangrene under Sodium–Glucose Cotransporter-2
Inhibitors Therapy in Gynecological Patients lave 1,*, Ana Isabel Bueno Moral 1
, Carmen Martínez Bañón 1, Ernesto González Mesa 1,2
ez López 1,2 Adriana Serrano Olave 1,*, Ana Isabel Bueno Moral 1
, Carmen Martínez Bañón 1, Ernesto González Mesa 1,2
and Jesús S. Jiménez López 1,2 1
Obstetrics and Gynecology, Materno-Infantil Hospital Regional Universitario Malaga, Avd Arroyo de los
Angeles S/N, 29011 Malaga, Spain; anaibuenom@gmail.com (A.I.B.M.); carmenmrtba@gmail.com (C.M.B.);
egonzalezmesa@gmail.com (E.G.M.); jesuss.jimenez.sspa@juntadeandalucia.es (J.S.J.L.)
2
Surgical Specialties, University of Malaga, 29010 Malaga, Spain
*
Correspondence: adrianaserranoolave@hotmail.es; Tel.: +34-678-90-31-17 *
Correspondence: adrianaserranoolave@hotmail.es; Tel.: +34-678-90-31-17 Abstract: Fournier’s gangrene (FG) is a serious pathology of the soft tissues and fascia of the perineum
and genital region with a high morbidity and mortality rate. In recent years, the SGLT-2 inhibitor
oral antidiabetic has been related to this entity. According to the new warnings from the main drug
agencies, a compilation of cases has been initiated to establish or deny a possible causal relationship. Most of these cases have been reported in men. However, it is important not to underestimate this
entity in the gynecological field, since it is extremely serious and requires intense and rapid aggressive
treatment based on surgery and empiric antibiotherapy. Later, some cares are needed to involve
surgical reconstruction of the defects introduced by debridement. As a result of the low incidence of
FG, clinical trials’ data may be insufficient to robustly assess this issue because of the limited numbers
of participants. Real-world evidence may help to clarify the association between SGLT2i and FG. The aim of this review is to describe and compare the reported cases of GF in diabetic women who
received SGLT2 inhibitors as antiglycemic agents. Int. J. Environ. Res. Public Health 2022, 19, 6261. https://doi.org/10.3390/ijerph19106261 1. Introduction Fournier’s gangrene was described by Jean Alfred Fournier in 1883. Alfred, a French
dermatologist and venereologist, described this acute-onset as a rapidly progressing per-
ineal disease in previously healthy young men [1]. This condition is a rare, life-threatening
bacterial necrotizing infection of the perineum. The main risk factors for Fournier’s gan-
grene are diabetes, obesity, immunosuppression (such as HIV), alcoholism, smoking, male
sex, and the use of cytotoxic drugs [2]. Although many of the associated comorbid risk
factors are common diseases, FG is rare. The published literature on its incidence in men
and women is quite limited. Therefore, analysis from the US Inpatient Database of 593
civilian hospitals in 13 states in 2001 and 21 states in 2004 report that Fournier’s gangrene
occurs in 1.6 of every 100,000 males per year, primarily between 50 and 79 years (3.3 of
every 100,000). Nevertheless, the small number of Fournier’s gangrene cases in women
precludes any meaningful incidence analysis [3,4]. The infection is usually polymicrobial
due to an aerobic and an anaerobic bacteria. Traditionally, the diagnosis of this entity was
made by clinical examination. Thus, the most common symptoms are scrotal edema, local
pain, hyperemia, pruritus, crepitus (between 19% and 64% of cases), fever, and the presence
of foul-smelling secretions. Due to a progressive increase in imaging studies, the diagnosis
of this entity has become more common, computed tomography (CT) of the abdomen and
pelvis being the most appropriate scan. It accurately evaluates the extent of the necrosis,
including the possible dissemination to the retroperitoneum [5]. The treatment is aggressive
combining surgical debridement and broad-spectrum antibiotics. Reported mortality rates Academic Editors: Paul
B. Tchounwou and Ugo Indraccolo Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Copyright:
© 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). Int. J. Environ. Res. Public Health 2022, 19, 6261. https://doi.org/10.3390/ijerph19106261 https://www.mdpi.com/journal/ijerph Int. J. Environ. Res. Public Health 2022, 19, 6261 2 of 9 range from 3% to 45%, especially associated with comorbidities such as those previously
mentioned [6]. 1. Introduction [ ]
In August 2018, the US Food and Drug Administration (FDA) issued a warning that
Sodium glucose co-transporter 2 inhibitors (SGLT2i) may cause FG [7]. The underlying
physiopathological mechanisms are not fully clear, but there appears to be greater en-
dothelial damage at the microvascular level. Later, in January 2019, the Spanish Society of
Gynecology & Obstetrics (SEGO), the European Medicines Agency (EMA) and the Spanish
Agency for Medicines and Health Products (AEMPS) published a statement mentioning
the risk of FG in women treated with SGLT 2 inhibitors [8]. SGLT2i are relatively new anti-
hyperglycemic agents that have become popular in the treatment of diabetes due to their
favorable cardiac and renal outcomes. The EMA in 2012 and the FDA in 2013 approved
these drugs for patients with type 2 diabetes (T2DM) as an adjunct to diet and exercise
to improve glycemic control; including canagliflozin, dapagliflozin, empagliflozin, and
ertugliflozin [7,9]. The SGLT2 cotransporter is located almost exclusively in the kidney and
it is responsible for the reabsorption of 90% filtered glucose by the glomerulus. Thus, its
inhibition improves insulin resistance and decreases glycosylated hemoglobin (HbA1c)
values. By inhibiting the reabsorption of glucose and sodium from the renal tubule, SGLT2i
stimulates glycosuria and natriuresis, reducing blood glucose, body weight and blood
pressure [9]. Nevertheless, this mechanism is independent of insulin, and therefore it makes
an interesting drug in combined therapies [10]. The most common adverse reactions are
mild genital and urinary tract infections [1]. In contrast, there are studies where the risk
of serious and non-serious UTI events among patients treated with SGLT-2 inhibitors was
similar to that of those treated with other antidiabetics [11]. Additionally, more serious and
life-threatening side effects have been found including ketoacidosis, acute kidney injury,
increased amputation rates, and Fournier’s gangrene [8–10]. This review arises from three cases that occurred in our center, the Materno-Infantil
Hospital University Regional of Malaga, between January 2019 and December 2021. The
main objective of this review is to describe and compare Fournier’s gangrene in diabetic
women who received SGLT2 inhibitors as antiglycemic agents as well as making an analysis
of the literature collected so far on the female sex. Most of the cases published to date have
been in men. Women also suffer from this pathology that is sometimes underestimated and
diagnosed too late. 1. Introduction For this reason, through the analysis of clinical data, we want to help
the medical practitioners in the early diagnosis of FG, being especially important signs and
symptoms as well as complementary tests to support clinical suspicion. The risk factors
that make our patients vulnerable will be highlighted. Additionally, of course, the ultimate
treatment strategy will be defined to obtain the best possible results. 2. Case Presentation A CT of the abdomen and pelvis revealed important inflam-
matory changes and air inside the soft tissues of the genital area extending to the right
ilia a d
a au
bili al fo
a o
atible
ith FG (Fi u e 1B) (A)
(B)
Figure 1. (A): Perineal abscess with induration of surrounding tissue. The most common onset site
of FG is the labia majora. (B): CT of the abdomen and pelvis showing areas with gas revealing ne-
crotic tissue from gangrene. Figure 1. (A): Perineal abscess with induration of surrounding tissue. The most common onset site of
FG is the labia majora. (B): CT of the abdomen and pelvis showing areas with gas revealing necrotic
tissue from gangrene. (A)
(B)
Figure 1. (A): Perineal abscess with induration of surrounding tissue. The most common onset site
of FG is the labia majora. (B): CT of the abdomen and pelvis showing areas with gas revealing ne-
crotic tissue from gangrene. (B)
(B) (A)
(A) (A)
(A) (B)
(B) Figure 1. (A): Perineal abscess with induration of surrounding tissue. The most common onset site
of FG is the labia majora. (B): CT of the abdomen and pelvis showing areas with gas revealing ne-
crotic tissue from gangrene. Figure 1. (A): Perineal abscess with induration of surrounding tissue. The most common onset site of
FG is the labia majora. (B): CT of the abdomen and pelvis showing areas with gas revealing necrotic
tissue from gangrene. Figure 1. (A): Perineal abscess with induration of surrounding tissue. The most common onset site
of FG is the labia majora. (B): CT of the abdomen and pelvis showing areas with gas revealing ne-
crotic tissue from gangrene. Broad-spectrum intravenous antibiotic treatment with Cefoxitin, Metronidazole and
Gentamicin was administered. Tissue culture showed a combination of Staphylococcus au-
ricularis and Bacteroides fragilis (both anaerobic pathogens). Blood culture was negative. Finally, surgical debridement was performed until the rectus abdominis muscles were
completely exposed due to the advanced extent of the disease (Figure 2A). Subsequently,
she was transferred to the critical care unit, where after more than four reinterventions
(Figure 2B) and supportive measures, she was discharged two months later. Broad-spectrum intravenous antibiotic treatment with Cefoxitin, Metronidazole and
Gentamicin was administered. Tissue culture showed a combination of Staphylococcus
auricularis and Bacteroides fragilis (both anaerobic pathogens). Blood culture was negative. 2. Case Presentation Moreover, we will present three cases that took place in our center in a chronological
order. Thus, we will analyze the anamnesis, exploration, complementary tests, some images
and treatment, among others. Case 1: In January 2019, a 48-year-old female at the emergency department presented
an increased swelling in relation to a painful lump of 5 days’ duration, more exacerbated in
the last 48 h. This pain radiated to the area of the deep right iliac fossa and was associated
with a fever of 39 ◦C. The patient had been taking clavulanate amoxicillin for 3 days
without clear improvement. Personal history included obesity, dyslipidemia and poorly
controlled T2DM for more than 15 years currently on treatment with oral antidiabetics such
as Metformin 850 mg-Dapagliflozin 5 mg every 12 h for 19 months with a 9% of HbA1c. She was smoking 15 cigarettes per day. No alcohol or other drugs. She had no previous
surgeries. According to the initial evaluation, the patient was febrile (39 ◦C), tachycardic
(123 beats/min), with blood pressure of 146/78 mmHg and respiratory rate of 22 breaths/min. The examination revealed a huge phlegmonous abscess on the right labia majora that
extended to the mons pubis (Figure 1A). Rest of the examination was unremarkable. Labo- Int. J. Environ. Res. Public Health 2022, 19, 6261 3 of 9 ratory workup revealed blood glucose of 243 mg/dL, mild leukocytosis (16,450/L) with
80% neutrophils and C-reactive protein (RCP) of 492 mg/dL. Normal coagulation times. No more unaltered parameters. A CT of the abdomen and pelvis revealed important
inflammatory changes and air inside the soft tissues of the genital area extending to the
right iliac and paraumbilical fossa compatible with FG (Figure 1B). tended to the mons pubis (Figure 1A). Rest of the examination was unremarkable. Labor
atory workup revealed blood glucose of 243 mg/dL, mild leukocytosis (16,450/L) with 80%
neutrophils and C-reactive protein (RCP) of 492 mg/dL. Normal coagulation times. No
more unaltered parameters. A CT of the abdomen and pelvis revealed important inflam-
matory changes and air inside the soft tissues of the genital area extending to the right
iliac and paraumbilical fossa compatible with FG (Figure 1B). tended to the mons pubis (Figure 1A). Rest of the examination was unremarkable. Labor-
atory workup revealed blood glucose of 243 mg/dL, mild leukocytosis (16,450/L) with 80%
neutrophils and C-reactive protein (RCP) of 492 mg/dL. Normal coagulation times. No
more unaltered parameters. 2. Case Presentation Public Health 2022, 19, 6261Ca 4 of 9
m due treatment with oral Augmentin since the previous day. Medical history included: ex-smoker
(>15 cigarettes/day), poorly controlled chronic hypertension despite four drugs, T2DM
(30 years complicated evolution with diabetic microangiopathy and diabetic foot) with
8% of HbA1c. No alcohol or other drugs. In addition, her surgical history includes:
hysterectomy, appendectomy, hip prosthesis and inguinal hernioplasty. At this moment,
she was under antidiabetic treatment with Metformin 1 g/Canagliflozin 50 mg every 12 h
for 3 months. g
y
g
ment with oral Augmentin since the previous day. Medical history included: ex-smoker
(>15 cigarettes/day), poorly controlled chronic hypertension despite four drugs, T2DM (30
years complicated evolution with diabetic microangiopathy and diabetic foot) with 8% of
HbA1c. No alcohol or other drugs. In addition, her surgical history includes: hysterec-
tomy, appendectomy, hip prosthesis and inguinal hernioplasty. At this moment, she was
under antidiabetic treatment with Metformin 1 g/Canagliflozin 50 mg every 12 h for 3
months. On the initial scan, her general condition was fair. She had blood pressure around
122/52 mmHg, HR 110 bpm and 36 ◦C of temperature. Right labia majora was enlarged,
indurated and erythematous. Additionally, she had a painful ulcer in the lower third. Blood
tests revealed hemoglobin 8.9 g/dl, platelets 426,000/L, leukocytosis 37,640/L with 90%
neutrophils and RCP of 285 mg/dl. Glycemia at 465 mg/dl. No more unaltered parameters
were associated. A CT of the abdomen and pelvis showed subcutaneous edema and air in
the perineal area and right vulvar area extending into the presacral soft tissues suggestive
of FG (Figure 3). On the initial scan, her general condition was fair. She had blood pressure around
122/52 mmHg, HR 110 bpm and 36 °C of temperature. Right labia majora was enlarged,
indurated and erythematous. Additionally, she had a painful ulcer in the lower third. Blood tests revealed hemoglobin 8.9 g/dl, platelets 426,000/L, leukocytosis 37,640/L with
90% neutrophils and RCP of 285 mg/dl. Glycemia at 465 mg/dl. No more unaltered pa-
rameters were associated. A CT of the abdomen and pelvis showed subcutaneous edema
and air in the perineal area and right vulvar area extending into the presacral soft tissues
suggestive of FG (Figure 3). Figure 3. CT of the abdomen and pelvis showed subcutaneous edema and air inside the soft tissues
of the genital area extending into the presacral soft tissues of FG. 2. Case Presentation Finally, surgical debridement was performed until the rectus abdominis muscles were
completely exposed due to the advanced extent of the disease (Figure 2A). Subsequently,
she was transferred to the critical care unit, where after more than four reinterventions
(Figure 2B) and supportive measures, she was discharged two months later. Broad-spectrum intravenous antibiotic treatment with Cefoxitin, Metronidazole and
Gentamicin was administered. Tissue culture showed a combination of Staphylococcus au-
ricularis and Bacteroides fragilis (both anaerobic pathogens). Blood culture was negative. Finally, surgical debridement was performed until the rectus abdominis muscles were
completely exposed due to the advanced extent of the disease (Figure 2A). Subsequently,
she was transferred to the critical care unit, where after more than four reinterventions
(Figure 2B) and supportive measures, she was discharged two months later. (A)
Figure 2 (A): Surgical treatment b
(A) (B)
y aggressive debridement pointing out the necrot
(B) (A)
(B)
Figure 2. (A): Surgical treatment by aggressive debridement, pointing out the necrotic tissue below. (B): Reinterventions for removal of dead tissue, vacuum-assisted closure therapies, healthy tissue
grafts are common in FG. (A)
(B)
Figure 2. (A): Surgical treatment by aggressive debridement, pointing out the necrotic tissue below. (B): Reinterventions for removal of dead tissue, vacuum-assisted closure therapies, healthy tissue
grafts are common in FG. Figure 2. (A): Surgical treatment by aggressive debridement, pointing out the necrotic tissue below. (B): Reinterventions for removal of dead tissue, vacuum-assisted closure therapies, healthy tissue
grafts are common in FG. (A)
2 (A
(A) (B)
(B) Figure 2. (A): Surgical treatment by aggressive debridement, pointing out the necrotic tissue below. (B): Reinterventions for removal of dead tissue, vacuum-assisted closure therapies, healthy tissue
grafts are common in FG. Figure 2. (A): Surgical treatment by aggressive debridement, pointing out the necrotic tissue below. (B): Reinterventions for removal of dead tissue, vacuum-assisted closure therapies, healthy tissue
grafts are common in FG. Figure 2. (A): Surgical treatment by aggressive debridement, pointing out the necrotic tissue below. (B): Reinterventions for removal of dead tissue, vacuum-assisted closure therapies, healthy tissue
grafts are common in FG. Case 2: In September 2019, an 84-year-old woman came to the emergency room
due to a painful genital abscess from three days’ duration. She also had nausea without
vomiting. She had non-thermometered dysthermic sensation. She had been receiving Int. J. Environ. Res. 2. Case Presentation The hip replacement slightly dis-
torts the image. Figure 3. CT of the abdomen and pelvis showed subcutaneous edema and air inside the soft tissues
of the genital area extending into the presacral soft tissues of FG. The hip replacement slightly distorts
the image. Figure 3. CT of the abdomen and pelvis showed subcutaneous edema and air inside the soft tissues
of the genital area extending into the presacral soft tissues of FG. The hip replacement slightly dis-
torts the image. Figure 3. CT of the abdomen and pelvis showed subcutaneous edema and air inside the soft tissues
of the genital area extending into the presacral soft tissues of FG. The hip replacement slightly distorts
the image. Despite an immediate intensive surgery, a broad-spectrum antibiotic therapy, and
partly due to the patient’s multiple pathologies, she died after 48 h by a multi organ fail-
ure. Nevertheless, the patient was in a frail state prior to the infection. Tissue culture was
positive for Streptococcus anginosus and Prevotella bivia. Blood culture was negative. C
3 I
J
1
6
ld
b dl
b
k
h h
Despite an immediate intensive surgery, a broad-spectrum antibiotic therapy, and
partly due to the patient’s multiple pathologies, she died after 48 h by a multi organ failure. Nevertheless, the patient was in a frail state prior to the infection. Tissue culture was
positive for Streptococcus anginosus and Prevotella bivia. Blood culture was negative. Case 3: In January 2021, a 68-year-old morbidly obese smoker woman with chronic
hypertension and poorly controlled T2DM (>15 years) arrived to the emergency depart-
ment with a three-days history presenting a genital lump, hypogastric pain and fever (38
°C). No alcohol or other drugs. Her usual treatment included Linagliptin 5 mg every 24 h
for a year and Metformin 1 g-Empagliflozin 5 mg every 12 h for 39 months (3.25 years)
with 7.2% of HbA1c. According to the surgical history, doctors highlighted: radical ne-
phrectomy, hysterectomy and double adnexectomy, hernioplasty. Moreover, they made
a special mention of the fact that she had a single kidney. p
p
g
g
Case 3: In January 2021, a 68-year-old morbidly obese smoker woman with chronic
hypertension and poorly controlled T2DM (>15 years) arrived to the emergency department
with a three-days history presenting a genital lump, hypogastric pain and fever (38 ◦C). No
alcohol or other drugs. 3. Discussion
Since the
3. Discussion
3. Discussion i
e
e i
ua
e o
e
ea
a e
y
e
A i
a
a e
y
e E O, E
A
and AEMPS in 2019, FG cases under SGLT2 Inhibitors therapy have increased [12,13]. There is a bias called notoriety bias. It is a selection of bias in which a case has a higher
probability of being reported if the subject is exposed to the factor studied, which is known
or thought to cause the event of interest [14]. Therefore, it could partly explain the in-
creased FG reporting numbers after the warning of different drugs agencies. Although,
most cases have been suffered by men, from the Gynecology and Obstetrics service of the
Malaga Regional Hospital. We would like to reflect the non-negligible number of female
cases. One of the reasons for the relatively lower appearance of FG in women could be
related to the better drainage of the perineal region by vaginal secretions. Another reason
could be confusing in the initial diagnosis regarding other infections of the genital area. Since the issuance of the health alert by the FDA in 2018 and later by the SEGO, EMA
and AEMPS in 2019, FG cases under SGLT2 Inhibitors therapy have increased [12,13]. There is a bias called notoriety bias. It is a selection of bias in which a case has a higher
probability of being reported if the subject is exposed to the factor studied, which is known
or thought to cause the event of interest [14]. Therefore, it could partly explain the in-
creased FG reporting numbers after the warning of different drugs agencies. Although,
most cases have been suffered by men, from the Gynecology and Obstetrics service of the
Malaga Regional Hospital. We would like to reflect the non-negligible number of female
cases. One of the reasons for the relatively lower appearance of FG in women could be
related to the better drainage of the perineal region by vaginal secretions. Another reason
could be confusing in the initial diagnosis regarding other infections of the genital area. Since the issuance of the health alert by the FDA in 2018 and later by the SEGO, EMA
and AEMPS in 2019, FG cases under SGLT2 Inhibitors therapy have increased [12,13]. There
is a bias called notoriety bias. 2. Case Presentation Her usual treatment included Linagliptin 5 mg every 24 h for a year
and Metformin 1 g-Empagliflozin 5 mg every 12 h for 39 months (3.25 years) with 7.2%
of HbA1c. According to the surgical history, doctors highlighted: radical nephrectomy,
hysterectomy and double adnexectomy, hernioplasty. Moreover, they made a special
mention of the fact that she had a single kidney. During the examination, she was in good general condition: normal blood pressure,
only the temperature of 38 °C stood out. Blood tests showed slight anemia (hemoglobin
10.8 g/dl), normal platelets, marked leukocytosis 24,280/L with 92.8% neutrophilia. Nor-
mal coagulation times. Glomerular filtration decreased by 28%, creatinine 1.83 mg/dl (in
accordance with her monorenal status). CRP 220 mg/dl. A CT showed soft tissue emphy-
sema extending from the left labia majora to the mons Venus and left inguinal region. During the examination, she was in good general condition: normal blood pressure,
only the temperature of 38 ◦C stood out. Blood tests showed slight anemia (hemoglobin
10.8 g/dL), normal platelets, marked leukocytosis 24,280/L with 92.8% neutrophilia. Nor-
mal coagulation times. Glomerular filtration decreased by 28%, creatinine 1.83 mg/dl
(in accordance with her monorenal status). CRP 220 mg/dl. A CT showed soft tissue
emphysema extending from the left labia majora to the mons Venus and left inguinal region. They were seen some thickening and trabeculation of fatty tissues around perineum and
left femoral region. Radiological findings compatible with FG (Figure 4). 5 of 9
m and Int. J. Environ. Res. Public Health 2022, 19, 6261
They w Figure 4. CT of the abdomen and pelvis showed a FG which involves a soft tissue emphysema ex-
tending from the left labia majora to left femoral region, associated to a thickening and trabeculation
of fatty tissues around them. Figure 4. CT of the abdomen and pelvis showed a FG which involves a soft tissue emphysema
extending from the left labia majora to left femoral region, associated to a thickening and trabeculation
of fatty tissues around them. g
g
g
p
(
g
)
Figure 4. CT of the abdomen and pelvis showed a FG which involves a soft tissue emphysema ex-
tending from the left labia majora to left femoral region, associated to a thickening and trabeculation
of fatty tissues around them. Figure 4. 2. Case Presentation CT of the abdomen and pelvis showed a FG which involves a soft tissue emphysema ex-
tending from the left labia majora to left femoral region, associated to a thickening and trabeculation
of fatty tissues around them. Figure 4. CT of the abdomen and pelvis showed a FG which involves a soft tissue emphysema
extending from the left labia majora to left femoral region, associated to a thickening and trabeculation
of fatty tissues around them. Figure 4. CT of the abdomen and pelvis showed a FG which involves a soft tissue emphysema ex-
tending from the left labia majora to left femoral region, associated to a thickening and trabeculation
of fatty tissues around them. After diagnosis, broad-spectrum antibiotic therapy with Piperacillin/Tazobactam
started. Meropenem was subsequently added. She was also urgently operated on for tis-
sue debridement. Up to three reinterventions were necessary (Figure 5). Tissue culture
was positive for Aerococcus urinae and Candida albicans. The blood culture was negative. However, despite efforts and support measures, the patient did not survive and died 14
days later. After diagnosis, broad-spectrum antibiotic therapy with Piperacillin/Tazobactam
started. Meropenem was subsequently added. She was also urgently operated on for
tissue debridement. Up to three reinterventions were necessary (Figure 5). Tissue culture
was positive for Aerococcus urinae and Candida albicans. The blood culture was negative. However, despite efforts and support measures, the patient did not survive and died
14 days later. After diagnosis, broad-spectrum antibiotic therapy with Piperacillin/Tazobactam
started. Meropenem was subsequently added. She was also urgently operated on for tis-
sue debridement. Up to three reinterventions were necessary (Figure 5). Tissue culture
was positive for Aerococcus urinae and Candida albicans. The blood culture was negative. However, despite efforts and support measures, the patient did not survive and died 14
days later Figure 5. Necrotic tissues exposed during surgery prepared for debridement. The surgical technique
involves removing as much death tissue as possible, leaving open wound to oxygenate it. 3 Discussion
Figure 5. Necrotic tissues exposed during surgery prepared for debridement. The surgical technique
involves removing as much death tissue as possible, leaving open wound to oxygenate it. Figure 5. Necrotic tissues exposed during surgery prepared for debridement. The surgical technique
involves removing as much death tissue as possible, leaving open wound to oxygenate it. 2. Case Presentation g
p
g
g
y p
p
g
q
involves removing as much death tissue as possible, leaving open wound to oxygenate it. 3 Discussion
Figure 5. Necrotic tissues exposed during surgery prepared for debridement. The surgical technique
involves removing as much death tissue as possible, leaving open wound to oxygenate it. Figure 5. Necrotic tissues exposed during surgery prepared for debridement. The surgical technique
involves removing as much death tissue as possible, leaving open wound to oxygenate it. 3. Discussion
Since the
3. Discussion
3. Discussion It is a selection of bias in which a case has a higher probability
of being reported if the subject is exposed to the factor studied, which is known or thought
to cause the event of interest [14]. Therefore, it could partly explain the increased FG
reporting numbers after the warning of different drugs agencies. Although, most cases
have been suffered by men, from the Gynecology and Obstetrics service of the Malaga
Regional Hospital. We would like to reflect the non-negligible number of female cases. One of the reasons for the relatively lower appearance of FG in women could be related to
the better drainage of the perineal region by vaginal secretions. Another reason could be
confusing in the initial diagnosis regarding other infections of the genital area. g
g
g
g
g
In the following table, we have represented the three cases described previously and
also compare their main characteristics (Table 1). Int. J. Environ. Res. Public Health 2022, 19, 6261 6 of 9 Table 1. Comparison table. Representation of the three cases and their main characteristics. Case 1
Case 2
Case 3
Age
48
84
68
Medical history
obesity, poorly controlled T2DM (>15 years) and tobacco
Surgical history
No
Yes
Current treatment
Metformin
850 mg-Dapagliflozin
5 mg every 12 h for
19 months
Metformin
1 g/Canagliflozin
50 mg every 12 h for
3 months
Metformin
1 g-Empagliflozin
5 mg every 12 h for
39 months
HbA1c level
9%
8%
7.2%
Signs and symptoms
painful genital lump and/or fever > 38 ◦C
Blood analysis
leukocytosis with neutrophilia and CRP elevation
Abdominal CT
soft tissue emphysema, subcutaneous edema and areas with gas
revealing necrotic tissue from gangrene
Tissue culture
Staphylococcus
auricularis and
Bacteroides fragilis
Streptococcus
anginosus and
Prevotella bivia
Aerococcus urinae and
Candida albicans
Blood culture
negative
Treatment
empirical antibiotic therapy and surgical debridement
Outcome
cured
deceased
Deceased
Antibiotic therapy
Meropenem +
Daptomycin, later
Piperacillin/Tazobactam
+ Clindamycin
Meropenem +
Vancomycin +
Clindamycin
Meropenem +
Daptomycin +
Clindamycin
Timing
25 days
5 days
16 days
Isolate with
residence
Yes
Yes
Yes
Surveillance swabs
Yes
Duration of the stay
2 months
5 days
16 days Table 1. Comparison table. Representation of the three cases and their main characteristics. Among patients with remarkable characteristics, we believe that advanced age possibly
exerts a negative influence on prognosis. 3. Discussion
Since the
3. Discussion
3. Discussion Regarding medical history, in all cases there was
obesity, long poorly controlled type 2 diabetes mellitus and tobacco (smoker or ex-smoker). Median female body mass index (BMI) was 38, which implies that the comorbidities of
the patients reported must be considered [10]. In other published articles, it was described
that the average age of presentation of FG is 50–60 years. Among other risk factors are,
as in our cases, diabetes mellitus, obesity and alcoholism [15–17]. In addition, it seems
that the female sex is an added risk factor for mortality [16] as well as tobacco and obesity
seem to play a role in enhancing the adverse effects of diabetes and the risk of FG. All
patients shared a poorly adjusted DM2 at the time of diagnosis with blood glucose levels
above 180 mg/dl [18]. Hb1Ac analysis could refine the diabetes in a severe scale. Our
patients all presented high values (9%, 8% and 7.2%, respectively), which may reflect an
incomplete diabetic control. The measurement of glycated Hb is a laboratory test widely
used in diabetes to know if the patient’s control over the disease has been good during
the last three or four months (although there are doctors who only consider the last two
months). Surgical history does not seem relevant. Regarding treatment, all patients were taking a compound of Metformin and SGTL-2
inhibitor (Dapagliflozin, Canagliflozin and Empagliflozin). Another noteworthy fact is that
no case of Fournier’s gangrene involved ertugliflozin, which could be due to its shorter time
to market. The mean was about 20 months, although more cases are needed to estimate a Int. J. Environ. Res. Public Health 2022, 19, 6261 7 of 9 statistically significant minimum treatment time. The underlying mechanism is unknown. Elevated blood glucose levels (above 180 mg/dl) and additional SGLT2 therapy can lead
to a state of glycosuria, favoring urinary tract infections. This is associated with local
immunodeficiency and deficient microvascularity (T2DM and other comorbidities) which
may promote FG in certain patients [19]. Three patients went to the Emergency Department due to a painful genital lump. In
addition, fever was present in all cases. The most common anatomic region of gangrene
involvement was the labia followed by perineum and gluteus/buttocks. Blood tests were
unremarkable except for leukocytosis with neutrophilia, which were elevated in CRP. In
any case, coagulation or hepatorenal function was altered. 3. Discussion
Since the
3. Discussion
3. Discussion In general, CT allowed the
confirmation of the clinical suspicion in our three patients, revealing gas in the soft tissues. Thus, the characteristic image showed air inside tissues, emphysema and subcutaneous
edema, in the most severe cases passing through the muscle and bordering on large vessels. However, it is often enough for diagnosis. Usually, the most frequent isolated aerobe is
Escherichia coli and the anaerobe Bacteroides fragilis [18]. Nevertheless, in our review,
B. fragilis was only related to one case and E. coli was not found. In 6 out of 10 cases,
the infection is polymicrobial, which means the use of several antibiotics initially, with
subsequent modification of the schedule based on culture findings [19]. All blood cultures
were negative. Truthfully, the initial treatment algorithm in our three patients was quickly applied
through empirical antibiotic therapy and surgical debridement. There is no consensus in
the literature on the optimum antimicrobial treatment for FG. Our three patients, as the
Infectious Diseases Society of America (DSA) and the Spanish Society of Infectious Diseases
and Clinical Microbiology (SEIMC) recommend, received a broad-spectrum treatment
based on the use of a Carbapenem, a Cephalosporin or a beta-lactam/beta-lactamase
inhibitor (Meropenem in all cases) plus Vancomycin or Daptomycin for methicillin-resistant
Staphylococcus aureus (MRSA) coverage, and Clindamycin for its antitoxin activity against
Streptococci or Staphylococci [18]. Subsequently, antibiotics were regulated according to
antibiograms. Outcome was truly negative, with only one survivor. It is unclear whether
patients could be started on SGLT2 inhibitors again after complete remission, although we
prefer not to restart it [11]. Likewise, in all cases, they needed several surgeries, most of them
up to four interventions. The length average of staying was two months. The oldest patient
died 48 h after the surgery. Despite all the efforts and the rapid response, the outcome
was fatal in two of the patients and the survivor presented high comorbidity. Answering
the question of whether the female gender is a risk factor for mortality in patients with
FG, it is associated with a higher incidence of inflammation of the retroperitoneal space
and the abdominal cavity. The differences between the male and female genital anatomy
could be the reason for the rapid spread of the infection to the retroperitoneum and the
fatal outcome in women [19–21], although more studies are needed to back it up. 4. Conclusions Conflicts of Interest: The authors declare that they have no conflict of interest and nothing to disclose,
and they also declare that the work is original and it has not previously been published or it is not
under review by any other journal. Conflicts of Interest: The authors declare that they have no conflict of interest and nothing to disclose,
and they also declare that the work is original and it has not previously been published or it is not
under review by any other journal. References 1. Bersoff-Matcha, S.J.; Chamberlain, C.; Cao, C.; Kortepeter, C.; Chong, W.H. Fournier gangrene associated with sodium-glucose
cotransporter-2 inhibitors: A review of spontaneous postmarketing cases. Ann. Intern. Med. 2019, 170, 764–769. [CrossRef] 2. Ellegård, L.; Prytz, M. Fournier’s gangrene under SGLT-2 inhibitor therapy: A literature review and case report. Int. J. Surg. Case
Rep. 2020, 77, 692–694. [CrossRef] 3. Sorensen, M.D.; Krieger, J.N.; Rivara, F.P.; Broghammer, J.A.; Klein, M.B.; Mack, C.D.; Wessells, H. Fournier’s gangrene: Population
based epidemiology and outcomes. J. Urol. 2009, 181, 2120–2126. [CrossRef] [PubMed] 4. Sorensen, M.D.; Krieger, J.N. Fournier’s gangrene: Epidemiology and outcomes in the general US population. Urol. Int. 2016, 97,
249–259. [CrossRef] [PubMed] hourdaji, I.; Burks, F.; Killinger, K.A. Contemporary diagnosis and management of Fournier’s gangrene. Ther
03–215. [CrossRef] [PubMed] 5. Chennamsetty, A.; Khourdaji, I.; Burks, F.; Killinger, K.A. Contemporary diagnosis and management of F
Adv. Urol. 2015, 7, 203–215. [CrossRef] [PubMed] 6. Wang, T.; Patel, S.M.; Hickman, A.; Liu, X.; Jones, P.L.; Gantz, I.; Koro, C.E. SGLT2 Inhibitors and the Risk of Hospitalization for
Fournier’s Gangrene: A Nested Case-Control Study. Diabetes Ther. 2020, 11, 711–723. [CrossRef] [PubMed] 7. Fadini, G.P.; Sarangdhar, M.; De Ponti, F.; Avogaro, A.; Raschi, E. Pharmacovigilance assessment of the association between
Fournier’s gangrene and other severe genital adverse events with SGLT-2 inhibitors. BMJ Open Diabetes Res. Care 2019, 7, e000725. [CrossRef] [PubMed] [
] [
]
8. Anonymous. MHRA drug safety update: Risk of Fournier’s gangrene with SGLT2 inhibitors for diabetes. Drug Ther. Bull. 2019,
57, 117. [CrossRef] [PubMed] 9. Kasbawala, K.; Stamatiades, G.A.; Majumdar, S.K. Fournier’s gangrene and diabetic ketoacidosis associated with Sodium glucose
co-transporter 2 (SGLT2) inhibitors: Life-threatening complications. Am. J. Case Rep. 2020, 21, e921536. [CrossRef] [PubMed] 9. Kasbawala, K.; Stamatiades, G.A.; Majumdar, S.K. Fournier’s gangrene and diabetic ketoacidosis associated with Sodium glucose
co-transporter 2 (SGLT2) inhibitors: Life-threatening complications. Am. J. Case Rep. 2020, 21, e921536. [CrossRef] [PubMed]
10. Rodler, S.; Weig, T.; Finkenzeller, C.; Stief, C.; Staehler, M. Fournier´s gangrene under sodium-glucose cotransporter 2 inhibitor co transporter 2 (SGLT2) inhibitors: Life threatening complications. Am. J. Case Rep. 2020, 21, e921536. [CrossRef] [PubMed]
10. Rodler, S.; Weig, T.; Finkenzeller, C.; Stief, C.; Staehler, M. Fournier´s gangrene under sodium-glucose cotransporter 2 inhibitor
therapy as a life threatening adverse event: A case report and review of the literature Cureus 2019 11 e5778 [CrossRef] 10. Rodler, S.; Weig, T.; Finkenzeller, C.; Stief, C.; Staehler, M. 4. Conclusions Based on the recent warnings from the FDA, SEGO, EMA and AEMPS and the drastic
growing popularity of therapy with SGLT2 inhibitors, especially rising quickly worldwide
along with the increased needs of diabetic patients with heart disease and obesity, it
is important to consider the possible and fatal adverse effects [6,12]. Likewise, genital
infections in patients with risk factors such as aforementioned T2DM and tobacco should
alert the medical community to rule out FG [12]. Furthermore, it is suggestive to request
HbA1c at diagnosis in order to estimate the risk of glycosuria due to SGLT2i and poor
diabetic control with FG. It is necessary realizing more scientific analysis between the onset
time of FG associated with SGTL-2 inhibitors, as well as studies to generate evidence for
a causal connection or improve treatment algorithms for patients with FG [9]. This class
of drug has only been on the market for the last nine years, hence the information of its
true risk and side effects is limited. Finally, we encourage doctors to voluntarily report all Int. J. Environ. Res. Public Health 2022, 19, 6261 8 of 9 adverse drug effects in order to conduct post-marketing studies to determine the true risk
of SGLT2i in diary clinical practice [8]. Author Contributions: A.S.O. drafted and designed the article. C.M.B. reviewed the clinical case
and current literature. A.I.B.M. reviewed the clinical case and current literature. A.S.O. and A.I.B.M. contributed to the images and performed surgery. E.G.M. reviewed the clinical case and current
literature. J.S.J.L. reviewed the article critically and continued the patient’s follow-ups. All authors
have read and agreed to the published version of the manuscript. Funding: This research received no external funding. Funding: This research received no external funding. Funding: This research received no external funding. Institutional Review Board Statement: Not applicable. Institutional Review Board Statement: Not applicable. Informed Consent Statement: Written informed consent was obtained from the patient for publica-
tion of this case report as well as images. The patient was informed and consented to the elaboration
and publication of this review. Similarly, the ethics committee of the provincial investigation of
Malaga of our center gave its approval. Data Availability Statement: All data generated or analyzed during this study are included in this
published article. Data Availability Statement: All data generated or analyzed during this study are included in this
published article. (
g
)
14.
Hu, Y.; Bai, Z.; Tang, Y.; Liu, R.; Zhao, B.; Gong, J.; Mei, D. Fournier gangrene associated with sodium-glucose cotransporter-2
inhibitors: A pharmacovigilance study with data from the U.S. FDA adverse event reporting system. J. Diabetes Res. 2020, 2020,
3695101. [CrossRef] References Fournier´s gangrene under sodium-glucose cotransporter 2 inhibitor
therapy as a life-threatening adverse event: A case report and review of the literature. Cureus 2019, 11, e5778. [CrossRef] 10. Rodler, S.; Weig, T.; Finkenzeller, C.; Stief, C.; Staehler, M. Fournier s gangrene under sodium-glucose
therapy as a life-threatening adverse event: A case report and review of the literature. Cureus 2019, 11, 11. Dave, C.V.; Schneeweiss, S.; Kim, D.; Fralick, M.; Tong, A.; Patorno, E. Sodium-Glucose Cotransporter-2 Inhibitors and the Risk
for Severe Urinary Tract Infections: A Population-Based Cohort Study. Ann. Intern. Med. 2019, 171, 248–256. [CrossRef] [PubMed] g
p
for Severe Urinary Tract Infections: A Population-Based Cohort Study. Ann. Intern. Med. 2019, 171, 248–256. [CrossRef] [PubMed]
12. Center for Drug Evaluation, & Research. Warning: Infection of Genital Area with SGLT2 Inhibitors for Diabetes; U.S. Food and Drug
Administration: Silver Spring, MD, USA, 2018. Available online: https://www.fda.gov/drugs/drug-safety-and-availability/fda-
warns-about-rare-occurrences-serious-infection-genital-area-sglt2-inhibitors-diabetes (accessed on 9 February 2019). g
g
y
13. Agencia Española de Medicamentos y Productos Sanitarios. Boletín Mensual de la AEMPS Sobre Medicamentos de
uso Humano del mes de Enero de 2019—Agencia Española de Medicamentos y Productos Sanitarios. Available online:
https://www.aemps.gob.es/informa/boletines-aemps/boletinMensual/2019-boletinMensual/boletin-mensual-de-la-aemps-
sobre-medicamentos-de-uso-humano-del-mes-de-enero-de-2019/ (accessed on 20 August 2019). 14. Hu, Y.; Bai, Z.; Tang, Y.; Liu, R.; Zhao, B.; Gong, J.; Mei, D. Fournier gangrene associated with sodium-glucose cotransporter-2
inhibitors: A pharmacovigilance study with data from the U.S. FDA adverse event reporting system. J. Diabetes Res. 2020, 2020,
3695101. [CrossRef] 9 of 9 Int. J. Environ. Res. Public Health 2022, 19, 6261 15. Beecroft, N.J.; Jaeger, C.D.; Rose, J.R.; Becerra CM, C.; Shah, N.C.; Palettas, M.S.; Lehman, A.; Posid, T.; Jenkins, L.C.; Baradaran,
N. Fournier’s Gangrene in females: Presentation and management at a tertiary center. Urology 2021, 151, 113–117. [CrossRef]
[PubMed] [
]
16. Czymek, R.; Frank, P.; Limmer, S.; Schmidt, A.; Jungbluth, T.; Roblick, U.; Bürk, C.; Bruch, H.-P.; Kujath,
the female gender a risk factor? Langenbecks Arch. Surg. 2010, 395, 173–180. [CrossRef] [PubMed] g
g
g
,
,
[
] [
]
17. Hasdemir, A.O.; Büyüka¸sik, O.; Cöl, C. The clinical characteristics of female patients with Fournier’s gangrene. Int. Urogynecol. J. Pelvic Floor Dysfunct. 2009, 20, 1439–1443. [CrossRef] [PubMed] 17. Hasdemir, A.O.; Büyüka¸sik, O.; Cöl, C. The clinical characteristics of female patients with Fournier’s ga
Pelvic Floor Dysfunct. 2009, 20, 1439–1443. [CrossRef] [PubMed] 18. Melgar Borrego, A.B.; López Moreda, M.; Martín Méndez, L.; Julián Viñals, R. Gangrena de Fournier. A propósito de un caso. 15.
Beecroft, N.J.; Jaeger, C.D.; Rose, J.R.; Becerra CM, C.; Shah, N.C.; Palettas, M.S.; Lehman, A.; Posid, T.; Jenkins, L.C.; Baradaran,
N. Fournier’s Gangrene in females: Presentation and management at a tertiary center. Urology 2021, 151, 113–117. [CrossRef]
[PubMed] [
]
16.
Czymek, R.; Frank, P.; Limmer, S.; Schmidt, A.; Jungbluth, T.; Roblick, U.; Bürk, C.; Bruch, H.-P.; Kujath,
the female gender a risk factor? Langenbecks Arch. Surg. 2010, 395, 173–180. [CrossRef] [PubMed] References Semergen 2006, 32, 464–467. [CrossRef] 19. García Morúa, A.; Acuña López, J.A.; Gutiérrez García, J.D.; Martínez Montelongo, R.; Gómez Guerra, L.S. Gangrena de Fournier:
Nuestra experiencia en 5 años, revisión de la literatura y valoración del índice de severidad de la Gangrena de Fournier. Arch. Esp. Urol. 2009, 62, 532–540. [CrossRef] p
,
,
[
]
20. Elbeddini, A.; Gallinger, J.; Davey, M.; Brassard, S.; Gazarin, M.; Plourde, F.; Aly, A. A case of Fournier’s Gangrene in a patient
taking canagliflozin for the treatment of type II diabetes mellitus. Am. J. Case Rep. 2020, 21, e920115. [CrossRef] [PubMed] p
20. Elbeddini, A.; Gallinger, J.; Davey, M.; Brassard, S.; Gazarin, M.; Plourde, F.; Aly, A. A case of Fournier’s Gangrene in a patient
taking canagliflozin for the treatment of type II diabetes mellitus. Am. J. Case Rep. 2020, 21, e920115. [CrossRef] [PubMed]
21. Muchuweti, D.; Muguti, E.; Mungazi, S.G. Spontaneous closure of an extensive postdebridement perineal wound in a newly ,
g
, J
y,
,
,
,
y,
g
p
taking canagliflozin for the treatment of type II diabetes mellitus. Am. J. Case Rep. 2020, 21, e920115. [CrossRef] [PubMed]
21. Muchuweti, D.; Muguti, E.; Mungazi, S.G. Spontaneous closure of an extensive postdebridement perineal wound in a newly
diagnosed diabetic patient presenting with necrotizing fasciitis. Clin. Case Rep. 2020, 8, 1044–1047. [CrossRef] [PubMed] g
g
yp
p
21. Muchuweti, D.; Muguti, E.; Mungazi, S.G. Spontaneous closure of an extensive postdebridement perineal wound in a newly
diagnosed diabetic patient presenting with necrotizing fasciitis. Clin. Case Rep. 2020, 8, 1044–1047. [CrossRef] [PubMed]
|
https://openalex.org/W2587492769
|
https://interactive-plus.ru/e-articles/301/Action301-116915.pdf
|
Russian
| null |
Application of the polygonal form for products on the basis of wood and cement composites on the example of wood concrete
|
Interaktivnaâ nauka
| 2,017
|
cc-by
| 2,614
|
Center of Scientific Cooperation "Interactive plus" Center of Scientific Cooperation "Interactive plus" УДК 69 М.А. Гончарова, А.О. Проскурякова, И.В. Ламов, Н.А. Матченко,
Г.С. Дедяев, Р.Р. Мирзабаев
ПРИМЕНЕНИЕ ПОЛИГОНАЛЬНОЙ ФОРМЫ ДЛЯ ИЗДЕЛИЙ
НА ОСНОВЕ ДРЕВЕСНО-ЦЕМЕНТНЫХ КОМПОЗИТОВ
НА ПРИМЕРЕ АРБОЛИТА Аннотация: в статье рассматриваются изделия из арболита с примене-
нием полигональной формы, а также особенности состава арболитобетона. В
работе выделены положительные моменты применения высокоэффективного
Суперпластификатора С-3 в технологии изготовления арболитовой смеси. Ключевые слова: арболитобетон, паз-гребень, древесно-цементный компо-
зит, арболит, «LEGO» блок. Content is licensed under the Creative Commons Attribution 4.0 license (CC-BY 4.0) M.A. Goncharova, A.O. Proskuryakova, I.V. Lamov, N.A. Matchenko,
G.S. Dedyaev, R.R. Mirzabaev
APPLICATION OF THE POLYGONAL FORM FOR PRODUCTS
ON THE BASIS OF WOOD AND CEMENT COMPOSITES
ON THE EXAMPLE OF WOOD CONCRETE Abstract: the article describes products from wood concrete with application of
a polygonal form and the features of structure of wood concrete as well. The authors
have noted positive moments of highly efficient Superplasticizer C-3 implementation in
the technology of wood concrete mixture manufacture. Keywords: wood concrete, groove crest, wood and cement composite, wood con-
crete, «LEGO» block. Необходимость в высококачественном, недорогом, быстровозводимом и
долговечном жилье существовала уже давно, и будет существовать до этих пор,
пока существует человечество. В последнее время, к отмеченным ранее свой- 1 1 Content is licensed under the Creative Commons Attribution 4.0 license (CC-BY 4.0) Центр научного сотрудничества «Интерактив плюс» ствам здания все больше прибавляются такие, как экологичность, воздухопрони-
цаемость, энергоэффективность. Невзирая на множество различных стандарт-
ных решений, и разнообразие строительных материалов, подбор наилучшего ма-
териала до сих пор остается проблемой [1]. ствам здания все больше прибавляются такие, как экологичность, воздухопрони-
цаемость, энергоэффективность. Невзирая на множество различных стандарт-
ных решений, и разнообразие строительных материалов, подбор наилучшего ма-
териала до сих пор остается проблемой [1]. Всем этим качествам соответствует древесно-цементный композит – арбо-
лит. В строительстве применяются изделия из арболита в виде массивных круп-
норазмерных блоков. Основным минусом для любых крупноразмерных блоков
является наличие, так называемых, «мостиков холода». Для их устранения
можно использовать изделия полигональной формы. Полигональная форма (далее система «паз-гребень») запроектирована для
3-х видов блоков. Необходимость такой номенклатуры объясняется тем, что
форма блока имеет множество выступающих ровных граней и поверхностей, и
при монтаже конструкции некоторые из них нужно было бы спиливать (арболит
легко пилится ножовкой по дереву), и в углах сооружения не удалось бы избе-
жать мостов холода. Вид стенового блока представлен на рисунке 1. Рис. 1. Стеновой арболитовый блок «LEGO» Рис. 1. Стеновой арболитовый блок «LEGO» Угловой арболитовый блок 1 типа представлен на рисунке 2. 2 www.interactive-plus.ru
Содержимое доступно по лицензии Creative Commons Attribution 4.0 license (CC-BY 4.0) Center of Scientific Cooperation "Interactive plus" Рис. 2. Угловой арболитовый блок «LEGO» тип 1 Рис. 2. Угловой арболитовый блок «LEGO» тип 1 Угловой арболитовый блок 2 типа представлен на рисунке 3. Угловой арболитовый блок 2 типа представлен на рисунке 3. Рис. 3. Угловой арболитовый блок «LEGO» тип 2 Рис. 3. Угловой арболитовый блок «LEGO» тип 2 Запроектированная полигональная форма позволяет сократить количество
кладочного раствора, а также исключает появление мостов холода в конструк-
ции. Однако из-за неоднородной структуры арболитобетона, при производстве
сложно получить стабильную, равномерно распределенную по всей опалубке
смесь. Для этого в состав арболита вводятся химически-активные добавки. Content is licensed under the Creative Commons Attribution 4.0 license (CC-BY 4.0) 4 www.interactive-plus.ru M.A. Goncharova, A.O. Proskuryakova, I.V. Lamov, N.A. Matchenko,
G.S. Dedyaev, R.R. Mirzabaev
APPLICATION OF THE POLYGONAL FORM FOR PRODUCTS
ON THE BASIS OF WOOD AND CEMENT COMPOSITES
ON THE EXAMPLE OF WOOD CONCRETE Для создания арболитового блока полигональной формы с системой паз гре-
бень (по принципу конструктора «LEGO») для лучшего заполнения формы-опа-
лубки используется суперпластфикатор-С3 (ТУ 5745–001–97474489–2007) [2]. 3 3 Центр научного сотрудничества «Интерактив плюс» Обычно, данная химически-активная добавка используется в тяжелых бетонах
для увеличения текучести бетонной смеси более чем в 5 раз, повышения прочно-
сти изделия, улучшения структуры бетона. В арболитовом же блоке полигональ-
ной формы добавка необходима для равномерного заполнения всего простран-
ства опалубки, тем самым затвердевший, конечный продукт получается правиль-
ной формы, углы и грани ровные, равномерные, уменьшается усадка смеси. Обычно, данная химически-активная добавка используется в тяжелых бетонах
для увеличения текучести бетонной смеси более чем в 5 раз, повышения прочно-
сти изделия, улучшения структуры бетона. В арболитовом же блоке полигональ-
ной формы добавка необходима для равномерного заполнения всего простран-
ства опалубки, тем самым затвердевший, конечный продукт получается правиль-
ной формы, углы и грани ровные, равномерные, уменьшается усадка смеси. Следует отметить, что все вышесказанное справедливо при соблюдении
всех норм и требований, при производстве арболита. Таким образом, применение суперпластификатора С-3 позволяет получить
арболитовые блоки с точными геометрическими размерами для снижения рас-
хода кладочного раствора. А благодаря полигональной форме обеспечивается
максимальная теплозащита здания. Однако, несмотря на вышеперечисленные характеристики изделий из арбо-
лита, необходимо их улучшение путем введения химических добавок в состав
композиционного материала. Основными показателями для любого строитель-
ного материала являются прочность, теплопроводность и морозостойкость. Также немаловажным фактором является скорость набора прочности арболито-
бетона. Очевидным является тот факт, что основными показателями увеличения
прочности арболита является несколько факторов: внесение специальных хими-
ческих добавок (ускорители твердения, замедлители твердения и другие), раци-
онально подобранная смесь, замена основных сырьевых материалов. Подробно
остановимся на подборе смеси и сырьевых материалах. В качестве органического наполнителя может применяться: измельчённая
древесина из отходов лесозаготовок, лесопиления, деревообработки хвойных по-
род (ель, сосна, пихта), размеры которых находятся в установленном диапазоне,
в соответствии с ГОСТ 19222–84 «Арболит и изделия из него. Общие техниче-
ские условия». Размеры органического наполнителя не должны превышать: по ширине – 10 мм; по ширине – 10 мм; www.interactive-plus.ru
Содержимое доступно по лицензии Creative Commons Attribution 4.0 license (CC-BY 4. 4 www.interactive-plus.ru
Содержимое доступно по лицензии Creative Commons Attribution 4.0 license (CC-BY 4.0) www.interactive plus.ru
Содержимое доступно по лицензии Creative Commons Attribution 4.0 license (CC-BY 4. 6 www.interactive-plus.ru
Содержимое доступно по лицензии Creative Commons Attribution 4.0 license (CC-BY 4.0) M.A. Goncharova, A.O. Proskuryakova, I.V. Lamov, N.A. Matchenko,
G.S. Dedyaev, R.R. Mirzabaev
APPLICATION OF THE POLYGONAL FORM FOR PRODUCTS
ON THE BASIS OF WOOD AND CEMENT COMPOSITES
ON THE EXAMPLE OF WOOD CONCRETE p
Содержимое доступно по лицензии Creative Commons Attribution 4.0 license (CC-BY 4.0) Center of Scientific Cooperation "Interactive plus" по длине – 40 мм; по длине – 40 мм; по длине – 40 мм; по длине – 40 мм; по толщине – 5 мм. Наполнитель в бетоне занимает до 90% от общего объема изделия и скреп-
ляется вяжущим веществом. Применяемый наполнитель влияет на технологиче-
ские свойства и качество затвердевшего изделия. Правильно подобранные
наполнители позволяют получать экономичный арболитобетон с минимальным
расходом вяжущего вещества. Содержание примесей коры в применяемой древесине не должно превы-
шать 10%, а хвои – не более 5% по массе к сухой смеси заполнителя. Кроме этого, содержание в органическом заполнителе водорастворимых ве-
ществ не должно превышать 2% по массе. Применяемые органические заполнители не должны иметь признаков
гнили, плесени, инородных материалов (глин, грунта), а в зимнее время быть
безо льда и снега. Цемент используется производства ЗАО «Липецкцемент», который соответ-
ствует ГОСТ 31108–2003 «Цементы общестроительные. Технические требова-
ния». Химический и минералогический составы клинкера представлены в таб-
лице 1. Химический и минералогический составы клинкера ЦЕМ I 42,5 Н
Показатели
Значение
1. Химический состав клинкера, %
CaO
SiO2
Al2O3
Fe2O3
MgO
SO3
Щелочные оксиды в пересчете на Na2O
66,20 ± 0,20
21,70 ± 0,03
5,10 ± 0,20
4,10 ± 0,10
1,90 ± 0,10
0,14 ± 0,01
0,54 ± 0,05
2. Минералогический состав клинкера, %
C3S
C2S
C3A
C4AF
65,0 ± 2,0
13,0 ± 2,0
6,5 ± 0,5
12,4 ± 0,4 Химический и минералогический составы клинкера ЦЕМ I 42,5 Н й и минералогический составы клинкера ЦЕМ I 42,5 Н 5 Content is licensed under the Creative Commons Attribution 4.0 license (CC-BY 4.0) Content is licensed under the Creative Commons Attribution 4.0 license (CC-BY 4.0 6 www.interactive-plus.ru
С Центр научного сотрудничества «Интерактив плюс» Центр научного сотрудничества «Интерактив плюс» В качестве химических добавок используется для ускорения твердения: хло-
рид кальция (ХК) по ГОСТ 450–77 «Кальций хлористый технический. Техниче-
ские условия». По физико-механическим характеристикам хлористый кальций соответ-
ствует нормам, указанным в таблице 2. Физико-химические показатели хлористого кальция
Наименование показателя
Кальцинированный
Гидратирован-
ный
Жидкий
Высший
сорт
1-й сорт
1. Внешний вид
Порошок или гранулы
белого цвета
Чешуйки или
гранулы белого
или серого
цвета
Раствор желто-
вато-серого или
зеленоватого
цвета прозрач-
ный или с лег-
кой мутью
2. Массовая доля хлори-
стого кальция, %, не менее
96,5
90
80
35
3. Массовая доля магния в
пересчете на MgCl2, %, не
более
0,5
0,5
Не нормируется Не нормируется
4. Массовая доля прочих
хлоридов, в том числе
MgCl2, в пересчете на NaCl,
%, не более
1,5
Не норми-
руется
5,5
3
5. Массовая доля железа,
(Fe), %, не более
0,004
То же
Не нормируется Не нормируется
6. Массовая доля не раство-
римого в воде остатка, %, не
более
0,1
0,5
0,5
0,15
7. Массовая доля сульфатов
в пересчете на сульфат-ион,
%, не более
0,1
Не норми-
руется
0,3
Не нормируется Физико-химические показатели хлористого кальция Для образования плёнки на поверхности органических частиц: стекло
натриевое жидкое (ЖС) по ГОСТ 13078–82 «Стекло жидкое натриевое. Техниче-
ские условия» производства ОАО «Контакт». Технические характеристики жидкого стекла представлены в таблице 3. Технические характеристики жидкого стекла представлены в таблице 3. Center of Scientific Cooperation "Interactive plus" Технические характеристики жидкого стекла
Наименование показателя
Норма показателя
Двуокиси кремния, %
21–24
Окиси железа и окиси алюминия макс, %
0,25
Окиси кальция максимальное макс., %
0,2
Серного ангидрида макс, %
0,15
Окиси натрия, %
7,9–8,8
Силикатный модуль, %
2,7–3,4
Плотность, г/см3
1,28–1,34 Технические характеристики жидкого стекла Для создания арболитового блока полигональной формы с системой паз гре-
бень (по принципу конструктора «LEGO») для лучшего заполнения формы-опа-
лубки используется суперпластфикатор-С3 (ТУ 5745–001–97474489–2007). Обычно, данная химически-активная добавка используется в тяжелых бетонах
для увеличения текучести бетонной смеси более чем в 5 раз, повышения прочно-
сти изделия, улучшения структуры бетона. В арболитовом же блоке полигональ-
ной формы добавка необходима для равномерного заполнения всего простран-
ства опалубки, тем самым затвердевший, конечный продукт получается правиль-
ной формы, углы и грани ровные, равномерные, уменьшается усадка смеси. Применение высокоэффективного Суперпластификатора С-3 в технологии
изготовления арболитовой смеси обеспечивает: 1. По реологическим свойствам: улучшение удобоукладываемости, связности и однородности смеси; получение водоредуцирующего эффекта до 25%; увеличение времени сохранения подвижности смеси на 1–1,5 ч. 2. По физико-механическим показателям: 2. Центр научного сотрудничества «Интерактив плюс» Центр научного сотрудничества «Интерактив плюс» сокращение энергетических затрат при тепло-влажностной обработке ар-
болитобетона; сокращение энергетических затрат при тепло-влажностной обработке ар-
болитобетона; снижение температуры изотермического прогрева на 10–15°С; улучшение качества поверхности изделий, а также предотвращение высо-
лообразования. улучшение качества поверхности изделий, а также предотвращение высо-
лообразования. Центр научного сотрудничества «Интерактив плюс» По физико-механическим показателям: увеличение прочностных характеристик арболитобетона на 15% и более,
относительно первоначального состава. 3. По технико-экономическим показателям: экономию вяжущего (цемент) на 15–20% без снижения прочности материала;
замену высокомарочного цемента на цемент с более низкой маркой; экономию вяжущего (цемент) на 15–20% без снижения прочности мате замену высокомарочного цемента на цемент с более низкой маркой; замену высокомарочного цемента на цемент с более низкой маркой; 7 Content is licensed under the Creative Commons Attribution 4.0 license (CC-BY 4.0) 8 www.interactive-plus.ru
Содержимое доступно по лицензии Creative Commons Attribution 4.0 license (CC-BY 4.0) 8 www.interactive-plus.ru Список литературы 1. Ламов И.В. Применение арболитовых блоков «LEGO» в малоэтажных
жилых и производственных зданиях и сооружениях [Текст] / И.В. Ламов,
М.А. Гончарова // Научные исследования: от теории к практике: Материалы
V Междунар. науч.-практ. конф. (Чебоксары, 6 нояб. 2015 г.). В 2 т. Т. 2 / Ред-
кол.: О.Н. Широков [и др.]. – Чебоксары: ЦНС «Интерактив плюс», 2015. –
№4 (5). – С. 47–50. 1. Ламов И.В. Применение арболитовых блоков «LEGO» в малоэтажных
жилых и производственных зданиях и сооружениях [Текст] / И.В. Ламов,
М.А. Гончарова // Научные исследования: от теории к практике: Материалы
V Междунар. науч.-практ. конф. (Чебоксары, 6 нояб. 2015 г.). В 2 т. Т. 2 / Ред-
кол.: О.Н. Широков [и др.]. – Чебоксары: ЦНС «Интерактив плюс», 2015. –
№4 (5). – С. 47–50. 2. ТУ 5745–001–97474489–2007 Суперпластификатор «Пластификатор С-3»
инструкция по применению. 3. Корнеев А.Д. Технология композиционной черепицы с теплоизоляцией
из наполненного пенополиуретана / А.Д. Корнеев, М.А. Гончарова, Г.А. Шата-
лов // Строительные материалы. – 2014. – №4. – С. 92–95. 4. Гончарова М.А. Прогнозирование долговечности наполненного пенопо-
лиуретана в кровельной сэндвич-панели / М.А. Гончарова, Б.А. Бондарев,
А.О. Проскурякова // Научный вестник ВГАСУ. Строительство и архитектура. –
2014. – №3 (35). – С. 31–37. 5. Ламов И.В. Применение арболитовых блоков «LEGO» в малоэтажных
жилых и производственных зданиях и сооружениях / И.В. Ламов, М.А. Гонча-
рова // Научные исследования: от теории к практике: Материалы V Междунар. науч.-практ. конф. (Чебоксары, 6 нояб. 2015 г.). – Чебоксары, 2015. – С. 47–50. 5. Ламов И.В. Применение арболитовых блоков «LEGO» в малоэтажных
жилых и производственных зданиях и сооружениях / И.В. Ламов, М.А. Гонча-
рова // Научные исследования: от теории к практике: Материалы V Междунар. науч.-практ. конф. (Чебоксары, 6 нояб. 2015 г.). – Чебоксары, 2015. – С. 47–50. 6. Формирование систем твердения композитов на основе техногенного сы-
рья / М.А. Гончарова, М.А. Чернышев // Строительные материалы. – 2013. –
№5. – С. 60–63. 6. Формирование систем твердения композитов на основе техногенного сы-
рья / М.А. Гончарова, М.А. Чернышев // Строительные материалы. – 2013. –
№5. – С. 60–63. 8 www.interactive-plus.ru
Содержимое доступно по лицензии Creative Commons Attribution 4.0 license (CC-BY 4.0) Center of Scientific Cooperation "Interactive plus" 7. Разработка SIP-панелей для легковозводимых домов с повышенными теп-
лотехническими свойствами / Г.С. Дедяев, М.А. Гончарова // Научные исследо-
вания: от теории к практике. – 2015. – Т. 2. – №4 (5). – С. 29–31. 7. Разработка SIP-панелей для легковозводимых домов с повышенными теп-
лотехническими свойствами / Г.С. Content is licensed under the Creative Commons Attribution 4.0 license (CC-BY 4.0) Список литературы Дедяев, М.А. Гончарова // Научные исследо-
вания: от теории к практике. – 2015. – Т. 2. – №4 (5). – С. 29–31. 7. Разработка SIP-панелей для легковозводимых домов с повышенными теп-
лотехническими свойствами / Г.С. Дедяев, М.А. Гончарова // Научные исследо-
вания: от теории к практике. – 2015. – Т. 2. – №4 (5). – С. 29–31. Гончарова Маргарита Александровна – д-р техн. наук, доцент, заведую-
щая кафедрой ФГБОУ ВО «Липецкий государственный технический универси-
тет», Россия, Липецк. Гончарова Маргарита Александровна – д-р техн. наук, доцент, заведую-
щая кафедрой ФГБОУ ВО «Липецкий государственный технический универси-
тет», Россия, Липецк. Goncharova Margarita Aleksandrovna – doctor of technical sciences,
associate professor, head of the Department FSFEI of HE “Lipetsk State Technical
University”, Russia, Lipetsk. Goncharova Margarita Aleksandrovna – doctor of technical sciences,
associate professor, head of the Department FSFEI of HE “Lipetsk State Technical
University”, Russia, Lipetsk. Проскурякова Анастасия Олеговна – канд. техн. наук, доцент ФГБОУ ВО
«Липецкий государственный технический университет», Россия, Липецк. Proskuryakova Anastasia Olegovna – candidate of technical sciences, associate
professor FSFEI of HE “Lipetsk State Technical University”, Russia, Lipetsk. Ламов Илья Владимирович – магистрант ФГБОУ ВО «Липецкий государ-
ственный технический университет», Россия, Липецк. Ламов Илья Владимирович – магистрант ФГБОУ ВО «Липецкий государ-
ственный технический университет», Россия, Липецк. Lamov Ilya Vladimirovich – graduate student FSFEI of HE “Lipetsk State Tech-
nical University”, Russia, Lipetsk. Lamov Ilya Vladimirovich – graduate student FSFEI of HE “Lipetsk State Tech-
nical University”, Russia, Lipetsk. Матченко Никита Александрович – магистрант ФГБОУ ВО «Липецкий
государственный технический университет», Россия, Липецк. Matchenko Nikita Aleksandrovich – graduate student FSFEI of HE “Lipetsk
State Technical University”, Russia, Lipetsk. Matchenko Nikita Aleksandrovich – graduate student FSFEI of HE “Lipetsk
State Technical University”, Russia, Lipetsk. Дедяев Герман Сергеевич – магистрант ФГБОУ ВО «Липецкий государ-
ственный технический университет», Россия, Липецк. Dyadev German Sergeevich – graduate student FSFEI of HE “Lipetsk State
Technical University”, Russia, Lipetsk. Мирзабаев Руслан Рустамович – магистрант ФГБОУ ВО «Липецкий гос-
ударственный технический университет», Россия, Липецк. Mirzabaev Ruslan Rustamovich – graduate student FSFEI of HE “Lipetsk State
Technical University”, Russia, Lipetsk. Mirzabaev Ruslan Rustamovich – graduate student FSFEI of HE “Lipetsk State
Technical University”, Russia, Lipetsk. 9 Content is licensed under the Creative Commons Attribution 4.0 license (CC-BY 4.0)
|
https://openalex.org/W4322756646
|
https://zenodo.org/records/7686919/files/MMMS0304.pdf
|
Russian
| null |
КОРРЕКЦИЯ СУПРКАРДИАЛЬНОГО ТИПА АНОМАЛЬНОГО ДРЕНАЖА ЛЕГОЧНЫХ ВЕН
|
Zenodo (CERN European Organization for Nuclear Research)
| 2,023
|
cc-by
| 572
|
MODELS AND METHODS IN MODERN SCIENCE
International scientific-online conference КОРРЕКЦИЯ СУПРКАРДИАЛЬНОГО ТИПА АНОМАЛЬНОГО
ДРЕНАЖА ЛЕГОЧНЫХ ВЕН
Абролов Х.К. Маматов М.А. ГУ «Республиканский Специализированный научно-практический
медицинский центр хирургии им.академика В.Вахидова». г.Ташкент. Узбекистан. КОРРЕКЦИЯ СУПРКАРДИАЛЬНОГО ТИПА АНОМАЛЬНОГО
ДРЕНАЖА ЛЕГОЧНЫХ ВЕН
Абролов Х.К. Маматов М.А. ГУ «Республиканский Специализированный научно-практический
медицинский центр хирургии им.академика В.Вахидова». г.Ташкент. Узбекистан. КОРРЕКЦИЯ СУПРКАРДИАЛЬНОГО ТИПА АНОМАЛЬНОГО
ДРЕНАЖА ЛЕГОЧНЫХ ВЕН
Абролов Х.К.
Маматов М.А.
ГУ «Республиканский Специализированный научно-практический
медицинский центр хирургии им академика В Вахидова» г Ташкент https://doi.org/10.5281/zenodo.7686919
Актуальность: Аномальный дренаж легочных вен (АДЛВ) – врожденный
порок сердца, характеризующиеся дренированием одной или нескольких,
легочных вен в правое предсердие или его притоки. В ряде случаев
аномальные легочные вены впадают в верхнюю полую вену
(ВПВ)
или
кава-атриальное соединение
в сочетании с синус-септум дефектом. До
настоящего времени, по мнениям авторов хирургическая коррекция
порока в основном решены, но, несмотря на подобное единство взглядов
на показания к коррекции АДЛВ, многие частные вопросы остаются
предметом дискуссий. С учетом этого в настоящем сообщении излагаем
наш модифицированный подход к хирургическому лечению больных с
АДЛВ. Цель
исследования:
обосновать
эффективность
и
адекватность
разработанного нашего модифицированного метода реконструкции
аномального дренажа легочных вен с помощью аутоперикарда. Материал и методы. За период с 2015-2020 гг. в РСНПЦХ им акад. В.Вахидова
оперированы
51
больных
различными
анатомическим
вариантами АДЛВ, в возрасте 5- 45лет, средний возраст составлял
(14.2±0,7) лет. Из них в 17 случаев применена наш модифицированный
вариант
операции. Диагностику
порока
основывали
на
анализе
совокупности данных клинических и специальных методов исследования,
включая
эхокардиографию,
мультиспиральную
компьютерную
томографию с контрастом и катетеризацией полостей сердца с
ангиокардиографией. Операции выполняли из срединной стернотомии, в
условиях
искусственное
кровообращение
с
фармакохолодовой
кардиоплегией. Из
51
оперированных
больных
у
27
было
супракардиальный тип частичного аномального дренажа легочных вен
(ЧАДЛВ). Во всех случаях порок сочетался с дефектом межпредсердной
перегородки. Цель
исследования:
обосновать
эффективность
и
адекватность
разработанного нашего модифицированного метода реконструкции
аномального дренажа легочных вен с помощью аутоперикарда. Результат и обсуждение. Среди оперированных 16 больных летальных
исходов не было; все они выписаны из клиники без признаков сердечной 23 MODELS AND METHODS IN MODERN SCIENCE
International scientific-online conference MODELS AND METHODS IN MODERN SCIENCE
International scientific-online conference недостаточности и практически без жалоб, в удовлетворительном
состоянии. В то же время наш опыт и анализ литературы показывают, что
разнообразие хирургических методов лечения и условий их обеспечения,
используемых при коррекции АДЛВ, объясняется
сложности
некоторых анатомических компонентов порока. В отношении коррекции
дефекта венозного синуса с ЧАДЛВ мы выполняли дислокацию аномально
впадающих легочных вен с помощью заплаты из аутоперикарда. При этом
необходимо отметить, что операцию заканчивает вшиванием второй
заплаты в устья ВПВ для расширения, чтобы не было стеноза последнего. В этих случаях мы модифицировали данный метод: верхнюю полую вену
канюлируюем выше места впадения аномально дренирующийся вен «Г»
образной канюлей («pacifico»), вскрыв правое предсердие, разрез
продлеваем выше устья аномально впадающих легочных вен в верхнюю
полую вену, затем по латеральной поверхности вены, обходя зону
проекции
синусового
узла,
производим
пластику
дефекта
межпредсердной перегородки, создавая трубопровод из аномально
дренирующих легочных вен в правое предсердие, далее выполняем
пластику верхней полой вены с латеральной стороны и стенки правого
предсердия
заплатой
из
аутоперикарда
подшивая
непрерывным
атравматическим швом. Преимущества данного метода является, создание
физиологический путь ВПВ, профилактика нарушение ритма, который
после операции часто встречается при других методах операции, в
конечном итоге приводящий к сердечной недостаточности. Из
вышеперечисленных
можно
сделать
заключение,
что
применяемый
наш
модифицированный
вариант
операции
при
аномальном дренаже легочный вен дает хороший результаты, создает
физиологический путь ВПВ, предотвращает нарушение ритма, который
после операции часто встречается при других методах операции,
сокращает пребывание больного в стационаре, который экономить
расходы лечения порока. 24 24
|
W2118437710.txt
|
https://bmcpublichealth.biomedcentral.com/counter/pdf/10.1186/1471-2458-11-S3-S29
|
en
|
An evaluation of emerging vaccines for childhood meningococcal disease
|
BMC public health
| 2,011
|
cc-by
| 8,198
|
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
RESEARCH
Open Access
An evaluation of emerging vaccines for
childhood meningococcal disease
Debajeet Choudhuri1†, Tanvir Huda2†, Evropi Theodoratou1†, Harish Nair1,3, Lina Zgaga1, Rachel Falconer1,
Ivana Luksic4, Hope L Johnson5, Jian Shayne F Zhang1, Shams El Arifeen2, Christopher B Nelson6, Ray Borrow7,
Harry Campbell1, Igor Rudan1,8*
Abstract
Background: Meningococcal meningitis is a major cause of disease worldwide, with frequent epidemics
particularly affecting an area of sub-Saharan Africa known as the “meningitis belt”. Neisseria meningitidis group A
(MenA) is responsible for major epidemics in Africa. Recently W-135 has emerged as an important pathogen.
Currently, the strategy for control of such outbreaks is emergency use of meningococcal (MC) polysaccharide
vaccines, but these have a limited ability to induce herd immunity and elicit an adequate immune response in
infant and young children. In recent times initiatives have been taken to introduce meningococcal conjugate
vaccine in these African countries. Currently there are two different types of MC conjugate vaccines at late stages
of development covering serogroup A and W-135: a multivalent MC conjugate vaccine against serogroup A,C,Y
and W-135; and a monovalent conjugate vaccine against serogroup A. We aimed to perform a structured
assessment of these emerging meningococcal vaccines as a means of reducing global meningococal disease
burden among children under 5 years of age.
Methods: We used a modified CHNRI methodology for setting priorities in health research investments. This was
done in two stages. In the first stage we systematically reviewed the literature related to emerging MC vaccines
relevant to 12 criteria of interest. In Stage II, we conducted an expert opinion exercise by inviting 20 experts
(leading basic scientists, international public health researchers, international policy makers and representatives of
pharmaceutical companies). They answered questions from CHNRI framework and their “collective optimism”
towards each criterion was documented on a scale from 0 to 100%.
Results: For MenA conjugate vaccine the experts showed very high level of optimism (~90% or more) for 7 out of
the 12 criteria. The experts felt that the likelihood of efficacy on meningitis was very high (~90%). Deliverability,
acceptability to health workers, end users and the effect on equity were all seen as highly likely (~90%). In terms of
the maximum potential impact on meningitis disease burden, the median potential effectiveness of the vaccines in
reduction of overall meningitis mortality was estimated to be 20%; (interquartile range 20-40% and min. 8%, max
50 %). For the multivalent meningococcal vaccines the experts had similar optimism for most of the 12 CHNRI
criteria with slightly lower optimism in answerability and low development cost criteria. The main concern was
expressed over the cost of product, its affordability and cost of implementation.
Conclusions: With increasing recognition of the burden of meningococcal meningitis, especially during epidemics
in Africa, it is vitally important that strategies are taken to reduce the morbidity and mortality attributable to this
disease. Improved MC vaccines are a promising investment that could substantially contribute to reduction of child
meningitis mortality world-wide.
* Correspondence: irudan@hotmail.com
† Contributed equally
1
Centre for Population Health Sciences, Global Health Academy,
The University of Edinburgh, UK
Full list of author information is available at the end of the article
© 2011 Choudhuri et al; licensee BioMed Central Ltd. This is an open access article distributed under the terms of the Creative
Commons Attribution License (http://creativecommons.org/licenses/by/2.0), which permits unrestricted use, distribution, and
reproduction in any medium, provided the original work is properly cited.
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
Background
Meningococcal disease continues to be a major cause of
childhood morbidity and mortality worldwide. The
annual number of cases is conservatively estimated to
be 1.2 million with at least 135,000 related deaths [1].
The majority of the deaths occur in developing countries. The area most significantly affected stretches
across sub-Saharan Africa and has become known as
the “meningitis belt” (Figure 1). Cyclic epidemics occur
in this region every 5-12 years and exhibit a marked seasonality [2,3].
The incidence rate in epidemic years can reach 1000
per 100,000 population [4]. It has been estimated that
since 1988 there have been over one million cases of
meningitis in Africa [5]. The largest epidemic occurred
in 1996–1997 across Africa, causing over 250,000 cases
and 25,000 deaths. In recent years the reported number
of meningitis cases has been increasing, with 41,526
cases in 2006, 45,997 in 2007, and 88,199 cases in 2009.
This may reflect a new epidemic wave in sub-Saharan
Africa [5].
The main etiological agents for bacterial meningitis
are Haemophilus influenzae, Streptococcus pneumoniae,
and Neisseria meningitidis [6]. Recently, the incidence of
Haemophilus influenzae meningitis has declined following the introduction of the Haemophilus influenzae type
b (Hib) conjugate vaccine [7,8]. Neisseria meningitidis is
now estimated to account for 60-65% of all cases [2].
There are approximately 1.2 million cases of invasive
meningococcal disease leading to 135,000 related deaths
annually, according to the WHO [9]. In non-epidemic
meningitis belt
epidemic zones
Page 2 of 14
situations, pneumococcus is probably as common across
all age groups as Neisseria meningitidis and causes three
to five times more mortality. During major Neisseria
meningitidis epidemics the proportion due to Neisseria
meningitidis (and particularly MnA) is probably closer
to 90%. Six capsular groups (A,B,C, W-135, X and Y)
are associated with all invasive disease, groups B and C
causing most cases in industrialised countries. Neisseria
meningitidis serogroup A (MenA) was found to be the
most frequent identified pathogen during epidemics in
Africa [6,9]. However, in the years 2000 and 2001, serogroup W135 caused a major outbreaks during the
annual Hajj pilgrimage in Saudi Arabia [10,11] and was
also subsequently isolated from 80% of cerebrospinal
fluid (CSF) samples in the 2002 epidemic in Burkina
Faso and was also noted in other African countries [12].
Recently, groups X (mainly in Africa) and group Y (in
the United States and other countries) have also
emerged as important disease-causing isolates [9].
Different strategies have been implemented to stem
the effects of the epidemics and their associated disease
burden. Currently an emergency strategy of mass vaccination with MC polysaccharide vaccine following early
detection of cases is instituted in the epidemic area [3].
However, this is a short-term solution and the strategy
relies on timely surveillance and rapid response, both of
which can be difficult to achieve in less-developed countries. Delays in vaccination can be associated with
increased morbidity and mortality [13]. The polysaccharide vaccine against serogroup A does not prevent
acquisition of nasopharyngeal carriage or confer herd
sporadic cases only
Figure 1 Demography of meningococcal meningitis (Source http://en.wikipedia.org/wiki/File:Meningitis-Epedemics-World-Map.png).
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
immunity [14] and the vaccine response with repeated
administration over time (for example with immunizations of at-risk populations during repeated epidemics)
is uncertain [15]. The immunogenic response to the vaccine is diminished in infant and young children under
the age of two years [16,17]. This is an important limitation given the epidemiology of meningococcal disease.
These shortcomings may be overcome by the development of MC conjugate vaccines (named after the linking
of the MC polysaccharide antigen to immunogenic carrier proteins) if optimally realized. However, some of
these limitations are also true for the MC conjugate vaccines. For example the immunogenicity of a quadrivalent (A, C, W135, and Y) vaccine conjugated to
diphtheria toxoid in infants is poor [9].
We aimed to assess the potential of the MC conjugate
vaccines to reduce global under-5 meningitis mortality
through the use of the CHNRI priority setting
methodology.
Methods
We used a modified Child Health and Nutrition
Research Initiative (CHNRI) methodology for setting
priorities in health research investments. The methodology has been described in great detail [18-22] and
implemented in a variety of settings [23-28].
CHNRI exercise – stage I: Identification and selection of
studies
We applied the CHNRI method to estimate their potential impact of the emerging MC conjugate vaccines
against two major serogroups of Neisseria meningitidis
(A and W-135). We conducted a systematic literature
review using the following 12 criteria: answerability, cost
of development, cost of product, cost of implementation,
efficacy and effectiveness, deliverability, affordability,
sustainability, maximum potential impact on disease
burden reduction, acceptance to health workers, acceptance to end users and equity (Figure 2). Details about
the search strategies are presented in Additional file 1.
The search was limited to Ovid MEDLINE (1999 to July
2009), EMBASE (1999 to July 2009), Web of Science
(1999 to July 2009), Cochrane central register for controlled trials and a grey literature database (SIGLE). In
order to ensure completeness, we also conducted hand
searching of online journals, scanned the reference list
of identified citations, and perused literature available
on the websites of pharmaceutical companies and international agencies (GAVI and WHO).
Eligible studies were selected according to the predetermined inclusion criteria. In particular, included studies investigated the answerability, effectiveness, deliverability, disease burden reduction or equity of vaccines or
Page 3 of 14
immunisation programs related to meningococcal conjugate or combination vaccines. Studies not eligible for
inclusion were studies: (i) non-English language studies
and (ii) developed world vaccine trials where developing
world results for the same vaccine exist.
CHNRI exercise – stage II: An expert opinion exercise
We shared the initial review of the literature with 20
experts. The list of chosen experts included five leading
basic scientists, five international public health researchers, five international policy makers and five representatives of the pharmaceutical companies. The 20 experts
were chosen based on their excellent track record in
childhood disease research, or prominent leadership
roles in their organization related to this subject. We
initially offered participation to the 20 experts with the
greatest impact of publications in their area of expertise
over the past 5 years (for basic researchers and international public health researchers), or for being affiliated
to the largest pharmaceutical company in terms of vaccination programme or international agency in terms of
their annual budget. For those who declined or who
could adjust their schedules to participate (4 experts or
20%) replacements were found using the same criteria.
The policy makers and industry representatives accepted
our invitation on the condition of anonymity, due to
sensitive nature of their involvement in such exercises.
The experts met during September 7-13, 2009 in
Dubrovnik, Croatia, to conduct the 2nd stage of CHNRI
expert opinion exercise. The process of second-stage
CHNRI is shown in Figure 3. All invited experts discussed the evidence provided in CHNRI stage I, and
then answered questions from CHNRI framework see
Additional file 2. Their answers could have been “Yes”
(1 point), “No” (0 points), “Neither Yes nor No” (0.5
points) or “Don’t know” (blank). Their “collective optimism” towards each criterion was documented on a
scale from 0 to 100%. The interpretation of this metric
for each criterion is simple: it is calculated as the number of points that each evaluated emerging intervention
received from 20 experts (based on their responses to
questions from CHNRI framework), divided by the maximum possible number of points (i.e., if all the answers
from all the experts to all the questions were “Yes”).
Results
After initial screening, sixty studies were finally included
in the review. Thirty one of them were considered for
assessing the answerability and effectiveness of monovalent and quadrivalent meningococcal vaccines covering
MC serogroup A and W-135 and fourteen studies were
considered to assess the deliverability, equity and reduction in global burden of disease from meningitis.
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
Page 4 of 14
Figure 2 A summary of Stage I of the CHNRI process of an evaluation of emerging intervention (a systematic review of the key CHNRI criteria).
Answerability
The conjugate vaccine boosts immunogenicity by transforming the vaccine from T-cell independent to T-cell
dependant, thus allowing for priming of immunological
memory and increasing immunogenicity in infants [3].
Conjugate vaccine technology has made significant
advances in the past two decades [15] Hib conjugate
vaccine was first licensed in 1987 followed by MenC
conjugate in 1999 and pneumococcal conjugate (PCV7)
vaccine in 2000 [29]. These conjugate vaccines were
found to be safe and immunogenic in infants. The efficacy of these conjugate vaccines has demonstrated that
the principle that the immunogenicity of bacterial cell
surface polysaccharides can be improved by conjugating
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
Page 5 of 14
Figure 3 A summary of Stage II of the CHNRI process of an evaluation of emerging intervention (an expert opinion exercise using the CHNRI
criteria).
it with a protein carrier. Thus the development of the
emerging MC conjugate vaccines is building on an
established technology which has been shown to be
successful.
The currently available MenC conjugate vaccines were
first introduced in the UK in November 1999. Two different conjugated MenC conjugate vaccines were developed
using CRM197 and one with tetanus toxoid as the carrier
proteins [2]. These vaccines were licensed on the basis of
immunogenicity and safety data but without a formal efficacy study. Studies reviewing the impact of MenC
conjugate vaccines reported short term efficacy of 97% for
teenagers and 92% for toddlers in England [30]. One year
following introduction of these vaccines a 66% decrease in
the prevalence of nasopharyngeal carriage of serogroup C
meningococcal in adolescents [31] and 67% reduction in
the attack rate in the unvaccinated adolescent population
conferring a high level of herd immunity [32]. This experience therefore suggests that the development of further
MC conjugate vaccines against other serogroups should,
in principle, be a realistic possibility and could provide
better protection against meningitis.
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
The panel was very optimistic (score over 85%) about
the ability of a monovalent conjugate vaccine against
MenA to satisfy the criteria of answerability (Figure 4)
while they were somewhat less optimistic (score about
75%) in the case of multivalent MC conjugate vaccines
(Figure 5).
Efficacy and effectiveness
Monovalent Conjugate Vaccine against Serogroup A
A serogroup A meningococcal conjugate vaccine using
tetanus toxoid as a carrier protein (PsA-TT conjugate
vaccine) (MenAfrivax) has been developed at the Serum
Institute of India Ltd. (SIIL) using a new licensed conjugation technique from the Center for Biologics Evaluation and Research/Food and Drug Administration
(CBER/FDA, MD, USA) [33]. The vaccine demonstrated
higher serum bactericidal antibody (SBA) than the PSonly vaccine in animal studies [34]. The first Phase I
clinical trial was carried out in India among 18-35 year
old healthy volunteers and results of the study showed
PsA-TT to be safe, immunogenic and able to demonstrate long term functional antibody titers in adults (Figure 6) [35].
A Phase II clinical trial in Mali and Gambia evaluate
the immunogenicity and safety of a single injection of
PsA-TT vaccine in young children compared to a
licensed meningococcal ACWY polysaccharide vaccine
(PsACWY) and a licensed Hib conjugate vaccine (Figure
6). The preliminary results showed 96% of the subjects
in PsA-TT group had a four-fold increase in rSBA titer
from week 0 to 4 as compared to 64% in the ACWY PS
group and 36% in Hib group [36]. A Phase II/III clinical
trial with 909 subjects of 2-29 year olds was carried out
in Mali, Senegal, and the Gambia comparing the immunogenicity and long-term persistence of antibodies of a
single dose of the PsA-TT vaccine with that of
PsACWY. The preliminary findings were presented at
International Pathogenic Neisseria Conference in 2008
which concluded that the PsA-TT vaccine is safe and
consistently induced higher immune responses with
respect to the licensed tetravalent polysaccharide vaccine. The immune response as measured by the MenA
IgG ELISA concentrations ≥ 2 μg/mL was 100% (CI 99100) in PsA-TT group and 88% (CI84-92) in the
PsACWY group [37,38]. Preliminary results of similar
Phase 2/3 study in India in healthy children of 2–10
years of age showed that the vaccine was safe and highly
immunogenic [39]. Two Phase 3 clinical trials are currently being carried out in India and Mali to evaluate
the safety and immunogenicity of a single dose of the
PsA-TT vaccine [40].
Based on these, the experts were very optimistic (score
over 85%) regarding the likelihood of efficacy of the monovalent conjugate vaccine against meningitis (Figure 4).
Page 6 of 14
Multivalent Vaccines against Serogroup A and W-135
The two currently available meningococcal conjugate
vaccines in developed world that target both MenA and
MenW-135 along with serogroup C and Y are Menactra
and Menveo.
Menactra (Meningococcal ACWY-diphtheria vaccine;
MenACYW-D; Sanofi Pasteur) is a quadrivalent meningococcal protein–polysaccharide conjugate vaccine
licensed for use in the United States for routine vaccination of 11–12 years old and for increased risk of invasive
meningococcal disease (IMD) of 2–55 years old for both
Canada and USA.
Menveo is a quadrivalent glycoconjugate vaccine,
(MenACWY-CRM, Novartis Vaccines), formulated from
oligosaccharides of MenA (10 g) and of Men C, W-135
and Y (5 g of each) and covalently linked to the
diphtheria mutant toxin carrier protein, CRM197. In
early 2010, the vaccine received approval from the Federal Drug Administration and European Medicines
Agency for use among teenagers and adults.
These vaccines offer protection against four of the five
most common meningococcal serogroups: A, C, Y and
W-135.
A randomized controlled trial was conducted among
11-18 years old comparing the immunogenecity of
Menactra with Menomune (PSV-4; A/C/Y/W-135;
Sanofi Pasteur Inc), a licensed tetravalent polysaccharide
vaccine (Figure 6). The findings of the study showed a
high percentage of subjects with fourfold or greater rise
in serum bactericidal activity for all four antigens (the
seropositivity was measured by Serum Bactericidal Assay
with baby rabbit complement (rSBA)). The respective
seroresponse rate in Menactra and Menomune for
MenA, MenC, MenY and MenW-135 are presented in
Figure 7[41]. Another randomized controlled trial conducted among persons aged 18–55 years compared
immunogenecity of Menactra and that of Menomune at
28 days after vaccination showed similar results (Figure
7) [42]. A study in children aged 2–10 also found significantly higher seroresponse as measured by SBA activity
in the Menactra group [43].
A similar phase III randomized controlled trial was
carried out to compare the safety and immunogenicity
of Menveo with that of Menactra. The results of the
trial were published separately for the 11-to 18-year
old and 19- to 55- year old groups [44,45]. The serorespnose rates of Menveo and Menactra as measured
by hSBA titre>= 1:8 at 1 month following the last dose
for both age groups are presented in Figure 7. To evaluate immunogenicity and reactogenicity of Menveo in
healthy infants, a study was conducted in Canada and
the UK. It concluded that Menveo is immunogenic
and well tolerated in infancy and could provide broad
protection against meningococcal disease in this age
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
Page 7 of 14
Mn A conjugate vaccine
Answ erability
Low development cost
Low product cost
Low implementation cost
Likelihood of efficacy
Deliverability
Affordability
Sustainability
Acceptance to health w orkers
Acceptance to end users
Impact on equity
0.00
0.20
0.40
0.60
0.80
1.00
Score
Maximum Burden Reduction Potential of Mn A vaccines
0
Maximum burden reduction potential (in %)
20
40
60
80
100
Box-and-Whisker plot of the experts' score
Figure 4 The results of Stage II CHNRI process – an expert opinion exercise assessing the potential usefulness of investment in Meningitis A
conjugate vaccines.
group [46]. A new Quadrivalent Meningococcal (A, C,
Y and W-135) Tetanus Protein Conjugate Vaccine
(TetraMen-T) is in late stages of development from
Sanofi Aventis (http://clinicaltrials.gov/ct2/show/
NCT01049035) and a quadrivalent Meningococcal (A,
C, Y, W-TT) Protein Conjugate Vaccine from GSK
nearing licensure [47-49].
A novel heptavalent vaccine targeting Neisseria
meningitidis serogroups A and C along with
diphtheria, tetanus, whole cell pertussis-hepatitis B
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
Page 8 of 14
Multivalent Mn vaccine
Answerability
Low development cost
Low product cost
Low implementation cost
Likelihood of efficacy
Deliverability
Affordability
Sustainability
Acceptance to health workers
Acceptance to end users
Impact on equity
0.00
0.20
0.40
0.60
0.80
1.00
Score
Maximum Burden Reduction Potential of multivalent Mn vaccines
0
Maximum burden reduction potential (in %)
20
40
60
80
100
Box-and-Whisker plot of the experts' score
Figure 5 The results of Stage II CHNRI process – an expert opinion exercise assessing the potential usefulness of investment in multivalent
meningococcal vaccines.
virus and Hib (DTPw-HBV/Hib-MenAC) was developed and was found to be safe and efficacious at generating immunological memory, particularly in infants
in initial Phase I/II studies (Figure 6). A dose-ranging
trial in the Philippines in 524 healthy infants showed
that the DTPw-HBV/Hib-MenAC vaccine produced
antibody responses comparable to the non-combination vaccines [50]. Another Phase II study on DTPwHBV/Hib-MenAC in Ghana demonstrated adequate
immunogenecity in infants [51]. However, currently
there are no plans to take this vaccine forward for
registration [52].
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
Page 9 of 14
Figure 6 The current status of the research into MenA conjugate vaccines, multivalent Men conjugate vaccines and DTPw-HBV/Hib-MenAC
vaccines as of September 2009 (see Additional file3 for details about the clinical trials phases; The DTPw-HBV/Hib-MenAC has now been
discontinued).
No randomized controlled clinical trial has been conducted to evaluate the effectiveness of these multivalent
vaccines in developing world settings. Although immunogenicity studies usually can predict short-term effectiveness, the understanding of long-term protection
needs well designed effectiveness trials. Moreover
studies should be carried out to gather knowledge on
link between immunogenicity and impact on nasopharyngeal carriage and herd immunity in the epidemic
prone areas.
Based on the available information, the expert group
was very optimistic (score over 85%) regarding the
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
Page 10 of 14
Comparison of immunogenecity of M enactra with M enomune
Menveo
Menactra
100
Menomune
90
Sero-responce rate
80
70
60
50
40
30
20
10
MenW-135(4)
(19-55 yrs old)
MenW-135(3)
(11-18 yrs old)
MenW-135(2)
(18-55 yrs old)
MenW-135(1)
(11-18 yrs old)
MenY(4)
(19-55 yrs old)
MenY(3)
(11-18 yrs old)
MenY(2)
(18-55 yrs old)
MenY(1)
(11-18 yrs old)
MenC(4)
(19-55 yrs old)
MenC(3)
(11-18 yrs old)
MenC(2)
(18-55 yrs old)
MenC(1)
(11-18 yrs old)
MenA(4)
(19-55 yrs old)
MenA(3)
(11-18 yrs old)
MenA(2)
(18-55 yrs old)
MenA(1)
(11-18 yrs old)
0
Figure 7 Seroresponse rate in Menactra and Menomune for MenA, MenC, MenY and MenW-135 ((1) Keyserling, H., et al: Safety, immunogenicity,
and immune memory of a novel meningococcal (groups A, C, Y, and W-135) polysaccharide diphtheria toxoid conjugate vaccine (MCV-4) in
healthy adolescents. Arch Pediatr Adolesc Med, 2005, 159: 907-13; (2) Bilukha, O.O. and N. Rosenstein: Prevention and control of meningococcal
disease. Recommendations of the Advisory Committee on Immunization Practices (ACIP). MMWR Recomm Rep, 2005, 54: 1-21; (3) Jackson, L. A.,
et al: Phase III comparison of an investigational quadrivalent meningococcal conjugate vaccine with the licensed meningococcal ACWY
conjugate vaccine in adolescents. Clin Infect Dis 2009, 49: e1-10; (4) Reisinger, K. S., et al : Quadrivalent meningococcal vaccination of adults:
phase III comparison of an investigational conjugate vaccine, MenACWY-CRM, with the licensed vaccine, Menactra. Clin Vaccine Immunol 2009,
16: 1810-1815.).
likelihood of efficacy of the multivalent conjugate MC
vaccines against meningitis (Figure 5).
Cost, affordability, deliverability and sustainability
The ongoing MenA clinical trials are currently evaluating the efficacy of different schedules of vaccination in
infants. The Meningitis Vaccine Project (MVP) proposes
delivery of the MenA conjugate vaccine in a two dose
schedule, at 14 weeks and 9 months, or as a single dose
at 9 months [2]. A catch-up from age 1 to 29 years is
planned for each meningitis belt country. This permits
incorporation of the vaccine into existing EPI schedules,
since it will be given concurrently with the final DPT
dose (DTP3) at 14 weeks and with the measles vaccine
at 9 months [53]. This should act to promote high coverage of the MenA vaccine without the need to commit
very substantial further resources for promotion and
delivery of a new immunisation programme. In 2006,
the average uptake of the DTP3 vaccine across the African region was 73%, with similar rates of coverage for
the measles vaccine [54]. However, this masks pronounced disparities between countries, in the “meningitis belt”. For example, Niger achieved <40% coverage for
DTP3 while rates in Burkina Faso and the Gambia were
>90%, which suggests that approaches to vaccine
delivery must be modified in areas where current strategies have low uptake. Such countries may benefit from
the implementation of periodic regional campaigns to
boost immunisation coverage [54].
Provision of viable vaccines relies on appropriate storage and transport and a functioning “cold-chain”. Currently, there is a significant wastage of vaccines in
developing countries due to inadequate funding, poor
equipment and lack of training of health-care workers
[55]. Storage is an important factor to address as the
MenA Ps, from which the conjugate is derived has been
shown to be the least stable meningococcal Ps [56] and
any deviation from the recommended 2-8°C storage
temperature [55] could render the vaccine unusable.
This is also applies to the multivalent conjugate
vaccines.
The greatest barrier to uptake of vaccines by developing countries is cost [57]. The MVP was been granted
$70 million by The Gates Foundation [57] and $29.5
million from The Global Alliance for Vaccines and
Immunisation (GAVI) [58], which should allow Men A
conjugate vaccine to be provided at $0.40 a dose, in
agreement with the manufacturer, the Serum Institute
of India Limited [3]. Currently the MVP aims to provide
the Men A conjugate vaccine at a lower cost through
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
push financing. MenAfriVac™ has received WHO prequalification (which guarantees that individual vaccines
meet international standards of quality, safety, and efficacy). The producer, Serum Institute of India Ltd, has
received marketing authorization for export and use of
MenAfriVac™ in Africa and mass introduction will start
in late 2010 in Mali, Burkina Faso and Niger with backing from Global Alliance for Vaccines and Immunization (GAVI) and WHO. Given the emergence of the
importance of the W-135 and X serogroups in Africa,
the program should be flexible enough to introduce
multivalent conjugate vaccines targeting A, W-135 and
X serotypes if necessary.
The panel was highly optimistic (score around 90%)
that a monovalent conjugate vaccine could be developed
at a low cost (Figure 4), while they were only moderately
optimistic (score about 70%) in case of multivalent vaccines (Figure 5). They were however optimistic that
once introduced with support from donor agencies like
GAVI Alliance the vaccine delivery was sustainable. The
main concern related to both vaccines was expressed
over the cost of product, its affordability and cost of
implementation (Figures 4 and 5).
Burden of disease reduction
In 2009, 88,199 cases of suspected meningococcal disease were reported in “meningitis belt” countries, resulting in 5,352 deaths. The worst hit areas were Nigeria
and Niger which combined accounted for 69,577 cases
and 3,046 fatalities. From 2003-2007, 87.8% of epidemic
cases were attributable to serogroup A and 10% to
W135 [59]. Reactive mass vaccination of epidemic districts can prevent up to 70% of cases, if the vaccine
administration happens on time [35]. If MenA conjugate
vaccine can reproduce the effect of the MenC conjugate
vaccine, which prompted a 90% decrease in cases and
70% reduction in rates of carriage in UK [6], then an
even greater reduction in the number of cases can be
expected in Africa. However, this will be determined by
the ability to efficiently deliver the vaccine and obtain
maximum coverage. The effect of a quadrivalent vaccine
on disease reduction is dependant on the uptake of such
a vaccine in the MVP program as well as on virulence/
carriage of the organism, levels of antibodies needed to
eliminate carriage, duration of protection, and other factors. There have been suggestions that the inclusion of
other serogroups into vaccination programs may lead to
further disease burden reduction in this region [58]. A
recent review of meningococcal carriage during epidemics showed W135 and Y causing a greater number
of cases [60]. Combination vaccines with non-EPI diseases may also be beneficial in providing countries with
protection against both meningococcal disease and
those not currently part of that country’s EPI schedule.
Page 11 of 14
This may lead to multi-disease burden reduction as
demonstrated in Ethiopia but given the fact that further
development of combination vaccine DTPw-HBV/HibMenAC has ceased, we may need to wait longer to get
the benefit of such a vaccine [61].
The expert group felt that both the monovalent MC
conjugate vaccines and the multivalent MC conjugate
vaccines had high median potential effectiveness for
reduction of meningitis mortality (20%; interquartile
range 20-40% and min. 8%, max 50%; and 30%; interquartile range 25-40% and min. 9%, max 60%, respectively) (Figures 4 and 5).
Acceptability and equity
A limitation to the improvement of equity is that it
appears inevitable that a health-promotion strategy similar to those currently employed will reach higherincome populations prior to the underprivileged, unless
a novel method of introduction is found [62]. This effect
is particularly pronounced in low and middle income
countries in Asia and Africa, where greater inequities
exist [62]. As herd immunity is dependant on high levels
of coverage [2], it is vital that immunizations are delivered to the poorest areas which are most affected by
disease. The MVP financing strategy for MenA [3] may
allow more periodic immunization campaigns, which
were shown to be effective in Africa [54]. More money
must be spent on strengthening delivery capacity in
these countries to ensure equity is improved. However
multivalent vaccine may cause further inequity due to
the high price of that vaccine. Currently a trivalent A/C/
W135 PS polysacharide vaccine costs US$ 1.30 per dose
[3] which means a novel quadrivalent conjugate vaccine
will be more expensive and be out of reach for the
majority of the population of African countries. The
decision to develop only a low cost Men A conjugate
vaccine through push financing was based on the expectation that other serogroups especially W-135 will not
cause major epidemics. However, in future the control
program may still need to consider the development of
a low cost multivalent vaccine too through push
financing.
The expert group were very optimistic (score over
90%) that both the monovalent and multivalent MC
conjugate vaccines would have a positive impact on
equity, and would be acceptable to both health workers
and end users (Figures 4 and 5).
Discussion
The literature review summarized in this paper presents
available evidence that is useful in considering the relative priority for investment in emerging MC conjugate
vaccines. The scores of both monovalent MC conjugate
and the multivalent MC conjugate vaccines are
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
presented against a common set of criteria. These scores
reflect the “collective optimism” of a panel of experts
drawn from varying backgrounds. We have shown that
both the monovalent MC conjugate and multivalent MC
conjugate vaccines are considered to have the potential
to significantly reduce the burden of meningococcal
meningitis in children under the age of 5 years. Countries in the meningitis belt in general, and the poorer
nations in particular, account for the greatest global
burden of disease due to meningitis. An effective vaccine
distributed worldwide will reduce that burden, and if
delivery is targeted at the poorest areas, the inequity gap
in health will also be reduced.
For MenA MC conjugate vaccine the experts showed a
high level of optimism (~ 90%) for 7 out of the 12 criteria.
The expert group felt that the likelihood of efficacy on
meningitis was very high (~ 90%) and the maximum
potential impact on disease burden was also high. Median
potential effectiveness of the vaccines in reduction of overall meningitis mortality was predicted to be 20% (interquartile range 20-40% and min. 8%, max 50%). The MenA
conjugate vaccine scored well on answerability, low development cost, likelihood of efficacy against meningitis, deliverability, acceptability to health workers and end users,
effect on equity and maximum potential to reduce the
burden of mortality due to meningitis. The multivalent
vaccines scored similarly well on all criteria except answerability and low development cost. The main concern
related to both vaccines was expressed over the cost of
product, its affordability and cost of implementation
Both the monovalent and quadrivalent vaccines have
been shown to have a good safety profile, with high
immunogenicity against MenA and MenW-135 in
young children and adults across Phase II/III trials.
However it is important that well designed controlled
studies are carried out in developing world settings to
provide data on effectiveness. Following demonstration
of the viability of the MenC conjugate vaccine stored at
room temperature, a similar study examining the effect
of storage temperature on the new conjugate vaccines
would be invaluable. This would potentially allow reassessment of deliverability, particularly to communities
with limited cold chain facilities.
The CHNRI methodology was primarily designed to
evaluate existing interventions and competing investment
priorities for health research. Though we used the CHNRI
criteria, we modified it by including systematic review of
available literature and not involving all stakeholders (e.g.
end-users and health workers). The scores included herewith express the collective opinion of a panel of 20
experts. While there is always an element of uncertainty in
predicting impact of interventions which do not exist and
have no clinical trial data to support them, we feel that the
results would be reproducible with another panel in a
Page 12 of 14
different setting. The literature review also had some limitations. Firstly, the literature search was limited to
selected databases and to articles published in English. In
addition, a variety of key-words yielded results, especially
when searching the domains “deliverability” and “equity”.
Although every effort was made to be inclusive, such a
broad range increases the chance of missing information
that may be important. Secondly, it was not always possible to find current literature specific to meningococcal
vaccines. In these circumstances relevant data on other
related vaccines was sought and this may not always be
fully appropriate. Finally, due to marketing patents, retrieval of the most recent information on the progress of a
vaccine was generally difficult.
Conclusions
With increasing recognition of the burden of meningococcal meningitis, especially during epidemics in Africa,
it is vitally important that steps are taken to reduce the
morbidity and mortality attributable to this disease. The
strengthening of the surveillance system is important to
support any vaccination program. The increase in incidence of W135 in recent epidemics raises the question
of whether it would be more appropriate to use a multivalent vaccine with A and W135 in the “Meningitis
Belt” instead of a monovalent vaccine. New Initiatives
are joining MVP to strengthen the international effort
to eliminate meningococcal epidemics in Africa. A new
international consortium (MenAfriCar) http://www.
menafricar.org/ has started working in Africa and aims
to study patterns of meningococcal carriage and transmission in this region, as well as documenting the
impact of any new MC conjugate vaccine. MenAfriCar
aims to further develop regional capacity for delivery of
immunization programmes. However, success will rely
on concerted and sustained commitment from governments, charities and health care workers to implement
those vaccination strategies shown by research to be the
most effective and practical/feasible.
Additional material
Additional file 1: Additional search terms
Additional file 2: Questions used in the Phase II CHNRI process
Additional file 3: The clinical trial process
Acknowledgements
This work was supported by the grant from the Bill and Melinda Gates
Foundation No. 51285 (“Modelling the impact of emerging interventions
against pneumonia”).
This article has been published as part of BMC Public Health Volume 11
Supplement 3, 2011: Technical inputs, enhancements and applications of the
Lives Saved Tool (LiST). The full contents of the supplement are available
online at http://www.biomedcentral.com/1471-2458/11?issue=S3.
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
Author details
1
Centre for Population Health Sciences, Global Health Academy,
The University of Edinburgh, UK. 2International Centre for Diarrhoeal Disease
Research, Bangladesh, Dhaka, Bangladesh. 3Public Health Foundation of
India, New Delhi, India. 4Department of Clinical Microbiology and Hospital
Infections, University Hospital Dubrava, Croatia. 5Department of International
Health, Johns Hopkins Bloomberg School of Public Health, Baltimore, MD
21205, USA. 6Department of Immunizations, Vaccines and Biologicals, World
Health Organization, Geneva, Switzerland. 7Vaccine Evaluation Unit, Health
Protection Agency, Clinical Sciences Building, Manchester Royal Infirmary,
Manchester, M13 9WZ, UK. 8Croatian Centre for Global Health, University of
Split Medical School, Croatia.
Authors’ contributions
All authors of this research paper have directly participated in the planning,
execution, or analysis of the study and have read and approved the
submitted version. In particular IR and HC designed the study and directed
its implementation, including quality assurance and control. DC and TH were
responsible for the acquisition of the data and conducted the literature
review. ET, HN, LZ, RF, IL, HLJ, SEA, CBN and RB helped design the study’s
analytic strategy and prepared the Materials and Methods, Results and
Discussion sections of the text. All authors of this research paper have
critically revised the manuscript for important intellectual content.
Competing interests
The authors declare that they have no competing interests.
Published: 13 April 2011
References
1. Epidemics of meningococcal disease. African meningitis belt, 2001. Wkly
Epidemiol Rec 2001, 76:282-288.
2. Girard MP, Preziosi MP, Aguado MT, Kieny MP: A review of vaccine
research and development: Meningococcal disease. Vaccine 2006,
24:4692-4700.
3. LaForce FM, Konde K, Viviani S, Preziosi MP: The Meningitis Vaccine
Project. Vaccine 2007, 25(Suppl 1):A97-100.
4. Stephens DS: Conquering the meningococcus. FEMS Microbiol Rev 2007,
31:3-14.
5. Tejedor JC, Moro M, Merino JM, Gomez-Campdera JA, Garcia-del-Rio M,
Jurado A, Diez-Delgado FJ, Omenaca F, Garcia-Sicilia J, Ruiz-Contreras J,
Martin-Ancel A, Roca J, Boceta R, Garcia-Corbeira P, Maechler G, Boutriau D:
Immunogenicity and reactogenicity of a booster dose of a novel
combined Haemophilus influenzae type b-Neisseria meningitidis
serogroup C-tetanus toxoid conjugate vaccine given to toddlers of 1314 months of age with antibody persistence up to 31 months of age.
Pediatr Infect Dis J 2008, 27:579-588.
6. Kieny MP, LaForce FM: The promise of conjugate vaccines for Africa.
Vaccine 2007, 25(Suppl 1):108-110.
7. Cisse MF, Breugelmans JG, Ba M, Diop MB, Faye PC, Mhlanga B, Mueller JE,
Koffi D, Gessner BD: The Elimination of Haemophilus influenzae type b
meningitis following conjugate vaccine introduction in Senegal. Pediatr
Infect Dis J 2010, 29:499-503.
8. Massenet D, Tapindjin-Gake M: Positive effect of the introduction of
Haemophilus influenzae type b vaccination in the expanded program
on immunization in Cameroon. Vaccine 2010, 28:6404-6405.
9. Tan LK, Carlone GM, Borrow R: Advances in the development of vaccines
against Neisseria meningitidis. N Engl J Med 2010, 362:1511-1520.
10. Borrow R: Meningococcal disease and prevention at the Hajj. Travel Med
Infect Dis 2009, 7:219-225.
11. Wilder-Smith A: W135 meningococcal carriage in association with the
Hajj pilgrimage 2001: the Singapore experience. Int J Antimicrob Agents
2003, 21:112-115.
12. Nathan N, Rose AMC, Legros D, Tiendrebeogo SRM, Bachy C, Bjorlow E,
Firmenich P, Guerin PJ, Caugant DA: Meningitis serogroup W135
outbreak, Burkina Faso, 2002. Emerg Infect Dis 2007, 13:920-923.
13. Woods CW, Armstrong G, Sackey SO, Tetteh C, Bugri S, Perkins BA,
Rosenstein NE: Emergency vaccination against epidemic meningitis in
Ghana: implications for the control of meningococcal disease in West
Africa. Lancet 2000, 355:30-33.
Page 13 of 14
14. Hassan-King MK, Wall RA, Greenwood BM: Meningococcal carriage,
meningococcal disease and vaccination. J Infect 1988, 16:55-59.
15. Joshi VS, Bajaj IB, Survase SA, Singhal RS, Kennedy JF: Meningococcal
polysaccharide vaccines: A review. Carbohydrate Polymers 2009,
75:553-565.
16. Khalil M, Al Mazrou Y, Balmer P, Bramwell J, Andrews N, Borrow R:
Immunogenicity of meningococcal ACYW135 polysaccharide vaccine in
Saudi children 5 to 9 years of age. Clin Diagn Lab Immunol 2005,
12:1251-1253.
17. Soriano-Gabarro M, Toe L, Tiendrebeogo SR, Nelson CB, Dabal M,
Djingarey MH, Plikaytis B, Rosenstein N: Effectiveness of a trivalent
serogroup A/C/W135 meningococcal polysaccharide vaccine in Burkina
Faso, 2003. Vaccine 2007, 25(Suppl 1):A92-A96.
18. Kapiriri L, Tomlinson M, Chopra M, El Arifeen S, Black RE, Rudan I: Setting
priorities in global child health research investments: addressing values
of stakeholders. Croat Med J 2007, 48:618-627.
19. Rudan I, El Arifeen S, Black RE, Campbell H: Childhood pneumonia and
diarrhoea: setting our priorities right. Lancet Infect Dis 2007, 7:56-61.
20. Rudan I, Gibson J, Kapiriri L, Lansang MA, Hyder AA, Lawn J, Darmstadt GL,
Cousens S, Bhutta ZA, Brown KH, Hess SY, Black M, Gardner JM, Webster J,
Carneiro I, Chandramohan D, Kosek M, Lanata CF, Tomlinson M, Chopra M,
Ameratunga S, Campbell H, El Arifeen S, Black RE: Setting priorities in
global child health research investments: assessment of principles and
practice. Croat Med J 2007, 48:595-604.
21. Rudan I, Chopra M, Kapiriri L, Gibson J, Ann Lansang M, Carneiro I,
Ameratunga S, Tsai AC, Chan KY, Tomlinson M, Hess SY, Campbell H, El
Arifeen S, Black RE: Setting priorities in global child health research
investments: universal challenges and conceptual framework. Croat Med
J 2008, 49:307-317.
22. Rudan I: The complex challenge of setting priorities in health research
investments. Indian J Med Res 2009, 129:351-353.
23. Bahl R, Martines J, Ali N, Bhan MK, Carlo W, Chan KY, Darmstadt GL,
Hamer DH, Lawn JE, McMillan DD, Mohan P, Paul V, Tsai AC, Victora CG,
Weber MW, Zaidi AK, Rudan I: Research priorities to reduce global
mortality from newborn infections by 2015. Pediatr Infect Dis J 2009, 28:
S43-S48.
24. Fontaine O, Kosek M, Bhatnagar S, Boschi-Pinto C, Chan KY, Duggan C,
Martinez H, Ribeiro H, Rollins NC, Salam MA, Santosham M, Snyder JD,
Tsai AC, Vargas B, Rudan I: Setting research priorities to reduce global
mortality from childhood diarrhoea by 2015. PLoS Med 2009, 6:e41.
25. Rudan I, Gibson JL, Ameratunga S, El Arifeen S, Bhutta ZA, Black M,
Black RE, Brown KH, Campbell H, Carneiro I, Chan KY, Chandramohan D,
Chopra M, Cousens S, Darmstadt GL, Meeks Gardner J, Hess SY, Hyder AA,
Kapiriri L, Kosek M, Lanata CF, Lansang MA, Lawn J, Tomlinson M, Tsai AC,
Webster J: Setting priorities in global child health research investments:
guidelines for implementation of CHNRI method. Croat Med J 2008,
49:720-733.
26. Tomlinson M, Chopra M, Sanders D, Bradshaw D, Hendricks M, Greenfield D,
Black RE, El Arifeen S, Rudan I: Setting priorities in child health research
investments for South Africa. PLoS Med 2007, 4:e259.
27. Tomlinson M, Rudan I, Saxena S, Swartz L, Tsai AC, Patel V: Setting
priorities for global mental health research. Bull World Health Organ 2009,
87:438-446.
28. Tomlinson M, Swartz L, Officer A, Chan KY, Rudan I, Saxena S: Research
priorities for health of people with disabilities: an expert opinion
exercise. Lancet 2009, 374:1857-1862.
29. Whitney CG, Farley MM, Hadler J, Harrison LH, Bennett NM, Lynfield R,
Reingold A, Cieslak PR, Pilishvili T, Jackson D, Facklam RR, Jorgensen JH,
Schuchat A: Decline in invasive pneumococcal disease after the
introduction of protein-polysaccharide conjugate vaccine. N Engl J Med
2003, 348:1737-1746.
30. Ramsay ME, Andrews N, Kaczmarski EB, Miller E: Efficacy of meningococcal
serogroup C conjugate vaccine in teenagers and toddlers in England.
Lancet 2001, 357:195-196.
31. Maiden MC, Stuart JM: Carriage of serogroup C meningococci 1 year
after meningococcal C conjugate polysaccharide vaccination. Lancet
2002, 359:1829-1831.
32. Ramsay ME, Andrews NJ, Trotter CL, Kaczmarski EB, Miller E: Herd immunity
from meningococcal serogroup C conjugate vaccination in England:
database analysis. Bmj 2003, 326:365-366.
Choudhuri et al. BMC Public Health 2011, 11(Suppl 3):S29
http://www.biomedcentral.com/1471-2458/11/S3/S29
33. Frasch CE: Recent developments in Neisseria meningitidis group A
conjugate vaccines. Expert Opin Biol Ther 2005, 5:273-280.
34. Martino A, Mattick C, G D, et al: Preclinical characterization of a
meningococcal group A conjugate vaccine for Africa, Poster. University
of Warwick; 2006.
35. Kshirsagar N, Mur N, Thatte U, Gogtay N, Viviani S, Preziosi MP, Elie C,
Findlow H, Carlone G, Borrow R, Parulekar V, Plikaytis B, Kulkarni P,
Imbault N, LaForce FM: Safety, immunogenicity, and antibody persistence
of a new meningococcal group A conjugate vaccine in healthy Indian
adults. Vaccine 2007, 25(Suppl 1):A101-A107.
36. Bash MC, Sow S, Okoko B, Preziosi M, Marchetti E, Tapia M, Adegbola R,
Haidara FC, Akinsola A, Borrow R: A Phase II Safety and Immunogenicity
Study of a New Meningococcal Group A Conjugate Vaccine in Healthy
African Toddlers Residing in the Meningitis Belt, Poster Presentation.
Rotterdam, the Netherlands; 2007.
37. The development of an affordable Group A meningococcal conjugate
vaccine for sub-Saharan Africa. Global Forum for Health Leaders 2008,
2004.
38. Diallo A, Sow S, Okoko B, Arduin P, Haidara FC, Tapia M, Idoko O,
Adegbola R, Preziosi MP: Safety and Immunogenicity of a New
Meningococcal A Conjugate Vaccine (MenAfriVac™) in a Healthy African
Population 2-29 Years of Age, Poster presentation. Rotterdam, the
Netherlands; 2007.
39. Hirve S, M P, E M, L M, H F, C E, V P: A Phase II/III Observer-blind,
Randomized, Active Controlled Study to Compare the Safety and
Immunogenicity of a Meningococcal A Conjugate Vaccine (MenAfriVac™)
with Meningococcal ACWY Polysaccharide Vaccine in Healthy Indian
Children 2-10 Years of Age, Poster Presentation. Rotterdam, the
Netherlands.
40. Roberts L: Infectious disease. Hitting early, epidemic meningitis ravages
Nigeria and Niger.
41. Keyserling H, Papa T, Koranyi K, Ryall R, Bassily E, Bybel MJ, Sullivan K,
Gilmet G, Reinhardt A: Safety, immunogenicity, and immune memory of
a novel meningococcal (groups A, C, Y, and W-135) polysaccharide
diphtheria toxoid conjugate vaccine (MCV-4) in healthy adolescents.
Arch Pediatr Adolesc Med 2005, 159:907-913.
42. Bilukha OO, Rosenstein N: Prevention and control of meningococcal
disease. Recommendations of the Advisory Committee on Immunization
Practices (ACIP). MMWR Recomm Rep 2005, 54:1-21.
43. Pace D, Pollard AJ, Messonier NE: Quadrivalent meningococcal conjugate
vaccines. Vaccine 2009, 27(Suppl 2):30-41.
44. Jackson LA, Baxter R, Reisinger K, Karsten A, Shah J, Bedell L, Dull PM: Phase
III comparison of an investigational quadrivalent meningococcal
conjugate vaccine with the licensed meningococcal ACWY conjugate
vaccine in adolescents. Clin Infect Dis 2009, 49:e1-10.
45. Reisinger KS, Baxter R, Block SL, Shah J, Bedell L, Dull PM: Quadrivalent
meningococcal vaccination of adults: phase III comparison of an
investigational conjugate vaccine, MenACWY-CRM, with the licensed
vaccine, Menactra. Clin Vaccine Immunol 2009, 16:1810-1815.
46. Perrett KP, Snape MD, Ford KJ, John TM, Yu LMM, Langley JM, McNeil S,
Dull PM, Ceddia F, Anemona A, Halperin SA, Dobson S, Pollard AJ:
Immunogenicity and immune memory of a nonadjuvanted quadrivalent
meningococcal glycoconjugate vaccine in infants. Pediatr Infect Dis J
2009, 28:186-193.
47. Knuf M, Kieninger-Baum D, Habermehl P, Muttonen P, Maurer H, Vink P,
Poolman J, Boutriau D: A dose-range study assessing immunogenicity
and safety of one dose of a new candidate meningococcal serogroups
A, C, W-135, Y tetanus toxoid conjugate (MenACWY-TT) vaccine
administered in the second year of life and in young children. Vaccine
2010, 28:744-753.
48. Ostergaard L, Lebacq E, Poolman J, Maechler G, Boutriau D:
Immunogenicity, reactogenicity and persistence of meningococcal A, C,
W-135 and Y-tetanus toxoid candidate conjugate (MenACWY-TT) vaccine
formulations in adolescents aged 15-25 years. Vaccine 2009, 27:161-168.
49. Shao PL, Chang LY, Hsieh SM, Chang SC, Pan SC, Lu CY, Hsieh YC, Lee CY,
Dobbelaere K, Boutriau D, Tang H, Bock HL, Huang LM: Safety and
immunogenicity of a tetravalent polysaccharide vaccine against
meningococcal disease. J Formos Med Assoc 2009, 108:539-547.
50. Gatchalian S, Palestroque E, De Vleeschauwer I, Han HH, Poolman J,
Schuerman L, Dobbelaere K, Boutriau D: The development of a new
heptavalent diphtheria-tetanus-whole cell pertussis-hepatitis B-
Page 14 of 14
51.
52.
53.
54.
55.
56.
57.
58.
59.
60.
61.
62.
Haemophilus influenzae type b-Neisseria meningitidis serogroups A and
C vaccine: a randomized dose-ranging trial of the conjugate vaccine
components. Int J Infect Dis 2008, 12:278-288.
Hodgson A, Forgor AA, Chandramohan D, Reed Z, Binka F, Bevilacqua C,
Boutriau D, Greenwood B: A phase II, randomized study on an
investigational DTPw-HBV/Hib-MenAC conjugate vaccine administered
to infants in Northern Ghana. PLoS One 2008, 3:e2159.
Withdrawl of the Application for the GlaxoSmithKline Biologicals S.A
Globorix Vaccine. 2007 [http://www.emea.europa.eu/pdfs/human/
non_eu_epar/globorix/withdrawalletter.pdf].
2009 [http://www.sabin.org/files/alderson_pvp_istanbul_ppt_readonly.pdf],
4-9-2009.
Goodman T, EPI Team: EPI Update - 4th Meeting of the RBM Working
Group on Scalable Malaria Vector Control (WIN). Roll Back Malaria; 2007
[http://www.rollbackmalaria.org/partnership/wg/wg_itn/docs/rbmwin4ppt/
4-8.pdf], 2002.
Levin A, Levin C, Kristensen D, Matthias D: An economic evaluation of
thermostable vaccines in Cambodia, Ghana and Bangladesh. Vaccine
2007, 25:6945-6957.
Frasch CE: Production and control of Neisseria meningitidis vaccines. Adv
Biotechnol Processes 1990, 13:123-145.
Jodar L, LaForce FM, Ceccarini C, Aguado T, Granoff DM: Meningococcal
conjugate vaccine for Africa: a model for development of new vaccines
for the poorest countries. Lancet 2003, 361:1902-1904.
Okoko BJ, Idoko OT, Adegbola RA: Prospects and challenges with
introduction of a mono-valent meningococcal conjugate vaccine in
Africa. Vaccine 2009, 27:2023-2029.
Mihigo R: Eliminating Meningitis Meningococcal A as a Public Health
problem in West Africa.
Trotter CL, Greenwood BM: Meningococcal carriage in the African
meningitis belt. Lancet Infect Dis 2007, 7:797-803.
Griffiths UK, Korczak VS, Ayalew D, Yigzaw A: Incremental system costs of
introducing combined DTwP-hepatitis B-Hib vaccine into national
immunization services in Ethiopia. Vaccine 2009, 27:1426-1432.
Victora CG, Fenn B, Bryce J, Kirkwood BR: Co-coverage of preventive
interventions and implications for child-survival strategies: evidence
from national surveys. Lancet 2005, 366:1460-1466.
doi:10.1186/1471-2458-11-S3-S29
Cite this article as: Choudhuri et al.: An evaluation of emerging vaccines
for childhood meningococcal disease. BMC Public Health 2011 11(Suppl
3):S29.
Submit your next manuscript to BioMed Central
and take full advantage of:
• Convenient online submission
• Thorough peer review
• No space constraints or color figure charges
• Immediate publication on acceptance
• Inclusion in PubMed, CAS, Scopus and Google Scholar
• Research which is freely available for redistribution
Submit your manuscript at
www.biomedcentral.com/submit
|
|
https://openalex.org/W4213212739
|
https://iris.uniroma3.it/bitstream/11590/412940/1/gels-08-00113-v2.pdf
|
English
| null |
Electrospun Chitosan Functionalized with C12, C14 or C16 Tails for Blood-Contacting Medical Devices
|
Gels
| 2,022
|
cc-by
| 12,210
|
gels gels
Abstract: Medical applications stimulate the need for materials with broad potential. Chitosan, the
partially deacetylated derivative of chitin, offers many interesting characteristics, such as biocompat-
ibility and chemical derivatization possibility. In the present study, porous scaffolds composed of
electrospun interwoven nanometric fibers are produced using chitosan or chitosan functionalized
with aliphatic chains of twelve, fourteen or sixteen methylene groups. The scaffolds were thoroughly
characterized by SEM and XPS. The length of the aliphatic tail influenced the physico-chemical and
dynamic mechanical properties of the functionalized chitosan. The electrospun membranes revealed
no interaction of Gram+ or Gram−bacteria, resulting in neither antibacterial nor bactericidal, but
constitutively sterile. The electrospun scaffolds demonstrated the absence of cytotoxicity, inflamma-
tion response, and eryptosis. These results open the door to their application for blood purification
devices, hemodialysis membranes, and vascular grafts. Citation: Dettin, M.; Roso, M.;
Messina, G.M.L.; Iucci, G.; Peluso, V.;
Russo, T.; Zamuner, A.; Santi, M.;
Milan Manani, S.; Zanella, M.; et al. Electrospun Chitosan Functionalized
with C12, C14 or C16 Tails for
Blood-Contacting Medical Devices. Gels 2022, 8, 113. https://doi.org/
10.3390/gels8020113
Academic Editor: Jordi Puiggali
Received: 29 November 2021
Accepted: 9 February 2022
Published: 12 February 2022 Citation: Dettin, M.; Roso, M.;
Messina, G.M.L.; Iucci, G.; Peluso, V.;
Russo, T.; Zamuner, A.; Santi, M.;
Milan Manani, S.; Zanella, M.; et al. Electrospun Chitosan Functionalized
with C12, C14 or C16 Tails for
Blood-Contacting Medical Devices. Gels 2022, 8, 113. https://doi.org/
10.3390/gels8020113 Keywords: functionalized chitosan; electrospun scaffolds; XPS; dynamic mechanical analysis; Gram+
and Gram−bacteria Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Article
Electrospun Chitosan Functionalized with C12, C14 or C16 Tails
for Blood-Contacting Medical Devices Monica Dettin 1
, Martina Roso 1
, Grazia M. L. Messina 2
, Giovanna Iucci 3
, Valentina Peluso 4
,
Teresa Russo 4, Annj Zamuner 1,*
, Marta Santi 3, Sabrina Milan Manani 5, Monica Zanella 5, Chiara Battocchio 3
,
Giovanni Marletta 2, Michele Modesti 1
, Mario Rassu 5, Massimo De Cal 5 and Claudio Ronco 5,6 1
Department of Industrial Engineering, University of Padova, Via Marzolo 9, 35131 Padova, Italy;
monica.dettin@unipd.it (M.D.); martina.roso@unipd.it (M.R.); michele.modesti@unipd.it (M.M.) p
p
p
2
Department of Chemistry, University of Catania, Viale Andrea Doria, 6, 95125 Catania, Italy;
grmessi@unict.it (G.M.L.M.); gmarletta@unict.it (G.M.) 3
Department of Sciences, University Roma Tre, Via della Vasca Navale 79, 00146 Rome, Italy;
giovanna.iucci@uniroma3.it (G.I.); marta.santi@uniroma3.it (M.S.); chiara.battocchio@uniroma3.it (C.B.) 3
Department of Sciences, University Roma Tre, Via della Vasca Navale 79, 00146 Rome, Italy;
giovanna.iucci@uniroma3.it (G.I.); marta.santi@uniroma3.it (M.S.); chiara.battocchio@uniroma3.it (C.B.) 4
Institute of Polymers, Composites and Biomaterials, National Research Council of Italy,
Viale J.F. Kennedy 54−Mostra d’Oltremare PAD. 20, 80125 Naples, Italy; valentina.peluso@ipcb.cnr.it (V.P.);
teresa.russo@unina.it (T.R.) 5
Department of Nephrology, Dialysis and Transplantation, International Renal Research Institute (IRRIV),
AULSS8, San Bortolo Hospital, Viale Rodolfi37, 36100 Vicenza, Italy; sabrina.milan@aulss8.veneto.it (S.M.M.);
monica.zanella@aulss8.veneto.it (M.Z.); mario.rassu@aulss8.veneto.it (M.R.);
massimo.decal@aulss8.veneto.it (M.D.C.); claudio.ronco@unipd.it (C.R.) (
)
p
(
)
6
Department of Medicine (DIMED), University of Padova, Via Giustiniani 2, 35128 Padova, Italy p
y
y
*
Correspondence: annj.zamuner@unipd.it; Tel.: +30-0498-275-553 *
Correspondence: annj.zamuner@unipd.it; Tel.: +30-0498-275-553 1. Introduction Blood-contacting medical devices, such as vascular catheters, hemodialysis filters,
hemopurifiers, blood vessel substitutes, vascular grafts, stents, and heart valves, are rou-
tinely used in healthcare settings [1,2]. Such devices should be biocompatible, hemocom-
patible, and resistant to surface-initiated blood coagulation processes and adverse immune
reactions [3]. However, devices such as central venous catheters (CVCs) are associated
with unacceptably high levels of treatment complications, including occlusion, thrombosis
and infection. Nowadays, the gold standard for blood-contacting materials is Dacron or
Teflon. Both synthetic and natural materials have been recently investigated in an attempt
to reduce protein and cell adsorption usually favored by electrostatic and hydrophobic
interactions between the adsorbed protein and the artificial surface: these materials include
poly(ethylene oxide), pyrolytic carbon, albumin, phosphorylcholine, and elastin-inspired Copyright:
© 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). https://www.mdpi.com/journal/gels Gels 2022, 8, 113. https://doi.org/10.3390/gels8020113 Gels 2022, 8, 113 2 of 18
holine, protein polymers [4]. Chitosan derives from the partial deacetylation of chitin, a natural
biopolymer [5], and it is considered a biologically renewable, biodegradable, biocompatible
and nonantigenic material [6]. The acetylation degree (DA) of chitosan is highly correlated
to the biodegradation, biocompatibility and growth inhibitory effect on bacteria [7–10] and
a deacetylation grade of around 70% resulted favorably for biomedical applications. The
presence of free amino groups in the polymer backbone facilitates chitosan functionaliza-
tion. In particular, the reaction with aldehydes and ketones allows anchoring molecules by
the formation of Schiff bases that, upon reduction, ensures selective and stable covalent
bonds [11]. A particularly favorable feature of chitosan is its antibacterial capacity [12]. The
most prevalent proposed antibacterial activity of chitosan is by binding to the negatively
charged bacterial cell wall causing disruption of the cell, thus altering membrane perme-
ability, followed by attachment to DNA causing the inhibition of DNA replication and
subsequently cell death [13]. The positive charged groups of chitosan are probably respon-
sible of antibacterial properties (advantage), but also of protein adsorption (disadvantage). The necessity of reducing protein and cell adsorption drive us to explore the properties
of chitosan modified by the addition of hydrocarburic tails (12, 14 or 16 methylene units). However, chitosan can be electrospun in order to obtain matrices with micro- and nano-
metric structures for biomedical applications. 1. Introduction Fibers composition, diameter, alignment
and scaffold porosity can be tailored to the specific cell or tissue types [14,15] and the high
area-to-volume ratio offers the possibility to improve surface decoration with bioactive
molecules [16]. Furthermore, the tunability of all the previously cited physical properties of
the electrospun chitosan matrices make them a promising candidate for the development
of next generation membranes for hemodialysis [17]. gradable, biocompatible and nonantigenic material [6]. The acetylation degree (DA) of
chitosan is highly correlated to the biodegradation, biocompatibility and growth inhibi-
tory effect on bacteria [7–10] and a deacetylation grade of around 70% resulted favorably
for biomedical applications. The presence of free amino groups in the polymer backbone
facilitates chitosan functionalization. In particular, the reaction with aldehydes and ke-
tones allows anchoring molecules by the formation of Schiff bases that, upon reduction,
ensures selective and stable covalent bonds [11]. A particularly favorable feature of chi-
tosan is its antibacterial capacity [12]. The most prevalent proposed antibacterial activity
of chitosan is by binding to the negatively charged bacterial cell wall causing disruption
of the cell, thus altering membrane permeability, followed by attachment to DNA causing
the inhibition of DNA replication and subsequently cell death [13]. The positive charged
groups of chitosan are probably responsible of antibacterial properties (advantage), but
also of protein adsorption (disadvantage). The necessity of reducing protein and cell ad-
sorption drive us to explore the properties of chitosan modified by the addition of hydro-
carburic tails (12, 14 or 16 methylene units). However, chitosan can be electrospun in order
to obtain matrices with micro- and nano-metric structures for biomedical applications. Fibers composition, diameter, alignment and scaffold porosity can be tailored to the spe-
cific cell or tissue types [14,15] and the high area-to-volume ratio offers the possibility to
improve surface decoration with bioactive molecules [16]. Furthermore, the tunability of
all the previously cited physical properties of the electrospun chitosan matrices make
them a promising candidate for the development of next generation membranes for he-
modialysis [17]. The structure of our fibrous scaffolds (ChitC12 ChitC14 and ChitC16) are character- The structure of our fibrous scaffolds (ChitC12, ChitC14 and ChitC16) are character-
ized by SEM. Surface composition is ascertained by XPS both for plain material and for
electrospun scaffolds, whereas wettability (contact angle) is determined for functionalized
chitosan films. 1. Introduction Dynamic mechanical analysis (DMA) and AFM tests are performed to
assess the viscoelastic and local material properties of the chitosan solutions and films,
respectively. The biological characterization is carried out by evaluating the scaffolds’
interaction with renal tubular cells (RTCs), blood extracts or Gram+ and Gram−bacteria. A schematic representation of the complete experimental plane is reported in Figure 1. The structure of our fibrous scaffolds (ChitC12, ChitC14 and ChitC16) are character
ized by SEM. Surface composition is ascertained by XPS both for plain material and for
electrospun scaffolds, whereas wettability (contact angle) is determined for functionalized
chitosan films. Dynamic mechanical analysis (DMA) and AFM tests are performed to as-
sess the viscoelastic and local material properties of the chitosan solutions and films, re-
spectively. The biological characterization is carried out by evaluating the scaffolds’ inter-
action with renal tubular cells (RTCs), blood extracts or Gram+ and Gram− bacteria. A
schematic representation of the complete experimental plane is reported in Figure 1. Figure 1. Schematic representation of the experimental plan with abbreviations. Figure 1. Schematic representation of the experimental plan with abbreviations. Figure 1. Schematic representation of the experimental plan with abbreviations. Figure 1. Schematic representation of the experimental plan with abbreviations. 2.2. Young Modulus and Contact Angle Determinations
2.2. Young Modulus and Contact Angle Determinations g
g
The literature data report that cell response depends on the elastic or viscoelastic re-
sistance of a substrate, i.e., a cell depends on the mechanical properties of the substrates,
within a few nanometers, to adhere and proliferate on a given surface. Therefore, accurate
and highly local (at the nanometer scale) measurements of mechanical surface properties
are needed to understand cell responses that might or might not mimic a particular tis-
sue’s elasticity[18]
The literature data report that cell response depends on the elastic or viscoelastic
resistance of a substrate, i.e., a cell depends on the mechanical properties of the substrates,
within a few nanometers, to adhere and proliferate on a given surface. Therefore, accurate
and highly local (at the nanometer scale) measurements of mechanical surface properties
are needed to understand cell responses that might or might not mimic a particular tissue’s
elasticity [18]. sue s elasticity[18]. Accordingly, in order to investigate the mechanical local properties of the fibrous
electrospun scaffolds synthetized in the present work, force spectroscopy, a specific ap-
plication mode of atomic force microscopy (AFM), was used. AFM, indeed, is a powerful
and very useful technique, involving, since its introduction, different scanning modes and
modules improving its capabilities, taking profit of the different interactions between the
ti
d th
l
f
Accordingly, in order to investigate the mechanical local properties of the fibrous elec-
trospun scaffolds synthetized in the present work, force spectroscopy, a specific application
mode of atomic force microscopy (AFM), was used. AFM, indeed, is a powerful and very
useful technique, involving, since its introduction, different scanning modes and modules
improving its capabilities, taking profit of the different interactions between the tip and the
sample surface. tip and the sample surface. In the present paper, AFM was used to map the qualitative differences in local sur-
face properties, such as friction, adhesion and elastic modulus, measuring the force–dis-
tance curves that correlate tip-sample interaction forces and the separation distance
p
In the present paper, AFM was used to map the qualitative differences in local surface
properties, such as friction, adhesion and elastic modulus, measuring the force–distance
curves that correlate tip-sample interaction forces and the separation distance between
them. In particular, the cantilever deflection, as the tip moves in the z direction, is recorded. 2.1. SEM Analysis 2.1. SEM Analysis y
In order to observe the morphological features of the investigated electrospun matrixes,
SEM images were created (Figure 2). y
In order to observe the morphological features of the investigated electrospun matrixes,
SEM images were created (Figure 2). Gels 2022, 8, 113 3 of 18
un ma- Figure 2. SEM images of: (a) matrix of ChitPEO; (b) matrix of ChitC12PEO; (c) matrix of ChitC14PEO
over a layer of PEO; (d) matrix of ChitC16PEO over a layer of PEO. Figure 2. SEM images of: (a) matrix of ChitPEO; (b) matrix of ChitC12PEO; (c) matrix of ChitC14PEO
over a layer of PEO; (d) matrix of ChitC16PEO over a layer of PEO. Figure 2. SEM images of: (a) matrix of ChitPEO; (b) matrix of ChitC12PEO; (c) matrix of ChitC14PEO
over a layer of PEO; (d) matrix of ChitC16PEO over a layer of PEO. Figure 2. SEM images of: (a) matrix of ChitPEO; (b) matrix of ChitC12PEO; (c) matrix of ChitC14PEO
over a layer of PEO; (d) matrix of ChitC16PEO over a layer of PEO. In Table S1, the mean diameter values of the electrospun fibers and mean mesh di-
mensions are reported for each electrospun matrix. All samples show smooth fibers, with
few defects, and with a dimensional variability that is not entirely negligible. In the
ChitC16PEO scaffold, fiber diameter is greater with respect to the other matrices; this can
be ascribed to both the lower tip-collector distance and the higher flow rate, which can
contribute to arrest the jet prematurely with a larger diameter. In Table S1, the mean diameter values of the electrospun fibers and mean mesh
dimensions are reported for each electrospun matrix. All samples show smooth fibers,
with few defects, and with a dimensional variability that is not entirely negligible. In the
ChitC16PEO scaffold, fiber diameter is greater with respect to the other matrices; this can
be ascribed to both the lower tip-collector distance and the higher flow rate, which can
contribute to arrest the jet prematurely with a larger diameter. 2.2. Young Modulus and Contact Angle Determinations
2.2. Young Modulus and Contact Angle Determinations In particular, the stiffness of the film increases
from about 18.6 ± 0.9, 22.0 ± 1.1 and 29.6 ± 1.5 GPa, respectively, for ChitC12, ChitC14 and
ChitC16, while for the mixes of ChitC12, ChitC14, and ChitC16 with PEO the Es value p
p
p
Figure S1d–f reports the Es values for chitosan-C12 (ChitC12), -C14 (ChitC14) and –C16
(ChitC16) moieties, and Figure S1g–i illustrate the Es values for ChitC12PEO, ChitC14PEO
and ChitC16/PEO moieties, respectively. The results suggest that the Young modulus
of thin films deposited on surface increase as the length of the aldehyde chain linked to
chitosan increases (Figure 3a). In particular, the stiffness of the film increases from about
18.6 ± 0.9, 22.0 ± 1.1 and 29.6 ± 1.5 GPa, respectively, for ChitC12, ChitC14 and ChitC16,
while for the mixes of ChitC12, ChitC14, and ChitC16 with PEO the Es value distribution
shows a lower increase with the tail length, i.e., 9.1 ± 0.4, 10.3 ± 0.5 and 12.4 ± 0.6 GPa,
respectively, for ChitC12PEO, ChitC14PEO and ChitC16PEO. ChitC16, while for the mixes of ChitC12, ChitC14, and ChitC16 with PEO the Es value
distribution shows a lower increase with the tail length, i.e., 9.1 ± 0.4, 10.3 ± 0.5 and 12.4 ±
0.6 GPa, respectively, for ChitC12PEO, ChitC14PEO and ChitC16PEO. It is evident that the functionalization of the chitosan and chitosan/PEO films with
the tails of different length always induces a decrease in the Young modulus, even though
longer tails result in a higher modulus than shorter ones. The observed effects suggest that
the presence of 10% PEO itself induces a large degradation of the chitosan macromolecu-
lar assembly cohesion and, moreover, the functionalization of the macromolecules with
short chain tails seems to operate in a very similar way. Figure 3. Young modulus values (a) and water contact angle values for the analyzed samples (b). Figure 3. Young modulus values (a) and water contact angle values for the analyzed samples (b). Figure 3. Young modulus values (a) and water contact angle values for the analyzed samples (b). Figure 3. Young modulus values (a) and water contact angle values for the analyzed samples (b). This behavior can be compared to the wettability of the investigated samples (Figure
3b). In fact, the elastic response follows the wettability trend for ChitC12, ChitC14 and
Chit C16, while for ChitC12PEO, ChitC14PEO and ChitC16PEO the wettability seems in-
dependent of the tail functionalization. 2.2. Young Modulus and Contact Angle Determinations
2.2. Young Modulus and Contact Angle Determinations The response of the sample to an indentation force were employed to calculate in particular
the Young modulus of peptide electrospun scaffolds, i.e., their surface stiffness. According
to the mentioned literature, this information, obtained for the different tail lengths, is in
turn relevant to understand cell behavior on the electrospun scaffolds. Gels 2022, 8, 113 4 of 18
out 0.3
). Fur- 4 of 18
out 0.3
). Fur- The value distribution of Young modulus, Es, for all the investigated samples is shown
in Figure S1. For pristine chitosan samples, Es values show a broad but regular Gaussian-
like distribution (Figure S1a). In the case of the pristine PEO polymer, a very low Young
modulus was found, of about two orders of magnitude lower (i.e., about 0.3 GPa) than those
of chitosan films, with a very narrow value distribution (Figure S1b). Furthermore, it was
observed that the addition of 10% of PEO to chitosan (Figure S1c) results in a considerable
decrease in the Es value, from about 43.6 ± 2.2 GPa for chitosan, to an average value of
18.0 ± 0.9 GPa. ,
,
average value of 18.0 ± 0.9 GPa. Another remarkable change of the Young modulus was found when short chains,
respectively consisting in 12, 14 or 16-methylene unit tails, are attached to chitosan mole-
cules, both for the pristine chitosan samples as well as for the chitosan-PEO samples. Figure S1d–f reports the Es values for chitosan-C12 (ChitC12), -C14 (ChitC14) and –
C16 (ChitC16) moieties, and Figure S1g–i illustrate the Es values for ChitC12PEO,
ChitC14PEO and ChitC16/PEO moieties, respectively. The results suggest that the Young
modulus of thin films deposited on surface increase as the length of the aldehyde chain Another remarkable change of the Young modulus was found when short chains, re-
spectively consisting in 12, 14 or 16-methylene unit tails, are attached to chitosan molecules,
both for the pristine chitosan samples as well as for the chitosan-PEO samples. modulus of thin films deposited on surface increase as the length of the aldehyde chain
linked to chitosan increases (Figure 3a). 2.3. XPS Analysis
2.3. XPS Analysis 2.3. XPS Analysis
2.3. XPS Analysis ChitPEO (90:10), ChitC12PEO (90:10), ChitC14PEO (70:30) and ChitC16PEO (70:30)
electrospun scaffolds were analyzed by XPS spectroscopy; experimental spectra are, evi-
dently, quite similar to each other and, for all the investigated samples, the same component
peaks are detected. The measured binding energies (BEs) of the component peaks and
relative attribution on the basis of the literature data [19–21] are reported in Table S2. ChitPEO (90:10), ChitC12PEO (90:10), ChitC14PEO (70:30) and ChitC16PEO (70:30)
electrospun scaffolds were analyzed by XPS spectroscopy; experimental spectra are, evi-
dently, quite similar to each other and, for all the investigated samples, the same compo-
nent peaks are detected. The measured binding energies (BEs) of the component peaks
and relative attribution on the basis of the literature data [19–21] are reported in Table S2. Th C1
fi
d
i
h
k l b ll d C (BE
28 0 V) p
The C1s spectra were fitted using three component peaks labelled C1 (BE = 285.0 eV),
C2 (BE = 286.7 eV) and C3 (BE = 288.5 eV) in increasing BE order. The chemical structure of
chitosan before and after functionalization is shown in Figure 4 and the assignment of the
main component peaks is also shown. The C1s spectra were fitted using three component peaks labelled C1 (BE = 285.0 eV),
C2 (BE = 286.7 eV) and C3 (BE = 288.5 eV) in increasing BE order. The chemical structure of
chitosan before and after functionalization is shown in Figure 4 and the assignment of the
main component peaks is also shown. Figure 4. Chitosan chemical structure before and after the functionalization and assignment of the
main component peaks in the C1s spectra. Figure 4. Chitosan chemical structure before and after the functionalization and assignment of the
main component peaks in the C1s spectra. Figure 4. Chitosan chemical structure before and after the functionalization and assignment of the
main component peaks in the C1s spectra. Figure 4. Chitosan chemical structure before and after the functionalization and assignment of the
main component peaks in the C1s spectra. Figure 4. Chitosan chemical structure before and after the functionalization and assignment of the
main component peaks in the C1s spectra. Figure 4. Chitosan chemical structure before and after the functionalization and assignment of the
main component peaks in the C1s spectra. 2.3. XPS Analysis
2.3. XPS Analysis According to the literature data [21], the first component peak C1 corresponds to ali-
phatic C–C carbons that are located in the alkyl side chains of functionalized chitosans;
however, contributions to this peak result also from surface contamination that cannot be
completely avoided. The peak C2 can be attributed to the C–O carbons of chitosan and
PEO that cannot be resolved in the reported experimental conditions. According to the
literature data, the contribution from the C–N amino carbon is expected at about 286.0–
286.2 eV; due to its low intensity and its position between the C1 and C2 component, we
are not able to resolve it from component C2. The third component C3 can be attributed to
the O–C–O carbon labeled 3 in Figure 4 amide carbons, possibly resulting from only par-
tial hydrolysis of chitin, are also expected to occur approximately at the same BE [21]. The
O1s experimental spectrum results from a single peak is evidenced, having a BE in agree-
ment with the value expected for organic O–C oxygens (BE = 532.8 eV) [19–21]. The N1s
signal appears symmetrical and therefore was fitted with a single peak (N1) located at a
BE of about 399.8 eV, a value typical of amine/amide/imine nitrogens; only for sample
ChitPEO a second signal was detected, located at 401.8 eV, a BE value typical of proto-
nated ammonium groups [19–21]. According to the literature data [21], the first component peak C1 corresponds to
aliphatic C–C carbons that are located in the alkyl side chains of functionalized chitosans;
however, contributions to this peak result also from surface contamination that cannot
be completely avoided. The peak C2 can be attributed to the C–O carbons of chitosan
and PEO that cannot be resolved in the reported experimental conditions. According
to the literature data, the contribution from the C–N amino carbon is expected at about
286.0–286.2 eV; due to its low intensity and its position between the C1 and C2 component,
we are not able to resolve it from component C2. The third component C3 can be attributed
to the O–C–O carbon labeled 3 in Figure 4 amide carbons, possibly resulting from only
partial hydrolysis of chitin, are also expected to occur approximately at the same BE [21]. 2.3. XPS Analysis
2.3. XPS Analysis The O1s experimental spectrum results from a single peak is evidenced, having a BE in
agreement with the value expected for organic O–C oxygens (BE = 532.8 eV) [19–21]. The
N1s signal appears symmetrical and therefore was fitted with a single peak (N1) located at
a BE of about 399.8 eV, a value typical of amine/amide/imine nitrogens; only for sample
ChitPEO a second signal was detected, located at 401.8 eV, a BE value typical of protonated
ammonium groups [19–21]. nated ammonium groups [19–21]. The quantitative analysis of the investigated samples was also performed; Table 1 (lines
2–5) shows the measured atomic ratios between the different element (C/O, N/O) and be-
tween atoms of the same element in different chemical environments (C1/C2, C1/C3, N2/N1). The C1s spectrum of ChitPEO (90:10) should be free from C C signals (C1); the related
The quantitative analysis of the investigated samples was also performed; Table 1
(lines 2–5) shows the measured atomic ratios between the different element (C/O, N/O)
and between atoms of the same element in different chemical environments (C1/C2, C1/C3,
N2/N1). The C1s spectrum of ChitPEO (90:10) should be free from C–C signals (C1); the related
peak is therefore due only to surface contamination. As expected, the nitrogen main signal
(N1) is located at a BE typical of amine nitrogens; there is also a small signal related to high
BE due to the amine (N2) protonation; the fraction of protonated amine groups is rather
low (N2/N1 ratio). The BE of O1s signal is typical of organic oxygen (O–C). In the samples
The C1s spectrum of ChitPEO (90:10) should be free from C–C signals (C1); the related
peak is therefore due only to surface contamination. As expected, the nitrogen main signal
(N1) is located at a BE typical of amine nitrogens; there is also a small signal related to high
BE due to the amine (N2) protonation; the fraction of protonated amine groups is rather
low (N2/N1 ratio). The BE of O1s signal is typical of organic oxygen (O–C). In the samples
containing the chitosan treated with aldehydes, the peak due to the protonated nitrogens
disappears. Moreover, there is an increase in the carbon content with respect to the other
elements, as evidenced by the C/O and C/N atomic ratios. By increasing the length of the
aliphatic chain anchored to the nitrogen, the C/O and C/N ratios increase considerably. 2.2. Young Modulus and Contact Angle Determinations
2.2. Young Modulus and Contact Angle Determinations More in detail, the functionalization of chitosan
with C12, C14 and C16 chains leads to more hydrophilic films than that of pristine chi-
tosan, although the hydrophobicity slightly increases with the length of the hydrophobic
It is evident that the functionalization of the chitosan and chitosan/PEO films with
the tails of different length always induces a decrease in the Young modulus, even though
longer tails result in a higher modulus than shorter ones. The observed effects suggest that
the presence of 10% PEO itself induces a large degradation of the chitosan macromolecular
assembly cohesion and, moreover, the functionalization of the macromolecules with short
chain tails seems to operate in a very similar way. tosan, although the hydrophobicity slightly increases with the length of the hydrophobic
tails. Similarly, chitosan stiffness decreases when functionalized, but Es value increases
p
y
y
This behavior can be compared to the wettability of the investigated samples (Figure 3b). In fact, the elastic response follows the wettability trend for ChitC12, ChitC14 and Chit C16,
while for ChitC12PEO, ChitC14PEO and ChitC16PEO the wettability seems independent
of the tail functionalization. More in detail, the functionalization of chitosan with C12, C14
and C16 chains leads to more hydrophilic films than that of pristine chitosan, although
the hydrophobicity slightly increases with the length of the hydrophobic tails. Similarly,
chitosan stiffness decreases when functionalized, but Es value increases with the length
of the hydrophobic tails probably due to the hydrophobic interaction among the aliphatic
residues, giving a higher rigidity to the films. On the other hand, as far as the addition of 10% PEO does not cause any significant
modification of contact angle values, we argue that PEO does not segregate at the film
surface: it is hidden near the surface by a layer of chitosan, according to the softening
recorded by the experimental curves. Gels 2022, 8, 113 5 of 18
ening 2.3. XPS Analysis
2.3. XPS Analysis This effect is mainly due to the aliphatic carbon signal (C1) contribution: upon increasing
the aliphatic chain length, the related signal (C1) grows in intensity compared to the C–O
(C2) and to the O–C–O carbon (C3) signals, as evidenced by the increase in the C1/C2 and Gels 2022, 8, 113 6 of 18 C1/C3 atomic ratios. The evolution of the C1s signal as a function of the aliphatic chain
length is shown in Figure 5. The increase in the intensity of the C1 signal upon increasing
the aliphatic chain length is evident; the effect is much higher than expected, taking into
account the small increase in the aliphatic chain length from C12 to C16. 6 of 18 Table 1. Atomic ratios for electrospun scaffolds and reference samples. Sample
C/O
C/N
C1/C2
C1/C3
N2/N1
ChitPEO (90:10)
1.78
14.2
0.7
2.1
0.10
ChitC12PEO (90:10)
2.44
26
0.76
2.6
-
ChitC14PEO (70:30)
3.45
117
1.8
6.8
-
ChitC16PEO (70:30)
4.03
172
3.0
7.8
-
Chit
2.49
15.8
1.63
4.54
0.15
ChitC12
2.78
19.4
2.25
5.52
-
ChitC14
2.99
20.4
3.48
6.79
-
ChitC16
3.37
29.5
5.17
7.53
-
containing the chitosan treated with aldehydes, the peak due to the protonated nitrogens
disappears. Moreover, there is an increase in the carbon content with respect to the other
elements, as evidenced by the C/O and C/N atomic ratios. By increasing the length of the
aliphatic chain anchored to the nitrogen, the C/O and C/N ratios increase considerably. This effect is mainly due to the aliphatic carbon signal (C1) contribution: upon increasing
the aliphatic chain length, the related signal (C1) grows in intensity compared to the C–O
(C2) and to the O–C–O carbon (C3) signals, as evidenced by the increase in the C1/C2 and
C1/C3 atomic ratios. The evolution of the C1s signal as a function of the aliphatic chain
length is shown in Figure 5. The increase in the intensity of the C1 signal upon increasing
the aliphatic chain length is evident; the effect is much higher than expected, taking into
account the small increase in the aliphatic chain length from C12 to C16. Figure 5. Evolution of the C1s spectra and related curve fittings for the electrospun scaffolds as a
function of the aliphatic chain length. Markers represent experimental points, lines fitting compo-
nents and calculated spectra. 2.3. XPS Analysis
2.3. XPS Analysis 280
282
284
286
288
290
292
ChitC12
ChitC14
C3
C2
C1
C1s
BE (eV)
counts
ChitC16
Figure 5. Evolution of the C1s spectra and related curve fittings for the electrospun scaffolds as a
function of the aliphatic chain length. Markers represent experimental points, lines fitting components
and calculated spectra. Table 1. Atomic ratios for electrospun scaffolds and reference samples. containing the chitosan treated with aldehydes, the peak due to th
disappears. Moreover, there is an increase in the carbon content w igure 5. Evolution of the C1s spectra and related curve fittings for the electrospun scaffolds as a
unction of the aliphatic chain length. Markers represent experimental points, lines fitting compo-
ents and calculated spectra. Figure 5. Evolution of the C1s spectra and related curve fittings for the electrospun scaffolds as a
function of the aliphatic chain length. Markers represent experimental points, lines fitting components
and calculated spectra. The XPS characterization showed, by the increase in C/N and C1/C2 ratios, that the
functionalization of the chitosan with the alkyl chains took place in all proposed scaffolds. The XPS characterization showed, by the increase in C/N and C1/C2 ratios, that the
functionalization of the chitosan with the alkyl chains took place in all proposed scaffolds. y
p
p
p
In order to understand the reason for the unexpectedly high increase in the aliphatic
carbon signal intensity and therefore in the C1/C2 atomic ratios, upon increasing the side
chain length, we analyzed the pristine functionalized chitosans, before electrospinning
with the PEO solution. In order to understand the reason for the unexpectedly high increase in the aliphatic
carbon signal intensity and therefore in the C1/C2 atomic ratios, upon increasing the side
chain length, we analyzed the pristine functionalized chitosans, before electrospinning
with the PEO solution. with the PEO solution. For all the analyzed samples, experimental spectra were fitted with the same three
component peaks (C1–C3), whose assignment is the same as the one discussed for the elec-
rospun samples. The measured atomic ratios are shown in Table 1 (lines 6–9). For all the analyzed samples, experimental spectra were fitted with the same three
component peaks (C1–C3), whose assignment is the same as the one discussed for the
electrospun samples. The measured atomic ratios are shown in Table 1 (lines 6–9). trospun samples. The measured atomic ratios are shown in Table 1 (lines 6 9). Table 1. 2.4. Dynamic Mechanical Analysis
2.4. Dynamic Mechanical Analysis
The dynamic mechanical ana The dynamic mechanical analysis showed that the values of the storage (G′) and loss
(G”) moduli increased with frequency for all chitosan solutions (Chit, ChitC12, ChitC14,
and ChitC16). The dynamic mechanical analysis showed that the values of the storage (G ) and loss
(G’’) moduli increased with frequency for all chitosan solutions (Chit, ChitC12, ChitC14,
and ChitC16). Furthermore G’ values were always higher than the G’’ ones in the investigated fre Furthermore, G′ values were always higher than the G” ones in the investigated
frequency range (Figure 6). Furthermore, G values were always higher than the G ones in the investigated fre-
quency range (Figure 6). Figure 6. Dynamic mechanical analysis. Results from small amplitude oscillatory shear tests: storage
modulus (G’) and loss modulus (G’’) as function of frequency for Chit, ChitC12, ChitC14, and
ChitC16. Data are reported as mean value, and error bars represent the standard deviation. The
results were analyzed using ANOVA followed by Bonferroni post hoc tests. The level of significance
was set at p < 0.05. Figure 6. Dynamic mechanical analysis. Results from small amplitude oscillatory shear tests: storage
modulus (G′) and loss modulus (G′′) as function of frequency for Chit, ChitC12, ChitC14, and ChitC16. Data are reported as mean value, and error bars represent the standard deviation. The results were
analyzed using ANOVA followed by Bonferroni post hoc tests. The level of significance was set at
p < 0.05. Figure 6. Dynamic mechanical analysis. Results from small amplitude oscillatory shear tests: storage
modulus (G’) and loss modulus (G’’) as function of frequency for Chit, ChitC12, ChitC14, and
ChitC16. Data are reported as mean value, and error bars represent the standard deviation. The
results were analyzed using ANOVA followed by Bonferroni post hoc tests. The level of significance
was set at p < 0.05. Figure 6. Dynamic mechanical analysis. Results from small amplitude oscillatory shear tests: storage
modulus (G′) and loss modulus (G′′) as function of frequency for Chit, ChitC12, ChitC14, and ChitC16. Data are reported as mean value, and error bars represent the standard deviation. The results were
analyzed using ANOVA followed by Bonferroni post hoc tests. The level of significance was set at
p < 0.05. In general, an increase in both dynamic moduli was observed with the increase in
chain length (Figure 6). 2.3. XPS Analysis
2.3. XPS Analysis Atomic ratios for electrospun scaffolds and reference samples. Sample
C/O
C/N
C1/C2
C1/C3
N2/N1
ChitPEO (90 10)
1 78
14 2
0 7
2 1
0 10
The C1s signal should be absent from the chitosan spectrum; therefore, the signal
detected is only due to surface contamination, which is particularly high for powder
samples. The functionalization by reaction with the corresponding aldehydes produces an
increase in the C/O, C/N C1/C2 and C1/C3 atomic ratios, as it was already evidenced for Gels 2022, 8, 113 7 of 18
r sam-
an in- 7 of 18
r sam-
an in- the electrospun matrices; all the mentioned atomic ratios increased upon increasing the
alkyl chain length. However, the increase in the C/O and C/N ratios is much higher for
the electrospun samples than for the pristine chitosans. electrospun matrices; all the mentioned atomic ratios increased upon increasing the alkyl
chain length. However, the increase in the C/O and C/N ratios is much higher for the
electrospun samples than for the pristine chitosans. In order to account for the unexpectedly high increase in the aliphatic C1 component p
p
p
In order to account for the unexpectedly high increase in the aliphatic C1 component
and in the C/O, C/N atomic ratios for the electrospun samples, we can suppose that in
these samples hydrophobic alkyl chains tend to be oriented towards the fibers surface, thus
enhancing the C1 peaks spectral contribution for a surface-sensitive technique, such as XPS. In order to account for the unexpectedly high increase in the aliphatic C1 component
and in the C/O, C/N atomic ratios for the electrospun samples, we can suppose that in these
samples hydrophobic alkyl chains tend to be oriented towards the fibers surface, thus en-
hancing the C1 peaks spectral contribution for a surface-sensitive technique, such as XPS. 2.5. Bioassays 2.5.1. Bacteriostatic/Bactericidal Properties of Electrospun Functionalized
Chitosan Scaffolds 2.4. Dynamic Mechanical Analysis
2.4. Dynamic Mechanical Analysis
The dynamic mechanical ana In particular, as the frequency increased from 0.01 to 1 Hz; Chit
showed G′ values ranging from 0.09 ± 0.01 Pa to 1.8 ± 0.2 Pa, which were significantly
lower than those found for ChitC12 (from 8.4 ± 0.9 Pa to 96.3 ± 9.8 Pa). (
)
Moreover, by further increasing the chain length, G′ increased as values ranging from
24.0 ± 2.2 Pa to 251.0 ± 20.5 Pa and from 32.7 ± 2.6 Pa to 466.0 ± 35.7 Pa were achieved for
ChitC14 and ChitC16, respectively. The observed differences were statistically significant. Clearly, the long chain has a strong effect on the behavior of polymer solutions, also Moreover, by further increasing the chain length, G′ increased as values ranging from
24.0 ± 2.2 Pa to 251.0 ± 20.5 Pa and from 32.7 ± 2.6 Pa to 466.0 ± 35.7 Pa were achieved for
ChitC14 and ChitC16, respectively. The observed differences were statistically significant. p
y
y
g
Clearly, the long chain has a strong effect on the behavior of polymer solutions, also
leading to the changes in morphological and structural features. p
y
y
g
Clearly, the long chain has a strong effect on the behavior of polymer solutions, also
leading to the changes in morphological and structural features. Gels 2022, 8, 113 8 of 18 8 of 18 In a polymer solution, the polymer chains are more or less isolated according to the
solution concentration. The conformation of the molecules and the hydrodynamic volume
strongly affect the physical, flow and dynamic mechanical properties. g y
p y
y
p
p
The obtained findings should be also explained in terms of chain entanglements and
interactions. It is well known that, at a fixed polymer concentration, an increase in chain
length leads to a restriction in terms of freedom of movement for the individual chains, as
consequence of an increased number of entanglements and interactions. Thus, a decrease in
chain length led to a reduction in the storage modulus (Figure 6) as a result of an increased
flexibility of the chain due to a reduction in the number of interactions and entanglements
between the molecules. 2.5.1. Bacteriostatic/Bactericidal Properties of Electrospun Functionalized
Chitosan Scaffolds E. Coli and S. Aureus bacteria did not grow in contact with all the electrospun scaffolds,
revealing neither bacteriostatic nor bactericidal properties. The results are reported in
Figure S2 of the Supplementary Material. 2.5.2. Cellular Properties of Electrospun Functionalized Chitosan Scaffolds In Direct Contact tests, renal tubular cells (RTCs) showed a good growth, as onto
CTR-Sol (complete RTCs medium, paragraph 4.2.10.1). The use of RTCs is justified by our
previous studies [22]; they have shown a positive efficiency in the release of cytokines when
subjected to external stressors. The quantitative analysis using Annexin V/PI, cytofluo-
rometric assay, showed a difference in terms of viability, apoptosis and necrosis between
RTCs incubated with the four different scaffolds and RTCs incubated only with CTR-Sol
(Figure 7a). ChitPEO, ChitC14PEO and ChitC16PEO resulted in higher mortality than
CTR-Sol, while ChitC12PEO mortality was similar to CTR-Sol. These differences were
found both in Direct Contact and Indirect Contact tests (Figure 7a,b). 9 of 18 Figure 7. Percentage of Direct Contact (a) and Indirect Contact (b) viability, apoptosis and necrosis be-
tween RTCs in CTR-Sol incubated 24 h with the 4 test devices and RTCs incubated only with CTR-Sol. Figure 7. Percentage of Direct Contact (a) and Indirect Contact (b) viability, apoptosis and necrosis
between RTCs in CTR-Sol incubated 24 h with the 4 test devices and RTCs incubated only with
CTR-Sol. Figure 7. Percentage of Direct Contact (a) and Indirect Contact (b) viability, apoptosis and necrosis be-
tween RTCs in CTR-Sol incubated 24 h with the 4 test devices and RTCs incubated only with CTR-Sol. Figure 7. Percentage of Direct Contact (a) and Indirect Contact (b) viability, apoptosis and necrosis
between RTCs in CTR-Sol incubated 24 h with the 4 test devices and RTCs incubated only with
CTR-Sol. Figure 7. Percentage of Direct Contact (a) and Indirect Contact (b) viability, apoptosis and necrosis be-
tween RTCs in CTR-Sol incubated 24 h with the 4 test devices and RTCs incubated only with CTR-Sol. Figure 7. Percentage of Direct Contact (a) and Indirect Contact (b) viability, apoptosis and necrosis
between RTCs in CTR-Sol incubated 24 h with the 4 test devices and RTCs incubated only with
CTR-Sol. Gels 2022, 8, 113 9 of 18 9 of 18 Pro- and anti-inflammatory cytokine levels (IL-1β and IL-10) showed no differences
both in Direct Contact and Indirect Contact tests (Figure 8). 2.5.1. Bacteriostatic/Bactericidal Properties of Electrospun Functionalized
Chitosan Scaffolds We analyzed pro-inflammatory
Il-1β and anti-inflammatory IL-10 cytokines to see if the materials caused an effect on RTCs. As there were no pro- or anti-inflammatory effects, we did not consider proceeding with
further investigations. Figure 7. Percentage of Direct Contact (a) and Indirect Contact (b) viability, apoptosis and necrosis be-
tween RTCs in CTR-Sol incubated 24 h with the 4 test devices and RTCs incubated only with CTR-Sol. Figure 8. Direct and Indirect Contact IL-1β (a) and IL-10 (b) levels. Results are expressed in pg/mL. Figure 8. Direct and Indirect Contact IL-1β (a) and IL-10 (b) levels. Results are expressed in pg/mL. 10 of 18 Figure 8. Direct and Indirect Contact IL-1β (a) and IL-10 (b) levels. Results are expressed in pg/mL. Figure 8. Direct and Indirect Contact IL-1β (a) and IL-10 (b) levels. Results are expressed in pg/mL. 10 of 18 As shown in Figure 9, after 24 h incubation, flow cytometry analysis showed no dif-
ferences in eryptosis among the four scaffolds and the blood control (B CTR) Pro and
Non-elevated values seem to indicate that the four scaffolds did not have any inflam-
matory and/or anti-inflammatory effects on RTCs. Unlike the other factors, myeloperoxidase (MPO) levels were higher in ChitC14PEO ferences in eryptosis among the four scaffolds and the blood control (B-CTR). Pro- and
anti-inflammatory cytokine levels (IL-1β and IL-10) showed no substantial differences
among the four different scaffolds and in comparison, with B-CTR (Figure S3). As shown in Figure 9, after 24 h incubation, flow cytometry analysis showed no
differences in eryptosis among the four scaffolds and the blood control (B-CTR). Pro- and
anti-inflammatory cytokine levels (IL-1β and IL-10) showed no substantial differences
among the four different scaffolds and in comparison, with B-CTR (Figure S3). ,
y
p
(
)
g
and ChitC16PEO (respectively, 1205.0 and 925.4 pg/mL), lower than the first two for Chit-
PEO and ChitC12PEO (respectively, 381.5 and 306.8 pg/mL), and normal for B-CTR (87.7
pg/mL) (Figure S4). Figure 9. Percentage of eryptosis after 24 h of incubation with 4 electrospun scaffolds and without
(B-CTR)
Figure 9. Percentage of eryptosis after 24 h of incubation with 4 electrospun scaffolds and without
(B-CTR). Figure 9. Percentage of eryptosis after 24 h of incubation with 4 electrospun scaffolds and without
B-CTR)
Figure 9. Percentage of eryptosis after 24 h of incubation with 4 electrospun scaffolds and without
(B-CTR). 2.5.1. Bacteriostatic/Bactericidal Properties of Electrospun Functionalized
Chitosan Scaffolds It is well known that chitosan, in direct contact with blood, promotes plasma protein
adsorption, platelet adhesion and thrombolysis [23]. Serum in contact with chitosan-PEO
Unlike the other factors, myeloperoxidase (MPO) levels were higher in ChitC14PEO
and ChitC16PEO (respectively, 1205.0 and 925.4 pg/mL), lower than the first two for Gels 2022, 8, 113 10 of 18 ChitPEO and ChitC12PEO (respectively, 381.5 and 306.8 pg/mL), and normal for B-CTR
(87.7 pg/mL) (Figure S4). ChitPEO and ChitC12PEO (respectively, 381.5 and 306.8 pg/mL), and normal for B-CTR
(87.7 pg/mL) (Figure S4). pg
g
It is well known that chitosan, in direct contact with blood, promotes plasma protein
adsorption, platelet adhesion and thrombolysis [23]. Serum in contact with chitosan-PEO
(80:20) membrane did not cause sheep erythrocytes lysis [24]. All functionalized chitosan matrices showed no cytotoxicity induced in blood cells, no
cell adhesion enhancement, no antimicrobial activity and no inflammation response. 4.1. Materials Acetic acid and poly(ethylene oxide) (average MV 900,000 Da) were supplied by Sigma-
Aldrich (Steinheim, Germany). Chitosan 70/1000 (deacetylation grade between 67.7 and
72.5%; viscosity = 1000 mPas) was obtained from Heppe Medical Chitosan GmbH (Saale,
Germany). Ethanol and sodium cyanoborohydride were purchased from Fluka (Steinhem,
Germany). Dodecanal, tetradecanal and hexadecanal were obtained from Toronto Research
Chemicals (Toronto, Canada). Sodium phosphate was supplied by Labscan Carlo Erba
(Milan, Italy) and sodium chloride by Prolabo (Briare, France). 3. Conclusions In this study, a method for the preparation of fibrous scaffolds composed of chitosan
functionalized with dodecanal or tetradecanal or hexadecanal was carried out. The XPS analyses demonstrated the efficacy of the chitosan functionalization. To ob-
tain virtually defect-free fibrous scaffolds, a blend of functionalized chitosan and PEO was
used. AFM analyses performed on films of pristine or PEO-added materials demonstrated
that both the addition of PEO and the functionalization with hydrophobic tails dramatically
change the properties of chitosan. In particular, the addition of PEO lowered the Young
modulus of the chitosan film. A similar result was also observed as a response to function-
alization, proving that both PEO and the hydrophobic tails (in particular C12) additions
produced a loss of macromolecular cohesion. Surprisingly, the evaluation of the contact
angle indicated that the addition of PEO did not substantially modify the wettability of
chitosan whilst the functionalization led to more hydrophilic films. The DMA analysis al-
lowed the study of the significant effect of the chain length on the viscoelastic properties of
chitosan solutions in the investigated frequency range (e.g., G′ ranging from 0.09 ± 0.01 Pa
to 1.8 ± 0.2 Pa–Chit, from 8.4 ± 0.9 Pa to 96.3 ± 9.8 Pa–ChitC12, from 24.0 ± 2.2 Pa to
251.0 ± 20.5 Pa–ChitC14, and from 32.7 ± 2.6 Pa to 466.0 ± 35.7 Pa–ChitC16). The biological assays aimed at studying the interaction of the electrospun membranes
with bacteria (both Gram + and Gram−), cells of the renal tubule and blood. The results
agreed in indicating all matrices as constitutionally sterile, but neither bactericidal nor
bacteriostatic. Moreover, such matrices did not show adhesive property with respect to
renal tubular cells. No erythrocytosis phenomena or immunological effects were observed. All these findings combine to define these scaffolds as promising materials for biomedical
devices, such as hemodialysis filters, hemopurifiers and blood vessel substitutes for regen-
erative medicine. The current study represents a potential opening for the application of
electrospun chitosan for these new medical devices. 4.2.3. Electrospinning Process 4.2.3. Electrospinning Process The electrospinning conditions used to obtain scaffolds of nanofibers are reported in
Table S3. Since the layers of electrospun ChitC14PEO and ChitC16PEO were excessively thin
and difficult to be detached from the collector, they were deposited on a first layer of
electrospun PEO (5% PEO w/w in water). 4.2.4. Scanning Electron Microscopy Electrospun scaffolds were sputter coated with gold (EMITECHK950x Turbo Evapora-
tor, EBSciences, East Granby, CT, USA) and observed under SEM (Cambridge Stereoscan
440 SEM, Cambridge, UK). Images were recorded at 15,000× magnifications with an ac-
celerating voltage of 20 kV. The diameter range of the fabricated nanofibers was manually
measured using a commercial imaging software (ImageJ, National Institutes of Health,
Bethesda, MD, USA). For each sample, three representative images of three different areas
were chosen. 4.2.2. Preparation of Polymer Solutions for Electrospinning As reported in [25], the electrospinning solution of pristine chitosan and PEO was
prepared at 1.6% w/w polymer/solution concentration, where the polymer weight was
composed by 10% PEO and 90% chitosan; the solvent used was 90% v/v acetic acid solution
in water. This method was suitable for preparing ChitC12 solution but not for ChitC14 and
ChitC16: for the latter, the obtained solutions were not properly electrospinnable. Therefore,
a salt was added for increasing solution conductivity. A total of 0.8773 g of sodium chloride
and 0.138 g of sodium phosphate were dissolved in 100 mL of distilled water and pH was
adjusted to 7.4. The polymeric solutions for the electrospinning of ChitC14 or ChitC16 were
obtained according to the following procedure: 0.07 g of PEO were dissolved in 4.7 mL of
acetic acid solution (90:10) and separately 0.07 g of ChitC14 (or ChitC16) were added to
4.7 mL of acetic acid solution (90:10). Then, 2 mL of PEO solution were added to ChitC14
(or ChitC16) solution to obtain a final solution composed by 70% of functionalized chitosan
and 30% of PEO. Eventually, the solution was diluted with 1 mL of acetic acid/buffer
solution (90:10). 4.2.5. Preparation of Polymer Solutions for Contact Angle Measurements, Young Moduli
Determination and DMA Analysis All solutions for films preparation were prepared with 1.6% w/w polymer/solution
concentration, where polymer weight was composed by 100% PEO (PEO); 100% Chitosan
(Chit); 100% ChitC12 (ChitC12); 100% ChitC14 (ChitC14); or 100% ChitC16 (ChitC16). Other 1.6% w/w solutions were prepared considering the polymer weight composed by
10% of PEO and 90% of chitosan (ChitPEO); 90% ChitC12 (ChitC12PEO); 90% ChitC14
(ChitC14PEO); or 90% ChitC16 (ChitC16PEO). The solvent used was 90% v/v acetic acid
solution. For contact angle measurements and Young moduli determination, the solutions
were deposited on glass surfaces and left to dry at 25 ◦C, whilst for DMA analysis the
experiments were carried out directly on the different polymer solutions. 4.2.1. Preparation of ChitC12, ChitC14 and ChitC16 Three different modified types of chitosan were prepared by reaction between chitosan
and three aldehydes containing different aliphatic tails (dodecanal, tetradecanal and hex-
adecanal) as follows: 4 g of chitosan were slowly added in a 0.2 M acetic acid solution under
magnetic stirring. The solution was diluted in ethanol (150 mL) and the pH was adjusted
at 5.1 with 1 M sodium hydroxide solution in order to prevent chitosan precipitation. Each
aldehyde (0.257 g) was dissolved in ethanol (10 mL, 0.025 g/mL) and then added to the
chitosan solution. An excess amount of sodium cyanoborohydride (4.3 g) was added at Gels 2022, 8, 113 11 of 18 room temperature under stirring for 24 h. The reacted chitosan was precipitated from
solution by increasing the pH up to 7 using NaOH solution (1M) and adding an excess of
ethanol. The precipitate was filtered in a gooch and washed with ethanol to remove the
unreacted aldehyde and sodium cyanoborohydride. The resulting product (ChitC12 or
ChitC14 or ChitC16) was dried under vacuum at room temperature. 4.2.2. Preparation of Polymer Solutions for Electrospinning 4.2.6. Water Contact Angle Measurements Surface wettability was measured by static water contact angle. The OCA30 instrument
(Dataphysics, Filderstadt, Germany) was used at 25 ◦C and under 65% relative humidity. The measurements were carried out on each polymer film deposited on a glass surface. Gels 2022, 8, 113 12 of 18 This analysis was not carried out on electrospun matrices in order to avoid the effect due
to the porous fibrous structure that could lead to a difficult interpretation or misleading. Then, 2 µL ultrapure water drops were applied on different zones of each sample surface
and the static contact angle was measured on both sides of the two-dimensional projection
of the droplet by digital image analysis. At least three measurements were made for each
sample, and values were averaged. 4.2.7. AFM Analysis AFM analyses were carried out on different polymer films in order to evaluate sepa-
rately the effects of hydrophobic tails functionalization and PEO introduction. An analogue
study on electrospun matrices was not feasible because ChitC12, ChitC14 and ChitC16
could not be electrospun without PEO. The Young modulus was calculated from the
collected force–distance curves measured with the NTEGRA AFM (NT-MDT, Moscow,
Russia). Stiff single crystal silicon cantilevers with a symmetric tip shape were used (model
Tap300Al-G, BudgetSensors, Bulgaria: nom. Frequency 300 kHz, nom. Spring constant
40 Nm−1, tip radius < 10 nm). AFM measurements were in triplicate. The probe was
characterized by measuring the cantilever spring constant by the Sader method [26]. Each
probe was calibrated by performing a force-curve on a hard-cleaned substrate (<100> sil-
icon wafer), where no indentation occurred. Probe calibration was needed to calculate
their sensitivity and the spring constant. The Young modulus was obtained from the
experimental force–distance curves by the Derjaguin–Müller–Toporov (DMT) model [27],
using the following equation: F + Fad =
4Es
3(1 −ν2s ) R
1
2 δ
3
2 ,
(1) (1) where F is the applied force; Fad is the adhesion force; Es is the Young modulus; νs is the
Poisson’s ratio for the sample; R is the radius of the spherical indenter; and δ is the elastic
indentation depth. Each surface was indented in different areas and about three hundred
curves were acquired. The tip-sample approaching rate was set to 0.3 µms−1 for all force
curves. The Young modulus was calculated by fitting experimental curves with the DMT
model in the elastic region. Elastic modulus distribution was assessed with OriginPro
8.5 software. 4.2.10. Biological Assays
RTCs Culture 4.2.10. Biological Assays
RTCs Culture 4.2.10. Biological Assays
RTCs Culture Primary cultures of human proximal renal tubular epithelial cells were obtained from
kidneys explanted from patients affected by renal carcinomas. An immortalized human proximal renal tubular cells (RTCs) line was generated by
infection with a hybrid Adeno5/SV40 virus. The purity of primary cultures was assessed
according to published criteria [28]. RTCs were grown in complete liquid phase medium
(RPMI 1640 with stable L-glutamine) supplemented with 10% heat-inactivated (30 min at
56 ◦C) fetal bovine serum, 100 IU/mL penicillin, and 100 µg/mL streptomycin (Sigma-
Aldrich, Merck KGaA, Saint Louis, USA) (CTR-Sol). RTCs were maintained in an incubator
under controlled atmosphere and temperature (5% CO2 at 37 ◦C) and passaged at 80%
confluence checked by inverted microscope. Test by Direct and Indirect Contact 4.2.9. DMA Analysis 4.2.9. DMA Analysis Dynamic mechanical analysis was performed on different chitosan solutions (Chit,
ChitC12, ChitC14, and ChitC16) in order to evaluate separately the effects of hydrophobic
tails functionalization and PEO introduction. An analogue study on electrospun matri-
ces was not feasible because ChitC12, ChitC14 and ChitC16 could not be electrospun
without PEO. In particular, dynamic oscillatory shear measurements were carried out at 37 ◦C using
a rheometer (Gemini, Bohlin Instruments, Malvern Panalytical Ltd, Malvern, UK) with a
parallel plate. Serrated parallel plates with a diameter of 15 mm were employed to avoid
slippage. pp g
First, the linear viscoelastic region was determined, and small amplitude oscillatory
shear tests were successively performed in the frequency range from 0.01 to 1 Hz. The storage or elastic modulus (G′) and the loss or viscous modulus (G”) were evalu-
ated as follows:
τ G′ = τ0
γ0
cosδ,
(2)
G′′ = τ0
γ0
sinδ
(3) (2) (3) where δ represents the phase shift between the input and the output signals, whilst γ0 and
τ0 and are the strain and stress amplitudes, respectively. where δ represents the phase shift between the input and the output signals, whilst γ0 and
τ0 and are the strain and stress amplitudes, respectively. The data were reported as mean value ± standard deviation and analyzed using
ANOVA followed by Bonferroni post hoc tests. The level of significance was set at p < 0.05. 4.2.8. XPS Measurements XPS studies were performed on electrospun matrices using an in house designed
instrument consisting of one preparation and one analytical chamber separated by a gate
valve. The analytical chamber is equipped with a six degrees of freedom manipulator
and a 150 mm mean radius hemispherical electron analyzer with five-lens output system
combined with a 16-channel detector. Measurements were performed at normal take-off
(θ = 90◦). Samples were introduced in the preparation chamber and outgassed overnight
under vacuum (about 10−8 Torr), before being transferred into the analytical chamber. Typical vacuum pressure into the analytical chamber was in the range 10−9–10−10 Torr. Mg Kα non-monochromatized X-radiation (hν = 1253.6 eV) was used for recording
C1s, O1s and N1s core level spectra, with a pass energy of 25 eV. Measurements were
performed on at least two different specimens for each sample in order to check data
reproducibility; mean values are reported. Analysis was carried both on the electrospun
matrices and on the pristine chitosan chosen as reference; these latter were analyzed as
powders deposited on an adhesive tape on Ti substrates. The measured binding energies (±0.1 eV) were calibrated to the C1s signal of aliphatic
C–C carbons located at a binding energy BE = 285.0 eV [19]. Experimental spectra were
analyzed by curve fitting using Gaussian curves. Atomic ratios (±10%) were calculated
from peaks areas using Scofield’s cross section as sensitivity factors. Gels 2022, 8, 113 13 of 18 13 of 18 Test by Direct and Indirect Contact In the Indirect Contact tests, 4 specimens of electrospun scaffolds (ChitPEO (90:10),
ChitC12PEO (90:10), ChitC14PEO (70:30) electrospun on a PEO layer, and ChitC16PEO
(70:30) electrospun on a PEO layer) with the same 0.4 × 0.4 cm2 surface area were incu-
bated at 37 ◦C and 5% CO2 for 24 h in 2 mL of CTR-Sol and in 2 mL of RPMI solution
plus 1 × 104 RTCs (Direct Contact). Thereafter, part of CTR-Sol (0.5 mL) incubated with
electrospun scaffolds was withdrawn and incubated for other 24 h with RTCs. p
In the Direct Contact test, the solutions with RTCs were centrifuged for 7 min at
3500 rpm, and supernatants were immediately separated from RTCs, then frozen and
used in a second phase to assess the inflammatory factor IL-1β and anti-inflammatory
factor IL-10. RTCs viability, apoptosis and necrosis were assessed using Annexin V-Fluorescein
isothiocyanate (FITC) kit (Beckman Coulter, Brea, CA, USA) according to the manufacture’s
protocol. This kit is based on the binding properties of Annexin V to phosphatidylserine and
on DNA-intercalating capabilities of propidium iodide (PI). The analysis was performed
using a Navios flow cytometer (Beckman Coulter, Brea, CA, USA). The biparametric
analysis revealed three distinct populations: viable cells with low phenyl-isothiocyanate
(FITC) and low PI signals, apoptotic cells with high FITC and low PI signals, and necrotic Gels 2022, 8, 113 14 of 18 14 of 18 cells with high FITC and high PI signals. A minimum of 15,000 events were collected for
each sample. cells with high FITC and high PI signals. A minimum of 15,000 events were collected for
each sample. p
After further 24 h, solutions from indirect contact test were centrifuged for 7 min
at 3500 rpm, and supernatants were immediately separated from RTCs, then frozen and
used in a second phase to assess the inflammatory factor IL-1β and anti-inflammatory
factor IL-10. In the second phase, the quantitative determination of IL-1β and IL-10 in direct
and indirect contact test solutions was performed by the Human Instant enzyme-linked
immunosorbent assay (ELISA) kit (eBioscience, San Diego, CA, USA). Cytokine deter-
minations were performed according to the manufacturer’s protocol and instructions. Optical density was read by VICTOR X4 Multilabel Plate Reader (PerkinElmer Life Sci-
ences, Waltham, USA) at 450 nm. The concentration of cytokines was calculated from the
standard curve according to the manufacturer’s protocol. Test by Direct and Indirect Contact IL-1β, IL-10 and myeloperoxidase
(MPO, marker for oxidative stress) concentrations were calculated from the standard curve
according to the manufacture’s protocol. All tests were performed in triplicate. Sterilization Test with Ethanol 20% In order to evaluate the sterilization ability of the ethanol 20% solution, two strains
were used: E. coli and S. aureus. Each strain was gradually diluted (2 McF, 1 McF, 0.5 McF,
0.25 McF) and 1 mL from each diluted solution was centrifuged at 14,000 rpm for 5 min. The supernatant was removed. The remaining pellet was treated with 1 mL of ethanol
20% (made in hospital pharmacy, Vicenza Hospital, Vicenza, Italy). At this stage, the
solutions were vortexed to resuspend bacteria. After 10 min, 20 min, 30 min, 1 h, each
alcoholic/bacterial solution was plated with 1 µL calibrated loop into blood agar medium
(BioMerièux, Marcy l’Etoile, France). Agar plates were incubated for 24 h at 37◦to promote
bacteria growth. Test on Extracts with Blood Five peripheral venous blood samples were collected from a healthy volunteer; four
samples were used for test devices and one sample as control (B-CTR). Blood samples
were collected in EDTA tubes and subsequently each material, with the same surface
(0.8 × 0.4 cm2), was placed within a tube of blood sample. EDTA tubes with test devices
were gently mixed at 37 ◦C for 24 h. g
y
For assays with red blood cells (RBC), blood was centrifuged for 7 min at 3500 rpm
and the plasma, buffy coat, and uppermost erythrocytes were removed and discarded. The remaining erythrocytes were washed with PBS at room temperature and immediately
stained with Annexin-V kit (Beckman Coulter, Brea, CA, USA), then evaluated by flow
cytometry. The analysis was performed using a Navios flow cytometer (Beckman Coulter,
Brea, CA, USA). The plasma was frozen and used in a second phase to check the inflammatory factor
IL-1β and anti-inflammatory factor IL-10 and MPO. All tests were performed in triplicate. 1st Antibacterial Property Test In order to evaluate membrane antibacterial properties, 2 strains ATCC were used:
E. coli and S. aureus. After being stored at −20 ◦C, they were thawed completely and
then plated into a blood agar medium (BioMerièux); finally, they were incubated for 24 h
at 37 ◦C. After incubation, the strains were used for getting 0.5 McF solutions. Thus,
bacterial solutions were plated in a Mueller–Hinton agar medium (BioMerièux). At this
stage, previously prepared membranes were plated in seeded medium to evaluate possible
inhibition haloes. The plates were incubated for 24 h at 37 ◦C. Second Antibacterial Property Test For the second antibacterial test, 2 rectangular specimens (0.5 mm × 10 mm) were
obtained. All the above-mentioned steps were repeated, but the membranes were plated
for 10 min in a portion of the plate and after plated in a final locus. Membrane Sterilization Test In order to assess the ethanol 70% solution sterilization ability over the membranes,
squared samples (5 mm × 5 mm) were cut from each membrane. Each sample was
immerged for 10 min into ethanol 70% solution. After 10 min, the sample was plated in a
blood agar medium (BioMerièux) and incubated for 24 h at 37 ◦C. Membrane Negative Control A second test was repeated on adsorption paper pieces of the same dimensions
to assess if smaller bacterial growth is due to inhibition contact or to the antibacterial
properties of the investigated materials. Sterilization Test with Ethanol 70% In order to evaluate the sterilization ability of the ethanol 70% solution, two strains
were used: E. coli and S. aureus. Each strain was gradually diluted (2 McF, 1 McF, 0.5 McF,
0.25 McF) and 1 mL from each diluted solution was centrifuged at 14,000 rpm for 5′. The
supernatant was removed. The remaining pellet was treated with 1 mL of ethanol 70%
(made in hospital pharmacy, Vicenza Hospital). At this stage, solutions were vortexed to
resuspend bacteria. After 10 min, 20 min, 30 min, 1 h, each alcoholic/bacterial solution was
plated with 1 µL calibrated loop into blood agar medium (BioMerièux). Agar plates were
incubated for 24 h at 37 ◦C to promote bacteria growth. Gels 2022, 8, 113 15 of 18 15 of 18 Membrane Sterilization Test Antibacterial Properties In order to evaluate membrane antibacterial properties, one circular sample (5 mm
diameter) was cut from each membrane. The material was treated with ethanol 70% (made
in hospital pharmacy, Vicenza Hospital) and after 10 min was plated in neutered Petri
plates (BioMerièux) and dried up for 24 h. Membrane Sterilization Test In order to evaluate membrane antibacterial properties after UV sterilization for 12 h,
2 strains ATCC were used: E. coli and S. aureus. After being stored at −20 ◦C, they were
thawed completely and then plated into a blood agar medium (BioMerièux); finally, they
were incubated for 24 h at 37 ◦C. After incubation, the strains were used to obtain 0.5 McF
solutions. Then, the bacterial solutions were plated in aMueller–Hinton agar medium
(BioMerièux). At this stage, the 24 h previously prepared membranes were plated in a
seeded medium and the plates were incubated for 24 h at 37 ◦C. Liquid Test for Evaluating Membrane Antibacterial Properties Liquid Test for Evaluating Membrane Antibacterial Properties For the liquid evaluation of membrane antibacterial properties, 2 strains ATCC were
used: E. coli and S. aureus. After being stored at −20 ◦C, they were thawed completely
and plated into a blood agar medium (BioMerièux); finally, they were incubated for 24 h at
37 ◦C. After incubation, the strains were used to obtain 1 McF solutions. A total of 500 µL
from each bacterial suspension were added with 500 µL of Brain Heart Infusion medium
(B.H.I., BLL™Brain Heart Infusion, Becton Dickinson, East Rutherford, USA) to obtain a
0.5 McF solution. Therefore, 10 Eppendorfs were prepared, each containing 1 mL of this
solution (5 with E.c. 0.5 McF solution and 5 with S.a 0.5 solution). Then, 8 membrane
portions, 24 h previously sterilized and prepared, were placed into the bacterial solution. The plates were then incubated at 37 ◦C. From each Eppendorf, previously vortexed for
resuspending bacteria, an aliquot was plated for 0, 1, 8, 24 h. Each aliquot was plated with
1 µL calibrated loop into a blood agar medium (BioMerièux). The agar plates were finally
incubated at 37 ◦C. Gels 2022, 8, 113 16 of 18 Supplementary Materials: The following are available online at https://www.mdpi.com/article/
10.3390/gels8020113/s1. Table S1: Mean diameter of fibers and mean mesh dimension ± SD;
Figure S1: Frequency distribution of Young modulus; Table S2: Measured BEs and assignment of the
XPS component peaks; Figure S2: Bacteriostatic/bactericidal properties of the scaffolds; Figure S3: IL-
1b levels and IL-10 levels after 24 h; Figure S4: MPO levels after 24 h; Table S3: Electrospinning
conditions used to obtain scaffolds of nanofibers. Author Contributions: Conceptualization, M.D. and C.R.; methodology, M.R. (Mario Rassu); in-
vestigation, G.M.L.M., G.I., V.P., T.R., M.S., S.M.M., M.Z., C.B., M.R. (Martina Roso), and M.D.C.;
resources, M.D., G.I., T.R., G.M., M.M., and C.R.; data curation, M.R. (Martina Roso), G.M.L.M., C.B.,
and M.D.C.; writing—original draft preparation, M.D., M.R. (Martina Roso), G.I., T.R., A.Z., G.M.,
M.R. (Mario Rassu), M.D.C., and C.R.; writing—review and editing, M.D., T.R., and A.Z.; project
administration, M.D. All authors have read and agreed to the published version of the manuscript. Funding: This research received no external funding. Institutional Review Board Statement: Not applicable. Informed Consent Statement: Informed consent was obtained from all subjects involved in the study. Data Availability Statement: The data presented in this study are available within this article and in
Supplementary Material. References 1. Magill, S.S.; Edwards, J.R.; Bamberg, W.; Beldavs, Z.G.; Dumyati, G.; Kainer, M.A.; Lynfield, R.; Maloney, M.; McAllister-Hollod,
L.; Nadle, J.; et al. Multistate Point-Prevalence Survey of Health Care–Associated Infections. N. Engl. J. Med. 2014, 370, 1198–1208. [CrossRef] 2. Guggenbichler, J.P.; Assadian, O.; Boeswald, M.; Kramer, A. Incidence and clinical implication of nosocomial infections associated
with implantable biomaterials–catheters, ventilator-associated pneumonia, urinary tract infections. GMS Krankenh. Interdiszip
2011, 6, Doc18. [CrossRef] [
]
3. Anderson, J.M.; Rodriguez, A.; Chang, D.T. Foreign body reaction to biomaterials. Semin. Immunol. 2008, 20, 86–100. [CrossRef]
4. Jaffer, I.H.; Fredenburgh, J.C.; Hirsh, J.; Weitz, J.I. Medical device-induced thrombosis: What causes it and how can we prevent it? J. Thromb. Haemost. 2015, 13, S72–S81. [CrossRef] [PubMed] [
]
3. Anderson, J.M.; Rodriguez, A.; Chang, D.T. Foreign body reaction to biomaterials. Semin. Immunol. 2008, 20, 86–100. [CrossRef]
4
J ff
I H F
d
b
h J C Hi
h J W it
J I M di
l d
i
i d
d th
b
i
Wh t
it
d h
t it? 3. Anderson, J.M.; Rodriguez, A.; Chang, D.T. Foreign body reaction to biomaterials. Semin. Immunol. 200 g
g
g
y
4. Jaffer, I.H.; Fredenburgh, J.C.; Hirsh, J.; Weitz, J.I. Medical device-induced thrombosis: What causes it and how can we prevent it? J. Thromb. Haemost. 2015, 13, S72–S81. [CrossRef] [PubMed] naudo, M. Chitin and chitosan: Properties and applications. Prog. Polym. Sci. 2006, 31, 603–632. [CrossRef]
umar, M.N.V.R. A review of chitin and chitosan applications. React. Funct. Polym. 2000, 46, 1–27. [CrossRef] 5. Rinaudo, M. Chitin and chitosan: Properties and applications. Prog. Polym. Sci. 2006, 31, 603–632. [ 5. Rinaudo, M. Chitin and chitosan: Properties and applications. Prog. Polym. Sci. 2006, 31, 603–632. [Cro
6. Kumar, M.N.V.R. A review of chitin and chitosan applications. React. Funct. Polym. 2000, 46, 1–27. [Cro p
pp
g
y
6. Kumar, M.N.V.R. A review of chitin and chitosan applications. React. Funct. Polym. 2000, 46, 1–27. 7. Takahashi, T.; Imai, M.; Suzuki, I.; Sawai, J. Growth inhibitory effect on bacteria of chitosan membranes regulated with
deacetylation degree. Biochem. Eng. J. 2008, 40, 485–491. [CrossRef] y
g
8. Bellich, B.; D’Agostino, I.; Semeraro, S.; Gamini, A.; Cesàro, A. “The Good, the Bad and the Ugly” of Chitosans. Mar. Drugs 2016,
14, 99. [CrossRef] 9. Phil, L.; Naveed, M.; Mohammad, I.S.; Bo, L.; Bin, D. References Chitooligosaccharide: An evaluation of physicochemical and biological
properties with the proposition for determination of thermal degradation products. Biomed. Pharmacother. 2018, 102, 438–451. [CrossRef] [
]
10. Hirano, S.; Tsuchida, H.; Nagao, N. N-acetylation in chitosan and the rate of its enzymic hydrolysis. Biomaterials 1989, 10, 574–576. [CrossRef] 11. Secchi, V.; Franchi, S.; Ciccarelli, D.; Dettin, M.; Zamuner, A.; Serio, A.; Iucci, G.; Battocchio, C. Biofunctionalization of TiO2
Surfaces with Self-Assembling Layers of Oligopeptides Covalently Grafted to Chitosan. ACS Biomater. Sci. Eng. 2019, 5, 2190–2199. [CrossRef] [PubMed] [
] [
]
12. Kong, M.; Chen, X.G.; Xing, K.; Park, H.J. Antimicrobial properties of chitosan and mode of action: A state of the art review. Int. J. Food Microbiol. 2010, 144, 51–63. [CrossRef] [PubMed] 13. Dutta, P. Silver nanoparticles embedded in zeolite membranes: Release of silver ions and mechanism of antibacterial action. Int. J. Nanomed. 2011, 6, 1833. [CrossRef] 14. Greiner, A.; Wendorff, J.H. Electrospinning: A Fascinating Method for the Preparation of Ultrathin Fibers. Angew. Chem. Int. Ed. 2007, 46, 5670–5703. [CrossRef] [PubMed] 15. Bhardwaj, N.; Kundu, S.C. Electrospinning: A fascinating fiber fabrication technique. Biotechnol. Adv. 2010, 28, 325–347. [CrossRef]
[PubMed] 16. Mattanavee, W.; Suwantong, O.; Puthong, S.; Bunaprasert, T.; Hoven, V.P.; Supaphol, P. Immobilization of Biomolecules on the
Surface of Electrospun Polycaprolactone Fibrous Scaffolds for Tissue Engineering. ACS Appl. Mater. Interfaces 2009, 1, 1076–1085. [CrossRef] 17. Humes, H.; Fissell, W.; Tiranathanagul, K. The future of hemodialysis membranes. Kidney Int. 2006, 69, 1115–1119. [CrossRef]
[PubMed] 18. Engler, A.; Richert, L.; Wong, J.Y.; Picart, C.; Discher, D.E. Surface probe measurements of the elasticity of sectioned tissue, thin
gels and polyelectrolyte multilayer films: Correlations between substrate stiffness and cell adhesion. Surf. Sci. 2004, 570, 142–154. [CrossRef] 19. Powell, C. X-ray Photoelectron Spectroscopy Database XPS, Version 4.1; NIST Standard Reference Database: Gaithersburg, MD, USA,
1989; Volume 20. [CrossRef] 20. Briggs, D. Handbook of X-ray Photoelectron Spectroscopy; Wanger, C.D., Riggs, W.M., Davis, L.E., Moulder, J.F., Muilenberg, G.E.,
Eds.; Perkin-Elmer Corp., Physical Electronics Division: Eden Prairie, MN, USA, 1979; Volume 190, p. $195. 21
W
J F Hi h R
l
i
XPS f O
i P l
Th S i
ESCA 300 D
b
B
G B i
D Ed
J h
Wil
& p
22. Brocca, A.; Virzì, G.M.; Pasqualin, C.; Pastori, S.; Marcante, S.; De Cal, M.; Ronco, C. Cardiorenal Syndrome Type 5: In Vitro
Cytotoxicity Effects on Renal Tubular Cells and Inflammatory Profile. Abbreviations Gels 2022, 8, 113 17 of 18 17 of 18 26.
Sader, J.E.; Chon, J.; Mulvaney, P. Calibration of rectangular atomic force microscope cantilevers. Rev. Sci. Instrum. 1999, 70,
3967–3969. [CrossRef] 27.
Derjaguin, B.V.; Muller, V.M.; Toporov, Y.P. Effect of contact deformations on the adhesion of particles. J. Colloid Interface Sci. 1975,
53, 314–326. [CrossRef]
28.
van der Hauwaert, C.; Savary, G.; Gnemmi, V.; Glowacki, F.; Pottier, N.; Bouillez, A.; Maboudou, P.; Zini, L.; Leroy, X.; Cauffiez, C.;
et al. Isolation and Characterization of a Primary Proximal Tubular Epithelial Cell Model from Human Kidney by CD10/CD13
Double Labeling. PLoS ONE 2013, 8, e66750. [CrossRef] [PubMed] 27.
Derjaguin, B.V.; Muller, V.M.; Toporov, Y.P. Effect of contact deformations on the adhesion of particles. J. Colloid Interface Sci. 1975,
53, 314–326. [CrossRef] 27.
Derjaguin, B.V.; Muller, V.M.; Toporov, Y.P. Effect of contact deformations on the adhesion of particles. J. Colloid Interface Sci. 1975,
53, 314–326. [CrossRef]
28.
van der Hauwaert, C.; Savary, G.; Gnemmi, V.; Glowacki, F.; Pottier, N.; Bouillez, A.; Maboudou, P.; Zini, L.; Leroy, X.; Cauffiez, C.;
et al. Isolation and Characterization of a Primary Proximal Tubular Epithelial Cell Model from Human Kidney by CD10/CD13
Double Labeling PLoS ONE 2013 8 e66750 [CrossRef] [PubMed] References Anal. Cell. Pathol. 2015, 2015, 1–7. [CrossRef]
23. Chandy, T.; Sharma, C.P. Prostaglandin E1-immobilized poly (vinyl alcohol)-blended chitosan membranes: Blood compatibility
and permeability properties. J. Appl. Polym. Sci. 1992, 44, 2145–2156. [CrossRef] p
22. Brocca, A.; Virzì, G.M.; Pasqualin, C.; Pastori, S.; Marcante, S.; De Cal, M.; Ronco, C. Cardiorenal Syndrome Type 5: In Vitro
Cytotoxicity Effects on Renal Tubular Cells and Inflammatory Profile. Anal. Cell. Pathol. 2015, 2015, 1–7. [CrossRef] y
y
y
23. Chandy, T.; Sharma, C.P. Prostaglandin E1-immobilized poly (vinyl alcohol)-blended chitosan membranes: Blood compatibility
and permeability properties. J. Appl. Polym. Sci. 1992, 44, 2145–2156. [CrossRef] 24. Amiji, M.M. Permeability and blood compatibility properties of chitosan-poly(ethylene oxide) blend membranes for haemodialy-
sis. Biomaterials 1995, 16, 593–599. [CrossRef] 25. Pakravan, M.; Heuzey, M.-C.; Ajji, A. Core–Shell Structured PEO-Chitosan Nanofibers by Coaxial Electrospinning. Biomacro-
molecules 2012, 13, 412–421. [CrossRef] [PubMed] 26. Sader, J.E.; Chon, J.; Mulvaney, P. Calibration of rectangular atomic force microscope cantilevers. Rev. Sci. Instrum. 1999, 70,
3967–3969. [CrossRef] Gels 2022, 8, 113 18 of 18 18 of 18
|
https://openalex.org/W3091806347
|
https://www.e3s-conferences.org/10.1051/e3sconf/202019302002/pdf
|
English
| null |
The determination of hydraulic resistance during laminar filtration through layers of sorbents and ion-exchange granules in environmental mass exchange equipment
|
E3S web of conferences
| 2,020
|
cc-by
| 4,293
|
E3S Web of Conferences 193, 02002 (2020)
ICMTMTE 2020 E3S Web of Conferences 193, 02002 (2020)
ICMTMTE 2020 https://doi.org/10.1051/e3sconf/202019302002 The determination of hydraulic resistance
during laminar filtration through layers of
sorbents
and
ion-exchange
granules
in
environmental mass exchange equipment
Nikolay Merentsov1,*, Alexander Balashov1, Alexander Golovanchikov1 and Mikhail
Topilin2 1Volgograd State Technical University, 400005 Volgograd, Russia
2Branch of LUKOIL-Engineering VolgogradNIPImorneft, 400078 Volgograd, Russia 1Volgograd State Technical University, 400005 Volgograd, Russia
2Branch of LUKOIL-Engineering VolgogradNIPImorneft, 400078 Volgograd, Russia Abstract. The paper presents main calculation dependencies, their
advantages and disadvantages for calculating the hydraulic resistance of
granular and porous layers in the area of low filtration rates. Approaches
are given to account for the influence of porosity and size of particles
(sorbent granules) that differ in the values of constants and different ways
to account for the influence of particle shape on the hydraulic resistance of
the granular layer. © The Authors, published by EDP Sciences. This is an open access article distributed under the terms of the Creative Commons
Attribution License 4.0 (http://creativecommons.org/licenses/by/4.0/). * Corresponding author: steeple@mail.ru 1 Introduction Filtration flows are used in many industrial processes and products of various branches of
mechanical engineering, in technologies and equipment of the chemical industry and
related industries [1-17]. Filtration is used in water treatment processes and in
environmental technologies [18-41]. Filtration processes are an integral part of the
hydrology and technologies of oil and gas production [42, 43]. Filtration flows are also
implemented in a wide range of environmental mass transfer equipment, in such processes
as adsorption, desorption, ion exchange, etc. [44-73]. The hydraulic resistance of the porous layer is an important technical characteristic of
devices that operate using filtration flows (adsorption, ion exchange, drying, filtration, flow
of gas and liquid-phase reaction products through the porous layers of the catalyst, etc.). The main purpose is determination the hydraulic resistance of a porous layer, so it is
necessary to have equations approximating the filtration curve as a dependence of the
pressure gradient on the filtration rate ∆P/H=f (υf), or criterion equations for determining
the coefficient of hydraulic resistance of a granular layer, followed by determining its
hydraulic resistance using the modified Darcy-Weisbach equation for filtration flow in a
porous layer. Usually, when you are performing engineering calculations, it is necessary to determine
the hydraulic resistance of the porous layer in a limited range of possible changes in the
filtration rate. This range of filtration rate can be located in the area of a linear section of E3S Web of Conferences 193, 02002 (2020)
ICMTMTE 2020 https://doi.org/10.1051/e3sconf/202019302002 the filtration curve, within its nonlinear section, or at the same time partially belong to the
linear and nonlinear sections in the area of their interface. the filtration curve, within its nonlinear section, or at the same time partially belong to the
linear and nonlinear sections in the area of their interface. 2 Methods and materials Let's consider the determination of the hydraulic resistance of a porous layer for the area of
a linear section of the filtration curve using approximating dependencies. The mode of
filtration flow within a linear section of the filtration curve is usually called laminar
filtration. This mode of filtration flow is found, for example, in such processes as
adsorption, ion exchange processes, fine cleaning of liquids using thin-pore volumetric
filter partitions, etc. The approximating equation is the dependence where k is the permeability of the porous
layer and μ is the viscosity of the liquid for a linear section of the filtration curve (for
laminar filtration) based on Darcy's law f
k
H
P
µυ
1
=
∆
(1) (1) It is necessary to Express the parameters that characterize the structure of the porous
layer to use this dependence in the calculation practice. The variety of structures of the
porous layer also generates the existence of different forms of this equation. The
dependencies expressed in terms of the structural parameters of the porous layer are known
as the Kozeny-Carman equations. In the field of chemical technology, the Kozeny-Carman
equations for granular porous media obtained using a capillary model of the structure of a
porous material have become widespread. The widely used Kozeny-Carman equation for a granular layer is known, obtained in the
framework of the capillary model, when the flow of liquid in the channels of the model is
considered by analogy with the Darcy-Weisbach equation [74] (
)
,
1
150
2
3
2
2
f
d
H
P
µυ
ε
φ
ε
−
=
∆
(2) (2) where ε is the porosity of the layer, d=dsphere is used for a layer of spherical particles and
de.d. is the equivalent diameter of particles whose shape is different from the ball. A de.d. is
the diameter of such a spherical particle is assumed, the volume of which is equal to the
volume of a particle of irregular shape; ϕ – the shape factor, usually called the shape
coefficient. The coefficient "150" included in formula (2) is called the Kozeny – Carman
constant. However, the value of this coefficient is not constant and can vary from "150" to
"200 " [75]. 2 Methods and materials The resulting dependence is a generalized Kozeny-
Carman equation that is valid for filtration flow in any type of porous layer, regardless of its
internal structure ,
3
2
f
K
H
P
µυ
ε
σ
=
∆
(3) ,
3
2
f
K
H
P
µυ
ε
σ
=
∆ (3) 2 E3S Web of Conferences 193, 02002 (2020)
ICMTMTE 2020 https://doi.org/10.1051/e3sconf/202019302002 where K is the Kozeny-Carman constant, ϭ is the specific surface area of the porous layer,
related to the unit of its volume. Expressing in this equation the specific surface of a
granular layer in terms of its particle diameter and porosity as where K is the Kozeny-Carman constant, ϭ is the specific surface area of the porous layer,
related to the unit of its volume. Expressing in this equation the specific surface of a
granular layer in terms of its particle diameter and porosity as ,)
1(
6
ε
σ
−
= d the Kozeni-Karman equation for a granular layer is obtained as a dependence (
)
,
1
36
2
3
2
f
d
K
H
P
µυ
ε
ε
−
=
∆
(4) (4) where, as in the equation (2), d=dsphere is used for a layer of spherical particles and de.d. is
the equivalent diameter of particles whose shape is different from the ball. where, as in the equation (2), d=dsphere is used for a layer of spherical particles and de.d. is
the equivalent diameter of particles whose shape is different from the ball. As can be seen in equations (2) and (4) are equally considering the influence of porosity
and particle size, differ in the values of constants and in a different way of accounting for
the influence of particle shape on the amount of hydraulic resistance of the porous layer. In the equation (2) there are the influence of particle shape is taken into account using
the shape factor (coefficient).This coefficient is absent in the formula (4) and the influence
of the particle shape is taken into account by the Kozeny-Carman constant "K" in a
complex composition with other factors that are not explicitly taken into account. 2 Methods and materials Constant
Kozeny-Pocket in the equation (4), in contrast to the constant in the equation (2) is variable
and its value depending on the particle shape, the particle size distribution, the method of
laying particles and the range of variation of porosity of the granular layer is determined in
accordance with the recommendations outlined in the paper [76]. 2 Methods and materials One of the reasons for its low values may be an incorrect estimate of the shape
factor (coefficient), which is defined as the ratio of the surface of the ball, which is equal in
volume to the particle, to the surface of this particle. Its value, as you can see, is not
difficult to calculate for particles of any shape. And differences of different authors on the
estimation of the value of the form factor (coefficient) in determining the hydraulic
resistance of a granular layer made of the same material can cause discrepancies in the
calculation results at the assumed constant value of the Kozeny – Carman constant. where ε is the porosity of the layer, d=dsphere is used for a layer of spherical particles and
de.d. is the equivalent diameter of particles whose shape is different from the ball. A de.d. is
the diameter of such a spherical particle is assumed, the volume of which is equal to the
volume of a particle of irregular shape; ϕ – the shape factor, usually called the shape
coefficient. The coefficient "150" included in formula (2) is called the Kozeny – Carman
constant. However, the value of this coefficient is not constant and can vary from "150" to
"200 " [75]. One of the reasons for its low values may be an incorrect estimate of the shape
factor (coefficient), which is defined as the ratio of the surface of the ball, which is equal in
volume to the particle, to the surface of this particle. Its value, as you can see, is not
difficult to calculate for particles of any shape. And differences of different authors on the
estimation of the value of the form factor (coefficient) in determining the hydraulic
resistance of a granular layer made of the same material can cause discrepancies in the
calculation results at the assumed constant value of the Kozeny – Carman constant. In the paper [76], the flow in the channels of the capillary model is considered by
analogy with the Poiseuille equation. 3 Conclusions The generalized modified Ergun equation is written as ,
3
2
ф
ф
K
H
P
ζρυ
µυ
ε
σ
+
=
∆ ,
3
2
ф
ф
K
H
P
ζρυ
µυ
ε
σ
+
=
∆ ,
3
2
ф
ф
K
H
P
ζρυ
µυ
ε
σ
+
=
∆ where ζ is the ripple coefficient that takes into account the structure of the porous layer and
the contribution of the inertial component of the filtration flow structure. where ζ is the ripple coefficient that takes into account the structure of the porous layer and
the contribution of the inertial component of the filtration flow structure. Fig. 1. The filtration curve with selected mode sections of laminar (linear) and transient (nonlinear)
filtration. Fig. 1. The filtration curve with selected mode sections of laminar (linear) and transient (nonlinear)
filtration. The dependence (3) can be used to determine the hydraulic resistance of a porous layer
consisting of a fibrous, mesh, sponge, or other porous non-granular material, but there is no
information about the value of the Kozeny-Carman constant. This work was supported by a grant from the President of the Russian Federation (MK-1287.2020.8)
«Modelling of control processes in mass transfer environmental and petroleum processing
equipment» 3 Conclusions The results of processing a large array of the most reliable experimental data from various
authors to determine the constant "K" for granular layers consisting of particles of different
geometric shapes are presented in the form of tables and extensive text material. Recommended values of the constant "K" for some types of granular porous media are also
specified. Thus, for a monodisperse layer of spherical particles in the range of porosity
values ε=0.38-0.41, the constant values can be within the range K=4.2-4.8 with its most
reliable value K equal to 4.55. For a monodisperse layer of regular non-spherical particles
(cubes, cylinders, prisms, disks) and shaped attachments (Raschig rings, Berl saddles,
Lessing rings, steel springs), the values of the constant K do not depend much on the shape
of the particles and attachments, and in the porosity range ε=0.33-0.4 in most cases is
within K=4.6-4.8. For a monodisperse layer of irregular-shaped particles, such as rounded
particles with a smooth surface K=4.8. For rounded and cylindrical particles with a rough
surface (activated carbon, sorbents, catalysts) and particles with a sharply irregular shape
(crushed stone, crushed coal, catalysts for the synthesis of ammonia), the most likely value
is the constant K=5. If a more precise value of the constant K is required for performing
calculations, then it should be determined experimentally in accordance with the
recommendations set out in the paper [76]. There is no such amount of detailed information and recommendations for determining
the particle shape factor (coefficient) for equation (2), which makes it very difficult to use it
for practical calculations. In this regard, it should be considered that equation (4) is more
preferable for practical use. 3 3 E3S Web of Conferences 193, 02002 (2020)
ICMTMTE 2020 https://doi.org/10.1051/e3sconf/202019302002 In the well-known Ergun equation, the Kozeny-Carman equation (2) is used to
determine the hydraulic resistance of a granular porous layer under nonlinear filtration
conditions (figure 1). Obviously, because of the above, replacing this equation with the
Kozeny-Carman equation in the form (4) will increase the accuracy of calculations
performed using the Ergun equation. References 1. B.G. Pokusaev, D.A. Kazenin, S.P. Karlov, Yu.N. Skochilova, Areas of influence of an
impurity source in filtration flows, Ecology and Industry of Russia, 4, pp. 41-43 (2008) 2. A.A. Sheldaisov-Meshcheryakov, P.S. Solmanov, N.M. Maximov, A.V. Mozhaev, D.I. Ishutenko, P.A. Nikul’shin, A.A. Pimerzin, Influence of the Pore Structure of a
Catalyst for Demetallization of Petroleum Feedstock on the Process Results, Russian
Journal of Applied Chemistry, 92, 10, pp. 1392-1398 (2019) 3. E.V. Shiryaeva, Yu.V. Gutin, A.A. Aksenov, Determination of filtration and
dewatering parameters of sediments in industrial filters, Chemical
and
Petroleum
Engineering, 44(11-12), pp. 611-621 (2008) 4. E.N. Dyachenko, N.N. Dyachenko, Numerical modeling of filtration of liquid through
layer of bulk filter, Theoretical Foundations of Chemical Engineering, 47(3), pp. 262- 4 https://doi.org/10.1051/e3sconf/202019302002 E3S Web of Conferences 193, 02002 (2020)
ICMTMTE 2020 265 (2013) (
)
5. F.G. Akhmadiev, I.G. Bekbulatov, M.I. Farakhov, C.K. Isyanov, Mathematical
modeling of filtering process of two-phase suspensions in tubular filters under
nonisothermal conditions, Theoretical Foundations of Chemical Engineering, 50(1),
pp. 41-51 (2016) 6. B.G. Pokusaev, E.A. Tairov, P.V. Khan, D.P. Khramtsov, Numerical and Analytical
Approaches to Modeling Critical Two-Phase Flow with Granular Layer
, Journal of
Engineering Thermophysics, 27(1), pp. 20-29 (2018) 7. D.P. Khramtsov, A.V. Vyazmin, B.G. Pokusaev, S.P. Karlov, D.A. Nekrasov,
Numerical simulation of slug flow mass transfer in the pipe with granular layer,
Chemical Engineering Transactions, 52, pp. 1033-1038 (2016) g
g
pp
(
)
8. O.M. Sokovnin, S.N. Zagoskin, Kinetics of sorption of particles on granular filter,
Theoretical Foundations of Chemical Engineering, 38(4), pp. 399-403 (2004) 9. A. Dmitriev, I. Madyshev, O. Dmitrieva, Experimental Study of Hydraulic and Heat
and Mass Transfer Parameters of Inclined-corrugated Contact Elements of Cooling
Tower Sprinkler, Ecology and Industry of Russia, 24(1), pp. 4-8 (2020) 10. A.B. Golovanchikov, V.A. Balashov, N.A. Merentsov, The filtration equation for
packing material, Chem. and Pet. Eng., 53, pp. 10-13 (2017) 11. N.А. Merentsov, V.А. Balashov, D.Y. Bunin, V.N. Lebedev, A.V. Persidskiy, М.V. Topilin, Method for experimental data processing in the sphere of hydrodynamics of
packed heat and mass exchange apparatuses, MATEC Web of Conf., 243, 5 (2018) 12. E.V. Shiryaeva, Y.V. Gutin, Methods of selecting primary and auxiliary equipment for
industrial vacuum-filtration plants , Chemical and Petroleum Engineering, 46(5), pp. 298-304 (2010) 13. I.N. Madyshev, A.I. Khafizova, O.S. References Dmitrieva, The study of gas-liquid flow dynamics
in the inclined-corrugated elements of cooling tower filler unit, E3S Web of Conf.,
126, 00031 (2019) 14. N.А. Merentsov, A.V. Persidskiy, M.V. Topilin, V.N. Lebedev, V.А. Balashov, A.B. Golovanchikov, Journal of Phys.: Conf. Ser., 1278, 012024 (2019) 15. A.B. Golovanchikov, N.A. Merentsov, M.V. Topilin, A.V. Persidskiy, IOP Conf. Ser.: Earth and Environmental Science, 288, 012089 (2019) 16. N. Merentsov, A. Persidskiy, M.Topilin, A. Golovanchikov, Sectional automatic
adjustment of catalyst layers in gas and liquid phase reactors, MATEC Web of Conf.,
298, 00030 (2019) ,
(
)
17. N.A. Merentsov, A.V. Persidskiy, V.V. Groshev, V.A. Kozlovtsev, A.B. Golovanchikov, Journal of Phys.: Conf. Ser., 1399,044041 (2019) 18. A. Fomenko, L. Sokolov, Sorption Removal of Oil Products from Waste Water,
Ecology and Industry of Russia, 19(5), pp. 8-12 (2015) 19. E. Dremicheva, Use of Agricultural Waste for Wastewater Treatment of Industrial
Enterprises, Ecology and Industry of Russia, 23(4), pp. 16-19 (2019) 20. A. Prolejchik, I. Gaponenkov, O. Fedorova, Extraction of Heavy Metal Ions from
Inorganic Wastewater, Ecology and Industry of Russia, 22(3), pp. 35-39 (2018) 21. L.A. Nikolaeva, M.A. Golubchikov, A.R. Minneyarova, Research on the Mechanism
and Kinetics of Oil-Product Adsorption from Industrial Wastewater by a Modified
Hydrophobic Carbonate Sludge, Chemical and Petroleum Engineering, 53(11-12), pp. 806-813 (2018) 22. L.I. Sokolov, Use of wastes of grinding industry for cleaning of chromium containing
effluent waters, World Applied Sciences Journal, 22(5), pp. 690-696 (2013) 23. N.A. Merentsov, S.A. Bokhan, V.N. Lebedev, A.V. Persidskiy, V.A. Balashov, System
for centralised collection, recycling and removal of waste pickling and galvanic
solutions and sludge, Materials Science Forum, 927, pp. 183-189 (2018) 5 5 https://doi.org/10.1051/e3sconf/202019302002 E3S Web of Conferences 193, 02002 (2020)
ICMTMTE 2020 24. R. Alexandrov, D. Feklistov, N. Laguntsov, I. Kurchatov, Mobile Installation of Water
Treatment in the Aftermath of Emergency Situations, Ecology and Industry of Russia,
23(1), pp. 4-10 (2019) 25. E. Dremicheva, Use of Agricultural Waste for Wastewater Treatment of Industrial
Enterprises, Ecology and Industry of Russia, 23(4), pp. 16-19 (2019) 26. E.S. Dremicheva, A.G. Laptev, Modeling the Process of Sorption for the Purification
of Waste Water from Petroleum Products and Heavy Metals,
Theoretical
Foundations of Chemical Engineering, 53(3), pp. 355-363 (2019) 27. E.S. Dremicheva, E.V. Shamsutdinov, Intensification of sedimentation treatment of
wastewater from oil products, Water and Ecology, 1, pp. 3-8 (2018) 28. L.A. Nikolaeva, R.Y. Iskhakova, Integrated Wastewater Treatment for a GRES,
Thermal Engineering, 66(8), pp. References Smirnov, V. Dyrdin, T. Kim, A. Manakov, Effect of the hydrate saturation of the
pores of coal bed on the gradient of gas pressure and the rise of outburst danger, E3S
Web of Conferences, 105,01044 (2019) 43. T. Kim, V. Dyrdin, V. Smirnov, V. Nesterov, Gas hydrates in coal seams and their
impact on gas-dynamic processes in underground mining,
E3S
Web
of
Conferences, 15, 01022 (2017) 44. N.A. Merentsov, A.B. Golovanchikov, M.V. Topilin, A.V. Persidskiy, D.A. Tezikov,
Journal of Phys.: Conf. Ser., 1399, 055028 (2019) 45. A. Golovanchikov, N. Merentsov, Modelling of Absorption Process in a Column with
Diffused Flow Structure in Liquid Phase, Advances in Intelligent Systems and
Computing, 983, pp. 635-644 (2019) 46. A. Golovanchikov, N. Merentsov, Ion Exchange in Continuous Apparatus with
Diffused Flow Structure in Liquid, Advances in Intelligent Systems and Computing,
983, pp. 645-652 (2019) 47. A.B. Golovanchikov, N.А. Merentsov, M.V. Topilin, Journal of Phys.: Conf. Ser.,
1278, 012023 (2019) 48. A. Prolejchik, I. Gaponenkov, O. Fedorova, Extraction of Heavy Metal Ions from
Inorganic Wastewater, Ecology and Industry of Russia, 22(3), pp. 35-39 (2018) 49. A.I. Fomenko, L.I. Sokolov, Study of Sorption Properties of Bog Ores for Extraction of
Manganese and Iron Ions from Ground Water, Russian Journal of Applied Chemistry,
92(2), pp. 288-294 (2019) 50. N.G. Rachkova, I.I. Shuktomova, Sorption of uranium, radium, and thorium by
analcym-containing rock and sorbents based on plant tissue, Russian Journal of
Applied Chemistry, 83(4), pp. 620-624 (2010) 51. T.A. Zaporozhskikh, Ya.K. Tret'yakova, V.A. Grabel'nykh, N.V. Russavskaya, V.Yu. Vshivtsev, E.P. Levanova, E.N. Sukhomazova, I.V. Korabel, N.A. Korchevin,
Granulated sulfur-containing sorbents for recovery of heavy metal ions from aqueous
solutions, Russian Journal of Applied Chemistry, 81(5), pp. 886-888 (2008) 52. A.I. Fomenko, L.I. Sokolov, Sorption properties of fly ash microspheres of therm
power plants, Ecology and Industry of Russia, 23(1), p. 50-54 (2019) 53. V.G. Smirnov, V.V. Dyrdin, A.Y. Manakov, N.I. Fedorova, N.V. Shikina, Z.R. Ismagilov, Physicochemical and Sorption Properties of Natural Coal Samples with
Various Degrees of Metamorphism, Russian Journal of Applied Chemistry, 92(10), pp. 1410-1421 (2019) 54. A.I. Fomenko, L.I. Sokolov, Ash of incineration plants as industrial resource for
extracting rare earth elements, Ecology and Industry of Russia, 21(12), pp. 28-31
(2017) 55. N. Merentsov, A. Persidskiy, V. Lebedev, A. Golovanchikov, Automatic Control of
Operating Modes of Packed Apparatus for Selective Gas Emissions Cleaning, Ecology
and Industry of Russia, 24(2), pp. 10-16 (2020) 56. N. Merentsov, A. References 587-592 (2019) 29. L.A. Nikolaeva, R.Ya. Iskhakova, Adsorption of industrial wastewater from oil
products with application of mathematical modeling, IOP Conference Series: Earth and
Environmental Science, 288(1),012017 (2019) 30. L.A. Nikolaeva, D.A. Khamzina, Purification of water sources from oil contamination
by hydrophobic carbonate sludge, IOP Conference Series: Earth and Environmental
Science, 288(1),012018 2019 31. L.A. Nikolaeva, R.Y. Iskhakova, Mathematical Modeling of Wastewater Treatment by
Adsorption of Petroleum Products, Chemical and Petroleum Engineering, 55(1-2), pp. 68-75 (2019) 32. N. Merentsov, A. Persidskiy, M. Topilin, Description of the process and packing
materials for pulse liquid extraction, Materials Today: Proceedings, 19(5), pp. 1908-
1912 (2019) 33. N. Merentsov, A. Persidskiy, V. Lebedev, Automatic parameter adjustment system for
packing materials and control of flow modes in mass exchange columns, Materials
Today: Proceedings, 19(5), pp. 1899-1903 (2019) 34. N. Merentsov, A. Persidskiy, V. Lebedev, M. Topilin, A. Golovanchikov, Modelling
and Calculation of Industrial Absorber Equipped with Adjustable Sectioned Mass
Exchange Packing, Advances in Intelligent Systems and Computing, 983, pp. 560-573
(2019) 35. L.A. Nikolaeva, A.R. Minneyarova, Adsorption Treatment of Reverse-Osmosis
Concentrate from Water-Treatment Units at Thermal Power Stations ,
Thermal
Engineering, 66(5), pp. 372-376 (2019) 36. L.A. Nikolaeva, M.A. Golubchikov, A.R. Minneyarova, Research on the Mechanism
and Kinetics of Oil-Product Adsorption from Industrial Wastewater by a Modified
Hydrophobic Carbonate Sludge, Chemical and Petroleum Engineering, 53(11-12), pp. 806-813 (2018) 37. L.A. Nikolaeva, M.A. Golubchikov, Study of the sorption of oil products of power
station wastewater modified with a TPP illuminator slurry, Thermal Engineering,
59(5), pp. 404-407 (2012) 38. L.A. Nikolaeva, R.Ya. Nedzvetskaya, Purification of effluent waters from industrial
enterprises using a biosorption technology,
Thermal Engineering, 59(3), pp. 258-
260 (2012) 39. N.A. Merentsov, V.A. Balashov, S.A. Bokhan, E.E. Nefed'eva, D.A. Tezikov, V.V. Groshev, Modeling and calculation of flow filter, IOP Conf. Ser.: Earth and Envir. Sci.,
224, 012041 (2019) 40. A. Kutergin, T. Nedobukh, The Use of Aluminosilicate Sorbent for the Purification of
Natural Waters from Heavy Metals, Ecology and Industry of Russia, 24(3), pp. 19-23. (2020) (
)
41. P.A. Krivosheev, L.F. Komarova, M.A. Poletaeva, I.A. Lebedev, S.S. Lavrinenko, 6 https://doi.org/10.1051/e3sconf/202019302002 E3S Web of Conferences 193, 02002 (2020)
ICMTMTE 2020 Wastewater treatment with new activated charcoals to remove butano, Russian Journal
of Applied Chemistry, 77(9), pp. 1515-1517 (2004) Wastewater treatment with new activated charcoals to remove butano, Russian Journal
of Applied Chemistry, 77(9), pp. 1515-1517 (2004) of Applied Chemistry, 77(9), pp. 1515-1517 (2004) 42. V. References Persidskiy, V. Lebedev, A. Golovanchikov, The use of industrial
wastes from machine-building enterprises as packing materials for small-sized
absorbers for gas emissions purification, MATEC Web of Conf., 298, 00031 (2019) 57. A.I. Fomenko, L.I. Sokolov, A study of sorption of phosphate ions from aqueous
solutions by wood ash, Russian Journal of Applied Chemistry, 88(4), pp. 652-656
(2015) 58. E.S. Dremicheva, Studying the sorption kinetics on peat ions of iron(III) and
copper(II) from wastewater, Moscow University Chemistry Bulletin, 72(4), pp. 196-
199 (2017) 7 https://doi.org/10.1051/e3sconf/202019302002 E3S Web of Conferences 193, 02002 (2020)
ICMTMTE 2020 59. L.A. Nikolaeva, É.G. Khamitova, The Use of Energy Industry Waste as Sorption
Material in the Purification of Reverse Osmosis Concentrate, Chemical and Petroleum
Engineering, 55(5-6), pp. 427-432 (2019) 60. L.A. Nikolaeva, É.R. Zainullina, A.K. Al’-Okbi, Adsorption Drying of Natural Gas by
Carbonate Sludge, Chemical and Petroleum Engineering, 54(11-12), pp. 919-925
(2019) 61. L.A. Nikolaeva, A.N.Khusnutdinov, A Study of the Absorption of Nitrogen Oxides
from the Boiler Flue Gases, Thermal Engineering, 65(8), pp. 575-579 (2018) 62. L.A. Nikolaeva, A.N. Khusnutdinov,
Purification of gas emissions of chemical
industry enterprises by carbonaceous cutting, Ecology and Industry of Russia, 22(8),
pp. 14-18 (2018) 63. L.A. Nikolaeva, Research of sorption processes using chemical water purification
sludge for nitrogen and sulfur oxides contained in smoke gases emitted from a thermal
power station, Thermal Engineering (English translation of Teploenergetika), 60(4),
pp. 244-247 (2013) 64. V. Smirnov, V. Dyrdin, T. Kim, A. Manakov, A. Khoreshok, Experimental Study of
Methane Hydrates in Coal, E3S Web of Conferences, 15,01020 (2017) 65. V.G. Smirnov, V.V.Dyrdin, A.Y. Manakov, N.V. Shikina, Z.R. Ismagilov,
Physicochemical and Sorption Properties of Natural Coal Samples with Various
Degrees of Metamorphism, Russian Journal of Applied Chemistry, 92(10), pp. 1410-
1421 (2019) 66. A. Dmitriev, I. Madyshev, O. Dmitrieva, Cleaning of Industrial Gases from Aerosol
Particles in Apparatus with Jet-Film Interaction of Phases, Ecology and Industry of
Russia, 22(6), pp.10-14 (2018) 67. A.B. Golovanchikov, N.A. Merentsov, V.A. Balashov, Modeling and analysis of a
mechanical-draft cooling tower with wire packing and drip irrigation, Chem. and Pet. Eng. 48, pp. 595-601 (2013). doi: 10.1007/s10556-013-9663-2 68. N.A. Merentsov, A.V. Persidskiy, V.N. Lebedev, Use of Wastes from Metalworking
Machining for Packings in Contact Heat-and-Mass Exchange Devices, Proceedings of
the 5th International Conference on Industrial Engineering (ICIE 2019), Lecture Notes
in Mechanical Engineering, II, pp. 1443-1454 (2020) 69. N. Merentsov, A. Persidskiy, V. Lebedev, N. Prokhorenko, A. References Golovanchikov, Heat
and Mass Exchange Packing for Desinfection of Circulation Water in Electric Field,
Advances in Intelligent Systems and Computing, 983, 547-559 (2019) g
y
p
g
70. N.А. Merentsov, V.N. Lebedev, A.V. Persidskiy, A.B. Golovanchikov, Journal of
Phys.: Conf. Ser., 1515, 022004 (2020) 71. N.A. Merentsov, V.N. Lebedev, A.V. Persidskiy, V.A. Balashov, IOP Conf. Ser.:
Earth and Environmental Science, 288, 012106 (2019) 72. N.A. Merentsov, V.N. Lebedev, A.B. Golovanchikov, V.A. Balashov, E.E. Nefed'Eva,
IOP Conf. Ser: Earth and Environmental Science, 115, 012017 (2018) 73. A.V. Persidskiy, N.A. Merentsov, V.N. Lebedev, A.B. Golovanchikov, IOP
Conf. Ser.: Earth and Environmental Science, 288, 012110 (2019) 74. A.G. Kasatkin, The main processes and devices based on technology (Alliance,
Moscow, 2004) 75. P.G. Romankov, M.I. Kurochkina, Hydromechanical processes of chemical technology
(Chemistry, Leningrad, 1982) 76. M.E. Aerov, O.M. Todes, D.A. Narinsky, Devices with a stationary granular layer. Hydraulic and thermal fundamentals of work (Chemistry, Leningrad, 1979) 8
|
https://openalex.org/W4292756564
|
https://zenodo.org/records/7020977/files/BISS_article_93811.pdf
|
English
| null |
State of the (Re-)Ratification of ABCD 2.06 and ABCD EFG under the SDS Guidelines
|
Biodiversity Information Science and Standards
| 2,022
|
cc-by
| 538
|
Abstract ABCD (Access to Biological Collection Data, Holetschek et al. 2012) 2.06 was ratified by
Biodiversity Information Standards (TDWG) in September 2005. In 2017, TDWG ratified
the Standards Documentation Standard (SDS, Vocabulary Maintenance Specification Task
Group 2017), which is a set of regulations and guidelines on how TDWG standards should
be structured and documented. Since then, ABCD has been classified with “2005
standards” on the TDWG standards website. However, with the planned ratifications of the
ABCD Extension for Geoscience (ABCD EFG, Petersen et al. 2018) and the more
semantic ABCD 3.0 (Fichtmueller et al. 2019), it became necessary to also ratify ABCD
2.06 under the SDS rules. In this talk, we will report on the progress of the ratification processes, both for ABCD 2.06
and ABCD EFG. In particular we want to address the specific challenges that arose from
fitting existing XML schemas into the SDS structure and documenting them accordingly. Corresponding author: David Fichtmueller (d.fichtmueller@bgbm.org) Corresponding author: David Fichtmueller (d.fichtmueller@bgbm.org)
Received: 22 Aug 2022 | Published: 23 Aug 2022
Citation: Fichtmueller D, Petersen M, Glöckler F, Güntsch A (2022) State of the (Re-)Ratification of ABCD 2.06
and ABCD EFG under the SDS Guidelines. Biodiversity Information Science and Standards 6: e93811. https://doi.org/10.3897/biss.6.93811 David Fichtmueller , Mareike Petersen , Falko Glöckler , Anton Güntsch
‡
§
§
‡ ‡ Botanic Garden and Botanical Museum Berlin, Freie Universität Berlin, Berlin, Germany
§ Museum für Naturkunde Berlin, Leibniz Institute for Evolution and Biodiversity Science, Berlin, Germany Keywords XML schema, XML standard, Access to Biological Collection Data, Standards
Documentation Standard, ABCD Extension for Geoscience © Fichtmueller D et al. This is an open access article distributed under the terms of the Creative Commons Attribution License (CC
BY 4.0), which permits unrestricted use, distribution, and reproduction in any medium, provided the original author and source are
credited. Fichtmueller D et al Fichtmueller D et al 2 Presenting author David Fichtmueller References •
Fichtmueller D, Berendsohn W, Droege G, Glöckler F, Güntsch A, Hoffmann J,
Holetschek J, Petersen M, Reimeier F (2019) ABCD 3.0 Ready to Use. Biodiversity
Information Science and Standards 3 https://doi.org/10.3897/biss.3.37214 •
Holetschek J, Dröge G, Güntsch A, Berendsohn WG (2012) The ABCD of primary
biodiversity data access. Plant Biosystems - An International Journal Dealing with all
Aspects of Plant Biology 146 (4): 771‑779. https://doi.org/
10 1080/11263504 2012 740085 •
Petersen M, Glöckler F, Kiessling W, Döring M, Fichtmüller D, Laphakorn L, Baltruschat
B, Hoffmann J (2018) History and development of ABCDEFG: a data standard for
geosciences. Fossil Record 21 (1): 47‑53. https://doi.org/10.5194/fr-21-47-2018
•
Vocabulary Maintenance Specification Task Group (2017) Standards Documentation
Standard. Biodiversity Information Standards (TDWG). URL: http://www.tdwg.org/ •
Petersen M, Glöckler F, Kiessling W, Döring M, Fichtmüller D, Laphakorn L, Baltruschat
B, Hoffmann J (2018) History and development of ABCDEFG: a data standard for
geosciences. Fossil Record 21 (1): 47‑53. https://doi.org/10.5194/fr-21-47-2018 •
Petersen M, Glöckler F, Kiessling W, Döring M, Fichtmüller D, Laphakorn L, Baltruschat
B, Hoffmann J (2018) History and development of ABCDEFG: a data standard for
geosciences. Fossil Record 21 (1): 47‑53. https://doi.org/10.5194/fr-21-47-2018
•
Vocabulary Maintenance Specification Task Group (2017) Standards Documentation
Standard. Biodiversity Information Standards (TDWG). URL: http://www.tdwg.org/
standards/147 •
Vocabulary Maintenance Specification Task Group (2017) Standards Documentation
Standard. Biodiversity Information Standards (TDWG). URL: http://www.tdwg.org/
standards/147
|
https://openalex.org/W4231011354
|
https://www.qeios.com/read/BYM05Q/pdf
|
English
| null |
Banoxantrone
|
Definitions
| 2,020
|
cc-by
| 113
|
Qeios · Definition, February 7, 2020 Open Peer Review on Qeios Banoxantrone National Cancer Institute National Cancer Institute Qeios ID: BYM05Q · https://doi.org/10.32388/BYM05Q Source National Cancer Institute. Banoxantrone. NCI Thesaurus. Code C79528. A bioreductive, alkylaminoanthraquinone prodrug with antineoplastic activity. Under
hypoxic conditions, often seen in solid tumors, banoxantrone (AQ4N) is converted and
activated by cytochrome P450 enzymes, which are upregulated in certain tumors, to the
cytotoxic DNA-binding agent AQ4. Banoxantrone intercalates into and crosslinks DNA,
and inhibits topoisomerase II. This results in an inhibition of DNA replication and repair in
tumor cells. Combined with conventional therapeutic agents, both oxygenic and hypoxic
regions of tumors can be targeted. Qeios ID: BYM05Q · https://doi.org/10.32388/BYM05Q 1/1
|
https://openalex.org/W2753137198
|
https://www.emerald.com/insight/content/doi/10.1108/VJIKMS-05-2016-0021/full/pdf?title=kms-re-contextualization-recognizing-learnings-from-omis-research
|
English
| null |
KMS re-contextualization – recognizing learnings from OMIS research
|
VINE journal of information and knowledge management systems
| 2,017
|
cc-by
| 9,914
|
The current issue and full text archive of this journal is available on Emerald Insight at:
www.emeraldinsight.com/2059-5891.htm The current issue and full text archive of this journal is available on Emerald Insight at:
www.emeraldinsight.com/2059-5891.htm The current issue and full text archive of this journal is available on Emerald Insight at:
www.emeraldinsight.com/2059-5891.htm © Manuel Muhlburger, Stefan Oppl and Christian Stary. Published by Emerald Publishing Limited.
This article is published under the Creative Commons Attribution (CC BY 4.0) licence. Anyone may
reproduce, distribute, translate and create derivative works of this article (for both commercial &
non-commercial purposes), subject to full attribution to the original publication and authors. The full
terms of this licence may be seen at http://creativecommons.org/licences/by/4.0/legalcode 302 Received 14 May 2016
Revised 21 November 2016
10 April 2017
Accepted 3 May 2017 KMS re-contextualization –
recognizing learnings from
OMIS research VJIKMS
47,3 Manuel Mühlburger, Stefan Oppl and Christian Stary
Department of Business Information Systems – Communications Engineering,
Johannes Kepler Universitat Linz, Linz, Austria 302 VINE Journal of Information and
Knowledge Management Systems
Vol. 47 No. 3, 2017
pp. 302-318
EmeraldPublishingLimited
2059-5891
DOI 10.1108/VJIKMS-05-2016-0021 VINE Journal of Information and
Knowledge Management Systems
Vol. 47 No. 3, 2017
pp. 302-318 Recognizing
learnings from
OMIS research 1. Introduction Knowledge management systems (KMS) have been recognized as essential socio-technical
instruments to facilitate organizational learning since more than two decades (Damodaran
and Olphert, 2000). KMSs are organizational information systems that focus on “capturing
important (content and process) ‘knowledge’ and making it available to employees as
required” (ibid.). Though their relevance and potential added-value is well-understood and
argued for organizational development in literature (Gold et al., 2001), their practical
deployment has remained below expectations in terms of reach and impact (Lin and Huang,
2008). The lack of adoption appears to be influenced by several impact factors, most
importantly among them the lack of perceivable added value for operative staff in actual
work situations (Damodaran and Olphert, 2000; Lin and Huang, 2008). 303 Recent research still diagnoses the lack of perceivable added value for operative staff
because of poor task/technology fit (Baloh, 2007; Turner et al., 2009), which can be attributed
to the lack of contextualizing the information provided by KMSs in a particular situation
(Baloh et al., 2012; Barros et al., 2015). Knowledge needs of organizational actors in business-
relevant situations seem to be largely ignored in terms of the selection of relevant content
and appropriate delivery channels (ibid.). The present article aims at contributing to address
this issue by providing a framework for considering re-contextualization options in KMS
selection and design. Re-contextualization here refers to the process of delivering knowledge
stored in a KMS to actors in a particular work situation in a way that enables them to adopt
this knowledge to complete their task at hand (Schwartz et al., 2000). We hypothesize that
existing research in the area of organizational memory information systems (OMISs) can
inform KMS design in this area, as the topic of re-contextualization has been thoroughly
examined and widely discussed in this field. OMISs have been introduced almost 30 years ago (Wegner, 1987; Barros et al., 2015). Research has focused on the opportunities for organizational stakeholders to use existing
information, therefore pursuing similar objectives as KMSs. Research under the OMIS label
is usually linked to adopting a socio-technical perspective on knowledge use and sharing in
actual work situations (Ackerman and Halverson, 2004; Ackerman et al., 2013b), while
KMSs research usually adopts a more techno-centric perspective on knowledge storage and
retrieval (Toledo et al., 2011; Zhang et al., 2011) and often does not explicitly consider the
social and organizational context of knowledge delivery. Abstract Purpose – Deployment of knowledge management systems (KMSs) suffers from low adoption in
organizational reality that is attributed to a lack of perceivable added value for people in actual work
situations. Poor task/technology fit in the process of knowledge retrieval appears to be a major factor
influencing this issue. Existing research indicates a lack of re-contextualizing stored information provided by
KMSs in a particular situation. Existing research in the area of organizational memory information systems
(OMISs) has thoroughly examined and widely discussed the topic of re-contextualization. The purpose of this
paper, thus, is to examine how KMS design can benefit from OMIS research on approaches for re-
contextualization in knowledge retrieval. Design/methodology/approach – This paper examines OMIS literature and inductively derives a
categorization scheme for KMS according to their strategy of re-contextualizing knowledge. The authors have
validated the scheme validated in a multiple case study that examines the differentiatory value of the scheme
for approaches with various re-contextualization strategies. Findings – The classification scheme allows a step-by-step selection of approaches for re-contextualization
of information in KMS design and development derived from OMIS research. The case study has
demonstrated the applicability of the developed scheme and shows that the differentiation criteria can be
applied unambiguously. Research limitations/implications – Because of the chosen case study approach for validation, the
alidation results may lack generalizability. Research limitations/implications – Because of the chosen case study approach for validation, the
alidation results may lack generalizability. Practical implications – The scheme enables an informed selection of KMSs appropriate for a particular
OMIS use case, as the scheme’s attributes serve as design rationale for a certain architecture or constellation
of components. Developers can not only select from various approaches when designing re-contextualizaton
but also come up with rationales for each candidate because of structured representation. Hence, stakeholders
can be supported in a more informed way and design KMSs more effectively along organizational change
processes. Originality/value – The paper addresses an identified need for systematic characterization of KMS
approaches and systems intending to meet the objectives of OMISs. As such, it allows streamlining further
research in this field, as approaches can be judged according to their originality and positioned relative to
each other. Keywords Classification, Knowledge management systems, Organizational memory information systems Paper type Research paper Paper type Research paper Paper type Research paper 2. Organizational memory information systems In this section, we give a brief overview of the history of OMISs research and show that re-
contextualization of knowledge captured by and stored in OMISs is a key property of these
approaches and has been addressed from various perspectives over time. This diversity of
re-contextualization approaches that stem from various scientific disciplines is a key asset of
OMISs research that so far has not been recognized in its whole breadth in KMSs research. We hypothesize that a structured review of re-contextualization approaches in OMISs
research will allow to inform KMS design processes and open new perspectives on
knowledge retrieval in KMSs. Observing human memory systems in terms of their functionalities and benefits and
using these findings for establishing memory systems for organizations has constituted a
research field that historically has involved several scientific disciplines and communities. The increase of technological capabilities and possibilities has induced organizational
memory developments throughout several research disciplines, comprising social sciences
(Kankanhalli et al., 2011), information systems (Barros et al., 2015), artificial intelligence
(Horvitz et al., 1998) and other related research directions. OMISs denote organizational
memory systems based on technical systems. First approaches have been published in the
1980s (Wegner, 1987). (
g
,
)
The 1990s and early 2000s have seen a rise in OMISs research. The AnswerGarden
system can be considered an early prototypical implementation of OMISs (Ackerman and
Malone, 1990). Further approaches were introduced by various research communities, in
particular Computer Supported Cooperative Work (CSCW), for example, Ackerman et al. (2013a) and information science, mainly offering a variety of technologies for information
storage (Horvitz et al., 1998; Kuhlmann and Deiters, 2000; Budzik and Hammond, 1999). Other approaches like Abecker (1997), McDonald and Ackerman (2000) and Mentzas et al. (2001) tried to cover each aspect of an organizational memory, ranging from generating to
using knowledge and, thus, can be considered comprehensive with respect to organizational
stakeholder support. In the early 2000s, a reduction in the comprehensiveness of the
proposed approaches was observed. Typical examples of these labels are process-oriented
information delivery (Savvas and Bassiliades, 2009) and expertise sharing systems (Keary,
2004). The problems and limiting factors of the OMISs concept have been studied from the
beginning of its development intensively by members of the CSCW community. 1. Introduction Hence, OMISs research, in general, is complementary to research on KMSs with respect
to knowledge delivery and, thus, could inform approaches to address the issue of re-
contextualization in KMS design. Consequently, the key objective of this work is to develop an
understanding of how KMS design can benefit from OMIS research on stakeholder-centered
and (procedurally) structured ways of re-contextualization in knowledge retrieval. OMIS research offers different perspectives on re-contextualization, which we
consolidate in a common framework. The framework should highlight different options on
re-contextualization, allowing to explicitly consider this aspect in KMSs selection and
design. Methodologically, we have conducted a literature survey to identify existing
approaches to re-contextualization in OMISs, including schemes to structure them. We
further screened the literature for (possible) connectors allowing for a combination of
existing structure schemes. After identifying and checking the relevance of each connector,
we aggregated the findings in a comprehensive categorization framework. This framework
allows the classification of approaches into categories by matching the properties of an
approach with differentiators specified for each of the different categories. The validity of
this framework has been checked by applying it to state-of-the-art KMISs approaches. We have structured the paper as follows: Section 2 provides an introduction to the field of
OMIS, outlining its contributions to the issue of re-contextualization. Section 3 develops
dimensions that can be used for structuring and analyzing re-contextualization approaches
from existing OMISs research. Based on these findings, in Section 4, we propose a
framework for re-contextualization approaches. In Section 5, we report on our efforts on
validating the framework by applying it to a variety of KMSs approaches. Section 6
discusses our findings and lists potential implications of our proposed research for theory
and practice. Section 7 concludes the paper summarizing the objectives, our results,
identified limitations of our approach and future studies. 304 Recognizing
learnings from
OMIS research 2. Organizational memory information systems This
research revealed that a major influence factor on the success of OMISs deployment in
practice is the re-contextualization of already stored information (Bannon and Kuutti, 1996). Beyond that, Ackerman and Halverson argue in their re-examination of OMIS approaches
that the issues of de- and re-contextualization of information are difficult to master, as they
increase with the complexity of the problem that needs to be solved (Ackerman and
Halverson, 1999). Aside from the CSCW community, researchers from other fields have identified the problem
of re-contextualizing knowledge as being crucial for KMSs. They address context awareness
and, as such, the re-contextualization of information. Re-contextualization is crucial to support
knowledge workers in their organizational environment, as Hipp et al. argue in their analysis of
context-aware, personalized delivery of process information (Hipp et al., 2011). This overarching recognition of re-contextualization reveals that it is inherent to
the idea of OMISs. Hence, KMSs research is likely to benefit from existing research on
OMISs approaches in terms of overcoming the most urgent acceptance problem –
re-contextualization. 305 3.1 Methodology
Th
i
f h 3.1 Methodology
The aim of the categorization scheme is to systematically characterize approaches and
systems intending to meet the objectives of OMIS. Consequently, we have chosen to review
literature that has been published under the OMISs label and inductively identify
commonalities and differentiators for the identified approaches. The literature search was conducted for research on OMISs, covering both academic and
practitioner sources. This was done via a literature review (Webster and Watson, 2002)
using search engines and catalogues (Google Scholar, ISI Web of Science, IEEE Xplore,
ACM Guide), publishers’ platforms (ScienceDirect, EmeraldInsight, SpringerLink) and by
retrieving secondary citations via forward and backward search strategies. The whole body
of literature assembled in this way was examined regarding their approaches to re-
contextualization of knowledge. g
When reviewing the approaches to re-contextualization, similarities could be identified,
which allowed to develop a multi-level categorization scheme iteratively. This categorization
scheme is based on differences in how re-contextualization of information is approached
during knowledge delivery and which sources of information are used to realize re-
contextualization. The categories are described in the following. 3. Approaches on re-contextualization in organizational memory information
systems research The lack of a scheme supporting the classification of approaches on re-contextualization on
OMISs could be attributed to the heterogeneous disciplines that have contributed to the
development and consequently the vague positioning of OMISs and related systems. This has
revived the interest in adopting comparative methodology and literature research, focusing on
fundamental aspects including the concepts, information systems and management processes in
organizational memory research, which we aim at contributing to with the present article. Existing OMISs approaches addressing the issue of re-contextualization (Ackerman
et al., 2013a; Holz et al., 2005) rarely systematically position themselves in a wider context
but rather compare their work with directly related approaches. However, a more
comprehensive, systematic approach could help identifying the overall state-of-the-art when
looking for potential ways on re-contextualizing information. In the following, we develop
the foundation of such a systematic approach by identifying different ways OMISs research
has adopted to tackle re-contextualization. VJIKMS
47,3 communication processes in a social environment between human actors. Knowledge is
something that is held by people, is part of a certain situation and, thus, cannot be separated
from its social component (Ackerman et al., 2013a; Abecker et al., 1998). Re-
contextualization, thus, is conceptualized as a social process that needs to be facilitated but
cannot be carried out by means of IT alone. Ackerman et al. (2013a) provide a review of how the CSCW community has approached
the topic of KM in general and OMIS in particular. The following two subsections are
derived from their main findings. With respect to re-contextualization, we could identify two
process-oriented sub-categories that can be distinguished along the historical development
of OMIS-centric CSCW research. Both of them adopt a process-oriented perspective on KM
but differ in the way they propose to support re-contextualization of knowledge. 306 3.2.1 Knowledge sharing. The first generation of CSCW research in KM can be subsumed
by the label ‘knowledge sharing’. Tools developed under this label allow organizational
members not only to externalize but also to share their informal knowledge. Technical support
often focusses on communication functionalities for achieving these objectives. Externalization
in that context means adding personal knowledge to a repository and, thus, becoming available
to other organizational members. These approaches also recognize the influence of social
factors when designing the functionalities of corresponding systems and focus on social
aspects of knowledge sharing (Ackerman et al., 2013a). A crucial point for sharing knowledge is its de-contextualization from the social context
when being added to the repository. However, the original context needs to be captured to
enable re-contextualizing knowledge. Re-contextualization here is considered a social and
situated process that is influenced by a variety of factors, including the expertise of the
author, the reliability, authoritativeness, the quality and intelligibility of represented
information, the nature (provisional or final) of information and possible mistrust because of
obsolescence and incompleteness. Although these factors should be considered, they are
hard to capture automatically and mostly need to be added to the repository manually. Consequently, the maintenance of data in the repository is a crucial task and, thus, requires
substantial effort (Ackerman et al., 2013a). 3.2.2 Sharing expertise. Approaches covered under this label represent the second
generation of systems proposed by OMIS-centric CSCW research. 3.2 Process-oriented re-contextualization Process-oriented approaches focus on systems supporting the process of knowledge sharing
among human actors. These approaches have been developed mainly in the field of CSCW
and have been influenced by the collaboration-centric view on knowledge management
(KM) prominently represented there. The CSCW community considers KM as a set of VJIKMS
47,3 VJIKMS
47,3 The main goal of these
approaches is to overcome deficiencies that resulted from first-generation approaches that
resulted from the large effort required to maintain the knowledge repositories. Second-
generation approached, thus, aim at supporting knowledge exchange directly between the
involved individuals or collectives. To meet that objective, these CSCW systems combine
tools discovering social relationships, topics of interest and expertise of organizational
members (Ackerman et al., 2013a). Research on such approaches has been triggered and strongly influenced by the concepts
of communities of practice (Wenger, 1999) and social capital (Ackerman et al., 2013a). The
first system explicitly aiming at targeting these issues, IBM’s “SmallBlue”, considers
information about the social distance between each user and experts matching user data
(Lin et al., 2008). More recent approaches focus on social relationships and imply that
expertise can be considered a parameter of the position or job profile of an organizational
member (Guy et al., 2008; Abecker et al., 2000). Expertise-sharing approaches hold responsible the social actors involved in knowledge
exchange to address the issue of re-contextualization directly in their interaction. Still,
match-making between information seeker and the knowledgeable expert can be supported
by providing metadata about available knowledge and information demands. Such
metadata indirectly supports re-contextualization via the involved actors. 3.3 Product-orientated re-contextualization Product-oriented OMISs approaches consider knowledge as a tangible resource that is
created within an organization and can be stored, reused and formalized. Product-oriented
approaches aim to externalize knowledge from persons and map it onto structures that
enable storage for further distribution. This understanding contrasts the process-oriented
view that considers knowledge to be inseparable from the involved actors and the social
context of its creation (Abecker et al., 2000). While the process-oriented approaches intend to
address the issue of re-contextualization by allotting it to the involved social actors, product-
oriented approaches focus on providing technical support on re-contextualization. 307 Different types of product-oriented approaches with respect to how they address re-
contextualization can be identified in literature. In general, product-oriented approaches
capture some kind of context representation of each piece of knowledge stored in them and
try to match it to the information seeker’s context in the retrieval process. They differ in how
they approach the problem of context identification and matching. Recognizing
learnings from
OMIS research VJIKMS
47,3 users. Systems following this approach structure contextual information using semantically
refined differentiators for re-contextualization during knowledge retrieval. Process models
and workflow steps are often used as sources for this contextual information. Using them as
a basis for re-contextualization mainly makes such approaches suitable for repetitive and
highly structured tasks. High effort would be required to determine context descriptions for
agile and weakly structured processes and workflows. As such processes are inherent to
knowledge-intense work, KMSs require corresponding modelling functions (Holz et al.,
2005). Recent research on adaptive case management and case management modelling has
shown potential for deploying novel, less structured but still semantically exact modelling
methods in this context (Auer et al., 2014). users. Systems following this approach structure contextual information using semantically
refined differentiators for re-contextualization during knowledge retrieval. Process models
and workflow steps are often used as sources for this contextual information. Using them as
a basis for re-contextualization mainly makes such approaches suitable for repetitive and
highly structured tasks. High effort would be required to determine context descriptions for
agile and weakly structured processes and workflows. As such processes are inherent to
knowledge-intense work, KMSs require corresponding modelling functions (Holz et al.,
2005). Recent research on adaptive case management and case management modelling has
shown potential for deploying novel, less structured but still semantically exact modelling
methods in this context (Auer et al., 2014). 308 (
,
)
3.3.2.2 Light-weight approaches. Light-weight approaches require lower upfront
modelling effort to enable structured capturing of context information. Such approaches are
suitable for re-contextualization based on weakly structured processes. The work with
generic usually data- and pattern-based differentiators for the identification of relevant
contextual information. For instance, the Watson system (Budzik and Hammond, 1999)
analyses artefacts that a potential information seeking individual is currently working with
and discriminates documents based on similarity to identify and deliver possibly relevant
knowledge. As the selection criteria in light-weight approaches are generally more generic
compared with heavy-weight approaches, they implicate a higher risk for delivering
irrelevant information. An evaluation of the Watson approach showed that when working solely with light-
weight methods, the major identifying factor during re-contextualization is the similarity to
information seekers’ currently used artefacts. This strategy turned out to be able to
successfully re-contextualize relevant knowledge stored in the OMISs. Empirical results,
however, have shown that task-specific information was perceived to be less useful for
information seekers. VJIKMS
47,3 This deficiency might be overcome by using additional task-specific
context descriptions for re-contextualization (Kleinberg, 1999). VJIKMS
47,3 Heavy-weight approaches are characterized by high
upfront modelling effort for modelling context-relevant knowledge from other sources than VJIKMS
47,3 VJIKMS
47,3 As described by Brown and Jones (2001), a system can take two options for identifying
the information seeker’s current context: either having it specified explicitly by the
information seeker or determining it automatically from data available within the technical
system. The latter approaches (Holz et al., 2005; Abecker et al., 2000) aim at delivering
relevant data to information seekers without a specific query or system interaction. In the
following, we conceptually delineated the OMIS-research focusing on context identification
and matching for re-contextualization in knowledge retrieval in three categories. g
g
g
3.3.1 Determining context through external sources. Knowledge retrieval systems
unaware of an information seeker’s current context requires external sources, usually the
information seeker himself, to provide a proper context for relevant information. The term
“external sources” in this category consequently refers to the fact that the system itself is not
delivering context-sensitive information to an information-seeking user without active user
involvement in context provision. Approaches on how to perform context provision varies. Some OMISs provide searchable case databases that display contextual information
captured during the storage process and let information seekers perform the matching to
their current context. Other approaches provide query engines for ontology-based retrieval
requests. Among the most frequently used techniques for processing queries are ontology-
driven reasoners and similarity-based case-based reasoning (Bergmann and Schaaf, 2003);
the re-contextualize stored knowledge by supporting information seekers in formulating
their knowledge needs in a structured way. 3.3.2 Context determined by systems. Systems that can determine context-sensitive
information through other sources than the user do not require immediate user interaction
for re-contextualization. These sources are often business process models, workflow engines
or artefacts related to the users’ current tasks (Holz et al., 2005). Reviewing existing approaches allows recognizing differences in the upfront modelling
effort required for match-making between contextual information stored during capturing
and the current context of the information seeker. We here distinguish heavy- and light-
weight approaches. Heavy-weight approaches, such as KnowMore (Abecker et al., 2000),
require high upfront modelling effort to generate a reliable information basis, as all
information necessary to determine the user context needs to be specified for tasks and
business processes. Light-weight approaches, such as the Watson project (Budzik and
Hammond, 1999), support weakly structured but still knowledge-intense tasks and require
low upfront modelling effort. 3.3.2.1 Heavy-weight approaches. 3.4 Summary
O
ll
il Overall, available OMISs research shows fundamentally different approaches on re-
contextualization of knowledge in the retrieval process that differ along two dimensions. The first dimension focusses on the subjects knowledge can be anchored on – we here can
distinguish between approaches that consider knowledge inseparable from human actors
(“process-oriented” approaches) and approaches that consider knowledge to be extractable
by and representable in IT-based systems (“product-oriented” approaches). The second
dimension is determined by how the context of an information seeker is determined. We
could identify approaches that require strong user involvement and approaches that rely on
information that can be automatically determined by an information system. Figure 1
provides an overview of these orthogonal dimensions and allows to situate the different
classes of approaches on a two-dimensional plane. The large amount of human involvement in modelling structures for context
classification in heavy-weight approaches is reflected in positioning the respective class of
systems on the y-axis in Figure 1. Also, “knowledge sharing” is positioned in the lower
region of the upper left quadrant, reflecting the human effort required to collect contextual
information during knowledge capturing. In the next section, we use this structure as a foundation to develop a framework in the
form of a decision tree to select appropriate re-contextualization approaches for usage
scenarios determined by specific social and technical settings. This framework can be used in KMSs design and selection processes to match a system’s approach on re-
contextualization to the social, organizational and technical setting it should be deployed in. Figure 1. Re-contextualization
dimensions
Recognizing
learnings from
OMIS research
309 in KMSs design and selection processes to match a system’s approach on re-
Figure 1. Re-contextualization
dimensions
Recognizing
learnings from
OMIS research
309 Figure 1. Re-contextualization
dimensions in KMSs design and selection processes to match a system’s approach on re-
contextualization to the social, organizational and technical setting it should be deployed in. in KMSs design and selection processes to match a system’s approach on re-
contextualization to the social, organizational and technical setting it should be deployed in. Figure 2.
Classification scheme Figure 1.
Re-contextualization
dimensions mework for knowledge management systems re-contextualization The types of approaches identified in Chapter 3 and summarized in Figure 1 correspond to
structural items that can be visualized in a multi-layered framework. Each layer is
represented in Figure 2 by a rectangle containing two contrastive categories. Categories that
can be split up into further sub-categories, which are visualized on the next layer. The
distinction criteria for categories are anchored on the work situations to be supported on
each layer. They are visualized left of each category. The differentiators are allocated in
Figure 2 to layers and specified in Table I. The hypothesis of this work is that different
approaches on re-contextualization proposed in OMISs research can be structured along
their view on how knowledge can be delivered to an actor in a particular situation. Starting Figure 2. Classification scheme C Table I. Framework for
classification of re-
contextualization
approaches
Criterion
Situational differentiator
A
The work situation requires supporting communication of knowledge between human actors. Knowledge is highly personal and inseparable of a specific situation and its human actors
B
The work situation requires to use knowledge as a resource by externalizing and storing
information in information systems. Re-contextualization needs to be achieved without relying
on social processes, using methods stemming from the field of information technology
C
The work situation can be appropriately supported by externalization and redistribution of
information
D
The work situation requires that experts and information seekers are matched with support of
an information system, as externalization likely leads to loss of crucial information. Re-
contextualization of information is not provided by the system and requires communication
between the concerned parties
E
The work situation allows to determine the user’s context and deliver context-sensitive
information without an explicit user-context identification or source of information. The
problem of re-contextualization of information is tackled through acquiring information
obtained by other sources than the user
F
The work situation does not allow to determine a user’s context automatically and needs to rely
solely on the manually specification of all relevant context information to deliver the respective
information. Accordingly, re-contextualization is achieved by matching user defined-context
with specific differentiators linked to the stored information
G
The work situation mainly features highly structured processes and allows extensive upfront
modelling effort of context sources. mework for knowledge management systems re-contextualization Re-contextualization is achieved using differentiators that
link stored information to specific context information
H
The work situation mainly consists of agile, weakly structured processes and only allows
minimal upfront modelling effort. Re-contextualization is based on highly generic differentiators
that link stored information to weakly defined context elements
VJIKMS
47,3
310 The work situation mainly features highly structured processes and allows extensive upfront
modelling effort of context sources. Re-contextualization is achieved using differentiators that
link stored information to specific context information The work situation mainly features highly structured processes and allows extensive upfront
modelling effort of context sources. Re-contextualization is achieved using differentiators that
link stored information to specific context information p
The work situation mainly consists of agile, weakly structured processes and only allows
minimal upfront modelling effort. Re-contextualization is based on highly generic differentiators
that link stored information to weakly defined context elements The work situation mainly consists of agile, weakly structured processes and only allows
minimal upfront modelling effort. Re-contextualization is based on highly generic differentiators
that link stored information to weakly defined context elements from the very left, the scheme can be traversed by matching the differentiators until no
further sub-categories are specified. This ultimately leads to one particular approach on re-
contextualization that is considered suitable in OMISs research for the situation designated
by the path taken through the framework. from the very left, the scheme can be traversed by matching the differentiators until no
further sub-categories are specified. This ultimately leads to one particular approach on re-
contextualization that is considered suitable in OMISs research for the situation designated
by the path taken through the framework. The categorization framework adopts a multi-layered structure as shown in Figure 2 and
contains the differentiators listed in Table I. Its application allows describing or reviewing
KMSs approaches with respect to how context re-construction is approached conceptually. The classification criteria reflect how an approach could resolve context re-construction. The strategy for context re-construction evolves from the more generic (left) to the more
concrete (right). It encodes the way how to apply the framework in development practice. The utmost left layer classifies approaches according to their intention of solving the
problem of context re-construction by system means (product-oriented) or requiring worker
communication (process-oriented). mework for knowledge management systems re-contextualization In the following layers, the strategy for context re-
construction is further refined, either by relying on user interaction with or through the
KMSs or by information retrieval features of the KMSs. Recognizing
learnings from
OMIS research 5. Application and validation
T
lid
h
l
ifi
i
f To validate the classification framework, we apply our classification scheme to different
existing KMSs approaches and examine the adequacy of the specified criteria with respect
of acting as differentiators for specific approaches. This allows drawing conclusions on to
which extent the objective, to develop a classification scheme allowing to systematically
characterize KMSs approaches and systems intending to meet the objectives of re-
contextualization pursued in OMISs, could be reached. The next sub-section describes the methodology adopted for validation. In Subsection 5.2, we describe how the cases have been
selected from the body of available KMSs approaches. Subsection 5.3 reports on the results
of the case study by briefly describing the selected approach and the classification result
when applying the categorization scheme. We close with a summary of the experiences
made when applying the categorization scheme. methodology adopted for validation. In Subsection 5.2, we describe how the cases have been
selected from the body of available KMSs approaches. Subsection 5.3 reports on the results
of the case study by briefly describing the selected approach and the classification result
when applying the categorization scheme. We close with a summary of the experiences
made when applying the categorization scheme. 5.2.2 Case 2 (product-based, external context). We could identify four approaches (Han
and Park, 2009; Holz et al., 2005; Kankanhalli et al., 2011; Toledo et al., 2011), with only two 5.1 Methodology 5.1 Methodology
The classification scheme is validated methodologically using the multiple case study
approach (Yin, 2009). The following paragraphs describe the research design for validation. They are structured along Yin’s components of research design for case studies. 311 gy
The classification scheme is validated methodologically using the multiple case study
approach (Yin, 2009). The following paragraphs describe the research design for validation. They are structured along Yin’s components of research design for case studies. The following research question can be derived from the aforementioned objective as a
starting point for the empirical design: RQ1. Does the classification scheme allow to unambiguously classify knowledge
management systems approaches by assessing them in light of the specified
classification criteria? RQ1. Does the classification scheme allow to unambiguously classify knowledge
management systems approaches by assessing them in light of the specified
classification criteria? The case study this work reports on strives to provide answers to this question. The
following proposition informs the empirical design: The specified classification criteria can be
used to unambiguously classify any KMS approach through traversing the layers of
the classification scheme by making a binary decision on each layer based on the properties of
the approach. The respective units of analysis for the case study are descriptions of KMSs approaches
provided in literature as described above. To reach our objective, these approaches should
be published no earlier than 2005, when the concept of OMISs has vanished from literature. The units of analysis call for a holistic multiple-case study design, in which each case is
represented by a scientific article and is examined coherently using the same evaluation
approach. Multiple cases are required to be able to assess criteria along the different
classification paths provided in the framework. The assessment of the research proposition
requires data that show how descriptions of KMSs approaches can be matched to the criteria
specified in the classification scheme. The data have to be interpreted with respect to
whether the criteria could be applied with or without ambiguity. VJIKMS
47,3 of them being relevant for analyzing KMISs with external user context, namely, Holz et al. (2005) and Toledo et al. (2011). From these two, we finally selected the one of assumable
higher scientific relevance (measured by the impact factor of the publishing journal). The
approach by Toledo et al. (2011) was published in 2011 and represents a typical approach for
a KMS with external user context. of them being relevant for analyzing KMISs with external user context, namely, Holz et al. (2005) and Toledo et al. (2011). From these two, we finally selected the one of assumable
higher scientific relevance (measured by the impact factor of the publishing journal). The
approach by Toledo et al. (2011) was published in 2011 and represents a typical approach for
a KMS with external user context. 5.2.3 Case 3 (product-based, heavy-weight). The relevant literature contains several
approaches (Han and Park, 2009; Holz et al., 2005; Štajner et al., 2012; Zhen et al., 2010). From
the articles published between 2006 and 2012, we selected two comparable approaches as
candidates for validation (Han and Park, 2009; Zhen et al., 2010). Finally, the approach by
Han and Park (2009) was chosen for validating the classification scheme, as it includes a
more comprehensive overview of the developed functions than the other candidate paper. 312 p
p
p p
5.2.4 Case 4 (product-based, light-weight). Two approaches identified in literature can be
considered light-weight in term of information delivery and scientific relevance (Holz et al.,
2006; Pai et al., 2013). According to its more recent publication date and the impact factor of
the publication, the approach introduced by Pai et al. (2013) has been selected for validation. 5.2.4 Case 4 (product-based, light-weight). Two approaches identified in literature can be
considered light-weight in term of information delivery and scientific relevance (Holz et al.,
2006; Pai et al., 2013). According to its more recent publication date and the impact factor of
the publication, the approach introduced by Pai et al. (2013) has been selected for validation. 5.3 Results We present the results of our validation in the following. For each case, we apply the
categorization scheme to the respective approach. For each layer, we describe based on
which information the decision for a specific category has been made and whether
ambiguities could be identified. g
5.3.1 Case 1: Expert recommendation based on fuzzy text classification. 5.2 Case selection In case study research, the selection of the cases is vital to generate sound and meaningful
results. For the present study, the cases need to be selected from KMSs literature to validate
the specified criteria. The categorization framework has five potential end-points with one –
process-oriented knowledge sharing – hardly being adopted in more recent OMISs research. Consequently, the process-oriented differentiator is only tested in one case, whereas three
cases have been selected to test the product-based differentiators. This approach still
assesses all relevant paths through the framework. 5.2.1 Case 1 (process-based approaches). Existing literature reveals several approaches
on sharing expertise and recommendation, for example, Balog and De Rijke (2007), Li et al. (2011), Lin et al. (2008), Guy et al. (2012), Karimzadehgan et al. (2009) and Balog et al. (2009). When selecting papers for further analysis, the ones published between 2008 and 2012,
meeting the criterion of timeliness, and their assumable scientific relevance (measured by
the impact factor of the publisher) were taken into account. According to these factors, the
approach of Li et al. (2011) was selected for validating the categorization scheme. pp
(
)
g
g
5.2.2 Case 2 (product-based, external context). We could identify four approaches (Han
and Park, 2009; Holz et al., 2005; Kankanhalli et al., 2011; Toledo et al., 2011), with only two VJIKMS
47,3 VJIKMS
47,3 As the system refers
to externalizing information and thus resolves re-contextualization with IT methods, it is
suitable for the situational differentiator for Criterion B. 5.3.2.2 Classification Layer 2 (E-F). As the user context is defined through the search
query of the user and not by the system itself, the approach is not suitable for the situational
differentiator of Criterion E. The system obtains the current user context only through the
search query entered by the user. Aside to the context information provided by users, no
other sources for re-contextualization are available for the system. The queries of the user
are matched with documents and information of the system according to its ontological
justifiability. Re-contextualization, therefore, occurs via connecting a user query with the
ontologically optimized data set. According to these characteristics, this approach is suitable
for the situational differentiator for Criterion F. 313 5.3.3 Case 3: Process-centered knowledge model and enterprise ontology. The following
classification is based on information given in Han and Park (2009). 5.3.3.1 Classification Layer 1 (A-B). Because of the described forum and expert
consulting features, the approach supports communication and exchange of knowledge
between human actors. The idea of externalizing information from its creators and linking it
to a specific context is inherent to this approach – the approach is not suitable for the
situational differentiator for Criterion A. As the main ontological features support externalizing knowledge and used within an
organization, this approach is focusing on storing information within an information
system. Re-contextualization of information occurs within the system because of defined
dependencies of concepts and its instances. Accordingly, the approach is suitable for the
situational differentiator for Criterion B. 5.3.3.2 Classification Layer 2 (E-F). The specific context of each user can be identified
through an instance or process ID retrieved from the user of the system. As this ID as
information object only contains a plain identifier, it does not correspond to the concept of
context provided by Dey (2001). Consequently, the approach is not suitable for the
situational differentiator for Criterion F. The user context itself is stored within the repository of the system and evaluated
according to the current process ID of the user. This ID does not contain any further context
defining information but can be used by the system to reconstruct the context of the user. Accordingly, the approach is suitable for the situational differentiator for Criterion E. Recognizing
learnings from
OMIS research 5.3.4 Case 4: Semantic-based content mapping for information retrieval. The following
classification is based on information given in Pai et al. (2013). VJIKMS
47,3 The following
lassification is based on information given in Li et al. (2011). 5.3.1.1 Classification Layer 1 (A-B). The mentioned functionality of the system intends
enabling communication between the right human actors of an organization. The
information needs and expertise levels of the actors are evaluated for specific knowledge
areas. Task-specific information is separated neither from the situation, nor the included
human actors at any point. Therefore, this approach is suitable for the situational
differentiator for Criterion A. As the mapping of information seekers and experts occurs according to the levels their
profiles show in the different knowledge areas, task-specific information is never
externalized to the system. Hence, this approach is not suitable for the situational
differentiator for Criterion B. 5.3.1.2 Classification Layer 2 (C-D). As the approach is not intending to externalize task-
specific information, for example, for redistributing information, the system is not suitable
for the situational differentiator for Edge C. Rather, the dedicated goal of this approach is the
support of individuals of an organization by connecting them with knowledgeable experts
within the organization. Re-contextualization of task-specific information is not executed
within the system, but rather through the direct communication of the information seeker
and the knowledgeable expert. Accordingly, this system is suitable for the situational
differentiator for Criterion D. 5.3.2 Case 2: ontology-driven document retrieval. The following classification is based on
information given in Toledo et al. (2011). 5.3.2.1 Classification Layer 1 (A-B). This approach is not fostering communication
between human actors. It intends to separate knowledge from its original context and to
reuse it in different contexts using domain ontologies. Therefore, it is not suitable for the
situational differentiator for Criterion A. Given the mentioned functions of the knowledge representation module, the approach
intends to externalize knowledge and information into ontological data sets. Furthermore, it aims to reuse this information for different knowledge domains. Re-contextualization of
information occurs on the basis of a user query. It is executed by the information retrieval
module on a data set of ontologically optimized information artefacts. As the system refers
to externalizing information and thus resolves re-contextualization with IT methods, it is
suitable for the situational differentiator for Criterion B. aims to reuse this information for different knowledge domains. Re-contextualization of
information occurs on the basis of a user query. It is executed by the information retrieval
module on a data set of ontologically optimized information artefacts. VJIKMS
47,3 5.3.3.3 Classification Layer 3 (G-H). As the approach of Han et al. requires an exact
ontological concept definition to build up the structure required for information delivery, it
shows a high demand for upfront modelling of business processes. Re-contextualization
occurs according to either specific process instances or at least specific process concepts that
a current user is working in. Hence, the approach is suitable for the situational differentiator
for Criterion G and can be denoted as a heavy-weight approach. Actually, the differentiators for light-weight approaches are contradictory, with
respect to upfront modelling effort and differentiator genericity. As already described,
the approach by Han et al. requires high upfront modelling effort and connects
information by specific context definitions. The approach is not suitable for the
situational differentiator of Criterion H. 5.3.4 Case 4: Semantic-based content mapping for information retrieval. The following
classification is based on information given in Pai et al. (2013). 5.3.4.1 Classification Layer 1 (A-B). As the approach does not aim to support
communication between human actors, it is not suitable for the situational differentiator for
Criterion A. The approach rather intends to externalize knowledge in the form of documents
into an information system to deliver it to a user in a later step. Once a document is
transferred to the information system, the approach decontextualizes the contained
knowledge by extracting its information to a semantic content map. Using methods of
semantic content matching, relevant documents are later identified by comparing them to
the source document as queried by the user. In other words, this approach externalizes
knowledge and intends to solve the problem of re-contextualization through semantic
matching. Hence, this approach is suitable for the situational differentiator of Criterion B. 314 5.3.4.2 Classification Layer 2 (E-F). Information delivery in this approach relies on a
reference document that is analyzed to extract the user’s current context and deliver
information that is relevant in this context. The paper does not give a specific description of
the way a document is added to the system. Yet, an upload function shown in the
prototypical user interface indicates that the document needs to be uploaded to the system
actively from the user side. The document uploaded by the user is per se not a user context definition, but an artefact
allowing the system to extract the current user context by semantic techniques. VJIKMS
47,3 Consequently, re-contextualization is based on information that is created and retrieved
through functionalities of the system itself. The approach is suitable for the situational
differentiator of Criterion E. As the actual re-contextualization of information is based on the semantic enhancements and
information created within the system, the user context is not solely defined by the information
seeker. Hence, this approach is not suitable for the situational differentiator of Criterion F. 5.3.4.3 Classification Layer 3 (G-H). The work of Pai et al. (2013) does not require upfront
modelling of information sources, as all semantic enhancements are executed automatically
within the system. As the differentiators rely on generic differentiators like semantic similarity
of content maps, this approach is suitable for the situational differentiator for Criterion H. 5.3.4.3 Classification Layer 3 (G-H). The work of Pai et al. (2013) does not require upfront
modelling of information sources, as all semantic enhancements are executed automatically
within the system. As the differentiators rely on generic differentiators like semantic similarity
of content maps, this approach is suitable for the situational differentiator for Criterion H. Specific meta-information is not required, as each document is analyzed only according
to its content. Previous work on comparable approaches has revealed that systems not
including task-specific differentiators are not as advanced in generating valid information
for complex processes as approaches using those differentiators (Kleinberg, 1999). From
these findings, it can be concluded that this system would lack accuracy when being used to
capture highly structured information sources and complex process structures. Hence, the
approach is not suitable for the situational differentiator for Criterion G. Recognizing
learnings from
OMIS research 6. Summary and discussion The case study presented above helped to validate the classification scheme. We have
checked whether the layered and multi-dimensional approach is suited to unambiguously
classify KMSs approaches on re-contextualization following criteria derived from OMISs
research. For each element, a case stemming from the KMSs field could be identified and the
classification could be executed in an exemplary way. We experienced difficulties neither
when applying our classification framework nor when extracting classifier-relevant
information from the selected studies. We can state that the classification framework
appears to be comprehensive, as it has enabled capturing the dimensions relevant to design
re-contextualization support identified from OMIS research, such as interaction-centric
approaches and context-less and contextual approaches with respect to user information. Developing a categorization framework in an exploratory way has the benefit of
bootstrapping, as each development step is reversible when turning out not to hold for the next one. There is no influence by existing structures. It also can lead to novel or/and
conflicting results with respect to existing work. As the presented work seems to be the first
attempt to enrich KMSs research with results from OMISs research on re-contextualization,
the main task was to identify coherent classifiers that enable semantically correct
representation of content stemming from either field. We could demonstrate that KMSs
approaches differ in their attempts to resolve context re-construction similar to the
approaches proposed in OMISs research. As re-contextualization seems not have been a
perspective considered for the design or selection of KMSs so far, the present research can be
considered an initial step towards operationalizing the design space for task/technology fit
in KMSs design (Baloh, 2007; Turner et al., 2009). 315 g (
,
;
,
)
The results show that the reviewed approaches could be unambiguously classified using
the scheme on each layer. Still, the limited amount of approaches included in the case study
does not allow claiming generalizability of the scheme. It should be considered a starting
point for structuring the field and even potentially allow overcoming the proposed
categories by combining different re-contextualization strategies in novel approaches,
potentially enabling adaptability to various information needs in different contexts. 7. Conclusions J
47,3 Abecker, A., Bernardi, A., Hinkelmann, K., Kuhn, O. and Sintek, M. (1998), “Toward a technology for
organizational memories”, IEEE Intelligent Systems, Vol. 13 No. 3, pp. 40-48. Abecker, A., Bernardi, A., Hinkelmann, K., Kuhn, O. and Sintek, M. (2000), “Context-aware, proactive
delivery of task-specific information: the knowmore project”, Information Systems Frontiers,
Vol. 2 Nos 3/4, pp. 253-276. 316 Ackerman, M.S. and Halverson, C. (1999), “Organizational memory: processes, boundary objects, and
trajectories”, Proceedings of the 32nd Annual Hawaii International Conference on Systems
Sciences, HICSS-32, IEEE Computer Society, Maui, HI, p. 12. Ackerman, M.S. and Halverson, C. (2004), “Organizational memory as objects, processes, and
trajectories: an examination of organizational memory in use”, Computer Supported Cooperative
Work (CSCW), Vol. 13 No. 2, pp. 155-189. Ackerman, M.S. and Malone, T.W. (1990), “Answer garden: a tool for growing organizational memory”,
ACM SIGOIS Bulletin, Vol. 11 Nos 2/3, pp. 31-39. Ackerman, M.S., Dachtera, J., Pipek, V. and Wulf, V. (2013a), “Sharing knowledge and expertise: the
CSCW view of knowledge management”, Computer Supported Cooperative Work, Vol. 22
Nos 4/6, pp. 531-573. Ackerman, M.S., Dachtera, J., Pipek, V. and Wulf, V. (2013b), “Sharing knowledge and expertise: the
CSCW view of knowledge management”, Computer Supported Cooperative Work (CSCW),
Vol. 22 Nos 4/6, pp. 531-573. Auer, D., Hinterholzer, S., Kubovy, J. and Küng, J. (2014), “Business process management for knowledge
work: considerations on current needs, basic concepts and models”, in Piazolo, F. and Felderer,
M. (Eds), Novel Methods and Technologies for Enterprise Information Systems: ERP Future
2013 Conference, November 2013, Revised Papers, Cham: Springer International Publishing,
Vienna, Austria, pp. 79-95. Balog, K. and De Rijke, M. (2007), “Determining expert profiles (with an application to expert finding)”,
Proceedings of the 20th International Joint Conference on Artifical Intelligence, Morgan
Kaufmann Publishers, San Francisco, CA, pp. 2657-2662. Balog, K., Azzopardi, L. and de Rijke, M. (2009), “A language modeling framework for expert finding”,
Information Processing and Management, Vol. 45 No. 1, pp. 1-19. Baloh, P. (2007), “The role of fit in knowledge management systems: tentative propositions of the KMS
design”, Journal of Organizational and End User Computing, Vol. 19 No. 4, pp. 22. Baloh, P., Desouza, K.C. and Hackney, R. (2012), “Contextualizing organizational interventions of
knowledge management systems: a design science perspective”, Journal of the American Society
for Information Science and Technology, Vol. 63 No. 5, pp. 948-966. Bannon, L. and Kuutti, K. 7. Conclusions Classifying KMSs approaches using concepts derived from OMISs research has enabled us
to show that our framework has successfully transferred findings from an area of research
focusing on the delivery side of KM to the more holistic field of KMS, in which – we have
hypothesized based on existing literature – the topic of socio-technical re-contextualization
of information has not yet been examined as thoroughly as in the field of OMISs. Adopting
the results from OMISs research on this issue could support the operationalization of task-
technology fit in KMSs selection or design processes (Turner et al., 2009). Our first step was reviewing possible categories as found in OMISs literature. They
allow for comparisons and analyses based on specific categories of information, such as
user-context awareness. We developed these approaches further to an integrated framework
capturing various ways of context reconstruction. We could validate the classification
scheme applying it to currently state-of-the-art KMSs approaches. The present work has several limitations. First, the external validity of the empirical
design is limited, as the case study only has included five approaches. Still, they have been
chosen to provide a diverse selection of re-contextualization strategies in the field of KMSs
and, thus, have enabled to validate all proposed classification criteria of the scheme at least
once. Second, the generalizability of the scheme is yet to be evaluated. We consider the
proposed scheme to be a starting point for research that can be extended in terms of re-
contextualization strategies or might require considering further structuring dimensions
emerging during future research. Third, the practical implications of applying the scheme
have not yet been examined. At the moment, we only have indicative evidence that a
structured approach to KMS classification will enable a more informed selection of KMS
appropriate for a particular real-world organizational work situation. Consequently, our work so far allows structuring and comparing approaches that are
relevant for developing KMS that explicitly consider the issue of re-contextualization in an
attempt to increase their immediate operative added value. Further research concerns
extensive application and in-depth studies of information systems being relevant for
organizational memory systems, for example, systems-thinking support systems. The
framework itself should allow adding further dimensions in case further challenges should
be incorporated when informing KMS development. Abecker, A. (1997), “Corporate memories for knowledge management in industrial practice: prospects
and challenges”, Journal of Universal Computer Science, Vol. 3 No. 8, pp. 929-954. 7. Conclusions (1996), “Shifting perspectives on organizational memory: from storage to
active remembering”, Proceedings of the 29th Hawaii International Conference on System
Sciences (HICSS) Volume 3: Collaboration Systems and Technology, IEEE, Wailea, HI. Barros, VF.D.A., Ramos, I. and Perez, G. (2015), “Information systems and organizational memory: a
literature review the last 20 years”, Journal of Information Systems and Technology
Management, Vol. 12 No. 1. Bergmann, R. and Schaaf, M. (2003), “Structural case-based reasoning and ontology-based knowledge
management: a perfect match?”, Journal UCS, Vol. 9 No. 7, pp. 608-626. Brown, P.J. and Jones, G.J. (2001), “Context-aware retrieval: exploring a new environment for
information retrieval and information filtering”, Personal and Ubiquitous Computing, Vol. 5
No. 4, pp. 253-263. Budzik, J. and Hammond, K. (1999), “Watson: anticipating and contextualizing information needs”,
Proceedings of the ASIS Annual Meeting-American, Silver Spring, Maryland, Vol. 36, pp. 727-740. Damodaran, L. and Olphert, W. (2000), “Barriers and facilitators to the use of knowledge management
systems”, Behaviour and Information Technology, Vol. 19 No. 6, pp. 405-413. Dey, A.K. (2001), “Understanding and using context”, Personal and Ubiquitous Computing, Vol. 5 No. 1,
pp. 4-7. Gold, A.H., Malhotra, A. and Segars, A.H. (2001), “Knowledge management: an organizational capabilitie
perspective”, Journal of Management Information Systems, Vol. 18 No. 1, pp. 185-214. 317 Guy, I., Ur, S., Ronen, I., Weber, S. and Oral, T. (2012), “Best faces forward” ACM Annual Conference
ACM Press, New York, NY, p. 1775. Guy, I., Jacovi, M., Shahar, E., Meshulam, N., Soroka, V. and Farrell, S.P. (2008), “Harvesting wit
SONAR” Proceeding of the 26th Annual CHI Conference, ACM Press, New York, NY, p. 1017. Han, K.H. and Park, J.W. (2009), “Process-centered knowledge model and enterprise ontology for the
development of knowledge management system”, Expert Systems with Applications, Vol. 36
No. 4, pp. 7441-7447. Hipp, M., Mutschler, B. and Reichert, M. (2011), “On the context-aware, personalized delivery of process
information: viewpoints, problems, and requirements”, 6th International Conference on
Availability, Reliability and Security (ARES), IEEE, Vienna, pp. 390-397. Holz, H., Maus, H., Bernardi, A. and Rostanin, O. (2005), “A lightweight approach for proactive, task-
specific information delivery”, in Proc. of I-KNOW 2005 – Special Track on Business Process
Oriented Knowledge Infrastructures BPOKI 2005, Graz. Holz, H., Rostanin, O., Dengel, A., Suzuki, T., Maeda, K. and Kanasaki, K. Recognizing
learnings from
OMIS research 7. Conclusions (2006), “Task-based process
know-how reuse and proactive information delivery in TaskNavigator”, 15th ACM International
Conference on Information and Knowledge Management, ACM Press, New York, NY,
pp. 522-531. Horvitz, E., Breese, J., Heckerman, D., Hovel, D. and Rommelse, K. (1998), The Lumiere Project:
Bayesian User Modeling for Inferring the Goals and Needs of Software Users, Morgan
Kaufmann Publishers, Burlington, MA, pp. 256-265. Kankanhalli, A., Lee, O.K.D. and Lim, K.H. (2011), “Knowledge reuse through electronic repositories: a
study in the context of customer service support”, Information and Management, Vol. 48
Nos 2/3, pp. 106-113. Karimzadehgan, M., White, R.W. and Richardson, M. (2009), “Enhancing expert finding using
organizational hierarchies”, in Boughanem, M., Berrut, C., Mothe, J. and Soule-Dupuy, C. (Eds),
Advances in Information Retrieval, ECIR 2009, Lecture Notes in Computer Science, Vol 5478,
Springer, Berlin, Heidelberg, pp. 177-188. Keary, M.Y. (2004), Sharing Expertise: Beyond Knowledge Management, The MIT Press 2003,
Cambridge, MA, p. 418. Kleinberg, J.M. (1999), “Authoritative sources in a hyperlinked environment”, Journal of the ACM
(JACM), Vol. 46 No. 5, pp. 604-632. Kuhlmann, A. and Deiters, W. (2000), “The organizational memory information system PRINCE”, in
Scheuermann, P. and Etzion, O. (Eds), Cooperative Information Systems, CoopIS 2000, Lecture
Notes in Computer Science, Vol 1901, Springer Berlin Heidelberg, Berlin, Heidelberg,
pp. 236-250. Li, M., Liu, L. and Li, C.B. (2011), “An approach to expert recommendation based on fuzzy linguistic
method and fuzzy text classification in knowledge management systems”, Expert Systems with
Applications, Vol. 38 No. 7, pp. 8586-8596. Lin, T.C. and Huang, C.C. (2008), “Understanding knowledge management system usage antecedents:
an integration of social cognitive theory and task technology fit”, Information and Management,
Vol. 45 No. 6, pp. 410-417. Lin, C.Y., Ehrlich, K. and Griffiths-Fisher, V. (2008), “Smallblue: people mining for expertise search”,
MultiMedia, IEEE, Vol. 15 No. 1, pp. 78-84. McDonald, D.W. and Ackerman, M.S. 2000, “Expertise recommender”, Proceeding of CSCW 2000, ACM
Press, New York, NY, pp. 231-240. Mentzas, G., Apostolou, D., Young, R. and Abecker, A. (2001), “Knowledge networking: a holistic
solution for leveraging corporate knowledge”, Journal of Knowledge Management, Vol. 5 No. 1,
pp. 94-107. 318 Pai, M.Y., Chen, M.Y., Chu, H.C. and Chen, Y.M. (2013), “Development of a semantic-based content
mapping mechanism for information retrieval”, Expert Systems with Applications, Vol. 40 No. 7,
pp. 2447-2461. Savvas, I. and Bassiliades, N. 7. Conclusions (2009), “A process-oriented ontology-based knowledge management
system for facilitating operational procedures in public administration”, Expert Systems with
Applications, Vol. 36 No. 3, pp. 4467-4478. Schwartz, D.G., Divitini, M. and Brasethvik, T. (2000), “On knowledge management in the internet age”,
Internet-Based Organizational Memory and Knowledge Management, Idea Group Publishing,
Pennsylvania, pp. 1-19. Štajner, T., Mladenić, D. and Grobelnik, M. (2012), “information resource recommendation in knowledge
processes”, in García-Castro, R., Fensel, D. and Antoniou, G. (Eds), The Semantic Web: ESWC
2011 Workshops, Springer Berlin Heidelberg, Berlin, Heidelberg, pp. 186-193. Toledo, C.M., Ale, M.A., Chiotti, O. and Galli, M.R. (2011), “An ontology-driven document retrieval
strategy for organizational knowledge management systems”, Electronic Notes in Theoretical
Computer Science, Vol. 281, pp. 21-34, available at: www.sciencedirect.com/science/article/pii/
S1571066111001721 Turner, J.M., Biros, D.P. and Moseley, M.W. (2009), “‘KMS-Fit’: a case-based exploration of task/
technology fit in an applied knowledge management context”, Knowledge Management and
E-Learning: An International Journal, Vol. 1 No. 2, pp. 120-138. Webster, J. and Watson, R.T. (2002), “Analyzing the past to prepare for the future: writing a literature
review”, MIS Quarterly, Vol. 26 No. 2, pp. 13-23. Wegner, D.M. (1987), “Transactive memory: a contemporary analysis of the group mind”, in Mullen, B. and Goethals, G.R. (Eds), Theories of Group Behavior, Springer Series in Social Psychology,
Springer, New York, NY, p. 185-208. Wenger, E. (1999), Communities of Practice: Learning, Meaning, and Identity, Cambridge University
Press, Cambridge. Yin, R.K. (2009), Case Study Research: Design and Methods, 4th ed., Sage, Los Angeles. Zhang, J., Zhao, W., Xie, G. and Chen, H. (2011), “Ontology- based knowledge management system and
application”, Procedia Engineering, Vol. 15, pp. 1021-1029, available at: www.sciencedirect.com/
science/article/pii/S1877705811016900 Zhen, L., Huang, G.Q. and Jiang, Z. (2010), “An inner-enterprise knowledge recommender system”,
Expert Systems with Applications, Vol. 37 No. 2, pp. 1703-1712. For instructions on how to order reprints of this article, please visit our website:
www.emeraldgrouppublishing.com/licensing/reprints.htm
Or contact us for further details: permissions@emeraldinsight.com Corresponding author Stefan Oppl can be contacted at: stefan.oppl@jku.at
|
https://openalex.org/W3096390523
|
https://hal.archives-ouvertes.fr/hal-03188179/document
|
English
| null |
Design as an interactive boundary object
|
Journal of organization design
| 2,020
|
cc-by
| 18,394
|
To cite this version: Thinley Tharchen, Raghu Garud, Rebecca L. Henn. Design as an interactive boundary object. Journal
of Organization Design, 2020, 9, 34 p. hal-03188179 Thinley Tharchen, Raghu Garud, Rebecca L. Henn. Design as an interactive boundary object. Journal
of Organization Design, 2020, 9, 34 p. hal-03188179 Abstract What is it about the term ‘design’ that facilitates the emergence of interdisciplinary
interactions even though the term may hold different meanings for those involved? To address this question, we analyzed the vocabularies, practices and orders of
worth proposed by the members of an interdisciplinary Center for Design. Our analysis
revealed similarities and differences in the meanings accorded by these individuals
to the term design. The analysis also revealed an awareness on their part that their
notions of design were incomplete, and that they had to rely on the inputs of others. Such reflexivity was an important factor in fostering meaningful interactions between
these individuals. Based on these findings, we argue that design is an interactive bound-
ary object, which enables different meaning structures to co-exist and co-inform actors
from multiple disciplines and domains. Within such a view, the emergence of interac-
tions occurs not despite but because of the diversity of views about the notion of
design itself. Keywords: Design, Vocabularies, Practices, Orders of worth, Design games, Reflexivity,
Interactive boundary object Keywords: Design, Vocabularies, Practices, Orders of worth, Design games, Reflexivity,
Interactive boundary object The term ‘design’ is of considerable interest to academics and practitioners alike. For
instance, well-known organizations such as Apple, Samsung and PepsiCo have been
implementing design thinking and practices (Ignatius 2015; Kolko 2015; Yoo and Kim
2015). In management, a robust body of literature has now emerged around design prac-
tices (e.g., Boland and Collopy 2004; Burton et al. 2006; Liedtka and Ogilvie 2011; Mar-
tin 2009). A review of these developments highlights how design thinking and practices
are key to the emergence of organizational cultures enabling innovations (Elsbach and
Stigliani 2018; Garud et al. 2006). Riding on this wave of promise around design, we investigate how design and emer-
gence are interrelated. Of particular interest is the ability of actors from different dis-
ciplines to continue interacting with one another even when individuals might accord
different meanings to the notion of design including technical interoperability, effi-
ciency, aesthetics, customer satisfaction, and societal sustainability. Indeed, understand-
ing how and why such interactions occur is all the more intriguing given that some of
these meanings may be at odds with one another. What is it about design that makes it possible for interdisciplinary interactions to
emerge given that the term itself has multiple meanings? © The Author(s) 2020. This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing,
adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and
the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material
in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material
is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the
permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativeco
mmons.org/licenses/by/4.0/. Design as an interactive boundary object Thinley Tharchen1* , Raghu Garud2 and Rebecca L. Henn3 *Correspondence:
tharchen@em‑lyon.com
1 Emlyon Business School, 23
Avenue Guy de Collongue,
69130 Écully, France
Full list of author information
is available at the end of the
article *Correspondence:
tharchen@em‑lyon.com
1 Emlyon Business School, 23
Avenue Guy de Collongue,
69130 Écully, France
Full list of author information
is available at the end of the
article RESEARCH Open Access HAL Id: hal-03188179
https://hal.science/hal-03188179v1
Submitted on 1 Apr 2021 L’archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d’enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés. HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers. Tharchen et al. J Org Design (2020) 9:21
https://doi.org/10.1186/s41469-020-00085-w Abstract To address this question, we
build on the “linguistic turn” in social science research (Alvesson and Kärreman 2000) Tharchen et al. J Org Design (2020) 9:21 Page 2 of 34 wherein language and vocabularies are constitutive of meaning (e.g., Douglas 1986;
Knorr-Cetina 1999; Wittgenstein 2009). Not only are practices implicated in the lan-
guage we use (Loewenstein et al. 2012; Pickering 1993, 1995), but, in addition, language
and vocabularies constitute the orders of worth (Boltanski and Thévenot 2006; Stark
2009) by which a community values what it does and establishes its identity (Garud and
Rappa 1994; Jones and Livne-Tarandach 2008). Based on this understanding, we explored the vocabularies, practices and orders of
worth employed by individuals affiliated with a Center for Design at a large public uni-
versity. The Center attracted the participation of individuals from different disciplines
with self-declared interests in exploring questions around design as it relates to educa-
tion and research. Consequently, this setting served as an exemplary case (Yin 2003), one
that allowed us to investigate how design could provide both interpretive flexibility, and
yet still hold value for interdisciplinary interactions to emerge. The findings from this study confirmed our assumption that individuals across dis-
ciplines differed in the meanings they accorded to design. Building on Wittgenstein’s
notion of language games, we label the combination of vocabularies, practices, and
orders of worth around which differences in meanings surfaced as constituting design
games. Yet, we also found “common ground” (Puranam et al. 2009) and “interlacing”
(Tuertscher et al. 2014) across design games. Besides this glue holding them together,
we found individuals to be “reflexive” (Cunliffe 2003; Cunliffe and Jun 2005) in their
accounts of what it meant to design. Specifically, our informants highlighted an incom-
pleteness in their own understandings of design. Such reflexivity allowed them to appre-
ciate the value of others’ expertise, which, in turn generated interactions. By highlighting how design can induce such a culture of interdisciplinary interactions,
our findings speak to the link between design and emergence (e.g., Elsbach and Stigli-
ani 2018; Garud et al. 2008; Hunter et al. 2020; Koçak and Puranam 2018). Specifically,
polycentricity implicated in the notion of design enabled a culture of reflexive interac-
tions wherein design served as an interactive boundary object allowing different mean-
ing structures to co-exist. Background and inquiry framework In The Sciences of the Artificial (Simon 1996), Simon offered a theory of design as a sci-
entific enterprise for the creation of artifacts that are adapted to human goals and pur-
poses. Given bounded rationality, Simon (1996) formulated “near decomposability” as
the principle underlying the partitioning of complex systems into sub-problems (Alex-
ander 1964; Parnas 1972) held together by an architecture (Baldwin and Clark 2000;
Garud et al. 2008). Though such an approach to design finds its early roots in the man-
agement writings on the division of labor and administrative hierarchy (e.g., Simon 1947;
Taylor 1911), the literature on organization design (Burton and Obel 2018; Miles and
Snow 1978; Nadler and Tushman 1997) and product design (Baldwin and Clark 2000;
Sanchez and Mahoney 1996; Ulrich 1995) highlight the concept of modularity as a dis-
tinguishing facet of this approach. Modularity, which draws on the mirroring hypothesis
(Colfer and Baldwin 2010), advocates “information hiding” such that “each module is
informationally self-sufficient, [and] hence can be designed independently of the rest of
the system” (Colfer and Baldwin 2010: 4). Once interface specifications between mod-
ules have been specified, modularity will lead to reduced dependencies or need for com-
munication across design teams. Though design using the principles of modularity has received empirical support
(Colfer and Baldwin 2010), studies show that self-organized groups also make contribu-
tions across the entire system (Garud and Kotha 1994; Tuertscher et al. 2014). Moreover,
certain technological problems may not be decomposable (Colfer and Baldwin 2010),
and hence require not “information hiding”, but “richly connected contributions” (Colfer
and Baldwin 2010: 19) across participating actors. Indeed, modularization, if taken
too far, may also make the design process predictable, and so reduce the likelihood of
breakthrough innovations (Fleming and Sorenson 2001). Furthermore, robust designs
(Hargadon and Douglas 2001) do not emerge in splendid isolation, but in and through
interactions with other participating actors. These observations suggest that design, rather than being a stable architecture built
around pre-specified "design rules" (Baldwin and Clark 2000), is instead an evolving
system (Simon 1996) where new goals constantly emerge through interactions between
human and material artifacts. Such a focus is also implicit in an approach to design that
seeks to harness the benefits of multiple interacting perspectives (e.g., Boland and Col-
lopy 2004; Martin 2009), with “social interaction [seen as]…a key resource of design pro-
cesses” (Hatchuel 2001: 261). Abstract Most importantly, the actors were able to continue interacting
with one another not despite but because of the overlapping structure of similarities and
differences in the vocabularies, practices, and the orders of worth used by them across
the different disciplines. f
These findings hold practical implications. Design’s capacity to foster interactions
among individuals across diverse disciplines can be used to approach complex problems
such as sustainability, which requires the inputs and participation of various stakehold-
ers. Such design-induced collaboration can enable joint problem definition as well as the
co-creation of solutions that balance the competing demands of the different interest
groups involved (Garud and Karnøe 2003; Garud et al. 2015; Tuertscher et al. 2014). To develop these points, we begin by considering different notions of design, start-
ing with a definition that emerges from the work by Simon (1996), a scholar who has
played a pivotal role in shaping management thinking in general, and design in particu-
lar. After reviewing subsequent management thinking on design, we present our inquiry
framework comprising vocabularies, practices, and orders of worth. We then detail the
research site and methods guiding this inquiry before outlining the findings. Finally,
we theorize that design is an interactive boundary object that allows different meaning Tharchen et al. J Org Design (2020) 9:21 Page 3 of 34 structures to co-exist and co-inform across disciplinary boundaries generating meaning-
ful interactions. Background and inquiry framework Background and inquiry framework Individuals are “not drawn together because they share a
common definition of design, a common methodology, a common philosophy, or even
a common set of objects to which everyone agrees that the term "design" should be
applied” (Buchanan 1992: 14), but because they are motivated to learn from and mean-
ingfully contribute to each other’s perspectives. Organizational forms such as TopCoder
and Wikipedia wherein multiple parties from “experts” to “hobbyists” work collectively
embody such a design approach (Garud et al. 2008; Kolbjørnsrud 2018). Design seen from such an interactional perspective is not just a set of principles,
structures and tools for problem solving, but equally importantly implicates the cultural Tharchen et al. J Org Design (2020) 9:21 Tharchen et al. J Org Design (2020) 9:21 Page 4 of 34 components enabling generative interactions across different stakeholder groups and
material artifacts leading to the emergence of innovative outcomes (Elsbach and Stigli-
ani 2018; Garud et al. 2006). For instance, Tuertscher et al. (2014) showed how a culture
of collaborative participation across groups of scientists and engineers distributed all
over the world led to the design of an innovative particle detector capable of identify-
ing the elusive Higgs boson particle. Relatedly, Garud and Karunakaran (2018) detailed
how product design (Gmail and AdSense) and an organizational culture of participative
experimentation co-emerged at Google. However, such an interactional approach to design also surfaces a paradox. Specifi-
cally, in interdisciplinary interactions, the term design takes on a global meaning, which
has interpretive flexibility (Pinch and Bijker 1987). At the same time, though, design is
also inherently local, tied to the practices within specific disciplines. While we expect a
global meaning of design to render it a “boundary object” (Star and Griesemer 1989) that
enhances co-ordination across disciplinary boundaries, the local meanings that become
salient during interdisciplinary interactions could on the other hand be a source of frag-
menting and conflict. Indeed, conflict arising from differences in meanings across disci-
plines have been the subject of books such as Architect and Engineer: A Study in Sibling
Rivalry (Saint 2007) and Bridging the Gap: Rethinking the Relationship of Architect and
Engineer (Building Arts Forum 1991). What is it then about design that enables interdisciplinary interactions to emerge even
when the term itself implicates different meanings across multiple disciplines? Background and inquiry framework To gain
an understanding of these dynamics, we used Wittgenstein’s notion of language games,
i.e., “language and the activities into which it is woven” (Wittgenstein 2009: 8) to inves-
tigate into the vocabularies, practices and orders of worth of individuals from different
disciplinary backgrounds affiliated with an interdisciplinary Center for Design. fi
Vocabularies not only constitute language, but also provide the cultural toolkits
(Swidler 1986) with which social collectives constitute their identities within professions
such as architecture and medical care (Dunn and Jones 2010; Jones and Livne-Tarandach
2008). They do so by functioning as “terministic screens” (Burke 1966), guiding individu-
als to consider what is important within their profession (Jones and Livne-Tarandach
2008). Professional architects, for instance, use vocabularies from certain cultural reg-
isters to appeal to their clients and audiences (Jones and Livne-Tarandach 2008). Thus,
examining vocabularies provides a window into the values and practices of collectives
shaping their thoughts and actions (Loewenstein et al. 2012). Indeed, translating the
importance of studying vocabularies in the context of design, Boland and Collopy (2004:
14) noted: “engaging in good design is choosing a vocabulary or language to use in defin-
ing the design task, generating alternatives, and making judgments of balance, fit, and
scale.” Boland and Collopy’s (2004) observation regarding defining the design task and gen-
erating alternatives speaks to the practices implicated in the vocabularies used in design. A consideration of practices goes beyond a representational view of language as a mir-
ror of reality by taking a performative turn wherein words ‘do things’ (Austin 1975), and
where such sayings and doings involve interactions with material tools (Barad 2003;
Pickering 1995) generating “different domains of possible action” (Nicolini 2011: 616). In the context of design, these material tools may involve the use of persuasive material Tharchen et al. J Org Design (2020) 9:21 Page 5 of 34 artifacts that “carry conviction for the design of a particular solution, invite others into
a dialogue, stimulate their imagination, and facilitate and accommodate their contribu-
tions” (Wagner 2004: 159). Consequently, by examining the vocabularies used by those
engaged in design, it is possible to gain an appreciation of interwoven practices [i.e., gain
“interactional expertise” (Collins and Evans 2002)]. In addition, underlying vocabularies are deeper axiological considerations (Hart 1971)
that are manifest in the values that individuals across different disciplines associate with
design. Background and inquiry framework This relates to the second observation of Boland and Collopy (2004) regarding
making judgments on design. The judgments that individuals make while evaluating or
justifying the outcomes of any activity invoke “orders of worth” (Boltanski and Thévenot
2006) employing different “evaluation criteria” (Garud and Rappa 1994) (such as effi-
ciency, market success, innovation, public recognition, family tradition, and collective
interests, respectively). When it comes to design, an interdisciplinary concept, orders of
worth are all the more salient, as individuals must be accountable to others during their
interactions, i.e., justify their “beliefs, feelings, and actions to others” (Ferraro et al. 2005:
17). Moreover, as Wittgenstein (2009: 94) noted: "It is not only agreement in definitions,
but also (odd as it may sound) agreement in judgments that is required for communica-
tion by means of language." Finally, it is in these values that a “design attitude” is thought
to manifest and distinguish itself from more mainstream modes of engagement such as
those guided by a “decision attitude” (Boland and Collopy 2004; Michlewski 2008). In sum, vocabularies, practices and orders of worth form the three elements of the
framework that we employ in this study to inquire into the meaning of design. By exam-
ining these dimensions at an interdisciplinary Center for Design, we explore the different
meanings accorded to design by the different actors involved, as well as inquire into how
interdisciplinary interactions emerged despite the differences that existed between the
individuals. Contributing to the growing interest in design and the emergence of col-
laborative organizational cultures (Elsbach and Stigliani 2018; Garud et al. 2008; Koçak
and Puranam 2018), this study showcases the possibility of reflexive individuals engag-
ing in interdisciplinary interactions not despite but because of the diversity in meanings
associated with the term design, providing them with the opportunities to learn from
one another. Research site and methods Using a case study design (Yin 2003), a Center for Design at a large public university
served as the research site for this study. The Center was founded in 2008 through an
NSF grant investigating “interdisciplinary design as instructional discipline” with four
national workshop locations. Both the grant and the Center aimed to promote interdis-
ciplinary education and collaboration across individuals from different disciplines with
expertise on different areas of design such as innovation, decision-making, organiza-
tions, products, systems, visualization, etc. The Center’s vision was articulated in one of
its inception documents: Design is an intellectual fulcrum that integrates concepts and skills across dis-
ciplines and professions to shape and reshape the world. We live in an age of
design. Most disciplines practice some form of it, but in order to create truly effec-
tive solutions we need people skilled in its practice who can master the breadth Tharchen et al. J Org Design (2020) 9:21 Page 6 of 34 and depth of technical knowledge and skills in the context of diverse and subtle
human and societal issues. The Center will bring together diverse faculty and lev-
erage, integrate, and expand a wide range of on-going interdisciplinary Design
research. (emphasis added). Over the years, the collaborations among individuals affiliated with the Center
have resulted in numerous publications on topics such as the logic of design, bridg-
ing design cultures, product design, additive manufacturing, in addition to initiatives
to launch a university-wide interdisciplinary graduate degree program in Design. Besides, the Center has also been organizing workshops on design thinking, featuring
speakers from the academia and the industry. Because of the Center’s commitment
to design as an interdisciplinary activity, we took advantage of this unique context—
a particular exemplary case (Tsoukas 2009) to generate “theoretical refinement” on
how individuals from different disciplines can come together to interact on a hybrid
forum (Callon et al. 2009). Data collection We started our data collection in March 2012 in the backdrop of some familiarity with
the research setting. Two among the three of us were members of the Center and had
already attended some of their meetings and interdisciplinary workshops. Indeed, it was
at these events that we were struck by the multiple and sometimes competing meanings
of design that arose during the discussions. This piqued our interest into understand-
ing how despite the differences in meaning across disciplines ‘design’ enabled individu-
als from multiple disciplines to come together to interact with each other. In order to
investigate this, we began approaching individual members from the Center and started
to interview them. For our interviews, we theoretically and purposively sampled our
informants (Glaser and Strauss 1967; Lincoln and Guba 1985) ensuring that the indi-
viduals we interviewed were from different academic disciplines. We continued inter-
viewing individuals at the Center until further interviews yielded no further insights,
reaching theoretical saturation (Glaser and Strauss 1967; Strauss and Corbin 1998). To
supplement our analysis, we analyzed the resumes of the people that we interviewed;
details of our informants are in Appendix A. In all, we conducted in-depth interviews
with 14 members at the Center between March and November 2012. The interviews
were semi-structured, consisting of open-ended questions such as: “What do you do as
a designer?”, “What words come to mind when you think about ‘design’?” (Appendix B). The interviews that we conducted lasted approximately 45 min on average, and were all
audio recorded and subsequently transcribed. Data analysis We content analyzed vocabularies (Krippendorff 2004) and generated first- and second-
order codes (Gioia et al. 2012) from the data. Examining vocabularies enables analysis of
data at the level of individual words to surface a semantic network of design vocabular-
ies. Thematic analysis by coding makes it possible for us to understand the larger theo-
retical categories that the vocabularies were constitutive of. Tharchen et al. J Org Design (2020) 9:21 Page 7 of 34 Content analysis We generated a list of individual words from the interview transcripts using the Word-
Stat text analysis module of QDA Miner (Péladeau 2004), a process that resulted in a
large number of words. In line with prior studies that have analyzed vocabularies, we
then identified words that were frequent enough (Jones and Livne-Tarandach 2008; Nag
et al. 2007) in the interview transcripts to meaningfully constitute the distinctive lexi-
con of a topic—design in our case. Following Merleau-Ponty’s (2012) “Phenomenology
of Perception”, we found that a cutoff frequency of five occurrences of a word (in total
across the 14 informants) offered a level of granularity and parsimony that generated a
gestalt understating of the meaning of design as accorded by the informants. Using this
cutoff, we generated an initial list of words for each informant. f
We then looked at these words in context, excluding those occurrences that were
unrelated to our informant’s meaning of design, including words such as common prep-
ositions, articles, common descriptors, and proper nouns. We consolidated the remain-
ing words by their commonly occurring variant or stem (Nag et al. 2007), for example
‘create’, ‘creative’ and ‘creativity’ collapsed into their stem ‘create’. Using this process,
we came up with a distinctive list of 116 words that our informants used while talking
about design, which we also verified as appropriate by reading the interview transcripts. Following this, we organized this list of words as vocabularies related to practices, and
orders of worth. Separately, we also classified words that were more general to the notion
of design. Table 1 shows the complete list of words across all informants that surfaced
from our analysis of the interview transcripts. Additionally, we sorted these words alphabetically and transferred them into a two-
mode matrix wherein the rows correspond with the individual words and the columns
with informants. In other words, the cells contain the frequency of use of individual
words across informants. We used the two-mode matrix as input to UCINET NetDraw
(Borgatti et al. 2002) to generate a semantic network that mapped individual words to
each informant as shown in Fig. 1. Coding g
Besides generating this network as a tool to visualize the different meanings associated
with design, we also analyzed the data to generate first-order and second-order codes
(Gioia et al. 2012) following the conventions of grounded theory (Glaser and Strauss
1967). While the first-order codes were based on informants’ statements, the second-
order codes distilled and assembled the first-order codes into higher order themes. The
first-order coding process involved reviewing the interview transcripts to identify ini-
tial concepts and ideas of the informants that were significant, using labels in the terms
actually used by the informants. This process of coding continued via the constant
comparative method (Glaser and Strauss 1967) whereby new data units over time and
across informants were either categorized under existing codes, or with new codes when
themes analytically different from existing codes surfaced. f
In all, our analysis yielded 14 first-order codes. We collapsed these 14 codes into
five second-order themes, which in turn were parsed across the two aggregate theo-
retical categories of practices and orders of worth. Tables 2 and 3 present a summary Page 8 of 34 Tharchen et al. J Org Design (2020) 9:21 Table 1 Vocabularies of practices, orders of worth, and general design terms Table 1 Vocabularies of practices, orders of worth, and general design terms Table 1 Vocabularies of practices, orders of worth, and general design terms
Practices
ALGORITHM
APP
ARCHITECT
BIM
BRAINSTORM
CAD
CIRCUIT
CIVIL
CODE
COGNITIVE
COMPLEX
COMPUTER
CONSTRUCTION
CONTRACTOR
COPYRIGHT
DEVICE
DIAGRAM
DISSECTION
DRAW
ELECTRICAL
ENGINEER
EXPERIMENT
GRAPH
HUMAN
INDUSTRY
ITERATE
JAVA
LAB
LAYOUT
LICENSE
MAP
MATH
MECHANICAL
MOCKUP
MODEL
MODULE
OBJECTIVE
OPTIMIZE
ORGANIZATION
ORGANIZE
PATENT
PREDICT
PROBLEM
PROCESSOR
PROGRAM
PROTOTYPE
PSYCHOLOGY
QUALITATIVE
QUANTIFY
REDESIGN
REPRESENTATION
REVIEW
ROBOT
SATELLITE
SCHEDULE
SIMULATE
SKETCH
SOFTWARE
STATISTIC
STRATEGY
STUDIO
SYSTEM
TECHNIQUE
TECHNOLOGY
VIRTUAL
VISUALIZE
WELD
Orders of worth
AESTHETICS
BEAUTY
BUDGET
BUSINESS
COMFORT
COST
CUSTOMER
EFFICIENCY
ELEGANT
ETHICS
FUNCTION
INNOVATE
LEGAL
LOGIC
MARKET
MONEY
NEW
NOVEL
PERFORM
PROFIT
QUALITY
RATIONAL
RELIABILITY
RISK
TRADEOFF
USE
UTILITY
General design terms
ART
ARTIFACT
BUILD
CLIENT
CREATE
CRITIQUE
FEEDBACK
FORM
IDEA
INTERACT
INTERFACE
MAKE
OWNER
PATTERN
PLATFORM
PROCESS
PRODUCT
PROJECT
SPACE
STAKEHOLDER
THEORY
TIME of this data analysis, highlighting the supporting illustrative quotes (column 1), the
informant-based first-order codes (column 2), and the induced second-order themes
(column 3), under each of the two aggregate theoretical categories of practices and
orders of worth, respectively. Findings In this section, we provide details of the vocabularies, practices, and orders of worth
used by the members of the design Center. The findings show that different disciplines
have their own distinctive set of vocabularies, practices, and orders of worth associ-
ated with their understanding of what it means to design. They also show a structure Tharchen et al. J Org Design (2020) 9:21 Page 9 of 34 Legend
Disciplinary background of Informants
Orders of Worth
Practices
General Design terms
Cluster 1
Cluster 2
Fig. 1 Semantic network showing interlacing of vocabularies, practices and orders of worth across
informants Fig. 1 Semantic network showing interlacing of vocabularies, practices and orders of worth across
informants of overlapping similarities and differences across the vocabularies, practices, and
orders of worth in use. Design as open-ended engagement and
constantly ‘evolving’, ‘changing’, having
a ‘life’, etc. Design using qualitative tools such as
‘sketches’, ‘studio’, ‘brainstorming’, ‘dia-
grams’, ‘maps’, ‘layouts’, etc. Design as problem solving including meet-
ing ‘objectives’ and ‘requirements’, and
establishing functionality
Design approaches Table 2 Data structure underlying theoretical category of practices Second-order themes Illustrative quotes Design using quantitative tools such as
‘equations’, ‘simulations’, statistical ‘mod-
els’, ‘algorithms’, ‘optimization’, etc. When we teach design as a faculty group
one of the funniest things is we hate
projects that don’t have spreadsheets,
graphs and equations. We don’t think its
design unless it has spreadsheets, graphs
and equations and analysis and stuff like
that. (engineering designer 4)
[What are the words that come to your
mind when you think about design?]
Innovation, time to innovation, evaluation,
simulation, fidelity of representation,
understanding, risk—so all these things. (civil engineer) When we teach design as a faculty group
one of the funniest things is we hate
projects that don’t have spreadsheets,
graphs and equations. We don’t think its
design unless it has spreadsheets, graphs
and equations and analysis and stuff like
that (engineering designer 4) Innovation, time to innovation, evaluation,
simulation, fidelity of representation,
understanding, risk—so all these things. (civil engineer) [H]ow do you drive that model to explore
the different options and tradeoff
between this set of features versus that
set of features, the costs, reliability. And
so from a—from a design perspective—
it’s optimization, it’s visualization, those
sort of things (mechanical engineer) My training was hand drawing entirely,
and doing everything through sketch-
ing. (architect) [S]o you have to design a site layout,
that would allow for you to deliver the
project per your schedule but also make
sure you don’t violate anything that the
owner may have as a requirement or a
need (architectural engineer) I try to create an environment where when
we brainstorm ideas the weirdest and
goofiest ones are welcomed. (industrial
psychologist) We’re trying to make students understand
that before you can actually get to a
physical design you have to understand
the problem. (engineering designer 1) Design is just making an attempt to meet
some objective (management expert 2) [D]esign is part of the process of both
understanding the user’s needs and
requirements (industrial engineer) [D]esign is part of the process of both
understanding the user’s needs and
requirements (industrial engineer) I think it’s a constantly evolving process
and no—even legally it doesn’t end. Vocabularies For illustrative purposes, we zoom into the vocabularies of two of our informants, com-
puter scientist and architect as shown in Fig. 2a, b, respectively. As anticipated, data anal-
ysis revealed that the vocabularies used by these informants were consistent with their
disciplinary training. For example, the vocabulary of computer scientist (Fig. 2a) includes
words such as ‘code’, ‘platform’, ‘program’, ‘app’, ‘circuit’, ‘efficiency’, etc., while that of
architect (Fig. 2b) includes words such as ‘sketch’, ‘art’, ‘representation’, ‘studio’, etc. Moreover, as noted earlier, the vocabularies of both informants contained the prac-
tices (tools and artifacts such as ‘code’, ‘sketch’, etc.) and orders of worth (such as ‘effi-
ciency’, ‘beauty’, etc.) of their discipline, and are hence constitutive of their design games
in the discipline of computer science and architecture, respectively. Yet, as Fig. 2c shows,
words such as ‘idea’, ‘make’, ‘build’, ‘model’, ‘process’, ‘theory’, ‘project’, etc., were common
to both the computer scientist and the architect. This structure of overlapping similarities and differences in vocabularies was common
across other informant pairs as well. To make sense of this structure of similarities and Page 10 of 34 Tharchen et al. J Org Design (2020) 9:21 Interaction with designers outside of one’s
own discipline Practicesi We first identified and elaborated on the categories of practices that emerged from our
grounded analyses of the data. This step then served as the basis for examining the simi-
larities and differences in the practices across members of the design Center. Illustrative quotes Interaction with material artifacts such as
‘prototypes’, and ‘mockups’
Interactions And, how do we convert those [customer
needs] into requirements to drive the
design? By having some processes to
develop various concepts, selecting
those concepts, prototyping them and
eventually to the final design. And, it
is highly iterative. I mean at any point
you may need to go back. (engineering
designer 3)i [I]nnovation is defined as the implementa-
tion of creative ideas, [you] come up
with a new and different idea, sketch
it out, prototype it, [and then] actually
see it made, implemented and tested. (industrial psychologist) [I]nnovation is defined as the implementa-
tion of creative ideas, [you] come up
with a new and different idea, sketch
it out, prototype it, [and then] actually
see it made, implemented and tested. (industrial psychologist) So I interact with a lot of discipline specific
designers, so circuit designers, mechani-
cal hardware designers, spacecraft
mechanism designers [and] with other
systems engineers. (engineering designer
3) We led—the series of workshops a couple
of years ago on interdisciplinary design
[which] was really good exposure
to—how does architecture come at the
problem versus industrial design versus
engineering design versus IST or some-
body else? (mechanical engineer) I study designers …And so my interaction
with them is really learning what they do
and what their process is like and how
it differs from the traditional engineer-
ing model and how it can kind of
incorporate some of that back together. (engineering designer 2) differences, we examined how these words were tied to the practices and orders of worth
of design across disciplines. differences, we examined how these words were tied to the practices and orders of worth
of design across disciplines. Table 2 (continued) Table 2 (continued) Illustrative quotes I
mean there are ways the legal process
keeps moving not just with a single idea
that might get litigated but ideas can
be pursued as follow-on inventions and
creativities that iterate a process (patent
lawyer) It’s really emphasizing how important
design is, to get it right, because it’s
something you’re going to live with—for
any of the long-lived software (computer
scientist) You can evaluate a design after three
months, after six months and after a year
and after ten years and it can succeed in
a lot of different ways and fail in a lot of
different ways. So you cannot anticipate
all the ways in which the design will get
used. (engineering designer 4) Tharchen et al. J Org Design (2020) 9:21 Page 11 of 34 Page 11 of 34 Categories of practices (industrial psychologist)
Novelty
There is a philosophy that is aligned with the
research that I do that says at least some
aspects of design can be driven by what
customers want. (management expert 2)
Then we go look [to] capturing customer
needs—how do we convert those into
requirements to drive the design (engineering
designer 3)
I am trained to help people conceptualize what
their inventions—and in this case we might
even extend that to designs—help capture
them as property rights and potentially
exploit them. I also think about how that is
likely to impact business (patent lawyer)
Market success
We’ll look at the interaction of the product
and the person. So it can be anything from
comfort—to the interaction in terms of fun
factor. Engagement is a really important fac-
tor. (engineering designer 2)
Another aspect of design that I’ve gotten into
more [is] user interface design, you’ve got to
think about “well, how is the user going to
interact with this? How is that going to hap-
pen?” (computer scientist)
Interactivity First-order codes Categories of practices Table 2 highlights illustrative quotes supporting three major categories of practice that
emerged—design tools (quantitative and qualitative), design approaches (problem-solv-
ing and open-ended engagement), and interactions (with material artifacts and individu-
als outside of one’s own discipline). We describe these in greater detail below. Design tools It is not surprising that design tools emerged prominently as one of the cat-
egories of practice. Consistent with the performative turn (Pickering 1993, 1995), design
is to be understood in its implementation, and from this vantage point, the “tools of the
trade” (Beunza and Stark 2004) are central. We found two kinds of design tools being Page 12 of 34 Page 12 of 34 Tharchen et al. J Org Design (2020) 9:21 Table 3 Data structure underlying theoretical category of orders of worth
Illustrative quotes
First-order codes
Second-order themes
A number of aspects [define a good code]. One [is] efficiency in terms of the amount
of memory or processor time—space–time
are [the] two aspects of efficiency. (computer
scientist)
We’ve got too many products already out there. There’s not enough commonality. How do
we get better? How do we standardize that? How do we consolidate it?” …to try and
get cost savings that are efficiency-reduced
complexity? (mechanical engineer)
There’s no reason you couldn’t do that to say
“is this an efficient courtroom design layout”
from some automated calculation. (architec-
tural engineer)
Product efficiency
Product oriented orders of worth
But I like the idea that we concentrate more on
designing fewer things and more beautiful
things (engineering designer 4)
If you look at what goes into a really polished
app, it would include things like good art-
work (computer scientist)
So design typically involves coming up with
something that has maybe an aesthetic
appeal (industrial psychologist)
Visual and symbolic beauty
So a design is a new description, so there is a
concept of newness. (management expert 2)
Maybe the redemption of the computer is that
we need to find ways to—to tweak it and use
it in ways that it was never intended to be
used. (architect)
But what I really like studying is the people and
places that come up with new and different
things and to me that’s always going to be
interesting. Table 3 (continued) Illustrative quotes
First-order codes
Second-order themes
I do engineering design research. And to me,
that means what methods and tools, [and]
processes make designers more efficient or
effective. (mechanical engineer)
[I have] done a lot of research in building
information modeling providing practical
guidance to project teams to design efficient
BIM implementation strategies [and] written
and developed guides that allow people to
design a process for modeling for a project. (architectural engineer)
Process efficiency
Process oriented orders of worth
We did the creative campus project—it
was engineering, architecture, landscape
architecture and dance …very interesting
project of trying to get all those groups work-
ing together [which] was fun. (mechanical
engineer)
Well I think what [interactions have] done is it’s
helped me understand design as done in dif-
ferent disciplines (engineering designer 3)
Interdisciplinary interactions
Engineers are notoriously bad [laughs] at
understanding how important design is,
because most of our curriculum here never
addresses that. (computer scientist)
Design specifically, I think I didn’t understand as
much. And so that’s kind of what motivated
me towards thinking about design and things
like that more formally. (civil engineer)
I think if it [design] ultimately lies somewhere
it’s at the overlap of disciplines. I don’t think
any discipline owns it nor should they, with
it being as broad and applicable as it is to
everyone. (industrial psychologist)
Reflexivity Illustrative quotes Product efficiency A number of aspects [define a good code]. One [is] efficiency in terms of the amount
of memory or processor time—space–time
are [the] two aspects of efficiency. (computer
scientist) A number of aspects [define a good code]. One [is] efficiency in terms of the amount
of memory or processor time—space–time
are [the] two aspects of efficiency. (computer
scientist) We’ve got too many products already out there. There’s not enough commonality. How do
we get better? How do we standardize that? How do we consolidate it?” …to try and
get cost savings that are efficiency-reduced
complexity? (mechanical engineer) We’ve got too many products already out there. There’s not enough commonality. How do
we get better? How do we standardize that? How do we consolidate it?” …to try and
get cost savings that are efficiency-reduced
complexity? (mechanical engineer) p
y
g
There’s no reason you couldn’t do that to say
“is this an efficient courtroom design layout”
from some automated calculation. (architec-
tural engineer) There is a philosophy that is aligned with the
research that I do that says at least some
aspects of design can be driven by what
customers want. (management expert 2)
Market success Then we go look [to] capturing customer
needs—how do we convert those into
requirements to drive the design (engineering
designer 3) I am trained to help people conceptualize what
their inventions—and in this case we might
even extend that to designs—help capture
them as property rights and potentially
exploit them. I also think about how that is
likely to impact business (patent lawyer) We’ll look at the interaction of the product
and the person. So it can be anything from
comfort—to the interaction in terms of fun
factor. Engagement is a really important fac-
tor. (engineering designer 2) Another aspect of design that I’ve gotten into
more [is] user interface design, you’ve got to
think about “well, how is the user going to
interact with this? How is that going to hap-
pen?” (computer scientist) Page 13 of 34 Tharchen et al. J Org Design (2020) 9:21 Table 3 (continued) Interdisciplinary interactions Illustrative quotes I do engineering design research. And to me,
that means what methods and tools, [and]
processes make designers more efficient or
effective. (mechanical engineer) I do engineering design research. And to me,
that means what methods and tools, [and]
processes make designers more efficient or
effective. (mechanical engineer) [I have] done a lot of research in building
information modeling providing practical
guidance to project teams to design efficient
BIM implementation strategies [and] written
and developed guides that allow people to
design a process for modeling for a project. (architectural engineer) We did the creative campus project—it
was engineering, architecture, landscape
architecture and dance …very interesting
project of trying to get all those groups work-
ing together [which] was fun. (mechanical
engineer) g
Well I think what [interactions have] done is it’s
helped me understand design as done in dif-
ferent disciplines (engineering designer 3) alluded to—what we label as quantitative and qualitative. Quantitative tools include
mathematical and statistical representations such as ‘equations’ (engineering designer
4), ‘simulations’ (management expert 2, civil engineer), statistical ‘models’ (management
expert 2, engineering designer 1), ‘algorithms’ (computer scientist), ‘optimization’ (mechan-
ical engineer, civil engineer), etc. For example, an industrial engineer described the use of
statistical tools in the design process: alluded to—what we label as quantitative and qualitative. Quantitative tools include
mathematical and statistical representations such as ‘equations’ (engineering designer
4), ‘simulations’ (management expert 2, civil engineer), statistical ‘models’ (management
expert 2, engineering designer 1), ‘algorithms’ (computer scientist), ‘optimization’ (mechan-
ical engineer, civil engineer), etc. For example, an industrial engineer described the use of
statistical tools in the design process: [Our] design problem basically was grounded in a lot of statistical comparisons. So we look at risk perceptions between different stakeholders and boil them down
in terms of statistical comparisons—whether it be inferential statistics like t-tests,
ANOVAs or clustering methods. (industrial engineer). Quantitative tools also assumed a wide variety of functions such as: predicting the per-
formance of a design (management expert 2), converting customer needs into require-
ments (engineering designer 3), generating tradeoffs in designs (civil engineer), etc. For some, quantitative tools were central to their practice of design. As an engineering
designer mentioned: The engineering design process can be quantified and replicated, and there is evi-
dence that it actually influences solutions. So, when people do not try to move Page 14 of 34 Tharchen et al. Illustrative quotes J Org Design (2020) 9:21 Vocabulary of Computer Scientist
a
b
c
Vocabulary of Architect
Similarities and Differences in Vocabularies of Computer Scientist and Architect
Fig. 2. a Vocabulary of computer scientist. b Vocabulary of architect. c Similarities and differences in
vocabularies of computer scientist and architect Vocabulary of Computer Scientist
a
b
c
Vocabulary of Architect
Similarities and Differences in Vocabularies of Computer Scientist and Architect b
Vocabulary of Architect Vocabulary of Computer Scientist
a c Similarities and Differences in Vocabularies of Computer Scientist and Architect Similarities and Differences in Vocabularies of Computer Scientist and Architect
Fig. 2. a Vocabulary of computer scientist. b Vocabulary of architect. c Similarities and differences in
vocabularies of computer scientist and architect Fig. 2. a Vocabulary of computer scientist. b Vocabulary of architect. c Similarities and differences in
vocabularies of computer scientist and architect towards quantification gives me cause for concern. (engineering designer 1). In addition to quantitative tools, the data also showcased the use of multiple quali-
tative tools such as ‘sketches’ (architect), ‘diagrams’ (computer scientist, engineering
designer 3), ‘maps’ (architectural engineer, management expert 2), ‘layouts’ (architectural
engineer), ‘word cards’ (engineering designer 2), ‘brainstorming’ (architect, industrial psy-
chologist, engineering designer 1, engineering designer 3, mechanical engineer), ‘studios’
(architect, architectural engineer, mechanical engineer), and ‘interviews’ (engineering
designer 2, architectural engineer) in the design practices of informants. As an example,
an architect described the use of sketches in aiding improvisation: I intentionally only had a very rough sketch [of a tree house] and tried to build it like
a kid would build it, which was mostly improvisational. (architect). I intentionally only had a very rough sketch [of a tree house] and tried to build it like
a kid would build it, which was mostly improvisational. (architect). Other qualitative tools such as diagrams, maps, and layouts aided visualization of
the design process by “map[ping] out modeling tasks that are going to be performed, Tharchen et al. J Org Design (2020) 9:21 Page 15 of 34 Page 15 of 34 and identifying information exchanges that go between those tasks” (architectural
engineer). These tools also enabled effective translation of ideas to other individuals. To illustrate: So one of the tools that we use is what’s called a concept of operations diagram. It’s
essentially like an executive summary of how the system is working…it’s almost like
a pictorial of some complex thing and it’s got ‘Here’s how this whole thing works.’ It
takes a while to develop that, and when you have that tool, it’s used to communicate
between the system acquirer or the person that wants the system and the people that
are developing the system to make sure that they’re on the same page. (engineering
designer 3). Informants also used ‘studios’ in their design practices. An industrial psychologist dis-
tinguished it from quantitative engineering tools: Studio approaches always fascinated me–just so much hands on and so much con-
stant feedback and it’s just so different from what we do and what the engineers do. (industrial psychologist). Engineering designer 2 mentioned the use of ‘word cards’, and ‘interviews’ to enable the
designer to get better feedback on user engagement with the design: We draw from industrial design too where people pull in words [from word cards]
that they think represented their experiences with it [the design]…Or you can inter-
view them afterwards and ask them “How did you feel about your engagement with
this device? (engineering designer 2). In summary, the analysis of the data showcased both quantitative and qualitative tools. While the former set of tools was based on measurable facts, the latter set was based on
intuitive approaches that enabled visualization, facilitated improvisation, and generated
feedback during the design process. It is in the combination of these two types of tools
that design appeared to unfold. Design approaches A second category of practice had to do with the approaches par-
ticipants used to design, which were manifest as problem-solving and open-ended engage-
ment. I intentionally only had a very rough sketch [of a tree house] and tried to build it like
a kid would build it, which was mostly improvisational. (architect). The problem-solving approach to design was ‘rational’ (management expert 1), ‘log-
ical’ (engineering designer 1) and focused on arriving at a desirable ‘solution’ to the ‘design
problem’ at hand (e.g., computer scientist, architectural engineer, engineering designer 1,
management expert 1, etc.). An engineering designer best described the problem-solving
approach in the following terms: The engineering design process—what we do is we try to define the problem. So first
we’ve got to figure out what the problem is…[then] you need to solve it…So scoping
that problem is a very critical part. What is it that you are working towards? (engi-
neering designer 3). For the engineering designer, the practice of design begins with problem definition and
then moves onwards to find a solution to the problem. Another engineering designer we
spoke to contrasted a problem-solving approach with the practice of design in fashion
design: Tharchen et al. J Org Design (2020) 9:21 Page 16 of 34 I view design more as working towards a problem that I can understand. When I
look at a catwalk, I don’t understand it, and I know that [fashion] designers design
these things. Of course, there is value in there, but I think it’s just a different use of
the term [design] than how I use it. (engineering designer 2) (emphasis added). As evidenced, for engineering designer 2, what fashion designers do is not a facet of
design he understood, as it lacked an emphasis on problem solving. Yet, he saw some
value in fashion design, even though he did not fully understand it. We return to this
notion of reflexivity, an attribute that we found in all the people we interviewed, later
in the document. The focus on problem solving also extended to disciplines outside of engineering. To illustrate: I clearly think of my concept of design as a pretty rational kind of process. What
are you trying to achieve and how should you go about it? …There is the beast on
the table. What’s the best design that we can come up with so that it has a good
chance of being successful in its environment? (management expert 1). Management expert 1 likewise associated design with first identifying and defining
the problem, and then generating the ‘best’ solution to address the problem. Reflect-
ing his background, he offered that an organization must be designed to increase the
likelihood of its success in competitive environments. I intentionally only had a very rough sketch [of a tree house] and tried to build it like
a kid would build it, which was mostly improvisational. (architect). However, there were informants who were critical towards the ‘problem solving’
approach. For instance, an engineering designer considered this approach as limiting
the scope of what could be achieved through design as an activity: [Design] is not just problem solving, which is engineering culture. So engineers in
the design process—they view it as a problem and solve it in 30 min… Engineers
have no clue what a vision is. Their vision—is a neat little technical problem they
have to solve. (engineering designer 4). This observation draws attention to a second approach to design, one characterized
by greater open-endedness. To illustrate: [Design] is a projectile thrown into the future. I don’t like the problem-solving
definition that often is used…to me it’s always somewhat provisional…You make
design proposals, but I never necessarily assume they’re right or perfect—so
they’re always open to modification, to rethinking. (architect). The above quote highlights that design is always provisional and open to modifica-
tion, in contrast to being a final solution. Such an open-ended approach to design
was also emphasized by a computer scientist who emphasized the constantly changing
nature of software designs: One of the aspects of software is that it’s not a static object. It’s something you build
once but it will have a life of its own. It’s going to go into production, it might be used
for 10, 20 years. Someone else is going to look at it and modify it, extend it. So you
can’t just have something that works, it’s also got to be able to live, in terms of other
people looking at it, modifying it, extending it, changing it. (computer scientist). Tharchen et al. J Org Design (2020) 9:21 Page 17 of 34 Other informants attributed to design a ‘living quality’ in the following terms: I believe that design is something that maybe starts with some initial ideas but
gets developed and changed and grows and sometimes retracts over time. (patent
lawyer). I think it’s a lot like life—a building has a life. It’s not a static thing. (architect). J Org Design (2020) 9:21 Page 18 of 34 I am collaborating with computer scientists, neurologists, artists… It’s one of those
things that we’re synthesizing knowledge and creating new ideas. (engineering
designer 1). An architect reflected that collaboration with engineers made him fluent in their
design practices and the terms to use that they would value: In the last four or five years I’ve been doing a lot of collaborative research with engi-
neering faculty, so I’m getting to the point where I speak engineer … but obviously I
still root it in architecture (architect). Such interactions arose because design projects such as buildings “[are] too complex
for any one person to understand all aspects of it” (architect), and also because the out-
comes of interdisciplinary interactions in collaborative projects were likely to be new to
all. A civil engineer shared with us the novel outcome of an interdisciplinary collabora-
tion with aerospace engineers: I talked to some aerospace people [to design] the software, a primary design tool
for US satellite assets … it wouldn’t happen without collaboration, openness, going
across disciplinary boundaries. (civil engineer). I think it’s a lot like life—a building has a life. It’s not a static thing. (architect). In sum, we found two approaches to design: problem solving, which prescribes com-
pleteness in problem definition and aims at arriving at the ‘optimum’ or ‘best’ solu-
tion, and open-ended engagement, which anticipates designs to be always incomplete
and “perpetually in the making” (Garud et al. 2008: 356). Interactions Besides the tools of the design trade and the approaches to design, the
data revealed another important facet of the design process: interactions with material
artifacts and with designers outside of one’s own discipline. Interaction with material
artifacts such as ‘prototypes’, (engineering designer 1, engineering designer 3, engineer-
ing designer 4, mechanical engineer, industrial psychologist), and ‘mockups’ (architec-
tural engineer) enabled iteration and feedback in the design process. An engineering
designer explained the use of prototypes in the design process: You brainstorm and think of things that you hadn’t thought about. You build
a couple prototypes. You test. You see the things about the final solution that
weren’t in the problem statement and then you continue to iterate until you actu-
ally end up with…[the solution] (engineering designer 1). Another informant, an architectural engineer highlighted the use of ‘mockups’ to
improve the quality of feedback received from prospective users of the design. We’ve done a lot of virtual mockups that allow a user group to live navigate those
models inside of an immersive display on a one-on-one scale. They can walk
around, look at the space and get a better sense of scale and the environment and
can provide better feedback. (architectural engineer). Interaction with material artifacts such as ‘prototypes’ and ‘mockups’ helped
designers concretize design concepts. They also enabled meaningful iterations by
“expressing, developing, detailing, communicating, and presenting an evolving design
concept” (Wagner 2000: 379) for testing and feedback in the design process, and
thereby enabling different stakeholders to easily understand the design: I think we’ve found that having the models can be a very productive communica-
tion tool…I think it … levels the playing field for everyone’s understanding of what
the design actually is. (architectural engineer). Interactions were not just limited to material artifacts, but also extended to inter-
actions with designers from other disciplines. This was manifest in the references
informants made to design projects involving collaboration with individuals outside
of their own discipline. Engineering designer 1 described in the following terms one of
his collaborative projects: Tharchen et al. Similarities and differences in practices across disciplines So far, we examined the design practices used by the members of the Center. Our inves-
tigation revealed that these practices varied across members we investigated. Although
we already alluded to some similarities and differences, it is useful to explore them in
greater detail. For instance, how did different disciplinary groups use the practices they
mentioned? Did practices neatly separate out across the individuals, or were there some
commonalities? The results of our analysis are summarized in Table 4. Specifically, the table highlights
the similarities and differences in the practices across all informants. As an illustration,
consider the practices of an architectural engineer (Table 4) and those of an industrial
engineer (Table 4). Both share commonalities in practices such as in their problem-solv-
ing approaches to design and in their use of quantitative tools. However, architectural
engineer used qualitative tools and interactive material artifacts, which were absent in
the practices of industrial engineer. This pattern of similarities and differences in prac-
tices exists across all informants as illustrated in Table 4. Whereas the differences in practices are a result of differences in disciplinary training
and orientation of informants, the similarities point to overlaps in some of the practices
across different disciplines. For example, informants from the mainstream engineering
disciplines placed emphasis on quantitative tools and a problem-solving approach (e.g.,
engineering designer 1, engineering designer 3, civil engineer, mechanical engineer). By
contrast, other informants emphasized qualitative tools (e.g., architect, industrial psy-
chologist, architectural engineer) and open-ended engagement (e.g., architect, patent
lawyer). These differences in orientations were persuasively articulated by the architect who
challenged the assumption that every aspect of the design could be quantified. To
illustrate: Page 19 of 34 Tharchen et al. Similarities and differences in practices across disciplines J Org Design (2020) 9:21 Table 4 Similarities and differences in practices across informants
Biographical sketch of each informant is summarized in Appendix A
Practices
Informants
Computer
scientist
Management
expert 1
Management
expert 2
Architect
Architectural
engineer
Engineering
designer 1
Engineering
designer 2
Engineering
designer 3
Engineering
designer 4
Industrial
psychologist
Patent
lawyer
Civil
engineer
Industrial
engineer
Mechanical
engineer
Design tools
Quantita-
tive tools
X
+
X
+
X
X
+
X
+
+
X
X
X
Qualitative
tools
+
+
X
X
+
X
+
X
X
+
Design approaches
Problem
solving
X
X
X
−
X
X
X
X
−
X
X
X
X
X
Open-
ended
engage-
ment
X
+
X
+
X
X
Interactions
Interaction
with
material
artifacts
X
X
X
X
X
X
Interaction
with
design-
ers
outside
of one’s
discipline
+
+
X
X
X
X
X
X
X
X
X
X
+
X Tharchen et al. J Org Design (2020) 9:21 Page 20 of 34 [The assumption] that everything can be measured and everything can be put in
some kind of numerical form… I don’t think that’s actually true. (architect). The same architect also critiqued the problem-solving approach to design advo-
cated by others: I know a lot of people like to talk about ‘we solve problems.’ But, I don’t think
everything that we do, intends to be a solution—certainly not a final solution. To
me, [the notion of a] problem always has some difficult connotations. It’s a very
technological world view. I design and build a tree house for my son, and at no
point in that process did I ever consider it a problem. I considered it an opportu-
nity, I considered it a challenge, I considered it a chance to express. (architect). Notwithstanding these differences, an emphasis on interactions with designers
outside of their own discipline was common across informants. Indeed it was such
an emphasis that led these individuals to interact with each other. Informants across
disciplines emphasized such interactions in their design practices in the following
ways: Interdisciplinary work is very important. Just working with a bunch of engineers
doesn’t excite me as much anymore (mechanical engineer). Similarities and differences in practices across disciplines We don’t embrace technology in the way that architects and engineers do and so
spending time with folks outside of my discipline makes me realize that there is
a rapidly changing world and we need to pay better attention to it to understand
really what’s truly happening now—right now—in the creativity world (indus-
trial psychologist). I was looking at collaboration between architects and engineers. What were the
issues? What were the barriers? What were the impediments to more effective
collaboration between architects and engineers? (architect). In sum, although we found less convergence on the practice dimensions of design tools
(quantitative and qualitative), and design approaches (problem-solving and open-ended
engagement), we found convergence on the degree to which informants across disci-
plines emphasized interdisciplinary interactions in their design practices. These findings
suggest that the desire to interact is important for these individuals despite and even
because of differences in design practices across disciplines. Together these practices,
i.e., design tools, design practices and interactions inscribe the horizon of possibilities
(Nicolini 2012) of design outcomes across disciplines such as buildings (architect, archi-
tectural engineer), surgical tools (engineering designer 2), organization designs (manage-
ment expert 1), apps (computer scientist) and others. Categories of orders of worth Our data analysis revealed two major categories of orders of worth—product oriented
and process oriented (Table 3). Product oriented orders of worth covered facets of the
designed product such as ‘product efficiency’, ‘visual and symbolic beauty’, ‘novelty’,
‘market utility’, and ‘interactivity’. Process oriented orders of worth had to do with ‘pro-
cess efficiency’, ‘interdisciplinary interactions’ and ‘reflexivity’ in the design process. Product oriented orders of worth Informants invoked ‘product efficiency’ as an order
of worth in the design of various artifacts such as: programming codes that efficiently
utilized memory space and processor time (computer scientist), risk management tools
that optimized search and visualization of tradeoffs (civil engineer), product designs that
enabled cost savings (mechanical engineer), and courtrooms and work environments
designed for efficiency (architectural engineer, industrial engineer). Or, they alluded to
designs that effectively performed some function (management expert 2, engineering
designer 1, engineering designer 3). A management expert alluded to the effective design
of organizations in the following way: [We] are designing, for example, organizations that have desirable properties that
we believe will make them effective in their environments and can accomplish their
purposes…What are the desirable properties that you want to try to build in to the
artifact called …an organization (management expert 1). Informants also invoked ‘visual and symbolic beauty’ as an order of worth, mentioning
designs such as ‘[user] interfaces’ that looked beautiful (computer scientist), or generally
advanced the value of beauty and aesthetics (engineering designer 4, industrial psycholo-
gist). Symbolic beauty as an order of worth was strongly invoked by an architect who
championed its intrinsic importance, challenging the premise that designs should be
based only on functional utility. To illustrate: Drawings have symbolic importance as well. They are beautiful in their own right. But, if a drawing is just an instrumental representation of something that can be
made, then it eliminates our ability to think of things that can’t be made. It con-
strains your imagination, I think, in not good ways. (architect). Novelty also emerged as an important order of worth across informants. Orders of worth Just as with practices, we first identified from the interview data the orders of worth
surfaced by our informants. This step served as the basis for examining the similari-
ties and differences in these orders of worth across members of the design Center. Tharchen et al. J Org Design (2020) 9:21 Page 21 of 34 agement expert 2). agement expert 2). agement expert 2). Across informants, ‘market utility’ of the design emerged as an important order of
worth. For instance, informants mentioned design as the creation of products acceptable
to customer needs (management expert 2, engineering designer 3), or even exploiting a
given market (civil engineer, patent lawyer). To some informants, market utility assumed
utmost priority. For instance, a mechanical engineer noted: In product family [design] amazingly, the Best Buys and the Targets and the
Walmarts of the world are dictating the entry-level product on the shelf. A company
has to figure out what features need to be packed into the product given that the
only way it is on the shelf is if it sells for $[x]. (mechanical engineer). Management expert 2 also called for the need to appreciate market-oriented design
as a welcome correction to the conventional performance-oriented design. To illustrate: So, all the engineering models work in the wrong direction—from design to perfor-
mance to market acceptability. Instead it should be from market acceptability to
performance to design. (management expert 2). Closely related to the market, informants invoked ‘interactivity’ of the product as an
important order of worth related to comfort (engineering designer 2) and ease of interac-
tion (computer scientist) with the designed product. To illustrate this order of worth, an
Engineering Designer pointed out the interactive features of the Apple iPhone: The first iPhone revolutionized the industry as a whole; it was a paradigm shift in
how people interacted and how they perceived phones. It became more than just a
phone. (engineering designer 1). Informants also mentioned “drawings that have changed the way we think about space”
(architect), “technologies that have transformed what it means to be human” (engineer-
ing designer 4), or “design of user experiences” as examples of interactive designs. Process oriented orders of worth Informants valued efficiency in the design process in
terms of ‘optimization’ to get the best product design (mechanical engineer), ‘minimizing’
the number of iterations to generate a solution (engineering designer 1), effective design
processes founded on design principles (management expert 1, computer scientist),
and the use of statistical models and algorithms (management expert 2, civil engineer,
engineering designer 3). An architectural engineer highlighted making ‘efficient’ use of
resources as a distinguishing feature of the construction design process: The construction process is probably much more specific and discrete. Categories of orders of worth Informants
who valued ‘novelty’ emphasized its importance observing: “if you were just doing what
has already been done, you’re not designing” (civil engineer), “so when I think about
somebody designing something, or creating a design, or participating in the design pro-
cess, it’s about creating something new that hasn’t existed before” (patent lawyer), “when
you are doing design you are trying to build things that never existed before” (engineer-
ing designer 4). Recalling his interactions with a circuit designer, management expert 2
also emphasized novelty as a virtue that distinguished design from other activities: The guy [circuit designer] pulls out a book, flips to the page where that circuit is and
says, “There it is.” So I thought, I wanted to be a designer; I don’t want to be a cook. This guy has a cookbook and any time he needs a circuit he opens up the cookbook
and there is the circuit. He just has to plug in the numbers for his particular use. …
So a chef could create something, a chef is a designer, a cook is not a designer. (man- Tharchen et al. J Org Design (2020) 9:21 Tharchen et al. J Org Design (2020) 9:21 Page 22 of 34 agement expert 2). Certainly, effi-
cient use of resources is probably one of the keys. From a construction standpoint,
how effectively are they using equipment, crews, materials? How effectively are they
meeting the budget for that project? (architectural engineer). Informants also valued their ‘interdisciplinary interactions’ in the design process. An
engineering designer commented that working with interdisciplinary teams generated
multiple ways of approaching the ‘design problem’. To illustrate: When I’m hiring…, I’ll have mechanical engineers, computer scientists, industrial Tharchen et al. J Org Design (2020) 9:21 Page 23 of 34 engineers all working together…I believe that any good design starts from viewing
the problems in a different way. This is central to the design process; you have people
in varying degrees of expertise that come together and show different outlooks on the
problem. (engineering designer 2). A mechanical engineer mentioned how interactions with architects had enhanced his
learning about the design process in architecture: It was very interesting working with a different group. I was surprised how much I
learned and got out of interacting with the architectural design process in compari-
son to the engineering one. (mechanical engineer). Interdisciplinary interactions were also the focus of various design workshops organ-
ized by the Center. These workshops focused on topics such as designing an interdis-
ciplinary graduate design curriculum and fostering better collaboration on design
research across disciplines. For example, one workshop organized by the Center in 2010
titled: “When Engineering Design Meets Architecture” focused on overcoming the “lan-
guage barriers” that impeded successful collaboration between architecture and engi-
neering disciplines, and recommended the development of design curriculum that led to
“T-shaped people”, who not only had in-depth knowledge of design within their own dis-
cipline, but were also knowledgeable about design as practiced across other disciplines. Supporting these interdisciplinary interactions was the notion of reflexivity (Cunliffe
2003; Cunliffe and Jun 2005) in the design process, i.e., an awareness of the assumptions
and biases in any design approach, and a realization that any notion of design is always
incomplete. To illustrate: For me, design is like an elephant. Each blind man comes up to the elephant and
gets a different perspective on what design is. There are many different characteris-
tics of design. I have two or three blind men’s views of the elephant. So I can appre-
ciate multiple perspectives, but they are still incomplete. Each one [perspective] is
incomplete. (management expert 2). Similarities and differences in orders of worth across disciplines Table 5 provides a summary of the orders of worth across informants. For example, we
see from Table 5 that management expert 2 (Table 5) places primary emphasis on ‘prod-
uct efficiency’, ‘novelty’, ‘market utility’, and ‘process efficiency’ besides valuing ‘interdis-
ciplinary interaction’ and ‘reflexivity’ in the design process. The other orders of worth
namely ‘visual and symbolic beauty’ and ‘interactivity’ are subordinate in importance
for management expert 2. Thus management expert 2 invokes multiple orders of worth
simultaneously, and also has in place a hierarchy of values (Henn 2013). We see this pat-
tern in the orders of worth of all other informants. Table 5 also highlights the structure of similarities and differences in these orders of
worth across informants. As in the case of practices, we found these orders of worth to
be closely tied to informants’ disciplinary training. For example, we found both ‘product
efficiency’ and ‘process efficiency’ to be orders of worth of primary emphasis amongst
informants from the engineering disciplines (e.g., engineering designer 1, engineering
designer 3, mechanical engineer, civil engineer, etc.). In contrast, an architect questioned
the very premise of efficiency as a driver of design, attributing negative value to it in his
practice. If efficiency puts lots of people who formerly enjoyed their jobs out of work, and
makes them do drudgery work, then have you actually improved the world? My feel-
ing is, even if they can do it more efficiently, who cares? I want to have fun. The rea-
son I’m an architect is because it’s fun, not because it’s efficient. (architect). However in contrast to practices, we found greater variability across orders of worth
even among individuals from the same discipline. For example, engineering designer 2
also placed ‘product efficiency’ lower in her ordering vis-à-vis ‘interactivity’ with the
design. To illustrate: In software design [computer engineers are] just thinking about processing speed
and nothing to do with the human behavior [and interaction]. (engineering designer
2) Further while informants from the engineering disciplines placed ’visual and symbolic
beauty’ lower down in their hierarchy of values referring to these values as “those kind
of things that don’t let you make a phone call” (engineering designer 3), and “that’s not so
important” (mechanical engineer), other informants, such as computer scientist and engi-
neering designer 4, placed primary emphasis on these attributes within their hierarchy of
values. agement expert 2). By invoking the parable of The Blind Men and the Elephant, the management expert
was acknowledging incompleteness of his own viewpoints on design. The fact that any
perspective on design is partial was also echoed by the architect and an engineering
designer: Design is too slippery a human activity for anyone to claim that they own or control
it (architect). I’ve always known that different disciplines sort of viewed it [design] in different
ways. ((engineering designer 3). We found such reflexivity in all members of the design Center we interviewed. Because
of such reflexivity, informants respected others’ perspectives on design despite discipli-
nary differences. We illustrate this with a set of remarks offered by a mechanical engineer
to open a design workshop organized by the Center that we attended: We come here to become aware. We don’t have agreement [on design], but we respect
each other’s positions. (mechanical engineer). Tharchen et al. J Org Design (2020) 9:21 Page 24 of 34 Page 24 of 34 Table 5 Similarities and differences in orders of worth across informants
X P i
h
i
b
di
d
h
i
i
h
i
Orders
of worth
Informants
Computer
scientist
Management
expert 1
Management
expert 2
Architect
Architectural
engineer
Engineering
designer 1
Engineering
designer 2
Engineering
designer 3
Engineering
designer 4
Industrial
psychologist
Patent
lawyer
Civil
engineer
Industrial
engineer
Mechanical
engineer
Product oriented
Product
effi-
ciency
X
X
X
−
X
X
+
X
+
+
X
X
X
Visual and
sym-
bolic
beauty
X
+
+
X
+
+
−
X
X
+
+
+
+
Novelty
+
+
X
X
X
+
X
X
X
X
X
+
+
Market
utility
+
X
X
+
+
+
+
X
+
−
X
X
X
Interac-
tivity
X
−
+
X
X
X
X
+
X
X
X
Process oriented
Process
effi-
ciency
X
X
X
−
X
X
+
X
+
+
X
X
X
Interdisci-
plinary
interac-
tion
+
+
X
X
X
X
X
X
X
X
X
X
+
X
Reflexiv-
ity
X
X
X
X
X
X
X
X
X
X
X
X
X
X X: Primary emphasis; +: subordinated emphasis; −: negative emphasis Tharchen et al. J Org Design (2020) 9:21 Tharchen et al. J Org Design (2020) 9:21 Page 25 of 34 Similarities and differences in orders of worth across disciplines We found such pattern of similarities and differences in the orders of worth cutting
across disciplinary boundaries. For example while novelty as an order of worth was
regarded highly by informants across disciplines (e.g., civil engineer, patent lawyer, engi-
neering designer 4, management expert 2), industrial engineer did not consider ‘novelty’
as a necessary hallmark of design. To illustrate: I actually think that those things that emerge—so even self-replicating patterns that
emerge to be functional [to be] design. So, it doesn’t necessarily require that element
of either novelty or innovation, in terms of something that’s completely new. (indus-
trial engineer). Tharchen et al. J Org Design (2020) 9:21 Page 26 of 34 Likewise while ‘market utility’ was valued by individuals from different disciplinary
backgrounds (e.g., management expert 2, civil engineer, management expert 1, mechani-
cal engineer), industrial psychologist attributed negative value to it as illustrated below: And so where a lot of organizations make their mistakes is on the idea evaluation
side… they apply financial metrics to new and different things, and the fact is when
something is new and different it’s not clear that it’s going to make money, and if
those are the only metrics you apply they typically throw out the best ideas. (indus-
trial psychologist). Across such patterns of similarities and differences, a striking commonality across
informants was their appreciation of the value of interdisciplinary interactions. Such
appreciation reflected reflexivity on the part of the participants—that their notion of
design was incomplete. We will explore further the implications of such reflexivity in
the discussion section. Before doing so, we will provide an overall summary of what we
found. Design games We summarize our findings by returning to the semantic network of vocabularies that
include practices and orders of worth across the fourteen informants (Fig. 1). The figure
shows the presence of two clusters labeled Cluster 1 and Cluster 2. While informants in
Cluster 1 are engineers representing disciplines such as engineering design, computer
science and industrial engineering, informants comprising Cluster 2 represent a more
heterogeneous mix of disciplines such as law, architecture, psychology, management,
and engineering. Not surprisingly, common to informants in Cluster 1 are design prac-
tices such as ‘problem solving’, the use of ‘quantitative tools’, and the orders of worth of
‘product efficiency’ and ‘process efficiency’. In contrast, design practices across inform-
ants in Cluster 2 emphasize ‘open-ended engagement’ and the use of ‘qualitative tools’, in
addition to also valuing ‘visual and symbolic beauty’. However, despite these differences we also seen interlacing (Tuertscher et al. 2014) in
the vocabularies, practices, and orders of worth of informants both across and within
the two clusters. For example, the semantic network reveals common ground (Puranam
et al. 2009) in the vocabularies related to practices and orders of worth, as well as design
vocabularies such as ‘idea’, ‘create’, ‘build’, ‘product’, ‘process’, ‘project’, etc., across inform-
ants. Overall this pattern of similarities and differences corresponds to what Wittgen-
stein observed in the context of language games as “a complicated network of similarities
overlapping and criss-crossing” (Wittgenstein 2009: 36). Design is similarly an intercon-
nected network of design games with connections constituted by an overlapping struc-
ture of similarities and differences in the vocabularies, practices, and orders of worth of
design across the different disciplines. Discussion We began the article by asking the question: What is it about design that makes it pos-
sible for interdisciplinary interactions to emerge given that the term itself has multiple
meanings? Confirming the polysemy of this term our investigation revealed that the
meaning accorded to design depends on the context of its use—i.e., the vocabularies, Tharchen et al. J Org Design (2020) 9:21 Tharchen et al. J Org Design (2020) 9:21 Page 27 of 34 practices, and orders of worth that constitute the various design games at play. By itself,
such polysemy ought to generate isolated pockets that only interface with one another,
with design serving as a boundary object enabling co-ordination without the need for
consensus and intense interactions among individuals across different disciplines (Star
and Griesemer 1989). The conceptual underpinning for such an approach is the decom-
position of complex problems into parts (Simon 1996), with each part addressed by a
specific group that only interfaces with others across standardized boundaries. Such a
view of design continues to function as an important organizing principle in manage-
ment, ranging from the design of assembly lines using principles of scientific manage-
ment (Taylor 1911) to the development of products and services following modularity
principles (Baldwin and Clark 2000; Sanchez and Mahoney 1996; Ulrich 1995). However, our analysis revealed a different notion of design, one in which individuals
do not just interface but instead interact with one another, and in the process, open up
the black boxed design module. In this design approach, individuals come together not
despite but because of differences in their vocabularies, practices, and orders of worth. So, what motivates these individuals with different notions of design to come together
and interact? Our analysis suggests that individuals do so because design evokes reflex-
ivity (Cunliffe 2003; Cunliffe and Jun 2005), i.e., an awareness of the assumptions and
biases in one’s own design approach leads to a realization that any notion of design is
always incomplete, and design initiatives are always ongoing and full of future potentiali-
ties (Garud et al. 2008). This interactional view of design resonates with the second notion of design in Simon’s
work, i.e., the emergence of design options in and through interactions, a notion also
pursued by scholars in management studying design (e.g., Boland and Collopy 2004;
Dunbar and Starbuck 2006; Gruber et al. 2015). Discussion Not surprisingly, Simon called his work
on design as the Sciences of the Artificial focused on “devis[ing] courses of action aimed
at changing existing situations into preferred ones” (Simon 1996: 111). More recently,
scholars building on Simon’s second view of design have also explored how such interac-
tions function as a social resource that holds the capacity to expand rather than bound
rationality (Hatchuel 2001). Such interactional views of design have also been advocated in practice. For instance,
Takeuchi and Nonaka (1986) contrasted the linear interfacing approach that emerges
from classical notions of design against a more complex interactional approach. Using
sports metaphors, they likened the former to a relay race and the latter to a rugby game. Similarly, Romme and Endenburg (2006) offered the notion of organizational decisions
occurring through a “circular design” process, wherein the inputs of individuals from
one circle links with other circles to generate informed consent. Fostering continued
interactions among parties (with often competing interests) is also central to the design
and formation of collaborative communities for business development in non-preferen-
tial economic zones such as Greenland (Kadenic 2017). The interactional view of design surfaces its own complexities though. For instance,
the rugby approach to design is messy and inherently unstable, as the authors themselves
point out (Takeuchi and Nonaka 1986). So, what then allows such an interactional pro-
cess to cohere? Our analysis of the data from the Center suggests several related mech-
anisms. One of them is the presence of common vocabularies across individuals from Tharchen et al. J Org Design (2020) 9:21 Page 28 of 34 different disciplines. The other is the presence of overlaps in the practices and the orders
of worth of design. Together, these attributes result in the emergence of robust designs
(Hargadon and Douglas 2001), i.e., designs that are both a participative process and an
interactional outcome, one that bear the imprints of designers from multiple disciplines
and social groups. What are the implications of these findings? The world increasingly confronts “wicked
problems” (Buchanan 1992; Rittel and Webber 1974), i.e., problems that have no definite
formulation and are characterized by complex interdependencies, such as the challenges
posed by sustainability (Reinders et al. 2012), innovation and new product development
(Brown 2009; Takeuchi and Nonaka 1986). Discussion Such problems demand a pragmatic focus
on generating actionable knowledge (Romme 2003) that takes into consideration world-
views shaped by different practices and orders of worth. It is to address issues of this
kind that design has surfaced in popularity, allowing individuals from different social
groups to meaningfully interact and generate discussion over “matters of concerns”
(Latour 2004) as much as over “matters of facts”. Design is a concept that sets the stage
for reflexive individuals to come together because of their differences to jointly formu-
late and explore problems and solutions. Contributionshi The finding of this study on how design manifests itself as a complex network of similari-
ties and differences in the vocabularies, practices, and orders of worth across disciplines
offers several contributions to the literature on design, which we highlight below. Design
scholars emphasize the need to pay attention to vocabularies that designers use (Boland
and Collopy 2004). We extend this conversation through a more systematic examination
of vocabularies used by designers across different disciplines to highlight the similarities
and differences in how they understand design. An important contribution of this study
is to introduce the concept of design games, which alludes to not just vocabularies, but
also the practices and orders of worth that they constitute. Further, inquiring into how
it is that designers from different disciplines cohere in interdisciplinary forums despite
their disciplinary differences, we found designers to be reflexive (Cunliffe 2003; Cun-
liffe and Jun 2005), an attribute that complements the presence of common ground and
the interlacing of practices and orders of worth of design across disciplines. Reflexivity
consists of the recognition by individuals that any notion of design is incomplete, and
therefore the importance of inputs from people with other disciplinary backgrounds. By incorporating reflexivity into design games, we advance one compelling reason why
interdisciplinary forums and projects on design cohere and do not fragment.i Our findings integrate the growing literature on the design approach focusing on inter-
disciplinary interactions with the literature on boundary objects (Star and Griesemer
1989). However, in contrast to boundary objects, we found that design is an interactive
boundary object that not only coordinates the activities of individuals across disciplinary
boundaries but also induces interaction. Whereas boundary objects were conceptual-
ized to enable interfacing of individuals from different social worlds or communities of
practice (Brown and Duguid 1991; Lave and Wenger 1991; Wenger 1998) without the
need for intense interactions, interactive boundary objects such as design view intense
engagements not to be problematic, but instead generative of novel outcomes. Such Tharchen et al. J Org Design (2020) 9:21 Page 29 of 34 interactions do not just transfer knowledge from different perspectives, but also enable
knowledge transformation whereby the meaning of design is always emerging in and
through interactions as designers co-orient and co-inform each other across disciplinary
boundaries. Overall, these findings shed light on the link between design and emergence (Garud
et al. 2008; Hunter et al. Contributionshi 2020), and how particular cultures can be created through
design (Koçak and Puranam 2018). Through our study of an interdisciplinary Center
for Design, we found that design can foster a culture of interdisciplinary interactions by
invoking reflexivity. This is because design functions as an interactive boundary object,
wherein individuals are motivated to interact with one another not despite but because
of their differences in meaning. As there is no one meaning of design, individuals are
attentive to the design practices and the orders of worth of others that they are interact-
ing with. Such interactions provide the foundations of a culture centered on collabora-
tion and learning (Elsbach and Stigliani 2018). Indeed, such reflexive interactions extend
beyond the collaborating individuals to also include the perspectives of others (such as
users) in ways that the future possibilities that are emerging and being co-created bear
the inputs of all stakeholders: Dealing with emergence requires designers and managers to understand their
designs in relation to those who will enact them in practice. It requires a commit-
ment to co-create with these others whose lives will be shaped and changed by their
engagement with the designed world. It requires an inquiry into what and whose
desired futures are to be enabled and a willingness to be open to and be changed
by that understanding. It suggests engaging the respectful interaction among people
that can lead to transformed meanings, identities, and intersubjectivity. (Orlikowski
2004 : 94). Indeed, the increasing use of the term ‘design’ by academics and practitioners alike
when engaging with issues such as environmental sustainability and public health con-
cerns speaks to this promise of design to generate meaningful solutions to these world’s
complex problems (e.g., Centers of Disease Control and Prevention 2018; TUDelft 2020;
United Nations Environment Programme 2009). In this regard, Garud and Karnøe
(2003) showed how a design approach facilitating interactions between actors with dif-
ferent perspectives was critical for the emergence of wind turbines in Denmark. Boundary conditions, limitations and future researchh The empirical site for our study was a Center for Design, which was established to pro-
mote interdisciplinary collaboration. Hence, the individuals at the Center that we inter-
viewed were self-selected individuals interested in exploring interdisciplinary work. While an openness and commitment to interdisciplinary collaboration is an important
boundary condition for the set of findings we have presented, our study offers a model
of interdisciplinary collaboration to serve as a model for other settings, especially ones
where such interdisciplinary collaboration is missing. A key ingredient for success, as
the findings highlight, is the cultivation of reflexivity to the perspective of others by the
individuals involved, which emerges through frequent interactions. Tharchen et al. J Org Design (2020) 9:21 Tharchen et al. J Org Design (2020) 9:21 Page 30 of 34 Our study has other features that present opportunities for future research on
design. First, we have shown how interlacing (involving similarities and differences)
in vocabularies, practices and orders of worth, served as a glue which held members
of an interdisciplinary design Center together to foster generative collaborative inter-
actions. It might be the case that such interlacing could also lead to fragmenting and
conflict. While we did not observe this outcome, future studies could examine how
similarities and differences in the vocabularies, practices and orders of worth might
lead to generative or problematic interactions. Second, our findings related to design
games presents an opportunity to study the evolution of the interlaced structure
involving the vocabularies, practices and orders of worth such as those used by the
informants we studied. This is an important question, which future research can also
explore. Third, our findings around reflexivity suggest that the desire to collaborate is
not wholly determined by a logic of consequences based on success or failure alone. However, future studies could explore whether and how collaboration in the context
of interdisciplinary design is contingent on the outcomes realized during the design
process. Fourth, given our focus on analyzing individual designers, we have empha-
sized reflexivity as the generative mechanism inducing interdisciplinary interactions
while underplaying the role of organizational processes, protocols and infrastructures
that generate and sustain such interactions (Snow et al. 2017). Future research can
investigate how these organizational structures enable or constrain such mechanisms
of self-reflexivity. Funding Funding
We acknowledge funding from the CRDI, The Pennsylvania State University. CRDI did not play any role in the design of
the study as well as interpreting the results and writing the manuscript. We also thank the H. Campbell and Eleanor R. Stuckeman Collaborative Design Research Fund for funding several of the interviews that we conducted. Competing interests
h
h
d
l
h The authors declare that they have no competing interests. Authors’ contribution
All
h
ib
d All authors contributed equally to the project. All authors read and approved the final manuscript. Acknowledgements g
We thank Robyn Engel and Gina Rossi for conducting several interviews. Conclusion We close by returning to the question that motivated this study—What is it about
design that makes it possible for interdisciplinary interactions to emerge given that the
term itself has multiple meanings? The findings from this study confirmed the pres-
ence of differences in meanings across disciplines. At the same time, it also show-
cased agreement amongst participants that design is an activity that benefits from the
interactions between actors who approach the activity from different vantage points. Driving such interactions is reflexivity on the part of actors—they all realize that their
expertise is but one part of a larger puzzle, which itself emerges in and through inter-
actions. Future studies can further examine the nature of such boundary interactions
and how they can generate novel outcomes to complex problems. 1 Emlyon Business School, 23 Avenue Guy de Collongue, 69130 Écully, France. 2 Smeal College of Business, The Pennsyl-
vania State University, 431 Business Building, University Park, PA 16802, France. 3 The Pennsylvania State University, 328
Stuckeman Family Building, University Park, PA 16802, France. Received: 15 February 2020 Accepted: 22 September 2020 Author details
1 1 Emlyon Business School, 23 Avenue Guy de Collongue, 69130 Écully, France. 2 Smeal College of Business, The Pennsyl-
vania State University, 431 Business Building, University Park, PA 16802, France. 3 The Pennsylvania State University, 328
Stuckeman Family Building, University Park, PA 16802, France. Tharchen et al. J Org Design (2020) 9:21 Page 31 of 34 Appendices
Appendix A
Details of informants Appendices
Appendix A
Details of informants Informant Designation
Area of research
1
Computer scientist
Programing language design, mathematical logic
2
Management expert 1
Organization design, innovation management
3
Management expert 2
Customer driven design, simulation, new product development
4
Architect
Architectural design, sustainable design, green design
5
Architectural engineer
Construction visualization research
6
Engineering designer 1 Complex system design, product family design, design optimization
7
Engineering designer 2 Human factors, human computer interaction, innovative engineering
design
8
Engineering designer 3 System design, innovation in engineering design
9
Engineering designer 4 Design theory, social ethics of design, open source design
10
Industrial psychologist
Creativity, innovation management, organizational climate
11
Patent lawyer
Intellectual property law, technology law, patent law
12
Civil engineer
Water resource management, visualization of risks and tradeoffs within
complex systems, decision support, multi-objective optimization
13
Industrial engineer
Human factors, human machine interaction, display visualization, discrete
events simulation, human in the loop
14
Mechanical engineer
Product design, product family design, engineering design
Appendix B Informant Designation
Area of research Informant Designation Interview protocol We followed an open-ended semi-structured interview protocol that were guided by the
following questions: 1 What do you do as a designer? 2 Can you describe what it means to ‘design’ in your field? 3 What words come to mind when you think about the word ‘design’? 4 How do you evaluate designs? 5 How is your role as a designer seen by others? Is it accurate? 6 What other kinds of designers do you interact with? What is the nature of that inter-
action? 7 Is there a notion of design that is not consistent with yours? Antithetical to yours? 8 Who do you compete with? 9 What enables your work? 10 What constrains your work? 1 What do you do as a designer? 2 Can you describe what it means to ‘design’ in your field? 3 What words come to mind when you think about the word ‘design’? 4 How do you evaluate designs? 5 How is your role as a designer seen by others? Is it accurate? 6 What other kinds of designers do you interact with? What is the nature of that inter-
action? 7 Is there a notion of design that is not consistent with yours? Antithetical to yours? 8 Who do you compete with? 9 What enables your work? 10 What constrains your work? 1 What do you do as a designer? 2 Can you describe what it means to ‘design’ in your field? 5 How is your role as a designer seen by others? Is it accurate? 6 What other kinds of designers do you interact with? What is the nature of that inter-
action? 7 Is there a notion of design that is not consistent with yours? Antithetical to yours? 8 Who do you compete with? 9 What enables your work? 10 What constrains your work? In all interviews, there were two people present. All interviews were recorded and
transcribed. Page 32 of 34 Tharchen et al. J Org Design (2020) 9:21 References Van Nostrand Rein-
hold, New York Burke K (1966) Language as symbolic action: Essays on life, literature, and method. Univ of California Press, Berkeleyi Burton RM, Obel B (2018) The science of organizational design: fit between structure and coordination. J Org Des
7(1):1–13 Burton RM, Eriksen B, Håkonsson DD, Snow CC (2006) Organization design: the evolving state-of-the-art. Springer Sci-
ence & Business Media, Berlin Callon M, Lascoumes P, Barthe Y (2009) Acting in an uncertain world: an essay on technical democracy (G. Burchell,
Trans ) MIT Press Cambridge Callon M, Lascoumes P, Barthe Y (2009) Acting in an Callon M, Lascoumes P, Barthe Y (2009) Acting in an uncertain world: an essay on technical democracy (G. Burchell,
Trans.). MIT Press, Cambridge ,
,
(
)
g
y
y (
,
Trans.). MIT Press, Cambridge Trans.). MIT Press, Cambridge Centers of Disease Control and Prevention. 2018. Design thinking in health care. https://www.cdc.gov/pcd/issue
s/2018/18_0128.htm. Colfer LJ, Baldwin CY (2010) The mirroring hypothesis: theory, evidence and exceptions. Working paper no 10–058. Harvard Business School. Collins HM, Evans R (2002) The third wave of science studies: studies of expertise and experience. Soc Stud Sci
32(2):235–296 f
(
)l
q
y
g
q
p
( )
Cunliffe AL, Jun JS (2005) The need for reflexivity in public administration. Administration Soc 37(2):225–242 fl
q
y
g
q
p
Cunliffe AL, Jun JS (2005) The need for reflexivity in public administration. Administration Soc 37(2):225–242 fl
y
g
Cunliffe AL, Jun JS (2005) The need for reflexivity in public administration. Administ Douglas M (1986) How institutions think. Syracuse University Press, Syracuse Dunbar RLM, Starbuck WH (2006) Learning to design organizations and learning from designing them. Organ Sci
17(2):171–178 Dunbar RLM, Starbuck WH (2006) Learning to design organizations and learning from designing them. Organ Sci
17(2):171–178 Dunn MB, Jones C (2010) Institutional logics and institutional pluralism: the contestation of care and science logics in
medical education, 1967–2005. Adm Sci Q 55(1):114–149 Dunn MB, Jones C (2010) Institutional logics and institutional pluralism: the contestation of care and science logics in
medical education, 1967–2005. Adm Sci Q 55(1):114–149 Elsbach KD, Stigliani I (2018) Design thinking and organizational culture: a review and framework for future research. J
Manag 44(6):2274–2306 Elsbach KD, Stigliani I (2018) Design thinking and organizational culture: a review and framework for future research. References J
Manag 44(6):2274–2306
F
F Pf ff
J S
RI (2005) E
i
l
d
i
h
h
i
b
lf f lfilli
A
d Manag 44(6):2274–2306
Ferraro F, Pfeffer J, Sutton RI (2005) Economics language and assumptions: how theories can become self-fulfilling. Acad
Manag Rev 30(1):8–24 g
Ferraro F, Pfeffer J, Sutton RI (2005) Economics language and assumptions: how theories can become self-fulfilling. Acad
Manag Rev 30(1):8–24 Ferraro F, Pfeffer J, Sutton RI (2005) Economics language and assumptions: how theories can become self-fulfilling. Acad
Manag Rev 30(1):8–24 g
Fleming L, Sorenson O (2001) The dangers of modularity. Harvard Bus Rev 79(8):20–21 g
Fleming L, Sorenson O (2001) The dangers of modularity. Harvard Bus Rev 79(8):20–21 Garud R, Karnøe P (2003) Bricolage versus breakthrough: distributed and embedded agency in technology entrepreneur
ship. Res Policy 32(2):277–300 Garud R, Karnøe P (2003) Bricolage versus breakthrough: distributed and embedded agency in technology entrepreneur-
ship. Res Policy 32(2):277–300 Garud R, Karnøe P (2003) Bricolage versus breakthrough: distributed and embedded ag
ship. Res Policy 32(2):277–300 p
y
Garud R, Karunakaran A (2018) Process-based ideology of participative experimentation to foster identity-challenging p
y
Garud R, Karunakaran A (2018) Process-based ideology of participative experimentation to foster identity-challengin
innovations: the case of Gmail and AdSense. Strateg Organ 16(3):273–303 Garud R, Karunakaran A (2018) Process-based ideology of participative experimen
innovations: the case of Gmail and AdSense. Strateg Organ 16(3):273–303l gy
innovations: the case of Gmail and AdSense. Strateg Organ 16(3):273–303 Garud R, Kotha S (1994) Using the brain as a metaphor to model flexible productive units. Acad Manag Rev
19(4):671–698 Garud R, Rappa MA (1994) A socio-cognitive model of technology evolution: the case of cochlear implants. Organ Sci
5(3):344–362 Garud R, Rappa MA (1994) A socio-cognitive model of technology evolution: the case of cochlear implants. Organ Sci
5(3):344–362 Garud R, Kumaraswamy A, Sambamurthy V (2006) Emergent by design: performance and transformation at Infosys
Technologies. Organ Sci 17(2):277–286 g
g
Garud R, Jain S, Tuertscher P (2008) Incomplete by design and designing for incompleteness. Organ Stud 29(3):351–371 Garud R, Simpson B, Langley A, Tsoukas H (2015) Introduction: how does novelty emerge? In: Garud R, Simpson B, Lang-
ley A, Tsoukas H (eds) The emergence of novelty in organizations. Oxford University Press, Oxford, pp 1–26 ley A, Tsoukas H (eds) The emergence of novelty in organizations. References Alexander C (1964) Notes on the synthesis of form. Harvard University Press, Cambridge Alexander C (1964) Notes on the synthesis of form. Harvard University Press, Cambridge
Alvesson M Kärreman D (2000) Taking the linguistic turn in organizational research challe Alvesson M, Kärreman D (2000) Taking the linguistic turn in organizational research challenges, responses, consequences. J Appl Behav Sci 36(2):136–158 ,
(
)
g
g
g
g
,
p
,
q
J Appl Behav Sci 36(2):136–158 J Appl Behav Sci 36(2):136–158 Austin JL (1975) How to do things with words. Harvard University Press, Cambridge g
y
g
Baldwin CY, Clark KB (2000) Design rules: the power of modularity, vol 1. MIT Press, Camb Barad K (2003) Posthumanist performativity: toward an understanding of how matter comes to matter. Signs J Women
Cult Soc 28(3):801–831 Beunza D, Stark D (2004) Tools of the trade: the socio-technology of arbitrage in a Wall Street trading room. Ind Corp
Change 13(2):369–400 Beunza D, Stark D (2004) Tools of the trade: the socio technology of arbitrage in a Wall Street trading room. Ind Corp
Change 13(2):369–400
l
d
ll
d
f
d
f
d Change 13(2):369 400
Boland R, Collopy F (2004) Managing as designing. Stanford University Press, Stanford
Boltanski L, Thévenot L (2006) On justification: economies of worth. Princeton Universi g
Boland R, Collopy F (2004) Managing as designing. Stanford University Press, Stanford y
y
Boltanski L, Thévenot L (2006) On justification: economies of worth. Princeton University Press, Princeton Borgatti SP, Everett MG, Freeman LC (2002) UCINET for windows: software for social network analysis. Analytic Technolo-
gies, Harvard Brown T (2009) Change by design: how design thinking transforms organizations and inspires innovation. Harper Busi-
ness, New York Brown JS, Duguid P (1991) Organizational learning and communities-of-practice: toward a unified view of working, learn-
ing, and innovation. Organ Sci 2(1):40–57 Brown JS, Duguid P (1991) Organizational learning and communities of practice: toward a unified view of working, learn
ing, and innovation. Organ Sci 2(1):40–57 ing, and innovation. Organ Sci 2(1):40–57
Buchanan R (1992) Wicked problems in design thinking. Des Issues 8(2):5–21 g,
g
( )
Buchanan R (1992) Wicked problems in design thinking. Des Issues 8(2):5–21 g,
g
( )
Buchanan R (1992) Wicked problems in design thinking. Des Issues 8(2):5–21 Building Arts Forum (1991) Bridging the gap: rethinking the relationship of architect and engineer. References Oxford University Press, Oxfordl ni D (2012) Practice theory, work, and organization: an introduction Orlikowski WJ (2004) Managing and designing: attending to reflexiveness and enactment. Stanford University Press,
Stanford y
Péladeau N (2004) QDA miner. Qualitative data analysis software user’s guide. Provalis Researc eau N (2004) QDA miner. Qualitative data analysis software user’s gu Pickering A (1993) The mangle of practice: agency and emergence in the sociology of science. Am J Sociol 99 Pickering A (1995) The mangle of practice: time, agency, and science. University of Chicago Press, Chicago Pinch TJ, Bijker WE (1987) The social construction of facts and artifacts: or how the sociology of science and the sociology
of technology might benefit each other. In: Bijker WE, Hughes TP, Pinch TJ (eds) The social construction of techno-
logical systems: new directions in the sociology and history of technology, Anniversary. MIT Press, Cambridge, pp
11–44 Puranam P, Singh H, Chaudhuri S (2009) Integrating acquired capabilities: when structural integration is (un)necessary. Organ Sci 20(2):313–328 Reinders AH, Diehl JC, Brezet H (2012) The power of design: product innovation in sustainable energy technologies. Wiley, Hoboken Reinders AH, Diehl JC, Brezet H (2012) The power of design: product innovation in sustainable energy technologies. Wiley, Hoboken y
Rittel HW, Webber MM (1974) Wicked problems. Man-made Futures 26(1):272–280 y
Rittel HW, Webber MM (1974) Wicked problems. Man-made Futures 26(1):272–280 Romme AGL (2003) Making a difference: organization as design. Organ Sci 14(5):558– Romme AGL, Endenburg G (2006) Construction principles and design rules in the case of circular design. Organ Sci
17(2):287–297 Romme AGL, Endenburg G (2006) Construction principles and design rules in the case of circular design. Organ Sci
17(2):287–297 Saint A (2007) Architect and engineer: a study in sibling rivalry. Yale University Press, New Haven Saint A (2007) Architect and engineer: a study in sibling rivalry. Yale University Press, New Haven Sanchez R, Mahoney JT (1996) Modularity, flexibility, and knowledge management in product and organization design. Strat Manag J 17(S2):63–76 Sanchez R, Mahoney JT (1996) Modularity, flexibility, and knowledge management in product and organization desig
Strat Manag J 17(S2):63–76 Simon HA (1947) Administrative behavior. A study of decision-making processes in administrative organization. Macmil-
lan Co, New York Simon HA (1947) Administrative behavior. A study of decision-making processes in administrative organization. Macmil-
lan Co, New Yorki Simon HA (1996) The sciences of the artificial, 3rd edn. References Harvard University Press, Cambridge
Koçak Ö, Puranam P (2018) Designing a culture of collaboration: when changing beliefs is (not) enough. In: Joseph J, Baumann O, Burton R, Srikanth K (eds) Organization design (advances in strategic management), vol 40. Bingley, Emerald Publishing Limited, pp 27–52 Kolbjørnsrud V (2018) Collaborative organizational forms: on communities, crowds, and new hybrids. J Organ Des 7(1):11
lk
(
)
h k
f
d
( ) j
g
y
g
Kolko J (2015) Design thinking comes of age. Harvard Bus Rev 93(9):66–71 g
g
g
Krippendorff K (2004) Content analysis: an introduction to its methodology, 2nd edn. Sage, Thousand Oaks f
Latour B (2004) Why has critique run out of steam? From matters of fact to matters of concern. Crit Inq 30(2):225–248 y
q
q
Lave J, Wenger E (1991) Situated learning: legitimate peripheral participation. Cambridge University Press, Cambridge
Liedtka J Ogilvie T (2011) Designing for growth: a design thinking tool kit for managers Columbia University Press New Lave J, Wenger E (1991) Situated learning: legitimate peripheral participation. Cambridge University Press, Cambridge Liedtka J, Ogilvie T (2011) Designing for growth: a design thinking tool kit for managers. Columbia University Press, New
York Lincoln YS, Guba EG (1985) Naturalistic inquiry. Sage Publications Inc, London Loewenstein J, Ocasio W, Jones C (2012) Vocabularies and voca Loewenstein J, Ocasio W, Jones C (2012) Vocabularies and voc
practices, and institutions. Acad Manag Ann 6(1):41–86 practices, and institutions. Acad Manag Ann 6(1):41–86 p
g
Martin R (2009) The design of business: why design thinking is the next competitive advantage. Harvard Business Press,
Brighton Martin R (2009) The design of business: why design thinking is the next competitive advantage. Harvard Business Press,
Brighton g
Merleau-Ponty M (2012) Phenomenology of Perception (D. A. Landes, Trans.). Routledge, New York g
Merleau-Ponty M (2012) Phenomenology of Perception (D. A. Landes, Trans.). Routledge, New York y
gy
g
Michlewski K (2008) Uncovering design attitude: inside the culture of designers. Organ Stud 29(3):373–392 Nadler DA, Tushman ML (1997) Competing by design: the power of organizational architecture. Oxford University Press,
New York Nag R, Hambrick DC, Chen MJ (2007) What is strategic management, really? Inductive derivation of a consensus defini-
tion of the field. Strat Manag J 28(9):935–955 i
g
Nicolini D (2011) Practice as the site of knowing: insights from the field of telemedicine. Organ Sci 22(3):602–620 Nicolini D (2012) Practice theory, work, and organization: an introduction. References Oxford University Press, Oxford, pp 1–26
Gioia DA, Corley KG, Hamilton AL (2012) Seeking qualitative rigor in inductive research: notes on the Gioia methodology. Organ Res Methods 16(1):15–31 Gioia DA, Corley KG, Hamilton AL (2012) Seeking qualitative rigor in inductive research: notes on the Gioia methodology. Organ Res Methods 16(1):15–31 g
Glaser BG, Strauss AL (1967) The discovery of grounded theory: strategies for qualitative research. Aldine de Gruyter,
Chicago Glaser BG, Strauss AL (1967) The discovery of grounded theory: strategies for qualitative research. Aldine de Gruyter,
Chicago Hargadon AB, Douglas Y (2001) When innovations meet institutions: Edison and the design of the electric light. Adm Sci
Q 46(3):476–501 Hatchuel A (2001) Towards design theory and expandable rationality: the unfinished program of Herbert Simon. J Man-
age Gov 5(3):260–273 Hatchuel A (2001) Towards design theory and expandable rationality: the unfinished program of Herbert Simon. J Man-
age Gov 5(3):260–273 Henn RL (2013). Moving targets: managing interinstitutional relationships in green building design and construction. Unpublished PhD dissertation, University of Michigan Henn RL (2013). Moving targets: managing interinstitutional relationships in green building design and construction. Unpublished PhD dissertation, University of Michigan Page 33 of 34 Tharchen et al. J Org Design (2020) 9:21 Hunter SD, Bentzen H, Taug J (2020) On the “missing link” between formal organization and informal social structure. J
Organ Des 9(1):1–20 Ignatius A (2015) How Indra Nooyi turned design thinking into strategy: an interview with PepsiCo’s CEO. Harvard Bus
Rev 93(9):80–85 Ignatius A (2015) How Indra Nooyi turned design thinking into strategy: an interview with PepsiCo’s CEO. Harvard Bus
Rev 93(9):80–85
Jones C, Livne-Tarandach R (2008) Designing a frame: rhetorical strategies of architects. J Organ Behav 29(8):1075–1099 Jones C, Livne-Tarandach R (2008) Designing a frame: rhetorical strategies of architects. J Organ Behav 29(8):1075–1099
Kadenic MD (2017) Transitioning from an economic cluster to a collaborative community: mining projects in Greenland. J Organ Des 6(1):1–21
Knorr-Cetina K (1999) Epistemic cultures. How the sciences make knowledge. Harvard University Press, Cambridge
Koçak Ö Puranam P (2018) Designing a culture of collaboration: when changing beliefs is (not) enough In: Joseph J J Organ Des 6(1):1–21
Knorr-Cetina K (1999) Epistemic cultures. How the sciences make knowledge. Harvard University Press, Cambridge
Koçak Ö, Puranam P (2018) Designing a culture of collaboration: when changing beliefs is (not) enough. In: Joseph J, Knorr-Cetina K (1999) Epistemic cultures. How the sciences make knowledge. References In: Boland RJ, C
lopy F (eds) Managing as designing. Stanford, Stanford University Press, pp 153–163 py
g g
g
g
y
pp
Work practices in architecture. In: Boland RJ, Collopy F (eds) Managingas designing. Stanford, Stanford University Press,
pp 153–163 Work practices in architecture. In: Boland RJ, Collopy F (eds) Managingas designing. Stanford, Stanford University Press,
pp 153–163 Wenger E (1998) Communities of practice: learning, meaning, and identity. Cambridge University Press, Cambridge
Wittgenstein L (2009) Philosophical investigations (G. E. M. Anscombe, P. M. S. Hacker, J. Schulte, Trans.). Wiley-Blackwell, Wenger E (1998) Communities of practice: learning, meaning, and identity. Cambridge University Press, Cambridge
Wittgenstein L (2009) Philosophical investigations (G. E. M. Anscombe, P. M. S. Hacker, J. Schulte, Trans.). Wiley-Blackwell, Malden
Yin RK (2003) Case study research, design and methods. Sage, Thousand Oaks
Yoo Y, Kim K (2015) How Samsung became a design powerhouse. Harvard Bus Re Malden
Yin RK (2003) Case study research, design and methods. Sage, Thousand Oaks
Y
Y Ki
K (2015) H
S
b
d
i
h
H
d B
R
93(9) 73 78 References MIT Press, Cambridge Simon HA (1996) The sciences of the artificial, 3rd edn. MIT Press, Cambridge i
g
Snow CC, Fjeldstad ØD, Langer AM (2017) Designing the digital organization. J Organ Des 6(1):7 Snow CC, Fjeldstad ØD, Langer AM (2017) Designing the digital organization. J Organ D Star SL, Griesemer JR (1989) Institutional ecology, translations and boundary objects: a
Berkeley’s Museum of Vertebrate Zoology, 1907–39. Soc Stud Sci 19(3):387–420 y
y
Berkeley’s Museum of Vertebrate Zoology, 1907–39. Soc Stud Sci 19(3):387–420 Stark D (2009) The sense of dissonance: accounts of worth in economic life. Princeton University Press, Princeton
Strauss A, Corbin JM (1998) Basics of qualitative research: techniques and procedures for developing grounded theory,
2nd edn Sage Publications Thousand Oaks g
Swidler A (1986) Culture in action: symbols and strategies. Am Sociol Rev 51:273–286 Taylor FW (1911) The principles of scientific management. Harper & Brothers, New York Tsoukas H (2009) Craving for generality and small-N studies: a Wittgensteinian approach towards the epistemology of TUDelft (2020) Design for sustainability. https://www.tudelft.nl/en/ide/about-ide/departments/sustainable-design-engin
eering/research-areas/design-for-sustainability/. Tuertscher P, Garud R, Kumaraswamy A (2014) Justification and interlaced knowledge at ATLAS, CERN. Organ Sci
25(6):1579–1608 Page 34 of 34 Tharchen et al. J Org Design (2020) 9:21 Ulrich K (1995) The role of product architecture in the manufacturing firm. Res Policy 24(3):419–440 Ulrich K (1995) The role of product architecture in the manufacturing firm. Res Policy 24(3):419–440 i
United Nations Environment Programme (2009) Design for sustainability: a step-by-step approach. https://wedocs.unep. org/handle/20.500.11822/8742. i
United Nations Environment Programme (2009) Design for sustainability: a step-by-step approach. https://wedocs.unep. org/handle/20.500.11822/8742. Wagner I (2000) Persuasive artifacts in architectural design and planning. In: Scrivener SAR, Ball LJ, Woodcock A (eds) Co
laborative design: proceedings of CoDesigning 2000 Springer London pp 379–389 Wagner I (2000) Persuasive artifacts in architectural design and planning. In: Scrivener SAR, Ball LJ,
laborative design: proceedings of CoDesigning 2000. Springer, London, pp 379–389 Wagner I (2004) “Open Planning”: reflection on methods and innovative work practices in architecture. In: Boland RJ, Col-
l
F ( d ) M
i
d
i
i
St
f
d St
f
d U i
it P
153 163 Wagner I (2004) “Open Planning”: reflection on methods and innovative work practices in arc
lopy F (eds) Managing as designing. Stanford, Stanford University Press, pp 153–163 Wagner I (2004) Open Planning : reflection on methods and innovative work practices in architecture. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations.
|
W2961201286.txt
|
https://europepmc.org/articles/pmc6662793?pdf=render
|
en
|
Is the implementation of smoke-free policies at workplaces associated with living in a smoke-free home?: Findings from a national population-based study in Malaysia
|
Tobacco induced diseases
| 2,019
|
cc-by
| 4,332
|
Tobacco Induced Diseases
Research Paper
Is the implementation of smoke-free policies at workplaces
associated with living in a smoke-free home?: Findings from
a national population-based study in Malaysia
Kuang Hock Lim1, Hui Li Lim2, Chien Huey Teh1, Sumarni Mohd Ghazali1, Chee Cheong Kee1, Pei Pei Heng1, Rafiza
Shaharuddin1, Jia Hui Lim3
ABSTRACT
Studies have shown that the implementation of smoke-free policies
at workplaces have shifted the social norms towards secondhand smoke (SHS)
exposure at home. This study aimed to investigate whether working in a smokefree workplace is associated with living in a smoke-free home (SFH).
METHODS The data were derived from the Malaysian Global Adult Tobacco Survey
(GATS-M), collected in 2011–2012, involving 4250 respondents. Data analyses
involved 1343 respondents reported to be in the working population.
RESULTS More than half of the respondents (58.5%) were reportedly working in
smoke-free workplaces. Almost a quarter (24.8%) of those who worked in smokefree workplaces stayed in smoke-free homes, which was more than two times
higher than their counterparts who worked at non-smoke-free workplaces (24.8%
vs 12.0%, p<0.001). Multivariable analyses further substantiated this finding
(AOR=2.01, 95% CI: 1.11–3.61, reference group = worked at non-smoke-free
workplaces).
CONCLUSIONS This study found an association between living in smoke-free homes
and working at smoke-free workplaces, which could suggest a positive impact of
implementing smoke-free workplaces.
INTRODUCTION
AFFILIATION
1 Institute for Medical
Research, Ministry of Health,
Kuala Lumpur, Malaysia
2 Hospital Sultan Haji Ahmad
Shah, Temerloh, Malaysia
3 School of Science, Monash
University Malaysia, Subang
Jaya, Malaysia
CORRESPONDENCE TO
Kuang Hock Lim. Institute for
Medical Research, Ministry
of Health, Jalan Pahang,
50588 Kuala Lumpur, Wilayah
Persekutuan, Malaysia.
E-mail: keelimkota@yahoo.com
KEYWORDS
secondhand smoke, smokefree home, smoke-free
workplace, population-based
study, Global Adult Tobacco
Survey–Malaysia
Received: 7 October 2018
Revised: 12 December 2018
Accepted: 12 December 2018
Tob. Induc. Dis. 2019;17(June):51
https://doi.org/10.18332/tid/100692
INTRODUCTION
A multitude of national surveys over the last four
decades have revealed that the smoking habit is a
common behaviour among Malaysian adults. Nearly
half of the Malaysian adult males are smokers1-5,
and this high prevanence of smoking might play a
substantial role in increasing secondhand smoke
(SHS) exposure in our communities6. The National
Health and Morbidity Survey (NHMS) 2015 reported
that more than one-third of Malaysians aged 15
years and older were exposed to SHS at home and
workplace6, with the exposure higher among males,
rural dwellers, the younger age group, and those
with lower educational attainment. Studies have
documented that the exposure to SHS is linked to
coronary heart disease, respiratory infections and
asthma, as well as a variety of cancers 7-9. Also, it
increases the risk of smoking initiation among nonsmoking adolescents10 and reduces the likelihood
of smoking cessation among youth smokers 11 .
Recognition of such threats has led the Malaysian
government to initiate various policies and control
measures to address this problem. The Ministry of
Health Malaysia had introduced the expansion of
Published by European Publishing on behalf of the International Society for the Prevention of Tobacco Induced Diseases (ISPTID).
© 2019 Lim K.H. This is an Open Access article distributed under the terms of the Creative Commons Attribution 4.0 International License.
(https://creativecommons.org/licenses/by/4.0/)
1
Tobacco Induced Diseases
Research Paper
smoke-free zones in public localities and working
areas since 199312. Smoking is prohibited at health
facilities since 1993, followed by an expansion
of smoke-free areas to all government premises,
schools and education facilities, including financial
institutions such as banks, National Telecom company,
National Energy company, and post offices. Smoking
is prohibited only on floors with service counters,
implying that smoking is permitted on floors with
offices but without service counters (provided those
floors do not have centralized air-conditioning). In
2009, smoking was prohibited in all workplaces with
a centralized air-conditioning system13. Also, indoor
workplaces located in smoke-free initiatives areas
such as the ‘Melaka Bebas Asap Rokok’ (Melaka
smoke-free initiatives) had also been restricted 14.
The implementation of the smoke-free workplace was
supported by frequent visits of enforcement officers
to the abovementioned working areas. Furthermore,
the National Institute of Occupational Safety and
Health, Malaysia, also issued the guidelines of nonsmoking in offices to all employers to enhance indoor
air quality in workplaces15. However, smoking is still
permitted in many types of indoor workplaces, which
is not stipulated in the Control of Tobacco Product
Regulations.
Various studies have demonstrated a positive
relationship between the implementation of smokefree policies at workplaces and living in smoke-free
homes in both developed and developing countries.
Kaleta et al.16 and Lee et al.17 reported an adjusted
odds ratio (AOR) of 5.3 and 2.07, respectively, in their
studies among the Nigerian and Indian populations
who worked in smoke-free workplaces and stayed in
smoke-free homes, compared to those who worked in
places that allowed smoking. Nazar et al.18 completed a
study in 15 Lower-Middle-Income Countries (LMIC),
which also reported identical positive findings with
a pool AOR of 1.61. Apart from the significant
association between smoke-free policies and living
in smoke-free homes, there is also a significant
association between living in smoke-free homes and
the smoking status of respondents16,18, their education
levels16,18, the residential areas16,18, genders16,18, types of
occupation18, and age groups16,18. Although a plethora
of studies has been carried out to determine the
association and causality factors between working in
the smoke-free environment and living in smoke-free
homes, there was no such study in Malaysia. Therefore,
an investigation of the association between working
in smoke-free areas and living in smoke-free homes
was needed to provide scientific evidence to motivate
public health authorities to formulate suitable policies
to prohibit smoking in more indoor working areas
in Malaysia. This paper aimed to address these gaps
and to generate constructive findings to assist health
authorities in proposing a comprehensive smoke-free
policy in this country.
METHODS
This study used data from the Malaysian Global
Adult Tobacco Survey (GATS-M), which was carried
out in Malaysia from 2011 to 2012. The nationwide
study of GATS-M employed a cross-sectional study
design and multi-stage proportionate to size sampling
method to select a representative sample of noninstitutionalized respondents aged 15 years and older.
Our survey in Malaysia adopted the methodology and
tools suggested in the GATS survey. GATS-M has an
overall response rate of 83.1% (n=4250/5112). The
sample size of 5112 was based on GATS sampling
protocol (in which a sample of at least of 4000
respondents is required; 2000 males and 2000 females
with 2000 adults each from the urban and the rural
areas). The sample size was then adjusted upward
to allow for potential ineligibility and non-response
rate. The data obtained were weighted taking into
account the complex study design and non-response
rate based on the 2010 National Population Census
data to ensure its national representativeness. Only
respondents who reported to be working within the
last 12 months before their interview and working
indoors were included in the analysis.
The dependent variable in the study is ‘living in
smoke-free homes’, which was measured by an item
‘has anyone smoked inside their home in the past
30 days’. The respondents who answered ‘no’ were
classified as ‘living in smoke-free homes’ and ‘yes’ as
‘living in non-smoke-free homes’. The independent
variable is ‘working at smoke-free workplaces’. The
categorization of smoke-free policy at working areas
was classified as ‘total restriction’ (smoking is not
allowed anywhere in the building) ‘partial restriction’
(smoking is allowed in certain places in the building)
and ‘non-restriction’ (smoking is allowed everywhere
and/or policy to restrict smoking in the working
Tob. Induc. Dis. 2019;17(June):51
https://doi.org/10.18332/tid/100692
2
Tobacco Induced Diseases
Research Paper
areas) was based on individual response, whether
their working areas had such restrictions. In addition,
smoking status and sociodemographic variables in this
study include age group (15–24, 25–44, 45–64, ≥65
years), gender, residence (rural, urban), current use
of tobacco products (current smoker, current nonsmoker), education level (below primary school level,
below secondary school level, completed secondary
and higher secondary school, college/university and
above), occupation (government sector, private sector
or self-employed), and marital status (married, single,
widow(er)/divorced), which were all significantly
associated with living in smoke-free homes in
previous studies16,18.
respondents were males (59.0%). More than threequarters of the respondents resided in urban areas
(80.2%) and were of age <45 years (80.2%). More
than half (56.6%) of the respondents reported that
they were working in smoke-free areas and less than
one-fifth (18.8%) of the respondents reported that
they were living in smoke-free homes. Nearly onethird (28.9%) of respondents were current smokers
(Table 1).
The proportion of respondents living in smokefree homes was slightly higher among respondents
Table 1. Sociodemographic characteristics of
respondents aged 15 years and older reporting
working in the last 30 days
Statistical analysis
Data cleaning was performed before analysis. The
sample was weighted to represent the general
population aged 15 years and older, based on the 2010
Malaysia Population Census, study design and response
rate of the study. Descriptive statistics were employed
to describe the sociodemographic characteristics of
respondents while chi-squared analysis was used to
investigate the association between the proportion
of respondents who lived in smoke-free homes and
working in smoke-free areas, and sociodemographic
variables (age, gender, residence, marital status,
education attainment, occupation, and smoking
status). All univariate analyses with p-values less
than 0.25 or those significantly associated with living
in smoke-free homes from previous studies were
included in the multiple logistic regression model
(MLR). Two-way interaction between working in
the smoke-free environment and smoking status,
working in the smoke-free environment and all
sociodemographic variables (age, gender, residence,
education attainment, occupation) was carried
out to determine possible interaction between the
independent variables. A p-value of >0.05 indicates
that there is no significant interaction between the
independent variables. All statistical analyses were
carried out at 95% CI using SPSS statistical software
(complex sample design) version 22.
Variable
Estimated Sample
population
%
Smoking restriction at working
areas
None
700607
135
11.3
Partial
1990207
345
32.1
Total
3517087
632
56.6
Yes
639182
124
18.8
No
2767464
489
81.2
Male
3819459
668
59.0
Female
2649238
416
41.0
Urban
5186797
726
80.2
Rural
1281901
416
19.8
Malay
4017473
703
62.1
Living in smoke-free home
Gender
Residential
Ethnicity
Chinese
1281888
208
19.8
Indian
602815
82
9.3
Others
566520
148
9.8
Age group
15–24
1428212
168
22.1
25–44
3761182
691
58.1
45–64
3564736
268
19.0
≥65 years
1603529
14
0.8
Education level
Less than primary school
RESULTS
A total of 1140 respondents who had worked for 12
months and indoors were included in the analyses.
From the 1140 respondents, about two-thirds of the
115180
34
1.8
Less than secondary school
1148017
207
17.9
Completed secondary or high
school
3564735
629
55.4
College and above
1603529
269
24.9
Continued
Tob. Induc. Dis. 2019;17(June):51
https://doi.org/10.18332/tid/100692
3
Tobacco Induced Diseases
Research Paper
Table 1.
who reported to be working under partial and total
restriction of smoking in workplaces in comparison
to respondents whose workplaces allowed smoking
practices. Besides, the proportion of respondents
living in smoke-free homes was also found to be
higher among females, respondents residing in
rural areas, of older age groups, those with higher
education attainment, higher income quintile groups
and current smokers. Multivariable logistic regression
demonstrated that the odds of living in smokefree homes was 2 times higher among respondents
who were working in partial and total smoke-free
environments compared to those who were working
in non-smoke-free areas (total smoking restriction,
AOR=2.93; 95% CI: 1.20–7.16; partial restriction,
AOR=2.58, 95% CI: 1.05–6.31, with non-restriction
as the reference). Non-current smokers (AOR=32.26,
95% CI: 15.36–66.66) and females (AOR=2.75; 95%
CI: 1.41–4.35) were more likely to live in smoke-free
homes than current smokers and males (Table 2).
Continued
Variable
Estimated Sample
population
%
Occupation
Government
1383699
303
22.0
Private
4007207
653
63.6
905448
168
14.4
2248135
349
35.1
Self-employed
Income level
Quintile 5
Quintile 4
1633201
301
25.5
Quintile 3
1348017
228
21.2
Quintile 2
751033
148
11.9
Quintile 1
410762
101
6.4
Marital status
Married
3862405
742
59.8
Single
2409918
373
37.3
190051
60
2.9
Yes
1904566
330
28.4
No
4564131
811
70.6
Widow(er)/divorced
Smoking status
Table 2. Prevalence and factors associated with living in a smoke-free home among Malaysian working adults –
percentages and adjusted odds ratios (AORs) are weighted
Variable
Living in smoke-free home
Estimated
population
Sample*
%
Factors associated with
living in smoke-free home
95% CI
AOR**
95% CI
Smoking restriction at working areas
None
75249
15
16.9
9.3–28.6
Ref.
Ref.
Partial
245226
41
19.9
13.7–28.0
2.58
1.05–6.31
Total
292725
64
19.1
14.0–25.5
2.93
1.20–7.16
Male
329421
66
15.1
10.9–20.4
Ref.
Ref.
Female
309761
58
25.4
18.9–33.2
2.75
1.41–4.35
Urban
463139
65
17.6
13.3–22.9
Ref.
Ref.
Rural
176042
59
22.8
16.9–30.0
1.19
0.69–2.06
Malay
419952
83
18.3
13.8–23.7
0.37
0.17–0.80
Chinese
138655
25
24.7
15.6–36.8
Ref.
Ref.
Indian
56472
9
26.5
11.6–49.0
1.01
0.27–3.84
Others
24102
7
7.2
2.7–18.2
0.36
0.12–1.05
15–24
133710
16
16.0
8.9–27.2
Ref.
25–44
353109
76
18.0
13.8–23.1
1.24
0.30–3.28
45–64
152363
32
25.6
16.4–37.7
3.55
2.01–5.28
14615
2
Gender
Residential
Ethnicity
Age group
≥65 years
100
Continued
Tob. Induc. Dis. 2019;17(June):51
https://doi.org/10.18332/tid/100692
4
Tobacco Induced Diseases
Research Paper
Table 2.
Continued
Variable
Living in smoke-free home
Factors associated with
living in smoke-free home
Estimated
population
Sample*
%
95% CI
AOR**
95% CI
5934
2
7.1
1.5–28.3
0.36
0.06–2.28
Education level
Less than primary school
Less than secondary school
102606
21
16.3
9.1–27.4
0.87
0.27–2.77
Completed secondary or high school
332348
68
17.1
12.7–22.8
1.09
0.57–2.09
College and above
198239
33
27.3
18.8–38.0
Ref.
Government
191221
44
29.6
20.7–40.4
Ref.
Private
354373
66
16.0
12.1–20.9
0.51
0.25–1.07
75681
12
16.5
8.0–30.9
1.85
0.62–3.53
Quintile 5
264141
45
23.6
16.9–32.0
Ref.
Quintile 4
156184
33
20.6
13.2–30.8
1.28
0.65–2.54
Quintile 3
121071
23
15.3
9.4–23.9
0.75
0.35–1.63
Quintile 2
79493
16
17.1
9.6–28.7
0.86
0.32–2.34
Quintile 1
10322
5
4.7
1.6–12.8
0.41
0.12–1.42
Married
378956
76
20.6
16.0–26.2
Ref.
Single
248585
39
16.8
11.3–24.3
1.67
0.83–3.39
11641
9
14.0
5.3–31.8
0.68
0.20–2.32
Occupation
Self-employed
Income level
Marital status
Widow(er)/divorced
Smoking status
Yes
71726
10
5.0
2.1–11.4
Ref.
No
567456
114
28.7
23.2–34.8
32.26
15.38–66.66
*The figure for sample only for those who live in a smoke-free home. The number of not living in smoke-free home are: smoking restriction at work (n=474), gender (n=489),
residential area (n=489), ethnicity (n=489), age group (n=482), education level (n=485), occupation (n=484), income (n=484), marital status (n=488), and smoking status (n=489).
** Interaction between smoke-free workplace (SFW) x occupation p=0.063; SFW x marital status p=0.197; SFW x wealth index p=0.723; SFW x gender p=0.854; SFW x education
attainment p=0.632; SFW x ethnicity p=0.221; SFW x smoking status p=0.622; SFW x locality p=0.093. The Multivariable Logistic Regression analysis was based on an estimated
population of 3051980 and sample n=574.
DISCUSSION
The study found a significant association between the
smoke-free legislation in the workplace and living
in smoke-free homes in Malaysia. Our finding was
consistent with the findings of other studies in other
developed or developing countries. The longitudinal
studies conducted by Edward et al.19 from 2003 to
2006 showed an increase in smoke-free homes from
64% to 70%19, in line with the decline of SHS exposure
at workplaces from 20% to 8% following the expansion
of the smoking ban at workplaces. Fong et al.20 also
reported a reduction in home smoking rates from 85%
to 80% after the implementation of comprehensive
smoke-free legislation at workplaces. In addition,
comparable positive results were generated from
studies by Kaleta et al.16 , Lee et al.17 and Nazar et
al.18 among Nigerian, Indian and adults from 15 LMIC
countries, respectively, in which respondents living
in smoke-free homes were 5.3, 2.07, and 0.6 times,
more likely to be among those employed in a totally
smoke-free workplace compared to those in nonsmoke-free workplaces, after adjustment for potential
confounders. Our findings might be explained by the
‘Norm Spreading’ in the life cycle model of social
norms, as smoke-free norms developed and created
from smoking prohibited workplaces may expand
into other localities, more so in homes17,21,22. Another
plausible reason might be due to those people who
are against smoking and whose homes are smoke-free
opting for smoke-free workplaces where available.
Tob. Induc. Dis. 2019;17(June):51
https://doi.org/10.18332/tid/100692
5
Tobacco Induced Diseases
Research Paper
However, future studies are strongly recommended
to elucidate the factors contributed to the findings in
our current study.
In our study, non-smokers were more likely to live
in smoke-free homes. This finding is in line with Kaleta
et al.16 and Thomas et al.23. It may be that non-smokers
have a negative attitude towards smoking. This affects
their behaviours, such as not allowing this practice
in their homes. In addition, the smoking status may
create non-permanent norms for other families to
smoke in their homes. However, this aspect needs to
be investigated in depth in future studies. In contrast
to the findings by Nazar et al.18, our study found that
female respondents were more likely to live in smokefree homes. The low prevalence of smoking among
women in several studies conducted at the national
level reduces their risk of SHS exposure. A similar
explanation might be applied to the higher likelihood of
ethnic Chinese living in smoke-free homes. However,
the level of income, education level, marital status
and living quarters were found to be insignificant in
multivariate analyses after confounder effects were
conveyed. These findings contradict the findings by
Kaleta et al.16 and Berg et al.24 This may be due to
proxy by education status, which does not lead to
behavioural changes, as the health effects of exposure
to SHS require a long period of time to show an impact.
This aspect needs to be detailed in future studies.
Nevertheless, only 18.8% of the currently working
respondents reported to be living in smoke-free
homes. This figure was noticeably lower than the
prevalence studies reported in China (21%), Thailand
(73%), and Mexico (75%) 18. We postulated that
one possible explanation for this lower prevalence
in Malaysia was most likely due to smoking being
accepted as a normative behaviour among the
Malaysian population. Therefore, they have a high
tolerance towards smoking and SHS exposure that
ultimately leads to widespread recognition of smoking
and exposure of others to tobacco smoke as a norm.
In addition, the habit of smoking has been accepted
by the Malaysian society for ages whilst legislation on
smoking restriction in the workplace has only been
implemented recently. Thus, this might lead to a
low rate of practising it13. However, more profound
investigation on this aspect should be carried out in
future studies. Our findings also suggest that more
aggressive measures and strategies are necessary
to increase the proportion of smoke-free homes in
Malaysia to be in line with the recommendations of
Article 8, of the Framework Convention on Tobacco
Control (FCTC), which urged all parties to set suitable
initiatives to reduce secondhand smoke exposure in
public places, working areas, and at home25. Future
policies should focus on the generation of a smokefree environment in all workplaces, as our current
smoke-free regulation primarily focuses on smoking
prohibition only in certain premises such as health
care facilities. There is also only one sub-regulation
related directly to smoke-free working areas (i.e.
smoking is prohibited in all working areas with central
air-conditioning systems)13.
Limitations
There are several limitations in this study. Firstly,
the status of smoke-free homes and working areas
were based on self-reported data. Therefore, it
might be under or over reported due to recall bias.
Secondly, this current cross-sectional study in which
both variables (smoke-free workplaces and smokefree homes) are measured simultaneously limits the
causal interpretation of our findings. For example, we
cannot ascertain whether having workplace policies
influences the adoption of smoke-free homes or those
living in smoke-free homes chose to work in smokefree workplaces. To address this, a longitudinal study
on tobacco use and exposure among Malaysian adults
should be carried out26.
Lastly, a substantial proportion of our respondents
did not respond to an item to measure the dependent
variable (i.e. living in smoke-free homes). This might
affect the overall results. However, the analysis in this
study had controlled for several potential confounding
factors including education, gender, smoking status,
and geographical location, hence, enhancing the
validity of our findings. In addition, our study had
a large sample size of the representative sample that
enabled the findings to be generalized to the Malaysian
population. Furthermore, our study employed the
standard protocol and tools recommended in GATS
nationwide, allowing a standard comparison with
other countries using similar protocols and tools.
CONCLUSIONS
Our present study demonstrates that the proportion of
smoke-free homes reported among working Malaysian
Tob. Induc. Dis. 2019;17(June):51
https://doi.org/10.18332/tid/100692
6
Tobacco Induced Diseases
Research Paper
adults was small and remained non-prevalent
nationwide. Our study suggests that respondents
working in smoking-restricted workplaces are more
likely to live in smoke-free homes in Malaysia, which
can ultimately reduce SHS exposure and improve the
health status of the Malaysian population. Therefore,
specially-tailored public health policies related
to smoke-free environments in working areas are
warranted. On the other hand, aggressive voluntary
smoking restrictions at home could also potentially be
achieved through the expansion of the communitybased health promotion and intervention program
(KOSPEN – Komuniti Sihat, Pembina Negara –
Health community, Building the Nation) among the
Malaysian community.
10.
11.
12.
13.
REFERENCES
1. Institute of Pubic Health. National Health and Morbidity
Survey: Cigarette Smoking. Kuala Lumpur: Institute of
Public Health; 1987.
2. Institute for Public Health. The Third National Health
and Morbidity Survey - Smoking, 2006. Kuala Lumpur:
Institute for Public Health; 2008.
3. Institute for Public Health. National Health and Morbidity
Survey 1996 - Smoking. Kuala Lumpur: Institute of
Public Health; 1997.
4. Lim HK, Ghazali SM, Kee CC et al. Epidemiology of
smoking among Malaysian adult males: prevalence and
associated factors. BMC Public Health. 2013;13(1):8.
doi:10.1186/1471-2458-13-8
5. Lim KH, Teh CH, Pan S et al. Prevalence and factor/s
associated with smoking among adults in Malaysia Findings from the National Health and Morbidity Survey
(NHMS) 2015. Tob Induc Dis. 2018, 16(January):1-11.
doi:10.18332/tid/82190
6. Institute for Public Health. National health and morbidity
survey 2015 – Report on smoking status among Malaysian
adults. Kuala Lumpur: Institute of Public Health; 2015.
http://www.moh.gov.my/moh/resources/NHMS2015VolumeV.pdf. Accessed October 7, 2018.
7. Chen Z, Liu G, Chen J, Li S, Jiang T, Xu B, Ye X.
Frequency-risk relationships between second-hand smoke
exposure and respiratory symptoms among adolescents:
a cross-sectional study in South China. BMJ Open.
2018;8(4):e019875. doi:10.1136/bmjopen-2017-019875
8. Oberg M, Jaakkola MS, Woodward A, Peruga A, PrussUstun A. Worldwide burden of disease from exposure
to second-hand smoke: a retrospective analysis of data
from 192 countries. Lancet. 2011;377(9760):139-146.
doi:10.1016/s0140-6736(10)61388-8
9. Office on Smoking and Health (US). The health
consequences of involuntary exposure to tobacco smoke:
14.
15.
16.
17.
18.
19.
20.
a report of the surgeon general. Atlanta (GA): Centers
for Disease Control and Prevention (US); 2006. https://
www.ncbi.nlm.nih.gov/books/NBK44324/. Accessed
October 7, 2018.
Andreeva TI, Krasovsky KS, Semenova DS. Correlates
of smoking initiation among young adults in Ukraine: a
cross-sectional study: BMC Public Health. 2007;7:106.
doi:10.1186/1471-2458-7-106
Wang MP, Ho SY, Lo WS, Lam TH. Smoking family,
secondhand smoke exposure at home, and quitting in
adolescent smokers. Nicotine Tob Res. 2013;15(1):185191. doi:10.1093/ntr/nts109
His Majesty Government gazette. [Food act 1983: Control
of tobacco product Regulations]. 2005. http://www.
tobaccocontrollaws.org/files/live/Malaysia/Malaysia%20
-%20TC%20Regs%202004.pdf. Accessed October 7,
2018.
Attorney General’s Chambers. Control of tobacco
product (amendment): Regulations 2012. http://www.
tobaccocontrollaws.org/files/live/Malaysia/Malaysia%20
-%20Dec.%20of%20Non-Smoking%20Area%202012.pdf.
Accessed October 7, 2018.
Melaka Smoke Free Evaluation Project 2014. University
of Waterloo, University Sains Malaysia, Melaka State
Health Department; 2014.
Ministry of Human Resources. Guidelines on Occupational
Safety and Health in the Office. Malaysia, Department
of Occupational Safety and Health; 1996. http://www.
dosh.gov.my/index.php/en/legislation/guidelines/
general/602-09-guidelines-on-occupational-safety-andhealth-in-the-office-1996/file. Accessed October 7, 2018.
Kaleta D, Polanska K, Usidame B. Smoke-Free Workplaces
Are Associated with Protection from Second-Hand
Smoke at Homes in Nigeria: Evidence for PopulationLevel Decisions. Biomed Res Int. 2015;(10):1-8.
doi:10.1155/2015/618640
Lee JT, Agrawal S, Basu S, Glantz SA, Millett C. Association
between smoke-free workplace and second-hand smoke
exposure at home in India. Tob Control. 2014;23(4):308312. doi:10.1136/tobaccocontrol-2012-050817
Nazar GP, Lee JT, Glantz SA, Arora M, Pearce N, Millett
C. Association between being employed in a smoke-free
workplace and living in a smoke-free home: evidence
from 15 low and middle income countries. Prev Med.
2014;59:47-53. doi:10.1016/j.ypmed.2013.11.017
Edwards R, Thomson G, Wilson N, et al. After the
smoke has cleared: evaluation of the impact of a new
national smoke-free law in New Zealand. Tob Control.
2008;17(1):e2. doi:10.1136/tc.2007.020347
Fong GT, Hyland A, Borland R, et al. Reductions in
tobacco smoke pollution and increases in support for
smoke-free public places following the implementation
of comprehensive smoke-free workplace legislation in
the Republic of Ireland: findings from the ITC Ireland/
UK Survey. Tob Control. 2006;15(Suppl 3):iii51-iii58.
Tob. Induc. Dis. 2019;17(June):51
https://doi.org/10.18332/tid/100692
7
Tobacco Induced Diseases
Research Paper
doi:10.1136/tc.2005.013649
21. Cheng KW, Glantz SA, Lightwood JM. Association
between smokefree laws and voluntary smokefreehome rules. Am J Prev Med. 2011;41(6):566-572.
doi:10.1016/j.amepre.2011.08.014
22. Monson E, Arsenault N. Effects of Enactment of
Legislative (Public) Smoking Bans on Voluntary Home
Smoking Restrictions: A Review. Nicotine Tob Res.
2017;19(2):141-148. doi:10.1093/ntr/ntw171
23. Thomas DP, Panaretto KS, Stevens M, Bennet PT ,
Borland R. Smoke-free homes and workplaces of a
national sample of Aboriginal and Torres Strait Islander
people. Med J Aust. 2015;202(Suppl 10):S33-S38.
doi:10.5694/mja14.00876
24. Berg CJ, Daley CM, Nazir M et al. Smoke-Free Policies
in the Workplace and in the Home among American
Indians. J Health Dispar Res Pract. 2012;5(2):81-91.
PMID: 23795333.
25. World Health Organization. WHO framework convention
on tobacco control. Geneva, Switzerland: World Health
Organization; 2003. [http://apps.who.int/iris/bitstream/
handle/10665/42811/9241591013.pdf;jsessionid=
0F144C8C63925CC72327DBD9BE1E52CA?
sequence=1. Accessed October 7, 2018.
26. Faseru B, Cox LS, Opole I, Reed GA, Mayo MS, Ahluwalia
JS, Okuyemi KS. Design, recruitment, and retention
of African-American smokers in a pharmacokinetic
study. BMC Med Res Methodol. 2010;10(1):6.
doi:10.1186/1471-2288-10-6
ACKNOWLEDGEMENTS
We thank the Director General of Health, Malaysia for permission
to publish this article. We would also like to thank those who were
involved in the study and those who assisted in the collection and
management of the data for their support and cooperation.
CONFLICTS OF INTEREST
The authors have completed and submitted the ICMJE Form for
Disclosure of Potential Conflicts of Interest and none was reported.
FUNDING
The project was funded by the Ministry of Health, Malaysia.
PROVENANCE AND PEER REVIEW
Not commissioned; externally peer reviewed.
Tob. Induc. Dis. 2019;17(June):51
https://doi.org/10.18332/tid/100692
8
|
|
https://openalex.org/W2054891522
|
https://www.epj-conferences.org/articles/epjconf/pdf/2010/02/epjconf_fb19_07017.pdf
|
English
| null |
Baryon resonances in the baryon meson scattering coupled to the q<sup>3</sup>-state
|
EPJ web of conferences
| 2,010
|
cc-by
| 4,212
|
Sachiko Takeuchi1,a and Kiyotaka Shimizu2 Sachiko Takeuchi1,a and Kiyotaka Shimizu2 Sachiko Takeuchi1,a and Kiyotaka Shimizu2 1 Japan College of Social Work, Kiyose, Tokyo 204-8555, Japan 1 Japan College of Social Work, Kiyose, Tokyo 204-8555, Japan
2 Department of Physics, Sophia University, Kioi, Chiyoda, Tokyo 102-8554, Japan 1 Japan College of Social Work, Kiyose, Tokyo 204-8555, Japan
2 Department of Physics, Sophia University, Kioi, Chiyoda, Tokyo 102-8554, Japan Japan College of Social Work, Kiyose, Tokyo 204 8555, Japan
2 Department of Physics, Sophia University, Kioi, Chiyoda, Tokyo 102-8554, Japan Abstract. We investigate Λ(1405), ∆(1232), and N∗(1440) as resonances in the baryon-meson scattering with
bound states embedded in the continuum (BSEC). This BSEC is introduced by hand, as a state not originated from
a simple baryon-meson system. We assume it comes from the three-quark state. The resonances are successfully
reproduced by this scheme. As for the Λ(1405) resonance, it is found that our calculation can give an appropriate
energy and width for the peak and reproduces the NK scattering length when the BSEC contribution to the
resonance is roughly half of that of the NK channel. The energy of the three-quark pole for ∆(1232) is taken to be
1327 MeV, which comes down to 1232 MeV after the mixing to the Nπ and ∆π scattering states is included. The
nucleon also gets the self energy of about 130 MeV, so the N∆mass difference, which is one of the key values
in the quark model, does not change much. It also found that the positive parity excited nucleon mass can be
reduced by more than 400 MeV and become around 1440 MeV after the mixing to the continuum is taken into
account. 1 Introduction the observed 293 MeV, then the quark model may require
a serious modification. As we will discuss later, both of the
nucleon and ∆poles get a large self energy from the cou-
pling to the baryon meson continuum. Their sizes, how-
ever, are similar to each other, and the energy difference
between the N and ∆poles does not change much. So the
quark model scheme holds after the meson effects are in-
troduced. It is known that the features of the ground state baryons can
be well reproduced by the quark models. They, however,
are less successful in describing the excited light baryons
[3–5]. For example, the Λ(1405) resonance is known to
have much lighter mass than the one predicted by the quark
model. It is the lowest negative-parity baryon in spite of its
non-zero strangeness. The mass of positive parity baryon,
N∗(1440), is lower than the mass of the negative parity N∗
although the N∗(1440) is supposed to be by 2 ℏω above the
nucleon while the lowest negative parity baryons belong to
the 1 ℏω excitation. EPJ Web of Conferences , 07017 (2010)
DOI:10.1051/epjconf/201007017
© Owned by the authors, published by EDP Sciences, 2010 EPJ Web of Conferences , 07017 (2010)
DOI:10.1051/epjconf/201007017
© Owned by the authors, published by EDP Sciences, 2010 EPJ Web of Conferences , 07017 (2010)
DOI:10.1051/epjconf/201007017
© Owned by the authors, published by EDP Sciences, 2010 EPJ Web of Conferences , 07017 (2010)
DOI:10.1051/epjconf/201007017
© Owned by the authors, published by EDP Sciences, 2010 a e-mail: s.takeuchi@jcsw.ac.jp
⋆A part of this work is published in ref. [1,2] 2.1 Model As one can see from the large width in the mass spec-
trum, the coupling of such states to the baryon-meson scat-
tering states is important to understand the behavior of
the baryon resonances. Many works have been done em-
ploying the baryon meson interaction based on the chiral
perturbation approach [6–12]. In this work, we investigate
both of the above Λ(1405) and N∗(1440) resonances in our
simple baryon-meson model with a ‘bound states embed-
ded in the continuum’ (BSEC). The flavor-octet baryon and meson system can be classified
into six irreducible representations of the flavor SU(3): 8B × 8M = 1BM + 8A
BM + 8S
BM + 10BM + 10BM + 27BM. (1) 8B × 8M = 1BM + 8A
BM + 8S
BM + 10BM + 10BM + 27BM. (1) The strangeness=−1 and isospin T = 0 state appears in
the 1BM, 8A
BM, 8S
BM, and 27BM states. These four states are
given by a linear combination of the four baryon-meson
systems, Σπ, NK, Λη, and ΞK. For the Λ(1405) reso-
nance, the scattering channels are taken to be the S -wave
Σπ-NK-Λη because the ΞK threshold is much higher than
these states. We also investigate ∆(1232) in this work. This reso-
nance is a ground state from a quark model point of view. There, the mass difference between the nucleon and ∆(1232)
is assumed to come from the hyperfine interaction of the
gluon exchange between quarks. Or, inversely, the empir-
ical strength of the qq interaction is usually taken so as
to give this mass difference [3,4,13]. Therefore, suppose
the mass difference between the nucleon pole and the delta
pole in our calculation is found to be very different from We also take into account a BSEC, which is considered
to come from the three-quark state: the flavor-singlet neg-
ative parity Λ∗. We solve the Lippmann-Schwinger equa-
tion with the semirelativistic kinematics in the momentum
space [1,2]. This is an Open Access article distributed under the terms of the Creative Commons Attribution-Noncommercial License 3.0, which
permits unrestricted use, distribution, and reproduction in any noncommercial medium, provided the original work is properly cited
Article available at http://www.epj-conferences.org or http://dx.doi.org/10.1051/epjconf/20100307017 a e-mail: s.takeuchi@jcsw.ac.jp ⋆A part of this work is published in ref. [1,2] 2.2 Lippmann-Schwinger equation with BSEC Table 1. The factor cij and ciQ for the FF or CMI-type Table 1. The factor cij and ciQ for the FF or CMI-type
FF-type
CMI-type
cij
Σπ
NK
Λη
ΞK
Σπ
NK
Λη
ΞK
Σπ
−8
√
6
0
−
√
6
−16
3
116
√
7
21
−16
√
105
105
0
NK
−6
3
√
2
0
0
28
√
15
15
0
Λη
0
−3
√
2
112
15
−40
√
70
21
ΞK
−6
−160
21
ciQ
√
3
8
−1
2
√
1
8
1
2
0.82 −0.50
0.31
−0.31 Table 1. The factor cij and ciQ for the FF or CMI-type
FF-type
CMI-type
cij
Σπ
NK
Λη
ΞK
Σπ
NK
Λη
ΞK
Σπ
−8
√
6
0
−
√
6
−16
3
116
√
7
21
−16
√
105
105
0
NK
−6
3
√
2
0
0
28
√
15
15
0
Λη
0
−3
√
2
112
15
−40
√
70
21
ΞK
−6
−160
21
ciQ
√
3
8
−1
2
√
1
8
1
2
0.82 −0.50
0.31
−0.31 The Lippmann-Schwinger equation for H = H0+V is writ-
ten as T = V + VG(0)T,
G(0) =
1
E −H0 + iε. (6) (6) We assume that the Q space has only one state, then we can
set QHQ ≡EQ or QVQ ≡VQQ = 0. Using P + Q = 1, we
obtain the T matrix of the P space, TPP, as the following
form [14]. We assume that the Q space has only one state, then we can
set QHQ ≡EQ or QVQ ≡VQQ = 0. Using P + Q = 1, we
obtain the T matrix of the P space, TPP, as the following
form [14]. TPP = T (P) + (1 + VPPGP)VPQGQVQP(1 + GPVPP) . (7) (7) pole space (Q-space): Here T (P) is the T-matrix solved within the P space, GP
is a propagator in P space, and GQ is a propagator for the
Q space, which contains the coupling with the P space. The term (1 + VPPGP) in the above equation describes a
distortion in the P space due to the potential VPP. H =
(
HP VPQ
VQP EQ
)
and ψ =
(
ψP
ψQ
)
. (2) (2) The potential between baryon and meson, VP, is as-
sumed to be a central separable potential. 2.2 Lippmann-Schwinger equation with BSEC The one between
the i-th and j-th baryon-meson channels is defined by Because we consider light meson systems, we take the
semirelativistic kinematics for the baryon and meson prop-
agators. The free propagator for the initial energy Etot in
the P space becomes Vij(p, p′) = cij
πV0
2 u exp[−1
4a2(p2 + p′2)]Y00(Ωp)Y00(Ωp′)
= cij
V0
8 u exp[−1
4a2(p2 + p′2)]. (3) G(0)
P = i
∫
d4q
(2π)4
M
Ω
1
Etot −q0 −Ω+ iε
2m
q2
0 −q2 −m2 + iε
=
∫
d3q
(2π)3
M
Ω
1
Etot −ω −Ω+ iε
m
ω ,
(8)
where
Ω=
√
M2 + q2,
ω =
√
m2 + q2,
Etot =
√
M2 + k2 +
√
m2 + k2. (9) G(0)
P = i
∫
d4q
(2π)4
M
Ω
1
Etot −q0 −Ω+ iε
2m
q2
0 −q2 −m2 + iε
=
∫
d3q
(2π)3
M
Ω
1
Etot −ω −Ω+ iε
m
ω ,
(8) (3) Here,the strength V0 is taken so as to give the strength of
the chiral unitary model for FF type, or that of the quark
model for CMI-type. The range a corresponds to the typ-
ical baryon size in the quark model, and the factor u is
multiplied to express the energy dependence if necessary
[2,8]. (8) where where Ω=
√
M2 + q2,
ω =
√
m2 + q2,
Etot =
√
M2 + k2 +
√
m2 + k2. (9) Note that the potential acts only on the S-wave baryon-
meson states. For the FF type, the factor cij is taken to be (9) cij = (FB · FM)ij,
(4) (4) Here the k is the relative momentum of the baryon-meson
system and M and m are the baryon and meson masses,
respectively. The factor mM
ωΩplays a very important role to
reduce the strength of the potential in a high momentum re-
gion. The effect is strong when the mass is small. Therefore
this factor strongly cuts offthe Σπ potential. This cancels
the Σπ attraction at least partially and enables the system
to have a peak just below the NK threshold. where FB and FM are the flavor SU(3) generators for baryons
and mesons. In the CMI-type, cij’s are given by the color-
magnetic interaction with the the quark exchanges. 2.2 Lippmann-Schwinger equation with BSEC The
matrix elements of cij for both cases with strangeness=−1
and isospin T=0 are shown in Table 2.1. The coupling of the baryon-meson state and the Q state,
VPQ = VQP, is given by VPQ(p) = VPQ
0 ciQ{c1+c2(aQp)2} exp[−1
4a2
Qp2]
√
4πY00(Ωp),
(5)
PQ 2.1 Model The hamiltonian as well as the wave function is di-
vided into the baryon-meson space (P-space) and the q3 This is an Open Access article distributed under the terms of the Creative Commons Attribution-Noncommercial License 3.0, which
permits unrestricted use, distribution, and reproduction in any noncommercial medium, provided the original work is properly cited
Article available at http://www.epj-conferences.org or http://dx.doi.org/10.1051/epjconf/20100307017 This is an Open Access article distributed under the terms of the Creative Commons Attribution-Noncommercial License 3.0, which
permits unrestricted use, distribution, and reproduction in any noncommercial medium, provided the original work is properly cited
Article available at http://www.epj-conferences.org or http://dx.doi.org/10.1051/epjconf/20100307017 EPJ Web of Conferences 2.3 Wave functions where VPQ
0
is the strength and aQ describes the form fac-
tor of the coupling potential. The channel dependence ciQ
as well as VPQ
0
used for the CMI-type is obtained from the
quark pair annihilation by the one-gluon exchange. As for
the FF type, we fix the values by assuming the state to be
a flavor singlet state. The overall strength is taken so as to
give the same size as the CMI-type does for the NK chan-
nel. The ciQ’s in both of the cases are shown also in Table
2.1. We use the factor {c1 + c2(aQp)2} to express the possi-
ble p2-dependence of the transition potential. We call the
(c1, c2)=(1,0) case as the 1-type, and the (0,1) case as the
p2-type as shown in Table 2. The 1-type coupling appears
when one considers the internal structure of the baryons. where VPQ
0
is the strength and aQ describes the form fac-
tor of the coupling potential. The channel dependence ciQ
as well as VPQ
0
used for the CMI-type is obtained from the
quark pair annihilation by the one-gluon exchange. As for
the FF type, we fix the values by assuming the state to be
a flavor singlet state. The overall strength is taken so as to
give the same size as the CMI-type does for the NK chan-
nel. The ciQ’s in both of the cases are shown also in Table
2.1. We use the factor {c1 + c2(aQp)2} to express the possi-
ble p2-dependence of the transition potential. We call the
(c1, c2)=(1,0) case as the 1-type, and the (0,1) case as the
p2-type as shown in Table 2. The 1-type coupling appears
when one considers the internal structure of the baryons. The wave function ψ with the initial wave function φini can
be obtained by using the T-matrix. The wave function of
the P-space is |ψP⟩= |φini⟩+ G(0)
P TPP|φini⟩,
(10) (10) whereas the wave function for the Q-space becomes |ψQ⟩= G(0)
Q TQP|φini⟩. (11) (11) The wave function of the coordinate space for the P-space
can be obtained by the Fourier transformation. The wave function of the coordinate space for the P-space
can be obtained by the Fourier transformation. 07017-p.2 19th International IUPAP Conference on Few-Body Problems in Physics Table 2. The NK scattering length and the probability of the q3 pole. Potentials
BSEC
kinematics
Eres
width
Rq3/NK
NK scatt. 2.4 Results It is found that this approach can give an appropriate peak
for the Λ(1405) [2]. The one whose baryon-meson interac-
tion is the SU(3) FF-type is shown in Fig. 1(a), whereas the
one obtained from the color-magnetic interaction between
quarks is shown in Fig. 1(b). The shape of the peak differs
slightly from each other. The values of the parameters used
for each potential are given in Ref. [2]. Since the interaction from the quark model is not at-
tractive in the NK channel, the calculated peak consists
mostly of the q3 state there. So, the NK scattering length is
negative but rather small: about half of the observed value. On the other hand, the peak obtained from the one with the
FF-type interaction consists mostly of the NK bound state. Therefore the NK scattering length is negative and large. As is shown in Table 2 and in Fig. 2, our calculation where
the probability of the q3 state is about half of that of the NK
channel at the resonance seems to reproduce the observed
NK scattering length. C.M. Energy [MeV] arb. unit
Mass Spectrum Mass Spectrum 0
100
200
300
0
2
4
0
2
4
Mass Spectrum
C.M. Energy [MeV]
arb. unit
δ
δ
[rad] 2.3 Wave functions length
self energy
strong FF
E-dep
1407
50
-
−2.1 + 0.59i
strong FF
1408
24
-
−1.9 + 0.25i
weak FF
p2-type
1404
18
0.7
−1.1 + 0.18i
−119 −17i
weak FF
1-type
1404
41
0.4
−1.7 + 0.43i
−104 −49i
CMI
1-type
nonrela
1406
44
2.8
−0.6 + 0.25i
−83 −29i
CMI
1-type
1406
56
2.7
−0.7 + 0.34i
−78 −40i
CMI
p2-type
1403
10
13.3
−0.0 + 0.03i
−88 −4i
Exp. [15,16]
1406
50
−1.7 + 0.68i Table 2. The NK scattering length and the probability of the q3 pole. pion are taken from the quark model. The spin and the
isospin factors of the strength are shown in Table 3. The
quark model values for the coupling constants are fπN∆∼ Relative importance between the closed P-space φc and
the Q-space, or between the NK channel to the q3 state
in this case, Rq3/NK, can be found by taking a ratio of the
following two probabilities. |⟨φc|ψP⟩|2 = |⟨φc|G(0)
P TPP|φini⟩|2 ,
(12)
|⟨Q|ψQ⟩|2 = |⟨Q|G(0)
Q TQP|φini⟩|2 . (13) 0
100
200
300
0
2
4
0
2
4
Mass Spectrum
C.M. Energy [MeV]
arb. unit
δ
δ
Mass Spectrum
[rad]
0
100
200
300
0
2
4
0
2
4
Mass Spectrum
C.M. Energy [MeV]
arb. unit
δ
δ
Mass Spectrum
[rad]
Fig. 1. Phase shifts and mass spectra of the Λ(1405). The inter-
action is (a) the SU(3) FF-type and (b) the one obtained from the
color-magnetic interaction between quarks. 0
100
200
300
0
2
4
0
2
4
Mass Spectrum
C.M. Energy [MeV]
arb. unit
δ
δ
Mass Spectrum
[rad] (13) 3 N(939) and N∗(1440) Phase shifts and mass spectrum of the ∆(1232). 3
2
1
0
δ (rad.)
200
0
Ecm (MeV)
2
0
Mass spectrum (arb. unit)
∆(1232)
Phase shift and mass spectrum
phase shift (calc)
phase shift (exp)
mass spectrum (calc) Mass spectrum (arb. unit) Fig. 3. Baryon meson interaction and a baryon pole. Table 3. Coupling strength of the baryon meson interaction. B
B′′
(b) B′-exchange
(c) B′-pole
N-exchange
∆-exchange
S = T = 1/2
B′ = N or N∗
N
N
f 2
πNN
16/9 f 2
πN∆
9 f 2
πNB′
N
∆
8/3 fπNN fπN∆
50/3 fπN∆fπ∆∆
6 fπNB′ fπB′∆
∆
∆
1/9 f 2
πN∆
100 f 2
π∆∆
4 f 2
πB′∆
S = T = 3/2
B′ = ∆
N
N
4f 2
πNN
1/9 f 2
πN∆
f 2
πN∆
N
∆
5/3 fπNN fπN∆
20/3 fπN∆fπ∆∆
15 fπN∆fπ∆∆
∆
∆
4/9 f 2
πN∆
121 f 2
π∆∆
225 f 2
π∆∆
1.7 fπNN and fπ∆∆∼0.2fπNN. So, the effects from the B′-
poles become most important in the S = T = 1/2 case. To fit the N∗(1440) peak, we have to assume fπNN∗=
2 fπNN and fπ∆N∗= 2fπN∆. The origin of this factor 2 is
not specified here; it may come from the difference in the
orbital part or other modes such as Nππ. Then, with the
N∗-pole at 1822 MeV and the N-pole at 1067 MeV, the res-
onance shape is well reproduced as seen in Fig. 4. The en-
ergy of the N∗-pole becomes reasonably close to the other
positive parity baryons. Table 3. Coupling strength of the baryon meson interaction. B
B′′
(b) B′-exchange
(c) B′-pole
N-exchange
∆-exchange
S = T = 1/2
B′ = N or N∗
N
N
f 2
πNN
16/9 f 2
πN∆
9 f 2
πNB′
N
∆
8/3 fπNN fπN∆
50/3 fπN∆fπ∆∆
6 fπNB′ fπB′∆
∆
∆
1/9 f 2
πN∆
100 f 2
π∆∆
4 f 2
πB′∆
S = T = 3/2
B′ = ∆
N
N
4f 2
πNN
1/9 f 2
πN∆
f 2
πN∆
N
∆
5/3 fπNN fπN∆
20/3 fπN∆fπ∆∆
15 fπN∆fπ∆∆
∆
∆
4/9 f 2
πN∆
121 f 2
π∆∆
225 f 2
π∆∆ Table 3. Coupling strength of the baryon meson interaction. Fig. 5. Phase shifts and mass spectrum of the ∆(1232). 3 N(939) and N∗(1440) It is hard to reproduce the N∗(1440) resonance if one as-
sumes a simple q3 configuration. The masses of the other
positive parity baryons are around 1680∼1720 MeV. The
interaction between quarks may reduce the mass, but it is
not sufficient [4,5]. We employ the baryon meson interaction (Fig. 3(b)),
which arises from the cross term (Fig. 3(a)). The q3 states
which correspond to the nucleon and N∗(1440) are placed
as BSECs in the P-wave Nπ-∆π scattering states (Fig. 3(c))
[17]. C.M. Energy [MeV] Fig. 1. Phase shifts and mass spectra of the Λ(1405). The inter-
action is (a) the SU(3) FF-type and (b) the one obtained from the
color-magnetic interaction between quarks. The baryon meson interaction we employs is again sep-
arable as in eq. (3), and the strength between baryons and 07017-p.3 07017-p.3 EPJ Web of Conferences −2
−1
0
Real part of NKbar scatt. length
3.0
2.0
1.0
0.0
Rq3/NKbar
Exp. Fig. 2. Real part of the NK scattering length and the ratio of the
probability of the q3 pole over NK at the resonance energy. −2
−1
0
Real part of NKbar scatt. length
3.0
2.0
1.0
0.0
Rq3/NKbar
Exp. 3
2
1
0
δ (rad.)
400
200
0
Ecm (MeV)
0.5
0
Mass spectrum (arb. unit)
N*(1440)
Phase shift and mass spectrum
phase shift (calc)
phase shift (exp)
mass spectrum (calc)
Fig. 4. Phase shifts and mass spectrum of the N∗(1440). 3
2
1
0
δ (rad.)
400
200
0
Ecm (MeV)
0.5
0
Mass spectrum (arb. unit)
N*(1440)
Phase shift and mass spectrum
phase shift (calc)
phase shift (exp)
mass spectrum (calc)
Fig. 4. Phase shifts and mass spectrum of the N∗(1440). Mass spectrum (arb. unit) Fig. 2. Real part of the NK scattering length and the ratio of the
probability of the q3 pole over NK at the resonance energy. π
π
B’’
B’
B
π
π
B’’
B
π
π
B’’
B’
B
(a)
(c)
(b) π
π
B’’
B’
B
π
π
B’’
B
π
π
B’’
B’
B
(a)
(c)
(b)
Fig. 3. Baryon meson interaction and a baryon pole. Fig. 4. Phase shifts and mass spectrum of the N∗(1440). 3
2
1
0
δ (rad.)
200
0
Ecm (MeV)
2
0
Mass spectrum (arb. unit)
∆(1232)
Phase shift and mass spectrum
phase shift (calc)
phase shift (exp)
mass spectrum (calc)
Fig. 5. 5 Summary We have investigated Λ(1405), N∗(1440) and ∆(1232) as
resonances in the baryon-meson scattering. The S -wave
interaction between the baryon and the meson is taken to
be CMI-type or FF-type for the Λ(1405). The P-wave in-
teraction for N∗(1440) and ∆(1232) is taken to be the one
arising from the pion-quark interaction. The q3 state is in-
troduced in the systems as a BSEC. The peaks of these
resonances are reproduced successfully by our baryon me-
son model though it is necessary to modify the coupling
constant fπBN∗to have a proper width for N∗(1440). This work was supported in part by KAKENHI (Nos. 17540264, 18042007, and 20540281). This work was supported in part by KAKENHI (Nos. 17540264, 18042007, and 20540281). 3 N(939) and N∗(1440) 4 ∆(1232) The ∆resonance appears in the S = T = 3/2 Nπ and ∆π
scattering. We also apply the same scheme to this reso-
nance and obtain a reasonable peak as shown in Fig. 5. As
seen in Table 3, ∆π scattering with the ∆pole diagram is
most important to form the peak. The energy of the q3 ∆-
pole is found to be 1327 MeV. The difference between the
N and ∆pole energies then becomes 280 MeV. In the quark
model viewpoint, this difference is considered to come from
hyperfine interaction in the gluon exchange between quarks
[4,13]. In the usual quark model, this difference is taken
from the observed N∆mass difference, 293MeV. Reflect-
ing the fact that pion cloud produces similar self energy to
N and ∆-pole, the difference or the empirical strength of
the quark-quark interaction does not change much when
one considers the meson effects in the quark model. 1.7 fπNN and fπ∆∆∼0.2fπNN. So, the effects from the B′-
poles become most important in the S = T = 1/2 case. 1.7 fπNN and fπ∆∆∼0.2fπNN. So, the effects from the B′-
poles become most important in the S = T = 1/2 case. To fit the N∗(1440) peak, we have to assume fπNN∗=
2 fπNN and fπ∆N∗= 2fπN∆. The origin of this factor 2 is
not specified here; it may come from the difference in the
orbital part or other modes such as Nππ. Then, with the
N∗-pole at 1822 MeV and the N-pole at 1067 MeV, the res-
onance shape is well reproduced as seen in Fig. 4. The en-
ergy of the N∗-pole becomes reasonably close to the other
positive parity baryons. 07017-p.4 19th International IUPAP Conference on Few-Body Problems in Physics 19th International IUPAP Conference on Few-Body Problems in Physics References 1. S. Takeuchi and K. Shimizu, Phys. Rev. C 76, 035204
(2007). 2. S. Takeuchi and K. Shimizu, Phys. Rev. C 79, 045204
(2009). 3. N. Isgur and G. Karl, Phys. Rev. D 18, 4187 (1978). 4. N. Isgur, Int. J. Mod. Phys. E 1, 465 (1992). 5. M. Furuichi, K. Shimizu, and S. Takeuchi, Phys. Rev. C 68, 034001 (2003). 6. N. Kaiser, P. B. Siegel and W. Weise, Nucl. Phys. A
594, 325 (1995). 7. N. Kaiser, P. B. Siegel and W. Weise, Phys. Lett. B
362, 23 (1995) [arXiv:nucl-th/9507036]. . E. Oset and A. Ramos, Nucl. Phys. A 635, 99 (199 9. J. C. Nacher, A. Parreno, E. Oset, A. Ramos,
A. Hosaka and M. Oka, Nucl. Phys. A 678, 187 (2000)
[arXiv:nucl-th/9906018]. 10. D. Jido, J. A. Oller, E. Oset, A. Ramos and
U. G. Meissner, Nucl. Phys. A 725, 181 (2003). 11. B. Borasoy, U. G. Meissner and R. Nissler, Phys
C 74, 055201 (2006) [arXiv:hep-ph/0606108]. 12. T. Hyodo, D. Jido and A. Hosaka, Phys. Rev. C 78,
025203 (2008) [arXiv:0803.2550 [nucl-th]]. 13. K. Shimizu, S. Takeuchi and A. J. Buchmann, Prog. Theor. Phys. Suppl. 137, 43 (2000). 14. See, e.g. Chapter III of “Theoretical nuclear physics:
nuclear reactions,” by H. Feshbach, John Wiley &
Sons, Inc, 1992 New York. 15. C. Amsler et. al., Phys. Lett. B667, 1 (2008). 16. A. D. Martin, Nucl. Phys. B 179, 33 (1981). 17. J. H¨ufner, Phys. Rep. 21, 1 (1975). 07017-p.5 07017-p.5
|
https://openalex.org/W2103672897
|
https://europepmc.org/articles/pmc4600508?pdf=render
|
English
| null |
Necroptotic Cell Death Signaling and Execution Pathway: Lessons from Knockout Mice
|
Mediators of inflammation
| 2,015
|
cc-by
| 13,184
|
José Belizário,1 Luiz Vieira-Cordeiro,2 and Sylvia Enns1 José Belizário,1 Luiz Vieira-Cordeiro,2 and Sylvia Enns1
1Department of Pharmacology, Institute of Biomedical Sciences, University of S˜ao Paulo, 05508-900 S˜ao Paulo, SP, Brazil
2Department of Animal Science, Federal Rural University of the Semiarid Region, 59625-900 Mossor´o, RN, Brazil 1Department of Pharmacology, Institute of Biomedical Sciences, University of S˜ao Paulo, 05508-900 S˜ao Paulo, SP, Brazil
2Department of Animal Science, Federal Rural University of the Semiarid Region, 59625-900 Mossor´o, RN, Brazil 1Department of Pharmacology, Institute of Biomedical Sciences, University of S˜ao Paulo, 05508-900 S˜ao Paulo, SP, Brazil
2Department of Animal Science, Federal Rural University of the Semiarid Region, 59625-900 Mossor´o, RN, Brazil epartment of Pharmacology, Institute of Biomedical Sciences, University of S˜ao Paulo, 05508-900 S˜ao Paulo, SP, Br
epartment of Animal Science, Federal Rural University of the Semiarid Region, 59625-900 Mossor´o, RN, Brazil Correspondence should be addressed to Jos´e Beliz´ario; jebeliza@usp.br Correspondence should be addressed to Jos´e Beliz´ario; jebeliza@usp.br Received 27 December 2014; Revised 24 March 2015; Accepted 16 April 2015 Academic Editor: Laura Soucek Copyright © 2015 Jos´e Beliz´ario et al. This is an open access article distributed under the Creative Commons Attribution License,
which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Under stress conditions, cells in living tissue die by apoptosis or necrosis depending on the activation of the key molecules within a
dying cell that either transduce cell survival or death signals that actively destroy the sentenced cell. Multiple extracellular (pH, heat,
oxidants, and detergents) or intracellular (DNA damage and Ca2+ overload) stress conditions trigger various types of the nuclear,
endoplasmic reticulum (ER), cytoplasmatic, and mitochondrion-centered signaling events that allow cells to preserve the DNA
integrity, protein folding, energetic, ionic and redox homeostasis, thus escaping from injury. Along the transition from reversible
to irreversible injury, death signaling is highly heterogeneous and damaged cells may engage autophagy, apoptotic, or necrotic cell
death programs. Studies on multiple double- and triple- knockout mice identified caspase-8, flip, and fadd genes as key regulators
of embryonic lethality and inflammation. Caspase-8 has a critical role in pro- and antinecrotic signaling pathways leading to the
activation of receptor interacting protein kinase 1 (RIPK1), RIPK3, and the mixed kinase domain-like (MLKL) for a convergent
execution pathway of necroptosis or regulated necrosis. José Belizário,1 Luiz Vieira-Cordeiro,2 and Sylvia Enns1 Here we outline the recent discoveries into how the necrotic cell death
execution pathway is engaged in many physiological and pathological outcome based on genetic analysis of knockout mice. Hindawi Publishing Corporation
Mediators of Inflammation
Volume 2015, Article ID 128076, 15 pages
http://dx.doi.org/10.1155/2015/128076 Hindawi Publishing Corporation
Mediators of Inflammation
Volume 2015, Article ID 128076, 15 pages
http://dx.doi.org/10.1155/2015/128076 1. Introduction proliferation checkpoints, and DNA repair mechanisms [3,
4, 9]. It is now becoming evident that perturbations of
intracellular ionic homeostasis induced by certain transmem-
brane non- and voltage dependent-channels and ion-linked
channel receptors play critical roles in the course of cell
death processes [1–5, 9]. Here we will summarize common
features of necrosis, apoptosis, and necroptosis and the mul-
tiple intracellular signal pathways that regulate their cellular
triggering in many physiological and pathological situations. In the end, we will outline and discuss important phenotypes
of knockout mice models that serve to define the role of
caspase-8, flip, and fadd genes and other major components
of apoptotic and necroptotic downstream signaling effectors. Cell death is a crucial process in ontogeny, homeostasis, and
pathologies [1, 2]. Over 100 billion cells die in our bodies
by different cell death pathways every day. The cells die by
apoptosis, a physiological and regulated cell death process
which is tolerogenic and partially inflammatory, or necrop-
tosis, a pathological and regulated cell death process, which
is inherently immunogenic and elicits intense inflammatory
reaction [3, 4]. Pyroptosis [5], immunogenic cell death [6, 7],
and other distinct cell death processes have been defined
at morphological and biochemical levels [3, 4, 8, 9]. Many
questions concerning the cross talk among the cell death
regulators, their intracellular signaling pathways, and the
immunological consequences remain unanswered. Genetic
dissection in simple model organisms [10] and mice models
[11] has provided us with critical genes of cell-death pathways
that control early and late biochemical and morphological
events in organ development and cellular homeostasis. A
variety of cell death modalities share extrinsic and intrin-
sic pathways that integrate mitochondrial metabolism, cell 2. Cell Death Modalities 2.1. Accidental Necrosis. Necrosis derives from the Greek
word “necros” and has long been used by pathologists to
describe morphologically the death of cells or tissue as
result of pathological infection, cellular injury, and noxious 2 2 Mediators of Inflammation Apoptosis
Necrosis
(a)
(b)
Figure 1: Distinct morphological features of apoptosis and necroptosis. (a) Apoptosis is characterized by cell shrinkage, membrane blebbing
condensation, margination of nuclear chromatin, and packaging of apoptotic bodies and its engulfment by neighbor cells. (b) Necroptosis is
characterized by the increase in cell volume, swelling of organelles, perforation of plasma membrane, cellular collapse, and release of cellular
contents. Apoptosis
Necrosis
(a) (a) b) (b) Figure 1: Distinct morphological features of apoptosis and necroptosis. (a) Apoptosis is characterized by cell shrinkage, membrane blebbing
condensation, margination of nuclear chromatin, and packaging of apoptotic bodies and its engulfment by neighbor cells. (b) Necroptosis is
characterized by the increase in cell volume, swelling of organelles, perforation of plasma membrane, cellular collapse, and release of cellular
contents. stimuli [1, 4]. The term necrosis is now referred to as acciden-
tal cell death, which is a form of nonregulated, nonspecific,
and uncontrolled cell death by meaning of genetic and
biochemical interventions [4]. Necrotic death occurs quickly
as a consequence of extreme physicochemical stress, such
as heat, acidification, osmotic shock, mechanical stress, and
freeze-thawing of cells [2]. Necrotic cells are characterized
by loss of plasma membrane integrity, increase in cell vol-
ume (also known as oncosis), organelle swelling, lack of
internucleosomal DNA fragmentation, and cellular collapse
(Figure 1). These events occur at early or late stages of cellular
collapse due to cellular energy depletion (ATP), mitochon-
drial permeability transition, increases in cytosolic calcium
concentration, high production of free radicals, reactive
(activated) oxygen species (ROS), oxidization of membrane
lipids, plasma membrane damage and permeability changes,
and critical DNA and protein structural damage [2, 8]. morphological changes at the microscopy level (Figure 1). Apoptosis is characterized by cell shrinkage, membrane bleb-
bing, condensation and margination of nuclear chromatin,
degradation of DNA into nucleosomal units (200 bp), and
formation of apoptotic bodies. However, the hallmark of an
apoptotic process is its dependence on caspase activation
[1, 8, 12]. Cells undergo apoptosis in response to extrinsic or
intrinsic pathways that are regulated by various antiapoptotic
and proapoptotic proteins [8, 13]. 2. Cell Death Modalities The extrinsic pathway is
mediated by binding of the tumor necrosis factor (TNF)
to its receptor (TNFR-1) which is followed the formation
of two TNFR complexes [14]. TNFR-1 complex I comprises
the adaptor protein TNFR1-associated death domain protein
(TRADD), the death domain- (DD-) containing protein
kinase receptor-interacting protein 1 (RIPK1), the ubiquitin
E3 ligases TNFR-associated factor 2 (TRAF2), and cellular
inhibitor of apoptosis protein 1 (cIAP1). TNFR-1 complex II
comprises the adaptor FAS-associated death domain protein
(FADD), caspase-8, RIPK1 (IIa), and/or RIPK3 (IIb). E3
ubiquitin ligases, including cIAP-1 and -2 and deubiqui-
tinases, including CYLD (cylindromatosis), A20, Cezanne,
HOIL-1/HOIP/Sharpin (LUBAC ubiquitin ligase complex), 2.2. Apoptosis. The term “apoptosis” was derived from a
Greek word that means “falling off” and was first coined
by Kerr et al. [1] to describe a morphological manifestation
of cellular demise. The complex cellular morphology known
as apoptosis can be confidently recognized by a series of 3 Mediators of Inflammation 2.3. Necroptosis. Necroptosis is referred to as cell death
initiated by TNF receptors following chemical suppression of
caspases [3]. Peter Vandenabeele and Junying Yuan were the
first authors to describe the morphological and biochemical
features of necroptosis (more details in Section 4). It is
morphologically characterized by the increase in cell volume,
swelling of organelles, plasma membrane permeabilization,
cellular collapse, and release of cellular contents. Necroptotic
cells promote highly inflammatory response as consequence
of the release of cytokines, cDAMPs, and PAMPs [18, 20]. Necroptosis is now considered a regulated cell death program
that ultimately relays in a core execution pathway to promote
final cellular demise [4, 9]. A detailed mechanism for necrop-
totic cell death execution pathway has been described that
involves the integration of many downstream signaling path-
ways with a trio formed by the receptor interacting protein
kinase 1 (RIPK1), RIPK3, and MLKL [23, 24]. Importantly,
many cell death triggers can induce necroptosis at various
pathological scenarios [9]. modify the balance between TNFR-1 complex I and complex
II [13–15] leading to either cell survival via activation of
nuclear factor-𝜅B (NF-𝜅B) or alternative cell death signaling
pathways. Homodimerization and activation of caspase-8 within
either TNFR complex I or II propagate the activation of
effector caspases-3, -6, and -7, which then cause cellular
destruction by apoptosis without mitochondria participa-
tion (known as type I intrinsic pathway). Both caspase-8
and cFLIP (FADD-like IL-1𝛽-converting enzyme-inhibitory
protein) possess two DED (death effector domain) domains. 3. Mitochondrial Channels and Pores
That Control Apoptosis and Necroptosis
Cell Death The role of mitochondria is well defined in apoptotic cell
death and accidental necrosis. The mitochondrial involve-
ment in necroptosis is still very preliminary and debat-
able. Given that various transmembrane non- and voltage
dependent-channels and ion-linked channel receptors play
critical roles in the course of cell death processes, here we will
update on some of the putative mechanisms that contribute
to apoptotic and necrotic cell death. 3.1. Regulation of Mitochondrial Osmotic Balance. Mitochon-
dria function in a cytosolic milieu containing Na+, K+,
and Ca2+ as well as other anions and cations [25]. The
inner mitochondrial membrane, however, is impermeable
to these ions and their flux and concentrations in the
mitochondrial matrix are controlled by different subtypes
of pores, channels, and exchangers. The mitochondrial K+
balance is controlled by ATP-dependent (KATP) and Ca2+-
dependent (KCa) K+ channels responsible for influx and
by K+/H+ exchanger responsible for removal of excess of
matrix K+ [26, 27]. Sodium balance is governed by Na+/Ca2+
(influx) and Na+/H+ (efflux) exchangers and calcium balance
by Ca2+ channel (influx) and Na+/Ca2+ exchangers (efflux). The balance of the main cytoplasmic anions, phosphate and
chloride is regulated by numerous carriers and channels [25,
27]. Cell size decreases due to water loss from increased K+ 3.1. Regulation of Mitochondrial Osmotic Balance. Mitochon-
dria function in a cytosolic milieu containing Na+, K+,
and Ca2+ as well as other anions and cations [25]. The
inner mitochondrial membrane, however, is impermeable
to these ions and their flux and concentrations in the
mitochondrial matrix are controlled by different subtypes
of pores, channels, and exchangers. The mitochondrial K+
balance is controlled by ATP-dependent (KATP) and Ca2+-
dependent (KCa) K+ channels responsible for influx and
by K+/H+ exchanger responsible for removal of excess of
matrix K+ [26, 27]. Sodium balance is governed by Na+/Ca2+
(influx) and Na+/H+ (efflux) exchangers and calcium balance
by Ca2+ channel (influx) and Na+/Ca2+ exchangers (efflux). The balance of the main cytoplasmic anions, phosphate and
chloride is regulated by numerous carriers and channels [25,
27]. Cell size decreases due to water loss from increased K+ In vivo, apoptotic cells maintain their plasma membrane
integrity. However, apoptotic cells under certain conditions
promote the exposure or release of ecto-calreticulin, phos-
phatidylserine, HSP70, HSP90, opsonins, thrombospondin,
and high mobility group box 1 (HMGB1), which are known as
cDAMPs [18]. 2. Cell Death Modalities Their heterodimerization will block the apoptotic signaling
cascade, leading to cellular survival and NF-𝜅B-mediated
proinflammatory response. Thus the ratio of different c-FLIP
isoforms (long and short isoforms) bound to procaspase-
8 is a critical regulator of both procaspase-8 dimeriza-
tion/activation and cell death by apoptosis and necroptosis
[16]. The intrinsic pathway is also called the mitochondrial
pathway and is absolutely dependent on BAX and BAK
protein activation by BH3-only molecules (BH3s) of The
BCL-2 (B-cell lymphoma/leukemia 2) family proteins. Var-
ious BH3s proteins of the pro-apoptotic family, including
BAD, BIK, BID, BIM, BMF, NOXA, and PUMA participate
in this process. These proteins interact and dislocate the
BH3s proteins of the anti-apoptotic family, including BCL-
2, BCL-XL and MCL-1, allowing conformational changes
and association of BAX/BAK proteins at specific sites of
the mitochondrial outer membrane. Cytochrome 𝑐is an
abundant protein of the mitochondrial inner membrane and
acts as an electron transport intermediate. BAX and BAK
promote apoptosis by perturbing the permeability of the
mitochondrial outer membrane, referred to as MOMP, which
lead to the release of cytochrome c [17]. The cytochrome
𝑐released into the cytoplasm stimulates the formation
of the apoptosome, a scaffold for activation of caspase-9,
which, in turn, cleaves and activates the effector caspases-
3, -6, and -7. Mitochondrial membrane permeabilization
leads to the release of other apoptogenic proteins, including
apoptosis inducing factor (AIF), Smac/Diablo, HtrA2/Omi
(serine protease), and endonuclease G, which execute distinct
functions in the downstream apoptosis-signaling pathway. Accordingly, new small-molecule inhibitors of Bcl-2 proteins,
including ABT-199 and ABT-263, are viewed as promising
new anticancer agents. Recently it has been demonstrated that cells undergo
regulated necroptosis after activation canonical and non-
canonical extrinsic or intrinsic pathways triggered by TNF-
𝛼, TLR (toll-like receptors) and NLR (NOD-like receptors)
agonists, interferons, viral and bacterial products, and diverse
pathophysiological signals [9]. The emerging connections
between necroptosis and apoptosis intrinsic and extrinsic
pathways are depicted on Figure 2 described in more details
in the next sections. 3. Mitochondrial Channels and Pores
That Control Apoptosis and Necroptosis
Cell Death The uptake of apoptotic cells by macrophages
promotes the release proinflammatory cytokines [19, 20] and
cell growth and wound healing through the release of vascular
endothelial growth factor (VEGF) and transforming growth
factor-𝛽(TGF-𝛽), respectively [21]. Several cytokines and
lipid mediators produced by immune cells and surrounding
tissue are involved in the resolution of acute and chronic
inflammation [22]. 4 Mediators of Inflammation RIPK1
TRADD
FADD
Caspase-8
RIPK3
RIPK1
RIPK3
c-FLIP
Bid
RIPK1
RIPK3
P
P
Z-VAD
Virus proteins
Smac mimetics
Bax
Bak
Bcl-2
Necrostatin
VDAC
PTPC
MOMP
MPT
Cytocrome c
Autophagy
Caspase-3
Caspase-7
Apoptosome
Caspase-9
Calpains
Cathepsins
P
P
MLKL channel
ROS
MLKL
Apoptosis
Necrosis
TNFR
TNF
ROS
DAMPs
DAMPs
tBid
LMP
Na+
Na+
Na+
Na+
Na+
Na+
Na+
Na+
Na+
K+K+
K+
K+
K+
Ca2+
Ca2+
Ca2+
Ca2+
Ca2+
Ca2+
Ca2+
Figure 2: Schematic overview of the multiple signaling pathways to apoptosis, necroptosis and autophagy. TNF-𝛼binding to TNFR causes the
assembly of a membrane-proximal supramolecular complex including (but not limited to) TRADD, FADD, and RIPK1 (receptor interacting
protein kinase 1). Recruitment and activation of caspase-8 play a crucial role in initiation of apoptotic or necrotic cell death. Active caspase-8
cleaves Bid, generating tBid, with together with Bax and Bak promote the mitochondria outer membrane permeabilization (MOMP) allowing
the release of cytochrome 𝑐. Cleavage of both RIP1 and RIP3 by caspase-8 leads to apoptosis, whereas phosphorylation of RIP1 and RIP3
protein kinases causes their activation and in turn the recruitment of MLKL (mixed lineage kinase domain-like). MLKL is phosphorylated
by RIP3 and initiated structural changes that led to its insertion in the plasma membrane and formation channels. MLKL channels increase
Na+ influx, osmotic pressure, and membrane rupture, ending with cell death by necroptosis. Membrane rupture promotes the release of
cellular contents and, in particular, various endogenous DAMPs. Various chemotherapeutical drugs, chemical and biological stressors,
cause mitochondrial dysfunctions and consequently increase the level of ROS (reactive oxygen species, ROS) generation and collapse of
electrochemical gradient, which compromise the ADP/ATP exchange transporter. High Ca2+ upload in the matrix favors the transient or
irreversible opening or closure of the outer/inner mitochondrial permeability transition pore complex (MPTPC) that is well known to
participate in the mitochondrial permeability transition (MPT). This is accompanied by mitochondrial depolarization, loss of membrane
potential (ΔΨm), and massive swelling due to influx of ions and water into the matrix. 3. Mitochondrial Channels and Pores
That Control Apoptosis and Necroptosis
Cell Death Depending on the extension of cell injury, the cells
undergo apoptosis, necrosis, or autophagy programs. Autophagy of damaged organelles constitutes a survival response that prevents cell
death. VDAC: the voltage-dependent anion channel, also known as porin; DAMPs: damaged associated-molecular patterns; TNF𝛼: tumor
necrosis factor 𝛼; TNFR: tumor necrosis factor receptor; FADD: Fas-associated death domain protein; Z-VAD.fmk: Z-Val-Ala-Asp(OMe)-
fluoromethylketone; LMP: lysosomal membrane permeabilization; PTPC: permeability transition pore complex; Smac: second mitochondria-
derived activator of caspase RIPK1
TRADD
FADD
Caspase-8
RIPK3
RIPK1
RIPK3
c-FLIP
Bid
RIPK1
RIPK3
P
P
Z-VAD
Virus proteins
Smac mimetics
Bax
Bak
Bcl-2
Necrostatin
VDAC
PTPC
MOMP
MPT
Cytocrome c
Autophagy
Caspase-3
Caspase-7
Apoptosome
Caspase-9
Calpains
Cathepsins
P
P
MLKL channel
ROS
MLKL
Apoptosis
Necrosis
TNFR
TNF
ROS
DAMPs
DAMPs
tBid
LMP
Na+
Na+
Na+
Na+
Na+
Na+
Na+
Na+
Na+
K+K+
K+
K+
K+
Ca2+
Ca2+
Ca2+
Ca2+
Ca2+
Ca2+
Ca2+ RIPK1
TRADD
FADD
Caspase-8
RIPK3
RIPK1
RIPK3
c-FLIP
Bid
RIPK1
RIPK3
P
P
Z-VAD
Virus proteins
Smac mimetics
Bax
Bak
Bcl-2
Necrostatin
VDAC
PTPC
MOMP
MPT
Cytocrome c
Autophagy
Caspase-3
Caspase-7
Apoptosome
Caspase-9
Calpains
Cathepsins
P
P
MLKL channel
ROS
MLKL
Apoptosis
Necrosis
TNFR
TNF
ROS
DAMPs
DAMPs
tBid
LMP
Na+
Na+
Na+
Na+
Na+
Na+
Na+
Na+
Na+
K+K+
K+
K+
K+
Ca2+
Ca2+
Ca2+
Ca2+
Ca2+
Ca2+
Ca2+ Apoptosis Necrosis Caspase-7 Caspase-3 Apoptosome Calpains Cytocrome c DAMPs DAMPs Autophagy Figure 2: Schematic overview of the multiple signaling pathways to apoptosis, necroptosis and autophagy. TNF-𝛼binding to TNFR causes the
assembly of a membrane-proximal supramolecular complex including (but not limited to) TRADD, FADD, and RIPK1 (receptor interacting
protein kinase 1). Recruitment and activation of caspase-8 play a crucial role in initiation of apoptotic or necrotic cell death. Active caspase-8
cleaves Bid, generating tBid, with together with Bax and Bak promote the mitochondria outer membrane permeabilization (MOMP) allowing
the release of cytochrome 𝑐. Cleavage of both RIP1 and RIP3 by caspase-8 leads to apoptosis, whereas phosphorylation of RIP1 and RIP3
protein kinases causes their activation and in turn the recruitment of MLKL (mixed lineage kinase domain-like). MLKL is phosphorylated
by RIP3 and initiated structural changes that led to its insertion in the plasma membrane and formation channels. MLKL channels increase
Na+ influx, osmotic pressure, and membrane rupture, ending with cell death by necroptosis. Membrane rupture promotes the release of
cellular contents and, in particular, various endogenous DAMPs. 3. Mitochondrial Channels and Pores
That Control Apoptosis and Necroptosis
Cell Death Various chemotherapeutical drugs, chemical and biological stressors,
cause mitochondrial dysfunctions and consequently increase the level of ROS (reactive oxygen species, ROS) generation and collapse of
electrochemical gradient, which compromise the ADP/ATP exchange transporter. High Ca2+ upload in the matrix favors the transient or
irreversible opening or closure of the outer/inner mitochondrial permeability transition pore complex (MPTPC) that is well known to
participate in the mitochondrial permeability transition (MPT). This is accompanied by mitochondrial depolarization, loss of membrane
potential (ΔΨm), and massive swelling due to influx of ions and water into the matrix. Depending on the extension of cell injury, the cells
undergo apoptosis, necrosis, or autophagy programs. Autophagy of damaged organelles constitutes a survival response that prevents cell
death. VDAC: the voltage-dependent anion channel, also known as porin; DAMPs: damaged associated-molecular patterns; TNF𝛼: tumor
necrosis factor 𝛼; TNFR: tumor necrosis factor receptor; FADD: Fas-associated death domain protein; Z-VAD.fmk: Z-Val-Ala-Asp(OMe)-
fluoromethylketone; LMP: lysosomal membrane permeabilization; PTPC: permeability transition pore complex; Smac: second mitochondria-
derived activator of caspase. Mediators of Inflammation 5 healthy tissues becomes ROS, such as superoxide (O2
⋅−),
hydrogen peroxide (H2O2), and hydroxyl radical (OH−) [33]. This ROS production occurs primarily in complex I (NADH
dehydrogenase) and complex III (ubiquinone-cytochrome 𝑐
reductase). O2 itself is also a free radical because it has two
unpaired electrons in its outer orbit that make it reactive. Increase in the level of products of the one-electron reduction
of O2 is known to induce the mitochondrial permeabilization
transition. The hypothesis is that pore formation is involved
in the organization of a defense system preventing ROS
formation. It is proposed that an ROS-induced nonspecific
pore opening lowers ROS production due to (a) maximal
stimulation of mitochondrial O2 consumption and, hence,
intracellular lowering of ROS and (b) complete dissipation of
mitochondrial membrane potentials and, as a consequence,
maximal oxidation of such respiratory chain carriers such as
coenzyme Q, which serve as one-electron O2 reductant [34]. and Cl−ionic effluxes. The mitochondrial inner membrane
also has unique water channels named aquaporins, which
facilitate water or other small-uncharged molecule transport
between the cytoplasm and matrix [28]. 3. Mitochondrial Channels and Pores
That Control Apoptosis and Necroptosis
Cell Death The rate of water
flux in or out of the mitochondrion is determined not only
by the osmotic gradient that acts as the driving force for
water transport but also by the water permeability of the inner
membrane [28].h The mechanisms by which Ca2+ ions modulate both
oxidative
phosphorylation
and
mitochondrial
matrix
swelling have been a matter of great debate for decades. Halestrap and colleague [29] demonstrated that an increase
in intramitochondrial Ca2+ concentration can increase the
flux of K+ into mitochondria. Since then, several mechanisms
have been proposed to explain this finding. First, it was
proposed that elevated matrix Ca2+ could open a putative
mitochondrial large conductance Ca2+-activated K+ channel
(KCa channel) [26, 30]. Activation of calcium efflux pathways
via Na+/Ca+ and Na+/H+ exchangers (mitochondrial NHE1)
during intramitochondrial Ca2+ overload causes dissipation
of the mitochondrial membrane potential and loss of proton
gradient [27]. Loss of proton gradient suppresses the activity
of K+/H+ exchange leading to the mitochondrial swelling. Finally, if the Na+/Ca2+ exchanger becomes saturated, a high
intramitochondrial Ca2+ could rise to the level sufficient
to facilitate entry of potassium as well as other ions and
solutes and inducing massive swelling of the matrix [26]. An increase of Ca2+ concentration up to the micromolar
level inhibits pyrophosphatase activity in the matrix, which,
in turn, may transiently displace adenine nucleotides from
adenine nucleotide translocase (ANT) and convert the latter
into a potassium channel. Most likely the total net flux of
ions is directed toward the mitochondrial matrix and this ion
movement, accompanied by osmotically mediated entrance
of water, which leads finally to mitochondrial swelling [31]. The swelling could lead to a rupture of the mitochondrial
outer membrane allowing further expansion of the matrix. Thus, rupture of the mitochondrial outer membrane has
been proposed as alternative way of permeating the release of
cytochrome 𝑐in the apoptotic process, but this is debatable
[32]. Earlier studies have shown that OH⋅oxidize thiol (–SH)
groups of sensor proteins which directly promote the activa-
tion or opening of the mitochondrial permeability transition
pore [33, 34]. The mitochondrial permeability transition pore
complex (PTPC) is a nonspecific pore in the inner mito-
chondrial membrane (IMM) whose opening is triggered by
high concentration Ca2+ in the matrix [35–37]. Ca2+ loading
increases the production of ROS, including superoxide. PTP
is considered to function as a point of no return for both
apoptosis and necrosis. 3. Mitochondrial Channels and Pores
That Control Apoptosis and Necroptosis
Cell Death This supramolecular complex may
contain or be regulated by ANT (adenine nucleotide translo-
cator), the mitochondrial ADP/ATP nucleotide exchanger,
VDAC (the voltage-dependent anion channel), also known
as porin, protein cyclophilin D (CypD), the peripheral benzo-
diazepine receptor, the phosphate carrier, and the FoF1 ATP
synthase [38, 39]. CyPD binds to the FoF1 ATP synthase into
lipid bilayers to form a Ca2+-activated channel that displays
features of the mPTP [38]. In this physiological configuration,
PTP functions together with other channels and exchangers
in the regulation of mitochondrial Ca2+ homeostasis [2, 38,
39]. The roles of MOMP and MPT have been mostly con-
sidered to participate in the two independent pathways for
release of apoptotic and necrotic factors from mitochondria
[17]. Bax and Bak interact with the MPT to induce a
permeability transition and cytochrome 𝑐release in isolated
mitochondria [40, 41]. Interestingly, intermediate structures
common to membrane fusion or fission machineries have
also been described to participate in mitochondrial per-
meabilization phenomenon [17, 42]. New ideas and exper-
iments concerning structures and functions of membrane-
permeation channels, exchanger, and pores are under way to
confirm whether they act together or separately to promote
the mitochondrial events common to apoptotic and necrotic
intrinsic pathways [41]. 3.2. ROS-Induced Mitochondrial Permeability. ROS (reactive
oxygen species) overproduction can lead to severe mito-
chondrial dysfunction commonly observed in the necrotic
cell death process [2]. Reactive oxygen species induce mito-
chondrial structural oxidation and opening of the per-
meability transition pores, channels, and exchangers [33]. Under normal metabolic conditions, electron-transporting
complexes I, II, III, and IV plus a nonredox H+-translocating
complex, ATP synthase (also called complex V, FoF1-ATP
synthase), coenzyme Q, and cytochrome 𝑐carry out oxidative
phosphorylation [34]. The a- and b-type cytochromes are
inaccessible components of large complexes, but cytochrome
𝑐is monomeric, freely diffusible in the inner membrane,
and in equilibrium between the inner membrane, intermem-
brane space and cristae. A small percentage of the total O2
consumed by the mitochondrial electron transport chain in 3.3. Mitophagy. The outcome of cells with mitochondrial
damage can vary. Apoptosis can eliminate ROS-producing
cells (cell selection). Autophagy (self-eating) is a catabolic
process that targets organelles and cytoplasmic components
for degradation by the lysosome [43]. Autophagy has not 3.3. Mitophagy. The outcome of cells with mitochondrial
damage can vary. Apoptosis can eliminate ROS-producing
cells (cell selection). 3. Mitochondrial Channels and Pores
That Control Apoptosis and Necroptosis
Cell Death Autophagy (self-eating) is a catabolic
process that targets organelles and cytoplasmic components
for degradation by the lysosome [43]. Autophagy has not 6 Mediators of Inflammation 6 been considered a modality in cell death; nonetheless, many
stimuli that activate apoptosis induce autophagy, whereas
signals that inhibit apoptosis inhibit autophagy [43, 44]. The pan caspase inhibitor Z-VAD-fmk inhibits caspases
but also blocks lysosomal cathepsins and hence cell death
by autophagy. Antiapoptotic proteins, such as Bcl-2 family
members, bind to and inhibit beclin (Atg 6), and proapoptotic
factors, such as BH3-only proteins, to disrupt this inhibitory
interaction and thereby activate autophagy [44]. Autophagy
is triggered by ROS derived from either the mitochondrial
electron transport chain or NAPDH oxidases. Autophagy
of damaged mitochondria limits ROS-modulated caspase-1
activation and seems to negatively regulate pyroptosis [44]. Mitophagy is a specialized form of autophagy in which
mitochondria are specifically targeted for degradation at the
autophagolysosome, with subsequent degradation by cell’s
own lysosomal system [44]. Depolarization of mitochondrial
membranes is a prerequisite for mitophagy. This process
occurs for a period of time for clearance of mitochondria
in which damage is not too extensive. Therefore, autophagy
of damaged organelles constitutes a survival response that
prevents cell death. necroptosis by promoting autodegradation of cIAP-1, cIAP-
2, and XIAP [57] and the formation of RIPK1-dependent
complex named necrosome [9]. RIPK1 bears a DD domain allowing its recruitment to
TNF-𝛼, TRAIL, and CD95 large complexes that initiate
the necroptotic cell death pathway [50, 58]. Hitomi and
colleagues [54] identified RIPK1 among 7 genes out of
432 genes in a large screening for candidates required for
TNF plus zVAD-fmk-induced necroptosis in L929 cells. He and colleagues [55] used a combination of genome-
wide siRNA screening and immune precipitation assays to
identify RIPK3 as key determinant for necrotic cell death
downstream RIPK1. Cho and colleagues [59] undertook a
large screening using an siRNA library consisting of 691
human kinase genes to identify additional RIPK1 partners
in the induction of necroptosis in FADD-deficient Jurkat
cells. RIPK3 was identified as crucial upstream activating
kinase that regulates RIPK1-dependent necroptosis in vitro,
because of its physiological importance in the protection
against vaccinia virus infection [59]. g
Caspase-8 forms with its enzymatically inert homolog
cellular FLICE-like inhibitory protein long (cFLIPL) protein,
an active complex named ripoptosome. This complex con-
tains caspase-8, FADD, RIPK1, and RIPK3 [13]. 3. Mitochondrial Channels and Pores
That Control Apoptosis and Necroptosis
Cell Death Caspase-
8 inhibition within this complex blocks the cleavage of
RIPK1 and RIPK3 allowing RIPK1 to phosphorylate RIPK3. RIPK3 does not have DD domain in its terminus suggesting
other physiological roles in cells [58]. The identification of
necrosulfonamide, a small molecule that specifically blocks
necroptosis in human cells, was the key to further delineate
the downstream pathway mediated by RIPK3 [60]. The mixed
lineage kinase domain-like protein (MLKL) was identified
as the natural target of RIPK3 kinase [60]. Overexpression
of MLKL was able to induce the distinguishable hallmarks
of necroptosis [61]. These studies led to the assumption
that necroptotic cell death occurs upon the assembly of
a large, signal-induced multiprotein complex containing
RIPK1, RIPK3, and MLKL which was named necrosome [9,
62]. The RHIM (RIP homotypic interaction motif) domains
in molecular structures of RIPK1 and RIPK3 proteins allow
the homotypic protein–protein interactions which are essen-
tial to form filamentous amyloid structures required for
necroptotic signaling [15, 63]. A recent study showed that
RIPK3 catalytic activity is dispensable for apoptosis but
essential for necroptosis and both apoptosis and necroptosis
could proceed simultaneously [64]. 4. Critical Role of Plasma Membrane
Permeabilization by MLKL in the Execution
Pathway for Necroptosis The incu-
bation of cells with these peptides enhances TNF-induced Mediators of Inflammation 7 Gene
Sample
CASP8
RIPK1
RIPK3
MLKL
Fetal heart
Fetal liver
Fetal gut
Fetal ovary
Fetal testis
Fetal brain
Adult frontal cortex
Adult spinal cord
Adult retina
Adult heart
Adult liver
Adult ovary
Adult testis
Adult lung
Adult adrenal gland
Adult gallbladder
Adult pancreas
Adult kidney
Adult esophagus
Adult colon
Adult rectum
Adult urinary bladder
Adult prostate
Placenta
B cells
CD4+ T cells
CD8+ T cells
NK cells
Monocytes
Platelets
Figure 3: Expression of caspase-8, RIPK1, RIPK3, and MLKL in fetal and adult organs and hematopoietic and myeloid cells. Each row
corresponds to each protein concentration displayed as white (no expression) to red color intensity. The heat map was obtained from
http://www.humanproteomemap.org/. Figure 3: Expression of caspase-8, RIPK1, RIPK3, and MLKL in fetal and adult organs and hematopoietic and myeloid cells. Each row
corresponds to each protein concentration displayed as white (no expression) to red color intensity. The heat map was obtained from
http://www.humanproteomemap.org/. can bind to different phosphoinositide polyphosphates and
inositol polyphosphates [71]. After its phosphorylation by
RIPK3, MLKL translocates to lipid rafts inside of the plasma
membrane and interacts with the positively charged patch
formed by phosphoinositolphosphate (PIPs) molecules. This
leads to formation of a high molecular weight pore-forming
structure that allows the diffusion of ions, in particular,
sodium [68, 69]. This increases intracellular osmotic pressure
and eventually leads to membrane rupture [68, 70]. More
importantly, MLKL induced-leakage has been demonstrated
after it is bound to PIP, PI(4,5)P2, and PI(3,4,5)P3 con-
taining liposomes [69]. All of the above events are not
seen in apoptosis. Nonetheless, MLKL may likely function
in a similar mechanism proposed to Bax or Bak proteins
for membrane insertion and pore formation. Finally, one
study has suggested the possible role of MLKL in regulating
extracellular Ca2+ influx from the transient receptor potential
melastatin-related 7, which deserves further investigation
[66]. mouse embryonic fibroblasts [51]. The importance of the
mitochondrial axis in the induction of necroptosis was
confirmed in one study showing that once activated RIPK3
kinase initiates the phosphorylation of several downstream
target proteins including phospholipase A2 and the proteases
calpains and cathepsin [76]. Other critical targets include
the cytoplasmatic NOXA1/NADPH oxidase complex and
mitochondrial complex I, which are responsible for excessive
ROS production, ATP depletion, and opening of the mito-
chondrial permeability transition pores [76]. 4. Critical Role of Plasma Membrane
Permeabilization by MLKL in the Execution
Pathway for Necroptosis 4.1. Necrosome Complex. The interconnected and complex
signaling pathways to apoptosis and necroptosis were first
recognized by Wallack and Goeddel’s groups in 1995-1996. These investigators reported that the interaction of TNF
receptors, TRADD and FADD, via DED (death effector
domain) was critical for the recruitment of caspase-2, -8, and
-10 and the induction of cytotoxicity by TNF family members
[45, 46]. The genetic analysis of the caspase-8-deficient and
FADD-deficient mice demonstrated the essential role of
these genes for embryo development and signaling to tumor
necrosis death receptors-induced apoptosis in a physiological
setting [45–47]. On the other hand, it was also observed
that the cell killing by FADD oligomerization could be
caspase-independent suggesting the existence of a particular
nonapoptotic cell death program [48–50]. Vercammen and
colleagues [51] were the first to report on the induction
the morphological features of necroptosis in L929 cells
following pharmacological blockage of pan caspase activity
by a peptide cell permeable inhibitor named Z-Val-Ala-
Asp.fluoromethylketone or ZVAD-fmk. 4.2. MLKL Channel. MLKL is recruited to the necrosome via
interaction of its kinase-like domain (KLD) with the kinase
domain of RIPK3 [65, 66]. MLKL is a kinase-dead protein. The N-terminal region of MLKL contains a 4HBH (a four-
helical bundle domain) with four helices (amino acids 1–125)
and, within its N-terminal, two more helices (amino acids
125–181) in its BR domain. MLKL has a pleckstrin homology
(PH) domain, similar to the domain of the phospholipase
C 𝛿(PLC𝛿), pleckstrin, spectrin, and dynamin [67]. This
PH domain seems to be required for its insertion into the
membrane surface, more specifically, through binding to
phosphatidylinositol phosphates [66, 68–70]. The PH domain l
y
These studies were confirmed by other authors who iden-
tified other cell death genes and small molecule inhibitors
that strongly sensitize cells to TNF-𝛼, TRAIL, and FasL
in eliciting a necrosis-like cell death [48, 52–55]. Degterev
and colleagues identified necrostatin-1, a small molecule
inhibitor of RIPK1 enzymatic activity [53, 56]. Mitochondria
release the second mitochondria-derived activator of caspase
(Smac/DIABLO) which bind and inactivate the inhibitors
of apoptosis cIAP-1, cIAP-2, and XIAP. Smac mimetics are
peptide antagonists of cIAP-1, cIAP-2, and XIAP. 4. Critical Role of Plasma Membrane
Permeabilization by MLKL in the Execution
Pathway for Necroptosis These events are
accompanied by prolonged JNK activation and stimulation
of several metabolic enzymes of glycolysis, glycogenolysis,
and glutaminolysis as well as the stimulation of the Krebs
cycle [76]. In fact, a previous study has shown that the Nox1
NADPH oxidase has a role in the TNF-induction of necrotic
cell death [77]. Not surprisingly, RIPK1, RIPK3, and MLKL are strongly
expressed in immunologic organs like the thymus and spleen
and lymphoid and myeloid cell lines, as compared to fetal and
adult organs. The relative expression is shown as dendrogram
in Figure 3. It is now well established that necroptosis occurs
both in T lymphocytes after HIV-1 infection and neutrophils
and macrophages after bacterial infection and during tissues
injury [9]. A number of pathogens cause host cell death and
caspase-8 and RIPK3 are considered the key regulators of
macrophage cell death [78, 79]. Future work is needed to
clarify the relationship of these metabolic and bioenergetic
mechanisms and their overlapping with either early or later
plasma membrane associated biochemical events [65, 74, 75]. A recent study showed that the RIPK3-MLKL interaction
and translocation of necrosomes to mitochondria associated
membranes are essential for necroptosis signaling [68]. It was
demonstrated that the assembly of RIPK1-RIPK3 complex
initiates the intrinsic necroptosis pathway with the partici-
pation of PGAM5L and PGAM5S. These two protein phos-
phatases cause the activation Drp1 (dynamin-related protein
1) and its translocation to the mitochondria. In mammalian
cells, mitochondrial fusion is regulated by mitofusin-1 and -2
(MFN-1/2) and optic atrophy 1 (OPA1), whereas mitochon-
drial fission is controlled by Drp1. Throughout the necrosis
process, Drp1 associated with its mitochondrial anchors Fis1
and Mff to induce mitochondrial fragmentation; however,
cytochrome 𝑐is not released as it occurs in the apoptosis
intrinsic pathway [72]. Thus both mitochondrial fission and
fusion proteins appear to modulate necroptosis through
activities that are distinct from their roles in mitochondrial
dynamics, a question that remains to be confirmed [73]. However, recent studies have excluded the requirement of
PGAM5 and DRP1 in necroptosis [65, 74, 75].h 5. Knockout Mice Models for In Vivo Cell
Death Studies Mice models have been the key biological tools to define
apoptotic and necrotic cell death in development, physiology,
and homeostasis as revealed in gene-knockout (KO) mice for
a broader number of the TNF and Bcl-2 family members and
their regulators [11, 80, 81]. Major phenotypes observed in
mice deficient in cell death-pathway genes by intercrossing
different null alleles are shown in Table 1. The crossing of
these transgenic KO mouse models deficient in two and three The production of ROS has been shown to be essential
for TNF𝛼-induced programmed necrosis in L929 cells and 8 8 Mediators of Inflammation Table 1: Summary of phenotypes of double- and triple-knockout mice ablated for genes that regulate apoptotic and necroptotic cell death
pathways. Table 1: Summary of phenotypes of double- and triple-knockout mice ablated for genes that regulate apoptotic and necroptotic cell death
pathways. Table 1: Summary of phenotypes of double and triple knockout mice ablated for genes that regulate apoptotic and necroptotic cell death
pathways. Crossed
mice
ripk1−/−
die postnatal
days 1-2
ripk3−/−
viable
mlkl−/−
viable
ripk1−/−
ripk3−/−
die postnatal day 4
ripk1−/−
mlkl−/−
die postnatal day 4
casp8−/−
Embryonic
lethal
Embryonic
lethal
Viable
Embryonic
lethal
Viable
fertile
Die postnatal day 4
flip−/−
Embryonic
lethal
Embryonic
lethal
Embryonic lethal
Embryonic
lethal
? ? fadd−/−
Embryonic
lethal
Embryonic
lethal
Viable
lympha-
denopathy
Embryonic
lethal
Viable
fertile
Viable
fertile
casp8−/−
fadd−/−
Embryonic
lethal
Embryonic
lethal
Viable
Embryonic
lethal
Viable
fertile
? flip−/−
fadd−/−
Embryonic
lethal
Embryonic
lethal
Viable
lympha-
denopathy
splenomegaly
Embryonic
lethal
Viable
fertile
? bax−/−
bak−/−
viable (10%)
Embryonic
lethal
? ? ? ? cypd−/−
viable
Embryonic
lethal
Viable
partial protection
of cardiac
ischemia
Viable
? ? Summary of knockout mice models of apoptosis and necroptosis genes for which the phenotypes reveal a critical role in development, physiology, and
homeostasis. Caspase-8, FLIP, and FADD proteins have pivotal roles in the death inducing signaling complex that regulate apoptosis FLIP deficiency causes
both massive apoptosis and necrosis. Knockout mice for caspase-8, Casp-8−/−, FADD, and Fadd−/−or double knockouts for both show an embryonically
lethal phenotype due to uncontrolled necrosis. Knockout mice for RIPK1, Ripk1−/−, die at birth of systemic inflammation whereas Ripk3−/−mice are normal
but are resistant to proinflammatory stimuli. Mlkl−/−mice are anatomically normal, viable, and fertile. Triple knockouts mice Fadd−/−Flip−/−Ripk3−/−have
a normal cell-death pathway and develop to normal birth because of absence of necrosis and apoptosis which are modulated by caspase-8. 5. Knockout Mice Models for In Vivo Cell
Death Studies Casp8−/−Mlkl−/−
double knockout mice are normal and resistant to TNF-induced necroptosis. Bax−/−Bak−/−double knockout mice develop perinatal lethality and only 10%
survive into adulthood, and these mice develop splenomegaly and lymphadenopathy. The question mark indicates possible or still unknown. Summary of knockout mice models of apoptosis and necroptosis genes for which the phenotypes reveal a critical role in development, physiology, and
homeostasis. Caspase-8, FLIP, and FADD proteins have pivotal roles in the death inducing signaling complex that regulate apoptosis FLIP deficiency causes
both massive apoptosis and necrosis. Knockout mice for caspase-8, Casp-8−/−, FADD, and Fadd−/−or double knockouts for both show an embryonically
lethal phenotype due to uncontrolled necrosis. Knockout mice for RIPK1, Ripk1−/−, die at birth of systemic inflammation whereas Ripk3−/−mice are normal
but are resistant to proinflammatory stimuli. Mlkl−/−mice are anatomically normal, viable, and fertile. Triple knockouts mice Fadd−/−Flip−/−Ripk3−/−have
a normal cell-death pathway and develop to normal birth because of absence of necrosis and apoptosis which are modulated by caspase-8. Casp8−/−Mlkl−/−
double knockout mice are normal and resistant to TNF-induced necroptosis. Bax−/−Bak−/−double knockout mice develop perinatal lethality and only 10%
survive into adulthood, and these mice develop splenomegaly and lymphadenopathy. The question mark indicates possible or still unknown. with triple deletion of FADD, caspase-8, and RIPK3 are viable
[55, 62, 87, 88]. The cardiac, vascular, and hematopoietic
defects that occur during the heart development of caspase-
8 and FADD knockout mice are caused by RIPK3-mediated
necrosis [87, 89]. Therefore, FADD and caspase-8 act as
prosurvival factors that suppress the deleterious effects of
necrosis by promoting the cleavage and inactivation of RIPK1
and RIPK3. On the other hand, double-knockout mice for
ripk3−/−and flip−/−die during embryonic development due
to uncontrolled apoptosis driven by active caspase-8 [89]. These experiments demonstrate that FLIP is an important
brake on both apoptotic and necrotic cell death in vivo. genes has helped elucidate cell death necroptotic pathways
and the essential role of downstream regulator genes involved
in several inflammatory pathologies. Some examples are
shown in Table 2. 5.1. Mice Models for Lethal Genes. Knockout mice for
caspase-8, caspase-8−/−, FADD, and fadd−/−or double-
knockouts for both show an embryonically lethal phenotype
due to uncontrolled apoptosis or necroptosis [11, 82, 83]. The
embryonic lethality in mice lacking FADD or caspase-8 is due
to massive necrosis and can be rescued by RIPK1 or RIPK3
deletion, respectively. 5. Knockout Mice Models for In Vivo Cell
Death Studies Ripk1−/−mice die at birth of systemic
inflammation and the large area of necrosis in the liver and
thymus [84, 85]. On the contrary, knockout of RIPK3 in
mice did not cause any measurable defect in development,
fertility, NF-𝜅B activation, and apoptosis [86]. Ripk3−/−mice
were resistant to necrotic pancreatitis (cerulein-induced) and
vaccinia virus-induced hepatic necrosis [55]. The rescue of
a lethal phenotype in RIPK1 knockout is often used as an
argument for the implication of necroptosis. Mice deficient in
FADD or caspase-8 die during embryogenesis; however, mice Caspase-8 and RIPK3 are all essential for clonal expan-
sion for T and B cell clones [63]. Mice deficient in Casp8−/−
fail to develop and die in utero, which may ultimately be
due to failing to maintain the proliferation of T and B cells
[90]. After stimulation, T cells lacking caspase-8 or its adaptor
protein FADD developed hyperautophagic morphology and
die by necroptosis [90]. Proliferation in caspase-8-deficient T
cells is fully rescued by crossing with ripk3−/−mice, although
such rescue ultimately leads to lymphadenopathy [63]. Mediators of Inflammation 9 Table 2: Summary of phenotypes in double- and triple-knockout mice ablated for genes that regulate apoptosis, necroptosis, and
inflammation. Table 2: Summary of phenotypes in double- and triple-knockout mice ablated for genes that regulate apoptosis, necroptosis, and
inflammation. Table 2: Summary of phenotypes in double- and triple-knockout mice ablated for genes that regulate apoptosis, necroptosis, and
inflammation. inflammation. Crossed
mice
ripk1−/−
die postnatal
day 1
ripk1−/−
tnfr−/−
die postnatal
day 1
sharpin−/−
viable
die postnatal days
10–14
inflammation
a20−/−
viable
die postnatal
days 7–14
inflammation
cyld−/−
viable
reach adulthood
inflammation
ripk3−/−
casp8−/−
viable
Viable
Viable? Embryonic
lethal
Embryonic
lethal
? ripk3−/−
fadd−/−
viable
Viable
Viable? Embryonic
lethal
Embryonic
lethal
? ripk3−/−
tnfr−/−
viable
Reach
adulthood
Viable? Prevent
inflammation
skin dermatitis
Prevent
inflammation
Cachexia
? ifnar−/−
viable
Die postnatal
day 1
Die later than
ripk1−/−
tnfr1−/−
? ? ? trif−/−
viable
Die postnatal
day 1
Die later than
ripk1−/−
tnfr1−/−
? ? ? ripk3−/−
mlkl−/−
die postnatal
day 4
Die postnatal
day 4
Die later than
ripk1−/−
tnfr1−/−
Prevent
systemic
inflammation
? ? Summary of phenotypes for double- and triple-knockout mice models of apoptosis, necroptosis, and inflammation genes. Knockout mice for RIPK1, Ripk1−/−,
die at birth of systemic inflammation whereas Ripk3−/−mice are normal but are resistant to proinflammatory stimuli. Mlkl−/−mice are anatomically normal,
viable, and fertile. 5. Knockout Mice Models for In Vivo Cell
Death Studies Triple-knockout mice Fadd−/−Flip−/−Ripk3−/−have a normal cell-death pathway and develop to normal birth because of absence of
necrosis and apoptosis which are modulated by caspase-8. Casp8−/−Mlkl−/−double knockout mice are normal and resistant to TNF-induced necroptosis. Deletion of Tnfr gene provides protection from Ripk1−/−perinatal lethality and double KO mice Ripk1−/−tnfr−/−can be partially protected from lethality
from systemic inflammation by mating these mice with ifnar−/−or trif −/−mice. This indicated that both proteins can engage RIPK3-MLKL interaction
independent of RIPK1. A20 and CYLD target similar molecular substrates including TRAF2, TRAF6, NF-𝜅B essential modulator (NEMO), and RIPK1. The
deubiquitinase CYLD removes the K63-Ub of RIPK1, and A20 promotes the removal of K63-linked ubiquitin chains to terminate signaling induced NF-𝜅B
activation. The ablation of A20 and SHARPIN genes is potentially lethal. A20/TNFAIP3, zinc finger and ubiquitin editing protein, CYLD, cylindromatosis,
deubiquitylating enzyme; SHARPIN, a protein that together with HOIL-1 and HOIP forms the LUBAC, the heterotrimeric linear ubiquitin chain assembly
complex; both are involved in the TNF signaling pathways; IFNAR, the type I IFN receptor. The question mark indicates possible or still unknown phenotype. Summary of phenotypes for double- and triple-knockout mice models of apoptosis, necroptosis, and inflammation genes. Knockout mice for RIPK1, Ripk1−/−,
die at birth of systemic inflammation whereas Ripk3−/−mice are normal but are resistant to proinflammatory stimuli. Mlkl−/−mice are anatomically normal,
viable, and fertile. Triple-knockout mice Fadd−/−Flip−/−Ripk3−/−have a normal cell-death pathway and develop to normal birth because of absence of
necrosis and apoptosis which are modulated by caspase-8. Casp8−/−Mlkl−/−double knockout mice are normal and resistant to TNF-induced necroptosis. Deletion of Tnfr gene provides protection from Ripk1−/−perinatal lethality and double KO mice Ripk1−/−tnfr−/−can be partially protected from lethality
from systemic inflammation by mating these mice with ifnar−/−or trif −/−mice. This indicated that both proteins can engage RIPK3-MLKL interaction
independent of RIPK1. A20 and CYLD target similar molecular substrates including TRAF2, TRAF6, NF-𝜅B essential modulator (NEMO), and RIPK1. The
deubiquitinase CYLD removes the K63-Ub of RIPK1, and A20 promotes the removal of K63-linked ubiquitin chains to terminate signaling induced NF-𝜅B
activation. The ablation of A20 and SHARPIN genes is potentially lethal. A20/TNFAIP3, zinc finger and ubiquitin editing protein, CYLD, cylindromatosis,
deubiquitylating enzyme; SHARPIN, a protein that together with HOIL-1 and HOIP forms the LUBAC, the heterotrimeric linear ubiquitin chain assembly
complex; both are involved in the TNF signaling pathways; IFNAR, the type I IFN receptor. The question mark indicates possible or still unknown phenotype. 5. Knockout Mice Models for In Vivo Cell
Death Studies have significantly lower rates of death and inflammation,
whereas the Ripk1−/−and Myd88−/−mice have reduced
inflammation, however, not reduced mortality [85]. Together,
these studies demonstrated that only Ripk1−/−, Ripk3−/−,
and Casp8−/−mice are protected from inflammation and
intestinal disruption, reach adulthood, and are viable and
fertile [83, 85, 89]. Future studies using Ripk1−/−Ripk3−/−
and Ripk1−/−Mlkl−/−mice will be important to understand
the role of these proteins in inflammation and the release of
cytokines and CDAMPs. 5.3. Mice Models for Mitochondria-Associated Channel and
Pore Genes. Ischemia and reperfusion injury (IRI) cause a
wide array of functional and structural alterations of mito-
chondria. Ca2+ Overload and MPTP openings are critical
steps in this process. MPT is critically dependent on ANT,
the ADP/ATP nucleotide exchanger, and the mitochondrial
protein cyclophilin D (CypD), the regulator of ANT. Studies
have been done to prove the parallel existence of two indepen-
dent pathways of regulated necrosis in ischemia-reperfusion
injury [101, 102]. Knockout of the gene encoding CypD
renders mitochondria resistant to Ca2+ overload-induced
swelling and the heart and brain partially resistant to cell
death due to ischemic injury [103]. RIPK3-deficient mice
are protected from IRI as well as from hyperacute TNF𝛼-
induced shock [104]. The in vivo analysis of cisplatin-induced
acute kidney injury and hyperacute TNF-shock in Cyp-D and
RIPK3 double-deficient mice demonstrated striking differ-
ences, but animals died after no longer than 120 h [102]. Pro-
tection of RIPK3-knockout mice was significantly stronger
than for CypD-deficient mice. Cyclosporin prevents CyP-D
binding to the ANT, whereas sanglifehrin (SfA) inhibits the
peptidyl-prolyl cis-transisomerase (PPIase) activity of CyP-D
but does not prevent its binding to the ANT. The protection
from kidney injury upon long ischemia was observed when
applying a combination of Nec-1 (necrostatin) and SfA, but
the protection was not complete [102]. Necrostatin-1 blocks
necroptosis in many settings by interacting and inhibiting
RIPK1 kinase activity, which is required for activation of
RIPK3. Nonetheless, necrostatin failed to block necroptosis
in the absence of RIPK1, suggesting the RIPK1 has a protective
role [104]. Moreover, mice with a kinase-dead mutation of
RIPK1 show normal development and maturation, although
cells from these animals appear to be defective in TNF-
induced necroptosis [62].h Mice with chronic proliferative dermatitis mutation
(cpdm mutant) develop TNF-dependent multiorgan inflam-
mation, which is characterized by dermatitis, liver inflam-
mation, splenomegaly, and loss of Peyer’s patches [97]. 5. Knockout Mice Models for In Vivo Cell
Death Studies These
mice are deficient in SHARPIN, a protein that, together with
HOIL-1, is a key regulator of HOIP (LUBAC), an ubiquitin
ligase complex that catalyzes the addition of linear ubiquitin
to target proteins [15]. SHARPIN is required for the TNFR
signaling complex and for prevention of cell death in various
cells, including epidermal keratinocytes [15]. A recent study
has demonstrated that RIPK3 or MLKL deficiency is able
to prevent liver inflammation in shpn−/−mice as well as
restoring splenic architecture splenic phenotype and leuko-
cytosis [97]. Only combined caspase 8 heterozygosity and
RIPK3 deficiencies were able to almost completely prevent
chronic proliferative dermatitis in shpn−/−mice. The role
of SHARPIN in the skin-inflammation phenotype is mainly
due to keratinocyte mitochondria-dependent apoptosis [85]. Since RIPK3 and MLKL deletion markedly reduced leuko-
cytosis, it is suggested that the hematopoietic phenotype is
mediated by necroptosis [97]. The E3 ligases, cIAP-1 (Clap 1 gene), cIAP-2 (Clap 2 gene),
and Xiap, are responsible for RIPK1 polyubiquitination, but
knockout mice of these genes are surprisingly phenotypically
normal. Double-knockout Xiap−/−Clap2−/−mice are also
phenotypically normal. However, Xiap−/−Clap1−/−and
Clap1−/−Clap2−/−double-knockout mice are embryonic
lethal and this can be rescued by crossing these animals with
Ripk1−/−and Ripk3−/−mice [98]. p
The Bax−/−Bak−/−mice typically die at a perinatal age
with multiple developmental defects, and only 10% survive
into adulthood [81]. Mouse embryonic fibroblasts (MEFs)
from Bax−/−Bak1−/−double-knockout (DKO) grown in
culture are highly resistant to cell death by the apoptotic
inducer staurosporine, confirming their critical role in apop-
tosis [105]. Recently, Karch and colleagues demonstrated that
these cells are also resistant to H2O2, ionomycin, and DNA
alkylation agents, which are inducers of necrotic phenotypes
[106]. Consistent with results in DKO MEFs, cardiac-specific
deletion of Bax/Bak1 significantly protected the heart from
ischemia-reperfusion (I-R) injury and reduced mortality in
mice subjected to permanent myocardial infarction injury
[106]. MEFs from Ppif (CypD) deficient mice are insensitive
to Ca2+-induced MPTP opening, and Bax/Bak does not
directly affect the MPTP at the level of the inner membrane. However, the authors concluded that, in the absence of
BAX/BAK, the outer membrane resists swelling and prevents
organelle rupture, thereby preventing cell death. The anti-
apoptotic family members, Bcl-2 and Bcl-xL, act directly or
indirectly to preserve the integrity of the outer mitochondrial
membrane. To examine this issue, the authors showed that p
p
Mice deficient in Cylindromatosis (CYLD) gene are viable
and fertile during adulthood life. 5. Knockout Mice Models for In Vivo Cell
Death Studies is similar as described by mice lacking functional FAS (lpr) or
FAS ligand (gld mutant mice) [11]. Although TNF-𝛼was initially identified by its ability
to kill tumor cells, most normal and tumor cells do not
undergo cell death in response to this cytokine [91]. The
treatment of wild type murine embryonic fibroblasts (MEFs)
with TNF does not induce cell death. Overexpression of the
ripk3 gene causes necroptosis in MEFs stimulated with TNF
in the absence of RIPK1, caspase-8, Bax, and Bak [92]. RIPK3
activation may be driven by spontaneously high RIPK3 levels
or by another RHIM-containing protein such as DAI or TRIF
[92]. MLKL is a RHIM-containing protein that is activated in
cells with elevated RIPK3 consistent with its important role
in necroptosis [92]. RIPK3 can partner also with TLR3 and
TLR4 to induce macrophage necrosis and NF-kB activation
but this requires TRIF [93].f 5.2. Mice Models for Inflammatory Genes. Various patho-
logical processes such as ischemic brain injury, myocardial
infarction, organ transplantation, and virus replication are
accompanied by strong inflammatory response. This inflam-
matory process is characterized by extensive necrosis of
tissues. Studies on mouse models with FADD-TNFR1 and
FADD-MyD88 deficiency revealed that both TNF and TLR
signaling partially contribute to progression of inflammation
[55, 88, 95]. Studies on mouse models have also shown that
TNF-induced systemic inflammatory response syndrome
(SIRS) and CLP-induced peritoneal sepsis are driven by
both RIPK1 and RIPK3-dependent necroptosis [12, 58]. The
regulated necrosis is also associated with tissue damage and
inflammation driven by activation of sterile inflammatory
response, including ischemia-reperfusion injury, Alzheimer’s
disease, atherosclerosis, and toxic insult to liver and lung
[9, 96]. A recent study showed that loss of the RIPK3 or MLKL
can provide protection to Ripk1−/−mice from systemic
inflammation but fails to protect these mice from lethal
intestinal inflammation [85]. Ripk1−/−and Ripk3−/−mice MLKL is one essential effector of necroptosis since it
causes cell death by a caspase- and Bax/Bak-independent
mechanism [72]. Mice deficient in Mlkl gene are anatom-
ically normal, viable, and fertile [94]. Cells from Mlkl−/−
mice failed to undergo TNF-mediated necroptosis, as
expected. Double deficient mice of caspase-8 and Mlkl
genes, Casp8−/−; Mlkl−/−mice, were normal but showed
pronounced splenomegaly, thrombocytopenia, and lym-
phadenopathy after a few months of age [94]. This phenotype 10 Mediators of Inflammation interactions among them in the intracellular resolution of
infections. 5. Knockout Mice Models for In Vivo Cell
Death Studies CYLD deficiency leads to
hyperubiquitinated RIPK1 in the necrosome and impaired
phosphorylation of RIPK1 and RIPK3, thereby blocking
caspase-8 activation. CYLD is a caspase-8 substrate and
when activated it cleaves CYLD and prevents necroptosis,
similar to what occurs with the cleavage of RIPK1 and
RIPK3 [99]. CYLD is required for TLR3 or TLR4 receptor-
induced necroptosis. The crossing of cyld−/−mice with other
members of the NLR and TLR families promises to deliver
further experimental evidence on its crucial role in innate
response. Finally, deficiency of both RIPK3 and caspase-8
or FADD completely abrogated Yersinia-induced cell death
and caspase-1 activation. Mice ablated of RIPK3 and caspase-
8 genes in their hematopoietic compartment showed high
susceptibility to Yersinia infection as well as displayed a very
low production of proinflammatory cytokines by monocyte
and neutrophils [100]. We are waiting for the participation of
additional components in these pathways and more complex Mediators of Inflammation 11 the Bcl-2/Bcl-xL inhibitor ABT-737 sensitized the MPTP to
open with mild Ca2+ stimulation or ionomycin treatment in
wild type but not in Bax/Bak1 DKO cells. In light on these
results, the authors concluded that Bax/Bak oligomers within
the outer membrane are required for mitochondrial perme-
ability pore-dependent cell death by serving as a necessary
functional component of the MPTP [106]. Similar obser-
vations were previously reported by Irrinki and colleagues
[107]. These authors investigated necroptosis induced by TNF,
cycloheximide (CHX) plus z-VAD-fmk in MEFs derived
from mice bearing two or three knockout genes including
fadd−/−, rip1−/−, NEMO−/−, caspase-8−/−, bad−/−bak−/−
(double-knockout), and bax−/−bak−/−(double-knockout)
genes. Moreover, it was demonstrated that overexpression
of Bcl-xL protects cells from necroptosis induced by these
agents [107]. Other putative mechanisms through which the
outer membrane proteins could affect formation of the MPTP
are reviewed in [38]. we will advance in the studies aiming to further understand
the precise roles of these proteins at cell decision points from
apoptosis to necroptosis and inflammation. TNF can activate
RIPK3 in the absence of RIPK1 and surprisingly RIPK3 has
a proinflammatory role itself. Future studies need to be done
to understand how RIPK3-dependent necroptotic cell death
can be activated in an RIPK1-independent manner. In this
regard, the RHIM-containing protein such as DAI and TRIF
as well as IFNAR merits further investigation because of
its role in virus-induced necroptosis. Many other landmark
genes will have place in the molecular pathways leading
to regulated cell death. Acknowledgments The authors thank Peter Vandenabeele, Douglas Green, and
Ricardo Weinlich for contributions and helpful discussions. The work in our lab is sponsored by the Conselho Nacional
de Desenvolvimento Cient´ıfico e Tecnol´ogico (CNPq) and
Fundac¸ao Amparo a Pesquisa do Estado de Sao Paulo
(FAPESP). j
y
Caspase-8 and cFLIP heterodimers act as key regulators
of death checkpoint to alternate the cell death pathway and
canonic and noncanonical NF-𝜅B signaling. Intracellular
downstream signaling components of the TNFR multicom-
plexes and NF-𝜅B signaling complexes, such as E3 ligases,
cIAP-1, and cIAP-2, deubiquitinases, CYLD, A20, and HOIL-
1/HOIP/Sharpin (LUBAC), are equally very important posi-
tive and negative regulators of inflammation and cell death
decision checkpoints to apoptosis and necroptosis. Conflict of Interests The authors declare that there is no conflict of interests
regarding the publication of this paper. 6. Conclusion and Future Directions In the last decade, a number of cellular and molecular
studies have advanced the knowledge and acceptance that in
response to a variety of stress conditions, physicochemical
insults, viral and bacterial infection, necroptosis rather than
apoptosis emerges as predominately cell death in tissues into
adult life. We have highlighted the intricately connected and over-
lapping extrinsic and intrinsic molecular pathways regu-
lating both apoptosis and necroptosis. We now know that
besides TNF family of receptors many other cell-surface and
intracellular receptors, including TLRs, NLRs, IFNRs, and
T-cell receptors, can induce regulated cell death. Similarly,
intracellular deregulation and/or imbalance of synthesis and
metabolic pathways inside mitochondria, endoplasmic retic-
ulum, and intracellular organelles can provoke regulated cell
death. Exploring and classifying the molecular mechanisms
underlying the initiation and execution pathways will help us
search for new strategies to enhance or inhibit necroptotic cell
death rates in pathological clinical scenarios such as inflam-
mation, cancer resistance to chemotherapy, and excessive
tissue death as result of ischemia and injury. 5. Knockout Mice Models for In Vivo Cell
Death Studies Knockout mice and their cell lines
lacking essential genes will be important to investigate cross
talk and kinetics aspects of cell death triggering, propagation,
and resolution. These animal models will have critical role to
future preclinical tests of new drugs for inhibiting cell death
causing human diseases.h The plasma membrane permeabilization induced by
MLKL oligomers plays a key role in the execution pathway
for necroptosis. The 4HBH phospholipid-binding domain
acts by recruiting the MLKL protein to bind to lipid ligands
embedded in the membrane surface. Since PIP, PI(4,5)P2,
and PI(3,4,5)P3 are abundant phospholipids in ubiquitous
cell membranes, it is crucial to establish whether MLKL
binding and pore-forming molecular mechanism can be
specifically and efficiently modulated by combination of
membrane lipids. Elucidating the combinatorial “codes” and
critical domain structure for this interaction will help us
design and develop new therapeutic strategies to prevent cell
death triggered in prolonged degenerative, inflammatory, and
infectious diseases. Future work along these lines using RIPK-3 and MLKL-
deficient mice as well as the combination with other mutant
mice may uncover the complex regulation and interconnec-
tivity among apoptosis effectors of mitochondrial intrinsic
pathway and regulated necrosis execution pathway. Authors’ Contribution All authors equally contributed to this work. References 51–72, 2013. [25] A. Kaasik, D. Safiulina, A. Zharkovsky, and V. Veksler, “Reg-
ulation of mitochondrial matrix volume,” American Journal of
Physiology—Cell Physiology, vol. 292, no. 1, pp. C157–C163, 2007. [8] L. Duprez, E. Wirawan, T. V. Berghe, and P. Vandenabeele,
“Major cell death pathways at a glance,” Microbes and Infection,
vol. 11, no. 13, pp. 1050–1062, 2009. [26] K. D. Garlid and P. Paucek, “Mitochondrial potassium
transport: The K+ cycle,” Biochimica et Biophysica Acta—
Bioenergetics, vol. 1606, no. 1–3, pp. 23–41, 2003. [9] T. V. Berghe, A. Linkermann, S. Jouan-Lanhouet, H. Walczak,
and P. Vandenabeele, “Regulated necrosis: the expanding net-
work of non-apoptotic cell death pathways,” Nature Reviews
Molecular Cell Biology, vol. 15, no. 2, pp. 135–147, 2014. [27] H. Ardehali and B. O’Rourke, “Mitochondrial KATP channels
in cell survival and death,” Journal of Molecular and Cellular
Cardiology, vol. 39, no. 1, pp. 7–16, 2005. [28] G. Calamita, D. Ferri, P. Gena et al., “The inner mitochondrial
membrane has aquaporin-8 water channels and is highly
permeable to water,” The Journal of Biological Chemistry, vol. 280, no. 17, pp. 17149–17153, 2005. [10] P. Syntichaki and N. Tavernarakis, “Death by necrosis. Uncon-
trollable catastrophe, or is there order behind the chaos?”
EMBO Reports, vol. 3, no. 7, pp. 604–609, 2002. [11] A. M. Ranger, B. A. Malynn, and S. J. Korsmeyer, “Mouse
models of cell death,” Nature Genetics, vol. 28, no. 2, pp. 113–118,
2001. [29] A. P. Halestrap, K. Y. Woodfield, and C. P. Connern, “Oxidative
stress, thiol reagents, and membrane potential modulate the
mitochondrial permeability transition by affecting nucleotide
binding to the adenine nucleotide translocase,” The Journal of
Biological Chemistry, vol. 272, no. 6, pp. 3346–3354, 1997. [12] A. Kaczmarek, P. Vandenabeele, and D. V. Krysko, “Necroptosis:
the release of damaged-associated molecular patterns and its
physiological relevance,” Immunity, vol. 38, no. 2, pp. 209–223,
2013. [30] I. Inoue, H. Nagase, K. Kishi, and T. Higuti, “ATP-sensitive K+
channel in the mitochondrial inner membrane,” Nature, vol. 352, no. 6332, pp. 244–247, 1991. [13] N. S. Wilson, V. Dixit, and A. Ashkenazi, “Death receptor
signal transducers: nodes of coordination in immune signaling
networks,” Nature Immunology, vol. 10, no. 4, pp. 348–355, 2009. [31] V. Gogvadze, J. D. Robertson, M. Enoksson, B. Zhivotovsky, and
S. Orrenius, “Mitochondrial cytochrome c release may occur
by volume-dependent mechanisms not involving permeability
transition,” Biochemical Journal, vol. 378, no. 1, pp. 213–217,
2004. [14] L. Wang, F. References [1] J. F. R. Kerr, A. H. Wyllie, and A. R. Currie, “Apoptosis: a
basic biological phenomenon with wide-ranging implications
in tissue kinetics,” British Journal of Cancer, vol. 26, no. 4, pp. 239–257, 1972. Mice models lacking the caspase-8, FADD, or FLIP are
embryonic lethal and are rescued with ablation of RIPK1 and
RIPK3 genes. With the help of gene-deficient mice models [2] S. Orrenius, P. Nicotera, and B. Zhivotovsky, “Cell death
mechanisms and their implications in toxicology,” Toxicological
Sciences, vol. 119, no. 1, pp. 3–19, 2011. Mediators of Inflammation 12 [20] S. J. Martin, C. M. Henry, and S. P. Cullen, “A perspective
on mammalian caspases as positive and negative regulators of
inflammation,” Molecular Cell, vol. 46, no. 4, pp. 387–397, 2012. [3] L. Galluzzi, I. Vitale, J. M. Abrams et al., “Moleculaar def-
initions of cell death subroutines: recommendations of the
nomenclature committee on cell death 2012,” Cell Death and
Differentiation, vol. 19, no. 1, pp. 107–120, 2012. [21] I. K. H. Poon, C. D. Lucas, A. G. Rossi, and K. S. Ravichan-
dran, “Apoptotic cell clearance: basic biology and therapeutic
potential,” Nature Reviews Immunology, vol. 14, no. 3, pp. 166–
180, 2014. [4] L. Galluzzi, J. M. Bravo-San Pedro, I. Vitale et al., “Essential
versus accessory aspects of cell death: recommendations of the
NCCD 2015,” Cell Death & Differentiation, vol. 22, no. 1, pp. 58–
73, 2015. [22] R. Medzhitov, “Inflammation 2010: new adventures of an old
flame,” Cell, vol. 140, no. 6, pp. 771–776, 2010. [5] S. L. Fink and B. T. Cookson, “Pyroptosis and host cell death
responses during Salmonella infection,” Cellular Microbiology,
vol. 9, no. 11, pp. 2562–2570, 2007. [23] P. Vandenabeele, L. Galluzzi, T. V. Berghe, and G. Kroemer,
“Molecular mechanisms of necroptosis: an ordered cellular
explosion,” Nature Reviews Molecular Cell Biology, vol. 11, no. 10, pp. 700–714, 2010. [6] A. D. Garg, D. Nowis, J. Golab, P. Vandenabeele, D. V. Krysko,
and P. Agostinis, “Immunogenic cell death, DAMPs and anti-
cancer therapeutics: an emerging amalgamation,” Biochimica et
Biophysica Acta—Reviews on Cancer, vol. 1805, no. 1, pp. 53–71,
2010. [24] N. Vanlangenakker, T. V. Berghe, and P. Vandenabeele, “Many
stimuli pull the necrotic trigger, an overview,” Cell Death and
Differentiation, vol. 19, no. 1, pp. 75–86, 2012. [7] G. Kroemer, L. Galluzzi, O. Kepp, and L. Zitvogel, “Immuno-
genic cell death in cancer therapy,” Annual Review of Immunol-
ogy, vol. 31, pp. References Du, and X. Wang, “TNF-𝛼induces two distinct
caspase-8 activation pathways,” Cell, vol. 133, no. 4, pp. 693–703,
2008. [15] D. Ofengeim and J. Yuan, “Regulation of RIP1 kinase signalling
at the crossroads of inflammation and cell death,” Nature
Reviews Molecular Cell Biology, vol. 14, no. 11, pp. 727–736, 2013. [32] A. Sesso, J. E. Beliz´ario, M. M. Marques et al., “Mitochon-
drial swelling and incipient outer membrane rupture in pre-
apoptotic and apoptotic cells,” Anatomical Record, vol. 295, no. 10, pp. 1647–1659, 2012. [16] L. S. Dickens, I. R. Powley, M. A. Hughes, and M. MacFarlane,
“The ‘complexities’ of life and death: death receptor signalling
platforms,” Experimental Cell Research, vol. 318, no. 11, pp. 1269–
1277, 2012. [33] J. E. Beliz´ario, J. Alves, J. M. Occhiucci, M. Garay-Malpartida,
and A. Sesso, “A mechanistic view of mitochondrial death
decision pores,” Brazilian Journal of Medical and Biological
Research, vol. 40, no. 8, pp. 1011–1024, 2007. [17] T. Bender
and
J.-C. Martinou,
“Where
killers
meet—
permeabilization
of the outer mitochondrial membrane
during apoptosis,” Cold Spring Harbor Perspectives in Biology,
vol. 5, no. 1, Article ID a011106, 2013. [34] A. J. Kowaltowski, N. C. de Souza-Pinto, R. F. Castilho, and
A. E. Vercesi, “Mitochondria and reactive oxygen species,” Free
Radical Biology and Medicine, vol. 47, no. 4, pp. 333–343, 2009. [18] B. Sangiuliano, N. M. P´erez, D. F. Moreira, and J. E. Beliz´ario,
“Cell death-associated molecular-pattern molecules: inflamma-
tory signaling and control,” Mediators of Inflammation, vol. 2014, Article ID 821043, 14 pages, 2014. [35] E. Basso, L. Fante, J. Fowlkes, V. Petronilli, M. A. Forte, and
P. Bernardi, “Properties of the permeability transition pore in
mitochondria devoid of cyclophilin D,” The Journal of Biological
Chemistry, vol. 280, no. 19, pp. 18558–18561, 2005. [19] D. V. Krysko, K. D’Herde, and P. Vandenabeele, “Clearance
of apoptotic and necrotic cells and its immunological conse-
quences,” Apoptosis, vol. 11, no. 10, pp. 1709–1726, 2006. [36] P. Bernardi, A. Krauskopf, E. Basso et al., “The mitochondrial
permeability transition from in vitro artifact to disease target,”
FEBS Journal, vol. 273, no. 10, pp. 2077–2099, 2006. Mediators of Inflammation 13 [53] A. Degterev, Z. Huang, M. Boyce et al., “Chemical inhibitor of
nonapoptotic cell death with therapeutic potential for ischemic
brain injury,” Nature Chemical Biology, vol. 1, no. 2, pp. 112–119,
2005. [37] V. Petronilli, P. Costantini, L. Scorrano, R. Colonna, S. Passa-
monti, and P. References Wang, Z. Wang et al., “Mixed lineage kinase domain-
like protein mediates necrosis signaling downstream of RIP3
kinase,” Cell, vol. 148, no. 1-2, pp. 213–227, 2012. [44] D. Feng, L. Liu, Y. Zhu, and Q. Chen, “Molecular signaling
toward mitophagy and its physiological significance,” Experi-
mental Cell Research, vol. 319, no. 12, pp. 1697–1705, 2013. [61] J. Zhao, S. Jitkaew, Z. Cai et al., “Mixed lineage kinase domain-
like is a key receptor interacting protein 3 downstream com-
ponent of TNF-induced necrosis,” Proceedings of the National
Academy of Sciences of the United States of America, vol. 109, no. 14, pp. 5322–5327, 2012. [45] M. P. Boldin, T. M. Goncharov, Y. V. Goltsev, and D. Wallach,
“Involvement of MACH, a novel MORT1/FADD-interacting
protease, in Fas/APO-1- and TNF receptor-induced cell death,”
Cell, vol. 85, no. 6, pp. 803–815, 1996. [62] K. Newton, D. L. Dugger, K. E. Wickliffe et al., “Activity of pro-
tein kinase RIPK3 determines whether cells die by necroptosis
or apoptosis,” Science, vol. 343, no. 6177, pp. 1357–1360, 2014. [46] M. Muzio, A. M. Chinnaiyan, F. C. Kischkel et al., “FLICE,
a novel FADD-homologous ICE/CED-3-like protease, is
recruited to the CD95 (Fas/APO-1) death-inducing signaling
complex,” Cell, vol. 85, no. 6, pp. 817–827, 1996. [63] R. Weinlich, C. P. Dillon, and D. R. Green, “Ripped to death,”
Trends in Cell Biology, vol. 21, no. 11, pp. 630–637, 2011. [64] W. D. Cook, D. M. Moujalled, T. J. Ralph et al., “RIPK1-
and RIPK3-induced cell death mode is determined by target
availability,” Cell Death & Differentiation, vol. 21, pp. 1600–1612,
2014. [47] H. Hsu, H.-B. Shu, M.-G. Pan, and D. V. Goeddel, “TRADD-
TRAF2 and TRADD-FADD interactions define two distinct
TNF receptor 1 signal transduction pathways,” Cell, vol. 84, no. 2, pp. 299–308, 1996. [65] J. M. Murphy, P. E. Czabotar, J. M. Hildebrand et al., “The
pseudokinase MLKL mediates necroptosis via a molecular
switch mechanism,” Immunity, vol. 39, no. 3, pp. 443–453, 2013. [48] A. Kawahara, Y. Ohsawa, H. Matsumura, Y. Uchiyama, and
S. Nagata, “Caspase-independent cell killing by Fas-associated
protein with death domain,” The Journal of Cell Biology, vol. 143,
no. 5, pp. 1353–1360, 1998. [66] Z. Cai, S. Jitkaew, J. Zhao et al., “Plasma membrane transloca-
tion of trimerized MLKL protein is required for TNF-induced
necroptosis,” Nature Cell Biology, vol. 16, no. 1, pp. 55–65, 2014. [49] W.-C. Yeh, J. L. de la Pompa, M. E. References Bernardi, “The voltage sensor of the mitochon-
drial permeability transition pore is tunel by the oxidation-
reduction state of vicinal thiols,” The Journal of Biological
Chemistry, vol. 269, no. 24, pp. 16638–16642, 1994. [54] J. Hitomi, D. E. Christofferson, A. Ng et al., “Identification of
a molecular signaling network that regulates a cellular necrotic
cell death pathway,” Cell, vol. 135, no. 7, pp. 1311–1323, 2008. [38] P. Bernardi, “The mitochondrial permeability transition pore: a
mystery solved?” Frontiers in Physiology, vol. 4, article 95, 2013. [55] S. He, L. Wang, L. Miao et al., “Receptor interacting protein
kinase-3 determines cellular necrotic response to TNF-𝛼,” Cell,
vol. 137, no. 6, pp. 1100–1111, 2009.i [39] A. P. Halestrap and A. P. Richardson, “The mitochondrial
permeability transition: a current perspective on its identity and
role in ischaemia/reperfusion injury,” Journal of Molecular and
Cellular Cardiology, vol. 78, pp. 129–141, 2015. [56] A. Degterev, J. Hitomi, M. Germscheid et al., “Identification of
RIP1 kinase as a specific cellular target of necrostatins,” Nature
Chemical Biology, vol. 4, no. 5, pp. 313–321, 2008. [40] M. Narita, S. Shimizu, T. Ito et al., “Bax interacts with the
permeability transition pore to induce permeability transition
and cytochrome c release in isolated mitochondria,” Proceedings
of the National Academy of Sciences of the United States of
America, vol. 95, no. 25, pp. 14681–14686, 1998. [57] S. L. Petersen, L. Wang, A. Yalcin-Chin et al., “Autocrine TNF𝛼
signaling renders human cancer cells susceptible to Smac-
mimetic-induced apoptosis,” Cancer Cell, vol. 12, no. 5, pp. 445–
456, 2007. [41] J. M. Hardwick, Y.-B. Chen, and E. A. Jonas, “Multipolar
functions of BCL-2 proteins link energetics to apoptosis,” Trends
in Cell Biology, vol. 22, no. 6, pp. 318–328, 2012. [58] L. Duprez, N. Takahashi, F. van Hauwermeiren et al., “RIP
kinase-dependent necrosis drives lethal systemic inflammatory
response syndrome,” Immunity, vol. 35, no. 6, pp. 908–918, 2011. [42] R. J. Youle and A. Strasser, “The BCL-2 protein family: opposing
activities that mediate cell death,” Nature Reviews Molecular Cell
Biology, vol. 9, no. 1, pp. 47–59, 2008. [59] Y. Cho, S. Challa, D. Moquin et al., “Phosphorylation-driven
assembly of the RIP1-RIP3 complex regulates programmed
necrosis and virus-induced inflammation,” Cell, vol. 137, no. 6,
pp. 1112–1123, 2009. [43] N. Mizushima, B. Levine, A. M. Cuervo, and D. J. Klion-
sky, “Autophagy fights disease through cellular self-digestion,”
Nature, vol. 451, no. 7182, pp. 1069–1075, 2008. [60] L. Sun, H. References McCurrach et al., “FADD:
essential for embryo development and signaling from some, but
not all, inducers of apoptosis,” Science, vol. 279, no. 5358, pp. 1954–1958, 1998. [67] M. A. Lemmon, “Membrane recognition by phospholipid-
binding domains,” Nature Reviews Molecular Cell Biology, vol. 9, no. 2, pp. 99–111, 2008. [50] N. Holler, R. Zaru, O. Micheau et al., “Fas triggers an alternative,
caspase-8-independent cell death pathway using the kinase RIP
as effector molecule,” Nature Immunology, vol. 1, no. 6, pp. 489–
495, 2000. [68] X. Chen, W. Li, J. Ren et al., “Translocation of mixed lineage
kinase domain-like protein to plasma membrane leads to
necrotic cell death,” Cell Research, vol. 24, no. 1, pp. 105–121,
2014. [51] D. Vercammen, R. Beyaert, G. Denecker et al., “Inhibition
of caspases increases the sensitivity of L929 cells to necrosis
mediated by tumor necrosis factor,” The Journal of Experimental
Medicine, vol. 187, no. 9, pp. 1477–1485, 1998. [69] Y. Dondelinger, W. Declercq, S. Montessuit et al., “MLKL
compromises plasma membrane integrity by binding to phos-
phatidylinositol phosphates,” Cell Reports, vol. 7, no. 4, pp. 971–
981, 2014. [52] H. Matsumura, Y. Shimizu, Y. Ohsawa, A. Kawahara, Y. Uchiyama, and S. Nagata, “Necrotic death pathway in Fas
receptor signaling,” Journal of Cell Biology, vol. 151, no. 6, pp. 1247–1255, 2000. [70] H. Wang, L. Sun, L. Su et al., “Mixed lineage kinase domain-
like protein MLKL causes necrotic membrane disruption upon
phosphorylation by RIP3,” Molecular Cell, vol. 54, no. 1, pp. 133–
146, 2014. Mediators of Inflammation 14 [71] J. H. Hurley and S. Misra, “Signaling and subcellular targeting
by membrane-binding domains,” Annual Review of Biophysics
and Biomolecular Structure, vol. 29, no. 1, pp. 49–79, 2000. [88] C. P. Dillon, A. Oberst, R. Weinlich et al., “Survival Function of
the FADD-CASPASE-8-cFLIP𝐿Complex,” Cell Reports, vol. 1,
no. 5, pp. 401–407, 2012. [89] A. Oberst, C. P. Dillon, R. Weinlich et al., “Catalytic activity
of the caspase-8–FLIP𝐿complex inhibits RIPK3-dependent
necrosis,” Nature, vol. 471, no. 7338, pp. 363–367, 2011. [72] Z. Wang, H. Jiang, S. Chen, F. Du, and X. Wang, “The mitochon-
drial phosphatase PGAM5 functions at the convergence point
of multiple necrotic death pathways,” Cell, vol. 148, no. 1-2, pp. 228–243, 2012. [90] J. V. Lu, B. M. Weist, B. J. References Van Raam et al., “Complementary
roles of Fas-associated death domain (FADD) and receptor
interacting protein kinase-3 (RIPK3) in T-cell homeostasis and
antiviral immunity,” Proceedings of the National Academy of
Sciences of the United States of America, vol. 108, no. 37, pp. 15312–15317, 2011. [73] J.-C. Martinou and R. J. Youle, “Mitochondria in apoptosis: Bcl-
2 family members and mitochondrial dynamics,” Developmen-
tal Cell, vol. 21, no. 1, pp. 92–101, 2011. [74] D. M. Moujalled, W. D. Cook, J. M. Murphy, and D. L. Vaux,
“Necroptosis induced by RIPK3 requires MLKL but not Drp1,”
Cell Death & Disease, vol. 5, no. 2, Article ID e1086, 2014. [91] B. J. Sugarman, B. B. Aggarwal, P. E. Hass, I. S. Figari, M. A. Palladino Jr., and H. M. Shepard, “Recombinant human tumor
necrosis factor-alpha: effects on proliferation of normal and
transformed cells in vitro,” Science, vol. 230, no. 4728, pp. 943–
945, 1985. [75] S. W. G. Tait, A. Oberst, G. Quarato et al., “Widespread
mitochondrial depletion via mitophagy does not compromise
necroptosis,” Cell Reports, vol. 5, no. 4, pp. 878–885, 2013. [76] D.-W. Zhang, J. Shao, J. Lin et al., “RIP3, an energy metabolism
regulator that switches TNF-induced cell death from apoptosis
to necrosis,” Science, vol. 325, no. 5938, pp. 332–336, 2009. [92] D. M. Moujalled, W. D. Cook, T. Okamoto et al., “TNF can
activate RIPK3 and cause programmed necrosis in the absence
of RIPK1,” Cell Death & Disease, vol. 4, article e465, 2013. [77] Y.-S. Kim, M. J. Morgan, S. Choksi, and Z.-G. Liu, “TNF-
induced activation of the Nox1 NADPH oxidase and its role in
the induction of necrotic cell death,” Molecular Cell, vol. 26, no. 5, pp. 675–687, 2007. [93] S. He, Y. Liang, F. Shao, and X. Wang, “Toll-like recep-
tors activate programmed necrosis in macrophages through a
receptor-interacting kinase-3-mediated pathway,” Proceedings
of the National Academy of Sciences of the United States of
America, vol. 108, no. 50, pp. 20054–20059, 2011. [78] D. Weng, R. Marty-Roix, S. Ganesan et al., “Caspase-8 and RIP
kinases regulate bacteria-induced innate immune responses
and cell death,” Proceedings of the National Academy of Sciences
of the United States of America, vol. 111, no. 20, pp. 7391–7396,
2014. [94] J. Wu, Z. Huang, J. Ren et al., “Mlkl knockout mice demonstrate
the indispensable role of Mlkl in necroptosis,” Cell Research, vol. 23, no. 8, pp. 994–1006, 2013. [79] S. McComb, E. Cessford, N. References A. Alturki et al., “Type-I interferon
signaling through ISGF3 complex is required for sustained Rip3
activation and necroptosis in macrophages,” Proceedings of the
National Academy of Sciences, vol. 111, no. 31, pp. E3206–E3213,
2014. [95] M. C. Bonnet, D. Preukschat, P. S. Welz et al., “The adaptor pro-
tein FADD protects epidermal keratinocytes from necroptosis
in vivo and prevents skin inflammation,” Immunity, vol. 35, no. 4, pp. 572–582, 2011. [96] H. Kono and K. L. Rock, “How dying cells alert the immune
system to danger,” Nature Reviews Immunology, vol. 8, no. 4, pp. 279–289, 2008. [80] E. E. Varfolomeev, M. Schuchmann, V. Luria et al., “Targeted
disruption of the mouse Caspase 8 gene ablates cell death
induction by the TNF receptors, Fas/Apo1, and DR3 and is lethal
prenatally,” Immunity, vol. 9, no. 2, pp. 267–276, 1998.h [97] J. A. Rickard, H. Anderton, N. Etemadi et al., “TNFR1-
dependent cell death drives inflammation in Sharpin-deficient
mice,” eLife, vol. 3, Article ID e03464, 2014. [81] T. Lindsten, A. J. Ross, A. King et al., “The combined functions
of proapoptotic Bcl-2 family members Bak and Bax are essential
for normal development of multiple tissues,” Molecular Cell, vol. 6, no. 6, pp. 1389–1399, 2000. [98] M. Moulin, H. Anderton, A. K. Voss et al., “IAPs limit activation
of RIP kinases by TNF receptor 1 during development,” The
EMBO Journal, vol. 31, no. 7, pp. 1679–1691, 2012. [82] P. Vandenabeele and G. Melino, “The flick of a switch: Which
death program to choose?” Cell Death and Differentiation, vol. 19, no. 7, pp. 1093–1095, 2012. [99] M. A. O’Donnell, E. Perez-Jimenez, A. Oberst et al., “Caspase
8 inhibits programmed necrosis by processing CYLD,” Nature
Cell Biology, vol. 13, no. 12, pp. 1437–1442, 2011. [83] C. P. Dillon, R. Weinlich, D. A. Rodriguez et al., “RIPK1 blocks
early postnatal lethality mediated by caspase-8 and RIPK3,” Cell,
vol. 157, no. 5, pp. 1189–1202, 2014. [100] N. H. Philip, C. P. Dillon, A. G. Snyder et al., “Caspase-8
mediates caspase-1 processing and innate immune defense in
response to bacterial blockade of NF-𝜅B and MAPK signaling,”
Proceedings of the National Academy of Sciences of the United
States of America, vol. 111, no. 20, pp. 7385–7390, 2014. [84] M. A. Kelliher, S. Grimm, Y. Ishida, F. Kuo, B. Z. Stanger, and
P. Leder, “The death domain kinase RIP mediates the TNF-
induced NF-𝜅B signal,” Immunity, vol. 8, no. 3, pp. References 297–303,
1998. [101] V. Temkin, Q. Huang, H. Liu, H. Osada, and R. M. Pope, “Inhi-
bition of ADP/ATP exchange in receptor-interacting protein-
mediated necrosis,” Molecular and Cellular Biology, vol. 26, no. 6, pp. 2215–2225, 2006. [85] J. A. Rickard, J. A. O’Donnell, J. M. Evans et al., “RIPK1 regulates
RIPK3-MLKL-driven systemic inflammation and emergency
hematopoiesis,” Cell, vol. 157, no. 5, pp. 1175–1188, 2014. [102] A. Linkermann, J. H. Br¨asenb, M. Dardingd et al., “Two
independent pathways of regulated necrosis mediate ischemia-
reperfusion injury,” Proceedings of the National Academy of
Sciences of the United States of America, vol. 110, no. 29, pp. 12024–12029, 2013. [86] K. Newton, X. Sun, and V. M. Dixit, “Kinase RIP3 is dispensable
for normal NF-kappa Bs, signaling by the B-cell and T-
cell receptors, tumor necrosis factor receptor 1, and Toll-like
receptors 2 and 4,” Molecular and Cellular Biology, vol. 24, no. 4,
pp. 1464–1469, 2004. [103] C. P. Baines, R. A. Kaiser, N. H. Purcell et al., “Loss of cyclophilin
D reveals a critical role for mitochondrial permeability transi-
tion in cell death,” Nature, vol. 434, no. 7033, pp. 658–662, 2005. [87] W. J. Kaiser, J. W. Upton, A. B. Long et al., “RIP3 mediates the
embryonic lethality of caspase-8-deficient mice,” Nature, vol. 471, no. 7338, pp. 368–373, 2011. 15 15 Mediators of Inflammation [104] A. Linkermann, J. H. Br¨asen, F. de Zen et al., “Dichotomy
between RIP1- and RIP3-mediated necroptosis in tumor necro-
sis factor-𝛼-induced shock,” Molecular Medicine, vol. 18, no. 4,
pp. 577–586, 2012. [105] M. C. Wei, W.-X. Zong, E. H.-Y. Cheng et al., “Proapoptotic
BAX and BAK: a requisite gateway to mitochondrial dysfunc-
tion and death,” Science, vol. 292, no. 5517, pp. 727–730, 2001. [106] J. Karch, J. Q. Kwong, A. R. Burr et al., “Bax and Bak function as
the outer membrane component of the mitochondrial perme-
ability pore in regulating necrotic cell death in mice,” eLife, vol. 2013, no. 2, Article ID e00772, 2013. [107] K. M. Irrinki, K. Mallilankaraman, R. J. Thapa et al., “Require-
ment of FADD, NEMO, and BAX/BAK for aberrant mitochon-
drial function in tumor necrosis factor alpha-induced necrosis,”
Molecular and Cellular Biology, vol. 31, no. 18, pp. 3745–3758,
2011.
|
https://openalex.org/W4293247010
|
https://repositorium.sdum.uminho.pt/bitstream/1822/78260/1/COVID-19%20Traumatic%20Stress%20Scale%20and%20Preventive%20COVID-19%20Infection%20Behaviors%20Scale.pdf
|
English
| null |
COVID-19 Traumatic Stress Scale and Preventive COVID-19 Infection Behaviors Scale: psychometric properties in Portuguese male adults
|
Journal of men's health
| 2,022
|
cc-by
| 7,305
|
1. Introduction gelos et al. [21] found that children and older people were
likely to experience worry, anxiety and fear feeling more
vulnerable to COVID-19. Xiong et al. [22] observed high
rates of anxiety, depression, and stress in China, Spain,
Italy, Iran, United States, Turkey, Nepal and Denmark, in
the general population, during the COVID-19 pandemic
and concluded that being a female, belonging to a younger
age group (less than 40 years old), being a student, hav-
ing chronic and/or psychiatric illnesses, being unemployed,
and permanently exposed to news about COVID-19 were
risk factors for increased distress. Other psychological con-
structs were less studied, namely post-traumatic stress re-
lated to COVID-19, as well as preventive behaviors towards
COVID-19. Kira et al. [14,23] argued that COVID-19 is a
new type of traumatic stress that has serious mental health
effects [23]. Thus, Kira et al. [14] developed and validated
a measure for COVID-19 as traumatic stress, with three di-
mensions: (1) threat/fear of infection and death, (2) eco-
nomic hardship, and (3) disturbed routines/isolation. This
instrument presented strong reliability, and structural, con-
vergent, divergent, and predictive validity (total and sub-
scales). Also, Tosun et al. [24] validated the COVID-19
Traumatic Stress Scale in Turkish and kept the three dimen-
sions, but removed one item (item 9). The coronavirus disease 2019 (COVID-19) pneumo-
nia pandemic, caused by the severe acute respiratory syn-
drome coronavirus 2 (SARS-CoV-2) has spread globally
and constitutes itself as a serious public health emergency
[1], resulting in an unprecedented series of lockdowns
worldwide [2]. The COVID-19 pandemic has generated
worldwide social and economic upheaval [3], as well as a
negative psychological impact [4]. Several studies have been carried out concerning psy-
chological impact and mental health related to COVID-
19. The psychological constructs most studied have been
anxiety [5–7], fear [8–10], phobia [11–13], stress [14–16]
and depression [17–19]. Most of these studies concluded
that these constructs worsened in the pandemic context
i.e., globally individuals felt more anxiety, fear, phobia,
stress and depression. However, several systematic re-
views and meta-analyses regarding the psychological im-
pact of COVID-19 revealed that the psychological impact
of COVID-19 lockdowns was not very large and differ
greatly between subjects, with a large percentage of in-
dividuals being psychologically resilient to the effects of
COVID-19 [2]. Furthermore, Luo et al. Abstract Background: The coronavirus disease 2019 (COVID-19) pneumonia pandemic constitutes a serious public health emergency. Besides
its detrimental social and economic implications, it has generated a negative psychological impact worldwide. Several studies have been
carried out concerning psychological impact and mental health related to COVID-19, with the psychological constructs most studied
being anxiety, fear, phobia, stress and depression. Other psychological constructs were less studied, namely post-traumatic stress related
to COVID-19, as well as preventive behaviors towards COVID-19. Thus, the aims of this study were to validate the COVID-19 Traumatic
Stress (C19TSS) Scale and the Preventive COVID-19 Infection Behaviors Scale (PCIBS) with a Portuguese male adult sample and to
measure their invariance across age and education. Methods: Exploratory factor analysis (EFA) and confirmatory factor analysis (CFA)
were performed to obtain the final factor structure of the Portuguese version of both scales. Configural, metric and scalar invariance
were measured across age and education through multiple-group confirmatory factor analysis (MGCFA). Results: Results showed that
both C19TSS and PIBS models fitted the data well. Configural, metric and scalar invariance across age as well as configural and metric
invariance across education were found regarding C19TSS. Only configural invariance across education was found regarding PCIBS. Conclusions: The C19TSS and PCIBS are valid and reliable tools for researchers interested in examining post-traumatic stress related
to COVID-19 and preventive behaviors towards COVID-19. Keywords: COVID-19; COVID-19 Traumatic Stress Scale; male adults; Preventive COVID-19 Infection Behaviors Scale Original Research
COVID-19 Traumatic Stress Scale and Preventive COVID-19 Infection
Behaviors Scale: psychometric properties in Portuguese male adults Angela Leite1, Ana C. Almeida2, M. Graça Pereira2,* 1Universidade Católica Portuguesa, 4710-362 Braga, Portugal
2Research Center in Psychology (CIPsi), School of Psychology, University of Minho, 4710-057 Braga, Portugal
*Correspondence: gracep@psi.uminho.pt (M. Graça Pereira)
Submitted: 15 December 2021
Revised: 11 January 2022
Accepted: 4 February 2022
Published: 12 May 2022 Copyright: © 2022 The Author(s). Published by IMR Press.
This is an open access article under the CC BY 4.0 license.
Publisher’s Note: IMR Press stays neutral with regard to jurisdictional claims in published maps and institutional affiliations. J. Mens. Health 2022; 18(5): 110
http://doi.org/10.31083/j.jomh1805110 lisher’s Note: IMR Press stays neutral with regard to jurisdictional claims in published maps and institutional affiliations. 2.2 Instruments The C19TSS [14] was developed to assess COVID-
19 as traumatic stress. The scale consisted of 12 items
answered in a 5-point Likert scale (0 = not at all; 4
= very much) and three dimensions: “threat/fear of in-
fection and death”, “economic hardship”, and “disturbed
routines/isolation” (e.g., thinking about the coronavirus
(COVID-19) makes me feel threatened). A higher score
indicates more traumatic stress related to COVID-19. Kira
et al. [14] found that Cronbach’s alpha for COVID-19 trau-
matic stress scale was 0.88, for future infection/death sub-
scale was 0.84, for economic trauma subscale was 0.75, and
for routine disturbance subscale was 0.70. To reduce the transmission rate of infectious disease,
it seems that awareness and practice of preventive behav-
iors are key points [28], since individuals who perceived
greater risks implemented more protective and preventive
behaviors [29]. Also, knowledge about COVID-19 was as-
sociated with more preventive behaviors through risk per-
ception [30]. According to Chang et al. [31], preventive
COVID-19 infection behaviors were proposed by the World
Health Organization (WHO) [32] and Chan et al. [31] con-
ceived an instrument to assess those individual’s preventive
behaviors. 1. Introduction [20] showed that
anxiety and depression were higher in patients with previ-
ous illnesses and COVID-19 infection but similar among
health professionals and the general population. Kontoan- The COVID-19 pandemic is a threat to well-being
due to social disruption such as financial insecurity, and the time of data collection, and only 10.4% lived with some-
one who had been previously infected with COVID-19. confinement-related stress [25]. Brodeur et al. [26] based
on google trends data, assessed changes in well-being, tak-
ing into consideration the topic search in the internet, and
found a huge increase in searches on boredom, loneliness,
worry and sadness. O’Connor et al. [27] carried out
the UK COVID-19 mental health and wellbeing study and
found that well-being had decreased with increasing suici-
dal thoughts among young adults. 2.2.2 Preventive COVID-19 Infection Behaviors Scale
(PCIBS) In Portugal, although there are validated instruments
to assess the psychological impact of COVID-19 with re-
spect to anxiety (Coronavirus Anxiety Scale [33]), fear
(Fear of COVID-19 Scale [33]), stress (COVID-19 Per-
ceived Risk Scale [34]), phobia (COVID-19 Phobia Scale
[34]) and depression (Negative Impact of COVID-19 [35]),
no instrument assessing post-traumatic stress related to
COVID-19, or preventive behaviors towards COVID-19
has been validated. Thus, the aim of this study was the val-
idation for Portuguese male adults of the COVID-19 Trau-
matic Stress Scale and Preventive COVID-19 Infection Be-
haviors Scale. Based on the World Health Organization [32] preven-
tive behaviors recommended for COVID-19, Chang et al. [31] developed the PCIBS to assess how individuals per-
form preventive COVID-19 infection behaviors (e.g., how
often do you avoid touching eyes, nose, and mouth?). This
instrument is unifactorial and includes five items answered
in a 5-point Likert scale (1 = almost never; 5 = almost al-
ways). Higher scores indicate the use of more preventive
behaviors. Chang et al. [31] found a single-factor structure
with satisfactory fit indices and an internal consistency of
0.80. In the Iranian validated version of PCIBS, distress
assessed by the Hospital Anxiety and Depression Scale
(HADS) was used to determine the adequacy of conver-
gent validity. In the original C19TSS, well-being (assessed
by WHO-5) was used to assess convergent validity. The
present study is part of a bigger protocol that assessed the
impact of Covid-19 on psychological wellbeing and post-
traumatic growth in male adults [36] that included HADS
and QGBEP-R to evaluate depression/anxiety and wellbe-
ing, respectively. Therefore, in the present study, both in-
struments assessing distress and well-being were used to de-
termine the adequacy of convergent validity of PCIBS and
C19TSS. 2.2.3 Hospital Anxiety and Depression Scales (HADS) Hospital Anxiety and Depression Scale [37] assesses
psychological morbidity and includes two subscales: anx-
iety (e.g., I get a sort of frightened feeling as if something
awful is about to happen) and depression (e.g., I still enjoy
the things I used to enjoy) each with 7 items. The items
are scored in a four-point Likert scale ranging from “never”
(0) to “always” (3). A high score in each subscale indicates
more anxiety and depression symptoms or distress consid-
ering the global score. Cronbach alpha for the full scale was
0.89 in the original version and 0.87 in the Portuguese ver-
sion. In the present study, Cronbach alpha was 0.86 [38]. 2.2.4 Psychological General Well-Being Index—short
version (QGBEP-R) 2.2.4 Psychological General Well-Being Index—short
version (QGBEP-R) 2.4 Data analysis 3.1 Principal characteristics of the structural models The EFA showed that both in C19TSS and in PCIBS
6 factorial models were found: model 1, 2, 3, 4, 5, 6 and
2 factorial models (model 1 and 2) were more frequent, re-
spectively. The sociodemographic characteristics of men were
described through descriptive analysis. Exploratory fac-
tor analysis (EFA) and confirmatory factor analysis (CFA)
were performed to obtain the final factor structure of the
Portuguese version for both the C19TSS [14] and PCIBS
[31]. The first statistical technique was used to confirm the
possible structure of each scale. The adequacy of the sample for EFA was assessed
by the Kayser-Meyer-Olkin measure (KMO) (0.778 on
C19TSS scale and 0.627 in the PCIBS) and by the results
of Bartlett’s test of sphericity (p < 0.000 in C19TSS scale
and in the PCIBS scale) revealing that the study sample was
adequate for both scales. A solution of 3 factors, like the
original version [14] in the C19TSS scale was maintained,
since the eigenvalues also showed results above 1.00 which
represents a good indicator of latent factors (Table 1). Taking into account that the sample for CFA should
be different than the sample used to establish EFA [42] and
for a multi-group CFA, a general rule of thumb is 100 par-
ticipants in each group [43,44], in order to reduce probabil-
ity of error variance, 100 random samples composed of 55
participants (the minimum to perform EFA - 5 subjects per
item considering the total number (11) of items) were cre-
ated, through SPSS version 27 (IBM Corp., Armonk, NY,
USA). In the PCIBS, a solution of 1 factor, similar to the orig-
inal scale [31] was found and the eigenvalue was also above
1.00 (Table 2). The results of the CFA for C19TSS scale are presented
in Table 3. In the analysis of the C19TSS, six factor models:
model 1 and model 4 presented the best initial fit indices. The difference between the two models concerned factor 2
and factor 3 whose items were switched. The same was true
for model 2 and model 5. To improve the adjustment of all
models, according to the criteria previously defined, error
1 and error 4 were correlated, as suggested by the modifi-
cation indices. Thus, the model with best adjustment were
model 1 and model 4. 2.3 Procedures To compare the more frequent models for each scale,
either the AIC (Akaike Information Criterion) and the BIC
(Bayesian Information Criterion) were taken into consider-
ation (should decrease compared to the original model in
order to indicate a good fit) [45]. When CFA suggested
modification indices, such as correlations between item er-
rors or between factors and errors, this procedure was fol-
lowed. That is why in all models, error 1 was correlated
with error 4 to improve fit indexes, since all items showed
significant standardized regression weights. All procedures were in accordance with the Declara-
tion of Helsinki [41]. The Ethics Committee of the Uni-
versity of Minho (Portugal) authorized the study and the
permission, from the original authors, to translate and vali-
date the instruments was also granted. The research proto-
col included an informed consent, in which the anonymity
and confidentiality of the data were ensured; a sociode-
mographic questionnaire, the COVID-19 Traumatic Stress
Scale (C19TSS), the Preventive COVID-19 Infection Be-
haviors Scale (PCIBS), the Hospital Anxiety and Depres-
sion Scales (HADS) and the Psychological General Well-
Being Index - Short version (QGBEP-R). The protocol was
made available online through a page allocated to a social
network (Facebook) designed for that purpose. To examine the reliability of both the C19TSS scale
and the PCIBS scale, Cronbach alphas were calculated con-
sidering that a coefficient ≥0.70 reflects a moderate relia-
bility and very good when above 0.80 [46] and corrected
item-total correlation were also taken into consideration
(above 0.30 indicate good inter-item correlation) [47]. The COVID-19 Traumatic Stress (C19TSS) Scale
and the Preventive COVID-19 Infection Behaviors Scale
(PCIBS) were translated from English into Portuguese by
two bilingual translators; the two translations were com-
pared by two psychologists and divergences were removed
after reaching a consensus considering the initial transla-
tion. This version was back translated by other two transla-
tors and the versions were compared again by the psychol-
ogists. The divergences found were discussed and until a
consensus was obtained. To analyze the convergent validity of each scale, Pear-
son correlations between C19TSS and QGBEP-R and be-
tween PCIBS and HADS were performed. Finally, config-
ural, metric and scalar invariance across age and education
were examined through multiple-group confirmatory factor
analysis (MGCFA) by assessing the change of CFI values. Evidence for metric and scalar invariance is determined if
CFI change is <0.010. 2.1 Participants The short version of the Psychological General Well-
Being Index (PGWB-S) [39] assesses psychological gen-
eral well-being and was adapted to the Portuguese popula-
tion (QGBEP-R) by Soares et al. [40] and includes six items
(e.g., I felt cheerful, lighthearted during the past month). Higher scores indicate higher levels of psychological well-
being. In the original version Cronbach alpha was 0.73 and
in the Portuguese version 0.86. In the present study, Cron-
bach alpha was 0.89. The sample included 220 men, mostly Portuguese
(93.2%), coming from an urban environment (75%), with
an average age of 33.88 years (SD = 12.87), the majority be-
ing single (62.3%), not in a romantic relationship (68.6%)
and having no children (71.4%). The vast majority of the
sample was university educated (69.1%) and professionally
active (79.1%). Only 14.1% of the sample had received a
positive diagnosis of COVID-19, although not infected at 2 me neg
naviru
es (fo
need d
isolat
ve be
bold.
Portu
your h
mouth
your
ce bet
l?
and 2.4 Data analysis Model 1 was selected since it re-
vealed a factorial structure similar to the original version of
the scale (Table 3 and Fig. 1). The most frequent factorial models in the 100 ran-
dom samples were chosen and their adequacy examined
through CFA, using structural equation modeling (SEM). The following fit indices were considered: χ2/df (ratio of
chi-square over the number of degrees of freedom, which
should show a ratio of 3:1 or less to represent a good fit),
RMSEA (root mean square error of approximation that
should be below 0.08 to be considered acceptable), CFI and
TLI (Comparative Fit Index and Tucker-Lewis Index that
should both be ≥0.95 to be considered good fit indexes) and
SRMR (standardized root mean square residual that should
be above 0.05). 3 0.880
0.174
0.265
5.02
4.17
0.756
0.358
0.401
36.11
1.08
0.873
0.141
0.212
4.84
2.96
. 0.864
0.275
0.257
3.64
2.97
0.289
0.833
0.339
4.58
3.95
0.187
0.901
0.207
3.75
4.38
-19). 0.265
0.677
0.247
1.40
1.42
0.212
0.271
0.856
6.22
4.25
0.195
0.227
0.696
7.15
4.00
0.305
0.262
0.854
6.15
4.24
4.427
1.855
1.371
40.247
16.862
12.462
69.571
fection Behaviors Scale (PCIBS) with model 2 (N = 55). Factorial Structure of the PCIBS
Factor 1
Mean
SD
em with soap and water? 0.629
4.05
0.803
0.885
3.47
10.069
? 0.655
4.38
0.991
0.685
4.27
0.891
–0.099
5.07
0.790
2.051
41.027
since the factor loading was below this criterion. SD, standard 19). he coro
iew. virus (
9). ation. COVID
ub or
ugh or
was re COVI
ub or
ugh o
was re worry I’ll catch the coronavirus (COVID-19)
makes me feel threatened. ed with the coronavirus? and fearful about the future because of the co
me negatively from a financial point of view
onavirus (COVID-19). ces (food, toilet paper) due to the Coronaviru
need due to the Coronavirus (COVID-19). y isolated as a result of the coronavirus. ave been affected by the coronavirus situation
n bold. SD, standard deviation. Portuguese version of the Preventive COV
your hands with an alcohol-based hand rub o
mouth? h your bent elbow or tissue when you cough
nce between yourself and others? ll? d, and should be above 0.30. The item 5 was orry I
make
d with
nd fe
me neg
navir
es (fo
need d
isolat
ve be
bold. Portu
your h
mouth
your
ce bet
? and Fig. 1. 4. Discussion In Portugal, there are very few validated instruments
to assess the psychological impact of COVID-19. Thus,
the aims of this study were the validation of the COVID-
19 Traumatic Stress (C19TSS) Scale and the Preventive
COVID-19 Infection Behaviors Scale (PCIBS) in a Por-
tuguese male adult sample including the measurement of
their invariance across age and education. To achieve these
goals, exploratory factor analysis (EFA) and confirmatory
factor analysis (CFA) were performed to obtain the fi-
nal factor structure of the Portuguese version of both the
C19TSS [14] and PCIBS [31]. Fig. 2. CFA results of Model 2 of Portuguese version of PCIBS. Model fit indices: χ2/df: 1.123; RMSEA: 0.024; CI 90% LL; HL:
0.000; 0.183; p: 0.410; CFI: 0.998; TLI: 0.991; SRMR: 0.019. Fig. 2. CFA results of Model 2 of Portuguese version of PCIBS. Model fit indices: χ2/df: 1.123; RMSEA: 0.024; CI 90% LL; HL:
0.000; 0.183; p: 0.410; CFI: 0.998; TLI: 0.991; SRMR: 0.019. Several multiple-group confirmatory factor analyses
(MGCFA) were also performed to assess configural, met-
ric and scalar invariance. The literature confirms the ade-
quacy of the statistical analysis to the study goals. In fact,
exploratory factor analysis (EFA) is a multivariate statisti-
cal method that identifies the smallest number of hypothet-
ical constructs that parsimoniously explain the cooperation
among the measured variables [48]. CFA assesses the inter-
nal structure of an instrument after EFA to confirm the num-
ber of the latent variables and the patterns of relationships
[49]. MGCFA is the most widely used method for testing,
measurement invariance and includes simultaneous CFAs
in two or more groups, using separate variance-covariance
matrices for each group [49,50]. 3.2 Reliability The corrected item-total correlations showed reason-
able results both for C19TSS (from 0.272 to 0.611) and in
PCIBS (from 0.331 to 0.440). The C19TSS scale presented
a Cronbach alpha of 0.80 for the total scale; 0.84 for factor
1; 0.74 for factor 2; 0.72 for factor 3. The Cronbach alpha
of PCIBS was 0.59. 2.4 Data analysis CFA Results for Model 1 of the Portuguese version of
C19TSS. Model fit indices: χ2/df: 1.968; RMSEA: 0.066; CI
90% LL; HL: 0.044; 0.088; p: 0.103; CFI: 0.957; TLI: 0.941;
SRMR: 0.061. 3.4 Measurement invariance of the C19TSS and PCIBS
across age and education 3.4 Measurement invariance of the C19TSS and PCIBS
across age and education Table 5 presents the results for measurement invari-
ance across age and education (both two levels) concern-
ing C19TSS. The progressive age invariance showed that
configural invariance model across age presented a good
model fit. Also, the metric invariance test showed that the
model fitted well the data. The change of CFI between
configural and metric invariance was lower than 0.010 con-
firming the metric invariance of C19TSS across age. This
change was also lower than 0.010 between metric and scalar
variance, confirming the scalar variance of C19TSS across
age. The same trend was found concerning education; how-
ever, scalar invariance for C19TSS across education was
not found because the change of the CFI was greater than
0.010 (Table 5). Fig. 1. CFA Results for Model 1 of the Portuguese version of
C19TSS. Model fit indices: χ2/df: 1.968; RMSEA: 0.066; CI
90% LL; HL: 0.044; 0.088; p: 0.103; CFI: 0.957; TLI: 0.941;
SRMR: 0.061. Table 6 shows the results of the measurement of in-
variance of the PCIBS across age and education. Concern-
ing age, configural, metric and scalar invariance were found
as there were no differences in CFI between them. Concern-
ing education, only configural invariance was found since
the differences in CFI were greater than 0.010. Regarding the CFA analysis of the two most frequent
factor models for PCBIS, after the removal of item 5 (due
to the factor loading being below 0.30), and with the corre-
lation between error 2 and error 3, model 2 showed the best
adjustment to the data (Table 4 and Fig. 2). 3.3 Convergent validity Factorial structure of each EFA model and fit indices from CFA in the Portuguese Version of C19TSS (N = 2
χ2/df RMSEA CI 90% LL; HL
p
CFI
TLI SRMR
AIC
BIC
Structure 1- Original model
Factor 1 (items 1, 2, 3, 4 and 5)
2.432
0.081
0.061; 0.101
0.007 0.935 0.912 0.068 149.715
234.556
Factor 2 (items 6, 7 and 8)
Factor 3 (items 9, 10 and 11)
Correlation between e1 and e4
1.968
0.066
0.044; 0.088
0.103 0.957 0.941 0.061 130.718
218.952
Structure 2
Factor 1 (items 1, 2, 3, 4, 5 and 8) 2.544
0.084
0.064; 0.104
0.003 0.930 0.906 0.070 154.300
239.141
Factor 2 (items 6 and 7)
Factor 3 (items 9, 10 and 11)
Correlation between e1 and e4
2.011
0.068
0.046; 0.089
0.084 0.955 0.938 0.064 132.446
220.68
Structure 3
Factor 1 (items 1, 2, 3 and 4)
3.744
0.112
0.093: 0.131
0.000 0.875 0.832 0.098 203.503
288.344
Factor 2 (items 6, 7 and 8)
Factor 3 (items 5, 9, 10 and 11)
Correlation between e1 and e4
3.348
0.104
00.84; 0.123
0.000 0.896 0.856 0.092 185.901
274.135
Structure 4
Factor 1 (items 1, 2, 3, 4 and 5)
2.432
0.081
0.061; 0.101
0.007 0.935 0.912 0.068 149.715
234.556
Factor 2 (items 9, 10 and 11)
Factor 3 (items 6, 7 and 8)
Correlation between e1 and e4
1.968
0.066
0.044; 0.088
0.103 0.957 0.941 0.061 130.718
218.952
Structure 5
Factor 1 (items 1, 2, 3, 4, 5 and 8) 2.544
0.084
0.064; 0.104
0.003 0.930 0.906 0.070 154.300
239.141
Factor 2 (items 9, 10 and 11)
Factor 3 (items 6 and 7)
Correlation between e1 and e4
2.011
0.068
0.046; 0.089
0.084 0.955 0.938 0.064 132.446
220.68
Structure 6
Factor 1 (items 1, 2, 3, 4 and 5)
2.628
0.086
0.067; 0.106
0.002 0.926 0.900 0.076 157.728
242.569
Factor 2 (items 6 and 7)
Factor 3 (items 8, 9, 10 and 11)
correlation between e1 and e4
2.143
0.072
0.051; 0.093
0.043 0.949 0.093 0.071 137.728
225.962
χ2, chi-square; def, degrees of freedom; RMSEA, root mean square error of approximation; CI, confidence interval;
LL, low; HL, high: p, p-value; CFI, comparative fit index; TLI, Tucker-Lewis Index; SRMR, Standardized root mean
square residual; AIC, Akaike Information Criterion; BIC, Bayesian Information Criterion. 3.3 Convergent validity The Pearson correlation between the Portuguese ver-
sion of the C19TSS with QGBEP-R (well-being) scale
showed good convergent validity, both the total scale and
each factor: total scale (r = –0.532; p < 0.001), Factor 1 (r
= –0.447; p < 0.001), Factor 2 (r = –0.274; p < 0.001) and
Factor 3 (r = –0.401; p < 0.001). Also, the Pearson Cor-
relation between the Portuguese version of the PCIBS with
HADS (distress) presented good convergent validity: total
scale (r = 0.388; p < 0.001). The results of EFA showed that C19TSS kept a so-
lution of 3 factors (as the original version of Kira et al. [14] and the Turkish version of Tosun, Dalgar and Altinoz
[24]: (1) threat/fear of future infection/death, (2) economic
stressors/traumas, (3) routine disturbance, isolation and re-
lated secondary traumas). The results of EFA also showed 5 ble 3. 3.3 Convergent validity feeling well is not specific to the COVID-19 virus and was
redundant, but more studies are needed to understand and
pursue this hypothesis. The internal consistency of the Por-
tuguese version of PCIBS was lower when compared either
with the original version (α = 0.82) [30] or with the Span-
ish version that showed Cronbach’s alpha ranging between
0.71 and 0.86 [51]. Configural and metric (but not scalar) invariance was
also found across education for C19TSS. This result contra-
dicts Ramírez et al. [54] who found no impact of education
in posttraumatic stress related to COVID-19. Finally, con-
figural (but not metric and scalar) invariance across educa-
tion for PCIBS was found. This result is in line with Kim
and Kim [55] who observed that education level played a
moderating role in inducing preventive actions. The convergent validity of C19TSS (with well-being)
and of PCIBS (with distress) was confirmed. As in the
original version of C19TSS, Kira et al. [14] also found
that this scale was negatively associated with well-being. Also, Tosun et al. [24], with an Iranian sample, found that
the PCIBS showed a moderated and significant relationship
with psychological distress, measured with HADS [37] as
in the present validation. Despite its strengths, this study also presents some
limitations such as the cross-sectional design limits the con-
clusions that can be drawn from the findings. Participants
were recruited from the general population however, the
sample was relatively homogeneous, also limiting the abil-
ity to generalize the findings. Therefore, future studies with
more diverse samples should attempt to replicate these find-
ings. COVID-19 Traumatic Stress and Preventive COVID-
19 Infection Behaviors scales were assessed by self-report
questionnaires, rather than a structured clinical interview
conducted by a mental health professional. As such, the
measure of traumatic stress (related to COVID-19) may not
be fully accurate in capturing clinical levels of traumatic
stress. Finally, future studies with larger samples should
establish cutoff points for both instruments. Configural, metric and scalar invariance was found
across age for C19TSS and PCIBS. These results are in ac-
cordance with Liu et al. [52] who found higher levels of
post-traumatic stress disorder in younger people (men be-
tween 26 and 30 years old) during the pandemic, which is an
age group near participants’ age in the present study, with
similar relatively homogeneous results. 3.3 Convergent validity χ2/df RMSEA CI 90% LL; HL
p
CFI
TLI SRMR
AIC
BIC
Structure 1- Original model
Factor 1 (items 1, 2, 3, 4 and 5) 2.309
0.077
0.014; 0.137
0.183 0.925 0.850 0.047 31.543 65.479
Structure 2
Factor 1 (items 1, 2, 3, and 4)
3.734
0.112
0.035; 0.202
0.083 0.933 0.799 0.044 23.468 50.617
correlation between e2 and e3
1.123
0.024
0.000; 0.183
0.410 0.998 0.991 0.019 19.123 49.666
χ2, chi-square; def, degrees of freedom; RMSEA, root mean square error of approximation; CI, confidence
interval; LL, low; HL, high; p, p-value: CFI, comparative fit index; TLI, Tucker-Lewis Index; SRMR, Stan-
dardized root mean square residual; AIC, Akaike Information Criterion; BIC, Bayesian Information Criterion. Table 5. Measurement invariance tests of the C19TSS across age and education. χ2
df
χ2/df
p
CFI
RMSEA (90% CI)
ΔCFI
Age
Configural invariance
150.635
80
1.883
0.000
0.924
0.064 (0.048–0.079)
Metric invariance
160.692
88
1.826
0.000
0.922
0.062 (0.046–0.076)
0.002
Scale invariance
171.046
94
1.820
0.000
0.917
0.061 (0.046–0.076)
0.005
Education
Configural invariance
131.482
80
1.644
0.000
0.944
0.054 (0.037–0.071)
Metric invariance
136.992
88
1.557
0.001
0.947
0.051 (0.033–0.066)
–0.003
Scale invariance
155.693
94
1.656
0.000
0.933
0.055 (0.039–0.070)
0.014
*p < 0.001 for all indicators. χ2, chi-square; def, degrees of freedom; CFI, comparative fit index; RMSEA, root mean square error of
approximation; CI, confidence interval; ∆CFI, adjusted comparative fit index. Table 5. Measurement invariance tests of the C19TSS across age and education. χ2
df
χ2/df
p
CFI
RMSEA (90% CI)
ΔCFI
Age
Configural invariance
150.635
80
1.883
0.000
0.924
0.064 (0.048–0.079)
Metric invariance
160.692
88
1.826
0.000
0.922
0.062 (0.046–0.076)
0.002
Scale invariance
171.046
94
1.820
0.000
0.917
0.061 (0.046–0.076)
0.005
Education
Configural invariance
131.482
80
1.644
0.000
0.944
0.054 (0.037–0.071)
Metric invariance
136.992
88
1.557
0.001
0.947
0.051 (0.033–0.066)
–0.003
Scale invariance
155.693
94
1.656
0.000
0.933
0.055 (0.039–0.070)
0.014
*p < 0.001 for all indicators. χ2, chi-square; def, degrees of freedom; CFI, comparative fit index; RMSEA, root mean square error of
approximation; CI, confidence interval; ∆CFI, adjusted comparative fit index. Table 5. Measurement invariance tests of the C19TSS across age and education. χ2, chi-square; def, degrees of freedom; CFI, comparative fit index; RMSEA, root mean square error of
approximation; CI, confidence interval; ∆CFI, adjusted comparative fit index. perform protective behaviors from coronavirus and the rec-
ommended changes) linked to preventive behaviors while
older adults’ perception of severity was linked to behavioral
responses. 3.3 Convergent validity bach alphas were very similar, i.e., 0.84, 0.74, and 0.72 for
factor 1, factor 2 and factor 3 in the Portuguese version and
0.84, 0.75, and 0.70 in the subscales fear from the future in-
fection, economic impact and isolation, routine and disrup-
tion in the original version [14], respectively. Concerning
PCBIS, item 5 was removed because the factor loading was
below 0.30, but kept its unidimensional nature. The same
was true regarding the Spanish version [51], adapted in 12
Latin American countries with a sample of 5183 partici-
pants, the PCBIS was composed only by four items, since
item 5 showed a low factorial loading and was removed,
which improved the model fit similar to the present study. Perhaps, common sociocultural reasons between Latin so-
cieties and the Portuguese society may explain the need to
remove the item in both versions. One may hypothesize that
the item that addresses the need to stay at home when not that PCIBS maintained a solution of 1 factor (as the orig-
inal scale of Chang et al. [30] and the Spanish version of
Caycho-Rodriguez et al. [51]). The findings also showed that CFA confirmed the
C19TSS structure found by EFA, like in the original ver-
sion [14]; however, in the Turkish version, the item 9 was
removed to find an adequate model fit. In the Portuguese
version, the error of item 1 and the error of item 4 were cor-
related to improve the model fit of the final model, in or-
der to preserve the original configuration of the scale [14]. The internal consistency of the total scale of the Portuguese
version (α = 0. 80) was slightly smaller than the Turkish
version (α = 0.85) [24] and the original version (α = 0.88)
[14]. Regarding the internal consistency of the subscales in
the Portuguese version and in the original version, Cron- 6 Table 4. Factorial structure for EFA and model fit indices from the CFA of the Portuguese version of PCIBS (N = 220). Author contributions AL—Conceptualization; Data curation; Investigation;
Methodology; Validation; Writing - review & editing; Final
approval. MGP—Investigation; Methodology; Validation;
and data analysis and interpretation. AL, MGP, ACA—
Data curation; Review and editing; Final approval. AL—
Project administration; Visualization; Roles/Writing - orig-
inal draft; Writing - review and editing; Final approval. All authors participated in Conceptualization, Data Cura-
tion, Data Analysis and Interpretation, Writing, Review and
Editing of the manuscript and approved the final version. [2] Greene C, Burleson S, Crosby C, Heimann M, Pigott D. Coro-
navirus disease 2019: International public health considera-
tions. Journal of the American College of Emergency Physicians
Open. 2020; 1: 70–77. [3] Buheji M, da Costa Cunha K, Beka G, Mavric B, De Souza Y,
da Costa Silva S, et al. The extent of covid-19 pandemic socio-
economic impact on global poverty. A global integrative multi-
disciplinary review. American Journal of Economics. 2020; 10:
213–224. [4] Pfefferbaum B, North C. Mental health and the Covid-19 pan-
demic. New England Journal of Medicine. 2020; 383: 510–512. [5] Elbay R, Kurtulmuş A, Arpacıoğlu S, Karadere E. Depression,
anxiety, stress levels of physicians and associated factors in
COVID-19 pandemics. Psychiatry Research. 2020; 290:113130. 5. Conclusions The results of this study show that the Traumatic Stress
and Preventive COVID-19 Infection Behaviors are reliable
instruments to measure COVID-19 in Portuguese men. [1] World Health Organization. COVID-19 Public Health Emer-
gency of International Concern (PHEIC) Global research
and innovation forum. 22 February 2020. Available at:
https://www.who.int/publications/m/item/covid-19-public-hea
lth-emergency-of-international-concern-(pheic)-global-researc
h-and-innovation-forum (Accessed: 12 January 2022). Ethics approval and consent to participate [6] Mazza M, De Lorenzo R, Conte C, Poletti S, Vai B, Bollettini I,
et al. Anxiety and depression in COVID-19 survivors: Role of
inflammatory and clinical predictors. Brain, Behavior, and Im-
munity. 2020; 89: 594–600. This study was approved by the Ethics Committee
for Research in Social and Human Sciences of the Univer-
sity of Minho, Braga, Portugal with the number: CEICSH
018/2021. All participants gave their informed consent for
inclusion before they participated in the study. [7] Peteet J. COVID-19 Anxiety. Journal of Religion and Health. 2020; 59: 2203–2204. [8] Ahorsu DK, Lin C-Y, Imani V, Saffari M, Griffiths MD, Pakpour
AH. The fear of COVID-19 scale: Development and initial val-
idation. International Journal of Mental Health and Addiction. 2020; 1–9. 3.3 Convergent validity However, these re-
sults are not in agreement with Kim and Crimmins [53] who
found that different strategies were needed to motivate older
and younger people to adopt behavioral modifications to
reduce the further spread of COVID-19. In fact, younger
adults showed coping appraisal (perceptions of the ability to 7 Table 6. Measurement invariance tests of the PCIBS across age and education. χ2
df
χ2/df
p
CFI
RMSEA (90% CI)
ΔCFI
Age
Configural invariance
1.108
2
0.554
0.575
1.000
0.000 (0.000–0.113)
Metric invariance
3.648
5
0.730
0.601
1.000
0.000 (0.000–0.080)
0.000
Scale invariance
4.303
6
0.717
0.636
1.000
0.000 (0.000–0.072)
0.000
Education
Configural invariance
1.755
2
0.878
0.416
1.000
0.000 (0.000–0.113)
Metric invariance
6.011
5
1.202
0.305
0.987
0.051 (0.033–0.066)
0.013
Scale invariance
6.167
6
1.028
0.405
0.998
0.055 (0.039–0.070)
0.011
*p < 0.001 for all indicators. 2
hi
d f d
f f
d
CFI
ti
fit i d
RMSEA
t Table 6. Measurement invariance tests of the PCIBS across age and education. χ2, chi-square; def, degrees of freedom; CFI, comparative fit index; RMSEA, root mean square error
of approximation; CI, confidence interval; ∆CFI, adjusted comparative fit index. χ2, chi-square; def, degrees of freedom; CFI, comparative fit index; RMSEA, root mean square error
of approximation; CI, confidence interval; ∆CFI, adjusted comparative fit index. χ2, chi-square; def, degrees of freedom; CFI, comparative fit index; RMSEA, root mean square error
of approximation; CI, confidence interval; ∆CFI, adjusted comparative fit index. Acknowledgment The authors want to thank all participants for their con-
tribution to the present study. [9] Fitzpatrick K, Harris C, Drawve G. Fear of COVID-19 and the
mental health consequences in America. Psychological Trauma:
Theory, Research, Practice, and Policy. 2020; 12: S17–S21. Theory, Research, Practice, and Policy. 2020; 12: S17–S21 Funding [10] Pakpour A, Griffiths M. The fear of COVID-19 and its role in
preventive behaviours. Journal of Concurrent Disorders. 2020;
2: 58–63. This research received no external funding. Conflict of interest Journal of Public Health. 2020; 42: 672–678. [35] Pereira H, Esgalhado G, Costa V, Monteiro S, Oliveira V. Pro-
priedades psicométricas das escalas de medo e impacto negativo
face À COVID-19. Psicologia da Saúde e Doenças. 2021; 22:
338–349. in Germany. Journal of Public Health. 2020; 42: 672–678. [18] Ettman CK, Abdalla SM, Cohen GH, Sampson L, Vivier PM,
Galea S. Prevalence of Depression, Symptoms in US Adults
Before and During the COVID-19 Pandemic. JAMA Network
Open. 2020; 3: e2019686. [36] Santos M, Machado AM, Bernardo AC, Leite A, Pereira MG. Men’s psychological well-being during COVID-19: the mod-
erator role of posttraumatic growth. Journal of Men’s Health. 2021; 17: 62–71. [19] Shader RI. COVID-19 and Depression. Clinical Therapeutics. 2020; 42: 962–963. [37] Zigmond AS, Snaith RP. The Hospital Anxiety and Depression
Scale. Acta Psychiatrica Scandinavica. 1983; 67: 361–370. [20] Luo M, Guo L, Yu M, Jiang W, Wang H. The psychological
and mental impact of coronavirus disease 2019 (COVID-19) on
medical staff and general public – A systematic review and meta-
analysis. Psychiatry Research. 2020; 291:113190. [38] Pays-Ribeiro J, Silva I, Ferreira T, Martins A, Meneses R, Bal-
tar M. Validation study of a Portuguese version of the Hospital
Anxiety and Depression Scale. Psychology, Health & Medicine. 2007; 12: 225–237. [21] Kontoangelos K, Economou M, Papageorgiou C. Mental Health
Effects of COVID-19 Pandemia: A Review of Clinical and Psy-
chological Traits. Psychiatry Investigation. 2020; 17: 491–505. [39] Grossi E, Groth N, Mosconi P, Cerutti R, Pace F, Compare A, et
al. Development and validation of the short version of the Psy-
chological General Well-Being Index (PGWB-S). Health and
Quality of Life Outcomes. 2006; 4: 88. [22] Xiong J, Lipsitz O, Nasri F, Lui LM, Gill H, Phan L, et al. Impact
of COVID-19 pandemic on mental health in the general popula-
tion: A systematic review. Journal of Affective Disorders. 2020;
277: 55–64. [40] Soares M, Antunes M, da Costa, Correia, Brito I, dos Santos
Pinto M. Adaptação e validação do Questionário Geral de Bem-
Estar Psicológico: Análise fatorial confirmatória da versão re-
duzida. Revista de Enfermagem Referência. 2018; 4: 9–18. [23] Kira IA, Shuwiekh HA, Ashby JS, Elwakeel SA, Alhuwailah A,
Sous MSF, et al. The Impact of COVID-19 Traumatic Stressors
on Mental Health: Is COVID-19 a New Trauma Type. Interna-
tional Journal of Mental Health and Addiction. 2021; 1–20. duzida. Revista de Enfermagem Referência. 2018; 4: 9–18. Conflict of interest [11] Arpaci I, Karataş K, Baloğlu M. The development and initial
tests fr the psychometric properties of the COVID-19 Phobia
Scale (C19P-S). Personality and Individual Differences. 2020;
164: 110108. The authors declare no conflict of interest. MGP is
serving as one of the Editorial Board members of this jour-
nal. We declare that MGP was not involved in the peer
review of this article and had no access to information re-
garding the peer review. Full responsibility for the editorial
process for this article was delegated to AW. [12] Dilbaz N, Noyan O, Alpar G, Kazan O. Development of the
COVID-19 phobia scale: Validity and reliability study. The
Journal of Neurobehavioral Sciences. 2020; 7:142. [13] Lindinger-Sternart S, Kaur V, Widyaningsih Y, Patel A. COVID-
19 phobia across the world: Impact of resilience on COVID- 8 with Mental Illness. International Journal of Mental Health and
Addiction. 2020; 1–13. 19 phobia in different nations. Counselling and Psychotherapy
Research. 2021; 21: 290–302. with Mental Illness. International Journal of Mental Health and
Addiction. 2020; 1–13. [14] Kira IA, Shuwiekh HAM, Rice KG, Ashby JS, Elwakeel SA,
Sous MSF, et al. Measuring COVID-19 as Traumatic Stress: Ini-
tial Psychometrics and Validation. Journal of Loss and Trauma. 2021a; 26: 220–237. [32] World Health Organization Q & A on coronaviruses (COVID-
19). 2021. Available at: https://www.who.int/news-room/q-a-d etail/q-a-coronaviruses (Accessed: 20 September 2021). [33] Magano J, Vidal DG, Sousa HFPe, Dinis MAP, Leite Â. Val-
idation and Psychometric Properties of the Portuguese Version
of the Coronavirus Anxiety Scale (CAS) and Fear of COVID-
19 Scale (FCV-19S) and Associations with Travel, Tourism and
Hospitality. International Journal of Environmental Research
and Public Health. 2021; 18: 427. [15] Odriozola-González P, Planchuelo-Gómez Á, Irurtia MJ, de
Luis-García R. Psychological symptoms of the outbreak of the
COVID-19 confinement in Spain. Journal Health Psychology. 2020; 1359105320967086. [16] Park CL, Russell BS, Fendrich M, Finkelstein-Fox L, Hutchison
M, Becker J. Americans’ COVID-19 Stress, Coping, and Adher-
ence to CDC Guidelines. Journal of General Internal Medicine. 2020; 35: 2296–2303. [34] Leite Â, Vidal DG, Sousa HFPe, Dinis MAP, Magano J. Portuguese Version of COVID-19 Perceived Risk Scale and
COVID-19 Phobia Scale: Psychometric Properties. European
Journal of Investigation in Health, Psychology and Education. 2021; 11: 1044–1060. [17] Bäuerle A, Teufel M, Musche V, Weismüller B, Kohler H, Het-
kamp M, et al. Increased generalized anxiety, depression and
distress during the COVID-19 pandemic: a cross-sectional study
in Germany. Conflict of interest [41] Halonen JI, Erhola M, Furman E, Haahtela T, Jousilahti P,
Barouki R, et al. The Helsinki Declaration 2020: Europe that
protects. The Lancet Planetary Health. 2020; 4: e503–e505. [24] Tosun Altınöz Ş, Dalgar I, Altınöz AE. The Turkish adaptation
and psychometric characteristics of the COVID-19 Traumatic
Stress Scale. Death Studies. 2021; 1–7. [42] Pearson RH, Mundform DJ. Recommended Sample Size for
Conducting Exploratory Factor Analysis on Dichotomous Data. Journal of Modern Applied Statistical Methods. 2010; 9: 359–
368. [25] Prime H, Wade M, Browne DT. Risk and resilience in family
well-being during the COVID-19 pandemic. American Psychol-
ogist. 2020; 75: 631–643. [43] Kline RB. Principles and Practice of Structural Equation Mod-
eling. 4th edn. Guilford Publications: New York. 2016. [26] Brodeur A, Clark AE, Fleche S, Powdthavee N. COVID-19,
lockdowns and well-being: Evidence from Google Trends. Jour-
nal of Public Economics. 2021; 193: 104346. [44] Wang J, Wang X. Structural Equation Modeling. Applications
using Mplus. Higher Education Press: New York. 2012. [27] O’Connor RC, Wetherall K, Cleare S, McClelland H, Melson
AJ, Niedzwiedz CL, et al. Mental health and well-being during
the COVID-19 pandemic: longitudinal analyses of adults in the
UK COVID-19 Mental Health & Wellbeing study. The British
Journal of Psychiatry. 2021; 218: 326–333. [45] Busemeyer JR, Diederich A. Estimation and testing of compu-
tational psychological models. Academic Press: Massachusetts. 2014. [46] Hair, J, Black, W, Babin, B. Multivariate Data Analysis: A
Global Perspective. Pearson Education; 2009. [28] Shaw R, Kim Y, Hua J. Governance, technology and citizen
behavior in pandemic: Lessons from COVID-19 in East Asia. Progress in Disaster Science. 2020; 100090. [47] Nunnally, J, Bernstein I. Psychometric Theory. 3rd edn. MacGraw-Hill: New York. 1994. [48] Watkins MW. Exploratory Factor Analysis: A Guide to Best
Practice. Journal of Black Psychology. 2018; 44: 219–246. [29] Bruine de Bruin, W, Bennett D. Relationships Between Initial
COVID-19 Risk Perceptions and Protective Health Behaviors:
A National Survey. American Journal of Preventive Medicine. 2020; 59: 157–167. [49] Brown TA. Confirmatory factor analysis for applied research. 2nd edn. Guilford: New York. 2015. [50] Joo S, Kim ES. Impact of error structure misspecification when
testing, measurement invariance and latent-factor mean differ-
ence using MIMIC and multiple-group confirmatory factor anal-
ysis. Behavior Research Methods. 2019; 51: 2688–2699. [30] Iorfa SK, Ottu IFA, Oguntayo R, Ayandele O, Kolawole SO,
Gandi JC, et al. Conflict of interest COVID-19 Knowledge, Risk Perception, and
Precautionary Behavior Among Nigerians: A Moderated Medi-
ation Approach. Frontiers in Psychology. 2020; 11: 3292. [31] Chang K, Hou W, Pakpour AH, Lin C, Griffiths MD. Psychome-
tric Testing of Three COVID-19-Related Scales among People [51] Caycho-Rodríguez T, Vilca LW, Valencia PD, Carbajal-León C,
Vivanco-Vidal A, Saroli-Araníbar D, et al. Cross-cultural Vali- 9 tion Motivation Theory. Research in Psychotherapy. 2021; 23:
485. dation of a New Version in Spanish of Four Items of the Preven-
tive COVID-19 Infection Behaviors Scale (PCIBS) in Twelve
Latin American Countries. Frontiers in Psychology. 2021; 12:
5088. [54] González Ramírez LP, Martínez Arriaga RJ, Hernández-
Gonzalez M, De la Roca-Chiapas JM. Psychological distress
and signs of post-traumatic stress in response to the COVID-19
health emergency in a Mexican sample. Psychology Research
and Behavior Management, 2020; 13: 589–597. [52] Liu C, Liu D, Huang N, Fu M, Ahmed JF, Zhang Y, et al. The
Combined Impact of Gender and Age on Post-traumatic Stress
Symptoms, Depression, and Insomnia During COVID-19 Out-
break in China. Frontiers in Public Health. 2021; 8. [55] Kim S, Kim S. Analysis of the impact of health beliefs and re-
source factors on preventive behaviors against the COVID-19
Pandemic. International Journal of Environmental Research and
Public Health, 2020; 17: 8666. [53] Kim JK, Crimmins EM. Age differences in the relationship be-
tween threatening and coping mechanisms and preventive be-
haviors in the time of COVID-19 in the United States: Protec- 10
|
https://openalex.org/W4391194192
|
https://www.degruyter.com/document/doi/10.1515/9783839469811-014/pdf
|
English
| null |
Winnetou meets Gordon Gekko
|
transcript Verlag eBooks
| 2,024
|
cc-by
| 2,813
|
Winnetou meets Gordon Gekko
A Potpourri of Slapstick, Cultural Appropriation, and
Political Critique in Tom Kühnel and Jürgen Kuttner’s
Hasta la Westler, Baby! Doris McGonagill On our GLIB journey of discovery, we had many an eye-opening encounter: at pub-
lishing houses, literary institutions, and broadcasting stations, with authors, trans-
lators, critics, agents, and producers. While all these meetings were fruitful, few
triggered conversations as impassioned as the ones we had after seeing Tom Kühnel
and Jürgen Kuttner’s HastalaWestler,Baby!at Berlin’s storied DeutschesTheater.In the
contribution below, I aim to curate the multiple and often contradictory views the
play elicited from our group before offering my own assessment, which deems the
production a missed opportunity for serious social criticism.Valuable for provoking
heated discussion –this play certainly pushes a lot of buttons,with plenty of amuse-
ment along the way – it does not in the end deliver a solid or innovative critique of
the Wende. Both highly political and deeply self-referential, Hasta la Westler, Baby! employs
a wide array of dramatic, musical, narrative, and visual registers to tell the story
of German re-unification and the decades since. In a format that structurally and
stylistically replicates the historical periods it thematizes, the production includes
circus-themed numbers, Looney Tunes-like short clips, and components remi-
niscent of a 20th-century variety show. These remarkably diverse segments, all
presented by just five actors – Maren Eggert, Peter René Lüdicke, Božidar Kocevski,
Katrin Klein, and author Kuttner himself – are held together by one overarching
argument: the German West raided and colonialized the German East in what has
been dubbed »the biggest landgrab in history.« A serious, but hardly a new charge
with respect to recent German history. How seriously are we entitled to take it? The central metaphor that Kühnel and Kuttner employ to tell the story of a
hostile takeover characterized by arrogance, greed, and assumed superiority (in
the West) and humiliation, victimhood, and perceived inferiority (in the East),
is borrowed from the North-American context. A key segment, about a third of
the way into the evening, depicts West Germans as cowboys and East Germans Special Section/GLIB Schwerpunkt: Berlin-Seminar zum Literaturbetrieb 172 as »Indians.« Considered unrefined and »primitive,« »the Indians« are tutored by
»the white man« (Božidar Kocevski) in the higher art of shameless self-promotion,
free market stratagems, and a kind of capitalist Orwellian newspeak that indeed
appears to come directly from 1984 – both the book and the year. Several other
»numbers« continued the metaphor, and while the tone on stage remained light,
the political critique became increasingly somber. Fig. Winnetou meets Gordon Gekko
A Potpourri of Slapstick, Cultural Appropriation, and
Political Critique in Tom Kühnel and Jürgen Kuttner’s
Hasta la Westler, Baby! 1: Katrin Klein and Matthias Trippner (live music). Photo by Arno
Declair. Courtesy of Deutsches Theater. At a similar rate, the audience’s agitation begins to rise, eroding much of the
good will and sympathy with the argument. Our Seminar participants were over-
whelmingly American or US-based, yet we were willing to allow that deploying a
pinch of Karl May might seem a plausible choice given the popularity of this author,
particularly in East Germany. But superimposing complex discourses about colo-
nization and victimhood with deliberately simplistic allusions to the American Old
West invoked by the author of the Winnetou and Old Shatterhand series struck many
of us as out of touch with contemporary debates and sentiments. Among all the
horseplay the production presented, the »cowboys and Indians« comparison struck
a wrong note. Perhaps predictably, it both backfired and overshot, lending in the
opinion of many a touch of provincialism to the evening. Yes, Kühnel and Kuttner
may have wanted to offend, but in this particular manner, they succeed in uninten-
tional ways. As we were debating the pros and cons of the production’s representational
choices, we became aware of similar and larger discussions unfolding around an-
other Karl May-inspired Western parody, Der Schuh des Manitu by Michael »Bully«
Herbig, released twenty years before Hasta la Westler, Baby! hit the stage. Arriving Doris McGonagill: Winnetou meets Gordon Gekko 173 with considerable delay from the US, this debate split the German public into two
camps: those who criticized the parody’s perpetuation of cultural appropriation and
racism, and those who spoke out against »woke« and what they considered »cancel
culture.« Herbig himself lamented in an article in the right-leaning German daily
Die Welt that the »Comedy-Polizei« had become »so strict« and expressed concern
that the genre of comedy might become altogether smothered by a new culture that
categorically forbids stepping on anybody’s toes. What is and should be allowed in comedy? That question was also at stake during
our evening at the Deutsches Theater and in our subsequent discussions. Shouldn’t
we hold even satire and caricature responsible for the symbolic injuries they cause,
some of us asked? At the same time, shouldn’t artistic license extend to satirical for-
mats and allow for allusions also to the less than savory chapters of literary his-
tory?, others replied. And mightn’t »inappropriate« imagery nevertheless make a
valid point? Doris McGonagill: Winnetou meets Gordon Gekko Particularly successful – and nicely in sync musically with the extended allu-
sion to the Western genre – was the adaptation of Funny van Dannen’s Bundesadler
(federal eagle) hit of 2005, which was paired with a hilarious video montage and a
short (and delightfully silly) scene of the near-naked Kuttner »eagling« up in a phone
box-likecontraption,whitefeathersswirlingallaroundhimandgraduallyattaching
themselves to his body. Bundesadler humor on steroids – one of the evening’s high-
lights in a box, literally. Was it possible that the production succeeded when sati-
rizing the West and the younger history of united Germany, yet failed when it cast
the former East in the role of the hapless victim? Were we encountering the incom-
patibilityofrelentlessslapstickandcartoonishexaggerationwithseriousdiscourses
on victimhood? Perhaps it was a case of mismatched expectations and inflated de-
mandsthatwereclashinghere.(Butthenwhowasdemandingtoomuch?Thetheater
makers? The audience?) We asked whether our discussions rose to the challenge set
by the producers, or whether we were possibly falling into the very trap Kühnel and
Kuttner had set out for us, enacting precisely the roles and positions intended for
us. Or had the audience – to paraphrase Bert Brecht’s short poem »The Solution« –
»forfeited the confidence« of the theater makers, »and could win it back only by re-
doubled efforts«? A lot of questions, to be sure; and many surely »intended« by the
production itself. One thing was certain: the play demanded a lot from its five very talented actors. Eggert, Klein, Kocevski, Kuttner, and Lüdicke each took on many roles and rapid
costume changes. Quick, almost breathless, were the shifts between the different
segments. But the evening made equally high demands on the audience. The quick
switches between different representational registers, between slapstick comedy
and serious critique, between superimposed texts, images, and film clips, required
the audience to constantly change its mode of reception and to not give in to the
temptation to take anything in this satirical blend of documentation and critique
at face value – neither the tongue-in-cheek polemic provocation, nor the moments
of sincere political commentary, nor (and especially not!) the seemingly straight-
forward entertainment segments that offered thinly veiled caricatures of capital-
ist »Heile Welt« propaganda or ironic replays from the GDR soundtrack. Did the
playwrights in this way, however, essentially play a trick on the audience, not this
time with a double but a triple (or quadruple?) false bottom? Winnetou meets Gordon Gekko
A Potpourri of Slapstick, Cultural Appropriation, and
Political Critique in Tom Kühnel and Jürgen Kuttner’s
Hasta la Westler, Baby! Or does the sin of »appropriation« simply trump all other considera-
tions? Still others from our group couldn’t help wondering whether we weren’t repli-
cating the arrogance of the »Westerners« on stage by ignoring regional differences
andapplyingNorthAmericansensibilitiesasuniversallybinding.Wereweblatantly,
albeit unwittingly,demonstrating our own lack of sensitivity towards local contexts? A look at other ingredients in Kühnel and Kuttner’s potpourri of genres proved
helpful when thinking through these thorny questions – after all, the Western dis-
course with its troubling cowboy and »Indians« metaphor was not the only compar-
ison the production drew on. There is one explicit circus number – complete with a circus director alias
conferencier alias stage manager straight from the Epic Theater playbook – en-
acting a Hütchen-Spiel, suggesting the East was tricked by the West as in a shell
game. Farcical exaggeration and acerbic political satire are interspersed with catchy
show numbers, musical interludes, and live videos. Quotations by Erich Honecker,
the long-time General Secretary of the Socialist Unity Party in the East, were
framed by ironic snippets from the West-German entertainment history »Made on
Ku-Damm,« the famous West-Berlin boulevard that became synonymous with the
capitalist entertainment industry of the post-war era. Scathing statements about
the Treuhand agency that oversaw the integration of previously state-owned GDR
companies into the unified Germany (and has long been the focus of bitter East
German resentment: »The West German banks made the biggest killing«) were
mixed in with a nostalgic .DR pop revue. Throughout, the musical numbers, set
against some spectacular stage sets by Bert Zander, were catchy and entertaining. 174 Special Section/GLIB Schwerpunkt: Berlin-Seminar zum Literaturbetrieb Fig. 2: Maren Eggert and Božidar Kocevski. Photo
by Arno Declair. Courtesy of Deutsches Theater. Fig. 3: Božidar Kocevski. Photo by Arno Declair. Courtesy of Deutsches
Theater. Fig. 2: Maren Eggert and Božidar Kocevski. Photo
by Arno Declair. Courtesy of Deutsches Theater. Fig. 2: Maren Eggert and Božidar Kocevski. Photo
by Arno Declair. Courtesy of Deutsches Theater. Fig. 2: Maren Eggert and Božidar Kocevski. Photo
by Arno Declair. Courtesy of Deutsches Theater. Fig. 3: Božidar Kocevski. Photo by Arno Declair. Courtesy of Deutsches
Theater. Fig. 3: Božidar Kocevski. Photo by Arno Declair. Courtesy of Deutsches
Theater. Fig. 3: Božidar Kocevski. Photo by Arno Declair. Courtesy of Deutsches
Theater Fig. 3: Božidar Kocevski. Photo by Arno Declair. Courtesy of Deutschesh Fig. 3: Božidar Kocevski. Photo by Arno Declair. Courtesy of Deutsches
Theater. Winnetou meets Gordon Gekko
A Potpourri of Slapstick, Cultural Appropriation, and
Political Critique in Tom Kühnel and Jürgen Kuttner’s
Hasta la Westler, Baby! 175 Doris McGonagill: Winnetou meets Gordon Gekko Doris McGonagill: Winnetou meets Gordon Gekko Through all these quick-
changing genres, they seek to offer a serious critique of the Western »colonial«
takeover of East Germany. Yet in doing so, they’ve actually pulled the rug out from
under the audience, rendering us unable to achieve any stable critical purchase on
the play. It becomes an ever-shifting target, playfully dodging any set of criteria one
might wish to impose. It can criticize, but we cannot. 176 Special Section/GLIB Schwerpunkt: Berlin-Seminar zum Literaturbetrieb Fig. 4: Katrin Klein, Jürgen Kuttner, Božidar Kocevski, Maren Eggert, Peter
René Lüdicke. Photo by Arno Declair. Courtesy of Deutsches Theater. At times, the on-stage action did not particularly play to the audience at all. The best example of this were the narrative segments that presented extended diary
quotes revisiting the history of the Deutsches Theater during the first years of unified
Germany.Through the lens of its then dramaturge,Michael Eberth (a West »import«
intothisreveredEastBerlininstitution),weheardarevealingfirst-handaccountofa
true»Besserwessi«–anexpressionusedintheEasttodescribethearroganceofknow-
it-all West Germans. These inward-looking segments were at once highly specific,
yet so stripped of necessary context that finer nuances of the critique may well be
lost on many in the audience. Most of us got the broader strokes of this political/po-
etical self-reflection: a cultural institution deeply engaged in the contemplation of
its own mirror image from the past.And all Seminar participants were aware that in
the case of the august DeutschesTheater, theater about history and politics frequently
is simultaneously theater about theater, literature, and about this particular tradi-
tion-laden institution. Perhaps the playwrights had deliberately retrieved old the-
ater costumes from mothballed storage just to demonstrate the production’s self-
referentiality? Or was it rather calculated alienation, vehicle for a critical examina-
tion of our viewing habits? Who knows. The program booklet informs us that Hasta la Westler, Baby! is the third install-
ment in a trilogy. This production was preceded by Capitalista, Baby! from 2011 (a Fig. 4: Katrin Klein, Jürgen Kuttner, Božidar Kocevski, Maren Eggert, Peter
René Lüdicke. Photo by Arno Declair. Courtesy of Deutsches Theater. At times, the on-stage action did not particularly play to the audience at all. The best example of this were the narrative segments that presented extended diary
quotes revisiting the history of the Deutsches Theater during the first years of unified
Germany.Through the lens of its then dramaturge,Michael Eberth (a West »import«
intothisreveredEastBerlininstitution),weheardarevealingfirst-handaccountofa
true»Besserwessi«–anexpressionusedintheEasttodescribethearroganceofknow-
it-all West Germans. Doris McGonagill: Winnetou meets Gordon Gekko These inward-looking segments were at once highly specific,
yet so stripped of necessary context that finer nuances of the critique may well be
lost on many in the audience. Most of us got the broader strokes of this political/po-
etical self-reflection: a cultural institution deeply engaged in the contemplation of
its own mirror image from the past.And all Seminar participants were aware that in
the case of the august DeutschesTheater, theater about history and politics frequently
is simultaneously theater about theater, literature, and about this particular tradi-
tion-laden institution. Perhaps the playwrights had deliberately retrieved old the-
ater costumes from mothballed storage just to demonstrate the production’s self-
referentiality? Or was it rather calculated alienation, vehicle for a critical examina-
tion of our viewing habits? Who knows. The program booklet informs us that Hasta la Westler, Baby! is the third install-
ment in a trilogy. This production was preceded by Capitalista, Baby! from 2011 (a
persiflage of Ayn Rand’s gospel of late-capitalist individualism in The Fountainhead)
and Feminista, Baby! of 2017 (a dramaturgical adaptation of Valerie Solana’s radical
S.C.U.M. manifesto of the 1960s). Understanding that the eclectic satirical montage
ofsoundbitesandimagesinHastalaWestler,Baby!waspartofalargercriticalproject
made us speculate whether in resorting to leftist tropes from the twentieth century, 177 Doris McGonagill: Winnetou meets Gordon Gekko this twenty-first-century production might have exposed »the simultaneity of the
non-simultaneous« in German literary and cultural institutions – deliberately, but
maybe also inadvertently. Situating the production in the larger context of Kühnel and Kuttner’s critical
project made us realize that pitting troublingly one-sided narratives and hilariously
limited views of history against one another constitutes much of the playwrights’
overallmethodandwit,andliesattheheartofthetraditiontheirtheaterprojectsare
steeped in.We accepted the fact that the many different forms of projections used in
this production are not arbitrary theatrical devices,but represent rather central the-
matic strands of their projects, reflective of collective German processes: for exam-
ple, how the socialist East became a foil for Western expectations, prejudices, and,
above all, capitalist ambitions; and how the colonized, disenchanted East, stripped
ofitsidentityanddignity,inturnprojectsstereotypesofaheartless,cut-throatmar-
keting mentality onto the West. All well and good, as far as critical intention goes. Acknowledging this prompted us to rethink some of our questions and revisit
some of our attitudes towards the piece. Ultimately,our debates touched on the role
of art and cultural institutions in general, including the Deutsches Theater itself. Can
art be socially relevant if it is not provocative? Doris McGonagill: Winnetou meets Gordon Gekko Lurking beneath the circus concept,
the variety show format, the Western metaphors, and the pop music persiflage,
there seems to be a Thesenstück, a thesis play, that deliberately opts for provocation,
one-sidedness, and hyperbole, using all three as a calculated means of jolting the
complacent audience into critical reflection – and possibly out of those velvety red
seats. That much seemed justifiable. But there were also profound questions about
art’s accountability. The vaudevillian structure of the production, the multi-genre
combination of dissonant segments effectively meant that it could deftly duck any
criticism launched at it by claiming »irony« and »satire.« Ultimately,I sided with the
faction that argued that even a hurly-burly extravaganza like Hasta la Westler, Baby! must take responsibility for its possible missteps,imbalances,and dissonant appro-
priations. Kühnel and Kuttner’s production constantly prods the audience to adjust
itsmodeofreception,thatistrue.Yetindoingso,itsidestepsanypotentialcriticism
by opportunistically switching contexts,signaling with a wink to its potential critics
that they are just not getting the joke. Thus, the production itself appears to play a
shell game with the audience eager to interpret. In this sense, it offers the one kind
of circus number thus far missing from the evening’s repertoire: the escape act. Whenever a serious objection is lodged, Kühnel and Kuttner’s production pulls a
Houdini. Because of its insistence on perpetually switching frameworks – from the
satirical and the silly to the sincere – the production became a somewhat whimsical
moving target that evades criticism of virtually all kinds. As a result, however, it also
renders itself incapable of formulating any genuine, sincere social critique. None of
which is to deny that it is richly – and often aggravatingly – entertaining. Yet given
the ambitious critical trajectory promised by Capitalista, Baby! and Feminista, Baby!, Special Section/GLIB Schwerpunkt: Berlin-Seminar zum Literaturbetrieb 178 and by the very »thesis play« lurking stubbornly within this amalgam of disparate
diversions, this strikes me as a loss. Fig. 5: Katrin Klein, Maren Eggert, Božidar Kocevski, Peter René Lüdicke. g
gg
Photo by Arno Declair. Courtesy of Deutsches Theater.
|
https://openalex.org/W4287746778
|
https://zenodo.org/records/5665538/files/July-3.pdf
|
English
| null |
Influence of pH and calcination temperature on the properties of synthesized ceria
|
Zenodo (CERN European Organization for Nuclear Research)
| 2,020
|
cc-by
| 2,126
|
Introduction comparably simpler, inexpensive nature and easy scale-up,
precipitation method has gained ample attention7. Chen et
al. synthesized nanoceria by precipitation using cerium ni-
trate and ammonia as precursors to evaluate the effect of
reaction temperature and atmosphere on its characteristics8. Liu et al. prepared nanoceria particles about 200 nm size
with cerium sulphate and oxalic acid as precursors9. Cerium
nitrate, potassium carbonate and potassium hydroxide were
used as precursors by Farahmandjou et al. to synthesis ce-
rium oxide nanoparticles via co-precipitation route5. Cerium
precursors in nitrate form are reported to be most preferred
for producing nanoceria particles with uniform size10. Most
literatures on precipitation technique were evolving around
influence of cerium precursors, additives, reaction atmo-
sphere and ligands7. Whilst very few reported works are avail-
able on effects of pH and calcination temperature. In this
paper, a facile co-precipitation method to synthesize cerium
oxide nanoparticles is reported. Further the influence of pH
on morphology and calcination temperature on crystallite
growth of prepared particles was investigated with the aid of
SEM, EDS and XRD. Ceria is a rare earth material having face centered cubic
fluorite structure1. In recent years’ ceria as a nanoparticle
have gained wide attentiveness in research domain. Because,
unlike their bulk counterparts, they possess captivating im-
manent physical and chemical properties2. Immense poten-
tial uses of ceria have been observed as an outcome of bur-
geoning academic interest on them. Some salient applica-
tions being: as an electrolyte material for solid oxide fuel
cells (SOFC), as sunscreen for ultraviolet absorbents, in oxy-
gen sensors, as ceramic pigments, as catalytic wet oxida-
tion material and for photocatalytic oxidation of water3. Cur-
rently both industrial and academic focus on ceria
nanoparticles are deeply rooted to their use as an abrasive
in silicon substrate chemical mechanical polishing (CMP) and
modern automotive engine exhaust catalyst4. Prescience behind the promising nature of nanoceria and
nanoceria based compounds, with different properties for
different applications, emerged with a large number of con-
ventional and novel methods for its synthesis. These meth-
ods include precipitation, hydrothermal, sono-chemical, so-
lution combustion, ultra-sonic spray pyrolysis and hydroxide
mediated approach5. Selection of proper techniques depends
on both the required specific properties and accessibility of
reagent chemicals6. Among these methods, owing to its Sarath Menon, Shiv Kumar Manu, S. Noyel Victoria and R. Manivannan* Sarath Menon, Shiv Kumar Manu, S. Noyel Victoria and R. Manivannan*
Department of Chemical Engineering, National Institute of Technology Raipur, Raipur-492 010, Chhattisgarh, India
E-mail: rmani.che@nitrr.ac.in Department of Chemical Engineering, National Institute of Technology Raipur, Raipur-492 010, Chhattisgarh, India
E-mail: rmani.che@nitrr.ac.in Manuscript received online 20 April 2020, accepted 01 June 2020 Ceria particles are now extensively used in chemical mechanical polishing of glass, which makes them a promising material
for semiconductor industry. In this work, a facile co-precipitation route was adopted to synthesis ceria particles. Cerium ni-
trate hexahydrate and sodium carbonate were used as the precursors. Study of the effect of pH and calcination temperature
on synthesized ceria particles were carried out in detail. The surface morphology was found to be influenced significantly by
change in solution pH, as evinced from SEM results. XRD spectra revealed improvement in crystallite size for synthesized
nanoceria calcined at different temperatures. Keywords: Nanoparticles, ceria, pH, calcination temperature. NCNE-2020 Special Issue J. Indian Chem. Soc.,
Vol. 97, July 2020, pp. 979-982 J. Indian Chem. Soc.,
Vol. 97, July 2020, pp. 979-982 J. Indian Chem. Soc., Vol. 97, July 2020, pp. 979-982 Vol. 97, July 2020, pp. 979-982 Keywords: Nanoparticles, ceria, pH, calcination temperature. Experimental Cerium nitrate hexahydrate (Ce (NO3)3.6H2O: 99.9%) and
sodium carbonate (Na2CO3: anhydrous 99.5%: extra pure)
were purchased from Loba Chemie. 979 J. Indian Chem. Soc., Vol. 97, July 2020 J. Indian Chem. Soc., Vol. 97, July 2020 Requisite amount of cerium nitrate and sodium carbon-
ate precursors were weighed precisely and dissolved in 250
mL of water. Then the freshly prepared 0.1 M cerium nitrate
and 0.15 M sodium carbonate aqueous solutions were added
drop by drop to 100 mL of well stirred distilled water simulta-
neously in required quantity. Precipitation of cerous carbon-
ate occurs immediately and much more progressively. There-
upon, the solution was parted to three. NaOH/nitric acid was
added to adjust the pH of solutions to acidic (5), neutral (7)
and alkaline (9). Solutions were then dried for 2 h at 80ºC in
a hot air oven and brought to room temperature. Without any
purification, solutions were aged in a muffle furnace for 2.5 h
at 230ºC. Finally, the sample was calcined at 600ºC for 3 h
to produce ceria nanoparticles. XRD analysis of the sample
was carried out with 2 in range 20–90º (scan rate: 3.5º/min)
using PANalytical 3Kw Xpert Powder XRD to identify crystal-
line size and phase. The morphology of prepared nanoceria
was characterised by SEM with type ZEISS EVO-18. Elemen-
tal composition was studied using EDS (INCA 250 EDS). into an irregular complex mixture of spherical and rod like
assembly at neutral environment12 (Fig. 1b). Clearly defined
cubical flake like morphology of nanoceria aggregates (Fig. 1c) were found in alkaline pH. This can be attributed to the
effect of nucleation of nanoparticles. Elemental composition
of nanoceria synthesized at different pH was affirmed by EDS
results as reported in Table 1. Table 1. Elemental composition of prepared nanoceria at different
pH Table 1. Elemental composition of prepared nanoceria at different
pH
Element
Weight (%)
Acidic
Neutral
Basic
O
15.32
23.17
16.50
K
–
0.88
1.35
Ce
84.68
75.95
82.15 Fig. 2 revealed the XRD morphology of nanoceria par-
ticles prepared at different pH conditions. Spectra peaks at
28.5º, 33.1º, 47º, 56.3º, 69.5º, 76.7º and 79.1º corresponds
to (111), (200), (220), (311), (222), (400), (331), (420) and
(422) respectively of cerium oxide with fluorite cubic struc-
ture. Crystallite diameter and average crystallite size is re-
ported in Table 2. A decline in average crystallite size with
rise in pH of solute environment was observed. Results and discussion
Influence of pH: Fig. 1 evinces the SEM images of ceria particles synthe-
sized at different pH values. The significant effect of solute
environment in defining the surface morphology of grains
was reported in most of the existing literatures11. At acidic
condition (Fig. 1a), softly agglomerated small crystallites were
observed. Ceria nanoparticle tends to aggregate and evolve Experimental This is in
congruence with existing literatures11,13. Effect of calcination: Characterization data on influence of pH
Sample
XRD
Crystallite diameter (D)
Average crystallite size
(nm)
(nm)
Acidic
16
17
Neutral
18
14
Alkaline
11
13 Table 3. Characterisation data on effect of calcination temperature
Sample
XRD
Crystallite diameter (D)
Average crystallite size
(nm)
(nm)
Pre-calcined
6
5
Calcined at 300ºC
7
6
Calcined at 600ºC
18
15
Calcined at 900ºC
29
25
Conclusions line nature of as-synthesized particles as shown in Fig. 3. Each sample evinces distinctive peaks corresponding to
(111), (200), (220), (311) planes which closely confirms to
fluorite structured CeO2 crystal. Prior to calcination, broad
XRD peaks were observed at (111), (200), (220) and (311). line nature of as-synthesized particles as shown in Fig. 3. Each sample evinces distinctive peaks corresponding to
(111), (200), (220), (311) planes which closely confirms to
fluorite structured CeO2 crystal. Prior to calcination, broad
XRD peaks were observed at (111), (200), (220) and (311). Fig. 3. XRD patterns of synthesized nanoceria at various calcination
temperatures. Effect of calcination: XRD patterns of synthesized ceria nanoparticles at dif-
ferent calcination temperatures evidenced the pure crystal- Fig. 1. SEM images of nanoceria synthesized at (a) acidic, (b) neutral and (c) alkaline condition. Fig. 1. SEM images of nanoceria synthesized at (a) acidic, (b) neutral and (c) alkaline condition. 980 Menon et al.: Influence of pH and calcination temperature on the properties of synthesized ceria Menon et al.: Influence of pH and calcination temperature on the properties of synthesized ceria On increasing the temperature, peaks become sharper along
with an addition of five more peaks at (222), (400), (331),
(420) and (422). This gives a plausible reason for the rise in
crystallization. According to Debye-Sherrer equation10: Fig. 2. XRD patterns of synthesized nanoceria at different pH. 0.89
D = —————
(1)
B cos (1) crystallite size of the synthesized ceria particles at each cal-
cination temperature has been estimated. Table 3 summa-
rizes the crystallite diameter and average crystallite size cor-
responding to calcination temperature. In general, crystallite
size is deliberated using the strong peak, while the average
crystallite size is deliberated using all the peaks obtained in
the XRD spectra13. With the increase in calcination tempera-
ture, a proliferating trend can be observed in both the re-
sults. Small crystallite sizes prior to and at low calcination
temperatures can be attributed to high porosity and inter-
connection between the pores14. Network of continuous par-
ticle boundaries have been able to be formed at higher tem-
peratures by linking of fine particles, thus improving the size
of crystals10. crystallite size of the synthesized ceria particles at each cal-
cination temperature has been estimated. Table 3 summa-
rizes the crystallite diameter and average crystallite size cor-
responding to calcination temperature. In general, crystallite
size is deliberated using the strong peak, while the average
crystallite size is deliberated using all the peaks obtained in
the XRD spectra13. With the increase in calcination tempera-
ture, a proliferating trend can be observed in both the re-
sults. Small crystallite sizes prior to and at low calcination
temperatures can be attributed to high porosity and inter-
connection between the pores14. Network of continuous par-
ticle boundaries have been able to be formed at higher tem-
peratures by linking of fine particles, thus improving the size
of crystals10. Fig. 2. XRD patterns of synthesized nanoceria at different pH. Table 2. Conclusions Ceria particles were synthesised successfully by adopt-
ing a facile co-precipitation route using cerium nitrate and
sodium carbonate as precursors. XRD results ascertained
the cubic fluorite structure of prepared nanoceria. Influence
of pH on surface morphology of ceria nanoparticles was evi-
dent from SEM images with significant changes in each case. Irregular, small and agglomerated crystals were observed in
acidic conditions. Neutral environment resulted in complex
mixture of spherical and rod like assembly, while in alkaline
state defined cubical morphology was obtained. Also, aver-
age crystallite size tends to decrease from acidic to alkaline Fig. 3. XRD patterns of synthesized nanoceria at various calcination
temperatures. 981 J. Indian Chem. Soc., Vol. 97, July 2020 7. J. C. Chen, W. C. Chen, Y. C. Tien and C. J. Shih, J. Alloys
Compd., 2010, 496, 364. conditions. On increasing, calcination temperature strongly
affirms its significance on crystallite size. Small crystals at
lower temperature attain improvement in crystallinity at higher
temperature. 8. H. I. Chen and H. Y. Cheng, Solid State Commun., 2004, 133,
593. 9. Y. H. Liu, J. C. Zuo, X. F. Ren and L. Yong, METALURGIJA,
2014, 53, 463. 6.
S. Sciré and L. Palmisano, Metal Oxides, 2020, 1. 1.
M. Jalilpour and M. Fathalilou, Int. J. Phys. Sci., 2012, 7, 944. 2.
N. K. Renuka, J. Alloys Compd., 2012, 513, 230. 3.
A. I. Y Tok, L. H. Luo, F. Y. C Boey and J. L. Woodhead, J.
Mater. Res., 2006, 21, 119. 1.
M. Jalilpour and M. Fathalilou, Int. J. Phys. Sci., 2012, 7, 944.
2.
N. K. Renuka, J. Alloys Compd., 2012, 513, 230.
3.
A. I. Y Tok, L. H. Luo, F. Y. C Boey and J. L. Woodhead, J.
Mater. Res., 2006, 21, 119.
4.
T. S. Sreeremya, M. Prabhakaran and S. Gosh, RSC Adv., 2015,
5, 84056.
5.
M. Farahmandjou, M. Zarinkamar and T. P. Firoozabadi, Rev.
Mex. Fis., 2016, 62, 496.
6.
S. Sciré and L. Palmisano, Metal Oxides, 2020, 1. References 10. K. K. Babitha, A. Sreeedevi, K. P. Priyanka, B. Sabu and
T. Varghese, Indian J. Pure Appl. Phys., 2015, 53, 596. 1. M. Jalilpour and M. Fathalilou, Int. J. Phys. Sci., 2012, 7, 944. 2. N. K. Renuka, J. Alloys Compd., 2012, 513, 230. 11. M. Ramachandran, R. Subadevi and M. Sivakumar, Vaccum,
2019, 161, 220. 3. A. I. Y Tok, L. H. Luo, F. Y. C Boey and J. L. Woodhead, J. Mater. Res., 2006, 21, 119. 12. M. Yan, W. Wei and N. Zouren, J. Rare Earth, 2007, 25,
53. 4. T. S. Sreeremya, M. Prabhakaran and S. Gosh, RSC Adv., 2015,
5, 84056. 13. A. S. Saleemi, A. Abdullah and M. A. Rehman, J. Supercond. Nov. Mag., 2013, 26, 1065. 5. M. Farahmandjou, M. Zarinkamar and T. P. Firoozabadi, Rev. Mex. Fis., 2016, 62, 496. 5. M. Farahmandjou, M. Zarinkamar and T. P. Firoozabadi, Rev. Mex. Fis., 2016, 62, 496. 14. T. Lai, Y. Shu, G. Huang, C. Lee and C. Wang, J. Alloys
Compd., 2008, 450, 318. 6. S. Sciré and L. Palmisano, Metal Oxides, 2020, 1. 982
|
https://openalex.org/W2950851438
|
https://www.scielo.br/j/aem/a/YmwdfXqkLgPpGd3PsFXPbth/?lang=en&format=pdf
|
English
| null |
Combined pituitary hormone deficiency caused by PROP1 mutations: update 20 years post-discovery
|
Archives of Endocrinology and Metabolism
| 2,019
|
cc-by
| 5,802
|
review review Keywords y
PROP1; combined pituitary hormone deficiency; growth hormone deficiency; short stature DOI: 10.20945/2359-3997000000139 DOI: 10.20945/2359-3997000000139 Combined pituitary hormone
deficiency caused by
PROP1 mutations: update
20 years post-discovery 1 Unidade de Endocrinologia do
Desenvolvimento, Laboratório
de Hormônios e Genética
Molecular LIM/42, Disciplina
de Endocrinologia, Hospital
das Clínicas da Faculdade de
Medicina da Universidade de
São Paulo, São Paulo, SP, Brasil
2 Unidade de Endocrinologia
Genética, Laboratório de
Endocrinologia Celular e
Molecular LIM/25, Disciplina
de Endocrinologia, Hospital
das Clínicas da Faculdade de
Medicina da Universidade de
São Paulo, São Paulo, SP, Brasil
* These three authors equally Fernanda A. Correa1*, Marilena Nakaguma1*, João L. O. Madeira1*,
Mirian Y. Nishi1, Milena G. Abrão1, Alexander A. L. Jorge2,
Luciani R. Carvalho1, Ivo J. P. Arnhold1, Berenice B. Mendonça1 Fernanda A. Correa1*, Marilena Nakaguma1*, João L. O. Madeira1*,
Mirian Y. Nishi1, Milena G. Abrão1, Alexander A. L. Jorge2,
Luciani R. Carvalho1, Ivo J. P. Arnhold1, Berenice B. Mendonça1 Correspondence to: Correspondence to:
Fernanda de Azevedo Correa
Unidade de Endocrinologia do
Desenvolvimento, Laboratório de
Hormônios e Genética Molecular
LIM/42, Hospital das Clínicas,
Disciplina de Endocrinologia,
Faculdade de Medicina da
Universidade de São Paulo
Av. Dr. Eneas de Carvalho Aguiar, 255
05403-000 – São Paulo, SP, Brasil
feracorrea@uol.com.br Received on Apr/3/2018
Accepted on Mar/12/2019 ABSTRACT The first description of patients with combined pituitary hormone deficiencies (CPHD) caused by
PROP1 mutations was made 20 years ago. Here we updated the clinical and genetic characteristics
of patients with PROP1 mutations and summarized the phenotypes of 14 patients with 7 different
pathogenic PROP1 mutations followed at the Hospital das Clínicas of the University of Sao Paulo. In addition to deficiencies in GH, TSH, PRL and gonadotropins some patients develop late ACTH
deficiency. Therefore, patients with PROP1 mutations require permanent surveillance. On magnetic
resonance imaging, the pituitary stalk is normal, and the posterior lobe is in the normal position. The anterior lobe in patients with PROP1 mutations is usually hypoplastic but may be normal or
even enlarged. Bi-allelic PROP1 mutations are currently the most frequently recognized genetic cause
of CPHD worldwide. PROP1 defects occur more frequently among offspring of consanguineous
parents and familial cases, but they also occur in sporadic cases, especially in countries in which the
prevalence of PROP1 mutations is relatively high. We classified all reported PROP1 variants described
to date according to the American College of Medical Genetics and Genomics and the Association for
Molecular Pathology (ACMG-AMP) guidelines: 29 were pathogenic, 2 were likely pathogenic, and 2
were of unknown significance. An expansion of the phenotype of patients with PROP1 mutations was
observed since the first description 20 years ago: variable anterior pituitary size, different pathogenic
mutations, and late development of ACTH deficiency. PROP1 mutations are the most common cause
of autosomal recessive CPHD with a topic posterior pituitary lobe. Arch Endocrinol Metab. 2019;63(2):167-74 Molecular LIM/25, Disciplina
de Endocrinologia, Hospital
das Clínicas da Faculdade de
Medicina da Universidade de
São Paulo, São Paulo, SP, Brasil * These three authors equally
contributed to this work y
PROP1; combined pituitary hormone deficiency; growth hormone deficiency; short stature Arch Endocrinol Metab. 2019;63/2 INTRODUCTION Spontaneous mouse mutants greatly contributed
to our initial understanding of CPHD genetics. The
Snell and Jackson mice had GH, prolactin and TSH
deficiencies. In the early ‘90s, mutations in Pit1,
which encodes pituitary-specific transcription factor-1,
were described in these animals (7,8). This finding
quickly led to the detection of mutations in the
human homologue gene POU1F1 (previously known
as PIT1) with a similar phenotype (9,10). The Ames
dwarf mouse, another spontaneous mutant mouse with
a similar phenotype, but without mutations in Pit1,
had the genetic cause established a little while later:
mutations in a paired-like homeodomain transcription
factor termed ‘Prophet of Pit1’ (Prop1) (11). The Ames
dwarf phenotype resulted from an apparent failure of
initial determination of the Pit1 lineage, required for I
t has been 20 years since Wei Wu in M.G. Rosenfeld’s
Research Unit first identified inactivating mutations
of the PROP1 gene in humans with combined pituitary
hormone deficiency (CPHD) (1). Until now this has
been the most common genetic cause of CPHD (2). Over the past 20 years, our Unit at the Hospital das
Clínicas has contributed significantly to the knowledge
of PROP1 in CPHD, describing for the first time
spontaneous involution of the anterior pituitary and the
development of cortisol deficiency (3). We also expanded
the spectrum of PROP1 mutations (4-6). Here we
review the cumulative knowledge of the genetics and
clinical presentation of patients with PROP1 mutations
and describe 14 patients who were followed at a single
Brazilian center over the past 20 years. I 167 Arch Endocrinol Metab. 2019;63/2 20 years of PROP1 mutations the production of GH, prolactin, and TSH, resulting
in pituitary dysmorphogenesis and failure to activate
Pit1 gene expression. These results suggested that a
cascade of tissue-specific regulators is responsible for
the determination and differentiation of specific cell
lineages in pituitary organogenesis (11). Finally, in 1998,
Wu and cols. reported 4 families in which CPHD was
caused by inactivating mutations of the PROP1 gene in
an autosomal recessive pattern (1). These mutations in
the human PROP1 gene resulted in a gene product with
impaired DNA binding and transcriptional activation
ability. In contrast to individuals with POU1F1
mutations, patients with PROP1 mutations also had
luteinizing hormone (LH) and follicle-stimulating
hormone (FSH) deficiencies (1). in contrast to patients with congenital CPHD caused
by other etiologies, neonates with PROP1 defects lack
perinatal signs of hypopituitarism. Hormonal deficiencies The impairment of pituitary production usually follows
a pattern. GH and TSH deficiencies are usually present
at diagnosis, LH and FSH deficiencies are noted at the
onset of puberty, and ACTH deficiency, when it occurs,
may develop during follow-up (15). PROP1 (Prophet of Pit1), located in the long
arm of chromosome 5 (5q35.3), has 3 exons and
encodes a 226-amino-acid-paired–like homeodomain
transcription factor (Figure 1) (12). In 1998, Cogan
and cols. and Deladoëy and cols. reported a high
frequency of the c.301_302delAG (also known as
c.296_297delAG) deletion in exon 2 of PROP1, which
remains the most frequent PROP1 mutation (13,14). Short stature is generally the first symptom reported
in PROP1 patients, probably due to combined GH
and TSH deficiencies. Growth failure usually develops
within the first year of life (height, -1.5 ± 0.9 SDS at
1.5 years of age) and becomes more prominent later in
infancy and early childhood, mainly between the ages of
1.5 and 3 years (-3.6 ± 1.3 SDS at 3 years of age), when
parents seek medical assistance (15,16). At diagnosis,
the bone age is usually severely delayed (median, 3.3
years) (18). INTRODUCTION Mean birth weights
and lengths are usually within the normal range,
while neonatal hypoglycemia and prolonged neonatal
jaundice are rare (15,16). The phenotype usually includes short stature during
childhood and a lack of sexual development at puberty. Distinct phenotypes can be found with hormonal
deficiencies progressing with age and asynchronously
over time, even among individuals carrying the same
genotype (3,17). CLINICAL CHARACTERIZATION Since Wu and cols. first described CPHD families
with homozygosity or compound heterozygosity for
inactivating mutations in the PROP1 gene, several
cases have been reported and more detailed phenotypic
characteristics have been described (1). Although TSH deficiency can present shortly after
birth, it usually occurs together or after the onset of
GH deficiency and before the age of 20 years (mean
age, 6.8 years according to Deladoëy and cols.) (14,17). Patients with PROP1 mutations do not have an
increased prevalence of birth via breech delivery or
frequent complications during gestation (15). At birth, Copyright© AE&M all rights reserved. Figure 1. Location of pathogenic variants of the PROP1 gene. The mutations detected in our cohort are shown in bold type. c.109+1G>A
c.1A>G
5’
c.263T>C
c.218G>A
c.150delA
c.301_302delAG
c.342+1G>C
c.2T>C
c.46C>T
c.109+1G>T
c.109+2T>G
c.112_124del
c.149_150delGA
c.157delA
c.211C>T
c.212G>A
c.217C>T
c.334C>T
c.310delC
c.296G>A
c.295C>T
c.247C>T
c.343-11C>G
c.467insT
c.373C>T
c.362G>C
c.358C>T
c.349T>A
c.343-2A>T
c.582G>A
c.629delC
3’ c.109+1G>A c.1A>G Figure 1. Location of pathogenic variants of the PROP1 gene. The mutations detected in our cohort are shown in bold type. Arch Endocrinol Metab. 2019;63/2 Arch Endocrinol Metab. 2019;63/2 168 20 years of PROP1 mutations of patients with GH deficiency of the KIGS database
(26). At diagnosis (mean age, 16.3 years), the average
bone age delay was -6.0 years. Only 1 patient presented
with an isolated GH deficiency, while 7 presented with
GH and TSH deficiencies. Six patients started follow-
up at the post-pubertal period; thus, they were already
diagnosed with LH/FSH deficiency. The remaining
patients failed to develop spontaneous puberty; in all
cases, puberty was induced with sex steroids. Regarding
ACTH deficiency, at the first visit, only one patient had
a partial ACTH deficiency (35.8 years). Seven patients
evolved to ACTH deficiency (mean age at diagnosis, 28
years, range 11.9–52.1 years) (Table 1). It is important to note that TSH deficiency can be
present in patients with an apparently normal TSH-T4
axis. Bottner and cols. diagnosed most cases early in
the clinical course based on insufficient responses to
thyrotropin-releasing hormone (TRH) stimulation
tests; basal TSH levels were within the normal range
and free T4 levels were only slightly decreased (15). Hypothyroidism is usually mild in these cases, in
contrast to several patients with POU1F1 mutations
who have severe hypothyroidism and cretinism (19). Gonadotroph function can also progressively
decline and present as a primary or secondary lack of
reproductive function. CLINICAL CHARACTERIZATION Clinically, it may manifest as
a lack of pubertal development, i.e. failure to enter
or complete puberty (14,20). There are reports of
spontaneous puberty with a posterior decline of
gonadotrophic function in Arg120Cys, Phe88Ser,
and c.150delA PROP1 mutations (4,17,21). Impaired
gonadotrophic function occurs in the most common
PROP1 mutation (c.301_302delAG). The TRH stimulation test performed in 11 patients
showed TSH peak levels of 2.9–6.8 mU/L with
abnormal increment (<5 mU/L) (3). Prolactin levels
were more variable with the peak after TRH stimulation
(range, 1.5–30.2 ng/mL). However, in 7 patients, the
prolactin peak was below 6.1 ng/mL. Patients with the
highest prolactin peak levels also had the highest TSH
peak levels. These findings suggest a pituitary rather
than hypothalamic defect. In 1999, Mendonca and cols. reported on an
evolving ACTH deficiency in one patient (3). A
corticotrophin deficiency was later confirmed in many
but not all patients with PROP1 deficiency. It appears
unlikely that a PROP1 transcription factor deficiency
directly causes ACTH deficiency, but this clinical finding
suggests that PROP1 has some role in corticotroph
differentiation or viability. Since adrenal function has
been shown to gradually decline over time, even after
more than four decades, surveillance is extremely
important in all patients with PROP1 mutations
(20,22,23). Furthermore, as GH replacement can
increase cortisol metabolism, it is necessary to be aware
of the signs of an unveiled adrenal insufficiency (24). The literature review revealed that the mean age at
ACTH deficiency diagnosis is 25.3 years (range, 7.4–
67 years), confirming previous data demonstrating the
emergence of an ACTH deficiency in the third decade
of life (1,22). Arch Endocrinol Metab. 2019;63/2 GENETIC DIAGNOSIS enlargement might result from abnormal development
of the anterior lobe and the absence of physiological
regression of the intermediate pituitary lobe during
organogenesis as was demonstrated by Ward and cols. in Ames dwarf mice (32). According to Ward and cols.,
the basis of the pathogenesis of pituitary lesions in
PROP1 mutations is the arrest of normal proliferation
and migration of the anterior pituitary lobe cells
combined with dysmorphic hyperplasia of the dorsal
part of the Rathke’s pouch. Pathogenic PROP1 mutations are the most frequent
cause of congenital CPHD, with a prevalence of 0.8–
64.8% in different countries (2,18). In our center, we
screened 29 Brazilian index cases with CPHD and topic
posterior pituitary lobe; 52% (15/29) of them carried
bi-allelic PROP1 mutations (5). PROP1 defects do not
lead to midline defects such as ectopic posterior pituitary
lobe (EPP) or septic-optic dysplasia. It is noteworthy
that the majority of patients with congenital CPHD
present with EPP (2). Among our cohort of 14 patients, MRI showed
a hypoplastic anterior pituitary in 11. The pituitary
gland size varied over time from hyperplastic to
normal in only 1 patient, while 2 had normal-sized
pituitary glands (Table 1). Two patients (patients 11
and 12; Table 1) had pituitary imaging suggestive
of microadenomas. Patient 11 presented a small
anterior pituitary (height, 3.5 mm) with a hypointense
nodular area (3.0 mm, T1-weighted MRI). Patient 12
presented a normal anterior pituitary (height, 5 mm)
with a hypointense area (3.2 mm, T1-weighted MRI)
suggestive of microadenoma. PROP1 mutations lead to CPHD in an autosomal
recessive inheritance pattern; therefore, the prevalence
of these mutations is higher in familial cases (2,5). Among our Brazilian cohort of patients with CPHD
and topic posterior pituitary lobe, all 6 familial cases
presented with PROP1 mutations versus only 9 of
the 23 sporadic cases (5). Like other recessive genetic
disorders, the frequency of PROP1 mutations is also
higher in patients born to consanguineous parents. In our experience, 5 of 7 sporadic cases born to AE&M all rights reserved. Table 1. Neuroimaging In patients with PROP1 mutations, neuroimaging
of the hypothalamic–pituitary region usually shows a
hypoplastic or normal anterior pituitary lobe and a topic
posterior pituitary lobe, similar to POU1F1 patients
(27). This contrasts with the majority of patients with
CPHD in whom ectopic posterior lobe and other
midline defects are commonly detected (21,28). y
(
)
Changes in pituitary size and morphology can
occur over time and were first reported in 1999 (3). An 8.8-year-old girl presented with a diffusely enlarged
pituitary gland with a hyperintense signal on T1-
weighted magnetic resonance imaging (MRI); the
anterior pituitary markedly decreased in size when
the patient was 15 years old (height, from 8 mm to
2 mm). An enlarged pituitary gland may be mistaken
for a tumor, leading to unnecessary surgery (29). On
the other hand, anterior pituitary adenomas have been
reported. The surgical removal of the mass revealed an
amorphous material but no recognizable cell types on
histopathological examination (3,30). Among our 14 patients, 3 were born by cesarean
section due to obstetrical indications, the median
weight was 3435 ± 390 g (SDS + 0.65 ± 0.92); and 2
presented with prolonged neonatal jaundice. Eight of
10 patients for whom term birth weight was available
had birthweights according to gestational age above
50th percentile (Fetal Growth Longitudinal Study,
World Health Organization) (25). This is similar to
another cohort of patients with PROP1 deficiency
(15). This finding contrasts with that of the majority The pituitary can wax and wane in size before
undergoing complete involution for reasons yet to
be determined (31). Voutetakis and cols. suggested
that the mass causing the pituitary enlargement most
likely originates from the intermediate lobe (30). This 169 Arch Endocrinol Metab. 2019;63/2 20 years of PROP1 mutations CA: chronological age; F: female; M: male; TH: target height; NA: not available. * Patients developed LH/FSH deficiency during follow-up. Patient 6 was born pre
jaundice. pACTH: partial adrenocorticotropin hormone deficiency (basal cortisol level > 5.0 µg/dL and peak cortisol level < 18.1 µg/dL. GENETIC DIAGNOSIS Clinical features and genetic diagnosis of 14 patients with PROP1 mutation followed at Hospital das Clínicas, University of Sao Paulo Medical School
Patient
Gender
First visit
Birth
weight (g)
Final hormone
deficiencies
Anterior
pituitary lobe
PROP1 variants
CA
(yrs)
Height
Bone age
(yrs)
Cm
SD
1
F
4.5
92.5
-3.1
2.5
3650
GH, TSH, LH/FSH*, ACTH
Hypoplasia
c.263T>C
2
F
6.3
100.0
-2.9
2.0
3420
GH, TSH, ACTH, LH/FSH*
Normal
c.301_302delAG
3
F
6.6
101.1
-3.0
2.5
3780
GH, TSH, LH/FSH*, ACTH
Hyperplasia/
hypoplasia
c.301_302delAG
4
F
7.4
103.1
-3.3
3.0
3550
GH, TSH, LH/FSH*
Hypoplasia
c.1A>G/c.263T>C
5
F
12.3
107
-6.1
7.8
2500
GH, TSH, LH/FSH*
Hypoplasia
c.301_302delAG
6
F
12.3
106.4
-6.4
5.5
3700
GH, TSH, LH/FSH*, ACTH
Hypoplasia
c.301_302delAG
7
F
14.9
104.0
-9.4
2.5
NA
GH, TSH, LH/FSH, ACTH
Hypoplasia
c.301_302delAG
8
F
25.8
126.5
-6.0
13.0
3200
GH, TSH, LH/FSH
Hypoplasia
PROP1 complete deletion
9
F
30.3
117.2
-7.5
10.0
NA
GH, TSH, LH/FSH
Hypoplasia
c.301_302delAG
10
F
35.5
119.0
-7.2
13.5
NA
GH, TSH, LH/FSH, pACTH
Hypoplasia
c.301_302delAG
11
F
38.2
136.1
-4.4
-
2780
GH, TSH, LH/FSH*, ACTH
Normal/
microadenoma
c.218G>A/c.342+1G>C
12
M
6.8
106
-2.5
2.7
3450
GH, TSH, LH/FSH*, ACTH
Hypoplasia/
microadenoma
c.1A>G/c.263T>C
13
M
9.5
97.0
-6.0
3.5
3250
GH, TSH, LH/FSH*, ACTH
Hypoplasia
c.301_302delAG
14
M
18.3
123
-7.8
-
NA
GH, TSH, LH/FSH, pACTH
Hypoplasia
c.109+1G>A/c.301_302delAG
CA: chronological age; F: female; M: male; TH: target height; NA: not available. * Patients developed LH/FSH deficiency during follow-up. Patient 6 was born preterm; patients 3 and 5 had neonatal netic diagnosis of 14 patients with PROP1 mutation followed at Hospital das Clínicas, University of Sao Paulo Medical School 170 Arch Endocrinol Metab. 2019;63/2 Arch Endocrinol Metab. 2019;63/2 20 years of PROP1 mutations 20 years of PROP1 mutations The majority of PROP1 mutations classified as
pathogenic according to the American College of
Medical Genetics (33) are located on exon 2 and affect
the PROP1 homeodomain, which is crucial for activating
POU1F1 expression and pituitary organogenesis (34). consanguineous parents presented with PROP1
mutations versus only 4 of 16 sporadic cases born to
non-consanguineous parents (5). Different types of molecular defects reportedly
disrupt PROP1 function, varying from complete gene
deletion to frameshift small deletions and insertions
and point mutations including missense, nonsense,
splicing variants, and mutations affecting the initiation
codon (5). Table 2 and Figure 1 summarize all PROP1
mutations reported to date. ACMG: American College of Medical Genetics (33); VUS: variant of uncertain significance. CONCLUSIONS Since its first description 20 years ago, a large expansion
of the phenotypes of patients with PROP1 mutations
has occurred. In addition to deficiencies in GH, TSH,
PRL, and gonadotropins, some patients develop
late ACTH deficiency. Therefore, all patients require
permanent surveillance. On MRI of patients with
PROP1 mutations, the pituitary stalk appears intact
and the posterior pituitary lobe appears in the normal
position, in contrast to the majority of patients with
CPHD, who have an interrupted stalk and ectopic
posterior pituitary lobe. The anterior lobe in patients
with PROP1 mutations is usually hypoplastic, but it
may be normal or even enlarged and can wax and wane
in size. Bi-allelic PROP1 mutations are presently the
most frequently recognized genetic cause of CPHD
worldwide. Here we classified all reported PROP1
variants identified to date according to ACMG-AMP
guidelines into 29 pathogenic, 2 likely pathogenic, and
2 variants of uncertain significance. The prevalence is
higher among offspring of consanguineous parents and
familial cases, but sporadic cases can also occur. Although the known founder effect of the
c.301_302delAG mutation in both Portuguese and
Spanish populations potentially contributes to a high
prevalence of PROP1 mutations in our cohort, 6
additional PROP1 mutations were identified in our
population. The multi-ethnic origin of the Brazilian
population (Amerindian, African, various European, and
Asian immigrants) may contribute to these findings (5). The molecular diagnosis of patients with congenital
CPHD impacts the clinical follow-up: patients carrying
PROP1 mutations fail to achieve normal puberty and
may develop ACTH deficiency, while those carrying
POU1F1 mutations present with only GH, TSH,
and PRL deficiencies. Furthermore, confirming the
diagnosis allows genetic counseling for family members
and may contribute to the diagnosis of other affected
relatives. py g
g
Although several algorithms have been designed
to guide candidate gene screening by the Sanger
method to identify the molecular etiology of congenital
CPHD (2,37,38), mutations have been detected using
this approach in only a minority of cases (2). In this
context, large-scale sequencing (LSS) is a promising
approach that sequences large stretches of DNA base
pairs, which may include the entire exome (whole-
exome sequencing) or multiple candidate genes (in
an LSS panel) in a single sequencing run (39). Due
to its capacity to simultaneously screen multiple genes,
this method may be especially useful when genotype–
phenotype correlation is poor or a candidate gene is
not suspected (39). GENETIC DIAGNOSIS The most prevalent PROP1 mutation is the
c.301_302delAG (p.Leu102Cysfs*8), which leads to
a premature stop codon at residue 110 (1,13). This
frameshift deletion is especially frequent in Eastern
Europe, Portuguese, and Latin American patients, Copyright© AE&M all rights reserved
Table 2. PROP1 variants reported to date. Effect on protein and classification according to ACMG guidelines (33). The mutations detected in our cohort
are shown in bold type
Mutation
Effect on protein
ACMG classification
Reference
c.1A>G
Initiation codon mutation
Pathogenic
(5)
c.2T>C
Initiation codon mutation
Pathogenic
(28)
c.46C>T
p.Arg16Ter
Pathogenic
(40)
c.109+1G>A
Splicing site change
Pathogenic
(5)
c.109+1G>T
Splicing site change
Pathogenic
(28)
c.109+2T>G
Splicing site change
Pathogenic
(13)
c.112_124del
p.Ser38Profs*123
Pathogenic
(41)
c.149_150delGA
p.Gly52Aspfs*58
Pathogenic
(42)
c.150delA
p.Arg53Aspfs*112
Pathogenic
(36)
c.157delA
p.Arg53Aspfs*112
Pathogenic
(42)
c.211C>T
p.Arg71Cys
VUS
(43)
c.212G>A
p.Arg71His
VUS
(43)
c.217C>T
p.Arg73Cys
Pathogenic
(12,44)
c.218G>A
p.Arg73His
Pathogenic
(45)
c.247C>T
p.Gln83Ter
Pathogenic
(46)
c.263T>C
p.Phe88Ser
Pathogenic
(4)
c.295C>T
p.Arg99Ter
Pathogenic
(47)
c.296G>A
p.Arg99Gln
Likely pathogenic
(48)
c.301_302delAG
p.Leu102Cysfs*8
Pathogenic
(1)
c.310delC
p.Arg104Glyfs*61
Pathogenic
(49)
c.334C>T
p.Arg112Ter
Pathogenic
(50)
c.342+1G>C
Splicing site change
Pathogenic
(5)
c.343-11C>G
Splicing site change
Likely pathogenic
(49)
c.343-2A>T
Splicing site change
Pathogenic
(12)
c.349T>A
p.Phe117Ile
Pathogenic
(1)
c.358C>T
p.Arg120Cys
Pathogenic
(1)
c.362G>C
p.Arg121Thr
VUS
(51)
c.373C>T
p.Arg125Trp
Pathogenic
(49)
c.467insT
p.Tyr157Leufs*36
Pathogenic
(52,53)
c.582G>A
p.Trp194Ter
Pathogenic
(53,54)
c.629delC
p.Pro210Hisfs*25 (prolonged protein)
Pathogenic
(54)
ACMG: American College of Medical Genetics (33); VUS: variant of uncertain significance. 171 Arch Endocrinol Metab. 2019;63/2 20 years of PROP1 mutations probably due to two ancestral founder haplotypes:
one that originated from the Baltic Sea area around
2525 years ago and another that originated from the
Iberian Peninsula around 583 years ago (35). The
c.301_302delAG mutation, the most common genetic
diagnosis in Brazilian patients with CPHD and topic
posterior pituitary, was present in 9 of 15 index patients
with PROP1 mutations in our group (5). congenital CPHD and topic posterior pituitary who
live in areas with a high prevalence of PROP1 mutations
such as Brazilian and some Eastern European cohorts,
sequencing PROP1 using the Sanger method is an
adequate first step of a molecular investigation. If no
PROP1 mutations are found, an LSS panel or whole-
exome sequencing could be considered. The second most prevalent mutation is the frameshift
1-bp deletion c.150delA (p.Arg53Aspfs*112) (36),
which is probably due to the founder variant that
originated from the Belarus region around 1093 years
ago (35). GENETIC DIAGNOSIS Interestingly, we detected this mutation in
only one index case in our cohort (5). REFERENCES cohort of patients with PROP1 gene defects. Eur J Endocrinol. 2005;153(3):389-96. 1. Wu W, Cogan JD, Pfaffle RW, Dasen JS, Frisch H, O’Connell SM,
et al. Mutations in PROP1 cause familial combined pituitary hor
mone deficiency. Nat Genet. 1998;18(2):147-9. 17. Flück C, Deladoey J, Rutishauser K, Eblé A, Marti U, Wu W, et al. Phenotypic variability in familial combined pituitary hormone
deficiency caused by a PROP1 gene mutation resulting in the
substitution of Arg-->Cys at codon 120 (R120C). J Clin Endocrinol
Metab. 1998;83(10):3727-34. 2. De Rienzo F, Mellone S, Bellone S, Babu D, Fusco I, Prodam F,
et al.; Italian Study Group on Genetics of CPHD. Frequency of
genetic defects in combined pituitary hormone deficiency: a sys
tematic review and analysis of a multicentre Italian cohort. Clin
Endocrinol (Oxf). 2015;83(6):849-60. 18. Navardauskaite R, Dusatkova P, Obermannova B, Pfaeffle RW,
Blum WF, Adukauskiene D, et al. High prevalence of PROP1 de
fects in Lithuania: phenotypic findings in an ethnically homog
enous cohort of patients with multiple pituitary hormone defi
ciency. J Clin Endocrinol Metab. 2014;99(1):299-306. 3. Mendonca BB, Osorio MG, Latronico AC, Estefan V, Lo LS, Arn
hold IJ. Longitudinal hormonal and pituitary imaging changes
in two females with combined pituitary hormone deficiency due
to deletion of A301,G302 in the PROP1 gene. J Clin Endocrinol
Metab. 1999;84(3):942-5. 19. Tenenbaum-Rakover Y, Sobrier ML, Amselem S. A novel POU1F1
mutation (p.Thr168IlefsX7) associated with an early and severe
form of combined pituitary hormone deficiency: functional anal
ysis and follow-up from infancy to adulthood. Clin Endocrinol
(Oxf). 2011;75(2):214-9. 4. Osorio MG, Kopp P, Marui S, Latronico AC, Mendonca BB, Arn
hold IJ. Combined pituitary hormone deficiency caused by a
novel mutation of a highly conserved residue (F88S) in the home
odomain of PROP-1. J Clin Endocrinol Metab. 2000;85(8):2779-85. 20. Pavel ME, Hensen J, Pfäffle R, Hahn EG, Dörr HG. Long-term fol
low-up of childhood-onset hypopituitarism in patients with the
PROP-1 gene mutation. Horm Res. 2003;60(4):168-73. 5. Madeira JL, Nishi MY, Nakaguma M, Benedetti AF, Biscotto IP,
Fernandes T, et al. Molecular analysis of brazilian patients with
combined pituitary hormone deficiency and orthotopic posterior
pituitary lobe reveals eight different PROP1 alterations with three
novel mutations. Clin Endocrinol (Oxf). 2017;87(6):725-32. 21. Riepe FG, Partsch CJ, Blankenstein O, Mönig H, Pfäffle RW, Sip
pell WG. Longitudinal imaging reveals pituitary enlargement
preceding hypoplasia in two brothers with combined pituitary
hormone deficiency attributable to PROP1 mutation. REFERENCES J Clin Endo
crinol Metab. 2001;86(9):4353-7. 6. Abrão MG, Leite MV, Carvalho LR, Billerbeck AE, Nishi MY, Bar
bosa AS, et al. Combined pituitary hormone deficiency (CPHD)
due to a complete PROP1 deletion. Clin Endocrinol (Oxf). 2006;65(3):294-300. 22. Pernasetti F, Toledo SP, Vasilyev VV, Hayashida CY, Cogan JD, Fer
rari C, et al. Impaired adrenocorticotropin-adrenal axis in com
bined pituitary hormone deficiency caused by a two-base pair
deletion (301-302delAG) in the prophet of Pit-1 gene. J Clin Endo
crinol Metab. 2000;85(1):390-7. 7. Camper SA, Saunders TL, Katz RW, Reeves RH. The Pit-1 tran
scription factor gene is a candidate for the murine Snell dwarf
mutation. Genomics. 1990;8(3):586-90. 23. Asteria C, Oliveira JH, Abucham J, Beck-Peccoz P. Central hypo
cortisolism as part of combined pituitary hormone deficiency
due to mutations of PROP-1 gene. Eur J Endocrinol. 2000;143(3):
347-52. 8. Li S, Crenshaw EB, Rawson EJ, Simmons DM, Swanson LW,
Rosenfeld MG. Dwarf locus mutants lacking three pituitary cell
types result from mutations in the POU-domain gene pit-1. Na
ture. 1990;347(6293):528-33. 24. Weaver JU, Thaventhiran L, Noonan K, Burrin JM, Taylor NF, Nor
man MR, et al. The effect of growth hormone replacement on cor
tisol metabolism and glucocorticoid sensitivity in hypopituitary
adults. Clin Endocrinol (Oxf). 1994;41(5):639-48. 9. Pfäffle RW, DiMattia GE, Parks JS, Brown MR, Wit JM, Jansen M, et
al. Mutation of the POU-specific domain of Pit-1 and hypopituita
rism without pituitary hypoplasia. Science. 1992;257(5073):1118-
21. 25. Papageorghiou AT, Ohuma EO, Altman DG, Todros T, Cheikh Is
mail L, Lambert A, et al.; International Fetal and Newborn Growth
Consortium for the 21st Century (INTERGROWTH-21st). Interna
tional standards for fetal growth based on serial ultrasound mea
surements: the Fetal Growth Longitudinal Study of the INTER
GROWTH-21st Project. Lancet. 2014;384(9946):869-79. 10. Tatsumi K, Miyai K, Notomi T, Kaibe K, Amino N, Mizuno Y, et al. Cretinism with combined hormone deficiency caused by a muta
tion in the PIT1 gene. Nat Genet. 1992;1(1):56-8. 11. Sornson MW, Wu W, Dasen JS, Flynn SE, Norman DJ, O’Connell
SM, et al. Pituitary lineage determination by the Prophet of Pit-
1 homeodomain factor defective in Ames dwarfism. Nature. 1996;384(6607):327-33. 26. Ranke MB, Price DA, Reiter EO. Growth hormone therapy in pedi
atrics: 20 years of KIGS. Basel/New York: Karger; 2007. 12. Duquesnoy P, Roy A, Dastot F, Ghali I, Teinturier C, Netchine I, et al. Human Prop-1: cloning, mapping, genomic structure. CONCLUSIONS Although LSS has great potential
for identifying novel genetic causes of rare diseases
and expanding the phenotypes associated with known
genes, it remains an expensive technique that is not
available to all patients. Therefore, in patients with Here we summarized the clinical, hormonal,
imaging, and genetic characteristics of 14 patients
followed at the Hospital das Clínicas of University of
Sao Paulo Medical School with 7 different PROP1
mutations, the most diverse in a single unit. PROP1
mutations are the most frequent cause of autosomal
recessive CPHD with topic posterior pituitary lobe. Acknowledgments: the authors thank Maria Geralda Farah Oso
rio, Suemi Marui, Peter Kopp, and Maristela Vasconcelos Leite
for their contributions to the study. Funding: this work was supported by the National Council of Te
chnological and Scientific Development – Brazil to BBM (grant
number CNPq-PQ 305743/2011-2) and AALJ (grant number
CNPq-PQ 304678/2012-0) and by the São Paulo Research
Foundation – Fapesp to AALJ (grant number 2013/03236-5). Disclosure: no potential conflict of interest relevant to this article
was reported. 172 Arch Endocrinol Metab. 2019;63/2 20 years of PROP1 mutations REFERENCES Mutations
in familial combined pituitary hormone deficiency. FEBS Lett. 1998;437(3):216-20. 27. Arnhold IJ, Nery M, Brown MR, Voss TC, VanderHeyden TC,
Adess ME, et al. Clinical and molecular characterization of a Bra
zilian patient with Pit-1 deficiency. J Pediatr Endocrinol Metab. 1998;11(5):623-30. 13. Cogan JD, Wu W, Phillips JA 3rd, Arnhold IJ, Agapito A, Fofanova
OV, et al. The PROP1 2-base pair deletion is a common cause of
combined pituitary hormone deficiency. J Clin Endocrinol Metab. 1998;83(9):3346-9. 28. Lemos MC, Gomes L, Bastos M, Leite V, Limbert E, Carvalho D, et
al. PROP1 gene analysis in Portuguese patients with combined
pituitary hormone deficiency. Clin Endocrinol (Oxf). 2006;65(4):
479-85. 14. Deladoëy J, Flück C, Büyükgebiz A, Kuhlmann BV, Eblé A, Hind
marsh PC, et al. “Hot spot” in the PROP1 gene responsible for
combined pituitary hormone deficiency. J Clin Endocrinol Metab. 1999;84(5):1645-50. 29. Nascif SO, Vieira TC, Ramos-Dias JC, Lengyel AM, Abucham J. Waxing and waning of a pituitary mass in a young woman with
combined pituitary hormone deficiency (CPHD) due to a PROP-1
mutation. Pituitary. 2006;9(1):47-52. 15. Bottner A, Keller E, Kratzsch J, Stobbe H, Weigel JF, Keller A, et
al. PROP1 mutations cause progressive deterioration of anterior
pituitary function including adrenal insufficiency: a longitudinal
analysis. J Clin Endocrinol Metab. 2004;89(10):5256-65. 30. Voutetakis A, Argyropoulou M, Sertedaki A, Livadas S, Xekouki
P, Maniati-Christidi M, et al. Pituitary magnetic resonance imag
ing in 15 patients with Prop1 gene mutations: pituitary enlarge
ment may originate from the intermediate lobe. J Clin Endocrinol
Metab. 2004;89(5):2200-6. 16. Lebl J, Vosáhlo J, Pfaeffle RW, Stobbe H, Cerná J, Novotná D, et
al. Auxological and endocrine phenotype in a population-based 173 Arch Endocrinol Metab. 2019;63/2 20 years of PROP1 mutations typic and in vitro functional studies. J Clin Endocrinol Metab. 2004;89(11):5779-86. 31. Turton JP, Mehta A, Raza J, Woods KS, Tiulpakov A, Cassar J, et
al. Mutations within the transcription factor PROP1 are rare in
a cohort of patients with sporadic combined pituitary hormone
deficiency (CPHD). Clin Endocrinol (Oxf). 2005;63(1):10-8. 44. Voutetakis A, Maniati-Christidi M, Kanaka-Gantenbein C, Draco
poulou M, Argyropoulou M, Livadas S, et al. Prolonged jaundice
and hypothyroidism as the presenting symptoms in a neonate
with a novel Prop1 gene mutation (Q83X). Eur J Endocrinol. 2004;150(3):257-64. 32. Ward RD, Raetzman LT, Suh H, Stone BM, Nasonkin IO, Camper
SA. Role of PROP1 in pituitary gland growth. Mol Endocrinol. 2005;19(3):698-710. 33. REFERENCES Richards S, Aziz N, Bale S, Bick D, Das S, Gastier-Foster J, et al.,
Committee ALQA. Standards and guidelines for the interpreta
tion of sequence variants: a joint consensus recommendation
of the American College of Medical Genetics and Genomics and
the Association for Molecular Pathology. Genet Med. 2015;17(5):
405-24. 45. Vallette-Kasic S, Barlier A, Teinturier C, Diaz A, Manavela M,
Berthezène F, et al. PROP1 gene screening in patients with mul
tiple pituitary hormone deficiency reveals two sites of hypermu
tability and a high incidence of corticotroph deficiency. J Clin
Endocrinol Metab. 2001;86(9):4529-35. 46. Parks JS, Brown MR, Hurley DL, Phelps CJ, Wajnrajch MP. Herita
ble disorders of pituitary development. J Clin Endocrinol Metab. 1999;84(12):4362-70. 34. Olson LE, Tollkuhn J, Scafoglio C, Krones A, Zhang J, Ohgi KA,
et al. Homeodomain-mediated beta-catenin-dependent switch
ing events dictate cell-lineage determination. Cell. 2006;125(3):
593-605. 47. Vieira TC, Dias da Silva MR, Cerutti JM, Brunner E, Borges M,
Arnaldi LT, et al. Familial combined pituitary hormone deficiency
due to a novel mutation R99Q in the hot spot region of Prophet of
Pit-1 presenting as constitutional growth delay. J Clin Endocrinol
Metab. 2003;88(1):38-44. 35. Dusatkova P, Pfaffle R, Brown MR, Akulevich N, Arnhold IJ, Kalina
MA, et al. Genesis of two most prevalent PROP1 gene variants
causing combined pituitary hormone deficiency in 21 popula
tions. Eur J Hum Genet. 2016;24(3):415-20. 48. Kelberman D, Turton JP, Woods KS, Mehta A, Al-Khawari M,
Greening J, et al. Molecular analysis of novel PROP1 mutations
associated with combined pituitary hormone deficiency (CPHD). Clin Endocrinol (Oxf). 2009;70(1):96-103. 36. Krzisnik CK, Kolacio Z, Battelino T, Brown M, Parks JS, Laron Z. The “little people” of the island of Krk - revisited. Etiology of hy
popituitarism revealed. J Endocr Genet. 1999;1:9-19. 49. Ogo A, Maruta T, Ide C, Sakai Y, Matoba Y, Hiramatsu S, et al. Re
combinant human growth hormone replacement in a Japanese
man with a novel PROP1 gene mutation (R112X). Fukuoka Igaku
Zasshi. 2011;102(9):277-83. 37. Davis SW, Castinetti F, Carvalho LR, Ellsworth BS, Potok MA,
Lyons RH, et al. Molecular mechanisms of pituitary organogen
esis: In search of novel regulatory genes. Mol Cell Endocrinol. 2010;323(1):4-19. 38. Bas F, Uyguner ZO, Darendeliler F, Aycan Z, Cetinkaya E, Ber
beroglu M, et al. Molecular analysis of PROP1, POU1F1, LHX3,
and HESX1 in Turkish patients with combined pituitary hormone
deficiency: a multicenter study. Endocrine. 2015;49(2):479-91. 50. REFERENCES Avbelj Stefanija M, Kotnik P, Bratanic N, Zerjav Tansek M, Bertok
S, Bratina N, et al. Novel Mutations in HESX1 and PROP1 Genes
in Combined Pituitary Hormone Deficiency. Horm Res Paediatr. 2015;84(3):153-8. 51. Nose O, Tatsumi K, Nakano Y, Amino N. Congenital combined pi
tuitary hormone deficiency attributable to a novel PROP1 muta
tion (467insT). J Pediatr Endocrinol Metab. 2006;19(4):491-8. 39. de Bruin C, Dauber A. Insights from exome sequencing for endo
crine disorders. Nat Rev Endocrinol. 2015;11(8):455-64. 40. Birla S, Khadgawat R, Jyotsna VP, Jain V, Garg MK, Bhalla AS, et
al. Identification of Novel PROP1 and POU1F1 Mutations in Pa
tients with Combined Pituitary Hormone Deficiency. Horm Metab
Res. 2016;48(12):822-7. 52. Shibahara H, Ikeshita N, Sugiyama Y, Toda K, Yamamoto D, Hern
ingtyas EH, et al. W194XProp1 and S156insTProp1, both of which
have intact DNA-binding domain, show a different DNA-binding
activity to the Prop1-binding element in human Pit-1 gene. Mol
Cell Endocrinol. 2010;323(2):167-71. 41. Fofanova O, Takamura N, Kinoshita E, Parks JS, Brown MR, Peter
kova VA, et al. Compound heterozygous deletion of the PROP-1
gene in children with combined pituitary hormone deficiency. J
Clin Endocrinol Metab. 1998;83(7):2601-4. 53. Reynaud R, Barlier A, Vallette-Kasic S, Saveanu A, Guillet MP, Si
monin G, et al. An uncommon phenotype with familial central
hypogonadism caused by a novel PROP1 gene mutant trun
cated in the transactivation domain. J Clin Endocrinol Metab. 2005;90(8):4880-7. 42. Tatsumi KI, Kikuchi K, Tsumura K, Amino N. A novel PROP1
gene mutation (157delA) in Japanese siblings with combined
anterior pituitary hormone deficiency. Clin Endocrinol (Oxf). 2004;61(5):635-40. 54. Reynaud R, Gueydan M, Saveanu A, Vallette-Kasic S, Enjalbert A,
Brue T, et al. Genetic screening of combined pituitary hormone
deficiency: experience in 195 patients. J Clin Endocrinol Metab. 2006;91(9):3329-36. 43. Reynaud R, Chadli-Chaieb M, Vallette-Kasic S, Barlier A, Sarles
J, Pellegrini-Bouiller I, et al. A familial form of congenital hypo
pituitarism due to a PROP1 mutation in a large kindred: pheno 174 Arch Endocrinol Metab. 2019;63/2
|
https://openalex.org/W3151069250
|
https://opus.bibliothek.uni-augsburg.de/opus4/files/85590/acs.nanolett.0c04821.pdf
|
English
| null |
Strain-Stabilized (π, π) Order at the Surface of Fe<sub>1+<i>x</i></sub>Te
|
Nano letters
| 2,021
|
cc-by
| 7,364
|
pubs.acs.org/NanoLett Strain-Stabilized (π, π) Order at the Surface of Fe1+xTe Strain-Stabilized (π, π) Order at the Surface of Fe1+xTe
Chi Ming Yim,* Soumendra Nath Panja, Christopher Trainer, Craig Topping, Christoph Heil,
Alexandra S. Gibbs, Oxana V. Magdysyuk, Vladimir Tsurkan, Alois Loidl, Andreas W. Rost,
and Peter Wahl*
Cite This: Nano Lett. 2021, 21, 2786−2792
Read Online
ACCESS
Metrics & More
Article Recommendations
*
sı
Supporting Information * Supporting Information * Supporting Information *
sı Article Recommendations ABSTRACT: A key property of many quantum materials is that their ground state depends
sensitively on small changes of an external tuning parameter, e.g., doping, magnetic field, or pressure,
creating opportunities for potential technological applications. Here, we explore tuning of the ground
state of the nonsuperconducting parent compound, Fe1+xTe, of the iron chalcogenides by uniaxial
strain. Iron telluride exhibits a peculiar (π, 0) antiferromagnetic order unlike the (π, π) order observed
in the Fe-pnictide superconductors. The (π, 0) order is accompanied by a significant monoclinic
distortion. We explore tuning of the ground state by uniaxial strain combined with low-temperature
scanning tunneling microscopy. We demonstrate that, indeed under strain, the surface of Fe1.1Te
undergoes a transition to a (π, π)-charge-ordered state. Comparison with transport experiments on
uniaxially strained samples shows that this is a surface phase, demonstrating the opportunities
afforded by 2D correlated phases stabilized near surfaces and interfaces. KEYWORDS: Uniaxial strain iron telluride low temperature scanning tunneling microscopy charge orde KEYWORDS: Uniaxial strain, iron telluride, low-temperature scanning tunneling microscopy, charge order T monoclinic to orthorhombic with increasing x.4−6,10,11 Density
functional theory (DFT) calculations have successfully
predicted the commensurate bicollinear AFM structure at
low x.12,13 T
he interplay between magnetism and superconductivity is
a common theme across iron-based superconductors.1,2
Most of them exhibit a (π, π)-ordered magnetic phase in some
part of the phase diagram which is suppressed by chemical
substitution until superconductivity sets in. This general
behavior hints to the importance of magnetic fluctuations for
superconductivity;3 yet, it is disrupted by the iron
chalcogenides where the magnetic order occurs in the (π, 0)
direction in Fe1+xTe4−6 and nematicity in the superconducting
FeSe occurs without magnetic order,7,8 whereas in the
pnictides nematicity and magnetic order are intimately linked
and the magnetic order occurs at the same (π, π) scattering
vector at which magnetic fluctuations dominate in the
superconducting state. Letter Received:
December 7, 2020
Revised:
March 25, 2021
Published: April 2, 2021 pubs.acs.org/NanoLett The difference in the magnetic order
is also reflected in a different crystal structure in Fe1+xTe.4−6
Atomic scale imaging and spectroscopy provide a window into
the local relation between magnetism, superconductivity, and
the superconducting gap structure in iron-based super-
conductors.9 Here, we explore, using atomic scale imaging by
scanning tunneling microscopy (STM) with uniaxial strain,
whether the iron chalcogenides can be altered to behave in a
similar fashion as the iron pnictides, by forcing the crystal
lattice into an orthorhombic distortion through application of
uniaxial strain. Uniaxial strain tuning is a novel technique ideally suited to
study symmetry-broken electronic phases in correlated
electron systems.14−16 Unlike chemical doping that invariably
introduces inhomogeneity, uniaxial strain alters the bulk
electronic structure by small lattice distortion, in turn breaking
their innate symmetry. Uniaxial strain can have a profound
impact on their ground-state electronic properties. Notable
examples include a strong increase in superconducting Tc of
Sr2RuO4,15 a strain-induced 3D charge density wave-ordered
state in YBa2Cu3O6.67,17 and the emergence of a charge-
ordered electronic phase in LiFeAs.16 Here, we report a low-temperature STM study of the ground
state of Fe1.1Te under small uniaxial strain. By applying strain
along the [110] direction, we uncover a novel electronic phase,
characterized by a wave-vector of (π, π) in reciprocal space. This newly observed (π, π)-ordered phase exhibits electronic
and magnetic properties that are very different from the
bicollinear AFM-ordered phase found in unstrained samples. Fe1+xTe cannot be grown in its stoichiometric form (with x
= 0). At low interstitial Fe concentration (x ≤0.11), Fe1+xTe
exhibits a bicollinear antiferromagnetic (AFM) order, charac-
terized by a wave-vector of q = (π, 0, π) in reciprocal
space.4,5,10,11 Varying the concentration of the interstitial Fe
atoms within the sample leads to a variety of magnetic orders,
accompanied by a distortion of the crystal lattice from Received:
December 7, 2020
Revised:
March 25, 2021
Published: April 2, 2021
6
https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 Received:
December 7, 2020
Revised:
March 25, 2021
Published: April 2, 2021 Received:
December 7, 2020
Revised:
March 25, 2021
Published: April 2, 2021 © 2021 The Authors. Published by
American Chemical Society https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 2786 Figure 1. Surface magnetic orders in Fe-pnictides and chalcogenides. (a, b) Schematics of the (a) (π, π) and (b) (π, 0) bicollinear AFM orders
present in Fe-pnictides and chalcogenides, respectively. pubs.acs.org/NanoLett Arrows represent the magnetic moments of the in-plane Fe atoms. (c) A scatter plot of the
ground state energies of the two magnetic orders at different values of strain applied along the [110] direction, presented relative to the ground
state energy of the (π, 0)-ordered phase at zero strain (defined as E0). Calculated within DFT, an arrow indicates the strain value beyond which the
(π, π) order becomes more stable. (d) Schematic of the STM-strain setup, showing that due to the different thermal expansion properties of the
sample and the piezo-stack, the sample is exposed to tensile strain along the longitudinal direction of the piezo-stack as the setup is cooled to T = 4
K. (e) STM image taken from the surface of an unstrained Fe1.1Te sample (V = 50 mV, I = 500 pA). (f) STM image taken within a monoclinic
domain using a magnetic tip (V = 100 mV, I = 200 pA). Inset at bottom-right: Fourier transformation of (f). Inset at top-left: Image taken with a
nonmagnetic tip (V = 200 mV, I = 50 pA), overlaid with arrows representing the (π, 0) spin-texture. A solid square (dashed rectangle) indicates the
structural (magnetic) unit cell of Fe1.1Te. Nano Letters
pubs.acs.org/NanoLett
Letter pubs.acs.org/NanoLett Figure 1. Surface magnetic orders in Fe-pnictides and chalcogenides. (a, b) Schematics of the (a) (π, π) and (b) (π, 0) bicollinear AFM orders
present in Fe-pnictides and chalcogenides, respectively. Arrows represent the magnetic moments of the in-plane Fe atoms. (c) A scatter plot of the
ground state energies of the two magnetic orders at different values of strain applied along the [110] direction, presented relative to the ground
state energy of the (π, 0)-ordered phase at zero strain (defined as E0). Calculated within DFT, an arrow indicates the strain value beyond which the
(π, π) order becomes more stable. (d) Schematic of the STM-strain setup, showing that due to the different thermal expansion properties of the
sample and the piezo-stack, the sample is exposed to tensile strain along the longitudinal direction of the piezo-stack as the setup is cooled to T = 4
K. (e) STM image taken from the surface of an unstrained Fe1.1Te sample (V = 50 mV, I = 500 pA). (f) STM image taken within a monoclinic
domain using a magnetic tip (V = 100 mV, I = 200 pA). Inset at bottom-right: Fourier transformation of (f). pubs.acs.org/NanoLett Inset at top-left: Image taken with a
nonmagnetic tip (V = 200 mV, I = 50 pA), overlaid with arrows representing the (π, 0) spin-texture. A solid square (dashed rectangle) indicates the
structural (magnetic) unit cell of Fe1.1Te. igure 2. Surface morphology of a strained Fe1.1Te sample at decreasing sample thickness. (a) STM topographic image taken from the surface of a
e1.1Te sample under uniaxial strain applied along the [110] direction (V = 200 mV, I = 200 pA). The sample has a starting thickness of 50 μm. he red arrow indicates the direction along which uniaxial strain is applied. (b) Atomically resolved image taken on the same surface as (a) (V = 20
mV, I = 200 pA), obtained using a magnetic tip. (c) Fourier transformation of (b) . Solid and dashed blue circles mark the (±π, 0) and (0, ±π)
eaks that altogether form the checkerboard-like magnetic order. (d) Topographic image recorded after the third cleave (V = 200 mV, I = 100 pA,
ample thickness ≈10 μm). (e) Zoomed-in image taken in a small region as marked with a square box in (d) (V = 100 mV, I = 100 pA). (f)
ourier transformation of (e) . (g) Atomically resolved image of the (π, π)-ordered phase (V = 10 mV, I = 100 pA) . (h) Fourier transformation of
g) . In (c), (f), and (h), black circles mark the Bragg peaks of the top-most Te lattice. Solid red circles mark the peaks of the (π, π) order. Dashed
ed circles mark the peaks of the superstructure(s) forming along the stripes. Figure 2. Surface morphology of a strained Fe1.1Te sample at decreasing sample thickness. (a) STM topographic image taken from the surface of a
Fe1.1Te sample under uniaxial strain applied along the [110] direction (V = 200 mV, I = 200 pA). The sample has a starting thickness of 50 μm. The red arrow indicates the direction along which uniaxial strain is applied. (b) Atomically resolved image taken on the same surface as (a) (V = 20
mV, I = 200 pA), obtained using a magnetic tip. (c) Fourier transformation of (b) . Solid and dashed blue circles mark the (±π, 0) and (0, ±π)
peaks that altogether form the checkerboard-like magnetic order. (d) Topographic image recorded after the third cleave (V = 200 mV, I = 100 pA,
sample thickness ≈10 μm). pubs.acs.org/NanoLett (e) Zoomed-in image taken in a small region as marked with a square box in (d) (V = 100 mV, I = 100 pA). (f)
Fourier transformation of (e) . (g) Atomically resolved image of the (π, π)-ordered phase (V = 10 mV, I = 100 pA) . (h) Fourier transformation of
(g) . In (c), (f), and (h), black circles mark the Bragg peaks of the top-most Te lattice. Solid red circles mark the peaks of the (π, π) order. Dashed
red circles mark the peaks of the superstructure(s) forming along the stripes. Figure 2. Surface morphology of a strained Fe1.1Te sample at decreasing sample thickness. (a) STM topographic image taken from the surface of a
Fe1.1Te sample under uniaxial strain applied along the [110] direction (V = 200 mV, I = 200 pA). The sample has a starting thickness of 50 μm. The red arrow indicates the direction along which uniaxial strain is applied. (b) Atomically resolved image taken on the same surface as (a) (V = 20
mV, I = 200 pA), obtained using a magnetic tip. (c) Fourier transformation of (b) . Solid and dashed blue circles mark the (±π, 0) and (0, ±π)
peaks that altogether form the checkerboard-like magnetic order. (d) Topographic image recorded after the third cleave (V = 200 mV, I = 100 pA,
sample thickness ≈10 μm). (e) Zoomed-in image taken in a small region as marked with a square box in (d) (V = 100 mV, I = 100 pA). (f)
Fourier transformation of (e) . (g) Atomically resolved image of the (π, π)-ordered phase (V = 10 mV, I = 100 pA) . (h) Fourier transformation of
(g) . In (c), (f), and (h), black circles mark the Bragg peaks of the top-most Te lattice. Solid red circles mark the peaks of the (π, π) order. Dashed
red circles mark the peaks of the superstructure(s) forming along the stripes. 2787 https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 Figure 3. Out-of-plane magnetic structure of the (π, 0)- and (π, π)-ordered phases. (a, b) Topographic images of the surface of a strained Fe1.1Te
sample recorded with a magnetic tip in applied vertical fields of (a) +3 T and (b) −3 T (V = 20 mV, I = 0.5 nA). The imaged region comprises
both the (π, 0) bicollinear AFM-ordered (left) and (π, π)-ordered phases (right). ■RESULTS Figure 2 shows topographic STM images taken at the surface
of a Fe1.1Te sample mounted on a piezoelectric stack with
increasing strain and decreasing sample thickness, starting from
a thickness of ∼50 μm. Illustrated by the schematic of the
strain setup (Figure 1d), due to the difference in thermal
expansion of the sample and the piezoelectric stack, cooling the
strain setup to the measurement temperature of 4 K leads to an
upper limit of 0.3% of tensile strain present within the sample. Shown in Figure 2, a and b, the surface topography taken after
the first cleave consists of monoclinic domains, which are
separated from each other by domain boundaries. Different
from the unstrained sample, the boundary lines here run along
the crystallographic b direction only. Intriguingly, the surface
no longer exhibits the (π, 0) bicollinear AFM order as it
normally does in unstrained samples. The strained sample
exhibits a checkerboard-like order (Figure 2b); in addition to
the peaks due to the magnetic order at (±π, 0), there appears
now an additional pair of peaks at (0, ±π) in the Fourier
transformation (Figure 2c). We note that a very similar
checkerboard-like AFM order shows up at the surface of
samples with much higher levels of excess Fe doping (x ≈0.2),
where the bulk crystal structure is orthorhombic.6 Based on the The magnetic order in the iron pnictides (Figure 1a) and iron
chalcogenides (Figure 1b) is correlated with a characteristic
structural distortion. This suggests that distorting the crystal
structure of Fe1+xTe toward that of the pnictides might change
the magnetic order accordingly. This is confirmed by our DFT
calculations performed on Fe1+xTe with no excess Fe
interstitials (i.e., x = 0); under sufficient uniaxial strain along
[110], FeTe adopts the same (π, π) magnetic order as seen in
the iron pnictides. Figure 1c shows for comparison the energies
of (π, π) and (π, 0) magnetic order in FeTe for different levels
of strain along the [110] direction. At 2% uniaxial strain, the
(π, π) order as found in the pnictides becomes more favorable. DFT tends to underestimate the influence of small lattice
distortions on the electronic structure, so in reality the
transition is expected to occur already for smaller levels of
strain. pubs.acs.org/NanoLett (c) Addition of images in (a) and (b), showing the purely
topographic contrast. (d) Subtraction of image in (a) from that in (b), showing the magnetic contrast. In (c) and (d), solid and dashed squares
mark the regions from which the images of the (π, 0)- and (π, π)-ordered phases shown in (e)−(h) are extracted. (e−f) Topographic (e) and
magnetic (f) images of the (π, 0) AFM-ordered phase. (g−h) Topographic (g) and magnetic (h) images of the (π, π)-ordered phase. Insets of (e)−
(h) show the Fourier transformation of (e)−(h). Peaks associated with the observed orders of different types are highlighted. As circled in the inset
of (h), the magnetic superstructure (MS) of the (π, π)-ordered phase has peaks at (±2π/3, ±4π/3) and (±4π/3, ±2π/3). Nano Letters
pubs.acs.org/NanoLett
Letter Nano Letters
pubs.acs.org/NanoLett
Letter Letter Figure 3. Out-of-plane magnetic structure of the (π, 0)- and (π, π)-ordered phases. (a, b) Topographic images of the surface of a strained Fe1.1Te
sample recorded with a magnetic tip in applied vertical fields of (a) +3 T and (b) −3 T (V = 20 mV, I = 0.5 nA). The imaged region comprises
both the (π, 0) bicollinear AFM-ordered (left) and (π, π)-ordered phases (right). (c) Addition of images in (a) and (b), showing the purely
topographic contrast. (d) Subtraction of image in (a) from that in (b), showing the magnetic contrast. In (c) and (d), solid and dashed squares
mark the regions from which the images of the (π, 0)- and (π, π)-ordered phases shown in (e)−(h) are extracted. (e−f) Topographic (e) and
magnetic (f) images of the (π, 0) AFM-ordered phase. (g−h) Topographic (g) and magnetic (h) images of the (π, π)-ordered phase. Insets of (e)−
(h) show the Fourier transformation of (e)−(h). Peaks associated with the observed orders of different types are highlighted. As circled in the inset
of (h), the magnetic superstructure (MS) of the (π, π)-ordered phase has peaks at (±2π/3, ±4π/3) and (±4π/3, ±2π/3). images in Figure 1, e and f, at these levels of doping, the
samples adopt a monoclinic unit cell10 and exhibit a (π, 0)
bicollinear AFM order.10,11 We discuss their resemblance with the spin-density wave
(SDW) ordered phase found in some of Fe-pnictides. https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 ■RESULTS To test this idea, we have performed measurements at the
atomic scale using low-temperature STM on Fe1+xTe samples
under uniaxial strain applied along the [110] direction (see
Experimental Section and Figure 1d for a schematic of the
STM strain setup). The Fe1+xTe samples studied here are of
low levels of excess Fe doping (x ≈0.1). As shown in the STM 2788 https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 Figure 4. Tensile strain as the origin of the (π, π)-ordered phase. (a) Topographic image taken across a surface region on a strained Fe1.1Te sample
comprised of both the (π, 0) bicollinear AFM-ordered and (π, π)-ordered phases (V = −700 mV, I = 500 pA). Due to its high aspect ratio, the
image is presented using two separate panels, with the top (bottom) panel showing the left (right) part of the image. Dashed squares indicate the
position where the panels overlap. Overlaid scatter plot shows the calculated length ratios, Qb,a = |qa|/|qb|, at different positions across the image. The Qb,a value at the (π, 0) region is normalized to the value in Fe1+xTe (0.987), corresponding to that reported by Bao et al.10 (b) Zoomed-in
image of the (π, 0) order marked by a dark blue square in (a). (c) Fourier transformation of (b). Circles mark the lattice Bragg peaks, qa and qb. To
calculate Qb,a, the exact locations of qa and qb in momentum space were determined from numerical fitting using a 2D Gaussian function. (d)
Zoomed-in image of the (π, π) order marked by a light blue square in (a). (e) Resistivity ρ as a function of temperature measured from a Fe1.1Te
sample at increasing tensile strain. The hysteresis loop sharpens up at ϵ = 0.1%, then rebroadens again as the strain value increases further. Nano Letters
pubs.acs.org/NanoLett
Letter Nano Letters
pubs.acs.org/NanoLett
Letter Nano Letters Figure 4. Tensile strain as the origin of the (π, π)-ordered phase. (a) Topographic image taken across a surface region on a strained Fe1.1Te sample
comprised of both the (π, 0) bicollinear AFM-ordered and (π, π)-ordered phases (V = −700 mV, I = 500 pA). Due to its high aspect ratio, the
image is presented using two separate panels, with the top (bottom) panel showing the left (right) part of the image. Dashed squares indicate the
position where the panels overlap. ■RESULTS Overlaid scatter plot shows the calculated length ratios, Qb,a = |qa|/|qb|, at different positions across the image. The Qb,a value at the (π, 0) region is normalized to the value in Fe1+xTe (0.987), corresponding to that reported by Bao et al.10 (b) Zoomed-in
image of the (π, 0) order marked by a dark blue square in (a). (c) Fourier transformation of (b). Circles mark the lattice Bragg peaks, qa and qb. To
calculate Qb,a, the exact locations of qa and qb in momentum space were determined from numerical fitting using a 2D Gaussian function. (d)
Zoomed-in image of the (π, π) order marked by a light blue square in (a). (e) Resistivity ρ as a function of temperature measured from a Fe1.1Te
sample at increasing tensile strain. The hysteresis loop sharpens up at ϵ = 0.1%, then rebroadens again as the strain value increases further. by reciprocal lattice vectors
=
±
∓
π
q
( 2,
1)
1,SS1
2
3
and
=
±
∓
π
q
( 1,
2)
2,SS1
2
3
and the other by q1,SS2 =
π
3(±2, ∓1)
and q2,SS2 = π
3(±1, ∓2). above observations, we deduce that a noticeable amount of
strain is already present in the sample. Further reduction of the sample thickness by two more
cleaves results in a sample thickness of roughly 10 μm (see also
Supporting Information Note 1 and Figure S1), where the
appearance of the surface changes dramatically, see Figure 2d. The surface is now characterized by domains of stripe-like
patterns running along one of the two ⟨110⟩directions
separated by domain boundaries running along the crystallo-
graphic a and b directions (Figure 2e). Depending on the
stripe orientation, each domain contributes a pair of peaks at
(±π, ±π) and (±π, ∓π) to the Fourier transformation (Figure
2f). While one might expect only one of those phases to appear
with strain, with the wave-vector parallel to the macroscopic
strain direction, it is likely that the strain pattern at the
nanometer scale is much more complex due to the formation
of monoclinic domains. We find a roughly equal population of
the two types of the (π, π)-ordered phases (see Supporting
Information Note 2 and Figure S2 for details). https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 ■CONCLUSIONS Our measurements demonstrate in situ strain manipulation of
the magnetic order in the nonsuperconducting parent
compound of the iron chalcogenide superconductors. Application of uniaxial strain leads to the formation of a new
phase in the surface layer that exhibits a markedly distinct
appearance from that of unstrained FeTe. The STM images
reveal a (π, π) charge order and short-range magnetic order in
the strained regions of the surface. They further demonstrate
the first step toward a strain-driven control of quantum phases,
where the response of the material is not just a linear response
expected from the displacement of the atoms but the material
is driven into an entirely new phase that does not exist in the
unstrained material. To find out if the (π, π) order forms as a result of uniaxial
strain, we have analyzed the lattice constants between the (π,
0)- and (π, π)-ordered phases, achieved by detecting any
change in the ratio of the lattice constants along the
crystallographic a and b directions, b/a. Analyzing this in
reciprocal space, we determine qa/qb from local Fourier
transformations. To accomplish this, we have recorded a high-aspect ratio,
high-spatial resolution image from a surface region containing
both the (π, 0) and (π, π) phases. Shown in Figure 4a, the
recorded image consists of ∼700,000 pixels, covering a surface
region of (71.4 × 7.1) nm2. The data points that overlay the topographic image in Figure
4a are the ratios of qa/qb calculated at different locations across
the whole surface region. They were obtained by first
measuring the lattice constants |a| and |b| in a square-shaped
moving window in Figure 4a from the corresponding peaks (qa
and qb) in the Fourier transformation (see Figure 4, b and c,
for the blue square in Figure 4a). In Figure 4a, our data show
that the (π, 0)-ordered region has a qa/qb ratio very close to
that reported by Bao et al. from neutron powder diffraction
(0.987),10 whereas in the (π, π)-ordered region (Figure 4d),
we determine a value of 0.996, very close to the
orthorhombicity in Fe-pnictides.19,20 We have verified the
fidelity of our method to determine the lattice constants
through analysis of the lattice constants in two domains on
either side of a twin boundary in unstrained Fe1+xTe (see
Figure S5). This analysis demonstrates that the (π, π)-ordered
phase is associated with a significant distortion of the surface
layer. ■RESULTS To verify the expectation that the strain induces a change in
the magnetic order toward the (π, π) order found in pnictides,
we have performed spin-polarized STM on a surface region
containing both the (π, 0) bicollinear AFM order characteristic
of FeTe and the (π, π)-ordered phases. The (π, 0)-ordered
phase serves as a calibration reference for the spin-polarization
of the tip.11,18 To achieve spin sensitivity, we used a
ferromagnetic probe tip, prepared by picking up excess Fe
atoms directly from the sample surface.11 By imaging the same
surface location in a magnetic field of 3 T applied in opposite
directions along the surface normal, any change in the image
contrast can be attributed to surface magnetic order with
nonzero components along the crystallographic c direction. Figure 3a shows an STM topographic image taken from a
surface region comprised of both the (π, 0) bicollinear and (π,
π)-ordered phases. The imaged region has a size of (114.3 ×
14.3) nm2. To achieve the highest possible spatial precision we
have collected ultrahigh resolution images in both out-of-plane
field directions, with a total pixel number of ∼2 × 106 for each
image (see Figure 3, a and b). Following addition of and
subtraction between the two images, we have arrived at the
corresponding topographic and spin-polarized images, shown
in Figure 3, c and d. g
Detailed analysis of an individual domain reveals additional
features forming on top of the (π, π)-ordered phase. Shown in
Figure 2g, in addition to the image contrast originating from
the (π, π) order, there are evenly spaced protrusions present
along the stripes, which lead to additional peaks (marked by
dashed circles) in the Fourier transformation (Figure 2h). These features arise from two sets of superstructures (see also
Figure S3). With their orientations aligned with the (π, π)-
ordered phase (Figure S4), one superstructure is characterized https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 2789 ■CONCLUSIONS To verify the impact of the strain on the bulk magnetic
order, we have measured the response of the resistivity of
uniaxially strained Fe1.1Te. Despite higher levels of strain of up
to 0.4% achieved on the bulk samples, the resistivity does not
show any significant change in the transition to the
magnetically-ordered phase (Figure 4e and Figure S6). This
suggests that the (π, π) phase that we find here is a
reconstruction occurring in the surface layer as a result of
the applied strain, or that the phase exists only as a minority
phase in the bulk. Previous measurements on the unstrained
Fe1+xTe sample have reported magnetic surface reconstruction,
where spins tilt out of the surface and acquire a finite angle
with the b direction.21 We therefore expect that strain can have
a different impact on the bulk and surface magnetic structure, pubs.acs.org/NanoLett Letter Figure 3, e and g, shows close-up topographic images of the
(π, 0)- and (π, π)-ordered phases extracted from the large-scale
image shown in Figure 3c. The corresponding spin-polarized
images are also shown (Figure 3, f and h). The images of the
(π, 0)-ordered phase are characteristic of FeTe, showing the
square lattice of the surface Te atoms and the bicollinear AFM
order along the crystallographic b direction. and any change in the bulk only follows at higher levels of
strain. This raises the exciting possibility that the surface layer
responds more sensitively to uniaxial strain than the bulk of the
material. It is worth noting that the (π, π)-ordered phase exhibits
striking similarities with some of the Fe pnictides but also
some differences. In addition to having a similar ratio of the
lattice constants in the a and b directions (see Figure S7),
some of the defects in the (π, π)-ordered phase exhibit the
same dumbbell-like appearance as those found on the surface
of LiFeAs.22 As for the electronic structure, the dI/dV
spectrum obtained from the (π, π)-ordered phase is highly
asymmetric with respect to zero bias, which is very different
from that of the (π, 0)-ordered phase of the unstrained sample. Such asymmetry in the tunneling spectra was also observed in
LiFeAs,23,24 although the (π, π)-ordered phase uncovered here
is not superconducting (Figure S7). The topographic image of the (π, π)-ordered phase (Figure
3g) is still dominated by the stripe pattern, whereas the spin-
polarized image in Figure 3h shows rather short-ranged
magnetic order, thus indicating the absence of long-range
magnetic order. The (π, π)-ordered phase hence is
predominantly a charge-ordered phase. The Fourier transformation of the spin-polarized image
(Figure 3h) reveals characteristic wave vectors that originate
from the short-range magnetic order with wave-vectors of
=
π
π
(
)
q
,
1
4
3
2
3
and
=
π
π
(
)
q
,
2
2
3
4
3 , whereas the topographic
image is dominated by the (π, π) charge order (inset of Figure
3d). https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 Nano Letters pubs.acs.org/NanoLett Author Contributions C.M.Y., A.W.R., and P.W. designed the experiments. C.M.Y. and C.Tr. carried out STM experiments. C.M.Y. analyzed the
data. S.N.P. led research on the resistivity measurements under
uniaxial strain, and carried out the experiments and data
analysis with the assistance of C.To. C.H. performed DFT
calculations. A.S.G. and O.V.M. performed X-ray measure-
ments. V.T. and A.L. grew the samples. C.M.Y. and P.W. wrote
the paper with contributions from all authors. Nano Letters Jiao Tong University, Shanghai 200240, China;
orcid.org/0000-0003-3339-4571; Email: c.m.yim@
sjtu.edu.cn modulation set at 413 Hz. Ferromagnetic tips used for SP-
STM measurements were prepared by picking up the
interstitial Fe atoms from the Fe1+xTe sample in STM to
create a ferromagnetic cluster of Fe atoms at the tip apex.11,18
All STM images were taken with a magnetic tip unless stated
otherwise. modulation set at 413 Hz. Ferromagnetic tips used for SP-
STM measurements were prepared by picking up the
interstitial Fe atoms from the Fe1+xTe sample in STM to
create a ferromagnetic cluster of Fe atoms at the tip apex.11,18
All STM images were taken with a magnetic tip unless stated
otherwise. Peter Wahl −SUPA, School of Physics and Astronomy,
University of St. Andrews, Fife KY16 9SS, U.K.;
orcid.org/0000-0002-8635-1519; Email: wahl@st- Peter Wahl −SUPA, School of Physics and Astronomy,
University of St. Andrews, Fife KY16 9SS, U.K.;
orcid.org/0000-0002-8635-1519; Email: wahl@st-
andrews.ac.uk Sample Growth. Single crystals of Fe1+xTe were grown by
the self-flux method.27,28 The excess iron concentrations x
reported here have been determined using both energy-
dispersive X-ray (EDX) analysis and X-ray diffraction (XRD,
see Figure S9). The XRD measurement was performed at the
Diamond Light Source using the I12-JEEP high-energy X-ray
beamline.29 Via the lattice constant, XRD at room temperature
provides a very precise estimate of x.5 Throughout the main
text, the excess iron concentration of bulk samples (i.e., before
removal of surface excess iron) refers to the off-stoichiometric
part x of the composition of the material, which in principle
can originate either from interstitial iron or a tellurium
deficiency. ■EXPERIMENTAL SECTION Strain Tuning Device for STM. The strain device used in
the STM measurements comprises a brass body and a
piezoelectric actuator glued to the brass body with its side-
wall facing upward.16 Application of a positive (negative)
voltage across the leads of the actuator leads to expansion
(contraction) along the longitudinal direction of the actuator
and contraction (expansion) along the transverse direction. Fe1.1Te samples were glued onto the side-wall of the actuator
with the Fe−Fe [110] direction aligned parallel to the
longitudinal direction of the actuator. Epotek H20E conductive
epoxy was used for sample gluing. Clean surfaces were
achieved by gluing a rod on top of the sample also using
Epotek H20E conductive epoxy, which was knocked offat an
in situ cleaving stage at ∼20 K.25 To maximize strain achieved
at the surface of the material, we have studied a number of
cleaves of the same sample with a starting thickness of ∼50
μm, as the strain present at the surface depends on the sample
thickness. Anisotropic thermal contraction/expansion of the
piezoelectric actuator leads to a strain at its interface with the
FeTe sample of ∼0.3%, providing an upper boundary for the
levels of strain achieved. Scanning Tunneling Microscopy and Spectroscopy
(STM/S). STM/S measurements were performed using a
home-built, low-temperature STM instrument that operates at
a temperature as low as 1.6 K.25,26 PtIr tips were used, which
were conditioned by field-emission on a gold single crystal. Tunneling spectroscopy measurements were performed using
standard lock-in technique, with the frequency of bias 2790 pubs.acs.org/NanoLett Letter Authors Rost −SUPA, School of Physics and Astronomy,
University of St Andrews Fife KY16 9SS U K p
f
Alois Loidl −Center for Electronic Correlations and
Magnetism, University of Augsburg, D-86159 Augsburg,
Germany;
orcid.org/0000-0002-5579-0746 y
g
Andreas W. Rost −SUPA, School of Physics and Astronomy,
University of St. Andrews, Fife KY16 9SS, U.K. y
g
Andreas W. Rost −SUPA, School of Physics and Astronomy,
University of St. Andrews, Fife KY16 9SS, U.K. y
g
Andreas W. Rost −SUPA, School of Physics and Astronomy,
University of St. Andrews, Fife KY16 9SS, U.K. Complete contact information is available at:
https://pubs.acs.org/10.1021/acs.nanolett.0c04821 *
sı Supporting Information *
sı Supporting Information *
sı Supporting Information
The Supporting Information is available free of charge at
https://pubs.acs.org/doi/10.1021/acs.nanolett.0c04821. Authors Soumendra Nath Panja −SUPA, School of Physics and
Astronomy, University of St. Andrews, Fife KY16 9SS, U.K. Christopher Trainer −SUPA, School of Physics and
Astronomy, University of St. Andrews, Fife KY16 9SS, U.K. Craig Topping −SUPA, School of Physics and Astronomy,
University of St. Andrews, Fife KY16 9SS, U.K. Christoph Heil −Institute of Theoretical and Computational
Physics, Graz University of Technology, NAWI Graz, 8010
Graz, Austria Alexandra S. Gibbs −ISIS Neutron and Muon Source, STFC
Rutherford Appleton Laboratory, Didcot OX11 0QX, U.K.;
School of Chemistry, University of St. Andrews, Fife KY16
9SA, U.K.; Max Planck Institute for Solid State Research,
70569 Stuttgart, Germany;
orcid.org/0000-0002-7012-
1831 y
Strain Setup for Transport Measurements. A piezo-
electric-based stress cell (FC100 from Razorbill Instruments
Ltd.) was used for in situ control of tensile/compressive strain
(see Figure S8a for its photograph). The Fe1.1Te single-crystal
sample was glued using Stycast 2850FT two-part epoxies onto
a grade-V titanium bow-tie-shaped sample platform (thickness
= 50 μm, sample mounting area = (75 × 100) μm2, see Figure
S8b for its schematic), which was then glued onto the clamps
of the stress cell also with Stycast 2850FT. With the in-plane
crystal orientations of the Fe1.1Te sample determined using
electron backscatter diffraction, the rectangular bar-shaped
crystals were mounted onto the sample platform such that the
applied strain on the crystal was along the [110] direction. Before they were mounted onto the sample platform, the
Fe1.1Te crystals were cleaved using scotch tape to reduce the
crystal thickness to below ∼50 μm. The horizontal force
applied to the sample platform was determined by measuring
the change in capacitance of a distance sensor for a given
applied voltage on the piezo-stacks, with the value of strain
calculated using the Young’s modulus of 113 GPa for grade-V
Ti. Transport measurements were carried out in the standard
four-point configuration, and electrical contacts were made
using room temperature cured silver epoxy. Strain was applied
at a temperature of 65 K, and resistance was measured
followed by cooling and warming, sequentially. Oxana V. Magdysyuk −Diamond Light Source Ltd., Harwell
Science and Innovation Campus, Didcot OX11 0DE, U.K. Vladimir Tsurkan −Center for Electronic Correlations and
Magnetism, University of Augsburg, D-86159 Augsburg,
Germany; Institute of Applied Physics, MD 2028 Chisinau,
Republic of Moldova p
f
Alois Loidl −Center for Electronic Correlations and
Magnetism, University of Augsburg, D-86159 Augsburg,
Germany;
orcid.org/0000-0002-5579-0746
Andreas W. Notes The authors declare no competing financial interest. Underpinning data will be made available at: Yim, C. M.,
Panja, S., Trainer, C. W. J., Topping, C. V., Heil, C., Gibbs, A.,
Magdysyuk, O., Tsurkan, V., Loidl, A., Rost, A. W., Wahl, P.,
2021, Strain-stabilized (π,π) order at the surface of FeTe
(dataset). Dataset. University of St Andrews Research Portal. https://doi.org/10.17630/50ccad17-9f3e-4806-a78f-
38e56c8cea59 Measurement of sample thickness using high-energy X-
ray imaging, population analysis of the (π, π)-ordered
phases in different orientations, Fourier component
simulation on the (π, π) order and the superstructure,
lattice distortion measurement across different mono-
clinic domains on unstrained Fe1+xTe, computational
details, and supporting figures (PDF) ■AUTHOR INFORMATION
Corresponding Authors
Chi Ming Yim −SUPA, School of Physics and Astronomy,
University of St. Andrews, Fife KY16 9SS, U.K.; Tsung Dao
Lee Institute & School of Physics and Astronomy, Shanghai ■REFERENCES (19) Li, S.; de la Cruz, C.; Huang, Q.; Chen, G. F.; Xia, T.-L.; Luo, J. L.; Wang, N. L.; Dai, P. Structural and magnetic phase transitions in
Na1−δFeAs. Phys. Rev. B: Condens. Matter Mater. Phys. 2009, 80 (2),
020504. (1) Chubukov, A. V.; Efremov, D. V.; Eremin, I. Magnetism,
superconductivity, and pairing symmetry in iron-based super-
conductors. Phys. Rev. B: Condens. Matter Mater. Phys. 2008, 78
(13), 134512. (1) Chubukov, A. V.; Efremov, D. V.; Eremin, I. Magnetism,
superconductivity, and pairing symmetry in iron-based super-
conductors. Phys. Rev. B: Condens. Matter Mater. Phys. 2008, 78
(13), 134512. (20) Avci, S.; Chmaissem, O.; Chung, D. Y.; Rosenkranz, S.;
Goremychkin, E. A.; Castellan, J. P.; Todorov, I. S.; Schlueter, J. A.;
Claus, H.; Daoud-Aladine, A.; Khalyavin, D. D.; Kanatzidis, M. G.;
Osborn, R. Phase diagram of Ba1−xNaxFe2As2. Phys. Rev. B: Condens. Matter Mater. Phys. 2012, 85 (18), 184507. (2) Chubukov, A. V.; Khodas, M.; Fernandes, R. M. Magnetism,
Superconductivity, and Spontaneous Orbital Order in Iron-Based
Superconductors: Which Comes First and Why? Phys. Rev. X 2016, 6
(4), 041045. (21) Trainer, C.; Songvilay, M.; Qureshi, N.; Stunault, A.; Yim, C. M.; Rodriguez, E. E.; Heil, C.; Tsurkan, V.; Green, M. A.; Loidl, A.;
Wahl, P.; Stock, C. Magnetic surface reconstruction in the van der
Waals antiferromagnet Fe1+xTe. Phys. Rev. B: Condens. Matter Mater. Phys. 2021, 103 (2), 024406. (3) Glasbrenner, J. K.; Mazin, I. I.; Jeschke, H. O.; Hirschfeld, P. J.;
Fernandes, R. M.; Valenti, R. Effect of magnetic frustration on
nematicity and superconductivity in iron chalcogenides. Nat. Phys. 2015, 11, 953−958. (4) Rodriguez, E. E.; Stock, C.; Zajdel, P.; Krycka, K. L.; Majkrzak,
C. F.; Zavalij, P.; Green, M. A. Magnetic-crystallographic phase
diagram of the superconducting parent compound Fe1+xTe. Phys. Rev. B: Condens. Matter Mater. Phys. 2011, 84 (6), 064403. (22) Chi, S.; Aluru, R.; Singh, U. R.; Liang, R.; Hardy, W. N.; Bonn,
D. A.; Kreisel, A.; Andersen, B. M.; Nelson, R.; Berlijn, T.; Ku, W.;
Hirschfeld, P. J.; Wahl, P. Impact of iron-site defects on super-
conductivity in LiFeAs. Phys. Rev. B: Condens. Matter Mater. Phys. 2016, 94 (13), 134515. y
(5) Koz, C.; Rößler, S.; Tsirlin, A. A.; Wirth, S.; Schwarz, U. Low-
temperature phase diagram of Fe1+yTe studied using X-ray diffraction. Phys. Rev. B: Condens. Matter Mater. Phys. 2013, 88 (9), 094509. (23) Nag, P. ■ACKNOWLEDGMENTS C.M.Y., S.N.P., A.W.R., and P.W. acknowledge support from
EPSRC through EP/S005005/1, and C.To. and A.W.R. through EP/P024564/1. C.M.Y. acknowledges additional
support from a Shanghai talent program and funding through p
g
Chi Ming Yim −SUPA, School of Physics and Astronomy,
University of St. Andrews, Fife KY16 9SS, U.K.; Tsung Dao
Lee Institute & School of Physics and Astronomy, Shanghai Chi Ming Yim −SUPA, School of Physics and Astronomy,
University of St. Andrews, Fife KY16 9SS, U.K.; Tsung Dao
Lee Institute & School of Physics and Astronomy, Shanghai 2791 https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 pubs.acs.org/NanoLett Nano Letters Letter the Shanghai Pujiang Program (20PJ1408200). C.H. acknowl-
edges support from the Austrian Science Fund (FWF), project
no. P 32144-N36, and the VSC4 of the Vienna University of
Technology. pressure control of competing orders in a high-temperature
superconductor. Science 2018, 362 (6418), 1040−1044. (18) Singh, U. R.; Aluru, R.; Liu, Y.; Lin, C.; Wahl, P. Preparation of
magnetic tips for spin-polarized scanning tunneling microscopy on
Fe1+yTe. Phys. Rev. B: Condens. Matter Mater. Phys. 2015, 91 (16),
161111. ■REFERENCES K.; Schlegel, R.; Baumann, D.; Grafe, H.-J.; Beck, R.;
Wurmehl, S.; Büchner, B.; Hess, C. Two distinct superconducting
phases in LiFeAs. Sci. Rep. 2016, 6, 27926. (
) (6) Trainer, C.; Yim, C. M.; Heil, C.; Giustino, F.; Croitori, D.;
Tsurkan, V.; Loidl, A.; Rodriguez, E. E.; Stock, C.; Wahl, P. Manipulating surface magnetic order in iron telluride. Sci. Adv. 2019,
5 (3), eaav3478. (24) Chi, S.; Aluru, R.; Grothe, S.; Kreisel, A.; Singh, U. R.;
Andersen, B. M.; Hardy, W. N.; Liang, R.; Bonn, D. A.; Burke, S. A.;
Wahl, P. Imaging the real space structure of the spin fluctuations in an
iron-based superconductor. Nat. Commun. 2017, 8, 15996. (7) Böhmer, A. E; Kreisel, A. Nematicity, magnetism and
superconductivity in FeSe. J. Phys.: Condens. Matter 2018, 30 (2),
023001. (25) White, S. C.; Singh, U. R.; Wahl, P. A stiff scanning tunneling
microscopy head for measurement at low temperatures and in high
magnetic fields. Rev. Sci. Instrum. 2011, 82 (11), 113708. (8) Yamakawa, Y.; Onari, S.; Kontani, H. Nematicity and Magnetism
in FeSe and Other Families of Fe-Based Superconductors. Phys. Rev. X
2016, 6 (2), 021032. (26) Trainer, C.; Yim, C. M.; McLaren, M.; Wahl, P. Cryogenic
STM in 3D vector magnetic fields realized through a rotatable insert. Rev. Sci. Instrum. 2017, 88 (9), 093705. (9) Hoffman, J. E Spectroscopic scanning tunneling microscopy
insights into Fe-based superconductors. Rep. Prog. Phys. 2011, 74
(12), 124513. (27) Gnezdilov, V.; Pashkevich, Yu; Lemmens, P.; Gusev, A.;
Lamonova, K.; Shevtsova, T.; Vitebskiy, I.; Afanasiev, O.;
Gnatchenko, S.; Tsurkan, V.; Deisenhofer, J.; Loidl, A. Anomalous
optical phonons in FeTe chalcogenides: Spin state, magnetic order,
and lattice anharmonicity. Phys. Rev. B: Condens. Matter Mater. Phys. 2011, 83 (24), 245127. (10) Bao, W.; Qiu, Y.; Huang, Q.; Green, M. A.; Zajdel, P.;
Fitzsimmons, M. R.; Zhernenkov, M.; Chang, S.; Fang, M.; Qian, B.; Vehstedt, E. K.; Yang, J.; Pham, H. M.; Spinu, L.; Mao, Z. Q. Tunable
(δπ, δπ)-type antiferromagnetic order in α-Fe(Te,Se) superconduc-
tors. Phys. Rev. Lett. 2009, 102 (24), 247001. (28) Tsurkan, V.; Deisenhofer, J.; Gunther, A.; Kant, Ch.; Klemm,
M.; Krug von Nidda, H.-A.; Schrettle, F.; Loidl, A. Physical properties
of FeSe0.5Te0.5 single crystals grown under different conditions. Eur. Phys. J. B 2011, 79, 289−299. y
,
(
),
(11) Enayat, M.; Sun, Z.; Singh, U. ■REFERENCES R.; Aluru, R.; Schmaus, S.;
Yaresko, A.; Liu, Y.; Lin, C.; Tsurkan, V.; Loidl, A.; Deisenhofer, J.; y
(
)
(11) Enayat, M.; Sun, Z.; Singh, U. R.; Aluru, R.; Schmaus, S.;
Yaresko, A.; Liu, Y.; Lin, C.; Tsurkan, V.; Loidl, A.; Deisenhofer, J.;
Wahl, P. Real-space imaging of the atomic-scale magnetic structure of
Fe1+yTe. Science 2014, 345 (6197), 653−656. Wahl, P. Real-space imaging of the atomic-scale magnetic structure of
Fe1+yTe. Science 2014, 345 (6197), 653−656. (29) Drakopoulos, M.; Connolley, T.; Reinhard, C.; Atwood, R.;
Magdysyuk, O.; Vo, N.; Hart, M.; Connor, L.; Humphreys, B.;
Howell, G.; Davies, S.; Hill, T.; Wilkin, G.; Pedersen, U.; Foster, A.;
De Maio, N.; Basham, M.; Yuan, F.; Wanelik, K. I12: the Joint
Engineering, Environment and Processing (JEEP) beamline at
Diamond Light Source. J. Synchrotron Rad. 2015, 22, 828−838. y
(12) Ma, F.; Ji, W.; Hu, J.; Lu, Z.-Y.; Xiang, T. First-principles
calculations of the electronic structure of tetragonal α-FeTe and α-
F S
t l
E id
f
bi
lli
tif
ti
d
Ph y
(12) Ma, F.; Ji, W.; Hu, J.; Lu, Z.-Y.; Xiang, T. First-principles
calculations of the electronic structure of tetragonal α-FeTe and α-
FeSe crystals: Evidence for a bicollinear antiferromagnetic order. Phys. Rev. Lett. 2009, 102 (17), 177003. FeSe crystals: Evidence for a bicollinear antiferromagnetic order. Phys. Rev. Lett. 2009, 102 (17), 177003. (13) Johannes, M. D.; Mazin, I. I. Microscopic origin of magnetism
and magnetic interactions in ferropnictides. Phys. Rev. B: Condens. Matter Mater. Phys. 2009, 79 (22), 220510. y
(
)
(14) Chu, J.-H.; Kuo, H.-H.; Analytis, J. G.; Fisher, I. R. Divergent
b l
d
d Nematic Susceptibility in an Iron Arsenide Superconductor. Science
2012, 337 (6095), 710−712. (15) Hicks, C. W.; Barber, M. E.; Edkins, S. D.; Brodsky, D. O.;
Mackenzie, A. P. Piezoelectric-based apparatus for strain tuning. Rev. Sci. Instrum. 2014, 85 (6), 065003. (16) Yim, C. M.; Trainer, C.; Aluru, R.; Chi, S.; Hardy, W. N.; Liang,
R.; Bonn, D.; Wahl, P. Discovery of a strain-stabilised smectic
electronic order in LiFeAs. Nat. Commun. 2018, 9 (1), 2602. (
) K
H H
S
l
S M
B b
M E
L f
E (16) Yim, C. M.; Trainer, C.; Aluru, R.; Chi, S.; Hardy, W. https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 ■REFERENCES N.; Liang,
R
B
D
W hl
P
Di
f
t i
t bili d
ti (
)
,
;
,
;
,
;
,
;
y,
;
g,
R.; Bonn, D.; Wahl, P. Discovery of a strain-stabilised smectic
electronic order in LiFeAs. Nat. Commun. 2018, 9 (1), 2602. (17) Kim, H.-H.; Souliou, S. M.; Barber, M. E.; Lefrançois, E.;
Minola, M.; Tortora, M.; Heid, R.; Nandi, N.; Borzi, R. A.; Garbarino,
G.; Bosak, A.; Porras, J.; Loew, T.; König, M.; Moll, P. J. W.;
Mackenzie, A. P.; Keimer, B.; Hicks, C. W.; Le Tacon, M. Uniaxial https://doi.org/10.1021/acs.nanolett.0c04821
Nano Lett. 2021, 21, 2786−2792 2792
|
https://openalex.org/W3098111536
|
https://discovery.ucl.ac.uk/10139281/1/Age%20and%20sex%20distribution%20of%20beat-to-beat%20blood%20pressure%20variability%20after%20transient%20ischemic%20attack%20and%20minor%20stroke%20A%20popul.pdf
|
English
| null |
Age and sex distribution of beat-to-beat blood pressure variability after transient ischemic attack and minor stroke: A population-based study
|
International journal of stroke
| 2,020
|
cc-by
| 5,167
|
Research International Journal of Stroke
2021, Vol. 16(6) 683–691
! 2020 World Stroke Organization Keywords Age, sex, blood pressure variability, transient ischemic stroke, TIA, minor stroke, hypertension Received: 16 July 2020; accepted: 7 September 2020 Received: 16 July 2020; accepted: 7 September 2020 impairment,8 and cognitive decline,9 with similar pre-
dictive value of BP variability on day-to-day home
readings10,11 and a significant reduction with specific Abstract Background: Beat-to-beat blood pressure variability is associated with increased stroke risk but its importance at
different ages is unclear. Aims: To determine the age-sex distribution of blood pressure variability in patients with transient ischemic stroke or
minor stroke. Methods: In consecutive patients within six weeks of transient ischemic stroke or non-disabling stroke (Oxford Vascular
Study), non-invasive blood pressure was measured beat-to-beat over five minutes (Finometer). The age-sex distribution
of blood pressure variability (residual coefficient of variation) was determined for systolic blood pressure and diastolic
blood pressure. The risk of top-decile blood pressure variability was estimated (logistic regression), unadjusted, and
adjusted for age, sex, and cardiovascular risk factors. Results: In 908 of 1013 patients, excluding 54 in atrial fibrillation and 51 with low quality recordings, residual coefficient
of variation was positively skewed with a median systolic residual coefficient of variation of 4.2% (IQR 3.2–5.5) and
diastolic residual coefficient of variation of 3.9% (3.0–5.5), with 90th centile thresholds of 7.2 and 7.3%. Median systolic
residual coefficient of variation was higher in patients under 50 years (4.5 and 3.0–5.3) compared to 60–70 years (4.1 and
3.2–5.2), but rose to 4.5% (3.5–6.9) above 80 years, with an increasingly positive skew. The proportion of patients with
markedly elevated blood pressure variability in the top-decile increased significantly per decade (OR 1.72, p < 0.001),
after adjustment for sex and risk factors. Conclusions: Median beat-to-beat blood pressure variability fell in midlife, reflecting loss of physiological, organized
blood pressure variability. However, rates of markedly elevated blood pressure variability significantly increased with
greater age, suggesting that blood pressure variability may be particularly important in older patients. Article reuse guidelines:
sagepub.com/journals-permissions
DOI: 10.1177/1747493020971905
journals.sagepub.com/home/wso Alastair JS Webb
, Amy Lawson, Sara Mazzucco, Linxin Li
and
Peter M Rothwell, for the Oxford Vascular Study
Phenotyped Cohort Alastair JS Webb
, Amy Lawson, Sara Mazzucco, Linxin Li
and
Peter M Rothwell, for the Oxford Vascular Study
Phenotyped Cohort Wolfson Centre for Prevention of Stroke and Dementia, Department of
Clinical Neurosciences, John Radcliffe Hospital, University of Oxford, UK
Corresponding author:
Alastair JS Webb, Wolfson Centre for Prevention of Stroke and
Dementia,
Department
of
Clinical
Neurosciences,
John
Radcliffe
Hospital, University of Oxford, Oxford þ441865231, UK.
Email: alastair.webb@ndcn.ox.ac.uk Wolfson Centre for Prevention of Stroke and Dementia, Department of
Clinical Neurosciences, John Radcliffe Hospital, University of Oxford, UK Introduction Patients with episodic hypertension have a high risk of
stroke,1,2 residual visit-to-visit variability in blood pres-
sure (BPV) on treatment has a poor prognosis despite
good control of mean blood pressure (BP),3 and bene-
fits of some antihypertensive drugs in the prevention of
stroke may partly result from reduced variability in
systolic blood pressure (SBP).4,5 Strong associations
for visit-to-visit BP variability have been found with
recurrent
cardiovascular
events,6
diabetes,7
renal Corresponding author:
Alastair JS Webb, Wolfson Centre for Prevention of Stroke and
Dementia,
Department
of
Clinical
Neurosciences,
John
Radcliffe
Hospital, University of Oxford, Oxford þ441865231, UK. Email: alastair.webb@ndcn.ox.ac.uk International Journal of Stroke, 16(6) International Journal of Stroke 16(6) 684 16(6) antihypertensives.4,5 However, both visit-to-visit and
home BP variability require a prolonged period of
assessment, good patient compliance, and follow-up
visits. As such, they are of limited use in acute
assessment. years, had severe cognitive impairment, were pregnant,
had autonomic failure, or had a recent myocardial
infarction, unstable angina, heart failure (NYHA 3–4
or ejection fraction <40%), or untreated bilateral car-
otid stenosis (>70%). OXVASC is approved by the
Oxfordshire Research Ethics Committee. Variability in BP from one beat to the next (beat-to-
beat BPV) enables BPV assessment at a single visit and is
associated with an increased risk of recurrent stroke and
cardiovascular events in patients with a transient ische-
mic attack (TIA) or minor stroke, with a similar physio-
logical profile to home day-to-day BPV12 and at least
similar predictive value.11 However, normal values for
beat-to-beat BPV in at-risk individuals and their distri-
bution
across
age
and
sex
groups
are unknown. Furthermore, beat-to-beat BPV is itself composed of
multiple components from physiological rhythms reflect-
ing breathing and intact autonomic function to increased
BPV associated with stiffarteries and impaired baro-
receptor function in older patients with impaired com-
pensatory mechanisms.12 To assess the potential clinical
utility of beat-to-beat BPV, it is necessary to understand
the distribution of beat-to-beat BPV in at-risk popula-
tions and whether potentially pathological, markedly
increased BPV is increased in specific groups. After 15–20min supine rest, beat-to-beat BPV was
measured over five minutes in a quiet, dimly lit, tempera-
ture-controlled room (21–23C). Continuous ECG and
non-invasive BP were acquired at 200 Hz (Finometer,
Finapres Medical Systems, The Netherlands) via a
Powerlab 8/30 (LabChart Pro, ADInstruments, USA). Waveforms
were
preferentially
recorded
from
the
middle phalanx of the middle finger. Introduction Automated calibra-
tion (‘‘Physiocal’’) was performed until the recording was
stable, but turned offduring each test. Estimated brachial
waveforms (Finometer) were calibrated offline by linear
regression to 2–3 supine, oscillometric brachial readings,
performed immediately prior to the monitoring period on
the contralateral arm, with manual exclusion of artifacts. Measurements were not adjusted for differences in BP
between arms. If necessary, the finger cuffwas moved
to an adjacent finger or the proximal phalanx of the
same finger or the hand was warmed. Two sitting clinic
BPs, five-minutes apart, were measured at ascertainment
and one month in the non-dominant arm by trained
personnel. Therefore, we determined the normative age-sex dis-
tribution of beat-to-beat BPV variability in patients
with a TIA or minor stroke. Methods BPV on beat-to-beat monitoring was calculated over
five minutes. Ectopic beats and artifacts were automat-
ically detected, visually reviewed, and removed by
linear interpolation of R–R interval. BP artifacts were
automatically detected and manually reviewed and
removed by linear interpolation to adjacent normal
beats, with in-house software. Patients in atrial fibrilla-
tion during the recording were excluded. Systolic and
diastolic BPV were calculated as the standard deviation
(SD) and the coefficient of variation (CV ¼ SD/mean),
before and after detrending of the recording about a
linear regression (rCV). All recordings were reviewed
blinded to clinical data to assess for the quality of rec-
ording (3—excellent quality; 2—adequate quality for
analysis; 3—unusable, poor quality recording). Study population Consecutive, consenting patients with TIA or minor
stroke were recruited between September 2010 and
October
2019
to
the
Oxford
Vascular
Study
(OXVASC) Phenotyped Cohort.11,12 Participants were
recruited at the daily emergency clinic, following a refer-
ral after attendance at the Emergency Department or
from primary care, usually within 24 h. The OXVASC
population consists of >92,000 individuals registered
with 100 primary-care physicians in Oxfordshire. All
consenting patients underwent a standardized medical
history and examination, ECG, blood tests, and a
stroke protocol MRI brain and contrast-enhanced
MRA (or CT-brain and carotid Doppler ultrasound
or CT-angiogram). All patients were assessed by a
study physician and reviewed by the senior study neur-
ologist (PMR) and are followed-up face-to-face at 1, 3,
6, and 12 months and 2, 5, and 10 years. Access to the
data will be openly considered on application to the
chief investigator (PMR). Distributions of BP indices were described by histo-
grams for all patients, stratified by sex and age. Normality
of
distributions
was
assessed
by
the
Shapiro–Wilk test. Summary values for non-normal dis-
tributions (p< 0.05) were summarized as the median,
skewness, inter-quartile range, and 90th centile. As part of the OXVASC Phenotyped Cohort, a rou-
tine prospective cardiovascular physiological assess-
ment is performed at the one-month follow-up visit. Participants were excluded if they were under 18 Models were performed for univariate associations;
adjusted for age and sex and for age, sex, and cardio-
vascular risk factors (current smoking, history of
hypertension, and diabetes). International Journal of Stroke, 16(6) Webb et al. 685 Mean SBP was strongly correlated with SD of SBP
(Supplementary Figure 1) but with no correlation with
CV–SBP or CV–DBP, before or after detrending. However, there was correlation between mean–DBP
and SD–DBP, with an inverse correlation between
CV–DBP and mean DBP before and after detrending
(Supplementary Figure 1). blocker.
Data are shown as frequency (%) unless otherwise specified.
Data are shown as frequency (%) unless otherwise specified.
adata are shown as mean (standard deviation) blood pressure’ ACEI: angiotensin converting enzyme inhibitor; ARB: angiotensin receptor blocker; CCB: calcium channe Results 1031 Assessments were performed in 1013 eligible, con-
secutive, consenting patients between September 2010
and October 2019, with 18 patients assessed twice. Of
1013 patients, 54 (5.3%) were in atrial fibrillation
during the recording, whilst 51 (5%) patients had inad-
equate recordings. Patients with atrial fibrillation or
poor recording quality were older, had higher BP,
and were more likely to have a history of hypertension
(Table 1). Mean SBP and DBP were normally distributed
across the population, but all indices of BPV were posi-
tively skewed (Figure 1), with a similar skew for max-
imum BP values (Supplementary Figure 2) and a Table 1. Demographics of participants. Table 1. Demographics of participants. All
Included
In AF
Poor data
p-val
1013
908 (90)
54 (5)
51 (5)
Agea
67 (13.3)
66.1 (13.3)
77.8 (8.9)
72.2 (11.1)
<0.001
Sex
427 (42)
387 (43)
18 (33)
22 (44.9)
0.35
Hypertension
453 (44)
390 (43)
36 (67)
27 (55.1)
<0.001
Diabetes
116 (11)
104 (11.5)
7 (13)
5 (10.2)
0.88
Smoking
Current
160 (15)
148 (16)
6 (11)
6 (12.2)
0.39
Ever
535 (53)
478 (53)
32 (59)
24 (49)
0.62
Family history
303 (30)
274 (30)
12 (22)
17 (34.7)
0.12
AF
During test
54 (5.3)
–
54 (100)
–
–
Ever
74 (7)
37 (4.1)
35 (65)
2 (4.1)
<0.001
Dyslipidemia
314 (31)
277 (31)
20 (37)
16 (32.7)
0.67
Heart failure
16 (1.6)
10 (1.1)
6 (11)
–
<0.001
Systolic BPa
133 (19)
132 (18)
137 (24)
145 (27)
<0.001
Diastolic BPa
78 (12)
78 (11)
83 (15)
77 (8.9)
0.01
Antihypertensives
ACEI
438 (43)
394 (43)
27 (50)
17 (33)
ARB
133 (13)
111 (12)
11 (20)
11 (22)
CCB
458 (45)
403 (44)
25 (46)
30 (59)
Diuretic
325 (32)
288 (32)
23 (42)
14 (27)
AF: atrial fibrillation; BP: blood pressure’ ACEI: angiotensin converting enzyme inhibitor; ARB: angiotensin receptor blocker; CCB: calcium channel International Journal of Stroke, 16(6) 686 International Journal of Stroke 16(6) Figure 1. Distribution of mean and variability in systolic and diastolic blood pressure across the population. Histograms are
presented with density curves. BP variability is presented as coefficient of variation (CV) and as residual coefficient of variation
after linear detrending of the data (rCV, %). Figure 1. Distribution of mean and variability in systolic and diastolic blood pressure across the population. Histograms are
presented with density curves. Results Age-dependent distribution of residual coefficient of variation (rCV) for systolic and diastolic b older age-groups, implying that these patients may be
at particular risk from excess BPV. particularly in patients over the age of 80, suggestive of
a non-physiological increase in BPV. at particular risk from excess BPV. Despite studies demonstrating that visit-to-visit and
day-to-day
BP
variability
is
associated
with
an
increased risk of cardiovascular events,1–4,7,9,13–15 few
studies have determined the prognostic significance of
beat-to-beat blood variability11,16 despite its wide-
spread use in the assessment of autonomic function.17
We previously demonstrated that beat-to-beat BP vari-
ability was associated with a 47% increased risk of
stroke and 37% increased risk of cardiovascular
events per standard deviation increase in beat-to-beat
BPV11 compared to 24 and 33% for day-to-day BP
variability. One
other
study
demonstrated
that
beat-to-beat BPV was increased in acute stroke and
associated with poor outcome,16 albeit with SD as the
principle index of BPV. Beat-to-beat BPV was also
associated with markers of end-organ injury in this
population,12
in
limited
studies
in
other
popula-
tions,10,18 and in limited studies using intra-arterial
BP.19 This is consistent with the similar associations
of beat-to-beat, visit-to-visit, and day-to-day BPV
with physiological mechanisms,12 the similar prognostic
value of beat-to-beat and day-to-day BPV in this popu-
lation,11 and their similarity to the prognostic value of
visit-to-visit BPV.2 However, beat-to-beat variability
reflects short-term physiological processes, such as
those driven by the autonomic nervous system, and
does not reflect intra-individual BPV due to longer-
term factors such as time of day, day-to-day influences In contrast to the greater linear increase in mean
SBP with age in women than men, the non-linear
change in rCV was similar for both men and women
but was more marked for DBP, with a nadir of rCV–
DBP occurring at a greater age in women than men
(Figure 2). However, there was minimal difference in
the median rCV–DBP in hypertensive patients, dia-
betics, and smokers, with only a slightly greater CV–
SBP in smokers and diabetics (Table 2). The risk of being in the top decile was associated
with increased age and sex in univariate analyses for
rCV–SBP but not for rCV–DBP, with a similar pattern
for mean SBP and an inverse association for mean DBP
(Table 3). After adjustment for age, the association
with sex was not significant. Results The same pattern of asso-
ciation was seen for general linear models for the asso-
ciation between demographics measures and rCV
(Supplementary Table 3). Results BP variability is presented as coefficient of variation (CV) and as residual coefficient of variation
after linear detrending of the data (rCV, %). after linear detrending of the data (rCV, %). SBP: systolic blood pressure; DBP: diastolic blood pressure. SBP: systolic blood pressure; DBP: diastolic blood pressure. in the distribution of either CV (Supplementary Figure
2) or rCV (Supplementary Figure 3). The median value of rCV–SBP and rCV–DBP
increased across age groups. However, there was a
greater median rCV in patients under 50 compared to
patients aged between 50 and 60, although the distribu-
tion of CV was more ‘‘normal.’’ However, rCV was
more positively skewed with increasing age, with a pro-
gressive increase in the top decile of rCV across groups, in the distribution of either CV (Supplementary Figure
2) or rCV (Supplementary Figure 3). greater skew for DBP than SBP (Figure 1). There was a
persistent but reduced skew after detrending of record-
ings (Table 2, Supplementary Table 2). Median rCV–
SBP was greater than median rCV–DBP (Table 1), but
the distribution of rCV–DBP was more skewed, with a
higher threshold for the top decile of the population. Although mean DBP was greater in men than women
(Supplementary Figure 1), there was minimal difference The median value of rCV–SBP and rCV–DBP
increased across age groups. However, there was a
greater median rCV in patients under 50 compared to
patients aged between 50 and 60, although the distribu-
tion of CV was more ‘‘normal.’’ However, rCV was
more positively skewed with increasing age, with a pro-
gressive increase in the top decile of rCV across groups, International Journal of Stroke, 16(6) Webb et al. 687 Table 2. Age-dependent distribution of residual coefficient of variation (rCV) for systolic and diastolic blood pressure
n
rCV–SBP
rCV–DBP
Median (IQR)a
90%b
p-val
Skewc
Median (IQR)a
90%b
p-val
Skewc
All
908
4.2 (3.2–5.5)
7.18
<0.001
1.4
3.9 (3.0–5.5)
7.34
<0.001
2.8
Age
<50
110
4.5 (3.0–5.3)
6.17
0.006
0.5
4.3 (3.2–5.7)
6.82
<0.001
3.0
50–60
162
4.0 (3.4–5.3)
6.97
<0.001
1.2
3.7 (2.9–4.9)
7.46
<0.001
1.8
60–70
222
4.1 (3.2–5.2)
6.72
<0.001
1.3
3.7 (2.8–5.1)
6.69
<0.001
3.5
70–80
293
4.4 (3.1–5.6)
7.36
<0.001
1.4
4.0 (3.0–5.5)
6.85
<0.001
1.6
>80
121
4.5 (3.5–6.9)
8.47
<0.001
1.2
4.7 (3.3–6.6)
9.72
<0.001
2.2
aResults the median value, inter-quartile range (IQR). b90th centile. cskewness. p-Values for normality (ShapiroWilk). Table 2. Discussion In this high-risk population, beat-to-beat BP variability
over five minutes was positively skewed with a median
rCV of 4.2% for systolic BP and 3.9% for diastolic BP. However, there was a non-linear relationship between
rCV and age with a fall in BPV in younger patients,
likely reflecting loss of intact physiological mechanisms,
followed by a high rate of markedly increased BPV in International Journal of Stroke, 16(6) 688 International Journal of Stroke 16(6) Figure 2. Mean values of mean, maximum and rCV for systolic (SBP) and diastolic (DBP) blood pressure, stratified by sex and
quintiles of age. Results are presented as the mean and confidence interval for each group. rCV is calculated as the coefficient of
variation of de-trended recordings. Age groups are given in quintiles: <54.2; 54.3–64.7; 64.8–71.4; 71.5–77.7; >77.7 years. Figure 2. Mean values of mean, maximum and rCV for systolic (SBP) and diastolic (DBP) blood pressure, stratified by sex and
quintiles of age. Results are presented as the mean and confidence interval for each group. rCV is calculated as the coefficient of
variation of de-trended recordings. Age groups are given in quintiles: <54.2; 54.3–64.7; 64.8–71.4; 71.5–77.7; >77.7 years. such as weekday versus weekend or seasonal factors,
which will only impact upon inter-individual differences
in beat-to-beat BPV. As such, its prognostic sig-
nificance may be driven by different underlying pro-
cesses and have different relevance in different patient
groups. during recordings, due either to measurement artefact
or a physiological reduction in baseline BP, detrending
about a linear regression significantly reduced the arti-
factual component of the positive skew of the popula-
tion. Although previous studies have also derived
variation independent of the mean,1,3 this is a popula-
tion-specific measurement that cannot be applied in an
individual or be used to derive normative values. There is still no agreement as to the optimal measure
of BPV or a description of its distribution in at-risk
populations. In this study, we confirmed that SD was
strongly correlated with mean BP, whilst CV–SBP was
not significantly associated with mean–SBP despite a
weak negative correlation between mean DBP and
CV–DBP. However, due to the baseline drift in BP BPV was very positively skewed, and this increased
with age. As such, dichotomized thresholds for mark-
edly elevated BPV are likely to have prognostic signifi-
cant. Given an increased risk of recurrent events in the
top quartile of BPV in this population,11 with a International Journal of Stroke, 16(6) Webb et al. 689 Table 3. Demographic associations with being in the top decile of blood pressure or blood pressure variability
Systolic BP
Diastolic BP
Mean
rCV
Mean
rCV
ORa
p-val
ORa
p-val
ORa
p-val
ORa
p-val
Unadjusted
Age
1.68
<0.001
1.57
<0.001
0.83
0.019
1.08
0.37
Female
1.08
0.744
1.58
0.044
0.53
0.008
1.20
0.429
Adjusted (A/S)
Age
1.64
<0.001
1.55
<0.001
0.86
0.061
1.06
0.454
Female
1.01
0.978
1.50
0.079
0.55
0.011
1.18
0.461
Adjusted (CVrf)
Age
1.64
<0.001
1.72
<0.001
0.84
0.066
1.09
0.36
Female
1.03
0.902
1.42
0.142
0.53
0.011
1.09
0.724
aOdds ratios (OR) are presented per decade with p-values (p-val) from logistic regression, unadjusted, and adjusted for age/sex, or age, sex, and
cardiovascular risk factors. Figure 2. Mean values of mean, maximum and rCV for systolic (SBP) and diastolic (DBP) blood pressure, stratified by sex and
quintiles of age. Results are presented as the mean and confidence interval for each group. rCV is calculated as the coefficient of
variation of de-trended recordings. Age groups are given in quintiles: <54.2; 54.3–64.7; 64.8–71.4; 71.5–77.7; >77.7 years. rCV: residual coefficient of variation after linear detrending. 3. Demographic associations with being in the top decile of blood pressure or blood pressure variability this population is at an increased risk of recurrent
stroke23
associated
with
increased
beat-to-beat
BPV.11 Second, 5% of patients did not have adequate
recordings despite methods to improve quality, par-
ticularly in elderly patients who may be at a particu-
larly increased risk of stroke. As such, the prevalence
of elevated BPV and associated cardiovascular risks
may be underestimated. Third, we measured beat-to-
beat BPV in a highly controlled environment, using
expensive equipment (Finometer). Development of
more cost-effective methods would be essential to
apply beat-to-beat BPV to routine clinical practice. Fourth, patients with atrial fibrillation were excluded
from the analysis due to confounding by the ran-
domly distributed variation in the R–R interval and
the increased stroke risk due to embolism, while the
technique used has not been validated in patients with
AF. Additional research is required to validate or
develop measurement techniques in AF although
more patients will be required to investigate the deter-
minants and significance of beat-to-beat BPV in
patients with AF. Finally, we extensively cleaned
and de-trended the data, improving precision of meas-
urement but also limiting its applicability to clinical
practice. As such, further development is required to
standardize methods of acquisition, data cleaning,
and analysis of beat-to-beat BPV in a cost-effective
and practical method. particularly high risk in the top decile of BPV in ana-
lyses of visit-to-visit BPV,2 75% and 90% population
thresholds for rCV–SBP are likely to be clinically
applicable. Furthermore, the association between age
and beat-to-beat BPV was markedly non-linear, con-
sistent with reports from the ASCOT–BPLA and
UK–TIA trials,1,2 with similar associations between
age and other outcomes.20,21 As such, simple linear
adjustment for age in epidemiological models of BPV
and similar variables, as is the norm, will consistently
fail to adequately adjust for age in prognostic models,
resulting in systematic bias. Either stratified models or
non-linear approaches20,22 are therefore essential to
develop age-specific prognostic estimates for key pre-
dictors of future cardiovascular risk. particularly high risk in the top decile of BPV in ana-
lyses of visit-to-visit BPV,2 75% and 90% population
thresholds for rCV–SBP are likely to be clinically
applicable. Supplemental material for this article is available online. Supplemental material for this article is available online. References 1. Rothwell PM. Limitations of the usual blood-pressure
hypothesis and importance of variability, instability,
and episodic hypertension. Lancet 2010; 375: 938–948. 2. Rothwell PM, Howard SC, Dolan E, et al. Prognostic
significance of visit-to-visit variability, maximum systolic
blood pressure, and episodic hypertension. Lancet 2010;
375: 895–905. 3. Rothwell PM, Howard SC, Dolan E, et al. Effects of beta
blockers and calcium-channel blockers on within-indivi-
dual variability in blood pressure and risk of stroke. Lancet Neurol 2010; 9: 469–480. 4. Webb AJ, Fischer U, Mehta Z and Rothwell PM. Effects
of antihypertensive-drug class on interindividual vari-
ation in blood pressure and risk of stroke: a systematic
review and meta-analysis. Lancet 2010; 375: 906–915. 5. Webb AJ, Wilson M, Lovett N, Paul N, Fischer U and
Rothwell PM. Response of day-to-day home blood pres-
sure variability by antihypertensive drug class after tran-
sient ischemic attack or nondisabling stroke. Stroke 2014;
45: 2967–2973. Beat-to-beat BP variability is a promising method
to characterize BP variability at the time of a single
patient assessment. We have characterized the distribu-
tion of BPV in a high-risk population, identifying
a high rate of markedly elevated BP in older patients. As well as providing evidence of different forms
of
BPV,
this
provides
a
robust
foundation
for
future studies to better characterize the prognostic sig-
nificance of beat-to-beat BPV and its utility as a treat-
ment target. 6. Muntner P, Whittle J, Lynch AI, et al. Visit-to-visit vari-
ability of blood pressure and coronary heart disease,
stroke, heart failure, and mortality: a cohort study. Ann
Intern Med 2015; 163: 329–338. 7. Chiriaco M, Pateras K, Virdis A, et al. Association
between blood pressure variability, cardiovascular disease
and mortality in type 2 diabetes: a systematic review and
meta-analysis. Diabetes Obes Metab 2019; 21: 2587–2598. Acknowledgements 8. Gosmanova EO, Mikkelsen MK, Molnar MZ, et al. Association of systolic blood pressure variability with
mortality, coronary heart disease, stroke, and renal dis-
ease. J Am Coll Cardiol 2016; 68: 1375–1386. This work uses data provided by patients and collected by the
NHS as part of their care and support and would not have
been possible without access to this data. 9. Oishi E, Ohara T, Sakata S, et al. Day-to-day blood pres-
sure variability and risk of dementia in a General
Japanese Elderly Population: The Hisayama Study. Circulation 2017; 136: 516–525. Declaration of conflicting interests The author(s) declared no potential conflicts of interest with
respect to the research, authorship, and/or publication of this
article. 10. Johansson JK, Puukka PJ, Virtanen R and Jula AM. Beat-to-beat, ambulatory hour-to-hour, and home day-
to-day variabilities in blood pressure, pulse pressure, and
heart rate in comparison with each other and with target-
organ damage. Blood Press Monit 2015; 20: 113–120. Funding The author(s) disclosed receipt of the following financial sup-
port for the research, authorship, and/or publication of this
article: The Oxford Vascular Study is funded by the National
Institute for Health Research Oxford Biomedical Research
Centre,
Wellcome
Trust,
Wolfson
Foundation,
British
Heart Foundation, and the European Union’s Horizon
2020 programme (grant 666881, SVDs@target). PMR has
an NIHR Senior Investigator award. AJSW is funded by a
Wellcome Trust Fellowship (206589/Z/17/Z) and British
Heart Foundation Project Grant (PG/16/38/32080). 11. Webb AJS, Mazzucco S, Li L and Rothwell PM. Prognostic significance of blood pressure variability on
beat-to-beat monitoring after transient ischemic attack
and stroke. Stroke 2018; 49: 62–67. 12. Webb AJ and Rothwell PM. Physiological correlates of
beat-to-beat, ambulatory, and day-to-day home blood
pressure variability after transient ischemic attack or
minor stroke. Stroke 2014; 45: 533–538. 13. Muntner P, Shimbo D, Tonelli M, Reynolds K, Arnett
DK and Oparil S. The relationship between visit-to-visit
variability in systolic blood pressure and all-cause mor-
tality in the general population: findings from NHANES
III, 1988 to 1994. Hypertension 2011; 57: 160–166. Figure 2. Mean values of mean, maximum and rCV for systolic (SBP) and diastolic (DBP) blood pressure, stratified by sex and
quintiles of age. Results are presented as the mean and confidence interval for each group. rCV is calculated as the coefficient of
variation of de-trended recordings. Age groups are given in quintiles: <54.2; 54.3–64.7; 64.8–71.4; 71.5–77.7; >77.7 years. Furthermore, the association between age
and beat-to-beat BPV was markedly non-linear, con-
sistent with reports from the ASCOT–BPLA and
UK–TIA trials,1,2 with similar associations between
age and other outcomes.20,21 As such, simple linear
adjustment for age in epidemiological models of BPV
and similar variables, as is the norm, will consistently
fail to adequately adjust for age in prognostic models,
resulting in systematic bias. Either stratified models or
non-linear approaches20,22 are therefore essential to
develop age-specific prognostic estimates for key pre-
dictors of future cardiovascular risk. Despite the positive skew of the distribution of BPV,
BPV was greater in the youngest patients compared to
patients over 50 years old, with a more normal distri-
bution. However, as age increased, there was a progres-
sively greater skew of the population with an increasing
threshold for the top decile of rCV–SBP across age
strata. This likely reflects different components of
BPV, with a fall in physiological, ordered fluctuations
in younger patients reflecting an intact autonomic ner-
vous system, followed by later-life development of
increased, more randomly distributed BPV in patients
with failure of compensatory mechanisms. There are limitations to our study. First, all
patients were assessed for a cerebrovascular event,
limiting generalizability to other groups. However, Overall, we determined the distribution of beat-to-
beat BPV in a relevant, high-risk population with TIA International Journal of Stroke, 16(6) 690 International Journal of Stroke 16(6) Supplemental material or minor stroke, providing normative values and char-
acterization of the distribution by age and demographic
group. This lays the foundation for further research to
characterize the physiological determinants of BPV and
to differentiate BPV reflecting intact, protective physio-
logical processes from abnormal BPV associated with
an increased risk of stroke. Furthermore, this study will
enable us to investigate the difference in BPV between
different
stroke
etiologies
and
vascular
anatomy,
including the effect of vascular stenosis proximal to
the site of measurement. This will allow further analysis
of the prognostic significance of beat-to-beat BPV in
large populations and trials to determine its validity
as a target for treatment in specific patient groups. Finally, it will be critical to develop practical methods
to measure BPV in a cost-effective manner in clinical
environments. More user-friendly devices have recently
become available, but their prognostic significance and
utility in measuring BPV need to be validated. or minor stroke, providing normative values and char-
acterization of the distribution by age and demographic
group. This lays the foundation for further research to
characterize the physiological determinants of BPV and
to differentiate BPV reflecting intact, protective physio-
logical processes from abnormal BPV associated with
an increased risk of stroke. Furthermore, this study will
enable us to investigate the difference in BPV between
different
stroke
etiologies
and
vascular
anatomy,
including the effect of vascular stenosis proximal to
the site of measurement. This will allow further analysis
of the prognostic significance of beat-to-beat BPV in
large populations and trials to determine its validity
as a target for treatment in specific patient groups. Finally, it will be critical to develop practical methods
to measure BPV in a cost-effective manner in clinical
environments. More user-friendly devices have recently
become available, but their prognostic significance and
utility in measuring BPV need to be validated. International Journal of Stroke, 16(6) ORCID iDs Alastair JS Webb
https://orcid.org/0000-0002-0630-8204
Linxin Li
https://orcid.org/0000-0002-3636-8355 Alastair JS Webb
https://orcid.org/0000-0002-0630-8204
Linxin Li
https://orcid.org/0000-0002-3636-8355 International Journal of Stroke, 16(6) 691 Webb et al. 19. Parati G, Pomidossi G, Albini F, Malaspina D and
Mancia G. Relationship of 24-hour blood pressure
mean and variability to severity of target-organ damage
in hypertension. J Hypertens 1987; 5: 93–98. 14. Shimbo D, Abdalla M, Falzon L, Townsend RR and
Muntner P. Studies comparing ambulatory blood pres-
sure and home blood pressure on cardiovascular disease
and mortality outcomes: a systematic review. J Am Soc
Hypertens 2016; 10: 224–234. 20. Webb AJS. Progression of arterial stiffness is associated
with midlife diastolic blood pressure and transition to
late-life hypertensive phenotypes. J Am Heart Assoc
2020; 9: e014547. 15. Stevens SL, Wood S, Koshiaris C, et al. Blood pressure
variability and cardiovascular disease: systematic review
and meta-analysis. BMJ 2016; 354: i4098. 21. AlGhatrif M, Strait JB, Morrell CH, et al. Longitudinal
trajectories of arterial stiffness and the role of blood pres-
sure:
the
Baltimore
Longitudinal
Study
of
Aging. Hypertension 2013; 62: 934–941. 16. Dawson SL, Manktelow BN, Robinson TG, Panerai RB
and Potter JF. Which parameters of beat-to-beat blood
pressure and variability best predict early outcome after
acute ischemic stroke? Stroke 2000; 31: 463–468. 17. van Wijnen VK, Finucane C, Harms MPM, et al. Noninvasive beat-to-beat finger arterial pressure moni-
toring during orthostasis: a comprehensive review of
normal
and
abnormal
responses
at
different
ages. J Intern Med 2017; 282: 468–483. 22. Scuteri A, Morrell CH, Orru M, et al. Longitudinal per-
spective on the conundrum of central arterial stiffness,
blood
pressure,
and
aging. Hypertension
2014;
64:
1219–1227. 23. Rothwell PM, Giles MF, Chandratheva A, et al. Effect of
urgent treatment of transient ischaemic attack and minor
stroke on early recurrent stroke (EXPRESS study): a pro-
spective population-based sequential comparison. Lancet
2007; 370: 1432–1442. 18. Wei FF, Li Y, Zhang L, et al. Beat-to-beat, reading-to-
reading, and day-to-day blood pressure variability in rela-
tion to organ damage in untreated Chinese. Hypertension
2014; 63: 790–796. International Journal of Stroke, 16(6)
|
https://openalex.org/W2810270453
|
https://jneuroinflammation.biomedcentral.com/track/pdf/10.1186/s12974-018-1228-z
|
English
| null |
Teriflunomide attenuates neuroinflammation-related neural damage in mice carrying human PLP1 mutations
|
Journal of neuroinflammation
| 2,018
|
cc-by
| 13,014
|
Janos Groh*, Michaela Hörner and Rudolf Martini* Janos Groh*, Michaela Hörner and Rudolf Martini* Abstract Background: Genetically caused neurological disorders of the central nervous system (CNS) are mostly characterized
by poor or even fatal clinical outcome and few or no causative treatments are available. Often, these disorders are
associated with low-grade, disease-promoting inflammation, another feature shared by progressive forms of multiple
sclerosis (PMS). We previously generated two mouse lines carrying distinct mutations in the oligodendrocytic PLP1
gene that have initially been identified in patients diagnosed with MS. These mutations cause a loss of PLP function
leading to a histopathological and clinical phenotype common to both PMS and genetic CNS disorders, like hereditary
spastic paraplegias. Importantly, neuroinflammation promotes disease progression in these models, suggesting that
pharmacological modulation of inflammation might ameliorate disease outcome. Methods: We applied teriflunomide, an approved medication for relapsing-remitting MS targeting activated
T-lymphocytes, in the drinking water (10 mg/kg body weight/day). Experimental long-term treatment of PLP
mutant mice was non-invasively monitored by longitudinal optical coherence tomography and by rotarod analysis. Immunomodulatory effects were subsequently analyzed by flow cytometry and immunohistochemistry and treatment
effects regarding neural damage, and neurodegeneration were assessed by histology and immunohistochemistry. Results: Preventive treatment with teriflunomide attenuated the increase in number of CD8+ cytotoxic effector T cells
and fostered the proliferation of CD8+ CD122+ PD-1+ regulatory T cells in the CNS. This led to an amelioration of
axonopathic features and neuron loss in the retinotectal system, also reflected by reduced thinning of the innermost
retinal composite layer in longitudinal studies and ameliorated clinical outcome upon preventive long-term treatment. Treatment of immune-incompetent PLP mutants did not provide evidence for a direct, neuroprotective effect of the
medication. When treatment was terminated, no rebound of neuroinflammation occurred and histopathological
improvement was preserved for at least 75 days without treatment. After disease onset, teriflunomide halted ongoing
axonal perturbation and enabled a recovery of dendritic arborization by surviving ganglion cells. However, neither neuron
loss nor clinical features were ameliorated, likely due to already advanced neurodegeneration before treatment onset. Conclusions: We identify teriflunomide as a possible medication not only for PMS but also for inflammation-related
genetic diseases of the nervous system for which causal treatment options are presently lacking. Keywords: Proteolipid protein, Axonal degeneration, Inflammation, T-lymphocytes, Teriflunomide * Correspondence: groh_j@ukw.de; rudolf.martini@mail.uni-wuerzburg.de
Department of Neurology, Section of Developmental Neurobiology,
University Hospital Wuerzburg, D-97080 Wuerzburg, Germany * Correspondence: groh_j@ukw.de; rudolf.martini@mail.uni-wuerzburg.de
Department of Neurology, Section of Developmental Neurobiology,
University Hospital Wuerzburg, D-97080 Wuerzburg, Germany Groh et al. Journal of Neuroinflammation (2018) 15:194
https://doi.org/10.1186/s12974-018-1228-z Groh et al. Journal of Neuroinflammation (2018) 15:194
https://doi.org/10.1186/s12974-018-1228-z Immunomodulatory treatment y
Teriflunomide (provided by Sanofi Genzyme; Cambridge,
USA) was dissolved in autoclaved drinking water contain-
ing 0.6% Tween 80 at 60 μg per milligram and provided
ad libitum. With an approximate consumption of 5 ml
per day and 30 g body weight, this corresponds to a dose
of 10 mg/kg body weight per day. This concentration is
based on previous animal experiments in other labora-
tories [14, 15] and nearly corresponds to doses used
for human multiple sclerosis patients, when a dose
conversion scaling is applied [16]. Non-treated con-
trols received autoclaved drinking water without the
compounds (but with or without 0.6% Tween 80), and
the water with or without the compounds was changed
weekly. Water containing only 0.6% Tween 80 had no
effect on neuroinflammation and neural damage in
PLPmut mice (data not shown). Mice were treated for
75, 150, or 330 days (Additional file 1: Figure S1A) and
monitored daily regarding defined burden criteria and
phenotypic abnormalities. No obvious side effects or
significant changes in body weight were detected with
the treatment. At the end of the treatment, mice were
euthanized with CO2 (according to guidelines by the
State Office of Health and Social Affairs Berlin), blood
was rinsed with phosphate-buffered saline (PBS) con-
taining heparin, and mice were transcardially perfused
with 2% paraformaldehyde (PFA) in phosphate-buffered
saline (PBS). Tissue was harvested, post-fixed, dehydrated,
and processed as described [8]. We have previously generated two mouse mutants car-
rying distinct glia-related mutations in the PLP1 gene [8]
that have initially been identified in patients fulfilling
clinical criteria for multiple sclerosis (MS) [9, 10], a
neurological CNS disorder known to be related to detri-
mental neuroinflammation [11, 12]. One of these patients
showed features of late-onset progressive MS [9]. The other
displayed characteristics of infantile relapsing-remitting MS
responding to steroids [10], but whose later course was
more typical for complicated hereditary spastic paraplegia
type 2 (HSP; Gorman, personal communication), a rare
genetically mediated CNS disorder which can be caused by
PLP1 mutations [13]. Indeed, in both mouse mutants, we
clearly demonstrated by genetic approaches that the re-
spective disease progression including degeneration of mye-
lin, axon, and neuronal cell bodies is substantially driven by
cytotoxic CD8+ T-lymphocytes [8]. These findings suggest
that immune modulation might be a promising approach
not only to alleviate symptoms of progressive MS but also
of some genetic disorders of the CNS, like HSP. Background Genetic defects primarily affecting myelinating glia cells
of the central nervous system (CNS) often cause not
only glial but also axonal damage [1–4]. While dis-
turbed axon-glia metabolic coupling is likely involved
in glia-mediated axonal perturbation [5], inflammatory
mechanisms induced by cell-autonomic consequences
of glial mutations are other important amplifiers of
axonal damage in myelin mutants [4, 6, 7]. © The Author(s). 2018 Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Groh et al. Journal of Neuroinflammation (2018) 15:194 Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 2 of 16 protocols [8]. Only hemizygous males or homozygous
females were investigated for the present study. Histochemistry and immunofluorescence y
Immunohistochemistry was performed on 10-μm-thick
longitudinal optic nerve and retina cryo-sections after
post-fixation in 4% PFA in PBS or ice-cold acetone for
10 min. Sections were blocked using 5% bovine serum
albumin in PBS and incubated over night at 4 °C with
one or an appropriate combination of up to three of the
following antibodies: rat anti-CD4 (1:1000, Bio-Rad AbD
Serotec), rat anti-CD8 (1:500, Bio-Rad AbD Serotec),
rat anti-CD11b (1:100, Bio-Rad AbD Serotec), rat
anti-CD169
(1:300,
Bio-Rad
AbD
Serotec),
mouse
anti-SMI32 (1:1000, BioLegend), rat anti-PD-1 (1:100,
AbD Serotec), rabbit anti-Ki67 (1:200, abcam), and rat
anti-CD8 biotinylated (1:500, BD Biosciences). Immune
reactions were visualized using fluorescently labeled
(1:300,
Dianova)
secondary
antibodies,
streptavidin
(1:300, Invitrogen), or biotinylated secondary antibodies
(1:100, Vector Laboratories) and streptavidin–biotin–
peroxidase
(Vector
Laboratories,
Burlingame,
CA)
complex using diaminobenzidine–HCl and H2O2), and
nuclei were stained with DAPI (Sigma-Aldrich). Light Immunomodulatory treatment To potentially “translate” our proof-of-principle find-
ings, we here treated the PLP mutant (PLPmut) mice
with a clinically approved immune modulator, terifluno-
mide. This treatment led to a substantial alleviation of
detrimental neuroinflammation by modulating the com-
position of CD8+ T-lymphocyte subsets in the CNS to-
wards an expansion of CD8+ CD122+ PD-1+ regulatory
T cells resulting in reduced axonal damage. Our studies
may therefore have substantial implications for possible
treatment approaches not only for progressive forms of
MS but also for primarily genetically mediated disorders
of the nervous system. Accelerating rotarod analysis Mice were placed on a RotaRod Advanced system (TSE
systems), and the time on the constantly accelerating
rod (5–50 rpm; max latency 300 s) was measured in five
consecutive runs per trial as previously described [8]. Mice were trained with two trials on two consecutive
days and measured in a third trial on the third day. Flow cytometry of blood leukocytes Before transcardial perfusion of the euthanized mice,
blood was collected from the right atrium of the heart and
coagulation was prevented by adding PBS containing hep-
arin. Erythrocytes were lysed and the remaining cells were
washed and analyzed by flow cytometry as previously de-
scribed [19, 20]. Total leukocytes were gated based on for-
ward and side scatter, myeloid cells were stained using
PE-conjugated antibodies against CD11b (1:50, BD Biosci-
ences), and T-lymphocytes were stained using antibodies
against CD4 and CD8 (1:50, BD Biosciences). At least Spectral domain optical coherence tomography (OCT) Spectral domain optical coherence tomography (OCT)
Mice were subjected to OCT imaging with a commer-
cially available device (Spectralis OCT; Heidelberg
Engineering) and additional lenses as previously de-
scribed [8, 21]. Mice were measured at different ages
for longitudinal analysis and the thickness of the inner-
most retinal composite layer comprising nerve fiber layer
(NFL), ganglion cell layer (GCL), and inner plexiform
layer (IPL) were measured in high-resolution peripapillary
circle scans (at least 10 measurements per scan) by an in-
vestigator unaware of the genotype of the mice. Methods
Animals Mice were kept at the animal facility of the Department of
Neurology, University of Wuerzburg, under barrier condi-
tions and at a constant cycle of 12 h in the light (< 300 lx)
and 12 h in the dark. All animal experiments were ap-
proved by the Government of Lower Franconia, Germany. PLPmut (hPLPG/PlpKo; hPLPW/PlpKo) mice [8] and
age-matched wild type (Wt) littermates were on a uniform
C57BL/6N genetic background. Genotypes were deter-
mined by conventional PCR using isolated DNA from
ear
punch
biopsies
following
previously
published Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 3 of 16 1 × 105 leukocytes per mouse were analyzed using a
FACSCalibur with CellQuest software (BD Biosciences)
and their amount per microliter of blood was calculated. and fluorescence microscopic images were acquired using
an Axiophot 2 microscope (Zeiss) with an attached CCD
camera (SPOT Imaging; Diagnostic Instruments, Inc.). Images were minimally processed for generation of figures
using Photoshop CS6 (Adobe). For quantification, immu-
noreactive profiles were counted in at least three non-
adjacent optic nerve sections for each animal and related
to the area of these sections using the cell counter plugin
in ImageJ (National Institutes of Health). For quantifica-
tion of retinal ganglion cells, the eyes were enucleated and
post-fixed in 4% PFA in PBS for 15 min and retinal flat
mounts were prepared and air dried overnight. Cresyl vio-
let staining and quantification of Nissl-positive cells in the
ganglion cell layer was performed according to previously
published protocols in 2–3 images of the middle retinal
region per flat mount [8]. SMI32+ RGCs (mostly
α-RGCs; [17, 18]) were immunohistochemically labeled
in free-floating retinae after post-fixation. Experimental design and statistical analysis Significant differences of a respective treatment
group in comparison with wild type mice (*) or untreated
PLPmut mice (#) are indicated above the corresponding
bar. All data are presented as mean +/−standard deviation
(SD). sufficient time frame to exclude sustained pharmaco-
logical effects after treatment termination, thus allowing
studying putative rebound effects. None of the treatment
designs caused any obvious detrimental effects, as revealed
by normal body weight and general appearance of the
treated mice (not shown). We first scored the effect of early-onset (preventive)
treatment
on
leukocytes
in
the
peripheral
blood
(Additional file 1: Figure S1A). Based on flow cytome-
try, we detected no significant change in the number of
leukocytes in peripheral blood in untreated PLP mutants. Teriflunomide did neither reduce T-lymphocyte nor mye-
loid cell numbers in the circulation (Additional file 1: Fig-
ure S1B). We,
then,
quantified
the
number
of
CD8+
T-
lymphocytes, the likely effector cells in this model [8],
in longitudinal sections of the optic nerves. In ac-
cordance with our previous studies [8], these cells
were elevated in number in the untreated PLPmut
mice compared with Wt mice (Fig. 2). However, upon
“short-term” preventive treatment, teriflunomide sig-
nificantly inhibited the increase of the respective T
cell numbers in the CNS (Fig. 2a, b). This inhibitory
effect was not significant anymore at 75 days after
treatment termination, but an overshoot or rebound
by
re-occurring T-lymphocytes
was
not
detectable
(Fig. 2c). Moreover, therapeutic treatment with teriflu-
nomide failed to reduce the numbers of CD8+ T cells
in the CNS. Rather, therapeutic treatment even led to
a non-significant trend of elevation of CD8+ T cell
numbers (Fig. 2d, e). To correlate the elevated CD8+
T cell numbers with putative therapeutic treatment
effects (see below), we considered the possibility that
CD8+ T cells might comprise both CD8+ CD122−ef-
fector T cells and CD8+ CD122+ regulatory T cells,
as previously demonstrated in other models for gen-
etic neurodegenerative diseases [24]. However, while
working well in flow cytometry, CD122 antibodies
failed to reliably stain cells in immunocytochemistry. An established alternative marker defining CD8 +
CD122+ regulatory T cells is PD-1 [25] which worked
well
in
immunocytochemistry
and
flow
cytometry
(Fig. 3). Experimental design and statistical analysis All quantifications and behavioral analyses were per-
formed by investigators unaware of the genotypes of the
respective mice after concealment of genotypes with in-
dividual uniquely coded labels. Animals were randomly
placed into experimental or control groups (see Fig. 1) Fig. 1 Treatment regimen. Schematic representation of the treatment regimens comprising preventive treatment, therapeutic treatment, and treatment
termination, using teriflunomide as medication in the drinking water. “Preventive treatment” started prior to development of major histopathological and
clinical features and lasted for 150 or 330 days. “Therapeutic treatment” started when the histopathological phenotype of PLPmut mice has already
progressed and lasted for 150 days. “Reaction upon treatment termination” was identical as preventive treatment, but treatment was stopped after
75 days, followed by 75 days of survival time lacking treatment. Note non-invasive analysis during treatment allowing longitudinal studies Fig. 1 Treatment regimen. Schematic representation of the treatment regimens comprising preventive treatment, therapeutic treatment, and treatment
termination, using teriflunomide as medication in the drinking water. “Preventive treatment” started prior to development of major histopathological and
clinical features and lasted for 150 or 330 days. “Therapeutic treatment” started when the histopathological phenotype of PLPmut mice has already
progressed and lasted for 150 days. “Reaction upon treatment termination” was identical as preventive treatment, but treatment was stopped after
75 days, followed by 75 days of survival time lacking treatment. Note non-invasive analysis during treatment allowing longitudinal studies Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 4 of 16 Page 4 of 16 according to genotyping results using a random gener-
ator (http://www.randomizer.org). For biometrical sam-
ple size estimation, the program G*Power (version 3.1.3)
was used [22]. Calculation of appropriate sample size
groups was performed in a priori power analysis by com-
paring the mean of two groups with a defined adequate
power of 0.8 (1—beta-error) and an α-error of 0.05. To
determine the pre-specified effect size d, previously pub-
lished data were considered as comparable reference
values [8]. Statistical analysis was performed using
PASW Statistics 18 (SPSS, IBM) software. Shapiro-Wilk
test was used to check for normal distribution of data. For multiple comparisons, one-way ANOVA followed by
Tukey’s
post
hoc
tests
(parametric
comparison)
or
Kruskal-Wallis tests with Bonferroni correction (non--
parametric comparison) were applied. P values consid-
ered as significant were indicated by asterisks according
to the following scheme: *P < 0.05, **P < 0.01, and ***P
< 0.001. Experimental design and statistical analysis To confirm the identity of CD8+ CD122+ as
CD8+ PD1+ cells, we used flow cytometry and found
that the few CD8+ CD122+ regulatory T cells ex-
tracted from the CNS of untreated PLPmut mice were
indeed PD-1+ while CD8+ CD122−effector T cells were
PD-1−(Additional file 1: Figure S2). Interestingly, in optic
nerve sections, CD8/PD-1 double labelling revealed a sig-
nificant shift towards regulatory CD8+ PD-1+ cells in
teriflunomide-treated mutants (Fig. 3a, b). The putative
regulatory, double-positive cells were occasionally in
close apposition with CD8+ PD-1−T cells, as one
would expect from regulatory cells inducing cell death Results Based on our previous study identifying neuroinflamma-
tion as robust amplifier of two disease-related PLP1 mu-
tations leading to PLP loss-of-function [8], we aimed to
investigate whether the respective inflammatory reac-
tions are treatable with an established immune modula-
tor initially designed for relapsing-remitting multiple
sclerosis [23]. We used teriflunomide (10 mg/kg/day) as orally ap-
plicable treatment option for the PLP1 mutant (PLPmut)
mice and added the compound into the drinking water. Control mice were supplied with normal drinking water
lacking the immune modulators or 0.6% Tween-80 only
(which had no detectable effects; not shown). Three
treatment designs were applied comprising (1) prevent-
ive treatment, (2) therapeutic treatment, and (3) treat-
ment termination (Fig. 1). Preventive treatment started
prior to development of major histopathological and
clinical features (at 4 months of age) and lasted for 150
(“short-term”) or 330 days (“long-term”). Therapeutic
treatment started from postnatal month 10 onwards, i.e.,
when the histopathological phenotype of PLPmut mice
has already substantially progressed; this treatment also
lasted for 150 days. Finally, the regimen “treatment ter-
mination” was identical as preventive treatment, but de-
livery with the compound was stopped after 75 days,
followed by analysis after another 75 days of non-treated
survival time. With a terminal half-life of 18–37 h and
almost complete systemic vanishing within 14 days in
mice (EMA assessment report, 529295, 2013), this is a Page 5 of 16 Groh et al. Journal of Neuroinflammation (2018) 15:194 Fig. 2 Preventive but not therapeutic treatment impairs the increase of CD8+ T-lymphocyte numbers in PLPmut mice. a Representative immune
luorescence microscopy of CD8+ T-lymphocytes (arrows) in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively
reated mutants (150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive), and PLPmut mice after treatment interruption at
75 days after treatment onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of CD8+ T-lymphocytes
n optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of CD8+ T cells were significantly
ncreased in the untreated PLPmut mice, which was attenuated upon preventive treatment. Mice were investigated at 9 months of age. c Quantification of
CD8+ T-lymphocytes in optic nerve sections of PLPmut mice after 75 days of preventive treatment, followed by 75 days without treatment. Results Treatment
ermination did not lead to an overshoot or rebound of T-lymphocyte number, but failed to significantly preserve T-lymphocyte reduction. Mice were
nvestigated at 9 months of age. d Immunofluorescent depiction of CD8+ T-lymphocytes (left) and their quantification (right) in optic nerve sections of Wt
and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting at 10 months of
age. Therapeutic treatment did not attenuate the increase of CD8+ T-lymphocyte numbers in PLPmut mice. Mice were investigated at
5 months of age. Scale bar 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01. n = 5 mice per group Fig. 2 Preventive but not therapeutic treatment impairs the increase of CD8+ T-lymphocyte numbers in PLPmut mice. a Representative immune
fluorescence microscopy of CD8+ T-lymphocytes (arrows) in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively
treated mutants (150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive), and PLPmut mice after treatment interruption at
75 days after treatment onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of CD8+ T-lymphocytes
in optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of CD8+ T cells were significantly
increased in the untreated PLPmut mice, which was attenuated upon preventive treatment. Mice were investigated at 9 months of age. c Quantification of
CD8+ T-lymphocytes in optic nerve sections of PLPmut mice after 75 days of preventive treatment, followed by 75 days without treatment. Treatment
termination did not lead to an overshoot or rebound of T-lymphocyte number, but failed to significantly preserve T-lymphocyte reduction. Mice were
investigated at 9 months of age. d Immunofluorescent depiction of CD8+ T-lymphocytes (left) and their quantification (right) in optic nerve sections of Wt
and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting at 10 months of
age. Therapeutic treatment did not attenuate the increase of CD8+ T-lymphocyte numbers in PLPmut mice. Mice were investigated at
15 months of age. Scale bar 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01. n = 5 mice per group Fig. 2 Preventive but not therapeutic treatment impairs the increase of CD8+ T-lymphocyte numbers in PLPmut mice. Results a Representative immune
fluorescence microscopy of CD8+ T-lymphocytes (arrows) in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively
treated mutants (150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive), and PLPmut mice after treatment interruption at
75 days after treatment onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of CD8+ T-lymphocytes
in optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of CD8+ T cells were significantly
increased in the untreated PLPmut mice, which was attenuated upon preventive treatment. Mice were investigated at 9 months of age. c Quantification of
CD8+ T-lymphocytes in optic nerve sections of PLPmut mice after 75 days of preventive treatment, followed by 75 days without treatment. Treatment
termination did not lead to an overshoot or rebound of T-lymphocyte number, but failed to significantly preserve T-lymphocyte reduction. Mice were
investigated at 9 months of age. d Immunofluorescent depiction of CD8+ T-lymphocytes (left) and their quantification (right) in optic nerve sections of Wt
and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting at 10 months of
age. Therapeutic treatment did not attenuate the increase of CD8+ T-lymphocyte numbers in PLPmut mice. Mice were investigated at
15 months of age. Scale bar 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01. n = 5 mice per group Fig. 2 Preventive but not therapeutic treatment impairs the increase of CD8+ T-lymphocyte numbers in PLPmut mice. a Representative immune
fluorescence microscopy of CD8+ T-lymphocytes (arrows) in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively
treated mutants (150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive), and PLPmut mice after treatment interruption at
75 days after treatment onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of CD8+ T-lymphocytes
in optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of CD8+ T cells were significantly
increased in the untreated PLPmut mice, which was attenuated upon preventive treatment. Mice were investigated at 9 months of age. c Quantification of
CD8+ T-lymphocytes in optic nerve sections of PLPmut mice after 75 days of preventive treatment, followed by 75 days without treatment. Results b Quantification of immunocytochemically labeled CD8+ T cells in optic
nerves of 15-month-old PLPmut mice revealed a relative increase of CD8+ PD-1+ regulatory T cells upon therapeutic treatment. c, d Quantitative triple-
immunocytochemistry combining antibodies against CD8 (red), against PD-1 (green) and against the proliferation marker Ki67 (gray scale) revealed
increased proliferation activity in regulatory CD8+ PD-1+ T-lymphocytes, but not in CD8+ PD-1−presumed effector T cells in optic nerves of
therapeutically treated 15-month-old PLPmut mice. Scale bars: 10 μm. Kruskal-Wallis test and Bonferroni-Holm correction. *P < 0.05. n = 5 mice per group Fig. 3 Therapeutic treatment fosters proliferation of regulatory CD8+ PD-1+ T-lymphocytes in optic nerves of PLPmut mice. a Representative
example of the close apposition of a presumed effector T cell (CD8+ PD-1−, arrow) with a regulatory CD8+ PD-1+ T-lymphocyte (arrowhead) in
the optic nerve of a 15-month-old therapeutically treated PLPmut mouse. b Quantification of immunocytochemically labeled CD8+ T cells in optic Fig. 3 Therapeutic treatment fosters proliferation of regulatory CD8+ PD-1+ T-lymphocytes in optic nerves of PLPmut mice. a Representative
example of the close apposition of a presumed effector T cell (CD8+ PD-1−, arrow) with a regulatory CD8+ PD-1+ T-lymphocyte (arrowhead) in
the optic nerve of a 15-month-old therapeutically treated PLPmut mouse. b Quantification of immunocytochemically labeled CD8+ T cells in optic
nerves of 15-month-old PLPmut mice revealed a relative increase of CD8+ PD-1+ regulatory T cells upon therapeutic treatment. c, d Quantitative triple-
immunocytochemistry combining antibodies against CD8 (red), against PD-1 (green) and against the proliferation marker Ki67 (gray scale) revealed
increased proliferation activity in regulatory CD8+ PD-1+ T-lymphocytes, but not in CD8+ PD-1−presumed effector T cells in optic nerves of
therapeutically treated 15-month-old PLPmut mice. Scale bars: 10 μm. Kruskal-Wallis test and Bonferroni-Holm correction. *P < 0.05. n = 5 mice per group Regarding histopathological changes, we first scored
SMI32+ axonal spheroids in longitudinal sections of
optic nerves (Fig. 6). Preventive treatment reduced the
number of these profiles and this reduction persisted
when treatment was terminated after the first 75 days. Interestingly, teriflunomide treatment also had a robust
effect on the number of axonal spheroids upon thera-
peutic treatment. Similar beneficial treatment effects
were seen when retinal ganglion cell numbers were de-
termined, with the exception that therapeutic treatment
failed to show a significant effect (Fig. 7). Results Treatment
termination did not lead to an overshoot or rebound of T-lymphocyte number, but failed to significantly preserve T-lymphocyte reduction. Mice were
investigated at 9 months of age. d Immunofluorescent depiction of CD8+ T-lymphocytes (left) and their quantification (right) in optic nerve sections of Wt
and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting at 10 months of
age. Therapeutic treatment did not attenuate the increase of CD8+ T-lymphocyte numbers in PLPmut mice. Mice were investigated at
15 months of age. Scale bar 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01. n = 5 mice per group Figure S3B). With regard of CD11b+ microglial/macropha-
ge-like cell numbers, the treatment led to a reduction when
preventive treatment was applied (Fig. 4a, b), but this
reduction was not persistent upon treatment termin-
ation (Fig. 4c). Therapeutic treatment failed to reduce
microglial cell numbers (Fig. 4d). However, the num-
bers of activated sialoadhesin (Sn)+ microglial cells
were significantly reduced by both preventive and
therapeutic treatment with teriflunomide (Fig. 5). of effector T cells (Fig. 3a; [24, 26]. Most interestingly,
therapeutic treatment appeared to induce proliferation
of CD8+ PD-1+ regulatory T cells in the CNS, as re-
vealed by Ki67 immunocytochemistry (Fig. 3c, d). of effector T cells (Fig. 3a; [24, 26]. Most interestingly,
therapeutic treatment appeared to induce proliferation
of CD8+ PD-1+ regulatory T cells in the CNS, as re-
vealed by Ki67 immunocytochemistry (Fig. 3c, d). Teriflunomide
treatment
had
similar,
cell
number-
reducing effects on CD4+ T cells, when preventive, but not
therapeutic treatment was applied (Additional file 1:
Figure S3). The reduced numbers of CD4+ T cells were
not maintained after treatment termination (Additional file 1: Teriflunomide
treatment
had
similar,
cell
number-
reducing effects on CD4+ T cells, when preventive, but not
therapeutic treatment was applied (Additional file 1:
Figure S3). The reduced numbers of CD4+ T cells were
not maintained after treatment termination (Additional file 1: Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 6 of 16 Fig. 3 Therapeutic treatment fosters proliferation of regulatory CD8+ PD-1+ T-lymphocytes in optic nerves of PLPmut mice. a Representative
example of the close apposition of a presumed effector T cell (CD8+ PD-1−, arrow) with a regulatory CD8+ PD-1+ T-lymphocyte (arrowhead) in
the optic nerve of a 15-month-old therapeutically treated PLPmut mouse. Results These com-
bined findings on the therapeutic treatment regimen
suggest that ongoing axonal perturbation can be attenu-
ated with teriflunomide, but neurons having degenerated during the first 10 months of age cannot be restored. This may explain a lack of clinical improvement upon
therapeutic treatment as presented below (Fig. 11b). Using a non-invasive technique, optical coherence
tomography, we were also able to analyze living, treated,
and non-treated individuals longitudinally, reflecting the
translational character of this part of the study. Recap-
itulating our previous findings [8], there was a progredi-
ent, significant thinning of the NFL/GCL/IPL composite
layer in PLPmut mice (Fig. 8), whereas the outer retinal
layers were not affected (not shown). Of note, at 4 months
of age, the start of treatment in preventive and terminated
regimens, there was already a mild, non-significant ten-
dency towards reduction of the inner composite layer Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 7 of 16 Fig. 4 Teriflunomide does not reduce elevated numbers of CD11b+ cells in optic nerves of PLPmut mice. a Representative immune fluorescence
microscopy of CD11b + microglia/macrophages in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively treated mutants
(150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive) and PLPmut mice after treatment interruption at 75 days after treatment
onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of CD11b+ microglia/macrophages in optic
nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of CD11b+ microglia/macrophages
were significantly increased in the untreated PLPmut mice. This increase was not significantly reduced upon preventive treatment. Mice were
investigated at 9 months of age. c Quantification of CD11b+ microglia/macrophages in optic nerve sections of PLPmut mice after 75 days of
preventive treatment, followed by 75 days without treatment. CD11b+ microglia/macrophages are not reduced in number upon terminated
treatment. Mice were investigated at 9 months of age. d Immunofluorescent depiction of CD11b+ microglia/macrophages and their quantification (right)
in optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting
at 10 months of age. Therapeutic treatment did not change the elevated number of CD11b+ microglia/macrophages in PLPmut mice. Mice were
investigated at 15 months of age. Scale bar 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05. Results n = 5 mice per group Fig. 4 Teriflunomide does not reduce elevated numbers of CD11b+ cells in optic nerves of PLPmut mice. a Representative immune fluorescence
microscopy of CD11b + microglia/macrophages in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively treated mutants
(150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive) and PLPmut mice after treatment interruption at 75 days after treatment
onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of CD11b+ microglia/macrophages in optic
nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of CD11b+ microglia/macrophages
were significantly increased in the untreated PLPmut mice. This increase was not significantly reduced upon preventive treatment. Mice were
investigated at 9 months of age. c Quantification of CD11b+ microglia/macrophages in optic nerve sections of PLPmut mice after 75 days of
preventive treatment, followed by 75 days without treatment. CD11b+ microglia/macrophages are not reduced in number upon terminated
treatment. Mice were investigated at 9 months of age. d Immunofluorescent depiction of CD11b+ microglia/macrophages and their quantification (right)
in optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting
at 10 months of age. Therapeutic treatment did not change the elevated number of CD11b+ microglia/macrophages in PLPmut mice. Mice were
investigated at 15 months of age. Scale bar 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05. n = 5 mice per group Fig. 4 Teriflunomide does not reduce elevated numbers of CD11b+ cells in optic nerves of PLPmut mice. a Representative immune fluorescence
microscopy of CD11b + microglia/macrophages in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively treated mutants
(150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive) and PLPmut mice after treatment interruption at 75 days after treatment
onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of CD11b+ microglia/macrophages in optic
nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of CD11b+ microglia/macrophages
were significantly increased in the untreated PLPmut mice. This increase was not significantly reduced upon preventive treatment. Mice were
investigated at 9 months of age. Results c Quantification of CD11b+ microglia/macrophages in optic nerve sections of PLPmut mice after 75 days of
preventive treatment, followed by 75 days without treatment. CD11b+ microglia/macrophages are not reduced in number upon terminated
treatment. Mice were investigated at 9 months of age. d Immunofluorescent depiction of CD11b+ microglia/macrophages and their quantification (right)
in optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting
at 10 months of age. Therapeutic treatment did not change the elevated number of CD11b+ microglia/macrophages in PLPmut mice. Mice were
investigated at 15 months of age. Scale bar 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05. n = 5 mice per group thickness detectable (Fig. 8a, b). Interestingly, preventive
treatment with teriflunomide lead to a slowing of thinning
of the NFL/GCL/IPL composite layer (Fig. 8a). When
treatment was interrupted after 75 days, an improved
composite layer thickness was still detectable after another
75 days without treatment, when compared to PLPmut
mice which were never treated (Fig. 8b). Therapeutic
treatment starting at 10 months of age lead to an unex-
pected “regenerative” thickening of the composite layers in teriflunomide-treated mutants after 2 months. This in-
creased composite layer thickness was maintained for an-
other 3 months in teriflunomide-treated mutants (Fig. 8c). To characterize the “regenerative” thickening of the inner
composite layers as result of therapeutic treatment in more
detail, we first determined which of the three individual
layers
(NFL/GCL/IPL)
was
responsible
for
this
phenomenon in 15-month-old teriflunomide-treated mu-
tants. We identified that the IPL rather than NFL/GCL was Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 8 of 16 Fig. 5 Teriflunomide treatment significantly impairs microglial activation in optic nerves of PLPmut mice. a Representative immune fluorescence
microscopy of Sn+ microglial cells in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively treated mutants
(150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive) and PLPmut mice after treatment interruption at 75 days after
treatment onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of Sn + microglial cells in
optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of Sn + activated
microglial cells were significantly increased in the untreated PLPmut mice, which was partially forstalled upon preventive treatment. Results Mice were
investigated at 9 months of age. c Quantification of Sn + microglial cells in optic nerve sections of PLPmut mice after 75 days of preventive
treatment, followed by 75 days without treatment. Reduced elevation of Sn+ microglial cells after terminated treatment was not significant
anymore. Mice were investigated at 9 months of age. d Immunofluorescent depiction of Sn+ microglial cells and their quantification (right) in
optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic)
starting at 10 months of age. Therapeutic treatment significantly reduced the elevation of Sn+ microglial cell numbers in PLPmut mice. Mice were
investigated at 15 months of age. Scale bar, 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice
per group Fig. 5 Teriflunomide treatment significantly impairs microglial activation in optic nerves of PLPmut mice. a Representative immune fluorescence
microscopy of Sn+ microglial cells in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively treated mutants
(150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive) and PLPmut mice after treatment interruption at 75 days after
treatment onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of Sn + microglial cells in
optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of Sn + activated
microglial cells were significantly increased in the untreated PLPmut mice, which was partially forstalled upon preventive treatment. Mice were
investigated at 9 months of age. c Quantification of Sn + microglial cells in optic nerve sections of PLPmut mice after 75 days of preventive
treatment, followed by 75 days without treatment. Reduced elevation of Sn+ microglial cells after terminated treatment was not significant
anymore. Mice were investigated at 9 months of age. d Immunofluorescent depiction of Sn+ microglial cells and their quantification (right) in
optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic)
starting at 10 months of age. Therapeutic treatment significantly reduced the elevation of Sn+ microglial cell numbers in PLPmut mice. Mice were
investigated at 15 months of age. Scale bar, 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01, ***P < 0.001. Results n = 5 mice
per group Fig. 5 Teriflunomide treatment significantly impairs microglial activation in optic nerves of PLPmut mice. a Representative immune fluorescence
microscopy of Sn+ microglial cells in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively treated mutants
(150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive) and PLPmut mice after treatment interruption at 75 days after
treatment onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of Sn + microglial cells in
optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of preventive treatment. The numbers of Sn + activated
microglial cells were significantly increased in the untreated PLPmut mice, which was partially forstalled upon preventive treatment. Mice were
investigated at 9 months of age. c Quantification of Sn + microglial cells in optic nerve sections of PLPmut mice after 75 days of preventive
treatment, followed by 75 days without treatment. Reduced elevation of Sn+ microglial cells after terminated treatment was not significant
anymore. Mice were investigated at 9 months of age. d Immunofluorescent depiction of Sn+ microglial cells and their quantification (right) in
optic nerve sections of Wt and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic)
starting at 10 months of age. Therapeutic treatment significantly reduced the elevation of Sn+ microglial cell numbers in PLPmut mice. Mice were
investigated at 15 months of age. Scale bar, 30 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice
per group responsible for this phenomenon (Fig. 9a). As this layer
contains the dendritic trees of retinal ganglion neurons,
we labeled a subpopulation of these neurons with
SMI32 antibodies against non-phosphorylated neurofi-
laments. In Wt mice, prominent SMI32 staining of fas-
ciculating, (at this level) unmyelinated axons of retinal
ganglion neurons in the NFL was underlied by the
SMI32+ perikarya of some neurons in the GCL, the dendrites of which protruding into the IPL (Fig. 9b). The immunofluorescent signal of these dendritic trees
in the IPL was strongly reduced in 15 months old, un-
treated PLPmut mice, but partially “re-appeared” in
mutants receiving teriflunomide as therapeutic treat-
ment. These findings were supported by quantifying the
area occupied by the SMI32+ dendrites (Fig. Results 9b) and by
scoring synaptophysin immunoreactivity in the IPLs of Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 9 of 16 Fig. 6 Teriflunomide treatment significantly reduces axonopathic alterations in optic nerves of PLPmut mice. a Representative immunocytochemical
identification of SMI32+ axonal spheroids in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively treated mutants
(150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive), and PLPmut mice after treatment interruption at 75 days after treatment
onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of SMI32+ axonal spheroids of Wt and PLPmut
mice and of PLPmut mice after 150 days of preventive treatment. The numbers of SMI32+ axonal spheroids were robustly increased in the untreated
PLPmut mice, but this increase was significantly attenuated upon preventive treatment. Mice were investigated at 9 months of age. c Quantification
of SMI32+ axonal spheroids in optic nerve sections of PLPmut mice after 75 days of preventive treatment, followed by 75 days without treatment. Reduction of SMI32+ axonal spheroid numbers persisted after terminated treatment. Mice were investigated at 9 months of age. d Immunocytochemical
depiction of SMI32+ axonal spheroids (left) and their quantification (right) in optic nerve sections of Wt and PLPmut mice and in PLPmut mice after
150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting at 10 months of age. Therapeutic treatment significantly attenuated
elevation of SMI32+ axonal spheroid numbers in PLPmut mice. Mice were investigated at 15 months of age. Scale bar, 30 μm. One-way ANOVA and
Tukey’s post hoc tests. *,#P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice per group Fig. 6 Teriflunomide treatment significantly reduces axonopathic alterations in optic nerves of PLPmut mice. a Representative immunocytochemical
identification of SMI32+ axonal spheroids in longitudinal optic nerve sections from Wt, untreated mutants (PLPmut), preventively treated mutants
(150 days, starting from postnatal month 4; PLPmut + teriflunomide preventive), and PLPmut mice after treatment interruption at 75 days after treatment
onset (PLPmut + teriflunomide terminated). Mice were investigated at 9 months of age. b Quantification of SMI32+ axonal spheroids of Wt and PLPmut
mice and of PLPmut mice after 150 days of preventive treatment. The numbers of SMI32+ axonal spheroids were robustly increased in the untreated
PLPmut mice, but this increase was significantly attenuated upon preventive treatment. Mice were investigated at 9 months of age. Results c Quantification of cresyl violet-labeled perikarya in the ganglion cell layer of flat-mounted retinae of PLPmut mice after 75 days of preventive
treatment, followed by 75 days without treatment. Rescue of cresyl violet-labeled perikarya persisted after treatment termination. Mice were
investigated at 9 months of age. d Depiction of cresyl violet-labeled perikarya in the ganglion cell layer (left) and their quantification (right) in
Wt and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting at 10 months
of age. Therapeutic treatment did not significantly reverse retinal ganglion cell loss in PLPmut mice. Mice were investigated at 15 months of
age. Scale bar, 50 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **,##P < 0.01, ***P < 0.001. n = 5 mice per group Fig. 7 Teriflunomide treatment prevents but does not reverse retinal ganglion cell loss in PLPmut mice. a Cresyl violet-labeled perikarya in the
ganglion cell layer of flat-mounted retinae from Wt, untreated mutants (PLPmut), preventively treated mutants (150 days, starting from postnatal
month 4; PLPmut + teriflunomide preventive) and PLPmut mice after treatment interruption at 75 days after treatment onset (PLPmut + teriflunomide
terminated). Mice were investigated at 9 months of age. b Quantification of cresyl violet-labeled perikarya in the ganglion cell layer of flat-mounted
retinae of Wt and PLPmut mice and of PLPmut mice after 150 days of preventive treatment. The numbers of cresyl violet-labeled perikarya were
significantly reduced in the untreated PLPmut mice, but significantly rescued upon preventive treatment. Mice were investigated at 9 months of age. c Quantification of cresyl violet-labeled perikarya in the ganglion cell layer of flat-mounted retinae of PLPmut mice after 75 days of preventive
treatment, followed by 75 days without treatment. Rescue of cresyl violet-labeled perikarya persisted after treatment termination. Mice were
investigated at 9 months of age. d Depiction of cresyl violet-labeled perikarya in the ganglion cell layer (left) and their quantification (right) in
Wt and PLPmut mice and in PLPmut mice after 150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting at 10 months
of age. Therapeutic treatment did not significantly reverse retinal ganglion cell loss in PLPmut mice. Mice were investigated at 15 months of
age. Scale bar, 50 μm. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **,##P < 0.01, ***P < 0.001. Results c Quantification
of SMI32+ axonal spheroids in optic nerve sections of PLPmut mice after 75 days of preventive treatment, followed by 75 days without treatment. Reduction of SMI32+ axonal spheroid numbers persisted after terminated treatment. Mice were investigated at 9 months of age. d Immunocytochemical
depiction of SMI32+ axonal spheroids (left) and their quantification (right) in optic nerve sections of Wt and PLPmut mice and in PLPmut mice after
150 days of therapeutic treatment (PLPmut + teriflunomide therapeutic) starting at 10 months of age. Therapeutic treatment significantly attenuated
elevation of SMI32+ axonal spheroid numbers in PLPmut mice. Mice were investigated at 15 months of age. Scale bar, 30 μm. One-way ANOVA and
Tukey’s post hoc tests. *,#P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice per group Wt, untreated and therapeutically teriflunomide-treated
mutants (Fig. 9c). previously shown, the untreated lymphocyte-depleted mu-
tants show a partial rescue of the histopathological pheno-
type [8]. This partial rescue could not be further improved
by therapeutic treatment with teriflunomide, when num-
ber of microglial cells (Additional file 1: Figure S4) or
histopathological criteria (Additional file 1: Figure S5)
were applied. These findings fail to provide evidence for a
direct neuroprotective effect of teriflunomide independent As it is conceivable that some of the therapeutic treat-
ment effects could be explained by direct neuroprotec-
tive or regeneration-promoting effects of teriflunomide,
we investigated this possibility by therapeutically treating
Rag1-deficient PLPmut mice lacking mature T- and
B-lymphocytes (Additional file 1: Figures S4 and S5). As Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 10 of 16 Fig. 7 Teriflunomide treatment prevents but does not reverse retinal ganglion cell loss in PLPmut mice. a Cresyl violet-labeled perikarya in the
ganglion cell layer of flat-mounted retinae from Wt, untreated mutants (PLPmut), preventively treated mutants (150 days, starting from postnatal
month 4; PLPmut + teriflunomide preventive) and PLPmut mice after treatment interruption at 75 days after treatment onset (PLPmut + teriflunomide
terminated). Mice were investigated at 9 months of age. b Quantification of cresyl violet-labeled perikarya in the ganglion cell layer of flat-mounted
retinae of Wt and PLPmut mice and of PLPmut mice after 150 days of preventive treatment. The numbers of cresyl violet-labeled perikarya were
significantly reduced in the untreated PLPmut mice, but significantly rescued upon preventive treatment. Mice were investigated at 9 months of age. Results n = 5 mice per group of modulating adaptive immune reactions in the present
disease model. long-term, preventive treatment approach lasting nearly
a year. We found that upon long-term treatment, the
numbers of T-lymphocytes and the total number of
microglial cells reached the level of non-treated mutants As teriflunomide showed robust treatment effects in
experiments lasting for 5 months, we performed a Page 11 of 16 Groh et al. Journal of Neuroinflammation (2018) 15:194 Addi i
l fil
Fi
S6) H
i
il
i
h
h
b
f
i
d S
i
li l
ll
ill
Fig. 8 OCT reveals reduced thinning of the retinal NFL/GCL/IPL composite layer upon preventive and terminated treatments and regenerative
thickening upon therapeutic treatment. a Longitudinal analysis of NFL/GCL/IPL thickness of Wt, untreated PLPmut mice, and preventively treated
PLPmut mice at 4, 6, and 9 months of age. Note reduced thinning of the retinal NFL/GCL/IPL composite layer. b Longitudinal analysis of NFL/GCL/IPL
thickness of Wt, untreated PLPmut mice and PLPmut mice after 75 days of preventive treatment, followed by 75 days without treatment. Mice were
investigated at 4, 6, and 9 months of age. Note that improved NFL/GCL/IPL composite layer thickness was preserved even after treatment termination. c Longitudinal analysis of NFL/GCL/IPL thickness of Wt, untreated PLPmut mice, and therapeutically treated PLPmut mice. Mice were investigated at 10,
12, and 15 months of age. Note unexpected “regenerative” thickening of NFL/GCL/IPL composite layer as a reaction upon therapeutic treatment at 12
and 15 months. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice per group Fig. 8 OCT reveals reduced thinning of the retinal NFL/GCL/IPL composite layer upon preventive and terminated treatments and regenerative
thickening upon therapeutic treatment. a Longitudinal analysis of NFL/GCL/IPL thickness of Wt, untreated PLPmut mice, and preventively treated
PLPmut mice at 4, 6, and 9 months of age. Note reduced thinning of the retinal NFL/GCL/IPL composite layer. b Longitudinal analysis of NFL/GCL/IPL
thickness of Wt, untreated PLPmut mice and PLPmut mice after 75 days of preventive treatment, followed by 75 days without treatment. Mice were
investigated at 4, 6, and 9 months of age. Note that improved NFL/GCL/IPL composite layer thickness was preserved even after treatment termination. c Longitudinal analysis of NFL/GCL/IPL thickness of Wt, untreated PLPmut mice, and therapeutically treated PLPmut mice. Results Mice were investigated at 10,
12, and 15 months of age. Note unexpected “regenerative” thickening of NFL/GCL/IPL composite layer as a reaction upon therapeutic treatment at 12
and 15 months. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice per group Fig. 8 OCT reveals reduced thinning of the retinal NFL/GCL/IPL composite layer upon preventive and terminated treatments and regenerative
thickening upon therapeutic treatment. a Longitudinal analysis of NFL/GCL/IPL thickness of Wt, untreated PLPmut mice, and preventively treated
PLPmut mice at 4, 6, and 9 months of age. Note reduced thinning of the retinal NFL/GCL/IPL composite layer. b Longitudinal analysis of NFL/GCL/IPL
thickness of Wt, untreated PLPmut mice and PLPmut mice after 75 days of preventive treatment, followed by 75 days without treatment. Mice were
investigated at 4, 6, and 9 months of age. Note that improved NFL/GCL/IPL composite layer thickness was preserved even after treatment termination. c Longitudinal analysis of NFL/GCL/IPL thickness of Wt, untreated PLPmut mice, and therapeutically treated PLPmut mice. Mice were investigated at 10,
12, and 15 months of age. Note unexpected “regenerative” thickening of NFL/GCL/IPL composite layer as a reaction upon therapeutic treatment at 12
and 15 months. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice per group (Additional file 1: Figure S6). However, similar as in the
therapeutic treatment approach (Fig. 3), the percentage
of CD8+ PD-1+ putative regulatory T cells was increased
after long-term treatment (35.56 ± 8.24%) in comparison
to untreated PLPmut mice (16.47 ± 5.64%). Moreover, the numbers of activated Sn+ microglial cells were still
reduced after long-term treatment conditions (Add-
itional file 1: Figure S6). In line with our findings re-
lated to treatment duration of 5 months, long-term
preventive treatment with teriflunomide reduced the Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 12 of 16 Fig. 9 The regenerative thickening of the innermost retinal composite layer upon therapeutic treatment is driven by restoration of dendritic
arborization within the IPL. a Histological quantification of thickness of the IPL (left) and NFL/GCL (right) in Wt, PLPmut, and PLPmut mice after
therapeutic treatment identifies the IPL as the responsible layer for the “regenerative” thickening. b Left, flat mount preparations of retinae. Results Right,
quantification of SMI32+ dendritic areas in Wt, PLPmut, and therapeutically treated PLPmut mice. c Synaptophysin immunoreactivity in the IPLs of Wt,
untreated and therapeutically treated PLPmut mice support the view that “regenerative” thickening of the IPL upon treatment is related to restoration of
dendritic trees (as shown in a, b) and of their corresponding presynaptic terminals. Scale bars, 10 μm. One-way ANOVA and Tukey’s post hoc
tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice per group Fig. 9 The regenerative thickening of the innermost retinal composite layer upon therapeutic treatment is driven by restoration of dendritic
arborization within the IPL. a Histological quantification of thickness of the IPL (left) and NFL/GCL (right) in Wt, PLPmut, and PLPmut mice after
therapeutic treatment identifies the IPL as the responsible layer for the “regenerative” thickening. b Left, flat mount preparations of retinae. SMI32+ retinal ganglion cells display robust dendritic arborization in Wt mice (white icon) while the same cell types of untreated PLPmut
mice (dark-gray icon) show “fragile” arbors of reduced extension and abundant degenerative varicosities (arrowheads). Therapeutic treatment
(yellow icon) partially restored dendritic arborization and reduced numbers of degenerative varicosities. Middle, top: SMI32 immunofluorescence on a
transverse section of the retina of a Wt mouse. A subpopulation of retinal ganglion cells in the GCL, their fasciculating axons in the NFL and their dendritic
trees protruding into the IPL are visible. Middle, below: SMI32 immunofluorescence on transverse sections of the IPLs of Wt, PLPmut, and therapeutically
treated PLPmut mice. Note “re-appearance” of SMI32-immunoreactivity reflecting regenerative dendritic trees in the IPL of the treated PLPmut mice. Right,
quantification of SMI32+ dendritic areas in Wt, PLPmut, and therapeutically treated PLPmut mice. c Synaptophysin immunoreactivity in the IPLs of Wt,
untreated and therapeutically treated PLPmut mice support the view that “regenerative” thickening of the IPL upon treatment is related to restoration of
dendritic trees (as shown in a, b) and of their corresponding presynaptic terminals. Scale bars, 10 μm. One-way ANOVA and Tukey’s post hoc
tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice per group numbers of SMI32+ axonal spheroids (Fig. 10a) and
partially prevented retinal ganglion cell degeneration
(Fig. 10b). Of note, longitudinal studies using non-invasive
OCT document the long-term preservation of the inner composite layer of the retina (Fig. 10c), reflecting the con-
stant efficacy of the treatment. Results SMI32+ retinal ganglion cells display robust dendritic arborization in Wt mice (white icon) while the same cell types of untreated PLPmut
mice (dark-gray icon) show “fragile” arbors of reduced extension and abundant degenerative varicosities (arrowheads). Therapeutic treatment
(yellow icon) partially restored dendritic arborization and reduced numbers of degenerative varicosities. Middle, top: SMI32 immunofluorescence on a
transverse section of the retina of a Wt mouse. A subpopulation of retinal ganglion cells in the GCL, their fasciculating axons in the NFL and their dendritic
trees protruding into the IPL are visible. Middle, below: SMI32 immunofluorescence on transverse sections of the IPLs of Wt, PLPmut, and therapeutically
treated PLPmut mice. Note “re-appearance” of SMI32-immunoreactivity reflecting regenerative dendritic trees in the IPL of the treated PLPmut mice. Right,
quantification of SMI32+ dendritic areas in Wt, PLPmut, and therapeutically treated PLPmut mice. c Synaptophysin immunoreactivity in the IPLs of Wt,
untreated and therapeutically treated PLPmut mice support the view that “regenerative” thickening of the IPL upon treatment is related to restoration of
dendritic trees (as shown in a, b) and of their corresponding presynaptic terminals. Scale bars, 10 μm. One-way ANOVA and Tukey’s post hoc
tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice per group Fig. 9 The regenerative thickening of the innermost retinal composite layer upon therapeutic treatment is driven by restoration of dendritic
arborization within the IPL. a Histological quantification of thickness of the IPL (left) and NFL/GCL (right) in Wt, PLPmut, and PLPmut mice after
therapeutic treatment identifies the IPL as the responsible layer for the “regenerative” thickening. b Left, flat mount preparations of retinae. SMI32+ retinal ganglion cells display robust dendritic arborization in Wt mice (white icon) while the same cell types of untreated PLPmut
mice (dark-gray icon) show “fragile” arbors of reduced extension and abundant degenerative varicosities (arrowheads). Therapeutic treatment
(yellow icon) partially restored dendritic arborization and reduced numbers of degenerative varicosities. Middle, top: SMI32 immunofluorescence on a
transverse section of the retina of a Wt mouse. A subpopulation of retinal ganglion cells in the GCL, their fasciculating axons in the NFL and their dendritic
trees protruding into the IPL are visible. Middle, below: SMI32 immunofluorescence on transverse sections of the IPLs of Wt, PLPmut, and therapeutically
treated PLPmut mice. Note “re-appearance” of SMI32-immunoreactivity reflecting regenerative dendritic trees in the IPL of the treated PLPmut mice. Results This was in line with im-
proved latencies to fall in rotarod test upon preventive
long-term treatment demonstrating that the treatment Page 13 of 16 Groh et al. Journal of Neuroinflammation (2018) 15:194 Fig. 10 Long-term preventive treatment improves axonal and neuronal degeneration in the visual system and leads to sustained preservation of
the NFL/GCL/IPL composite layer of the retina. a Quantification of SMI32+ axonal spheroids of Wt and PLPmut mice and of PLPmut mice after
330 days of preventive treatment. The numbers of SMI32+ axonal spheroids were significantly increased in the untreated PLPmut mice, but
elevation was significantly attenuated upon long-term preventive treatment. Mice were investigated at 15 months of age. b Quantification of
perikarya in the ganglion cell layer of flat-mounted retinae of Wt and PLPmut mice and of PLPmut mice after 330 days of preventive treatment. The numbers of perikarya were significantly reduced in the untreated PLPmut mice, but partially rescued upon long-term preventive treatment. Mice were investigated at 15 months of age. c Longitudinal analysis of NFL/GCL/IPL thickness of Wt, untreated PLPmut mice and long-term
preventively treated PLPmut mice at 4, 6, 9, 12, and 15 months of age by OCT. Note reduced thinning of the retinal NFL/GCL/IPL composite layer
over the complete period of teriflunomide treatment. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice
per group Fig. 10 Long-term preventive treatment improves axonal and neuronal degeneration in the visual system and leads to sustained preservation of
the NFL/GCL/IPL composite layer of the retina. a Quantification of SMI32+ axonal spheroids of Wt and PLPmut mice and of PLPmut mice after
330 days of preventive treatment. The numbers of SMI32+ axonal spheroids were significantly increased in the untreated PLPmut mice, but
elevation was significantly attenuated upon long-term preventive treatment. Mice were investigated at 15 months of age. b Quantification of
perikarya in the ganglion cell layer of flat-mounted retinae of Wt and PLPmut mice and of PLPmut mice after 330 days of preventive treatment. The numbers of perikarya were significantly reduced in the untreated PLPmut mice, but partially rescued upon long-term preventive treatment. Mice were investigated at 15 months of age. c Longitudinal analysis of NFL/GCL/IPL thickness of Wt, untreated PLPmut mice and long-term
preventively treated PLPmut mice at 4, 6, 9, 12, and 15 months of age by OCT. Results Note reduced thinning of the retinal NFL/GCL/IPL composite layer
over the complete period of teriflunomide treatment. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01, ***P < 0.001. n = 5 mice
per group impact by the clinically approved immune modulator
teriflunomide. The treatment was well tolerated and
highly efficient when given along a preventive design
and was even able to reduce histopathological features
when therapeutically applied late after disease onset. Additionally, in case of treatment interruption, the
compound did not cause overshooting rebound reac-
tions; instead, preserved beneficial histopathological
consequences were detectable even 75 days after treat-
ment termination. had clinically relevant effects (Fig. 11a). In contrast, thera-
peutic treatment for 5 months failed to improve clinical
outcome (Fig. 11b), most likely due to already progressed
neurodegeneration at 10 months of age, when therapeutic
treatment started. Discussion We show that pathogenetically relevant secondary in-
flammation aggravating a myelin-related genetic defect
[8] can substantially be alleviated in its histopathological Page 14 of 16 Groh et al. Journal of Neuroinflammation (2018) 15:194 Fig. 11 Preventive but not therapeutic treatment improves clinical outcome in PLPmut mice. a Accelerating rotarod performance of Wt, PLPmut,
and PLPmut mice which received long-term preventive treatment. Treatment significantly improved latency to fall. b Accelerating rotarod performance
of PLPmut mice which received therapeutic treatment for 5 months. Treatment failed to significantly improve latency to fall, most likely due to already
progressed neurodegeneration at 10 months of age, when therapeutic treatment started. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01. n = 5 mice per group Fig. 11 Preventive but not therapeutic treatment improves clinical outcome in PLPmut mice. a Accelerating rotarod performance of Wt, PLPmut,
and PLPmut mice which received long-term preventive treatment. Treatment significantly improved latency to fall. b Accelerating rotarod performance
of PLPmut mice which received therapeutic treatment for 5 months. Treatment failed to significantly improve latency to fall, most likely due to already
progressed neurodegeneration at 10 months of age, when therapeutic treatment started. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01. n = 5 mice per group Fig. 11 Preventive but not therapeutic treatment improves clinical outcome in PLPmut mice. a Accelerating rotarod performance of Wt, PLPmut,
and PLPmut mice which received long-term preventive treatment. Treatment significantly improved latency to fall. b Accelerating rotarod performance
of PLPmut mice which received therapeutic treatment for 5 months. Treatment failed to significantly improve latency to fall, most likely due to already
progressed neurodegeneration at 10 months of age, when therapeutic treatment started. One-way ANOVA and Tukey’s post hoc tests. *P < 0.05, **P < 0.01. n = 5 mice per group After short-term preventive treatment with terifluno-
mide, a reduction in the number of T-lymphocytes was
observed in the CNS, an observation being in line with
the cytostatic impact of the compound on activated
adaptive immune cells [27, 28]. Such a reduction in
adaptive immune cells in the CNS was not observed in
PLP mutants after long-term preventive treatment or in
mutants therapeutically treated with teriflunomide at
10 months of age, which, at first glance, appeared sur-
prising, as there was a concomitant substantial amelior-
ation of histopathological features. Discussion In fact, we identified
teriflunomide acting by shifting regulatory versus ef-
fector CD8+ T cells in the CNS of the treated mice
explaining the beneficial therapeutic treatment effect in
the presence of a high number of CD8+ T-lymphocytes. Interestingly, teriflunomide has previously been identi-
fied as shifting Th1 and Th2 reactions in favor of the
latter [29]. Here, we extend this model by implicating
CD8+ CD122- PD-1−cytotoxic effector T cells and
CD8+ CD122+ PD-1+ regulatory T cells. In this con-
text, it is interesting that microglial Sn has previously
been identified as an effective inhibitor of regulatory
CD8+ CD122+ T cells in the diseased CNS [24] and
that teriflunomide reduced the number of Sn+ micro-
glial cells (this study). However, as teriflunomide treat-
ment
could
not
further
reduce
Sn
expression
in
PLPmut/Rag1−/−mice (see above), we propose that the
compound
acts
on
adaptive
immune
cells,
which reciprocally influence Sn expression on microglia/mac-
rophages. A possible mechanism explaining our find-
ings might be the inhibitory effect of teriflunomide on
the interaction of T cells with antigen presenting cells
[30], which—in the present model—could be identical
with activated Sn + microglia/macrophages. While increased regulatory T cell proliferation might ap-
pear paradox under a cytostatic drug therapy, it is known
that teriflunomide has no effect on proliferation of lym-
phocytes that do not require de novo pyrimidine synthesis
to self-renew, like resting lymphocytes [31]. It has recently
been shown that regulatory CD4+ FoxP3high T cells show
resilience towards restriction of glutamine-dependent pur-
ine and pyrimidine syntheses [32]. Moreover, results from
the Teri-DYNAMIC study showed that teriflunomide also
increased regulatory T cell counts and reduced Th1
counts and clonal diversity of CD4+ T cells in RRMS pa-
tients. Arguing for an immunomodulatory rather than im-
munosuppressive mechanism of action, T cells from
patients treated with teriflunomide were still able to
mount appropriate proliferative and cytokine responses
[33]. It remains to be determined if similar resilience
mechanisms might explain the unaffected proliferation
capacity of the CD8+ CD122+ PD-1+ regulatory T cell
population in the PLPmut model undergoing terifluno-
mide treatment. The purpose of our present study was to investigate
whether “genetic” models sharing pathogenetic pathways Groh et al. Journal of Neuroinflammation (2018) 15:194 Page 15 of 16 with progressive MS can efficiently be treated with
established immune modulators. Discussion As opposed to the
treatable relapsing MS, the progressive subforms are
often thought to occur independently of inflammation,
as they are usually poorly responsive to conventional im-
mune modulatory therapeutic approaches [34, 35]. Here,
we show that the established immune modulator teriflu-
nomide substantially improves histopathology and clin-
ical deficits when applied preventively. In addition,
teriflunomide succeeded to ameliorate disease outcome
when given relatively late during pathogenesis. While
there was no regeneration of lost neurons after thera-
peutic treatment, ongoing axonal damage was halted
and inner retinal thickness most likely reflecting den-
dritic arborization was recovered by remaining neurons. This therapeutic effect demonstrates some endogenous
capacity for regeneration which is normally blocked by
inflammation but allowed or facilitated by the therapy-
induced proliferation of parenchymal regulatory CD8+
CD122+ PD-1+ T-lymphocytes which control cytotoxic
CD8+ effector T cells [24]. While this is to our know-
ledge a novel immune-modulating mechanism of teriflu-
nomide, none of the previously described multiple
non-immune effects of the drug [28] appear to play a
major role in our disease model, as revealed by lack of
further neuropathological improvement in teriflunomide-
treated PLPmut/Rag1−/−mice. Availability of data and materials
h d
d
d
l
d d The datasets used and/or analyzed during the current study are available
from the corresponding authors on reasonable request. Abbreviations
O
O
l OCT: Optical coherence tomography; PMS: Progressive multiple sclerosis;
RGC: Retinal ganglion cell OCT: Optical coherence tomography; PMS: Progressive multiple sclerosis;
RGC: Retinal ganglion cell Additional file Additional file 1: Figure S1. Lack of impact of teriflunomide treatment
on blood leukocyte numbers. Figure S2. Confirmation of PD-1 expression
as a marker of CD8+ CD122+ regulatory T cells in the CNS of PLPmut
mice. Figure S3. Preventive but neither terminated nor therapeutic
treatment impairs the increase of CD4+ T-lymphocyte numbers in
PLPmut mice. Figure S4. Lack of evidence for an immune-unrelated
effect of therapeutic teriflunomide treatment. Figure S5. Lack of evidence
for an immune-unrelated effect of therapeutic teriflunomide treatment on
histopathological features. Figure S6. Long-term preventive treatment does
not reduce T-lymphocyte and microglia/macrophage numbers but leads to
a reduction of activated Sn+ microglial cells. (PDF 1034 kb) Funding g
This work was supported by Sanofi Genzyme (Cambridge, USA), by the
German Research Foundation (SFB 581 to R.M.), and by the Interdisciplinary
Centre for Clinical Research (IZKF) of the University of Wuerzburg (A-168 to
R.M. and Dr. Mathias Buttmann). Supplementary support was provided by
the Roman, Marga and Mareille Sobek-Foundation (research award to R.M.)
and by the Gemeinnützige Hertie Stiftung (P1150084 to J.G.). Competing interests
h
h
d
l
h Competing interests
h
h
d
l
h Competing interests
The authors declare that they have no competing interests. Acknowledgements
h
h
f The authors are grateful to Mathias Buttmann and Mark P. Gorman (Boston)
for helpful discussions. We thank Heinrich Blazyca, Silke Loserth, and Bettina
Meyer for expert technical assistance, and Helga Brünner, Jacqueline Schreiber,
Anja Weidner, Thomas Bimmerlein, and Jennifer Bauer for attentive care of mice. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. Received: 10 April 2018 Accepted: 15 June 2018 Conclusions JG and RM designed and interpreted the experiments. JG and RM wrote the
manuscript. JG and MH performed the experiments. All authors read and
approved the final manuscript. All in all, our study is encouraging to consider teriflu-
nomide for mitigating or modulating chronic detrimen-
tal neuroinflammation in progressive MS in humans. These results support ongoing clinical trials with teri-
flunomide showing stabilization or improvement of
long-term disability in most MS patients regardless of
subtype [36, 37]. Since our model not only shares fea-
tures with progressive MS but also comprises features
of other immune-related leukodystrophies or hereditary
spastic paraplegia [4, 8, 38–40], it is plausible to as-
sume that the immune modulators may also alleviate
some forms of these diseases. A recent study from our
laboratory showed that not only teriflunomide but also
the immune modulatory sphingosine-1-phosphate ana-
logue fingolimod substantially alleviated axonal dam-
age, neuron loss and retinal thinning in two models for
the fatal, infantile and juvenile inherited storage disor-
ders, CLN1 and CLN3 [20]. These findings may not only
give hope to patients suffering from inflammation-related
orphan diseases with no causal treatment, but may
additionally exemplify that neuroinflammation may be a
therapeutically relevant common disease pathway of
many primarily unrelated genetic disorders of the
nervous system [4]. Ethics approval and consent to participate
N/A Ethics approval and consent to participate
N/A References
1.
Nave KA. Myelination and the trophic support of long axons. Nat Rev
Neurosci. 2010;11:275–83.
2.
Nave KA. Myelination and support of axonal integrity by glia. Nature. 2010;
468:244–52.
3.
Luders KA, Patzig J, Simons M, Nave KA, Werner HB. Genetic dissection of
oligodendroglial and neuronal Plp1 function in a novel mouse model of
spastic paraplegia type 2. Glia. 2017;65:1762–76.
4.
Groh J, Martini R. Neuroinflammation as modifier of genetically caused
neurological disorders of the central nervous system: understanding
pathogenesis and chances for treatment. Glia. 2017;65:1407. Consent for publication
N/A Consent for publication
N/A Competing interests
The authors declare that they have no competing interests. Groh et al. Journal of Neuroinflammation (2018) 15:194 5. Funfschilling U, Supplie LM, Mahad D, Boretius S, Saab AS, Edgar J,
Brinkmann BG, Kassmann CM, Tzvetanova ID, Mobius W, et al. Glycolytic
oligodendrocytes maintain myelin and long-term axonal integrity. Nature. 2012;485:517–21. 28. Bar-Or A, Pachner A, Menguy-Vacheron F, Kaplan J, Wiendl H. Teriflunomide
and its mechanism of action in multiple sclerosis. Drugs. 2014;74:659–74. 29. Dimitrova P, Skapenko A, Herrmann ML, Schleyerbach R, Kalden JR, Schulze-
Koops H. Restriction of de novo pyrimidine biosynthesis inhibits Th1 cell
activation and promotes Th2 cell differentiation. J Immunol. 2002;169:3392–9. 6. Ip CW, Kroner A, Bendszus M, Leder C, Kobsar I, Fischer S, Wiendl H, Nave KA,
Martini R. Immune cells contribute to myelin degeneration and axonopathic
changes in mice overexpressing proteolipid protein in oligodendrocytes. J Neurosci. 2006;26:8206–16. 30. Zeyda M, Poglitsch M, Geyeregger R, Smolen JS, Zlabinger GJ, Horl WH,
Waldhausl W, Stulnig TM, Saemann MD. Disruption of the interaction of T
cells with antigen-presenting cells by the active leflunomide metabolite
teriflunomide: involvement of impaired integrin activation and
immunologic synapse formation. Arthritis Rheum. 2005;52:2730–9. 7. Ip CW, Kroner A, Groh J, Huber M, Klein D, Spahn I, Diem R, Williams SK,
Nave KA, Edgar JM, Martini R. Neuroinflammation by cytotoxic T-lymphocytes
impairs retrograde axonal transport in an oligodendrocyte mutant mouse. PLoS One. 2012;7:e42554. 31. Miller AE. Teriflunomide in multiple sclerosis: an update. Neurodegener Dis
Manag. 2017;7:9–29. 32. Metzler B, Gfeller P, Guinet E. Restricting glutamine or glutamine-dependent
purine and pyrimidine syntheses promotes human T cells with high FOXP3
expression and regulatory properties. J Immunol. 2016;196:3618–30. 8. Groh J, Friedman HC, Orel N, Ip CW, Fischer S, Spahn I, Schaffner E, Horner
M, Stadler D, Buttmann M, et al. Pathogenic inflammation in the CNS of
mice carrying human PLP1 mutations. Hum Mol Genet. 2016;25:4686–702. 33. Wiendl H, Gross C, Lindner M, Eschborn M, Weisser L, Posevitz-Fejfar A,
Schulte-Mecklenbeck A, Van Wijmeersch B, Hupperts R, Brette S, et al. TERI-
DYNAMIC: exploring the impact of teriflunomide on immune cell
population size, receptor repertoire, and function in patients with RRMS (P5. 282). Neurology. 2016;86(16 Suppl):P5.282. 9. Warshawsky I, Rudick RA, Staugaitis SM, Natowicz MR. Primary progressive
multiple sclerosis as a phenotype of a PLP1 gene mutation. Ann Neurol. 2005;58:470–3. 10. Gorman MP, Golomb MR, Walsh LE, Hobson GM, Garbern JY, Kinkel RP,
Darras BT, Urion DK, Eksioglu YZ. Steroid-responsive neurologic relapses in a
child with a proteolipid protein-1 mutation. Neurology. 2007;68:1305–7. 34. Groh et al. Journal of Neuroinflammation (2018) 15:194 The types of retinal ganglion cells: current status and
implications for neuronal classification. Annu Rev Neurosci. 2015;38:221–46. 18. Sanes JR, Masland RH. The types of retinal ganglion cells: current status and
implications for neuronal classification. Annu Rev Neurosci. 2015;38:221–46. 19. Kroner A, Ip CW, Thalhammer J, Nave KA, Martini R. Ectopic T-cell specificity
and absence of perforin and granzyme B alleviate neural damage in
oligodendrocyte mutant mice. Am J Pathol. 2010;176:549–55. 19. Kroner A, Ip CW, Thalhammer J, Nave KA, Martini R. Ectopic T-cell specificity
and absence of perforin and granzyme B alleviate neural damage in
oligodendrocyte mutant mice. Am J Pathol. 2010;176:549–55. 20. Groh J, Berve K, Martini R. Fingolimod and teriflunomide attenuate
neurodegeneration in mouse models of neuronal ceroid lipofuscinosis. Mol Ther. 2017;25:1889. 20. Groh J, Berve K, Martini R. Fingolimod and teriflunomide attenuate
neurodegeneration in mouse models of neuronal ceroid lipofuscinosis. Mol Ther. 2017;25:1889. 21. Groh J, Stadler D, Buttmann M, Martini R. Non-invasive assessment of retinal
alterations in mouse models of infantile and juvenile neuronal ceroid
lipofuscinosis by spectral domain optical coherence tomography. Acta
Neuropathol Commun. 2014;2:54. 21. Groh J, Stadler D, Buttmann M, Martini R. Non-invasive assessment of retinal
alterations in mouse models of infantile and juvenile neuronal ceroid
lipofuscinosis by spectral domain optical coherence tomography. Acta
Neuropathol Commun. 2014;2:54. 22. Faul F, Erdfelder E, Lang AG, Buchner A. G*Power 3: a flexible statistical
power analysis program for the social, behavioral, and biomedical sciences. Behav Res Methods. 2007;39:175–91. 22. Faul F, Erdfelder E, Lang AG, Buchner A. G*Power 3: a flexible statistical
power analysis program for the social, behavioral, and biomedical sciences. Behav Res Methods. 2007;39:175–91. 23. Dendrou CA, Fugger L. Immunomodulation in multiple sclerosis: promises
and pitfalls. Curr Opin Immunol. 2017;49:37–43. 23. Dendrou CA, Fugger L. Immunomodulation in multiple sclerosis: promises
and pitfalls. Curr Opin Immunol. 2017;49:37–43. 24. Groh J, Ribechini E, Stadler D, Schilling T, Lutz MB, Martini R. Sialoadhesin
promotes neuroinflammation-related disease progression in two mouse
models of CLN disease. Glia. 2016;64:792–809. 24. Groh J, Ribechini E, Stadler D, Schilling T, Lutz MB, Martini R. Sialoadhesin
promotes neuroinflammation-related disease progression in two mouse
models of CLN disease. Glia. 2016;64:792–809. 25. Dai H, Wan N, Zhang S, Moore Y, Wan F, Dai Z. Cutting edge: programmed
death-1 defines CD8+CD122+ T cells as regulatory versus memory T cells. J Immunol. 2010;185:803–7. 25. Dai H, Wan N, Zhang S, Moore Y, Wan F, Dai Z. Groh et al. Journal of Neuroinflammation (2018) 15:194 References 2. Nave KA. Myelination and support of axonal integrity by glia. Nature. 2010
468:244–52. 3. Luders KA, Patzig J, Simons M, Nave KA, Werner HB. Genetic dissection of
oligodendroglial and neuronal Plp1 function in a novel mouse model of
spastic paraplegia type 2. Glia. 2017;65:1762–76. 4. Groh J, Martini R. Neuroinflammation as modifier of genetically caused
neurological disorders of the central nervous system: understanding
pathogenesis and chances for treatment. Glia. 2017;65:1407. Page 16 of 16 Page 16 of 16 Page 16 of 16 Groh et al. Journal of Neuroinflammation (2018) 15:194 Groh et al. Journal of Neuroinflammation (2018) 15:194 Koch MW, Cutter G, Stys PK, Yong VW, Metz LM. Treatment trials in
progressive MS—current challenges and future directions. Nat Rev Neurol. 2013;9:496–503. 11. Kawachi I, Lassmann H. Neurodegeneration in multiple sclerosis and
neuromyelitis optica. J Neurol Neurosurg Psychiatry. 2017;88:137–45. 35. Lassmann H, van Horssen J, Mahad D. Progressive multiple sclerosis:
pathology and pathogenesis. Nat Rev Neurol. 2012;8:647–56. 12. Winkelmann A, Loebermann M, Reisinger EC, Hartung HP, Zettl UK. Disease-
modifying therapies and infectious risks in multiple sclerosis. Nat Rev
Neurol. 2016;12:217–33. 36. Nelson F, Lebrun-Frenay C, Camu W, Boyko A, Thangavelu K, Rufi P, Cavalier
S, Truffinet P, Liang J, Lublin F. Outcomes in patients with progressive MS:
analysis of teriflunomide long-term extension data (P3.038). Neurology. 2016;86:P3.038. 13. Klebe S, Stevanin G, Depienne C. Clinical and genetic heterogeneity in
hereditary spastic paraplegias: from SPG1 to SPG72 and still counting. Rev
Neurol. 2015;171:505–30. 37. Lublin F. Long-term disability outcomes in teriflunomide-treated patients in
TEMSO and TOWER: an EDSS and FSS categorical analysis. 2017. http://
onlinelibrary.ectrims-congress.eu/ectrims/2017/ACTRIMS-ECTRIMS2017/199735/
fred.lublin.long-term.disability.outcomes.in.teriflunomide-treated.patients.in. html. 14. Merrill JE, Hanak S, Pu SF, Liang J, Dang C, Iglesias-Bregna D, Harvey B, Zhu B,
McMonagle-Strucko K. Teriflunomide reduces behavioral, electrophysiological,
and histopathological deficits in the Dark Agouti rat model of experimental
autoimmune encephalomyelitis. J Neurol. 2009;256:89–103. 15. Ringheim GE, Lee L, Laws-Ricker L, Delohery T, Liu L, Zhang D, Colletti N,
Soos TJ, Schroeder K, Fanelli B, et al. Teriflunomide attenuates
immunopathological changes in the dark agouti rat model of experimental
autoimmune encephalomyelitis. Front Neurol. 2013;4:169. 38. Moser HW. Adrenoleukodystrophies. In: Lazzarini RA, Griffin JW, Lassmann H,
Nave KA, Miller RH, Trapp BD, editors. Myelin biology and disorders, vol. 2. Amsterdam: Elsevier Academic Press; 2004. p. 807–39. 39. Barrette B, Nave KA, Edgar JM. Molecular triggers of neuroinflammation in
mouse models of demyelinating diseases. Biol Chem. 2013;394:1571–81. 16. Nair AB, Jacob S. A simple practice guide for dose conversion between
animals and human. J Basic Clin Pharm. 2016;7:27–31. 40. Klebe S, Depienne C, Gerber S, Challe G, Anheim M, Charles P, Fedirko E,
Lejeune E, Cottineau J, Brusco A, et al. Spastic paraplegia gene 7 in patients
with spasticity and/or optic neuropathy. Brain. 2012;135:2980–93. 17. Lin B, Peng EB. Retinal ganglion cells are resistant to photoreceptor loss in
retinal degeneration. PLoS One. 2013;8:e68084. 17. Lin B, Peng EB. Retinal ganglion cells are resistant to photoreceptor loss in
retinal degeneration. PLoS One. 2013;8:e68084. g
18. Sanes JR, Masland RH. 39.
Barrette B, Nave KA, Edgar JM. Molecular triggers of neuroinflammation in
mouse models of demyelinating diseases. Biol Chem. 2013;394:1571–81. 40.
Klebe S, Depienne C, Gerber S, Challe G, Anheim M, Charles P, Fedirko E,
Lejeune E, Cottineau J, Brusco A, et al. Spastic paraplegia gene 7 in patients
with spasticity and/or optic neuropathy. Brain. 2012;135:2980–93. Groh et al. Journal of Neuroinflammation (2018) 15:194 Cutting edge: programmed
death-1 defines CD8+CD122+ T cells as regulatory versus memory T cells. J Immunol. 2010;185:803–7. 26. Akane K, Kojima S, Mak TW, Shiku H, Suzuki H. CD8+CD122+CD49dlow
regulatory T cells maintain T-cell homeostasis by killing activated T cells via
Fas/FasL-mediated cytotoxicity. Proc Natl Acad Sci U S A. 2016;113:2460–5. 26. Akane K, Kojima S, Mak TW, Shiku H, Suzuki H. CD8+CD122+CD49dlow
regulatory T cells maintain T-cell homeostasis by killing activated T cells via
Fas/FasL-mediated cytotoxicity. Proc Natl Acad Sci U S A. 2016;113:2460–5. 27. Melzer N, Meuth SG. Disease-modifying therapy in multiple sclerosis and
chronic inflammatory demyelinating polyradiculoneuropathy: common and
divergent current and future strategies. Clin Exp Immunol. 2014;175:359–72. 27. Melzer N, Meuth SG. Disease-modifying therapy in multiple sclerosis and
chronic inflammatory demyelinating polyradiculoneuropathy: common and
divergent current and future strategies. Clin Exp Immunol. 2014;175:359–72.
|
W4327614331.txt
|
https://aladabj.uobaghdad.edu.iq/index.php/aladabjournal/article/download/3862/3439
|
en
|
The Representation of Bereavements
|
Al-ādāb
| 2,023
|
cc-by
| 3,836
|
Al-Adab Journal – Issue no (1) Vol. (144) (March)
2023 / 1444
The Representation of Bereavements: A Surrealistic Analysis of
Surviving Dead in Adrienne Kennedy’s She Talks to Beethoven
Prof. Hamid Hammad Abed (PhD)
University of Anbar/Center of Strategic Studies
hamed.abed@uoanbar.edu.iq
DOI: https://doi.org/10.31973/aj.v1i144.3862
ABSTRACT:
This study divulges the connection between the living and the
dead individuals. Although the dead separated from the world of the
living, they were unconsciously linked and remembered by some of
the living people. The personal grief is the calamity that generates an
expressive consequence to interrupt the person’s appropriate choice of
the surrounding objects. Adrienne Kennedy, in She Talks to
Beethoven, examines the furtive motives that dominate and govern the
individual’s thinking and behaviour throughout a certain critical state
of mind.
Key Words: Kennedy, bereavement, surrealistic, the dead,
Beethoven, Suzanne.
1-1- Adrienne Kennedy: A Biographical Sketch
Adrienne Kennedy (1931--) is one of the boldest AfricanAmerican playwrights who successfully exploit the theatre to portray
their own insufferable difficulties. She is renowned for
utilizing surrealism in her writings, which frequently characterized
without plot and highly symbolic. Her essential concern is initially
focused
upon
depicting
and
representing
the AfricanAmerican troubled relations. Kennedy has been extremely creative
and has viewed her work fashioned by many varied theatre companies
in the United States and Europe (Gray 2004: 688). Most of her works
examine the problems of racism, prejudice, injustice, and opposition
in American society which is described by other white playwrights as
an ideal country. For her, drama represents a social action not only as
a work of art away from reality (Krasner 2005: 58). Additionally, her
plays offer an expressive reflection to disclose how the past is secretly
lived. From Kennedy’s point of view, the past is something that
should be accumulated and interpreted. She is prominent in applying
signs and symbols to enhance her language. Actually, Kennedy looks
calm when she writes to be away from prejudice and unfairness. She
is as calm and thrift in her oral word as she is in her discussion. She
“remains beautiful and mysterious to me in her physical being as well
1
Al-Adab Journal – Issue no (1) Vol. (144) (March)
2023 / 1444
as in her writing, and the mystery creates a kind of glamour.”
(Harrison & et al 2012: 99). Consequently, “critics have associated
Kennedy with European absurdist because the form of her plays is
filled with symbols and repetitive language.” (Krasner 2005: 232).
Using such technique in writing demands experienced and intellectual
audience to comprehend the playwright’s purpose and intention.
In this regard, Jenny Spencer (2012:20) affirms that such
collection of prolific “critical perspectives points to Kennedy’s radical
openness but also suggests that her work is difficult, without scholarly
intervention, for audiences to understand”. Similar to her characters,
audience stay in restless expectation of unexplained and surprising
events, try to recognize things occur around them. For this reason, the
viewer remains at his best to know what is going on in the
playwright’s mind of ideas that he should present. Moreover, what
makes the idea more complicated is the playwright’s attempt to create
a close harmony between the living and the dead through using the
strange dialogues and situations. Moving between the living and the
dead by using surrealistic technique in presenting the individual’s
deprivation, produces a sense of pleasure and fear at the same time.
Consequently, Philip Kolin (2005: 4) argues that Kennedy confirms
that “for over 40 years she has been writing shocking, surrealistic
plays that have radically departed from realistic/naturalistic
conventions. Her plays are nightmares about a chaotic world of
shifting locations and selves”.
It is true that there is no way to comprehend the dead
existentially or epistemologically to the extent that even the most
potent philosophers were not able to make sense of this enigma. Death
in its basic sense is perceived in two types, the separation of a soul
from the body, and the declining of knowledge, light and science, and
the human mind. As a substitute, ignorance, darkness, and whims are
replaced to direct the human beings’ thoughts and activities. This
study highlights a very important issue, understanding the connection
between the living and the dead. Although the dead detached from the
world of the living, they were instinctively associated and memorized
by the living individuals. The personal heartache is a catastrophe that
creates emotional effects to disrupt the individual’s proper judgment
of the enclosed objects.
Essentially, the death of a loved one causes a profound misery,
emptiness, and despondency. This idea can be really depicted in
Kennedy’s play to trigger the audience’s minds. Philip Kolin (2005:
32) proposes that “Kennedy deliberately breaks open imaginative
space for her protagonists and invites the spectators, in a similar
manner, to enter her plays on their own terms”. Undoubtedly, the
2
Al-Adab Journal – Issue no (1) Vol. (144) (March)
2023 / 1444
playwright’s task is great particularly in making a direct conversation
between the dead and the living
Bereavement is the time of an anguish and sadness after a death
of the dearest one. When one feels sad, it is an indication of the usual
course of responding to a deprivation. Thus, the person may have a
psychological, physiological, and unsystematic reaction of grief. It is
noted that if sorrow is suspended and not characterized, it will cause a
gloomy shock to an afflicted person. The bereaved may experience
seclusion in his/her distress and require the aid of family, friends, and
neighbours to alleviate his agony. The bereavement implicitly
depicted by Kennedy is everlasting since it takes various shapes to
inspire both the people who love and the person who is loved.
Indisputably, Kennedy stays as one of the mainly bold “African
American women playwrights for both her dramatic techniques and
her representation of history.” (Kolin 2007: 80). Her boldness is
exemplified in depicting the white brutality against the black people
not only in American but all over the European countries. Boldness in
portraying the suffering of individuals requires the availability of
irrefutable evidence that prompts the viewer to believe what he reads
or watches.
1-2- She Talks to Beethoven (1989)
This play is written by Kennedy and it is one of her debatable
literary works. It portrays a lady sitting at home, paying attention to
radio news contemplating on her husband’s absence. She tries to busy
herself with reading Ludwig van Beethoven’s letters until the
composer himself arrives. He appears in her husband’s shape, to
support and alleviate her bereavement, fear, and infirmity. Suzanne,
(David’s wife) is a major character in this play who is used as a link
between the dead and living. A sudden disappearance of her husband
turns her to talk with the dead as a part of consolation of her hard
predicament. She reads from published diaries that “Beethoven did not
come. After waiting a long time, we drove to his lodgings to bring him
but he lay in bed sleeping soundly. Beside him stood a goblet with
wine and a biscuit in it.” (Kennedy 2001:140). Because of the difficult
situation in which the characters are left, the atmosphere of the play
shifts the audience to the surrealistic world. Their behaviours are
somehow irrational and unnatural, “though we encounter Kennedy’s
characters in surrealistic dreamscapes, the voice of history is strong in
almost all of her works.” (Kolin 2007: 62). Kennedy’s traumatized
characters are incarcerated in the cruelties of white institutions and
their own personal dilemmas.
3
Al-Adab Journal – Issue no (1) Vol. (144) (March)
2023 / 1444
In most of Kennedy’s plays, the recurrent character is also the
writer, Suzanne Alexander, who writes about and speaks to Beethoven
in a reflection that combines time into presence. It is surrounded by
radio broadcasts about Suzanne's husband, David, who is missing
under inexplicable circumstances; “he has received threats and had
disappeared to protect his wife from whom he is otherwise
inseparable.” (Bryant-Jackson & Overbeck 1992: 37). This play has
been built on a dialogue between the writer and composer with
reciprocal understanding regardless the remote distance. The
surrealistic sense is embodied in how Kennedy has created a kind of
communication between Beethoven, who died a long time ago, with
the person who speaks in this play. Incidentally, Unnatural and
irrational enquiry raised by Suzanne:
SUZANNE: Did I awaken you?
BEETHOVEN: I was dreaming of my mother and how every
year on Saint Magdalena’s day, her name and birth date, we would
celebrate. The music stands would be brought out. And chairs would
be placed everywhere and a canopy set up in the room where the
portrait of my grandfather hung.
SUZANNE: Wait. I want to talk to you. Before David
disappeared, he questioned me on passages I wrote about you in
Vienna....
BEETHOVEN: Perhaps you might seek a retreat in the woods,
Suzanne. It makes me happy to wander among herbs and trees (142).
This direct dialogue between the dead and living individual
confirms that Suzanne is living in a depressing nightmare. Patti
Hartigan (2000:113) asserts that Kennedy is one of those who are
influenced by a surrealistic technique, and that “her plays often unfold
on that sort of surreal landscape, where racial hatred can turn an
innocent daydream into a vicious nightmare”.
The use of inanimate objects in this play increases and
complicates Suzanne’s dilemma especially her listening to the radio to
hear something about her husband’s disappearance. On the radio, she
ponders on “Has David Alexander been murdered? The outspoken
professor at the University of Legon is still missing. As we have
reported, Alexander worked with Fanon in Blida and was friends with
the late Patrice Lumumba.” (143). In fact, the troubled psyche can
only be calm through hearing or reading good news about the cause of
its sadness and depression. In this respect, Georgie Boucher argues
that “Kennedy's fragmented characters are unfixed from traditional
positions in relation to one another.” (Boucher 2006: 95). Some
playwrights dispense with showing real characters on the stage and
shorten this by using the technique of inanimate objects. Although this
4
Al-Adab Journal – Issue no (1) Vol. (144) (March)
2023 / 1444
technique is not only used by Kennedy, it confirms the playwright’s
professionalism in employing everything to convey the intended
purpose.
It seems that Kennedy is firmly adamant that the relationship
between the living and the dead cannot be canceled because it is far
from reality. In this play, Kennedy portrays the spiritual connection
between Beethoven and Suzanne in order to recognize the real destiny
of her husband. The dead and living converse about her husband,
David:
SUZANNE: You must dress now for the concert.
BEETHOVEN: Please go to the theatre with me.
SUZANNE: I must watch the road for David.
BEETHOVEN: We'll stay together until David arrives. We'll
watch the road and go to the theatre together (145).
Asking the dead to know the fate of the living, gives a tragic
impression that the living do not pay any clear attention to the plight
of others. To show the sourness of tragedy, Claudia Barnett
(1996:145) asserts that “Kennedy's characters are frequently doomed
by tragedies they cannot control”. It is obviously expected that if a
person is exposed to a problem greater than his capacity for patience,
he will certainly resort to unnatural and unreasonable behaviour.
Under the pressure of bereavement, one cannot outline his
thinking properly. There is no doubt that all thinking is paralyzed to
the point where it is not possible to endure the anguish with accurate
awareness. Psychological frustration is the result of an internal
repression that cannot be easily perceived unless it has left an organic
effect on people who are not alert in dealing with difficult situations
seriously. Kennedy intends to portray her characters who “have
bodies that exhibit the psychological effects of years of external racist
abuse and internalized destructive psychology.” (Boucher 2006: 98).
Physically and mentally, Suzanne is fragmented that she cannot
comprehend which of the two worlds is the one that may shelter her.
The world of the dead reassures her as she attentively listens to
Beethoven’s words “I feel David will return by morning, perhaps on
the road with the musicians, perhaps even in disguise.” (145). It is
necessary to grasp how much David’s absence inflames her heart and
mind to hear any word of contentment wherever her husband is.
Kennedy’s play is regarded as dynamic literary work that stimulates
the audience opinion and consciousness. The audience, as Jenny
Spencer (2012: 30) affirms that “understanding the self-conscious
release of theatrical spectators to their own imaginations helps explain
the dynamic at work in Kennedy’s rarely performed play, She Talks to
Beethoven”.
5
Al-Adab Journal – Issue no (1) Vol. (144) (March)
2023 / 1444
In mirroring her hallucinating moment, Suzanne comprehends
that "Monday, the 26th of March 1827 was a freezing day. There was
no more breathing, no more heartbeat! The great composer's spirit fled
from this world." (149). The irrationality that Kennedy has fashioned
in this play, especially the dialogue between the living and the dead of
a very distant period like Beethoven, confirms that she is concerned
with a surrealistic procedure. Accordingly, Kennedy is viewed as one
of the only skilful black authors who utilized the surrealistic style of
drama (Bryant-Jackson & Overbeck 1992: 68). In this concern,
Kennedy proves her aptitude in delving into the realm of the dead,
which necessitates a great knowledge to transport the spectators to an
illusionary and surrealistic world. Her plays frequently clarify a nature
of surreal scenery, where racial detestation can change guiltless
reverie into a ferocious nightmarish (Hartigan 2000:113). Obviously,
the pain of bereavement widens the suffering of the individual who
cannot find a way to overcome his personal anxiety.
Kennedy's characters are constantly destined by calamities
beyond their control and comprehension. It is impossible to get rid of
these calamities passing through submission, but by serious and strong
determination away from confusion that may complicated normal
situations. Since there was a great confusion in her mind, Kennedy
has disclosed that “she has turned that confusion into complex
drama.” (Gray 2004: 688). Kennedy’s psychological representation of
her protagonists is “a mosaic of traditional (archetypal) female fears
and fantasies and whose consciousness of self is both male and
female.” (Curb 1980: 181). Exposing the exhausted psyche needs
precise exploration to appreciate the truth.
It is the fact that Kennedy’s use of surrealism and
expressionism help clarify the psychological deterioration of her
feminine protagonists in the first place. Dreams and images are
efficiently occasioned to depict such psychological conflict.
Surrealism is implicitly outlined as a catalyst for expressing the inner
conflict. One of Kennedy’s favourite stylistic techniques is the use of
repetition. Such a repetition often occurs as unconscious repetition: as
present performance of what the conscious memory fails to recall. She
Talks to Beethoven is one of Kennedy’s Alexander Plays published in
1992. The other plays in this collection are The Ohio State Murders,
The Film Club, and Dramatic Circle. The protagonist in these plays is
Suzanne Alexander, whose character represents Kennedy herself.
Suzanne is a fictional creation of Kennedy’s perception. She is a very
reputed black dramatist who holds the responsibility of recording with
honesty and truth the violence and oppression practiced against the
blacks in the course of history. Kennedy unmasks her own traumatic
experiences when she presents Suzanne's character (Kolin 2005: 116).
6
Al-Adab Journal – Issue no (1) Vol. (144) (March)
2023 / 1444
In her People, Kennedy reveals how Ludwig van Beethoven
(1770–1827) was a source of artistic and personal inspiration for her:
I bought a foot-high ivory statue of him at Pellenberg’s on
Broadway and put it on my desk for inspiration and read and reread
Sullivan's book on the life of Beethoven-his spiritual development, his
music, and his lukewarm Danube bath and his growing deafness- and I
listened to his string quartets (Lee 2012: 243).
The play explores the story of Suzanne Alexander, who tries to
compensate the difficult absence of her husband. Her main concern is
to be assured of her husband’s destiny. This problem is intelligibly
shown through her association with Beethoven who shares much of
her personal anxiety. Suzanne’s aspiration to set wrong things right,
appears to be completely destroyed by the pressing realities of life. In
a well- fictionalized conversation, both Suzanne and Beethoven
exchange their own grievances and concerns about their exceptional
predicaments. Philip Kolin (2007: 122) maintains that “the two artists
share secrets, lament maladies, and inscribe ideas in each other's
works”. The action here shows the close correlation between listening
and seeing. Suzanne finds solace in listening to music, which shifts
between African chordal instruments that Ghanaians play outside the
house and Beethoven’s own masterpiece. Her listening is intended to
progressively lessen the agony of bereavements.
As the play moves, parts of Suzanne’s condition, her bad health
and separation, her devotion to writing, her emotion of being
misinterpreted become very clear (Spenser 2012: 31). To verify a
surrealistic tone, the play ends with a note of hope and reconciliation,
Suzanne asks David whether he has sent Beethoven to her, and
David’s voice answers in the affirmative “I knew he would console
you while I was absent.” (155). Carol Allen (2005: 210) states that
“this doubling over and blurring suggests that “I” is fluid, David
thanking the artist for filing in, but also Beethoven pledging that he
will return when David leaves again”.
Beethoven is the means by whom Suzanne can relax her heartrending separation from her husband. In her physical and
psychological bereavement, Suzanne talks with Beethoven’s spirit to
purify the troubled part of her mind and psyche. Listening carefully
and thoughtfully to Beethoven’s musical art inflames her enthusiasm
to recognize the eternal disappearance of her husband (Lee 2012:
210). In this regard, the world of dreams and illusions has governed
Suzanne’s confidence that she finds it as an actual relief and solace. It
is noted that the pain of loss is so severe and it becomes impossible to
gather scattered spirit. Therefore, it turns out to be very necessary for
the possibility of overcoming the bereavements in the midst of the
psychological labyrinth that imposed by intolerable circumstances.
7
Al-Adab Journal – Issue no (1) Vol. (144) (March)
2023 / 1444
1-3-Conclusion:
Not always the modern American playwrights have outlined a
recommended solution for their literary works, but they left the
exposed social problems unsettled to confirm the endless pain of the
distressed individuals. Psychologically, Suzanne is lost between two
dilemmas, either to trust her an illogical false impression or to believe
the actual death of her husband. The play reflects the increasing
division of Suzanne’s consciousness since she is deserted without any
support from her friends or relatives to tolerate her grief. There is
unknown range of misery, but its severity tends to decrease with time.
But, if grief worsens over time rather than improves or interferes with
the ability to function in daily life, a grief counselor or other mental
health provider should be consulted. A sense of control and direction
in her life can be reestablished and back on the path to recovery, if
healthy professional support has been prescribed. Like Suzanne, the
problem of some women is that they cannot endure daily life without
their husbands.
Kennedy utilizes a Surrealistic technique to visualize the
unbearable human experience. By this technique, she makes a balance
between rational visibility of life and the devotion of the unconscious
and misconception. Accordingly, surrealist theatre is an unusual
theatre. Those who are concerned with this type of technique believe
that the theatre is an unavoidable need, due to its serious effect on the
audience. Their purpose is to delineate uniqueness, moods, and
disorder filled with freedom to stimulate surprise. The expression of a
secluded life to free one from its nightmares, is the aim of most
successful playwrights. In conclusion, Kennedy has portrayed her
agonized protagonist in a way that she succeeds in creating a sense of
suspense to produce a bright representation of bereavements.
References
Allen, Carol. (2005). Peculiar Passages: Black Women Playwrights,
1875 to 2000. New York: Peter Lang Publishing, Inc.
Barnett, Claudia. (1996). "This Fundamental Challenge to Identity"
Reproduction and Representation in the Drama of Adrienne Kennedy.
Theatre Journal, Vol. 48, No. 2, pp. 141-155.
Boucher, Georgie. (2006). “Fractured Identity and Agency and the
Plays of Adrienne Kennedy”. Feminist Review, No. 84, Postcolonial
Theatres, pp. 84-103.
Bryant-Jackson Paul & Overbeck, Lois More. ed. (1992). Interesting
Boundaries, The Theatre of Adrienne Kennedy. Minnesota: University of
Minnesota.
Curb, Rosemary K. (1980). “Fragmented Selves in Adrienne
Kennedy’s “Funny House Negro” and “The Owl Answers”, Theatre
Journal, 32, 2, pp. 180-195.
8
Al-Adab Journal – Issue no (1) Vol. (144) (March)
2023 / 1444
Gray, Richard. (2004). A History of American Literature. Oxford:
Blackwell Publishing Ltd.
Harrison, Paul Carter & et al. (2012). “Personal Perspectives on
Adrienne Kennedy” Modern Drama, Volume 55, Number 1, pp. 90-99.
Hartigan, Patti. (2000). “A Fragile Ferocious African-American
Playwright. The Journal of Blacks in Higher Education, No. 28, pp. 112113.
Kennedy, Adrienne. (2001). The Adrienne Kennedy Reader.
Minneapolis: University of Minnesota Press. All quoted speeches from this
edition.
Krasner, David. ed. (2005). A Companion to Twentieth-Century
American Drama. Oxford: Blackwell Publishing.
Kolin, Philip C. ed. (2007). Contemporary African American Women
Playwrights. London: Routledge Taylor & Francis Group, 2007.
Kolin, Philip C. (2005). Understanding Adrienne Kennedy. South
Carolina: University of South Carolina Press, 2005.
Lee, Insoo. (2012). “Reading and Writing as Transformative Action
in Maria Irene Fornes’s and Adrienne Kennedy’s Plays.” Diss. U of
Pittsburgh, ProQuest Dissertations & Theses Database. Michigan State U
Libraries, USA.
Spencer, Jenny. (2012). “Emancipated Spectatorship in Adrienne
Kennedy’s Plays.” Modern Drama, 55, 1, pp. 19-39.
9
2023 / 1444
)Al-Adab Journal – Issue no (1) Vol. (144) (March
تصوير الفواجع :تحليل سريالي لألموات اإلحياء في مدرحية أدريان كنيدي
المدتخلص:
(تتحدث مع بيتهوفن)
تكشف ف ف ال ف ففعناالع االة ف ففةاب ف ففخاالاألح ف ففةاالت .ف ففةا ف ف ف خاا
بلف ففغاالف ففصالا ف ففخاا عا ف ف اال ف ف تغابف ففخاب ف ف للاا
ال ف ف ف بخا ت ف ففغاةطف ف فصاللاا ل ف ففع ال ف ففعخاا هف ف فصاةاا
ف ففت
ف ف أاهماك نف ففلاط ف ف اا ف فصت
خا ا لنف ففلا
ف ف ف اك اال ف ف ف االشتاف ف ف الف ف ف االك ال ف ففةا
الت ف ف اتكش ف ف اطكت ف ففةا اخف ففص ال كف ففلاالشف ففتيا ف ففخاامات ف ف الاال ك ة ف ف ال
ت ففف
اا
ففف ا ا ففف ا
ا
ف ف اال
ف ففةا ف ف ا
اكةالي ف ف ف اط ك ف ف ففع أاه ف ف ف ا لف ف ففص تن ا تت ف ف ففع ا ف ف ففلا تن ف ف ف هخ اهلف ف ففغات ا ف ف ف االف ف ففع اهلا
اللف فصيةاالتف ف اتن ف ف خابل ففغاتعك ففصاالعف ففصةا ة ففل ط ا تفففت لا ف ف ال ف ف
صجة
10
ااأللن ف ف ا ل ففةاةلك فففةا
|
|
https://openalex.org/W1537266360
|
https://periodicos.ufmg.br/index.php/aletria/article/download/17922/14712
|
Portuguese
| null |
Eugênio de Andrade: Um Dizer rente à Turbulência
|
Aletria
| 2,002
|
cc-by
| 4,800
|
E U G Ê N I O D E AN D R A D E
u m d i z e r r
u m d i z e r r
u m d i z e r r
u m d i z e r r
u m d i z e r r e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a E U G Ê N I O D E AN D R A D E
u m d i z e r r
u m d i z e r r
u m d i z e r r
u m d i z e r r
u m d i z e r r e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a Disponível em: http://www.letras.ufmg.br/poslit E U G Ê N I O D E AN D R A D E
u m d i z e r r
u m d i z e r r
u m d i z e r r
u m d i z e r r
u m d i z e r r e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a
e n t e à t u r b u l ê n c i a Edgard Pereira
UFMG RRRRR E S U M O
E S U M O
E S U M O
E S U M O
E S U M O
Algumas reflexões sobre a presença do corpo, a ambigüidade
sexual e o afeto na produção poética de Eugênio de Andrade. RRRRR E S U M O
E S U M O
E S U M O
E S U M O
E S U M O
Algumas reflexões sobre a presença do corpo, a ambigüidade
sexual e o afeto na produção poética de Eugênio de Andrade. PPPPP A L A
A L A
A L A
A L A
A L A V R A S
V R A S
V R A S
V R A S
V R A S ----- C H A
C H A
C H A
C H A
C H A V E
V E
V E
V E
V E
poesia portuguesa contemporânea, ambigüidade sexual,
fisicidade, homoerotismo. PPPPP A L A
A L A
A L A
A L A
A L A V R A S
V R A S
V R A S
V R A S
V R A S ----- C H A
C H A
C H A
C H A
C H A V E
V E
V E
V E
V E Se a sexualidade, como queria Foucault, constitui na modernidade a experiência
fundamental da finitude, do limite e da transgressão, sua articulação com a linguagem
poética, lugar em que o discurso se questiona e desmorona, assume um caráter decisivo,
assinalando até onde a linguagem pode ir. Como experiência do limite, a sexualidade liga a
ultrapassagem do limite à morte de Deus, deixando extenuado e vazio o indivíduo que
nela tudo aposta. Algo semelhante ocorre na experiência poética, quando a impossibilidade
da escrita desaloja o sujeito de uma suposta potência, fraturando-o e dispersando-o. Se a
sexualidade possibilita o contato com o limite e a transgressão, sua estreita relação com a
poesia, linguagem complexa ancorada no simbólico e na subjetividade, tende a direcionar-
se quase sempre numa vertente libertária. Pelo menos esta pode ser uma leitura, num
horizonte de possibilidades mediatizadas pelo contexto social e pelas articulações semióticas
operadas por um determinado sujeito. É com esta convicção que nos propomos a
acompanhar a evolução da sensibilidade homoerótica na poesia de Eugênio de Andrade. Embora tenha publicado dois títulos anteriormente, a consagração literária de Eugênio
de Andrade se dá em 1948, com As mãos e os frutos, livro merecedor de recepção crítica
positiva (para não dizer eufórica) em escala ascendente desde o seu lançamento até os dias
atuais. O contexto acanhado e provinciano da sociedade portuguesa vê-se diante de uma
sofisticada e perturbadora produção poética, elaborada em torno de ambígua e intensa
relação amorosa que não se ousa dizer abertamente, apesar de explorar imagens reveladoras
de uma forte sensibilidade homoerótica. O poema X, transcrito a seguir, revela inegáveis
méritos de ritmo e efeitos alcançados pelo inesperado encadeamento metafórico, além de
esboçar um retrato masculino marcado pela idealização: 117 2002 - ALETRIA 2 SENA. Observações sobre As mãos e os frutos, p. 273-274. 1 ANDRADE. Antologia breve, p.19. 3 LOURENÇO. AAVV. 21 ensaios sobre Eugênio de Andrade. Disponível em: http://www.letras.ufmg.br/poslit Green God Trazia consigo a graça
das fontes quando anoitece. Era o corpo como um rio
em sereno desafio
com as margens quando desce. Andava como quem passa
sem ter tempo de parar. Ervas nasciam dos passos,
cresciam troncos dos braços
quando os erguia no ar. Sorria como quem dança. E desfolhava ao dançar
o corpo, que lhe tremia
num ritmo que ele sabia
que os deuses devem usar. E seguia o seu caminho,
porque era um deus que passava. Alheio a tudo o que via,
enleado na melodia
de uma flauta que tocava.1 A construção de um corpo masculino sedutor e atraente, movendo-se entre o
dinamismo e a fluidez, o natural e o ideal, realidades aparentemente dispersas, articula-se
a uma ideologia de valorização do masculino na sociedade ocidental desde o século XIX. A novidade para a cena portuguesa era, sem dúvida, falar do corpo masculino com uma
desenvoltura erótica inusitada, realçando de forma agressiva uma certa fixação em elementos
fálicos (no caso, a “flauta que tocava”, em outros poemas, os braços (do parceiro)
“deslumbrados”, “nus e suados”; em Obscuro domínio, alude-se à “sombra de um lírio entre
as pernas”). A fortuna crítica deste poema é notável. Jorge de Sena refere-se, entre outras
coisas, à última estrofe: Note-se que o ele ir “enleado na melodia/ de uma flauta que tocava” pode aludir
falicamente, de uma maneira notavelmente transposta, à sexualidade não-disponível
da jovem personagem masculina deificada no poema: vai embebido em tocar-se o
sexo (...), sem que isso signifique que o faz deliberadamente para atrair a atenção dos
circunstantes para a sua virilidade.2 Eduardo Lourenço, fundamentado em convicções filosóficas e essencialistas, preferiu
ver no poema a “imersão do divino no natural e do natural no divino”.3 Convincente como
elaboração filosófica, a análise de Lourenço hoje cheira a mofo, tendo em vista o crescente
desenvolvimento dos estudos de homocultura, ainda mais em face de um texto paradigmá- 118 A L E T R I A - 2 0 0 2 Disponível em: http://www.letras.ufmg.br/poslit tico de uma concepção vincadamente gay. A comparação do corpo do outro (o parceiro) a
um rio retorna no poema XVIII, acentuando a idéia de integração de dois corpos:
“Impetuoso, o teu corpo é como um rio/ onde o meu se perde. / Se escuto, só oiço o teu
rumor. / De mim, nem o sinal mais breve”. Green God Símbolo antigo da fertilidade, o rio relaciona-se
a música, sugerindo não apenas a união de dois rios (os dois corpos), mas a união
harmoniosa. Alexandre Pinheiro Torres comenta: Curioso é verificar que ambos os corpos são comparados a rios, pelo que haverá que
concluir que um rio desaguará noutro rio. Este ponto não é tão irrelevante como poderá
parecer. Recordem-se que os rios em Lorca não vão dar ao mar. Acabam em tanques. E o tanque é, por sua vez, símbolo da esterilidade.4 (grifos do autor) A idéia de esterilidade, em As mãos e os frutos, inscreve-se na metáfora da folha, se
relacionada a flor e fruto. No poema 24, num cenário de “silêncio e solidão”, somos
comparados a “folhas breves”, uma vez que frágil e passageira é toda vida; somos ainda
identificados a folhas “incapazes de ser flor”, portanto estéreis: Somos folhas breves onde dormem
aves de silêncio e solidão. Somos só folhas ou o seu rumor. Inseguros, incapazes de ser flor,
até a brisa nos perturba e faz tremer. Somos folhas breves onde dormem aves de silêncio e solidão. Somos só folhas ou o seu rumor. Importa observar que nesse mundo de esterilidade passa o amado “entre as folhas”,
operando uma geral transformação, fazendo tudo nascer ou renascer: “Quando em silêncio
passas entre as folhas, / uma ave renasce da sua morte/ e agita as asas de repente”. Um
atributo, entretanto, é próprio da folha, a sensibilidade. De acordo com Torres: “A folha
simboliza certamente, na sua fragilidade, na facilidade com que estremece, a capacidade
humana para a emoção, talvez para o terror, qualquer coisa que apenas uma brisa bastará
para perturbar”.5 Desde então esta poesia, aparentemente frágil em termos de militância gay, instaura-
se como espaço de ambigüidade sexual, na medida em que intersecciona a celebração de
uma experiência erótica interdita à melancólica expressão desta interdição. Ao construir
uma escrita poética visceralmente ligada ao corpo, o sujeito de enunciação tem-se marcado
por insistir nos traços reveladores “da melancolia face às repressões”, de acordo com a
análise de Joaquim Manuel Magalhães,6 uma melancolia quase sempre articulada a uma
luminosa perspectiva de desejo e de prazer. 4 TORRES. O conflito entre o instinto e a sociedade em As mãos e os frutos de Eugênio de Andrade, p. 6.
5 TORRES. O conflito entre o instinto e a sociedade em As mãos e os frutos de Eugênio de Andrade, p. 8.
6 MAGALHÃES. Os dois crepúsculos, p. 107. Green God Desde esse livro de fulgurantes claridades,
entretanto, os olhos surgem “carregados de sombra”, para um sujeito consciente de que
“Só as tuas mãos trazem os frutos”, como se afirma num dos poemas, sugerindo a idéia de
que a produção e a fertilidade (as mãos e os frutos) são atributos do outro, aquele que
impedirá a desertificação do corpo. A tônica dos poemas constitui a idéia de que a existência
é transformada pela oferta simbólica dos frutos realizada pelo outro. As palavras interditas
(1951) é um livro marcado pela experiência da guerra, o que não significa afastamento da
temática amorosa: 119 2002 - ALETRIA Disponível em: http://www.letras.ufmg.br/poslit (...)
As palavras que te envio são interditas
até, meu amor, pelo halo das searas;
se alguma regressasse, nem já reconhecia
o teu nome nas suas curvas claras. Dói-me esta água, este ar que se respira,
dói-me esta solidão de pedra escura,
estas mãos nocturnas onde aperto
os meus dias quebrados na cintura. E a noite cresce apaixonadamente. Nas suas margens nuas, desoladas,
cada homem tem apenas para dar
um horizonte de cidades bombardeadas.7 As marcas da guerra (“este ar que se respira”, “cidades bombardeadas”) não
conseguem eliminar a rigorosa articulação entre poesia (“as palavras que te envio”) e
vivência amorosa (“a noite cresce apaixonadamente”). Tem sido muito debatida a rasura da nomeação explícita do referente amoroso na
poesia de Eugênio de Andrade. A ocultação do gênero sexual do parceiro é uma constante
nesta poesia. As inspiradas relações amorosas se ressentem de uma explicitação da opção
sexual, ou o parceiro é referido através de uma zona vazia ou um pronome neutro. A
excessiva cobrança de uma visibilidade homoerótica nem sempre leva em conta, entretanto,
o contexto repressivo da sociedade portuguesa dos anos 50 aos 70. Joaquim Manuel
Magalhães tem discutido essa rasura da visibilidade homoerótica com argumentos que variam
da irritação à tentativa de inserção da poesia de Eugênio de Andrade num projeto político. ....[os livros subseqüentes a Limiar dos pássaros] afirmam uma linha de tristeza, mesmo
que face a circundantes esplendores, que é simultaneamente pessoal e política. E
política não apenas por se inscrever numa história colectiva de quotidiano reprimido
pela organização totalitária do Estado, mas por ter de calar uma história pessoal
reprimida pela moral maioritária: “As palavras que te envio são interditas”.8 Um aspecto decisivo nesta poesia é sua gradual evolução no sentido de incorporar a
inclinação homoerótica. 7 ANDRADE. Antologia breve, p. 39-40. 8 MAGALHÃES. Os dois crepúsculos, p. 109-110. Disponível em: http://www.letras.ufmg.br/poslit 9 SENA. Observações sobre As mãos e os frutos, p. 251.
10 SENA. Observações sobre As mãos e os frutos, p. 272-273.
11 SENA. Observações sobre As mãos e os frutos, p. 273.
12 ESCOBAR. Dossier Deleuze, p. 151. Green God Além de se tornarem mais constantes, as alusões à cultura gay
revestem-se por vezes de um tom sombrio e negativo, como possibilitam alterações lexicais
ou de imagens. Um dos poemas de As mãos e os frutos sofreu importantes modificações na
edição subseqüente. Para acompanhar o que se segue, é necessário uma remissão ao poema
VIII daquele livro: Foi para ti que criei as rosas. Foi para ti que lhes dei perfume. Para ti rasguei ribeiros
e dei às romãs a cor do lume. Foi para ti que pus no céu a lua
e o verde mais verde nos pinhais. 120 A L E T R I A - 2 0 0 2 Disponível em: http://www.letras.ufmg.br/poslit Disponível em: http://www.letras.ufmg.br/poslit Foi para ti que deitei no chão
um corpo aberto como os animais. Foi para ti que deitei no chão
um corpo aberto como os animais. O último verso na edição de 1948 dizia: “uma mulher pura como os animais”. Esta
variante – “um corpo aberto como os animais” - passa a circular a partir de 1968 (Poemas)
quando cinco poemas sofrem profundas modificações. Mesmo reconhecendo que nenhuma
delas tenha afetado “o arranjo estrófico dos versos”, Jorge de Sena considera-as reveladoras
de mudanças da “personalidade do poeta”,9 complementando algumas observações sobre a
“curiosíssima” alteração: Na primeira forma, “mulher pura” era uma sugestão violenta mas corrente (a violência
vinha do contraste com “animais”, antes de o leitor se aperceber de que “pura”
significava “livre de pecado”, logo não-humana, ou seja não restringida pelas
convenções morais e sexuais que limitam e deformam o humano, ou o impedem de
ser, sem pecado, natural, um natural em que se inclui qualquer “contra-natura”, definida
por aquelas convenções). “Corpo aberto”, na experiência, é-o muito menos [violento],
mas implica generalidade e ambigüidade quanto ao sexo da personagem que o poeta
declara haver deitado no chão para a pessoa desejada; e é sem dúvida uma imagem
(ou metáfora) mais incisiva.10 Mais do que curiosíssima, a variante definitiva afasta-se de juízos morais presentes
em “mulher pura”, eliminando também a notação de gênero (mulher), ainda que mantenha
a “generalidade” referida por Sena (um corpo aberto tanto pode ser de homem como de
mulher). 9 SENA. Observações sobre As mãos e os frutos, p. 251.
10 SENA. Observações sobre As mãos e os frutos, p. 272-273.
11 SENA. Observações sobre As mãos e os frutos, p. 273.
12 ESCOBAR. Dossier Deleuze, p. 151. Green God Não deixa também de ser enriquecedora a nota de rodapé no texto de Jorge de Sena: Corpo aberto significará ou sugerirá “corpo que se abre”, “corpo que se entrega”, “corpo
que não resiste à posse”, “corpo sensualmente apaixonado” - o que é reforçado por
como os animais: “corpo sem inibições de ordem moral”, “corpo de que nenhuma parte
se fecha ou retrai ante as mais diversas formas do contacto erótico”.11 (grifos do autor) Sena reclamava no mesmo texto da “irregularidade lógica” da variante “corpo aberto
como os animais” (para ele, deveria ser “corpo aberto como os dos animais”). Não seria
ocioso mencionar a aliança homem/natureza como retificadora da fórmula preferida pelo
poeta, destacando o fato de o corpo aberto e desejante ser incapturável pelo pensamento
lógico. A variante evidencia ainda as intensidades e as desproporções que assolam as
sensações do corpo – esse grande ausente dos debates filosóficos do Ocidente. O corpo (...) perdurou “ausente” nos pares categoriais (morais e disciplinares) das
ficções do humano e da animalidade, da cultura e da barbárie, do real e do simbólico,
e assim sucessivamente na história das filosofias e nas crenças humanas e sociais.12 O corpo passa a ser visto na moderna masculinidade como elemento aglutinador de
valores extraídos pela classe média de vários estratos socioeconômicos (a ética do trabalho
e da família, herança da burguesia; a solidez, a coragem e a generosidade, herança da 121 2002 - ALETRIA Disponível em: http://www.letras.ufmg.br/poslit aristocracia; a beleza e a harmonia de formas, herança da antiguidade clássica). Nomeando
o corpo desejante, dionisíaco, aquele que não se deixa domesticar pela filosofia e pelos
aparelhos de controle ou de vigilância estatal, o poema de Eugênio de Andrade distancia-
se ainda do senso de culpa e de qualquer contaminação edipiana, apagando as ressonâncias
e formas de tirania e opressão, mesmo as pequenas, de que nem nos damos conta, de tal
forma a elas nos habituamos. O “corpo aberto como os animais”, corpo sem cérebro e à
deriva, sela o poema com uma chave alegre e inusitada, sugerindo a fruição do prazer
vivido intensamente, em direção a uma experiência e a uma tecnologia do desejo não mais
freudiana e sim de tendência deleuziana. Além das formas colossais de fascismo, existem
as “formas pequenas que fazem a amarga tirania de nossas vidas cotidianas”,13 de que fala
Foucault a respeito do livro O anti-Édipo, de Gilles Deleuze. 13 ESCOBAR. Dossier Deleuze, p. 84.
14 DELEUZE e GUATTARI. O anti-Édipo, p. 151-152.
15 SEDGWICK. Epistemology of the Closet, p. 1. Disponível em: http://www.letras.ufmg.br/poslit Green God 122 A L E T R I A - 2 0 0 2 Disponível em: http://www.letras.ufmg.br/poslit Disponível em: http://www.letras.ufmg.br/poslit Uma evidência se impõe, o controle da sociedade burguesa patriarcal sobre grupos
minoritários, o que leva Georges Chauncey a afirmar que “o controle da homossexualidade
não é senão um aspecto do controle da heterossexualidade”.16 Outra evidência
incontornável: o papel destacado que o homoerotismo masculino ocupa no cânone literário
ocidental. Os gay and lesbian studies tentam provar que as opções sexuais seriam
conseqüências de uma construção cultural, implicando escolhas e estratégias diferentes. A poesia de Eugênio de Andrade, visceralmente ligada ao corpo, ele próprio
atravessado pelas astúcias da sedução e do desejo, apresenta uma evolução no trato com o
homoerotismo, Se nos damos ao cuidado de verificar que As mãos e os frutos é de 1948, em
pleno contexto de repressão moral e política, cumpre reconhecer as estratégias de ocultação
de uma sensibilidade gay, apesar de jamais apagadas. As variantes aplicadas aos poemas
apontam não limitações de linguagem, mas estratégias mediadoras de visibilidade
homoerótica, a se revelar entre o sinal de mais e o de menos. Cumpre mencionar, noutra
modificação efetuada em outro poema à edição original, cujo universo semântico se
aproxima ao do verso que se está comentando (corpo aberto/ corpo que se abre; mulher
pura, madrugada pura), que a variante dada como definitiva (de 1968) representa um
retrocesso em termos de visibilidade homoerótica. Trata-se do verso “O teu corpo, completo,
abre na madrugada”, modificado para “Que palavra/ abre a noite à mais pura madrugada?”
Diante dessa variante empobrecedora insurge-se, perplexo, Jorge de Sena: Mas qual a razão, por certo fortíssima, de ser substituído um verso lindíssimo como O
teu corpo completo, abre na madrugada, com a sua sugestão de corpo que se abre, para a
entrega amorosa, e se abre completo, dando-se inteiro, tal como as flores que abrem no
amanhecer?17 Desde As mãos e os frutos (1948), Os amantes sem dinheiro (1950), As palavras interditas
(1951), Mar de setembro (1961), Véspera da água (1973), Limiar dos pássaros (1976), Rente
ao dizer (1992), entre muitos outros títulos, Eugênio de Andrade vem construindo uma
obra densa de alusões a Eros na vida cotidiana. A simplicidade dos recursos, a proximidade
do afeto, a descrição maliciosa, a integração com os elementos naturais, o discurso ciciado
nas margens e fronteiras da fruição amorosa, a ambigüidade sexual transparecem nos seus
poemas. Green God Nesse mesmo texto, Foucault
afirma que o livro referido “não concebe oposição entre o homem e a natureza, a natureza
e a indústria, mas simbiose e aliança”, tal como ocorre em “corpo aberto como os animais”. É desagradável ter que dizer coisas tão rudimentares: o desejo não ameaça uma
sociedade porque é desejo de deitar com a mãe, mas porque é revolucionário. E isto
quer dizer, não que o desejo é outra coisa diferente da sexualidade, mas que a
sexualidade e o amor não vivem no quarto de dormir de Édipo, eles sonham mais com
uma grande amplidão, e fazem passar estranhos fluxos que não se deixam estocar em
uma ordem estabelecida. O desejo não “quer” a revolução, ele é revolucionário por si
mesmo e como que involuntariamente, querendo o que quer.14 Data de fins do séc. XIX, mais precisamente do processo de Wilde (1885), a crise em
torno do masculino, com o deslizamento semântico (ou melhor, confusão) provocado pelas
identidades de gênero e identidades sexuais (heterossexual e efeminado, homossexual e
efeminado, homossexual e viril) com profundas conseqüências no pensamento e ciência
modernos. ...muitas das mais importantes articulações do pensamento e do conhecimento na
cultura ocidental do séc. XX como um todo estão estruturadas – na realidade,
fraturadas, – por uma crise crônica, agora endêmica, de definição homo/heterossexual,
nomeadamente masculina, que data do fim do séc. XIX.15 A partir da primeira década do século XX começa-se a falar de homossexualidade
para definir a sexualidade das pessoas cujo objeto de amor preferencial era uma pessoa do
mesmo sexo. A psicanálise freudiana revela dificuldade em reconhecer a opção sexual
calcada na diferença, corroborando uma milenar exclusão moral. Vista como exceção ao
desenvolvimento paradigmático da libido, a homossexualidade é tratada como patologia
no romance realista. Até meados do século XX, em geral, as relações homossexuais aparecem
na literatura de forma sombria e carregadas de senso de culpa (Proust, Gide, Wilde, Thomas
Mann), quase sempre como o amor que não ousa declarar-se. A partir dos anos 70 do
século passado, o homoerotismo passa a ser visto como uma vertente específica de uma
cultura minoritária, diante de um grupo heterossexual majoritário, mais ou menos opressivo. 16 CHAUNCEY. Genres, identités sexuelles et conscience homosexuelle dans l’Amérique du XX siècle,
p. 107. 17 SENA. Observações sobre As mãos e os frutos, p. 281-282. M
M
M
M
M O T S
O T S
O T S
O T S
O T S ----- C L É S
C L É S
C L É S
C L É S
C L É S poésie portugaise contemporaine, ambiguïté sexuelle, poésie portugaise contemporaine, ambiguïté sexuelle,
affection, homoérotisme. poésie portugaise contemporaine, ambiguïté sexuelle,
affection, homoérotisme. Green God Referência tutelar na expressão mítica do homoerotismo, quase sempre caudatária
de um grito libertário, mais sugerido que enunciado, sua poesia influencia sobremaneira
uma sensibilidade poética que vai surgir nos anos setenta, com a celebração do corpo e de
uma sexualidade terrivelmente dispersa. Para concluir esta incursão por alguma poesia de Eugênio de Andrade, como subsídio,
trago depoimentos do próprio poeta, em vários momentos manifestando circunstâncias
ligadas à sexualidade em sua aproximação com a Espanha. Os testemunhos, de grande
valia biográfica para a compreensão da sexualidade nesta poesia, dispensam comentários. O primeiro depoimento vem em Os afluentes do silêncio: “aconteceu-me o que tinha que
acontecer para que Espanha se tornasse em mito: o amor e a poesia iam encontrar-se e
reconhecer-se”. (“Com Angel Crespo por vários caminhos”). Outro depoimento aparece 123 2002 - ALETRIA Disponível em: http://www.letras.ufmg.br/poslit em Rosto precário: “(...) por razões que quero calar, a partir de 1961, após umas férias no
País Basco, onde escrevi em grande parte Mar de setembro (eis a dívida maior com a Espanha:
uma paixão e um livro)”. O terceiro depoimento é uma entrevista escrita pelo poeta a
Joaquim Manuel Magalhães. À pergunta: Como foi sua relação com Espanha?, responde
Eugênio de Andrade: Foi, antes de mais, afectiva. E ligação de juventude, que atingiu o seu zênite nos anos
50. Mas começa com uma avó materna, de Valverde del Fresno (eu nasci perto da
fronteira), e com idas freqüentes, ainda menino de colo, a Cória, onde meu avô se
encarregava de obras de construção civil. Em casa dizia-se que foi em Espanha que me
nasceram os primeiros dentes. A relação afectiva prossegue em Lisboa, teria eu onze/
doze anos, com um rapazito das bandas de Compostela, três ou quatro anos mais velho,
que se hospedara na nossa casa. Além de uns rudimentos de sexualidade, devo-lhe a
leitura do Quixote, coisas ambas que tiveram para mim a sua importância.18
AA AA RRRRR É S U M É
É S U M É
É S U M É
É S U M É
É S U M É Quelques réflexions sur la présence du corps, l’ambiguïté
sexuelle et l’affection dans la production poétique de Eugênio
de Andrade. M
M
M
M
M O T S
O T S
O T S
O T S
O T S ----- C L É S
C L É S
C L É S
C L É S
C L É S
poésie portugaise contemporaine, ambiguïté sexuelle,
affection, homoérotisme. 18 MAGALHÃESl. Rima pobre - poesia portuguesa de agora, p. 284-285. Disponível em: http://www.letras.ufmg.br/poslit Disponível em: http://www.letras.ufmg.br/poslit TORRES, Alexandre Pinheiro. O conflito entre o instinto e a sociedade em As mãos e os
frutos de Eugênio de Andrade. In: AAVV, 21 ensaios sobre Eugênio de Andrade. Porto:
Ed. Inova, 1979, p. 1-18. SENA, Jorge de. Observações sobre As mãos e os frutos. In: AAVV, 21 ensaios sobre Eugênio
de Andrade. Porto: Ed. Inova, 1979, p. 249-301. RRRRR E F E R Ê N C I A S
E F E R Ê N C I A S
E F E R Ê N C I A S
E F E R Ê N C I A S
E F E R Ê N C I A S B I B L I O G R Á F I C A S
B I B L I O G R Á F I C A S
B I B L I O G R Á F I C A S
B I B L I O G R Á F I C A S
B I B L I O G R Á F I C A S AAVV. 21 ensaios sobre Eugênio de Andrade. Porto: Ed. Inova, 1979. AAVV. 21 ensaios sobre Eugênio de Andrade. Porto: Ed. Inova, 1979. ANDRADE, Eugênio de. Antologia breve. Rio de Janeiro: Civilização brasileira, 1983. ANDRADE, Eugênio de. Poemas. (1945-1966), 3. ed., Porto: Limiar, 1971. BARCELLOS, José Carlos. Literatura e homoerotismo masculino: perspectivas teórico-
metodológicas e práticas críticas. In: Caderno seminal, Rio de Janeiro: Dialogarts/UERJ, n. 8, ano 7, 2000. CHAUNCEY, Georges. Genres, identités sexuelles et conscience homosexuelle dans l’Amérique
du XX siècle. ERIBON, Didier (Ed.). Les études gay et lesbiennes: Colloque du Centre Georges
Pompidou 23 et 27 juin 1997. Paris: Centre Georges Pompidou, 1998. 1998, p.107. DELEUZE, Gilles; Guattari, F. O anti-Édipo. Trad. Georges Lamazière, Rio de Janeiro: Imago,
1976. ESCOBAR, Carlos Henrique. Dossier Deleuze. Rio de Janeiro: Hólon Editorial, 1991. FOUCAULT, Michel. O uso dos prazeres. Rio de Janeiro: Graal, 1984. LOURENÇO, Eduardo. In: AAVV. 21 ensaios sobre Eugênio de Andrade. Porto: Ed. Inova, 1979. MACHADO, Roberto. Foucault – a filosofia e a literatura. Rio de janeiro: Jorge Zahar Ed., 2000. 124 A L E T R I A - 2 0 0 2 Disponível em: http://www.letras.ufmg.br/poslit MAGALHÃES, Joaquim Manuel. Os dois crepúsculos. Lisboa: A regra do jogo, 1981. AGALHÃES, Joaquim Manuel. Rima pobre - poesia portuguesa de agora. Lisboa: Presença, 1999. SEDGWICK, Eve Kosofsky. Epistemology of the Closet. Berkeley/Los Angeles: University of
California Press, 1990. Apud: BARCELLOS, José Carlos. Literatura e homoerotismo masculino:
perspectivas teórico-metodológicas e práticas críticas. In: Caderno seminal, Rio de Janeiro:
Dialogarts/UERJ, n. 8, ano 7, 2000. SENA, Jorge de. Observações sobre As mãos e os frutos. In: AAVV, 21 ensaios sobre Eugênio
de Andrade. Porto: Ed. Inova, 1979, p. 249-301. TORRES, Alexandre Pinheiro. O conflito entre o instinto e a sociedade em As mãos e os
frutos de Eugênio de Andrade. In: AAVV, 21 ensaios sobre Eugênio de Andrade. Porto:
Ed. Inova, 1979, p. 1-18. 125 2002 - ALETRIA Disponível em: http://www.letras.ufmg.br/poslit
|
https://openalex.org/W3206165821
|
https://zenodo.org/records/5566987/files/Debt%20strategies%20of%20European%20countries%20and%20vectors%20of%20implementation%20of%20best%20experience%20in%20the%20practice%20of%20external%20public%20debt%20management%20of%20Ukraine.pdf
|
English
| null |
Debt strategies of European countries and vectors of implementation of best experience in the practice of external public debt management of Ukraine
|
Eureka, Social and Humanities./Eureka, Social and Humanities
| 2,021
|
cc-by
| 7,307
|
Original Research Article:
full paper Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 (2021), «EUREKA: Social and Humanities»
Number 5 DEBT STRATEGIES OF EUROPEAN COUNTRIES AND
VECTORS OF IMPLEMENTATION OF BEST EXPERIENCE
IN THE PRACTICE OF EXTERNAL PUBLIC DEBT
MANAGEMENT OF UKRAINE Ivanna Moroz
Department of Taxes and Fiscal Policy
Western Ukrainian National University
11 Lvivska str., Ternopil, Ukraine, 46009
Iwa.frost@gmail.com Economics, Econometrics and Finance Abstract The policy of external and domestic public debt management in different countries has its own specifics, and its results are
not always unambiguous. Thus, the existing recommendations of the International Monetary Fund and the Maastricht criteria prove
that the maximum value of public debt to GDP should be no more than 60 %. Exceeding this limit can lead to a deterioration in finan
cial stability, debt sustainability, and ultimately to a technical default of the state. However, the practice of public debt management
in many developed countries shows quite opposite trends, as a significant excess of the Maastricht criterion not only does not lead
to default, but on the contrary allows countries to accumulate the necessary financial resources to ensure stable economic growth. Therefore, the study of European debt strategies and their effectiveness is a very important issue, especially given the con
sequences of the COVID-19 pandemic for developing countries. Given the growing external debt dependence of Ukraine as a result
of both the war with the Russian Federation and the COVID-19 pandemic, the search for a better experience of European debt policy
and consideration of ways to adapt it to domestic realities are discussed in our article. Based on the analysis of the debt policy of European countries, the expediency of using debt rules, aimed
the country’s debt security and the effectiveness of the use of public borrowing to stimulate economic growth has Cluster analysis of debt strategies of some European countries has shown that the high level of dependence on external public
debt has a negative impact on economic security in general, because in the event of deteriorating macroeconomic situation, the like
lihood of foreign investors selling government securities increases, and in the case of external loans from international financial and
credit organizations – the risks of negative impact of burdensome non-financial obligations on the national economy grow. g
g
p
g
Keywords: public debt, external public debt, debt policy, debt rule, debt dependence. DOI: 10.21303/2504-5571.2021.002023 DOI: 10.21303/2504-5571.2021.002023 (2021), «EUREKA: Social and Humanities»
Number 5 Noteworthy is the study [3], in which the authors, based on an empirical study of public debt
management policy in developed countries with a high debt burden, argue that the policy of increasing
the domestic and foreign public debt in Europe during the COVID-19 pandemic is a justified govern
ment response to the economic crisis. However, the excessive debt burden, which significantly exceeds
the Maastricht criterion of public debt, increases the risks of increasing the vulnerability of the econo
mies of such countries in the event of financial imbalances and economic shocks in the future. There
fore, in order to minimize the negative impact of excessive debt burden on the economy, countries with
high debt levels need to return to fiscal discipline and reform to stimulate economic growth. In a study by Ahlborn M. and Schweickert R. [4], the authors note the dependence of the im
pact of public debt on economic growth on the economic system and economic structure, dividing
countries into three clusters: liberal economic model (Anglo-Saxon countries), continental (major
EU members), northern (Scandinavian countries). And from our point of view, the distribution of
countries by type of economic system is a good argument, because the traditions of public manage
ment in these countries allow different uses of public debt for economic growth. Scholars Çiftçioğlu S. and Sokhanvar A. [5] studied the impact of external debt on eco�
nomic growth in 20 countries in Central and Eastern Europe and found a positive impact in only
8 ountries that are not post-communist ones. In post-communist countries, the external debt has a
negative effect on economic growth, which requires the optimization of the debt and fiscal policy
in general in order to activate domestic drivers of economic growth. The paper [6] considers the practical aspects of the implementation of a public debt manage
ment strategy in Central and Eastern Europe and concludes that the success of the strategy depends
on the developed primary and secondary markets of government securities and public debt hedging
instruments, as well as primary dealers. The author proposes to focus on debt hedging and refi
nancing of public debt in order to increase its term and reduce the peak burden of costs, associated
with servicing external public debt in foreign currency, on the state budget. Janikowski Ł. (2021), «EUREKA: Social and Humanities»
Number 5 [7] emphasizes the need to create a fiscal buffer in the event of deteriorating
economic conditions through a strong fiscal policy through compliance with fiscal rules, including
the fiscal rule on public debt. However, according to the author, fiscal rules will be effective only
if deputies will not be able to change the law overnight, ie draws attention to the need for stability
in the context of fiscal rules. The works of the above authors reflect quite different views on the vectors of the impact of
external public debt on economic growth; some of them confirm the positive impact, and others – neg
ative. However, in general, scholars emphasize that the result that an increase in public debt will have
a positive impact on economic growth can be achieved only in the case of an effective debt policy and
debt strategy based not only on fiscal rules but also on the targeted use of public borrowing to finance
economic recovery (as in the context of the COVID-19 pandemic) or to stimulate economic growth. The aim is to assess and systematize the debt strategies of European countries to implement
best practices in the realities of Ukraine’s debt policy in the post-pandemic economic recovery. 2. Methods 1. Introduction The slowdown in economic growth due to the negative shocks, associated with the COVID-19
pandemic, raises the issue of studying the issues of public external and domestic debt management. The reduction of state budget revenues and the growth of the budget deficit necessitate the use of
external public debt as a tool of macroeconomic policy, which is aimed at overcoming the effects of
the pandemic and restoring economic growth. However, the increase in external and domestic debt
of the world due to the pandemic leads to an increase in their debt dependence and increased debt
risks, which negatively affect economic security. Based on these positions, the authorities of the vast majority of countries face the task of choos
ing an effective strategy for public debt management in general and external debt in particular, which re
quires a thorough empirical study of approaches to debt dependence and efficiency of public borrowing. Research on public debt management, the impact of debt risks on economic development and
economic security of the state, the principles of building debt policy strategies, as well as aspects of
external debt dependence are among the main topics in the economic literature. Among the scholars
who conducted a thorough professional study of public debt and its relationship to economic growth
is Roubini Nouriel [1], who in his work explored the risks of debt crises in the world economy in the
post-pandemic period and concluded that prolonged stagflation is inevitable, both in the case of con
tinued soft fiscal and monetary policies and in the case of anti-inflationary measures. According to the
scientist [2], governments around the world should resort to monetizing the state budget deficit in order
to mitigate the inevitable stagflation and debt crisis. 58 58 Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 2. Methods The following methods were used in the study: The following methods were used in the study: The following methods were used in the study: – analysis and synthesis – in the study of scientific literature and determination of debt strat
i
f E
t i
d th
ff
t
f
bli d bt
i
th – analysis and synthesis – in the study of scientific literature and determination of debt strat
egies of European countries and the effects of public debt on economic growth; egies of European countries and the effects of public debt on economic growth; – methods of cluster analysis – for the division of European countries into clusters according
to the level of debt risk and debt dependence. – economic and statistical analysis and comparison – in the study of the effects of domestic
and foreign public debt on economic growth; – economic-mathematical method – in the study of correlations between indicators of exter
nal and domestic debt of European countries and the dynamics of GDP and the dynamics of GDP
per capita; – generalization – for the formation of scientific-theoretical and practical recommendations
for optimizing the debt strategies of European countries in general and Ukraine in particular. 59 Economics, Econometrics and Finance Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 (2021), «EUREKA: Social and Humanities»
Number 5 3. Results The spread of coronavirus in Europe had extremely detrimental effects on the economies of
European countries, as none of the countries was ready to fight the unknown disease, which led to the
introduction of strict quarantine restrictions for 2–3 months. The result was the closure of production,
catering, transport, which in turn led to a decline in business activity and falling GDP. Thus, according
to Eurostat, the fall in GDP of the European Union due to the COVID-19 pandemic is estimated at 7.4 %,
and the overall budget deficit at 10.1 % in 2020 [7, 8]. Such negative trends in the economic dynamics
are due to the fact that the economies of the EU are interconnected, and the simultaneous introduction of
quarantine restrictions has had a negative impact on trade relations and labor migration. In order to overcome the effects of the COVID-19 pandemic and increase funding for the
medical sector, the European Commission has approved a € 750 billion financial assistance pack
age, which has led to an increase in the EU budget deficit [9]. At the same time, each European country has chosen its own strategy to overcome the ef
fects of the COVID-19 pandemic, in which one of the main instruments of macroeconomic policy
was public debt, as evidenced by the analytical data in Table 1. Economics, Econometrics and Finance Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 The data in Table 1 show that 19 of the 31 countries analyzed have chosen a strategy to
increase the domestic public debt in order to overcome the effects of the COVID-19 pandemic, as
the growth rate of the domestic public debt in 2020 is significantly higher than in 2019. The highest
growth rates of the domestic public debt are observed in Estonia (108.78 %), Lithuania (64.49 %),
Latvia (64.49 %), Poland (38.41 %), Bulgaria (36.62 %), and the Czech Republic (33.79 %), Slovakia
(30.38 %), Spain (24.28 %) and Slovenia (23.95 %). Analyzing the debt policy of these countries, the
question arises whether such a strategy is a planned decision, whether it arose under the influence
of coincidence of circumstances, related to the impossibility of attracting external public debt due
to low sovereign rating? However, analyzing the debt policy of other European countries, we note
that countries, such as Romania and Ukraine (where the level of economic development is lower
than in the above countries), managed to increase the external public debt by 45.57 % and 12.38 %,
respectively. Thus, the analysis of the data, presented in Table 1, gives grounds to conclude that most
European countries have chosen a debt strategy, focused on the domestic debt market. In our opin
ion, such a strategy is justified not only during the COVID-19 pandemic or other economic crises,
but also during the implementation of optimistic scenarios of economic development. After all,
the debt strategy, focused on the domestic market of public borrowing, has, in our opinion, three
significant advantages over the debt strategy, focused on the foreign market. First, domestic public
debt can be attracted in the national currency, which greatly simplifies its servicing. Secondly, in
states where the domestic public debt prevails over the external one, there is a one-time possibil
ity, in case of force majeure, to carry out mutual debt write-off. However, it should be noted, that
this possibility should be one-time, in order to prevent various political speculations in the future. Third, in case of force majeure, the central bank can be involved in the financing of domestic pub
lic debt as a counterparty of last resort. Such a mechanism among European countries was used
by France in the context of the COVID-19 pandemic, whose central bank owns 18 % of domestic
government bonds. Table 1 Table 1
Growth rates of public domestic and external debt of some European countries in 2018–2020, %
Growth rates of domestic and
external public debt by country
2018
2019
2020
Growth rates of domestic and
external public debt by country
2018
2019
2020
Austria PDD*
–4.88
–2.74
5.27
Luxembourg PDD
–0.87
5.24
5.60
Austria PED**
–0.44
–2.74
20.22
Luxembourg PED
–0.87
18.84
23.97
Belgium PDD
1.17
9.54
10.23
Malta PDD
–1.81
–1.20
17.74
Belgium PED
1.17
–6.76
10.23
Malta PED
7.59
16.68
46.45
Bulgaria PDD
–5.70
1.41
36.62
Netherlands PDD
–3.46
–4.33
13.87
Bulgaria PED
–5.70
–2.64
11.73
Netherlands PED
–3.46
–0.24
4.69
Croatia PDD
4.09
10.04
10.88
Norway PDD
–12.67
–7.99
16.71
Croatia PED
–4.39
–11.83
10.88
Norway PED
6.86
–7.99
16.71
Cyprus PDD
44.36
–14.26
6.62
Poland PDD
4.02
14.26
38.41
Cyprus PED
6.09
2.44
21.43
Poland PED
–3.98
–10.23
–5.15
Czechia PDD
7.36
1.55
33.79
Portugal PDD
5.14
–1.76
14.97
Czechia PED
–12.52
1.55
–1.16
Portugal PED
–2.96
2.25
1.96
Denmark PDD
39.75
4.32
14.66
Romania PDD
11.93
14.42
19.14
Denmark PED
–45.65
–5.75
60.73
Romania PED
7.54
5.59
45.57
Estonia PDD
8.15
–20.34
108.78
Slovakia PDD
1.86
2.01
30.38
Estonia PED
–8.46
34.60
108.78
Slovakia PED
1.86
2.01
15.46
Finland PDD
19.73
2.37
18.00
Slovenia PDD
16.40
1.06
23.95
Finland PED
–8.07
2.37
13.12
Slovenia PED
–6.46
–3.12
14.04
France PDD
8.64
–3.03
13.60
Spain PDD
–2.83
–6.05
24.28
France PED
–3.66
9.35
9.15
Spain PED
9.79
10.32
1.64
Germany PDD
1.54
–2.67
19.54
Sweden GDP
–1.95
1.32
–0.45
Germany PED
–6.28
1.32
5.95
Sweden PDD
–5.52
–3.14
16.71
Hungary PDD
3.94
4.02
13.79
Sweden PED
–0.11
–23.32
16.71
Hungary PED
–0.45
–4.73
8.80
UK PDD
1.12
6.35
11.93
Ireland PDD
2.30
–0.81
17.51
UK PED
1.12
3.62
8.98
Ireland PED
2.30
–0.81
–0.30
Ukraine PDD
6.25
10.65
0.95
Italy PDD
6.73
–3.06
9.92
Ukraine PED
3.01
–3.02
12.38
Italy PED
–7.37
11.69
0.11
Belarus PDD
–7.85
3.87
–19.68
Latvia PDD
–7.81
3.98
43.89
Belarus PED
4.54
4.18
–2.98
Latvia PED
7.17
3.98
2.64
Russian Federation PDD
30.77
21.56
–9.49
Lithuania PDD
–3.94
–1.97
64.49
Russian Federation PED
6.63
13.74
–8.59
Lithuania PED
–8.64
20.73
21.21
Note: *PDD – public domestic debt; **PED – public external debt; Source [10] Table 1
Growth rates of public domestic and external debt of some European countries in 2018–2020, % ble 1
owth rates of public domestic and external debt of some European countries in 2018–2020, % 60 Economics, Econometrics and Finance Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 (2021), «EUREKA: Social and Humanities»
Number 5 61 Economics, Econometrics and Finance (2021), «EUREKA: Social and Humanities»
Number 5 (2021), «EUREKA: Social and Humanities»
Number 5 Original Research Article:
full paper In addition to external debt dependence, which can be measured by the share of external
public debt in gross public debt, one of the debt risks is the excessive debt burden on the economy,
which is measured by the ratio of public debt to gross domestic product. The threshold value of the
ratio of public debt to GDP is justified in the IMF guidelines and the EU Maastricht Treaty and
is 60 % of GDP. This criterion is used as a debt rule or budget constraint in various countries in
Europe and the world. Given the availability of statistics on the share of external public debt in gross public debt
and the ratio of public debt to GDP, we will conduct a cluster analysis of 31 European countries in
order to grade them according to debt risk and public debt management strategies (Fig. 1). At the
same time, it should be noted, that in order to determine the direction of the debt strategy for a long
period of time, statistical data for the last eleven years (2010–2020) were selected for calculation. Fig. 1. Cluster analysis of some European countries by the level of debt risk in 2010–2020. Source: [10, 11]
Tree Diagram for 31 Cases
Ward`s method
City-block (Manhattan) distances
Finland
Slovenia
Ukraine
Slovakia
Poland
Netherlands
Belarus
Lithuania
Latvia
Malta
Norway
Romania
Sweden
Denmark
Czechia
Russian Federation
Luxembourg
Estonia
Bulgaria
Portugal
Italy
UK
Croatia
Hungary
Germany
Austria
Cyprus
Ireland
Spain
France
Belgium
0
100
200
300
400
500
600
Linkage Distance Tree Diagram for 31 Cases
Ward`s method
City-block (Manhattan) distances Fig. 1. Cluster analysis of some European countries by the level of debt risk in 2010–2020. Source: [10, 11] Thus, as evidenced by Fig. 1, the European countries can be divided into three clusters in
terms of debt risk. The first cluster includes those countries, in which the level of gross public debt
relative to GDP is close to the threshold of 60 %, and the share of external public debt is more than
45 %, namely: Finland, Slovenia, Ukraine, Slovakia, Poland, the Netherlands, Belarus, Lithuania,
Latvia. Economics, Econometrics and Finance (2021), «EUREKA: Social and Humanities»
Number 5 In addition, it should be noted, that less developed countries, such as Ukraine and Belarus,
in order to effectively use the debt strategy, focused on the domestic market, must organize the
work of their own stock market. In this case, these countries will be able to attract not only financial
corporations to finance the public debt, but also non-financial corporations and households, follow
ing the example of European countries, such as Malta, Hungary, Portugal, Ireland, Italy and others. As for the debt strategy, focused on the foreign market, which was chosen by such coun
tries as Denmark (60.73 %), Romania (45.57 %), Luxembourg (23.97 %), Cyprus (21.43 %),
Austria (20.22 %), Ukraine (12.38 %), Croatia (10.88 %), Belgium (10.23 %), it can also be effec
tive if the targeted use of the external public debt to stimulate economic growth. However, such a
strategy carries higher risks than the strategy, focused on the domestic market, because in times
of crisis, foreign investors can quickly sell foreign government bonds and, thus, reduce the level
of debt security. In addition, it should be emphasized, that the structure of external public debt by
type of creditor is also important for its debt security. Thus, if one of the external creditors is an
international financial institution, despite the relatively low interest rate on the loan, the terms of
the agreement may include political obligations, which provide for reforms that are not always in
the national interest. For example, the ban on the use of protective import duties, the ban on re
stricting the export of raw materials, the ban on the adoption of legislation on the localization of
public procurement, which was used in relation to Ukraine during the signing of memoranda with
the International Monetary Fund In this case, one of the strategic goals of the world in the field of debt policy is to limit debt
dependence on international financial institutions and their non-financial requirements. The im
plementation of the state’s foreign debt policy should be based on the need to increase the volume
of public borrowing on a market basis in international money and capital markets. Such a strategy
is relevant for Ukraine today, but for its implementation it is necessary to take measures to increase
the sovereign rating by carrying out reforms that will improve the overall investment and business
climate in the country. Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 The third cluster includes countries with a high level of debt dependence, in which the ratio
of gross public debt to GDP exceeds the threshold of 60 %, and the share of external public debt is
approaching 50 % – Portugal, Italy, United Kingdom, Croatia, Hungary, Germany, Austria , Cy-
prus, Ireland, Spain, France, Belgium. The debt strategy of the third cluster countries is the most risky, as the ratio of public debt
to GDP significantly exceeds the Maastricht criterion of 60 % (Fig. 2). Maim Maastricht criterion:
public debt/GDR=60 % Fig. 2. Results of compliance with the Maastricht criterion of public debt by some European
countries in 2010–2020. Source: [11]. EstoniaRussian Federation
Bulgaria
Luxembourg
Belarus
Norway
Romania
Czechia
Lithuania
Sweden
Denmark
Latvia
Slovakia
Poland
Ukraine
Malta
Finland
Netherlands
Slovenia
Germany
Hungary
Croatia
UK
Austria
Ireland
Spain
Cyprus
France
Belgium
Portugal
Italy
0.0
20.0
40.0
60.0
80.0
100.0
120.0
140.0
0
5
10
15
20
25
30
35
Maastricht criterion: public debt /
GDP =60% Fig. 2. Results of compliance with the Maastricht criterion of public debt by some European
countries in 2010–2020. Source: [11]. The results of the analysis of compliance with European Maastricht criteria of public debt
during 2010–2020 allow us to determine their debt strategy, which in the third cluster is high-risk
and provides debt financing of economic development. (2021), «EUREKA: Social and Humanities»
Number 5 In other words, countries have been complying with the ratio of gross public debt to GDP
for the last eleven years, but their economy and financial stability depend on the behavior of exter
nal investors, who own half of the public debt. The second cluster includes countries with a low level of debt dependence – Malta, Norway,
Romania, Sweden, Denmark, the Czech Republic, the Russian Federation, Luxembourg, Estonia,
Bulgaria. The second cluster reflects countries with a ratio of gross public debt to GDP below 40 %,
while the share of external public debt also does not exceed 40 %. In our opinion, such a debt policy
strategy is the most justified, as it minimizes the impact of debt shocks on the development of the
national economy, which can be a good example for implementation into domestic realities. 62 62 Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 (2021), «EUREKA: Social and Humanities»
Number 5 (2021), «EUREKA: Social and Humanities»
Number 5 Original Research Article:
full paper Original Research Article:
full paper At the same time, the Law on Public Finances set three prudential thresholds for the ratio of public
debt to GDP (50 %, 55 % and 60 %), according to which prudential and corrective procedures are
applied in three ranges: – the first range – the ratio of public debt to GDP exceeds 50 % and is less than 55 %; – the first range – the ratio of public debt to GDP exceeds 50 % and is less than 55 %; – the second range – the ratio of public debt to GDP exceeds 55 % and is less than 60 %; – the third range – the ratio of public debt to GDP is equal to or exceeds 60 % [7]. Achieving the indicators of each range obliges the Council of Ministers to apply a number of
restrictions and prohibitions to the budgets of the state and local governments and the introduction
of corrective instruments. In 2013, the first range of Poland’s public debt-to-GDP ratio was abolished, and the other
two ranges are actively used in the implementation of public debt management policy. Thus, if
the ratio of public debt to GDP exceeds 55 % but less than 60 %, the first adjustment procedure is
launched, which includes tools to counteract this unfavorable trend, affecting both central and local
finances. First of all, this procedure obliges the Council of Ministers to impose restrictions on the
content of the draft budget act for the next year. In case of launching the first corrective procedure,
the Council of Ministers was obliged to prepare a draft budget act, which does not provide for a
state budget deficit or provides for the level of revenues and expenditures of the state budget in the
amount that ensures compliance with the debt-to-GDP ratio of 60 % for the end of the next year. Moreover, this procedure provides for a number of measures to limit and review the finan
cial resources, spent from the state budget. (2021), «EUREKA: Social and Humanities»
Number 5 These include: suspension of salary increases for em
ployees of budgetary institutions; valorization of pensions at the maximum level, corresponding to
the increase in prices for consumer goods and services, announced by the Central Statistical Office
for the previous financial year; ban on granting loans and credits from the state budget, except for
installments of loans and credits, granted in previous years; suspension of the increase of expendi
tures in subdivisions, bodies of state power at a level higher than in the state administration; revi
sion of state budget expenditures, financed by external loans, and revision of long-term programs
by the Council of Ministers; revision of current regulations of the Council of Ministers in order to
make legal decisions that affect the level of state budget revenues, including the application of tax
rates on goods and services; reduction of the target subsidy from the state budget for vocational
and social rehabilitation and employment; introduction of restrictions on new obligations of public
administration bodies to increase investment expenditures. The procedure for applying the most restrictive instruments arises when public debt reach
es or exceeds 60 % of GDP. In this case, the second procedure of public debt adjustment begins,
which provides for the ban on determining the budget deficit, limiting wage growth, indexation of
pensions, the ban on new loans and credits from the state budget, revision of budget expenditures,
restrictions on new commitments investing, revision of regulations, affecting the level of revenues
and expenditures of the state budget. In turn, with regard to the finances of local self-government
units, an absolute procedure for balancing the budget was established, in particular, the expendi
tures of the local self-government budget, included in the budget resolution for the next year, cannot
be higher than budget revenues. Another restriction is set for the units of the State Treasury and is
the prohibition of them to provide new sureties and guarantees. The ban takes effect on the 7th day
after the publication of information that the public debt exceeds the constitutional threshold. The
purpose of the ban is to counteract the increase in contingent liabilities, which include obligations
and guarantees, provided by units of the State Treasury, so as not to impair the financial confidence
of the state as a borrower [13]. Economics, Econometrics and Finance (2021), «EUREKA: Social and Humanities»
Number 5 In order to reduce the levels of debt risk and debt burden on the economies of European
countries within the European Union, the European Commission applies supranational fiscal rules,
which provide for the following components: a) the general budget must be balanced or in surplus; a) the general budget must be balanced or in surplus; b) the above provision is considered to be complied with if the annual structural balance is
aimed at achieving the medium-term objective, set out in the EU Stability and Growth Pact – lim
iting the structural deficit to 0.5 % of GDP; c) countries may temporarily derogate from their medium-term commitments to achieve
their objectives in exceptional circumstances; d) if the debt-to-GDP ratio is below 60 % and the risks to long-term financial stability are
low, the lower limit of the structural budget deficit may not exceed 1 % of GDP; structural budget deficit may not exceed 1 % of GD e) in case of significant deviations from the medium-term objectives, the correction mecha�
nism should work automatically, in particular, the binding party to the contract should take appro
priate measures within a certain period of time [12]. However, in practice, we observe non-compliance with these rules by the third cluster coun
tries over the past eleven years, which indicates a low level of effectiveness of fiscal rules in terms
of compliance with the criteria for the ratio of public debt to GDP at 60 %. However, in practice, we observe non-compliance with these rules by the third cluster coun
tries over the past eleven years, which indicates a low level of effectiveness of fiscal rules in terms
of compliance with the criteria for the ratio of public debt to GDP at 60 %. At the same time, the countries of the first and second clusters adhere to the Maastricht
criterion, using not only the rules of the European Union, but also their own fiscal rules and fiscal
restrictions. A reference example in this area can be considered the example of Poland, where the
debt rule is enshrined in the Constitution of the country and sets the debt threshold at 60 % of GDP. 63 Economics, Econometrics and Finance (2021), «EUREKA: Social and Humanities»
Number 5 (2021), «EUREKA: Social and Humanities»
Number 5 Number 5 expenditures and increase personal and departmental responsibility of the Government and the
Central Bank to attract and use the domestic public debt. expenditures and increase personal and departmental responsibility of the Government and the
Central Bank to attract and use the domestic public debt. In our opinion, given the peculiarities of European debt policy and the active use of public
debt to stimulate economic growth, the view of fiscal rules in general and debt rules in particular
should be changed, as the accumulation of old debts against the background of shortening econom
ic cycles makes it impossible to meet Maastricht or other similar criteria. In this context, in our opinion, the debt rule of the United Kingdom is effective, which
provides for the attraction of the external public borrowing solely to finance public development
programs. This rule requires the United Kingdom Government to make targeted and efficient use
of the external public debt, which in turn affects the share of external debt in the gross debt, which
has not exceeded 40 % over the last eleven years. The introduction of such a rule in Ukraine can be
one of the steps to reduce the level of external debt dependence [12]. In Germany, the fiscal rule limits the net public borrowing to the level of investment, with
the exception of periods of “general economic imbalance.” Linking public borrowing to net invest
ment is, in our view, a good incentive to build effective fiscal-budget and debt policies, as the need
to find new resources to stimulate economic growth requires the Government to seek, first and
foremost, ways to increase investment, and then attracting the public debt. Thus, the current debt strategies of the countries of the three clusters we have selected
should be based not on quantitative indicators of debt dependence reduction or compliance with
a certain amount of domestic and external public debt, but on qualitative indicators of the use of
public borrowing. Such indicators may be the coefficients of correlation of the dynamics of do
mestic and external public debt with the dynamics of GDP and the dynamics of GDP per capita or
indicators of conversion of the public debt into capital expenditures of the state budget and so on. (2021), «EUREKA: Social and Humanities»
Number 5 The analysis of correlations between indicators of domestic and external public debt and the
dynamics of GDP and GDP per capita allows to draw a conclusion about the level of efficiency of
public borrowing use for stimulation of economic growth (Table 2). Economics, Econometrics and Finance (2021), «EUREKA: Social and Humanities»
Number 5 Both procedures for adjusting the Poland’s public debt require the Council of Ministers
to submit a rehabilitation program to the Sejm, with the difference that if the constitutional debt
threshold is exceeded, a deadline has been set for its submission (one month from the date of de
claring the size and ratio of the public debt to GDP). This approach to the implementation of the debt rule and debt policy of the Polish govern
ment as a whole not only prevents the debt threshold from being exceeded, but also promotes fiscal
discipline in general, as legal restrictions minimize political speculation in the field of budget 64 Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 Table 2 Table 2
The results of the correlation analysis of the dynamics of domestic and external public debt, as well as GDP
and GDP per capita of some European countries in 2010–2020
No. Table 2 Indicators of GDP and GDP per cap
ita in some European countries
Public debt/GDP ratio,
%
Domestic public debt, bil
euro
External public debt,
bil euro
1
2
3
4
5
1
Austria GDP
–0.6452
–0.4998
0.7998
Austria GDP per capita
–0.6779
–0.4844
0.7774
2
Belgium GDP
–0.0717
0.8152
0.7004
Belgium GDP per capita
–0.1285
0.7927
0.6735
3
Bulgaria GDP
0.4168
0.6786
0.8530
Bulgaria GDP per capita
0.4315
0.6892
0.8610
4
Croatia GDP
0.0176
0.6691
0.1747
Croatia GDP per capita
0.1152
0.7398
0.2502
5
Cyprus GDP
0.0176
0.6691
0.1747
Cyprus GDP per capita
0.1152
0.7398
0.2502
6
Czechia GDP
–0.7927
0.0319
0.7462
Czechia GDP per capita
–0.7972
0.0225
0.7478
7
Denmark GDP
–0.7634
0.2309
–0.2239
Denmark GDP per capita
–0.7622
0.2342
–0.2265
8
Estonia GDP
0.4813
0.6374
0.7266
Estonia GDP per capita
0.4770
0.6290
0.7221
9
Finland GDP
0.4813
0.6374
0.7266
Finland GDP per capita
0.4770
0.6290
0.7221
10
France GDP
0.6703
0.9072
0.6565
France GDP per capita
0.6148
0.8802
0.6082 The results of the correlation analysis of the dynamics of domestic and external public debt, as well as GDP
and GDP per capita of some European countries in 2010–2020 65 riginal Research Article:
ll paper
(2021), «EUREKA: Social and Humanities»
Number 5
1
2
3
4
5
11
Germany GDP
–0.9625
0.5869
–0.6881
Germany GDP per capita
–0.9625
0.5648
–0.6674
12
Hungary GDP
–0.7317
0.9423
–0.9490
Hungary GDP per capita
–0.7298
0.9464
–0.9518
13
Ireland GDP
–0.9065
0.7006
0.2440
Ireland GDP per capita
–0.9124
0.6833
0.2456
14
Italy GDP
–0.9065
0.7006
0.2440
Italy GDP per capita
–0.9124
0.6833
0.2456
15
Latvia GDP
–0.7019
0.7217
0.8329
Latvia GDP per capita
–0.6858
0.7410
0.8313
16
Lithuania GDP
0.2027
0.7641
0.8718
Lithuania GDP per capita
0.1959
0.7634
0.8672
17
Luxembourg GDP
0.4340
–0.4377
0.9440
Luxembourg GDP per capita
0.4003
–0.4465
0.9367
18
Malta GDP
–0.9513
0.6720
0.9061
Malta GDP per capita
–0.9696
0.6432
0.8574
19
Netherlands GDP
–0.8426
0.7595
–0.9332
Netherlands GDP per capita
–0.8582
0.7404
–0.9354
20
Norway GDP
–0.6937
0.1318
–0.3971
Norway GDP per capita
–0.5775
–0.1111
–0.5352
21
Poland GDP
–0.4625
0.5656
0.4129
Poland GDP per capita
–0.4604
0.5670
0.4126
22
Portugal GDP
–0.1150
0.8983
–0.4911
Portugal GDP per capita
–0.0518
0.9130
–0.4389
23
Romania GDP
0.4320
0.5856
0.9096
Romania GDP per capita
0.4370
0.5890
0.9113
24
Slovakia GDP
0.4646
0.6679
0.7440
Slovakia GDP per capita
0.4672
0.6747
0.7394
25
Slovenia GDP
0.4039
0.9001
0.5242
Slovenia GDP per capita
0.3928
0.8876
0.5175
26
Spain GDP
0.2655
0.4221
0.6836
Spain GDP per capita
0.2435
0.3991
0.6660
27
Sweden GDP
0.1608
0.8446
–0.2048
Sweden GDP per capita
0.2971
0.6350
0.0499
28
UK GDP
0.4185
0.7490
0.7377
UK GDP per capita
0.3015
0.6635
0.6416
29
Ukraine GDP
–0.7588
0.2899
–0.0380
Ukraine GDP per capita
–0.6216
0.5070
0.1937
30
Russian Federation GDP
–0.4102
0.0581
–0.0145
Russian Federation GDP per capita
–0.4568
0.0118
–0.0778
31
Belarus GDP
–0.5870
–0.3081
–0.1785
Belarus GDP per capita
–0.5831
–0.3103
–0.1713
Source: [10, 11]. Economics, Econometrics and Finance Table 2 Continuation of the Table 2 3
4
5
–0.9625
0.5869
–0.6881
–0.9625
0.5648
–0.6674
–0.7317
0.9423
–0.9490
–0.7298
0.9464
–0.9518
–0.9065
0.7006
0.2440
–0.9124
0.6833
0.2456
–0.9065
0.7006
0.2440
–0.9124
0.6833
0.2456
–0.7019
0.7217
0.8329
–0.6858
0.7410
0.8313
0.2027
0.7641
0.8718
0.1959
0.7634
0.8672
0.4340
–0.4377
0.9440
0.4003
–0.4465
0.9367
–0.9513
0.6720
0.9061
–0.9696
0.6432
0.8574
–0.8426
0.7595
–0.9332
–0.8582
0.7404
–0.9354
–0.6937
0.1318
–0.3971
–0.5775
–0.1111
–0.5352
–0.4625
0.5656
0.4129
–0.4604
0.5670
0.4126
–0.1150
0.8983
–0.4911
–0.0518
0.9130
–0.4389
0.4320
0.5856
0.9096
0.4370
0.5890
0.9113
0.4646
0.6679
0.7440
0.4672
0.6747
0.7394
0.4039
0.9001
0.5242
0.3928
0.8876
0.5175
0.2655
0.4221
0.6836
0.2435
0.3991
0.6660
0.1608
0.8446
–0.2048
0.2971
0.6350
0.0499
0.4185
0.7490
0.7377
0.3015
0.6635
0.6416
–0.7588
0.2899
–0.0380
–0.6216
0.5070
0.1937
–0.4102
0.0581
–0.0145
–0.4568
0.0118
–0.0778
–0.5870
–0.3081
–0.1785
–0.5831
–0.3103
–0.1713
in 24 of 31 countries, the dynamics of domestic public
he dynamics of GDP and the dynamics of GDP per capita. l public debt also has a high level of correlation with the According to the data in Table 2, in 24 of 31 countries, the dynamics of domestic public
debt has a high level of correlation with the dynamics of GDP and the dynamics of GDP per capita. In 16 countries, the dynamics of external public debt also has a high level of correlation with the 66 Economics, Econometrics and Finance Original Research Article:
full paper (2021), «EUREKA: Social and Humanities»
Number 5 dynamics of GDP and the dynamics of GDP per capita. In total, public debt in the form of a mac
roeconomic policy instrument is used by 27 European countries in addition to Denmark, Ukraine,
Belarus and the Russian Federation. External public debt in countries, such as Germany, Hungary,
the Netherlands and Norway, has a negative impact on economic growth. dynamics of GDP and the dynamics of GDP per capita. In total, public debt in the form of a mac
roeconomic policy instrument is used by 27 European countries in addition to Denmark, Ukraine,
Belarus and the Russian Federation. External public debt in countries, such as Germany, Hungary,
the Netherlands and Norway, has a negative impact on economic growth. Thus, the effective use of public borrowing to stimulate economic growth eliminates the risks
of a debt strategy, because increasing GDP by financing infrastructure and innovation projects, sup
porting value-added production can increase state budget revenues and create the necessary financial
cushion to smoothly service the domestic and external public debt. At the same time, the development
of the infrastructure of the national economy and the development of industry is the key to improving
the investment climate, which has a positive effect on the sovereign rating of the state and, conse
quently, its ability to attract the external debt on acceptable economic conditions. Promising areas of research in this area are the study of the experience of debt policy of
developed countries in terms of ensuring the effective conversion of external public borrowing into
economic growth. 4. Conclusion Each European country has an individual debt strategy, but its effectiveness depends not
on compliance with quantitative fiscal rules and budgetary constraints, but on the qualitative con
version of public borrowing into economic development. Modern fiscal and debt rules, which are
aimed at minimizing debt risks and limiting the debt burden, cannot be effective due to the re
duction of economic cycles and unbalanced development of the world economy, so their main role
should be to stimulate the use of public borrowing for economic growth. Therefore, it is expedient
to introduce such a debt rule, which provides for the implementation of the program-target method
of attracting the external public debt. In addition, as shown by the cluster analysis of the debt strategies of some European coun
tries, the high level of dependence on external public debt has a negative impact on economic
security in general, because in the event of deteriorating macroeconomic situation, the likelihood
of foreign investors selling government securities increases, and in the case of attracting external
loans from international financial and credit organizations – risks of negative impact of burden
some non-financial obligations on the national economy grow. Economics, Econometrics and Finance References Debt strategies of European countries and vectors of implementation of best experience in the prac
tice of external public debt management of Ukraine. EUREKA: Social and Humanities, 5, 58–68. doi: http://doi.org/10.21303/2504-5571.2021.002023 Economics, Econometrics and Finance How to cite: Moroz, I. (2021). Debt strategies of European countries and vectors of implementation of best experience in the prac
tice of external public debt management of Ukraine. EUREKA: Social and Humanities, 5, 58–68.
doi: http://doi.org/10.21303/2504-5571.2021.002023 References References
[1] Roubini, N. (2021). The Looming Stagflationary Debt Crisis. Available at: https://www.project-syndicate.org/commentary/
stagflation-debt-crisis-2020s-by-nouriel-roubini-2021-06 [2] Roubini, N. (2020). The Coming Greater Depression of the 2020s. Available at: https://www.project-syndicate.org/commen
tary/greater-depression-covid19-headwinds-by-nouriel-roubini-2020-04 [3] Burrie, P., Checherita-Westphal, C., Jacquinot, P., Schön, M., Stähler, N. (2020). Economic consequences of high public debt:
evidence from three large scale DSGE models. European Central Bank. doi: http://doi.org/10.2139/ssrn.3676264 [4] Ahlborn, M., Schweickert, R. (2018). Public debt and economic growth – economic systems matter. International Economics
and Economic Policy, 15 (2), 373–403. doi: http://doi.org/10.1007/s10368-017-0396-0 [5] Çiftçioğlu, S., Sokhanvar, A. (2018). External debt – economic growth nexus in selected CEE countries. Rom
Economic Forecasting, XXI (4), 85–100. [6] Martin, V. (2019). Public Debt Management in Selected Central East Europe Countries. Economic Themes, 57 (1), 87–109. doi: http://doi.org/10.2478/ethemes-2019-0006 [6] Martin, V. (2019). Public Debt Management in Selected Central East Europe Countries. Economic Themes, 57 (1), 87–109. doi: http://doi.org/10.2478/ethemes-2019-0006 [7] Janikowski, Ł. (2018). What Is the Quality of the Fiscal Policy in Poland? Available at: https://caseresearch.medium.com/what-
is-the-quality-of-the-fiscal-policy-in-poland-ed3a44b5e975 [7] Janikowski, Ł. (2018). What Is the Quality of the Fiscal Policy in Poland? Available at: https://caseresearch.medium.com/what-
is-the-quality-of-the-fiscal-policy-in-poland-ed3a44b5e975 [8] Remarks by Commissioner Gentiloni at the press conference on the Spring 2020 Economic Forecast (2020). Available at:
https://ec.europa.eu/commission/presscorner/detail/en/speech_20_822 [8] Remarks by Commissioner Gentiloni at the press conference on the Spring 2020 Economic Forecast (2020). Available at:
https://ec.europa.eu/commission/presscorner/detail/en/speech_20_822 [8] Remarks by Commissioner Gentiloni at the press conference on the Spring 2
https://ec.europa.eu/commission/presscorner/detail/en/speech_20_822 [9] Recovery plan for Europe (2020). Available at: https://ec.europa.eu/info/strategy/recovery-plan-europe_en [9] Recovery plan for Europe (2020). Available at: https://ec.europa.eu/info/strategy/recovery-plan-europe_en
[10]
C
l
d b
(
10dd
d) (2021)
A
il bl
h
//
/
i/ h
d ?d [10] Central government debt (gov_10dd_cgd) (2021). Available at: https://appsso.eurostat.ec.europa.eu/nui/show.do?data
set=gov_10dd_cgd&lang=en 67 Economics, Econometrics and Finance Original Research Article:
full paper
(2021), «EUREKA: Social and Humanities»
Number 5
[11] Government deficit/surplus, debt and associated data (gov_10dd_edpt1). (2021). Retrieved from https://ec.europa.eu/eurostat/
databrowser/view/gov_10dd_edpt1/default/table?lang=en
[12] Koroliuk, T. (2020). The genesis of fiscal regulation rules in Ukraine and the world. Investytsiyi: praktyka ta dosvid, 3, 49–56. doi: http://doi.org/10.32702/2306-6814.2020.3.49
[13] Lotko, E. (2016). Prawnofinansowe instrumenty ograniczania długu publicznego w Polsce. Białystok, 283. © The Author(s) 2021
This is an open access article under the
Creative Commons CC BY license
Received date 24.08.2021
Accepted date 23.09.2021
Published date 30.09.2021
How to cite: Moroz, I. (2021). (2021), «EUREKA: Social and Humanities»
Number 5 Original Research Article:
full paper Original Research Article:
full paper [11] Government deficit/surplus, debt and associated data (gov_10dd_edpt1). (2021). Retrieved from https://ec.europa.eu/eurostat/
databrowser/view/gov_10dd_edpt1/default/table?lang=en [11] Government deficit/surplus, debt and associated data (gov_10dd_edpt1). (2021). Retrieved from https://ec.europa.eu/eurostat/
databrowser/view/gov_10dd_edpt1/default/table?lang=en [12] Koroliuk, T. (2020). The genesis of fiscal regulation rules in Ukraine and the world. Investytsiyi: praktyka ta dosvid, 3, 49–56. doi: http://doi.org/10.32702/2306-6814.2020.3.49 [12] Koroliuk, T. (2020). The genesis of fiscal regulation rules in Ukraine and the world. Investytsiyi: praktyka ta dosvid, 3, 49–56. doi: http://doi.org/10.32702/2306-6814.2020.3.49 [13] Lotko, E. (2016). Prawnofinansowe instrumenty ograniczania długu publicznego w Polsce. Białystok, 283. © The Author(s) 2021
This is an open access article under the
Creative Commons CC BY license
Received date 24.08.2021
Accepted date 23.09.2021
Published date 30.09.2021 © The Author(s) 2021
This is an open access article under the
Creative Commons CC BY license Received date 24.08.2021 Accepted date 23.09.2021 How to cite: Moroz, I. (2021). Debt strategies of European countries and vectors of implementation of best experience in the prac
tice of external public debt management of Ukraine. EUREKA: Social and Humanities, 5, 58–68. doi: http://doi.org/10.21303/2504-5571.2021.002023 68 Economics, Econometrics and Finance
|
https://openalex.org/W2584453813
|
https://www.ecologyandsociety.org/vol20/iss3/art19/ES-2014-7329.pdf
|
English
| null |
Individual- and community-level impacts of volunteer environmental monitoring: a synthesis of peer-reviewed literature
|
Ecology and society
| 2,015
|
cc-by
| 12,308
|
INTRODUCTION Citizens have been collecting data on environmental systems
through participatory monitoring programs since the late 19th
century. Weather observers have assessed rainfall and air
temperatures since as early as 1890 (http://www.nws.noaa.gov/
om/coop/). Citizens have collected data about bird populations
through an organized program in the United States since 1900
(Lee 1994) and in the United Kingdom since 1962 (Greenwood
2003). They have monitored fish populations with the National
Marine Fisheries Service since 1954 (Lee 1994). A variety of outcomes have also occurred for participants in
volunteer environmental monitoring programs and for the
communities in which these programs operate, but efforts to
synthesize these have been limited. As a result, practitioners may
lack knowledge to effectively model successful initiatives. This can
lead to waste of valuable resources to develop effective programs,
limit external funding support, and potentially stymie
participation if personal benefits are not recognized and
promoted (Measham and Barnett 2008). However, 4 notable
studies provide a basis on which to build a current synthesis. The
earliest explored participant empowerment and natural resource
management outcomes that resulted from 15 locally based
monitoring projects (Danielsen et al. 2005a). Four generalized
benefits were found to have resulted across programs: improved
communication between government and local stakeholders,
increased knowledge and changed attitudes among participants,
better adherence to natural resource regulations by community
members, and empowerment of local stakeholders. The second
study investigated 10 years of citizen science–related literature
and relevant websites to identify benefits (Conrad and Hilchey
2011). These included science and the environment becoming
more available to the public, local stakeholders becoming more
engaged in ecosystem management and policy discussions,
participants increasing scientific literacy, and social capital being
built in communities in which either community-based
monitoring or management were carried out. The third study
considered the distinction between individual and community
learning outcomes using examples from peer-reviewed literature
to demonstrate outcomes (Jordan et al. 2012). Identified
outcomes for individuals included increased knowledge,
engagement in the scientific process, and environmental With the advent of participatory decision-making initiatives
across the globe (Rydin and Pennington 2000, Ellis and Waterton
2004, Van Rijsoort and Jinfeng 2005) and shrinking or limited
monitoring budgets (U.S. Office of Management and Budget
2012), involving citizens in environmental monitoring is
becoming more common. For example, in the United States, a
1998 survey by the U.S. Environmental Protection Agency
identified nearly 800 volunteer environmental monitoring
programs (Ely and Hamingson 1998). Copyright © 2015 by the author(s). Published here under license by the Resilience Alliance. Stepenuck, K. F., and L. Green. 2015. Individual- and community-level impacts of volunteer environmental monitoring: a synthesis
of peer-reviewed literature. Ecology and Society 20(3): 19. http://dx.doi.org/10.5751/ES-07329-200319 Copyright © 2015 by the author(s). Published here under license by the Resilience Alliance. Stepenuck, K. F., and L. Green. 2015. Individual- and community-level impacts of volunteer environmental monitoring: a synthesis
of peer-reviewed literature. Ecology and Society 20(3): 19. http://dx.doi.org/10.5751/ES-07329-200319 Individual- and community-level impacts of volunteer environmental
monitoring: a synthesis of peer-reviewed literature Kristine F. Stepenuck 1,2,3 and Linda T. Green 4,5 ABSTRACT. Citizens have long contributed to scientific research about the environment through volunteer environmental monitoring
programs. Their participation has also resulted in outcomes for themselves, their communities, and the environment. This research
synthesizes 35 peer-reviewed journal articles that reported such outcomes through 2012. This collection of articles was derived from a
pool of 436 peer-reviewed journal articles about participatory environmental monitoring. Reported outcomes for participants and
communities ranged from increasing personal knowledge and community awareness to changing attitudes and behaviors, building
social capital, and ultimately, influencing change in natural resource management and policies. Mixed results were reported in regard
to citizen participation in natural resource decision-making processes and in terms of participant knowledge gain. Future research
recommendations that address identified knowledge gaps include the following: (1) assessing knowledge beyond the basic content of
the subject of monitoring to better address the value of volunteer environmental monitoring as a public participation tool; (2) conducting
independent research across programs to enable null or negative outcome reporting, understand commonalities of outcomes across
programs, and make linkages between outcomes and program characteristics; (3) carrying out rigorous research that includes data
collection and statistical analysis focused on the effectiveness of citizen participation in decision making; (4) assessing the time
component of outcome achievement to inform the volunteer monitoring community; and (5) conducting additional research to identify
changes in attitudes and behaviors, particularly geared toward minimizing losses in biodiversity and impacts of climate change. Key Words: citizen science; impacts; natural resources; outcomes; public participation in scientific research; volunteer monitoring zen science; impacts; natural resources; outcomes; public participation in scientific research; volunteer moni Key Words: citizen science; impacts; natural resources; outcomes; public participation in scientific researc 2007, Dickinson et al. 2012) and by managers to modify practices
to eliminate pollution (Da Silva Pinho 2000). 1University of Wisconsin-Extension,
2Nelson Institute of Environmental Studies, University of Wisconsin-Madison,
3Wisconsin Department of
Natural Resources,
4URI Watershed Watch,
5University of Rhode Island-Cooperative Extension METHODS Between October 2009 and October 2013, a series of online
searches was conducted to identify peer-reviewed journal articles
related to the field of participatory environmental monitoring. This included a search for articles that utilized layperson-
generated data to build understanding of the populations and
environments monitored, as well as articles that described,
supported, questioned, and/or assessed outcomes of such
participatory environmental monitoring efforts. The goal was to
develop a broad understanding of the collective state of
knowledge
presented
in
peer-reviewed
journals
about
participatory environmental monitoring and its impacts. A collection of peer-reviewed articles that reported outcomes for
individuals or communities was derived from the category of
those that assessed participatory environmental monitoring
programs. This collection is our focus. Importantly, it does not
include research that reported on environmental monitoring
conducted solely as part of a school curriculum or monitoring in
which laypersons were paid to participate. Included articles focus
specifically on volunteer environmental monitoring. These
criteria differ somewhat from previous synthesis articles that
discussed outcomes of citizen science programs for individuals
and communities (Danielson et al. 2005a, Conrad and Hilchey
2011, Jordan et al. 2012, Shirk et al. 2012). However, defining the
criteria in this manner allows the discussion to focus on individual
and community outcomes of monitoring efforts in which
layperson participants took part without monetary incentive or
requirement, either of which may affect outcomes. Also, including
only research that has been vetted through the peer-review process
enhances the credibility of the synthesis and thus addresses this
known challenge for participatory environmental monitoring
(Crall et al. 2010, Ottinger 2010). Initially, Proquest’s Ecology, Environmental Sciences and
Pollution Management, and Water Resources Abstracts
databases were searched using a variety of terms. These included:
“volunteer monitoring,” “volunteer water monitoring,” “citizen
science,” “community-based collaborative monitoring,” “participatory
monitoring,” “public participation in scientific research,”
“locally-based monitoring,” “community-based monitoring,”
and “environmental collaborative monitoring.” The articles
identified in these searches were reviewed, and additional
volunteer environmental monitoring–related peer-reviewed
research articles cited within them were located and examined. The newly found articles were then used to identify additional
relevant research articles. In an effort to perform as
comprehensive a search as possible, the Proquest databases were
searched periodically over the 4-year time period to identify newly
published or previously missed peer-reviewed articles related to
participatory environmental monitoring. INTRODUCTION This number has more than
doubled in the past 15 years. Results of a recent survey suggest
there are at least 1675 volunteer water monitoring programs in
the United States (Stepenuck 2013). The types of volunteer
monitoring efforts are also diversifying. In addition to weather,
bird, and water monitoring, citizens also monitor a multitude of
types of environmental systems and organisms, including air
(O’Rourke and Macey 2003), amphibians (Shirose et al. 1997),
biodiversity (Cosquer et al. 2012), mammals (Moyer-Horner et
al. 2012), invasive species (Gallo and Waitt 2011), forestry
(Ballard et al. 2008), marine environments (Evans et al. 2000),
and bees (Ashcroft et al. 2012). These efforts have produced
invaluable data that have been used by scientists to track changes
in populations and environmental trends over time (e.g., Ticheler
et al. 1998, Boylen et al. 2004, Bhattacharjee 2005, Greenwood Ecology and Society 20(3): 19
yandsociety.org/vol20/iss3/art19/ stewardship. Identified community outcomes included improved
social capital, increased trust among stakeholders and land
managers, and job creation. The fourth study categorized
volunteer monitoring efforts by roles of the laypersons and
scientists involved and then predicted outcomes based on these
characterizations (Shirk et al. 2012). Science, social-ecological,
and individual outcomes were predicted. Considering the latter
two, reported social-ecological outcomes included improved
environmental management and conditions. For individuals,
outcomes included knowledge gain, stewardship actions, a sense
of ownership, and broadened networks. Table 1. Participatory environmental monitoring–related peer-
reviewed articles through 2012. Decade
Number of peer-reviewed articles located
1970s
1
1980s
6
1990s
43
2000s
241
2010-2012
145 Table 1. Participatory environmental monitoring–related peer-
reviewed articles through 2012. Decade
Number of peer-reviewed articles located
1970s
1
1980s
6
1990s
43
2000s
241
2010-2012
145 We build on the work of these researchers by providing a synthesis
of peer-reviewed journal articles through 2012 that reported
outcomes for individuals and communities resulting from
volunteer environmental monitoring efforts. We set the situation
by describing the realm of research focused on participatory
environmental monitoring. We present the types of outcomes that
have been observed and described in peer-reviewed journals. Finally, the discussion reflects on reported outcomes, identifies
research gaps, and proposes suggestions for future investigations. Review of the first 271 articles located by the end of 2010 allowed
them to be categorized according to topic of focus. This was
undertaken in an effort to broadly characterize peer-reviewed
literature across the field. These articles fit into 8 general
categories. INTRODUCTION As additional articles were located, they were assigned
to these categories. Some articles were placed into more than 1
category. For the 436 articles located, the categories and count of
articles included those that assessed participatory environmental
monitoring programs (69), provided overviews of these programs
(76), presented comparison studies of professional versus
volunteer methods (61), discussed how to improve these programs
(12), expressed support for these types of programs (62), discussed
techniques for managing these programs over time (11), used
layperson-generated data to describe a population or
environmental condition (150), and discussed how participatory
data might be used (18). METHODS In 2012 and 2013,
Google Scholar and EBSCO Host’s Social Sciences Full Text and
Wildlife and Ecology Studies databases were also searched. General information that characterized each volunteer
monitoring effort was determined. This included determining the
monitoring focus, location, number of programs assessed, and
timescale to achieve outcomes. When authors did not report the
length of time to reported outcomes, program age and article
publication date were used to determine a maximum time period
over which outcomes may have resulted. This iterative search process ultimately resulted in 436 peer-
reviewed journal articles related to participatory environmental
monitoring, the majority of which were published in the past
decade (Table 1). Articles related to astronomy, geographic
information systems, and public health, other than as related to
water and air monitoring, were not included. To assess the quality of research conducted, journal impact
factors and study design styles were determined for each article. In September 2013, the ISI Web of Knowledge Journal Citation
Reports was used to identify impact factors for 2012. Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Table 2. Characteristics of volunteer environmental monitoring efforts for which participant or community outcomes were reported
in peer-reviewed journal articles. Reference
Location
Time to Outcomes
# of Programs
Assessed
Monitoring Focus
Ballard et al. (2008)
USA (AL, CA, CO, NM, OR,
VT)
<5 years
7
Forests
Becker et al. (2005)
Ecuador
1.25 years (2 months
after data sharing)
1
Forest and birds
Bell et al. (2008)
Denmark, Italy, Lithuania,
Poland, Slovenia, UK
NA
9
Biodiversity (mammals, birds,
cetaceans, and phenology)
Brossard et al. (2005)
USA
NA
1
Birds
Brown et al. (2001)
USA (NY)
1
Invasive plants
Cornwell and Campbell (2012)
USA (NC)
Years
1
Marine (sea turtles)
Cosquer et al. (2012)
France
<6 years
1
Butterflies
Danielsen et al. (2005b)
Philippines
2.75 years (0.25
years after 2.5 years
of monitoring)
1
Biodiversity (marine, terrestrial,
and freshwater ecosystems)
Ellis and Waterton (2004)
UK
NA
1
Variety of environmental aspects
Evans et al. (2000)
UK
<3 months
1
Marine (dog whelks)
Evans et al. (2005)
North America
Years
1
Birds
Fernandez-Gimenez et al. (2008)
USA (CA, CO, NM, OR)
<5 years
5
Forests
García and Brown (2009)
Columbia
<2 years
1
Freshwater (chemical, physical,
and biological)
Gooch (2004)
Australia
<15 years
6
Variety of environmental aspects
Gooch (2005)
Australia
<15 years
6
Variety of environmental aspects
Greenwood (2003)
UK
Years
1
Birds
Jones et al. METHODS (2006)
Canada
<2.5 years
1
Freshwater (macroinvertebrates)
Jordan et al. (2011)
USA (NY and NJ)
<6 months
1
Invasive plants
Karney (2000)
USA (MA)
<15 years
1
Freshwater (chemical, physical,
and biological)
Koss and Kingsley (2010)
Australia
<8 years
1
Marine (intertidal life and sea
grass)
Kountoupes and Oberhauser (2008)
USA and Canada
Days or months
1
Butterflies
Lawrence (2009)
UK
Years
1
Climate change (phenology)
Measham and Barnett (2008)
Australia
Years
12
Variety of environmental aspects
Newman et al. (2003)
UK
<2 years
1
Wildlife
O’Rourke and Macey (2003)
USA (CA and LA)
<5 years
5
Air
Obura et al. (2002)
Kenya and Tanzania
<6 years
1
Marine (fish)
Ottinger (2010)
USA (CA and LA)
NA
1
Air
Overdevest et al. (2004)
USA (WI)
<1.5 years
1
Freshwater (chemical, physical,
and biological)
Overdevest and Mayer (2007)
USA
>0.5 years
Several
Air
Pollock and Whitelaw (2005)
Canada
<5 years
31
Variety of environmental aspects
Savan et al. (2003)
Canada
<5 years
1
Variety of environmental aspects
Sharpe et al. (2000)
Canada
<3 years
1
Freshwater
Trumbull et al. (2000)
USA
<7 years
1
Birds
Van Rijsoort and Jinfeng (2005)
China
<3 years
1
Biodiversity (wildlife)
Vaughan et al. (2003)
Canada
<9 years
1
Variety of environmental aspects Table 2. Characteristics of volunteer environmental monitoring efforts for which participant or community outcomes were reported
in peer-reviewed journal articles. ResearchGate and journal websites were used to determine
impact factors for specialty journals not listed in the Journal
Citation Reports. Study design styles included the following: (1)
research that employed surveys; (2) research in which interviews
were conducted; (3) research in which data related to the effort
were analyzed, including environmental monitoring data, content
of electronic discussions and media reports about the efforts, and
unsolicited participant feedback about the efforts; (4) research in
which participants were observed by the researcher(s); and (5)
research that provided evidence of outcomes as determined by
anecdotal researcher reflection of the volunteer monitoring
effort. the volunteer monitoring program operated. Subsequently,
categories of outcomes reported within these two groups were
identified. Because researchers generally used similar language to
describe outcomes, several common categories could be identified
across the pool of articles. Previous syntheses were also used as
a general guide for identifying outcome categories (Danielsen et
al. 2005a, Jordan et al. 2012). RESULTS Just 35 of the larger pool of articles (436), plus the 4 reviews,
reported outcomes for individuals who participated in volunteer
environmental monitoring programs or for the communities in
which these programs operated (Table 2). In 27 of the 35
nonreview articles, researchers assessed outcomes for a single
volunteer environmental monitoring effort. Programs ranged in Outcomes reported in the articles were initially classified as
affecting either individual participants or the community in which Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
yandsociety.org/vol20/iss3/art19/ Table 3. Journal impact factors and research study design styles of articles reporting outcomes for individuals and communities resulting
from volunteer environmental monitoring. Journal
Impact
Factor
Reference
Methods Used to Assess Outcomes
Surveys
Interviews
Participant
Observation
Data
Review
Researcher
Reflection
Global Environmental Change
5.236
Lawrence (2009)
X
Conservation Biology
4.355
Jordan et al. (2011)
X
Evans et al. (2005)
X
X
X
Biological Conservation
3.794
Newman et al. (2003)
X
Science of the Total Environment
3.258
Greenwood (2003)
X
Journal of Environmental
Management
3.057
García and Brown (2009)
X
Ecology & Society
2.831
Ballard et al. (2008)
X
Cosquer et al. (2012)
X
Fernandez-Gimenez et al. (2008)
X
X
X
Texas Law Review
2.609
Overdevest and Mayer (2007)
X
Marine Pollution Bulletin
2.531
Evans et al. (2000)
X
Science, Technology & Human
Values
2.406
Ottinger (2010)
X
X
Science Education
2.382
Trumbull et al. (2000)
X
X
Biodiversity & Conservation
2.264
Becker et al. (2005)
X
X
Bell et al. (2008)
X
X
X
Danielsen et al. (2005b)
X
Van Rijsoort and Jinfeng
(2005)
X
X
X
X
Marine & Freshwater Research
1.982
Obura et al. (2002)
X
Journal of Policy Analysis &
Management
1.781
O’Rourke and Macey (2003)
X
X
Social Studies of Science
1.770
Cornwell and Campbell (2012)
X
X
Environmental Management
1.647
Savan et al. (2003)
X
Ocean & Coastal Management
1.597
Koss and Kingsley (2010)
X
Environmental Monitoring &
Assessment
1.592
Vaughan et al. (2003)
X
Intl Journal of Science Education
1.340
Brossard et al. (2005)
X
Science and Public Policy
0.983
Ellis and Waterton (2004)
X
Australian Geographer
0.891
Gooch (2004)
X
Measham and Barnett (2008)
X
Human Ecology Review
0.871
Overdevest et al. (2004)
X
Journal of Shellfish Research
0.865
Karney (2000)
X
Natural Areas Journal
0.707
Brown et al. (2001)
X
Alternatives
NA
Sharpe et al. (2000)
X
Environments
NA
Jones et al. RESULTS Only 3
reported that volunteer monitoring influenced natural resource
management practices or policies (Greenwood 2003, Overdevest
and Mayer 2007, Ottinger 2010), and 2 discussed challenges or
successes volunteers have had as participants in the decision-
making process (Ballard et al. 2008, Fernandez-Gimenez et al. 2008). outcomes reported in 16 and a negative or no change in knowledge
reported in only 4. Content learned generally reflected the topic
of focus in the monitoring effort, although some researchers
identified knowledge gain that went beyond the immediate object
of observation (Table 4). For instance, individuals in one effort
gained understanding of the need for natural resource
management regulations as they monitored fishing activities and
observed negative impacts on fish populations (Obura et al. 2002). In 2 studies in which no difference in scientific knowledge was
observed between experienced and inexperienced volunteers,
researchers speculated that individuals with strong science
backgrounds had elected to participate (Trumbull et al. 2000,
Overdevest et al. 2004). Researchers employed between 1 and 4 methods to assess
outcomes (Table 3). Interviews were the most commonly used
method, reported in 16 of the articles. Anecdotal researcher
reflection was next most prevalent, used by authors of 12 articles. Surveys were carried out to assess outcomes by authors of 11
articles, and outcomes reported in 9 articles were assessed, at least
in part, based on review of data generated through the volunteer
monitoring program. Finally, researchers of 4 articles determined
outcomes based in part on participant observation. Data review
and participant observation tended to be employed more often
in articles published in journals with higher impact factors,
whereas the other methods were used in articles published in
journals representing the range of impact factors. However, no
difference was observed in the types of outcomes reported when
data analysis or participant observation techniques were used as
compared with other research methods (Tables 4 and 5). Learning new skills as an outcome of volunteer monitoring
participation was reported in just five articles (Table 4). Very few
explored this type of learning in depth. As expected, volunteers
learned skills related to the process of monitoring (Obura et al. 2002, Bell et al. 2008, Cosquer et al. 2012). Moving a step further
to explore skill building, some participants were reported to have
learned skills related to community leadership, activism, media
engagement, and advocacy (Measham and Barnett 2008). Change in attitudes and/or behaviors As evidenced by the examples discussed previously, changes in
participant attitudes can be directly linked with social learning
(Ballard et al. 2008, Fernandez-Gimenez et al. 2008). Aside from
these social learning examples, only one article discussed
individual attitudinal changes (Table 4). Specifically, no
significant changes in volunteer bird monitors’ attitudes about
science or the environment were observed in pre- and posttests
(Brossard et al. 2005). RESULTS (2006)
X
Journal of Community
Engagement & Scholarship
NA
Kountoupes and Oberhauser
(2008)
X
X
Local Environment
NA
Gooch (2005)
X
Pollock and Whitelaw (2005)
X
X Table 3. Journal impact factors and research study design styles of articles reporting outcomes for individuals and communities resulting
from volunteer environmental monitoring. and research study design styles of articles reporting outcomes for individuals and communities resulting
monitoring. year. Outcomes included building individual knowledge and
community awareness (Evans et al. 2000, Overdevest and Mayer
2007, Kountoupes and Oberhauser 2008) and changing behaviors
(Jordan et al. 2011). The minimum reported time to achieve
policy-related outcomes was 2 months following data sharing
(Becker et al. 2005). However, this outcome was following a year
of monitoring. scope from monitoring in a single community to those focused
on as broad a scale as North America. The majority (14) were
carried out in the United States. About half as many were carried
out in the United Kingdom and Canada, whereas other countries
had lesser representation. Volunteer monitoring efforts often
focused on living organisms, although they also monitored land,
air, and water resources. Programs in which a variety of aspects
of the environment were monitored were most often considered
in regard to outcome assessment. Journal impact factors ranged from 0.707 to 5.236 across the 28
journals in which outcome-related articles were published. Four
specialty journals did not have defined impact factors (Table 3). The types of outcomes most often reported in articles published
in journals with the 10 highest impact factors included personal
knowledge and community awareness building, personal benefits, Although the majority of authors did not specify how long it took
for outcomes to be achieved, most outcomes reported occurred
within 8 years or less following initiation of monitoring (Table 2). Four articles reported on outcomes that were achieved within a Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
yandsociety.org/vol20/iss3/art19/ and changes in attitudes and behaviors (Tables 4 and 5). Only 3
reported that volunteer monitoring influenced natural resource
management practices or policies (Greenwood 2003, Overdevest
and Mayer 2007, Ottinger 2010), and 2 discussed challenges or
successes volunteers have had as participants in the decision-
making process (Ballard et al. 2008, Fernandez-Gimenez et al. 2008). and changes in attitudes and behaviors (Tables 4 and 5). RESULTS Evidence of social learning, although not always called that, was
described in five articles (Table 4). Two focused on understanding
learning that occurred within monitoring groups carrying out
community-forestry demonstration projects in the western
United States (Ballard et al. 2008, Fernandez-Gimenez et al. 2008). Participants noted changes in personal feelings and
assumptions based on interactions within the diverse group of
players in the program. This was true for both scientists and
laypersons involved in the efforts. When making management
decisions, scientists learned the importance of local knowledge,
and local residents better understood the importance of collecting
data as evidence (Ballard et al. 2008). The more diverse the group
of stakeholders that designed the monitoring, and the more
rigorous the data collection, the more evidence of social learning
that was observed (Fernandez-Gimenez et al. 2008). Social
learning also included participants increasing their understanding
of ecological processes, which resulted in altering their own
underlying assumptions (Ballard et al. 2008). Five categories of outcomes were identified for individuals (Table
4). Assessing whether participants experienced a gain in
knowledge was the most common; this was reported in 18 articles. The next most common, described in 11 articles, related to social
and personal benefits of participation. Authors of 10 articles
considered whether volunteer monitors had improved their ability
to participate in decision-making processes. Nine authors also
evaluated and reported on participants’ modified attitudes or
behaviors. Finally, authors of 3 articles considered whether
volunteer monitors had increased the amount and effectiveness
of their civic participation since starting their involvement. Community outcomes were divided into 4 categories (Table 5). Increased social capital, i.e., the economic and personal benefits
gained by interactions among community members (Coleman
1988), and that volunteer environmental monitoring influenced
natural resource management practices or policies were each
reported in 12 articles. Increased community knowledge and
awareness was reported in 11 articles. Changes in attitudes and
behaviors were less often reported, with 5 articles describing such
outcomes. V: Proud to contribute to a
large-scale scientific study V: Filed a lawsuit against
state managers about fishing
practices used during
research that negatively
affected sea turtles; reported
beach management
concerns to state managers V: Many laws developed to
protect local lands based on
volunteer data and
participation in decision
making
-V: Volunteer data
submitted to volunteer
monitoring program, but
they were not used by
decision makers Gain in knowledge Gain in knowledge Three main types of knowledge gain were reported for individuals
involved with volunteer environmental monitoring programs. These included gaining scientific content knowledge, learning new
skills, and experiencing social learning. Social learning can be
described as learning as a result of interactions with others, which
results in reassessment and potential change in an individual’s
underlying assumptions about a group or an issue (Ballard et al. 2008, Fernandez-Gimenez et al. 2008). Learning was assessed
primarily through interviews and surveys (Table 3). Authors of six articles reported that participants’ behaviors had
changed (Table 4). Volunteers were reported to have increased
their political participation (Overdevest et al. 2004) and altered
their land-use management techniques (Becker et al. 2005, Evans
et al. 2005, Van Rijsoort and Jinfeng 2005, Jordan et al. 2011,
Cosquer et al. 2012). However, behavior changes were sometimes
more superficial than desired. In one study, although the majority
of invasive plant monitors reported altering their behavior in at
least one way, most changes were passive (Jordan et al. 2011). For Gain in content knowledge was, by far, the most reported of the
3 types of learning. It was considered in 18 articles, with positive Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/
Table 4. Outcomes of volunteer environmental monitoring for individuals reported in peer-reviewed literature through 2012. Outcomes
were reported for both volunteers (V) and professionals (P) involved in volunteer monitoring efforts. Null or negative outcomes were
sometimes reported (-). Reference
Outcome
Gain in knowledge:
content (CK), skills (SK), and
social learning (SL)
Change in attitudes (CA)
and/or behaviors (CB)
Attainment of social and
personal benefits
Attainment of a voice in
decision making
Increase in amount and
effectiveness of civic
participation
Ballard et al. (2008)
V(CK): Ecological processes;
scientific process; pinyon-
juniper forest ecosystem fire
dynamics
V,P(SL): How the other group
gained knowledge (life vs. book
V(CA): How govt. agencies
make decisions about forest
natural resource mgt. P(CA): About usefulness of
local knowledge in mgt. decisions
V: Participated and had a
voice in public land mgt. decision making Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
yandsociety.org/vol20/iss3/art19/ Cosquer et al. (2012)
V(CK): Butterfly habits and life
cycles; biodiversity; and
practices to maintain
biodiversity
V(SK): How to make
observations
V(CB): To encourage
butterfly use of their yards
(e.g., lawn mowing,
fertilization, and chemical
treatment practices)
Danielsen et al. -V: Internal power
differentials made citizen
participation in decision
making challenging V: Gained skills and
confidence to participate in
decision making in
meaningful and equitable
ways
-V: Decisions made were
one sided, and volunteers
felt left out of the process
(worse for those with less
experience) V: Influenced
administrative decisions
and processes of
industrial companies V: Increased
participation and
effectiveness of
participation in civic
environmental activities V: Became attached to
places; formed social
identity; built a sense of
belonging; built friendships
and social networks;
enjoyed volunteer work;
became empowered; gained
feelings of self-worth; based
career choices on experience
-V: Can get burnt out (but
the cause is worth the effort) V: Participated in more
natural resource–related
political action events
per year than new
participants V: Increased social standing
(i.e., being considered an
expert) V(CB): Considered if plant
nonnative before buying;
changed planting habits;
joined invasive plant
removal project
-V(CB): Most changes were
passive (e.g., did not change
voting practices) Gain in knowledge (2005b) V(CB): To accommodate
birds survival in their yards
V(CA): About forest natural
resource mgt. decisions are
made V: Able to develop
confidence in
communications and
feelings of self-worth;
personal relationships and
social networks built V: More confident to
participate because
empowered
-V: Many felt minimized by
and frustrated with
outcomes when working
with govt. boards; felt left
out of process and that
decisions were one sided (con'd) Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Gooch (2005)
V(CK): River system ecology;
general environment; how
environmental problems are
connected
V(SL): Skills and knowledge
shared among group members
to achieve successes Gooch (2005) Jones et al. (2006)
V(CK): Biomonitoring
Jordan et al. (2011)
V(CK): Invasive plants
recognition and awareness
-V(CK): Decrease in knowledge
of environmental issues; little
change in nature of science
understanding
Koss and
Kingsley (2010) V: Built friendships and
social networks; enjoyed
volunteer work; appreciated
getting outside to do
something useful; proud to
contribute to data collection
for scientific research
V: Friendships built; enjoyed
being outside to monitor;
proud of accomplishments
V: Enjoyed volunteer work;
glad to contribute to a
tangible and meaningful
activity; gave them purpose
-V: Promoted personal
worry about the
environment
V: Built friendships and
social networks; appreciated
meaningful work; proud of
accomplishments
-V: Felt overtaxed due to
professional staff cuts and
increased reliance on
volunteers
V: Based career choices on
experience Kountoupes and
Oberhauser
(2008)
V(CK): Butterfly habits and
habitats
Lawrence (2009)
V(CK): Phenology and its
relation to climate change Measham and
Barnett (2008)
V(CK): Animals and plants;
general environment
V(SK): Community leadership,
activism, and engagement; how
to engage the media; how to
carry out environmental
restoration; how to live
sustainably
Newman et al. (2003)
O’Rourke and
Macey (2003)
V(CK): Air emissions
Obura et al. (2002)
V(CK): Impact of fishing
activities; reef and fish ecology;
coral bleaching
V(SK): Snorkeling
V(SL): The need for natural
resource mgt. in
V: Increased social standing
(i.e., being considered an
expert)
V: Empowered to share
ideas with scientists and
govt. staff; have demanded
better natural resource mgt. decisions
P: Seek input of the local
monitors when making
decisions
-V: At least one community
lacked formal marine
resource mgt. structure, thus
inhibited use of volunteer
data in decision making
V: Built personal networks
V
n Overdevest et al. (2004)
-V(CK): No increase in
knowledge of stream functions V(CB): More active in
natural resource mgt. Attainment of voice in decision making Volunteer monitors contributed to decision-making processes in
a number of programs, but concerns about their effectiveness were
also expressed. Eight articles reported positive outcomes, whereas
five mentioned concerns (Table 4). V(CB): Suggested changing
their own land-use practices
for forest resource
sustainability Attainment of social and personal benefits f
p
f
A wide variety of social benefits to individuals were noted as
important outcomes for volunteer environmental monitors (Table
4). Friendships and social networks were built (Gooch 2004, 2005,
Kountoupes and Oberhauser 2008, Measham and Barnett 2008,
Koss and Kingsley 2010). Participants enjoyed the work they did
(Gooch 2005, Kountoupes and Oberhauser 2008, Lawrence 2009,
Koss and Kingsley 2010) and were proud of their
accomplishments (Kountoupes and Oberhauser 2008, Measham
and Barnett 2008, Koss and Kingsley 2010). They had something
tangible and meaningful in which to put their energy, giving them
purpose (Measham and Barnett 2008, Lawrence 2009, Koss and
Kingsley 2010) and feelings of empowerment and self-worth
(Gooch 2005). They became attached to places (Gooch 2005). Some even based career choices on experience gained through
participation in such programs (Newman et al. 2003, Gooch
2005). Two articles reported negative social outcomes. In one study,
volunteers felt overtaxed because of cuts in professional staff and
increasing reliance on volunteers (Measham and Barnett 2008). In the other, engagement in environmental monitoring efforts was
reported to lead participants to have concerns about the state of
the environment (Lawrence 2009). Increase in amount and effectiveness of civic participation
Research
findings
nonetheless
demonstrate
that
civic
environmental actions of volunteer monitors can increase over
time with their participation in environmental monitoring
programs. Three articles reported such outcomes (Table 4). These
related to personal activities of volunteers (Overdevest et al. 2004,
Jones et al. 2006) and their influence on administrative decisions
and processes of industrial companies, thus helping to minimize
environmental impacts (O’Rourke and Macey 2003). Attainment of voice in decision making V: More location-specific
rules and regulations
drafted with inclusion of
local input Gain in knowledge behaviors (e.g., providing
natural resource–related
information to others,
engaging in personal
research, and attending
natural resource related
meetings) (con'd) Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ V: Shared negative data
results with agency
P: Invited citizen
participation for future
planning processes Sharpe et al. (2000) Sharpe et al. (2000) Trumbull et al. (2000)
-V(CK): No difference in
science knowledge or beliefs
V(SK): To think scientifically
(e.g., as needed to carry out a
scientific study)
Van Rijsoort
and Jinfeng
(2005)
V(CK): Linkages between
resource availability and
harvests (e.g., deforestation
negatively affected protected
animal and plant species), and
resource availability and
wildlife damage in villages
P(SL): Usefulness of local
knowledge in mgt. decisions V: More location-specific
rules and regulations
drafted with inclusion of
local input V: More location-specific
rules and regulations
drafted with inclusion of
local input V(CB): Suggested changing
their own land-use practices
for forest resource
sustainability Cornwell and Campbell 2012). Ultimately, there was evidence of
natural resource management rules and regulations being
developed with local volunteer input, which represented a change
from past practices (Danielsen et al. 2005b, Van Rijsoort and
Jinfeng 2005). instance, participants noticed invasive plants more while hiking,
but none changed their voting practices related to invasive plants. This was attributed to participants not feeling confident that
active behavioral changes would positively impact the
environment. Concerns expressed about the effectiveness of volunteer monitors
in decision-making processes were related to both passive and
active engagement of citizens. A plant monitor in the United
Kingdom expressed frustration that policy makers failed to use
citizen-generated data to inform decisions even though the
volunteer had taken no action to share results with decision
makers beyond submitting data to the monitoring program (Ellis
and Waterton 2004). Citizens who took a more active approach
to contribute to decision making also faced challenges. For
instance, when participating in agency and government board
meetings, volunteers in Australia often felt left out and
manipulated (Gooch 2004, 2005). Ultimately, they were frustrated
with one-sided outcomes. Additionally, “internal power
differentials” were cited as a challenge to effective citizen
participation in decision making in community-based forest
monitoring projects in the western United States (Fernandez-
Gimenez et al. 2008:14). Attainment of social and personal benefits Trust and partnerships developed
between agency land managers and
volunteer groups; citizens ultimately
influenced forest management
practices (e.g., U.S. Forest Service
altered its timber sale to protect
mushrooms, and landowners
changed fencing practices to protect
habitat) Government board halted a
development that was potentially
harmful to the environment as a
result of citizen contributions to the
decision-making process Agricultural policies no longer
designed to solely benefit
production; focus has shifted to
protect wildlife that uses farmlands;
Environmentally Sensitive Areas
include provisions to protect wild
birds that inhabit farmlands Increased cooperation,
collaboration, and trust among
stakeholders; a variety of land
management decisions were made
among the groups CA: Volunteer data viewed as
credible (vs. personal
observations), thus changed
attitude of land mgt. councils Built internal social and
networking connections and
shared accumulated knowledge in
local communities through public
education programs CB: Developed and
implemented water quality
remediation plan Management priorities for Nature
Conservancy work in the
Adirondacks determined
Increased communication between
citizens and managers or
government; natural resource
management practices improved
after negative environmental
impacts demonstrated; short
implementation periods (average, 97
days) from recommendation to
implementation About water quality following
monitoring of bacteria and
sediments and volunteer-led
community meetings to share
results Fernandez-Gimenez et
al. (2008) About declines in farmland
bird populations; eventually
understood across a broad
community of stakeholders,
including the public, farmers,
politicians, and conservation
groups based on sound
scientific data collection and
timely communication of
results Established a forest conservation
area within the forest reserve that
supported nature tourism; citizens
became naturalist guides, set up
entrance fees, developed a visitor
registration center, secured funds
to build a vacation cabin for
tourists, and developed jewelry to
sell to visitors García and Brown
(2009) CA: More ecologically oriented
attitudes
CB: Changed agricultural
policies related to birds and
wildlife Danielsen et al. (2005b)
About the value of local
natural resources; 70% of 150
recommended management
actions related to community
awareness building Increase in awareness Positive outcomes related to citizens feeling empowered and more
confident to express their ideas to natural resource managers and
figures of authority (Obura et al. 2002, Gooch 2004, 2005, Ballard
et al. 2008, Cornwell and Campbell 2012). In part, this was
attributed to citizens recognizing the power in having scientific
data to support their management requests (Sharpe et al. 2000, As with individuals, a motivation for implementing and an often-
assumed outcome of volunteer environmental monitoring
programs is that community awareness about an ecosystem will
increase as a result of public involvement in monitoring and
sharing results (Greenwood 2003, Gooch 2005, Fernandez-
Gimenez et al. 2008). This expectation was supported across a Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Table 5. Outcomes of volunteer environmental monitoring for communities reported in peer-reviewed journals through 2012. Reference
Outcomes
Increase in awareness
Change in attitudes (CA) and
behaviors (CB)
Increase in social capital
Influence upon natural resource
management practices or policies
Becker et al. (2005)
About ecosystem services
(value of biodiversity); trees in
highland forests captured more
water than agricultural plants,
and thus clear-cutting there was
detrimental to agriculture
livelihoods in the lowlands; bird
monitoring revealed numerous
threatened, endangered, and
restricted range bird species in
CA: More ecologically oriented
attitudes
CB: Voted for forest reserve
Established a forest conservation
area within the forest reserve that
supported nature tourism; citizens
became naturalist guides, set up
entrance fees, developed a visitor
registration center, secured funds
to build a vacation cabin for
tourists, and developed jewelry to
sell to visitors
Increased cooperation,
collaboration, and trust among
stakeholders; natural resource mgt. practices improved after negative
environmental impacts
demonstrated; road construction
halted by local officials in protected
area CA: More ecologically oriented
attitudes
CB: Voted for forest reserve Established a forest conservation
area within the forest reserve that
supported nature tourism; citizens
became naturalist guides, set up
entrance fees, developed a visitor
registration center, secured funds
to build a vacation cabin for
tourists, and developed jewelry to
sell to visitors Evans et al. (2000)
About sexual malformations in
predatory sea snails caused by
chemicals used in marine
paints; the media was interested
initially in reporting on citizen
involvement in the research but
also built awareness about the
issue; popular scientific trade
journals published information
about the research following
media attention
Fernandez-Gimenez et
al. Increased cooperation,
collaboration, and trust among
stakeholders; natural resource
management practices improved
after negative environmental
impacts demonstrated
Community growth limits as defined
by water quality, which was, in part,
assessed through volunteer
monitoring Increase in awareness (2008) CA: More ecologically oriented
attitudes
CB: Changed agricultural
policies related to birds and
wildlife About declines in farmland
bird populations; eventually
understood across a broad
community of stakeholders,
including the public, farmers,
politicians, and conservation
groups based on sound
scientific data collection and
timely communication of
results (con'd) Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Jones et al. (2006) Jones et al. (2006) Jones et al. (2006) Increased components of social
capital including strength of social
networks, trust in colleagues,
access to information, and
personal influence Increased components of social
capital including strength of social
networks, trust in colleagues,
access to information, and
personal influence Karney (2000)
Koss and Kingsley
(2010)
Lawrence (2009)
About climate change through
phenological observations
Measham and Barnett
(2008)
About environmental issues;
considered by volunteers to be
one of the most important
outcomes achieved
O’Rourke and Macey
(2003)
About air emissions
Obura et al. (2002)
About coral bleaching and
other issues of global concern Influenced pier guidelines to protect
shellfish and eelgrass Developed social connections
between volunteers and rangers
Increased social contacts among
participants Developed social connections
between volunteers and rangers Increased social contacts among
participants Increased social contacts among
participants Industries fined for accidental
releases of air toxins and have
altered their processes
Increased communication between
citizens and land managers; natural
resource management practices
improved after negative
environmental impacts
demonstrated; improved fisheries
management
Industries have made siting
decisions that were influenced by
volunteer air quality data results
-Challenges have arisen in this realm
as well; these related to data
credibility concerns and air emission
standards Empowered communities by
improving local citizens' ability to
manage natural resources Ottinger (2010) Ottinger (2010) Overdevest et al. (2004) (
)
Overdevest and Mayer
(2007)
About air emissions, and that
media attention that results
from citizen participation can
broaden awareness
Pollock and Whitelaw
(2005)
About environmental literacy
Savan et al. (2003) Overdevest and Mayer
(2007)
About air emissions, and that
media attention that results
from citizen participation can
broaden awareness
Pollock and Whitelaw
(2005)
About environmental literacy
Savan et al. Empowered communities by
improving local citizens' ability to
manage natural resources Doubled size of personal networks
of people knowledgeable about
natural resources in an average of
18 months Influenced pier guidelines to protect
shellfish and eelgrass Increase in awareness (2003) Increased network sizes, access to
partner organizations, and
community influence
Built community and university
partnerships; shared results in
community; interacted among a
variety of partners to address
identified concerns; identified
organizations to investigate and
enforce problems or to initiate
restoration efforts
Built partnerships; identified and
prosecuted a polluter
Some natural resource
management actions taken based
on volunteer monitoring results
and recommendations Sharpe et al. (2000)
Van Rijsoort and Jinfeng
(2005) CA: More ecologically oriented
attitudes
CB: Implemented forest
management practices for
sustainability (such as banning
the cutting of fruit trees) Vaughan et al. (2003) variety of types of monitoring efforts (Table 5). Public awareness
of an environmental issue was also built from media attention
that resulted from citizen participation and subsequent
broadscale dissemination of scientific information about the topic
(Evans et al. 2000, Overdevest and Mayer 2007). and behavior changes primarily related to altered views of citizens
and officials in regard to decision making about land-use
management and policies (Table 5). These were assessed almost
entirely through researcher reflection. One particularly intriguing
example described how monitoring fog capture in highland forests
of the Loma Alta Watershed in Ecuador helped community
members understand its importance as a water resource to their
livelihoods as farmers (Becker et al. 2005). Trees in the highlands
were found to collect more fog than agricultural plants in the Change in attitudes and behaviors Increase in social capital Another often-proclaimed outcome of volunteer environmental
monitoring in the scientific literature is that it builds social capital
in communities (Overdevest et al. 2004, Gooch 2005, Jones et al. 2006, Schwartz 2006, Greenwood 2007). Social capital comprises
the economic and personal benefits gained for individuals and
communities by interactions among community members
(Coleman 1988). Communities with more social capital have a
better chance of reaching achievable goals than those with less
(Krishna 2002). Schwartz (2006) proposed that social capital can
be built by engaging citizens in activities in which they can have
a direct impact. As previously noted, this was the most reported
community outcome among the collection of articles (Table 5). The example from the Loma Alta Watershed illustrates this tenet;
once the forest reserve was established, citizens developed a forest
conservation area that supported nature tourism (Becker et al. 2005). Further, citizens became naturalist guides, set up entrance
fees and regulations for the conservation area, and developed a
registration center for visitors. Still others secured funds to build
a cabin for use by tourists and developed jewelry to sell to visitors. Other researchers reported increased social capital outcomes
related to aspects of social capital such as increased size of
personal networks (Overdevest et al. 2004, Gooch 2005, Pollock
and Whitelaw 2005, Jones et al. 2006, Measham and Barnett 2008,
Koss and Kingsley 2010), development of partnerships (Sharpe
et al. 2000, Savan et al. 2003), and community influence (Pollock
and Whitelaw 2005, Jones et al. 2006). Although not an unexpected outcome, demonstrating knowledge
gain among participants is particularly relevant for volunteer
environmental monitoring programs, which often set out to
educate particular audiences (Pattengill-Semmens and Semmens
2003, Brewer 2006). Thus, its prevalence as a reported outcome
addresses a need of many volunteer monitoring efforts. For
instance, 82% of volunteer water monitoring programs in the
United States listed public education as a key objective in a recent
survey (Stepenuck 2013). Demonstrating knowledge gain among
participants may help such programs sustain financial and
administrative support over time; thus, additional research about
such outcomes is justified. Research on educational outcomes can
also benefit agencies seeking to develop and incorporate volunteer
monitoring efforts into their programming. A weakness of the
existing collection of articles is that most focus on only assessing
content knowledge. For agencies such as the U.S. Change in attitudes and behaviors Attitude and behavior changes of community members are tightly
linked with community awareness building. Reported attitude Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
yandsociety.org/vol20/iss3/art19/ lowlands of the watershed (Becker 1999). The water in fog that
dripped off trees contributed significantly to streams. Thus, forest
clear-cutting directly affected community members’ ability to
farm, yet no land-use regulations existed. Volunteer data
demonstrated that the loss of water in the lowlands as a result of
deforestation could cost the agricultural communities half of each
family’s annual income. Only 15 months after volunteer
monitoring was initiated, 95% of voters supported creation of a
forest reserve, demonstrating a significant attitude change among
community members. Attitude and behavior changes were also
observed among community leaders who, within 10 years, enabled
the reserve to grow from 100 to 1600 ha. short implementation periods, averaging 97 days from
recommendation to implementation, were observed in a program
in the Philippines (Danielsen et al. 2005b). Such rapid
implementation was attributed to having the same people carry
out the monitoring, make the recommendations, and ultimately,
make the management decisions. DISCUSSION Exploring findings and identifying knowledge gaps
Although limited, peer-reviewed journal articles describing
volunteer environmental monitoring efforts contain evidence of
a variety of benefits for both individuals and communities. Increased personal content knowledge and improved social
capital were the most commonly reported outcomes for
individuals and communities, respectively. In general, although
potentially valuable to other practitioners, null or negative
outcomes were reported less often. Those that were reported most
often related to challenges for citizen participants in decision-
making processes. Increase in social capital These
researchers predicted high potential for “prompt” decision
making for projects in which citizens and scientists develop the
scientific research together, i.e., cocreated projects. They predicted
that decision making would be “slow to result” for projects in
which citizens assisted scientists in developing a study and were
involved in both data collection and analysis to address a shared
research goal, i.e., collaborative projects, or for projects in which
citizens’ main role in the scientific research process was to
contribute data, i.e., contributory projects. In fact, the two
monitoring efforts in this synthesis with the most rapid impacts
on policies (Becker et al. 2005, Danielsen et al. 2005b) seem to
align more as contributory or collaborative projects. However,
decision making within those communities was, in fact, prompt. To explain this discrepancy, an alternative hypothesis to consider
is that there is some evidence to suggest that those communities
in which volunteer monitoring efforts resulted in the most
immediate success in influencing policy changes (e.g., Becker et
al. 2005, Danielsen et al. 2005b) faced environmental and/or
economic crisis situations. Political science research suggests that
a crisis situation can help influence policy change by helping to
focus the attention of decision makers on a particular issue (Stern
1997). At such times, groups poised to bring their agenda to
decision makers can help drive policy change (Kingdon 1993). As
the
typology
describing
cocreated,
collaborative,
and
contributory projects is widely known among practitioners in this
field (Cosquer et al. 2012, Dickinson et al. 2012), research to better
understand the relationship between program design and speed
of influence on decision making is warranted. Such research
would also fill a knowledge gap left by the current outcomes-
focused articles, which is to define how long until various types
of outcomes are achieved. Available results suggest that learning
outcomes and attitude and behavior changes can be accomplished
within a year from project initiation, but the majority of authors
did not explicitly state how long it took to observe various types
of outcomes in their programs. Reflecting on reported concerns related to citizen participation
in decision-making processes, Arnstein (1969) defined a ladder of
citizen participation that provides a framework by which to
examine these findings. The ladder begins with nonparticipation
and moves up to a stage in which citizens have both an opportunity
to hear and have a voice in decision making, although decision
makers may not heed citizen input. Increase in social capital For instance, Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
yandsociety.org/vol20/iss3/art19/ environmental monitoring efforts, which often operate on limited
budgets, having knowledge about program concerns may save
practitioners considerable time and expense in program
development by avoiding known pitfalls. to better understand the range of outcomes that have been
observed related to the effectiveness of citizens’ voices in the
decision-making process and ultimately in influencing policy and
management decisions. Are there specific characteristics about
monitoring program design, participants, or the surrounding
political environment that permit the most effective citizen
participation? Research addressing these questions might be
carried out across programs or may address a single monitoring
initiative. One recommendation is for a rigorous data collection
and statistical analysis to be carried out to assess such
characteristics because this is often lacking in the current field of
outcomes-focused
research
on
volunteer
environmental
monitoring programs. To address this conundrum, recall that the majority of articles
reported on assessment of only a single program. The result is
that a knowledge gap exists in understanding outcomes across
volunteer environmental monitoring programs. Identifying
whether there are commonalities in outcomes across programs
that monitor specific organisms or environments, or that use a
common design style, may help other practitioners develop
initiatives to achieve certain desired goals more effectively. A
recommendation for future research is for independent
researchers to conduct cross-program outcome assessments, thus
linking the need for researchers to publish null or negative
outcomes with the idea that assessing outcomes across programs
is both valuable and represents a gap in current knowledge. Information learned can be published without identifying
program identities. This will enable null or negative outcomes to
be shared to benefit other practitioners and will enhance
understanding of connections between common program
characteristics and outcomes. A recent example of such an
assessment exists. Through a survey of 345 volunteer water
monitoring programs across the United States, 7 characteristics
of programs significantly related to success in natural resource
policy and management were identified (Stepenuck 2013). Interestingly, findings of this synthesis do not seem to align with
a recent typology of participatory monitoring programs that
distinguishes the degree to which citizens participate in the
scientific research process and predicts the speed at which
decision-making outcomes result (Shirk et al. 2012). Increase in social capital Forest Service,
which seeks to boost effectiveness in obtaining user feedback to
identify problems by incorporating participatory monitoring into
its research efforts (McKinley et al. 2012), understanding gains
in content knowledge of participants is insufficient. For such
agencies,
understanding
whether
volunteer
monitoring
participants improve knowledge and skills related to diplomacy,
public speaking, data synthesis, effective networking, or
communications might provide greater insight into the value of
volunteer environmental monitoring as a public participation
tool. Such knowledge can help agencies plan and implement
participatory monitoring efforts most effectively. Influence on natural resource management practices or policies
Effecting change in natural resource management practices or
policies is often the ultimate goal that volunteer monitoring
groups seek to achieve (Ellis and Waterton 2004). In fact,
examples demonstrating such success span the globe and
environmental topics (Table 5). A variety of interim outcomes
leading toward this goal have also been reported. Many of these
interim outcomes parallel components of social capital. These
include increased communication between citizens and managers
or government (Obura et al. 2002, Danielsen et al. 2005b) and
increased
cooperation,
collaboration,
and
trust
among
stakeholders (Becker et al. 2005, Van Rijsoort and Jinfeng 2005,
Fernandez-Gimenez et al. 2008). It is known that there is a bias against publishing negative or null
results (Franco et al. 2014). In this synthesis, null or negative
knowledge and attitude/behavior outcomes were reported in just
four articles (Trumbull et al. 2000, Overdevest et al. 2004, Brossard
et al. 2005, Jordan et al. 2011). Undeniably, there is an inherent
risk in sharing null or negative results because doing so may mean
loss of support for the program. However, when published, such
knowledge affords others the opportunity to learn from reported
outcomes and avoid pitfalls (Franco et al. 2014). For instance, the
knowledge that volunteers felt overtaxed with the workload as
professional staff were cut (Measham and Barnett 2008) is
important for program managers to recognize. In volunteer Several articles reported that natural resource management
practices were improved after volunteer environmental
monitoring data demonstrated negative environmental impacts
(Obura et al. 2002, Becker et al. 2005, Danielsen et al. 2005b, Van
Rijsoort and Jinfeng 2005). There is also evidence that such
outcomes can occur in relatively short time periods. Increase in social capital Partnerships between citizens
and traditional decision makers come next on the ladder. The
ladder culminates at a level in which decision-making power has
been delegated to citizens. Concerns expressed about the
limitations of the power of citizens’ voices in decision making
following participation in volunteer environmental monitoring
align with this framework (Obura et al. 2002, Gooch 2004, 2005,
Fernandez-Gimenez et al. 2008). The design of most public
decision-making processes is prescribed and thus limits how
citizens can contribute (Obura et al. 2002). Although citizens
might have unique knowledge to share, there is little ability for
them to do so in a manner that can effectively inform decisions
(Ellis and Waterton 2004). Nonetheless, power sharing between
scientists and citizens was demonstrated in community-based
forestry projects in the western United States when scientists
incorporated the input of citizen participants into reports
(Ballard et al. 2008). This suggests that volunteer monitors were
able to operate at higher rungs of Arnstein’s ladder; they not only
expressed their voice, but they entered into a discussion or were
otherwise able to influence the decision-making process. Ultimately, however, it seems unlikely that the pinnacle of
Arnstein’s ladder was reached in any of the volunteer monitoring
efforts studied. Although a local monitoring program in Africa
reported that other community members considered volunteer
monitors experts in their field of study (Obura et al. 2002), total
decision-making power was never reported to have been
transferred to citizens. A research opportunity exists to attempt Another knowledge gap identified through this synthesis is that
relatively few researchers have considered whether participants
or communities have changed attitudes or behaviors as a result
of the volunteer monitoring effort. As the world faces the
challenges of changing climate and decreasing biodiversity, a
focus of many volunteer environmental monitoring efforts, Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ influencing change in human attitudes and behaviors is of utmost
importance to protect biodiversity (Heller and Zavaleta 2009). For instance, McKay (2007) reflected that much has been done
to document declines in bird populations but questioned if
enough has been done to try to change attitudes and behaviors
to help minimize these declines. This synthesis demonstrates that
there have been encouraging results of attitude and behavior
changes to protect natural resources, but only 12 authors have
considered this across the ever-growing field of volunteer
environmental monitoring. Limitations of this synthesis There are limitations that should be acknowledged. First, other
valuable information on this subject is available but was not
included in this synthesis, which was limited to peer-reviewed
journal articles. Excluded were books, book chapters, and non-
peer-reviewed reports (e.g., Ely 1994, Fischer 1996, Craig et al. 2003, Ecological Monitoring and Assessment Network and the
Canadian Nature Federation 2003, Viswanathan et al. 2004). Second, limitations of the searching techniques may have
restricted the pool of peer-reviewed articles. For example,
environmental monitoring in which volunteers assisted but were
not identified in the article title or key words were not included. Similarly, the diversity of terms used to describe volunteer
monitoring efforts varies across fields of science, and some
relevant search terms may have been inadvertently excluded. 4. The current field of research tends to overlook the time
component of outcome achievement, which can be essential
to certain volunteer monitoring efforts. Opportunities exist
to assess a common monitoring program design typology,
which defines programs as cocreated, collaborative, and
contributory, among others, as related to time to achieving
outcomes and to provide summarized information about a
range of times observed to achieve decision-making
outcomes in different situations. Increase in social capital That is a paucity of information from
a field that focuses entirely on engaging citizens in scientific
research about the environment. Research that has been published
about these outcomes tends to be more data rich, having been
determined primarily through interviews, surveys, and program
data review. A similar style of assessment is recommended for
future research about these outcomes as well. 1. Although important, research focused on identifying
knowledge-related outcomes should consider not only
content knowledge assessment but also assessment of
knowledge and skills related to such things as diplomacy,
public speaking, data synthesis, or communications, any of
which will provide greater insight into the value of volunteer
environmental monitoring as a public participation tool. 2. Considerably few articles reported null or negative
outcomes, which can be of value to other similar initiatives. Further, the majority of researchers focused on assessment
of just a single volunteer monitoring effort; thus, a gap exists
in understanding commonalities in outcomes and program
characteristics across volunteer environmental monitoring
efforts. To address both of these knowledge gaps,
independent research should be conducted across programs
to assess outcomes. This will not only inform the field about
commonalities in outcomes and characteristics but also
enable null or negative results to be anonymously reported,
thus
protecting
programs
from
potential
negative
repercussions of reporting such results openly. Overall, many opportunities exist for researchers in this domain. Such research will not only inform future program planning and
development but also help build the credibility of volunteer
environmental monitoring programs as effective contributors to
natural resource management and policy decisions. 3. A number of negative outcomes were reported related to the
effectiveness of citizen participation in the decision-making
process. An opportunity exists to consider this in more
depth, including seeking to understand the role that such
aspects as monitoring program design, characteristics of
participants, and surrounding political environment may
play in effective citizen participation in decision-making
processes. For this research, a rigorous method of data
collection and statistical analysis should be carried out. CONCLUSION Peer-reviewed journal articles related to volunteer environmental
monitoring efforts have reported a variety of outcomes for
individuals and communities. These range from increasing
participant knowledge and community awareness to promoting
changes in attitudes and behaviors, building social capital, and
ultimately, influencing change in natural resource management
and policies. Mixed results have been reported in regard to citizen
success as active participants in the political decision-making
processes and in terms of knowledge gained through participation
in volunteer monitoring efforts. However, research on such
outcomes is limited, representing less than 10% of peer-reviewed
journal articles related to volunteer environmental monitoring
published through 2012. Thus, many opportunities exist to
research and report outcomes of volunteer environmental
monitoring efforts. Practitioners, sponsoring agencies and
organizations, citizen participants, communities, and ultimately,
the environment can benefit from what is learned. 5. As the world faces the challenges of changing climate and
decreasing biodiversity, both impacted by human activities,
attitude and behavior changes that can minimize impacts
across the globe will be essential. As volunteer
environmental monitoring is designed to engage citizens in
scientific research directly related to these issues,
understanding to what extent and how attitude and behavior
changes have occurred is essential. Existing research fails to
address these outcomes sufficiently. Thus, this is a superb
opportunity for future research. Responses to this article can be read online at:
http://www.ecologyandsociety.org/issues/responses. php/7329 LITERATURE CITED LITERATURE CITED
Arnstein, S. R. 1969. A ladder of citizen participation. Journal of
the American Planning Association 35:216-224. http://dx.doi. org/10.1080/01944366908977225 Cosquer, A., R. Raymond, and A.-C. Prevot-Julliard. 2012. Observations of everyday biodiversity: a new perspective for
conservation? Ecology and Society 17(4): 2. http://dx.doi. org/10.5751/ES-04955-170402 Ashcroft, M. B., J. R. Gollan, and M. Batley. 2012. Combining
citizen science, bioclimatic envelope models and observed habitat
preferences to determine the distribution of an inconspicuous,
recently detected introduced bee (Halictus smaragdulus Vachal
Hymenoptera: Halictidae) in Australia. Biological Invasions 14
(3):515-527. http://dx.doi.org/10.1007/s10530-011-0092-x Craig, B., G. Whitelaw, J. Robinson, and P. Jongerden. 2003. Community-based ecosystem monitoring: a tool for developing
and promoting ecosystem-based management and decision
making in the Long Point World Biosphere Reserve. Pages 11-16
in Proceedings of the Fifth International Conference on Science
and Management of Protected Areas Association Conference
(Victoria, British Columbia, Canada, May 2003). Science and
Management of Protected Areas Association, Wolfville, Nova
Scotia, Canada. Ballard, H. L., M. E. Fernandez-Gimenez, and V. E. Sturtevant. 2008. Integration of local ecological knowledge and conventional
science: a study of seven community-based forestry organizations
in the USA. Ecology and Society 13(2): 37. [online] URL: http://
www.ecologyandsociety.org/vol13/iss2/art37/ Becker, C. D. 1999. Protecting a garúa forest in Ecuador: the role
of institutions and ecosystem valuation. Ambio 28(2):156-161. Crall, A. W., G. J. Newman, C. S. Jarnevich, T. J. Stohlgren, D. M. Waller, and J. Graham. 2010. Improving and integrating data
on invasive species collected by citizen scientists. Biological
Invasions 12(10):3419-3428. http://dx.doi.org/10.1007/s10530-010-9740-9 Becker, C. D., A. Agreda, E. Astudillo, M. Costantino, and P. Torres. 2005. Community-based monitoring of fog capture and
biodiversity at Loma Alta, Ecuador enhance social capital and
institutional cooperation. Biodiversity and Conservation 14
(11):2695-2707. http://dx.doi.org/10.1007/s10531-005-8402-1 Danielsen, F., N. D. Burgess, and A. Balmford. 2005a. Monitoring
matters: examining the potential of locally-based approaches. Biodiversity and Conservation 14:2507-2542. http://dx.doi. org/10.1007/s10531-005-8375-0 Bell, S., M. Marzano, J. Cent, H. Kobierska, D. Podjed, D. Vandzinskaite, H. Reinert, A. Armaitiene, M. Grodzińska-
Jurczak, and R. Muršič. 2008. What counts? Volunteers and their
organisations in the recording and monitoring of biodiversity. Biodiversity and Conservation 17:3443-3454. http://dx.doi. org/10.1007/s10531-008-9357-9 Danielsen, F., A. E. Jensen, P. A. Alviola, D. S. Balete, M. Mendoza, A. Tagtag, C. Custodio, and M. Enghoff. 2005b. Does
monitoring matter? A quantitative assessment of management
decisions from locally-based monitoring of protected areas. Biodiversity and Conservation 14:2633-2652. http://dx.doi. org/10.1007/s10531-005-8392-z Bhattacharjee,
Y. 2005. Ornithology. Citizen
scientists
supplement work of Cornell researchers. Responses to this article can be read online at:
http://www.ecologyandsociety.org/issues/responses.
php/7329 Responses to this article can be read online at:
http://www.ecologyandsociety.org/issues/responses. php/7329 The major recommendations of this research that address
identified gaps in knowledge of outcomes of volunteer
environmental monitoring efforts include the following: Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
andsociety org/vol20/iss3/art19/ Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Coleman, J. S. 1988. Social capital in the creation of human
capital. American Journal of Sociology 94(supplement):S95-S120. http://dx.doi.org/10.1086/228943 Coleman, J. S. 1988. Social capital in the creation of human
capital. American Journal of Sociology 94(supplement):S95-S120. http://dx.doi.org/10.1086/228943 Acknowledgments: We thank K. Genskow, D. Moynihan, P. Nowak, E. Stanley, J. Vander Zanden, D. Nolan, S. Stepenuck, L. Albright, and J. Scherer,
as well as anonymous reviewers whose suggestions helped improve
the manuscript. Conrad, C. C., and K. G. Hilchey. 2011. A review of citizen science
and community-based environmental monitoring: issues and
opportunities. Environmental Monitoring and Assessment
176:273-291. http://dx.doi.org/10.1007/s10661-010-1582-5 Cornwell, M. L., and L. M. Campbell. 2012. Co-producing
conservation and knowledge: citizen-based sea turtle monitoring
in North Carolina, USA. Social Studies of Science 42(1):101-120. http://dx.doi.org/10.1177/0306312711430440 LITERATURE CITED Science 308
(5727):1402-1403. http://dx.doi.org/10.1126/science.308.5727.1402 Da Silva Pinho, O. 2000. Community involvement in projects to
reduce nonpoint source pollution. Journal of Shellfish Research
19(1):445-447. Boylen, C. W., E. A. Howe, J. S. Bartkowski, and L. W. Eichler. 2004. Augmentation of a long-term monitoring program for Lake
George, NY by citizen volunteers. Lake and Reservoir
Management 20(2):121-129. http://dx.doi.org/10.1080/07438140
409354356 Boylen, C. W., E. A. Howe, J. S. Bartkowski, and L. W. Eichler. 2004. Augmentation of a long-term monitoring program for Lake George, NY by citizen volunteers. Lake and Reservoir
Management 20(2):121-129. http://dx.doi.org/10.1080/07438140
409354356 Dickinson, J. L., J. Shirk, D. Bonter, R. Bonney, R. L. Crain, J. Martin, T. Phillips, and K. Purcell. 2012. The current state of
citizen science as a tool for ecological research and public
engagement. Frontiers in Ecology and the Environment 10
(6):291-297. http://dx.doi.org/10.1890/110236 Brewer, C. 2006. Translating data into meaning: education in
conservation biology. Conservation Biology 20(3):689-691. http://
dx.doi.org/10.1111/j.1523-1739.2006.00467.x Ecological Monitoring and Assessment Network and the
Canadian Nature Federation. 2003. Improving local decision-
making through community-based monitoring: toward a Canadian
community monitoring network. Environment Canada Inquiry
Centre, Ottawa, Ontario, Canada. Brossard, D., B. Lewenstein, and R. Bonney. 2005. Scientific
knowledge and attitude change: the impact of a citizen science
project. International Journal of Science Education 27
(9):1099-1121. http://dx.doi.org/10.1080/09500690500069483 Brown, W. T., M. E. Kransy, and N. Schoch. 2001. Volunteer
monitoring of nonindigenous invasive plant species in the
Adirondack Park, New York, USA. Natural Areas Journal 21
(2):189-196. Ellis, R., and C. Waterton. 2004. Environmental citizenship in the
making: the participation of volunteer naturalists in UK
biological recording and biodiversity policy. Science and Public
Policy 31(2):95-105. Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
andsociety.org/vol20/iss3/art19/ Ely, E. 1994. Putting data to use. Volunteer Monitor 6(1):6-10. capital, environmental action, and problem-solving ability. Environments 34(1):37-53. Ely, E., and E. Hamingson. 1998. National directory of volunteer
environmental
monitoring
programs. Fifth
edition. U.S. Environmental Protection Agency, Washington, D.C., USA. Jordan, R. C., H. L. Ballard, and T. B. Phillips. 2012. Key issues
and new approaches for evaluating citizen-science learning
outcomes. Frontiers in Ecology and the Environment 10
(6):307-309. http://dx.doi.org/10.1890/110280 Evans, C., E. Abrams, R. Reitsma, K. Roux, L. Salmonsen, and
P. P. Marra. 2005. The Neighborhood Nestwatch program:
participant outcomes of a citizen-science ecological research
project. Conservation Biology 19(3):589-594. http://dx.doi. org/10.1111/j.1523-1739.2005.00s01.x Jordan, R. C., S. A. Gray, D. V. Howe, W. R. LITERATURE CITED Brooks, and J. G. Ehrenfeld. 2011. Knowledge gain and behavioral change in
citizen-science programs. Conservation Biology 25(6):1148-1154. http://d doi org/10 1111/j 1523 1739 2011 01745 Evans, S. M., A. C. Birchenough, and H. Fletcher. 2000. The value
and validity of community-based research: TBT contamination
of the North Sea. Marine Pollution Bulletin 40(3):220-225. http://
dx.doi.org/10.1016/s0025-326x(99)00228-3 Karney, R. C. 2000. Poor water quality? Not in my backyard! The
effectiveness of neighborhood pond associations in the protection
and improvement of shellfish growing water on Martha’s
Vineyard. Journal of Shellfish Research 19(1):465-466. Fernandez-Gimenez, M. E., H. L. Ballard, and V. E. Sturtevant. 2008. Adaptive management and social learning in collaborative
and community-based monitoring: a study of five community-
based forestry organizations in the western USA. Ecology and
Society 13(2): 4. [online] URL: http://www.ecologyandsociety. org/vol13/iss2/art4/ Kingdon, J. W. 1993. How do issues get on public policy agendas? Pages 40-50 in W. J. Wilson, editor. Sociology and the Public
Agenda. Sage, Newbury Park, California, USA. http://dx.doi. org/10.4135/9781483325484.n3 Koss, R. S., and J. Y. Kingsley. 2010. Volunteer health and
emotional wellbeing in marine protected areas. Ocean & Coastal
Management 53:447-453. http://dx.doi.org/10.1016/j. Fischer, C. 1996. Monitoring the monitors: bird banders track
data quality. Volunteer Monitor 8(2):9-11. Franco, A., N. Malhotra, and G. Simonovits. 2014. Publication
bias in the social sciences: unlocking the file drawer. Science 345
(6203):1502-1505. http://dx.doi.org/10.1126/science.1255484 Kountoupes, D. L., and K. S. Oberhauser. 2008. Citizen science
and youth audiences: educational outcomes of the Monarch
Larva Monitoring Project. Journal of Community Engagement
and Scholarship 1(1):10-20. Gallo, T., and D. Waitt. 2011. Creating a successful citizen science
model to detect and report invasive species. BioScience 61
(6):459-465. http://dx.doi.org/10.1525/bio.2011.61.6.8 Krishna, A. 2002. Active social capital. Columbia University
Press, New York, New York, USA. García, C. E. R., and S. Brown. 2009. Assessing water use and
quality through youth participatory research in a rural Andean
watershed. Journal
of
Environmental
Management
90
(10):3040-3047. http://dx.doi.org/10.1016/j.jenvman.2009.04.014 Lawrence, A. 2009. The first cuckoo in winter: phenology,
recording,
credibility
and
meaning
in
Britain. Global
Environmental Change 19(2):173-179. http://dx.doi.org/10.1016/
j.gloenvcha.2009.01.006 Gooch, M. 2004. Volunteering in catchment management groups:
empowering the volunteer. Australian Geographer 35(2):193-208. http://dx.doi.org/10.1080/0004918042000249502 Lee, V. 1994. Volunteer monitoring: a brief history. Volunteer
Monitor 6(1):14-16. Gooch, M. 2005. Voices of the volunteers: an exploration of the
experiences of catchment volunteers in coastal Queensland,
Australia. Local Environment 10(1):5-19. http://dx.doi. org/10.1080/1354983042000309289 McKay, L. 2007. Engaging the public in bird conservation:
moving from science to behavior change. LITERATURE CITED Waterbirds 30:177-182. http://dx.doi.org/10.1675/1524-4695(2007)030[0177:etpibc]2.0.co;2 McKinley, D. C., R. D. Briggs, and A. M. Bartuska. 2012. When
peer-reviewed publications are not enough! Delivering science for
natural resource management. Forest Policy and Economics Greenwood, J. J. D. 2003. The monitoring of British breeding
birds: a success story for conservation science? Science of the Total
Environment 310(1-3):221-230. http://dx.doi.org/10.1016/S0048-9697
(02)00642-3 21:1-11. http://dx.doi.org/10.1016/j.forpol.2012.03.007 Measham, T. G., and G. B. Barnett. 2008. Environmental
volunteering: motivations, modes and outcomes. Australian
Geographer 39(4):537-552. http://dx.doi.org/10.1080/00049180802419237 Greenwood, J. J. D. 2007. Citizens, science and bird conservation. Journal of Ornithology 148(1, supplement):77-124. http://dx.doi. org/10.1007/s10336-007-0239-9 Moyer-Horner, L., M. M. Smith, and J. Belt. 2012. Citizen science
and observer variability during American pika surveys. Journal
of
Wildlife
Management
76(7):1472-1479. http://dx.doi. org/10.1002/jwmg.373 Heller, N. E., and E. S. Zavaleta. 2009. Biodiversity management
in the face of climate change: a review of 22 years of
recommendations. Biological Conservation 142(1):14-32. http://
dx.doi.org/10.1016/j.biocon.2008.10.006 Newman, C., C. D. Buesching, and D. W. Macdonald. 2003. Validating mammal monitoring methods and assessing the
performance of volunteers in wildlife conservation—“Sed quis
custodiet
ipsos
custodies?”
Biological
Conservation
113
(2):189-197. http://dx.doi.org/10.1016/s0006-3207(02)00374-9 Jones, F. C., D. Baird, M. Bowman, G. Cameron, B. Craig, B. Cutler, J. Diamond, N. Dmytrow, M. Nocil, J. Parker, T. Pascoe,
H. Vaughan, and G. Whitelaw. 2006. Performance of Ontario’s
Benthos Biomonitoring Network: impacts on participants’ social Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Ecology and Society 20(3): 19
http://www.ecologyandsociety.org/vol20/iss3/art19/ Obura, D. O., S. Wells, J. Church, and C. Horrill. 2002. Monitoring of fish and fish catches by local fishermen in Kenya
and Tanzania. Marine and Freshwater Research 53:215-222. http://dx.doi.org/10.1071/MF01151 Stern, E. 1997. Crisis and learning: a conceptual balance sheet. Journal of Contingencies and Crisis Management 5(2):69-86. http://dx.doi.org/10.1111/1468-5973.00039 Ticheler, H. J., J. Kolding, and B. Chanda. 1998. Participation of
local fishermen in scientific fisheries data collection: a case study
from the Bangweulu Swamps, Zambia. Fisheries Management and
Ecology 5:81-92. http://dx.doi.org/10.1046/j.1365-2400.1998.00076. O’Rourke, D., and G. P. Macey. 2003. Community environmental
policing: assessing new strategies of public participation in
environmental regulation. Journal of Policy Analysis and
Management 22(3):383-414. http://dx.doi.org/10.1002/pam.10138 x Ottinger, G. 2010. Buckets of resistance: standards and the
effectiveness of citizen science. Science, Technology & Human
Values 35(2):244-270. http://dx.doi.org/10.1177/0162243909337121 Trumbull, D. J., R. Bonney, D. Bascom, and A. Cabral. 2000. Thinking scientifically during participation in a citizen-science
project. Science
Education
84(2):265-275. http://dx.doi. org/10.1002/(SICI)1098-237X(200003)84:2%3C265::AID-SCE7%
3E3.3.CO;2-X Overdevest, C., C. Huyck Orr, and K. Stepenuck. 2004. Volunteer
stream monitoring and local participation in natural resource
issues. LITERATURE CITED Human Ecology Review 11(2):177-185. U.S. Office of Management and Budget. 2012. Fiscal year 2013:
cuts, consolidations, and savings. Budget of the U.S. government. U.S. Office of Management and Budget, Washington, D.C.,
USA. Overdevest, C., and B. Mayer. 2007. Harnessing the power of
information through community monitoring: insights from social
science. Texas Law Review 86:1493-1526. Van Rijsoort, J., and Z. Jinfeng. 2005. Participatory resource
monitoring as a means for promoting social change in Yunnan,
China. Biodiversity and Conservation 14(11):2543-2573. http://dx. doi.org/10.1007/s10531-005-8377-y Pattengill-Semmens, C. V., and B. X. Semmens. 2003. Conservation and management applications of the REEF
volunteer fish monitoring program. Environmental Monitoring
and Assessment 81(1-3):43-50. Vaughan, H., G. Whitelaw, B. Craig, and C. Stewart. 2003. Linking ecological science to decision-making: delivering
environmental monitoring information as societal feedback. Environmental Monitoring and Assessment 88:399-408. http://dx. doi.org/10.1023/A:1025593728986 Pollock, R. M., and G. S. Whitelaw. 2005. Community-based
monitoring in support of local sustainability. Local Environment
10(3):211-228. http://dx.doi.org/10.1080/13549839.2005.9684248 Rydin, Y., and M. Pennington. 2000. Public participation and
local environmental planning: the collective action problem and
the potential of social capital. Local Environment 5(2):153-169. http://dx.doi.org/10.1080/13549830050009328 Viswanathan, M., A. Ammerman, E. Eng, G. Gartlehner, K. N. Lohr, D. Griffith, S. Rhodes, C. Samuel-Hodge, S. Maty, L. Lux,
L. Webb, S. F. Sutton, T. Swinson, A. Jackman, and L. Whitener. 2004. Community-based participatory research: assessing the
evidence. Agency for Healthcare Research and Quality, Rockville,
Maryland, USA. L. Webb, S. F. Sutton, T. Swinson, A. Jackman, and L. Whitener. 2004. Community-based participatory research: assessing the
evidence. Agency for Healthcare Research and Quality, Rockville,
Maryland, USA. Savan, B., A. J. Morgan, and C. Gore. 2003. Volunteer
environmental monitoring and the role of the universities: the
case
of
Citizens’
Environment
Watch. Environmental
Management 31(5):561-568. http://dx.doi.org/10.1007/s00267-002-2897-
y Schwartz, M. W. 2006. How conservation scientists can help
develop social capital for biodiversity. Conservation Biology 20
(5):1550-1552. http://dx.doi.org/10.1111/j.1523-1739.2006.00421. Sharpe, T., B. Savan, and N. Amott. 2000. Testing the waters. Alternatives 26(4):30-33. Shirk, J. L., H. L. Ballard, C. C. Wilderman, T. Phillips, A. Wiggins, R. Jordan, E. McCallie, M. Minarchek, B. V. Lewenstein, M. E. Krasney, and R. Bonney. 2012. Public
participation in scientific research: a framework for deliberate
design. Ecology and Society 17(2): 29. http://dx.doi.org/10.5751/
es-04705-170229 Shirose, L. J., C. A. Bishop, D. M. Green, C. J. MacDonald, R. J. Brooks, and N. J. Helferty. 1997. Validation tests of an
amphibian call count survey technique in Ontario, Canada. Herpetologica 53(3):312-320. Stepenuck, K. F. 2013. LITERATURE CITED Improving understanding of outcomes and
credibility of volunteer environmental monitoring programs. Dissertation. University of Wisconsin–Madison, Madison,
Wisconsin, USA.
|
https://openalex.org/W3159307711
|
https://research.rug.nl/files/170455518/sustainability_13_04923.pdf
|
English
| null |
Making with Shenzhen (Characteristics)—Strategy and Everyday Tactics in a City’s Creative Turn
|
Sustainability
| 2,021
|
cc-by
| 10,425
|
1. Introduction In 2015, maker culture in Shenzhen, China rose to prominence when the Chinese
government issued a new national policy aimed at the promotion of “mass makerspaces”,
“mass entrepreneurship” and “mass innovation”. This national initiative aims to dovetail
grassroots creativity with pre-existing policy discourses of the creative city, creative indus-
tries and “Internet +”, in which culture, creativity and digital technologies are recognized
as the new driving forces for urban and national economic growth [1]. Aspiring to become
a global creative city, Shenzhen has taken a lead in this state-led maker movement by
launching the “Make with Shenzhen” program in 2015. With the aim of encouraging the
public to take part in building a creative Shenzhen, “Make with Shenzhen” is a campaign
that provides funding and publicity support for the promotion of maker culture. Under the
slogan of “Make with Shenzhen”, in 2015 the city witnessed an explosion of makerspaces,
with the number of makerspaces increasing from 4 to more than 200 within just one year [2]. The proliferation of makerspaces, together with dazzling technologies and the offi-
cially propagated myth that “everyone can be a maker”, has kindled hope and passion
for creativity and innovation among individuals from different backgrounds. However,
this mass enthusiasm for entrepreneurial pursuits is underpinned by heavy governmental
intervention. At present, some makerspaces have closed down, and the feeling that the
makerspace bubble is deflating has led to confusion, doubt and introspection. Who are
the makers, what do they learn to make in the government-led maker movement and
how would city-wide learning and making shape the contours of the maker movement? In 2015, maker culture in Shenzhen, China rose to prominence when the Chinese
government issued a new national policy aimed at the promotion of “mass makerspaces”,
“mass entrepreneurship” and “mass innovation”. This national initiative aims to dovetail
grassroots creativity with pre-existing policy discourses of the creative city, creative indus-
tries and “Internet +”, in which culture, creativity and digital technologies are recognized
as the new driving forces for urban and national economic growth [1]. Aspiring to become
a global creative city, Shenzhen has taken a lead in this state-led maker movement by
launching the “Make with Shenzhen” program in 2015. With the aim of encouraging the
public to take part in building a creative Shenzhen, “Make with Shenzhen” is a campaign
that provides funding and publicity support for the promotion of maker culture. University of Groningen
Making with Shenzhen (Characteristics)—Strategy and Everyday Tactics in a City’s Creative
Turn
Chen, Siyu; Lin, Jian
P bli h d i University of Groningen
Making with Shenzhen (Characteristics)—Strategy and Everyday Tactics in a City’s Creative
Turn
Chen, Siyu; Lin, Jian
P bli h d i University of Groningen Making with Shenzhen (Characteristics)—Strategy and Everyday Tactics in a City’s Creative
Turn
Chen, Siyu; Lin, Jian Making with Shenzhen (Characteristics)—Strategy and Everyday Tactics in a City’s Creative
Turn
Chen, Siyu; Lin, Jian DOI:
10.3390/su13094923 IMPORTANT NOTE: You are advised to consult the publisher's version (publisher's PDF) if you wish to cite from
it. Please check the document version below. Document Version
Publisher's PDF, also known as Version of record Publication date:
2021 Link to publication in University of Groningen/UMCG research database Citation for published version (APA):
Chen, S., & Lin, J. (2021). Making with Shenzhen (Characteristics)—Strategy and Everyday Tactics in a
City’s Creative Turn. Sustainability, 13(9), Article 4923. https://doi.org/10.3390/su13094923 Copyright
Other than for strictly personal use, it is not permitted to download or to forward/distribute the text or part of it without the consent of the
author(s) and/or copyright holder(s), unless the work is under an open content license (like Creative Commons). The publication may also be distributed here under the terms of Article 25fa of the Dutch Copyright Act, indicated by the “Taverne” license. More information can be found on the University of Groningen website: https://www.rug.nl/library/open-access/self-archiving-pure/taverne-
amendment. Take-down policy
If you believe that this document breaches copyright please contact us providing details, and we will remove access to the work immediately
and investigate your claim. Take-down policy
If you believe that this document breaches copyright please contact us providing details, and we will remove access to the work immediately
and investigate your claim. Downloaded from the University of Groningen/UMCG research database (Pure): http://www.rug.nl/research/portal. For technical reasons the
number of authors shown on this cover page is limited to 10 maximum. sustainability sustainability sustainability
Citation: Chen, S.; Lin, J. Making
with Shenzhen (Characteristics)—
Strategy and Everyday Tactics in a
City’s Creative Turn. Sustainability
2021, 13, 4923. https://doi.org/
10.3390/su13094923 Keywords: creative city; maker movement; urban regeneration policies; ethnography; China Article
Making with Shenzhen (Characteristics)—Strategy and
Everyday Tactics in a City’s Creative Turn Siyu Chen 1,* and Jian Lin 2 1
Faculty of Humanities and Social Sciences, Harbin Institute of Technology (Shenzhen), Shenzhen 518055, China
2
Department of Media Studies and Journalism, University of Groningen,
9712 EK Groningen, The Netherlands; j.lin@rug.nl
*
Correspondence: chensiyu@hit.edu.cn Abstract: This paper investigates the government-led maker movement in Shenzhen, China by
deploying Michel de Certeau’s concepts of “strategy” and “tactics”. While there is a growing body
of literature surrounding the maker movement, the discrepancy between the maker movement
presented in urban policies and its participants’ actual practices is underexplored. Situating the
exploration in the Chinese context, this article looks into how state intervention shapes the maker
movement and actors’ participation. This work starts with considerations of political economy to
demonstrate how the “Make with Shenzhen” campaign as a strategy fits into the government’s
creative city agenda. It then draws upon the findings of a longitudinal ethnographic study to
illuminate how discourses, institutions and apparatuses are tactically appropriated by individuals to
mobilize symbolic, monetary, social and political resources to serve their interests. We argue that
these tactical practices can potentially lead to meaningful changes in the city of Shenzhen and the
everyday life of its people. By juxtaposing the strategy of the “Make with Shenzhen” campaign with
the tactical practices surrounding it, this study offers insight into the challenges and possibilities
brought about by the city-wide learning and making in the Chinese context.
Citation: Chen, S.; Lin, J. Making
with Shenzhen (Characteristics)—
Strategy and Everyday Tactics in a
City’s Creative Turn. Sustainability
2021, 13, 4923. https://doi.org/
10.3390/su13094923
Academic Editor: Kylie Peppler
Received: 23 February 2021
Accepted: 22 April 2021
Published: 28 April 2021
Citation: Chen, S.; Lin, J. Making
with Shenzhen (Characteristics)—
Strategy and Everyday Tactics in a
City’s Creative Turn. Sustainability
2021, 13, 4923. https://doi.org/
10.3390/su13094923
Academic Editor: Kylie Peppler
Received: 23 February 2021
Accepted: 22 April 2021
Published: 28 April 2021 1. Introduction Under the
slogan of “Make with Shenzhen”, in 2015 the city witnessed an explosion of makerspaces,
with the number of makerspaces increasing from 4 to more than 200 within just one year [2]. Received: 23 February 2021
Accepted: 22 April 2021
Published: 28 April 2021 Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. The proliferation of makerspaces, together with dazzling technologies and the offi-
cially propagated myth that “everyone can be a maker”, has kindled hope and passion
for creativity and innovation among individuals from different backgrounds. However,
this mass enthusiasm for entrepreneurial pursuits is underpinned by heavy governmental
intervention. At present, some makerspaces have closed down, and the feeling that the
makerspace bubble is deflating has led to confusion, doubt and introspection. Who are
the makers, what do they learn to make in the government-led maker movement and
how would city-wide learning and making shape the contours of the maker movement? Copyright: © 2021 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). https://www.mdpi.com/journal/sustainability Sustainability 2021, 13, 4923. https://doi.org/10.3390/su13094923 Sustainability 2021, 13, 4923 2 of 13 We argue that a rethink of the “Make with Shenzhen” campaign can shed light on the
challenges and opportunities of the maker movement in the Chinese context. We argue that a rethink of the “Make with Shenzhen” campaign can shed light on the
challenges and opportunities of the maker movement in the Chinese context. g
pp
There is a growing body of literature surrounding the maker movement. Some laud
the movement for its potential to initiate an “industrial revolution” [3], while others scruti-
nize its possible side effects, including intensified consumption [4], gender inequality [5]
and labor exploitation [6]. More recently, this literature has focused on the promotion of
the maker movement as a part of urban development policies. There have been studies
exploring its planning dimension [7], its influence on local entrepreneurial activities [8],
innovation ecosystems [9] and urban imaginaries [10]. In the Chinese context, the media
hype and political frenzy surrounding the Chinese maker movement have led to an emerg-
ing scholarship, of which a series of studies conducted by Lindtner [11–14] were the first
attempts. 1. Introduction Drawing on the long-term ethnography of Chinese maker communities, her work
convincingly demonstrates the relationship between technology use, production, activism
and the Chinese party-state. Further, other scholars have investigated the political implica-
tions of the Chinese maker movement with a focus on topics such as space, participation
and community [15–19]. As illuminating as these studies are, there has been little research
conducted on the discrepancy between the maker movement as it is presented in urban
policies and the reality of its participants’ actual practices. Recent studies have shown that
the evolving relationship between neoliberalism and state-led developmentalism in Asia
leads to a sizable gap between urban policies and their materialization [19,20]. Particularly
in the Chinese context where the market economy incorporates neoliberal elements with
centralized control [21], how state intervention shapes the maker movement and actors’
participation in the movement warrants an in-depth explication of its unique characteris-
tics. Responding to Comunian’s [22] call for a more agent-focused and interaction-based
understanding of the development of creative cities, this study delves into the practices
of and interactions between individual makers, real estate developers, funding agencies
and urban government in the “Make with Shenzhen” campaign. Illuminating the way that
diverse actors negotiate the meanings of makers, makerspaces and making in Shenzhen’s
creative turn, this study demonstrates the fluidity, multiplicity and interconnectedness
of the maker movement in urban regeneration. By examining how the government-led
campaign informs the citizenry of Shenzhen, and how the city-wide learning and making,
in turn, lead to the changing contours of the maker movement in the Chinese context,
this study further contributes insights to the relevant literature by exploring the power
interplay between government, market forces and the public. 2. Theoretical Framework and Methods This article draws upon Michel de Certeau’s concepts of strategies and tactics. The
official “Make with Shenzhen” campaign has been structured by the calculus of what de
Certeau calls a “strategy”. According to de Certeau [23] (p. xix), strategies “assume a
place that can be circumscribed” which they then manage as they master the exteriority. Strategies prescribe what is desirable and form the “institutionalized frameworks, scripts,
or patterns of action that serve as general guides to behaviour” [24] (p. 49). “Subjects of will
and power” employ strategies, which consist of centralized and rationalized rules. Based
on these rules, subjects assemble “objective” political, scientific and economic models [23]
(p. xix). De Certeau offers some examples of such “subjects of will and power”, including
a business enterprise, an army, a scientific institution and, crucially here, a city. Particularly
in the Chinese context where the nation-state continues to exert substantial influence over
political and economic resources [25,26], a city performs as a strategic tool for “effecting
state power” [23]. Designated to be “China’s experimental site for economic reform and
a nurturing ground of human resources” [27], Shenzhen is a city where strategies are
implemented to cultivate a pioneering, innovative and enterprising citizenry. These strate-
gies include zealous government endorsement of the maker movement, dazzling events,
burgeoning makerspaces, further inclusion of STEM courses in primary and middle school
curricula and a myriad of media reports on the legendary successes of local entrepreneurs. Sustainability 2021, 13, 4923 3 of 13 Collectively, these invoke the mythologized imaginary of a creative Shenzhen, which
reconfigures citizens’ sense of self and place through the maker culture. Collectively, these invoke the mythologized imaginary of a creative Shenzhen, which
reconfigures citizens’ sense of self and place through the maker culture. Beneath this official discourse that strategizes the innovative and entrepreneurial
landscape of Shenzhen, there exists a different mode of power, which can be termed
“tactics”. According to de Certeau [23], tactics are defined by the absence of a proper locus. Occupying the gaps or interstices of the strategic grid, tactics do not stand in opposition
to strategies but “traverse” and “infiltrate” systems by playing out “the guileful ruses
of different interests and desires” [28]. While the city serves as a totalizing and almost
mythical landmark for socioeconomic and political strategies, urban life increasingly
permits the re-emergence of elements that the urbanistic project excludes [23] (p. 95). 2. Theoretical Framework and Methods Holding the promise of exciting newness and unlimited possibilities, the “Make with
Shenzhen” campaign reaches out across physical and social distance to kindle public and
individual aspirations. However, as the city is not a field of programmed and regulated
operations [23] (p. 95), the desires fueled by it are diverse, fluctuating and, at times,
contesting, leading to citizens’ dispersed practices to serve their own interests. Opaque and
quiet as they may be, these practices are capable of deflecting the imposing and dominating
campaign of the maker movement in Shenzhen. p g
Treating the official campaign of “Make with Shenzhen” and its participants’ actual
social practices as two different conceptual entities, viz., strategies and tactics, this article
explores not only how the “Make with Shenzhen” campaign is organized and implemented
by the government, but also how these discourses, institutions and apparatuses are also
tactically negotiated and appropriated by different actors to serve their own interests. Through the lens of the maker movement in Shenzhen, this study sheds light on the tactical
practices of creative city discourses in a local urban context and the potential of these
practices to change the city and its people. p
g
y
p
p
As Smart [29] notes, ethnographic approaches are particularly useful for investigating
the tensions between urban policies and people in China where a “regulatory vacuum”
makes considerable room for negotiation and compromise. Following his advice, this study
has adopted a multi-sited, longitudinal ethnographic approach to examine the diverse
practices in the “Make with Shenzhen” campaign. The field study was conducted by
Chen from July 2017 to October 2020. This methodological approach included hands-on
participation in more than thirty online and offline maker-related events in Shenzhen,
including Maker Faires, Entrepreneurship Contests, Start-up Weekends and Hackathons,
etc., in addition to multiple visits to different makerspaces. Besides, rooted in and respon-
sive to the experience of a particular social position, participants’ personal insights into
the “Make with Shenzhen” campaign shed light on how values and beliefs on the maker
movement can be shaped by the political, economic, and sociocultural circumstances in so-
ciety. Therefore, 72 semi-structured interviews were conducted with relevant stakeholders,
including members, owners and operators of makerspaces, government officials, agencies,
entrepreneurs and investors, and generally creative and entrepreneurial citizens. Infor-
mants were recruited by way of snowball sampling. 3.1. “Make with Shenzhen”as a Strategy Since its designation as China’s first Special Economic Zone in 1979, Shenzhen
has risen from a small border town with a population of around 20,000 and a GDP of
USD 27.4 million in 1979 to a megacity with around 20 million residents and a GDP of
USD 335.7 billion in 2018 [30]. Despite its phenomenal growth, Shenzhen faces multiple
challenges to maintain its economic development. Its economic success heavily relies
upon foreign investment-led and labor-intensive manufacturing industries. Its rising labor
costs and land prices induce fierce competition both at home and abroad, which has been
further intensified since the global economic recession of 2008. Moreover, Shenzhen is a
migrant city, and its lack of a strong cultural identity may potentially lead to a weak level
of commitment by more skilled and educated professionals, which could be a roadblock to
the city achieving sustainable growth and prosperity [31]. y
g
g
p
p
y
To tackle these problems, the Shenzhen Municipal Government issued the Shenzhen
Declaration in 2004, in which 94 cultural and creative sectors were included in its 11th
five-year plan for economic and social development. Since then, various schemes, such
as the use of government subsidies and incentives, tax exemptions and government-
sponsored social events, have led to the rapid growth of the creative industries in Shenzhen. In the 2010s, technological innovation and entrepreneurship were further included in
Shenzhen’s creative city planning. In the Shenzhen Cultural and Creative Industries
Revitalization and Development Plan 2011–2015, technology, finance and tourism sectors
were incorporated into the city’s cultural industries to create a “new economic development
model” [32]. In 2014, Shenzhen was designated as the first city-based National Independent
Innovation Demonstration Zone, signifying its status as the national model in scientific
and technological innovation. This strategic focus on technological innovation and entrepreneurship has to do with
Shenzhen’s industrial heritage and the burgeoning grassroots maker culture that has
stemmed from it. At times, Shenzhen has served as the manufacturing center for the global
information technology industries [13]. Operating through an informal network and a
culture of sharing, the dense web of manufacturers in Shenzhen caters to less well-known
or no-name clients interested in producing smaller quantities of goods [13]. This informal
manufacturing ecosystem, known as shanzhai in Chinese, demonstrates an interesting
convergence and resonance with the founding spirit of the maker culture—grassroots, open-
sourced and entrepreneurial. 2. Theoretical Framework and Methods With the consent of the informants,
most of these research data, including 57 interviews, were documented through audio
and video recording. Notes were taken during the interviews when interviewees chose
not to be recorded, and reflective memos were completed afterwards to summarize major
themes and personal impressions. Identifiable information was removed and pseudonyms
were used for those who preferred not to be identified. The field data are complemented
by an extensive collection of newspaper articles, policy documents and media texts that
range from news reports, newsletters, and Facebook pages to WeChat public accounts. By
looking at themes, contextual considerations, references, emphases, silences and variations,
interview transcripts were coded and patterns were identified to underline and expose the
complex, contextual and changing discursive practices surrounding the maker movement
in Shenzhen. 4 of 13 Sustainability 2021, 13, 4923 3. Results: Field Findings In this section, we will first analyze the political economy of Shenzhen’s maker
movement, explicating the way that the “Make with Shenzhen” campaign as a strategy fits
into the official agenda of the creative city and urban regeneration. Based on data collected
through extensive field studies, we then demonstrate how the “Make with Shenzhen”
campaign has led to the changing definition and composition of “makers”, how the tactical
appropriation of the campaign through the interactions of different actors has given birth to
“makerspaces” in multifarious forms, and finally how these emerging physical and social
spaces open up new possibilities of “making” that can potentially bring about changes to
the city and its people. 3.1. “Make with Shenzhen”as a Strategy Comprised of a complete supply chain of producers, traders,
design solution houses, vendors and assembly lines, Shenzhen’s shanzhai ecosystem has
made the city an ideal place for makers to produce affordable and increasingly advanced
electronics. As a global epicenter of hardware, Shenzhen stepped into the spotlight at a
time of overriding national policy interests in innovation and entrepreneurship. g
p
y
p
p
On 4 January 2015, during his inspection tour of Shenzhen, Premier Li Keqiang paid
a visit to Chanhuo Makerspace. Lauding grassroots creativity as an enduring engine of
China’s economic growth, Li’s talk signaled a watershed moment in state innovation policy,
which embodies the national pursuit of rebranding China as a creative nation where every
citizen should participate in the revolution from “made in China” to “created in China” [16]
(p. 47). A few weeks after Li’s visit, the State Council issued a new national policy on 5 of 13 Sustainability 2021, 13, 4923 “Mass Entrepreneurship and Innovation” to support the creation of mass makerspaces and
the proliferation of a maker approach to the nation as a whole. According to the minister
of science and technology Wan Gang [33], the government endorsement of the maker
movement is a means to “adapt to the ‘new normal’ in China’s economic transformation”
and “an opportunity for everyone to realize a lifelong dream, including the underprivileged
youth”. Wan’s remark, as Lindtner and Avle [34] note, referenced two inter-related phrases
that prevail in Chinese political discourse: “China’s new normal” and the “Chinese dream”. p
p
First used by President Xi Jinping in May 2014 when describing changes in China’s
social, economic and political conditions, China’s “new normal” is characterized by the
slowdown of growth and the process of upgrading the country’s economic structure. Faced
with an increase in wealth inequality, financial instability and industrial overcapacity, struc-
tural changes in the economy have brought about an increasingly volatile labor market
and precarious labor conditions [35]. Under such circumstances, the “Mass Entrepreneur-
ship and Innovation” campaign is an ad hoc solution for China’s economic transitional
crisis [26,34]. During the time of China’s “new normal”, the government seeks to build
a normative consensus and shared identity by promoting the aspirational slogan of the
“Chinese dream” [36,37]. 3.1. “Make with Shenzhen”as a Strategy Initiated by President Xi shortly after he took office in 2012, the
national discourse of the “Chinese dream”, or what Xi defined as “the great rejuvenation of
the Chinese nation”, is an act of moral and political leadership that seeks to resonate with
Chinese citizens by emphasizing the opportunity for all Chinese to achieve prosperity [37]. This form of governance articulates with the state’s growing commitment to the advance-
ment of science and technology [1], leading to the officially propagated maker movement
that engages Chinese society in the visions and enactments of multiple technological, eco-
nomic and social futures for China [12,34]. In the national project of Mass Entrepreneurship
and Innovation, Shenzhen stands as a privileged locale to experiment with making on
a mass scale. For one thing, the challenges Shenzhen is facing—including the shift to a
knowledge-based economy, intensified competition and the absence of a collective identity
in an increasingly heterogeneous and stratified society—epitomize China’s plight in the
era of the “new normal” of the “Chinese dream”. Furthermore, as mentioned earlier, the
shanzhai ecosystem in Shenzhen has turned out to be a treasure trove for makers, which has
made the city a prime site for examining the possibilities and limits of a “maker approach”
to the transformation from “made in China” to “created in China”. Just one day after
Premier Li’s visit to Chaihuo, the Shenzhen–San Francisco International Exchange on Open
Innovation was hosted by the Shenzhen government in San Francisco. Having drawn
more than 300 international makers and industry insiders, this event was the debut of the
“Make with Shenzhen” campaign to promote the city’s makers along with an innovative
ecosystem worldwide. In addition, the Shenzhen government launched a three-year action
plan to have the city host 200 makerspaces by the end of 2017 (an annual increase of
50 makerspaces per year) [37]. CNY 2 billion was allocated for this plan, which provided
up to CNY 5 million per site for new makerspaces, the expansion of existing makerspaces
or the introduction of overseas makerspaces to Shenzhen [38]. Moreover, the city has been
actively building a reputation as a hub of innovation education at all levels, from kids’
education clubs, to junior academies of science for teenagers, to incubators and accelerators
for emerging designers and engineers. 3.1. “Make with Shenzhen”as a Strategy The Shenzhen municipal government has also
issued policies to promote the maker movement among college students; these measures
have included legitimating students’ academic leave so they can pursue entrepreneurial
work, providing subsidies and loans, offering favorable tax treatment and free advisory
services, etc. [39]. 3.2.1. A Multitude of Makers “Honestly, I don’t know what it exactly means”, Mr. Hu, a makerspace operator,
said while looking somewhat perplexed when asked about the definition of a “maker”
(chuangke). Hu’s confusion has to do with the fuzzy meaning of “maker” in the Chinese
context. Originated in the San Francisco Bay Area by technological hobbyists in the mid-
2000s, the maker movement was initiated by a group of Do It Yourself (DIY) enthusiasts
who shared a passion for digital fabrication. The maker movement in China began in the
early 2010s. During the planning stages of the first international maker carnival in Beijing in
2012, China’s makers settled on an alternative term: chuangke (creative professional) [11]. With the advantage of connoting both creativity (chuangyi) and innovation (chuangxin),
chuangke is employed as a positive term within the wider creativity discourse [11]. Incorpo-
rated into the state’s much-touted policy goal of “Mass Innovation and Entrepreneurship”,
the concept of “maker” has received unprecedented media hype and public attention,
ranked first in the top 10 Chinese internet buzzwords of the first half of 2015 [40]. While
the Chinese government encourages everyone to explore their creativity, risk-taking and
play [41], this approach focuses more on bringing out its entrepreneurial potential rather
than promoting the “organic” maker spirit that, according to Dale Dougherty [42] (p. 12),
“celebrates cooperation, creative freedom and hands-on experience”. Moreover, generous government sponsorship further complicates the composition
of makers. The Shenzhen Municipal Government, as mentioned earlier, has released a
funding policy for makers that provides up to CNY 500,000 (USD 74,130) to each maker or
maker project [39]. This enthusiastic support from the authorities has motivated thousands
of Chinese individuals from diverse backgrounds to become “makers”, and Chinese mak-
erspaces have been flooded with new faces, many of whom have little or no experience,
expertise or genuine interest in creating. The potential financial benefit has even given
rise to a service that helps makers prepare the application to receive these grants from the
government. While some makerspaces hire consultants to update their members about the
latest favorable policies, independent intermediaries can earn commission by providing
services such as writing proposals, packaging application materials, liaising with govern-
ment officials, and assisting with project inspection if the application is successful. 3.2. Tactical Practices in “Make with Shenzhen” This enthusiastic political endorsement and generous funding, together with the
widely promulgated belief that “everyone can be a maker”, have sparked individual
ambition in maker entrepreneurship. The massive participation in and mobilization of the
“Make with Shenzhen” campaign among different interest groups, as we will show in the Sustainability 2021, 13, 4923 6 of 13 following sections, have led to fluid and contested meanings of “maker”, “makerspace”
and “making”. following sections, have led to fluid and contested meanings of “maker”, “makerspace”
and “making”. 3.2.2. Contested Makerspaces In 2015, Henk, a Dutch entrepreneur, joined his expat friends for a three-day mak-
erspace tour to look for a place to continue his hobby of making in Shenzhen. Having failed
in his search, he ended up founding his own makerspace, Trouble Maker, in the following
year. Recalling the makerspace tour, he commented: “It struck me that most of the makerspaces here were very different from what one
would expect. Very few of them provided labs. Those which were with labs offered little
guidance, and the use of tools was strictly regulated. It seemed that they just wanted to
keep their places tidy and clean . . . and most of the large makerspaces were owned by real
estate developers, and they operated on rent instead of [on a] membership basis”. Henk’s observations are acute. Positioned as accelerators for creative and technology-
led innovation, makerspaces had been increasingly in the spotlight since Premier Li’s visit
to Chaihuo [18]. As part of the “Make with Shenzhen” Campaign, the local government
has enthusiastically supported the founding and operation of makerspaces. Similar to
Luo and Chan’s [26] observations of the production of China’s coworking spaces, strong
state intervention in the form of diverse subsidies, awards and mega projects distinguishes
the provision of these spaces from their Western counterparts. Legions of dubiously
named makerspaces have been built to take advantage of this governmental support. As
a result, “makerspaces” have become contested physical and social spaces created and
mobilized by individuals and organizations with diverse and even conflicting interests. The transformation of WeHome, an apartment building in Shenzhen, is a case in point. p
g
p
Located in a former industrial area, WeHome is a chic apartment building converted
from an old factory. While the bottom two floors serve as a co-working space for design
and fashion start-ups, the top three floors are a co-living space made up of small units. With modern interiors, including a 100-metre graffiti-emblazoned lounge bar, a boutique
café, a sleek yoga studio, a well-lit reading room and a brushed silver and grey kitchen,
the WeHome complex houses around 160 tenants, most in their 20–30s, well-educated and
well-paid. WeHome’s transition into a makerspace began with the slogan on the entrance
hall being changed from “Sweet home WeHome” to “Enjoy your creative life in your
sweet home WeHome”. 3.2.1. A Multitude of Makers “I feel
the fund for makers is pretty much like the pension program in the West,” an intermediary
commented, “it is especially tempting to those who are unemployed and need some initial
capital to start their business, and we are there to facilitate the process.” Encompassing opportunists, amateur hobbyists and professional entrepreneurs, the
term “maker” has become increasingly ambiguous in this government-sponsored maker
movement, which opens possibilities for individuals’ tactical self-representation. Like many
informants, Zhao, the inventor of a large-scale irrigator, was in the process of applying for
the much-coveted Shenzhen Municipal maker fund at the time of our interview. However,
he refused to identify as a maker: “I am a hardcore geek, not a maker who makes stuff out of some whimsical ideas. I love technical stuff, and I used to be a member of a hardware interest group for years. As for this project, my partner and I have been working on it for three years, and we are
confident that this is the best solution with superb effectiveness in terms of both cost and
function.” “I am a hardcore geek, not a maker who makes stuff out of some whimsical ideas. I love technical stuff, and I used to be a member of a hardware interest group for years. As for this project, my partner and I have been working on it for three years, and we are
confident that this is the best solution with superb effectiveness in terms of both cost and
function.” Fang, who obtained his master’s degree in artificial intelligence in France, was the
recipient of a grant for his project on intelligent robots. He also challenged the appellation
of “a maker” by stating: “I am not a maker but an entrepreneur. Makers are amateurs, they lack technical
expertise and business acumen. They more than often overlook the market needs, and their
products are usually immature. Running a start-up is a sophisticated job for elites, not for
some random unemployed college graduates.” “I am not a maker but an entrepreneur. Makers are amateurs, they lack technical
expertise and business acumen. They more than often overlook the market needs, and their
products are usually immature. 3.2.1. A Multitude of Makers Running a start-up is a sophisticated job for elites, not for
some random unemployed college graduates.” 7 of 13 Sustainability 2021, 13, 4923 Like Zhao and Fang, many technology-related professionals, while tactically seeking
to include themselves in maker-related policies, emphasize their dedication, expertise,
experiences and professionalism to distance themselves from makers that, as the Chinese
government claims, “anyone can be”. While some resist the “plebification” of innovation and entrepreneurship that is
promoted by the official maker movement, others embrace the label of a “maker” because
of its connotation of creativity. Mr. Li, a furniture dealer who sells his merchandise online,
rented a desk at a makerspace. While the seemingly uncreative trading business might
render him a misfit in the “creative” workplace, Mr. Li nevertheless saw himself as a
maker. “I am experimenting with new business models with the aid of the internet”, Mr. Li
claimed, “I am as creative as any other maker”. Similarly, Kathy, an artist at the Dafen
oil painting village, called herself a “cultural maker” to distinguish her original paintings
from the replicas that were prevalent in Dafen. Like Mr. Li and Kathy, many of those who
work outside of the technology domain that is commonly celebrated by maker-related
policies identify as “makers”. As the creative economy endorses the superiority of creative
labor over other forms of labor [43] (p. 66), individuals tactically mobilize its symbolic
resources to establish a sense of creative identity that for many is seen to justify their access
to makerspaces—a term that, as will be demonstrated in the next section, has become
increasingly equivocal in the daily practices of Shenzhen’s maker movement. 3.2.2. Contested Makerspaces The subdistrict office organized weekly training and workshops
on entrepreneurship that took place in the lounge, where the graffiti on the walls was
replaced by national flags and banners promoting the “Make with Shenzhen” campaign. While these events were often held during work hours when most of the tenants were not
available, the organizers managed to use small gifts to attract dozens of audience members Sustainability 2021, 13, 4923 8 of 13 from the neighborhood, most of whom were retirees. Mr. Deng, the owner of WeHome,
admitted that he is building a rather unconventional makerspace for “compelling reasons”. In a move to cool down the sizzling property market, the government has encouraged
the development of the leasing market. To win a bid for land parcels, bidding developers
have to meet the new land sale rules that require buyers to keep a certain proportion of
the developments on any given site available for rental and not sale purposes. In order to
win the land during the bidding process and have a foothold in “China’s hardware Silicon
Valley”, Mr. Deng pledged 100% of his property for rental. Having to shift from a “build
to sell” to a “build to rent” model, Mr. Deng struggles to sustain his project with limited
revenue. He saw the governmental funds available for makerspaces as a way to make
WeHome lucrative. The result is that Mr. Deng has been co-opted by the subdistrict office,
which was looking for a venue to promote the “Make with Shenzhen” campaign. Similar
to WeHome, many real-estate companies attempt to access funding by labeling themselves
as makerspaces. In 2015, the number of makerspaces in China rose from around 70 to
16,000 [44]. However, as Henk’s comments in the section above indicate, many of these
lack adequate facilities to support real “maker” practice. According to Nesta [17], only a
small portion of spaces in China can be truly identified as makerspaces, while the rest are
disingenuously labeled as “makerspaces” for other purposes. g
y
p
p
p
This sudden surge in “makerspaces” has also led to intensified competition. Signs of
the bubble bursting started to show in early 2016 when quite a few makerspaces closed, in-
cluding Peacock Organization, the winner of China’s Top Ten Best Makerspaces Incubators
contest in 2015. 3.2.2. Contested Makerspaces In 2016, around 55 percent of makerspaces were experiencing financial loss,
and the average occupancy rate of makerspaces was 30 percent—well below the 60 percent
many makerspaces need to break even [45]. This competitive market results in entangled
practices, making makerspaces a site of contestation where the original ethos of technical
innovation and openness is intermingled with, if not compromised by, other motives. The
cases of Litchee Lab and 3W Coffice described below illustrate the attempts that different
makerspaces make to straddle the contradiction between financial sustainability and public
interest. Litchee Lab, founded in 2014 at the location of a deserted canteen, was one of the
very first makerspaces in Shenzhen. With an aim to promote DIY culture in the local
community, the original Litchee Lab prioritized affordable access to analogue and digital
design and aimed to provide facilities and space for both adult and teenage makers. Whereas adults paid a monthly fee of CNY 700 for 24/7 access to Litchee’s equipment,
students could enroll in training programs and workshops to study maker skills. The
vibrant and collaborative vibe of Litchee Lab made it one of the international maker
community’s preferred makerspaces in Shenzhen, and it has been widely covered by
international media publications such as Wired, Make Magazine and Forbes. Despite its
rising global reputation, Litchee Lab found it hard to maintain focus on both its membership
system and its educational programs and had to make up the financial losses of the former
through the latter. Since 2017, it has concentrated on STEM education by offering paid
courses and training. This transformation has helped Litchee Lab survive the “makerspace
winter”. Meanwhile, these readjustments, according to its founder Lit Liao, have also
changed the nature of Litchee Lab: “What matters about makerspaces is their open and sharing atmosphere. Litchee Lab
used to be open to anyone, but at this stage, we’ve decided to focus on providing STEM
education to school-aged children. We are transforming Litchee Lab into a STEM service
provider.” Similar to Litchee Lab, some internationally recognized makerspaces in Shenzhen
have to limit their membership and focus on providing value-added services to sustain
themselves. Makerspaces relying primarily on rental income aim to boost their revenues by
being all-inclusive, which paradoxically makes them fit into Lit’s definition of a makerspace. 3.2.3. Making with Different Ends Jenny joined 3W Coffice without a team or a plan for what to make. As a “one-man
band”, she nevertheless did not keep a low profile at her office desk. With a fragrance
diffuser, a vintage box for cosmetics and several cartoon figurines, Jenny’s desk looked
distinctively feminine. On the wall opposite her desk hung two images, a wall of screens
displaying Nasdaq stock quotes and a family portrait of four. “These are magazine photos
that I’ve collected”, Jenny explained, “and they represent my life dreams—to have my
company go IPO and to find a husband and have two babies.” While starting a family
might be easier than launching an IPO, Jenny found that in her previous job she did not
have the time to look for a boyfriend. She previously worked as a software engineer at
a Chinese transnational telecommunication company. The company’s infamous “9-9-6”
work culture, which expected employees to be in the office from 9 a.m. to 9 p.m., six days
a week, together with the mundane and repetitive nature of the work, left her exhausted
and frustrated. Finally, she quit her job and joined 3W Coffice in hope of starting her own
business. When asked about her experience at 3W Coffice, Jenny said: “The members of the 3W community have shared a lot of their thoughts and experi-
ences with me, and I love the feeling of meeting new people and learning new things. I
haven’t made a business plan yet, but at least I am making a lifestyle change for myself.” Similar to Jenny, many informants joined makerspaces in Shenzhen to make changes. in their lives more than to make things; these changes might include “making more money”,
“working for myself”, “having more free time”, “meeting more likeminded people”, or
“exploring new possibilities in life”. Most of these people were in their 20s and 30s, well-
educated and at least temporarily with a certain degree of economic security. The economic
slowdown in recent years has resulted in increasing layoffs and excessive overtime in the
tech sector [46]. While recent graduates struggle to find a satisfying job in the shrinking
labor market, more experienced employees aspire to achieve a desirable life-work balance
and the experience of self-realization. 3.2.2. Contested Makerspaces Renting out each desk for CNY 800 to CNY 1500 (115–216 USD) per month without
a membership requirement for eligibility, these makerspaces provide small-scale start- Sustainability 2021, 13, 4923 9 of 13 ups and entrepreneurial individuals with a low-threshold doorway into the makerspace
communities. 3W Coffice is a case in point. Located at Shenzhen Bay Start-up Plaza, 3W
Coffice hosts a diverse group of companies and start-ups at various life stages. Like many
other “unorthodox” makerspaces in China, 3W Coffice does not provide technical facilities,
and it mainly relies on office rental fees to remain solvent. The frequent and dynamic social
events it organizes make it popular; these include lectures, meetings and training. The
group also actively promotes networking events and informal exchange between members
at events such as happy hours, meetups and cocktail parties. “We welcome anyone who
wants to rent a desk here”, the business manager of 3W Coffice said, “Everyone has the
potential to make, and they can always find a way to make”. The affordable rent and
communal atmosphere at 3W Coffice open opportunities for those who are eager to make,
although what they make may be distant from the original purpose of the government’s
campaign, as is shown in the following section. 3.2.3. Making with Different Ends Coinciding with the rise of post-Mao professionals
who, as Hoffman [47] points out, embrace a “self-enterprising ethos”, the government’s
promotion of the maker movement as “an opportunity to realize a lifelong dream” speaks
to a cohort who hope to break free of a grueling and exploitative employment environment. With the potential to provide more freedom, power and reward, being an entrepreneurial
maker appeals to these middle-class aspirants as “a line of flight” to distance themselves
from their previous grueling work conditions and the routine and boredom with which
they associate those environments [48]. Not all of these entrepreneurial aspirants are
eligible for government funding, and most are aware of the precarity and insecurity that
can accompany self-employment. They nevertheless regard this risky stance as worth
taking because of the hope that getting involved with the maker community will bring
knowledge and resources that will allow for an alternative way of life that transcends the
mundane nature of daily routine. As Monique Bolli [49] (p. 73) succinctly points out, the Sustainability 2021, 13, 4923 10 of 13 10 of 13 autonomy of makerspaces is purposefully generated to enable people to choose what to
learn, how and when. For some of these young entrepreneurial aspirants, the changes they wanted to make
were not only about their own lives but also about the larger society. Ni used to work as a
business development manager at a makerspace, through which she developed an interest
in the concept of “Business for Good”. She commented: “I’ve seen many people come to Shenzhen to start their business. The lucky ones
managed to increase the valuation of their start-ups, got acquired and left, while others are
still hanging on. For many of them, Shenzhen is just a transient hub, and they are too busy
to get to know the city, let alone to do anything to make it better.” Aspiring to make “real change” in society, Ni nevertheless regarded her work at the
makerspace as a necessary step to acquire entrepreneurial acumen and build networks to
fulfil her ambition. In 2018, she left the makerspace and joined a social enterprise. The
connections she built with the government and a design firm while working at the mak-
erspace led to a government-funded joint project that aims to promote public awareness
of issues of environmental protection through a gamified tour. 3.2.3. Making with Different Ends “We are not building a
unicorn, but we are definitely making changes to the city”, said Ni proudly. Ni was among
an emerging group that I encountered in Shenzhen who identified as “change-makers”. Most were in their twenties or early thirties, with solid educational backgrounds and work
experience. Different from the older generation of Chinese philanthropists who prized
themselves on tackling social problems by taking an anti-entrepreneurial approach, this
younger generation, nurtured under state innovation policies, takes a different approach to
producing social good that blends the visionary and the practical [16]. Since social innova-
tion in China is heavily intertwined with changes in government regulation and politics,
social entrepreneurs need to work strategically within the system (Zhao, 2012) [49]. By tac-
tically constructing “making change” as an alternative proposal to the ruling paradigm of
“making enterprises”, these media-savvy, entrepreneurial change-makers align themselves
with the maker movement in Shenzhen as a way to mobilize political, economic and social
resources for social innovation in China. Empowering individuals through innovative learning and independent thinking,
“making” is often understood to have a psychologically transformative and liberating
potential (Breaux, 2017) [50]. While the democratic promise of “making” in the Chinese
context is carefully channeled into economic discourses regarding the need to boost em-
ployment amid downward economic pressure, some individuals, as we have illustrated,
have also attempted and managed to make changes, either for themselves or for the city. Their everyday practice generates new meanings of “making” that are different from its
officially designated meaning. 4. Discussion and Conclusions Shenzhen Bay during the Mass Innovation and Entrepreneurship Week, 2017 (Photo
credit to Hu Bumin). Figure 1. Shenzhen Bay during the Mass Innovation and Entrepreneurship Week, 2017 (Photo credit
to Hu Bumin). Figure 1. Shenzhen Bay during the Mass Innovation and Entrepreneurship Week, 2017 (Photo
credit to Hu Bumin). Figure 1. Shenzhen Bay during the Mass Innovation and Entrepreneurship Week, 2017 (Photo credit
to Hu Bumin). The accidental juxtaposition of the government slogan and the art piece epitomizes
the interaction between the “Make with Shenzhen” campaign and the diverse, contested,
and often seemingly self-contradictory practices of the actors involved with it. In its agenda of economic restructuring through individual creativity and technolog-
ical innovation, the Shenzhen government has enthusiastically promoted the “Make with
Shenzhen” campaign. Generous political and financial support as part of the “strategy”
has attracted a diverse group of individuals, including tech-savvies, investors, real-estate
developers, social entrepreneurs and aspiring youth, each attempting to tactically mobi-
lize symbolic, monetary, social and political resources to serve their own interests. The
“Make with Shenzhen” campaign and its participants rely on mutual appropriation to
sustain their operations. This process of interaction has provided opportunities for the
In the “Make with Shenzhen” campaign, where the rhetoric of creative disruption
and neoliberal entrepreneurialism is underpinned by intense government intervention,
tactical practices have connected the maker movement with public actions and private
territories of capital accumulation to maneuver and divert the official strategy of urban
regeneration and economic restructuring. The practices of the participants constituted “a
hidden production” [23] of meaningful and valuable actions for themselves at the locale
of everyday life. It is this multifarious individual participation, and the dynamic social
networks and ample learning opportunities it brings about, that we argue may generate
not only challenges but also hopes, if not optimism, in our contemporary urban lives. The
trivialities of everyday life in the city are capable of making changes that may not be as
trivial as they seem. p
y p
p
p
g
teau points out, a tactic artfully poaches and diverts the space where its practitioner is
constrained by the existing order and institutions, and its success depends on its users’
creativity, and most importantly, their ability to catch fleeting opportunities [23]. As
Author Contributions: Conceptualization, S.C.; methodology, S.C.; investigation, S.C.; analysis, S.C. and J.L.; writing—original draft preparation, S.C.; writing—review and editing, S.C. and J.L. 4. Discussion and Conclusions In 2017, right before the opening of the Mass Innovation and Entrepreneurship Week,
a poster appeared on a pillar at the Shenzhen Bay Software Industrial Base Square. The
poster read “Follow our party, start your business.” Not far away was a piece of artwork
that showed two faces: one defiant and one compliant (see Figure 1). The accidental juxtaposition of the government slogan and the art piece epitomizes
the interaction between the “Make with Shenzhen” campaign and the diverse, contested,
and often seemingly self-contradictory practices of the actors involved with it. In its agenda of economic restructuring through individual creativity and technological
innovation, the Shenzhen government has enthusiastically promoted the “Make with
Shenzhen” campaign. Generous political and financial support as part of the “strategy”
has attracted a diverse group of individuals, including tech-savvies, investors, real-estate
developers, social entrepreneurs and aspiring youth, each attempting to tactically mobilize
symbolic, monetary, social and political resources to serve their own interests. The “Make
with Shenzhen” campaign and its participants rely on mutual appropriation to sustain
their operations. This process of interaction has provided opportunities for the practices of Sustainability 2021, 13, 4923 11 of 13 11 of 13 ordinary people to exercise a tactical effect on the official program. As de Certeau points
out, a tactic artfully poaches and diverts the space where its practitioner is constrained by
the existing order and institutions, and its success depends on its users’ creativity, and most
importantly, their ability to catch fleeting opportunities [23]. As shown in the preceding
sections, the tactical effect of the participants’ practices lies not on the fact that they openly
challenge the official program, but on the fact that they run a course of their own that meets
the needs of its practitioners. Through the creative negotiation of the meanings of “makers”,
“maker spaces” and “making”, the campaign has been turned into a chance for budding
entrepreneurs to garner financial support for their start-ups, for real-estate developers to
generate more revenue under the tight rules regarding commercial vs. residential land use,
and for aspiring individuals to learn from and connect with the entrepreneurial community. Articulating diverse power-related interests, the evolving maker movement in Shenzhen
exemplifies how urban policies can be negotiated and mobilized by different actors through
the interaction between official strategies and non-official tactics. REVIEW
11 of 13 Figure 1. 4. Discussion and Conclusions All
authors have read and agreed to the published version of the manuscript. y
p
y
y
g
pp
[
]
shown in the preceding sections, the tactical effect of the participants’ practices lies not on
the fact that they openly challenge the official program, but on the fact that they run a
course of their own that meets the needs of its practitioners. Through the creative negoti-
Funding: This research was funded by European Research Council Consolidator Grant ChinaCre-
ative 616882, Shenzhen Research Institute of High-Quality Development and New Structure Grant
20210017 and HITSZ Academic Staff Development Fund 20190054. Sustainability 2021, 13, 4923 12 of 13 12 of 13 Institutional Review Board Statement: Ethical review and approval were waived for this study, due
to the fact that informed consent was obtained from all subjects involved in the study, and under the
requests of informants, some data is anonymized or pseudonymized. Informed Consent Statement: Informed consent was obtained from all subjects involved in the
study. Data Availability Statement: The data presented in this study are available on request from the
corresponding author. The data are not publicly available due to the requests of some informants. Data Availability Statement: The data presented in this study are available on request from the
corresponding author. The data are not publicly available due to the requests of some informants. Conflicts of Interest: The authors declare no conflict of interest. References In Proceedings
of the Eleventh Chinese Internet Research Conference (CIRC11), Oxford, UK, 15 June 2013; Volume 15. 11. Silvia, L. Making Subjectivities: How China’s DIY makers Remake Industrial Production, Innovation
of the Eleventh Chinese Internet Research Conference (CIRC11), Oxford, UK, 15 June 2013; Volume 12. Lindtner, S. Hackerspaces and the Internet of Things in China: How makers are reinventing indus
and the self. China Inf. 2014, 28, 145–167. [CrossRef] spaces and the Internet of Things in China: How makers are reinventing industrial production, innovation
nf. 2014, 28, 145–167. [CrossRef] f
13. Silvia, L. Hacking with Chinese Characteristics: The Promises of the Maker Movement against China’s Manufacturing Culture. Sci. Technol. Hum. Values 2015, 40, 854–879. 14. Silvia, L. Laboratory of the Precarious: Prototyping Entrepreneurial Living in Shenzhen. Women’s Stud. Q. 2017, 45, 287–305. 14. Silvia, L. Laboratory of the Precarious: Prototyping Entrepreneurial Living in Shenzhen. Women’s Stud 14. Silvia, L. Laboratory of the Precarious: Prototyping Entrepreneurial Living in Shenzhen. Women’s Stud. Q. 2017, 45, 287–305. 15. Wen, W. Making in China: Is maker culture changing China’s creative landscape? Int. J. Cult. Stud. 2017, 20, 343–360. [CrossRef] 14. Silvia, L. Laboratory of the Precarious: Prototyping Entrepreneurial Living in Shenzhen. Women’s Stud. Q. 2017, 45, 287–305. 15. Wen, W. Making in China: Is maker culture changing China’s creative landscape? Int. J. Cult. Stud. 2017, 20, 343–360. [CrossRef]
16. Wang, J. The Makers Are Coming! China’s Long Tail Revolution. In Handbook of Cultural and Creative Industries in China; Michael, , L. Laboratory of the Precarious: Prototyping Entrepreneurial Living in Shenzhen. Women’s Stud. Q. 2017, 4
W. Making in China: Is maker culture changing China’s creative landscape? Int. J. Cult. Stud. 2017, 20, 343–3 y
yp
g
p
g
Q
15. Wen, W. Making in China: Is maker culture changing China’s creative landscape? Int. J. Cult. Stud. 2017, 20, 343–360. [CrossRef]
16. Wang, J. The Makers Are Coming! China’s Long Tail Revolution. In Handbook of Cultural and Creative Industries in China; Michael,
K., Ed.; Edward Elgar Publishing: Cheltenham, UK, 2016. 15. Wen, W. Making in China: Is maker culture changing China’s creative landscape? Int. J. Cult. Stud. 201 g
g
g
p
16. Wang, J. The Makers Are Coming! China’s Long Tail Revolution. In Handbook of Cultural and Creative Industries in China; Michael,
K., Ed.; Edward Elgar Publishing: Cheltenham, UK, 2016. 17. Nesta. Made in China: Makerspaces and the Search for Mass Innovation. References 1. Keane, M.; Chen, Y. Entrepreneurial solutionism, characteristic cultural industries and the Chinese dream. Int. J. Cult. Policy 2017,
25, 1–13. [CrossRef] ,
[
]
2. Southern Metropolis Daily Makerspaces in Shenzhen Increased from Four to Two Hundred within One Year. Southern Metropolis
Daily. 21 January 2016. Available online: http://finance.oeeee.com/html/201601/21/362449.html (accessed on 16 August 2020). 3. Peppler, K.; Bender, S. Maker Movement Spreads Innovation One Project at a Time. Phi Delta Kappan 2013, 95, 22–27. [CrossRef]
S
h
G
l
h
S
k l S S d
b
O
G
l
b
d
k
fi 2. Southern Metropolis Daily Makerspaces in Shenzhen Increased from Four to Two Hundred within One Year. Southern Metropolis
Daily. 21 January 2016. Available online: http://finance.oeeee.com/html/201601/21/362449.html (accessed on 16 August 2020). 3. Peppler, K.; Bender, S. Maker Movement Spreads Innovation One Project at a Time. Phi Delta Kappan 2 pp
p
j
pp
4. Smith, A.G.; Hielscher, S.; Dickel, S.; Söderberg, J.; Van Oost, E. Grassroots Digital Fabrication and Makerspaces: Reconfiguring,
Relocating and Recalibrating Innovation? SSRN Electron. J. 2013. [CrossRef] g
g
5. Carstensen, T. Gendered Fab Labs. In Fab Lab: Of Machines, Makers and Inventors; Walter-Herrmann, J., Corinne, B., Eds.;
Transcript-Verla: Bielefeld, Germany, 2014. 6. Scholz, T. (Ed.) Digital Labor: The Internet as Playground and Factory; Routledge: Abingdon, UK, 2012. g
yg
y
g
g
7. Fiorentino, S. Re-making urban economic geography. Start-ups, entrepreneurial support and the Makers Movement: A critical
assessment of policy mobility in Rome. Geoforum 2018, 93, 116–119. [CrossRef] 8. Perng, S.-Y.; Kitchin, R.; Mac Donncha, D. Hackathons, entrepreneurial life and the making of smart cities. Geoforum 2018, 97,
189–197. [CrossRef] 8. Perng, S.-Y.; Kitchin, R.; Mac Donncha, D. Hackathons, entrepreneurial life and the making of smart cities. Geoforum 2018, 97,
189–197. [CrossRef] 9. Schrock, G.; Wolf-Powers, L. Opportunities and Risks of Localised Industrial Policy: The Case of ‘Maker Entrepreneurial
Ecosystems ’in the USA. Camb. J. Reg. Econ. Soc. 2019, 12, 369–384. [CrossRef] 10. Stephen, J.M. Making imaginaries: Identity, Value, and Place in the Maker Movement in Detroit and Portland. Ph.D. Thesis,
Portland State University, Portland, OR, USA, 2019. Portland State University, Portland, OR, USA, 2019. y
11. Silvia, L. Making Subjectivities: How China’s DIY makers Remake Industrial Production, Innovation
of the Eleventh Chinese Internet Research Conference (CIRC11) Oxford UK 15 June 2013; Volume 11. Silvia, L. Making Subjectivities: How China’s DIY makers Remake Industrial Production, Innovation and the Self. References Available online: http://www.nesta.org.uk/
publications/made-china-makerspaces-and-search-mass-innovation (accessed on 17 September 2020). 18. Marshall, J.; Catharine, R. Making with China. Digit. Cult. Soc. 2017, 3, 127–138. [CrossRef] 19. Bolli, M. Innovators in Urban China: Makerspaces and Marginality with Impact. Urban Plan. 202 p
g
y
p
20. Kim, C. Locating creative city policy in East Asia: Neoliberalism, developmental state and assemblage of East Asian cities. Int. J. Cult. Policy 2015, 23, 312–330. [CrossRef] y
[
]
21. Harvey, D. A Brief History of Neoliberalism; Oxford University Press: Oxford, UK, 2005. y
21. Harvey, D. A Brief History of Neoliberalism; Oxford University Press: Oxford, UK, 2005. 22. Comunian, R. Rethinking the Creative City: The Role of Complexity, Networks and Interactions in the
Urban Stud. 2011, 48, 1157–1179. [CrossRef] ,
,
[
]
23. De Certeau, M. The Practice of Everyday Life; University of California Press: Berkeley, CA, USA, 1984. 23. De Certeau, M. The Practice of Everyday Life; University of California Press: Berkeley, CA, USA, 1984. 23. De Certeau, M. The Practice of Everyday Life; 24. Carlson, M. Performance: A Critical Introduction; Routledge: Abingdon, UK, 2013. f
g
g
25. Khondker, H.H. Globalization and State Autonomy in Singapore. Asian J. Soc. Sci. 2008, 36, 35–56. [CrossRef] ,
y
g p
J
,
,
[
26. Luo, Y.; Chan, R.C. Production of coworking spaces: Evidence from Shenzhen, China. Geoforum 2020, 26. Luo, Y.; Chan, R.C. Production of coworking spaces: Evidence from Shenzhen, China. Geoforum 2020, 110, 97–105. [CrossRef]
27. Deng, X. Selected Works of Deng Xiaoping; People’s Publishing House: Beijing, China, 1994; Volume 3. 26. Luo, Y.; Chan, R.C. Production of coworking spaces: Evidence from Shenzhen, China. Geoforum 2020, 110, 97–105. [CrossRef]
27. Deng, X. Selected Works of Deng Xiaoping; People’s Publishing House: Beijing, China, 1994; Volume 3. g p
f
[
]
27. Deng, X. Selected Works of Deng Xiaoping; People’s Publishing House: Beijing, China, 1994; Volume 3. 27. Deng, X. Selected Works of Deng Xiaoping; People’s Publishing House: Beijing, China, 1994; Volume 3. 28. McFarlane, C. The City as a Machine for Learning. Trans. Inst. Br. Geogr. 2011, 36, 360–376. [CrossRef] 29. Smart, A. Ethnographic perspectives on the mediation of informality between people and plans in urbanising China. Urban Stud. 2018, 55, 1477–1483. [CrossRef] 29. Smart, A. Ethnographic perspectives on the mediation of informality between people and plans in urbanising China. Urban Stud. 2018, 55, 1477–1483. [CrossRef] 30. Zhang, X. References Shenzhen’s GDP Exceeded 2.4 Trillion in 2018, Becoming the 5th Economy in Aggregate Terms among Asian Cities. 2019. Available online: http://www.oeeee.com/html/201901/18/733930.html (accessed on 10 September 2020). 30. Zhang, X. Shenzhen’s GDP Exceeded 2.4 Trillion in 2018, Becoming the 5th Economy in Aggregate Terms among Asian C
2019. Available online: http://www.oeeee.com/html/201901/18/733930.html (accessed on 10 September 2020). Sustainability 2021, 13, 4923 13 of 13 13 of 13 31. Chen, X.; de’Medici, T. From a fishing village via an instant city to a secondary global city: The ‘miracle’ and growth pains of
Shenzhen Special Economic Zone in China. In Rethinking Global Urbanism: Comparative Insights from Secondary Cities; Chen, X.,
Ahmed, K.K., Eds.; Routledge: Abingdon, UK, 2012; Volume 7. g
g
32. Liu, L. Creativity, Clusters and Fine-Grain Networks: An Investigation of Culture-led Urban Regeneratio
Ph.D. Thesis, Monash University, Melbourne, Australia, 2015. ,
y,
,
,
33. Wan, G. To Build the New Engine for Mass Entrepreneurship and Innovation through the Reform Mindset. Available online:
http://www.chinanews.com/cj/2015/03-26/7159999.shtml (accessed on 16 August 2020). 34. Lindtner, S.; Seyram, A. Tinkering with Governance: Technopolitics and the Economization of Citizenship. In Proceedings of the
ACM on Human-Computer Interaction 1(CSCW), Portland, OR, USA, 25 February–1 March 2017; pp. 1–18. 35
Ri ki
C Zh
R Li S Chi
’ R t
t f
E
lit
I
Di t ib ti
d E
i T
iti
R
l d
Abi
d
UK p
y
pp
35. Riskin, C.; Zhao, R.; Li, S. China’s Retreat from Equality: Income Distribution and Economic Transition; Routledge: Abingdon, UK,
2016. 36. Wang, Z. The Chinese Dream: Concept and Context. J. Chin. Political Sci. 2013, 19, 1–13. [CrossRef] 37. Gow, M. The Core Socialist Values of the Chinese Dream: Towards a Chinese integral state. Crit. Asian Stud. 2016, 49, 92–116. [CrossRef] 38. Cui, X.; Zou, L. Shenzhen to Set up Fund for Makers and Promote the Development of Maker Movement. Available online:
https://news.sina.cn/2015-06-20/detail-ifxefuqz1034744.d.html (accessed on 25 July 2020). 39. Xue, X. Supportive Policies for Student Entrepreneurs in Shenzhen. Available online: http://www.xuexila.com/chuangye/
zhengce/1008794.html (accessed on 10 January 2020). 40. Zhang, X. Maker Ranked First in the Top Ten Buzzwords in Chinese Newspaper in the First Half of 2015. Available online:
http://media.people.com.cn/n/2015/0721/c40606-27336633.html (accessed on 10 September 2020). 41. Parker, E. The Chinese Government is Investing Heavily in the Maker Movement. Available online: https://slate.com/
technology/2014/05/the-chinese-government-is-investing-heavily-in-the-maker-movement.html (accessed on 30 September
2020). )
42. Dougherty, D. pp
50.
Breaux, C. Why Making? Comput. Compos. 2017, 100, 27–35. [CrossRef] References Free to Make: How the Maker Movement Is Changing Our Schools, Our Jobs, and Our Minds; North Atlantic Books:
Berkeley, CA, USA, 2016. 43. Pang, L. Creativity and Its Discontents: China’s Creative Industries and Intellectual Property Rights Offenses; Duke University Press:
Durham, NC, USA, 2012. Durham, NC, USA, 2012. 44. Chinaventure. Ten Key Words of the Makerspaces in 2015. Annual Report. Available online: https://wenku.baidu.com/view/a5
1d54dc915f804d2a16c1d6.html (accessed on 17 July 2019). Key Words of the Makerspaces in 2015. Annual Report. Available online: https://wenku.baidu.com/view/a5
6c1d6.html (accessed on 17 July 2019). 44. Chinaventure. Ten Key Words of the Makerspaces in 2015. Annual Report. Available online: https://we
1d54dc915f804d2a16c1d6.html (accessed on 17 July 2019). y
45. Xue, Y.; Made in China: The Boom and Bust of Makerspaces. November. Available online: https://www.sixthtone.com/news/10
03171/made-in-china-the-boom-and-bust-of-makerspaces (accessed on 10 January 2020). 46. Cyrill, M. The ‘996’ Work Culture That’s Causing a Burnout in China’s Tech World. Available online: https://www.china-briefing. com/news/996-work-culture-china-tech-sector-burnout/ (accessed on 17 September 2020). 47. Hoffman, L.M. Patriotic Professionalism in Urban China: Fostering Talent; Temple University Press: Ph 47. Hoffman, L.M. Patriotic Professionalism in Urban China: Fostering Talent; Temple University Press: Philadelphia, PA, USA, 2010. 48. Lin, J. Be creative for the state: Creative workers in Chinese state-owned cultural enterprises. Int. J. Cult. Stud. 2019, 22, 53–69. [CrossRef] 48. Lin, J. Be creative for the state: Creative workers in Chinese state-owned cultural enterprises. Int. J. Cult. Stud. 2019, 22, 53–69. [CrossRef] 49. Zhao, M. The Social Enterprise Emerges in China; Stanford Social Innovation Review Spring Issue: Standford, CA, USA, 2012;
pp. 31–35. 50. Breaux, C. Why Making? Comput. Compos. 2017, 100, 27–35. [CrossRef] 50. Breaux, C. Why Making? Comput. Compos. 2017, 100, 27–35. [CrossRef]
|
https://openalex.org/W2261321474
|
https://europepmc.org/articles/pmc4761383?pdf=render
|
English
| null |
The Pattern of Juvenile Idiopathic Arthritis in a Single Tertiary Center in Saudi Arabia
|
International journal of inflammation
| 2,016
|
cc-by
| 6,711
|
Hindawi Publishing Corporation
International Journal of Inflammation
Volume 2016, Article ID 7802957, 8 pages
http://dx.doi.org/10.1155/2016/7802957 Hindawi Publishing Corporation
International Journal of Inflammation
Volume 2016, Article ID 7802957, 8 pages
http://dx.doi.org/10.1155/2016/7802957 Hindawi Publishing Corporation
International Journal of Inflammation
Volume 2016, Article ID 7802957, 8 pages
http://dx.doi.org/10.1155/2016/7802957 Correspondence should be addressed to Mohammad H. Al-Hemairi; alhemairi-m@hotmail.com Received 31 August 2015; Revised 6 December 2015; Accepted 27 December 2015 Academic Editor: Kamyar Kalantar-Zadeh Academic Editor: Kamyar Kalantar-Zadeh Copyright © 2016 Mohammad H. Al-Hemairi et al. This is an open access article distributed under the Creative Commons
Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is
properly cited. Introduction. Juvenile Idiopathic Arthritis (JIA) is the most common chronic arthritis in children. Our aim is to describe
demographic, clinical, and laboratory characteristics and treatment of JIA patients followed up in Pediatric Rheumatology clinic in
a tertiary center in Saudi Arabia. Methods. Medical records of all patients who are followed up between January 2007 and January
2015 were retrospectively reviewed. Data were collected about demographic, clinical, and laboratory features and treatment. Results. Total patients were 82, males were 31 (37.8%), and mean age of JIA onset was 7.1 ± 3.6 yr. Mean follow-up duration was 2.67±1.6
yr. Systemic onset JIA (SoJIA) was the commonest (36.5%), followed by polyarticular in 29.2% and oligoarticular in 28%. Large
and small joints are involved in 76 (92%) and 30 (36.6%), respectively. Main extra-articular feature was fever in 34 (41.4%). Uveitis
was diagnosed in 7 (8.5%) and in 5 (21.7%) of oligoarticular JIA. Anemia was found in 49 (59.7%), high ESR in 45 (54.8%), and
leukocytosis and thrombocytosis in 33 (40.2%). Positive ANA was found in 30 (36.5%) mainly in oligoarticular subtype as 12 (52%)
patients (out of 23) had this positive test. 9 patients (10.9%) required NSAIDs only, 6 patients (7.3%) required NSAIDs and intra-
articular steroids only, and 19 (23%) required NSAIDs, methotrexate, steroids, and biologics. Conclusion. SoJIA is the most common
JIA subtype in our study. A population based rather than a single center study will give more details about JIA characteristics in
Saudi Arabia Mohammad H. Al-Hemairi,1 Shatha M. Albokhari,2 and Mohammed A
1Department of General Pediatrics, Rabigh General Hospital, P.O. Box 51, Rabigh 21911, Saudi Arabia
2Department of Pediatrics, Division of Pediatric Rheumatology, King Abdulaziz University Hospital,
P.O. Box. 80218, Jeddah 21589, Saudi Arabia Mohammad H. Al-Hemairi,1 Shatha M. Albokhari,2 and Mohammed A. Muzaffer2
1Department of General Pediatrics, Rabigh General Hospital, P.O. Box 51, Rabigh 21911, Saudi Arabia
2Department of Pediatrics, Division of Pediatric Rheumatology, King Abdulaziz University Hospital,
P.O. Box. 80218, Jeddah 21589, Saudi Arabia Correspondence should be addressed to Mohammad H. Al-Hemairi; alhemairi-m@hotmail.com 1. Introduction oligoarticular, polyarticular Rheumatoid Factor- (RF-) neg-
ative, polyarticular RF-positive, enthesitis-related arthritis
(ERA), psoriatic arthritis, systemic, and undifferentiated
arthritis. Each JIA subtype has its own diagnostic criteria
(Table 1) [1].hl Juvenile Idiopathic Arthritis (JIA) is the most common
chronic arthritis in children worldwide. It is a heterogeneous
inflammatory disease and defined as arthritis persisting 6
weeks or longer with onset before the age of 16 years with no
identifiable etiology. The hallmark of JIA is joint inflammation and the pres-
ence of synovitis which causes synovial tissue thickening and
accumulation of synovial fluid. This is manifested clinically as
joint swelling, morning stiffness, joint pain, tenderness, and
functional disability. Arthritis can occur in any joint but large
joints are more commonly affected. Joint involvement can be
mild and self-limiting and it can be more severe causing joint
destruction, severe disability, and loss of joint function. The term Juvenile Idiopathic Arthritis has replaced the
older terms Juvenile Rheumatoid Arthritis (JRA) and Juve-
nile Chronic Arthritis (JCA) proposed by the International
League of Associations for Rheumatology (ILAR) in the late
1990s. The ILAR classified JIA according to the pattern of the
arthritis in the first 6 months after onset of the disease
into 8 subtypes known as persistent oligoarticular, extended Extra-articular manifestations in JIA may cause sig-
nificant morbidity. These include uveitis, fever, skin rash, 2 International Journal of Inflammation Table 1: The ILAR classification of JIA. Systemic arthritis
Arthritis with, or preceded by, daily fever of at least 2-week duration that is documented to be daily for at least 3 days
and accompanied by one or more of the following: (i) evanescent, nonfixed, erythematous rash; (ii) generalized
lymph node enlargement; (iii) hepatomegaly and/or splenomegaly; (iv) serositis
∗Exclusion criteria: A, B, C, and D
Oligoarthritis
Arthritis in 1–4 joints during the first 6 months of disease. 1. Introduction Two subtypes: (i) persistent oligoarthritis affects no more than four joints throughout the disease course;
(ii) extended oligoarthritis affects a total of more than four joints after the first 6 months of disease
∗Exclusion criteria: A, B, C, D, and E
Polyarthritis
(RF-negative)
Arthritis affecting 5 or more joints during the first 6 months of disease: tests for RF are negative
∗Exclusion criteria: A, B, C, D, and E
Polyarthritis
(RF-positive)
Arthritis in 5 or more joints during the first 6 months of disease: tests for RF are positive
∗Exclusion criteria: A, B, C, and E
Psoriatic arthritis
Arthritis plus psoriasis or arthritis plus at least two of the following: dactylitis, nail pitting, or onycholysis, psoriasis
in a first-degree relative
∗Exclusion criteria: B, C, D, and E
Enthesitis-related
arthritis
Arthritis plus enthesitis or arthritis or enthesitis, plus at least two of the following: presence of or a history of
sacroiliac joint tenderness and/or inflammatory lumbosacral pain, presence of HLA-B27 antigen, onset of arthritis in
a male over 6 years of age, acute (symptomatic) anterior uveitis, history of AS, ERA, sacroiliitis with IBD, reactive
arthritis, or acute anterior uveitis in a first-degree relative
∗Exclusions criteria: A, D, and E
Undifferentiated
arthritis
Arthritis that do not fulfill criteria in any of the above categories or fulfills criteria in two or more of the above
categories
∗Exclusion criteria: A: Psoriasis in the patient or a first-degree relative, B: Arthritis in an HLA-B27-positive male with arthritis onset after 6 years of age, C:
Ankylosing spondylitis, enthesitis-related arthritis, sacroiliitis with inflammatory bowel disease, Reiter’s syndrome, or acute anterior uveitis in a first-degree
relative, D: Presence of IgM rheumatoid factor on at least two occasions for at least 3 months apart, E: Presence of systemic arthritis. Adapted from © The Journal of Rheumatology Publishing, 2001. All rights reserved. Petty et al. [1]. ∗Exclusion criteria: A: Psoriasis in the patient or a first-degree relative, B: Arthritis in an HLA-B27-positive male with arthritis onset after 6 years of age, C:
Ankylosing spondylitis, enthesitis-related arthritis, sacroiliitis with inflammatory bowel disease, Reiter’s syndrome, or acute anterior uveitis in a first-degree
relative, D: Presence of IgM rheumatoid factor on at least two occasions for at least 3 months apart, E: Presence of systemic arthritis. Adapted from © The Journal of Rheumatology Publishing, 2001. All rights reserved. Petty et al. [1]. hepatomegaly, splenomegaly, lymphadenopathy, and serosi-
tis. 1. Introduction Apart from uveitis, most of these extra-articular features
occur in SoJIA.h center to know further about the pattern of the disease in
Saudi Arabia and to compare these characteristics with those
from other parts of the world. There are no diagnostic laboratory investigations for JIA
but some laboratory findings can help to exclude other causes
of arthritis and help in JIA classification. 2. Patients and Methods Clinical manifestations
Oligoarticular
number = 23
Polyarticular
RF-negative
number = 20
Polyarticular
RF-positive
number = 4
Systemic onset
number = 30
Psoriatic
number =
4
ERA
number =
1
Total
number =
82
Large joints involvement
23 (100%)
20 (100%)
3 (75)
27 (90)
2 (50)
1 (100)
76 (92.68)
Small joints involvement
4 (17.39)
7 (35)
3 (75)
13 (43.33)
3 (75)
0
30 (36.6)
Fever
0
3 (15)
1
30 (100)
0
0
34 (41.46)
Uveitis
5 (21.7%)
1 (5)
0
1 (3.33)
0
0
7 (8.53)
Skin rash
0
0
0
13 (43.33)
4
0
17 (20.73)
Hepatosplenomegaly
0
0
0
11 (36.67)
0
0
11 (13.41)
Lymphadenopathy
0
0
0
9 (30)
0
0
9 (11) Table 3: Main clinical manifestation of JIA patients. Clinical manifestations
Oligoarticular
number = 23
Polyarticular
RF-negative
number = 20
Polyarticular
RF-positive
number = 4
Systemic onset
number = 30
Psoriatic
number =
4
ERA
number =
1
Total
number =
82
Large joints involvement
23 (100%)
20 (100%)
3 (75)
27 (90)
2 (50)
1 (100)
76 (92.68)
Small joints involvement
4 (17.39)
7 (35)
3 (75)
13 (43.33)
3 (75)
0
30 (36.6)
Fever
0
3 (15)
1
30 (100)
0
0
34 (41.46)
Uveitis
5 (21.7%)
1 (5)
0
1 (3.33)
0
0
7 (8.53)
Skin rash
0
0
0
13 (43.33)
4
0
17 (20.73)
Hepatosplenomegaly
0
0
0
11 (36.67)
0
0
11 (13.41)
Lymphadenopathy
0
0
0
9 (30)
0
0
9 (11) Table 3: Main clinical manifestation of JIA patients. Number of cases
SoJIA
RA
Enthesitis
Oligoarticular
JIA
Psoriatic
JIA
and RF-positive)
Polyarticular
JIA (RF-negative
0
5
10
15
20
25
30
Figure 1: Distribution of JIA subtypes. Laboratory investigations were all done at KAUH labora-
tories. Initial data at diagnosis included white blood cells (leuko-
cytosis defined as WBC > 11 × 109/L), hemoglobin level (ane-
mia defined as Hb < 110 g/L), platelets count (thrombocytosis
defined as PLT > 450 × 109/L), ESR > 20 mm/hr, elevated CRP
> 3 mg/L and positivity of anti-nuclear antibodies (ANA),
Rheumatoid Factor (RF), and HLAB27. ANA was done by ELISA technique and ANA titre of 1:80
or more was considered positive. Positivity of ANA and RF
is considered only if two samples were positive in at least
three months apart. Table 4 shows the percentage of these
laboratory investigation results in all JIA subtypes. 2. Patients and Methods This is an observational retrospective study carried out
at Pediatric Rheumatology Department in King Abdulaziz
University Hospital (KAUH), a tertiary center, Jeddah, Saudi
Arabia. Aim of JIA management is to control active symptoms
and to prevent chronic complications in order to improve
quality of life which requires comprehensive multidisci-
plinary team care including rheumatologists, rehabilitation
specialists, occupational therapists, physical therapists, social
workers, nurses, podiatrists, dieticians, psychologists or psy-
chiatrists, and orthopedic surgeons.h Our study was approved by local ethical committee of
pediatric department and by the University Research Ethics
Committee. All the medical records of the children who were diag-
nosed to have Juvenile Idiopathic Arthritis (arthritis in one
or more joints lasting 2 weeks or more with no identifiable
cause in those who are less than 16 years of age) from January
2007 to January 2015 were included.h There is no curative treatment for JIA but early and
aggressive management has led to prolonged remission and
improved outcome.f Various studies from different parts of the world showed
differences in JIA characteristics including incidence, preva-
lence, age of onset, gender, and frequency of JIA subtypes [2–
7].h The diagnosis of JIA was done by a pediatric rheumatol-
ogist and JIA classification was according to ILAR classifica-
tion criteria (Table 1). These relative variabilities may be related to environmen-
tal, ethnic, and genetic background.h Only children who had duration of follow-up of 6 months
or more were included in order to know more details about
JIA characteristics. There is paucity of published studies describing JIA and its
characteristics in Saudi Arabia and its neighboring countries. Most of these studies were hospital-based [8–14]. Data were collected about number of patients of each
JIA subtype, gender, age at disease onset, and duration of
follow-up. The percentage of each JIA subtype was calculated
and the age of disease onset and duration of follow-up were
expressed as the mean ± standard deviation (SD); these data
are presented in Table 2 and Figure 1. In this present study, we retrospectively reviewed medical
records of a cohort of 82 JIA children who are followed up
in Pediatric Rheumatology Department at King Abdulaziz
University Hospital (KAUH); our objective is to present the
main characteristics of JIA in children followed up in our International Journal of Inflammation International Journal of Inflammation 3 Table 2: General characteristics of JIA patients. 2. Patients and Methods JIA subtype
Number of cases (%)
Gender
Age of onset (yr)
Duration of follow-up (yr)
Male (%)
Female (%)
Range
Mean (SD)∗
Range
Mean (SD)
Oligoarticular
23 (28.04)
10 (43.47)
13 (56.52)
1–12.3
4.78 ± 2.91
0.7–8
2.68 ± 1.86
Polyarticular RF-positive
4 (4.87)
0
4 (100)
10–14.5
12.3 ± 2.78
0.5–5
2.2 ± 1.964
Polyarticular RF-negative
20 (24.39)
6 (30)
14 (70)
2.5–12.4
8.12 ± 3.47
0.6–5.8
2.85 ± 1.376
Systemic
30 (36.5)
13 (43.33)
17 (56.66)
0.7–12.6
7.25 ± 3.47
0.5–6.8
2.37 ± 1.61
Psoriatic
4 (4.87)
1 (25)
3 (75)
4.7–12.2
8.47 ± 3.09
1.3–6.6
3.97 ± 2.17
ERA∗
1 (1.21)
1 (100)
0
—
—
—
4.8
Total
82 (100)
31 (37.8)
51 (62.2)
0.7–14.5
7.11 ± 3.65
0.5–8
2.67 ± 1.68
∗ERA: enthesitis-related arthritis. Table 2: General characteristics of JIA patients. Table 2: General characteristics of JIA patients. J
p
JIA subtype
Number of cases (%)
Gender
Age of onset (yr)
Duration of follow-up (yr)
Male (%)
Female (%)
Range
Mean (SD)∗
Range
Mean (SD)
Oligoarticular
23 (28.04)
10 (43.47)
13 (56.52)
1–12.3
4.78 ± 2.91
0.7–8
2.68 ± 1.86
Polyarticular RF-positive
4 (4.87)
0
4 (100)
10–14.5
12.3 ± 2.78
0.5–5
2.2 ± 1.964
Polyarticular RF-negative
20 (24.39)
6 (30)
14 (70)
2.5–12.4
8.12 ± 3.47
0.6–5.8
2.85 ± 1.376
Systemic
30 (36.5)
13 (43.33)
17 (56.66)
0.7–12.6
7.25 ± 3.47
0.5–6.8
2.37 ± 1.61
Psoriatic
4 (4.87)
1 (25)
3 (75)
4.7–12.2
8.47 ± 3.09
1.3–6.6
3.97 ± 2.17
ERA∗
1 (1.21)
1 (100)
0
—
—
—
4.8
Total
82 (100)
31 (37.8)
51 (62.2)
0.7–14.5
7.11 ± 3.65
0.5–8
2.67 ± 1.68
∗ERA: enthesitis-related arthritis. Table 3: Main clinical manifestation of JIA patients. 2. Patients and Methods Review of anti-rheumatic pharmacologic treatments
used during the study period included (nonsteroidal anti-
inflammatory drugs (NSAIDs), intra-articular corticos-
teroids (IAC) or systemic corticosteroids, methotrexate
(MTX), and biologic agents) was done. Number and percent-
age of those who were treated with NSAIDs alone, NSAIDs
and IAC, NSAIDs, IAC and MTX, NSAIDs and systemic
steroids, NSAIDs and MTX, NSAIDs, MTX and systemic
steroids, NSAIDs, MTX and biologics, NSAIDs, MTX, and
biologics and IAC and those who had joint surgery in each
JIA subtype were calculated and presented in Table 5. Figure 1: Distribution of JIA subtypes. Main clinical data were collected about large joints
involvement (knee, ankle, elbow, shoulder, and wrist) or
small joints involvement and presence of uveitis during
the course of the disease. The presence of fever, skin rash,
hepatosplenomegaly, and lymphadenopathy at diagnosis was
also recorded. These clinical findings were diagnosed by a
pediatric rheumatologist while uveitis was diagnosed by oph-
thalmologist by slit lamp examination. These main clinical
data are presented in Table 3. Other
Disease-Modifying
Antirheumatic
Drugs
(DMARDs) like leflunomide, cyclosporine, and azathioprine
were infrequently used and they were not included. Data statistical analysis was done manually. International Journal of Inflammation International Journal of Inflammation 4 Table 4: Main laboratory investigation. y
g
Anemia
Hb < 110
g/L (%)
Leukocytosis
WBC > 11 ×
109/L (%)
Elevated PLT
450 × 109/L
(%)
Elevated ESR
> 20 mm/hr
(%)
Elevated CRP
> 3 mg/L (%)
Positive ANA
(%)
Positive RF
Positive HLA
B27 (%)
Systemic onset
(number = 30)
24 (80)
21 (70)
21 (70)
24 (85.71)
22 (73.33)
4 (13.33)
0
ND∗
oligoarticular
(number = 23)
9 (39.13)
4 (17.4)
3 (17.64)
7 (30.43)
5 (21.74)
12 (52.17)
0
ND∗
Polyarticular
RF-negative
(number = 20)
12 (60)
6 (30)
7 (35)
10 (50)
4 (25)
9 (45)
0
ND∗
Polyarticular
RF-positive
(number = 4)
3 (75)
1 (25)
1 (25)
2 (50)
1 (25)
2 (520)
4 (100)
ND∗
Enthesitis
related (number
= 1)
0
0
0
1 (100)
1 (100)
0
0
1 (100)
Psoriatic
(number = 4)
1 (25)
1 (25)
1 (25)
1 (25)
0
1 (25)
0
ND∗
Total (number =
82)
49 (59.75)
33 (40.24)
31 (37.8)
45 (54.87)
33 (40.24)
30 (36.58)
4 (4.87)
1 (1.2)
∗ND: not done. Table 5: Pharmacologic therapy used in JIA patients. Oligo. JIA = 23
Poly. RF-neg. = 20 Poly. RF-Pos. 2. Patients and Methods = 4 SoJIA = 30 ERA = 1 Psoriatic = 4 Total = 82 (%)
NSAIDs alone
6
2
0
0
1
0
9 (10.97)
NSAIDs, AC
4
2
0
0
0
0
6 (7.31)
NSAIDs, IAC, MTX
3
0
1
0
0
0
4 (4.87)
NSAIDs, steroids
1
0
0
5
0
0
6 (7.31)
NSAIDs, MTX
5
0
1
3
0
3
12 (14.63)
NSAIDs, MTX, steroids
0
6
0
7
0
1
14 (17)
NSAIDs, MTX, biologics
1
5
1
1
0
0
8 (9.75)
NSAIDs, MTX, biologics, steroids
2
4
0
13
0
0
19 (23.17)
NSAIADs, MTX, biologics, IAC
1
1
1
1
0
0
4 (4.87)
Joint surgery
1
1
1
0
0
0
3 (3.65)
NSAIDs: Nonsteroidal anti-inflammatory drugs, IAC: intra-articular corticosteroids, and MTX: methotrexate. Table 5: Pharmacologic therapy used in JIA patients. 2. Patients and Methods = 4 SoJIA = 30 ERA = 1 Psoriatic = 4 Total = 82 (%)
NSAIDs alone
6
2
0
0
1
0
9 (10.97)
NSAIDs, AC
4
2
0
0
0
0
6 (7.31)
NSAIDs, IAC, MTX
3
0
1
0
0
0
4 (4.87)
NSAIDs, steroids
1
0
0
5
0
0
6 (7.31)
NSAIDs, MTX
5
0
1
3
0
3
12 (14.63)
NSAIDs, MTX, steroids
0
6
0
7
0
1
14 (17)
NSAIDs, MTX, biologics
1
5
1
1
0
0
8 (9.75)
NSAIDs, MTX, biologics, steroids
2
4
0
13
0
0
19 (23.17)
NSAIADs, MTX, biologics, IAC
1
1
1
1
0
0
4 (4.87)
Joint surgery
1
1
1
0
0
0
3 (3.65)
NSAIDs: Nonsteroidal anti-inflammatory drugs, IAC: intra-articular corticosteroids, and MTX: methotrexate. Anemia
Hb < 110
g/L (%)
Leukocytosis
WBC > 11 ×
109/L (%)
Elevated PLT
450 × 109/L
(%)
Elevated ESR
> 20 mm/hr
(%)
Elevated CRP
> 3 mg/L (%)
Positive ANA
(%)
Positive RF
Positive HLA
B27 (%)
Systemic onset
(number = 30)
24 (80)
21 (70)
21 (70)
24 (85.71)
22 (73.33)
4 (13.33)
0
ND∗
oligoarticular
(number = 23)
9 (39.13)
4 (17.4)
3 (17.64)
7 (30.43)
5 (21.74)
12 (52.17)
0
ND∗
Polyarticular
RF-negative
(number = 20)
12 (60)
6 (30)
7 (35)
10 (50)
4 (25)
9 (45)
0
ND∗
Polyarticular
RF-positive
(number = 4)
3 (75)
1 (25)
1 (25)
2 (50)
1 (25)
2 (520)
4 (100)
ND∗
Enthesitis
related (number
= 1)
0
0
0
1 (100)
1 (100)
0
0
1 (100)
Psoriatic
(number = 4)
1 (25)
1 (25)
1 (25)
1 (25)
0
1 (25)
0
ND∗
Total (number =
82)
49 (59.75)
33 (40.24)
31 (37.8)
45 (54.87)
33 (40.24)
30 (36.58)
4 (4.87)
1 (1.2)
∗ND: not done. Table 5: Pharmacologic therapy used in JIA patients. Oligo. JIA = 23
Poly. RF-neg. = 20 Poly. RF-Pos. 4. Discussion This observational study was carried out in Pediatric Depart-
ment at King Abdulaziz University Hospital, which is a
tertiary care hospital in Jeddah, western coast of Saudi Arabia. It is well known that JIA involves large joints—except
hip—more often than small joints; our data showed that
92.68% (76/82) had large joint involvement either alone or
associated with small joints. We aimed at this study to present the clinical features of
children with JIA followed up in our center as knowing the
characteristics of this disease in our community is essential
to provide a better planning for medical care. Fever in SoJIA is considered one of the diagnostic features
according to ILAR criteria and it may be the main presenting
symptom [9]. As reported in other studies, all our SoJIA
patients had fever [8, 29–31]. To our best of knowledge, there is only one hospital-based
similar study describing the pattern of JIA in Saudi children
which was published in 1997 in which arthritis classification
was not according to the currently used ILAR classification
system for JIA [9].hf Among all our JIA children, fever was present in 34/82
(41.46%) patients which is higher than other similar studies
[3, 29]. which is probably due to the predominance of SoJIA
in our cohort. However a higher percent (67.6%) of fever in
JRA was reported in one series [4]. The prevalence of JIA is variable among different parts
of world and different ethnic groups [2, 15]. This variability
appears to include the frequency of JIA subtypes. Unlike most of previous similar studies where oligoartic-
ular JIA was found to be the most common, mainly in Europe,
USA, Canada, South America, and Turkey [3, 16–18], the
frequency of JIA subtypes in our cohort showed that systemic
onset JIA was the most common subtype: 30/82 (36.5%). Uveitis is a well-known extra-articular manifestation that
affects children with JIA and it occurs more commonly in
oligoarticular subtype. It may start before the onset arthritis
or later during the course of the disease. Among all our
JIA patients 7/82 (8.53%) had uveitis and 5/23 (21.7%) of
oligoarticular JIA had developed uveitis. International Journal of Inflammation Table 5 shows the antirheumatic pharmacologic treat-
ment received by our patients during the course of the disease. NSAIDs as the only treating agent were used in 9/82 patients
(10.97%) while NSAIDs, methotrexate, systemic steroids, and
biologics were received by 19/82 patients (23.17%) at different
and varying length of time. Table 5 shows the antirheumatic pharmacologic treat-
ment received by our patients during the course of the disease. or orthopedic doctors and may not be referred to a higher
center. We believe also that a single center study may not
reflect the correct distribution of JIA subtypes in our country
which needs multicenter- or a population-based study. NSAIDs as the only treating agent were used in 9/82 patients
(10.97%) while NSAIDs, methotrexate, systemic steroids, and
biologics were received by 19/82 patients (23.17%) at different
and varying length of time. p p
y
It is well known that females are generally more com-
monly affected than males by JIA [23] with variable gender
distribution among JIA subtypes [24]. Biologic agents were given to 31/82 patients (37.8%); of
these patients, 15 belonged to SoJIA. Biologic agents were
mainly in decreasing order of frequency: etanercept (Enbrel),
adalimumab (Humira), abatacept (Orencia), rituximab
(Mabthera), and tocilizumab (Actemra). Our present data shows female predominance as 51/82
patients (62.2%) were female. Apart from the only male child
with ERA, female number was more in all JIA subtypes. Few studies showed an overall equal or higher male-to-
female ratio [4, 6, 15, 25, 26]; this higher male percentage was
possibly related to a higher ERA in one series [3, 25].h Joint surgery, other than intra-articular corticosteroid
injection, was needed in 3 patients only: one case of oligoar-
ticular JIA, RF-negative polyarticular JIA, and RF-positive
polyarticular JIA. The mean age of onset of JIA symptoms in our patients
was 7.11 ± 3.65 years (range: 8 months–14.5 years), which
is not largely different from most studies [9, 14, 25, 27, 28]. However it is higher than the mean age in a large study which
included 3167 patients from Europe and Latin America where
mean age of onset of JIA symptoms was 5.8 years [21] but
lower than a mean age of 9.5 years recorded in a cohort from
Taiwan of 195 patients [22]. 3. Results patients) while small joints were affected in 36.6% (30/82
patients). Total patients reviewed in this study were 85; 3 patients were
excluded because of insufficient data due to irregular follow-
up (2 oligoarticular JIA, 1 polyarticular JIA). Fever was present in all systemic onset JIA subtype and in
41.46% of the total number (34/82 patients). Uveitis was diagnosed during the course of the disease in
7 patients (8.53%) and in 5 patients (21.7%) of oligoarticular
JIA subtype. Table 2 shows general characteristics of the patients:
systemic onset JIA was the most common JIA subtype 36.5%
(30 patients) followed by polyarticular JIA subtype 29.26%
(24 patients) and then oligoarticular JIA subtype 28% (23
patients). No unclassified patients JIA were diagnosed. Table 4 shows main laboratory investigations which were
done. The most common finding at presentation was anemia
in 49/82 patients (59.75%), followed by elevated ESR in 45/82
patients (54.87%) and then elevated CRP and leukocytosis in
33/82 patients (40.24%), while thrombocytosis was found in
31/82 patients (37.8%). i
Of our 82 patients, 51 (62.2%) were females and female
gender was predominant in all JIA subtypes except in ERA. Female-to-male ratio was 1.64 : 1 (51/31).h The range of age at onset of symptoms was between 8
months and 14.5 years and the mean age at JIA onset was
7.11 ± 3.65 years.h Anemia, leukocytosis, thrombocytosis, elevated ESR, and
CRP were present mostly in SoJIA. Positive ANA was present in 30/82 patients (36.58%)
and mostly in oligoarticular JIA 12/23 patients (52.17%) and
polyarticular JIA 11/24 patients (45.83%). The duration of follow-up was from 6 months to 8 years;
mean was 2.67 ± 1.68 years. Table 3 shows main clinical features of our patients;
large joints were affected in most of patients 92.68% (76/82 Positive Rheumatoid Factor was found only in RF-
positive polyarticular JIA. 5 Acknowledgments The authors would like to thank the patients, their families,
and the medical staff of Pediatric Rheumatology Clinics at
King Abdulaziz University Hospital. g
py
In our study, all patients were started on NSAIDs either
alone or combined with other antirheumatic agents but they
were the only used agent in 9/82 patients (11%). References y
g
p
JIA was found to be the most common indication for bio-
logic treatment among pediatric rheumatologic conditions in
a national study [42]. [1] R. E. Petty, T. R. Southwood, P. Manners et al., “International
League of Associations for Rheumatology classification of
juvenile idiopathic arthritis: second revision, Edmonton, 2001,”
The Journal of Rheumatology, vol. 31, no. 2, pp. 390–392, 2004. y
As shown in Table 5, 31/82 patients (37.8%) received
biologic treatment during their course of the diseases. [2] V. C. Kok, J.-T. Horng, J.-L. Huang et al., “Population-based
cohort study on the risk of malignancy in East Asian children
with Juvenile idiopathic arthritis,” BMC Cancer, vol. 14, no. 1,
pp. 634–644, 2014. A major limitation of our study is being a retrospective
record-based in nature and a single center-based with a
relatively small sample size. However our study can be a
starting point for further future nationwide multicenter-
based study. [3] E. Demirkaya, S. ¨Ozen, Y. Bilginer et al., “The distribution
of juvenile idiopathic arthritis in the eastern Mediterranean:
results from the registry of the Turkish paediatric rheumatology
association,” Clinical and Experimental Rheumatology, vol. 29,
no. 1, pp. 111–116, 2011. Authors’ Contribution The aim of multidisciplinary JIA management is to
control active symptoms, achieve remission, prevent joint
damage, and preserve joints function to prevent disability as
well as maintaining normal growth which may require early
and aggressive management [40]. Mohammad H. Al-Hemairi and Mohammed A. Muzaffer
helped in the conception and design of the study, the
acquisition, analysis, or interpretation of data for the work
and Shatha M. Albokhari helped in the design of the study
and critically revised the paper for important intellectual
content. All authors read and approved the final version of
the paper. All authors agree to be accountable for all aspects of
the work in ensuring that questions related to the accuracy or
integrity of any part of the work are appropriately investigated
and resolved. Pharmacologic therapy of JIA has major advances over
the last two decades since the introduction of biologic agents
which are being increasingly used and these agents may be
used as initial therapy [41]. We usually start with NSAIDs for 4 to 6 weeks followed
by DMARDs, most commonly methotrexate in case of no
adequate response to NSAIDs. IAC are used to relieve joint
inflammation and systemic steroids are usually used for a
short time with the lowest effective dose and are tapered once
we get the desired response. In case of failure of methotrexate,
a trial of another DMARD or biologic therapy is introduced. 4. Discussion as the frequency of anemia in children in our population was
22.3% and 30% in two local studies [37, 38].f as the frequency of anemia in children in our population was
22.3% and 30% in two local studies [37, 38].f However, although in other studies the cutoff point for
low hemoglobin was lower, there were no major differences
in the frequency of anemia [3, 10, 14]. However, although in other studies the cutoff point for
low hemoglobin was lower, there were no major differences
in the frequency of anemia [3, 10, 14]. y
Being slightly higher than a local study (115 patients) and
studies from UK (572 patients), Turkey (634 patients), and
Taiwan (195 patients), the frequency of ANA positivity in our
children was 36.58% [3, 9, 22, 39] although higher and more
lower frequencies were reported [4, 39]. 5. Conclusion In our study, systemic onset JIA is the most common JIA
subtype. [4] K. Weakley, M. Esser, and C. Scott, “Juvenile idiopathic arthritis
in two tertiary centres in the Western Cape, South Africa,”
Pediatric Rheumatology, vol. 10, no. 1, pp. 35–40, 2012. Although a population-based rather than a single center
study will give more details about JIA characteristics in Saudi
Arabia, our study can be the start point to a nationwide
multicenter study. [5] S. Naz, A. Mushtaq, S. Rehman et al., “Juvenile rheumatoid
arthritis,” Journal of the College of Physicians and Surgeons
Pakistan, vol. 23, no. 6, pp. 409–421, 2013. [6] V. Kunjir, A. Venugopalan, and A. Chopra, “Profile of Indian
patients with juvenile onset chronic inflammatory joint disease
using the ILAR classification criteria for JIA: a community-
based cohort study,” The Journal of Rheumatology, vol. 37, no. 8, pp. 1756–1762, 2010. 4. Discussion The overall rate is
approximately close to what was reported in Spain [32] and
Taiwan [22].i This is similar to a previous tertiary hospital-based study
done in central province of Saudi Arabia which reviewed clin-
ical features of 115 patients with JRA in which the percentage
of SoJIA was found to constitute 44% of Juvenile Rheumatoid
Arthritis cases [9]. In a large population-based study in Japan
which included 540 children, SoJIA constituted 54% of JIA
cases [7]. However there is significant variability in frequency of
uveitis in JIA; in a series of 214 JIA children in India, only
2.2% were found to have uveitis while a rate of 29.65% was
reported in another series of 172 patients [33].i Our study differs also from two studies from neighboring
countries (Kuwait and Oman) in which the most predomi-
nant JIA subtype was polyarticular JIA [11, 12]. Anemia in JIA is commonly caused by iron deficiency or
due to chronic inflammation [34]. Anemia was the most common abnormal laboratory
investigation in our patients 49/82 (59.75%) and it was
recorded in 80% of SoJIA patients. Anemia was considered
as hemoglobin level less than 110 g/L which is—according to
WHO definition of anemia—a 2SD below the mean for the
majority of our patients [35, 36].h Polyarticular JIA was also the predominant JIA subtype
in some other cohorts from South Africa, Bangladesh, and
Pakistan and in a multinational study done by the Paediatric
Rheumatology International Trials Organization (PRINTO)
which included patients from western and eastern Europe
and Latin America [4, 19–21]. ERA was found to be the
predominant in other studies [6, 22]. The prevalence of anemia in our children may be
increased as most of cases were SoJIA in which the anemia
is more common than other JIA subtypes. Since our study was done in a tertiary center, we believe
that this may affect our results as some cases of mild JIA espe-
cially oligoarticular may be treated by general pediatricians Furthermore, at presentation, it was not known if this
anemia was due to JIA alone or due to other common causes 6 International Journal of Inflammation ERA:
Enthesitis-related arthritis
DMARDs: Disease-Modifying Antirheumatic Drugs
NSAIDs:
Nonsteroidal anti-inflammatory drugs
MTX:
Methotrexate
IAC:
Intra-articular corticosteroids. ERA:
Enthesitis-related arthritis
DMARDs: Disease-Modifying Antirheumatic Drugs
NSAIDs:
Nonsteroidal anti-inflammatory drugs
MTX:
Methotrexate
IAC:
Intra-articular corticosteroids. Conflict of Interests All authors have no competing interests to declare. As expected most ANA positivity cases were in oligoar-
ticular JIA.h International Journal of Inflammation 7 community-based cohort study in Taiwan,” Journal of Micro-
biology, Immunology and Infection, vol. 46, no. 4, pp. 288–294,
2013. [8] W. A. Garout and M. A. Muzaffer, “A single-center experience of
systemic onset juvenile idiopathic arthritis at a tertiary hospital
in Jeddah, Saudi Arabia,” Open Journal of Rheumatology and
Autoimmune Diseases, vol. 4, no. 4, pp. 212–218, 2014. [23] J. T. Cassidy and R. E. Petty, “Chronic arthritis in childhood,” in
Text Book of Pediatric Rheumatology, J. T. Cassidy, R. E. Petty,
R. M. Laxer, and C. B. Lindsley, Eds., pp. 211–286, Saunders
Elesvier, Philadelphia, Pa, USA, 6th edition, 2011. [9] S. Bahabri, W. Al-Sewairi, A. Al-Mazyad et al., “Juvenile
rheumatoid arthritis: the Saudi experience,” Annals of Saudi
Medicine, vol. 17, no. 4, pp. 413–418, 1997. [24] J.-L. Huang, “New advances in juvenile idiopathic arthritis,”
Chang Gung Medical Journal, vol. 35, no. 1, pp. 1–14, 2012. [10] M. M. Moued, H. M. Al-Saggaf, H. S. Habib, and M. A. Muzaffer, “Oligoarticular juvenile idiopathic arthritis among
Saudi children,” Annals of Saudi Medicine, vol. 33, no. 6, pp. 529–
532, 2013. [25] S. A. Rahman, M. I. Islam, and M. K. Talukder, “Clinical
aspects of juvenile idiopathic arthritis: extended experience
from Bangladesh,” American Journal of Clinical and Experimen-
tal Medicine, vol. 1, no. 1, pp. 20–23, 2013. [11] F. A. Khuffash, H. A. Majeed, M. M. Lubani, K. N. Najdi, S. S. Gunawardana, and R. Bushnaq, “Epidemiology of juvenile
chronic arthritis and other connective tissue diseases among
children in Kuwait,” Annals of Tropical Paediatrics, vol. 10, no. 3, pp. 255–259, 1990. [26] J. K. Reininga, L. I. Los, N. M. Wulffraat, and W. Armbrust,
“The evaluation of uveitis in juvenile idiopathic arthritis (JLA)
patients: are current ophthalmologic screening guidelines ade-
quate?” Clinical and Experimental Rheumatology, vol. 26, no. 2,
pp. 367–372, 2008. [12] R. Abdwani, E. Abdalla, S. Al Abrawi, and I. Al-Zakwani, “Epi-
demiology of juvenile idiopathic arthritis in Oman,” Pediatric
Rheumatology, vol. 13, article 33, 2015. [27] M. M. San Ildefonso and A. R. Pascual, “Juvenile idiopathic
arthritis: cross-sectional study of incidence and prevalence
observed in a tertiary center of spain,” Pediatric Rheumatology,
vol. 12, supplement 1, article P173, 2014. [13] A. M. Abou El-Soud, A. R. El-Najjar, E. E. El-Shahawy et al.,
“Prevalence of juvenile idiopathic arthritis in Sharkia Gover-
norate, Egypt: epidemiological study,” Rheumatology Interna-
tional, vol. 33, no. 9, pp. 2315–2322, 2013. [28] K. L. International Journal of Inflammation Hyrich, S. D. Lal, H. E. Foster et al., “Disease activity
and disability in children with juvenile idiopathic arthritis one
year following presentation to paediatric rheumatology. Results
from the Childhood Arthritis Prospective study,” Rheumatol-
ogy, vol. 49, no. 1, Article ID kep352, pp. 116–122, 2010. [14] S. Salah, A. Hamshary, H. M. Lotfy, and H. Abdel Rahman,
“Juvenile idiopathic arthritis, the Egyptian experience,” Journal
of Medical Sciences, vol. 9, no. 2, pp. 98–102, 2009. [15] R. K. Saurenmann, J. B. Rose, P. Tyrrell et al., “Epidemiology of
juvenile idiopathic arthritis in a multiethnic cohort: ethnicity as
a risk factor,” Arthritis & Rheumatism, vol. 56, no. 6, pp. 1974–
1984, 2007. [29] J. Chipeta, P. Njobvu, S. Wa-Somwe, C. Chintu, P. E. McGill,
and R. Bucala, “Clinical patterns of juvenile idiopathic arthritis
in Zambia,” Pediatric Rheumatology, vol. 11, article 33, 2013. [30] H.-Y. Tsai, J.-H. Lee, H.-H. Yu, L.-C. Wang, Y.-H. Yang, and B.-
L. Chiang, “Initial manifestations and clinical course of systemic
onset juvenile idiopathic arthritis: a ten-year retrospective
study,” Journal of the Formosan Medical Association, vol. 111, no. 10, pp. 542–549, 2012. [16] C. Modesto, J. Ant´on, B. Rodriguez et al., “Incidence and
prevalence of juvenile idiopathic arthritis in Catalonia (Spain),”
Scandinavian Journal of Rheumatology, vol. 39, no. 6, pp. 472–
479, 2010. [17] K. Minden, M. Niewerth, J. Listing, A. Zink, and German Study
Group of Pediatric Rheumatologists, “Health care provision
in pediatric rheumatology in Germany-national rheumatologic
database,” The Journal of Rheumatology, vol. 29, no. 3, pp. 622–
628, 2002. [31] A. Aggarwal, V. Agarwal, D. Danda, and R. Misra, “Outcome in
juvenile rheumatoid arthritis in India,” Indian Pediatrics, vol. 41,
no. 2, pp. 180–184, 2004. [32] J. Garc´ıa-Consuegra Molina, R. Tapia Moreno, J. Abelairas
G´omez, J. Peralta Calvo, and R. Merino Mu˜noz, “Uveitis and
juvenile idiopathic arthritis,” Anales Espanoles de Pediatria, vol. 54, no. 3, pp. 255–259, 2001. [18] N. Adib, K. Hyrich, J. Thornton et al., “Association between
duration of symptoms and severity of disease at first presen-
tation to paediatric rheumatology: results from the Childhood
Arthritis Prospective Study,” Rheumatology, vol. 47, no. 7, pp. 991–995, 2008. [33] D. Ben Ezra, C. Evelyne, and F. Behar-Cohen, “Uveitis and juve-
nile idiopathic arthritis: a cohort study,” Clinical Ophthalmology
(Auckland, NZ), vol. 1, no. 4, pp. 513–518, 2007. [19] M. I. Islam, M. K. Talukdar, and S. Abbreviations JIA:
Juvenile Idiopathic Arthritis ILAR: International League of Associations for
Rheumatology ILAR: International League of Associations for [7] S. Fujikawa and M. Okuni, “Clinical analysis of 570 cases
with juvenile rheumatoid arthritis: results of a nationwide
retrospective survey in Japan,” Pediatrics International, vol. 39,
no. 2, pp. 245–249, 1997. gy
RF:
Rheumatoid Factor ANA: Anti-nuclear antibody SoJIA: Systemic onset Juvenile Idiopathic Arthritis International Journal of Inflammation International Journal of Inflammation Rahman, “Pattern of
paediatric rheumatic diseases: an experience in a tertiary
care hospital, dhaka, bangladesh,” Bangladesh Journal of Child
Health, vol. 37, no. 2, pp. 97–101, 2013. [34] P. Sreenivasan and N. S. Mani, “Pure red cell aplasia in
systemic onset juvenile idiopathic arthritis,” Indian Journal of
Hematology and Blood Transfusion, vol. 28, no. 1, pp. 42–43,
2012. [20] S. Ahmed, S. R. Ali, S. Ishaque, and N. Sami, “Clinical and
biochemical characteristics of children with Juvenile idiopathic
Arthritis,” Journal of the College of Physicians and Surgeons
Pakistan, vol. 24, no. 7, pp. 498–502, 2014. [35] J. Janus and S. K. Moerschel, “Evaluation of anemia in children,”
American Family Physician, vol. 81, no. 12, pp. 1462–1471, 2010. [36] R. D. Baker, F. R. Greer, J. J. S. Bhatia et al., “Diagnosis and
prevention of iron deficiency and iron-deficiency anemia in
infants and young children (0–3 years of age),” Pediatrics, vol. 126, no. 5, pp. 1040–1050, 2010. [21] R. Guti´errez-Su´arez, A. Pistorio, A. Cespedes Cruz et al.,
“Health-related quality of life of patients with juvenile idio-
pathic arthritis coming from 3 different geographic areas. The
PRINTO multinational quality of life cohort study,” Rheuma-
tology, vol. 46, no. 2, pp. 314–320, 2007. [37] A. Gad, J. Al-Quaiz, T. Khoja et al., “Anemia among primary
school children (5-12 years) in Riyadh Region, Saudi Arabia:
a community-based study,” Canadian Journal of Clinical Nutri-
tion, vol. 1, no. 1, pp. 27–34, 2013. [22] C.-C. Shen, K.-W. Yeh, L.-S. Ou, T.-C. Yao, L.-C. Chen,
and J.-L. Huang, “Clinical features of children with juvenile
idiopathic arthritis using the ILAR classification criteria: a [38] A. Al-Othaimeen, A. K. Osman, and S. A. Orf, “Prevalence
of nutritional anaemia among primary school girls in Riyadh International Journal of Inflammation International Journal of Inflammation International Journal of Inflammation 8 City, Saudi Arabia,” International Journal of Food Sciences and
Nutrition, vol. 50, no. 4, pp. 237–243, 1999. [39] N. Moe and M. Rygg, “Epidemiology of juvenile chronic
arthritis in northern Norway: a ten-year retrospective study,”
Clinical and Experimental Rheumatology, vol. 16, no. 1, pp. 99–
101, 1998. [40] A. Consolaro, G. Negro, S. Lanni, N. Solari, A. Martini, and A. Ravelli, “Toward a treat-to-target approach in the management
of juvenile idiopathic arthritis,” Clinical and Experimental
Rheumatology, vol. 30, supplement 73, pp. S157–S162, 2012. [41] S. Ringold, P. F. Weiss, T. International Journal of Inflammation Beukelman et al., “2013 update of the
2011 American College of Rheumatology recommendations for
the treatment of juvenile idiopathic arthritis: recommendations
for the medical therapy of children with systemic juvenile
idiopathic arthritis and tuberculosis screening among children
receiving biologic medications,” Arthritis & Rheumatism, vol. 65, no. 10, pp. 2499–2512, 2013. [42] S. M. Al-Mayouf, A. Alenazi, and H. Aljasser, “Biologic agents
therapy for Saudi children with rheumatic diseases: indications
and safety,” International Journal of Rheumatic Diseases, 2014.
|
https://openalex.org/W2996737146
|
https://revista.cortesgenerales.es/rcg/article/download/1141/627
|
es
|
Soriano Hernández, Enrique: «El estatuto de los Parlamentarios de las Comunidades Autónomas» (Recensión)
|
Revista de las Cortes Generales
| 2,001
|
cc-by
| 0
| ||
https://openalex.org/W3084088997
|
https://www.cambridge.org/core/services/aop-cambridge-core/content/view/40A22AAE82A7A1462EDD7C655F77AAC9/S1935789320003225a.pdf/div-class-title-a-theoretical-model-to-investigate-the-influence-of-temperature-reactions-of-the-population-and-the-government-on-the-covid-19-outbreak-in-turkey-div.pdf
|
English
| null |
A Theoretical Model to Investigate the Influence of Temperature, Reactions of the Population and the Government on the COVID-19 Outbreak in Turkey
|
Disaster medicine and public health preparedness
| 2,020
|
cc-by
| 8,323
|
ABSTRACT In addition, the results of the model are compared with the real data from
Turkey using conventional fitting that shows good agreement. Results: The mathematical study of the influence of the different parameters is presented through different
scenarios. Remarkably, the last scenario is also an example of a theoretical mitigation strategy that shows
its maximum in August 2020. In addition, the results of the model are compared with the real data from
Turkey using conventional fitting that shows good agreement. Conclusions: Although most countries activated their pandemic plans, significant disruptions in health-
care systems occurred. The framework of this model seems to be valid for a numerical analysis of
dynamic processes that occur during the COVID-19 outbreak due to weather and human reactions. As a result, the effects of the measures introduced could be better planned in advance by use of this
model. Conclusions: Although most countries activated their pandemic plans, significant disruptions in health-
care systems occurred. The framework of this model seems to be valid for a numerical analysis of
dynamic processes that occur during the COVID-19 outbreak due to weather and human reactions. As a result, the effects of the measures introduced could be better planned in advance by use of this
model. ronavirus ınfections, COVID-19, pandemics, severe acute respiratory syndrome coronavirus 2 Key Words: coronavirus ınfections, COVID-19, pandemics, severe acute respiratory syndrome co A A
total of 18,364,6941 confirmed cases of the
ongoing
coronavirus
disease
2019
(COVID-19) pandemic are known until
August 04, 2020. There are 234,9341 only in
Turkey. Compared with the other 2 epidemics in the
21st century caused by coronaviruses, the 2002-2004
severe acute respiratory syndrome (SARS) and 2012
Middle East respiratory syndrome (MERS) outbreaks
with first confirmed cases in China and Saudi
Arabia, respectively, the number of deaths is signifi-
cantly higher.2,3 The first case in Turkey was reported
on March 11, 2020.1 Since then, drastic measures have been taken to contain the spread of the virus. ORIGINAL RESEARCH ORIGINAL RESEARCH ABSTRACT Objectives: The ongoing coronavirus disease 2019 (COVID-19) pandemic, which was initially identified in
December 2019 in the city of Wuhan in China, poses a major threat to worldwide health care. By August
04, 2020, there were globally 695,848 deaths (Johns Hopkins University, https://coronavirus.jhu.edu/
map.html). A total of 5765 of them come from Turkey (Johns Hopkins University, https://coronavirus. jhu.edu/map.html). As a result, various governments and their respective populations have taken strong
measures to control the spread of the pandemic. In this study, a model that is by construction able to
describe both government actions and individual reactions in addition to the well-known exponential
spread is presented. Moreover, the influence of the weather is included. This approach demonstrates
a quantitative method to track these dynamic influences. This makes it possible to numerically estimate
the influence that various private or state measures that were put into effect to contain the pandemic had
at time t. This might serve governments across the world by allowing them to plan their actions based on
quantitative data to minimize the social and economic consequences of their containment strategies. q
q
g
Methods: A compartmental model based on SEIR that includes the risk perception of the population by an
additional differential equation and uses an implicit time-dependent transmission rate is constructed. Within this model, the transmission rate depends on temperature, population, and government actions,
which in turn depend on time. The model was tested using different scenarios, with the different dynamic
influences being mathematically switched on and off. In addition, the real data of infected coronavirus
cases in Turkey were compared with the results of the model. q
q
g
Methods: A compartmental model based on SEIR that includes the risk perception of the population by an
additional differential equation and uses an implicit time-dependent transmission rate is constructed. Within this model, the transmission rate depends on temperature, population, and government actions,
which in turn depend on time. The model was tested using different scenarios, with the different dynamic
influences being mathematically switched on and off. In addition, the real data of infected coronavirus
cases in Turkey were compared with the results of the model. Results: The mathematical study of the influence of the different parameters is presented through different
scenarios. Remarkably, the last scenario is also an example of a theoretical mitigation strategy that shows
its maximum in August 2020. Copyright © 2020 Society for Disaster Medicine and Public Health, Inc. This is an Open Access article, distributed under the terms of the Creative
Commons Attribution licence (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted re-use, distribution, and reproduction in
any medium, provided the original work is properly cited. DOI: 10.1017/dmp.2020.322
ttps://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press A Theoretical Model to Investigate the Influence of
Temperature, Reactions of the Population and the
Government on the COVID-19 Outbreak in Turkey Yahya Öz, PhD 214
Disaster Medicine and Public Health Preparedness
VOL. 16/NO. 1
Copyright © 2020 Society for Disaster Medicine and Public Health, Inc. This is an Open Access article, distributed under the terms of the Creative
Commons Attribution licence (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted re-use, distribution, and reproduction in
any medium, provided the original work is properly cited. DOI: 10.1017/dmp.2020.322
s://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press ABSTRACT In addi-
tion to the closure of schools and universities, this
includes, for example, the closure of restaurants, wear-
ing surgical masks, travel restrictions, and curfew for
certain age groups and all citizens for small times.4
Especially long-term interventions with low social
and economic costs, such as aggressive testing and
working from home in all company departments that
can guarantee this, seem to be extremely beneficial
and were implemented to a certain extent.4 In addi-
tion, economic aid packages were prepared to protect
both industry and prevent social decline. Moreover, Modified SEIR Model A previously developed model30 for an influenza outbreak is
adopted for the purposes of this study. The starting point of
the proposed model is the SEIR model. The functions S tð Þ,
E tð Þ, I tð Þ, R tð Þ describe the number of susceptible, exposed,
infectious and removed (dead or recovered) people at time t. The total population N ¼ S tð Þ þ E tð Þ þ I tð Þ þ R tð Þ is assumed
to be constant. However, an additional extra class is introduced. P tð Þ expresses the public perception of risk depending on the
number of reported confirmed cases that are infectious, in
severe/critical condition or dead. Furthermore, the demogra-
phy31 of Turkey and the course of the disease for different age
groups is considered (Bock W, Adamik B, Bawiec M, et al. Mitigation and herd immunity strategy for COVID-19 is likely
to fail. 2020. https://doi.org/10.1101/2020.03.25.20043109). These data are summarized in Table 1. Models describing the 1918-1920 pandemic while taking weather
and individual and government reactions into account have been
published in the corresponding literature. Results show that high
temperature and humidity led to a reduced virus survival.16,17
Moreover, government reactions in different regions that yielded
a decreasing number of human contacts resulted in a temporal
pattern of death rates.18 In combination with the individual
responses this might have caused varying transmission rates that
in turn might have led to the different waves of the disease.19
Note that the integration of individual reactions into epidemic
models was accomplished by several different methods.20,21 In
particular, mathematical tools such as Monte Carlo experiments
and iterated filtering methods for nonlinear stochastic dynamical
systems, that are typically used in various fields like mathematical
physics, were further developed for applications such as the
numerical analysis of pandemics.22 Additionally, modeling
approaches that use compartmental models in epidemiology,
especially
Susceptible-Exposed-Infectious-Removed
(SEIR)
models, and other methodologies for COVID-19 were used.23,24 Several scenarios are presented in this study. The 4 scenarios
serve to introduce the model and show the influence of the vari-
ous parameters considered. First, results for a constant transmis-
sion rate are presented. Second, the influence of the average
temperature and then the influence of human reactions in
the population in combination with the temperature is pre-
sented. An exemplary government response is also considered. Hence, the motivation of this study is 2-fold. Disaster Medicine and Public Health Preparedness Disaster Medicine and Public Health Preparedness Disaster Medicine and Public Health Preparedness 214 correlated to COVID-19.28 Furthermore, it is well-known28
that a high population density leads to very fast transmission
of COVID-19. Influence of Population and Government on the COVID-19 Outbreak Influence of Population and Government on the COVID-19 Outbreak correlated to COVID-19.28 Furthermore, it is well-known28
that a high population density leads to very fast transmission
of COVID-19. similar programs have been launched around the world.5,6
However, a severe impact of the COVID-19 outbreak is
already measurable and a worldwide recession is expected.7 Of interest, there are parallels to the well-known 1918-1920
Spanish flu pandemic caused by an influenza virus. This pan-
demic was the deadliest in human history. Estimates assume
that around one-third of humanity was infected and the num-
ber of deaths ranged from 50 to 100 million.8 Several waves of
the outbreak occurred, with many regions shaken by up to 3
waves.9-11 Remarkably, pre-existing immunity within sections
of the populations around the world might have been
present.12 As a reaction to the pandemic, school closings were
decided in certain countries and panic reactions of the people
occured. The mildness of many disease courses, incubation
times, and pneumonia13-15 as a possible result of both diseases
are also quite similar. Furthermore, the fatality rate of 2% for
the Spanish flu is in the same order of COVID-19. Hence,
characteristics of the pandemics, Spanish flu and COVID-
19, are comparable. Second, this model might be used for the purpose of providing
a projection for the development of the outbreak in Turkey for
the coming months. Fitting the parameters to the real data
shows that the model can represent them, which in turn means
that the government can quantitatively assess their previous
reactions at time t. The goal of this is to make a first step on
paving a difficult but viable path that prevents the collapse
of the health-care system of Turkey while minimizing social
and economic effects as much as possible. Furthermore, the
prevention of possible further waves of the pandemic by inter-
vening quantitatively well-judged will be crucial to decrease
the impact of the outbreak. TABLE 1 The
proposed compartmental model is given in Equation (2) by d
dt S tð Þ ¼ β tð ÞS tð ÞI tð Þ
N
,
d
dt E tð Þ ¼
β tð ÞS tð ÞI tð Þ
N
σE tð Þ,
d
dt I tð Þ ¼ σE tð Þ γI tð Þ,
d
dt R tð Þ ¼ γI tð Þ,
d
dt P tð Þ ¼ dγI tð Þ λP tð Þ,
(2) αðtÞ ¼ α0ðHðt 22 daysÞHð82 days tÞ
þ Hðt 113 daysÞH 174 days t
ð
ÞÞ ,
(3) (3) (2) where H tð Þ is the Heaviside step function. Day 22 corresponds
to April 01, 2020, 82 to May 31, 2020, 113 to July 01, 2020,
and 174 to August 31, 2020. where σ1 is the mean latent period, γ1 the mean infectious
period, d the proportion of severe and critical cases, λ1 the
mean duration of public reaction and β0 the original transmis-
sion rate. In addition to the temperature effect ξ, the humidity
should also play a role as seasonal reality. However, to the best
of my knowledge, there is no peer-reviewed quantitative infor-
mation about this influence on August 04, 2020. Note that the
information ξh on the strength of the response of transmission
rate to humidity variations would lead to an additional factor
eξhh tð Þ in Equation (1). In the framework of this study, the
temperature is strongly correlated to the humidity. Hence, cli-
matic effects are modeled with the temperature. The average
temperature distribution of the months between March and
June in Turkey are taken for the year 2020. The average tem-
peratures of the months between July and December are taken
for the year 2019.32 These data are summarized in Table 2. In
this way, an attempt is made to make the most accurate analysis
possible for the months in 2020. All the accessible data are
given in the literature.33-37 The modeling parameters are sum-
marized in Table 3. TABLE 1 Demography of Turkey on December 31, 2019, and Severity of Symptoms Demography of Turkey on December 31, 2019, and Severity of Symptoms
Age Groups
0-39
40-49
50-59
60-69
70-79
80+
Asymptotic or mild symptomps
85.1 %
84.8 %
83.2 %
79.3 %
71.5 %
59.6 %
Severe symptomps
14.4 %
14.4 %
14.1 %
13.4 %
12.1 %
10.1 %
Critical symptomps
0.4 %
0.8 %
2.7 %
7.3 %
16.3 %
30.2 %
Proportion in the Turkish population
61.9 %
13.8 %
10.9 %
7.5 %
4.0 %
1.8 % well as the response strength κ 0 are included in Equation
(1) well as the response strength κ 0 are included in Equation
(1) as low as possible due to the harsh social economic results of
any action the government takes. Moreover, values zero for
ξ, κ, and α0 are unrealistic and serve demonstrations such that
it is possible to see the outcome of no reaction of the popula-
tion as well as the government. The individual response of the
population in Equation (1) is increasing with increasing num-
ber of infectious people. However, the response of the govern-
ment α tð Þ is taken as a varying function due to published
evidence.38 It is assumed that the government can take action
for 2 mo continuously. The measures are then relaxed for 1 mo
and used again for 2 mo. In total, the response of the govern-
ment is given by (1) β tð Þ ¼ β0eξT tð Þ 1 α tð Þ
ð
Þ 1 P tð Þ
N
κ
. (1) (1) The codomain of α tð Þ is 0,1
½
while it is 0, N
½
for P tð Þ. Thus,
increasing government actions α tð Þ in the second factor in
Equation (2) or increasing risk perception P tð Þ in the final fac-
tor in Equation (2) lead to a decreasing transmission rate. Modified SEIR Model First, a model
that combines the previous work for influenza and coronavirus
is proposed. This model is conceptually able to not just
describe the spread of the pandemic. Instead, the influence
of seasonal effects as well as containment strategies of govern-
ments are included. Furthermore, variable individual reactions
based on the risk perception is incorporated. Note that the
emerging literature on COVID-19 includes the environmental
perspective in accordance with this presented study. While a
few studies conclude that varying temperatures have little or
no influence on the spread of the virus,25,26 most studies report
in contrast that rising humidity and temperatures lead to a
decreasing transmission rate.27-29 However, wind speed is neg-
atively correlated with the mean temperature and increases the
transmission rate25 while rainfall seems not to be significantly The modeling starts at t ¼ 1 day corresponding to March 11,
2020, which is the date of the first confirmed COVID-19 case
in Turkey and ends at August 31, 2020, for demonstration
purposes in the first 3 scenarios. The transmission rate in
the basic form of SEIR models is typically taken as a constant. However, β tð Þ in Equation (1) is taken as transmission rate in
this study. Temperature T tð Þ effects described by ξ 0, which
is the strength of the response of transmission rate to temper-
ature variations, government actions like school closures
encoded in α tð Þ and individual reactions given by the percep-
tion of risk P tð Þ, which decreases when less people die and
increases when people die more often due to COVID-19, as 215 https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press Influence of Population and Government on the COVID-19 Outbreak https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press TABLE 1 Equation (2) is rewritten in Equation (4) as Equation (2) is rewritten in Equation (4) as Equation (2) is rewritten in Equation (4) as
d
dt
S tð Þ
E tð Þ
I tð Þ
R tð Þ
P tð Þ
0
B
B
B
B
@
1
C
C
C
C
A
|fflfflfflfflfflfflfflffl{zfflfflfflfflfflfflfflffl}
¼ y tð Þ
j
i
¼
0
0
0
0
0
0
σ
0
0
0
0
σ
γ
0
0
0
0
γ
0
0
0
0
dγ
0
λ
0
B
B
B
B
@
1
C
C
C
C
A
|fflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflffl{zfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflffl}
¼A
S tð Þ
E tð Þ
I tð Þ
R tð Þ
P tð Þ
0
B
B
B
B
@
1
C
C
C
C
A
þ β tð ÞS tð ÞI tð Þ
N
1
1
0
0
0
0
B
B
B
B
@
1
C
C
C
C
A
|fflfflfflffl{zfflfflfflffl}
¼ e2
j
i e1
j
i
. (4)
Equation (4) is solved by use of the classic fourth-order Runge-
Kutta method. d
dt
S tð Þ
E tð Þ
I tð Þ
R tð Þ
P tð Þ
0
B
B
B
B
@
1
C
C
C
C
A
|fflfflfflfflfflfflfflffl{zfflfflfflfflfflfflfflffl}
¼ y tð Þ
j
i
¼
0
0
0
0
0
0
σ
0
0
0
0
σ
γ
0
0
0
0
γ
0
0
0
0
dγ
0
λ
0
B
B
B
B
@
1
C
C
C
C
A
|fflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflffl{zfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflfflffl}
¼A
S tð Þ
E tð Þ
I tð Þ
R tð Þ
P tð Þ
0
B
B
B
B
@
1
C
C
C
C
A (4) Equation (4) is solved by use of the classic fourth-order Runge-
Kutta method. Disaster Medicine and Public Health Preparedness RESULTS
Demonstration of Exemplary Results of the Modified
SEIR Model initial-value problem in Equation (5) is considered A total of 4 scenarios are presented graphically. The first scenario
in Figure 1 is naive and unrealistic, because it assumes both con-
stant temperature and no response from the population as well as
the government, ie, ξ ¼ α0 ¼ κ ¼ 0. The second scenario shows
a projection that takes seasonal effects of Turkey into account, ie,
just α0 ¼ κ ¼ 0. Moreover, Figure 2a shows the result for just
α0 ¼ 0 and Figure 2b takes all reactions and the weather into
account. d
dt y tð Þi
j
¼ f t, y tð Þ
j
i
ð
Þi
j
, y t0
ð Þi
j
¼ y0i
j
, t 2 t0, tmax
½
. (5) (5) Dividing the interval t0, tmax
½
into M subinterbals tm,tmþ1
½
with m ¼ 0,1, , M 1, tM ¼ tmax and h ¼ tmþ1 tm, inte-
grating Equation (5) over each subinterval, using the mean
value theorem, defining x 2 tm,tmþ1
½
and approximating
f x, y x
ð Þ
j
i
ð
Þi
j
by a
linear
combination
of
the
vectors
f x1, y x1
ð
Þi
j
ð
Þi
j
, , f xs, y xs
ð Þi
j
ð
Þi
j
leads to Equation (6) TABLE 2 TABLE 2
Average Temperatures of Certain Months in 2019 and
2020
Month
Average Temperature [°C]
March 2020
9.5
April 2020
12.1
May 2020
17.6
June 2020
21.7
July 2019
24.5
August 2019
25.3
September 2019
21.2
October 2019
17.4
November 2019
11.5
December 2019
6.5 (7) (7) Hence, y tð Þi
j
is determined numerically by iteration. Comparison of the Numerical Model With the Real
Data of Turkey Conventional fitting to reported real data39 of infected coro-
navirus cases in Turkey with the presented model needs to
be done carefully. Although the first case was confirmed on
March 11, 2020, the daily cases were not published until
March 27, 2020. Furthermore, note that data analyses with
confirmed cases should be done carefully due to the delay of
1 to 2 wk between the number of confirmed cases calculated
in this study and official reports. Moreover, there were a large
number of different government responses that were put into
effect at different times and are still partially valid. However, y tmþ1
ð
Þi
j
¼ y tm
ð
Þi
j
þ h
X
s
j¼1
aj f xj, y xj
i
i
. (6) (6) By choosing different values for the parameters s, aj and xj dif-
ferent Runge-Kutta formulations can be obtained. The most
widely used form, the classic fourth-order Runge-Kutta
method, is obtained for s ¼ 4 in Equation (7) 217 Disaster Medicine and Public Health Preparedness TABLE 3 jy tð Þi ¼
83154997
0
1
0
0
0
B
B
B
B
@
1
C
C
C
C
A
. (8) TABLE 3
Parameters of the Model in Equation (2)
Parameter
Value
σ1
3 days
γ1
5 days
λ1
11.2 days
β0
0.56
ξ
0 or 0.0383 K-1
κ
0 or 2254.1
α0
0 or 0.13
S 1
ð Þ
83154997
E 1
ð Þ
0
I 1
ð Þ
1
R 1
ð Þ
0
P 1
ð Þ
0 TABLE 3
Parameters of the Model in Equation (2)
Parameter
Value
σ1
3 days
γ1
5 days
λ1
11.2 days
β0
0.56
ξ
0 or 0.0383 K-1
κ
0 or 2254.1
α0
0 or 0.13
S 1
ð Þ
83154997
E 1
ð Þ
0
I 1
ð Þ
1
R 1
ð Þ
0
P 1
ð Þ
0 Parameters of the Model in Equation (2) (8) Thus, it is of the same form as Equation (5) and the classic
fourth-order Runge-Kutta method can be used. Note that
the step size can be chosen freely as time steps, such as days
or hours, while smaller steps increase the accuracy of the
numerical calculation. However, the computation time also
increases with decreasing step sizes. Application to the Modified SEIR Model The initial-value problem of our modified SEIR model in
Equation (4) can be written as Equation (8) d
dt y tð Þi
j
¼ A y tð Þ
j
i þ β tð ÞS tð ÞI tð Þ
N
e2
j i e1
j i
ð
Þ, Review of the Runge-Kutta Method Note that the response strength κ has been chosen as highest
comparable value found in a previous publication, where the
Spanish flu was analyzed,30 which means that the population is
exceptionally careful and very well informed, while α0 is taken Runge-Kutta methods are widely used in different fields like
mathematical physics and engineering for solving ordinary dif-
ferential equations numerically. For this purpose, the first-order Disaster Medicine and Public Health Preparedness VOL. 16/NO. 1 216 Disaster Medicine and Public Health Preparedness https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press y tmþ1
ð
Þi
j
¼ y tm
ð
Þi
j
þ h
6
k1i
j
þ 2 k2i
j
þ 2 k3i
j
þ k4i
j
ð
Þ þ O h5
,
k1i
j
¼ f tm, y tm
ð
Þi
j
ð
Þi
j
,
k2i
j
¼ f tm þ h
2 , y tm
ð
Þi
j
þ h
2 k1i
j
i,
k3i
j
¼ f tm þ h
2 , y tm
ð
Þi
j
þ h
2 k2i
j
i
,
k4i
j
¼ f tm þ h, y tm
ð
Þi
j
þ h k3
j
i
ð
Þi
j
. (7)
Influence of Population and Government on the COVID-19 Outbreak Influence of Population and Government on the COVID-19 Outbreak Influence of Population and Government on the COVID-19 Outbreak y tmþ1
ð
Þi
j
¼ y tm
ð
Þi
j
þ h
6
k1i
j
þ 2 k2i
j
þ 2 k3i
j
þ k4i
j
ð
Þ þ O h5
,
k1i
j
¼ f tm, y tm
ð
Þi
j
ð
Þi
j
,
k2i
j
¼ f tm þ h
2 , y tm
ð
Þi
j
þ h
2 k1i
j
i,
k3i
j
¼ f tm þ h
2 , y tm
ð
Þi
j
þ h
2 k2i
j
i
,
k4i
j
¼ f tm þ h, y tm
ð
Þi
j
þ h k3
j
i
ð
Þi
j
. (7)
Influence of Population and Government on the COVID-19 Outbreak TABLE 2 https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press Influence of Population and Government on the COVID-19 Outbreak DISCUSSION The number of infections in both scenarios of Figure 1 shows
that the situation can be extremely serious. Overall, an
extremely large number of people would be affected (in these
unrealistic cases). However, rising temperatures lead to a smaller
number of exposed and infectious people. Moreover, the peak
shifts from day 110 to day 167, ie, from June 28, 2020, to
August 24, 2020. In the third scenario in Figure 2a only an indi-
vidual but strong reaction is considered. The peak value at
August 10, 2020, as well as the total number of all cases is sig-
nificantly lower in comparison to the previous situations. Furthermore, fluctuations can be seen from July 12, 2020,
onward. These arise because the individual response decreases
as the numbers decrease, causing them to start rise again. The
behavior of the curve shows that the number of diseases is still
high. Even a well-prepared health-care system with a relatively
young population (like in Turkey) could collapse. Because the
highest published value was chosen for the individual response
κ, it is obvious that a government response α tð Þ 6¼ 0 (which has
already occurred) is inevitable. However, it should be noted that
a strong and long-term government response would lead to the α tð Þ ¼α1 þ α1H t 1day
ð
ÞH 1 day t
ð
Þ þ α2H t 2 day
ð
ÞH 15 day t
ð
Þ
þα3H t 16 day
ð
ÞH 17 day t
ð
Þ þ α4H t 18 day
ð
ÞH 22 day t
ð
Þ
þα5H t 23 day
ð
ÞH 24 day t
ð
Þ þ α6H t 25 day
ð
ÞH 66 day t
ð
Þ
þα7H t 67 day
ð
ÞH 117 day t
ð
Þ þ α8H t 118 day
ð
ÞH 131 day t
ð
Þ
(9) (9) during the fitting process. The coefficients are determined by
the fit and illustrate the full impact of government actions at
the specified time. Furthermore, the coefficients are bound by
the constraints α2 ¼ α4 ¼ α6 and α3 ¼ α5. Due to some per-
manent measures, an additional coefficient α1 is also consid-
ered. The result of the fit is depicted in Figure 3. FIGURE studies40 have shown that these can be summarized and there
were certain days when the measures became stronger (on
January 24, 2020; February 05, 2020; February 07, 2020;
March 09, 2020; March 16, 2020; March 18, 2020; March
21, 2020; March 24, 2020; March 27, 2020; March 28,
2020; April 11, 2020; April 18, 2020) or weaker (on April
13, 2020; April 20, 2020; June 01, 2020; July 22, 2020). Hence, the government response function α tð Þ is assumed to
be given by Equation (9)
α1 ¼ 0.1502,
α1 ¼ 0.3065,
α2 ¼ 0.3425,
α3 ¼ 0.3545,
α7 ¼ 0.2644,
α8 ¼ 0.1262,
κ ¼ 2009.9. (10)
DISCUSSION
The number of infections in both scenarios of Figure 1 shows
that the situation can be extremely serious. Overall, an
Fit of the Presented Model in Equation (4) to the Real Data of Turkey Between March 27, 2020, and August 04, 2020. studies40 have shown that these can be summarized and there
were certain days when the measures became stronger (on
January 24, 2020; February 05, 2020; February 07, 2020;
March 09, 2020; March 16, 2020; March 18, 2020; March
21, 2020; March 24, 2020; March 27, 2020; March 28,
2020; April 11, 2020; April 18, 2020) or weaker (on April
13, 2020; April 20, 2020; June 01, 2020; July 22, 2020). Hence, the government response function α tð Þ is assumed to
be given by Equation (9) Disaster Medicine and Public Health Preparedness FIGURE The coefficients are determined by
the fit and illustrate the full impact of government actions at
the specified time. Furthermore, the coefficients are bound by
the constraints α2 ¼ α4 ¼ α6 and α3 ¼ α5. Due to some per-
manent measures, an additional coefficient α1 is also consid-
ered. The result of the fit is depicted in Figure 3. The
coefficients and the response strength κ of the risk perception
among the population are found in Equation (10) to be
α1 ¼ 0.1502,
α1 ¼ 0.3065,
α2 ¼ 0.3425,
α3 ¼ 0.3545,
α7 ¼ 0.2644,
α8 ¼ 0.1262,
κ ¼ 2009.9. (10)
DISCUSSION
The number of infections in both scenarios of Figure 1 shows
that the situation can be extremely serious. Overall, an
extremely large number of people would be affected (in these
unrealistic cases). However, rising temperatures lead to a smaller
number of exposed and infectious people. Moreover, the peak
shifts from day 110 to day 167, ie, from June 28, 2020, to
August 24, 2020. In the third scenario in Figure 2a only an indi-
vidual but strong reaction is considered. The peak value at
August 10, 2020, as well as the total number of all cases is sig-
nificantly lower in comparison to the previous situations. Furthermore, fluctuations can be seen from July 12, 2020,
onward. These arise because the individual response decreases
as the numbers decrease, causing them to start rise again. The
behavior of the curve shows that the number of diseases is still
high. Even a well-prepared health-care system with a relatively
young population (like in Turkey) could collapse. Because the
highest published value was chosen for the individual response
κ, it is obvious that a government response α tð Þ 6¼ 0 (which has
already occurred) is inevitable. However, it should be noted that
a strong and long-term government response would lead to the
FIGURE 3
Fit of the Presented Model in Equation (4) to the Real Data of Turkey Between March 27, 2020, and August 04, 2020. Disaster Medicine and Public Health Preparedness
21 Fit of the Presented Model in Equation (4) to the Real Data of Turkey Between March 27, 2020, and August 04, 2020. FIGURE Model Simulation for the Development of the Outbreak Until August 31, 2020 Without and With Seasonal Effects While
Individual and Government Actions Are Neglected. Model Simulation for the Development of the Outbreak Until August 31, 2020 Without and With Seasonal Effects While
Individual and Government Actions Are Neglected. Individual and Government Actions Are Neglected. FIGURE 2
Model Simulation for the Development of the Outbreak Until August 31, 2020, (a) With Individual Action and (b) With Individual
as Well as Government Action. Individual and Government Actions Are Neglected. Individual and Government Actions Are Neglected. Model Simulation for the Development of the Outbreak Until August 31, 2020, (a) With Individual Action and (b) With Individual
as Well as Government Action. Model Simulation for the Development of the Outbreak Until August 31, 2020, (a) With Individual Action and (b) With Individual
as Well as Government Action. 218
Disaster Medicine and Public Health Preparedness
VOL. 16/NO. 1 Disaster Medicine and Public Health Preparedness VOL. 16/NO. 1 218 https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press Influence of Population and Government on the COVID-19 Outbreak Influence of Population and Government on the COVID-19 Outbreak studies40 have shown that these can be summarized and there
were certain days when the measures became stronger (on
January 24, 2020; February 05, 2020; February 07, 2020;
March 09, 2020; March 16, 2020; March 18, 2020; March
21, 2020; March 24, 2020; March 27, 2020; March 28,
2020; April 11, 2020; April 18, 2020) or weaker (on April
13, 2020; April 20, 2020; June 01, 2020; July 22, 2020). Hence, the government response function α tð Þ is assumed to
be given by Equation (9)
α tð Þ ¼α1 þ α1H t 1day
ð
ÞH 1 day t
ð
Þ þ α2H t 2 day
ð
ÞH 15 day t
ð
Þ
þα3H t 16 day
ð
ÞH 17 day t
ð
Þ þ α4H t 18 day
ð
ÞH 22 day t
ð
Þ
þα5H t 23 day
ð
ÞH 24 day t
ð
Þ þ α6H t 25 day
ð
ÞH 66 day t
ð
Þ
þα7H t 67 day
ð
ÞH 117 day t
ð
Þ þ α8H t 118 day
ð
ÞH 131 day t
ð
Þ
(9)
during the fitting process. CONCLUSIONS For example it could be realized by informing the population for
months by public-broadcasting in a science-based manner, call-
ing for caution and providing surgical masks as well as other nec-
essary materials. Additionally, the borders would have to be strictly controlled
for a long time, because even a single super-spreader would con-
demn the strategy to failure. For these reasons, a different
approach is modeled here. The smallest α0 that has been pub-
lished is assumed. The government intervenes with this strength
for a total of 2 mo to then loosen the measures by 1 mo. This
procedure is continued periodically until vaccination and medi-
cation are approved by the relevant authorities. Results are
depicted in Figure 2b. The highest point is observed for August
10, 2020. The fluctuations due to the individual response and
the maximum have decreased significantly. The curve also
shows when the government is not intervening. Between day
83 and day 112, the curve increases exponentially. Additionally, the government could explain the strategy regu-
larly to show how important the individual response is. Above
all, it could explain that careless individual response naturally
leads to a stronger government reaction, which in turn would
trigger major social and economic upheavals among the pop-
ulation. Furthermore, the scenario shows that even a strong
response from the population is not enough and the entire
transfer of the responsibility to the population is not a viable
path. The government has to at least react periodically to mit-
igate the outbreak. It should be noted, however, that within
the framework of this study even a weak periodic intervention
in combination with a strong individual reaction leads to the
mitigation of the outbreak. The purpose of this study is to propose a model with which differ-
ent intervention scenarios can be considered. Hence, an analysis
of the sensitivity with regard to the individual response strength κ
and the government response strength α0 was carried out in the
numerical experiments. As expected, a decreasing κ can be com-
pensated for with increasing α0 (and vice versa). Values around
κ ¼ 110 and α0 ¼ 0.9 lead to suppression while the scenario in
Figure 2b leads to a mitigation strategy. However, even smaller
government response strengths α0 lead to high numbers of infec-
tions that could yield a collapsing health-care system. CONCLUSIONS The comparison of the model with the existing real data of coro-
navirus cases for Turkey is depicted in Figure 3. Remarkably, a
good agreement between the model and the real data can be
observed. The intervention of the government modeled by
α tð Þ in this case is much more involved than in the demonstra-
tions and includes 9 parameters. Equations (10) show that the
government intervened much more strongly and for a longer
period of time compared with the exemplary scenario presented
in Figure 2b. In addition, the early fluctuations in the curves
show a strong response κ from the population. This leads to
small fluctuations of the theoretical results around the real data
at the end of the fit. This could possibly be improved by a time-
dependent κ tð Þ. However, it is quite difficult to make well-
founded assumptions about the course of such a function. In addition to the presented scenarios, which serve as a demon-
stration of the model, the model was also fitted to the existing
real data for Turkey. A good agreement of the model with these
data was found, which shows that this method can, in principle,
serve to quantify individual human reactions and government
decisions. However, this is always possible for total reactions
valid at certain periods of time. The result of the model shows
that there was a strong individual reaction at the beginning of
the outbreak. However, this seems to have weakened over time. The results also show that the government intervened heavily
between the second and 66th day. However, the measures were
subsequently weakened in total. In addition, permanent
measures taken by the government are recognizable by α1. In any case, it can be seen from the fit and the scenario of
Figure 2b that the pandemic outbreak could be kept under con-
trol in certain circumstances by consciously controlling the
individual reaction and coordinated as well as possibly only rel-
atively weak interventions by the government. It should be noted that the quantitative data determined by
fitting do not provide any information about which specific
reaction by the government or the population is reducing
the spread of the virus to what extent, as many reactions were
taken in parallel. DISCUSSION The
coefficients and the response strength κ of the risk perception
among the population are found in Equation (10) to be 219 https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press CONCLUSIONS suppression of the epidemic in Turkey. This method has certain
disadvantages: On one hand, social and economic risks have to
be considered. On the other hand, this would not result in herd
immunity (Bao L, Deng W, Gao H, et al. Reinfection could not
occur in SARS-CoV-2 infected rhesus macaques. 2020 and Wu
F, Wang A, Liu M, et al. Neutralizing antibody responses to
SARS-CoV-2 in a COVID-19 recovered patient cohort and
their implications. 2020). In this study a modified SEIR model is presented. The advantage
of the proposed model is the inclusion of the influencing factors
weather and individual as well as government response. Moreover, the proposed model is quite simple. Parameter esti-
mates from previously published articles that analyze the
Spanish flu were used for demonstrating the results of the model
without classical fitting. The approximative values for the indi-
vidual and government responses were obtained from the 1918-
1920 Spanish flu outbreak due to certain similarities of both
pandemics. Moreover, well-known epidemiologic parameters
for COVID-19 are used. As last demonstration, the model is
used for an exemplary proposition of a mitigation strategy,
whereby the population is quite cautious in comparison to
the 1918-1920 Spanish flu outbreak. However, the scenario
gives no indication of how such a strong reaction can be evoked. For example it could be realized by informing the population for
months by public-broadcasting in a science-based manner, call-
ing for caution and providing surgical masks as well as other nec-
essary materials. In this study a modified SEIR model is presented. The advantage
of the proposed model is the inclusion of the influencing factors
weather and individual as well as government response. Moreover, the proposed model is quite simple. Parameter esti-
mates from previously published articles that analyze the
Spanish flu were used for demonstrating the results of the model
without classical fitting. The approximative values for the indi-
vidual and government responses were obtained from the 1918-
1920 Spanish flu outbreak due to certain similarities of both
pandemics. Moreover, well-known epidemiologic parameters
for COVID-19 are used. As last demonstration, the model is
used for an exemplary proposition of a mitigation strategy,
whereby the population is quite cautious in comparison to
the 1918-1920 Spanish flu outbreak. However, the scenario
gives no indication of how such a strong reaction can be evoked. https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press Disaster Medicine and Public Health Preparedness REFERENCES 1. Johns Hopkins University. Coronavirus COVID-19 global cases. https://
coronavirus.jhu.edu/map.html. Published 2020. Accessed August 04, 2020. 21. Funk S, Salathé M, Jansen VAA. Modelling the influence of human
behaviour on the spread of infectious diseases: a review. J R Soc
Interface. 2010;7:1247-1256. doi: 10.1098/rsif.2010.0142 1. Johns Hopkins University. Coronavirus COVID-19 global cases. https://
coronavirus.jhu.edu/map.html. Published 2020. Accessed August 04, 2020. 2. Wu JT, Leung K, Leung GM. 2020. Nowcasting and forecasting the poten-
tial domestic and international spread of the 2019-nCoV outbreak origi-
nating in Wuhan, China: a modelling study. Lancet. 2020;395:689-697. doi: 10.1016/S0140-6736(20)30260-9 2. Wu JT, Leung K, Leung GM. 2020. Nowcasting and forecasting the poten-
tial domestic and international spread of the 2019-nCoV outbreak origi-
nating in Wuhan, China: a modelling study. Lancet. 2020;395:689-697. doi: 10.1016/S0140-6736(20)30260-9 22. Ionides EL, Bréto C, King AA. Inference for nonlinear dynamical systems. Proc Natl Acad Sci U S A. 2006;103:18438-18443. doi: 10.1073/pnas. 0603181103 23. Linton NM, Kobayashi T, Yang Y, et al. Incubation period and other epi-
demiological characteristics of 2019 novel coronavirus ınfections with
right truncation: a statistical analysis of publicly available case data. J
Clin Med. 2020;9(2):538. doi: 10.3390/jcm9020538 3. Bogoch II, Watts A, Thomas-Bachli A, et al. Pneumonia of unknown aeti-
ology in Wuhan, China: potential for international spread via commercial
air travel. J Travel Med. 2020;27(2):taaa008. doi: 10.1093/jtm/taaa008 4. Legislation Information System. Presidential circulars. https://www. mevzuat.gov.tr/CumhurbaskanligiGenelgeleri.aspx. Published
2020. Accessed August 04, 2020. 24. Liu Y, Eggo RM, Kucharski AJ. Secondary attack rate and superspreading
events for SARS-CoV-2. Lancet. 2020;395:47. doi: 10.1016/S0140-
6736(20)30462-1 5. Qualls N, Levitt A, Kanade N, et al. Community mitigation guidelines to
prevent pandemic ınfluenza — United States, 2017. MMWR Recomm Rep. 2017;66:1-34. doi: 10.15585/mmwr.rr6601a1 25. Xie J, Zhu Y. Association between ambient temperature and COVID-19
infection in 122 cities from China. Sci Total Environ. 2020;724:138201. doi: 10.1016/j.scitotenv.2020.138201 6. Liew MF, Siow WT, MacLaren G, et al. Preparing for COVID-19: early
experience from an intensive care unit in Singapore. Crit Care. 2020;24(1):83. doi: 10.1186/s13054-020-2814-x 26. Jahangiri M, Jahangiri M, Najafgholipour M. The sensitivity and specificity
analyses of ambient temperature and population size on the transmission rate
of the novel coronavirus (COVID-19) in different provinces of Iran. Sci
Total Environ. 2020;728:138872. doi: 10.1016/j.scitotenv.2020.138872 7. Organisation for Economic Co-operation and Development. The impact of
the Covid-19 outbreak on economic prospects is severe. https://www.oecd. org/economic-outlook/. Published 2020. Accessed May 02, 2020. 27. Acknowledgments The author thanks R.E. Ece and H.T. Göksidan for valuable discussions. 18. King AA, Ionides EL, Pascual M, et al. Inapparent infections and cholera
dynamics. Nature. 2008;454:877-880. doi: 10.1038/nature07084 Influence of Population and Government on the COVID-19 Outbreak effects like humidity. Additionally, the analysis performed in
this study should be done for all provinces of Turkey due to
great differences in the average temperatures (for example,
in Ardahan and Mardin) and level of education. Moreover,
it should be noted that the analysis presented here can be car-
ried out for all provinces around the world. Due to the local
differences, such a procedure seems to make sense, because
it can be used to plan local measures. This is of particular value
because many countries are currently pursuing various strate-
gies. Due to the distribution of the virus within the first wave
around the world, it is possible that a potential second wave
could consist of many different local outbreaks in every
country. 1918–20 pandemic: a quantitative analysis. Lancet. 2007;368:2211-
2218. doi: 10.1016/S0140-6736(06)69895-4 1918–20 pandemic: a quantitative analysis. Lancet. 2007;368:2211-
2218. doi: 10.1016/S0140-6736(06)69895-4 9. Olson DR, Simonsen L, Edelson PJ, et al. Epidemiological evidence
of an early wave of the 1918 influenza pandemic in New York City. Proc Natl Acad Sci U S A. 2005;102:11059-11063. doi: 10.1073/pnas. 0408290102 10. Vynnycky E, Trindall A, Mangtani P. Estimates of the reproduction num-
bers of Spanish influenza using morbidity data. Int J Epidemiol. 2007;36:881-889. doi: 10.1093/ije/dym071 11. Chowell G, Ammon CE, Hengartner NW, et al. Transmission dynamics of
the great influenza pandemic of 1918 in Geneva, Switzerland: assessing the
effects of hypothetical interventions. J Theor Biol. 2006;241:193-204. doi:
10.1016/j.jtbi.2005.11.026 12. Andreasen V, Viboud C, Simonsen L. Epidemiologic characterization of the
1918 ınfluenza pandemic summer wave in copenhagen: ımplications for pan-
demic control strategies. J Infect Dis. 2008;197:270-278. doi: 10.1086/524065 13. Huang C, Wang Y, Li X, et al. Clinical features of patients infected with
2019 novel coronavirus in Wuhan, China. Lancet. 2020;395:497-506. doi:
10.1016/S0140-6736(20)30183-5 Supplementary material 19. Bootsma MCJ, Ferguson NM. The effect of public health measures on the
1918 influenza pandemic in U.S. cities. Proceedings of the National Academy
of Sciences of the United States of America. 2007;104:7588-7593. doi: 10. 1073/pnas.0611071104 pp
y
To view supplementary material for this article, please visit https://doi.org/10. 1017/dmp.2020.322. To view supplementary material for this article, please visit https://doi.org/10. 1017/dmp.2020.322. 20. Funk S, Gilad E, Watkins C, et al. The spread of awareness and its impact
on epidemic outbreaks. Proc Natl Acad Sci U S A. 2009;106:6872-6877. doi: 10.1073/pnas.0810762106 About the Author 14. Riou J, Althaus CL. Pattern of early human-to-human transmission of
Wuhan 2019 novel coronavirus (2019-nCoV), December 2019 to
January 2020. Euro Surveill. 2020;25(4):2000058. doi: 10.2807/1560-
7917.ES.2020.25.4.2000058 Turkish Aerospace, R&D and Prototype Operations Directorate, Department of
Innovation, Advanced Materials, Processes and Energies Technology Center,
Ankara, Turkey (Dr Öz). Turkish Aerospace, R&D and Prototype Operations Directorate, Department of
Innovation, Advanced Materials, Processes and Energies Technology Center,
Ankara, Turkey (Dr Öz). 15. Zhu N, Zhang D, Wang W, et al. A novel coronavirus from patients with
pneumonia in China, 2019. N Engl J Med. 2020;382:727-733. doi: 10. 1056/NEJMoa2001017 Correspondence and reprint requests to Yahya Öz, Turkish Aerospace, R&D and
Prototype
Operations
Directorate,
Department
of
Innovation,
Advanced
Materials, Processes and Energies Technology Center, 06980 Kahramankazan,
Ankara, Turkey (e-mail: yahya.oz@tai.com.tr). 16. Lowen AC, Mubareka S, Steel J, et al. Influenza virus transmission ıs
dependent
on
relative
humidity
and
temperature. PLoS
Pathog. 2007;3:1470-1476. doi: 10.1371/journal.ppat.0030151 17. Shaman J, Pitzer VE, Viboud C, et al. Absolute humidity and the seasonal
onset of ınfluenza in the continental United States. PLoS Biol. 2010;8(2):
e10000316. doi: 10.1371/journal.pbio.1000316 CONCLUSIONS It is, therefore, only possible to evaluate the
measures as packages that were valid in certain periods of time
and lead to the results in Equation (10). It should be noted that the quantitative data determined by
fitting do not provide any information about which specific
reaction by the government or the population is reducing
the spread of the virus to what extent, as many reactions were
taken in parallel. It is, therefore, only possible to evaluate the
measures as packages that were valid in certain periods of time
and lead to the results in Equation (10). The framework of this model should be considered as a first
step. Obviously, it is open to further improvement with other VOL. 16/NO. 1 220 https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press REFERENCES Ma Y, Zhao Y, Liu J, et al. Effects of temperature variation and humidity on
the death of COVID-19 in Wuhan, China. Sci Total Environ. 2020;724:138226. doi: 10.1016/j.scitotenv.2020.138226 8. Murray CJL, Lopez AD, Chin B, et al. Estimation of potential global
pandemic influenza mortality on the basis of vital registry data from the Disaster Medicine and Public Health Preparedness 221 https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press Influence of Population and Government on the COVID-19 Outbreak 28. Tosepu R, Gunawan J, Effendy DS, et al. Correlation between weather and
Covid-19
pandemic
in
Jakarta,
Indonesia. Sci
Total
Environ. 2020;725:138436. doi: 10.1016/j.scitotenv.2020.138436 35. Wu P, Hao X, Lau EHY, et al. Real-time tentative assessment of the epi-
demiological characteristics of novel coronavirus infections in Wuhan,
China, as at 22 January 2020. Euro Surveill. 2020;25(3):2000044. doi:
10.2807/1560-7917.ES.2020.25.3.2000044 28. Tosepu R, Gunawan J, Effendy DS, et al. Correlation between weather and
Covid-19
pandemic
in
Jakarta,
Indonesia. Sci
Total
Environ. 2020;725:138436. doi: 10.1016/j.scitotenv.2020.138436 29. Shi P, Dong Y, Yan H, et al. Impact of temperature on the dynamics of the
COVID-19 outbreak in China. Sci Total Environ. 2020;728:138890. doi:
10.1016/j.scitotenv.2020.138890 36. Li Q, Guan X, Wu P, et al. Early transmission dynamics in Wuhan, China,
of novel coronavirus–ınfected pneumonia. N Engl J Med. 2020;382:1199-
1207. doi: 10.1056/NEJMoa2001316 30. He D, Dushoff J, Day T, et al. Inferring the causes of the three waves of the
1918 influenza pandemic in England and Wales. Proc Biol Sci. 2013;280(1766):20131345. doi: 10.1098/rspb.2013.1345 37. Neher RA, Dyrdak R, Druelle V, et al. Potential impact of seasonal forcing
on a SARS-CoV-2 pandemic. Swiss Med Wkly. 2020; 150:w20224. doi: 10. 4414/smw.2020.20224 31. Turkish Statistical Institute. Address based population registration system
results. https://biruni.tuik.gov.tr/medas/?kn=95&locale=tr. Published 2020. Accessed May 2, 2020. 38. Zhao S, Lin Q, Ran J, et al. Preliminary estimation of the basic
reproduction number of novel coronavirus (2019-nCoV) in China,
from 2019 to 2020: a data-driven analysis in the early phase of the
outbreak. Int J Infect Dis. 2020;92:214-217. doi: 10.1016/j.ijid.2020. 01.050 32. Björk J, Strömberg U. Effects of systematic exposure assessment errors in
partially ecologic case-control studies. Int J Epidemiol. 2002;31:154-160. doi: 10.1093/ije/31.1.154 39. Ministry of Health of the Republic of Turkey (2020). Current status in
Turkey. https://covid19.saglik.gov.tr/?lang=en-US. Published
2020. Accessed August 04, 2020. 33. Ministry of Agriculture and Foresty of the Republic of Turkey (2020). Monthly Temperature Analysis. https://www.mgm.gov.tr/veridegerlendirme/
sicaklik-analizi.aspx. Published 2020. Accessed August 04, 2020. 34. Nishiura H, Kobayashi T, Yang Y, et al. The rate of underascertainment of
novel coronavirus (2019-nCoV) Infection: estimation using Japanese pas-
sengers data on evacuation flights. J Clin Med. 2020;9(2):419. doi: 10. 3390/jcm9020419 40. The Chancellor, Masters and Scholars of the University of Oxford (2020). Oxford COVID-19 Government Response Tracker. https://www.bsg.ox. ac.uk/research/research-projects/coronavirus-government-response-tracker. Published 2020. Accessed August 04, 2020. VOL. 16/NO. 1 Disaster Medicine and Public Health Preparedness 222 https://doi.org/10.1017/dmp.2020.322 Published online by Cambridge University Press
|
https://openalex.org/W2515743109
|
https://europepmc.org/articles/pmc5009708?pdf=render
|
English
| null |
A full-body transcriptome and proteome resource for the European common carp
|
BMC genomics
| 2,016
|
cc-by
| 11,255
|
© 2016 The Author(s). Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Open Access A full-body transcriptome and proteome
resource for the European common carp
I. C. R. M. Kolder1,2, S. J. van der Plas-Duivesteijn3, G. Tan4, G. F. Wiegertjes5, M. Forlenza5, A. T. Guler3, D. Y. Travin6,
M. Nakao7, T. Moritomo8, I. Irnazarow9, J. T. den Dunnen10, S. Y. Anvar10, H. J. Jansen11, R. P. Dirks11, M. Palmblad3,
B. Lenhard4, C. V. Henkel1 and H. P. Spaink1* A full-body transcriptome and proteome
resource for the European common carp I. C. R. M. Kolder1,2, S. J. van der Plas-Duivesteijn3, G. Tan4, G. F. Wiegertjes5, M. Forlenza5, A. T. Guler3, D. Y. Travin6,
M. Nakao7, T. Moritomo8, I. Irnazarow9, J. T. den Dunnen10, S. Y. Anvar10, H. J. Jansen11, R. P. Dirks11, M. Palmblad3,
B. Lenhard4, C. V. Henkel1 and H. P. Spaink1* * Correspondence: h.p.spaink@biology.leidenuniv.nl
1Institute of Biology Leiden, Leiden University, Sylvius Laboratory, Sylviusweg
72, 2300, RA, Leiden, The Netherlands
Full list of author information is available at the end of the article Abstract Background: The common carp (Cyprinus carpio) is the oldest, most domesticated and one of the most cultured
fish species for food consumption. Besides its economic importance, the common carp is also highly suitable for
comparative physiological and disease studies in combination with the animal model zebrafish (Danio rerio). They
are genetically closely related but offer complementary benefits for fundamental research, with the large body mass
of common carp presenting possibilities for obtaining sufficient cell material for advanced transcriptome and
proteome studies. Results: Here we have used 19 different tissues from an F1 hybrid strain of the common carp to perform
transcriptome analyses using RNA-Seq. For a subset of the tissues we also have performed deep proteomic studies. As a reference, we updated the European common carp genome assembly using low coverage Pacific Biosciences
sequencing to permit high-quality gene annotation. These annotated gene lists were linked to zebrafish homologs,
enabling direct comparisons with published datasets. Using clustering, we have identified sets of genes that are
potential selective markers for various types of tissues. In addition, we provide a script for a schematic anatomical
viewer for visualizing organ-specific expression data. Conclusions: The identified transcriptome and proteome data for carp tissues represent a useful resource for
further translational studies of tissue-specific markers for this economically important fish species that can lead to
new markers for organ development. The similarity to zebrafish expression patterns confirms the value of common
carp as a resource for studying tissue-specific expression in cyprinid fish. The availability of the annotated gene set
of common carp will enable further research with both applied and fundamental purposes. Keywords: Cyprinus carpio, Genome, Transcriptomics tissue-specific expression, RNA-Seq, Proteomics
Abbreviations: CLIP, Cre-LoxP Inverse PCR; RNAseq (RNA-seq), RNA deep sequencing Kolder et al. BMC Genomics (2016) 17:701
DOI 10.1186/s12864-016-3038-y Kolder et al. BMC Genomics (2016) 17:701
DOI 10.1186/s12864-016-3038-y CLIP-PE sequencing
CLIP PE Lib
i q
g
CLIP-PE Libraries were made mostly according to the
protocol published by Peng et al. [16]. DNA was sheared
using a Covaris g-TUBE by centrifuging for 2 × 1 min at
8000 rpm in an Eppendorf 5414R centrifuge. The DNA
was subsequently run on a 0.6 % agarose gel in TAE buf-
fer to isolate the desired range of fragments. The Qiagen
QIAexII kit was used to isolate the DNA from the gel. To repair the DNA damage a PreCR incubation was
done according to the manufacturers description (NEB,
Ipswich MA, USA). After Ampure XP purification the
DNA fragments were end repaired and A-tailed using
the NEBNext DNA library prep reagent set (NEB). Adapters containing LoxP sites were ligated to the DNA
using the Quick ligase kit (NEB). Adapter ligated frag-
ments were then circularized using Cre recombinase
(Life technologies). After circularization the linear DNA
fragments
were
digested
using
Plasmid
safe
ATP-
dependent DNase (Epicentre). Circularized DNA frag-
ments were digested using NlaIII (NEB). After digestion
the reaction volume was increased to promote self-
ligation and DNA fragments were again circularized
using T4 ligase. Linear DNA fragments were removed
using Plasmid safe ATP-dependent DNase. A PCR with
Illumina PE PCR primers was performed to amplify the
fragments and to add Illumina flow cell compatible ends
to the DNA fragments. The libraries were paired end se-
quenced using Illumina Hiseq 2500 technology with a
read length of 51 nt. A major drawback of the genomic information on carp
is the lack of a genome-based annotation of all gene pre-
dictions in public databases. As a result, the accessibility
of carp data has been limited to specialist analyses. Here,
we describe the generation of an annotated gene set of
C. carpio based on published and new genomic data,
generated by the sequencing of long DNA fragments
using Pacific Biosciences technology. We use this anno-
tated set to investigate tissue-specific gene expression,
based on RNA-Seq data generated for dozens of distinct
tissue samples. In addition, we have performed deep
proteomic analyses of several tissues for comparison
with the transcriptome data. Background zebrafish (Danio rerio), a commonly used animal model
to study human disease [2–4], with both lineages diver-
ging approximately 11–21 million years ago [5, 6]. Be-
cause of its large body size, a single animal can yield
sufficient amounts of tissue from its organs and blood
for extensive genomic, proteomic and metabolic studies
without compromising to possible contaminations with
neighboring tissues. Especially for small organs, the carp
also offers far better possibilities than zebrafish for
obtaining tissues that are well-separated from other tis-
sues. Furthermore, carp itself, besides being an import-
ant edible species and offering complementary benefits
to the closely-related zebrafish, is emerging as a highly The common carp (Cyprinus carpio) is the oldest, most
domesticated and one of the most cultured fish species
for food consumption, angling purposes and expensive
species as ornamental fish. Geographical and reproduct-
ive isolation resulted in the formation of two subspecies;
European common carp (Cyprinus carpio carpio) in the
West and East-Asian common carp (Cyprinus carpio
hematopterus) in the East [1]. It is closely related to * Correspondence: h.p.spaink@biology.leidenuniv.nl
1Institute of Biology Leiden, Leiden University, Sylvius Laboratory, Sylviusweg
72, 2300, RA, Leiden, The Netherlands
Full list of author information is available at the end of the article Kolder et al. BMC Genomics (2016) 17:701 Page 2 of 12 Page 2 of 12 brother-sister matings [13–15]. A cross between single
R3 and R8 individuals purebred for five generations led to
a base population for artificial reproduction by induced
gynogenesis and subsequent production of a homozygous
all-female clonal line, which was sampled for genomic
DNA to construct genomic libraries [12]. A cross between
single R3 and R8 individuals purebred for 11 generations
led to a base population for sampling of organs for RNA
sequencing. Genomic DNA was used for construction of
genomic libraries as described [8]. The breeding of adult
fish was approved by the local animal welfare committee
(DEC) of Wageningen University. All protocols adhered
to the international guidelines specified by the EU Animal
Protection Directive 2010/63/EU. useful animal model on its own, providing valuable in-
formation for questions on physiology, genetics, immun-
ology and disease [1]. For instance, common immune
genes that were notably lacking in zebrafish were shown
to be present in the carp genome [7]. Recently, several full genome assemblies of carp spe-
cies have become available [8, 9]. Long read sequencing Long read sequencing
Genomic DNA for Pacific Biosciences sequencing was
isolated from nucleated red blood cells, from a single
adult female carp from a homozygous clonal common
carp line (R3R8 69–45) described by Henkel et al. [8]. DNA was isolated using the Qiagen Blood and Tissue
DNeasy kit according to manufacturer’s manual (Qiagen,
Hilden, Germany). Background These studies confirm
the duplicate nature of the carp genome with respect to
zebrafish and several other teleosts, with the carp lineage
having experienced a recent (8 Mya) allotetraploidization
event [10, 11]. The carp genome consists of 50 chromo-
some pairs, in contrast to 25 for zebrafish [9]. Between
carp and zebrafish, extensive conservation of synteny re-
mains [8, 9]. Curiously, the carp genome is of approxi-
mately equal size to the zebrafish genome, the result of
less intra- and intergenic repetitive content [8]. Further
comparative genomics and transcriptomics studies using
Hungarian, North American and Chinese carp strains
have provided insights into the species structure, and
identified genes associated with skin color and scale phe-
notypes [9]. However, further analyses of carp transcrip-
tomes are not yet abundant, with an emphasis on
embryonic samples and mixed tissues [8, 9]. CLIP-PE sequencing
CLIP PE Lib
i In order to assess the common carp as more than only
an important edible species, we aimed to validate carp
as an animal model complementary to the zebrafish used
for human disease studies, and investigate the relation-
ship between these two closely-related cyprinid species
by comparing the expression of tissue-specific genes in
carp and predicted tissue-specific expression in zebra-
fish. Together, access to a well-annotated genome and
the whole animal approach to tissue gene expression
provide new resources which will substantiate research
on common carp. Annotation As the first step of genome annotation, we applied
repeat analysis with RepeatMasker (v4.0.5) [19] and
the
RMBlast
engine
[19]. In
addition
to
Repbase
(v20140131) [20], we constructed a de novo transposable
element library for the carp genome from RepeatMode-
ler (v1.0.8). The genome was then annotated using the
MAKER pipeline (v2.31.8) [21]. The construction of gene
models was based on three sources of information: ab
initio gene prediction, homologs-based evidence and ex-
pression evidence from a de novo transcriptome assembly. The ab initio gene prediction software AUGUSTUS
(v3.1.0) [22], with trained gene model parameters, was
used to predict genes from the repeat-masked genome. For homologs-based prediction, the zebrafish protein
sequences from Ensembl version 77 were collected to
build a protein database for BLASTX (v2.2.27) to align
genome sequences to the corresponding protein se-
quences. To annotate the putative gene functions, we
conducted a BLASTP (v2.2.27) search for the identified
protein sequences against the Swiss-Prot database with
the E-value of 1e-5. The protein domain information
and GO category classification were produced from
InterProScan (v5.11-51.0) [23]. Data analysis y
Data quality was assessed using the statistical package R
[27]. Most importantly, raw RNA-Seq counts need to be
normalized to correct for sequencing depth and (option-
ally) transcript length. Dividing counts by simple se-
quencing depth (the total number of reads) can lead to
inaccurate results [28], as it is strongly influenced by the
most abundantly expressed genes. For example, extreme
expression of a single gene (e.g. hormone-encoding
genes [29]) will strongly affect the expression measures
of all other genes if naïve CPM (counts per million) or
RPKM (reads per million per kilobase) normalization is
used. Alternatively, empirical estimates of sequencing
depth (available in the edgeR package, v. 3.12.0 [30]) are
commonly used. However, like CPM and RPKM, these
assume samples to be similar and perform poorly on our
multi-tissue data (Additional file 2: Figure S1A-B, log10
scale). We therefore ranked the count data and normal-
ized between samples by considering CPM- or RPKM-
based expression based on the ranks instead of actual
counts. Using this procedure, expression in all samples
can be made comparable (Additional file 2: Figure S1C-D,
log10 scale). A correlation matrix was calculated on the
RPKM data with a Pearson correlation test (Additional file
3: Figure S2). After removal of outliers a correlation
matrix was calculated on the rank-normalized data of the
remaining samples with a Spearman correlation test
(Fig. 2). The correlation matrices were plotted using the Assembly A library was made with the TruSeq Stranded total RNA
library prep kit according to the manufacturer’s descrip-
tion (Illumina inc, San Diego, USA). Both paired end
and single libraries were sequenced using an Illumina
HiSeq 2500 according to the manufacturer’s description. Illumina
software
(HCS)
was
used
for
basecalling. Tophat version 2.0.5 [24] was used to align the reads to
the reference genome. For each read pair, secondary
alignments (which meet alignment criteria but are less
likely to be correct) were filtered out using samtools ver-
sion 0.1.18 [25]. For each predicted gene, read counts
were obtained from the alignment file using HTSeq-
count version 0.5.3.p9 [26] using the ‘intersection-strict’
setting to ignore reads not aligning to annotated exons. The genome was assembled by integrating the contigs
generated previously [8] with the PacBio sequencing
reads and the three CLIP-PE libraries with insert sizes of
5, 6.5, and 7.5 kbp. The paired-end data was used to
construct scaffolds using SSPACE [17]. Subsequently,
PBJelly [18] was used to scaffold fragmented contigs and
fill the gaps using long and single-molecule PacBio
reads. Gaps that were covered by at least 5 PacBio reads
were filled by the consensus sequence. Otherwise, Ns
were used to fill gaps between contigs that were linked
by less than 5 PacBio reads. Carp genome
Carp fish line p
R3 x R8 are the hybrid offspring of a cross between carp
of Hungarian origin (R8 strain) and of Polish origin (R3
strain) [12], each of which are kept purebred by single Kolder et al. BMC Genomics (2016) 17:701 Page 3 of 12 Page 3 of 12 The isolated DNA was fragmented with gTUBEs
(Covaris) and end-repaired. SMRTbell DNA template
libraries (insert size of 20Kb) were prepared according to
the manufacturer’s instruction. Sequencing of ten SMRT
cells was performed on the Pacific Biosciences RSII plat-
form using the Magbead loading protocol and P5-C3
chemistry. Sequencing reads had an N50 of 11.9 kbp. The
total number of bases produced was 6.8 Gbp, which is the
equivalent of 4.5× coverage of the genome. females) which were dissected into 89 samples from 19
different tissues (Additional file 1: Table S1). Addition-
ally, two pools of embryos at 5 days post fertilization
(dpf) were used. An overview of tissues collected is
depicted in Fig. 1. Tissue samples were stored in RNAla-
ter (Life Technologies, Carlsbad, USA), after which RNA
was isolated using the Qiagen Blood and Tissue DNeasy
kit according to manufacturer’s manual (Qiagen, Hilden,
Germany). RNA-sequencing
Sample collection From common carp with a comparable genetic back-
ground (after 11 generations of brother-sister matings)
as the carp used for the carp genome [8], we used four
healthy adult F1 hybrids. Carp specimens (1 male, 3 Kolder et al. BMC Genomics (2016) 17:701 Page 4 of 12 Fig. 1 A cross-section of the carp organs sampled for this study. The different tissues were colored according to the 16 groups, to match the
coloring of the following figures. A full list is available in Additional file 1: Table S1 Fig. 1 A cross-section of the carp organs sampled for this study. The different tissu
coloring of the following figures. A full list is available in Additional file 1: Table S1 Fig. 1 A cross-section of the carp organs sampled for this study. The different tissues were colored according to the 16 groups, to match the
coloring of the following figures. RNA-sequencing
Sample collection A full list is available in Additional file 1: Table S1 0.6
0.64
0.68
0.72
0.76
0.8
0.84
0.88
0.92
0.96
1
head kidney(d/l)
head kidney(v/l)
head kidney(d/r)
head kidney(v/r)
left mid kidney(l)
left mid kidney(r)
right mid kidney(l)
right mid kidney(r)
crystalline(l)
crystalline(r)
eye front(l)
eye front(r)
eye rear(r)
thymus dorsal(l)
thymus ventral(l)
thymus dorsal(r)
thymus ventral(r)
PBL
barb(l)
barb(r)
pect fin(l)
pect fin(r)
pelvic fin(l)
pelvic fin(r)
dorsal fin(front)
dorsal fin(rear)
anal fin
upper tail
lower tail
gill 1st arch(l)
gill 2nd arch(l)
gill 3rd arch(l)
gill 1st arch(r)
gill 2nd arch(r)
gill 3rd arch(r)
dorsal skin(a)
dorsal skin(b)
dorsal skin(c)
dorsal skin(d)
dorsal skin(e)
ventral skin(a)
ventral skin(b)
ventral skin(c)
ventral skin(d)
ventral skin(e)
hepatopancreas(a)
hepatopancreas(b)
hepatopancreas(c)
spleen(e)
hepatopancreas(d)
hepatopancreas(e)
spleen(a)
spleen(b)
spleen(d)
gallbladder(a)
gallbladder(b)
gallbladder(c)
gallbladder(d)
gut
gonads(a)
gonads(b)
dorsal muscle(a)
dorsal muscle(b)
dorsal muscle(c)
dorsal muscle(d)
dorsal muscle(e)
ventral muscle(a)
ventral muscle(b)
ventral muscle(c)
ventral muscle(d)
ventral muscle(e)
telencephalon
tectum opticum(l)
tectum opticum(r)
t.semicircularis(l)
t.semicircularis(r)
corpus cerebelli
vagal lobe
medulla oblongata
pituitary
brain body(front)
brain body(rear)
atrium
ventriculum
bulbus
embryo(a)
embryo(b)
head kidney(d/l)
head kidney(v/l)
head kidney(d/r)
head kidney(v/r)
left mid kidney(l)
left mid kidney(r)
right mid kidney(l)
right mid kidney(r)
crystalline(l)
crystalline(r)
eye front(l)
eye front(r)
eye rear(r)
thymus dorsal(l)
thymus ventral(l)
thymus dorsal(r)
thymus ventral(r)
PBL
barb(l)
barb(r)
pect fin(l)
pect fin(r)
pelvic fin(l)
pelvic fin(r)
dorsal fin(front)
dorsal fin(rear)
anal fin
upper tail
lower tail
gill 1st arch(l)
gill 2nd arch(l)
gill 3rd arch(l)
gill 1st arch(r)
gill 2nd arch(r)
gill 3rd arch(r)
dorsal skin(a)
dorsal skin(b)
dorsal skin(c)
dorsal skin(d)
dorsal skin(e)
ventral skin(a)
ventral skin(b)
ventral skin(c)
ventral skin(d)
ventral skin(e)
hepatopancreas(a)
hepatopancreas(b)
hepatopancreas(c)
spleen(e)
hepatopancreas(d)
hepatopancreas(e)
spleen(a)
spleen(b)
spleen(d)
gallbladder(a)
gallbladder(b)
gallbladder(c)
gallbladder(d)
gut
gonads(a)
gonads(b)
dorsal muscle(a)
dorsal muscle(b)
dorsal muscle(c)
dorsal muscle(d)
dorsal muscle(e)
ventral muscle(a)
ventral muscle(b)
ventral muscle(c)
ventral muscle(d)
ventral muscle(e)
telencephalon
tectum opticum(l)
tectum opticum(r)
t.semicircularis(l)
t.semicircularis(r)
corpus cerebelli
vagal lobe
medulla oblongata
pituitary
brain body(front)
brain body(rear)
atrium
ventriculum
bulbus
embryo(a)
embryo(b)
Fig. 2 Correlation plot using the Spearman correlation test on the RPKM rank-normalized data (n = 87) after mixed/outlier samples were removed. The different tissues were colored according to the 16 groups Fig. 2 Correlation plot using the Spearman correlation test on the RPKM rank-normalized data (n = 87) after mixed/outlier samples were removed. The different tissues were colored according to the 16 groups Kolder et al. RNA-sequencing
Sample collection BMC Genomics (2016) 17:701 Page 5 of 12 Page 5 of 12 Page 5 of 12 corrplot package (v0.73) [31]. Tissue samples were clus-
tered according to the correlation plots (Additional file 4:
Table S2). For each of these tissue groups the mean of
the samples in that group were taken for each gene. On
these means, gene clusters were calculated using k-
means clustering using the MultiExperiment Viewer
(MeV version 4.9) [32]. The genes in the resulting gene
clusters were ranked on the mean of the overall expres-
sion. The top 10 expressed genes were plotted in a heat-
map using gplots (v2.17) [33]. The software program
Last [34] was used to align the Chinese Songpu strain to
our assembly at DNA level. Post-processing of Last re-
sults produces the actual whole-genome alignments. In
this first step, original alignment blocks were chained
together if their genomic locations in both genomes are
close enough. Then netting process chose the best match
in each region for the reference species. The post-
processing was done by UCSC Kent utilities. InParanoid
[35] was used to generate the orthologs mapping between
carp and zebrafish. corrplot package (v0.73) [31]. Tissue samples were clus-
tered according to the correlation plots (Additional file 4:
Table S2). For each of these tissue groups the mean of
the samples in that group were taken for each gene. On
these means, gene clusters were calculated using k-
means clustering using the MultiExperiment Viewer
(MeV version 4.9) [32]. The genes in the resulting gene
clusters were ranked on the mean of the overall expres-
sion. The top 10 expressed genes were plotted in a heat-
map using gplots (v2.17) [33]. The software program
Last [34] was used to align the Chinese Songpu strain to
our assembly at DNA level. Post-processing of Last re-
sults produces the actual whole-genome alignments. In
this first step, original alignment blocks were chained
together if their genomic locations in both genomes are
close enough. Then netting process chose the best match
in each region for the reference species. The post-
processing was done by UCSC Kent utilities. InParanoid
[35] was used to generate the orthologs mapping between
carp and zebrafish. Protein isolation Proteins were extracted from heart, hepatopancreas and
kidney tissue using 20 mM NaCl, 20 mM Tris-HCl
pH 8.2, 50 U/mL Benzonase, 2 mM MgCl2, and protease
inhibitors (Roche), followed by homogenization with zir-
conium oxide (0.5 mm) beads using a Bullet Blender
(Next Advance) at speed 8 for 3 min. The samples were
placed at 95 °C for 5 min, and centrifuged for 30 min at
4 °C and 16,0000 × g. The supernatant was transferred
into a fresh tube and the pellet used to perform a second
extraction by adding 1 % SDS, 50 U/mL Benzonase,
2 mM MgCl2, and protease inhibitors, followed by the
same extraction procedure. Protein concentration of
both extracts were determined using a BCA assay
(#23235, Bio-Rad). Approximately 40 μg of both extracts
was loaded on Novex 4–12 % Bis-Tris gels (NuPAGE,
Invitrogen) after adding 5 μL NuPAGE LSD Sample buf-
fer (Invitrogen), and ran at 200 volt using MOPS SDS
running buffer (Invitrogen) and an XCell Sure Lock
Mini-Cell (Invitrogen) to fractionate proteins from each
tissue solution. The gels were stained overnight in col-
loidal blue staining (LC6025 kit, Invitrogen) solution
(55 mL deionized water, 20 mL methanol, 20 mL Invi-
trogen stain A, and 5 mL Invitrogen stain B) on a
shaker at room temperature. Gels were washed twice in
deionized water and scanned on an OptiGo UV imager
(Isogen Life Science). The gel lanes were cut in 48 iden-
tical pieces (Lane Picker, The Gel Company) and trans-
ferred to a 96-well plate using tweezers. Preparation for
in gel digestion was performed at room temperature
unless mentioned differently, and all washed with
100 μL solution [36]. y
CompassXport 3.0.5 was used to convert raw ion trap
data into mzXML format [38]. Spectra were matched to
peptides using the program X!Tandem [39] of the Trans
Proteomic Pipeline, searching each spectrum against our
carp database. These peptide spectrum matches (PSMs)
were validated by Peptide Prophet [40, 41] resulting in
protein identifications exported with a minimum prob-
ability of 0.95 and a global false-discovery rate (FDR) of
1 %. Proteomics data was plotted against the RNA-Seq
data on a log10 scale in R (ggplot2) [42]. Correlations
were calculated with the Spearman correlation method
in R. LC-MS/MS Peptide separation and MS/MS measurement were per-
formed as described previously [37]. In summary, to sep-
arate all peptides from each individual gel lane, ten μL
of each sample was loaded and desalted on C18 PepMap
300 Å precolumn (Thermo Scientific) and separated by
reversed-phase liquid chromatography using two identi-
cal 150 mm 0.3 mm–i.d. ChromXP C18CL, 120 Å col-
umns
(Eksigent)
which
were
coupled
parallel
and
connected to a split less NanoLC-Ultra 2D plus system
(Eksigent) with a linear 90-minute gradient from 4 to
35 % acetonitrile in 0.05 % formic acid and a constant
(4 μL/minute) flow rate. The separated peptides were
then inserted into an amaZon speed ETD ion trap
(Bruker Daltonics) with an Apollo II ESI source to
which the LC was coupled. Up to 10 abundant multiply
charged species in m/z 300–1300 were selected for col-
lisionally induced dissociation MS/MS after each MS
scan, and excluded for 1 min after having been selected
twice. The systems were controlled by HyStar 3.2 and
trapControl 7.1, for the LC and ion trap respectively. Tissue-specific carp transcriptomes We have sequenced cDNA obtained from 89 tissues of
carp and two embryos, with the aim of generating a com-
prehensive atlas of the carp transcriptome. These data
were used for supporting gene prediction and quantifica-
tion of gene expression. Genes were predicted both de novo and using RNA-
Seq data, as described in the material and methods sec-
tion. We could predict the presence of 50527 genes,
which is similar to the 52610 genes predicted for strain
Songpu [9]. The predicted genes are all made available
in the NCBI database, thereby enormously expanding
the previous set of a few thousand annotated genes of
common carp. Subsequently, we quantified the expression of all genes
in all 91 samples. For initial data exploration, we used
these counts to generate a correlation matrix showing
the similarity of transcriptomes between all samples
across all genes (Additional file 3: Figure S2). This ana-
lysis revealed four outlier samples (left eye rear, optical
nerve, gallbladder (e) and swim bladder rear), for which
the global expression pattern did not match that of repli-
cates but instead appeared intermediate between tissues. In all cases, this could be explained by slight contamin-
ation with neighboring tissues during dissection. This is a
known issue when dissecting organ tissue in fish [51, 52]. At present, it is not possible to determine the exact
cause of the discrepancy in assembly length. One possible
explanation is that our genome is based on homozygous
double-haploid carp, whereas the Songpu genome is based
on a heterozygous individual. Variations can be expected
since high phenotypic and high genomic variation are
compatible with ongoing re-diploidization following the
carp-specific genome duplication. The recently published
genome of the Atlantic Salmon suggests re-diploidization
following genome duplication is accompanied by substan-
tial genomic instability [49]. As the carp-specific duplica-
tion is much more recent than the salmonid-specific one
(~80 Mya), carp genomes might still be experiencing high
levels of genomic rearrangements. As expected, the initial analysis also revealed that spe-
cialized tissues vary widely in gene expression patterns. This poses a problem, as nearly all RNA-Seq analyses
implicitly or explicitly assume that samples are compar-
able (e.g. treated and non-treated). Therefore, for clus-
tering purposes, we normalized between samples using
expression ranks rather than values (see Materials and
Methods). This approach, routinely used in microarray
analyses, can be employed to make intrinsically dissimi-
lar samples comparable [53]. Carp genome assembly p g
y
In order to enable isogenic mapping of RNA-Seq data,
we have improved the genomic sequence of carp [8]
using long-range sequencing information. Using the
same DNA sample employed for the initial assembly [8],
we have prepared three paired-end libraries using the
Cre-LoxP Inverse PCR (CLIP) approach [16] with target
insert sizes of 5, 6.5, and 7.5 kbp. For each library 4.5
million read pairs were obtained. In addition, we have
sequenced 6.8 Gbp of DNA isolated from nucleated red
blood cells using Pacific Biosciences long read technol-
ogy. All sequencing data was included in an updated de
novo genome assembly. The new assembly is 1.38 Gbp
in length, and has a scaffold N50 of 66.7 kbp. This is
considerably less than the 1.69 Gbp genome reported for
mirror carp strain Songpu [9]. In Table 1 we have com-
pared several quantitative features of our genome assem-
bly and that of the Songpu strain. The software program
Last [34] was used to align the Chinese Songpu strain to
our assembly at DNA level. The results show that the
assemblies preserve syntenic relationships for 1.13Gb,
which constitutes 82 % and 67 % of our assembly and
the published assembly of Songpu, respectively. Table 1 Comparison of features of the common carp genomic assembly used in this paper and that of common carp strain
Songpu [9]
Data set
Genome size
Scaffolds
N50
GC content
Predicted genes
Median gene span
Predicted exons (total/per gene)
Repeats
This work
1.38Gb
80273
67 kb
37 %
50527
8316 bp
387245/7.7
32 %
Xu et al., 2014 [9]
1.69Gb
2503
1 Mb
36.30 %
52610
11980 bp
390620/7.5
31 % Results and discussion
Carp genome assembly further enhance and verify both genome assemblies
using emerging single-molecule technologies, such as
Oxford Nanopore long read sequencing, or BioNano
Genomics optical mapping [50]. Organ data viewer The top 10 most highly expressed genes from cluster 6,
11, 12 and 15 were selected. The expression levels of
these genes in different organs and tissues were visual-
ized using a script written in R [27], using the maps
[43], maptools [44], sp, lattice, laticeExtra [45] and color-
space [46] packages as in a previous presentation of
geographic data [47]. We created cartoon-like carp sha-
pefiles in QGIS [48] to visualize the carp organs in a
spatial context. Each organ or tissue was defined as a
polygon and linked with the expression data. Tissues
that had many different randomly dissected parts (skin
and muscle), were represented with the mean value of
all the different sections. For each gene, RNA-Seq expres-
sion levels were linked to the indices locating the respect-
ive organ or tissue. Finally, this table was used to
generate a heat map in a red color scale to represent the
levels of expression on a logarithmic scale. Page 6 of 12 Kolder et al. BMC Genomics (2016) 17:701 Page 6 of 12 Tissue-specific carp transcriptomes To investigate tissue - spe-
cific RNA expression, all the samples were grouped by
tissue based on the correlation between the samples. We
found two samples of hepatopancreas (d,e) that clus-
tered more like spleen tissue and one spleen(e) sample
that clustered more like hepatopancreas tissue. Due to
their close proximity we assume this is due to the dissec-
tion of the tissues. We grouped these three samples as a
mixed hepatopancreas/spleen group. Based on the correlation plot (Fig. 2), the tissues were
categorized into 16 groups. For each gene the mean of
all the samples in one group was taken. Tissue-specific carp transcriptomes However, when comparing
across samples, the resulting expression can only be
interpreted qualitatively rather than quantitatively (e.g. ‘high in liver/low in eye’ instead of ‘higher in liver than
in eye’). For display purposes, we therefore used RPKM-
expression values, which allow for within-sample com-
parison of expression levels. However, the discrepancy between the genome assem-
blies of common carp strains should be attributed at
least in part to the sequencing technologies employed. Both assemblies are primarily based on short-read as-
semblies, which are not optimally suitable for obtaining
precise long-range genomic distance information. Here,
we have already demonstrated the usefulness of low-
coverage Pacific Biosciences sequencing for augmenting
genome assemblies. It will therefore be interesting to Table 1 Comparison of features of the common carp genomic assembly used in this paper and that of common carp strain
Songpu [9]
Data set
Genome size
Scaffolds
N50
GC content
Predicted genes
Median gene span
Predicted exons (total/per gene)
Repeats
This work
1.38Gb
80273
67 kb
37 %
50527
8316 bp
387245/7.7
32 %
Xu et al., 2014 [9]
1.69Gb
2503
1 Mb
36.30 %
52610
11980 bp
390620/7.5
31 % Kolder et al. BMC Genomics (2016) 17:701 Page 7 of 12 Page 7 of 12 specific for one type of tissue. Using the k-means clus-
tering function in Mev [32, 54], all genes were divided
into 16 clusters on ranked data. Within these 16 gene
clusters the genes were ranked based on the sum of the
overall expression in the samples. We used the top 10
genes to create a heatmap (Additional file 5: Figure S3). We highlight four of these clusters (cluster 6, 11, 12 and
15) in Fig. 3. Gene cluster 6 exhibits highly specific ex-
pression in lens tissue only. Gene clusters 11, 12 and 15
show a tissue-specific expression in muscle, heart and
gallbladder, respectively. For each cluster, the most spe-
cific genes are functionally closely related. For example,
the most abundant transcripts in cluster 6 exclusively
encode crystallins, which are water soluble structural
proteins present in the eye lens and cornea [55]. The
beta and gamma crystallins are known to have very high Subsequently, we clustered the ranked data for the
remaining 87 samples in a correlation matrix as before
(Fig. 2), confirming that the remaining tissues cluster
with their own tissue type. Tissue-specific carp transcriptomes In these 16
tissue groups, we investigated possible gene clusters head kidney(d/l)
head kidney(v/l)
head kidney(d/r)
head kidney(v/r)
left mid kidney(l)
left mid kidney(r)
right mid kidney(l)
right mid kidney(r)
crystalline(l)
crystalline(r)
eye front(l)
eye front(r)
eye rear(r)
thymus dorsal(l)
thymus ventral(l)
thymus dorsal(r)
thymus ventral(r)
PBL
barb(l)
barb(r)
pect fin(l)
pect fin(r)
pelvic fin(l)
pelvic fin(r)
dorsal fin(front)
dorsal fin(rear)
anal fin
upper tail
lower tail
gill 1st arch(l)
gill 2nd arch(l)
gill 3rd arch(l)
gill 1st arch(r)
gill 2nd arch(r)
gill 3rd arch(r)
dorsal skin(a)
dorsal skin(b)
dorsal skin(c)
dorsal skin(d)
dorsal skin(e)
ventral skin(a)
ventral skin(b)
ventral skin(c)
ventral skin(d)
ventral skin(e)
hepatopancreas(a)
hepatopancreas(b)
hepatopancreas(c)
spleen(e)
hepatopancreas(d)
hepatopancreas(e)
spleen(a)
spleen(b)
spleen(d)
gallbladder(a)
gallbladder(b)
gallbladder(c)
gallbladder(d)
gut
gonads(a)
gonads(b)
dorsal muscle(a)
dorsal muscle(b)
dorsal muscle(c)
dorsal muscle(d)
dorsal muscle(e)
ventral muscle(a)
ventral muscle(b)
ventral muscle(c)
ventral muscle(d)
ventral muscle(e)
telencephalon
tectum opticum(l)
tectum opticum(r)
t.semicircularis(l)
t.semicircularis(r)
corpus cerebelli
vagal lobe
medulla oblongata
pituitary
brain body(front)
brain body(rear)
atrium
ventriculum
bulbus
embryo(a)
embryo(b)
Triosephosphate isomerase B
ATP synthase F0 complex subunit C2 mitochondrial
ATP synthase−coupling factor 6 mitochondrial
ATP synthase F0 complex subunit B1 mitochondrial
Myosin regulatory light chain 2 atrial isoform
Myosin light chain 4
Fatty acid−binding protein heart
Myosin regulatory light chain 2 atrial isoform
Myosin light chain 4
Somatolactin
Chymotrypsin B
Trypsin−1
Chymotrypsin−like elastase family member 2A
Elastase−1
Alpha−amylase 1
Trypsin−1
Trypsin−1
Chymotrypsinogen 2
Trypsin−3
Trypsin−1
Myosin light chain 3
Troponin T fast skeletal muscle isoforms
Creatine kinase M−type
Myosin light chain 1 skeletal muscle isoform
Troponin C skeletal muscle
Myoglobin
Myosin−7 Fragment
Parvalbumin alpha
Myosin heavy chain fast skeletal muscle
Myosin regulatory light chain 2 skeletal muscle isoform
Gamma−crystallin M1
Beta−crystallin A2
Gamma−crystallin N−B
Beta−crystallin B1
Gamma−crystallin M2
Gamma−crystallin M2
Beta−crystallin S
Gamma−crystallin M2
Gamma−crystallin M2
Beta−crystallin B2
Heatmap clusters
kidney
Cluster 6
Cluster 11
Cluster 15
Cluster 12
Lens
Eye
Thymus
Fin
Gill
Skin
Hepateopancreas
Mixed group
Spleen
Gallbladder
Gonads
Muscle
Brain
Heart
Embryo
Fig. 3 Heatmap on the RPKM-normalized data. Four of the gene clusters (cluster 6-lens, 11-muscle, 12-heart and 15-gallbladder) are visualized,
depicting the top 10 highest expressed genes in that respective cluster. The different tissues were colored according to the 16 groups defined in
Fig. 1 (The other gene expression clusters are depicted in Additional file 5: Figure S3) Heatmap clusters Cluster 12 Fig. 3 Heatmap on the RPKM-normalized data. Tissue-specific carp transcriptomes Four of the gene clusters (cluster 6-lens, 11-muscle, 12-heart and 15-gallbladder) are visualized,
depicting the top 10 highest expressed genes in that respective cluster. The different tissues were colored according to the 16 groups defined in
Fig. 1 (The other gene expression clusters are depicted in Additional file 5: Figure S3) Page 8 of 12 Page 8 of 12 Kolder et al. BMC Genomics (2016) 17:701 homology between carp and zebrafish [56] and differ in
their expression levels over the life span [57]. Similarly,
the muscle-specific cluster (11) predominantly contains
the myosin motor proteins essential for muscle contrac-
tion. Interestingly, several of these proteins seem to be
skeletal muscle (myhz1.1) or heart specific (myl7). The
latter is widely used as a heart tissue specific marker in
zebrafish. Chymotrypsinogen 2, specific for the gall blad-
der and spleen (cluster 15) is known to be excreted in
the gastrointestinal track in zebrafish, and in situ
hybridization analysis of its homologue ctrb1 shows it to
be expressed in both the pancreas and gastrointestinal
track in zebrafish [58]. homology between carp and zebrafish [56] and differ in
their expression levels over the life span [57]. Similarly,
the muscle-specific cluster (11) predominantly contains
the myosin motor proteins essential for muscle contrac-
tion. Interestingly, several of these proteins seem to be
skeletal muscle (myhz1.1) or heart specific (myl7). The
latter is widely used as a heart tissue specific marker in
zebrafish. Chymotrypsinogen 2, specific for the gall blad-
der and spleen (cluster 15) is known to be excreted in
the gastrointestinal track in zebrafish, and in situ
hybridization analysis of its homologue ctrb1 shows it to
be expressed in both the pancreas and gastrointestinal
track in zebrafish [58]. respectively. As these tissues are known to be very vari-
able between samples this lower match is not surprising
and by removing the three potential mixed samples we
have still managed to get a very high match with zebra-
fish expression. p
As the carp genome has experienced a recent duplica-
tion event since the split with zebrafish, a majority of
genes have a duplicate in common carp [8]. It is of inter-
est to study whether such ohnologs might have diversi-
fied in function from their ancestors as might be
indicated by difference in expression patterns. InParanoid
[35] was used to generate an orthology mapping be-
tween carp and zebrafish. Tissue-specific carp transcriptomes This resulted in 18241 ortho-
log groups that are presented in Additional file 6. From
this orthology mapping we selected 3549 groups for 1 to
2 mapping between zebrafish and carp. This group
probably represents a majority of putative ohnologs that
are the results of the carp-specific duplication. This
group of putative ohnolog gene pairs has been linked to
the expression data of 15 different tissues (Additional
file 7: Table S3). In Additional file 8: Figure S4 a numer-
ical overview is given of differential expression values at
an absolute fold change of two and four for this set of
3549 gene pairs. The results show that in all tissues ana-
lyzed over 30 % of the gene pairs show an absolute FC
change difference of more than 2. Even at fold chance 4
cut off many pairs are also differentially expressed in a
majority of all organs, e.g. four gene pairs are even differ-
entially expressed at FC 4 in all 15 tissues under consider-
ation (Additional file 8: Figure S4). These data suggest
that that many putative ohnologs have undergone an evo-
lutionary adaptation either towards being less dominant
or alternative functions in various tissues. Considering the close genetic relationship between the
carp and zebrafish, we tested if the same genes expressed
in different zebrafish tissues were also expressed in the
carp. From ZFIN we collected lists of genes expressed in
different zebrafish tissues, and removed the genes that
were not found in our data. In zebrafish, the expression
measured for liver and pancreas was combined to com-
pare to our hepatopancreas sample of the carp. For skin
we combined the genes found in zebrafish fin and tail
tissue. For each tissue, the genes from ZFIN were com-
pared to the genes expressed in the carp. For the majority of tissues we find that 89.6–98.9 % of
the genes expressed in zebrafish are also expressed in
the same tissue in carp (Table 2). Tissue-specific carp transcriptomes The hepatopancreas
and spleen tissues have a lower match 85.2 % and 73.6 % Table 2 Gene expression comparison between carp and
zebrafish tissues
Organ
Carp only
ZFIN only
Carp & ZFIN (% of ZFIN)
Kidney
17458
57 (7,1 %)
741 (92,9 %)
lens
14555
38 (6,2 %)
578 (93,8 %)
Eye
15041
116 (3,5 %)
3181 (96,5 %)
Thymus
18673
3 (3,8 %)
75 (96,2 %)
Fin
16868
39 (1,8 %)
2072 (98,2 %)
Gill
16964
80 (5,5 %)
1371 (94,5 %)
Skin
17931
26 (2,7 %)
947 (97,3 %)
Hepatopancreas
13826
253 (14,8 %)
1459 (85,2 %)
Spleen
14180
87 (26,4 %)
243 (73,6 %)
Gallbladder
18011
1 (3,0 %)
32 (97,0 %)
Gonads
17975
51 (6,1 %)
783 (93,9 %)
Muscle
16427
93 (5,7 %)
1535 (94,3 %)
Brain
15219
68 (1,7 %)
3871 (98,3 %)
Heart
15433
169 (10,4 %)
1457 (89,6 %)
Embryo
18431
11 (1,1 %)
1031 (98,9 %)
We compared the list of genes found to be expressed (per tissue) from the
ZFIN database to the list of genes found to be expressed in the carp tissue of
this study. The numbers given refer to the gene count found exclusively in
carp (carp only), ZFIN (ZFIN only) or present in both carp and ZFIN. The
overlap in percentage of the total number of ZFIN genes linked to these tissue
is also shown able 2 Gene expression comparison between carp and Table 2 Gene expression comparison between carp and
zebrafish tissues Integrative data viewer We selected one gene from the top 10 genes from clus-
ter 6, 11, 12 and 15. We used these genes to visualize
our transcriptome data in a cartoon representation of
the carp body plan using R (Fig. 4). The R script maps
the gene and protein expression to individual organs of
the carp in a lateral view to obtain a quantitative over-
view of the organ/organ subpart/tissue when data from
an organ pair or from repeated dissections are present. In this manuscript several examples are given, the others
can be generated by using the supplementary R script
(Additional file 10) and data files (Additional file 9). We
are currently working on a web site that will use this
script to make it possible to analyze our data in an inter-
active viewer that will be accessible via the following
web address: http://ms-utils.org/comics/. Proteome analysis For three tissues types (heart, kidney, and hepatopancreas),
a proteomics experiment resulted in the identification Kolder et al. BMC Genomics (2016) 17:701 Page 9 of 12 Fig. 4 Tissue - specific gene expression visualization in the carp. As an example of this visualization tool, a gene was selected from all four
clusters (cluster 6-lens, 11-muscle, 12-heart, and 15-gallbladder) depicted in Fig. 3. For each gene the RPKM-normalized data (log10) was used. a depicts the carp gene gamma-crystallin M1 (cypCar_00043246) from cluster 6. Gamma-crystalin M1 is one of the three genes in the carp gamma
crystalin gene family. b depicts the carp gene myosin heavy chain fast skeletal muscle (cypCar_00029041) from cluster 1. c depicts the carp gene
chymotrypsinogen 2 (cypCar_00044522) from cluster 15. d depicts the carp gene myosin regulatory light chain 2 atrial isoform (cypCar_00044421)
from cluster 12 Fig. 4 Tissue - specific gene expression visualization in the carp. As an example of this visualization tool, a gene was selected from all four
clusters (cluster 6-lens, 11-muscle, 12-heart, and 15-gallbladder) depicted in Fig. 3. For each gene the RPKM-normalized data (log10) was used. a depicts the carp gene gamma-crystallin M1 (cypCar_00043246) from cluster 6. Gamma-crystalin M1 is one of the three genes in the carp gamma
crystalin gene family. b depicts the carp gene myosin heavy chain fast skeletal muscle (cypCar_00029041) from cluster 1. c depicts the carp gene
chymotrypsinogen 2 (cypCar_00044522) from cluster 15. d depicts the carp gene myosin regulatory light chain 2 atrial isoform (cypCar_00044421)
from cluster 12 of 1912 peptides which included 936 uniquely mapped
peptides, which were correlated to previously deter-
mined RNA levels of these tissues. In total 896 of these
peptides were annotated, including 11 histone and 17
ribosomal genes, and a few unknown (Fig. 5). The cor-
relation between the uniquely mapped peptides and
RNA-Seq of each tissue individually were calculated
with the Spearman correlation coefficient (ρ). This re-
sulted in a moderate correlation between the two data-
sets for each organ. The correlations are plotted per
tissue type on a log2 scale (Fig. 5). The most challenging
part was that the majority of proteins were supported by
more than one unique peptide. So by selecting only the
uniquely mapped peptides for the correlation we lost
some power in our analysis, but our results are very
similar to those found in zebrafish larvae [36]. Proteome analysis proteins with the exception of some classes of proteins
such as ribosomal proteins, histones and vitellogenins. Since in several carp organs the expressions of these clas-
ses of proteins are variable, the correlation between the
transcriptome and proteome data is also variable. How-
ever, in general, the measured correlations provide confi-
dence in the analyzed genes and give a good prediction
whether they can be used as markers genes at the RNA
and / or protein levels in future detailed analyses. More
detailed analysis of mRNA-Protein results using ap-
proaches such as described by Koussounadis et al. [59]
and Cheng et al. [60] would be desirable in future studies
of our data sets. Conclusions In the present study, we have compiled an extensive data-
set on tissue-specific expression and translation of genes
in the European common carp. These data provide a de-
tailed, sensitive and replicable account of gene activity
across tissues. We expect these data to be of use for both These data confirm an earlier report on a comparative
parallel transcriptome and proteome analysis of embry-
onic zebrafish samples [36]. In this study embryonic gene
expression was found to correlate with the abundance of Kolder et al. BMC Genomics (2016) 17:701 Page 10 of 12 Fig. 5 Correlation plots of the RPKM-normalized RNA-Seq and proteins detected data in different carp organs (log2). a depicts hepatopancreas tis-
sue. b depicts Kidney tissue. c depicts heart tissue. The correlation is calculated by using a Spearman correlation test (correlation coefficient -ρ). The genes are colored according four categories: annotated genes (orange), histones (green), ribosomal (blue) and unknown/unannotated
genes (purple) f h RPKM
li
d RNA S
d
i
d
d d
i
diff
(l
2)
d
i
h
i Fig. 5 Correlation plots of the RPKM-normalized RNA-Seq and proteins detected data in different carp organs (log2). a depicts hepatopancreas tis-
sue. b depicts Kidney tissue. c depicts heart tissue. The correlation is calculated by using a Spearman correlation test (correlation coefficient -ρ). The genes are colored according four categories: annotated genes (orange), histones (green), ribosomal (blue) and unknown/unannotated
genes (purple) Additional files carp and zebrafish research, as the vast majority of tissue-
specific genes are common to both species. Therefore,
the carp data will enable the development of gene ex-
pression markers specific for selected organs. Our sim-
ple expression viewer will support rapid scanning for
such markers. As it can be quickly modified to accom-
modate additional data, the application can be applied
to gene comparison with other cyprinid species, which
all share a similar body plan. As an increasing number
of cyprinid fish genomes have now been sequenced,
this opens up promising opportunities for comparative
genomic analyses of evolutionary and developmental
biology. In summary, therefore, our combined genome,
transcriptome and proteome data of one and the same
common carp strain will be a valuable resource for fu-
ture comparative genomics. Furthermore, these data
sets and annotations will further enhance the useful-
ness of common carp for functional genomic studies. Additional file 1: Table S1. List of the 89 dissected tissues from 19
organs from adult Carps (1 male, 3 female) and their read counts. Total
read count was 512.134.436 averaging ~5.754.320 reads per sample. Additionally two 5 dpf embryos were sampled. (XLSX 12 kb)
Additional file 2: Figure S1. Description of data: Density plots of the
normalized RNA-Seq count data (log10). A: depicts the data normalized
using CPM. B: depicts the data normalized using RPKM. C: depicts the
rank data normalized using CPM. D: depicts the rank data normalized
using RPKM. (PNG 147 kb)
Additional file 3: Figure S2. Correlation plot using the Pearson
correlation test on the RPKM normalized data (n = 91). The different
tissues were colored according to the 16 groups. (PDF 198 kb)
Additional file 4: Table S2. Description of data: Overview of the
division of the tissues (n = 87) in the 16 clusters. Clusters are based on
the correlation between the samples (Fig. 2). They consist out of
biological replicates or closely related tissues. (XLSX 11 kb)
Additional file 5: Figure S3. Heatmap on the RPKM-normalized data
for all the 16 tissue clusters. All the clusters are visualized, depicting the
top 10 highest expressed genes in that respective cluster. The different Additional file 1: Table S1. List of the 89 dissected tissues from 19
organs from adult Carps (1 male, 3 female) and their read counts. Total
read count was 512.134.436 averaging ~5.754.320 reads per sample. Additionally two 5 dpf embryos were sampled. Additional files (XLSX 12 kb) Additional file 2: Figure S1. Description of data: Density plots of the
normalized RNA-Seq count data (log10). A: depicts the data normalized
using CPM. B: depicts the data normalized using RPKM. C: depicts the
rank data normalized using CPM. D: depicts the rank data normalized
using RPKM. (PNG 147 kb) Additional file 3: Figure S2. Correlation plot using the Pearson
correlation test on the RPKM normalized data (n = 91). The different
tissues were colored according to the 16 groups. (PDF 198 kb) Additional file 4: Table S2. Description of data: Overview of the
division of the tissues (n = 87) in the 16 clusters. Clusters are based on
the correlation between the samples (Fig. 2). They consist out of
biological replicates or closely related tissues. (XLSX 11 kb) Additional file 4: Table S2. Description of data: Overview of the
division of the tissues (n = 87) in the 16 clusters. Clusters are based on
the correlation between the samples (Fig. 2). They consist out of
biological replicates or closely related tissues. (XLSX 11 kb) Additional file 5: Figure S3. Heatmap on the RPKM-normalized data
for all the 16 tissue clusters. All the clusters are visualized, depicting the
top 10 highest expressed genes in that respective cluster. The different Additional file 5: Figure S3. Heatmap on the RPKM-normalized data
for all the 16 tissue clusters. All the clusters are visualized, depicting the
top 10 highest expressed genes in that respective cluster. The different Additional file 5: Figure S3. Heatmap on the RPKM-normalized data
for all the 16 tissue clusters. All the clusters are visualized, depicting the
top 10 highest expressed genes in that respective cluster. The different Page 11 of 12 Page 11 of 12 Kolder et al. BMC Genomics (2016) 17:701 Regulatory Genomics, MRC Clinical Sciences Centre, Faculty of Medicine,
Imperial College London, Hammersmith Hospital Campus, Du Cane Road,
London W12 0NN, UK. 5Cell Biology and Immunology group, Department of
Animal Sciences, Wageningen University, P.O. Box 3386700, AH, Wageningen,
The Netherlands. 6Faculty of Bioengineering and Bioinformatics, Lomonosov
Moscow State University, 119991, GSP-1 Moscow, Russia. 7Laboratory of
Marine Biochemistry, Department of Bioscience and Biotechnology, Kyushu
University, Fukuoka 812-8581, Japan. 8Laboratory of Comparative
Immunology, Department of Veterinary Medicine, Nihon University, Kameino
1866, Fujisawa, Kanagawa 252-0880, Japan. 9Polish Academy of Sciences,
Ichthyobiology and Aquaculture Unit, Gołysz Zaborze, Kalinowa 2, 43-520
Chybie, Poland. Funding Not applicable. 8. Henkel CV, Dirks RP, Jansen HJ, Forlenza M, Wiegertjes GF, Howe K, van den
Thillart GE, Spaink HP. Comparison of the exomes of common carp
(cyprinus carpio) and zebrafish (danio rerio). Zebrafish. 2012;9:59–67. Received: 23 March 2016 Accepted: 24 August 2016 Received: 23 March 2016 Accepted: 24 August 2016 Availability of data and materials All the data (Genome assembly with annotation, RNA-Seq and processed
count data) is available online [Accession: PRJNA73579]. The genome assembly
and associated annotations can be browsed (jbrowse.genereg.net/index.html? data = data/mpirunAugustus/). The R script and files used to create the organ
viewer are available as Additional files 6, 9 and 10. A web portal implementing
this viewer for the carp data is under development and will be accessible from:
http://ms-utils.org/comics/. 9. Xu P, Zhang X, Wang X, Li J, Liu G, Kuang Y, Xu J, Zheng X, Ren L, Wang G,
Zhang Y, Huo L, Zhao Z, Cao D, Lu C, Li C, Zhou Y, Liu Z, Fan Z, Shan G, Li
X, Wu S, Song L, Hou G, Jiang Y, Jeney Z, Yu D, Wang L, Shao C, Song L,
Sun J, Ji P, Wang J, Li Q, Xu L, Sun F, Feng J, Wang C, Wang S, Wang B, Li Y,
Zhu Y, Xue W, Zhao L, Wang J, Gu Y, Lv W, Wu K, Xiao J, Wu J, Zhang Z, Yu
J, Sun X. Genome sequence and genetic diversity of the common carp,
cyprinus carpio. Nat Genet. 2014;46(11):1212–9. Consent for publication
Not applicable. 15. Wiegertjes GF, Bongers AB, Voorthuis P, Zandieh Doulabi B, Groeneveld A,
Van Muiswinkel WB, Stet RJ. Characterization of isogenic carp (cyprinus
carpio L.) lines with a genetically determined high or low antibody
production. Anim Genet. 1996;27(5):313–9. Ethics approval and consent to participate The breeding of adult fish was approved by the local animal welfare
committee (DEC) of Wageningen University. All protocols adhered to the
international guidelines specified by the EU Animal Protection Directive
2010/63/EU. 16. Peng Z, Zhao Z, Nath N, Froula JL, Clum A, Zhang T, Cheng JF, Copeland
AC, Pennacchio LA, Chen F. Generation of long insert pairs using a Cre-LoxP
inverse PCR approach. PLoS One. 2012;7:e29437. References
Pi
h 1. Pietsch C, Hirsch P. Biology and ecology of carp. London: CRC Press; 2015. 2. Dooley K, Zon LI. Zebrafish: a model system for the study of human disease
Curr Opin Genet Dev. 2000;10(3):252–6. 2. Dooley K, Zon LI. Zebrafish: a model system for the study of human disease. Curr Opin Genet Dev. 2000;10(3):252–6. 3. Lieschke GJ, Currie PD. Animal models of human disease: zebrafish swim
into view. Nat Rev Genet. 2007;8(5):353–67. Additional file 9: Visualisations of carp organ data. Visualisations that
can be used with the supplied R-script. (ZIP 2148 kb) Additional file 9: Visualisations of carp organ data. Visualisations that
can be used with the supplied R-script. (ZIP 2148 kb) 4. Meijer AH, Spaink HP. Host-pathogen interactions made transparent with
the zebrafish model. Curr Drug Targets. 2011;12:1000–17. 5. Larhammar D, Risinger C. Molecular genetic aspects of tetraploidy in the
common carp cyprinus carpio. Mol Phylogenet Evol. 1994;3(1):59–68. Additional file 10: Carp transcriptome expression visualization tool
containing the R-script and input files needed to create these visualization. This includes the carp shape file and RPKM normalized(log10) data for all
the proteins measured. (ZIP 7041 kb) Additional file 10: Carp transcriptome expression visualization tool
containing the R-script and input files needed to create these visualization. This includes the carp shape file and RPKM normalized(log10) data for all 6. David L, Blum S, Feldman MW, Lavi U, Hillel J. Recent duplication of the
common carp (cyprinus carpio L.) genome as revealed by analyses of
microsatellite loci. Mol Biol Evol. 2003;20(9):1425–34. 7. Zhang Y, Stupka E, Henkel CV, Jansen HJ, Spaink HP, Verbeek FJ. Identification of common carp innate immune genes with whole-genome
sequencing and RNA-Seq data. J Integr Bioinform. 2011;8(2):169. Authors’ contributions 10. Wang JT, Li JT, Zhang XF, Sun XW. Transcriptome analysis reveals the time
of the fourth round of genome duplication in common carp (cyprinus
carpio). BMC Genomics. 2012;13:96. HPS and CVH designed and supervised the study. ICRMK, HPS, CVH, GT, MP
and SJPD contributed to the genome assembly, annotation and analyzed
the transcriptomic and proteomic data. SJPD, HJ, GFW, MF, MN, TM, II, JTD,
SYA, HJJ, RD, BL all contributed to the experiments and their setup. MP, ATG
and DYT conceived and developed the carp organ viewer. ICRMK, SJPD and
HPS wrote the first versions of the manuscript. All authors assisted with
editing of the manuscript and approved the final version. 11. Ji P, Liu G, Xu J, Wang X, Li J, Zhao Z, Zhang X, Zhang Y, Xu P, Sun X. Characterization of common carp transcriptome: sequencing, de novo
assembly, annotation and comparative genomics. PLoS One. 2012;7(4):e35152. 11. Ji P, Liu G, Xu J, Wang X, Li J, Zhao Z, Zhang X, Zhang Y, Xu P, Sun X. Characterization of common carp transcriptome: sequencing, de novo
assembly, annotation and comparative genomics. PLoS One. 2012;7(4):e35152. 12. Irnazarow I. Genetic variability of Polish and Hungarian carp lines. Aquaculture. 1995;129:215-219. 12. Irnazarow I. Genetic variability of
Aquaculture. 1995;129:215-219. 13. Komen J, Bongers AB, Richter CJJ, van Muiswinkel WB, Huisman EA. Gynogenesis in common carp (Cyprinus carpio L.): II. The production of
homozygous gynogenetic clones and F1 hybrids. Aquaculture. 1991;92:127-142. 13. Komen J, Bongers AB, Richter CJJ, van Muiswinkel WB, Huisman EA. Gynogenesis in common carp (Cyprinus carpio L.): II. The production of
homozygous gynogenetic clones and F1 hybrids. Aquaculture. 1991;92:127-142. 16.
Peng Z, Zhao Z, Nath N, Froula JL, Clum A, Zhang T, Cheng JF, Copeland
AC, Pennacchio LA, Chen F. Generation of long insert pairs using a Cre-LoxP
inverse PCR approach. PLoS One. 2012;7:e29437. Competing interests p
g
The authors declare that they have no competing interests. 14. Wiegertjes GF, Stet RJ, Van Muiswinkel WB. Divergent selection for antibody
production to produce standard carp (Cyprinus carpio L.) lines for the study
of disease resistance in fish. Aquaculture. 1995;137(1-4):257–262. 14. Wiegertjes GF, Stet RJ, Van Muiswinkel WB. Divergent selection for antibody
production to produce standard carp (Cyprinus carpio L.) lines for the study
of disease resistance in fish. Aquaculture. 1995;137(1-4):257–262. 17.
Boetzer M, Henkel CV, Jansen HJ, Butler D, Pirovano W. Scaffolding
pre-assembled contigs using SSPACE. Bioinformatics. 2011;27:578–9. Additional files 10Leiden Genome Technology Center, Human and Clinical
Genetics, Leiden University Medical Center, Leiden, The Netherlands. 11ZF-screens B.V., J.H, Oortweg 19, 2333, CH, Leiden, The Netherlands. tissues were colored according to the 16 groups. The clusters were
ordered to match the order of the tissue groups depicted in the
columns. (PDF 982 kb) Additional file 6: FASTA file containg a set of 18241 ortholog groups
that were obtained using InParanoid [35] for orthologs mapping
between carp and zebrafish. (FA 1253 kb) Additional file 7: Table S3. Carp putative ohnolog groups linked to
expression data in 15 carp tissues. From 18241 carp ortholog groups
mapped to zebrafish that are presented in the Additional file 6. we
selected 3549 groups for 1 to 2 mapping between zebrafish and carp. This group of putative ohnolog gene pairs have been linked to the
expression data of 15 different tissues. A numerical overview of this
dataset is presented in Additional file 8: Figure S4. (XLSX 2042 kb) Additional file 7: Table S3. Carp putative ohnolog groups linked to
expression data in 15 carp tissues. From 18241 carp ortholog groups
mapped to zebrafish that are presented in the Additional file 6. we
selected 3549 groups for 1 to 2 mapping between zebrafish and carp. This group of putative ohnolog gene pairs have been linked to the
expression data of 15 different tissues. A numerical overview of this
dataset is presented in Additional file 8: Figure S4. (XLSX 2042 kb) Additional file 8: Figure S4. Numeric overview of differential
expression levels of possible paralog pairs. (A) Number of paralog pairs
that are differentially expressed with a FC of larger than 2 in 15 separate
tissues. (B) Number of possible paralog pairs filtered on the minimum
number of tissues in which a differential expression of larger than FC 2 is
observed. E.g. in the bottom of the scale 27 possible paralog pairs have a
FC of larger than 2 in all 15 tissue types listed in panel A. (C and D) The
same analysis as in panels A and B respectively with a FC of 4 as cut-off
value. With these criteria there are still 4 possible paralog pairs that have
a FC larger than 4 in all 15 tissues. (JPG 130 kb) Author details
1 Lien S, Koop BF, Sandve SR, Miller JR, Kent MP, Nome T, Hvidsten TR, Leong JS,
Minkley DR, Zimin A, Grammes F, Grove H, Gjuvsland A, Walenz B, Hermansen
RA, von Schalburg K, Rondeau EB, Di Genova A, Samy JK, Olav Vik J, Vigeland
MD, Caler L, Grimholt U, Jentoft S, Vage DI, de Jong P, Moen T, Baranski M,
Palti Y, Smith DR, Yorke JA, Nederbragt AJ, Tooming-Klunderud A, Jakobsen KS,
Jiang X, Fan D, Hu Y, Liberles DA, Vidal R, Iturra P, Jones SJ, Jonassen I, Maass A,
Omholt SW, Davidson WS. The Atlantic salmon genome provides insights into
rediploidization. Nature. 2016;533(7602):200–5. protein function classification. Bioinformatics. 2014;30(9):1236–40. 24. Kim D, Pertea G, Trapnell C, Pimentel H, Kelley R, Salzberg SL. TopHat2:
accurate alignment of transcriptomes in the presence of insertions,
deletions and gene fusions. Genome Biol. 2013;14(4):R36. 25. Li H, Handsaker B, Wysoker A, Fennell T, Ruan J, Homer N, Marth G, Abecasis G,
Durbin R, Genome Project Data Processing S. The sequence alignment/Map
format and SAMtools. Bioinformatics. 2009;25(16):2078–9. 50. Spaink HP, Jansen HJ, Dirks RP. Advances in genomics of bony fish. Brief
Funct Genomics. 2014;13:144–56. 26. Anders S, Pyl PT, Huber W. HTSeq–a python framework to work with
high-throughput sequencing data. Bioinformatics. 2015;31(2):166–9. 51. Rombout JH, Taverne-Thiele JJ. An immunocytochemical and
electron-microscopical study of endocrine cells in the gut and
pancreas of a stomachless teleost fish, Barbus conchonius
(Cyprinidae). Cell Tissue Res. 1982;227(3):577–93. 27. RCoreTeam. R: a language and environment for statistical computing. Vienna: R Foundation for Statistical Computing; 2015. Vienna: R Foundation for Statistical Computing; 2015. 28. Bullard JH, Purdom E, Hansen KD, Dudoit S. Evaluation of statistical methods
for normalization and differential expression in mRNA-Seq experiments. BMC Bioinf. 2010;11:94. 52. Rombout JH, van der Grinten CP, Binkhorst FM, Taverne-Thiele JJ,
Schooneveld H. Immunocytochemical identification and localization of
peptide hormones in the gastro-entero-pancreatic (GEP) endocrine system
of the mouse and a stomachless fish, Barbus conchonius. Histochemistry. 1986;84(4-6):471–83. 29. Ager-Wick E, Dirks RP, Burgerhout E, Nourizadeh-Lillabadi R, de Wijze DL,
Spaink HP, van den Thillart GE, Tsukamoto K, Dufour S, Weltzien FA, Henkel
CV. The pituitary gland of the European eel reveals massive expression of
genes involved in the melanocortin system. PLoS One. 2013;8(10):e77396. 53. Ager-Wick E, Henkel CV, Haug TM, Weltzien FA. Using normalization to
resolve RNA-Seq biases caused by amplification from minimal input. Physiol
Genomics. 2014;46(21):808–20. 30. Robinson MD, McCarthy DJ, Smyth GK. Author details
1 17. Boetzer M, Henkel CV, Jansen HJ, Butler D, Pirovano W. Scaffolding
pre-assembled contigs using SSPACE. Bioinformatics. 2011;27:578–9. 1Institute of Biology Leiden, Leiden University, Sylvius Laboratory, Sylviusweg
72, 2300, RA, Leiden, The Netherlands. 2Leiden Institute of Advanced
Computer Science, Leiden University, Niels Bohrweg 1, 2333, CA, Leiden, The
Netherlands. 3Center for Proteomics and Metabolomics, Leiden University
Medical Center, 2300, RC, Leiden, The Netherlands. 4Computational 18. English AC, Richards S, Han Y, Wang M, Vee V, Qu J, Qin X, Muzny DM,
Reid JG, Worley KC, Gibbs RA. Mind the gap: upgrading genomes with
Pacific Biosciences RS long-read sequencing technology. PLoS One. 2012;7(11):e47768. 18. English AC, Richards S, Han Y, Wang M, Vee V, Qu J, Qin X, Muzny DM,
Reid JG, Worley KC, Gibbs RA. Mind the gap: upgrading genomes with
Pacific Biosciences RS long-read sequencing technology. PLoS One. 2012;7(11):e47768. Page 12 of 12 Page 12 of 12 Page 12 of 12 Kolder et al. BMC Genomics (2016) 17:701 19. Smit AFA, Hubley R, Green P. RepeatMasker open-4.0. 2013. 43. Becker RA, Wilks AR, Brownrigg R, Minka TP, Deckmyn A. maps: draw
geographical maps. 2015. 20. Jurka J, Kapitonov VV, Pavlicek A, Klonowski P, Kohany O, Walichiewicz J. Repbase update, a database of eukaryotic repetitive elements. Cytogenet
Genome Res. 2005;110(1-4):462–7. 44. Bivand R, Lewin-Koh N. maptools: tools for reading and handling spatial
objects. 2015. 45. Pebesma EJ, Bivand RS. Classes and methods for spatial data in R. R
News. 2005;5(2). http://cran.rproject.org/doc/Rnews/. 21. Cantarel BL, Korf I, Robb SM, Parra G, Ross E, Moore B, Holt C, Sanchez
Alvarado A, Yandell M. MAKER: an easy-to-use annotation pipeline designed
for emerging model organism genomes. Genome Res. 2008;18(1):188–96. 46. Ihaka R, Murrell P, Hornik K, Fisher JC, Zeileis A. colorspace: color space
manipulation. 2015. 22. Stanke M, Schoffmann O, Morgenstern B, Waack S. Gene prediction in
eukaryotes with a generalized hidden Markov model that uses hints from
external sources. BMC Bioinf. 2006;7:62. 47. Lamigueir OP. Maps with R (III). online; 2012. 48. QGIS_DevelopmentTeam. Geographic Information System. Geospatial
Foundation Project. 2009. http://qgis.osgeo.org/. Foundation Project. 2009. http://qgis.osgeo.org/. 23. Jones P, Binns D, Chang HY, Fraser M, Li W, McAnulla C, McWilliam H,
Maslen J, Mitchell A, Nuka G, Pesseat S, Quinn AF, Sangrador-Vegas A,
Scheremetjew M, Yong SY, Lopez R, Hunter S. InterProScan 5: genome-scale
protein function classification. Bioinformatics. 2014;30(9):1236–40. 49. Author details
1 edgeR: a bioconductor package for
differential expression analysis of digital gene expression data. Bioinformatics. 2010;26(1):139–40. 54. Howe EA, Sinha R, Schlauch D, Quackenbush J. RNA-Seq analysis in MeV. Bioinformatics. 2011;27:3209–10. 31. Wei T. corrplot: visualization of a correlation matrix. 2013. 5. Jester JV. Corneal crystallins and the development of cellular tran 55. Jester JV. Corneal crystallins and the development of cellular transparency. Semin Cell Dev Biol. 2008;19(2):82–93. 55. Jester JV. Corneal crystallins and the de
Semin Cell Dev Biol. 2008;19(2):82–93. 32. Saeed AI, Sharov V, White J, Li J, Liang W, Bhagabati N, Braisted J, Klapa M,
Currier T, Thiagarajan M, Sturn A, Snuffin M, Rezantsev A, Popov D, Ryltsov
A, Kostukovich E, Borisovsky I, Liu Z, Vinsavich A, Trush V, Quackenbush J. TM4: a free, open-source system for microarray data management and
analysis. Biotechniques. 2003;34(2):374–8. Semin Cell Dev Biol. 2008;19(2):82–93. 56. Wistow G, Wyatt K, David L, Gao C, Bateman O, Bernstein S, Tomarev S,
Segovia L, Slingsby C, Vihtelic T. gammaN-crystallin and the evolution
of the betagamma-crystallin superfamily in vertebrates. FEBS J. 2005;272(9):2276–91. 33. Warnes GR, Bolker B, Bonebakker L, Gentleman R, Huber W, Liaw A, Lumley
T, Maechler M, Magnusson A, Moeller S, Schwartz M, Venables B. gplots:
various R programming tools for plotting data. 2015. 57. Greiling TM, Houck SA, Clark JI. The zebrafish lens proteome during
development and aging. Mol Vis. 2009;15:2313–25. 58. Zhang S, Xu M, Huang J, Tang L, Zhang Y, Wu J, Lin S, Wang H. Heme acts
through the Bach1b/Nrf2a-MafK pathway to regulate exocrine peptidase
precursor genes in porphyric zebrafish. Dis Model Mech. 2014;7(7):837–45. 34. Kielbasa SM, Wan R, Sato K, Horton P, Frith MC. Adaptive seeds tame
genomic sequence comparison. Genome Res. 2011;21(3):487–93. 35. Sonnhammer EL, Ostlund G. InParanoid 8: orthology analysis between
273 proteomes, mostly eukaryotic. Nucleic Acids Res. 2015;43(Database issue):D234–9. 59. Koussounadis A, Langdon SP, Um IH, Harrison DJ, Smith VA. Relationship
between differentially expressed mRNA and mRNA-protein correlations in a
xenograft model system. Sci Rep. 2015;5:10775. 59. Koussounadis A, Langdon SP, Um IH, Harrison DJ, Smith VA. Relationship
between differentially expressed mRNA and mRNA-protein correlations in a
xenograft model system. Sci Rep. 2015;5:10775. 36. Palmblad M, Henkel CV, Dirks RP, Meijer AH, Deelder AM, Spaink HP. Parallel
deep transcriptome and proteome analysis of zebrafish larvae. BMC Res
Notes. 2013;6:428. 60. Cheng Z, Teo G, Krueger S, Rock TM, Koh HW, Choi H, Vogel C. Author details
1 Differential
dynamics of the mammalian mRNA and protein expression response to
misfolding stress. Mol Syst Biol. 2016;12(1):855. 37. van der Plas-Duivesteijn SJ, Mohammed Y, Dalebout H, Meijer A, Botermans A,
Hoogendijk JL, Henneman AA, Deelder AM, Spaink HP, Palmblad M. Identifying
proteins in zebrafish embryos using spectral libraries generated from dissected
adult organs and tissues. J Proteome Res. 2014;13(3):1537–44. 38. Pedrioli PG, Eng JK, Hubley R, Vogelzang M, Deutsch EW, Raught B, Pratt B,
Nilsson E, Angeletti RH, Apweiler R, Cheung K, Costello CE, Hermjakob H,
Huang S, Julian RK, Kapp E, McComb ME, Oliver SG, Omenn G, Paton NW,
Simpson R, Smith R, Taylor CF, Zhu W, Aebersold R. A common open
representation of mass spectrometry data and its application to proteomics
research. Nat Biotechnol. 2004;22:1459–66. Submit your next manuscript to BioMed Central
and we will help you at every step: • We accept pre-submission inquiries
• Our selector tool helps you to find the most relevant journal
• We provide round the clock customer support
• Convenient online submission
• Thorough peer review
• Inclusion in PubMed and all major indexing services
• Maximum visibility for your research
Submit your manuscript at
www.biomedcentral.com/submit • We accept pre-submission inquiries 39. Craig R, Beavis RC. TANDEM: matching proteins with tandem mass spectra. Bioinformatics. 2004;20(9):1466–7. 39. Craig R, Beavis RC. TANDEM: matching proteins with tandem mass spectra. Bioinformatics. 2004;20(9):1466–7. 40. Keller A, Nesvizhskii AI, Kolker E, Aebersold R. Empirical statistical model to
estimate the accuracy of peptide identifications made by MS/MS and
database search. Anal Chem. 2002;74(20):5383–92. 40. Keller A, Nesvizhskii AI, Kolker E, Aebersold R. Empirical statistical model to
estimate the accuracy of peptide identifications made by MS/MS and
database search. Anal Chem. 2002;74(20):5383–92. 41. Ma K, Vitek O, Nesvizhskii AI. A statistical model-building perspective to
identification of MS/MS spectra with PeptideProphet. BMC Bioinf. 2012;13 Suppl 16:S1. 41. Ma K, Vitek O, Nesvizhskii AI. A statistical model-building perspective to
identification of MS/MS spectra with PeptideProphet. BMC Bioinf. 2012;13 Suppl 16:S1. 42. Wickham H. ggplot2: elegant graphics for data analysis. New York:
Springer; 2009.
|
https://openalex.org/W1994366896
|
http://sajie.journals.ac.za/pub/article/download/429/371
|
Afrikaans
| null |
DIE ONTWTKKELING VAN 'N PARAMETRIESE MODEL VIR DIE SNY VAN RUIMTES SODS DIE VAN MARGAlUENBAKKIES
|
South African journal of industrial engineering
| 2,012
|
cc-by
| 3,194
|
Departement Bedryfs- en Sisteemingenieurswese
universiteit van Pretoria Departement Bedryfs- en Sisteemingenieurswese
universiteit van Pretoria http://sajie.journals.ac.za http://sajie.journals.ac.za ISSN IOI2-277X S.Afr.j.ind.eng. -21- S A JClIJtIta.R. of, IndlUlbLi.a.R. E"g'<:'lelli'lg, l'oi. 4,
No 2 Vec.embeJt 19901-'10.21-29 S A JClIJtIta.R. of, IndlUlbLi.a.R. E"g'<:'lelli'lg, l'oi. 4,
No 2 Vec.embeJt 19901-'10.21-29 OPSOMMING Wanneer
driedimensionele
snywerk
met
'n
numeriesbeheerde
frees-
masjien gedoen word,
is dit nodig
om van snyermiddelpuntprogram-
mering
gebruik
te
maak,
omdat
snyerradiuskorreksie
vir
hierdie
masjiene slegs in tweedimensionele verband bestaan. As gevolg van
die
snelle
ontwikkeling
van
numeriesbeheerde eenhede
is dit
nou
moontlik
om
met
behulp
van
parameterprogrammering
drie-
dimensionele ruimtes te ontwikkel wat twee jaar gelede slegs met
rekenaargesteunde
ontwerpprogrammatuur
moontlik
was. Vir
die
akkurate
programmering
van
driedimensionele
ruimtes
is
'n
besondere
visualisering
van
die
verband
tussen
snyvlak
en
snyerposisie, sowel as 'n grondige wiskundige agtergrond, nodig. ABSTRACT When three dimensional machining is performed with
a
numerically
controlled milling machine,
then it is
necessary to
make
use
of
cutter
centre
point
programming
because
radius
correction
for
these machines is possible in two dimensional context only. With
,:he
rapid
development
of
numerically
com:rolled
units
it
is
possible now to use
parameter programming for
the development of
three
dimensional
spaces
which
was
possible
only
wi til
computer
aided
design
software
some
two
years
ago. An
exceptional
visualization
of .the
relationship
between
cutting
surface
and
cutter
position
as
well
as
a
sound
mathematical
background
is
necessary
to
enable
accurate
programming
of
three
dimensional
spaces. http://sajie.journals.ac.za http://sajie.journals.ac.za -22- DIE WISKUNDIGE MODEL DIE WISKUNDIGE MODEL 2. DIE WISKUNDIGE MODEL
Wanneer 'n ruimte soos die binnekant van 'n margarienbakkie
met
sye
teen
verskillende
hellings
en
hoekradius
wat
gelykmatig
kleiner
word
vanaf
die
borand
tot
die
bodem,
geprogrammeer
word,
moet
'n
verskeidenheid
faktore
in
ag
geneem word. As die ruimte van die bakkie wat regop staan,
gesny word met 'n balneussnyer (kyk fig 1) en aangeneem word
dat horisontale snitte al
om die rand van die ruimte gesny
word, geld die volgende:
R
=
f(rs ' e. d, rl' rZ) .•.......•••••....•........... (1)
waar
R = hoekradius wat snyermiddelpunt volg op hoogte r s
bokant boonste vlak
r s =
radius van balneussnyer
e
=
die kleinste hoek van die twee sye soos gemeet vanaf
die horisontaal
d
=
diepte van ruimte
r,
=
hoekradius op boonste vlak
~
rZ =
hoekradius op bodemvlak is
Balneussnyer
Boonste vlak
Ruimte
FIGUUR 1
Vertikale snit deur ruimte en balneussnyer
Wanneer die snyer
beweeq
teen
die
hoeveelheid:
'n klein afstand
d in die materiaal in
skuinsvlak
af,
sal
R verklein
met
die
R
=
(rl-rZ)·~d/d
(Z) Wanneer 'n ruimte soos die binnekant van 'n margarienbakkie
met
sye
teen
verskillende
hellings
en
hoekradius
wat
gelykmatig
kleiner
word
vanaf
die
borand
tot
die
bodem,
geprogrammeer
word,
moet
'n
verskeidenheid
faktore
in
ag
geneem word. As die ruimte van die bakkie wat regop staan,
gesny word met 'n balneussnyer (kyk fig 1) en aangeneem word
dat horisontale snitte al
om die rand van die ruimte gesny
word, geld die volgende: Wanneer 'n ruimte soos die binnekant van 'n margarienbakkie
met
sye
teen
verskillende
hellings
en
hoekradius
wat
gelykmatig
kleiner
word
vanaf
die
borand
tot
die
bodem,
geprogrammeer
word,
moet
'n
verskeidenheid
faktore
in
ag
geneem word. As die ruimte van die bakkie wat regop staan,
gesny word met 'n balneussnyer (kyk fig 1) en aangeneem word
dat horisontale snitte al
om die rand van die ruimte gesny
word, geld die volgende:
R
=
f(rs ' e. d, rl' rZ) .•.......•••••....•........... INLEIDING 1 • In
Suid
Afrika
word
die
meeste
driedimensionele
freeswerk
gedoen
met
programme
wat
m.b.v. rekenaargesteunde ontwerp-
programmatuur ontwikkel is. Hierdie
programmatuur is
duur
om aan te koop en 'n spesiale naverwerker word vir elke tipe
numeriesbeheerde
mas j ien benodig. Firmas
wat
programme
op
so
'n wyse vir vervaardigers
ontwikkel,
vra vir
'n program
"aarmee
bv die
binne-
en
buitekant
van
'n margarienbakkie
gesny kan word tot soveel as RlS 000. Wanneer die dimensies
van
so
'n
bakkie
verander,
word
dieselfde
hoe
koste
weer
aangegaan. Die
beheereenhede
van
numeriesbeheerde
vervaardigings-
masj iene het die
afgelope
twee
j aar
sodanig
ontwikkel
dat
sulke
tipe
ruimtes
nou
direk
op
die
mas j ien
m. b. v. parameterprogrammering
geprogrammeer
kan
word. Hierdie
tegniek hou die voordeel in dat aIle dimensies verander kan
word
sonder
dat
die
bestaande
program
verander. 'n
Hele
reeks
vorme
kan
dus
met
'n
enkele
parameterprogram
gesny
word. reeks
vorme
kan
dus
met
'n
enkele
parameterprogram
gesny
word. Programmeerders
van
numeriesbeheerde
masjiene
is
oor
die
algemeen
bewus
van
die
tegniek,
maar
onkundig
oor
die
werklike potensiaal daarvan. Voorbeelde
van
programme
wat
hierdie tegniek demonstreer is feitlik onbekombaar. In
hierdie
artikel
word
die
wiskundige
verwantskappe
afgelei,
die
effek
van
snyerradius
ondersoek
en
'n
parameterprogram vir 'n tipiese ruimte ontwikkel. http://sajie.journals.ac.za -23- -23-
DIE WISKUNDIGE MODEL
Wanneer 'n ruimte soos die binnekant van 'n margarienbakkie
met
sye
teen
verskillende
hellings
en
hoekradius
wat
gelykmatig
kleiner
word
vanaf
die
borand
tot
die
bodem,
geprogrammeer
word,
moet
'n
verskeidenheid
faktore
in
ag
geneem word. As die ruimte van die bakkie wat regop staan,
gesny word met 'n balneussnyer (kyk fig 1) en aangeneem word
dat horisontale snitte al
om die rand van die ruimte gesny
word, geld die volgende:
R
=
f(rs ' e. d, rl' rZ) .•.......•••••....•........... (1)
waar
R = hoekradius wat snyermiddelpunt volg op hoogte r s
bokant boonste vlak
r s =
radius van balneussnyer
e
=
die kleinste hoek van die twee sye soos gemeet vanaf
die horisontaal
d
=
diepte van ruimte
r,
=
hoekradius op boonste vlak
~
rZ =
hoekradius op bodemvlak is
Balneussnyer
Boonste vlak
Ruimte
FIGUUR 1
Vertikale snit deur ruimte en balneussnyer
Wanneer die snyer
beweeq
teen
die
hoeveelheid:
'n klein afstand
d in die materiaal in
skuinsvlak
af,
sal
R verklein
met
die
R
=
(rl-rZ)·~d/d
(Z) DIE WISKUNDIGE MODEL (1)
waar
R = hoekradius wat snyermiddelpunt volg op hoogte r s
bokant boonste vlak
r s =
radius van balneussnyer
e
=
die kleinste hoek van die twee sye soos gemeet vanaf
die horisontaal
d
=
diepte van ruimte
r,
=
hoekradius op boonste vlak
~
rZ =
hoekradius op bodemvlak is g
g p
,
gesny word met 'n balneussnyer (kyk fig 1) en aangeneem word
dat horisontale snitte al
om die rand van die ruimte gesny
word, geld die volgende:
R
=
f(rs ' e. d, rl' rZ) .•.......•••••....•........... (1)
waar
R = hoekradius wat snyermiddelpunt volg op hoogte r s
bokant boonste vlak
r s =
radius van balneussnyer
e
=
die kleinste hoek van die twee sye soos gemeet vanaf
die horisontaal
d
=
diepte van ruimte
r,
=
hoekradius op boonste vlak
~
rZ =
hoekradius op bodemvlak is
Balneussnyer
Boonste vlak
Ruimte
FIGUUR 1
Vertikale snit deur ruimte en balneussnyer Balneussnyer
Boonste vlak
Ruimte FIGUUR 1
Vertikale snit deur ruimte en balneussnyer Wanneer die snyer
beweeq
teen
die
hoeveelheid:
'n klein afstand
d in die materiaal in
skuinsvlak
af,
sal
R verklein
met
die R
=
(rl-rZ)·~d/d
(Z) http://sajie.journals.ac.za -24- -24- Dit is duidelik dat,
as die snyer op diepte 6d al langs die
kontoer van die ruimte horisontaal beweeg, die
raakvlak van
die
snyer
met die
skuinsvlak
nog bokant die
materiaal sal
wees. Aangesien
die
twee
sye
van
die
ruimte
teen
verskillende hoeke is,
sal die
raakvlak langs die
twee
sye
in vertikale diepte van mekaar verskil. Dit het die effek
dat 'n radius gepas moet word tussen twee lyne wat, alhoewel
hulle loodreg t. o. v. mekaar is,
nie
op dieselfde hoogte is
nie
(kyk Fig 2). II
'I
:1
,
,
iiI
'I
,
'I
\
it
"
\
"
\
,Ii
\
'J'
~
y
\"-
Figuur 2
Raakpunte van balneussnyer aan twee sye teen ver-
skillende skuinstes Figuur 2
Raakpunte van balneussnyer aan twee sye teen ver-
skillende skuinstes Figuur 2
Raakpunte van balneussnyer aan twee sye teen ver-
skillende skuinstes omdat 'n driedimensionele sirkel nie gesny kan word nie, sal
'n
klein
foutjie
altyd
ontstaan. Hierdie
fout
word
verminder deur die kleinste hoek van die twee sye te gebruik
om die
hoekradius
R mee te
bereken. Die rede
hiervoor is
dat,
weens
die
vorm van die
snyer,
'n groter
radius
op
'n
hoer vlak
gesny word
as
wat die geval sal wees
op
'n vlak
wat laer gelee is. Omdat die hoekradius progressief kleiner
word
na
die
bodem
van
die
ruimte
toe,
werk
hierdie
twee
effekte saam. Die skuinssy met die kleinste hoek veroorsaak
'n raakvlak wat hoer gelee is as die van die ander sy. As die balneussnyer se onderpunt aan die boonste horisontale
vlak van die ruimte
raak en die sykant
teen die skuinsvlak
met hoek e is,
is die afstand (y) vanaf die boonste vlak tot
by die raakpunt aan die skuinssy http://sajie.journals.ac.za http://sajie.journals.ac.za -25- -25- y
= r s . (1-cos8)
( 3 ) 'n Horisonta1e snit 1angs die kontoer op hierdie hoogte sal
'n werklike radius Rsny in die hoek tussen die skuinssye tot
gevolg he waar Rsny =
r1 + y/d-(rl-r2)
=
r1
+ rs/d-(1-cosS)-(rl-r2) Rsny =
r1 + y/d-(rl-r2)
=
r1
+ rs/d-(1-cosS)-(rl-r2) Rsny =
r1 + y/d-(rl-r2)
=
r1
+ rs/d-(1-cosS)-(rl-r2) Die middelpunt
van die snyer volg egter nie hierdie
radius
nie, maar weI die geprograrnrneerde radius nie, maar weI die geprograrnrneerde radius
Dit is dieseIfde asof
'n groeffrees met diameter 2rs sine die
kontoer op 'n hoogte y bokant die boonste viak volg. Dit is dieseIfde asof
'n groeffrees met diameter 2rs sine die
kontoer op 'n hoogte y bokant die boonste viak volg. 3. DIE INVLOED VAN SYVLAKHOEK EN SNYERDIAMETER OP DIE HOEKRADIUS
'lm die
in1voed
van
e
en
r s
aan
te
toon,
is
'n
ontleding
gedoen vir tipiese afmetings
van
'n margarinebakkie. Omdat
r s nooit groter kan wees as r2 nie,
word slegs snyers met r s
s r2 in ag geneem. Tabel
1
Die invloed van verskil1ende
snyvlakhoeke op die
h0ekradius
as
verskillende
diameter
balneussnyers
aan
die
boonste viak van die ruimte met
d = 50,
r::. = 20
en
=2 = 10
raak. E INVLOED VAN SYVLAKHOEK EN SNYERDIAMETER OP DIE HOEKRADIUS 3. DIE INVLOED VAN SYVLAKHOEK EN SNYERDIAMETER OP DIE HOEKRADIUS
'lm die
in1voed
van
e
en
r s
aan
te
toon,
is
'n
ontleding
gedoen vir tipiese afmetings
van
'n margarinebakkie. Omdat
r s nooit groter kan wees as r2 nie,
word slegs snyers met r s
s r2 in ag geneem. 3. 3. DIE INVLOED VAN SYVLAKHOEK EN SNYERDIAMETER OP DIE HOEKRADIUS
'lm die
in1voed
van
e
en
r s
aan
te
toon,
is
'n
ontleding
gedoen vir tipiese afmetings
van
'n margarinebakkie. Omdat
r s nooit groter kan wees as r2 nie,
word slegs snyers met r s
s r2 in ag geneem. Tabel
1
Die invloed van verskil1ende
snyvlakhoeke op die
h0ekradius
as
verskillende
diameter
balneussnyers
aan
die
boonste viak van die ruimte met
d = 50,
r::. = 20
en
=2 = 10
raak. Ilil
Syvlakhoeke in grade
I'
I ~ IGGGGGGGI
80 i
nun
,
,
/
II
R op raakv1ak
(nun)
I
I'
i' 1. 00 19.83 19.67 19.53 119 . 40 / 19.31 19.23 19. 19 119.181
/ 2.00 19.66 19.34 19.05 18.81 18.61 118.4 7 118.38 18.361
1 3.00 19.49 19.01 18.58 118.21 17.92 17.701 17.58/ 17. 5411
I
4.00 19.32 18.68 18.11 17.62 17.22 16.94/ 16.771 16.721
5.00 19.15 18.35 17.63 17.02 16.53 16.17115.961 15.9011
1 6.00 18.98 18.021 17.16 16.42 15.83/ 15.40 11 15. 15 1 15.0811
II 7.00 18.81 17.69 16.69 15.83 15.14 14.64114.34 14.2611
II 8.00 18.64 17.36 16.21 15.23 14.441 13 . 871 13. 5 41 13 . 4411
9.00 18.46 17.03 15.74 14.64 13.75 13 . 111 12. 73112 . 621,
~10.00"18.291116.70,,15.27
14.04 13.051,12.341111.92,,11.8011
! , http://sajie.journals.ac.za http://sajie.journals.ac.za -26- Wanneer
'n
driedimensionele
ruimte
op
so
'n
wyse
g
word,
kan
'n radiusgroeffrees
(bullnose)
gebruik word. ronding op die onderrand van die snyer word dan as
'n
balneussnyer beskou. Die verskil tussen die diameters
die klein balneussnyer en die werklike radiusgroeffrees
egter in
so
'n geval
in die
rekenaarprogram in
berek
gebring word. Die voordeel van die gebruik van 'n radiusgroeffrees tee
'n
balneusfrees
is
dat
'n
snyer
met
'n
radius
van
s
dieselfde grootte as die onderste radius
van die ruimte
gesnymoet word,
gebruik kan word. Die radius op die
van die radiusgroeffrees verskaf die akkuraatheid. v.,rgelyking (4) word in so 'n geval aangepas na
waar
r
=
radius van die radiusgroeffrees
(~ r2)
en
r s =
radius aan die onderrand van die radiusgroeffrees -26- -26- Vir
tipiese
waardes
van
70'
en
80'
vir
die
twee
syvlakke
respektiewelik,
kan die fout in hoekradius tussen die radius
wat
geprograromeer is
en
die
radius
wat werklik
gesny
word
vir verskillende diameter snyers,
soos saamgevat in tabel 2,
l:lepaal word. Tabel
2:
Fout
in hoekradius
tussen geprogrammeerde radius
en radius wat gesny word [~J~
!6Y
~0-Y801
i
i
Y80
=
6R I
6 Rl
I Fout
I
I
rom
rom
rom
rom
mm
mm
I
i
I
1/
I
,
1
0.658 j 0.826
0.168
0.10
0.034 I
0.024
2
1. 316
1. 653
0.337
0.022 I
0.067
0.045 I
3
1. 974
2.479
0.505
0.034
0.101
II
0.067
4
2.632 I 3.305
0.673
0.046 I
0.135
0.089
II
5 I
3.29
4.131
0.841
0.058
0.168
II
0.110
II
6
3.948
4.957
1. 009
0.070
0.202
0.132
7 I
4.606
5.783
1.177
0.082 I 0.235
0.153 I
I
8 I
5.264
6.609
1. 348
0.094
11
0.269 I 0.175 I
I
9
5.922
7.435
1.513
0.106
0.303 I 0.197
I
10
6.58
8.261
1. 68
0.120
0.336 I 0.216
i
1
i
I s
Y70
en
Y80
is
die
waardes
van
y
(vg1
3)
by
70'
en
80'
respektiewelik. oR is die verskil
tussen
geprograromeerde
radius
by
70'
en
80' soos verkry kan word uit Tabel 1. oR is die verskil
tussen
geprograromeerde
radius
by
70'
en
80' soos verkry kan word uit Tabel 1. ~R1
is die verskil
tussen
verlangde
radius
by
70°
en
80°
(vgl 2) Uit Tabel
2
is
dit
duidelik dat as
'n akkuraatheid van
0,1
mm
verlang
word,
'n
balneussnyer
met
1 n
diameter
van
Kleiner as
10
mm gebruik moet word. As
'n akkuraatheid van
0,01
mm
egter
verlang
word. kan
deur
ekstrapolasie
bepaal
word
dat
'n
balneussnyer
met
'n
diameter
Kleiner
as
een
millimeter gebruik moet word. http://sajie.journals.ac.za -27- Vir
'n wanddikte van
0,1
rom vir
'n margarinebakkie
wat
10
persent in dikte kan wissel, is dit dus prakties onmoontlik
om die
vorm vir die plastiekspuitproses met
'n balneussnyer
te sny. 4. VERVANGING VAN BALNEUSSNYER MET
•N RADIUSGROEFFREES
Daar moet altyd vir volledige driedimensionele snywerk
'n balneussnyer gebruik gemaak word. In hierdie geval
die
driedimensionele
ruimte
egter
gevorm
deur
2
beweging. Dit impliseer dat die drie asse
van die m
nie gelyktydig beweeg nie,
maar slegs twee van die moo
drie asse gelyktydig beweeg. PARJ\METERPROGRAM VIR 'N MAHO-FREESMASJIEN MET PROGRAMMATU1JR
F600 5. PARJ\METERPROGRAM VIR 'N MAHO-FREESMASJIEN MET
F600
Die
volgende
parameterprogram is
ontwikkel
maak van poolkoordinate. Dit neem die effek
of dit 'n balneussnyer of 'n radiusgroeffrees
%PM9000
N9000
N1 G18 F1000 S1000 T1 M67
N2 G54 M3
N3 G9S X-50 Y-35 Z-40 1100 J35 KSO
N4 G99 X-51 Y-30 2-41 1102 J30 KS2
N5 E1=100
(
LENGTE)
N6 E2=60
(WYDTE)
N7 E3=30
(DIEPTE)
NS E4=10
( HALF DIAMETER VAN SNYER)
N9 E5=0
(RADIUS VAN RADIUSGROEFFREES)
N10 E6=20
(RADIUS BY BOKANT)
N11 E7=11
(RADIUS BY BODEM)
N12 ES=70
(HOEK VAN KORTSYl
N13 E9=SO
(HOEK VAN LANGSY)
N14 E10=2
(SNITDIEPTE)
N15 E20=E6+E4*(1-cos(ES)*(E6-E7):E3)
N16 E20=E20-E4*sin(ES)
N17 E21=E10*(E6-E7):E3
N18 E22=E1:2-E4*tan(ES:2)
N19 E23=E2:2-E4*tan(E9:2)
N20 E24=E10:tan(E9l
N21 E25=E10:tan(ES)
N22
GO Y2 20 X=-E22
N23
G1 YO
N24 E23=E23-E24 E22=E22-E25
E20=E2
N26 G91
N27
G1 X=E25 Y=-E10
N2S G11 B90 B1=0 R1=E20 L1=E22*2
L=E23 R
N29 G11 B-90 B1=lS0 R1=E20 L1=E22*2
L=E23*2
N30 G11 B90 L=E23
N31 G29 K=E10 E26=E3-1 N=24
N32
GO Y100 M30
Die
nulpunt
is
in die
middel
van die
bakkie
gesienJ
op
die
opperv1ak
van die
materiaa1 5. Die
volgende
parameterprogram is
ontwikkel deur gebruik
te
maak van poolkoordinate. Dit neem die effek van die snyer,
of dit 'n balneussnyer of 'n radiusgroeffrees is, in ago %PM9000
N9000
N1 G18 F1000 S1000 T1 M67
N2 G54 M3
N3 G9S X-50 Y-35 Z-40 1100 J35 KSO
N4 G99 X-51 Y-30 2-41 1102 J30 KS2
N5 E1=100
(
LENGTE)
N6 E2=60
(WYDTE)
N7 E3=30
(DIEPTE)
NS E4=10
( HALF DIAMETER VAN SNYER)
N9 E5=0
(RADIUS VAN RADIUSGROEFFREES)
N10 E6=20
(RADIUS BY BOKANT)
N11 E7=11
(RADIUS BY BODEM)
N12 ES=70
(HOEK VAN KORTSYl
N13 E9=SO
(HOEK VAN LANGSY)
N14 E10=2
(SNITDIEPTE)
N15 E20=E6+E4*(1-cos(ES)*(E6-E7):E3)
N16 E20=E20-E4*sin(ES)
N17 E21=E10*(E6-E7):E3
N18 E22=E1:2-E4*tan(ES:2)
N19 E23=E2:2-E4*tan(E9:2)
N20 E24=E10:tan(E9l
N21 E25=E10:tan(ES)
N22
GO Y2 20 X=-E22
N23
G1 YO
N24 E23=E23-E24 E22=E22-E25
E20=E20-E21
N26 G91
N27
G1 X=E25 Y=-E10
N2S G11 B90 B1=0 R1=E20 L1=E22*2
L=E23 R=E20
N29 G11 B-90 B1=lS0 R1=E20 L1=E22*2
L=E23*2 R=E20
N30 G11 B90 L=E23
N31 G29 K=E10 E26=E3-1 N=24
N32
GO Y100 M30 Die
nulpunt
is
in die
middel
van die
bakkie
(soos
van
bo
gesienJ
op
die
opperv1ak
van die
materiaa1
gekies. al1e
afmetings word beskryf met parameters E1 tot E10. VERVANGING VAN BALNEUSSNYER MET
•N RADIUSGROEFFREES 4. Daar moet altyd vir volledige driedimensionele snywerk,
van
'n balneussnyer gebruik gemaak word. In hierdie geval word
die
driedimensionele
ruimte
egter
gevorm
deur
2 ~ -as-
beweging. Dit impliseer dat die drie asse
van die masjien
nie gelyktydig beweeg nie,
maar slegs twee van die moontlike
drie asse gelyktydig beweeg. Wanneer
'n
driedimensionele
ruimte
op
so
'n
wyse
gevorm
word,
kan
'n radiusgroeffrees
(bullnose)
gebruik word. Die
ronding op die onderrand van die snyer word dan as
'n klein
balneussnyer beskou. Die verskil tussen die diameters
van
die klein balneussnyer en die werklike radiusgroeffrees moet
egter in
so
'n geval
in die
rekenaarprogram in
berekening
gebring word. Die voordeel van die gebruik van 'n radiusgroeffrees teenoor
'n
balneusfrees
is
dat
'n
snyer
met
'n
radius
van
selfs
dieselfde grootte as die onderste radius
van die ruimte wat
gesnymoet word,
gebruik kan word. Die radius op die rand
van die radiusgroeffrees verskaf die akkuraatheid. v.,rgelyking (4) word in so 'n geval aangepas na r
=
radius van die radiusgroeffrees
(~ r2)
en r s =
radius aan die onderrand van die radiusgroeffrees is. r s =
radius aan die onderrand van die radiusgroeffrees is. http://sajie.journals.ac.za -28- 6.
WAARDEBEPALING 6. Vir die
programmering
van driedimensionele
ruimtes
wat
met
2~-as-beweging gesny
kan
word,
is
dit
beslis
baie
meer
voorde1ig
om
van parameterprogrammering
gebruik te
maak
as
van rekenaargesteunde ontwerpprogrammatuur. http://sajie.journals.ac.za http://sajie.journals.ac.za -29- Die kundigheid om hierdie tegniek met vertroue te gebruik is
nog nie in suid-Afrika gevestig nie. Met die beskikbaarheid
van simulators vir hierdie doel,
is dit
nou egter moontlik
om
sodanige
programme
weg
van
die
werkswinkelvloer
te
ontwikkel en te ontfout. Alhoewel
die
voorbeeld
slegs
vir
'n
MAHO-freesmasjien
geskryf
is,
kan
dit
redelik
maklik
vir
enige
ander
beheereenheid, wat die fasiliteit van
parameterprogra~roering
bied, geformateer word. Die limiet in die potensiaal van hierdie tegniek word deur
die programmeerder, en nie deur die tegniek nie, bepaal. 7.
BRONNELYS 1. KELLER,
"CNC-Systeme, simulations-system
MARO CNC 432",
CNC DIKAKTIK + TECHNIK, Wuppertal,
1989. 2. Manfred Berg,
"MAHO Training Literature",
MAHO AG,
Pfronten,
1990. 3. MAHO Aktiengesellschaft,
"Programmier- und Bedienungs-
anleiting"
MAHO AG, Pfronten,
1988.
|
https://openalex.org/W2338595790
|
https://bmcmusculoskeletdisord.biomedcentral.com/track/pdf/10.1186/s12891-016-1030-y
|
English
| null |
Three combinations of manual therapy techniques within naprapathy in the treatment of neck and/or back pain: a randomized controlled trial
|
BMC musculoskeletal disorders
| 2,016
|
cc-by
| 7,882
|
Paanalahti et al. BMC Musculoskeletal Disorders (2016) 17:176
DOI 10.1186/s12891-016-1030-y Paanalahti et al. BMC Musculoskeletal Disorders (2016) 17:176
DOI 10.1186/s12891-016-1030-y Three combinations of manual therapy
techniques within naprapathy in the
treatment of neck and/or back pain: a
randomized controlled trial Kari Paanalahti1,3, Lena W. Holm1,4, Margareta Nordin1,2, Jonas Höijer5, Jessica Lyander3, Martin Asker1,3
and Eva Skillgate1,3* © 2016 Paanalahti et al. Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Abstract Background: Manual therapy as spinal manipulation, spinal mobilization, stretching and massage are common
treatment methods for neck and back pain. The objective was to compare the treatment effect on pain intensity,
pain related disability and perceived recovery from a) naprapathic manual therapy (spinal manipulation, spinal
mobilization, stretching and massage) to b) naprapathic manual therapy without spinal manipulation and to c)
naprapathic manual therapy without stretching for male and female patients seeking care for back and/or neck
pain. Method: Participants were recruited among patients, ages 18–65, seeking care at the educational clinic of
Naprapathögskolan - the Scandinavian College of Naprapathic Manual Medicine in Stockholm. The patients
(n = 1057) were randomized to one of three treatment arms a) manual therapy (i.e. spinal manipulation, spinal
mobilization, stretching and massage), b) manual therapy excluding spinal manipulation and c) manual therapy
excluding stretching. The primary outcomes were minimal clinically important improvement in pain intensity and
pain related disability. Treatments were provided by naprapath students in the seventh semester of eight total
semesters. Generalized estimating equations and logistic regression were used to examine the association between
the treatments and the outcomes. Results: At 12 weeks follow-up, 64 % had a minimal clinically important improvement in pain intensity and 42 % in
pain related disability. The corresponding chances to be improved at the 52 weeks follow-up were 58 % and 40 %
respectively. No systematic differences in effect when excluding spinal manipulation and stretching respectively
from the treatment were found over 1 year follow-up, concerning minimal clinically important improvement in
pain intensity (p = 0.41) and pain related disability (p = 0.85) and perceived recovery (p = 0.98). Neither were there
disparities in effect when male and female patients were analyzed separately. Conclusion: The effect of manual therapy for male and female patients seeking care for neck and/or back pain at an
educational clinic is similar regardless if spinal manipulation or if stretching is excluded from the treatment option. Trial registration: Current Controlled Trials ISRCTN92249294 Keywords: Muskuloskeletal manipulations, Naprapathy, Back pain, Neck pain words: Muskuloskeletal manipulations, Naprapathy, Back pain, Neck pain © 2016 Paanalahti et al. * Correspondence: eva.skillgate@ki.se
1Musculoskeletal & Sports Injury Epidemiology Center, Institute of
Environmental Medicine, Karolinska Institutet, Box 210, Stockholm SE-17177,
Sweden
3Naprapathögskolan - Scandinavian College of Naprapathic Manual Medicine,
Kräftriket 23A, Stockholm SE-11419, Sweden
Full list of author information is available at the end of the article * Correspondence: eva.skillgate@ki.se
1Musculoskeletal & Sports Injury Epidemiology Center, Institute of
Environmental Medicine, Karolinska Institutet, Box 210, Stockholm SE-17177,
Sweden
3Naprapathögskolan - Scandinavian College of Naprapathic Manual Medicine,
Kräftriket 23A, Stockholm SE-11419, Sweden
Full list of author information is available at the end of the article
© 2016 Paanalahti et al. Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. * Correspondence: eva.skillgate@ki.se
1Musculoskeletal & Sports Injury Epidemiology Center, Institute of
Environmental Medicine, Karolinska Institutet, Box 210, Stockholm SE-17177,
Sweden
3Naprapathögskolan - Scandinavian College of Naprapathic Manual Medicine,
Kräftriket 23A, Stockholm SE-11419, Sweden
Full list of author information is available at the end of the article Background different combinations of NMT (with and without spinal
manipulation and stretching). We have performed a
three-arm randomized controlled trial (RCT) called the
Stockholm MINT-trial (the Stockholm Manual Interven-
tion Trial), where these questions are addressed, in order
to ease the consideration between risks and benefits in
the choice of treatment strategies for these patients. One
study is published based on the first 767 included pa-
tients seeking care for non-specific back and/or neck
pain in which we found no systematic differences in the
risk of adverse events between the treatment arms [19]. Based on the same trial, now with 1057 included pa-
tients, we address the following research question: Are
there differences in treatment effect on pain intensity,
pain related disability and perceived recovery when
NMT (spinal manipulation, spinal mobilization, stretch-
ing and massage) is compared to NMT without spinal
manipulation and, NMT without stretching for male and
female patients seeking care for back and/or neck pain? Neck and back pain is common and costly in the general
population, and represents an enormous financial bur-
den. The costs stem from loss of work and medical ex-
penses, as well as other direct or indirect expenses [1, 2]. Life time prevalence of spinal pain has been reported to
be 54 to 80 % [3]. To manage these painful and disabling
conditions manual therapists (i.e. chiropractors, napra-
paths, osteopaths, physicians and physiotherapists) often
combine manual techniques as spinal manipulation,
spinal mobilization, stretching and massage. According
to Cochrane reviews, manual therapy appears to be no
better or worse than other existing therapies for patients
with neck and back pain, and the long term effects are
often unclear [4–7]. Other systematic reviews have sug-
gested manual therapy to be an effective and cost effect-
ive treatment option for neck pain and back pain [8–10]
especially if combined with education and exercise [11]. female patients seeking care for back and/or neck pain? Rubinstein et al. included in a systematic review a few
studies showing that spinal manipulation was more effect-
ive for low back pain than mobilization in the short term
but not in the long term. Other studies that did not find
any difference in effect between the two techniques, and
no conclusion was drawn regarding this [12]. Background Stretching
has been suggested to be an effective treatment alternative
for low back pain [13] and exercise with combined
strengthening, range-of-motion, and flexibility exercises is
considered effective for persistent neck pain [14]. Design and trial registration This study is a three-arm randomized controlled trial
(RCT), and the trial was registered in Current Controlled
Trials (ISRCTN92249294). Abstract Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Page 2 of 10 Paanalahti et al. BMC Musculoskeletal Disorders (2016) 17:176 Setting The treatments were given at the educational clinic
of the Naprapathögskolan - Scandinavian College of
Naprapathic Manual Medicine, Stockholm, Sweden. The students, who provided the treatments were in
their seventh out of eight total semesters, with ex-
perience regularly (twice a week) treating patients
over a period of five semesters. These treatments in-
clude massage and stretching techniques during five
semesters,
spinal
mobilization
techniques
during
three semesters and spinal manipulation techniques
during two semesters under supervision of experienced
registered naprapaths. The supervision included regular
controls of the compliance of the study protocol. The pri-
mary investigator and the research team regularly had
meetings and education with the students as well as with
the supervising naprapaths/teachers. Senior students that
participated in the current trial had passed all practical
clinical examinations at this level of the education which
includes all the manual techniques used. According to recent studies naprapathic manual ther-
apy (NMT) is an effective and cost effective treatment
alternative for musculoskeletal pain both in the short
and the long term [15–18]. Naprapathy in Scandinavia is
defined as a system for specific examination, diagnostics,
manual treatment and rehabilitation of pain and dys-
function for the musculoskeletal system. NMT is a com-
bination
of
manual
techniques
such
as
spinal
manipulation/mobilization, stretching and massage used
to treat shortened or pathologic soft and connective tis-
sue that are thought to be common causes to these pain
conditions [18]. The profession of naprapathy was initi-
ated in 1907 in the United States, and is today practiced
mainly in Finland, Norway, Sweden, and the United
States. Since 1994, a naprapath is a registered health
professional in Finland and Sweden. Registered napra-
paths are overseen by the National Supervisory Author-
ity for Welfare and Health in Finland and by The
National Board of Health and Welfare in Sweden. Na-
prapathy is the largest registered profession within man-
ual therapy in Sweden, larger than the professions of
Chiropractic and Osteopathy. Interventions
h The interventions in all three arms were conformed to
the patients’ condition, however standardized to the
greatest extent possible concerning, for example, the
length of treatment sessions and how to perform them
in different situations, by several education meetings
held in advance. The therapists were told to use all man-
ual therapy techniques that were included in the treat-
ment arm according to the randomization protocol, but
no other treatment modalities. 1. Naprapathic Manual Therapy (NMT): The therapist
was allowed to use all techniques within NMT i.e. spinal manipulation, spinal mobilization, muscle
stretching, massage and other soft tissue techniques. Potential study participants were marked in a ledger at
the clinic by a trained receptionist according to inclusion
criteria; age, neck and/or back pain and no visit at the
educational clinic during the past month. The inclusion
process was handled by the supervised and trained
student therapists: information about the study to the
patients, obtaining of informed consent, the baseline
data collection, the decision about inclusion, and the
randomization allocation. The therapists as well as the
supervising
experienced
registered
naprapaths
were
thoroughly trained in different aspects of the study
protocol at a number of meetings before the start of the
study. Uncertainties and questions were discussed in
regular weekly meetings during the inclusion period. 2. NMT excluding spinal manipulation: The therapist
was allowed to use all available techniques within
NMT except spinal manipulation. 3. NMT excluding muscle stretching: The therapist
was allowed to use all techniques within NMT
except muscle stretching. To ensure that the treatments were performed accord-
ing to the randomization protocol, a random sample of
6 % of the medical records were control post treatment. Participants
Inclusion criteria The participants eligible for this study were patients,
18–65 years old, seeking care for neck pain (including
neck/shoulders and/or upper back, above the 11th thoracic
vertebra, with or without pain in upper extremities and
chest) and/or back pain (including pain the area below the NMT is a young area of research and further studies
are needed to develop the discipline and to ascertain
quality assurance. Aspects of this are the risk of adverse
events and if treatment effects and risks differ between Paanalahti et al. BMC Musculoskeletal Disorders (2016) 17:176 Page 3 of 10 Page 3 of 10 10th thoracic vertebra and/or gluteal area with or without
pain in lower extremities) and who had not visited the
educational clinic during the previous month. the therapist were unaware of the group assignment
until after all baseline data were collected. Treatment
allocation was performed by the therapist after the phys-
ical examination and the completion of the baseline
questionnaire. The therapists were told not to share the
result of the randomization to the patient if possible,
however this cannot be considered as blinding the pa-
tient to the treatment. Each treatment session was
scheduled for 45 min. Exclusion criteria 1) Not mastering the Swedish language, 2) having scored
<2 on a numerical rating scale (0–10) in two questions
regarding pain intensity (pain at the present time and
the worst pain during the past 4 weeks) in neck and/or
back, 3) pregnancy, 4) current or previous cancer, 5)
having received treatments for the current complaint by
a chiropractor, naprapath, osteopath or physiotherapist
during the past month, 6) duration of the current com-
plaint less than 1 week, 7) patient demand/deny spinal
manipulation/stretching, 8) contraindication for spinal
manipulation according to the Swedish Board of Social
Welfare [20], 9) indication for spinal manipulation (hypo
mobility in the joints of the spine, with or without pain)
not present in the area of complaint, 10) red flags (i.e. previous trauma, inflammatory or rheumatic diseases,
drug addict, large rapid weight decrease etc.), 11) spe-
cific diagnosis (i.e. ankylosing spondylitis, spinal stenosis,
rheumatoid arthritis), 12) sick leave due to planned/
completed surgery for neck and/or back pain. Baseline data collection The baseline questionnaire was based on questionnaires
used in previous studies [18, 21] and includes socio-
demographic factors, physical activity, smoking habits,
previous pain conditions concerning the current com-
plaint and how the current complaint began, expecta-
tions of recovery related to treatment and general health
[22]. A modified Chronic Pain Questionnaire (CPQ) was
used to assess pain intensity and pain related disability
at baseline and at follow-up [23]. The original scale that
was based on recall of the past 6 months was changed to
the past 4 weeks as we have done in previously pub-
lished studies [18, 23, 24]. Randomization A trained research assistant made the randomization in
advance and prepared sequentially numbered opaque
and sealed envelopes with cards numbered 1, 2 or 3, by
drawing these cards from a box. Stratified randomization
was used, based on the location of pain: 1) neck and
upper back 2) lower back and 3) neck and lower back
(pain equally bad in neck and upper back and lower
back). For each stratum, randomization in blocks of 99
were performed. Potential study participants were informed about the
study at the first visit. Informed consent was obtained
and patients completed the baseline questionnaire suited
for the area of pain before the physical examinations and
diagnostic assessment by the therapists. The patient and Follow-up data collection of outcomes Follow up data collection of outcomes
Information
of
outcomes
was
collected
by
self-
administrated postal or web-based questionnaires at
follow-up, after seven, 12, 26 and 52 weeks. If a Paanalahti et al. BMC Musculoskeletal Disorders (2016) 17:176 Page 4 of 10 Page 4 of 10 treatment arms in MCI in pain and disability and per-
ceived recovery, and to test for confounding, logistic re-
gressions using generalized estimating equations (GEE)
were conducted, in all participants and in gender strati-
fied analyses. For further testing if there were any differ-
ences in mean pain/disability score, linear regressions
using GEE was used taking into account the covariance
between repeated measurements of pain and disability,
in all participants and in gender stratified analyses
[28, 29]. The analysis regarding perceived recovery
was performed using ordinal logistic regression with
cluster-robust standard errors. All analyses were con-
ducted in the statistical software STATA 13.0. patient did not answer or if the questionnaire was
not complete, a trained research assistant contacted
the patient by phone, mail or letter to remind them,
at a maximum of three occasions. Primary outcomes were pain intensity and pain related
disability. Patients graded their pain in three pain ques-
tions (current pain, worst pain, average pain) measured
with a numeric rating scale, 0–10 (0 = no pain, 10 = pain
as bad it could be) with the modified CPQ [23]. Three
questions assessed disability and concerned to what de-
gree pain “interfered with your daily activities”, “changed
your ability to take part in recreational, social, and family
activities,” and “changed your ability to work (including
housework)” in the past 4 weeks. The ratings were made
on a numeric rating scale, 0–10 (0 = no interference,
10 = unable to carry on with these activities). A mean
pain score and a mean disability score was calculated
from the questions. The study population for the analyses of mean scores
of pain intensity and mean score pain related disability,
and for the analyses of perceived recovery, was 1057 pa-
tients seeking care for non-specific back and/or neck
pain (Fig. 1). For the analysis of MCI in pain intensity, it
was required that, at baseline, the patient should have a
pain score of at least 2/10. Therefore, six patients were
excluded from these analyses. Results At baseline 1057 patients were randomized to one of
three treatment alternatives. The period of recruitment
was January 2010 to December 2012 and the follow-up
of all patients was finished in January 2014. Figure 1 is a
flowchart
of
the
recruitment,
randomization
and
follow-up of patients in the trial. Eighty patients de-
cided to drop-out before the first follow-up; 33 did
not want to participate, three were false inclusions,
11 were dissatisfied and 33 dropped out due to un-
known reasons. The dropouts were equally distributed
between the treatment arms. Baseline characteristics for the study participants are
presented in Table 1. The mean age was 35 years (SD
11.8), and more than 60 % of the patients reported their
general health to be very good or excellent. Fifty four
percent of the patients sought care for neck pain, 70 %
were females and almost 80 % had had experienced simi-
lar complaints before. The proportion of patients with
chronic pain (>3 months duration) was 36 %. The mean
pain at baseline was 5.5/10 (SD 1.8) and the mean dis-
ability was 2.6/10 (SD 2.2). Dichotomized primary outcomes A minimal clinically important improvement (MCI) in
pain was defined as a decrease by at least 2 points in
pain intensity score at follow-up compared to baseline
and a MCI in disability was defined as a decrease by at
least 1 point in pain related disability score at follow-up
compared to baseline [17, 18, 25–27]. Secondary outcomes were perceived recovery was
measured by the question, “Which of the following state-
ments is most consistent with how you feel your problems
in the neck/lower back has changed since you joined this
study?”. The answer alternatives were; 1) Am completely
free from pain and have no other complaints originating
from neck/ back, 2) Am considerably improved, 3) Am
slightly improved, 4) No change, 5) Am slightly worse
and 6) Am much worse. For the comparison between
groups the answers were dichotomized into recovered
(answer alternative 1–2)/not recovered (answer alterna-
tive 3–6). Further a question about additional care
administered for the neck/back pain the preceding
3 months was included in the follow-up questionnaire. Follow-up data collection of outcomes For the analysis regarding
MCI in pain related disability, it was required that the
patients should have a disability score at baseline of at
least 1/10. Consequently, 286 patients were excluded
from these analyses. Statistical analyzes Power analyses based on the primary outcomes (a min-
imal clinical important improvement (MCI) in pain and
disability) were performed before the Stockholm MINT
trial started, to determine the sample size required. A
total of 350 patients per treatment arm, in total 1 050
patients, indicated a power of >80 % to detect a relative
risk (RR) of 1.2 to 1.3 for a clinically important improve-
ment in pain and disability in sub group analyses (as
neck/back pain, men/women, older/younger) of 150
patients, regarding the primary outcomes. The total number of treatments was 4627 with a mean
of 3.6 treatments per patient (SD 1.5). At 12 weeks
follow-up 61 % had a MCI in pain intensity, and 41 % in
pain related disability. The corresponding chances to be
improved at the 52 weeks follow-up were 58 % and 40 %
respectively. Analysis was done with an intention to treat approach. To analyze if there were any differences between the Page 5 of 10 Paanalahti et al. BMC Musculoskeletal Disorders (2016) 17:176 Fig. 1 Flowchart of the recruitment, randomization and follow-up Fig. 1 Flowchart of the recruitment, randomization and follow-up The joint test of difference – in the GEE framework
taking repeated measurements at 7, 12, 26 and 52 weeks
into consideration –showed no disparities between the
treatment arms regarding mean score in pain intensity
(p = 0.98; Wald test) and pain related disability (p = 0.88;
Wald test) (not in table). Figure 3 shows the gender
specific mean scores of pain intensity and pain related
disability with 95 % CI at all follow-ups. No systematic
differences in effect were seen when male and female pa-
tients were analyzed separately, especially not in the long
term. None of the characteristics presented in Table 1
turned out to be a confounder in the analyses of the as-
sociations between the treatment alternatives and the
primary outcomes. Table 2 presents the odds ratios (OR) with 95 % CI
comparing NMT to other treatment arms regarding
MCI in pain intensity, pain related disability and per-
ceived recovery at each time point of follow-up. No sys-
tematic differences in effect when excluding spinal
manipulation and stretching respectively from NMT
were found at any follow-up. Statistical analyzes The joint test of difference – in the GEE framework
taking repeated measurements at 7, 12, 26 and 52 weeks
into consideration – showed no differences in effect be-
tween the three treatment arms, concerning the chance
to have a MCI in pain intensity (p = 0.41; Wald test) and
pain related disability (p = 0.85; Wald test) during 1 year
follow-up (not in table). Further, no disparities were
found in gender stratified analyzes of pain intensity (fe-
male: p = 0.49, male: p = 0.61; Wald test) and pain related
disability (female: p = 0.61, male: p = 0.91; Wald test)
(not in table). Figure 2 shows the proportion with a MCI
in pain intensity and pain related disability with 95 % CI
at all follow-ups for males and females separately. No
systematic differences in effect were seen when male and
female patients were analyzed separately. Concerning perceived recovery, in the GEE framework
taking repeated measurements at 7, 12, 26 and 52 weeks
into consideration –no differences in effect between the
treatment arms were shown (p = 0.98; Wald test) (not in
table). The proportion that had not sought additional care for
their neck/back pain the preceding three months at the
52-week follow-up was 61 % in all three treatment arms. Discussion In this RCT with the aim of comparing the treatment
effect of combinations of different treatment tech-
niques within NMT for non-specific neck and/or back
pain, no significant differences in effect between NMT
(spinal manipulation, spinal mobilization, stretching and Paanalahti et al. Discussion BMC Musculoskeletal Disorders (2016) 17:176 Page 6 of 10 Table 1 Baseline characteristics of the study population (n = 105
NMTa
NMT excluding
spinal manipulation
NMT exclud
stretching
Characteristics
n = 352
n = 352
n = 353
Mean age (SD)
35
(12.2)
36 (11.9)
36 (11.4)
Sex, %
Women
68
72
71
Painful area, %
Back
35
33
33
Neck
54
54
54
Back/Neck
11
13
12
Duration of the
pain, %
1 week
17
16
18
2–4 weeks
29
26
26
1–3 months
18
22
21
3–6 months
9
8
7
>6 months
28
28
27
Similar previous
complaints,
%
Yes
73
79
80
Mean pain intensity
at baselineb
5.5
5.4
5.5
(SD)
(1.6)
(1.7)
(1.7)
Mean pain related
disability at baselinec
2.6
2.6
2.6
(SD)
(2.2)
(2.2)
(2.2)
Education, %
1–9 years
3
4
3
10–12
37
39
37
13–15
50
46
46
>16
11
11
14
General Health, %
Excellent
14
17
19
Very Good
46
45
42
Good
34
30
34
Somewhat
6
7
4
Bad
1
-
1
Smoking, %
Daily
18
14
17
Physical activity, %
on medium or high
leveld
33
33
43
Mean expectations
of recoverye
6.1
5.9
5.9 Table 1 Baseline characteristics of the study population (n = 1057)
(Continued)
(SD)
(3.0)
(2.9)
(2.9)
Previous naprapathic
treatment, %
No
44
41
35
Yes, a few times
30
34
34
Yes, several times
26
26
40
Obesity, %
7
8
7
aNMT = Naprapathic Manual Therapy (spinal manipulation/mobilization,
stretching and massage)
bPain intensity at baseline was based on three pain items: current pain, worst
pain, average pain during the past 4 weeks (NRS 0–10 (0 = no pain, 10 = pain
as bad it could be)) and calculated as an average pain score for these items
cDisability at baseline was based on three disability items: interference with
daily activities, recreational and social activities, and work activities, measured
with numeric rating scale, (NRS 0–10 (0 = no interference, 10 = unable to carry
on with these activities)) and calculated as an average disability score for
these items
dPhysical activity = medium (effort that would make it difficult to hold a
conversation with someone) or high (you have a high pulse, you feel strained
and become sweaty) level at least two times/week
eExpectations of recovery are measured with NRS 0–10 (0 = not at all likely to
be recovered, 10 = very likely to be recovered) Table 1 Baseline characteristics of the study population (n = 1057)
(Continued) stretching and massage)
bPain intensity at baseline was based on three pain items: current pain, worst
pain, average pain during the past 4 weeks (NRS 0–10 (0 = no pain, 10 = pain
as bad it could be)) and calculated as an average pain score for these items
cDisability at baseline was based on three disability items: interference with
daily activities, recreational and social activities, and work activities, measured
with numeric rating scale, (NRS 0–10 (0 = no interference, 10 = unable to carry
on with these activities)) and calculated as an average disability score for
these items dPhysical activity = medium (effort that would make it difficult to hold a
conversation with someone) or high (you have a high pulse, you feel strained
and become sweaty) level at least two times/week
eExpectations of recovery are measured with NRS 0–10 (0 = not at all likely to
be recovered, 10 = very likely to be recovered) massage) and NMT excluding spinal manipulation and
NMT excluding stretching respectively were found over
1 year concerning MCI in pain intensity and pain related
disability or perceived recovery for patients seeking care. Discussion Neither were there significant differences in effect in gen-
der stratified analyses. Furthermore, there were no clear
differences between the treatment arms during the 1 year
follow-up regarding care seeking for their back/neck pain;
the proportion that had not sought additional care the
presiding three months at the 12 months follow-up was
the same (61 %) in all three treatment arms. The findings
from this study are similar to findings in some previous
studies [5, 30, 31]. In a recent Cochrane systematic review
Gross et al. concluded that manipulation and mobilization
provide similar effect for neck pain in mediate/short/inter-
mediate-term follow-up [5]. One study included in the
systematic review by Rubinstein et al. [12] was a smaller
trial by Cleland et al. indicating that there is a better effect
on pain and disability in low back pain patients from
spinal manipulation than from spinal mobilization in
short-term (4 weeks) and in disability in long term
(6 months) [32]. Strengths The current study is a large randomized controlled trial
(n = 1057) which is optimal for the research question ad-
dressed. We had a low attrition rate which was equally
distributed
between
the
treatment
groups
(Fig. 1). Furthermore we measured several potential prognostic
factors that may have an impact on the prognosis of
back and neck pain, and none of these factors were con-
founders in our study. The distribution of these factors Paanalahti et al. BMC Musculoskeletal Disorders (2016) 17:176 Page 7 of 10 Table 2 Comparison of the odds of the outcomes between the treatment arms. The odds of having a MCI in pain intensity, MCI in
pain related disability and perceived recovery in NMT excluding manipulation and NMT excluding stretching in comparison to NMT,
at follow-up after 7, 12, 26 and 52 weeks Table 2 Comparison of the odds of the outcomes between the treatment arms. The odds of having a MCI in pain intensity, MCI in
pain related disability and perceived recovery in NMT excluding manipulation and NMT excluding stretching in comparison to NMT,
t f ll
ft
7 12 26
d 52
k Table 2 Comparison of the odds of the outcomes between the treatment arms. Strengths The odds of having a MCI in pain intensity, MCI in
pain related disability and perceived recovery in NMT excluding manipulation and NMT excluding stretching in comparison to NMT,
at follow-up after 7, 12, 26 and 52 weeks
MCI
MCI in pain intensitya (n = 971)
MCI in pain related disabilityb (n = 691)
Perceived recoveryc (n = 977)
Treatment arms
NMTd
NMT excluding
manipulation
NMT excluding
stretching
NMTd
NMT excluding
manipulation
NMT excluding
stretching
NMTd
NMT excluding
manipulation
NMT excluding
stretching
Follow-up in weeks
OR 95%CI
OR 95%CI
OR 95%CI
OR 95%CI
OR 95%CI
OR 95%CI
7
1.0
0.93 (0.68–1.27)
1.00 (0.73–1.37)
1.0
1.08 (0.72–1.64)
1.44 (0.93–2.21)
1.0
1.21 (0.88–1.65)
1.12 (0.82–1.53)
12
1.0
0.74 (0.54–1.03)
0.96 (0.70–1.33)
1.0
1.01 (0.65–1.59)
1.38 (0.86–2.20)
1.0
0.90 (0.66–1.23)
0.98 (0.72–1.34)
26
1.0
0.83 (0.60–1.15)
0.85 (0.62–1.17)
1.0
1.21 (0.77–1.91)
1.05 (0.67–1.64)
1.0
0.90 (0.66–1.24)
1.04 (0.76–1.43)
52
1.0
0.84 (0.61–1.17)
0.83 (0.60–1.15)
1.0
0.99 (0.61–1.61)
0.73 (0.46–1.17)
1.0
1.00 (0.73–1.38)
0.89 (0.65–1.22)
aMCI (minimal clinically important improvement) in pain intensity was defined as at least two-step decrease from baseline to follow-up, measured with numerical
rating scale 0–10 (0 = no pain, 10 = pain as bad as could be)
bMCI (minimal clinically important improvement) in disability was defined as at least one-step decrease from baseline to the follow-up, measured with numerical
rating scale 0–10 (0 = no interference, 10 = unable to carry on with these activities)
cPerceived recovery dichotomized into recovered (= Is completely free from pain and have no other complaints originating from neck/back or Is considerably
improved)/not recovered (= Is slightly improved, No change, Is slightly worse or Is much worse)
dNMT = Naprapathic manual therapy (spinal manipulation, mobilization, stretching and massage) Fig. 2 The proportions of patients with MCI in pain intensity and pain related disability. The proportions of male and female patients with a MCI
in pain intensity and MCI in pain related disability in the treatment arms with 95 % confidence intervals (95 % CI) at all follow-ups over 1 year Fig. 2 The proportions of patients with MCI in pain intensity and pain related disability. The proportions of male and female patients with a MCI
in pain intensity and MCI in pain related disability in the treatment arms with 95 % confidence intervals (95 % CI) at all follow-ups over 1 year Paanalahti et al. Strengths BMC Musculoskeletal Disorders (2016) 17:176 Page 8 of 10 Fig. 3 The mean scores of pain intensity and pain related disability. The mean scores of pain intensity and pain related disability with 95 %
confidence intervals (95 % CI) for male and female patients at all follow-ups over one year Fig. 3 The mean scores of pain intensity and pain related disability. The mean scores of pain intensity and pain related disability with 95 %
confidence intervals (95 % CI) for male and female patients at all follow-ups over one year not experienced therapists. This may have an effect on
the results. The students had treated patients, 2 days a
week, under supervision during six semesters before the
study started, but it is possible that the results could
have been different if the patients had been treated by
registered naprapaths with longer clinical experience
and more skills in manual techniques. This may limit
the possibility to compare the results from our study to
previous studies and it may affect the external validity of
the results. To explore this, we have compared the re-
sults from this study with one of our previous studies
comparing NMT with the advice to stay active for pa-
tients with neck and/or back pain [18]. In the current
study, the proportion of patients reaching MCI in pain
intensity was 64 % and a MCI in disability was 42 % in
the NMT-group at the 12 weeks follow-up. In the previ-
ous study the corresponding proportions were 69 and
73 % for the index group (NMT). There might be some
differences between the two study populations, and the
similarities in proportions of MCI in pain but not in was similar across treatment arms, indicating that the
risk for unmeasured and residual confounding is low. A
trained research assistant implemented the randomization,
the data collection and the data input. She was also re-
sponsible for data quality management which was per-
formed regularly during the study. All analyzes were done
by a biostatistician who was not involved in the data col-
lection or the randomization process. We therefore claim
that the study has high internal validity. The outcomes are clinically important and measured
longitudinally with 1 year follow-up enabling to compare
the long term effects for different treatment modalities. The total number of therapists in this study was 260. Strengths This increases the external validity by referring the effect
of the treatment to the therapy itself rather than a
specific set of therapists. Implication for clinical practice There is an ongoing discussion about if treatment with
some of the manual techniques used by manual thera-
pists is associated with a higher risk of adverse events,
and if such an increased risk is relevant for the potential
benefits in effect of the treatment. The results of this
study suggest that exclusion of spinal manipulation or
stretching from combined manual therapy do not have a
significant effect on improvement in pain intensity, in
pain related disability and in perceived recovery in short
and long term for patients seeking care for unspecific
back and/or neck pain. In our previously published study
[19] based on the first included 767 patients in the same
trial, exclusion of spinal manipulation or stretching did
not affect the risk of adverse events for patients with
non-specific neck and/or back pain. Author details
1 1Musculoskeletal & Sports Injury Epidemiology Center, Institute of
Environmental Medicine, Karolinska Institutet, Box 210, Stockholm SE-17177,
Sweden. 2Occupational and Industrial Orthopaedic Center (OIOC), NYU
Hospital for Joint Diseases, New York University Langone Medical Center, 63
Downing Street, New York, NY 10014, USA. 3Naprapathögskolan -
Scandinavian College of Naprapathic Manual Medicine, Kräftriket 23A,
Stockholm SE-11419, Sweden. 4Institute of Health Policy, Management and
Evaluation, University of Toronto, 4th Floor, 155 College St, Toronto ON M5T
3 M6, Canada. 5Unit of Biostatistics, Institute of Environmental Medicine,
Karolinska Institutet, Box 210, Stockholm SE-17177, Sweden. Acknowledgements We would like to show our gratitude to students (classes DN39, DN40, DN41
and DN42), patients who made this study possible and to Anna Peterson for
data collection and maintenance of the database. The financial support for
the study was obtained from the SCNMM and the SNA. Availability of data and materials The dataset supporting the conclusions of this article is
stored at the Institute of Environmental Medicine,
Karolinska Institutet, Stockholm, Sweden, and the pri-
mary investigator is ES. Data will not be shared or avail-
able in an open access repository because the authors
have not finished the data analysis yet. If anyone is inter-
ested in exploring specific issue, please contact ES. Abbreviations CPQ: Chronic Pain Questionnaire; GEE: generalized estimating equations;
MCI: minimal clinically important improvement; NMT: naprapathic manual
therapy; RCT: randomized controlled trial; RR: relative risk; SCNMM: Scandinavian
College of Naprapathic Manual Medicine; SNA: Swedish Naprapathic
Association; Stockholm MINT trial: Stockholm Manual Intervention Trial. Competing interest The financial support for submitted work was obtained from the Swedish
Naprapathic Association (SNA) and the Scandinavian College of Naprapathic
Manual Medicine (SCNMM). The funding bodies had no role in the design of
the study, collection, analysis, or interpretation of data or in writing the
manuscript. KP doctoral student position was financed by the SNA and the
SCNMM. Today KP has a part time position at SCNMM. ES had a part time
position at the SCNMM when the trail was implemented. Today ES has a full
time position at Karolinska Institutet partly financed by grants from the SCNMM
and from the SNA and she consults in teaching and research for SCNMM. LWH
does consultancy for SCNMM, MN declare no conflict of interest, MA has a part
time position at the SCNMM and JL does consultancy in teaching for SCNMM. None of the authors have any competing interests. Authors’ contributions ES and LWH designed the trial. All authors interpreted data. JH made the
statistical analyses, KP and ES wrote the first version of the manuscript. All
authors (KP, LWH, MN, JH, JL, MA, ES) critically revised different versions of
the manuscript, and all authors read the final version of the manuscript. ES is
the corresponding author. These findings might be of importance for patients
and for manual therapists when choosing treatment
strategies for non-specific neck and/or back pain, even
though the result might be limited to treatments given
by students. It might not be of importance if we use
spinal manipulation and/or stretching strategies when
we use combined manual therapy to treat unspecific
back and/or neck pain on a group level, and therefore
the choice of techniques can be based also on clinical
and clinicians indications and patient preferences. Limitations The therapists in this study were students at their
seventh semester out of total of eight semesters, thus Paanalahti et al. BMC Musculoskeletal Disorders (2016) 17:176 Page 9 of 10 pain related disability indicate that the result of this trial
cannot be generalized to treatment given by experienced
naprapaths. Ethics approval and consent to participate
The trial was approved by the Ethical review board in
Stockholm, Sweden, 2009/1848-31/2. Informed consent
was received from all study participants including con-
sent for publication of the results. Ethics approval and consent to participate
The trial was approved by the Ethical review board
Stockholm, Sweden, 2009/1848-31/2. Informed conse
was received from all study participants including co
sent for publication of the results. Ethics approval and consent to participate
The trial was approved by the Ethical review board in
Stockholm, Sweden, 2009/1848-31/2. Informed consent
was received from all study participants including con-
sent for publication of the results. This study was completed at an educational clinic. To
confirm if the patients in this trial were comparable to
patients visiting other naprapath clinics in Stockholm,
we conducted a validation study. In this validation study
the first included 111 patients in our trial study were
compared to 97 patients seeking care for neck and/or
back pain during the same time period, in three other
clinics in the same geographical area. The result were
that the patients in this trial were younger compared to
patients visiting the other clinics (35.0 [SD 12.0] years
and 42.0 [10.7] years respectively). The mean number of
previous naprapathic treatments for the patients in
the present study was 1.9 (SD = 0.9) compared to 2.5
(SD = 0.7) for those visiting other clinics. Additional
parameters like physical activity, pain and disability
scores and educational level were equal in the two
populations (unpublished data by Joakim Ahlgren). Received: 15 December 2015 Accepted: 9 April 2016 References 22. Ware Jr J, Kosinski M, Keller SD. A 12-Item Short-Form Health Survey:
construction of scales and preliminary tests of reliability and validity. Med Care. 1996;34(3):220–33. 1. Moth G, Olesen F, Vedsted P. Reasons for encounter and disease patterns in
Danish primary care: changes over 16 years. Scand J Prim Health Care. 2012;30(2):70–5. 23. Von Korff M, Ormel J, Keefe FJ, Dworkin SF. Grading the severity of chronic
pain. Pain. 1992;50(2):133–49. 2. Hansson EK, Hansson TH. The costs for persons sick-listed more than one
month because of low back or neck problems. A two-year prospective
study of Swedish patients. Eur Spine J. 2005;14(4):337–45. 2. Hansson EK, Hansson TH. The costs for persons sick-listed more than one
month because of low back or neck problems. A two-year prospective
study of Swedish patients. Eur Spine J. 2005;14(4):337–45. 24. Smith BH, Penny KI, Purves AM, Munro C, Wilson B, Grimshaw J, et al. The
Chronic Pain Grade questionnaire: Validation and reliability in postal
research. Pain. 1997;71(2):141–7. 3. Manchikanti L, Singh V, Datta S, Cohen SP, Hirsch JA. Comprehensive review
of epidemiology, scope, and impact of spinal pain. Pain Physician. 2009;12(4):E35–70. 3. Manchikanti L, Singh V, Datta S, Cohen SP, Hirsch JA. Comprehensive review
of epidemiology, scope, and impact of spinal pain. Pain Physician. 2009;12(4):E35–70. 25. Turner JA, Franklin G, Heagerty PJ, Wu R, Egan K, Fulton-Kehoe D, et al. The association between pain and disability. Pain. 2004;112(3):307–14. 26. Salaffi F, Stancati A, Silvestri CA, Ciapetti A, Grassi W. Minimal clinically
important changes in chronic musculoskeletal pain intensity measured on a
numerical rating scale. Eur J Pain. 2004;8(4):283–91. 4. Rubinstein SM, van Middelkoop M, Assendelft WJJ, de Boer MR, MW. vT. Spinal manipulative therapy for chronic low-back pain. Cochrane Database
of Systematic Reviews 2011;(2):CD008112 27. Mathias SD, Crosby RD, Qian Y, Jiang Q, Dansey R, Chung K. Estimating
minimally important differences for the worst pain rating of the Brief Pain
Inventory-Short Form. J Support Oncol. 2011;9(2):72–8. 5. Gross A, Langevin P, Burnie SJ, Bedard-Brochu MS, Empey B, Dugas E,
et al. Manipulation and mobilisation for neck pain contrasted against
an inactive control or another active treatment. Cochrane Db Syst Rev. 2015;9:CD004249. 28. Hoogendoorn WE, Bongers PM, de Vet HC, Twisk JW, van Mechelen W,
Bouter LM. Comparison of two different approaches for the analysis of data
from a prospective cohort study: an application to work related risk factors
for low back pain. References Occup Environ Med. 2002;59(7):459–65. 6. Furlan AD, Imamura M, Dryden T, Irvin E. Massage for low-back pain. Cochrane Db Syst Revi. 2008;4:CD001929. Cochrane Db Syst Revi. 2008;4:CD001929. for low back pain. Occup Environ Med. 2002;59(7):459–65. 7. Patel KC, Gross A, Graham N, Goldsmith CH, Ezzo J, Morien A, et al. Massage
for mechanical neck disorders. Cochrane Db Syst Rev. 2012;9:CD004871. 29. Zeger SL, Liang KY. Longitudinal data analysis for discrete and continuous
outcomes. Biometrics. 1986;42(1):121–30. for mechanical neck disorders. Cochrane Db Syst Rev. 2012;9:C 8. Korthals-de Bos IB, Hoving JL, van Tulder MW, Rutten-van Molken MP, Ader
HJ, de Vet HC, et al. Cost effectiveness of physiotherapy, manual therapy,
and general practitioner care for neck pain: economic evaluation alongside
a randomised controlled trial. BMJ. 2003;326(7395):911. 30. Hurwitz EL, Morgenstern H, Harber P, Kominski GF, Yu F, Adams AH. A
randomized trial of chiropractic manipulation and mobilization for patients
with neck pain: clinical outcomes from the UCLA neck-pain study. Am J
Public Health. 2002;92(10):1634–41. 9. Bronfort G, Haas M, Evans R, Leininger B, Triano J. Effectiveness of manual
therapies: the UK evidence report. Chiropr Osteopat. 2010;18:3. 31. Espi-Lopez GV, Gomez-Conesa A. Efficacy of manual and manipulative
therapy in the perception of pain and cervical motion in patients with
tension-type headache: a randomized, controlled clinical trial. J Chiropr
Med. 2014;13(1):4–13. 10. Furlan AD, Fatemeh Y, Tsertsvadze A, Gross A, van Tulder M, Santaguida L,
et al. A Systematic Review andMeta-Analysis of Efficacy, Cost-Effectiveness,
and Safety of Selected Complementary and AlternativeMedicine for Neck
and Low-Back Pain. Evid Based Complement Alternat Med. 2012;2012:953139. 32. Cleland JA, Fritz JM, Kulig K, Davenport TE, Eberhart S, Magel J, et al. Comparison of the effectiveness of three manual physical therapy
techniques in a subgroup of patients with low back pain who satisfy a
clinical prediction rule: a randomized clinical trial. Spine (Phila Pa 1976). 2009;34(25):2720–9. 11. Sutton DA, Cote P, Wong JJ, Varatharajan S, Randhawa KA, Yu H, et al. Is
multimodal care effective for the management of patients with whiplash-
associated disorders or neck pain and associated disorders? A systematic
review by the Ontario Protocol for Traffic Injury Management (OPTIMa)
Collaboration. Spine J. 2014. [Epub ahead of print] Review. 12. Rubinstein SM, Terwee CB, Assendelft WJ, de Boer MR, van Tulder MW. Spinal manipulative therapy for acute low back pain: an update of the
cochrane review. Spine (Phila Pa 1976). 2013;38(3):E158–77. 13. Conclusion The effect of manual therapy including spinal manipula-
tion, mobilization, stretching and massage for male and
female patients seeking care for neck and/or back pain
at an educational clinic is similar regardless if spinal ma-
nipulation or stretching is left out as a treatment option. Received: 15 December 2015 Accepted: 9 April 2016 Page 10 of 10 Page 10 of 10 Page 10 of 10 Paanalahti et al. BMC Musculoskeletal Disorders (2016) 17:176 References Hayden JA, van Tulder MW, Tomlinson G. Systematic review: strategies for
using exercise therapy to improve outcomes in chronic low back pain. Ann
Intern Med. 2005;142(9):776–85. 14. Southerst D, Nordin MC, Cote P, Shearer HM, Varatharajan S, Yu H, et al. Is exercise effective for the management of neck pain and associated
disorders or whiplash-associated disorders? A systematic review by the
Ontario Protocol for Traffic Injury Management (OPTIMa) Collaboration. Spine J. 2014. [Epub ahead of print] Review. 15. Lilje S, Friberg H, Wykman A, Skillgate E. Naprapathic manual therapy or
conventional orthopedic care for outpatients on orthopedic waiting lists?:
A pragmatic randomized controlled trial. Clin J Pain. 2010;26(7):602–10. 16. Lilje SC, Persson UB, Tangen ST, Kasamoen S, Skillgate E. Costs and Utilities
of Manual Therapy and Orthopedic Standard Care for Low Prioritized
Orthopedic Outpatients of Working Age: A Cost Consequence Analysis. Clin
J Pain. 2014; 30(8):730-736. 17. Skillgate E, Bohman T, Holm LW, Vingard E, Alfredsson L. The long-term effects
of naprapathic manual therapy on back and neck pain - results from a
pragmatic randomized controlled trial. BMC Musculoskelet Disord. 2010;11:26. Submit your next manuscript to BioMed Central
and we will help you at every step: Submit your next manuscript to BioMed Central
and we will help you at every step: 18. Skillgate E, Vingard E, Alfredsson L. Naprapathic Manual Therapy or
Evidence-based Care for Back and Neck Pain: A Randomized. Controlled
Trial Clin J Pain. 2007;23(5):431–9. • We accept pre-submission inquiries
• Our selector tool helps you to find the most relevant journal
• We provide round the clock customer support
• Convenient online submission
• Thorough peer review
• Inclusion in PubMed and all major indexing services
• Maximum visibility for your research
Submit your manuscript at
www.biomedcentral.com/submit
a d we w
e p you at eve y step: 19. Paanalahti K, Holm LW, Nordin M, Asker M, Lyander J, Skillgate E. Adverse
events after manual therapy among patients seeking care for neck and/or
back pain. A randomized controlled trial. BMC Musculoskelet Disord. 2014;15:77. 20. Wilow K. Författningshandbok för personal inom hälso- och sjukvården. Liber: Stockholm; 2004. 21. Skillgate E, Vingard E, Josephson M, Theorell T, Alfredsson L. Life events and
the risk of low back and neck/shoulder pain of the kind people are seeking
care for: results from the MUSIC-Norrtalje case–control study. J Epidemiol
Community Health. 2007;61(4):356–61. 21. Skillgate E, Vingard E, Josephson M, Theorell T, Alfredsson L. Life events and
the risk of low back and neck/shoulder pain of the kind people are seeking
care for: results from the MUSIC-Norrtalje case–control study. J Epidemiol
Community Health. 2007;61(4):356–61.
|
W2023488622.txt
|
https://zenodo.org/records/2518651/files/article.pdf
|
en
|
Ambidexterity and Delayed Speech Development
|
The Pedagogical seminary
| 1,918
|
public-domain
| 9,599
|
This article was downloaded by: [Central Michigan University]
On: 15 January 2015, At: 07:05
Publisher: Routledge
Informa Ltd Registered in England and Wales Registered Number: 1072954
Registered office: Mortimer House, 37-41 Mortimer Street, London W1T 3JH, UK
The Pedagogical Seminary
Publication details, including instructions for authors and
subscription information:
http://www.tandfonline.com/loi/vzps20
Ambidexterity and Delayed Speech
Development
Margaret Morse Nice
Published online: 30 Aug 2012.
To cite this article: Margaret Morse Nice (1918) Ambidexterity and Delayed
Speech Development, The Pedagogical Seminary, 25:2, 141-162, DOI:
10.1080/08919402.1918.10534734
To link to this article: http://dx.doi.org/10.1080/08919402.1918.10534734
PLEASE SCROLL DOWN FOR ARTICLE
Taylor & Francis makes every effort to ensure the accuracy of all the information
(the “Content”) contained in the publications on our platform. However, Taylor
& Francis, our agents, and our licensors make no representations or warranties
whatsoever as to the accuracy, completeness, or suitability for any purpose of the
Content. Any opinions and views expressed in this publication are the opinions and
views of the authors, and are not the views of or endorsed by Taylor & Francis. The
accuracy of the Content should not be relied upon and should be independently
verified with primary sources of information. Taylor and Francis shall not be liable
for any losses, actions, claims, proceedings, demands, costs, expenses, damages,
and other liabilities whatsoever or howsoever caused arising directly or indirectly in
connection with, in relation to or arising out of the use of the Content.
This article may be used for research, teaching, and private study purposes. Any
substantial or systematic reproduction, redistribution, reselling, loan, sub-licensing,
systematic supply, or distribution in any form to anyone is expressly forbidden.
Downloaded by [Central Michigan University] at 07:05 15 January 2015
Terms & Conditions of access and use can be found at http://www.tandfonline.com/
page/terms-and-conditions
AMBIDEXTERITY AND DELAYED SPEECH
DEVELOPMENT
Downloaded by [Central Michigan University] at 07:05 15 January 2015
By MARGARET MORSE NICE, Norman, Oklahoma.
The present paper is a study of a number of cases of delayed
speech with special reference to the "handedness" of the
children. It has often been observed that interference with
congenital left-handedness has caused disturbances in speech,
although this does not always happen; the literature on this
subject will be reviewed briefly.
Whipple ('11) reports three such cases and in a personal
letter speaks of "ten or twelve more." Jones (' 15) says,
" The fact that I have found a larger number of feeble-minded
. individuals and stutterers among the 419 transfers of my
study easily causes me to fear any transfer from one arm to
the other." Smith ('17) found a high percentage of lefthandedness in a school for stammerers. Scripture ('17) and
her co-workers in the treatment of speech defects report:
"Among the left-handed patients who had come to us for
training we found a number whose speech defect appeared
at about the same time that they were forced to change to
the dextral hand. We were able to find some twenty cases
which seem to us clearly indicative of the interaction of these
two motor coordinations." Bolk and Lueddekins ('00) as'
reviewed by Scripture, "found an anomaly of speech in 24
per cent of the left-handed children of normal mental qualities, in those of mediocre, 35 per cent and in those of lower
mental qualities, 44 per cent." Ballard ('12) examined 431
left-handed school children and gives convincing figures. He
found that: "The proportion of stammerers among normal
children is probably not higher than 2 per cent; but among
dextro-sinistral (left-handed yet forced to write with the
right hand) children of school age the percentage is 17. One
in every six stammers, and, if the past school career is taken
into account, one in every four." "It is highly significant
that among those cases where no serious attempts had been
made to change the skillful hand, not a single instance of
stammering appeared." Stier ('11) found the percentage
of stutterers among the German soldiers in general is at the
highest 0.5 per cent, but among the left-handed soldiers from
141
Downloaded by [Central Michigan University] at 07:05 15 January 2015
142 AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
6.6 to 8.5 per cent, ten times as much. Of 33 left-handed children, 17 stuttered, stammered or lisped.
Prof. C. W. Shannon of Norman, Okla., tells of a very
left-handed boy, 12 or 14 years old, whose family and teachers
had tried to make him use his right hand. He talked very
fast and stammered to some extent when excited.
The following analysis of a case of speech difficulties in
connection with left-handedness has been given me by Mrs.
Miriam Oatman-Blachly of Norman, Okla. F. comes from a
long line of physicians, ministers, missionaries, lawyers and
college professors, his father and mother having been first
cousins. He is the second of eight brothers. He was brought
up in Colorado where school facilities were poor and many
of his associates were illiterate, yet those who formed his
home circle were all persons of culture. His grandmother and
father possessed a considerable talent for making rhymes and
jingles, a gift shared by F. The grandmother instructed the
children in mathematics and theology, their uncle spent hours
in reciting to his nephews the great events in English history,
clothed in the most impressive language, while their mother
read aloud to the boys a great deal, reading Shakespeare's
plays to them before they were of school age. "This family
circle must have counteracted to a large extent the tendency
to uncouth methods of speech which the rural schools would
give. Probably the opposition between two speech standards,
that of the home and that of the community, ought to be
considered in the case under discussion."
F's schooling came to a sudden end when he was 14 years
old; for ten years he farmed and raised cattle, yet during
this time he read many standard works of English literature
and memorized a considerable amount of poetry while riding
after cattle. He was finally able to continue his education,
completing his preparatory and college work in six years; he
received his Ph.D. degree, spent two years in research and
since then has been professor of government in a university.
"It is evidently not lack of educational facilities that can
wholly account for his speech difficulties, though the hiatus
during adolescence may have had some effect. However,
are not speech habits formed principally in early childhood?"
His father was naturally left-handed, but had learned the
use of his right hand. F's fifth brother, now dead, was also
left-handed, but was made to use the right hand. He was the
slowest of all eight boys in learning to speak, not talking
much till he was three or four. He also had great difficulty
in writing and spelling.
F. was left-handed, but prevented from using it at a very
Downloaded by [Central Michigan University] at 07:05 15 January 2015
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
143
early age by his father, and also at school was made to use his
right hand for writing. He, his father and brother were
almost ambidextrous in many kinds of manual work. He
began to talk at 14 months, which was later than his brothers
except the other left-handed one; the oldest beginning at 9
months. His mother reports that "he was always a very
silent child."
F's difficulties in regard to speech are as follows:
"1. F. finds it almost impossible to remember the pronunciation of words, even though he may have been told repeatedly
how to pronounce them, or may have looked them up in the
dictionary several times. He explains this by saying that his
sight is defective, and also that he reads by noticing ideas,
not word forms. This is true, but why can he not fix the word
form in memory when he does notice it, as in using the dictionary?
2. Of a piece with this difficulty is his trouble in acquiring
a foreign language. He can read German fairly well, but his
pronunciation is hopeless; and however many times he may
have been told the pronunciation of a French phrase, he seems
absolutely unable to remember it.
3. In memorizing the vocabulary of a foreign language
he has great difficulty. Of course he learned them late-after
he was 24.
4. Spelling in any language is his bele nair. It ought to be
remarked that large and technical words which he has acquired
late in life are easier for him to spell than those words acquired in childhood.
5. His writing is almost illegible. Examination of the writing of several members of his family shows that they all write
legible hands. He prefers to use the typewriter whenever
possible, partly because writing with the pen bores him, partly
because he says that typing forms an excuse for misspelled
words. His writing varies a great deal and is not reduced
to standard forms, but he makes the same letter in several
different ways.
6. In reading aloud he often stumbles over very familiar
words.
7. In lecturing or talking he often has the greatest difficulty
in finding the words that he wishes to use, and hesitates noticeably until he recalls them.
8. His memory for ideas, and for details of many kinds,
is remarkably good, while his memory for words is very poor.
He knows a great deal of poetry and a quantity of scripture,
but he seldom quotes anything with precision:'
144
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
DELAY OF SPEECH IN CONNECTION WITH HANDEDNESS
Before we can discuss the subject of delayed speech development we should establish, if possible, some standard of normal
speech development.
Downloaded by [Central Michigan University] at 07:05 15 January 2015
NORMAL SPEECH
DEVELOPMENT
The First Word
Bateman ('17) has reviewed the literature on this subject and gives us exactly the data we need. Of eighteen
English speaking children, one began to talk at 8 months, two
at 9, five at 10, one at lOy;;, three at 11, three at 12, one at
13 and two at 14. "Of the 35 children, 15 or 42.85 per cent
are in the 10-11 group, while 26 or 74.28 per cent have begun
articulate speech by the end of the first year." "From the
above it would appear that a child of good heredity and environment who has not begun talking at 15 months of age is
more or less retarded in this respect, and a like failure at 18
months should instigate an examination for probable cause."
N ormal Speech Development at Two Years
Twenty-five vocabularies of two-year-old English speaking
children appear to have been published, 18 of girls and 7 of
boys. The girls, except for a single example of one very small
vocabulary of 36 words (Tracy, '95), range from 263 to
1,227 words, their average being 556. The boys range from
115 to 771 words, their average being 384. The average of
all 25 is 508. Since many of these vocabularies are probably
unusually large, a safe estimate would seem to be that the
normal child of two years has a vocabulary of 200 words or
more.
Moreover, the average child of this age is putting words
together in sentences. In studies of children's vocabularies
the date of the first sentence is given at 14, 15, 16, 17, 17, 19
and 19 months. The only one who is reported as beginning
later than two years is Mateer's brother ('08), who' was undeniably retarded in talking: "he was three years old before
he began to make any connected sentences in speaking." Holt
('10) voices the consensus of experience when he says, "At
the end of the second year the average child is able to put
words together in short sentences."
N ormal Speech Development at Three Years
The 11 published vocabularies of three-year-old children
range from 681 to 1,807 words, their averag-e being 1,338.
Six hundred words for the vocabulary of the normal three-
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
145
Downloaded by [Central Michigan University] at 07:05 15 January 2015
year-old would seem a conservative estimate. The speech of
the ordinary three-year-old child approximates that of the
adult, i. e., verbs are inflected, conjunctions, articles, pronouns
and the verb "to be" are all used.
To sum up then; our standard for normal speech development is: the first word by 15 months; at two years, a vocabulary of at least 200 words, and sentences used; at. three years,
a vocabulary of at least 600 words, and the parts of speech
all represented.
DELAYED SPEECH OF LEFT-HANDED CHILDREN IN CONNECTION
WITH COMPULSORY RIGHT-HANDEDNESS
Stier ('11) found that 6 of the 33 left-handed children
already mentioned-18 per cent-learned to talk late. In 1915
I published some observations on a little girl who had been
prevented from using her left hand till she was two, but left
free after that; she is still decidedly left-handed. She did
not talk at all by the time she was two and at the age of three
and a half her language was almost unintelligible. She improved rapidly in speech after this until at four and a half
she talked nearly as well as other children of her age. Now,
at the age of seven in the third grade she has a good deal
of difficulty with spelling, though doing well in her other
subjects.
L., a boy fourth in a family of six children, was naturally
left-handed, but prevented from using it by his father at an
early age. The other five children learned to talk at the
conventional age, the oldest beginning at eight months. I
spent a day with his mother when he was 28 months old; the
only words I heard him say were" Mamma" and" Moo,"
but probably there were some others he could use. In' answer
to my questions, his mother wrote me when he was four
years old: "L. was very backward about talking but began
to talk all at once. He must have been nearly three years
old." I saw him at four years and again at five years and
four months. At both periods he stuttered when excited,
and at the latter age he could not pronounce "r" nor "dh,"
saying "rvIawy" and "dat."
Another case of delay in speech following interference with
left-handedness would appear to be furnished by Major's
('06) boy. At one year old the child was clearly left-handed
so the parents started in systematically to break up this preference. By the 16th month the right hand began gradually to
have the place of ascendancy and by the end of the second year
the child was "decidedly right-handed and has been ever
since." p. 45.
Downloaded by [Central Michigan University] at 07:05 15 January 2015
146 AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
His speech was markedly imperfect by the time he was
three, as the following quotations will show. "The only forms
of the personal pronoun which I am sure he used prior to the
fourth year were' I, itself, himself and it,' " p. 308,-a very
small list. "He used' I ' a dozen times during the latter part
of his third year. The' I ' seemed to take the place of 'Wa'
or 'Wadu '-his name for himself-for the moment." He
used no conjunctions at three. His father, evidently generalizing from the state of his son, says, "The relative pronouns are not used until long after the close of the period now
under review" (the first three years), p. 308. However, of
nine published vocabularies of three-year-olds, every child,
except possibly one, used relative pronouns. The sample sentences given for the 35th and 36th months show clearly his
retardation in speech.
"Was Wa han uh suf." (\Vants to wash his hands himself. )
"Tull Wa uh sins." (Tell R. what these things are.)
"Baby tine uh git uh soap." (Baby is trying to get the
soap.)
"Iss like uh tsame." (This card is like that one.)
A fourth example is furnished by N., a boy, only child of
a University professor of sociology; the information was given
me by his mother, a psychologist, Mrs. Anna Kranz Odum
of Athens, Ga. N. has always been well and robust; he
did not walk with assurance until past 18 months. He has
always used his hands well.
Before he was one year old" he had seemed to use the left
hand in preference to the right although the right hand was
used sometimes for throwing his toys or in fitting things
together." At about one year he started to suck the index
finger of his left hand and in consequence had to wear a
little mit. "Therefore he was forced to use the right hand
from then on for exact manipulations. The mits were of
thin cloth and loose enough for fine movements of the
fingers." Now, at the age of four, "the finger sucking habit
persists momentarily when fatigued or hungry. He is ambidextrous and uses his fork with either hand or his pencils,
and throws balls with either hand."
He began to talk at eight months, using" the word' pretty'
often and with various applications-to express satisfactionsomething desired and as a name for his toys." He had about
six words at one year. Simultaneously with the interference
with his left-handedness there appeared an arrest in his
speech for the next six months; at eighteen months he had
less than a dozen words in his vocabulary. His attempts
Downloaded by [Central Michigan University] at 07:05 15 January 2015
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
147
at learning to walk at the end of this period might possibly
have had something to do with this "plateau," but it hardly
seems possible that the influence could have lasted so long.
" From 19 months on he added new words to his vocabulary
rapidly. From two years on he talked much and used a
variety of words and short sentences, making sentences of
five and six words at two and a half years." Recently from
three months before his fourth birthday to two months after,
"he has shown more or less marked spells of stuttering, on
occasions when he seems excited or intense over something
he is trying to relate."
N's left-handedness was interfered with, but instead of his
being forced into right-handedness as the two other boys
mentioned, or remaining left-handed as the girl did, he is still
ambidextrous at the age of four, even to the extent of drawing with both hands which seems most unusual. He began
to talk early before the interference began; the six months
arrest in speech occurred at the same time as the interference.
His stuttering at four years may have some relation to the
earlier interference with his left-handedness, or to his present
ambidexterity.
AMBIDEXTERITY AND DELAY IN LEARNING TO TALK
Seven children whom I have observed in the last three
years have shown retardation in their speech development and
at the same time more or less marked ambidexterity.
As we have established a standard for normal speech development, let us see whether we can do this for "handedness,"
that is, when is right-handedness definitely established in the
average child?
NORMAL "HANDEDNESS"
There do not seem to be many observations on the normal
development of right-handedness in the baby. Meyer ('13)
"states the fact of general left-handedness in infancy," by
which term he means the first six or twelve months, but he
gives no observations on which he bases his belief. Mrs.
Wooley's ('10) baby was left-handed at 7 months and righthanded after 9 months. Baldwin ('95) as a result of very
elaborate experiments found that his daughter was ambidextrous when 5, 6 and 7 months old, right-handed at 8 months
and left-handed at 9 for a neutral stimulus within easy reaching distance; but when a colored object was substituted, or
the neutral stimulus placed farther away, she was decidedly
right-handed at this latter age. Dearborn's ('10) daughter
Downloaded by [Central Michigan University] at 07:05 15 January 2015
148 AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
was left-handed at five months, right-handed at 10 months,
ambidextrous at 12 months, and right-handed at 19 months.
Major's ('06) boy was ambidextrous at 3 months, righthanded at 4 and 5 months, ambidextrous from 6 to 11, and
left-handed from 12 to 15 months. His left-handedness was
discouraged as before mentioned so that by 16 months he
was right-handed.
. Dearborn's child is the only one observed after a year old,
except Major's boy, who, of course, had not a natural history.
In an attempt to gather more information on this subject,
I asked all my acquaintances with babies between one and two
and a half years old as to the handedness and speech development of their children. Only four of these parents had had
any particular interest in noting the handedness of their children or could give me an idea of when the baby became
predominantly right-handed; the others simply gave the present status of the child.
Sex
Boy'
Boy
Boy
Boy
BoyBoy"
Boy
Girl
Girl
Girl
Girl
Girl
Handedness
Right-handed at 6 months.
Right-handed, yet uses left
somewhat.
Right-handed at 14 months.
Right-handed.
Ambidextrous.
Right-handed "early".
Right-handed.
Right-handed.
Right-handed.
Right-handed.
Right-handed.
Right-handed.
Speech
Present
age in
months
Average in talking.
Does not yet talk.
30
13
Says 3 words.
About 8 words.
Says 2 words.
Does not use sentences.
Talks in long sentences.
Says 3 words.
About 8 words.
About 40 words.
Talks in long sentences.
Talks in long sentences.
16
15
16
22
22
12
15
19
26
27
i Father a physician.
Baby had been paralyzed on right side for two
weeks after birth on account of pressure of instruments, so parents noted
especially when he became right-handed.
2 Both parents medical students, mother also a biologist.
3 Grandmother left-handed.
Only one of the twelve children is reported as ambidextrous,
a boy of 16 months. Eight of these children were right-handed
by the time they were 19 months old and three others may
have been. We might say tentatively that if a child is not
definitely right-handed by 20 months that the fact is noted
by its relatives. But this is a subject on which we need much
more data.
AMBIDEXTERITY. AND DELAYED SPEECH DEVELOPMENT
149
Downloaded by [Central Michigan University] at 07:05 15 January 2015
THE HANDEDNESS AND .SPEECH DEVELOPMENT OF THE
CHILDREN OBSERVED
Cases I and II
D. is our second daughter and R. our third. Their father
was a precocious talker; according to his mother he "could
say everything at a year old, make sentences and tell a story.
He talked earlier than any other child I ever heard of; he
was a wonder to the neighborhood." Their mother appears
to have been an average child in learning to talk, saying her
first word, "Addie," at 13 months. All of her brothers and
sisters began to speak at about this same age, except the
oldest brother who" said very little even after he was two."
Their elder sister, E., exhibited a normal history of speech
development, (Nice, '15 and '17) beginning to talk at 14
months, having a vocabulary of 133 words at 18 months and
using sentences at 19 months. Her vocabulary at 3 years
included 1,139 words; at 4 years, 1,765; at 5 years, 2,502,
and at 6 years, 3,075 words. She crept at 8 months and walked
at 13. She developed a consistent right-handedness early.
She has been less skillful in the use of her hands than her
sisters; in cutting, sewing, dressing herself and drawing, D.
has done better than E. at the same ages.
Case I
D. has always had a splendid health and a fine physique,
all her life being taller and heavier than the measurements of
average children in Holt. She crept at 10 months and walked
at 15; the reason for her being later than E. was probably
because she was heavier.
D. was ambidextrous to some extent till after she was' two
years of age; at 25 months I noted, " When she draws on the
blackboard or on a paper she is as apt to use her left hand
as her right." She outgrew this ambidextrous tendency
rapidly ; in a month or two coming to use her right hand
exclusively when using the chalk or crayon.
D. did not begin to talk till she was 20 months old. She
learned 3 words that month, added 13 during her 21st month,
16 the next and 13 the next so that she was using 44 words
by her 2nd birthday. This is one-thirteenth as large as the
average of the published vocabularies for this age. I recorded
her all day's conversation when she was 2 years and 2 days
old. She said 7 different words and a total of 18. When
we compare this with Gale's boy ('00) who used 5,194 words
in one day at this age, and his friend's son who used 10,507
words, D. appears -considerably retarded!
3
Downloaded by [Central Michigan University] at 07:05 15 January 2015
150
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
She learned rapidly after this, adding 24 words the next
month. I recorded her all day's conversation again at 25
months and 12 days; at that time she said 28 different words
and 152 in all. By 26 months she had attained 145 words
and had begun to connect them in sentences. At 30 months
she had a vocabulary of 538 words. Five vocabularies of
children of this age have been published; two boys had 480
and 1,432 words while three girls had 769, 1,111 and 1,509
words, the average being 1,060, twice as much as D.
At three, D's vocabulary had grown to 856 words. This is
larger than two other girls who started to talk at 10 and 100
months, yet by three years had attained 681 and 736 words
respectively. The average of 11 vocabularies (this includes
D's) is 1,338. At 35 months we recorded D's whole day conversation; she used 2,018 sentences or 7,600 words, the average
number of words in a sentence being 3.77. Her sentences
were short; E. and Brandenburg's ('15) daughter at the same
age used sentences of 6 and 7 words on an average. When we
examine D's sentences we find omissions in many of them.
" I write bine (fine) letter. Want to write more letter. No,
dit (this) one my cow." Yet," is," "a," and" I " were not
uniformly omitted. From the character of her speech and the
shortness of her sentences, I would consider her still somewhat retarded at three, although her vocabulary contained
more than 600 words, and she used all the parts of speech.
At four, her vocabulary contained 1,506 words, the average
of 7 published vocabularies being 1,843. By this time her
speech development was certainly normal.
At five, by the Binet test, she had an understood vocabulary
of 3,600 words, the 8 year level.
Case II
R, our youngest daughter.
She has not been so uniformly well as our two older children. From the age of 8 months to 11 she had some digestive
troubles, part of the time being under-nourished. But since
then she has been perfectly well most of the time. She crept
at one year and walked at 16 months.
In giving an account of the use of her hands, I will give
only those records that appear to be of most significance.
The two main points on which I watched her were her use of
her hands in eating and with the pencil.
I will first give an account of her handedness in eating.
At 12 months, I noted: "She seems to be left-handed. She
often holds her toast in her left hand and although I change
it to the right, she usually changes back to her left."
Downloaded by [Central Michigan University] at 07:05 15 January 2015
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
151
For the next three months she appeared to be ambidextrous.
No effort was made to encourage right-handedness till after
she was 16 months old.
At 16 months I tested her three days in succession with
cornflakes placed in the middle of her tray. She used her right
hand 30 times and her left 22; so that her right was used
57.5 per cent of the time and her left 42.5. After this we took
pains to put her cornflakes on the right side of the tray.
At 19 months atone meal when eating cornflakes she used
her right hand 7 times and her left 6..
At 21 months when eating cornflakes with her bare hand
she used her right hand 18 times and her left 24. She was
given a spoon and used it entirely in her right hand. From
now on she used her left hand often at her meals, but always
changed to her right when it was suggested to her.
At 27 months. I kept track of the use of her hands at
meals for the first 12 days after she was 27 months old.
During this test period she was never reminded about changing to her right hand but she occasionally did it of her own
accord, patting her right hand in approbation.
21 meals were eaten wholly with the right hand.
1 meal was eaten wholly with the left hand.
8 meals were eaten half with the right and half with the
left.
4 meals were eaten mostly with the right.
2 meals were eaten mostly with the left.
The proportions may be represented as follows:
Use of Right Hand
Use of Left Hand
21
1
8
8
8
4
2
4
39
17
Therefore she used her right hand 69.6 per cent of the
time and her left 30.4 per cent.
I made another series of observations beginning 3 days
before she was 28 months old and lasting 7 days. Sixteen days
had elapsed between the two series during which time we
encouraged the use of her right hand.
18 meals were eaten wholly with the right hand.
3 meals were eaten half with the right and half with the
left.
1 meal was eaten mostly with the right.
152 AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
The proportions are as follows:
Use of Right Hand
18
.
Use of Left Hand
3
°3
2
I
23
4
Downloaded by [Central Michigan University] at 07:05 15 January 2015
She used her right hand 85 per cent of the time and her
left 15.
The use of her hands in these three tests may be summarized
as follows:
Age
16 months
27 months
28 months
Use of Right Hand
57.5 per cent
69.6 per cent
85' per cent
Use of Left Hand
42.5 per cent
30.4 per cent
IS per cent
During her 27th month the preponderance of her right hand
became so marked that bv 28 months her ambidextrous
tendency had almost disappeared.
N ow as to the use of the pencil.
At 16 months she took a pencil with her right hand, changed
to her left and made marks with it.
At 17 months she crayoned on paper and wrote once with
her right hand' and twice with her left.
At 25 months I gave her chalk in her right hand, she transferred it to her left and marked on the board with the left.
The next piece she took in her right hand and marked with
the right. With the third piece she began to mark with her
left hand but changed to her right. The next was used with
the left hand, but the last three were with the right. She
marked five times with her right hand and three with her left.
When 26 months and 2 days old, she crayoned a little with
her left hand but mostly with her right. Three days later
she started to scribble with her left hand but quickly changed
to her right.
'When 27 months old she used her right hand exclusively
for drawing.
In summing up this phase of her development, we find that
at 16 and 17 months she used the pencil in either hand indiscriminately; at 24 months she was in the experimental stage
but showing a slight preference for the right hand; at 26
months this preference had increased, but she was still experimenting to some extent. By 27 months she had definitely discovered that the right hand was the hand to draw with. In
the use of the pencil she was left absolutely free to work
out her own experiments and was not helped by direct training
as in the use of her spoon and fork.
Downloaded by [Central Michigan University] at 07:05 15 January 2015
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
153
R's speech development has been unusually slow. She
began to talk at 16 months, saying 2 words that month, but
these 2 words sufficed her for 5 months. Her vocabularies
of total words for each month follow: 16 months, 2 words;
23 months, 4 words; 24 months, 5 words; 25 months, 8 words;
26 months, 12 words; 27 months, 15, and 28 months, 25
words. Her vocabulary of 5 words at 2 years is one-hundredth
the size of the average of the published vocabularies. I
recorded her whole day's conversation at 2 years and one week;
she said 3 different words and 53 in all. Her 25 words at
28 months should be compared with the published vocabularies
of this age (Bateman,'16); there are six of these for English
speaking children; they range from 308 to 677 words, the average being 469, 19 times as large as R's.
By 27 months R. had become entirely right-handed in her
use of the pencil and by 28 months she was almost entirely
right-handed in her use of the spoon. During her 27th
month she made much more progress in talking than in any
of the preceding months, her vocabulary increasing 66 per
cent.
Although R. is so loath to speak, she constantly surprises
us by the amount she understands. She makes us understand
her too, by shouts, grunts, exclamations, squeals, gestures
and by taking hold of us and leading us to the desired place.
Pretending not to understand her, nor really failing to guess
her meaning seem to be no encouragement to her to express
herself more fully by the conventional method.
Case III
C. is a cousin of D. and R., her father being brother of
their mother. Her father" was very slow in learning to talk,
and said very little even even after he was two." She has
two older brothers who were perfectly normal in their speech
and handedness, the oldest being rather precocious in his use
of language. She had a severe illness-pneumonia and ear
trouble-from the age of 7 to 9 months, but since then has
been exceptionally well and sturdy, a very large child for
her age.
At 28 months, at which time I saw much of her, she was
markedly ambidextrous; she would eat with her right hand
for a while and then with her left. She seemed to use her
two hands perfectly interchangeably.
Her vocabularies at 2 years, 28 months and 30 months
were collected by her mother, Mrs. Ruth Tucker Morse of
Princeton, N. J.
Downloaded by [Central Michigan University] at 07:05 15 January 2015
154
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
2 years:
Nouns: 8. Baa, ball, brother, bow-wow, Daddie, Mamma,
moo, quack.
Adverbs: 3. Downstairs, more, no.
Interjections: 2. By-by, hullo,
Total-13 words. Adding one proper noun makes 14.
28 months: All of 2 year vocabulary repeated except "baa"
and "quack."
Nouns: 18,6 old and 12 new. Animal cracker, auto, baby,
bath, bread, brush, butter, choo-choo, girl, milk, potato, water.
Verbs: 2. See, come on.
Pronoun: 1. Me.
Adjectives: 3. Dirty, good, poor.
Adverbs: 8, 3 old and S new. All gone, outdoors, please,
there, yes.
Interjections: 3, 2 old and 1 new. Oh.
Total-3S words. Adding 4 proper nouns makes 39.
30 months: All of preceding vocabularies repeated.
Nouns: 69,20 old and 49 new. Apple, bag, beads, bed, bib,
bird, block, boat, boy, box, clock, cloth, color-book, cocoa, cup,
door, dress, egg, fish, geese, hands, hat, hay, hole, horse, ink,
juice, key, man, meat, moon, paper, peach, pear, picture, piece,
pin, pudding, rooster, rubber boots, rubbers, sheet, shoe, slippers, spoon, stone, teeth, toast, zwieback.
Verbs: 19,2 old and 17 new. Beat, broke, cry, don't, dress,
excuse, get, go, look, open, undress, pull, shut, tore, walk,
want, wash.
Pronouns: 4, I old and 3 new. I, mine, my.
Adjectives: 11, 3 old and 8 new. All, back, bad, bare,
blue, the, new, two.
Adverbs: 10, 8 old and 2 new. Here, out.
Interjections: 4, 3 old and 1 new. Good-night.
No conjunctions and no preposition.
Total-117 words. Adding 5 proper nouns makes 122.
Her vocabulary of 13 words at 2 years is one thirty-fifth as
large as the average of the published vocabularies of that
age. Her vocabulary of 3S words at 28 months is one-twelfth
as large as the average of the published vocabularies for that
age. At this time she began to put words together: "Poor
Barbar." "See-there dirty."
Her vocabulary at 30 months-117 words, although it shows
rapid improvement over the preceding, is only one-eighth as
large as the average of the S published vocabularies of this
age, 1,060. Sample sentences at this time were: "Cho-choo
Downloaded by [Central Michigan University] at 07:05 15 January 2015
AMBIDEXTERITY AND DELAYED SPEECH DEVELqPMENT
155
go over the wawa (water)." "Com'on, Mamma, or (1) want
bark (Zwieback)."
When she was 33 months old, her mother wrote: "c. still'
uses her left hand sometimes, but ordinarily uses her right.
Her vocabulary has increased tremendously. She is such a
chatterbox now that she has really found a use for her tongue."
I saw the child for a few days when she was 3 years and 4
months old. She was decidedly right-handed and a great
talker. She mixed her pronouns, preferring to call her girl
cousins "he." She did not seem to have quite recovered lost
time, most children of her age talking more distinctly and
more correctly than she.
Case IV
G. is also a cousin of D. and R. but on the father's side,
her father is brother to their father. She is the first child in
the family, Her father stutters to some extent.
I saw her for one day when she was 2 years old. At that
time she appeared to use both hands interchangeably. This
was confirmed by her aunt, a College student, who took much
care of her, and whom I asked to observe her.
Although I listened carefully, I did not hear her say a
single word. Her aunt reported her two year vocabulary as
consisting of 7 words: Baby, Mamma, Papa.• see, here, now,
by-by. This is one-seventieth as large as the average of the
published vocabularies.
I saw her again for a day when she was three and noticed
that she still used her left hand equally with her right. Her
father, when asked whether G. was left-handed, said, "She
uses one as handily as the other," and then bade her eat with
her other hand and she obediently changed from her right
to her left. There has been no attempt to encourage righthandedness in her case.
She is a quiet, rather shy child, and talked less than usual
with strangers about. All I heard _her say were single words:
"Eggy," "broke," "bile (auto)," "baby," "don't," "Poppy."
Her relatives said she did put some words together, but all
they could think of were" Grea' big bile," " Grandpa's baby "
and" big blue hen."
G. apparently talks less than an average 2 year old child.
She is the oldest child I have personally observed who uses
one hand as much as the other.
Her sister, 18 months younger than G. uses her right hand
more than her left. She talked nearly as much as G. when
I saw the two children. Two months later their aunt wrote
that she" talks better than G."
-
156 AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
Downloaded by [Central Michigan University] at 07:05 15 January 2015
Case V
M. came under my observation when 3 years old as a playmate of my own children. She is the daughter of a physician,
having one brother 7 years older. She was delicate as a baby,
as was her brother.
Her mother said she had been slow in learning to use her
right hand; she would take her spoon in her left hand and
her mother would have to change it. Yet if she spoke about
it, M. would be apt to persist in her wayward ways.
She talked late; her mother was in despair lest she never
would talk. She hardly talked at all at 2, and did not form
sentences till she was 2.%, whereas the brother talked in sentences at 18 months. At 3 years and 3 months it was impossible for a stranger to understand her when she said more
than a few words. She left out" is" and many of her consonants.
Case VI
U. is a girl, only child of a farmer. I became acquainted
with her and her mother on the interurban when she was 20
months old. She was a large, healthy looking youngster who
had walked" at 14 months all at once." Noticing a scar on
her left thumb I asked the cause of it, and how she used her
hands. She had fed the cat and been bitten. She used her
left hand "right smart," always for throwing, so that her
father was bothered. However her mother said she used her
right hand more. There was no left-handedness in the family.
She talked very little according to her mother, saying
" Daddy," " myow," " ch " for horse, " all right," and" Where
is it?" All others of the family connections have been in the
habit of talking long sentences by the time they are two
years old.
Case VII
W. is a boy, only child of a college professor of biology.
I saw him often from the age of 10 months to 18, but practically all the data has been supplied by his mother, a writer,
Mrs. Marjorie Hill Allee, of Lake Forest, Ill. W. has always
been a sturdy child and large for his age. He walked at 14
months.
He was ambidextrous till he reached the age of two and
a half. "He was not any more left-handed than right-handed,
my impression is that he always favored the right hand a little,"
wrote his mother. "I used to take some pains to put his spoon
on the right hand side of his tray, but I don't need to do that
any more (at 3 years). At 2 he was still uncertain which
hand to use. At 3 he much prefers his right to his left, but
is not particularly clever with either, though quite strong."
Downloaded by [Central Michigan University] at 07:05 15 January 2015
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
157
As to his speech history, "at 18 months he had a rather
indefinite' see' and at 20 months he added a very plain' cow.'
He seemed to understand our talk to him well enough for all
practical purposes." At 2 he said only a few words.
His mother started to collect his vocabulary at 3, but sent
it on still incomplete. She did not include proper nouns, nor
animal noises, "nor colors, nor numbers, of which he is still
rather uncertain, though in a general way be understands their
meaning. Outside of these I should say that there were perhaps 50 more words I have not caught and that the majority
of them were nouns." As it stands it contains only 271 words;
adding 50 makes it 320. Of course this is approximate, yet
it is significant on account of. its very small size. The smallest
3 year old vocabulary published contains 681 words, the largest
1,807 and the average of the eleven published is 1,338-four
times as large as W's.
His pronunciation was imperfect, final letters often being
left off. "His supply of verbs is very short and irregular;
of these he can use the third singular present and the 'ing'
form in every case. Usually he leaves out the verb if possible." Of personal pronouns he used" me, mine, my, you
and thee." "My" was often used as the nominative. He did
not use "I, we, him, her" or "they," substituting the name.
He used "me" occasionally but confused it with "my -" or
" mine." He did not use " a " or "the."
" He isn't at all certain about colors and while he knows a
few colors he cannot be relied upon to tell even black from
white. Red seems to be a pretty certain quantity."
Sample sentences at this time were:
" One time was old man. Climbed up tree."
" Time go bed for mine. Going kiss-you me? "
" My going sit here."
The handedness and speech development of these seven
children is summarized in the accompanying table.
158
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
TABLE OF SPEECH DEVELOPMENT OF SEVEN CHILDREN
Child
Speech
development
at 2
years
Time of
first
word
Handedness
Standard .Right-handed 115 months 200 words;
at 20 months
sentences
used
At 30
months
At3
years
........
600 words;
all parts
I of speech
I
Downloaded by [Central Michigan University] at 07:05 15 January 2015
D. Girl
120 month,
44
538
856
Ambidextrous 16 months
till 26 months
5
....... .
........
13
117
Nearly
normal
7
..... . . .
Very few
words
Somewhat
ambidextrous
at 2
R. Girl
Decidedly
ambidextrous
till 30 months
. .......
G. Girl
Decidedly
ambidextrous
at 2 and 3
........ I
M. Girl
Ambidextrous
till after 2
..... .
Very few
words
Began
sentences
........
U.
Ambidextrous Few words
at 20 months at 20 mos.
....... .
....... .
. .......
Decidedly
ambidextrous
till 2~
Very few
words
.......
C. Girl
Girl
W. Boy
-
I
I
..
18
.
320?
Let us see how the addition of these small vocabularies
affects the averages of the vocabularies already published.
The 2-year-old vocabularies of R., G., c., and D. were 5,
7, 13 and 44 words respectively, the average being 17.25. The
average of the 18 vocabularies of 2-year-old girls already
published is 556-32 times as large; they reduce the average
of 2-year-old girls to 458 words. Counting in the boys' vocabularies, the average of all 25 published vocabularies is 50829 times as large as the average of these four children. The
average of all 29 vocabularies is 440 words.
R. with 12 words and D. with 145 at 26 months reduce the
average for this age from the 896 words of the 3 vocabularies
already published to 569.
R. with 25 words andC. with 35 at 28 months bring the
average vocabulary for this age from 469 words to 359.
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
159
The average of the published vocabularies for 30-month-old
children is 1,060; D. with 538 words and C. with 117 reduce
it to 851.
Downloaded by [Central Michigan University] at 07:05 15 January 2015
DISCUSSION
Can we find any explanation for these children's retardation in speech?
Bateman ('17) says: "It is difficult to believe that a child who
has made no attempts at articulate speech by the eighteenth
month, and still more so by the twenty-fourth, can be entirely
normal in all other respects. General feebleness of health,
poor powers of hearing, defects in or lack of development of
the vocal organs, or adenoids may lead to disability in speech."
As to health, R. suffered from under-nourishment from the
age of 8 to 11 months, C. had a serious illness from the age
of 7 to 9 months, and M. was a delicate baby. However all
these children were well and sturdy most of their lives. D.,
G. and W. had exceptionally good health and U. surely looked
as if she did too. M's brother was as delicate as she when a
baby and yet he talked early. The matter of ill-health might
be remotely involved in only 3 of the 7 cases, and it does not
seem probable that it had anything to do with the retardation
in speech.
N one of these children have suffered from "poor powers
of hearing, or defects in or lack of development of the vocal
organs." As to adenoids, D. and R. had none, although their
sister who talked early, has small ones; C. has had none, while
her brothers who talked early, had to be operated upon for
this cause. So far as I know, none of the other children of
this study have had adenoids. The boy, L., had none, while
a brother and sister were seriously troubled with them.
Dr. Wm. Boyd in a personal letter speaks of a child who
was slow in talking and considers the matter one of phonetics
for" the majority of her vowels are the back vowels 00, oh,
aw, ah and the mixed vowel uh." In R's 26-month vocabulary of 12 words all the vowels were back vowels except one
mixed; yet in her own spontaneous sounds and expressions
she used the front vowels about one-third as often as the
back vowels. Of the 14 new words learned in the next 2
months, 8 employed back vowels, 2 mixed and 4 front. D's
first 14 words showed 7 back vowels, 1- mixed and 6 front.
R. apparently is in accordance with Dr. Boyd's observations,
while D. was not. Of the other children I cannot say, for it
takes most careful noting of the exact pronunciation to report
on a matter like this. However, even when this holds true,
does it take us back to the underlying cause; what is the reason
that the front vowels should' be more difficult for one child
Downloaded by [Central Michigan University] at 07:05 15 January 2015
160
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
than for another? May it not be just another evidence of
retardation in speech, on the same par with a small vocabulary,
and not an explanation of the retardation?
Can general mental retardation account for the backwardness in speech of these children? With all of them their ability
to understand has far outstripped their powers of expression.
The parents testify that they are as intelligent as other children
of their age despite their lack of loquacity. In some practical
matters R. knows more than either of her sisters did at her
age. D's intelligence quotient according to the Binet test was
133 "at three and a half years, while her sister E's was 120.
There is one respect in which four of these children were
slower in developing than their brothers and sisters, and that
was in appreciating rhymes and stories. C. and M. were
later than their brothers in this phase. D. has been slower
than K, and R. is the slowest of all our three children. With
D. and K there has come a very definite period when they
liked Mother Goose recited to them with no pictures as
added attraction; if they were inclined to be restless, the
verses would command their rapt attention, whereas before
there was no calming effect whatever. With K this period
came at 18 months, with D. at 23 months and it has not yet
arrived with R. who is 28 months old. However, at 26 months,
she just began to pay attention to verses when they were read
out of picture books and at present demands a good deal of
reading of rhymes and the Potter stories. E. liked the" Three
Bears" and" Red Riding Hood" at 22 months but D. did
not care much for them till she was 35 months old. W. enjoyed these stories at 3 years.
We have no criterions for this phase of mental development except Jegi's child ('01) who outgrew Mother Goose
before she was two, and she can scarcely be considered normal, so we cannot tell how these children would compare with
a large number of others. It is perhaps natural that these
children who were slow in learning to talk should also be
slow in understanding or caring about more difficult words,
yet at the same time they might be as intelligent as others in
other directions. At any rate we are safe in concluding that
general mental retardation does not apply in any of these cases.
III health, defects of hearing, malformations of the vocal
organs, adenoids, phonetics and backwardness of intelligence
do not seem to explain the retardation in speech of these
children. The only constant phenomenon that appears to-be
associated in all seven cases is the more or less marked ambidextrous tendency. It is well known that there is an intimate association between the hand center and speech center
Downloaded by [Central Michigan University] at 07:05 15 January 2015
AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
161
in the brain and that normally the speech center is located
in the dominant side of the brain in close connection with
the hand center. An attempt to change the dominant hand
often disturbs the speech mechanism, causing stuttering, stammering, lisping or sometimes a delay in the appearance of
speech. These seven children showed a prolonged state of
uncertainty as to which hand should lead and in the meantime
they did not talk. An explanation of the coincidence of
retardation in speech and in the ascendancy of the right hand
might be that as long as the dominant hand center was not
definitely settled the speech center could not be located. Yet
it is impossible to know the exact relationship of these two
factors; they might both be the results of some other cause.
This coincidence of ambidexterity and delay in learning to
talk does not occur in all cases. There are of course many
other reasons for retardation of speech in individual children.
For instance, R. at present has practically outgrown her ambidextrous tendency, yet she hardly talks at all. Others may talk
early .and yet be ambidextrous. Two such cases have been
reported to me. One is a girl who at 27 months talked a good
deal, yet she used her left hand almost as much as her right
despite her parents' corrections. A month later, however, she
was practically right-handed. The other is a boy now 12 years
old, who was ambidextrous till after he was two; the parents
made no effort to encourage right-handedness, which he developed later. He was an early and distinct talker.
We have an almost untouched field in this subject of the
relationship between speech development and the use of the
hands. We need a large number of studies on children and
particularly on those who are more or less slow in talking
and who have hitherto been almosf wholly neglected by
observers, before we can hope to find the underlying causes
of the differences in speech development in different children.
BIBLIOGRAPHY
References on Handedness.
BALLARD, P. B. 1912. Sinistrality and Speech. Jour, Exp, Ped, I,
298-310.
BALDWIN, J. M. 1897. Mental Development in the Child and the
Race. N. Y. Macmillan. 497 p.
BOLK and LUEDDEKENS. 1900. Rechts u. Links handigkeit. Leipsig,
DEARBORN, G. V. N. 1910. Mote-Sensory Development. Baltimore,
Warwick & York. 212 p.
JONES, W. F. 1915. The Problem of Handedness in Education. Proc.
Nat. Educ. Ass. 959-963.
MAJOR, D. 1906. First Steps in Mental Growth. N. Y., Macmillan.
354 p.
162 AMBIDEXTERITY AND DELAYED SPEECH DEVELOPMENT
Downloaded by [Central Michigan University] at 07:05 15 January 2015
MEYER, M. 1913. Left-handedness and Right-handedness in Infancy.
Psych. Bull. Vol. 10, 52-53.
NICE, M. M. 1915. The Speech of a Left-handed Child. Psych.
Clinic. IX, II5-II7.
SCRIPTURE, M. K. GLOGAU, O. and BE BRA, A. H.' 1917. Left-handedness as an Etiological Factor in Speech Defects. Laryngoscope.
XXVII, NO.3, 157-169.
.
SMITH, L. G. 1917. A Brief Survey of Right- and Left-handedness.
Ped. Scm. XXIV. 19-35.
STIER, E. 19II. Untersuchungen iiber Linkshandigkeit. lena. 400 p.
WHIPPLE, G. M. 19II. Jour. Educ. Psych. II. 574.
WOOLEY, H. T. 1910. The Development of Right-handedness in a
Normal Infant. P sychol, Rev., Vol. 17, 37-41.
References on Vocabularies.
BATEMAN, W. G. 1916. The Language Status of Three Children at
the Same Ages: Ped. Sem, XXIII, 2, 2II-241.
- - - - . 1917. The First Word. Ped. Sem, XXIV, 3, 391-398.
BOHN, W. E. 1914. First Steps in Verbal Expression. Ped. Scm.
XXI, 578-595.
BRANDENBURG, G. C. 1915. The Language of a Three-Year-Old Child.
Ped. Seni. XXII, 89-120.
GALE, M. C. & H. 1900. The Vocabularies of Three Children of one
Family to Two and a Half Years of Age. Psych. Studies, No. I,
70-II7·
GRANT, ]. R. 1915. A Child's Vocabulary and its Growth. Ped. Sem,
XXII. 183-203.
HOLT, L. E. 1910. The Care and Feeding of Children. Appleton.
195 p.
]EGI, J. I. 1901. The Vocabulary of a Two-Year-Old Child. Child
Study Mo., VI, 241-261.
MATEER, F. 1908. The Vocabulary of a Four-Year-Old Boy. PedSem., XV, 63-74.
MICKENS, C. W. 1897. Vocabulary. Child Study Mo., III. 203-205.
NICE, M. M. 1915. The Development of a Child's Vocabulary in
Relation to Environment. Ped. Sem. XXII, 35-64.
- - - - . 1917. The Speech Development of a Child from Eighteen
Months to Six Years. Ped. Scm. XXIV, 204-243.
PELSMA,]. 1910. A Child's Vocabulary and Its Development. Ped.
Scm. XVII, 328-369.
TRACY, F. 1895. The Psychology of Childhood. Boston. Heath.
219 p.
|
|
https://openalex.org/W3181597325
|
https://online-journal.unja.ac.id/JSSM/article/download/13611/11341
|
Indonesian
| null |
Edukasi Pencegahan Diare Pada Anak di Kelompok Dasawisma Kelurahan Kenali Asam Bawah
|
Jurnal Salam Sehat Masyarakat
| 2,021
|
cc-by
| 2,771
|
JURNAL SALAM SEHAT MASYARAKAT (JSSM) VOL 2 NO.2 JUNI 2021 JURNAL SALAM SEHAT MASYARAKAT (JSSM) VOL 2 NO.2 JUNI 2021 E-ISSN : 2715-7229 Abstract Deaths due to diarrhea in Indonesia have decreased. Although the mortality rate has decreased sharply, the
morbidity rate is still quite high. The duration of diarrhea and the frequency of diarrhea in acute patients cannot
be reduced. The highest number of diarrhea cases in Jambi Province in 2017 was in Jambi City, amounting to
11,326 cases. The purpose of this community service is to increase public knowledge about preventing diarrhea
in children. This activity was carried out in August 2020 at one of the residents' houses in the Dasawisma group
at RT 047 in Kenali Asam Bawah. The target is 15 mothers with children aged 1 to 12 years. The methods used
were lectures, discussion / question and answer with mothers about the prevention of diarrhea using leaflets and
supplementary feeding in the form of milk, bread and cereals. After the extension activities are carried out,
participants understand about the prevention of diarrhea in children and will apply what the extension team has
said so that the child's health will be maintained optimally. It is recommended that parents need to equip
themselves a lot with various knowledge by participating in extension activities or looking for information in
print / online media related to efforts to improve children's health
Keywords: children, health education, prevention of diarrhea EDUKASI PENCEGAHAN DIARE PADA ANAK DI KELOMPOK
DASAWISMA KELURAHAN KENALI ASAM BAWAH Ariyanto1, Tina Yuli Fatmawati2
1,2Program Studi DIII Keperawatan STIKes Baiturrahim Jambi
Email: tinayulifatmawati@gmail.com Abstrak Kematian karena Diare di Indonesia sudah menurun.Walaupun angka kematiannya telah menurun tajam, tetapi
angka kesakitannya masih cukup tinggi. Lama diare serta frekuensi diare pada penderita akut belum dapat
diturunkan. Jumlah kasus diare di Provinsi Jambi tahun 2017 terbanyak terdapat di Kota Jambi yaitu sebesar
11.326 kasus . Tujuan dari pengabdian masyarakat ini adalah untuk meningkatkan pengetahuan masyarakat
tentang pencegahan diare pada anak. Kegiatan ini dilaksanakan pada bulan Agustus 2020 bertempat disalah
satu rumah warga pada kelompok Dasawisma di RT 047 di wilayah kelurahan kenali Asam Bawah. Sasaran
adalah ibu-ibu yang memiliki anak usia 1 Tahun s/d 12 tahun berjumlah 15 orang . Metode yang digunakan
adalah ceramah, diskusi/tanya jawab pada ibu tentang pencegahan diare dengan menggunakan media leaflet dan
pemberian makanan tambahan berupa susu, roti dan sereal. Setelah dilakukan kegiatan penyuluhan, peserta
memahami tentang penatalaksanaan dan pencegahan diare pada anak dan akan mengaplikasikan apa yang telah
disampaikan oleh tim penyuluh sehingga kesehatan anak akan terus terjaga kesehatannya secara optimal. Disarankan kepada Orangtua perlu banyak membekali diri dengan berbagai pengetahuan dengan mengikuti
kegiatan penyuluhan atau mencari informasi dengan media cetak/online yang berkaitan dengan upaya
peningkatan kesehatan anak. Kata kunci: Anak, Pendidikan Kesehatan, Pencegahan Diare Kata kunci: Anak, Pendidikan Kesehatan, Pencegahan Diare PENDAHULUAN kontaminasi makanan/ minuman yang
tercemar tinja dan atau kontak langsung
dengan penderita diare. Jumlah kasus diare
di Provinsi Jambi tahun 2017 terbanyak
terdapat di Kota Jambi yaitu sebesar
11.326 kasus Kesehatan Jambi. Sedangkan
Jumlah kasus diare untuk semua umur di
Provinsi Jambi tahun 2018 terbanyak
terdapat di Kota Jambi yaitu sebesar 9.865
kasus (61,09%). Adapun kasus terendah kontaminasi makanan/ minuman yang
tercemar tinja dan atau kontak langsung
dengan penderita diare. Jumlah kasus diare
di Provinsi Jambi tahun 2017 terbanyak
terdapat di Kota Jambi yaitu sebesar
11.326 kasus Kesehatan Jambi. Sedangkan
Jumlah kasus diare untuk semua umur di
Provinsi Jambi tahun 2018 terbanyak
terdapat di Kota Jambi yaitu sebesar 9.865
kasus (61,09%). Adapun kasus terendah Penyakit Diare sering kita jumpai
dimasyarakat bahkan timbul dalam bentuk
Kejadian Luar Biasa (KLB), sehingga
membuat panik masyarakat dan petugas
kesehatan. Hal ini dapat kita lihat dari
angka kesakitan penyakit diare dari tahun
ketahun selalu meningkat. Beberapa faktor
yang
menjadi
penyebab
timbulnya
penyakit diare adalah oleh kuman melalui 13 Prodi IKM FKM Universitas Jambi E-ISSN : 2715-7229 JURNAL SALAM SEHAT MASYARAKAT (JSSM) VOL 2 NO.2 JUNI 2021 adalah
Kota
Sungai
Penuh
dengan
828kasus(34,10%).(1) adalah
Kota
Sungai
Penuh
dengan
828kasus(34,10%).(1) adalah
Kota
Sungai
Penuh
dengan
828kasus(34,10%).(1) anak. Keberhasilan dalam penatalaksaan
diare tidak lepas dari pengetahuan dan
sikap ibu dalam melakukan perawatan
pada anak. Penelitian yang telah dilakukan oleh
tim sebelumnya tentang diare di kelurahan
Kenali Asam Bawah , hasil penelitian
menunjukkan responden memiliki PHBS
berdasarkan
Penggunaan
Air
Bersih
dengan baik 47 orang (83.9%), Responden
memiliki PHBS berdasarkan mencuci
tangan dengan baik 32 orang (57.1%),
Responden memiliki PHBS berdasarkan
Membuang tinja dengan baik 17 orang
(30.4%). Ada hubungan mencuci tangan
dengan kejadian diare pada balita dengan
nilai p-value = 0,006 , ada hubungan
membuang tinja dengan benar dengan
kejadian diare pada balita dengan nilai p-
value = 0,000.(2) Dasawisma Seroja RT 047 terletak
di Kelurahan Kenali Asam Bawah. Survei
yang telah dilakukan oleh Tim Pengabdian
Masyarakat
kepada
lima orang ibu,
sebagian anaknya nya sering mengalami
diare yang berulang. ibu mengatakan
kurang tahu penyebab diare secara pasti. Dua orang ibu mengatakan bahwa mereka
kurang tahu tentang cara pencegahan
diare. ibu mengatakan jarang mencuci
tangan saat menyiapkan hidangan makan
anaknya dan membiarkan anaknya makan
cemilan tidak cuci tangan terlebih dahulu. Melihat situasi dan permasalahan diatas,
maka perlu adanya upaya peningkatan
pengetahuan ibu dalam pencegahan
penyakit
diare
melalui
pendidikan
kesehatan. PENDAHULUAN Penelitian lain tentang diare di
Puskesmas Putriayu , hasil jawaban
responden menunjukkan bahwa dari 46 ibu
terdapat, sebanyak 24 responden (52,2%)
tidak mengetahui apa yang dimaksud
dengan diare, sebanyak 18 responden
(39,1%) tidak mengetahui mencuci tangan
sebelum menyuapi makanan pada balita
agar balita terhindar dari penyakit diare,
sebanyak 13 responden (28,3%) tidak
mengetahui tanda-tanda anak diare dengan
dehidrasi/kekurangan cairan dan tidak
mengetahui tindakan memberi makanan
yang
telah
disimpan
sebaiknya
dihangatkan sebelum diberikan ke balita.(3) 2. Menggunakan air bersih kematian di Indonesia. Kematian dapat
dihindarkan
dengan
mencegah
dan
mengatasi dehidrasi melalui pemberian
oralit. LINTAS DIARE (Lima Langkah
Tuntaskan Diare) menganjurkan bahwa
semua penderita diare harus mendapatkan
oralit maka target penggunaan Oralit
adalah 100% dari semua kasus diare yang
mendapatkan pelayanan di Puskesmas dan
kader. Gizi kurang dapat dicegah dengan
pemberian makanan yang memadai selama
berlangsungnya diare. Pecegahan dan
pengobatan diare harus dimulai sesegera
mungkin di rumah .(5) Air bersih merupakan barang
yang mahal saat sekarang karena di
beberapa daerah yang mengalami krisis
air bersih. Namun penyedian air bersih
yang memadai untuk secara afektif
membersihkan tempat dan peralatan
memasak serta makanan, demikian pula
untuk mencuci tangan. Demikian juga
peralatan sumber air untuk balita, tempat
yang digunakan dan lainnya harus bersih
untuk mencegah terjadinya diare. LANDASAN TEORI Diare
adalah
keadaan
dimana
seseorang buang air besar lebih dari 4x
pada bayi dan lebih dari 3x pada anak;
konsistensi encer,dapat berwarna hijau
atau dapat pula bercampur lendir dan
darah atau lendir saja. Bila penderita diare
banyak sekali kehilangan cairan tubuh
maka hal ini dapat menyebabkan kematian
terutama pada bayi dan anak-anak di
bawah usia 5 tahun. Pada bayi yang
mengonsumsi susu formula, diare biasanya
disebabkan oleh kandungan gula yang
berlebihan di dalam susu formula tersebut. Sementara itu, pada anak yang lebih besar
dapat terjadi diare psikogenik. (4) Untuk meningkatkan pengetahuan
tentang
diare
maka
perlu
diberikan
pendidikan
kesehatan. Pendidikan
kesehatan merupakan bagian dari peran
perawat
sebagai
pendidik/
penyuluh
kesehatan untuk pencegahan penyakit
(Preventif). Hal penting dari pendidikan
kesehatan
yaitu
untuk
memandirikan
seseorang untuk mengambil keputusan
pada masalah kesehatan yang dihadapi
dalam hal ini adalah ibu sebagai pengasuh Penyakit Diare merupakan penyakit
endemis potensial Kejadian Luar Biasa
(KLB)yang
sering
disertai
dengan 14 Prodi IKM FKM Universitas Jambi JURNAL SALAM SEHAT MASYARAKAT (JSSM) VOL 2 NO.2 JUNI 2021 E-ISSN : 2715-7229 4.
Penggunaan Jamban 4. Penggunaan Jamban keluarga harus mempunyai jamban
yang memenuhi syarat kesehatan, selalu
dibersihkan secara teratur . (7) keluarga harus mempunyai jamban
yang memenuhi syarat kesehatan, selalu
dibersihkan secara teratur . (7) Upaya
yang
dapat
dilakukan
keluarga untuk mencegah terjadinya diare
pada balita adalah melakukan perilaku
sehat yaitu: METODE PELAKSANAAN Kegiatan ini dilaksanakan pada
bulan Agustus 2020 bertempat di salah
satu
rumah
warga
pada
kelompok
Dasawisma di RT 047 di wilayah
kelurahan kenali Asam Bawah. Sasaran
adalah ibu-ibu yang memiliki anak usia 1
Tahun s/d 6 tahun berjumlah 15 orang. Mengingat kondisi masa pandem Covid 19
maka tim membagi kelompok pengabdian
menjadi 3 kelompok yang bertempat di
tiga rumah warga. Metode yang digunakan
adalah ceramah, diskusi/tanya jawab pada
ibu tentang pencegahan diare dengan
menggunakan
media
leaflet
dan 3.
Mencuci tangan Mencuci tangan dengan sabun,
terutama setelah buang air besar dan
sebelum
memegang
makanan
dan
makanan merupakan salah satu cara
mencegah terjadinya diare. Cuci tangan
juga
perlu
dilakukan
sebelum
menyiapkan
makanan,
makan,
dan
memberikan makanan kepada balita. Balita juga secara bertahap diajarkan
kebiasaan mencuci tangan. Prevalensi diare menurut gejala
dihitung dengan menggabungkan kasus
diare baik diagnosis maupun hanya
memiliki gejala, Pada bayi usia 0-28 hari
(neonatus), dikatakan kasus diare jika
responden mengaku didiagnosis diare oleh
tenaga
kesehatan
atau
jika
pernah
mengalami gejala diare meliputi diare
meliputi BAB > 6x perhari dan dengan
konsistensi lembek atau cair, Selain
neonatus jika responden menjawab lebih
dari 3x dengan konsistensi lembek/cair,
maka dianggap diare. (6) 1. Tahap Pertama Tahap pertama merupakan perencanaan
kegiatan. Proses perencanaan meliputi
identifikasi kebutuhan, identifikasi potensi,
brainstorming . 2. Tahap Kedua p
Tahap kedua merupakan pelaksanaan
kegiatan. Kegiatan
ini
meliputi
memberikan
penyuluhan
kesehatan
khususnya
mengenai
pentingya
pencegahan penyakit diare pada anak ,
memberdayakan kader agar selalu aktif
dalam mensosialisasikan
tentang
bahaya dan pencegahan diare kepada ibu-
ibu yang memiliki anak serta memberikan
Makanan Tambahan
3 T h
K ti 3 Tahap Ketiga Pada tahap ketiga, dilakukan monitoring
dan evaluasi kegiatan. Evaluasi dilakukan
secara kontinyu Pada
tahap
pelaksanaan
Tim
pengabdian
memberikan
leaflet
dan
booklet
,
serta
pemberian
makanan
tambahan pada anak. Evaluasi proses juga
dilakukan selama kegiatan dengan melihat
tanggapan peserta melalui sesi tanya
jawab. Pada akhir diskusi tim melihat
kemampuan peserta dalam menjawab
pertanyaan yang telah disiapkan oleh tim. 90 % peserta berhasil menjawab dengan
baik, warga mulai memahami tentang
penatalaksanaan dan pencegahan tentang
diare.. METODE PENDEKATAN Pada tahap pertama tim melakukan
pendekatan , pertemuan dengan RT dan
Ketua
Kader
Dasawisma
untuk
menentukan waku kegiatan penyuluhan. Selanjutnya tim mengadakan koordinasi
untuk persiapan dan pelaksanaan kegiatan. 3. Tahap Ketiga Pada tahap ketiga, dilakukan monitoring
dan evaluasi kegiatan. 2 Tahap Kedua Adapun
pelaksanaannya
dilaksanakan
dalam beberapa tahapan sebagai berikut : 1. Pemberian ASI ASI mempunyai khasiat pencegahan
secara imunologik dan turut memberikan
perlindungan terhadap diare pada balita
yang
mendapatkan
makanan
yang
tercemar. Balita yang diberi ASI secara
penuh mempunyai daya lindung 4x lebih
besar terhadap diare. Pemberian ASI
selama diare dapat mengurangi akibat
negativ
terhadap
pertumbuhan
dan
keadaan gizi balita serta mengurangi
keparahan diare. 15 Prodi IKM FKM Universitas Jambi JURNAL SALAM SEHAT MASYARAKAT (JSSM) VOL 2 NO.2 JUNI 2021 E-ISSN : 2715-7229 2 Tahap Kedua
Tahap kedua adalah pelaksanaan kegiatan. Kegiatan ini meliputi edukasi kesehatan
khususnya
mengenai
pentingya
pencegahan penyakit diare pada anak dan
pemberian makanan tambahan 2 Tahap Kedua
Tahap kedua adalah pelaksanaan kegiatan. Kegiatan ini meliputi edukasi kesehatan
khususnya
mengenai
pentingya
pencegahan penyakit diare pada anak dan
pemberian makanan tambahan Prodi IKM FKM Universitas Jambi HASIL KEGIATAN Tahap kedua merupakan pelaksanaan
kegiatan. Kegiatan
ini
meliputi
memberikan
penyuluhan
kesehatan
khususnya
mengenai
pentingya
pencegahan penyakit diare pada anak ,
memberdayakan kader agar selalu aktif
dalam mensosialisasikan
tentang
bahaya dan pencegahan diare kepada ibu-
ibu yang memiliki anak serta memberikan
Makanan Tambahan
3 T h
K ti Kegiatan pengabdian masyarakat
ini dimulai dengan diskusi dengan kader
dasawisma, menentukan hari penyuluhan
dan diputuskan bertempat di salah satu
rumah warga dengan dibagi menjadi dua
kelompok. Sebelum dilakukan kegiatan,
peserta mengisi daftar hadir kegiatan dan
dilakukan pre test dengan menjawab 5
pertanyaan yang telah disiapkan oleh tim,
sebagian besar warga tidak memahami
tentang
penatalaksanaan
yang
tepat
tentang diare dan upaya pencegahan agar
tidak sering terjadi diare pada balita/anak. PROSEDUR KEGIATAN Prosedur
kegiatan
pengabdian
dibagi dalam beberapa tahapan sebagai
berikut :
1
Tahap
Pertama. Tahap
pertama
merupakan perencanaan kegiatan. Proses
perencanaan
meliputi
identifikasi
kebutuhan,
identifikasi
potensi,
brainstorming. Prosedur
kegiatan
pengabdian
dibagi dalam beberapa tahapan sebagai
berikut : Diare
adalah
sebuah
penyakit
dimana penderita mengalami rangsangan
buang air besar yang terus-menerus dan
tinja atau feses yang masih memiliki
kandungan
airberlebihan. Diare
merupakan penyakit yang terjadi ketika
terdapat perubahan konsistensi feses selain 1
Tahap
Pertama. Tahap
pertama
merupakan perencanaan kegiatan. Proses
perencanaan
meliputi
identifikasi
kebutuhan,
identifikasi
potensi,
brainstorming. 16 Prodi IKM FKM Universitas Jambi JURNAL SALAM SEHAT MASYARAKAT (JSSM) VOL 2 NO.2 JUNI 2021 E-ISSN : 2715-7229 membersihkan jamban secara teratur dan
memakai alas kaki ketika akan buang air
besar, membuang tinja bayi dengan benar
dan pemberian imunisasi campak.(7) dari frekuensi buang air besar. Seseorang
dikatakan menderita diare bila feses lebih
berair dari biasanya, atau bila buang air
besar tiga kali atau lebih, atau buang air
besar yang berair tetapi tidak berdarah
dalam waktu 24 jam.(8) dan pemberian imunisasi campak.(7)
Gambar 1. Kegiatan penyuluhan
Gambar 2. Penyerahan PMT ke Ibu Balita
Gambar 3. Kegiatan penyuluhan ,
pemberian leaflet Gambar 1. Kegiatan penyuluhan Gambar 1. Kegiatan penyuluhan Saat anak mengalami diare anak akan
kehilangan semangat, tidak ceria lagi dan
selalu menangis karena mengeluh sakit
pada perutnya. Salah satu peran tenaga
kesehatan adalah memberikan edukasi atau
pendidikan kepada masyarakat berupa
pendidikan kesehatan. Pendidikan
kesehatan
merupakan
suatu proses pemberian informasi pada diri
seseorang sebagai upaya meningkatkan
pengetahuan serta merubah perilaku orang
tua tentang pencegahan diare. Tujuan dari
pendidikan
kesehatan
adalah
untuk
mengubah
pengetahuan
&
kebiasaan
masyarakat dengan berperan aktif untuk
meningkatkan kesehatan yang optimal. Gambar 1. Kegiatan penyuluhan g
p
y
Gambar 2. Penyerahan PMT ke Ibu Balita Langkah
pencegahan
diare
diantaranya
memberikan
ASI. ASI
mempunyai
khasiat
preventif
secara
imunologik dengan adanya antibodi dan
zat-zat lain yang dikandungnya. ASI turut
memberikan perlindungan terhadap diare. Memperbaiki makanan pendamping ASI
(MP-ASI), menggunakan air bersih dan
matang. Masyarakat dapat mengurangi
risiko terhadap serangan diare yaitu
dengan menggunakan air yang bersih dan
melindungi air tersebut dari kontaminasi
mulai
dari
sumbernya
sampai
penyimpanan di rumah. Gambar 2. Penyerahan PMT ke Ibu Balita Gambar 2. Penyerahan PMT ke Ibu Balita y
Gambar 3. Kegiatan penyuluhan ,
pemberian leaflet Upaya
pencegahan
selanjutnya
adalah selalu cuci tangan dengan sabun
dan air mengalir. 2. Saran Kepada orangtua terutama ibu agar
meningkatkan perilaku hidup bersih dan 1. Kesimpulan Pencegahan
terhadap
meningkatnya penyakit diare. Dengan
adanya
pendidikan
kesehatan
ini
Pengetahuan
ibu
meningkat
dalam
penatalaksanaan dan pencegahan diare
pada balita/anak. PROSEDUR KEGIATAN Mencuci tangan dengan
sabun, terutama sesudah buang air besar,
sesudah membuang tinja anak, sebelum
menyiapkan makanan, sebelum menyuapi
makan
anak
dan
sebelum
makan. Menggunakan jamban dengan baik dan Gambar 3. Kegiatan penyuluhan ,
pemberian leaflet Gambar 3. Kegiatan penyuluhan ,
pemberian leaflet 17 Prodi IKM FKM Universitas Jambi JURNAL SALAM SEHAT MASYARAKAT (JSSM) VOL 2 NO.2 JUNI 2021 JURNAL SALAM SEHAT MASYARAKAT (JSSM) VOL 2 NO.2 JUNI 2021 E-ISSN : 2715-7229 Prodi IKM FKM Universitas Jambi KESIMPULAN DAN SARAN
1. Kesimpulan Tenaga
kesehatan
mempunyai
peranan yang sangat penting dalam
sehat , menjaga kebersihan lingkungan dan
memperhatikan
kesehatan
anaknya
sehingga dapat mencegah terjadinya diare. Orangtua perlu banyak membekali diri
dengan berbagai pengetahuan dengan
mengikuti
kegiatan
penyuluhan
atau
mencari
informasi
dengan
media
cetak/online yang berkaitan dengan upaya
peningkatan kesehatan anak DAFTAR PUSTAKA DAFTAR PUSTAKA
1. Dinas Kesehatan Provinsi Jambi, 2018. Profil Kesehatan Provinsi Jambi
2. Fatmawati, Tina Yuli, 2017. Analisis Penggunaan Air Bersih, Mencuci Tangan,
Membuang Tinja Dengan Kejadian Diare Pada Balita . Jurnal Endurance 2 (3), 294-302
http://ejournal.lldikti10.id/index.php/endurance/article/view/2245
3. SS Ningsih, TY Fatmawati 2017 Pengetahuan Dan Motivasi Ibu Tentang Pencegahan
Diare Pada Balita Di Puskesmas Putri Ayu Kota Jambi Tahun 2016 Jurnal Akademika
Baiturrahim,Vol.6
No.2
6
(health),
81-87
http://jab.stikba.ac.id/index.php/jab/article/view/32
4. Sodikin, 2012, Keperawan Anak Gangguan Pencernaan, Jakarta,EGC
5. Kementerian Kesehatan RI. 2019. Profil Kesehatan Indonesia Tahun 2018 Jakarta
6. Kemenkes RI, (2018),Laporan Nasional Riset kesehatan dasar.Jakarta, Badan
Penelitian dan pengembangan Kesehatan
7. Kemenkes RI, 2011,Buletin Jendela Data dan Informasi Kesehatan :SITUASI Diare di
Indonesia, Jakarta
8. Dinas Kesehatan Provinsi Jambi,
2019. Profil Kesehatan Provinsi Jambi 1. Dinas Kesehatan Provinsi Jambi, 2018. Profil Kesehatan Provinsi Jambi 1. Dinas Kesehatan Provinsi Jambi, 2018. Profil Kesehatan Provinsi Jambi 2. Fatmawati, Tina Yuli, 2017. Analisis Penggunaan Air Bersih, Mencuci Tangan,
Membuang Tinja Dengan Kejadian Diare Pada Balita . Jurnal Endurance 2 (3), 294-302
http://ejournal.lldikti10.id/index.php/endurance/article/view/2245 2. Fatmawati, Tina Yuli, 2017. Analisis Penggunaan Air Bersih, Mencuci Tangan,
Membuang Tinja Dengan Kejadian Diare Pada Balita . Jurnal Endurance 2 (3), 294-302
http://ejournal.lldikti10.id/index.php/endurance/article/view/2245
3. SS Ningsih, TY Fatmawati 2017 Pengetahuan Dan Motivasi Ibu Tentang Pencegahan
Diare Pada Balita Di Puskesmas Putri Ayu Kota Jambi Tahun 2016 Jurnal Akademika
Baiturrahim,Vol.6
No.2
6
(health),
81-87
http://jab.stikba.ac.id/index.php/jab/article/view/32
4
S diki
2012 K
A
k G
P
J k t EGC 3. SS Ningsih, TY Fatmawati 2017 Pengetahuan Dan Motivasi Ibu Tentang Pencegahan
Diare Pada Balita Di Puskesmas Putri Ayu Kota Jambi Tahun 2016 Jurnal Akademika
Baiturrahim,Vol.6
No.2
6
(health),
81-87
http://jab.stikba.ac.id/index.php/jab/article/view/32 6. Kemenkes RI, (2018),Laporan Nasional Riset kesehatan dasar.Jakarta, Badan
Penelitian dan pengembangan Kesehatan 7. Kemenkes RI, 2011,Buletin Jendela Data dan Informasi Kesehatan :SITUASI Diare di
Indonesia, Jakarta 8. Dinas Kesehatan Provinsi Jambi,
2019. Profil Kesehatan Provinsi Jambi 18 Prodi IKM FKM Universitas Jambi
|
https://openalex.org/W4290188382
|
https://zenodo.org/records/6325221/files/891-898.pdf
|
English
| null |
Stereocontrolled Synthesis of β-Lactams from Amidomalonates : Intermediates for Thienamycin, Carpetimycin and Analogs
|
Zenodo (CERN European Organization for Nuclear Research)
| 1,985
|
cc-by
| 14,771
|
Stereocontrolled Synthesis of fl .. [ .actams from
Amidomalonates : Intermediates for Thienamycin,
Carpetimycin and Analogs1 M S. MANHAS*, B. M. BHAWAL, B. B. SHANKAR and AJAY K. BOSE M S. MANHAS*, B. M. BHAWAL, B. B. SHANKAR and AJAY K. BOSE
Department of Chemistry a.nd Ohemica.l Engineering, Stevens Institute of Technology, Hoboken, New Jersey Chemistry a.nd Ohemica.l Engineering, Stevens Institute of Technology, Hoboken, New Jersey 07080, U.S.A. Complete stereoconlrol of tl-lactam formation can be achieved by the intra-mole-
cular cyclisation of the epoxide of 110 N-acroylaminomalonate. The IJ-lactam so
obtained is fused with a lactone ring derived from one of the ester groups of the malo-
nate and the carbinol side chain generated by the sterospecific opening of the epoxide
ring. Selective hydrolysis of the lactone group leads to a trans tl-lactam ; selective
decarboalkoxylation produces a cis ,9-laclam. The configuration of the carbinol side
chain can be altered by a Mitsunobu reactioP. Tl:e use of a fl ani•idinomalonate as
the starting material permits easy fc>rmation of the N-unsubstituted fJ-lactams which
are convenient intermediates for the synthesis of various carbaJ.enem antibiotics, their
epimers and analogs. as 9, led to a ll-lactam (10) by internal Michael
addition ; no Y-lactam was formed. as 9, led to a ll-lactam (10) by internal Michael
addition ; no Y-lactam was formed. AN AN efficient synthesis of /J-lactams described by
Sheehan and Bose• in 1950consists in the cyclisa-
tion of an <-haloacetamidomalonate (t) via
intra-moleclular alkylation in presence of triethyl-
amine. A single /J-lactam (2) is obtained in this
reaction since the formation of cis and trans isomers
is precluded by the symmetry of substitution at
C-4. The ring formation involves SN• substitution
at the halogen bearing carbon which then becomes
C-3 of the four-membered ring8 • In recent years, a number of IJ-Iactam antibiotics
(viz. thienamycin, carpetimycin and olivanic acid)
have been discovered in nature that are charac-
terised by a carbinol side chain in place of the
usual amido side chain8 • It occurred to us that
B-lactams with this type of side chain could perhaps
be generated by an internal displacement reaction
involving the epoxide ring and the strategicaUy
placed carbanion in an intermediate, such as 13. However, the possibility of a :1'-lactam formation
could not be ruled out in the light of our earlier
r,tudies4. on the course of cyclisation of 3. Further studies4. J. lndlao Cbem. Soc.,
Vol. LXII, November 1985, pp. 891-898 J. lndlao Cbem. Soc.,
Vol. LXII, November 1985, pp. 891-898 Stereocontrolled Synthesis of fl .. [ .actams from
Amidomalonates : Intermediates for Thienamycin,
Carpetimycin and Analogs1 in our laboratory have demon-
strated that competitive intra-molecular alkylation
In the case of the dibromo compound (3) leads to
selective cyclisation to a 'l'-lactam (4) in preference
to a ll-lactam {5). On the other hand, during the
cyclisation of 6. a /J-lactam (7) is formed rather
than a 8-lactam (8) (Scheme 1). We• also showed
that cyclisation of an N-acroylaminomalonate, such HOS02~t-t...r~ 5
CH3 j, .r.. t lj
..........._ NHCOCHJ
o
•-coz"
Ol1v.1n1L A1.1d
H0
H
H
0
....-~
~'=""""HCOCHJ
OJ_~_!!_ C02H
Carpet lttrc fn A ••-T-f..cozEt ~
a
~2CD{t
co2tt
•1-co n
O~~Ph
O
NPh
(5)
(3)
(7)
(9)
(10)
Boheme 1 As a test case, the acrylamide (11) was prepared
from benzyl phenylglycinate and oxidised to the
expoxide 12 by reaction with m-chloroperbenzoic
acid. Treatment of 12. with a strong base (for
example, lithium di-isopropylamidc) led to a single
product 14. Spectral data showed that 14 is a
/J-Iactam and not a Y-lactam (15) (Scheme 2). (9)
(10) From its 1 H nmr spectrum, the epoxide 12. appeared to be a single compound although two
diastereomeric epoxides could be expected. Conver-
sion of 12. to 14, therefore, could have produced
two diastcreomcric P-lactams in the racemic form Boheme 1 Boheme 1 891 I. INDIAN CBEM. SOC., VOL. LXII, NOVEMBER 1985 -
• •
'j±OzEt
Scheme 4 although the formation of only one isomer was
observed. although the formation of only one isomer was
observed. )_t~a~ -
x:Lf~o2R -[ ><Ji-- l
. ""
1111
(12)
(13)
1
tih
+r£
~
tozA
CQ~R
.,or,e6w,
"
(IS)
(14)
I
Boheme g )_t~a~ -
x:Lf~o2R -[ ><Ji-- l
. ""
1111
(12)
(13)
1
tih
+r£
~
tozA
CQ~R
.,or,e6w,
"
(IS)
(14)
I
Boheme g The preparation of variously substituted cis and
trans P-lactams from acrylamidomalonates is des-
cribed in the following sections. Some of these
compounds are suitable as intermediates for the
synthesis of naturally occurring P-lactam antibiotics. While further development of this synthetic
approach was in progress in our laboratory 8 ,
Shiozaki et al.o. reported that the cyclisation of 19
produced a P-lactam 21, apparently via the initial
formation ot an epoxide 20 (SchemeS). More
recently an optically active glycidic acid amide
has been used by Sbiozaki et al. tb and by Hanenian
et a/.10 to prepare optically active P-lactams as
precursors for thienamycin. Stereocontrolled Synthesis of fl .. [ .actams from
Amidomalonates : Intermediates for Thienamycin,
Carpetimycin and Analogs1 Boheme g To preclude the possibility of the formation of
diastereomeric products, the acrylamidomalonate
l6c was selected 1 this compound bas no asymmetric
centers and therefore a single racemic epoxide. 17c,
and a single P-lactam (or '1'-lactam) only could be
formed. Treatment of t7c with triethylamine led to a
major product 18c that proved to be a lactone on
the basis of fr and nmr spectral data. Obviously,
during P-lactam formation through epoxide opening,
tbe nascent hydroxyl group had reacted with an
ester group to generate a lactone function. Since
a tran1-fused JJ-lactam is not possible in this case,
the cis-fused~p-Iactam structure had to be assigned
to 18c (Scheme 3). The nmr spectral data were
fully consistent with this fused p-lactam structure. l
''1-c~'"· ]
(191
(20)
(211
Scheme 5 IT61
Ol~
f02Et
R
(..<ozEC
0
~. (17)
Ar
(a) t6~c~(Pl
H
(~) C.H40CH3(p)
H
(c) C6H4CH3(p)
CHl
(d) C6H/JC113(p)
CHJ
~fr--· . (18b)
Boheme 3
;J:tt'•
g 0
H" 3
·COEt
2 I
2
0<
r Scheme 5 cis·P·Lactam : A series of fused P·lactams (18)
were prepared from amidomalonates
via the
epoxide route. Decarboethoxylation of l8c under
the influence of sodium chloride and aqueous
dimethylsulphoxide11 led to the formation of a cis·
fused P-lactam 22c. A number of methods are known for preparing
N-unsubstituted P·lactams by the removal of an
appropriate substituent placed on the P·lactam
nitrogen. We selected the p-anisyl group as the
N-substituent because it can be removed fairly easily
by oxidation with cerium(IV) ammonium nitrate
(CAN)11• The P·lactam 22cl obtained from easily
prepared diethyl p-anisidinomalonate was conver·
ted via CAN oxidation to the N-unsubstituted
product 27. The above observation indicated the possibility
of complete stereocontrol during the formation
of a series of functionalised P-lactams. We' had
established through earlier studies that saponifica-
tion of 1-{p-anisyl)-3-phenoxy-4,4-dicarbetboxy-
carbonyl-2-azetidinone led to tbe preferential hydro-
lysis of the less hindered trans ester group (Scheme
4). Decarboxylation under mild conditions then
produced a cis P·lactam. Similar selected hydro-
lysis appeared reasonable for the ester or lactone
carboxyl groups ln 18 and analogs. trans·P·Lactam : Using the same 5teps as for
preparing 18c, the fused P-lactam 18a, 18b, and 18d
were obtained Jn about 65% yield. The decarbo-
ethoxylation of l8d produced tho fused P-lactam
22cl as a mioor product. Stereocontrolled Synthesis of fl .. [ .actams from
Amidomalonates : Intermediates for Thienamycin,
Carpetimycin and Analogs1 The major product was a
monocyclic P·lactam (28) which could be assigned
trans
stereochemistry on the basis of 1H nmr
spectral data.:(J,.~ 2.5 Bz}. Obviously, the lactone 892 MANHAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROLLBD SYNTHESIS OF f.I·LACTAMS BTC ring had been hydrolysed in preference to the ester
group and the product had undergone decarboxyla-
tion. Chromatographic separation of these two
types of products is easy because of the large diffe-
rence in their polarity {Scheme 6). Intermediates for fJ-lactam antibiotics : With
the intention of preparing analogs of thienamycin,
carpetimycin, olivanic ac1d, and related antibiotics,
it was decided to devise a strategy that would
require as intermediates N-unsubstuuted, mono-
cyclic f.l-lactams with appropriate functional groups
at C-3 and C-4. Treatment of this lactone with sodium chloride and
aqueous N,N-dimeth)l formamide under reflux Jed
to selective hydrolysis ofthe lactone ring and subse-
quent decarboxylation to provide in 70% )ield a
trans fJ-Iactam 30. The configuration of the carbi-
nol side chain in 30 corresponds to 8-epithiena-
mycin. The configuration of the carbinol side chain was
easily changed by using the stereospecific Mitsu-
nobu reactionu. Thus, the interaction of 30 with
p·nitrobenzoic acid, triphenylphosphine and diethyl
azodicarboxylate provided 37 with the correct
relative configuration for a thienamycln derivative. On the other hand, acylation of 30 with p-nitro-
benzoyl chloride in presence of triethylamine led to
the 8-epi stereochemistry (Scheme 7). (18e or d)
--.. CH=fr:· -
(12)
Boheme 6
20R'
NR"
(23) -li••H, R'~R4CH)('I
(24) R'•H, R"•C6H40CHiPJ
(25) R'•C02CH2Ph, R"•c6H40CHipJ
(26) R'•COiHzPb, R'•H g
y
On the other hand, acylation of 30 with p-nitro-
benzoyl chloride in presence of triethylamine led to
the 8-epi stereochemistry (Scheme 7). Boheme 6 Boheme 6 ~ H
H
c•f'i·tt· co u
"
2 -uol-
o
1381
1371
Boheme 7 Various pathways have been described fn the
literature8 •18 for forming the five-membered ring
systems in non-classical fJ-lactam antibiotics. An
examination of these pathways shows that f.l-lactams
of type 36a and 36b are convenient intermediates
for the elaboration of the second ring. The functional groups in the fused f.l-lactams
(18b) can be manipulated in a stereospecific fashion
(Scheme 8). Some of the compounds so obtained,
e.g. 34 and 35, are suitable as intermediates for the
preparation ofthienamycin and epimers. They have
the substituents at the f.l-lactam nitrogen and at C-4
which would permit the construction of various
five-membered.rings;_by•known. Stereocontrolled Synthesis of fl .. [ .actams from
Amidomalonates : Intermediates for Thienamycin,
Carpetimycin and Analogs1 Since optically active cis glycidic acid can be
obtained from commercially available D- and L-
threonine, it should be possible to extend the
amidomalonate approach to the preparation of both
enantiomeric forms of carba-penem antibotici and
their C-6 and C-8 epimers. group for a trans P-lactam and selective decarbo·
alkoxylation for a cis P-lactam provides complete
stereocontrol of the ring as well as the carbinol
sidechain. Stereospecific inversion of the sidechain
carbinol can be conducted vlaa Mitsunobu reaction. Since optically active cis glycidic acid can be
obtained from commercially available D- and L-
threonine, it should be possible to extend the
amidomalonate approach to the preparation of both
enantiomeric forms of carba-penem antibotici and
their C-6 and C-8 epimers. Diethyl
N-p-tolyl,
N-crotonylaminomalonate
(16a): It was obtained as an oily product (84%) by
reacting dietbyl p·toluidinomalonate and crotonyl
chloride; ~'mas (neat) 1 730, l 640 and 812 cm-1 ;
c5
(CDCI 8 )
1.18 (6H, t, J 7 Hz), 1.68 {3H, d,
J 6.6 Hz), 2.36 (3H, s), 4.13 (4H, q, J 7 Hz), S.46
{lH, s), S.63 (l H, d, J 16.6 Hz), 6.H6 {lH, m) and
7.23 (4H, m) ; CIMS {reagent gas: NH1 ) 334
{M+H)+. Diethyl N-p-tolyl, N-( 3,3-dimethylacryloyl)amino-
malonate (16c) : It was similarly prepared by
reftuxing diethyl p-toluidinomalonate and 3,3-
dimethylacryloyl chloride in benzene. The title
compound was obtained as a thick oily product
(90%) I
~'mas (neat) 1 740, 1 6SO and 790 cm-1 ;
c5 {CDC1 8 ) 1.2 (6H, t, J 7 Hz), 1.81 {3H, s), 2.0
{3H, s), 2.34 (3H, s), 4.19 (4H, q, J 7 Hz), 5.47
(lH, s), S.81 (IH, s) and 7.23 (4H, m) i CIMS
(reagent gas: NH 8 ) 365 (M+NH6)+ and 348
(M+H)+, Stereocontrolled Synthesis of fl .. [ .actams from
Amidomalonates : Intermediates for Thienamycin,
Carpetimycin and Analogs1 methods8 •18• Carpetimycin precursor : Carpetimycin with an
achiral carbinol side chain is a simpler target than
thienamycin and olivanic acid. Our starting
material for carpetimycin is the achiral acryl-
amidomalonate 16d, the conversion of which to the
racemic lactone 22d has been described in an earlier
section. Lithium borohydride reduction of 2ld
produced the diol 24 which could be selectively
acylated to produce the monocarbonate 25. The
desired N-unsubstituted fJ-lactam 26 was obtained
in good yield by the CAN oxidation of 25. This
ci~ f.l-lactam is an appropriate intermediate for the
construction of a five-membered ring to lead to a
variety of analogs of carpetimycin. llOI A•H
(31) R ot02CHzPh
112) A•OC02CHzt6•1100zlol
1331 RoCHzPh
1341 R•CH2c6H1NOzCPI
ztf•
(]6'f'
lal "'CHzOH
(blo.co,
Boheme 8
PhDizllz~ M H '·
I.AII 01{1 ·h-oo,or
-
"J-IM
(35) (35) Thienamycln 1recursor: Our starting material
for thienamycin is the achiral amidomalonate 16b
derived from easily available trans-crotonic acid. The configuration of the hydroxyl group which
becomes part of the lactone ring in 18b follows
from the known steric course of epoxide opening. Thus, the three centers of asymmetry in 18b are
created in a single operation under complete stereo-
control. Boheme 8 Olivanic acid is a cis P-lactam whereas thienamy-
cin is a trans P-lactam but the relative configuration
of C-6 and C-8 is the same for both compounds. Therefore, it should be possible to combine our
techniques for carpetimycin and thienamycin deri·
vatives and convert 18b to an appropriate inter-
mediate for olivanic acid analogs and epimers. The coupling constant of 7 Hz for coupling
between H. and H11 in 18b is indicative of the rela-
tive stereochemistry of these two protons 1 as Is to
be expected, our value is different from the 1.5 Hz'
value obtained for the corresponding protons in 29
observed by Shiozaki et al.1 who used a cis epoxide
in contrast to our trans epoxide. Conclusions : The intra-molecular cycJisation
of an N-acroylaminomalonate via its epoxide
followed by selective hydrolysis of the lactone 893 J. INDIAN CHEM. SOC., VOL. LXII, NOVEMBER 1985 group for a trans P-lactam and selective decarbo·
alkoxylation for a cis P-lactam provides complete
stereocontrol of the ring as well as the carbinol
sidechain. Stereospecific inversion of the sidechain
carbinol can be conducted vlaa Mitsunobu reaction. Experimental Melting points are
uncorrected. 1 H
nmr
spectra were recorded on a Varian EM-390 and
Broker SY200 NMR spectrometers. Chemical
shifts are reported in parts per million from
tetramethylsilane as internal standard, with the
downfield direction taken as positive. Mass spectra
were taken with a Hitachi RMU-7 spectrometer
and a CIMS•Biospect instrument. The infrared
spectra were recorded on a Perkin-Elmer infracord. Microanalyses were performed by Schwarzkopf
Microanalytic Laboratory, Woodside, New York. Diethyl
N-p-anisyl,
N -(3,3-dimethplacryloyl)
aminomalonate ll6d) : It was obtained as a pale
yellow solid ('liS%) by rcftuxing 3,3-dimethylacryloyl
chloride and diethyl p-methoxyanilinomalonate in
benzene, m.p. 76-78" {petroleum ether-ethyl acetate)
{Found : C, 62.46 i H, 6.94 1 N, 3.94. .Calcd. for
CuHuNOe : C, 62.80 i H, 6.93 1 N, 3.8S%) 1 vmaz
(nujol) I 745, l 715 and 1 64S cm-1 ; c5 (CCI .. )
1.24 {3H, t, J 6 Hz), 3.67 (3H, s), 4.19 (ltJ, t, J
6Hz), 4.5 (IH, s), 6.S4 (2H, d, J 8Hz) and 6.70
(2H, d, J Hz) ; CIMS (reagent gas : NH 8 ) 282
(M+H)+. Dlethyl N-aryl aminomalonates : These com-
pounds prepared by the method of Sheehan and
Bose•, were obtained as oily liquids and used as
such for subsequent steps. Diethyl N-p-anisyl-, N-crotonoyl aminomalonate
(l6b}: To a mixture of amine (10 1 14.05 g,
0.05 mol}, dichloromethane ( 150 ml) and pyridine
(5 ml), a solution of crotonyl chloride (7.84 g,
7.20 ml, 0.075 mol). in dichloromethane (SO ml) was
added slowly with stirring at 20" over a period
of 30 min and the reaction mixture was further
stirred for 2 h (monitored by tic) at room
temperature. The reaction mixture was washed
wjth 1N HCI, water and brine. It was dried over
MgSO .. , and filtered. The filtrate on concentration
gave an oil (16.80 g), which on purification by
column chromatography (silica gel, 100-200 mesh i
petroleum ether-ethyl acetate (8: 2) as eluent)
gave pure product 16b (14.83 g, 85%) cry11tallised
from petroleum ether, m.p. 54" {Found : C, 61.85;
H, 6.70; N, 4.46. Calcd. for C18H 88N06 : C. 61.88 J H, 6.64 1 N, 4.01%) 1 vma:r {KBr) 1 750 and
1 670 cm-1 1 c5 (CDC11 ) 1.2 (6H, t, J 7Hz), 1.79
{3H, d, J 6Hz), 3.8 (3H, s), 4.14 (4H, q, J 7 Hz),
S.55 (IH, s), 5.71 (IH, d. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. The cooled reaction mixture was washed successi-
vely with lN HCI, water and brine, and dried
(MgS04 ). Tbe methylene chloride was removed
under reduced pressure to give an oily crude
product (5.58 g), which on purification by column
chromatography
(silica
gel,
100-200
mesh 1
petroleum ether-ethyl acetate (7 : 3} as eluent)
yielded pure 18b (4.033 g, 65%) which was crystal-
lised from ethyl acetate-petroleum ether, m.p. 93-94" (Found : C, 60.27 1 H, 5. 76 ; N, 4.40. Calcd. for C18HuN08 :
C, 6'J.18 1 H, 5.371 N, 4.39%) i
JJma:o: (nujol) 1 750 cm-1 ;
6 (COCI8 ) 1.28 (3H, t,
J 7.2 Hz), 1.63 (3H, d, J 8 Hz), 3.78 (3H, s), 4.11
(IH, d, J 8 Hz), 4.33 (2H, q, J 7.2 Hz), 4.92 (1H,
m), 6.86 (2H, d, J 9Hz) and 7.35 (2H, d, 9 Hz) ;
CIMS (reagent gas: NH8 ) 337 (M+ 18). Decarboethoxylatlon of 18c : A mixture of the
bicyclic P-Jactam (18c 1 3.17 g, 0.01 mol), sodium
chloride (1.2 g, 0.02 mol), water (I ml) and dime·
thylsulphoxide (20 ml) was reftuxed under nitrogen
atmosphere for 4 b. Oimethylsulphoxide was
distilled off under reduced pressure and the residue
was dissolved in methylene chloride (200 ml). The
methylene chloride extract was washed with water
(3 x 50 ml), brine (2 x 30 ml), dried (Na 1SO.,) and
filtered. Filtrate on evaporation under reduced
pressure gave a solid mass which on crystallisation
from ethyl acetate-hexane gave 22c ( 1.9 g, 79%),
m. p. 156·158" ; Vma:o: (nujol) I 745, I 500 and 8CO
cm-1 1 6 (CDC18 ) 1.48 l3H, s), 1.62 (3H, s), 2.32
(3H, s), 3.68 (IH, d, J 6Hz), 4.6 (1H, d, J 6Hz) and
7.24
(4H. m); CIMS (reagent gas: NH 8 ) 263
(M+NH,)+. Decarbethoxylation of 18d :
A mixture of
P-lactam 18d (1.665 g, 0.005 mol), DMF (15 ml),
sodium chloride (585 mg, 0.01 mol) and water (0.18
ml, 0.01 mol) was refluxed for 12 h under nitrogen
atmosphere. The excess DMF was distilled off
under reduced pressure. The residue was taken
up in methylene chloride (60 ml). The methylene
cllloride solution was repeatedly washed with water
(4x20 ml), brine (2x20ml)anddried(Na1 SO.,). It was then filtered and the filtrate on concentration
gave a mixture (1.25 g), which was separated by
flash column chromatography (silica gel, 230.400
mesh, chloroform-ethyl acetate-petroleum ether,
10 : 0.5 : 0.5). MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. Decarboethoxylatlon of 18c : A mixture of the
bicyclic P-Jactam (18c 1 3.17 g, 0.01 mol), sodium
chloride (1.2 g, 0.02 mol), water (I ml) and dime·
thylsulphoxide (20 ml) was reftuxed under nitrogen
atmosphere for 4 b. Oimethylsulphoxide was
distilled off under reduced pressure and the residue
was dissolved in methylene chloride (200 ml). The
methylene chloride extract was washed with water
(3 x 50 ml), brine (2 x 30 ml), dried (Na 1SO.,) and
filtered. Filtrate on evaporation under reduced
pressure gave a solid mass which on crystallisation
from ethyl acetate-hexane gave 22c ( 1.9 g, 79%),
m. p. 156·158" ; Vma:o: (nujol) I 745, I 500 and 8CO
cm-1 1 6 (CDC18 ) 1.48 l3H, s), 1.62 (3H, s), 2.32
(3H, s), 3.68 (IH, d, J 6Hz), 4.6 (1H, d, J 6Hz) and
7.24
(4H. m); CIMS (reagent gas: NH 8 ) 263
(M+NH,)+. Decarbethoxylation of 18d :
A mixture of
P-lactam 18d (1.665 g, 0.005 mol), DMF (15 ml),
sodium chloride (585 mg, 0.01 mol) and water (0.18
ml, 0.01 mol) was refluxed for 12 h under nitrogen
atmosphere. The excess DMF was distilled off
under reduced pressure. The residue was taken
up in methylene chloride (60 ml). The methylene
cllloride solution was repeatedly washed with water
(4x20 ml), brine (2x20ml)anddried(Na1 SO.,). It was then filtered and the filtrate on concentration
gave a mixture (1.25 g), which was separated by
flash column chromatography (silica gel, 230.400
mesh, chloroform-ethyl acetate-petroleum ether,
10 : 0.5 : 0.5). Less polar component (520 mg, 39.8%) was
characterised as the bicyclic P·lactam (lld). m.p. 153-4• (Found: C, 63 67; H, 6.06; N, 5 20. Calcd. for C14H111NO,. C, 64.36 i H. 5.79: N, 5.36%);
vm.,. (KBr) 1 770 and 1 735 cm-1 ; a (CDCI 8 ) 1.58
(3H, s}, 1.67 (3H, s), 370 (lH, d, J 5 Hz), 3.78
(3H, s), 4.67 (lH, d, J 5 Hz), 6.93 (lH, d, J 8 Hz)
and 7.51 (2H, d, J 8Hz); CIMS (reagent gas:
NH 8 } 279 (M+NH ... )+. The more polar compound (450 mg, 29.3%) was
characterised as the monocyclic P·lactam (28), m.p. 97·98" (Found : C, 62.42 1 H, 6.81 1 N, 4.81S. Calcd. 5.59 (lH, d, J 8.3 Hz), 6.81 (IH, d, J 8.3 Hz),
7.18 (SH. s) and 7.31 (SH, s); CIMS (reagent
gas:
CH~) 355 (M+NH4 )+. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. 17a:
JJma11
(oujol)
l 730 and 1 652 cm-1 : 6 (CDCI 8 ) 1.29 (9H, m),
2.32 (3H, s), 3.41 (1H, d, J 16Hz), 4.25 (5H, m),
5.46 (IH, s) and 7.3 (4H, m) i CIMS (reagent gas:
NH8 ) 367 (M+NH.)+ and 350 (M+H)+. 17c:
Vma:o: (nujol) 1 735 and 1 660 cm-1 6 8 (CDCl 8} 1.41
(12H, m) 2.33 (3H, s), 3.32 (1H, s), 4.3 (4H, m),
5.43 (1H, s) and 7.24 (4H, m) ; CIMS (reagent gas:
NH8 ) 381 (M+NH.,)"' and 364 (M+H)+. 17d:
JJma:o: (neat) 1 730 and l 670 cm-1 ; 6 (CDCI 8) 1.04
(3H, s), 1.22 (6H, t, J 7 Hz), 1.3Z (3H, s), 3.05 (lH,
s), 3.76 (3H, s), 4.1 (4H. m), 5.43 (1H, s), 6.9 (2H,
d, J 9 Hz) and 7.36 (2H, d, J 9 Hz) ; CIMS
(reagent gas: NHll) 379 (M+H)+, 397 (M+NH4)+. Bicyclic P-lactam (18b)11 :
To a solution of
epoxide (17b ; 7.1 g) in chloroform (80 ml), a
solution of triethylamine (4 ml) in chloroform
(20 ml) was added and the rl!action mixture was
refluxed with stirring for 6 h (monitered by tlc). The cooled reaction mixture was washed successi-
vely with lN HCI, water and brine, and dried
(MgS04 ). Tbe methylene chloride was removed
under reduced pressure to give an oily crude
product (5.58 g), which on purification by column
chromatography
(silica
gel,
100-200
mesh 1
petroleum ether-ethyl acetate (7 : 3} as eluent)
yielded pure 18b (4.033 g, 65%) which was crystal-
lised from ethyl acetate-petroleum ether, m.p. 93-94" (Found : C, 60.27 1 H, 5. 76 ; N, 4.40. Calcd. for C18HuN08 :
C, 6'J.18 1 H, 5.371 N, 4.39%) i
JJma:o: (nujol) 1 750 cm-1 ;
6 (COCI8 ) 1.28 (3H, t,
J 7.2 Hz), 1.63 (3H, d, J 8 Hz), 3.78 (3H, s), 4.11
(IH, d, J 8 Hz), 4.33 (2H, q, J 7.2 Hz), 4.92 (1H,
m), 6.86 (2H, d, J 9Hz) and 7.35 (2H, d, 9 Hz) ;
CIMS (reagent gas: NH8 ) 337 (M+ 18). Bicyclic P-lactam (18a) :
It was prepared as
described under 18b by cyclisiog the epoxyamide
17a with triethylamine, (54%), m.p. 94·5" (Found :
C, 62.1141 H, 5.58; N, 3.92. Calcd. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. for C18 Hu N0 11 :
C, 63.36 1 H, 5.65 ; N, 4.62%) 1 JJmu (nujol) 1 760,
1 500 and 810 cm-1 ; 6 (COCl 8 ) 1.28 (3H, t, J 1Hz),
1.62 (3H, d, J6 Hz), 2.31 (3H, s), 4.12 (lH, d,
3· ( 2'- Hydroxyisopropyl)-4 -phen11·4-carbethoxy·
carbonylazetidine-2-one (14) :
To a THF solution
of 12 (5.19 g), LDA (3.4 g, 0.034 M) at -78" under
nitrogen atmosphere was added dropwise and the
reactants were stirred for l h. The reaction was
quenched by pouring the reaction mixture in
saturated NaCJ solution. The reaction mixture
was extracted with methylene chloride. The organic
layer was dried (MgSO~), filtered and evaporated
under reduced pressure to yield a crude oil. This
oily product was purified by column chromato-
graphy
using
silica-gel as the absorbant and
benzene-ethyl acetate as the eluting solvent to
afford the product (14 ; 1.5 g) 1 vm.,. (nujol) 3 300,
I 760, I 500, I 460 and 700 cm-1 1 ~ (CDCI 8 ) 1.01
(3H, s), 1.23 (3H, s), 2.46 (IH, b), 4.61 (1H, s), 5.17
(2H, s) and 7.46 (lH, b) ; CIMS (reagent gas :
NH8 ) 357 (M+NH4)+. Decarboethoxylatlon of 18c : A mixture of the
bicyclic P-Jactam (18c 1 3.17 g, 0.01 mol), sodium
chloride (1.2 g, 0.02 mol), water (I ml) and dime·
thylsulphoxide (20 ml) was reftuxed under nitrogen
atmosphere for 4 b. Oimethylsulphoxide was
distilled off under reduced pressure and the residue
was dissolved in methylene chloride (200 ml). The
methylene chloride extract was washed with water
(3 x 50 ml), brine (2 x 30 ml), dried (Na 1SO.,) and
filtered. Filtrate on evaporation under reduced
pressure gave a solid mass which on crystallisation
from ethyl acetate-hexane gave 22c ( 1.9 g, 79%),
m. p. 156·158" ; Vma:o: (nujol) I 745, I 500 and 8CO
cm-1 1 6 (CDC18 ) 1.48 l3H, s), 1.62 (3H, s), 2.32
(3H, s), 3.68 (IH, d, J 6Hz), 4.6 (1H, d, J 6Hz) and
7.24
(4H. m); CIMS (reagent gas: NH 8 ) 263
(M+NH,)+. Decarbethoxylation of 18d :
A mixture of
P-lactam 18d (1.665 g, 0.005 mol), DMF (15 ml),
sodium chloride (585 mg, 0.01 mol) and water (0.18
ml, 0.01 mol) was refluxed for 12 h under nitrogen
atmosphere. The excess DMF was distilled off
under reduced pressure. The residue was taken
up in methylene chloride (60 ml). MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. Filtrate on evaporation un
pressure gave a solid mass which on c
from ethyl acetate-hexane gave 22c
m. p. 156·158" ; Vma:o: (nujol) I 745, I
cm-1 1 6 (CDC18 ) 1.48 l3H, s), 1.62
(3H, s), 3.68 (IH, d, J 6Hz), 4.6 (1H, d
7.24
(4H. m); CIMS (reagent gas
(M+NH,)+. Decarbethoxylation of 18d :
A
P-lactam 18d (1.665 g, 0.005 mol), D
sodium chloride (585 mg, 0.01 mol) an
ml, 0.01 mol) was refluxed for 12 h un
atmosphere. The excess DMF was
under reduced pressure. The residu
up in methylene chloride (60 ml). Th
cllloride solution was repeatedly washe
(4x20 ml), brine (2x20ml)anddrie
It was then filtered and the filtrate on c
gave a mixture (1.25 g), which was
flash column chromatography (silica
mesh, chloroform-ethyl acetate-petr
10 : 0.5 : 0.5). Less polar component (520 mg
characterised as the bicyclic P·lactam
153-4• (Found: C, 63 67; H, 6.06; N
for C14H111NO,. C, 64.36 i H. 5.79
vm.,. (KBr) 1 770 and 1 735 cm-1 ; a
(3H, s}, 1.67 (3H, s), 370 (lH, d,
(3H, s), 4.67 (lH, d, J 5 Hz), 6.93 (l
and 7.51 (2H, d, J 8Hz); CIMS (r
NH 8 } 279 (M+NH ... )+. 3· ( 2'- Hydroxyisopropyl)-4 -phen11·4-carbethoxy·
carbonylazetidine-2-one (14) :
To a THF solution
of 12 (5.19 g), LDA (3.4 g, 0.034 M) at -78" under
nitrogen atmosphere was added dropwise and the
reactants were stirred for l h. The reaction was
quenched by pouring the reaction mixture in
saturated NaCJ solution. The reaction mixture
was extracted with methylene chloride. The organic
layer was dried (MgSO~), filtered and evaporated
under reduced pressure to yield a crude oil. This
oily product was purified by column chromato-
graphy
using
silica-gel as the absorbant and
benzene-ethyl acetate as the eluting solvent to
afford the product (14 ; 1.5 g) 1 vm.,. (nujol) 3 300,
I 760, I 500, I 460 and 700 cm-1 1 ~ (CDCI 8 ) 1.01
(3H, s), 1.23 (3H, s), 2.46 (IH, b), 4.61 (1H, s), 5.17
(2H, s) and 7.46 (lH, b) ; CIMS (reagent gas :
NH8 ) 357 (M+NH4)+. Bicyclic P-lactam (18b)11 :
To a solution of
epoxide (17b ; 7.1 g) in chloroform (80 ml), a
solution of triethylamine (4 ml) in chloroform
(20 ml) was added and the rl!action mixture was
refluxed with stirring for 6 h (monitered by tlc). Experimental J 15Hz), 6.9 (2H, d,
J 9Hz) 7.0 (IH, d, J IS Hz) and 7.4 {2H, d,
J 9Hz) ; CIMS (reagent gas: NH 8 ) 350 (M+H)+
and 367 (M+NH .. )+. General method/or epoxideformation: Epoxide
17b : To a solution of amide (16b 1 6.98 g, 0.02
mol} in chloroform (SO ml), a solution of m-
chloroperoxybenzoic acid (5.1 g, 0.03 mol) in
chloroform (100 ml) was added over a period of
20 min and the resulting mixture was reftuxed for
S h (monitored by tlc). The e11cess per acid was
decomposed by the treatment of 10% Na1S08
solution. Tbe chloroform layer was washed with
saturated NaHC08 (3 x SO ml), water and brine. It was dried over MgSO .. and filtered. The filtrate
was concentrated to give an oily product (7.15 g). Column chromatography (Florosil, 100-200 mesb ;
ethyl acetate-petroleum ether, 2: 8) gave 17b as
a solid, m.p. IIS-6" (Found : C, S9.20 ; H, 6.31 ;
N, 3.57. Calcd. for C18H 118NO, : C, 59.17; H,
6.34 l N, 3.83%) ; Vma,. (nujol) 1 740, 1 720, 1 505,
and 840 cm-1 ; a (CDC1 8 ) 1.2 {6H, m), 1.42 {3H,
d, J 7 Hz), 3.75 (3H, s), 3.85 (IH, d, J 4Hz),
4.26 (5H, m), 4.8 (IH, s), 6.8 {2H, d, J 9Hz) and
7.45 (2H, d, J 9Hz) l CIMS (reagent gas: NH 1 )
366 {M+H)+ and 383 (M+NH,)+, Using
similar
reaction conditions benzyl
phcnylglycinate and 3,3-dimetbylacrolyl chloride
gave tile amide 11 as an oily liquid in (93%) 1
Jlmaz (nujol) 3 360, 2 910, 2 080, l 940, 1 710, 1 620
and 715 cm-1 1 c5 (CDCI 8 ) 1.76 (3H, s), 2.11 (3H, s),
5.07 (2H, s), S.S7 (lH, s), 5.65 (lH, d, J a.33 Hz),
6.71 (IH, d, J 8.33 Hz), 7.17 (5H, s) and 7.24 {SH,
s) J CIMS (reagent gas 1 NH1 ) 341 {M+NH .. )+. Using tbe same reaction conditions the epoxides
12, 17a. 17c and 17d were prepared as viscous oils
is 70·80% yields, and were used as such without
further purification. The spectral data on these
compounds is given below : n : l.lma:r (nujol) 3 400,
2 960, 1 740, 1670, 1 500 and 700 cm-1 & a {CDC18 )
1.14 {3H, s), 1.36 {3H, s), 3.28 (lH, s), S.ll {2H, s), 894 MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. ,
,
,
5.59 (lH, d, J 8.3 Hz), 6.81 (IH, d, J 8.3 Hz),
7.18 (SH. s) and 7.31 (SH, s); CIMS (reagent
gas:
CH~) 355 (M+NH4 )+. 17a:
JJma11
(oujol)
l 730 and 1 652 cm-1 : 6 (CDCI 8 ) 1.29 (9H, m),
2.32 (3H, s), 3.41 (1H, d, J 16Hz), 4.25 (5H, m),
5.46 (IH, s) and 7.3 (4H, m) i CIMS (reagent gas:
NH8 ) 367 (M+NH.)+ and 350 (M+H)+. 17c:
Vma:o: (nujol) 1 735 and 1 660 cm-1 6 8 (CDCl 8} 1.41
(12H, m) 2.33 (3H, s), 3.32 (1H, s), 4.3 (4H, m),
5.43 (1H, s) and 7.24 (4H, m) ; CIMS (reagent gas:
NH8 ) 381 (M+NH.,)"' and 364 (M+H)+. 17d:
JJma:o: (neat) 1 730 and l 670 cm-1 ; 6 (CDCI 8) 1.04
(3H, s), 1.22 (6H, t, J 7 Hz), 1.3Z (3H, s), 3.05 (lH,
s), 3.76 (3H, s), 4.1 (4H. m), 5.43 (1H, s), 6.9 (2H,
d, J 9 Hz) and 7.36 (2H, d, J 9 Hz) ; CIMS
(reagent gas: NHll) 379 (M+H)+, 397 (M+NH4)+. Bicyclic P-lactam (18b)11 :
To a solution of
epoxide (17b ; 7.1 g) in chloroform (80 ml), a
solution of triethylamine (4 ml) in chloroform
(20 ml) was added and the rl!action mixture was
refluxed with stirring for 6 h (monitered by tlc). The cooled reaction mixture was washed successi-
vely with lN HCI, water and brine, and dried
(MgS04 ). Tbe methylene chloride was removed
under reduced pressure to give an oily crude
product (5.58 g), which on purification by column
chromatography
(silica
gel,
100-200
mesh 1
petroleum ether-ethyl acetate (7 : 3} as eluent)
yielded pure 18b (4.033 g, 65%) which was crystal-
lised from ethyl acetate-petroleum ether, m.p. 93-94" (Found : C, 60.27 1 H, 5. 76 ; N, 4.40. Calcd. for C18HuN08 :
C, 6'J.18 1 H, 5.371 N, 4.39%) i
JJma:o: (nujol) 1 750 cm-1 ;
6 (COCI8 ) 1.28 (3H, t,
J 7.2 Hz), 1.63 (3H, d, J 8 Hz), 3.78 (3H, s), 4.11
(IH, d, J 8 Hz), 4.33 (2H, q, J 7.2 Hz), 4.92 (1H,
m), 6.86 (2H, d, J 9Hz) and 7.35 (2H, d, 9 Hz) ;
CIMS (reagent gas: NH8 ) 337 (M+ 18). MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. Bicyclic P-lactam (18a) :
It was prepared as
described under 18b by cyclisiog the epoxyamide
17a with triethylamine, (54%), m.p. 94·5" (Found :
C, 62.1141 H, 5.58; N, 3.92. Calcd. for C18 Hu N0 11 :
C, 63.36 1 H, 5.65 ; N, 4.62%) 1 JJmu (nujol) 1 760,
1 500 and 810 cm-1 ; 6 (COCl 8 ) 1.28 (3H, t, J 1Hz),
1.62 (3H, d, J6 Hz), 2.31 (3H, s), 4.12 (lH, d,
J 6 Hz). 4.33 (2H, q, J 1 Hz), 4.91 ( lH, m) and
7.3 (4H, m) ; CIMS (reagent gas: NH8 ) 321
(M+NH.)+ and 304 (M+ H)+,
Bicyclic P·lactam (19c) : It was obtained from
17c. (t-0%), m.p. 79-ln" (Found : C, 64.54 1 H, 6.14;
N, 4.261. Calcd. for CuH18N0 11 : C, 64.37; H,
6.03 1 N, 4.41%) ;
~m.,. (nujol) 1 765, I 520 and
822 cm-1 ; 6 (COCI 8) 1.3 (3H, t, J 1 Hz), 1.58 (3H,
s), 1.62 t3H, s), 2 3 (3H, s), 3.82 (lH, s), 4.35 (2H,
q, J7 Hz) and 7,28 (4H, m); ClMS (reagent gas:
NH 8 ) 355 (M+NH~)t and 318 (M+H)+,
Blcyclic P·lactam (18d) : It was formed (73%),
m.p. 127-128", by the cyclisation of 17d using the
conditions described above ;
llma:o: CKBr) 1 745,
1 715, 1 645 and 1 625 cm-1 ; 8 (CCI,) 1.24 (3H,
t, J 6 Hz), 3.67 (2H, s), 4.19 (2H, t, J 6 Hz) and
4.5 {lH, s). 3· ( 2'- Hydroxyisopropyl)-4 -phen11·4-carbethoxy·
carbonylazetidine-2-one (14) :
To a THF solution
of 12 (5.19 g), LDA (3.4 g, 0.034 M) at -78" under
nitrogen atmosphere was added dropwise and the
reactants were stirred for l h. The reaction was
quenched by pouring the reaction mixture in
saturated NaCJ solution. The reaction mixture
was extracted with methylene chloride. The organic
layer was dried (MgSO~), filtered and evaporated
under reduced pressure to yield a crude oil. This
oily product was purified by column chromato-
graphy
using
silica-gel as the absorbant and
benzene-ethyl acetate as the eluting solvent to
afford the product (14 ; 1.5 g) 1 vm.,. (nujol) 3 300,
I 760, I 500, I 460 and 700 cm-1 1 ~ (CDCI 8 ) 1.01
(3H, s), 1.23 (3H, s), 2.46 (IH, b), 4.61 (1H, s), 5.17
(2H, s) and 7.46 (lH, b) ; CIMS (reagent gas :
NH8 ) 357 (M+NH4)+. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. The methylene
cllloride solution was repeatedly washed with water
(4x20 ml), brine (2x20ml)anddried(Na1 SO.,). 5.59 (lH, d, J 8.3 Hz), 6.81 (IH, d, J 8.3 Hz),
7.18 (SH. s) and 7.31 (SH, s); CIMS (reagent
gas:
CH~) 355 (M+NH4 )+. 17a:
JJma11
(oujol)
l 730 and 1 652 cm-1 : 6 (CDCI 8 ) 1.29 (9H, m),
2.32 (3H, s), 3.41 (1H, d, J 16Hz), 4.25 (5H, m),
5.46 (IH, s) and 7.3 (4H, m) i CIMS (reagent gas:
NH8 ) 367 (M+NH.)+ and 350 (M+H)+. 17c:
Vma:o: (nujol) 1 735 and 1 660 cm-1 6 8 (CDCl 8} 1.41
(12H, m) 2.33 (3H, s), 3.32 (1H, s), 4.3 (4H, m),
5.43 (1H, s) and 7.24 (4H, m) ; CIMS (reagent gas:
NH8 ) 381 (M+NH.,)"' and 364 (M+H)+. 17d:
JJma:o: (neat) 1 730 and l 670 cm-1 ; 6 (CDCI 8) 1.04
(3H, s), 1.22 (6H, t, J 7 Hz), 1.3Z (3H, s), 3.05 (lH,
s), 3.76 (3H, s), 4.1 (4H. m), 5.43 (1H, s), 6.9 (2H,
d, J 9 Hz) and 7.36 (2H, d, J 9 Hz) ; CIMS
(reagent gas: NHll) 379 (M+H)+, 397 (M+NH4)+. Bicyclic P-lactam (18b)11 :
To a solution of
epoxide (17b ; 7.1 g) in chloroform (80 ml), a
solution of triethylamine (4 ml) in chloroform
(20 ml) was added and the rl!action mixture was
refluxed with stirring for 6 h (monitered by tlc). The cooled reaction mixture was washed successi-
vely with lN HCI, water and brine, and dried
(MgS04 ). Tbe methylene chloride was removed
under reduced pressure to give an oily crude
product (5.58 g), which on purification by column
chromatography
(silica
gel,
100-200
mesh 1
petroleum ether-ethyl acetate (7 : 3} as eluent)
yielded pure 18b (4.033 g, 65%) which was crystal-
lised from ethyl acetate-petroleum ether, m.p. 93-94" (Found : C, 60.27 1 H, 5. 76 ; N, 4.40. Calcd. for C18HuN08 :
C, 6'J.18 1 H, 5.371 N, 4.39%) i
JJma:o: (nujol) 1 750 cm-1 ;
6 (COCI8 ) 1.28 (3H, t,
J 7.2 Hz), 1.63 (3H, d, J 8 Hz), 3.78 (3H, s), 4.11
(IH, d, J 8 Hz), 4.33 (2H, q, J 7.2 Hz), 4.92 (1H,
m), 6.86 (2H, d, J 9Hz) and 7.35 (2H, d, 9 Hz) ;
CIMS (reagent gas: NH8 ) 337 (M+ 18). MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. Bicyclic P-lactam (18a) :
It was prepared as
described under 18b by cyclisiog the epoxyamide
17a with triethylamine, (54%), m.p. 94·5" (Found :
C, 62.1141 H, 5.58; N, 3.92. Calcd. for C18 Hu N0 11 :
C, 63.36 1 H, 5.65 ; N, 4.62%) 1 JJmu (nujol) 1 760,
1 500 and 810 cm-1 ; 6 (COCl 8 ) 1.28 (3H, t, J 1Hz),
1.62 (3H, d, J6 Hz), 2.31 (3H, s), 4.12 (lH, d,
J 6 Hz). 4.33 (2H, q, J 1 Hz), 4.91 ( lH, m) and
7.3 (4H, m) ; CIMS (reagent gas: NH8 ) 321
(M+NH.)+ and 304 (M+ H)+,
Bicyclic P·lactam (19c) : It was obtained from
17c. (t-0%), m.p. 79-ln" (Found : C, 64.54 1 H, 6.14;
N, 4.261. Calcd. for CuH18N0 11 : C, 64.37; H,
6.03 1 N, 4.41%) ;
~m.,. (nujol) 1 765, I 520 and
822 cm-1 ; 6 (COCI 8) 1.3 (3H, t, J 1 Hz), 1.58 (3H,
s), 1.62 t3H, s), 2 3 (3H, s), 3.82 (lH, s), 4.35 (2H,
q, J7 Hz) and 7,28 (4H, m); ClMS (reagent gas:
NH 8 ) 355 (M+NH~)t and 318 (M+H)+,
Blcyclic P·lactam (18d) : It was formed (73%),
m.p. 127-128", by the cyclisation of 17d using the
di i
d
ib d
b
CKB ) 1 45
3· ( 2'- Hydroxyisopropyl)-4 -phen1
carbonylazetidine-2-one (14) :
To a T
of 12 (5.19 g), LDA (3.4 g, 0.034 M) a
nitrogen atmosphere was added dro
reactants were stirred for l h. The
quenched by pouring the reactio
saturated NaCJ solution. The reac
was extracted with methylene chloride
layer was dried (MgSO~), filtered an
under reduced pressure to yield a cr
oily product was purified by colum
graphy
using
silica-gel as the ab
benzene-ethyl acetate as the elutin
afford the product (14 ; 1.5 g) 1 vm.,. I 760, I 500, I 460 and 700 cm-1 1 ~
(3H, s), 1.23 (3H, s), 2.46 (IH, b), 4.61
(2H, s) and 7.46 (lH, b) ; CIMS
NH8 ) 357 (M+NH4)+. Decarboethoxylatlon of 18c : A m
bicyclic P-Jactam (18c 1 3.17 g, 0.01
chloride (1.2 g, 0.02 mol), water (I m
thylsulphoxide (20 ml) was reftuxed un
atmosphere for 4 b. Oimethylsul
distilled off under reduced pressure an
was dissolved in methylene chloride (2
methylene chloride extract was washed
(3 x 50 ml), brine (2 x 30 ml), dried (
filtered. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. 7.68 1 N, 5.62%) 1 21mu (nujol) 3 180, 1 760, I 500
and 800 cm-1 1 a (CDCJ 8 ) 1.35 (3H, s), 1.45 {3H, s),
2.28 (3H, s), 2.S2 (1H, b), 3.32 (JH,d), 4.12 (lH, m),
4.25 (IH, d, I Hz), 7.24 (4H, m) : CIMS (reagent
gas: NH8 ) 250 (M+H)+ and 267 (M+NH,)+, trans·l·p·Anisyl-3·(1'-hydroxyethJI)-4-ca,bethoxy-
azetidin-2·one (30) :
To the solution of JJ-lactam
18b ( 1.595 g, O.OOS mol) in DMF ( 15 ml), sodium
chloride (585 mg, 0.01 mol) and water (0.18 ml,
0.01 mol) were added and the reaction mixture was
rcftuxed for 8 b. DMF was removed under high
vacuum. The residue was dissolved in methylene
chloride (60 ml), and the solution was washed
successively with water (3 x 20 ml), brine (2 x 20 ml)
and dried (Na1 SO,). It was then filtered and the
filtrate on removal of solvent gave a crude oily
product (1.2 g), which was purified by column chro-
matography (silica gel, 230-400 mesb, chloroform-
ethyl acetate-petroleum ether 10.05 : O.S) to give
pure 30, (1.02~ g, 70%) m.p. 48• {Found : C, 61.03 1
H, 6.46 1 N, 4.60. Calcd. for C11H10NO, : C,
61.42; H, 6.53 1 N, 4.78%) 1 llmu (nujoJ) 3 440 and
I 720 cm-1 ; a (CDCI8 ) 1.25 (2H, t, I 7 Hz) 1.42
(3H, d,I6Hz), 3.36 (IH, dd,l2.5andS.2SHz),
3.77 (3H, s), 4.25 (3H, m), 4.39 (IH, d, I 2.5 Hz),
6.84 (2H, d, I 9Hz) and 7.25 (2H, d, I 9Hz);
CIMS (reagent gas: NH 8 ) 294 (M+H)+ and 311
(M+NH,)+, cis-N·(p·Methoxyphenyl)·3·(2'·hydroxyisopropyl)·
4-hydroxymethylazetidine-2-one (24) :
Using
the
same reacticn conditions as described under 23,
the tillc compound was obtained (76%) from 22d,
m p. 212-213° (Found: C, 63.02& H, 7.17: N. S.S4. Calcd. for CuH11NO,: C, 63.38; H, 7.22 1 N,
5.28%) 1 "mu: (KBr)
3 200,
1 730,
l SIO
and
835 cm- 1 1 8 (CDC1 8 ) 1.35 (3H, s), 1.49 (3H, s),
3.42 (lH, d, I 5.1 Hz), 3.76 (3H, s). 4.00-4.30
(3H, m). 5.62 (lH, m), 6.M6 {2H, d, I 8.1 Hz) and
7.38 {2H, d, I 8.1 Hz) 1 ClMS (reagent gas 1 NH8 )
266 {M+H)+ and 283 {M+NH,)+. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. The residue was dissolved in methylene
chloride (60 ml), and the solution was washed
successively with water (3 x 20 ml), brine (2 x 20 ml)
and dried (Na1 SO,). It was then filtered and the
filtrate on removal of solvent gave a crude oily
product (1.2 g), which was purified by column chro-
matography (silica gel, 230-400 mesb, chloroform-
ethyl acetate-petroleum ether 10.05 : O.S) to give
pure 30, (1.02~ g, 70%) m.p. 48• {Found : C, 61.03 1
H, 6.46 1 N, 4.60. Calcd. for C11H10NO, : C,
61.42; H, 6.53 1 N, 4.78%) 1 llmu (nujoJ) 3 440 and
I 720 cm-1 ; a (CDCI8 ) 1.25 (2H, t, I 7 Hz) 1.42
(3H, d,I6Hz), 3.36 (IH, dd,l2.5andS.2SHz),
3.77 (3H, s), 4.25 (3H, m), 4.39 (IH, d, I 2.5 Hz),
6.84 (2H, d, I 9Hz) and 7.25 (2H, d, I 9Hz);
CIMS (reagent gas: NH 8 ) 294 (M+H)+ and 311
(M+NH,)+,
JJ·Lactum carbonate (31) : A solution of P·lactam
30 (1.465 g, 0.005 mol), 4-dimethylaminopyridine
(1.22 g, 0.01 mol) in methylene chloride (IS ml)
was cooled to o· and a solution of benzyl chloro·
formate {1.023 g, 0.006 mol) in methylene chloride
(5 ml) was added slowly over a period of IS min
under N 1 atmosphere. The reaction mixture was
stirred for I h at oo followed by overnight stirring
at room temperature. The reac1ion mixture was
then diluted with methylene chloride and washed
successively with dilute HCl (IN 2 x 20 ml) water for C18H11NO, : C, 62.S3; H, 6.89 1 N, 4.S6%) I
Vmu (KBr) 3 450 and 1 730 cm-1 i a (CDC18) 1.2
(3H, t, I 7 Hz), 1.3 (3H, s), 1.4S (3H, s}, 3.27 (IH, d,
12.5 Hz), 3.72 (JH,s), 4.2 (2H,q, 1Hz), 4.46 (IH,
d, 12.S Hz), 6.75 (2H, d, 19Hz) and 7.2 (2H, d,
19Hz) 1 ClMS (reagent gas: NH8 ) 308 (M+H)+. N-Unsubstituted bicyclic P·lactam (27) : A solu-
tion of P·lactam 22d (522 mg, 0.002 mol) in
acetonitrite (I 5 ml) was cooled to o• in an ice-bath. To this cold mixture, a solution of eerie ammonium
nitrate (3.28 g, 0.006 mol) in water (20 ml) was
added over a period of 10 min. The reaction
mixture was stirred further at - S to 0° for 30 min. The progress of the reaction was monitored by tic. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. It was then diluted with water ( 100 ml) and extracted
with ethyl acetate (3x 50 ml). The ethyl acetate
extracts were washed with saturated NaHC08 solu-
tion (2x 40 ml). The aqueous extracts were back-
washed with ethyl acetate (SO ml). The combined
ethy 1 acetate extracts were washed with sodium
sulphite (until the aqueous layer remained color-
less), brine, dried (MgSO,) and filtered. The
filtrate was concentrated to give crude 27 (300 mg). It was purified by silica gel (100-200 mesh) column
chromatography using ethyl acetate petroleum ether
(6: 4) as an eluent when pure 27 was obtained
(150 mg, 48%), m.p. 99-101 o (Found 1 C, 53.98 1
H, 5.67 1 N, 8.19. Calcd. for C,H8N08 : C, 54.1P
H, 5.85 1 N, 8.18%) 1 t1maz (nujol) 3 300, 1 770 and
I 740 cm-1 1 8 (CDCJ 8 ), 1.45 (3H, s), 1.63 (3H, s),
3.71 (IH, d·, I 6Hz), 4.31 (IH, d, I 6 Hz) and 6.66
(IH,
bs) 1 CIMS
(reagent
gas: NH 8 )
173
(M+NH,)+. cis-N·p·Toluidino·3-(2'·hydroxyisopropyl)-4-hy·
droxymethylazeti /ine-2-one (23) : To a stirred solo·
tion of lithium borohydride (0.52 g, 0.025 mol) io
diglyme (10 ml), was added dropwise a solution of
22c (4.29 g, 0.02 mol) in diglymc (50 ml) at 0° over
a period of I h. The reaction mixture was then
heated on a steam-bath for 3 h. After cooling, the
reactants were poured over crushed icc containing
dilute hydrochloric acid. The reaction mixture
was then extracted with ethyl acetate (3 x 100 ml). The combined ethyl acetate extracts were washed
with water (2 x 100 ml}, briac {2 x SO ml), dried
(MgSO ,) and filtered. Evaporation of the solvent
under reduced pressure gave 23 (3.89 g, 80%), m.p,
216·218° (ethyl acetate) (Found : C, 67.30 1 H,
7.66 1 N, 5.45. Calcd. for Cu.H19N08 : C, 67.45:
H. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. Bicyclic P-lactam (18a) :
It was prepared as
described under 18b by cyclisiog the epoxyamide
17a with triethylamine, (54%), m.p. 94·5" (Found :
C, 62.1141 H, 5.58; N, 3.92. Calcd. for C18 Hu N0 11 :
C, 63.36 1 H, 5.65 ; N, 4.62%) 1 JJmu (nujol) 1 760,
1 500 and 810 cm-1 ; 6 (COCl 8 ) 1.28 (3H, t, J 1Hz),
1.62 (3H, d, J6 Hz), 2.31 (3H, s), 4.12 (lH, d,
J 6 Hz). 4.33 (2H, q, J 1 Hz), 4.91 ( lH, m) and
7.3 (4H, m) ; CIMS (reagent gas: NH8 ) 321
(M+NH.)+ and 304 (M+ H)+, Bicyclic P·lactam (19c) : It was obtained from
17c. (t-0%), m.p. 79-ln" (Found : C, 64.54 1 H, 6.14;
N, 4.261. Calcd. for CuH18N0 11 : C, 64.37; H,
6.03 1 N, 4.41%) ;
~m.,. (nujol) 1 765, I 520 and
822 cm-1 ; 6 (COCI 8) 1.3 (3H, t, J 1 Hz), 1.58 (3H,
s), 1.62 t3H, s), 2 3 (3H, s), 3.82 (lH, s), 4.35 (2H,
q, J7 Hz) and 7,28 (4H, m); ClMS (reagent gas:
NH 8 ) 355 (M+NH~)t and 318 (M+H)+, Less polar component (520 mg, 39.8%) was
characterised as the bicyclic P·lactam (lld). m.p. 153-4• (Found: C, 63 67; H, 6.06; N, 5 20. Calcd. for C14H111NO,. C, 64.36 i H. 5.79: N, 5.36%);
vm.,. (KBr) 1 770 and 1 735 cm-1 ; a (CDCI 8 ) 1.58
(3H, s}, 1.67 (3H, s), 370 (lH, d, J 5 Hz), 3.78
(3H, s), 4.67 (lH, d, J 5 Hz), 6.93 (lH, d, J 8 Hz)
and 7.51 (2H, d, J 8Hz); CIMS (reagent gas:
NH 8 } 279 (M+NH ... )+. Blcyclic P·lactam (18d) : It was formed (73%),
m.p. 127-128", by the cyclisation of 17d using the
conditions described above ;
llma:o: CKBr) 1 745,
1 715, 1 645 and 1 625 cm-1 ; 8 (CCI,) 1.24 (3H,
t, J 6 Hz), 3.67 (2H, s), 4.19 (2H, t, J 6 Hz) and
4.5 {lH, s). The more polar compound (450 mg, 29.3%) was
characterised as the monocyclic P·lactam (28), m.p. 97·98" (Found : C, 62.42 1 H, 6.81 1 N, 4.81S. Calcd. 895 J. INDIAN CHBM. SOC., VOL. LXII, NOVBMBBR i98S J. INDIAN CHBM. SOC., VOL. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. LXII, NOVBMBBR i98S
for C18H11NO, : C, 62.S3; H, 6.89 1 N, 4.S6%) I
Vmu (KBr) 3 450 and 1 730 cm-1 i a (CDC18) 1.2
(3H, t, I 7 Hz), 1.3 (3H, s), 1.4S (3H, s}, 3.27 (IH, d,
12.5 Hz), 3.72 (JH,s), 4.2 (2H,q, 1Hz), 4.46 (IH,
d, 12.S Hz), 6.75 (2H, d, 19Hz) and 7.2 (2H, d,
19Hz) 1 ClMS (reagent gas: NH8 ) 308 (M+H)+. cis-N·p·Toluidino·3-(2'·hydroxyisopropyl)-4-hy·
droxymethylazeti /ine-2-one (23) : To a stirred solo·
tion of lithium borohydride (0.52 g, 0.025 mol) io
diglyme (10 ml), was added dropwise a solution of
22c (4.29 g, 0.02 mol) in diglymc (50 ml) at 0° over
a period of I h. The reaction mixture was then
heated on a steam-bath for 3 h. After cooling, the
reactants were poured over crushed icc containing
dilute hydrochloric acid. The reaction mixture
was then extracted with ethyl acetate (3 x 100 ml). The combined ethyl acetate extracts were washed
with water (2 x 100 ml}, briac {2 x SO ml), dried
(MgSO ,) and filtered. Evaporation of the solvent
under reduced pressure gave 23 (3.89 g, 80%), m.p,
216·218° (ethyl acetate) (Found : C, 67.30 1 H,
7.66 1 N, 5.45. Calcd. for Cu.H19N08 : C, 67.45:
H. 7.68 1 N, 5.62%) 1 21mu (nujol) 3 180, 1 760, I 500
and 800 cm-1 1 a (CDCJ 8 ) 1.35 (3H, s), 1.45 {3H, s),
2.28 (3H, s), 2.S2 (1H, b), 3.32 (JH,d), 4.12 (lH, m),
4.25 (IH, d, I Hz), 7.24 (4H, m) : CIMS (reagent
gas: NH8 ) 250 (M+H)+ and 267 (M+NH,)+,
cis-N·(p·Methoxyphenyl)·3·(2'·hydroxyisopropyl)·
4-hydroxymethylazetidine-2-one (24) :
Using
the
same reacticn conditions as described under 23,
the tillc compound was obtained (76%) from 22d,
m p. 212-213° (Found: C, 63.02& H, 7.17: N. S.S4. Calcd. for CuH11NO,: C, 63.38; H, 7.22 1 N,
5.28%) 1 "mu: (KBr)
3 200,
1 730,
l SIO
and
835 cm- 1 1 8 (CDC1 8 ) 1.35 (3H, s), 1.49 (3H, s),
3.42 (lH, d, I 5.1 Hz), 3.76 (3H, s). 4.00-4.30
(3H, m). 5.62 (lH, m), 6.M6 {2H, d, I 8.1 Hz) and
7.38 {2H, d, I 8.1 Hz) 1 ClMS (reagent gas 1 NH8 )
266 {M+H)+ and 283 {M+NH,)+. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. P·Lactam carbonate (25) : To a suspension of
the diol 24 (265 mg, 0.001 mol) in methylene
chloride (25 ml), dimethyl aminop} ridine (765 mg,
0.002 mol) was added and the reaction mixture
cooled to 0°. To this was added dropwisc with
stirring benzyl chloroformate (1 mJ) in methylene
chloride {10 ml), under nitrogen atmosphere. The
reaction mixture was further stirred overnight at
room temperature, diluted with methylene chloride
(200 ml), washed with water (3 x SO ml), sodium
bicarbonate solution (2 x SO ml), brine (2 x 30 ml),
dried (Na 1SO,) and filtered. The filtrate on
evaporation gave 25 (325 mg, 82%), m.p. 114-115•
{ethyl acetate-petroleum ether) (Found : C, 65.93 1
H, 6.19; N, 3.50. Calcd for C111H111N08 : C,
66.15 1 H, 6.311 N, 3.51%) 1 JJmaz (KBr} 3 450, 1 740,
1 SIO and 830 cm-1 1 ~ (CDCI 8 ) 1.40 {JH, s), 1.64
(3H, s), 3.43 (IH, d, I 5.1 Hz), 3.77 (3H, s), 4.39
(1H, m), 4.73 {I tJ, dd, I S.1 and 12.2 Hz), 4.98 (IH,
dd, I 5 and 12.2 Hz). 5.16 (2H, s), 6.8~ {2H. d, I
9Hz) and 7.37 (7H, m) 1 ClMS (reagent gas : NH8 )
417 (M NH )
N-Unsubstituted bicyclic P·lactam (27) :
tion of P·lactam 22d (522 mg, 0.002 m
acetonitrite (I 5 ml) was cooled to o• in an ic
To this cold mixture, a solution of eerie amm
nitrate (3.28 g, 0.006 mol) in water (20 m
added over a period of 10 min. The r
mixture was stirred further at - S to 0° for
The progress of the reaction was monitored
It was then diluted with water ( 100 ml) and ex
with ethyl acetate (3x 50 ml). The ethyl
extracts were washed with saturated NaHC0
tion (2x 40 ml). The aqueous extracts were
washed with ethyl acetate (SO ml). The com
ethy 1 acetate extracts were washed with
sulphite (until the aqueous layer remained
less), brine, dried (MgSO,) and filtered
filtrate was concentrated to give crude 27 (30
It was purified by silica gel (100-200 mesh) c
chromatography using ethyl acetate petroleum
(6: 4) as an eluent when pure 27 was ob
(150 mg, 48%), m.p. 99-101 o (Found 1 C,
H, 5.67 1 N, 8.19. Calcd. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. P·Lactam carbonate (25) :
To a suspension of
N-Unsubstituted bicyclic P·
tion of P·lactam 22d (522
acetonitrite (I 5 ml) was cooled
To this cold mixture, a solutio
nitrate (3.28 g, 0.006 mol) i
added over a period of 10
mixture was stirred further at
The progress of the reaction w
It was then diluted with water (
with ethyl acetate (3x 50 ml)
extracts were washed with satu
tion (2x 40 ml). The aqueous
washed with ethyl acetate (SO
ethy 1 acetate extracts were w
sulphite (until the aqueous l
less), brine, dried (MgSO,)
filtrate was concentrated to giv
It was purified by silica gel (10
chromatography using ethyl ac
(6: 4) as an eluent when pu
(150 mg, 48%), m.p. 99-101 o
H, 5.67 1 N, 8.19. Calcd. for C
H, 5.85 1 N, 8.18%) 1 t1maz (nujo
I 740 cm-1 1 8 (CDCJ 8 ), 1.45
3.71 (IH, d·, I 6Hz), 4.31 (IH,
(IH,
bs) 1 CIMS
(reagen
(M+NH,)+. trans·l·p·Anisyl-3·(1'-hydroxy
azetidin-2·one (30) :
To the s
18b ( 1.595 g, O.OOS mol) in D
chloride (585 mg, 0.01 mol)
0.01 mol) were added and the r
rcftuxed for 8 b. DMF was
vacuum. The residue was diss
chloride (60 ml), and the sol
successively with water (3 x 20 m
and dried (Na1 SO,). It was th
filtrate on removal of solven
product (1.2 g), which was purif
matography (silica gel, 230-400
ethyl acetate-petroleum ether
pure 30
(1.02~ g 70%) m p 48• H, 6.89 1 N, 4.S6%) I
-1 i a (CDC18) 1.2
(3H, s}, 3.27 (IH, d,
,q, 1Hz), 4.46 (IH,
z) and 7.2 (2H, d,
NH8 ) 308 (M+H)+. oxyisopropyl)-4-hy·
To a stirred solo·
.52 g, 0.025 mol) io
pwise a solution of
(50 ml) at 0° over
mixture was then
After cooling, the
hed icc containing
reaction mixture
cetate (3 x 100 ml). racts were washed
{2 x SO ml), dried
ation of the solvent
(3.89 g, 80%), m.p,
nd : C, 67.30 1 H,
19N08 : C, 67.45:
3 180, 1 760, I 500
3H, s), 1.45 {3H, s),
H,d), 4.12 (lH, m),
m) : CIMS (reagent
7 (M+NH,)+,
hydroxyisopropyl)·
4) :
Using
the
escribed under 23,
ed (76%) from 22d,
& H, 7.17: N. S.S4. 3.38; H, 7.22 1 N,
730,
l SIO
and
s), 1.49 (3H, s),
(3H, s). MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. 4.00-4.30
d, I 8.1 Hz) and
reagent gas 1 NH8 )
+. o a suspension of
ol) in methylene
op} ridine (765 mg,
e reaction mixture
ded dropwisc with
mJ) in methylene
atmosphere. The
tirred overnight at
methylene chloride
x SO ml), sodium
brine (2 x 30 ml),
The filtrate on
2%), m.p. 114-115•
Found : C, 65.93 1
C111H111N08 : C,
KBr} 3 450, 1 740,
1.40 {JH, s), 1.64
3.77 (3H, s), 4.39
2.2 Hz), 4.98 (IH,
s), 6.8~ {2H. d, I
eagent gas : NH8 )
N-Unsubstituted bicyclic P·lactam (27) : A solu-
tion of P·lactam 22d (522 mg, 0.002 mol) in
acetonitrite (I 5 ml) was cooled to o• in an ice-bath. To this cold mixture, a solution of eerie ammonium
nitrate (3.28 g, 0.006 mol) in water (20 ml) was
added over a period of 10 min. The reaction
mixture was stirred further at - S to 0° for 30 min. The progress of the reaction was monitored by tic. It was then diluted with water ( 100 ml) and extracted
with ethyl acetate (3x 50 ml). The ethyl acetate
extracts were washed with saturated NaHC08 solu-
tion (2x 40 ml). The aqueous extracts were back-
washed with ethyl acetate (SO ml). The combined
ethy 1 acetate extracts were washed with sodium
sulphite (until the aqueous layer remained color-
less), brine, dried (MgSO,) and filtered. The
filtrate was concentrated to give crude 27 (300 mg). It was purified by silica gel (100-200 mesh) column
chromatography using ethyl acetate petroleum ether
(6: 4) as an eluent when pure 27 was obtained
(150 mg, 48%), m.p. 99-101 o (Found 1 C, 53.98 1
H, 5.67 1 N, 8.19. Calcd. for C,H8N08 : C, 54.1P
H, 5.85 1 N, 8.18%) 1 t1maz (nujol) 3 300, 1 770 and
I 740 cm-1 1 8 (CDCJ 8 ), 1.45 (3H, s), 1.63 (3H, s),
3.71 (IH, d·, I 6Hz), 4.31 (IH, d, I 6 Hz) and 6.66
(IH,
bs) 1 CIMS
(reagent
gas: NH 8 )
173
(M+NH,)+. trans·l·p·Anisyl-3·(1'-hydroxyethJI)-4-ca,bethoxy-
azetidin-2·one (30) :
To the solution of JJ-lactam
18b ( 1.595 g, O.OOS mol) in DMF ( 15 ml), sodium
chloride (585 mg, 0.01 mol) and water (0.18 ml,
0.01 mol) were added and the reaction mixture was
rcftuxed for 8 b. DMF was removed under high
vacuum. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. for C,H8N08 : C,
H, 5.85 1 N, 8.18%) 1 t1maz (nujol) 3 300, 1 77
I 740 cm-1 1 8 (CDCJ 8 ), 1.45 (3H, s), 1.63 (
3.71 (IH, d·, I 6Hz), 4.31 (IH, d, I 6 Hz) an
(IH,
bs) 1 CIMS
(reagent
gas: NH 8 )
(M+NH,)+. trans·l·p·Anisyl-3·(1'-hydroxyethJI)-4-ca,be
azetidin-2·one (30) :
To the solution of JJ-
18b ( 1.595 g, O.OOS mol) in DMF ( 15 ml), s
chloride (585 mg, 0.01 mol) and water (0. 0.01 mol) were added and the reaction mixtur
rcftuxed for 8 b. DMF was removed unde
vacuum. The residue was dissolved in met
chloride (60 ml), and the solution was w
successively with water (3 x 20 ml), brine (2 x
and dried (Na1 SO,). It was then filtered an
filtrate on removal of solvent gave a crud
product (1.2 g), which was purified by column
matography (silica gel, 230-400 mesb, chloro
ethyl acetate-petroleum ether 10.05 : O.S) t
pure 30, (1.02~ g, 70%) m.p. 48• {Found : C, 6
H, 6.46 1 N, 4.60. Calcd. for C11H10NO
61.42; H, 6.53 1 N, 4.78%) 1 llmu (nujoJ) 3 44
I 720 cm-1 ; a (CDCI8 ) 1.25 (2H, t, I 7 Hz
(3H, d,I6Hz), 3.36 (IH, dd,l2.5andS.2S
3.77 (3H, s), 4.25 (3H, m), 4.39 (IH, d, I 2.5
6.84 (2H, d, I 9Hz) and 7.25 (2H, d, I 9
CIMS (reagent gas: NH 8 ) 294 (M+H)+ an
(M+NH,)+,
JJ·Lactum carbonate (31) : A solution of P·l
30 (1.465 g, 0.005 mol), 4-dimethylaminopy
(1.22 g, 0.01 mol) in methylene chloride (I
was cooled to o· and a solution of benzyl ch
formate {1.023 g, 0.006 mol) in methylene chl
(5 ml) was added slowly over a period of IS
under N 1 atmosphere. The reaction mixture
stirred for I h at oo followed by overnight st
at room temperature. The reac1ion mixtur
then diluted with methylene chloride and w
successively with dilute HCl (IN, 2 x 20 ml),
(3
20
l)
b i
(2 20
l)
d d i d {N
S J. INDIAN CHBM. SOC., VOL. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. LXII, NOVBMBBR i98S
for C18H11NO, : C, 62.S3; H, 6.89 1 N, 4.S6%) I
Vmu (KBr) 3 450 and 1 730 cm-1 i a (CDC18) 1.2
(3H, t, I 7 Hz), 1.3 (3H, s), 1.4S (3H, s}, 3.27 (IH, d,
12.5 Hz), 3.72 (JH,s), 4.2 (2H,q, 1Hz), 4.46 (IH,
d, 12.S Hz), 6.75 (2H, d, 19Hz) and 7.2 (2H, d,
19Hz) 1 ClMS (reagent gas: NH8 ) 308 (M+H)+. cis-N·p·Toluidino·3-(2'·hydroxyisopropyl)-4-hy·
droxymethylazeti /ine-2-one (23) : To a stirred solo·
tion of lithium borohydride (0.52 g, 0.025 mol) io
diglyme (10 ml), was added dropwise a solution of
22c (4.29 g, 0.02 mol) in diglymc (50 ml) at 0° over
a period of I h. The reaction mixture was then
heated on a steam-bath for 3 h. After cooling, the
reactants were poured over crushed icc containing
dilute hydrochloric acid. The reaction mixture
was then extracted with ethyl acetate (3 x 100 ml). The combined ethyl acetate extracts were washed
with water (2 x 100 ml}, briac {2 x SO ml), dried
(MgSO ,) and filtered. Evaporation of the solvent
under reduced pressure gave 23 (3.89 g, 80%), m.p,
216·218° (ethyl acetate) (Found : C, 67.30 1 H,
7.66 1 N, 5.45. Calcd. for Cu.H19N08 : C, 67.45:
H. 7.68 1 N, 5.62%) 1 21mu (nujol) 3 180, 1 760, I 500
and 800 cm-1 1 a (CDCJ 8 ) 1.35 (3H, s), 1.45 {3H, s),
2.28 (3H, s), 2.S2 (1H, b), 3.32 (JH,d), 4.12 (lH, m),
4.25 (IH, d, I Hz), 7.24 (4H, m) : CIMS (reagent
gas: NH8 ) 250 (M+H)+ and 267 (M+NH,)+,
cis-N·(p·Methoxyphenyl)·3·(2'·hydroxyisopropyl)·
4-hydroxymethylazetidine-2-one (24) :
Using
the
same reacticn conditions as described under 23,
the tillc compound was obtained (76%) from 22d,
m p. 212-213° (Found: C, 63.02& H, 7.17: N. S.S4. Calcd. for CuH11NO,: C, 63.38; H, 7.22 1 N,
5.28%) 1 "mu: (KBr)
3 200,
1 730,
l SIO
and
835 cm- 1 1 8 (CDC1 8 ) 1.35 (3H, s), 1.49 (3H, s),
3.42 (lH, d, I 5.1 Hz), 3.76 (3H, s). 4.00-4.30
(3H, m). 5.62 (lH, m), 6.M6 {2H, d, I 8.1 Hz) and
7.38 {2H, d, I 8.1 Hz) 1 ClMS (reagent gas 1 NH8 )
266 {M+H)+ and 283 {M+NH,)+. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. 1 725 and
d (CDCI 8 ) 1.18 (3H, t, I 7Hz), 1.61 (
3.61 (1H, dd, 12.3 and 7.2 Hz), 3.79
(2H q I 7Hz) 4 57 (lH d I 2 3 Hz) It was filtered and the filtrate on concentration gave
a crude oil (2.125 g) which on purification by
column chromatography (silica gel, 230-400 mesh ;
chloroform-ethyl
acetate-petroleum tther, 10:
0.5: 0.5) gave 31 (1.92 g,90%), m.p. 82-83" (Found :
C. 65,('8 1 H. 5.96 1 N, 3.36. Calcd. for C18H 111-
NO,. : C, 64.63 1 H, 5.90 1 N. 3.28%) ; vmaa 1 760,
1 740 and 1 725 cm-1 & a (CDC18 ) 1.17 (3H t, I
7Hz), 1.45 (3H, d. 11Hz), 3.57 (lH, dd, 12.5 and
5.5 Hz), 3.7 (3H, s). 4.18 (2H, q. I 7 Hz), 4.28 (2H,
d.I2.5Hz). 5.1(2H,s), 5.15 (1H,m), 6.80(2H,
d, J 9 Hz), 7.25 (2H, d, I 9 Hz) and 7.32 (5H, s) ;
CIMS (reagent gas: NH1 ) 428 (M+H)+ and 445
(M+NH,.)+. filtrate after concentration gave crude 35 (500 mg). It was purified by column chromatography (silica
gel,
230-240
mesh : chloroform-ethyl
acetate·
petrolum ether, 10 1 t : 1) to 19 (400 mg, 82%),
m.p. 87-88" (Found: C. 60.80 1 H, 6.29: N, 5.01. Calcd. for C18H, ,.N0 1 : C, 60.21 ; H, 6.14:
N, 5.02%) ; Jlmu (KBr) 3 360 and 1 740 cm-1 ; 8
1.38 (3H, d, I 7 Hz), 3.23 (tH, dd, J 2.5 Hz), 3.55-
3.75 (4H, m), .:5.05 (IH, m), 5.13 (2H, s), 6.81
(IH, s) and 7.32-7.38 (5H, m); CIMS (reagent
gas: NH8 ) 297 (M+NH,)+, filtrate after concentration gave crude 35 (500 mg). It was purified by column chromatography (silica
gel,
230-240
mesh : chloroform-ethyl
acetate·
petrolum ether, 10 1 t : 1) to 19 (400 mg, 82%),
m.p. 87-88" (Found: C. 60.80 1 H, 6.29: N, 5.01. Calcd. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. 6.22 (IH, b), 7.56 (2H, d, I 8.6 Hz) and
8.24 (2H, d. I 8.6 Hz) ; CIMS (reagent gas : NH8 )
384 (M+NH )+
filtrate after concentration gave cru
It was purified by column chromat
gel,
230-240
mesh : chloroform-
petrolum ether, 10 1 t : 1) to 19
m.p. 87-88" (Found: C. 60.80 1 H,
Calcd. for C18H, ,.N0 1 : C, 60
N, 5.02%) ; Jlmu (KBr) 3 360 and
1.38 (3H, d, I 7 Hz), 3.23 (tH, dd,
3.75 (4H, m), .:5.05 (IH, m), 5.13
(IH, s) and 7.32-7.38 (5H, m);
gas: NH8 ) 297 (M+NH,)+,
Acylation of 30 : To an ice-cold
hydroxy tJ-lactam 30 (146 mg, 5 mm
amine (0.5 ml) In methylene chlori
added dropwise with constant stirrin
p-nitrobenzoyl chloride (110 mg. methylene chloride (5 ml) under anh
tion. After the addition, the reactan
to room temperature and stirred o
reaction mixture was diluted with met
( 100 ml). washed successively with w
saturated sodium bicarbonate solut
brine (2 x 20 ml), dried (Na 1SO,)
evaporated to dryness under reduc
afford tbe p-nitrobenzenzoate (38) (
m.p. 115-116"; vma• (KBr) 1 750, 1
840 cm-1 : a (CDCI 8 ) 1.23 (3H, t, 17
d. 16.4 Rz). 3.72 (tH. dd, 12.5 and
(3H, s) 4.25 (2H, q. I 7Hz), 4.36 (1
5.65 (IH, ml, 6.87 (2H. d, I 9Hz
I 9 Hz), 8.13 (28, d, I 9 Bzl. an
19Hz) 1 CtMS (reagent gas: NH 11)
and 460 (M+NH,)+. Inver.sion at C8 ' of the hydroxy
A solution of P-lactam 30 (293 m
triphenyl phosphine (395 mg, 0.0
p-nitrobenzoic acid (200 mg, 0.0012
THF (20 ml) was stirred at o·. To
was added dropwise a solution of
carboxylate (350 mg, 0.002 mol) in dr
under N 1 atmosphere. Tho reactant
overnight at room temperature and t
removed under reduced pressure. T
purified by column chromatograph
230-400 mesh ; chloroform-petroleu
acetate, 10 : t : 0.5) to give pure 37
m.p. 114-115" (Found : C, 57.61 : H,
Calcd. for C11HuN.0 11 : C, 57.64
6.11%): Vm.,. (KBr) 1 750. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. for
C16H18N10 8 : C, 52.46 t H, 4.95 l N, 7.65%) ;
Jlmaa (KBr) 3 230, I 750, 1 730 and 1 510 cm-1 ;
a (CDCI 8 ) 1.29 (3H, t, I 7Hz). 1.51 (3H, d, I 6Hz),
3.55 (lH, dd, I 2.8 and 4.5 Hz), 4.05 (JH, d,
J 2.8 Hz), 4.24 (2H, q, I 7Hz). 5.16 (IH, m), 5.27
(2H, s). 6.22 (IH, b), 7.56 (2H, d, I 8.6 Hz) and
8.24 (2H, d. I 8.6 Hz) ; CIMS (reagent gas : NH8 )
384 (M+NH,)+. Reduction of P·lactam (33) : To a solution of
P·lactam 33 (640 mg. 0.002 mol) In THF-water
(4: 1) (5 ml) cooled in ice-water was added a
solation of sodlam borohydride ( 740 mg, 0.02
mol) in THF-water (4! 1) (5 ml). The reaction
mixture was stirred at room temperature for 12 b. THF was removed under vacuum and the residue
was dissolved in methylene chloride (50 ml),
washed with water (3 x 20 ml), brlno (2 x 20 ml),
and dried (Na1SO,). It was then filtered and the MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. for C18H, ,.N0 1 : C, 60.21 ; H, 6.14:
N, 5.02%) ; Jlmu (KBr) 3 360 and 1 740 cm-1 ; 8
1.38 (3H, d, I 7 Hz), 3.23 (tH, dd, J 2.5 Hz), 3.55-
3.75 (4H, m), .:5.05 (IH, m), 5.13 (2H, s), 6.81
(IH, s) and 7.32-7.38 (5H, m); CIMS (reagent
gas: NH8 ) 297 (M+NH,)+, Acylation of 30 : To an ice-cold solution of the
hydroxy tJ-lactam 30 (146 mg, 5 mmol) and triethyl-
amine (0.5 ml) In methylene chloride (10 ml) was
added dropwise with constant stirring a solution of
p-nitrobenzoyl chloride (110 mg. 6 mmol) in
methylene chloride (5 ml) under anhydrous condi-
tion. After the addition, the reactants were brought
to room temperature and stirred overnight. The
reaction mixture was diluted with methylene chloride
( 100 ml). washed successively with water (2 x 20 ml),
saturated sodium bicarbonate solution (2 x 20 ml),
brine (2 x 20 ml), dried (Na 1SO,), filtered and
evaporated to dryness under reduced pressure to
afford tbe p-nitrobenzenzoate (38) (11i0 mg. 75%),
m.p. 115-116"; vma• (KBr) 1 750, 1 730, 1 510 and
840 cm-1 : a (CDCI 8 ) 1.23 (3H, t, 17Hz),1.62 (3H
d. 16.4 Rz). 3.72 (tH. dd, 12.5 and 4.3 Hz), 3.79
(3H, s) 4.25 (2H, q. I 7Hz), 4.36 (1H, d, I 2.5 Hz),
5.65 (IH, ml, 6.87 (2H. d, I 9Hz). 7.27 (2H, d,
I 9 Hz), 8.13 (28, d, I 9 Bzl. and 8.23 (2H. d,
19Hz) 1 CtMS (reagent gas: NH 11) 443 {M+H)+
and 460 (M+NH,)+. p·Nitrobenzyl carbonate (31) : It was obtained
in 85% yield from hydroxy P-lactam 30, (2.344 g,
0.008 mol), DM!P (1.952 g, 0.016 mol), p-nitro-
benzyl chloroformate (1.939 r, 0.009 mol) and
methylene chloride (25 ml) by following a similar
procedure as
for compound 31. m.p. 84-52"
(Found: C, 58.60 1 H, 5.05 1 N, 5.86. Calcd. for
C18HuNsP .. : C, 58.47 1 H. 5.12; N. 5.93~) ;
Jlmaa (KBr) 1 720, t 705, l 705 and 1 460 cm-1 ;
a (CDCI 8 ) 1.25 (3H, t. I 7Hz), 1.54 C2H, d, I
6.4 Bz). 3.61 (IH, dd, I 2.6 and 4.6 Hz), 3.78 (3H, s),
4.25 (2H, q, I 7Hz), 4.32 (lB. d, I 2 Hz), 5.24 (2H. s), 5.3 (I H. m). 6.86 (2H, d. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. J 9Hz), 7.24 C2H, d, I
9Hz), 7.51 (2H, d, I 8.6 Hz) and 8.19 (2H, d, J
8.6 Hz). N-Unsubstitued P-lactam (33) : It was prepared
in 70% yield by the eerie ammonium nitrate
oxidation of 31 by a similar method as described
under the preparation of 17, m.p. 89-90" (Found 1
C, 60~16, H, 5.71: N, 4.67. Calcd. for C111HuN0 11 •
C, 59.81 ; H, 5.96 ; N, 4.36%) i vm•• CKBr) 1 745
1 740 and t 725 cm-1 ; a 1.25 (3H, t, 7Hz), 1.45
(3H, d. I Hz). 3.651(1H. dd, I 2.5 and 5 Hz), 4.5
(lH, d, I 2.5 Hz). 4.21 (2H, q, I 7Hz), 5.2 (3H, m),
6.35 (1H, s) and 7.45 (5H, s) ; CIMS (reagent gas:
NH,) 322 (M+H):'" and 339 (M+NH,)+. Inver.sion at C8 ' of the hydroxy P-lactam (30) :
A solution of P-lactam 30 (293 mg. 0.001 mol),
triphenyl phosphine (395 mg, 0.0015 moll and
p-nitrobenzoic acid (200 mg, 0.0012 mol) in dry
THF (20 ml) was stirred at o·. To this solution,
was added dropwise a solution of diethyl azodi·
carboxylate (350 mg, 0.002 mol) in dry THF (5 ml},
under N 1 atmosphere. Tho reactants were stirred
overnight at room temperature and the solvent was
removed under reduced pressure. The residue was
purified by column chromatography (silica gel,
230-400 mesh ; chloroform-petroleum ether-ethyl
acetate, 10 : t : 0.5) to give pure 37 (390 mg, 85%)
m.p. 114-115" (Found : C, 57.61 : H, 5.03 1 N, 6.34. Calcd. for C11HuN.0 11 : C, 57.64 1 H, 4.84 ; N,
6.11%): Vm.,. (KBr) 1 750. 1 725 and 1 510 cm-1 1
d (CDCI 8 ) 1.18 (3H, t, I 7Hz), 1.61 (3H. d, I 6Hz),
3.61 (1H, dd, 12.3 and 7.2 Hz), 3.79 (3H, s), 4.23
(2H, q, I 7Hz). 4.57 (lH. d, I 2.3 Hz), 5.61 (lH, m),
6.87 (2H, d, I 9Hz), 7.27 (2H, d, I 9Hz), 8.13 (2H. d, J 8.8 Hz) and 8.24 (2H. d, I 8.8 Hz) : CIMS
reagent gas: NH1 ) 459(M+H)+. N-Un.substituted P-lactam (34) : It was similarly
prepared by CAN oxidation of 31 in 90% yield
as white crystalline solid, m.p. 93-94• (Found :
C,
52.32;
H. 4.76;
N. 7.63. Calcd. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. P·Lactam carbonate (25) : To a suspension of
the diol 24 (265 mg, 0.001 mol) in methylene
chloride (25 ml), dimethyl aminop} ridine (765 mg,
0.002 mol) was added and the reaction mixture
cooled to 0°. To this was added dropwisc with
stirring benzyl chloroformate (1 mJ) in methylene
chloride {10 ml), under nitrogen atmosphere. The
reaction mixture was further stirred overnight at
room temperature, diluted with methylene chloride
(200 ml), washed with water (3 x SO ml), sodium
bicarbonate solution (2 x SO ml), brine (2 x 30 ml),
dried (Na 1SO,) and filtered. The filtrate on
evaporation gave 25 (325 mg, 82%), m.p. 114-115•
{ethyl acetate-petroleum ether) (Found : C, 65.93 1
H, 6.19; N, 3.50. Calcd for C111H111N08 : C,
66.15 1 H, 6.311 N, 3.51%) 1 JJmaz (KBr} 3 450, 1 740,
1 SIO and 830 cm-1 1 ~ (CDCI 8 ) 1.40 {JH, s), 1.64
(3H, s), 3.43 (IH, d, I 5.1 Hz), 3.77 (3H, s), 4.39
(1H, m), 4.73 {I tJ, dd, I S.1 and 12.2 Hz), 4.98 (IH,
dd, I 5 and 12.2 Hz). 5.16 (2H, s), 6.8~ {2H. d, I
9Hz) and 7.37 (7H, m) 1 ClMS (reagent gas : NH8 )
417 (M+NH.)+. JJ·Lactum carbonate (31) : A solution of P·lactam
30 (1.465 g, 0.005 mol), 4-dimethylaminopyridine
(1.22 g, 0.01 mol) in methylene chloride (IS ml)
was cooled to o· and a solution of benzyl chloro·
formate {1.023 g, 0.006 mol) in methylene chloride
(5 ml) was added slowly over a period of IS min
under N 1 atmosphere. The reaction mixture was
stirred for I h at oo followed by overnight stirring
at room temperature. The reac1ion mixture was
then diluted with methylene chloride and washed
successively with dilute HCl (IN, 2 x 20 ml), water
(3 x 20 ml), brine (2x 20 ml) and dried {Na1SO,). 896 MANHAS, BHA WAL, SHANKAR & BOSE : STERBOCONTROLLBD SYNTHESIS OF JJ·LACTAMS ETC, MANHAS, BHA WAL, SHANKAR & BOSE : STERBOCONTROLLBD SYNTHESIS OF JJ·LACTAMS ETC, ,
,
,
It was filtered and the filtrate on concentration gave
a crude oil (2.125 g) which on purification by
column chromatography (silica gel, 230-400 mesh ;
chloroform-ethyl
acetate-petroleum tther, 10:
0.5: 0.5) gave 31 (1.92 g,90%), m.p. 82-83" (Found :
C. 65,('8 1 H. 5.96 1 N, 3.36. Calcd. for C18H 111-
NO,. : C, 64.63 1 H, 5.90 1 N. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. 3.28%) ; vmaa 1 760,
1 740 and 1 725 cm-1 & a (CDC18 ) 1.17 (3H t, I
7Hz), 1.45 (3H, d. 11Hz), 3.57 (lH, dd, 12.5 and
5.5 Hz), 3.7 (3H, s). 4.18 (2H, q. I 7 Hz), 4.28 (2H,
d.I2.5Hz). 5.1(2H,s), 5.15 (1H,m), 6.80(2H,
d, J 9 Hz), 7.25 (2H, d, I 9 Hz) and 7.32 (5H, s) ;
CIMS (reagent gas: NH1 ) 428 (M+H)+ and 445
(M+NH,.)+. p·Nitrobenzyl carbonate (31) : It was obtained
in 85% yield from hydroxy P-lactam 30, (2.344 g,
0.008 mol), DM!P (1.952 g, 0.016 mol), p-nitro-
benzyl chloroformate (1.939 r, 0.009 mol) and
methylene chloride (25 ml) by following a similar
procedure as
for compound 31. m.p. 84-52"
(Found: C, 58.60 1 H, 5.05 1 N, 5.86. Calcd. for
C18HuNsP .. : C, 58.47 1 H. 5.12; N. 5.93~) ;
Jlmaa (KBr) 1 720, t 705, l 705 and 1 460 cm-1 ;
a (CDCI 8 ) 1.25 (3H, t. I 7Hz), 1.54 C2H, d, I
6.4 Bz). 3.61 (IH, dd, I 2.6 and 4.6 Hz), 3.78 (3H, s),
4.25 (2H, q, I 7Hz), 4.32 (lB. d, I 2 Hz), 5.24 (2H. s), 5.3 (I H. m). 6.86 (2H, d. J 9Hz), 7.24 C2H, d, I
9Hz), 7.51 (2H, d, I 8.6 Hz) and 8.19 (2H, d, J
8.6 Hz). N-Unsubstitued P-lactam (33) : It was prepared
in 70% yield by the eerie ammonium nitrate
oxidation of 31 by a similar method as described
under the preparation of 17, m.p. 89-90" (Found 1
C, 60~16, H, 5.71: N, 4.67. Calcd. for C111HuN0 11 •
C, 59.81 ; H, 5.96 ; N, 4.36%) i vm•• CKBr) 1 745
1 740 and t 725 cm-1 ; a 1.25 (3H, t, 7Hz), 1.45
(3H, d. I Hz). 3.651(1H. dd, I 2.5 and 5 Hz), 4.5
(lH, d, I 2.5 Hz). 4.21 (2H, q, I 7Hz), 5.2 (3H, m),
6.35 (1H, s) and 7.45 (5H, s) ; CIMS (reagent gas:
NH,) 322 (M+H):'" and 339 (M+NH,)+. N-Un.substituted P-lactam (34) : It was similarly
prepared by CAN oxidation of 31 in 90% yield
as white crystalline solid, m.p. 93-94• (Found :
C,
52.32;
H. 4.76;
N. 7.63. Calcd. for
C16H18N10 8 : C, 52.46 t H, 4.95 l N, 7.65%) ;
Jlmaa (KBr) 3 230, I 750, 1 730 and 1 510 cm-1 ;
a (CDCI 8 ) 1.29 (3H, t, I 7Hz). MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. 1.51 (3H, d, I 6Hz),
3.55 (lH, dd, I 2.8 and 4.5 Hz), 4.05 (JH, d,
J 2.8 Hz), 4.24 (2H, q, I 7Hz). 5.16 (IH, m), 5.27
(2H, s). 6.22 (IH, b), 7.56 (2H, d, I 8.6 Hz) and
8.24 (2H, d. I 8.6 Hz) ; CIMS (reagent gas : NH8 )
384 (M+NH,)+. Reduction of P·lactam (33) : To a solution of
P·lactam 33 (640 mg. 0.002 mol) In THF-water
(4: 1) (5 ml) cooled in ice-water was added a
solation of sodlam borohydride ( 740 mg, 0.02
mol) in THF-water (4! 1) (5 ml). The reaction
mixture was stirred at room temperature for 12 b. THF was removed under vacuum and the residue
was dissolved in methylene chloride (50 ml),
washed with water (3 x 20 ml), brlno (2 x 20 ml),
d d i d (N
SO )
It
th
filt
d
d th
filtrate after concentration gave crude 35 (500 mg). It was purified by column chromatography (silica
gel,
230-240
mesh : chloroform-ethyl
acetate·
petrolum ether, 10 1 t : 1) to 19 (400 mg, 82%),
m.p. 87-88" (Found: C. 60.80 1 H, 6.29: N, 5.01. Calcd. for C18H, ,.N0 1 : C, 60.21 ; H, 6.14:
N, 5.02%) ; Jlmu (KBr) 3 360 and 1 740 cm-1 ; 8
1.38 (3H, d, I 7 Hz), 3.23 (tH, dd, J 2.5 Hz), 3.55-
3.75 (4H, m), .:5.05 (IH, m), 5.13 (2H, s), 6.81
(IH, s) and 7.32-7.38 (5H, m); CIMS (reagent
gas: NH8 ) 297 (M+NH,)+,
Acylation of 30 : To an ice-cold solution of the
hydroxy tJ-lactam 30 (146 mg, 5 mmol) and triethyl-
amine (0.5 ml) In methylene chloride (10 ml) was
added dropwise with constant stirring a solution of
p-nitrobenzoyl chloride (110 mg. 6 mmol) in
methylene chloride (5 ml) under anhydrous condi-
tion. After the addition, the reactants were brought
to room temperature and stirred overnight. The
reaction mixture was diluted with methylene chloride
( 100 ml). washed successively with water (2 x 20 ml),
saturated sodium bicarbonate solution (2 x 20 ml),
brine (2 x 20 ml), dried (Na 1SO,), filtered and
evaporated to dryness under reduced pressure to
afford tbe p-nitrobenzenzoate (38) (11i0 mg. 75%),
m.p. 115-116"; vma• (KBr) 1 750, 1 730, 1 510 and
840 cm-1 : a (CDCI 8 ) 1.23 (3H, t, 17Hz),1.62 (3H
d. 16.4 Rz). 3.72 (tH. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. dd, 12.5 and 4.3 Hz), 3.79
(3H, s) 4.25 (2H, q. I 7Hz), 4.36 (1H, d, I 2.5 Hz),
5.65 (IH, ml, 6.87 (2H. d, I 9Hz). 7.27 (2H, d,
I 9 Hz), 8.13 (28, d, I 9 Bzl. and 8.23 (2H. d,
19Hz) 1 CtMS (reagent gas: NH 11) 443 {M+H)+
and 460 (M+NH,)+. Inver.sion at C8 ' of the hydroxy P-lactam (30) :
A solution of P-lactam 30 (293 mg. 0.001 mol),
triphenyl phosphine (395 mg, 0.0015 moll and
p-nitrobenzoic acid (200 mg, 0.0012 mol) in dry
THF (20 ml) was stirred at o·. To this solution,
was added dropwise a solution of diethyl azodi·
carboxylate (350 mg, 0.002 mol) in dry THF (5 ml},
under N 1 atmosphere. Tho reactants were stirred
overnight at room temperature and the solvent was
removed under reduced pressure. The residue was
purified by column chromatography (silica gel,
230-400 mesh ; chloroform-petroleum ether-ethyl
acetate, 10 : t : 0.5) to give pure 37 (390 mg, 85%)
m.p. 114-115" (Found : C, 57.61 : H, 5.03 1 N, 6.34. Calcd. for C11HuN.0 11 : C, 57.64 1 H, 4.84 ; N,
6.11%): Vm.,. (KBr) 1 750. 1 725 and 1 510 cm-1 1
d (CDCI 8 ) 1.18 (3H, t, I 7Hz), 1.61 (3H. d, I 6Hz),
3.61 (1H, dd, 12.3 and 7.2 Hz), 3.79 (3H, s), 4.23
(2H, q, I 7Hz). 4.57 (lH. d, I 2.3 Hz), 5.61 (lH, m),
6.87 (2H, d, I 9Hz), 7.27 (2H, d, I 9Hz), 8.13 (2H. d, J 8.8 Hz) and 8.24 (2H. d, I 8.8 Hz) : CIMS
reagent gas: NH1 ) 459(M+H)+. Acknowledgement
This research was supported by US Public
Health Service (grant #A1-16745) and Stanley
Funds of Stevens Institute of Technology. Tho
h
i h
h
k
D
R
F
C
ll It was filtered and the filtrate on concentration gave
a crude oil (2.125 g) which on purification by
column chromatography (silica gel, 230-400 mesh ;
chloroform-ethyl
acetate-petroleum tther, 10:
0.5: 0.5) gave 31 (1.92 g,90%), m.p. 82-83" (Found :
C. 65,('8 1 H. 5.96 1 N, 3.36. Calcd. for C18H 111-
NO,. : C, 64.63 1 H, 5.90 1 N. 3.28%) ; vmaa 1 760,
1 740 and 1 725 cm-1 & a (CDC18 ) 1.17 (3H t, I
7Hz), 1.45 (3H, d. 11Hz), 3.57 (lH, dd, 12.5 and
5.5 Hz), 3.7 (3H, s). 4.18 (2H, q. MANilAS, BHAWAL, SHANKAR & BOSB : STBRBOCONTROtLED SYNTHESIS OF ,S-LACTAMS BTC. I 7 Hz), 4.28 (2H,
d.I2.5Hz). 5.1(2H,s), 5.15 (1H,m), 6.80(2H,
d, J 9 Hz), 7.25 (2H, d, I 9 Hz) and 7.32 (5H, s) ;
CIMS (reagent gas: NH1 ) 428 (M+H)+ and 445
(M+NH,.)+. p·Nitrobenzyl carbonate (31) : It was obtained
in 85% yield from hydroxy P-lactam 30, (2.344 g,
0.008 mol), DM!P (1.952 g, 0.016 mol), p-nitro-
benzyl chloroformate (1.939 r, 0.009 mol) and
methylene chloride (25 ml) by following a similar
procedure as
for compound 31. m.p. 84-52"
(Found: C, 58.60 1 H, 5.05 1 N, 5.86. Calcd. for
C18HuNsP .. : C, 58.47 1 H. 5.12; N. 5.93~) ;
Jlmaa (KBr) 1 720, t 705, l 705 and 1 460 cm-1 ;
a (CDCI 8 ) 1.25 (3H, t. I 7Hz), 1.54 C2H, d, I
6.4 Bz). 3.61 (IH, dd, I 2.6 and 4.6 Hz), 3.78 (3H, s),
4.25 (2H, q, I 7Hz), 4.32 (lB. d, I 2 Hz), 5.24 (2H. s), 5.3 (I H. m). 6.86 (2H, d. J 9Hz), 7.24 C2H, d, I
9Hz), 7.51 (2H, d, I 8.6 Hz) and 8.19 (2H, d, J
8.6 Hz). N-Unsubstitued P-lactam (33) : It was prepared
in 70% yield by the eerie ammonium nitrate
oxidation of 31 by a similar method as described
under the preparation of 17, m.p. 89-90" (Found 1
C, 60~16, H, 5.71: N, 4.67. Calcd. for C111HuN0 11 •
C, 59.81 ; H, 5.96 ; N, 4.36%) i vm•• CKBr) 1 745
1 740 and t 725 cm-1 ; a 1.25 (3H, t, 7Hz), 1.45
(3H, d. I Hz). 3.651(1H. dd, I 2.5 and 5 Hz), 4.5
(lH, d, I 2.5 Hz). 4.21 (2H, q, I 7Hz), 5.2 (3H, m),
6.35 (1H, s) and 7.45 (5H, s) ; CIMS (reagent gas:
NH,) 322 (M+H):'" and 339 (M+NH,)+. N-Un.substituted P-lactam (34) : It was similarly
prepared by CAN oxidation of 31 in 90% yield
as white crystalline solid, m.p. 93-94• (Found :
C,
52.32;
H. 4.76;
N. 7.63. Calcd. for
C16H18N10 8 : C, 52.46 t H, 4.95 l N, 7.65%) ;
Jlmaa (KBr) 3 230, I 750, 1 730 and 1 510 cm-1 ;
a (CDCI 8 ) 1.29 (3H, t, I 7Hz). 1.51 (3H, d, I 6Hz),
3.55 (lH, dd, I 2.8 and 4.5 Hz), 4.05 (JH, d,
J 2.8 Hz), 4.24 (2H, q, I 7Hz). 5.16 (IH, m), 5.27
(2H, s). Dr. F. T. Jones and Dr. J. Fajans, for their interest
and Dr. Om Prakash and Ms. Keiko Tabei for
spectral data. 8. B. B. BHA.NKAR, M. S. Thesis, Stevens Institute of
~echnology, 1982. 9. (a) M. BaroZAKI and T. HIRAOKA, Tetrahedron Lett.,
1980, 21, 4478 ; (b) M. 8HIOZAKI, N. ISHIDA, T. HIB.AOKA and H. MARUYAMA, Tetrahedron, 1984, 40,
1'795 ; (c) M. SHIOZAKI, N. ISHIDA, T. HIRAOKA and
H. YANAGISAWA, Tetrahedron LeU., 1981, 22, 5205;
(d) H. YAN,GISAWA, A. ANDO, M. BHIOZAKI and T. HrRAOKA, Tetrahedron LeU.,1989. 24,1087. q ,
,
,
7. A. K. Boss. M. TsAr and ;r, 0. K\:PUR, Tetrahedron Lett.,
1974, 854'1'. Acknowledgement This research was supported by US Public
Health Service (grant #A1-16745) and Stanley
Funds of Stevens Institute of Technology. Tho
authors wish to thank Dr. R. F. Cotellessa, 897 J. INDIAN CHEM. SOC., VOL. LXII, NOVBMBBR 1985 J. INDIAN CHEM. SOC., VOL. LXII, NOVBMBBR 1985 Dr. F. T. Jones and Dr. J. Fajans, for their interest
and Dr. Om Prakash and Ms. Keiko Tabei for
spectral data. Dr. F. T. Jones and Dr. J. Fajans, for their interest
and Dr. Om Prakash and Ms. Keiko Tabei for
spectral data. References •1, Studies on Lactams. Part 75 : for part 7f, see M. S. MA.NHAS. V. B. H:a:GDJt, D. B. WAGJ.Jt and A. K. Boss,/. Ohem. Soc., PB7'kin Tram. 1, 1985, 2045. ,
,
,
10. B. HANBSSIAN, A. BEDSSCHI, 0. BA.TTlSTINI and N. MONGBLLI J
Am Ohem S
1985 107 1438 10. B. HANBSSIAN, A. BEDSSCHI, 0. BA.TTlSTINI and N. MONGBLLI, J, .Am. Ohem. Soc., 1985, 107, 1438. ,
,
,
,
2. ;J. 0. BR:S:SHAN and A. K. BosJt, J . .Am. Ohsm. Soc., 1950,
7'1., 511'18. MONGBLLI, J, .Am. Ohem. Soc., 1985, 107, 1438. 11. A. P. KRAPCHO and A. ;r. Lov~tY, Tetrahedron Lett., 1973,
95'1. ,
8. This eJpect&tion is fully borne ou' by the work of Bhiozaki
e' Ill ... who cyclised an amldomalonate prepared from
(2R, 88)-2-bromo-3-acetoxybutyryl
chloride to
an
optically active fl·lactam the stereochemistry of which
was deduced from ita nmr spectrum. 12. D. R. KRONBNTBAI,, 0. Y. HAN and M. K. TAYI.OR, J,
01-g. Ohem., 1982, 47, 2765. 13. (a.) T. IIMORI and M. BBIBASAKI, Tetrahedron Lett., 1985,
26,1523; (bl Y. TAJIMA, A. YoSHIDA, N. TAKEDA and
S. 01DA, Tetrahedron Lett., 1986, 26, 678 ; (c) K. FUJIMOTO Y. lwANO and K. HIRAI, Tetrahedron
Lett., 1984, 25, 1151. p
4. A. K. BosJt a td M. B. MANHAS, J. 01-g. Ohsm., 1962, 27,
1244. ll. A. K. Boss, \{. S. M\NHA~ and B. M. R\Mli:R, Tetra-
hedron, 1965, :u, 449. ,
,
,
14. 0. MITSUNOBU, Synthes-is. 1981,1. ,
6, (a) T. Ku4BTANI, Hetsrocyl68, 198\l, 17, 468 ; (b) B. G. 0HRISTBNS:BN and T. N. SALZMAN, in 'Handbook of
Experirnental Pharmacology", eds. A. L. DEMAIN and
N. A. SoLOMON, Springer-Verlag, New York, 1983, Vol. 67, p. 829; (c) "Chemistry and Biology of {f-Lactam
Antibiotics", eds. B. B. MoiUN and M. GORMAN,
Academic Preqs, New York,1982, Vols. 1-8. y
15. These bicyclio .S-Iaola.ms can be conveniently named accord-
ing to a comprehensive nomenclature proposed by one of
us". Thos, 27 can be termed as '1,'1-dimethyl-G·oza-5-
ozo-neoheptam while the detailed stereochemistry of 18b
is described by l-(p-anis:yl)-!loe.-carbethoxy-7/J-methyl-6-
oxa-5-oxo-{3oe.-H)-neoheptam. {
)
p
16. A. K. Bos:s:, J, Hetrocycbc Okem., 1976, 13, 93. q ,
,
,
7. A. K. Boss. M. TsAr and ;r, 0. K\:PUR, Tetrahedron Lett.,
1974, 854'1'. 898
|
https://openalex.org/W4282978908
|
https://russjcardiol.elpub.ru/jour/article/download/4903/3720
|
Russian
| null |
Relationship of sortilin and proprotein convertase subtilisin/kexin type 9 in blood serum with the severity of carotid and coronary atherosclerosis in hypertensive patients
|
Rossijskij kardiologičeskij žurnal
| 2,022
|
cc-by
| 5,760
|
Отношения и деятельность: нет. Сортилин является важным молекулярным белком, участвующим в метабо-
лизме липидов, атеросклероза и кальцификации клапана аорты. Cортилин
предположительно регулирует движение пропротеиновой конвертазы субти-
лизин-кексинового типа 9 (PCSK9) по секреторному пути. 1ФГБУ ВО Самарский государственный медицинский университет Минздрава
России, Самара; 2МНОЦ кардиоваскулярной патологии и кардиовизуализа-
ции ФГБОУ ВО СамГМУ, Самара, Россия. 1ФГБУ ВО Самарский государственный медицинский университет Минздрава
России, Самара; 2МНОЦ кардиоваскулярной патологии и кардиовизуализа-
ции ФГБОУ ВО СамГМУ, Самара, Россия. Цель. Изучение корреляций сортилина и PCSK9 с развитием атеросклероза
у больных артериальной гипертонией. Вуколова Ю. Ю.* — ассистент кафедры внутренних болезней, ORCID: 0000-
0002-0844-6870, Губарева И. В. — д.м.н., доцент, зав. кафедрой внутренних
болезней, ORCID: 0000-0003-1881-024X. Материал и методы. В исследование включили 161 пациента от 30 до 65
лет. Всем проведены общеклинические исследования: сбор жалоб и анам-
неза, физикальное обследование; измерение биохимических показателей
крови с определением общего холестерина, холестерина липопротеинов низ-
кой плотности, триглицеридов, глюкозы крови, креатинина сыворотки крови
с расчетом скорости клубочковой фильтрации. Методом иммуноферментного
анализа сыворотки крови определяли PCSK9 и сортилин, интерлейкины — 8,
10. Проведены инструментальные исследования: электрокардиография, эхо-
кардиография, ультразвуковое исследование сосудов брахиоцефального
ствола, коронарная ангиография. *Автор, ответственный за переписку (Corresponding author): yuliavuk@gmail.com АГ — артериальная гипертония, ДАД — диастолическое артериальное давле-
ние, ДИ — доверительный интервал, ИЛ — интерлейкин, ИОТ — индекс от-
носительной толщины, ЛЖ — левый желудочек, ЛНП — липопротеины низкой
плотности, OШ — отношение шансов, САД — систолическое артериальное
давление, ССЗ — сердечно-сосудистые заболевания, ССР — сердечно-со-
судистый риск, ТКИМ — толщина комплекса интима-медиа, ХС — холесте-
рин, ХС-ЛНП — холестерин липопротеинов низкой плотности, ЧСС — частота
сердечный сокращений, PCSK9 — пропротеиновая конвертаза субтилизин-
кексинового типа 9. Результаты. Уровни сортилина (b=2,37; отношение шансов (OШ) 10,74; 95%
доверительный интервал (ДИ) 1,05-109,47, р=0,045), ИЛ-8 (b=-2,42; OШ 09,74;
95% ДИ 0,01-0,81, р=0,032) сыворотки крови, возраст (b=0,21; OШ 1,24; 95%
ДИ 1,12-1,37, р<0,001) были идентифицированы как независимые предикто-
ры коронарного атеросклероза с чувствительностью 87% и специфичностью
метода 70%. Уровни PCSK9 (b=0,005; OШ 1,00; 95% ДИ 1,00-1,01, р=0,038),
ИЛ-8 (b=-0,33; OШ 0,72; 95% ДИ 0,55-0,94, р=0,014) сыворотки крови были
идентифицированы как независимые предикторы каротидного атеросклероза
с чувствительностью 75% и специфичностью метода 71%. Рукопись получена 20.02.2022
Рецензия получена 07.03.2022
Принята к публикации 21.04.2022 Рукопись получена 20.02.2022
Рецензия получена 07.03.2022
Принята к публикации 21.04.2022 Рукопись получена 20.02.2022
Р
07 03 2022 Рукопись получена 20.02.2022
Рецензия получена 07.03.2022 Рукопись получена 20.02.2022
Рецензия получена 07.03.2022 Принята к публикации 21.04.2022 Принята к публикации 21.04.2022 Заключение. Российский кардиологический журнал 2022;27(S2):4903
doi:10.15829/1560-4071-2022-4903
https://russjcardiol.elpub.ru Российский кардиологический журнал 2022;27(S2):4903
doi:10.15829/1560-4071-2022-4903
https://russjcardiol.elpub.ru Российский кардиологический журнал 2022;27(S2):4903
doi:10.15829/1560-4071-2022-4903
https://russjcardiol.elpub.ru
ОР Российский кардиологический журнал 2022;27(S2):4903
doi:10.15829/1560-4071-2022-4903
https://russjcardiol.elpub.ru ОРИГИНАЛЬНЫЕ СТАТЬИ
ISSN 1560-4071 (print)
ISSN 2618-7620 (online)
ISSN 2782-2257 (online) Взаимосвязь сортилина и пропротеиновой конвертазы субтилизин-кексинового типа 9 сыворотки
крови с тяжестью каротидного и коронарного атеросклероза у пациентов с гипертонической
болезнью Вуколова Ю. Ю.1,2, Губарева И. В.1 Для цитирования: Вуколова Ю. Ю., Губарева И. В. Взаимосвязь сортили-
на и пропротеиновой конвертазы субтилизин-кексинового типа 9 сыворот-
ки крови с тяжестью каротидного и коронарного атеросклероза у пациен-
тов с гипертонической болезнью. Российский кардиологический журнал. 2022;27(2S):4903. doi:10.15829/1560-4071-2022-4903. EDN: BOQHFH Ключевые слова: сортилин, PCSK9, артериальная гипертония, атероскле-
роз. Отношения и деятельность: нет. В дополнение к неинвазивной визуализации, определение
биомаркеров атеросклероза может вносить значительный вклад в диагности-
ку и прогнозирование прогрессирования каротидного и коронарного атеро-
склероза. Примечательно, что не только PCSK9, но и сортилин может быть
потенциальной терапевтической мишенью. Необходимы дальнейшие крупно-
масштабные исследования. What is already known about the subject? Что уже известно об этом предмете? Оценка риска сердечно-сосудистых осложне-
ний — это выявление факторов риска (диспро-
теинемии, повышенное артериальное давление,
курение, сахарный диабет). Все они обладают
высокой значимостью на популяционном уров-
не, но в плане прогноза индивидуального риска
не всегда оказываются информативными. В стра-
тификации риска имеет смысл использовать био-
маркеры субклинического атеросклероза. Assessment of the risk of cardiovascular events is the
identification of risk factors (dysproteinemia, high
blood pressure, smoking, diabetes). This is important
at the population level, but not always informative
for predicting individual risk. In risk stratification,
biomarkers of subclinical atherosclerosis should be
used. Что добавляет это исследование? Циркулирующий сортилин, действуя одновре-
менно на липидные и нелипидные патогенетиче-
ские механизмы атерогенеза, может служить ран-
ним биомаркером сердечно-сосудистого риска. Relationship of sortilin and proprotein convertase subtilisin/kexin type 9 in blood serum
with the severity of carotid and coronary atherosclerosis in hypertensive patients Vukolova Yu. Yu.1,2, Gubareva I. V.1 Vukolova Yu. Yu.1,2, Gubareva I. V.1 Vukolova Yu. Yu.1,2, Gubareva I. V.1 Sortilin is an important molecular protein involved in lipid metabolism,
atherosclerosis, and aortic valve calcification. Sortilin presumably regulates the
PCSK9 signaling pathways. OR, 1,24; 95% CI, 1,12-1,37, p<0,001) were identified as independent
predictors of coronary atherosclerosis with a sensitivity of 87% and a specificity
of 70%. PCSK9 (b=0,005; OR, 1,00; 95% CI, 1,00-1,01, p=0,038) and IL-8 (b=
-0,33; OR, 0,72; 95% CI, 0,55-0,94, p=0,014) were identified as independent
predictors of carotid atherosclerosis with a sensitivity of 75% and a specificity
of 71%. Aim. To study correlations of sortilin and PCSK9 with atherosclerosis development
in hypertensive patients. Material and methods. The study included 161 patients aged 30 to 65 years. We
performed collection of complaints and anamnesis, physical examination, blood
biochemical test with the determination of total cholesterol, low-density lipoprotein
cholesterol, triglycerides, blood glucose, serum creatinine with estimation of
glomerular filtration rate. Serum PCSK9, sortilin and interleukins 8, 10 were
determined by enzyme-linked immunosorbent assay. The following investigations
were also performed: electrocardiography, echocardiography, extracranial artery
ultrasound, coronary angiography. Conclusion. In addition to non-invasive imaging, the determination of athero
sclerosis biomarkers can make a significant contribution to the diagnosis and
prediction of carotid and coronary atherosclerosis progression. It is noteworthy
that not only PCSK9, but also sortilin can be a potential therapeutic target. Further
large-scale studies are needed. Keywords: sortilin, PCSK9, hypertension, atherosclerosis. Results. Sortilin levels (b=2,37; odds ratio (OR), 10,74; 95% CI, 1,05-109,47,
p=0,045), IL-8 (b=-2,42; OR, 9,74; 95% CI, 0,01-0,81, p=0,032), age (b=0,21; Relationships and Activities: none. 25
25 Российский кардиологический журнал 2022; 27 (S2) What might this study add? Circulating sortilin, acting simultaneously on lipid
and non-lipid pathogenic atherogenesis pathways,
can serve as an early biomarker of cardiovascular risk. Received: 20.02.2022 Revision Received: 07.03.2022 Accepted: 21.04.2022 Received: 20.02.2022 Revision Received: 07.03.2022 Accepted: 21.04.2022 1Samara State Medical University, Samara; 2International Scientific and Educa-
tional Center for Cardiovascular Pathology and Cardiac Imaging, Samara State
Medical University, Samara, Russia. For citation: Vukolova Yu. Yu., Gubareva I. V. Relationship of sortilin and proprotein
convertase subtilisin/kexin type 9 in blood serum with the severity of carotid and
coronary atherosclerosis in hypertensive patients. Russian Journal of Cardiology. 2022;27(2S):4903. doi:10.15829/1560-4071-2022-4903. EDN: BOQHFH Vukolova Yu. Yu.* ORCID: 0000-0002-0844-6870, Gubareva I. V. ORCID: 0000-
0003-1881-024X. *Corresponding author: yuliavuk@gmail.com Key messages What is already known about the subject? How can it affect clinical practice? The results make it possible to recognize sortilin as one
of the main players in various atherogenetic processes
and a potential therapeutic target for treatment of dys
lipidemia and atherosclerosis. Как может повлиять на клиническую практику? Как может повлиять на клиническую практику? Результаты позволяют признать сортилин одним
из основных игроков в различных процессах
атерогенеза и потенциальной терапевтической
мишенью для коррекции дислипидемии и атеро-
склероза. лизм ЛНП, связываясь с рецепторами ЛНП (Р-ЛНП)
и вызывая их деградацию. Синтез PCSK9 происходит
в аппарате Гольджи. Совместно с PCSK9 через аппа-
рат Гольджи проходит и белок сортилин — регулятор
внутриклеточного транспорта через домен Vps10p [3]. Сортилин функционирует как рецептор сортировки
и кодируется геном SORT1, расположенным в локу-
се 1p13.3 [4]. Полиморфизмы гена SORT1 связаны
с уровнем ХС-ЛНП в крови и пожизненным риском
клинически значимого атеросклероза [5]. Этот белок
преимущественно встречается в гепатоцитах и игра-
ет ключевую роль в транспортировке ХС-ЛНП [6]. Являясь полилигандным рецептором, сортилин уча-
ствует в развитии атеросклероза и через дисрегуляр-
ный метаболизм ЛНП и PCSK9. Cортилин является
альтернативным рецептором PCSK9 и, в отличие от
рецепторов ЛНП и родственных рецепторов, не чув-
ствителен к индуцированной PCSK9 деградации, по-
этому можно предположить, что сортилин действует
как шаперонный белок, регулирующий движение
PCSK9 по секреторному пути. По данным Федеральной службы государствен-
ной статистики России уровень смертности от сер-
дечно-сосудистых заболеваний (ССЗ) на протяжении
последних 20 лет имел тенденцию к снижению, од-
нако среди лиц трудоспособного возраста этот по-
казатель в 3 раза выше чем в странах Европейского
союза, что относит Россию к странам очень высокого
сердечно-сосудистого риска (ССР) [1]. В настоящее
время доказано, что ССЗ являются многофакторны-
ми: артериальная гипертония (АГ) и дислипидемия
являются важнейшими из них, а атеросклеротиче-
ский процесс лежит в основе большинства ССЗ. Атеросклероз — воспалительное заболевание
сосудов, характеризующееся утолщением интимы
с накоплением холестерина (ХС) и инфильтрацией
макрофагальных пенистых клеток, последующим
образованием бляшек в месте повреждения сосудис
той стенки. Доказана прямая линейная связь между
ССР и уровнем ХС липопротеинов низкой плотно-
сти (ЛНП) [2]. Пропротеиновая конвертаза субтили-
зин-кексинового типа 9 (PCSK9) влияет на метабо- В предыдущих исследованиях сообщалось, что
сортилин является важным молекулярным белком,
участвующим в метаболизме липидов, атеросклерозе 26
26 ОРИГИНАЛЬНЫЕ СТАТЬИ клубочковой фильтрации по формуле CKD-EPI (мл/
мин/1,73 м2) модификации 2009г [14]. и кальцификации клапана аорты [7-9]. Мембранный
сортилин в макрофагах способствует поглощению
ЛНП и образованию пенистых клеток, тем самым
ускоряя образование и прогрессирование атероскле-
ротической бляшки несколькими воспалительными
путями. Недавнее исследование Huang S, et al. по-
казало, что повышенные концентрации сортилина
в сыворотке крови значительно коррелируют с мор-
фологией бляшек сонной артерии [10]. Goettsch C,
et al. Как может повлиять на клиническую практику? обнаружили ранее неизвестную функцию со-
ртилина — прямую роль в эктопической кальцифи-
кации, посредством его функции переноса тканевой
неспецифической щелочной фосфатазы в кальцифи-
цирующие внеклеточные везикулы (матричные ве-
зикулы), что приводит к высокой минерализации во
внеклеточной среде [11]. Исследования клинической
визуализации также выявили пятнистую кальцифи-
кацию как маркер нестабильности атеросклероти-
ческих бляшек [12]. Zimsek Z, et al. [13] наблюдали
значительную корреляцию между уровнем сортили-
на в сыворотке крови и тяжестью каротидного ате-
росклероза, по мнению этих авторов, концентрация
сортилина в сыворотке крови демонстрирует отлич-
ную чувствительность и специфичность в качестве
биомаркера каротидного атеросклероза. Интерлейкины (ИЛ) — 8, 10 (ИЛ-8 и ИЛ-10, пг/мл)
сыворотки крови определяли с помощью твердофаз-
ного иммуноферментного анализа “Интерлейкин —
8, 10 ИФА-БЕСТ”. Методом иммуноферментного анализа сыворотки
крови (Quantikine ELISA, конвертаза человеческого
пропротеина 9/PCSK9) определяли PCSK9 (нг/мл)
и сортилин (Human soluble sortilin elisa kit AVISCERA
BIOSCIENCE, INC. USA, нг/мл). Проведены инструментальные исследования:
электрокардиография, эхокардиография из стандарт-
ного трансторакального доступа в М, В режимах,
непрерывно-волнового, импульсного и цветового
допплеров на аппарате “Philips EN Visor”; ультразву-
ковое исследование сосудов брахиоцефального ство-
ла, коронарная ангиография на ангиографическом
комплексе General Electric Innova 3100, по методике
Сельдингера. Критерии включения в исследование: мужской
пол, возраст 30-65 лет, диагноз “гипертоническая
болезнь” I-III стадии (по классификации ESC 2018г)
различного риска сердечно-сосудистых осложнений
с достигнутым уровнем артериального давления I-II
степени, согласие пациента на участие в исследова-
нии [15]. Изучая современную научную литературу, мы не
нашли исследований, в которых изучалась корреля-
ция сортилина и уровня PCSK9 в сыворотке крови
с тяжестью каротидного и коронарного атеросклеро-
за, что и побудило нас к выполнению данной работы
и определило ее цель. Критерии невключения в исследование: пациенты
моложе 30 и старше 65 лет: вторичная АГ, острое на-
рушение мозгового кровообращения, перенесенный
инфаркт миокарда в течение 6 мес. перед обследо-
ванием, хроническая сердечная недостаточность II-
III стадии, сахарный диабет 1 типа, диффузно-ток-
сический зоб, семейная гиперхолестеринемия, хро-
ническая абдоминальная ишемия, воспалительные
заболевания кишечника, системно-воспалительные
заболевания, хронический гепатит, цирроз печени,
отказ от участия в исследовании. Материал и методы Исследование выполнено в рамках комплексной
научной темы кафедры внутренних болезней ФГБОУ
ВО СамГМУ Минздрава России “Совершенствование
методов выявления, диагностики, лечения и про-
филактики первичной, вторичной АГ и ассоци
ированных заболеваний”, (номер государственной
регистрации темы АААА-А17-117102520020-7, дата ре-
гистрации 25.10.2017) на базе кардиологического отде-
ления с Центром артериальной гипертонии ЧУЗ “КБ
“РЖД — Медицина” (зав. отделением И. А. Тюрина). Для однородности выборки обследованы 192 па-
циента мужского пола. Возраст поступивших со-
ставил от 30 до 65 лет. Период обследования го-
спитализированных в кардиологическое отделение
с Центром артериальной гипертонии с 01.12.2018 по
30.09.2019. Исследование выполнено в рамках комплексной
научной темы кафедры внутренних болезней ФГБОУ
ВО СамГМУ Минздрава России “Совершенствование
методов выявления, диагностики, лечения и про-
филактики первичной, вторичной АГ и ассоци
ированных заболеваний”, (номер государственной
регистрации темы АААА-А17-117102520020-7, дата ре-
гистрации 25.10.2017) на базе кардиологического отде-
ления с Центром артериальной гипертонии ЧУЗ “КБ
“РЖД — Медицина” (зав. отделением И. А. Тюрина). В исследование включили 161 пациента. По ре-
зультатам клинического и лабораторного обследо-
вания сформированы группы зависимости от уров-
ня PCSK9: группа 1 (n=41) — пациенты с уровнем
PCSK9 от 100 до 250 нг/мл, группа 2 (n=37) — па-
циенты с уровнем PCSK9 от 251 до 400 нг/мл, груп-
па 3 (n=51) — пациенты с уровнем PCSK9 от 401 до
600 нг/мл, группа 4 (n=32) — пациенты с уровнем
PCSK9 от 601 до 900 нг/мл. Для однородности выборки обследованы 192 па-
циента мужского пола. Возраст поступивших со-
ставил от 30 до 65 лет. Период обследования го-
спитализированных в кардиологическое отделение
с Центром артериальной гипертонии с 01.12.2018 по
30.09.2019. Все пациенты получали сопоставимое лечение. Применяемые препараты в терапии АГ у больных
в исследуемых группах: ингибиторы ангиотензин-
превращающего фермента (периндоприл); блокато-
ры рецепторов ангиотензина II (лозартан, валсар-
тан); β-адреноблокаторы (небиволол), статины (сим-
вастатин, аторвастатин). Всем пациентам были проведены общеклини-
ческие исследования: сбор жалоб и анамнеза, фи-
зикальное обследование; измерение биохимиче-
ских показателей крови с определением общего
ХС (ммоль/л), ХС-ЛНП (ммоль/л), триглицеридов
(ммоль/л), глюкозы крови (ммоль/л), креатинина
сыворотки крови (мкмоль/л) с расчетом скорости Проводилась серия открытых одномоментных сра
внительных исследований. Сбор и хранение данных 27
27 Российский кардиологический журнал 2022; 27 (S2) Таблица 1
Клиническая характеристика пациентов исследуемых групп
Группы
Параметры
1 группа
2 группа
3 группа
4 группа
Количество пациентов, n
41
37
51
32
Возраст, годы
47,22±12,59
48,62±9,39
49,33±8,88
51,09±7,29
ИМТ, кг/м2
26,20±3,1*
28,29±3,41*
27,73±4,21
27,93±4,66
САД, мм рт.ст. 122,24±14,07
126,05±13,49
125,82±10,84
131,9±11,09
ДАД, мм рт.ст. Таблица 1 Клиническая характеристика пациентов исследуемых групп Примечание: * — статистически значимые различия (р<0,05) между 1-2 группами больных, ** — статистически значимые различия (р<0,05) между 1-3 группа-
ми больных, # — статистически значимые различия (р<0,05) между 1-4 группами больных, ## — статистически значимые различия (р<0,05) между 2-4 группами
больных, & — статистически значимые различия (р<0,05) между 2-3 группами больных. Примечание: * — статистически значимые различия (р<0,05) между 1-2 группами больных, ** — статистически значимые различия (р<0,05) между 1-3 группа-
ми больных, # — статистически значимые различия (р<0,05) между 1-4 группами больных, ## — статистически значимые различия (р<0,05) между 2-4 группами
больных, & — статистически значимые различия (р<0,05) между 2-3 группами больных. Сокращения: ДАД — диастолическое артериальное давление, ИМТ — индекс массы тела, ИММЛЖ — индексированная масса миокарда левого желудочка, ИОТ
ЛЖ — индекс относительной толщины левого желудочка, САД — систолическое артериальное давление, СКФ — скорость клубочковой фильтрации, ТГ — тригли-
цериды, ТЗСЛЖ — толщина задней стенки левого желудочка, ТКИМ — толщина комплекса интима-медиа, ХС — холестерин, ХС-ЛНП — холестерин липопротеи-
нов низкой плотности, ЧСС — частота сердечный сокращений, PCSK9 — пропротеиновая конвертаза субтилизин-кексинового типа 9. Сокращения: ДАД — диастолическое артериальное давление, ИМТ — индекс массы тела, ИММЛЖ — индексированная масса миокарда левого желудочка, ИОТ
ЛЖ — индекс относительной толщины левого желудочка, САД — систолическое артериальное давление, СКФ — скорость клубочковой фильтрации, ТГ — тригли-
цериды, ТЗСЛЖ — толщина задней стенки левого желудочка, ТКИМ — толщина комплекса интима-медиа, ХС — холестерин, ХС-ЛНП — холестерин липопротеи-
нов низкой плотности, ЧСС — частота сердечный сокращений, PCSK9 — пропротеиновая конвертаза субтилизин-кексинового типа 9. Материал и методы 74,97±6,39
75,97±6,72
80,9±7,25
83,62±6,21
ЧСС, уд./мин
70,02±4,56
69,02±4,76
68,72±3,74
73,03±4,31
ХС общий, ммоль/л
4,96±1,01
4,76±1,05
5,17±0,97
5,22±0,86
ХС-ЛНП, ммоль/л
3,29±0,90
3,10±1,08
3,45±0,97
3,58±0,89
ТГ, ммоль/л
1,48±0,79
1,67±0,88&
1,32±0,55&
1,38±0,66
Глюкоза, ммоль/л
5,41±0,81
5,44±0,91
5,38±0,63
5,38±0,66
PCSK9, нг/мл
190,85±43,80
320,62±52,13
493,92±55,61
746,89±88,81
СКФ, мл/мин/1,73 м2
95,07±15,90
93,65±15,57
92±14,62
92,66±15,50
ТКИМ, мм
1,17±0,34
1,30±0,31##&
1,19±0,23&
1,15±0,21##
ТЗСЛЖ, мм
9,74±3,63**#
10,75±2,86
11,39±2,07**
11,94±2,08#
ИОТ ЛЖ
0,44±0,11
0,42±0,08##
0,45±0,08
0,46±0,07##
ИММЛЖ, г/м2
118,19±39,82**
123,12±39,37
134,98±38,13**
134,48±32,03
Примечание: * — статистически значимые различия (р<0,05) между 1-2 группами больных, ** — статистически значимые различия (р<0,05) между 1-3 группа-
ми больных, # — статистически значимые различия (р<0,05) между 1-4 группами больных, ## — статистически значимые различия (р<0,05) между 2-4 группами
больных, & — статистически значимые различия (р<0,05) между 2-3 группами больных. Сокращения: ДАД — диастолическое артериальное давление, ИМТ — индекс массы тела, ИММЛЖ — индексированная масса миокарда левого желудочка, ИОТ
ЛЖ — индекс относительной толщины левого желудочка, САД — систолическое артериальное давление, СКФ — скорость клубочковой фильтрации, ТГ — тригли-
ТЗСЛЖ
й
ТКИМ
ХС
ХС ЛНП Результаты осуществляли в пакете Microsoft Excel. Для статисти-
ческого анализа использовали специализированное
программное обеспечение: SPSS 21 (лицензия №
20130626-3). Клиническая характеристика групп обследован-
ных представлена в таблице 1. Группы исследуемых
были однородны по гендерному признаку, сопоста-
вимы по возрасту, уровню глюкозы, скорости клу-
бочковой фильтрации, липидному спектру. 20130626 3). Количественные признаки представлены в работе
в виде среднего и стандартного отклонения (M±S). Сравнение количественных показателей в иссле-
дуемых группах проведено с помощью критериев
Стьюдента и Манна-Уитни-Вилкоксона. Взаимосвязи
количественных признаков исследовали с помощью
корреляционного анализа Пирсона и Спирмена, ана-
лиз качественных признаков проводился по таблицам
сопряженности с расчетом критериев χ2 и Фишера. Для получения решающего правила прогнозирования
использовался дискриминантный анализ, выполня-
емый в три этапа: формирование матрицы наблюде-
ний, выработка линейного уравнения прогнозиро-
вания и оценка его информативности. Критическим
значением уровня значимости принимали р=0,05. Исследование было выполнено в соответствии
со стандартами надлежащей клинической практики
(Good Clinical Practice) и принципами Хельсинской
Декларации. Протокол исследования был одобрен
Этическими комитетами всех участвующих клиниче-
ских центров. До включения в исследование у всех
участников было получено письменное информиро-
ванное согласие. Количественные признаки представлены в работе
в виде среднего и стандартного отклонения (M±S). Сравнение количественных показателей в иссле-
дуемых группах проведено с помощью критериев
Стьюдента и Манна-Уитни-Вилкоксона. Взаимосвязи
количественных признаков исследовали с помощью
корреляционного анализа Пирсона и Спирмена, ана-
лиз качественных признаков проводился по таблицам
сопряженности с расчетом критериев χ2 и Фишера. Для получения решающего правила прогнозирования
использовался дискриминантный анализ, выполня-
емый в три этапа: формирование матрицы наблюде-
ний, выработка линейного уравнения прогнозиро-
вания и оценка его информативности. Критическим
значением уровня значимости принимали р=0,05. У пациентов 4 группы систолическое артериаль-
ное давление (САД), диастолическое артериальное
давление (ДАД) и частота сердечный сокращений
(ЧСС) максимальные в сравнении с другими груп-
пами: САД и ЧСС у пациентов 4 группы были ста-
тистически значимо выше в сравнении с пациента-
ми 1-3 групп (р<0,01); ДАД у исследуемых 4 группы
статистически значимо выше в сравнении с 1 и 2
группами. У пациентов 3 группы ДАД статистически
значимо выше в сравнении со 2 группой (р<0,01). Статус табакокурения выявлен во всех изучаемых
группах: 51,22%, 59,46%, 37,25% и 53,13%, соответ-
ственно. У пациентов 3 группы самый низкий процент
курильщиков, наибольший — во 2 группе (р=0,03). Статус табакокурения выявлен во всех изучаемых
группах: 51,22%, 59,46%, 37,25% и 53,13%, соответ-
ственно. У пациентов 3 группы самый низкий процент
курильщиков, наибольший — во 2 группе (р=0,03). Результаты Отягощенная наследственность по АГ — 7,3% в 1
группе; 13% — во 2 группе, 9,8% и 15,6% в 3 и 4 груп-
пах, соответственно. Статистически значимые раз-
личия между группами не выявлены (р>0,05). Исследование было выполнено в соответствии
со стандартами надлежащей клинической практики
(Good Clinical Practice) и принципами Хельсинской
Декларации. Протокол исследования был одобрен
Этическими комитетами всех участвующих клиниче-
ских центров. До включения в исследование у всех
участников было получено письменное информиро-
ванное согласие. Отягощенная наследственность по АГ — 7,3% в 1
группе; 13% — во 2 группе, 9,8% и 15,6% в 3 и 4 груп-
пах, соответственно. Статистически значимые раз-
личия между группами не выявлены (р>0,05). Уровень сортилина наибольший во 2 группе, од-
нако статистически значимых различий между груп-
пами не выявлено (табл. 2, рис. 1). 28
28 ОРИГИНАЛЬНЫЕ СТАТЬИ Таблица 2
Распределение сортилина и ИЛ-8, -10 в сыворотке у пациентов исследуемых групп
Группы
Параметры
1 группа
2 группа
3 группа
4 группа
Количество пациентов, n
41
37
51
32
Сортилин, нг/мл
15,8 (1,7;101,0)
33,5 (1,35;158)
12,62 (2,3;158,5)
70,5 (60,5;73,5)
ИЛ-8, пг/мл
36,2 (24;50)
41,0 (30;50,3)
40,2 (30;48,3)
35,2 (30,1;38,3)
ИЛ-10, пг/мл
36,0 (23;57)
31,0 (21;43)
42,0 (26,6;59,3)
36,5 (31,8;40,4)
Сокращение: ИЛ — интерлейкин. 0
20
40
60
80
100
120
1 (n=41)
2 (n=37)
3 (n=51)
4 (n=32)
Сортилин, нг/мл
ИЛ-8, пг/мл
ИЛ-10, пг/мл
Рис. 1. Уровень сортилина и ИЛ-8, -10 в сыворотке крови у пациентов исследуемых групп. Сокращение: ИЛ — интерлейкин. Таблица 2 Распределение сортилина и ИЛ-8, -10 в сыворотке у пациентов исследуемых групп Распределение сортилина и ИЛ-8, -10 в сыворотке у пациентов исследуемых групп 120 0
20
40
60
80
100
1 (n=41)
2 (n=37)
3 (n=51)
4 (n=32)
Сортилин, нг/мл Рис. 1. Уровень сортилина и ИЛ-8, -10 в сыворотке крови у пациентов исследуемых групп. Сокращение: ИЛ — интерлейкин. 24,39%
13,51%
37,25%
43,75%
ДСБЦС
(Стеноз <50%)
Группа 1
Группа 2
Группа 3
Группа 4
46,34%
67,57%
50,98%
46,88%
ДСБЦС
(Стеноз >50%)
Группа 1
Группа 2
Группа 3
Группа 4
Рис. 2. Поражение сонных артерий у пациентов исследуемых групп. Сокращение: ДСБЦС — дуплексное сканирование брахиоцефальных сосудов. 24,39%
13,51%
37,25%
43,75%
ДСБЦС
(Стеноз <50%)
Группа 1
Группа 2
Группа 3
Группа 4 46,34%
67,57%
50,98%
46,88%
ДСБЦС
(Стеноз >50%) У пациентов 3 группы выявлен самый высокий
уровень ИЛ-8 по сравнению с другими группами
(р=0,01) (табл. 2, рис. 1). ДСБЦС
(Стеноз >50%) Индекс массы миокарда левого желудочка (ЛЖ)
и индекс относительной толщины (ИОТ) ЛЖ имели
тенденцию к нарастанию в зависимости от повы-
шения уровня PCSK9 и были статистически значи-
мо большими у пациентов 3 группы в сравнении с 1
группой (р=0,04). ИОТ ЛЖ значимо выше в 4 группе
в сравнении с 2 группой (р=0,034). Толщина комплекса интима-медиа (ТКИМ) наи-
большая во 2 группе и статистически значимо выше
в сравнении с ТКИМ 3 и 4 группы (р=0,04 и р=0,017,
соответственно). Рис. 2. Поражение сонных артерий у пациентов исследуемых групп. Сокращение: ДСБЦС — дуплексное сканирование брахиоцефальных сосудов. Атеросклеротические бляшки у пациентов 1 и 2 групп
встречались в 70% и 80%, соответственно; у пациентов 3
и 4 групп в 90% случаев. Преобладание гемодинамиче-
ски значимого стеноза брахиоцефальных сосудов >50%
выявлено в 67,57% случаев во 2 группе (рис. 2). мых различий поражения коронарных артерий >50%
в 1 группе — 46,34%, во 2, 3, 4 группах — 54,05%,
31,37%, 43,75%, соответственно (рис. 3). Обсуждение Внутригрупповой анализ данных в 1 группе пока-
зал отрицательную взаимосвязь сортилина и возрас-
та (r=-0,37; р=0,24), слабую взаимосвязь сортилина
и риска сердечно-сосудистых осложнений (r=0,352;
р=0,24), сортилина и ИЛ-10 (r=0,43; р=0,04). В нашем исследовании мы изучали взаимосвязь
между тяжестью коронарного и каротидного атеро-
склероза и уровнем сортилина и PCSK9 в сыворотке
крови: коронарный атеросклероз >50% значительно
чаще встречался у пациентов с повышенным уров-
нем сывороточного сортилина и PCSK9. Уровни
сывороточного сортилина, возраст и ИЛ-8 были не-
зависимыми предикторами тяжелого коронарного
атеросклероза при многофакторном анализе. Уровни
сывороточного PCSK9 и ИЛ-8 при многомерном
анализе были независимыми предикторами каротид-
ного атеросклероза >50%. Внутригрупповой анализ данных во 2 группе вы-
явил обратную взаимосвязь PCSK9 и толщины зад-
ней стенки ЛЖ (r=-0,37; р=0,22), сортилина и куре-
ния (r=-0,5; р=0,044). PCSK9 прямо взаимосвязан
с глюкозой (r=0,30; р=0,02), сортилин с наследствен-
ностью (r=0,83; р=0,09) и с ИЛ-10 (r=0,81; р=0,01). У пациентов 3 группы сортилин взаимосвязан с на-
следственностью (r=0,83; р=0,03) и с ИЛ-8 (r=0,82;
р=0,01). Внутригрупповой анализ данных во 2 группе вы-
явил обратную взаимосвязь PCSK9 и толщины зад-
ней стенки ЛЖ (r=-0,37; р=0,22), сортилина и куре-
ния (r=-0,5; р=0,044). PCSK9 прямо взаимосвязан
с глюкозой (r=0,30; р=0,02), сортилин с наследствен-
ностью (r=0,83; р=0,09) и с ИЛ-10 (r=0,81; р=0,01). У пациентов 3 группы сортилин взаимосвязан с на-
следственностью (r=0,83; р=0,03) и с ИЛ-8 (r=0,82;
р=0,01). Предыдущие исследования описали несколько
биомаркеров, которые были связаны с окклюзион-
ными заболеваниями сонной артерии [16-18]. Было
показано, что сортилин, один из таких биомаркеров,
активно участвует в патогенезе сосудистых и метабо-
лических заболеваний через регулирование резистент-
ности к инсулину, атеросклероз, воспаление, дизре-
гуляцию метаболизма липопротеинов. Отметили, что
они положительно коррелировали с тяжестью каро-
тидных бляшек, но не с ишемическим инсультом во
время наблюдения [9, 19]. Biscetti F, et al. сообщили,
что сортилин значительно и независимо коррелирует
с заболеванием периферических артерий нижних ко-
нечностей у пациентов с сахарным диабетом без при-
менения статинов в анамнезе, и что он может служить
перспективным биомаркером клинически значимого
атеросклероза нижних конечностей [20]. У пациентов 4 группы выявлена обратная взаи-
мосвязь слабой силы PCSK9 с ЧСС (r=-0,38; р=0,03). Переменные, которые были значимыми при од-
нофакторном анализе, были подвергнуты множе-
ственному логистическому регрессионному анализу
по алгоритму Вальда для подтверждения факторов
риска, которые были независимо связаны с тяжелым
атеросклерозом коронарных и каротидных артерий. каротидного атеросклероза с чувствительностью 75%
и специфичностью метода 71%. каротидного атеросклероза с чувствительностью 75%
и специфичностью метода 71%. (r=0,43; р=0,005), ССР (r=0,48; р=0,0005), ТКИМ
(r=0,34; р=0,0005). Уровень сортилина в сыворотке
был обратно взаимосвязан с возрастом и курением
(r=-0,22; р=0,41; r=-0,26 и р=0,14, соответственно). Таблица 2 Корреляционный анализ всего массива данных
выявил прямые взаимосвязи ИОТ ЛЖ с возрастом Анализ результатов коронароангиографии во всех
изучаемых группах не выявил статистически значи- 29
29 Российский кардиологический журнал 2022; 27 (S2) 31,71%
19,51%
2,43%
46,34%
КАГ, %
Группа 1 — PCSK9
от 100 до 250 нг/мл
Неизмененные
Извитость коронарных сосудов
Стеноз ˂50%
Стеноз >50%
Неизмененные
Извитость коронарных сосудов
Стеноз ˂50%
Стеноз >50%
Неизмененные
Извитость коронарных сосудов
Стеноз ˂50%
Стеноз >50%
Неизмененные
Извитость коронарных сосудов
Стеноз ˂50%
Стеноз >50%
29,73%
10,81%
5,41%
54,05%
КАГ, %
Группа 2 — PCSK9
от 251 до 400 нг/мл
35,29%
7,84%
5,88%
31,37%
КАГ, %
Группа 3 — PCSK9
от 401 до 600 нг/мл
18,75%
37,50%
0%
43,75%
КАГ, %
Группа 4 — PCSK9
от 601 до 900 нг/мл
Рис. 3. Степень поражения коронарных артерий в зависимости от PCSK9 у пациентов исследуемых групп. Сокращения: КАГ — коронароангиография, PCSK9 — пропротеиновая конвертаза субтилизин-кексинового типа 9. 35,29%
7,84%
5,88%
31,37%
КАГ, %
Группа 3 — PCSK9
от 401 до 600 нг/мл 29,73%
10,81%
5,41%
54,05%
КАГ, %
Группа 2 — PCSK9
от 251 до 400 нг/мл 31,71%
19,51%
2,43%
46,34%
КАГ, %
Группа 1 — PCSK9
от 100 до 250 нг/мл 18,75%
37,50%
0%
43,75%
КАГ, %
Группа 4 — PCSK9
от 601 до 900 нг/мл 0% Рис. 3. Степень поражения коронарных артерий в зависимости от PCSK9 у пациентов исследуемых групп. Сокращения: КАГ — коронароангиография, PCSK9 — пропротеиновая конвертаза субтилизин-кексинового типа 9. Литература/References 1. Zdravoohranenie in Russia. Stat. sb. M.;2019. p. 170. (In Russ.) Здравоохранение
в России. 2019: Стат. Сб. Росстат. М., 2019. с. 170. ISBN 978-5-89476-470-2. https://
rosstat.gov.ru/storage/mediabank/Zdravoohran-2019.pdf. 1. Zdravoohranenie in Russia. Stat. sb. M.;2019. p. 170. (In Russ.) Здравоохранение
в России. 2019: Стат. Сб. Росстат. М., 2019. с. 170. ISBN 978-5-89476-470-2. https://
rosstat.gov.ru/storage/mediabank/Zdravoohran-2019.pdf. 15. Williams B, Mancia G, Spiering W, et al. 2018 ESC/ESH Guidelines for the management
of arterial hypertension. European Heart Journal. 2018;39:3021-104. doi:10.1093/
eurheartj/ehy339. 2. Ference BA, Ginsberg HN, Graham I, et al. Lowdensity lipoproteins cause atherosclerotic
cardiovascular disease. Evidence from genetic, epidemiologic, and clinical studies. A consensus statement from European Atherosclerosis Society Consensus Panel. Eur
Heart J. 2017;38(32):2459-72. doi:10.1093/eurheartj/ehx144. 16. Yang X, Lv H, Hidru TH, et al. Relation of serum uric acid to asymptomatic proximal
extracranial artery stenosis in a middle-aged Chinese population: a community-based
cross-sectional study. BMJ Open. 2018;8:e020681. 3. Gustafsen C, Kjolby M, Mattheisen M, et al. The hypercholesterinemia-risk gene SORT1
faciliatates PCSK9 secretijn. Cell Metab. 2014;19:310-8. 17. Umemura T, Kawamura T, Mashita S, et al. Higher levels of cystatin C are associated with
extracranial carotid artery steno-occlusive disease in patients with noncardioembolic
ischemic stroke. Cerebrovasc Dis Extra. 2016;6:1-11. 4. Zhong LY, Cayabyab FS, Tang CK, et al. Sortilin: a novel regulator in lipid metabolism and
atherogenesis. Clin Chim Acta. 2016;460:11-7. 5. Kathiresan S, Melander O, Guiducci C, et al. Six new loci associated with blood low-density
lipoprotein cholesterol, high-density lipoprotein cholesterol or triglycerides in humans. Nat
Genet. 2008;40:189-97. 18. Kammerer A, Staab H, Herberg M, et al. Increased circulating cheme
advanced carotid stenosis. BMC Cardiovasc Disord. 2018;18:65. 19. Patel KM, Strong A, Tohyama J, et al. Macrophage sortilin promotes LDL uptake, foam cell
formation, and atherosclerosis. Circ Res. 2015;116:789-96. 6. Strong A, Rader DJ. Sortilin as a regulator of lipoprotein metabolism. Curr Atheroscler
Rep. 2012;14:211-8. 20. Biscetti F, Bonadia N, Santini F, et al. Sortilin levels are associated with peripheral arterial
disease in type 2 diabetic subjects. Cardiovasc Diabetol. 2019;18:5. 7. Li J, Matye DJ, Li T. Insulin resistance induces posttranslational hepatic sortilin 1
degradation in mice. J Biol Chem. 2015;290:11526-36. 7. Li J, Matye DJ, Li T. Insulin resistance induces posttranslational hepatic sortilin 1
degradation in mice. J Biol Chem. 2015;290:11526-36. disease in type 2 diabetic subjects. Cardiovasc Diabetol. 2019;18:5. 21. Turner MD, Nejay B, Hirst T, Pennington DJ. Cytokines and chemokines: at the
crossroads of cellular signaling and inflammatory diseases. Заключение Результаты нашего исследования и данные со-
временной научной литературы подчеркивают, что
в дополнение к неинвазивной визуализации, опре-
деление биомаркеров атеросклероза может вносить
значительный вклад в диагностику и прогнозиро-
вание прогрессирования каротидного и коронарно-
го атеросклероза, а также при других заболеваниях
артерий. Примечательно, что не только PCSK9, но
и сортилин может быть потенциальной терапевтиче-
ской мишенью, однако для подтверждения этих вы-
водов необходимы дальнейшие крупномасштабные
исследования. Связь между уровнями PCSK9 и поражением со-
судов подтверждают данные других исследователей:
ретроспективное исследование Bae КН, et al. (2018)
показало, что пациенты с поражением коронарных
артерий имели более высокие концентрации PCSK9 Отношения и деятельность: все авторы заявляют
об отсутствии потенциального конфликта интересов,
требующего раскрытия в данной статье. Обсуждение Уровни сортилина (b=2,37; отношение шансов (OШ)
10,74; 95% доверительный интервал (ДИ) 1,05-109,47,
р=0,045), ИЛ-8 (b=-2,42; OШ 09,74; 95% ДИ 0,01-
0,81, р=0,032) сыворотки крови, возраст (b=0,21; OШ
1,24; 95% ДИ 1,12-1,37, р<0,001) были идентифициро-
ваны как независимые предикторы коронарного ате-
росклероза с чувствительностью 87% и специфич
ностью метода 70%. Уровни PCSK9 (b=0,005; OШ 1,00;
95% ДИ 1,00-1,01, р=0,038), ИЛ-8 (b=-0,33; OШ 0,72;
95% ДИ 0,55-0,94, р=0,014) сыворотки крови были
идентифицированы как независимые предикторы Иммуномодулирование сортилина посредством
образования пенистых клеток потенцирует хрониче-
ское системное воспаление, индуцируя атерогенез. Системное воспаление, в свою очередь, приводит 30
30 ОРИГИНАЛЬНЫЕ СТАТЬИ к снижению образования сортилина в печени и, со-
ответственно, к нарушению метаболизма липидов,
что способствует атерогенезу и повышению ССР. Основными действующими компонентами воспа-
лительного процесса являются иммунные клетки
(макрофаги, Т- и В-клетки и другое), которые при-
влекаются в очаг воспаления провоспалительными
цитокинами. Влияние сортилина на регуляцию се-
креции цитокинов при различных иммунных про-
цессах посредством ИЛ — ИЛ-6, ИЛ-8, ИЛ-10, ИЛ-
12, ИЛ-17, фактора некроза опухоли альфа и интер-
феронов I, II, III подтверждают ряд исследований
[21]. Инактивация сортилина у экспериментальных
мышей индуцировала дефект секреции ИЛ-6 (цито-
кинов), снижая при этом воспалительный компонент
сосудистых поражений и атеросклероза, независимо
от липидного обмена. Провоспалительные цитокины
играют решающую роль в прогрессировании бляшек
[22]. Следовательно, сортилин может выступать клю-
чевым регулятором воспалительной реакции, усили-
вающей атерогенез [23]. по сравнению с пациентами без подтвержденного
поражения венечных сосудов. Показано, что кон-
центрация PCSK9 в сыворотке крови положительно
коррелировала с баллами по шкале SYNTAX и шка-
ле GRACE [24]. Toth S, et al. (2017) установили, что
плазменные уровни PCSK9 достоверно коррелируют
с ТКИМ, скоростью пульсовой волны и индексом
жесткости [25]. 14.
Levey AS, Stevens LA, Schmid CH, et al. A new equation to estimate glomerular filtration
rate. Ann. Intern. Med. 2009;150:604-12. 14.
Levey AS, Stevens LA, Schmid CH, et al. A new equation to estimate glomerular filtration
rate. Ann. Intern. Med. 2009;150:604-12.
15.
Williams B, Mancia G, Spiering W, et al. 2018 ESC/ESH Guidelines for the management
of arterial hypertension. European Heart Journal. 2018;39:3021-104. doi:10.1093/
eurheartj/ehy339.
16.
Yang X, Lv H, Hidru TH, et al. Relation of serum uric acid to asymptomatic proximal
extracranial artery stenosis in a middle-aged Chinese population: a community-based
cross-sectional study. BMJ Open. 2018;8:e020681.
17.
Umemura T, Kawamura T, Mashita S, et al. Higher levels of cystatin C are associated with
extracranial carotid artery steno-occlusive disease in patients with noncardioembolic
ischemic stroke. Cerebrovasc Dis Extra. 2016;6:1-11.
18.
Kammerer A, Staab H, Herberg M, et al. Increased circulating chemerin in patients with
advanced carotid stenosis. BMC Cardiovasc Disord. 2018;18:65.
19.
Patel KM, Strong A, Tohyama J, et al. Macrophage sortilin promotes LDL uptake, foam cell
formation, and atherosclerosis. Circ Res. 2015;116:789-96.
20.
Biscetti F, Bonadia N, Santini F, et al. Sortilin levels are associated with peripheral arterial
disease in type 2 diabetic subjects. Cardiovasc Diabetol. 2019;18:5.
21.
Turner MD, Nejay B, Hirst T, Pennington DJ. Cytokines and chemokines: at the
crossroads of cellular signaling and inflammatory diseases. Biochim Biophys Acta.
2014;1843(11):2563-82. doi:10.1016/j.bbamcr.2014.05.014.
22. Libby P, Lichtman A, Hansson GK. Immune effector mechanisms involved in atherosclerosis:
from mice to humans. Immunity. 2013;38(6):1092-104. doi:10.1016/j.immuni.2013.06.009.
23.
Mortensen MB, Kjolby M, Gunnersen S, et al. Targeting sortilin in immune cells reduces
proinflammatory cytokines and atherosclerosis. J Clin Invest. 2014;124(12):5317-22.
doi:10.1172/JCI76002.
24.
Bae KH, Kim SW, Choi YK, et al. Serum Levels of PCSK9 Are Associated with Coronary
Angiographic Severity in Patients with Acute Coronary Syndrome. Diabetes Metab J.
2018;42(3):207-14. doi:10.4093/dmj.2017.0081.
25.
Toth S, Fedacko J, Pekarova T, et al. Elevated Circulating PCSK9 Concentrations Predict
Subclinical Atherosclerotic Changes in Low Risk Obese and Non-Obese Patients. Cardiol
Ther. 2017;6(2):281-9. doi:10.1007/s40119-017-0092-8. 24.
Bae KH, Kim SW, Choi YK, et al. Serum Levels of PCSK9 Are Associated with Coronary
Angiographic Severity in Patients with Acute Coronary Syndrome. Diabetes Metab J.
2018;42(3):207-14. doi:10.4093/dmj.2017.0081. Литература/References Biochim Biophys Acta. 2014;1843(11):2563-82. doi:10.1016/j.bbamcr.2014.05.014. 8. Gao A, Cayabyab FS, Chen X, et al. Implications of sortilin in lipid metabolism and lipid
disorder diseases. DNA Cell Biol. 2017;36:1050-61. 8. Gao A, Cayabyab FS, Chen X, et al. Implications of sortilin in lipid metabolism and lipid
disorder diseases. DNA Cell Biol. 2017;36:1050-61. 9. Goettsch C, Kjolby M, Aikawa E. Sortilin and its multiple roles in cardiovascular and
metabolic diseases. Arterioscler Thromb Vasc Biol. 2018;38:19-25. 22. Libby P, Lichtman A, Hansson GK. Immune effector mechanisms involved in atherosclerosis:
from mice to humans. Immunity. 2013;38(6):1092-104. doi:10.1016/j.immuni.2013.06.009. 9. Goettsch C, Kjolby M, Aikawa E. Sortilin and its multiple roles in cardiovascular and
metabolic diseases. Arterioscler Thromb Vasc Biol. 2018;38:19-25. metabolic diseases. Arterioscler Thromb Vasc Biol. 2018;38:19-25. 10. Huang S, Yu X, Wang H, Zheng J. Elevated serum sortilin is related to carotid plaque
concomitant with calcification. Biomark Med. 2020;14:381-9. 10. Huang S, Yu X, Wang H, Zheng J. Elevated serum sortilin is related to carotid plaque
concomitant with calcification. Biomark Med. 2020;14:381-9. 23. Mortensen MB, Kjolby M, Gunnersen S, et al. Targeting sortilin in immune cells reduces
proinflammatory cytokines and atherosclerosis. J Clin Invest. 2014;124(12):5317-22. doi:10.1172/JCI76002. 11. Goettsch C, Hutcheson JD, Aikawa M, et al. Sortilin mediates vascular calcification via its
recruitment into extracellular vesicles. J Clin Invest. 2016;126(4):1323-36. doi:10.1172/JCI80851. 11. Goettsch C, Hutcheson JD, Aikawa M, et al. Sortilin mediates vascular calcification via its
recruitment into extracellular vesicles. J Clin Invest. 2016;126(4):1323-36. doi:10.1172/JCI80851. ecruitment into extracellular vesicles. J Clin Invest. 2016;126(4):1323-36. doi:10.1172/JC 24. Bae KH, Kim SW, Choi YK, et al. Serum Levels of PCSK9 Are Associated with Coronary
Angiographic Severity in Patients with Acute Coronary Syndrome. Diabetes Metab J. 2018;42(3):207-14. doi:10.4093/dmj.2017.0081. 12. Joshi NV, Vesey AT, Williams MC, et al. 18F-fluoride positron emission tomography for
identification of ruptured and high-risk coronary atherosclerotic plaques: a prospective
clinical trial. Lancet. 2014;383(9918):705-13. doi:10.1016/S0140-6736(13)61754-7. 25. Toth S, Fedacko J, Pekarova T, et al. Elevated Circulating PCSK9 Concentrations Predict
Subclinical Atherosclerotic Changes in Low Risk Obese and Non-Obese Patients. Cardiol
Ther. 2017;6(2):281-9. doi:10.1007/s40119-017-0092-8. 13. Simsek Z, Alizade E, Güner A, Zehir R. Correlation between serum sortilin levels and
severity of extracranial carotid artery stenosis. Int J Clin Pract. 2021;75(11):e14733. doi:10.1111/ijcp.1473. 31
31
|
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.